E kiia ana ko nga kamupene hangarau kei te tarai mo nga GPU, kei runga ranei i te huarahi ki te whiwhi i a raatau. I te Paenga-whāwhā, ka hokona e te Tumuaki Tesla a Elon Musk nga GPU 10,000 me te kii ka haere tonu te kamupene ki te hoko i te nui o nga GPU mai i NVIDIA. Mo te taha hinonga, kei te tohe tonu nga kaimahi IT ki te whakarite kia whakamahia nga GPU i nga wa katoa hei whakanui ake i te hokinga mai o te haumi. Heoi, ka kitea pea e etahi kamupene ahakoa ka piki ake te maha o nga GPU, ka kaha ake te noho mangere o te GPU.
Mena kua akohia e te hitori tetahi mea mo te rorohiko mahi teitei (HPC), ko te mea ko te rokiroki me te whatunga kia kaua e patu i te utu mo te aro nui ki te tatauranga. Mena kaore e taea e te rokiroki te whakawhiti tika i nga raraunga ki nga waeine rorohiko, ahakoa kei a koe te nuinga o nga GPU o te ao, kaore koe e eke ki te tino pai.
E ai ki a Mike Matchett, he kaitätari i te Small World Big Data, ka taea te whakamahi i nga tauira iti ki te mahara (RAM), kia kaha ake te aro ki te tatauranga. Heoi, ko nga tauira nui penei i a ChatGPT me nga piriona o nga pona kaore e taea te penapena i roto i te mahara na te nui o te utu.
"Kare e taea e koe te whakauru i nga piriona o nga pona ki roto i te mahara, no reira ka nui ake te nui o te rokiroki," ta Matchett. Engari, he maha nga wa ka warewarehia te rokiroki raraunga i te wa e whakamahere ana.
I te nuinga o te waa, ahakoa te ahua o te whakamahi, e wha nga waahanga noa i roto i te tukanga whakangungu tauira:
1. Whakangungu Tauira
2. Taupānga Huringa
3. Rokiroki Raraunga
4. Rorohiko Whakatere
I te wa e hanga ana me te tuku tauira, ko te nuinga o nga whakaritenga ka aro nui ki te tohu-a-arii tere (POC) me nga taiao whakamatautau hei timata i nga whakangungu tauira, me te kore e aro nui ki te rokiroki raraunga.
Heoi, ko te wero kei roto i te meka ka taea e te whakangungu, te tuku whakatau ranei mo nga marama, tau ranei. He maha nga kamupene ka tere ake te rahi o o raatau tauira i tenei waa, a me whakawhanui nga hanganga ki te whakauru i nga tauira e tipu haere ana me nga huingararaunga.
Ko nga rangahau mai i a Google mo nga miriona o nga mahi whakangungu ML e whakaatu ana ko te toharite o te 30% o te wa whakangungu e whakapaua ana ki te paipa raraunga whakauru. Ahakoa ko nga rangahau o mua kua aro ki te arotau i nga GPU kia tere ake te whakangungu, he maha tonu nga wero kei te mau tonu ki te arotau i nga momo waahanga o te paipa raraunga. Ina whai mana nui to rorohiko, ko te tino pounamu ka tere te whangai i nga raraunga ki roto i nga tatauranga kia whiwhi hua.
Inaa, ko nga wero o te rokiroki raraunga me te whakahaerenga me whakamahere mo te tipu raraunga, ka taea e koe te tango tonu i te uara o nga raraunga i a koe e ahu whakamua ana, ina koa ka uru koe ki nga keehi whakamahi matatau penei i te ako hohonu me nga whatunga neural, e nui ake ai nga tono. rokiroki i runga i te kaha, te mahi, me te tauineine.
Ina koa:
Tauineine
Ko te ako miihini me whakahaere i te maha o nga raraunga, a, i te pikinga o nga raraunga, ka pai ake te tika o nga tauira. Ko te tikanga me kohikohi nga pakihi me te rokiroki atu i nga raraunga ia ra. Ki te kore e taea e te rokiroki te tauine, ka hangaia e nga kawenga mahi kaha-raraunga nga paatete, ka whakaiti i te mahi me te hua ka nui te utu o te wa mangere o te GPU.
Te ngawari
Ko te tautoko ngawari mo nga kawa maha (tae atu ki te NFS, SMB, HTTP, FTP, HDFS, me S3) e tika ana hei whakatutuki i nga hiahia o nga punaha rereke, kaua ki te iti ki te momo taiao kotahi.
Roopuu
He mea nui te torohūtanga I/O mo te hanga me te whakamahi tauira i te mea ka panuihia te raraunga me te panui ano i nga wa maha. Ko te whakaheke i te I/O ka taea te whakapoto i te wa whakangungu o nga tauira ma nga ra, marama ranei. Ko te whakawhanaketanga tauira tere ake ka huri tika ki nga painga pakihi nui ake.
Putanga
Ko te whakaputanga o nga punaha rokiroki he mea nui mo te whakangungu tauira pai. Ko nga tukanga whakangungu he nui nga raraunga, ko te nuinga o nga terabytes ia haora.
Uru whakarara
Ki te whakatutuki i te whakaputanga teitei, ka wehewehe nga tauira whakangungu i nga mahi ki nga mahi whakarara maha. Ko te tikanga tenei ka uru nga miihini ako miihini ki nga konae kotahi mai i nga tukanga maha (kei runga pea i nga tuunga tinana maha) i te wa kotahi. Me whakahaere e te punaha rokiroki nga tono rite tonu me te kore e whakararu i te mahi.
Na ona kaha tino pai i roto i te iti o te waahi, te whakaputanga teitei, me te I/O whakarara nui-nui, ko Dell PowerScale he taputapu rokiroki pai ki te rorohiko whakatere GPU. He pai te whakaiti a PowerScale i te wa e hiahiatia ana mo nga tauira tātari e whakangungu ana, e whakamatautau ana i nga huingararaunga maha-terabyte. I roto i te PowerScale te rokiroki flash-katoa, ka piki te bandwidth ma te 18 nga wa, ka whakakore i nga pounamu I/O, ka taea te taapiri atu ki nga tautau Isilon o naianei hei whakatere me te iriti i te uara o te nui o nga raraunga kaore i hangaia.
I tua atu, ko nga kaha whakauru kawa-maha a PowerScale e whakarato ana i te waatea mutunga kore mo te whakahaere i nga kawenga mahi, ka taea te penapena raraunga ma te whakamahi i tetahi kawa ka uru ma te whakamahi i tetahi atu. Inaa, ko nga ahuatanga kaha, te ngawari, te tauineine, me nga mahi-ahua hinonga o te papaaho PowerScale hei awhina i nga wero e whai ake nei:
- Whakatere i te auahatanga ki runga ki te 2.7 wa, whakaiti i te huringa whakangungu tauira.
- Whakakorehia nga putea I/O me te whakarato i te whakangungu tauira tere ake me te whakamana, te pai ake o te tauira tika, te whakarei ake i te hua putaiao raraunga, me te whakahokinga mai i runga i nga moni whakangao rorohiko ma te whakamahi i nga ahuatanga o te reanga hinonga, te mahi teitei, te riterite, me te tauineine. Whakanuia te tika o te tauira ki te hohonu ake, nga huingararaunga teitei-taumira ma te whakamahi ki te 119 PB o te kaha rokiroki whai hua i roto i te kahui kotahi.
- Whakatutuki i te horahanga i te tauine ma te tiimata i te iti me te whakahiato takitahi i te tatauranga me te rokiroki, te whakaputa i nga whiringa whakamarumaru raraunga pakari me te haumaru.
- Whakapai ake i te hua putaiao raraunga me nga tātaritanga-a-waahi me nga otinga kua whakamanahia i mua mo te tuku tere, iti morearea.
- Te whakamahi i nga hoahoa kua whakamatauhia i runga i nga hangarau pai rawa atu, tae atu ki te whakatere NVIDIA GPU me nga hoahoanga tohutoro me nga punaha NVIDIA DGX. Ko te mahi nui me te whakakotahitanga a PowerScale e tutuki ana i nga whakaritenga mahi rokiroki i ia wahanga o te ako miihini, mai i te tango raraunga me te whakarite ki te whakangungu tauira me te whakatauira. I te taha o te punaha whakahaere OneFS, ka taea e nga pona katoa te mahi marie i roto i te roopu kotahi e peia ana e OneFS, me nga ahuatanga taumata hinonga penei i te whakahaere mahi, te whakahaere raraunga, te haumaru, me te whakamarumaru raraunga, kia tere ake ai te whakaoti i nga whakangungu tauira me te whakamana mo nga umanga.
Wā tuku: Hūrae-03-2023
