Navenda Daneyên AI çi ye? [Vîdyo û Pirs]

Bersiva kurt: Navendeke daneyên AI bi densiteya bilind ku tê de hêz, sarkirin, qumaş û hilanîn li dora modelên perwerde û xizmetê ne, ne odeyeke serverê bi GPU-yên zêde. Çîp navdar dibin; avahî biryar dide ka ew dixebitin an na. Ger wêne nikaribin derkevin, şaneyek piçûk ji nû ve saz bikin; divê piraniya tîman kirê bikin.

Xalên sereke:

Çîp li dijî avakirinê: Hêz, sarkirin, qumaş û depo biryar didin ka lezker dixebitin an na.

Cih ne qesr: Dema ku daneyên nikaribin derkevin, du refan ji nû ve saz bikin; kampusek nekirin.

Navînî li hember medyan: Di heşt gavan de, median ji nû ve dest pê dike; navînîya 18-saetan bikar bînin.

Berxwedana li dijî bikaranîna xelet: Ji bo du refan di holek tevlihev de PUE-yek nebêjin.

Encamên mînakî: Heşt bez nexşeyek piçûk in, ne teserûfa hilberînê ya %50 e.

Gotarên ku hûn dikarin piştî vê yekê bixwînin:

🔗 Gelo AI pêbawer e? Vîdyo û quiz
Bi rêya vîdyoyek balkêş û quizek înteraktîf pêbaweriya AI-ê keşif bikin.

🔗 Meriv çawa AI di jiyana rojane de bikar tîne
Rêbazên pratîkî kifş bikin ku AI dikare kar û rûtînên rojane hêsan bike.

🔗 Meriv çawa li kar AI bikar tîne
Rêbazên pratîkî fêr bibin ka meriv çawa AI-ê ji bo hilberîna cîhê kar a aqilmendtir bikar tîne.

🔗 Gelo zekaya sûnî dikare bi xwe bifikire?
Fêm bike ka zekaya sûnî bi rastî dikare bi serbixwe bifikire an jî bifikire.

Çawa ew ji navendek daneya "asayî" cuda dibe

Holên kevneşopî ji bo barên kar ên tevlihev û dema xebitandinê li seranserê gelek karûbarên piçûk çêtirîn dikin. Bê guman, hûn girîngiyê didin dubarekirinê û PUE wekî konseptekê - enerjiya zêde ya ku avahî dişewitîne da ku wattek hesabkirinê peyda bike. Bi gelemperî, hûn her korîdorek li dora refikek ku mîna zeviyek germkirinê ya veguhêz tevdigere, sêwirînin.

Malperên AI rêjeyan diguherînin. Tîrbûn zêde dibe. Tor dibe qumaşek ku karê perwerdeyê bêyî wê nikare bidome. Depokirin neçar e ku xalên kontrolê bixebitîne an jî lezker bêkar dimînin, mîna hespên pêşbirkê di qerebalixiyek trafîkê de.

Ferqeke çandî jî heye. Karmendên pargîdaniyê li ser bilêt û pencereyên guhertinê difikirin. Karmendên AI li ser rêzên kar û hesta nexweşiyê dema ku girêkek di demek dirêj de dereng dimire difikirin. Ez texmîn dikim ku hûn hîn jî dikarin herduyan wekî "navendên daneyan" bi nav bikin ji ber ku ew nabin. Etîket tenê lûleyên avê vedişêre.

Ne rêzek exlaqî ye. Makîneyên cuda, navê malbatê heman e.

GPU, lezker, û refika ku hêzê dixwe

Ger hûn li ser qatek bilindkirî ya kevneşopî bimeşin, refik hema bêje bi rêz xuya dikin. Ger hûn li ser qatek bilindkirî ya AI bimeşin, ew xuya dikin ku ew dixwazin avahiyê daqurtînin.

Amûrên berbiçav ne CPU-yeke jîr in. Ew tepsiya lezkerê ye: GPU an çîpên din ên AI-ê, di nav serveran de hatine pakkirin, paşê di refan de, paşê di rêzên ku tevneke bandfirehiya bilind parve dikin. GPU çîpan bi hev ve girêdide û wan dike tiştekî ku dikare xwe wekî lezkerek mezin nîşan bide; tevna komê heman hîleyê di asta rêzan de dike. Perwerdehiya paralel tenê dixebite ger ew girêdan qelew û pêşbînîkirî bimînin. Vê winda bike û "koma" te dibe komek ji stasyonên xebatê yên biha ku kodeke posteyê parve dikin.

Hêz li pey çîpan tê. Ne PDU-yeke ofîsê ya stûr û mezin. Dema ku hol tijî dibe, megawat barkirina IT-yê zêde dibe - ez ê hejmarekê îcad nekim. Dendika li ser her rafê çîroka sereke ye. Rafên kêmtir. Her yek firinek piçûk e. Faktora sînorker pir caran jêrxaneya navendî ye, ne navnîşa xwestekên GPU-yan. Hûn dizanin ka çawa ye: kirîn bêtir lezkeran dixwaze; sazîya karûbar sohbetek dirêj û çekek pir mezin dixwaze.

Metaforek hinekî bêaqil ku ez nikarim jê dûr bisekinim: ajalek birçî ye. Hûn dikarin yekî bileztir çêkin. Hûn hîn jî neçar in ku wê têr bikin, û hûn hîn jî neçar in ku germê ji holê rakin. Yek ji wan jî bavêjin û ew dibe giraniyek kaxezê ya pir biha.

Pirsgirêka hêz, germahî û sarkirinê

Elektrîk tê hundir. Germî derdixe. Ev hemû ol e.

Refên bi dendika bilind germê bi awayekî belav dikin ku qet ji hewayê nehatiye xwestin ku bi rê ve bibe. Hûn dikarin hewayê bi hêztir bihejînin - guhêrkerên germê yên deriyê paşîn, korîdorên germtir, kontrolkirina jîr - û ev heta radeyekê dixebite. Dûv re şilek xuya dike:

• Sarkirina rasterast-bi-çîpê

• Çerxên sarbûnê ku odeya nebatan dişibin kargehek kîmyewî

• Xwe di nav çend sêwiranan de binavkirin, ku hîn jî kesên ku difikirin av û server divê hevokek parve nekin matmayî dike

Ti ji van ne balkêş e. Hemû ev berhem e, ji ber ku lezkerek ku gazê lê dixe, we berê pereyê wê daye û hûn nikarin bi tevahî bikar bînin.

PUE hîn jî girîng e. Ew rêjeyek e, ne kesayetiyek e. Operator li dû wê ne, ji ber ku her wattek ku li ser fan û pompeyan tê xerckirin wattek e ku neçûye GPU-yê. Ez ê hejmareke "tîpîk" nebêjim; avhewa û çawa hûn sînor xêz dikin wê diguhezînin, û rastbûna sexte ji tunebûnê xirabtir e. Av jî di çîrokê de dimîne. Hin nebat dixwin. Hin diqurtînin. Sarbûna buharê heya ku çem an hişkesaliyek wê siyasî bike bibandor e.

Tora Kirrûbirrê: çima qumaş bi qasî çîpan girîng e

Xelk wêneyên GPUyan dikişînin. Divê ew wêneyên swîçan jî bikşînin.

Perwerde sohbetek e. Bi hezaran lezker gradient, parametre, perçeyên modelekê di hevrêziyeke teng de diguherînin. Ger qumaş lerize, tevahiya kar li ser bazdana herî hêdî li bendê ye. Ji ber vê yekê salonên AI li ser tora bandwidth-a bilind, latency-ya nizm, û topolojiyên ku dema girêdanek têk diçe nîvî naçin, mijûl dibin. Qumaşên mîna InfiniBand, Ethernet di heman rolê de, girêdanên GPU di hundurê qutîkê de, kabloyên ku divê di cara yekem de rast bin.

Tesbîtkirin guftûgoyek cuda ye. Xizmeta modelê girîngiyê dide derengketina dûvikê - bersiva hêdî, ne ya navînî. Komî li hember dema rast kesayetiyê parçe dike. Komek perwerdehiyê tevgerek qelew, kolektîf û tevahî. Flotek xizmetê gelek daxwazên piçûktir û tecrîdê dixwaze, bêyî qerebalixiya trafîkê li balansa bargiraniyê.

Dema ez li vir im, şaşî: mirov şebekeyê wekî kanalîzasyonê û çîpsan jî wekî xwaringehê dibînin. Li vê avahiyê kanalîzasyon xwaringeh e. Ger hûn vê şaş bikin, hûn ê metbexek bikirin ku nikare alavan qebûl bike.

Perwerde li dijî texmînkirinê: du avahî, carinan bi rastî jî

Perwerde kampanyayek e. Hûn komekê kom dikin, daneyan tê de dixin, bi rêkûpêk kontrol dikin, bi saetan an hefteyan dimeşînin, û dua dikin ku tevn bê bûyer bimîne. Gelek kom, birçî bandwidth, bi bêdengî sebir dikin - heta ku girêkek têkçûyî ji xebatê perçeyek digire. Lezkerek mirî di karekî bi hev ve girêdayî de dikare tevahiya koroyê rawestîne.

Inference wekî pêşangehekê ye. Modelên ku berê hatine perwerdekirin, niha bersiva pirsan didin, wêneyan dabeş dikin, nivîsê çêdikin. Derengî girîng e. Lezkerek hinekî kevintir a nêzîkî xerîdar dikare li hember yekî balkêş ê parzemînek dûrtir bi ser bikeve.

Ji ber vê yekê hûn dabeş dibin. Kampusên perwerdeyê li dû hêz, erd û dendikê ne. Cihên texmînkirinê li dû derengmayîn û hebûnê ne. Holên hîbrîd jî hene, ji ber ku sermaye bêdawî nîne. Belê - ne her gav du avahî. Carinan yek hol bi têlekî qedîfe û du xelekên sarkirinê.

Ev der jî cihê cihkirina hevbeş, kampusên pirpîvan, û forka li ser cihê kar e. Pirpîvan li gor pîvanên ku yên mayî ji me wekî ku em mobîlyayan rêz dikin xuya dikin. Kolo dendikê li ser refikan difiroşin. Li ser cihê kar hîn jî dema ku daneyên nikarin derkevin çêdibe.

Qabîliyeta hilanînê, xalên kontrolê, û çîpên birçî

Kes pergala pelan a paralel li ser bergê broşûrê nanivîse.

Divê daneyên perwerdeyê bi lez û bez bigihîjin da ku GPU-yan lingên xwe nexin. Divê xalên kontrolê werin danîn da ku têkçûn hefteyekê winda neke. Giraniya modelan divê berî ku kopiyek xizmetê zindî bibe were barkirin. Qabîliyeta hilanînê - ne tenê kapasîte - astengiya bêdeng e. Hûn dikarin bi rêzek bi nezaket ku ji bo makîneyên virtual hatî çêkirin, gelek pere li ser lezkeran xerc bikin û wan birçî bihêlin.

Ev şêwaz nas e: komeke geş, rêzeke kar, û benda I/Oyê ku mîna fatûreyek bêedeb li paş xwe dinihêre. Hesabkirina komeke bê komkirin bêyî ku rêya daneyan kom bike, rê dide ku hûn bêkariyeke pir biha bi dest bixin. Çipan têr bikin an jî qebûl bikin ku we peykerek kirî.

Nermalav, orkestrasiyon, û qata operasyonên ne-xweşik

Amûrên elektronîkî navdar in. Bernameçêker kar dikin.

Navendeke daneyên AI bêkêr e eger kar nikaribin GPUyan bibînin, eger du tîm bêyî şerekî muştekî nikaribin komekê parve bikin, eger rêzeke têkçûyî neyê guhertin, eger firmware heta ku qumaş bi tevgera hêdî têk biçe, biguhere. Orkestrasyon, çavdêrîkirin, sînorkirina hêzê - qata operasyonên ne-xweşik, ku hûn dizanin ew çawa girîng e.

Xalek lawaz ji bo vê tebeqeyê li cem min heye. Her wiha li cihê ku NIC-ek şaş-mîhengkirî tevahiya piştî nîvro pirsgirêkek sarkirinê nîşan dide... hûn vê yekê bi awayê dijwar dibînin.

Dema ku girêkek di nîvê rê de dimire

Girêkek dimire. Pencereyên guhertinê hîn jî bi xebitandinên perwerdehiyê re li hev dikevin ku xema salnameya we nakin. Hûn karên mezin komî plansaz dikin, hewzên texmînan dorpêç dikin, pirtûkên xebitandinê ji bo têkçûnên ku mîna "kar hêdî ye" xuya dikin dinivîsin heya ku ew mîna "kar mirî ye" xuya bikin. Dubarekirin hîn jî girîng e - hêz, sarkirin, rê, hilanîn - lê moda têkçûnê ji slayta kevn a neh-demjimêra xebitandinê kêmtir rêkûpêk e. Tesbîtkirin: kopîkirin, girêka nexweş vala bikin, bersivdayîna berdewam bikin. Perwerde xalên kontrolê dixwaze, ne geşbîniyê.

Cih, av, tor û cîran

Ji bo dîmenê, hûn yek ji van li kêleka kulubeyekê naavêjin.

Girêdana şebekeya elektrîkê pir caran pêvajoya hilbijartina cihê rastîn e. Erd li gorî stasyoneke elektrîkê û xizmetguzariyek ku xerîdarên din hene hêsan e. Av ji bo sarkirinê, heke hûn wê bikar bînin, gava baran bêwate be, dibe pirsgirêkek cîranan. Deng. Girseya dîtbarî. Germahî li ser dîwarekî sînor. Komîteyên plansaziyê di gava ku pêdivî bi zeviyek û çemek hebe, nerînên li ser "ewr" kifş dikin.

Derengî aliyê din dikişîne. Inference hez dike ku nêzîkî bikarhêner û girêdanên navber be. Perwerde dikare di bazarên hêza erzantir û keşûhewayên sartir de veşêre. Pîşesazî wekî ku cîhek bêkêmasî hebe diaxive. Ne wisa ye. Bi daxuyaniyek çapemeniyê lihevkirinek heye.

Germahiya mayî û sobeya nexwestî

Broşûr ji vê beşê hez dikin. Germahiya bermayî berdin nav malan, hewzên avê, serayan; hevokek xweş e. Carinan çerxa navçeyê rast e. Carinan kampus li cîhek xelet e û germî hîn jî diçe hewayê. Ez ji guhertoya broşûrê gumanbar im; ez ji fîzîkê gumanbar nînim.

Kî pêdivî bi yekê heye (û kî divê li şûna wê kirê bike)

Pêwîstiya piraniya mirovan bi xwedîkirina yek ji van salonan tune.

Lîsteya eşkere:

• Hîperscalers, ji ber ku hilber filoya ye

• Laboratuar, dema ku dema rêzê tengasiyê be, an jî daneyên nikarin derkevin

• Bankek, komeke nexweşxaneyekê, hikûmetek, an jî hilberînerek bi komeke daneyan a veşartî - li ser cihê kar an jî qefeseke taybet a koloyê dikare maqûl be, her çend ew nebaş be jî

Divê her kesê din kirê bike. Hevcihkirin bi dendika amade ya AI. Rezervasyonek ewr. Komek birêvebirî. Hûn bêyî ku bibin operatorê santrala elektrîkê, lezkeran distînin. Ev romans gava ku kesek dipirse ka kî di saet 3ê sibê de ji bo çerxa sarincê amade ye, winda dibe.

Ez ê qebûl bikim ku tiştek serbilindî heye. Xwedîbûna komê mîna xwedîbûna amûrên pêşbînîkirinê ye. Piştre fatûreya elektrîkê tê û serbilindî rûdine.

Ev avahî ji bo çi ye

Ji ber vê yekê, Navenda Daneyên AI çi ye? Kampusek taybet û bi dendika bilind ku lezker, hêz, sarkirin, qumaş û hilanîn li dora modelên perwerde û xizmetê têne organîzekirin - ne IT-ya armanca giştî bi GPU-yek li quncikê. Ew dişibihe depoyekê. Ew wekî santraleke elektrîkê tevdigere ku matematîkê dike.

Heke tiştekî din ji bîr nekin: çîp navdar dibin; îstasyona trênê, sarincok û tor biryar didin ka ew çîp fikrek baş bûn an na. Perwerde û texmîn dikarin banekî parve bikin; ew hîn jî rêbazên cuda dixwazin. Piraniya rêxistinan divê kirê bikin. Çend divê ava bikin. Cîran dê bi her du awayan jî ferq bikin.

Ewr her tim avahiyek hebû. Van rojan avahî xwedî ramanan e.

Nimûneyek ji cîhana rastîn: Hucreyek perwerdehiyê ya du-raf dema ku wêne nikarin derkevin

Senaryo

Tomos serokê binesaziyê ye li Kestrel Precision, hilberînerek 400 kesî li West Midlands. Ew jixwe xwedî holeke piçûk a li ser cihê kar in: ERP, parvekirina pelan, makîneyên virtual, taxa tevlihev a ku ev gotar pê dest pê kir. Sarkirina hewayê. Ethernet-a asayî. SAN-ek ku ji bo dîskên nivîsgehê bi tevahî xweş e.

Tîma dîtina makîneyê pêdivî ye ku modelek vekolînê li ser wêneyên kargehê perwerde bike. Wêne nikarin ji cihê kar derkevin. Ew pêvajoyek nîşan didin ku pargîdanî dê li ser dîskek ewr, hetta li ser dîskek taybet jî, nexe. Çareseriya Procurement çar serverên du-lezker û slaytek bi navê "navenda daneyên me ya AI" ne. Server diçin du refikên heyî, ji ber ku cîh heye, û cîh wekî sînordar xuya dikir.

Ne wisa ye. Di nav du hefteyan de dengê GPU-yan mijûl dibe û dû re bi bêdengî leza xwe kêm dike. Dema ku xalek kontrolê li SAN-ê dixe, kar kêm dibin. Girêkek di saet yanzdehan de dimire û xebitandin tenê... diçe. Tomos di kirîna çîpan de jî têk neçûye. Wî komek stasyonên xebatê yên biha kirî ku koda postayê parve dikin. Avahî hîn jî hola pargîdaniyê bû.

Ew ne hewceyî kampusekê, ne jî îstasyoneke nû, ne jî çemekî ne. Ew hewceyê şaneyek piçûk in ku mîna navendeke daneyên AI-ê ya piçûk tevbigere: hêza ku refik dikarin bi rastî bigirin, germahiya ku bêyî pijandina çîpan diçe, qumaşek ku karê perwerdeyê dikare li ser biaxive, depoyek ku dikare xalek kontrolê bigire, û pirtûkek xebitandinê ji bo dema ku girêkek dimire. Ji ber ku wêne nikarin biçin, kirêkirina qefesek colo çil deqîqe dûr ne çareserî ye. Ji nû ve sazkirina du refikan çareserî ye.

Tiştê ku şaneyê hewce dike

• Budceya hêzê ya pîvandî li ser wê rêzê, ji PDUyan, ne ji lîsteya xwestekên GPUyê. Ger kapasîteya yedek nikaribe çar serveran di barkirina perwerdehiyê de têr bike, axaftin li wir disekine û ew li rengekî qelewtir dinêrin, ne mûcîzeyek

• Sarkirina hewayê bi vê dendikê qet nehatiye xwestin: guhêrkerên germê yên deriyê paşîn ger holê bikaribe wan bigire, an jî gerokek şilek a piçûk ger bikaribe wê bigire. Ger ne yek ji wan be, server naçin hundir

• Qalibek taybet a bi bandfirehiya bilind di navbera çar girêkan de, ne Ethernet-a nivîsgehê. Ger firoşkar di katalogê de tenê guhêzek 10 Gb hebe, ew ne kom e

• Depoya bilez a herêmî ji bo xalên kontrolê û perçeyên perwerdeyê, ne VM SAN

• Bernamekerek, navberek kontrolê, û rêyek ji nû ve destpêkirinê ya nivîskî. Hardware navdar e. Ev tebeqe kar e

• Qutiyeke texmînê ya dorpêçkirî ji bo xeta kargehê, ji sohbeta perwerdeyê cuda, ji ber ku xizmetkirin derengmayîn û tecrîda dûvikê dixwaze, ne kolektîf

• Destûr ji bo tomar kirina hêz, demjimêrên GPU, bûyerên leza zêde, û demjimêra dîwarê kar. Ger ew nikaribin wan vekolin, ew ê wêneyên GPU-yan bigirin û guhêrbaran ji dest bidin

Nimûneya rênimayan

Tomos vê yekê di kurteya tesîsan de, bi zimanekî asayî tîne ziman:

Ji vê re kampusa AI nebêjin. Li hola heyî şaneyek perwerdehiyê ya du-raf ji bo çar serverên du-lezker ava bikin. Wêneyên kargehê li cîhê xwe dimînin. Serkeftin ev e: çar girêk reçeteyek perwerdehiya vekolîn-perwerdehiyê ya 12-serdemî bêyî lezandina germî temam dikin, di çend deqeyan de ne bi deh deqeyan xalek kontrolê dinivîsin, û dema ku em bi zanebûn rêzek dikujin, ji wê kontrolê dest pê dikin. Divê sarkirin GPU-yan li ser demjimêrên perwerdehiya xwe bihêle. Divê torê qumaşek be ku ew çar qutî parve dikin, ne rêyek di nav stûna nivîsgehê de. Divê depo çîpan têr bike. Ger guhêrkerên germê yên deriyê paşîn ne li hev werin, wisa bibêjin û rawestin. Ji bo du rafan di holek tevlihev de PUE nebêjin. Ew hejmar dê şanoyê be.

Paşê ew vê yekê dixe nav karê perwerdeyê bixwe:

Her 30 deqîqeyan carekê xala kontrolê ber bi hewza bilez a herêmî ve bişîne. Ger rêzek bimire, ji xala kontrolê ya dawî ya temam ji nû ve dest pê bike. Li ser SAN-ê li bendê nemîne. Heta ku demjimêr ji germê daketine, perwerdehiyê berdewam neke. Wê tomar bike û raweste da ku em karibin rawestgehê bibînin.

Saetek baş wiha xuya dike: her heşt GPU di demjimêrên perwerdeyê de ne, pelê xala kontrolê daketiye, kar hîn jî di meriyetê de ye. Saetek xirab wiha xuya dike: fan bi qîrîna tevahî, demjimêr daketine, xala kontrolê %2 piştî deh deqeyan hatiye nivîsandin, û kesek di nivîsgehê de dibêje "kom li ser kar e". Bilindbûn ne perwerde ye.

Çawa wê biceribînin

Ew testê berî nûjenkirinê dinivîsin, ku ev hemû xala nebaweriya bi demoyekê ye.

• Heman reçeteya 12-serdemî, heman 120,000 wêneyên teftîşê, heşt ceribandin

• Demjimêr ji bo reçeteyek qediyayî bi qasî demjimêrê dîwêr e, tevî her ji nû ve destpêkirinê, ku ji şandina kar heya xala kontrolê ya dawî ya epoch 12 tê pîvandin

• Germbûneke derbasbûyî: Demjimêrên GPUyê ji bo xebitandinê li ser hedefa perwerdeyê dimînin. Bûyereke lezandina bilez têkçûn e, her çend kar di dawiyê de biqede jî

• Derbasbûnek li ser hilanînê: dema nivîsandina xala kontrolê, navîn û herî xirab, ji tomarê kar

• Derbasbûnek li ser qumaşê: kar di benda kolektîf de namîne dema ku pile saxlem be. Ger ew nikaribin wê benda bisekinin, amûrkirin neqediyaye

• Du ji heşt bezan bi zanebûn di gaveke sabît de dimirin da ku rêya ji nû ve destpêkirinê biceribînin

• Tesbît ceribandineke cuda ya 200 wêneyan e ji xeta kargehê heta qutiya servîsê ya dorpêçkirî. Serkeftina perwerdeyê wekî serkeftina servîsê nayê hesibandin

• Ew hêza rafê ji PDU-yan di nimûneyên 15-deqîqeyî de tomar dikin, ji ber vê yekê kes neçar e ku megawatt-ek îcad bike

Qebûlkirina ji bo binavkirina şaneyê wekî "amade-AI": 8 ji 8 reçeteyan diqedin; 0 ji 8an leza germî nîşan didin; her du operasyonên ku hatine sekinandin jî ji nû ve dest pê dikin; xalên kontrolê di çend deqeyan de dimînin. Ger ew vê yekê ji dest bidin, dîsa jî odeyek serverê bi kartên grafîkê yên xweşik li cem wan heye.

Netîce

Encamek mînakî, ji ceribandinek heşt-perdeyî ya çêkirî, ne hejmareke Kestrel a weşandî ye.

Pêşbînî: çar serverên du-lezker di du refan de; modelek vekolînê; 120,000 wêneyên bêdeng; heşt xebitandinên reçeteyek 12-serdemî ya sabît; demjimêra dîwar ji nû ve destpêkirinê heta ku reçete biqede vedihewîne; gaz tê wateya daketina qeydkirî ya demjimêra perwerdeyê; dema kontrolê nivîsandin e, ne xwestek; hêza refê nimûneyên PDU ne, ne PUE-ya kampusê ye.

Berî nûjenkirinê, GPU-yên di refikên hewayî-sarbûyî yên asayî de li ser Ethernet-a nivîsgehê û VM SAN-ê:

• 5 ji 8 bezan di hewla yekem de bi dawî bûn. Navîniya demjimêra dîwêr di nav wan pêncan de: 14 saet

• 3 ji 8an piştî rawestanê di dora saet 11an de neçar man ku ji nû ve dest pê bikin (du piştî ku girêkek bi xalek kontrolê ya kevn mir, yek piştî ku xalek kontrolê SAN tijî kir). Ceribandina dubare ya tavilê, bêyî li bendê mayîna şevê di demjimêrê de: 11 demjimêr û hewldanek duyemîn a 14 demjimêran winda bûn, an jî 25 demjimêr ji bo reçeteyek qedandî li ser wan sêyan

• Demjimêra navînî ya qedandina reçeteyek li ser her heştan, tevî ji nû ve destpêkirinan: 18 saet. (Pênc saet di 14an de, sê saet di 25an de. Navîna her heştan hîn jî 14 e, ku dê ji nû ve destpêkirinan veşêre. Ji ber vê yekê navînî li vir xala bingehîn e.)

• Gaza germî di 7 ji 8 bezên de hate tomar kirin. Dema navîn di demjimêra kêmkirî de: 3 saet di hewldanek 14-saetî de

• Nivîsandina xala kontrolê: navînî 22 deqîqe

• Kuştina rêzê ne ceribandinek bû ku ew bikaribin derbas bikin. Pirtûka wan a ceribandinê tunebû. Du mirinên qezayî encama sereke bûn

• Barê IT-ê yê herî zêde li ser her du refan di dema perwerdeyê de: nêzîkî 18 kW. Rêzê wattên wê hebûn. Ne sarbûn û ne jî qumaş hebû

Piştî guhêrkerên germê yên deriyê paşîn li ser wan her du refan, qumaşek taybetî di navbera çar girêkan de, hewzek NVMe ya piçûk ji bo xalên kontrolê, xala kontrolê ya 30-deqîqeyî, û pirtûka xebitandinê ya ji nû ve destpêkirinê:

• 8 ji 8 kesan di hewla yekem de bi dawî kirin. Demjimêra navîn a dîwar: 9 saet

• Gaza germî: 0 ji 8

• Nivîsandina xala kontrolê: navîn 90 saniye. Xerîbtirîn di setê de: 3 deqe

• Her du kuştinên bi zanebûn ên rêzan ji xala kontrolê ya 30 hûrdemî ya dawî dest pê kirin. Demjimêra dîwêr a zêde li ser wan her du geran: nêzîkî 40 hûrdem ji bo her yekê, teşhîs jî tê de, ji ber vê yekê ew her du nêzîkî 9 demjimêr û 40 hûrdem rûniştin. Navînî di nav heşt gerên bêliv de heta 9 demjimêran

• Barê IT-ê yê herî zêde hîn jî nêzîkî 18 kW ye. Çîpên wekhev. Reftara avahiyê cuda ye

Li seranserê vê nimûneyê, dema navînî ya qedandina reçeteyek ji 18 demjimêran daket 9 demjimêran, an jî ji bo her yekê 9 demjimêran, di heşt geran de 72 demjimêran. Cara-yekem-qediya ji 5 ji 8an daket 8 ji 8an. Throttle ji 7 ji 8an daket 0 ji 8an. Ew hejmara dawîn ew e ku dibêje ka wan lezker an jî giraniya kaxezê kirîn. Ew ê guherîna demê wekî teserûfa 50% di hilberînê de nebêjin. Heşt ger komek piçûk û hêsan e.

Ev hejmar texmînek mînakî ne ku li ser bingeha ceribandina diyarkirî, nimûneyek piçûk, modelek û salonek tevlihev hatiye çêkirin. Ew ne PUE ne, ne megawatt kampusê ne, û ne delîl in ku Kestrel divê cihekî perwerdeyê li zeviyekê ava bike. Nirxandina tomarên tomarê di nav 9 demjimêran de bû; wan ew veneşart. Hejmara 18 kW xwendinek PDU ya dorvekirî ye, ne fatûreyek karûbarê ye. Wan 72 demjimêr neguherandin lêçûnek, ji ber ku rêjeya elektrîkê ya tevlihev a kargehê dê dozek karsaziyek sexte bikira.

Kontrola servîsê cuda û biçûktir bû: 200 wêneyên xêzkirî li ser qutiya dorpêçkirî, hemî li cihê bûyerê. Ev texmîn e, ne perwerde ye. Tevlihevkirina herduyan dê xeletiya hola hîbrîd a di piçûkatiyê de bûya.

Çi dikare xelet biçe

• Dabînkirin her car çar serveran wekî "navenda daneyên AI" bi nav dike. Etîket sazkirina kanalîzasyonê vedişêre, û kirîna din GPU-yên zêdetir ji bo heman rêça nexweş e

• Guherkerên deriyê paşîn diçin hundir û kes aliyê avê bikar nayne. Fans hîn jî diqîrin. Saet hîn jî dadikevin

• Fabric guhêzkerek yekane ye bêyî rêyeke yedek. Girêdanek têkçûyî û "kom" dîsa çar stasyonên kar e

• Xalên kontrolê li ser SAN dimînin ji ber ku hewza NVMe "qonaxa duyem" bû. Qonaxa duyem berî girêka mirî ya din nagihîje

• Ew ji bo du refikan di holeke tevlihev de PUEyekê didin. Avhewa, sînor û mayîya rêza ERP wê rêjeyê dikin cil û berg

• Perwerde û xizmetkirin qumaşê parve dikin. Lehiyek ji xala kontrolê rêza kargehê li bendê dihêle. Latency dûvikê li wir berhem e, ne dendik

• Girêkek dimire û kesek wê wekî bilêtek dema xebitandinê dibîne ne wekî ji nû ve destpêkirina xala kontrolê. Operasyonên pargîdaniyê û operasyonên AI tevahiya piştî nîvro bi hev re diaxivin

• Ew dikarin qefesek kirê bikin, lê wêne nikarin derkevin. Ji bîrkirina wê astengiyê wan dişîne nav sohbetek ewr, ew ê neçar bimînin ku rihet bibin

Xwarineke pratîkî

Navendeke Daneyên AI, bi vî rengî, ne depoyek e û ne jî fatûreyek GPU ye. Ew şaneya ku dihêle lezker bezê biqedînin e: hêza ku ew dikarin bigirin, germahiya ku derdikeve, qumaşek, xalek kontrolê, û kesek li ser çengelê dema ku rêzek dimire. Kestrel ne hewceyî kampusek bû. Ji bo ku dev ji sextekariyê berdin, wan du refik hewce dikirin. Piraniya tîman divê vê tevgerê kirê bikin. Çend tîm, bi komek daneya veşartî û holeke ku dikare germê bigire, divê şaneyek ava bikin û slaytê red bikin.

Pirsên Pir tên Pirsîn

Navendeke Daneyên AI çi ye?

Cihê hesabkirinê yê bi dendika bilind ku hêz, sarkirin, torêkirin û hilanîn li dora perwerdehiya paralel û xizmetkirina modelan têne danîn, ne li ser rêzên rêkûpêk ên serverên armanca giştî. Ew bi vî rengî hatiye sêwirandin ku hejmareke mezin ji lezkeran dikarin modelan bêyî helandin, sekinandina li ser torê, an li benda dîskê bimînin perwerde bikin û xizmet bikin. Holeke pargîdaniyek asayî taxeke tevlihev e. Holeke AI çandeke yekreng e ku yekîneya wê ya nirxê lezker e, wek GPU an çîpên bi şêwaza TPU. Ew dişibihe depoyekê û mîna santraleke elektrîkê tevdigere ku matematîkê dike.

Navendeke daneyên AI çawa ji navendeke daneyên normal cuda ye?

Holên kevneşopî ji bo barên kar ên tevlihev û dema xebitandinê li seranserê gelek karûbarên piçûk çêtirîn dikin. Malperên AI rêjeyan diguherînin: dendik zêde dibe, tor dibe qumaşek ku karê perwerdehiyê bêyî wê nikare biqede, û hilanîn neçar e ku xalên kontrolê bixebitîne an jî lezker bêkar dimînin. Operasyonên pargîdaniyê li ser bilêtan û guhertina pencereyan difikirin. Operasyonên AI li ser rêzên kar û hesta nexweşiyê dema ku girêkek di demek dirêj de dereng dimire difikirin. Hûn hîn jî dikarin her du navendên daneyan telefon bikin. Etîket tenê lûleyan vedişêre.

Çima navendên daneyên AI ewqas enerjiyê bikar tînin?

Amûrên berbiçav ne CPU-yek jîr in. Ew tepsiya lezkerê ye: GPU an çîpên din ên AI-ê, di nav serveran de hatine pak kirin, dû re refik, dû re rêzên ku tevnek firehiya bandfirehiya bilind parve dikin. Dendika her refikê çîroka sereke ye: refikên kêmtir, her yek firinek piçûk. Megawat barkirina IT-ê xuya dibe gava ku holê tijî dibe, her çend îcadkirina hejmarek tîpîk ne hêja ye. Faktora sînorker pir caran jêrxaneya navendî ye, ne navnîşa xwestekên GPU-yan.

Navendên daneyên AI çawa têne sar kirin?

Refên bi dendika bilind germê bi awayekî belav dikin ku qet ji hewayê nehatiye xwestin ku bi rê ve bibe. Hûn dikarin bi guhêrkerên germê yên deriyê paşîn, korîdorên germtir û kontrolkirina jîr hewayê bi hêztir bikin. Dûv re şilek xuya dibe: sarkirina rasterast-bi-çîpê, lûpên sarincokê, û binavbûn di çend sêwiranan de. Lezkerek ku gazê vedide yek e ku we berê drav daye û hûn nekarin bi tevahî bikar bînin. PUE hîn jî girîng e ji ber ku her watt ku li ser fan û pompeyan tê xerc kirin watt e ku neçûye GPU-yê. Av jî di çîrokê de dimîne: hin nebatan dipijiqînin, hin jî diqurtînin.

Çima torgilok bi qasî GPUyan girîng e?

Perwerde danûstandinek e: bi hezaran lezker gradient, parametre û perçeyên modelekê bi hevrêziyek hişk diguherînin. Ger qumaş lerize, tevahiya kar li benda bazdana herî hêdî ye. Ji ber vê yekê salonên AI li ser tora bandfirehiya bilind, derengiya nizm, qumaşên mîna InfiniBand an Ethernet di heman rolê de, û topolojiyên ku dema girêdanek têk diçe nîvî naqedin, mijûl dibin. Inference li derengiya dûvikê, gelek daxwazên piçûktir û tecrîdê eleqedar dibe. Di vê avahiyê de lûleyên avê xwaringeh in.

Navendeke Daneyên AI ji bo çi tê bikaranîn: perwerde an jî texmînkirin?

Perwerde kampanyayek e: komekê bicivîne, daneyan têxe nav wê, bi awayekî rêk û pêk kontrol bike, û bi saetan an hefteyan bixebite. Înferans pêşangehek e: modelên ku berê hatine perwerdekirin, niha bersiv didin, bi latency ku girîng e. Kampusên perwerdeyê li dû hêz, erd û dendikê ne. Cihên înferansê li dû latency û hebûnê ne. Holên hîbrîd hene ji ber ku sermaye bêdawî nîne, carinan yek hol bi du xelekên sarkirinê. Lezkerek hinekî kevintir a nêzîkî xerîdar dikare yekî balkêş ê parzemînek dûrtir têk bibe.

Çima hilanîn di navendeke daneyên AI de girîng e?

Divê daneyên perwerdeyê bi lez û bez bigihîjin da ku GPU-yan lingên xwe nexin. Divê xalên kontrolê werin danîn da ku têkçûn hefteyekê winda neke. Giraniya modelan divê berî ku kopiyek xizmetê zindî bibe were barkirin. Ne tenê kapasîte, rêjeya hilanînê, astengiya bêdeng e. Hûn dikarin bi rêzek bi nezaket ku ji bo makîneyên virtual hatî çêkirin, gelek pere li ser lezkeran xerc bikin û wan birçî bihêlin.

Dema ku girêkek di nîvê rê de dimire çi dibe?

Yek lezkerê mirî di karekî perwerdehiyê yê bi hev ve girêdayî de dikare tevahiya koroyê rawestîne. Perwerde xalên kontrolê dixwaze, ne geşbîniyê. Înferans girêka nexweş vala dike, kopiyek bersiv dide dihêle, û zindî dimîne. Pencereyên guheztinê hîn jî bi xebitandinên perwerdehiyê re li hev dikevin ku xema salnameya we nakin. Dubarebûn hîn jî ji bo hêz, sarkirin, rê û hilanînê girîng e, lê moda têkçûnê ji slayta kevn a neh-demjimêrê kêmtir rêkûpêk e.

Bandora Navenda Daneyên AI li ser şebekeya elektrîkê, avê û cîranan çi ye?

Girêdana şebekeya elektrîkê pir caran pêvajoya hilbijartina cihê rastîn e. Li gorî stasyoneke elektrîkê û xizmetguzariyek ku xerîdarên din hene, erd hêsan e. Av ji bo sarkirinê, heke hûn wê bikar bînin, gava baran bêwate be, digel deng, girseya dîtbarî û germahiya li ser dîwarê sînor, dibe pirsgirêkek cîran. Perwerde dikare di bazarên elektrîkê yên erzantir û avhewayên sartir de veşêre. Inference hez dike ku nêzîkî bikarhêneran be. Cihê bêkêmasî tune. Bi daxuyaniyek çapemeniyê lihevkirinek heye.

Ma pêdivî ye ku ez xwediyê navendeke daneyên AI-ê bim, an jî divê ez wê kirê bikim?

Piraniya mirovan ne hewce ne ku xwediyê yek ji van salonan bin. Hîperscalers ava dikin ji ber ku berhem filoya wesayîtan e. Laboratuar dema ku dema rêzê tengasiyê çêdike an jî daneyên nikarin derkevin ava dikin. Bankek, nexweşxaneyek, hikûmetek, an hilberînerek bi komek daneyên veşartî dikare qefesek kolo ya li ser cîh an taybet maqûl bike. Divê her kesê din kirê bike: Hevcihkirina amade ya AI, rezervasyonek ewr, an komek birêvebirî. Hûn lezkeran digirin bêyî ku bibin operatorê santrala elektrîkê.

Referans

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Tora Kesk - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Enstîtuya Demjimêra Kar - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

AI-ya herî dawî li Dikana Alîkarên AI-ya Fermî bibînin

Çûna nava