„Lightmatter“ 400 mln. USD vertės turas siūlo dirbtinio intelekto hiperskalerius fotoniniams duomenų centrams
Fotoninių kompiuterių startuolis „Lightmatter“ surinko 400 mln. Bendrovės optinio sujungimo sluoksnis leidžia šimtams GPU dirbti sinchroniškai, supaprastinant brangų ir sudėtingą AI modelių mokymo ir valdymo darbą.
AI augimas ir atitinkamai didžiuliai skaičiavimo reikalavimai padidino duomenų centrų pramonę, tačiau tai nėra taip paprasta, kaip prijungti dar tūkstantį GPU. Kaip didelio našumo skaičiavimo ekspertai žinojo daugelį metų, nesvarbu, koks greitas yra kiekvienas jūsų superkompiuterio mazgas, jei tie mazgai pusę laiko neveikia laukdami, kol bus įvesti duomenys.
Sujungimo sluoksnis ar sluoksniai iš tikrųjų yra tai, kas procesorių ir GPU stovus paverčia viena milžiniška mašina – taigi, kuo greitesnis sujungimas, tuo greitesnis duomenų centras. Panašu, kad „Lightmatter“ sukuria greičiausią sujungimo sluoksnį, naudodama fotoninius lustus, kuriuos kuria nuo 2018 m.
„Hyperscaler'iai žino, jei nori kompiuterio su milijonu mazgų, jie negali to padaryti su Cisco jungikliais. Palikę stovą, nuo didelio tankio sujungimo pereinate prie puoduko ant stiprios plokštės“, – „TechCrunch“ sakė bendrovės generalinis direktorius ir įkūrėjas Nickas Harrisas. (Čia galite pamatyti trumpą pokalbį, kurį jis pasakė, apibendrindamas šią problemą.)
Pasak jo, naujausia technologija yra NVLink ir ypač NVL72 platforma, kurioje 72 Nvidia Blackwell įrenginiai sujungiami į stovą, galintys pasiekti daugiausia 1,4 exaFLOP FP4 tikslumu. Tačiau joks stovas nėra sala, o visa tai turi būti išspausta naudojant 7 terabitus „padidinti“ tinklą. Atrodo daug, ir taip yra, tačiau nesugebėjimas greičiau sujungti šiuos įrenginius tarpusavyje ir su kitais stovais yra viena iš pagrindinių kliūčių gerinti našumą.
„Milijonui GPU reikia kelių jungiklių sluoksnių. ir tai prideda didžiulę delsos naštą“, – sakė Harrisas. „Turite pereiti nuo elektrinio prie optinio prie elektrinio prie optinio… energijos kiekis, kurį sunaudojate, ir laikas, kurį reikia laukti, yra didžiulis. Ir tai smarkiai pablogėja didesnėse grupėse.
Taigi, ką „Lightmatter“ pateikia prie stalo? Pluoštas. Daug ir daug skaidulų, nukreiptų per grynai optinę sąsają. Iki 1,6 terabito viename skaiduloje (naudojant kelias spalvas) ir iki 256 skaidulų viename luste… na, tarkime, kad 72 GPU esant 7 terabitams pradeda skambėti nuostabiai.
„Fotonika ateina daug greičiau, nei žmonės manė – žmonės jau daugelį metų stengėsi, kad ji veiktų, bet mes ten esame“, – sakė Harrisas. „Po septynerių metų absoliučiai žudikiško šlifavimo“, – pridūrė jis.
Šiuo metu „Lightmatter“ prieinamas fotoninis sujungimas veikia 30 terabitų, o ant stovo esantis optinis laidas gali leisti sinchroniškai dirbti 1024 GPU savo specialiai sukurtuose stovuose. Jei jums įdomu, šie du skaičiai nepadidėja dėl panašių veiksnių, nes daug dalykų, kuriuos reikia prijungti prie kito stovo tinkle, gali būti padaryta ant stovo tūkstančio GPU klasteryje. (Ir šiaip, 100 terabitų jau pakeliui.)
Harrisas pabrėžė, kad to rinka yra didžiulė – visos pagrindinės duomenų centrų įmonės – nuo „Microsoft“ iki „Amazon“ iki naujesnių rinkos dalyvių, tokių kaip xAI ir OpenAI, demonstruoja begalinį apetitą skaičiuoti. „Jie sujungia pastatus! Įdomu, kiek laiko jie gali tai išlaikyti“, – sakė jis.
Daugelis šių hiperskalerių jau yra klientai, nors Harrisas nė vieno neįvardintų. „Pagalvokite apie „Lightmatter“ kaip liejyklą, kaip TSMC“, – sakė jis. „Mes nesirenkame mėgstamiausių ir neprisirišame savo vardo prie kitų prekių ženklų. Pateikiame jiems veiksmų planą ir platformą – tik padedame užauginti pyragą.
Tačiau jis niūriai pridūrė: „Neišnaudoję šios technologijos nepadidinsite savo vertinimo keturis kartus“, galbūt tai yra aliuzija į neseniai OpenAI finansavimo etapą, kurio metu bendrovė įvertino 157 mlrd. USD, tačiau tokia pastaba taip pat gali būti susijusi su jo paties įmone.
Šis 400 mln. USD vertės D turas vertinamas 4,4 mlrd. USD, o tai yra panašus 2023 m. vidurio įvertinimo kartotinis, todėl „mes esame didžiausia fotonikos įmonė. Taigi tai puiku! pasakė Harrisas. Raundui vadovavo T. Rowe Price Associates, dalyvaujant esamiems investuotojams Fidelity Management and Research Company ir GV.
Kas toliau? Be sujungimo, bendrovė kuria naujus lustų pagrindus, kad jie galėtų atlikti dar intymesnes, jei norite, tinklo užduotis naudojant šviesą.
Harrisas spėliojo, kad, be sujungimo, viena lusto galia bus pagrindinis skirtumas. „Po dešimties metų gausite plokštelių dydžio lustus iš visų – tiesiog nėra kito būdo pagerinti kiekvieno lusto našumą“, – sakė jis. Žinoma, „Cerebras“ šiuo klausimu jau dirba, tačiau ar jie gali užfiksuoti tikrąją šio pažangos vertę šiame technologijos etape, yra atviras klausimas.
Tačiau Harrisas, matydamas, kad lustų pramonė atsitrenkia į sieną, planuoja būti pasiruošęs ir laukti kito žingsnio. „Po dešimties metų susisiekite yra Moore'o dėsnis“, – sakė jis.
