AMD pristatė DI infrastruktūrą „Helion“: kaip ji didina konkurenciją su „Nvidia“?

Sekite TechNaujienos Google

JAV puslaidininkių bendrovė AMD pristatė „Helion“ – naują dirbtinio intelekto agentams skirtą serverių spintų architektūrą. Pagal spalio 12 dieną paskelbtą oficialų AMD pranešimą, sistema leidžia vienoje infrastruktūroje derinti „EPYC“ centrinius procesorius, „Instinct“ grafikos spartintuvus ir skirtingus aušinimo sprendimus. Bendrovė pirmąsias partnerių konfigūracijas planuoja pateikti lapkritį. Pristatymas rodo, kad konkurencija su „Nvidia“ persikelia nuo pavienių lustų prie ištisų duomenų centrų sprendimų.

„Helion“ sukurta būtent vadinamajam agentiniam DI – programoms, kurios ne vien generuoja atsakymus, bet ir atlieka kelis tarpusavyje susijusius veiksmus. Tokiam darbui ne visada reikia vien galingo grafikos procesoriaus. Reikia ir įprastų centrinių procesorių, kurie tvarko užduočių vykdymą, duomenų prieigą, programų paleidimą bei informacijos perdavimą tarp sistemų.

AMD siūlo atvirą serverių spintos modelį, paremta „Open Compute Project“ specifikacijomis. Tai reiškia, kad įrangos gamintojai gali pritaikyti architektūrą skirtingiems klientų poreikiams, o ne pirkti visiškai vienodą uždarą komplektą. Daugeliui įmonių tai svarbu dėl ilgo infrastruktūros naudojimo laiko ir sudėtingo naujų komponentų derinimo.

Vienoje spintoje – dešimtys tūkstančių procesoriaus branduolių

Viena skelbiamų „Helion“ konfigūracijų remiasi šeštos kartos „EPYC“ procesoriais. AMD teigimu, tokioje spintoje gali veikti iki 32 768 centrinių procesorių branduolių. Tai sprendimas klientams, kurie atskirai vykdo agentų programas ir turi kitą įrangą pagrindinių DI modelių užklausoms apdoroti. Šio dydžio nereikėtų painioti su vieno procesoriaus branduolių skaičiumi: kalbama apie visą didelę serverių sistemą.

Naujausi straipsniai

4 min. skaitymo • prieš 2 minutės

„ChatGPT“ spalio naujovės: paskyrų perjungimas telefone ir daugiau galimybių DI agentams

4 min. skaitymo • prieš 17 minučių

Lietuvos oro gynyba: ar reikėtų papildomų „Patriot“ sistemų ir ką jau patvirtino NATO?

4 min. skaitymo • prieš 32 minutės

ES technologinio suvereniteto planas: kur bus investuojama į lustus, DI ir debesiją?

Visi naujausi straipsniai →

Kita konfigūracija sujungia „EPYC“ procesorių mazgus ir „Instinct MI350P“ grafikos spartintuvus. Taip agentų vykdymas ir modelių užklausų apdorojimas gali būti įgyvendinti vienoje platformoje. Pranašumas priklausys nuo konkrečios programinės įrangos, ryšio tarp mazgų, atminties ir elektros sąnaudų; pati aparatinė specifikacija dar neįrodo mažesnės kiekvienos užduoties kainos.

AMD taip pat pristato vadinamąjį užklausų maršruto parinkimo mechanizmą. Jis skirtas nukreipti agentų kreipinius į skirtingus DI modelius, atsižvelgiant į pasirinktą infrastruktūrą. Tokia strategija gali leisti pigesnėms užduotims naudoti mažiau išteklių, o sudėtingesnėms – galingesnius modelius. Tačiau realus sutaupymas priklausys nuo to, kaip patikimai sistema atskiria užduočių tipus ir įvertina rezultatų kokybę.

Kodėl tai svarbu konkuruojant su „Nvidia“

„Nvidia“ pranašumą DI rinkoje lemia ne tik grafikos procesorių našumas. Didelę reikšmę turi CUDA programinės įrangos ekosistema, tinklo sprendimai, serverių architektūros ir plačiai naudojamos bibliotekos. Plačiau šios konkurencinės pozicijos susiformavimą nagrinėjome straipsnyje apie „Nvidia“ virsmą DI infrastruktūros tiekėja. AMD siekia konkuruoti siūlydama atviresnes konfigūracijas ir skirtingų procesorių derinius.

Architektūros palaikymą pristatyme komentuoja „Cisco“, „Dell“, HPE, „Lenovo“ ir kiti infrastruktūros partneriai. Jų dalyvavimas rodo platesnį gamintojų susidomėjimą, tačiau partnerių palaikymo pareiškimai nėra tas pats, kas nepriklausomai patikrinti „Helion“ sistemų našumo rezultatai arba užbaigti diegimai. Svarbiausi skaičiai pasirodys, kai klientai pradės skelbti realias energijos, spartumo ir eksploatacijos sąnaudas.

Konkurencijai taip pat svarbūs lustų tiekimo pajėgumai. Pažangūs procesoriai kuriami vienose įmonėse, o gaminami specializuotuose fabrikuose. Apie tai, kodėl pasaulinė pramonė priklausoma nuo TSMC, jau esame rašę. Net turint konkurencingą serverio projektą, jo prieinamumas priklauso nuo gamybos, atminties komponentų ir duomenų centrų įrengimo grafiko.

DI duomenų centrų plėtra kelia ir elektros tiekimo klausimą. Viena didelė serverių spinta nėra izoliuotas gaminys: jai reikia maitinimo, aušinimo, tinklo bei patikimų atsarginių komponentų. Net nedidelis energijos sąnaudų skirtumas, padaugintas iš šimtų ar tūkstančių serverių, gali pastebimai pakeisti visos infrastruktūros ekonominį modelį. Todėl AMD pabrėžiamas galimybė derinti oro ir skysčio aušinimą klientams gali būti ne mažiau svarbi nei didžiausias procesorių branduolių skaičius.

Pristatytos specifikacijos numato ne vieną galutinį produktą, o kelis serverių architektūros variantus. Didelio debesijos operatoriaus poreikiai skiriasi nuo vidutinės įmonės, kuri nori išbandyti vietoje veikiančius agentus ir palaipsniui plėsti jų naudojimą. Kartu tai sukuria atsakomybę integratoriams: neužtenka sujungti procesorius ir spartintuvus, būtina užtikrinti valdymo, saugumo ir patikimo atnaujinimo procesus. Būtent šiose srityse praktiniai diegimai gali atskleisti projekto stipriąsias bei silpnąsias vietas.

Lietuvos įmonėms „Helion“ nebūtinai reikš tiesioginį tokios serverių spintos pirkimą. Dalis naudotojų paslaugomis naudosis per debesijos tiekėjus, kurie patys renkasi aparatinę įrangą. Vis dėlto didesnė procesorių ir DI spartintuvų konkurencija ilgainiui gali keisti paslaugų kainodarą bei galimas diegimo konfigūracijas. Tai viena pagrindinių priežasčių, kodėl AMD naujieną verta vertinti kaip infrastruktūros rinkos, o ne vien naujo lusto pristatymą.