„Microsoft“ pristatė „Maia 300“ – naujas DI lustas žada 40 proc. didesnį našumą vienam megavatui

Sekite TechNaujienos Google

Spalio 12 d. „Microsoft“ paskelbė apie „Maia 300“ – naujos kartos nuosavą lustų platformą dirbtinio intelekto modelių vykdymui. Bendrovė planuoja nuo 2027 m. ją diegti kelių gigavatų mastu.

Kaip skelbiama „Microsoft“ pranešime, šią informaciją svarbu vertinti atsižvelgiant į pateiktus duomenis ir jų kontekstą.

Gamintojas teigia, kad sistema galėtų pateikti 40 proc. daugiau sugeneruotų žetonų vienam suvartotam megavatui, o spintos lygmeniu pasiekti iki septynių kartų didesnį srautą nei „Maia 200“. Tai įmonės paskelbti lūkesčiai, ne nepriklausomų bandymų patvirtintos charakteristikos.

Sava DI įranga leidžia technologijų milžinėms optimizuoti lustus konkretiems darbo krūviams, tačiau kelia ir dideles projektavimo bei diegimo išlaidas. Vartotojams rezultatas gali pasireikšti tik tada, jei našumo augimas iš tikrųjų sumažins paslaugų kainą ar atsakymo delsą.

Naujausi straipsniai

2 min. skaitymo • prieš 50 minučių

„Samsung“ plečia vaidmenį DI infrastruktūroje – investicijos jau apima ne tik lustus

2 min. skaitymo • prieš 1 val

„Microsoft“ stato ant nuosavų DI lustų – kodėl technologijų milžinės mažina priklausomybę nuo tiekėjų

2 min. skaitymo • prieš 1 val

„Intel“ ir „Applied Materials“ pradėjo bendrus naujos kartos lustų tyrimus – taikosi į DI rinką

Visi naujausi straipsniai →

DI serverių savikainą sudaro daugiau nei vien procesorius. Didelę dalį infrastruktūros sąnaudų lemia elektros energija, aušinimas, atmintis, tinklo įranga ir programinės įrangos palaikymas. Todėl našumo vienam megavatui rodiklis gali būti reikšmingas dideliems paslaugų tiekėjams.

Svarbu, kokiomis sąlygomis išmatuojami reklamuojami skaičiai: modelio dydis, užklausų ilgis, apkrovos intensyvumas ir naudojamas tikslumas gali pakeisti rezultatą. Vienų bandymų pranašumo neįmanoma automatiškai perkelti visoms praktinėms programoms.

Nuosavo lusto kūrimas suteikia galimybę projektuoti visą sistemą kaip vieną produktą. Vis dėlto kartu padidėja priklausomybė nuo pasirinktos architektūros ir programinės įrangos ekosistemos. Ateityje svarbu vertinti tiek realius bandymus, tiek diegimo mastą ir sistemos patikimumą.

Ar „Maia 300“ gali sumažinti DI skaičiavimų kainą?

Bendrovei svarbus ne vien didesnis spartinimo pajėgumas, bet ir tai, kiek užklausų įmanoma apdoroti sunaudojant tą patį elektros energijos kiekį. Realią naudą paaiškins palyginami bandymai su įprastomis modelių apkrovomis.