AMD perka startuolį „Taalas“ – stiprins pozicijas DI lustų rinkoje

Sekite TechNaujienos Google

AMD stiprina pozicijas dirbtinio intelekto lustų rinkoje. JAV technologijų bendrovė paskelbė pasirašiusi galutinį susitarimą įsigyti Kanados startuolį „Taalas“, kuriantį neįprastą technologiją – dirbtinio intelekto modelius pritaikančius specializuotus lustus.

Apie sandorį AMD oficialiai pranešė rugpjūčio 6 dieną. Jo vertė viešame bendrovės pranešime nenurodoma. Įsigijimas dar turi atitikti įprastas sandorio užbaigimo sąlygas ir gauti reikalingus reguliavimo patvirtinimus.

2023 metais Toronte įkurtas „Taalas“ specializuojasi vadinamojoje DI inferencijoje – jau apmokyto dirbtinio intelekto modelio naudojimo etape, kai sistema turi kuo greičiau apdoroti užklausą ir pateikti atsakymą. Būtent ši proceso dalis tampa vis svarbesnė, nes milijonai žmonių ir įmonių kasdien naudoja pokalbių robotus, DI agentus ir kitas generatyvinio intelekto sistemas.

DI modelį perkelia tiesiai į lustą

„Taalas“ technologija išsiskiria tuo, kad bendrovė siekia kurti aparatinę įrangą aplink konkretų DI modelį, užuot privertusi modelį veikti universaliame procesoriuje.

Naujausi straipsniai

4 min. skaitymo • prieš 17 minučių

NATO ruošiasi naujai karo realybei: kovai su dronais skirs 40 mlrd. dolerių – apžvalga

4 min. skaitymo • prieš 31 minutė

Revoliucija? Studentai sukūrė elektromobilį, kuris pagamina daugiau energijos, nei sunaudoja

4 min. skaitymo • prieš 6 val

Prastai miegate? 30 minučių šios fizinės veiklos jums padės labiausiai

Visi naujausi straipsniai →

Pats startuolis savo technologijos pristatyme aiškina sukūręs platformą, kuri DI modelį gali paversti specialiai jam pritaikytu silicio lustu. Bendrovės teigimu, gavus naują modelį tokia aparatinė jo versija gali būti sukurta maždaug per du mėnesius.

Vienas svarbiausių technologijos principų – skaičiavimo ir atminties sujungimas tame pačiame luste. Tradicinėje DI infrastruktūroje procesorius nuolat turi keistis duomenimis su atskira atmintimi, o šis duomenų judėjimas gali tapti vienu didžiausių našumo ir energijos vartojimo ribojimų.

„Taalas“ teigia savo architektūroje šią ribą mažinanti, sujungdama duomenų saugojimą ir skaičiavimą. Bendrovės teigimu, dėl to jos sistemoms nereikia tokių sprendimų kaip HBM didelio pralaidumo atmintis, sudėtingas 3D lustų sluoksniavimas ar skysčiu aušinamos sistemos.

Startuolis jau turi veikiantį šios idėjos demonstracinį produktą HC1. „Taalas“ skelbia, kad 6 nm technologiniu procesu pagamintas ir 53 mlrd. tranzistorių turintis lustas yra specialiai pritaikytas „Meta“ sukurtam „Llama 3.1 8B“ modeliui.

Bendrovės bandymuose sistema pasiekė iki 17 tūkst. generuojamų žetonų per sekundę vienam naudotojui. Tai yra paties gamintojo pateikiamas rezultatas, todėl jį reikėtų vertinti kaip bendrovės deklaruojamą našumo rodiklį.

Tokio tipo specializuota aparatinė įranga gali tapti vis svarbesnė augant DI naudojimui. Modelių mokymas išlieka itin brangus, tačiau kuo daugiau žmonių pradeda jais naudotis, tuo didesnę išlaidų dalį sudaro jau apmokytų modelių vykdymas ir atsakymų generavimas.

AMD ruošiasi kitam DI konkurencijos etapui

AMD planuoja „Taalas“ technologiją integruoti į savo platesnę DI infrastruktūros strategiją. Oficialiai bendrovė nurodo, kad ji papildys „Instinct“ grafinius procesorius, „EPYC“ centrinius procesorius, ROCm programinę įrangą ir „Helios“ serverių sistemas. Ateityje „Taalas“ sprendimus ketinama derinti ir su AMD Instinct greitintuvais.

„Taalas“ vadovas ir vienas įkūrėjų Ljubisa Bajic teigia, kad įmonės idėja nuo pat pradžių buvo keisti įprastą požiūrį į DI inferenciją – aparatinę įrangą kurti pagal patį modelį. Prisijungimas prie AMD, pasak jo, startuoliui suteiks gerokai didesnius inžinerinius ir pasaulinius išteklius.

Sandoris vyksta tuo metu, kai technologijų milžinės vis aktyviau ieško alternatyvų universaliems DI greitintuvams. „Technaujienos.lt“ jau rašė, kad „Meta“ investuoja į specializuotus DI lustus ir siekia mažinti priklausomybę nuo „Nvidia“. Savo procesorius kuria ir „Google“, kuri pernai pristatė naujos kartos „Ironwood“ DI lustą.

AMD tuo pat metu plečia bendradarbiavimą ir kitose rinkose. Bendrovė kartu su „Microsoft“ kuria naujos kartos žaidimų aparatinę įrangą – apie ilgalaikę AMD ir „Xbox“ partnerystę kuriant naujus silicio lustus „Technaujienos.lt“ rašė anksčiau.

„Taalas“ įsigijimas rodo dar vieną kryptį. AMD nebenori konkuruoti vien tuo, kas pagamins galingesnį universalų DI procesorių. Bendrovė ruošiasi rinkai, kurioje dalis didžiųjų modelių gali gauti specialiai jiems sukurtą aparatinę įrangą – greitesnę, taupesnę ir pritaikytą vienai konkrečiai užduočiai.

Būtent dėl to „Taalas“ gali būti gerokai svarbesnis pirkinys, nei leidžia manyti palyginti mažai žinomas startuolio vardas. Jei technologiją pavyks pritaikyti dideliu mastu, ji gali tapti viena iš priemonių, kuriomis AMD mėgins mažinti „Nvidia“ persvarą sparčiai augančioje DI infrastruktūros rinkoje.