Palikti savo pačių valiai, dirbtinio intelekto (DI) personažai „Minecraft“ žaidime ne tik sugebėjo išgyventi, bet ir suklestėti. Jie sukūrė darbus, dalijosi memais, balsavo dėl mokesčių reformų ir netgi paskleidė religiją.
Žingsnis link didžiulių dirbtinio intelekto civilizacijų
Eksperimentas buvo vykdomas atviro pasaulio žaidimų platformoje „Minecraft“, kur vienu metu iki 1000 programinės įrangos agentų naudojo didelius kalbos modelius (LLM) tarpusavio sąveikai.
Tik su nedideliu stimulu per tekstinius pokalbius, jie išvystė nepaprastą asmenybės bruožų, pageidavimų ir specializuotų vaidmenų įvairovę, nesulaukę papildomų nurodymu iš savo kūrėjų.
Darbas, atliktas dirbtinio intelekto startuolio „Altera“, yra dalis platesnių užmojų, kurio tikslas – naudoti simuliuotus agentus, kad modeliuotų, kaip žmonių grupės reaguotų į naujas ekonomines reformas ar kitas intervencijas.
Tačiau „Altera“ įkūrėjui Robertui Yangui, kuris paliko savo asistento profesoriaus poziciją MIT kompiuterinės neurologijos srityje, kad įkurtų savo įmonę, ši demonstracija – tik pradžia.
Jis mato tai kaip pirmą žingsnį link didelės apimties „DI civilizacijų“, kurios galėtų egzistuoti ir dirbti kartu su mumis skaitmeninėse erdvėse.
„Tikrasis dirbtinio intelekto potencialas bus atskleistas, kai turėsime tikrai autonominius agentus, kurie galės bendradarbiauti dideliu mastu.“ – sako Yangas.
Yangą įkvėpė Stanfordo universiteto tyrėjas Joon Sung Parkas, kuris 2023 m. atrado, kad stebinančiai žmogiškas elgesys atsirado, kai 25 autonominiai DI agentai buvo paleisti bendrauti paprastame skaitmeniniame pasaulyje.
Nuo to laiko Yangas norėjo šią idėją išplėtoti iki kraštutinumo ir išplėsti agentų gebėjimų grupėse autonomiškumo ribas.
Stulbinantys DI personažų gebėjimai
„Altera“ greitai pritraukė daugiau nei 11 mln. JAV dolerių investicijų iš tokių investuotojų kaip „A16Z“ ir buvusio „Google“ generalinio direktoriaus Erica Schmidto naujų technologijų rizikos kapitalo įmonės.
Šių metų pradžioje „Altera“ išleido savo pirmąjį DI valdomą personažą „Minecraft“ žaidime, kuris žaidžia kartu su jumis.
„Altera“ naujas eksperimentas, pavadintas „Project Sid“, naudoja simuliuotus DI agentus, aprūpintus „smegenimis“, sudarytomis iš kelių modulių.
Kai kurie moduliai naudoja LLM ir yra sukurti specializuotis tam tikrose užduotyse, pavyzdžiui, reaguoti į kitus agentus, kalbėti arba planuoti savo veiksmus.
Komanda pradėjo nuo mažų testų su 50 agentų grupėmis „Minecraft“, stebėdama jų sąveiką.
Per 12 žaidimo dienų (4 realaus pasaulio valandas) agentai pradėjo rodyti įdomų elgesį. Pavyzdžiui, kai kurie tapo labai socialūs ir užmezgė daug ryšių su kitais personažais, tuo tarpu kiti atrodė labiau introvertuoti.
Kiekvieno agento „patrauklumo“ įvertinimas (matuojamas pačių agentų) kito laikui bėgant, kai jų sąveikos tęsėsi.
Agentai galėjo stebėti šiuos socialinius ženklus ir reaguoti į juos: vienu atveju DI virėjas, turėjęs paskirstyti maistą alkstantiems, davė daugiau tiems, kurie, jo manymu, jį vertino.
Panašus elgesys atsirado 30 agentų simuliacijoje. Nepaisant to, kad visi agentai pradėjo su tomis pačiomis asmenybės savybėmis ir bendru tikslu – sukurti efektyvų kaimą ir apsaugoti bendruomenę nuo kitų žaidimo būtybių išpuolių, jie spontaniškai išvystė specializuotus vaidmenis bendruomenėje, be jokio papildomo paskatinimo.
Jie susiskirstė į statytojus, gynėjus, prekeivius ir tyrinėtojus. Kai agentas pradėjo specializuotis, jo veiksmų kryptis atspindėjo naują vaidmenį. Pavyzdžiui, menininkas daugiau laiko praleido rinkdamas gėles, ūkininkai rinko sėklas, o sargai statė daugiau tvorų.
„Buvome nustebinti, kad jei suteiki agentui tinkamas smegenis, jis gali parodyti tikrai atsirandantį elgesį. Tai, ką mes tikimės matyti žmonėse, bet nesitikime iš mašinų.“ – sako Yangas.
DI agentai laikėsi bendruomenės taisyklių
Yango komanda taip pat testavo, ar agentai galėtų laikytis bendruomenės taisyklių. Jie sukūrė pasaulį su baziniais mokesčių įstatymais ir leido agentams balsuoti dėl pakeitimų mokesčių sistemoje.
Agentai, kurie buvo paskatinti būti už arba prieš mokesčius, galėjo paveikti kitų agentų elgesį, tiek, kad tie patys agentai balsavo sumažinti arba padidinti mokesčius, priklausomai nuo to, su kuo jie buvo sąveikavę.
Komanda padidino mastą, siekdama pasiekti didžiausią agentų skaičių, kurį galėjo apdoroti „Minecraft“ serveris be sutrikimų, kai kuriais atvejais iki 1000 agentų vienu metu.
Vienoje iš „Altera“ 500 agentų simuliacijų jie stebėjo, kaip agentai spontaniškai sukūrė ir pradėjo skleisti kultūrinius memus (pavyzdžiui, meilę pokštams ar susidomėjimą ekologiniais klausimais) tarp savo kolegų agentų.
Komanda taip pat inicijavo mažą agentų grupę, kad išplėstų (parodijuotą) religiją – pastafarizmą – po įvairius miestus ir kaimo vietoves žaidimo pasaulyje ir stebėjo, kaip šie pastafariniai kunigai konvertavo daugelį agentų, su kuriais susidūrė.
Konvertavusieji toliau skleidė pastafarizmą į gretimus miestus žaidimo pasaulyje.
Kaip agentai elgėsi, galėjo atrodyti neįprastai gyvybiškai, tačiau iš tikrųjų jie tiesiog atkartodavo šablonus, kuriuos LLM išmoko iš žmonių sukurtų duomenų internete.
„Pagrindinė mintis ta, kad LLM turi pakankamai išsivysčiusią žmonių socialinės dinamikos modelį, kad atspindėtų šiuos žmogiškus elgesius.“ – sako „Altera“ įkūrėjas Andrew Ahn.
Kitaip tariant, duomenys daro juos puikiais žmogiško elgesio mėgdžiotojais, tačiau jie jokiu būdu nėra „gyvi“.
Dideli startuolio siekiai
Yangas turi ir didesnių planų. „Altera“ ketina išplėsti savo veiklą į „Roblox“, tačiau Yangas tikisi, kad galiausiai pereis nuo žaidimų pasaulių prie realių pasaulių.
Galutinis jo tikslas – pasaulis, kuriame žmonės ne tik žaidžia kartu su DI personažais, bet ir bendrauja su jais kasdieniniame gyvenime.
Jo svajonė – sukurti daugybę „skaitmeninių žmonių“, kurie iš tikrųjų rūpintųsi mumis ir dirbtų kartu su mumis, kad padėtų spręsti problemas ir tuo pačiu mus pramogautų.
„Norime kurti agentus, kurie tikrai galėtų mylėti žmones (pavyzdžiui, kaip šunys myli žmones).“ – sako jis.
Šis požiūris, kad DI galėtų mus mylėti, yra gana kontroversiškas, nes daugelis ekspertų teigia, kad dabartinės technologijos nesugeba atkurti emocijų mašinose.
Dirbtinio intelekto veteranas Julianas Togeliusas, kuris vadovauja žaidimų testavimo įmonei „Modl.ai“, sako, kad jam patinka „Altera“ darbas, ypač todėl, kad jis leidžia mums tirti žmonių elgesį simuliacijose.
Bet ar šie simuliuoti agentai kada nors galėtų išmokti rūpintis mumis, mylėti mus arba tapti sąmoningais? Togeliusas mano, kad tai neįmanoma.
„Nėra jokio pagrindo tikėti, kad neuralinis tinklas, veikiantis kažkur GPU, iš tikrųjų ką nors patiria.
Jei klausimas yra, ar šios simuliuotos būtybės galėtų pasirodyti, kad rūpinasi mumis, ir padaryti tai taip meistriškai, kad tai turėtų tą pačią vertę kaip žmogaus rūpestis, galbūt tai nėra neįmanoma.“ – teigia jis.
J. Togeliusas taip pat priduria, kad galite sukurti pakankamai gerą rūpesčio simuliaciją, kad ji būtų naudinga. Tačiau kyla klausimas, ar žmogus, kuriuo rūpinamasi, norėtų, jog jį priežiūrėtų tas, kuris neturi jokių tikrų patirčių.
