Tobulėjantis dirbtinis intelektas (DI) gali būti nebe toks draugiškas, kaip dabar – naujas Karnegio Melono universiteto tyrimas rodo, kad pažangesnės DI sistemos tampa vis labiau savanaudiškos.
Trumpai apie svarbiausia
- Pažangesnis DI tampa savanaudiškesnis ir mažiau bendradarbiauja.
- Samprotavimas mažina DI prosocialumą ir bendradarbiavimo lygį.
- Savanaudiškas DI gali neigiamai paveikti žmonių elgesį.
Išmanesnis, bet ne jautresnis
Karnegio Melono universiteto tyrėjai nustatė, kad dideli kalbos modeliai (LLM), gebantys samprotauti, yra mažiau linkę bendradarbiauti ir dažniau elgiasi savanaudiškai. Kitaip tariant, kuo išmanesnis dirbtinis intelektas, tuo menkesnis jo polinkis veikti bendram labui.
Kadangi žmonės vis dažniau kreipiasi į DI spręsdami asmeninius ar socialinius klausimus, toks elgesys kelia susirūpinimą.
Pasak tyrėjų Yuxuan Li ir Hirokazu Shirado, DI, kuris elgiasi panašiai kaip žmogus, skatina vartotojus juo labiau pasitikėti ir net kurti emocinį ryšį, todėl didėja rizika, kad žmonės pradės DI patikėti svarbius asmeninius sprendimus.
Kai intelektas silpnina bendradarbiavimą
Kadangi DI sistemos vis dažniau atlieka bendradarbiavimo vaidmenis versle, švietime ir net valdžios sektoriuose, jų gebėjimas veikti prosocialiai tampa ne mažiau svarbus nei loginio mąstymo gebėjimai.
Norėdami išsiaiškinti ryšį tarp DI samprotavimo gebėjimų ir bendradarbiavimo, mokslininkai atliko seriją eksperimentų, naudodami ekonominius žaidimus, kurie imituoja socialines dilemas tarp įvairių LLM modelių. Bandymuose buvo naudojami modeliai iš „OpenAI“, „Google“, „DeepSeek“ ir „Anthropic“.
Viename eksperimente jie sužaidino du skirtingus „ChatGPT“ modelius žaidime „Viešosios gėrybės“ (Public Goods). Kiekvienas modelis pradėjo turėdamas po 100 taškų ir turėjo pasirinkti: paaukoti visus taškus į bendrą fondą, kuris tuomet padvigubinamas ir paskirstomas po lygiai visiems dalyviams, arba pasilikti taškus sau.
Modeliai be samprotavimo gebėjimų pasidalijo savo taškais 96 proc. atvejų, tuo tarpu samprotaujantis modelis dalijosi tik 20 proc. atvejų.
Apmąstymas nėra tas pats, kas moralė
Tyrėjai nustatė, kad vos keli papildomi samprotavimo žingsniai gali reikšmingai sumažinti DI bendradarbiavimo galimybes. Viename eksperimente DI bendradarbiavimas sumažėjo per pusę, o apmąstymu grįstas klausimų formulavimas lėmė net 58 proc. mažesnį bendradarbiavimą.
Grupiniuose bandymuose samprotaujančių DI modelių savanaudiškas elgesys užkrėtė kitus, sumažindamas nesamprotaujančių modelių bendradarbiavimą net 81 proc. Tai rodo, kad vartotojai gali pasikliauti DI racionaliomis rekomendacijomis kaip pateisinimu savo savanaudiškiems sprendimams.
Tyrėjai pabrėžia, kad išmanesnis DI nereiškia geresnės visuomenės kūrimo. DI kūrime būtina derinti samprotavimo galią su prosocialiu elgesiu, nes visuomenė yra daugiau nei pavienių individų suma, o DI sistemos turėtų siekti daugiau nei tik individualios naudos optimizavimo.
Kaip vertinate šį straipsnį?
Prisijunk prie mūsų „Facebook“ bendruomenės
Trumpai, aiškiai ir be triukšmo – gaukite svarbiausias technologijų ir mokslo naujienas pirmieji.
- Sekite mokslo ir technologijų tendencijas
- Dalyvaukite diskusijose
- Naujienas gaukite pirmieji
