Tikrasis DI pavojus gali būti visai ne „superintelektas“: informatikas įspėja, kaip tai gali paliesti mus visus

Sekite TechNaujienos Google

Dirbtiniam intelektui (DI) patikime vis daugiau kasdienių užduočių, o jo sistemos tampa vis savarankiškesnės. Tačiau tikrasis pavojus gali būti ne žmogų pranoksiantis „superintelektas“ – žinomas amerikiečių informatikas Peteris J. Denningas perspėja, kad rimtų problemų žmonėms gali sukelti ir DI, kuris mūsų pasaulio iš tiesų taip ir nesupras.

75 metus DI galėjome vystyti klaidinga kryptimi

Amerikiečių informatikas P. J. Denningas naujausiame savo darbe iškėlė provokuojančią mintį – žmogaus lygio DI paieškos jau 75 metus gali būti grindžiamos iš esmės klaidinga prielaida.

Kaip skelbiama leidybos grupės „Taylor & Francis“ pranešime, informatikas atsigręžė į 1950 metais Alano Turingo iškeltas idėjas, reikšmingai paveikusias vėlesnę DI tyrimų kryptį. P. J. Denningas ginčija prielaidą, kad žmogaus intelektas gali egzistuoti nepriklausomai nuo kūno ir todėl būti atkurtas skaitmeninėje sistemoje.

Informatikas taip pat kelia abejonių dėl idėjos, kad sistemų intelektą galima patvirtinti pagal jos gebėjimą pokalbyje įtikinamai imituoti žmogų – principą, tapusį vadinamojo Turingo testo pagrindu.

Naujausi straipsniai

4 min. skaitymo • prieš 13 val

Lietuva tapo vienu svarbiausių „Tesla“ bandymų poligonų: rezultatai gali lemti sprendimą visai ES

4 min. skaitymo • prieš 13 val

„Meta“ akinių skandalas: žmones esą filmavo be leidimo, o įrašus stebėjo iš kito pasaulio krašto

3 min. skaitymo • prieš 17 val

Mokslininkai išsiaiškino, kaip vėžio ląstelės „apgauna“ imuninę sistemą

Visi naujausi straipsniai →

Dėl šių priežasčių amerikietis teigia, kad siekis sukurti žmogaus lygio bendrąjį dirbtinį intelektą (AGI) gali taip ir nepasiekti numatyto tikslo. Tačiau tai, anot jo, nereiškia, kad kuriamos sistemos bus nepavojingos.

Didžiausia problema – „neprotingas“ DI

P. J. Denningo teigimu, didesnę grėsmę žmonėms gali kelti ne hipotetinis superintelektas, o gerokai ribotesnės, tačiau vis savarankiškiau veikiančios DI sistemos. Joms nebūtina mąstyti kaip žmogui ar suprasti mūsų pasaulio, kad galėtų priimti sprendimus ir atlikti patikėtas užduotis.

Būtent čia informatikas įžvelgia esminę problemą. DI automatizacijai plečiantis, tarpusavyje susietos agentinės sistemos gali išvystyti savitą mašininio intelekto formą. Ji, P. J. Denningo vertinimu, AGI nepasieks, tačiau gali būti pakankamai pajėgi sukelti rimtų problemų žmonėms.

Problema, anot P. J. Denningo, yra gana paprasta – žmonės daug ką supranta net tada, kai tai nėra pasakyta tiesiogiai. Priimdami sprendimus atsižvelgiame į situaciją, ankstesnę patirtį, kitų žmonių emocijas ar net nuojautą, nors dažnai patys negalėtume tiksliai paaiškinti, kaip visa tai įvertinome.

Todėl vis savarankiškesnė DI sistema gali sėkmingai vykdyti jai duotą užduotį, tačiau kartu nesuprasti, ko žmogus iš tiesų siekė ar kokios aplinkybės liko nepasakytos. Kitaip tariant, informatikas čia įžvelgia vadinamųjų neišreikštų žinių (angl. tacit knowledge) problemą – žmogaus supratimo dalį, kurios ne visada gebame išreikšti žodžiais ar paversti mašinai perduodamomis taisyklėmis.

P. J. Denningo vertinimu, būtent čia ir slypi viena didžiausių rizikų.

Ką tai reiškia žmonėms?

P. J. Denningas panašią problemą įžvelgia ir šiandien plačiai naudojamuose didžiuosiuose kalbos modeliuose, tokiuose kaip „ChatGPT“, „Claude“ ar „Gemini“. Jo teigimu, šios sistemos gali itin įtikinamai dirbti su kalba, tačiau gebėjimas vartoti žodžius dar nebūtinai reiškia jų prasmės supratimą taip, kaip ją suvokia žmogus.

Kol DI naudojamas kaip pagalbinis įrankis, tokia riba gali atrodyti ne itin reikšminga. Tačiau situacija keičiasi sistemoms tampant savarankiškesnėms ir gaunant galimybę ne tik pateikti atsakymą, bet ir veikti žmogaus vardu, planuoti užduotis ar priimti sprendimus.

JUMS GALI PATIKTI: „Google“ perspėja dėl nepaklusnių DI agentų: kas nutiks, jei jie ims veikti savaip?

Kuo daugiau atsakomybės perduodama DI, tuo svarbesnis tampa klausimas, ar sistema suprato ne tik jai pateiktą nurodymą, bet ir tikrąjį žmogaus tikslą. P. J. Denningo argumentas leidžia kelti abejonę, ar vien didesni ir galingesni modeliai šią problemą kada nors išspręs.

Taigi šis darbas verčia į DI pažangą pažvelgti kiek kitaip, nei, kad, pavyzdžiui, nuolatos DI „krikštatėvio“ keliama superintelekto idėja. Galbūt svarbiausias ateities klausimas bus ne tai, kada mašinos taps protingesnės už mus, o kiek savo gyvenimo leisime valdyti sistemoms, kurios gali veikti itin efektyviai, tačiau žmogaus ir jo ketinimų iki galo taip ir nesuprasti.