DI pokalbių robotai nėra jūsų „draugai“, ekspertai įvardijo kodėl

Dirbtinis intelektas (DI) vis sparčiau integruojasi į kasdienes technologijas – nuo paieškos sistemų iki asmeninių asistentų ir pokalbių robotų. Kartu su augančiu jų naudojimu didėja ir su DI susijusios rizikos. Šiame kontekste pristatyta antroji Pasaulinė DI saugumo ataskaita, kurioje tarptautiniai ekspertai įvardija, kokios grėsmės šiandien laikomos reikšmingiausiomis ir kodėl jos aktualios ne tik kūrėjams, bet ir paprastiems vartotojams.

Pastaruoju metu vis daugiau dėmesio skiriama ne tik techniniams DI aspektams, bet ir tam, kaip žmonės pradeda suvokti bei naudoti šias sistemas. Ekspertai perspėja, kad augantis emocinis pasitikėjimas DI pokalbių robotais gali tapti nauju rizikos veiksniu.

DI vystosi greičiau nei rūpinamasi saugumu

Ataskaitoje pabrėžiama, kad pažangios DI sistemos vystosi itin sparčiai. Modeliai tampa universalesni, geba palaikyti ilgus, į žmogų panašius dialogus ir prisitaikyti prie vartotojo tono ar emocijų. Tokios savybės skatina jausmą, kad DI „supranta“ ar net „rūpinasi“.

Vis dėlto kartu su technologiniu progresu nespėja tobulėti saugumo vertinimo metodai, o institucinis pasirengimas dažnai stokoja aiškių gairių. Dėl to dalis rizikų išryškėja tik tuomet, kai sistemos jau naudojamos plačiu mastu – ypač kasdienėse, asmeniškai jautriose situacijose.

Rizikos nebėra tik teorinės

Iki šiol daug su DI susijusių diskusijų buvo orientuotos į ateitį – lyg dar laukiami ateities scenarijai, kuriuos reikėtų stebėti. Tačiau 2026-ųjų saugumo ataskaitoje jau pabrėžiama, kad tai nebėra tik teorija. Problemos, kurias iki šiol ekspertai analizavo kaip galimas rizikas, jau įgauna praktinį pavidalą.

Ataskaitoje rizikos skirstomos į tris pagrindines grupes: piktnaudžiavimą, techninius gedimus ir sistemines pasekmes.

Piktnaudžiavimas

Piktnaudžiavimas šiuo atveju glaudžiai susijęs su technologijos pasitelkimu sukčiavimui, šantažui ar kitam neteisėtų vaizdų kūrimui.

Kartu ryškėja ir kibernetinio saugumo grėsmės, kur DI sistemos jau gali atpažinti tam tikrus programinės įrangos pažeidimų atvejus, tačiau tuo pačiu ir rašyti kenkėjišką kodą. Ir kas čia gauna didesnę naudą kol kas lieka neaišku.

Didelį nežinomumą atneša biologinės ir cheminės rizikos. Pažangūs modeliai gali pateikti itin detalią informaciją apie tokių priemonių kūrimą, o tai, kaip jau rašėme anksčiau, pritraukia vis didesnės ekspertų grupės dėmesį.

Techniniai gedimai

Dabartinės DI sistemos vis dar gali generuoti klaidingą informaciją ir pateikti netikslius patarimus. Didžiausia grėsmė čia siejama su autonominiais agentais, kurie veikdami savarankiškai, gali padaryti didžiulę žalą dar prieš žmogui tai suvokiant. Tačiau kartu šios grėsmės išlieka ir vartotojams bendraujant su pokalbių robotais.

Sisteminės rizikos

Čia platesniu mastu ekspertai kalba apie galimus darbo rinkos pokyčius ir poveikį žmogaus savarankiškumui. Ne vienas tyrimas jau pabrėžė, kad pasitikėjimas DI gali silpninti kritinį mąstymą. Tuo pačiu didėja socialinis atsiribojimas, auga priklausomybės sistemoms atvejų skaičius.

Būtent čia atsiranda sąsaja su pokalbių robotais, kurie vis dažniau pristatomi kaip emocinę paramą teikiantys „palydovai“. Ekspertai pabrėžia, kad DI nėra ir negali būti žmogaus draugas, net jei taip atrodo.

Apie Pasaulinę DI saugumo ataskaitą

Tarptautinė DI saugumo ataskaita – tai pirmoji pasaulyje išsami mokslu pagrįsta bendrojo pobūdžio dirbtinio intelekto rizikų ir galimybių apžvalga. Ją parengė daugiau nei 100 nepriklausomų ekspertų iš viso pasaulio, vadovaujant Tiuringo premijos laureatui Yoshua Bengio, o projektą prižiūrėjo daugiau nei 30 šalių ir tarptautinių organizacijų paskirta ekspertų taryba.

Ši ataskaita išsiskiria tuo, kad pirmą kartą aiškiai parodo ne tik technologines, bet ir žmogiškas DI pasekmes. Problema nebėra vien tai, ką DI gali padaryti, o tai, kiek mes patys esame linkę jam perleisti sprendimus, atsakomybę ir net emocinį pasitikėjimą.