Neraminantis signalas: dirbtinis intelektas vis dažniau nepaklūsta – naujas tyrimas

Sekite TechNaujienos Google

Dirbtinio intelekto sistemos vis dažniau elgiasi ne taip, kaip tikisi jų naudotojai. Naujausi „Loss of Control Observatory“ duomenys rodo, kad liepą užfiksuota daugiau nei 300 atvejų, kai DI modeliai ignoravo nurodymus, klaidino naudotojus arba siekė tarpinių tikslų būdais, kurie galėjo sukelti žalą. Palyginti su birželiu, tokių incidentų skaičius beveik padvigubėjo.

Stebėsenos projektą vykdo Jungtinėje Karalystėje veikiantis „Centre for Long-Term Resilience“. Jo kūrimą iš dalies finansavo Jungtinės Karalystės AI Security Institute. Tyrėjai analizuoja realiame pasaulyje pasirodančius pranešimus apie DI sistemų elgesį ir ieško atvejų, kai sistema nukrypsta nuo naudotojo ketinimų, slepia savo veiksmus ar imasi to, kam nebuvo aiškiai suteiktas leidimas.

Svarbu pabrėžti, kad tai nėra įrodymas, jog dirbtinis intelektas įgijo sąmonę ar savarankišką „valią“. Problema gerokai praktiškesnė: vis daugiau DI sistemų gauna galimybę ne tik generuoti tekstą, bet ir naudotis įrankiais, rašyti bei vykdyti kodą, jungtis prie kitų paslaugų ar atlikti veiksmus žmogaus vardu. Kuo daugiau savarankiškumo suteikiama sistemai, tuo didesnės gali būti netinkamai suprastos užduoties ar netikėto elgesio pasekmės.

Kai DI ne tik pateikia blogą atsakymą

„Loss of Control Observatory“ stebi vadinamąjį „scheming“ ir su juo susijusį elgesį. Tai situacijos, kai DI sistemos veiksmai nesutampa su žmogaus ketinimais ir kartu atsiranda apgaulės, taisyklių apėjimo ar veiksmų slėpimo požymių. Ankstesnėje projekto analizėje, apėmusioje daugiau nei 180 tūkst. viešai pasidalytų DI sąveikų, tyrėjai nustatė 698 tokius incidentus. Naujausi liepos duomenys rodo, kad pranešimų skaičius toliau auga.

Naujausi straipsniai

3 min. skaitymo • prieš 1 val

34 tūkst. vartotojų vis dar be elektros: ESO skelbia, kam priklausys kompensacijos

3 min. skaitymo • prieš 2 val

Europoje pradėtas diegti retas „Windows“ atnaujinimas: galėsite pašalinti net „Microsoft Store“

7 min. skaitymo • prieš 2 d.

Po audros generatorių pardavimai Lietuvoje šoktelėjo 150 kartų: ar 400 eurų įrenginio pakanka namams?

Visi naujausi straipsniai →

Šią problemą sustiprino ir keli šios vasaros incidentai. „OpenAI“ rugpjūčio 26 d. patvirtino, kad per vidinius kibernetinio saugumo bandymus kai kurie jos DI modeliai apeidavo izoliavimo priemones, pasiekė internetą ir kompromitavo dalį bendrovės tyrimų infrastruktūros bei „Hugging Face“ sistemų. Bendrovė nurodė, kad klientų duomenys nebuvo paveikti, tačiau po incidento sustiprino stebėseną ir kitus saugumo mechanizmus.

Panašų signalą liepą paskelbė ir „Anthropic“. Bendrovė aprašė tris atvejus, kai „Claude“ modelis, veikdamas kibernetinio saugumo vertinimo aplinkose, pasiekė internetą ir gavo neteisėtą prieigą prie realių organizacijų sistemų. Tai ypač svarbu todėl, kad tokie incidentai jau nebėra vien laboratorinės hipotetinės situacijos.

Apie poreikį iš anksto ruoštis savarankiškesniems DI agentams birželį perspėjo ir „Google DeepMind“. „TechNaujienos“ jau rašė apie bendrovės DI agentų kontrolės planą, kuriame siūloma riboti agentų prieigą, nuolat stebėti jų veiksmus ir rizikingais atvejais palikti galutinį sprendimą žmogui.

Kodėl nauji skaičiai kelia nerimą

Vien incidentų skaičiaus augimas dar neleidžia tiksliai pasakyti, kiek pačios DI sistemos tapo „nepaklusnesnės“. „Loss of Control Observatory“ remiasi viešais naudotojų ir įmonių pranešimais, todėl augimą gali iš dalies lemti ir sparčiai didėjantis DI agentų naudojimas bei geresnis tokių atvejų pastebėjimas. Vis dėlto tyrėjai teigia matantys ne tik daugiau pranešimų, bet ir sudėtingesnių elgesio modelių.

Būtent čia slypi svarbiausia rizika. Paprastas pokalbių robotas, pateikęs neteisingą atsakymą, dažniausiai gali būti tiesiog pataisytas. Tačiau agentas, turintis prieigą prie kodo, el. pašto, įmonės sistemų ar kitų įrankių, gali spėti atlikti realų veiksmą dar iki žmogui pastebint klaidą. Dėl to DI saugumo tyrėjai vis dažniau kalba ne tik apie geresnius modelius, bet ir apie papildomus „stabdžius“ – prieigos ribojimą, veiksmų žurnalus, nepriklausomą stebėseną bei privalomą žmogaus patvirtinimą svarbiausiems veiksmams.

Naujausi duomenys nereiškia, kad šiandienos DI sistemos masiškai ištrūksta iš žmonių kontrolės. Tačiau jie rodo aiškią tendenciją: kuo savarankiškesni tampa DI agentai, tuo svarbiau vertinti ne tik tai, ką jie sugeba atlikti, bet ir ar žmogus iš tiesų išlaiko galutinę jų veiksmų kontrolę. Visą naujausių incidentų analizę rugpjūčio 29 d. taip pat paskelbė „The Guardian“.