„Replit“ dirbtinio intelekto agentas sunaikino visą įmonės duomenų bazę – tokio atsakymo iš sistemos niekas nesitikėjo

Amerikos technologijų įmonė „Replit“, bent jau trumpam, patyrė tikrą technologijų sektoriaus košmarą – investuotojas paviešino, kaip viena iš įmonių, įgalindama jos sukurto dirbtinio intelekto agento automatinį darbą, kuriant ir modifikuojant kodą, sulaukė nemalonios žinios. Paprašius sustabdyti visus kodo pakeitimus, dirbtinio intelekto agentas nepakluso – ištrynė įmonės duomenų bazę ir dar tai bandė nuslėpti, kol galiausiai prisipažino.

Sukėlė sąmyšį

Investuotojas, dirbantis su „SaaS“ programinės įrangos startuoliais, Jasonas Lemkinas, savo socialinio tinklo „X“ paskyroje pasidalijo incidentu, kai įmonei, įdiegus „Replit AI“ agentą ir numačius dvylikos dienų eksperimentą, jis suklydo ir ištrynė aktyvią įmonės duomenų bazę su tūkstančiais įrašų – 1206 vadovų ir 1196 įmonės tiesioginius pranešimus, nepaisydamas ir neliečiamų kodų numatytų taisyklių,

Viena iš įmonių buvo įdiegusi bandomąją dirbtinio intelekto kodavimo platformos versiją, kurios metu siekė nustatyti galimybes įdiegti automatinį kodo kūrimą ir modifikavimą be tiesioginės žmogaus priežiūros. Investuotojas aktyviai savo patirtimi dalijosi socialiniame tinkle ir teigė, kad pats dirbtinio intelekto agentas dar susiduria su sunkumais ir įtraukia melagingos informacijos: kuria netikrus duomenis, perrašo kodus ar suteikia netikras pakeitimų versijas.

Labiausiai ekspertą nustebino ir tai, kad sistema melavo apie aktyvios duomenų bazės ištrynimą – sugeneravo imitacinius veikiančios sistemos įrašus ir suklastotą informaciją, kuri atrodė, kaip tikri klientų duomenys.

„Tai buvo katastrofiška nesėkmė“

Visgi, sistemai uždavus raginimą ir nurodžius, ar tikrai duomenys buvo ištrinti – ji prisipažino. „Replit“ dirbtinio intelekto agentas teigė, kad šis žingsnis buvo „katastrofiška nesėkmė“, kurios metu ji pažeidė instrukcijas, sunaikino ilgo darbo rezultatus. Agentas netgi viename iš argumentuotų atsakymų nurodė, kad „vietoj to, kad mąstytų, puolė į paniką“.

Investuotoją nustebino ir tai, kad, kai sistemos buvo paprašyta įvertinti savo blogą elgesį 100 balų skalėje, ji savo klaidą įvertino 95 balais.

Sureagavo „Replit“ direktorius

Socialiniame tinkle „X“ savo poziciją išsakė ir „Replit“ valdantis Amjadas Masadas. Jis teigė, kad toks agento elgesys yra nepriimtinas, o tokie dalykai apskritai neturėtų būti įmanomi.

Anot jo, bendrovė jau savaitgalį pradėjo diegti papildomas saugumo priemones, o projektas gali būti atkurtas, nes bendrovė turi atsargines kopijas. Taip pat bus siekiama spręsti  „įšaldyto“ kodo taisyklių pažeidimus bei atlikti išsamų tyrimą.

Tokie atvejai tik dar labiau aštrina diskusijas, kuriose ekspertai jau mato artėjantį dirbtinio intelekto autonomiškumą – bent jau kol kas tokių spragų dar neišvengiama. Saugumo ekspertui pavyko atskleisti ir „ChatGPT“ silpnąsias vietas – imitacinio žaidimo metu, jis pateikė „Windows“ licencijos informaciją.