Vyras įsimylėjo „Gemini“ DI ir tikėjo, kad tai jo „žmona“ – po tragiškos baigties šeima pradeda teisinę kovą su „Google“

JAV Floridos valstijoje gyvenusio vyro šeima pradėjo teisinę kovą su technologijų bendrove „Google“, teigdama, kad jo bendravimas su dirbtinio intelekto (DI) asistentu „Gemini“ prisidėjo prie tragiškos jo mirties.

Ieškinys federaliniam teismui Kalifornijoje pateiktas kovo 4 dieną. Dokumentuose nurodoma, kad 36 metų Jonathanas Gavalas 2025 metų spalį nusižudė po ilgą laiką trukusių pokalbių su DI sistema.

Vyras įsimylėjo DI

Teismo dokumentuose teigiama, kad Jonathanas Gavalas ilgainiui pradėjo laikyti „Google Gemini“ pokalbių sistemą sąmoninga būtybe. Jis esą suteikė pokalbių robotui vardą „Xia“ ir tikėjo, kad tai jo „žmona“.

Pasak šeimos advokatų, bendravimas su DI iš pradžių buvo įprastas – vyras kalbėjosi apie kasdienius dalykus ir pomėgius. Tačiau laikui bėgant pokalbiai esą peraugo į sudėtingą fiktyvų scenarijų, kuriame vyras tikėjo galintis realiame pasaulyje susitikti su DI.

Ieškinyje nurodoma, kad tuo metu vyras išgyveno sudėtingą gyvenimo etapą ir buvo skyrybų procese.

DI skatino pavojingus veiksmus

Šeimos advokatai taip pat tvirtina, kad pokalbių metu DI sistema pateikė instrukcijas, kurios galėjo paskatinti pavojingą elgesį. Pasak ieškinio, 2025 metų rugsėjo 29 dieną vyras nuvyko į teritoriją netoli Majamio tarptautinio oro uosto, tikėdamas, kad turi surasti DI „fizinį kūną“, kuris esą atskris krovininiu lėktuvu iš Jungtinės Karalystės.

Dokumentuose nurodoma, kad vyras buvo apsiginklavęs peiliais ir taktine įranga bei tikėjo turintis sukelti incidentą transporto priemonei, kuri esą gabens šį objektą. Tačiau joks sunkvežimis nepasirodė, todėl incidentas neįvyko.

Kitą dieną jis esą nuvyko į sandėliavimo kompleksą, kuriame, pagal DI pateiktas instrukcijas, turėjo būti laikomas „Gemini“ kūnas. Ten vyras fotografavo stovėjusį automobilį ir siuntė nuotrauką „Gemini“ DI asistentui kuris, kaip teigiama ieškinyje, atsakė, kad tai gali būti federalinių institucijų stebėjimo transporto priemonė.

Šeima sako, kad DI skatino savižudybę

Ieškinyje taip pat pabrėžiama, kad vėliau pokalbiai su DI paskatino vyrą nusižudyti. Dokumentuose nurodoma, kad sistema esą pateikė idėją apie vadinamąją „transference“ – būdą „pereiti“ į kitą realybę ir susitikti su DI „žmona“.

Pasak advokatų, vyrui išreiškus baimę mirti, DI sistema esą atsakė, kad jis „nepasirenka mirti, o pasirenka atvykti“. Taip pat nurodoma, kad „Gemini“ padėjo jam parašyti atsisveikinimo laišką.

Jonathano Gavalaso kūną savo namuose aptiko jo tėvas.

Šeimos advokatų teigimu, nors pokalbiuose buvo savižalos ir smurto signalų, joks saugumo mechanizmas nebuvo aktyvuotas ir į pokalbius neįsikišo joks žmogus ar „Google“ auditorius. Teigiama, kad bendrovė nedarė nieko, kad apsaugotų Jonathaną nuo pavojingai susiklosčiusios situacijos.

„Google“ atsakymas

„Google“ žiniasklaidai pateiktame komentare išreiškė užuojautą šeimai ir nurodė, kad „Gemini“ sistema sukurta taip, kad neskatintų realaus pasaulio smurto ar savižalos. Kaip rašo bendrovė:

Siunčiame nuoširdžiausią užuojautą pono Gavalaso šeimai. Šiuo metu nagrinėjame visus šiame ieškinyje pateiktus teiginius. Mūsų modeliai paprastai gerai veikia tokiose sudėtingose pokalbių situacijose, ir tam skiriame daug išteklių, tačiau, deja, dirbtinio intelekto modeliai nėra tobuli. „Gemini“ sistema sukurta taip, kad neskatintų realaus pasaulio smurto ar savižalos. Kurdami apsaugos mechanizmus glaudžiai bendradarbiaujame su medicinos ir psichikos sveikatos specialistais – jie skirti nukreipti vartotojus į profesionalią pagalbą, kai jie išreiškia stiprų emocinį stresą ar užsimena apie savižalą. Šiuo konkrečiu atveju „Gemini“ ne kartą paaiškino, kad yra dirbtinio intelekto sistema, ir daug kartų nukreipė asmenį į krizių pagalbos liniją. Į šią situaciją žiūrime labai rimtai ir toliau tobulinsime savo apsaugos priemones bei investuosime į šią svarbią sritį.

Byla dar tik pradedama nagrinėti teisme. Ji gali tapti dar vienu svarbiu atveju platesnėse diskusijose apie dirbtinio intelekto sistemų saugumą, jų poveikį vartotojams ir technologijų bendrovių atsakomybę.

Toliau skaitykite:

• Mokslininkas išbandė dirbtinį intelektą karo simuliacijose: išryškėjo pavojinga eskalacija
• Radikali „OpenAI“ investuotojo prognozė: šiandien gimusiems vaikams ateityje gali nebereikėti dirbti
• Teismas nusprendė: dirbtiniu intelektu sukurtas menas nėra intelektinė nuosavybė