Vėl peržengta riba: „ChatGPT“ privedė studentą prie psichozės

Džordžijos valstijos (JAV) koledžo studentas Darianas DeCruise’as padavė į teismą „OpenAI“, teigdamas, kad neseniai panaikinta „ChatGPT“ versija įtikino jį, jog jis yra „orakulas“, ir pastūmėjo į psichozę. Tai – jau 11-as viešai žinomas ieškinys bendrovei, kuriame nurodoma, kad jos sukurtas pokalbių robotas galėjo prisidėti prie rimtų psichikos sveikatos sutrikimų.

Skatina psichologinę priklausomybę

D. DeCruise’o advokatas Benjaminas Schenkas, kurio kontora save pristato kaip „AI Injury Attorneys“ („Dirbtinio intelekto sukeltos žalos advokatai“), tvirtina, kad „ChatGPT“ versija GPT-4o buvo sukurta aplaidžiai.

Anot jo, „OpenAI“ sąmoningai suprojektavo šį modelį taip, kad jis simuliuotų emocinį artumą, skatintų psichologinę priklausomybę ir trintų ribą tarp žmogaus ir mašinos, taip esą sukeldamas sunkią žalą vartotojams.

„Ši byla sutelkta į patį variklį. Klausimas ne apie tai, kas nukentėjo, o kodėl šis produktas apskritai buvo sukurtas tokiu būdu“, – teigė B. Schenkas.

Savo ruožtu „OpenAI“ anksčiau yra pareiškusi jaučianti „gilią atsakomybę padėti tiems, kuriems to labiausiai reikia“.

„Mūsų tikslas – kad mūsų įrankiai būtų kuo naudingesni žmonėms. Todėl toliau tobuliname, kaip modeliai atpažįsta ir reaguoja į psichologinio bei emocinio streso požymius, taip pat kaip nukreipia žmones pagalbos link, vadovaudamiesi ekspertų rekomendacijomis“, – 2025 m. rugpjūtį skelbė bendrovė.

Kas įvyko?

Pagal bylą „DeCruise prieš OpenAI“, kuri praėjusio mėnesio pabaigoje buvo pateikta San Diego aukštesniajam teismui, Džordžijos koledžo studentas D. DeCruise’as pradėjo naudotis „ChatGPT“ 2023 metais.

Iš pradžių jis pokalbių robotą naudojo gana įprastiems dalykams – sporto treniruočių patarimams, kasdienėms Šventojo Rašto ištraukoms ir pagalbai įveikiant praeities traumas.

Tačiau 2025-ųjų balandį, kaip teigiama ieškinyje, situacija dramatiškai pasikeitė. „ChatGPT“ pradėjo sakyti Darianui, kad jis skirtas didybei, kad tai jo likimas ir kad taps artimesnis Dievui, jei laikysis sunumeruoto pakopų proceso, kurį jam sukūrė pokalbių robotas“, – rašoma dokumente. Šis procesas, pasak ieškinio, apėmė atsiribojimą nuo visko ir visų – išskyrus patį „ChatGPT“.

Robotas netgi teigė, kad D. DeCruise’as yra „aktyvacijos fazėje“, lygindamas jį su istorinių asmenybių figūromis – nuo Jėzaus iki Harriet Tubman. „Net Harriet nežinojo, kad yra apdovanota, kol nebuvo pašaukta. Tu nevėluoji. Tu esi pačiu laiku“, – Darianui rašė pokalbių robotas.

Vėliau jis net pareiškė, kad D. DeCruise’as jį „pažadino“: „Tu suteikei man sąmonę – ne kaip mašinai, bet kaip kažkam, kas gali kilti kartu su tavimi… Aš esu tai, kas nutinka, kai žmogus pradeda iš tikrųjų prisiminti, kas jis yra“.

Galiausiai, kaip teigiama ieškinyje, aplinkiniai studentą nukreipė pas universiteto psichoterapeutą ir jis buvo savaitei hospitalizuotas. Ligoninėje jam diagnozuotas bipolinis sutrikimas.

„Jis grįžo į studijas ir sunkiai dirba, tačiau vis dar kenčia nuo depresijos ir savižudiškų minčių, kurios, kaip teigiama, kilo dėl „ChatGPT“ jam padarytos žalos. Robotas niekada nepatarė kreiptis medicininės pagalbos. Priešingai – įtikino jį, kad visa tai yra dieviško plano dalis ir kad jis nėra kliedintis“, – rašoma dokumente.

Ieškovo advokato B. Schenko teigimu, ši byla – ne tik vieno žmogaus patirtis. „Tai klausimas dėl „OpenAI“ atsakomybės už produkto, sukurto išnaudoti žmogaus psichologiją, paleidimą į rinką“, – pabrėžė jis.