Šokiruojanti realybė: daugiau nei milijonas „ChatGPT“ vartotojų kas savaitę kalba apie savižudybę

Ar gali būti, kad pokalbių robotai išlaisvina žmonių emocijas, o gal kaip tik jie aštrina psichikos sveikatos problemas? Apie tai svarsto ekspertai po to, kai technologijų bendrovė pasidalijo šokiruojančiomis „ChatGPT“ pokalbių išvadomis. Pasak jų, kiekvieną savaitę per milijoną žmonių pokalbiuose atskleidžia tam tikrus savižudybės ketinimus.

Atskleidė emocinių sunkumų mastą

„OpenAI“ naujausioje ataskaitoje, informuodama apie tai, kaip „ChatGPT“ tvarko jautrius pokalbius, reaguoja į grėsmes bei pasitelkusi 170 psichikos sveikatos ekspertų iš viso pasaulio atskleidė, kad kiekvieną savaitę vartotojai siunčia žinutes, kuriose yra „aiškių galimų savižudybės planų ar ketinimų požymių“. Maždaug milijonas aktyvių savaitinių vartotojų (apie 0,15 proc.) atskleidžia tiesioginius ketinimus, o dar 0,05 proc. susirašinėjimuose galima įžvelgti užslėptus ketinimus.

Be minčių apie savižudybę vartotojai kalba ir apie kitus rimtus sveikatos sutrikimus – maždaug 560 tūkst. savaitinių naudotojų pasižymi psichinės sveikatos iššūkiais, susijusiais su psichoze ar manija.

„OpenAI“ dar kartą įspėja

Anksčiau „ChatGPT“ kūrėja įspėjo, kad „išlaikyti žmonių dėmesį“ nėra bendrovės pagrindinis tikslas, o dirbtinio intelekto modeliai yra nuolatos tobulinami tam, kad galėtų „nuoširdžiai padėti“.

Šie principai lydi nuo pat 2023 m., kai pokalbių robotas neduoda savęs žalojimo nurodymų, o pereina prie empatiškos kalbos, savižudybių atveju nukreipia į profesionalios pagalbos linijas, o atvejai, kai identifikuojami ketinimai pakenkti kitiems, yra analizuojami bendrovės suburtos komandos, o paskyros blokuojamos. Visgi buvo atvejų, kurie įrodė, kad sistema ne visais atvejais veikia būtent taip.

„OpenAI“ tikina, kad svarbių pokyčių dalis yra ir „GPT-5” atnaujinimas, kuris „parodė reikšmingus patobulinimus“ šiose srityse. Naujausi „ChatGPT“ atsakymų atnaujinimai 65-80 proc. rečiau pateikia atsakymus, kurie anksčiau galėjo atitikti bendrovės nepageidaujamo elgesio požymius.

Psichozės, manijos ar psichikos sveikatos pokalbiuose robotas 65 proc. mažiau pateikia rizikingus atsakymus sudėtinguose susirašinėjimuose, o savižudybių atveju 91 proc. atitinka numatytas reagavimo į šias problemas taisykles, kai iki tol buvo maždaug 77 proc. – įvertinus 1 000 pokalbių.

Visgi iki šiol „OpenAI“ tiesiogiai neprisiima atsakomybės, kad emocinius iššūkius skatina technologinė pažanga ir kartais nenuspėjamos dirbtinio intelekto galimybės. Pasak jų, šie sutrikimai ir emocinis stresas yra visuotinai paplitę visuomenėje, o augant „ChatGPT“ vartotojų bazei daugėja ir tokių atvejų.

Tuo tarpu ekspertus neramina ir tai, kad, pasak „OpenAI“, tai tik pirminė analizė – dar sunku aptikti ar išmatuoti visus „ChatGPT“ pokalbius.

Pastaruoju metu susirūpinimas emociniais iššūkiais ir jų potencialiu „aštrėjimu“ dėl dirbtinio intelekto pokalbių robotų įgauna pagreitį. Kiek anksčiau pranešta apie hospitalizuotus žmones dėl priklausomybės šiai technologijai, o daug dėmesio sulaukė ir paauglio savižudybė, kurią įgyvendinti padėjo „ChatGPT“.