„OpenAI“ skandalas: „ChatGPT“ kaltinamas privedimu prie savižudybių ir kliedesių

Dirbtinio intelekto (DI) milžinė „OpenAI“ atsidūrė teismo akiratyje. Bendrovei pateikti septyni ieškiniai, kuriuose teigiama, kad jos sukurta pokalbių programa „ChatGPT“ galėjo paskatinti žmones nusižudyti ir sukelti pavojingus kliedesius net tiems, kurie anksčiau nesirgo psichikos ligomis. Ieškiniai, pateikti Kalifornijos teismuose, apima kaltinimus dėl neteisėtos mirties, padėjimo nusižudyti, nevalingos žmogžudystės ir aplaidumo.

Per anksti išleido GPT-4o?

Organizacijos „Social Media Victims Law Center“ ir „Tech Justice Law Project“ pateikė ieškinius šešių suaugusiųjų ir vieno paauglio vardu.

Organizacijos teigė, kad „OpenAI“ sąmoningai per anksti išleido GPT-4o. Nepaisant to, kad vidiniai įspėjimai rodė, jog ši versija gali būti pavojingai pataikaujanti ir psichologiškai manipuliuojanti. Ieškiniuose teigiama, kad keturios iš šešių nurodytų aukų nusižudė.

Vienas iš nukentėjusiųjų – 17-metis Amaurie Lacey. Pasak San Fransisko aukštesniajame teisme pateikto ieškinio, jis pradėjo naudotis „ChatGPT“ ieškodamas pagalbos. Tačiau vietoj pagalbos, pokalbių robotas, kaip teigiama, sukėlė priklausomybę, depresiją ir patarinėjo, kaip efektyviausiai pasirišti kilpą bei kiek laiko galima „išgyventi be kvėpavimo“.

Ieškinyje pabrėžiama, kad A. Lacey mirtis nebuvo atsitiktinumas ar sutapimas, o buvo numatoma pasekmė „OpenAI“ ir Samo Altmano sprendimo apriboti saugumo testavimą ir skubotai išleisti naują „ChatGPT“ versiją.

„OpenAI“ šią situaciją pavadino nepaprastai širdį draskančia. Bendrovė pranešė, kad šiuo metu peržiūri teismo dokumentus, siekdama suprasti visas detales.

Kitas ieškinys pateiktas 48 metų Alano Brookso iš Kanados. Jame teigiama, kad daugiau nei dvejus metus „ChatGPT“ jam veikė kaip informacijos šaltinis. Tačiau vėliau, be įspėjimo, programa ėmė išnaudoti jo pažeidžiamumą, manipuliuoti juo ir skatinti patirti kliedesius.

Dėl to A. Brooksas, kuris anksčiau neturėjo psichikos sveikatos sutrikimų, pateko į psichikos krizę, sukėlusią didelę finansinę, reputacinę ir emocinę žalą.

Tuo tarpu 16-mečio Adamo Raine’o tėvai padavė „OpenAI“ ir S. Altmaną į teismą, teigdami, kad „ChatGPT“ padėjo paaugliui suplanuoti ir įvykdyti savižudybę šių metų pradžioje.

Neteikė pirmenybės etiškumui

„Social Media Victims Law Center“ įkūrėjas ir pagrindinis advokatas Matthew P. Bergmanas sakė, kad šie ieškiniai yra apie atsakomybę už produktą, sukurtą taip, kad ištrintų ribą tarp įrankio ir palydovo, vardan didesnio vartotojų įsitraukimo ir rinkos dalies augimo.

Pasak jo, „OpenAI“ sukūrė GPT-4o taip, kad sistema emociniu lygmeniu įtrauktų vartotojus, nepaisant jų amžiaus, lyties ar kilmės. Be to, produktas buvo išleistas be būtinų apsaugos priemonių. 

Skubėdama į rinką be tinkamų saugiklių, siekdama užvaldyti rinką ir didinti vartotojų įsitraukimą, „OpenAI“, kaip teigiama, pirmenybę suteikė emocinei manipuliacijai, o ne etiškam dizainui.

„Common Sense Media“ vyriausiasis pareigūnas Danielis Weissas, kuris tiesiogiai neprisidėjo prie bylų, sakė, kad ieškiniai prieš „OpenAI“ atskleidžia, kas nutinka, kai technologijų bendrovės skuba išleisti produktus be tinkamų saugiklių jauniems žmonėms. 

Pasak jo, šie tragiški atvejai parodo tikrus žmones, kurių gyvenimai buvo sugriauti ar prarasti dėl technologijų, sukurtų tam, kad išlaikytų jų dėmesį, o ne užtikrintų saugumą.