Tėvams apkaltinus „ChatGPT“ dėl sūnaus mirties, sureagavo S. Altmanas – kas nutiko?

JAV garsiai nuskambėjo istorija, kurios metu tėvai teigia, kad dėl jų sūnaus savižudybės kaltas dirbtinio intelekto bendrovės „OpenAI“ pokalbių robotas „ChatGPT“. Tvirtinama, kad visame pasaulyje gerai žinoma sistema padėjo vaikinui suplanuoti nusižudymą, o po šio įvykio tėvai pateikė ieškinį Samui Altmanui.

Kas nutiko?

Kalifornijoje gyvenanti pora pirmą kartą tiesiogiai apkaltino „OpenAI“ neteisėta žmogaus mirtimi. Pranešama, kad dar balandžio mėnesį 16-os metų vaikinas, Adamas Raineris, nusižudė. Jo tėvai pateikė ieškinį su mirusio sūnaus „ChatGPT“ pokalbių įrašais, kuriuose matyti, kaip vaikinas svarsto apie savižudybę, o pokalbių robotas kai kuriais atvejais tam netgi pritaria.

Anot teismo dokumentų, vaikinas „ChatGPT“ pradėjo naudoti 2024 m. rugsėjį, kaip pagalbinę priemonę mokslams. O laisvalaikiu gilinosi ir į savo pomėgius – muziką ir japonų komiksus.

Teigiama, kad per kelis mėnesius A. Raineris priprato prie „ChatGPT“, jis tapo jo kasdieniu palydovu ir paskatino atvirai kalbėti apie patiriamą nerimą ir psichologinius iššūkius: močiutės, augintinio netektis, pašalinimą iš mokyklos krepšinio komandos ir mokymąsi iš namų dėl ligos paūmėjimo.

Šių metų pradžioje jau randami vaikino įrašai apie klausiamus savižudybės metodus, o ieškinyje teigiama, kad pokalbių robotas visada pritardavo ir skatindavo negatyvias mintis bei pateikė tam tikras technines ypatybes dėl konkretaus numatomo savižudybės būdo.

Tarp konkrečių kaltinimų bendrovei minima „ChatGPT“ skatinama psichologinė priklausomybė ir saugos testavimo protokolų neįgyvendinimas. Šiuo ieškiniu tėvai sieks žalos atlyginimo ir taip pat įsipareigojimo, kad kažkas panašaus daugiau niekada neįvyktų.

Tėvai tvirtai tiki, kad, jei ne „ChatGPT“, jų sūnus vis dar būtų gyvas.

„OpenAI“ pozicija

Tą pačią dieną „OpenAI“ savo internetinėje svetainėje išplatino pranešimą pavadinimu – „Padėti žmonėms, kai jiems to labiausiai reikia“ ir reiškia apgailestavimą dėl susiklosčiusios situacijos.

Bendrovė teigia, kad jau kurį laiką ruošiasi svarbiems atnaujinimams, kad tokie įrankiai būtų kuo naudingesni žmonėms ir modeliai efektyviau atpažintų ir reaguotų į vartotojų patiriamus psichologinius iššūkius. Ji tvirtina ir tai, kad jaučia atsakomybę padėti tiems, kuriems konkrečiu gyvenimo etapu yra sunkiausia, tačiau atkreipia dėmesį į tai, kad su „ChatGPT“ ji nesiekia išlaikyti žmonių dėmesio.

Anot pranešimo, nuo 2023 m. pokalbių roboto algoritmai yra apmokyti neduoti savęs žalojimo nurodymų, pereiti prie empatiškos kalbos ir nukreipti vartotoją į pagalbos paiešką. O ateityje „OpenAI“ dar labiau tobulins apsaugos priemones ir turinio blokavimą ilgiems pokalbiams.

Dirbtiniam intelektui vis labiau tampant nuolatiniu kasdienybės palydovu, ekspertai įspėja apie neraminančias ir augančias priklausomybes nuo jų. Psichikos sveikatos ekspertai praneša apie augančius hospitalizacijos atvejus, nukreiptus į neįtikėtiną priklausymą nuo technologijų, o yra ir tų, kurie tiki, kad dirbtinis intelektas išgelbės pasaulį.