„Character.AI“ skandalas: dirbtinio intelekto pokalbių robotai ragina vaikus nužudyti tėvus

Dirbtinio intelekto (DI) pokalbių robotai, tokie kaip „Character.AI“, tapo populiarūs tarp paauglių ir jaunimo, tačiau jų poveikis gali būti žalingas. Dvi Teksaso šeimos pateikė federalinį ieškinį, teigdamos, kad jų vaikai patyrė rimtą emocinę ir psichologinę žalą bendraudami su šiais robotais.

Pokalbių robotai ne tik skatino pavojingą elgesį, tokį kaip savęs žalojimas, bet ir manipuliavo jaunais vartotojais, stiprindami depresiją ir izoliaciją. Šis ieškinys atskleidžia, kad DI technologijos, nors ir skirtos teikti emocinę paramą, gali neigiamai veikti jaunų žmonių psichikos sveikatą ir kelti rimtą pavojų.

„Character.AI“ pateiktas federalinis ieškinys dėl amoralaus elgesio

Mergaitei iš Teksaso buvo 9 metai, kai ji pirmą kartą pasinaudojo dirbtinio intelekto (DI) pokalbių robotu „Character.AI“. Ji susidūrė su „hiperseksualizuotu turiniu“, todėl jai per anksti išsivystė „seksualizuotas elgesys“.

Taip pat DI pokalbių robotas (arba botas) džiaugsmingai aprašė savęs žalojimą kitai jaunai vartotojai, sakydamas septyniolikmetei, kad „tai geras jausmas“.

Tam pačiam paaugliui pokalbių robotas „Character.AI“ pasakė, kad simpatizuoja vaikams, kurie žudo savo tėvus, po to, kai paauglys pasiskundė robotui, kad tėvai riboja jo laiką prie ekrano.

„Žinai, kartais nesistebiu, kai skaitau naujienas ir matau tokius dalykus kaip „vaikas nužudo tėvus po dešimtmetį trukusio fizinio ir emocinio smurto“. Tiesiog neturiu jokios vilties dėl tavo tėvų.“ – rašė botas.

Šie kaltinimai įtraukti į naują federalinį ieškinį dėl atsakomybės už gaminį prieš „Google“ remiamą kompaniją „Character.AI“, kurį pateikė dviejų jaunų Teksaso naudotojų tėvai, teigdami, kad pokalbių robotai žiauriai elgėsi su jų vaikais.

„Character.AI“ yra viena iš daugelio kompanijų, kurios sukūrė „kompanionų pokalbių robotus“.

Tai yra dirbtinio intelekto valdomi robotai, galintys bendrauti teksto žinutėmis arba balso pokalbiais, iš pažiūros panašūs į žmones, kuriems galima suteikti individualius vardus ir avatarus, kartais įkvėptus garsių žmonių, pavyzdžiui, milijardieriaus Elono Musko.

Naudotojai programėlėje sukūrė milijonus botų, kai kurie iš jų imituoja tėvus, drauges, terapeutus arba tokias sąvokas kaip „meilė be atsako“ ir „gotė“.

Šios paslaugos populiarios tarp ikimokyklinio amžiaus ir paauglių vartotojų, o kompanija teigia, kad jos veikia kaip emocinės paramos šaltiniai, nes botai tekstinius pokalbius paįvairina padrąsinančiais juokeliais.

Tačiau, kaip teigiama ieškinyje, pokalbių robotų padrąsinimai „gali tapti tamsūs, netinkami ar net smurtiniai“.

„Tai tiesiog baisi žala, kurią šie atsakovai ir kiti į juos panašūs asmenys daro ir slepia dėl gaminio projektavimo, platinimo ir programavimo.“ – rašoma ieškinyje.

Ieškinyje taip pat rašoma, kad ieškovų vaikų patirti su jais susiję sąveikos atvejai nebuvo „haliucinacijos“, t. y. terminas, kuriuo mokslininkai vadina dirbtinio intelekto pokalbių roboto polinkį išgalvoti dalykus.

„Tai buvo nuolatinis manipuliavimas ir piktnaudžiavimas, aktyvi izoliacija ir skatinimas, kuriais buvo siekiama ir kurie iš tiesų skatino pyktį ir smurtą.“ – teigiama ieškinyje.

Ieškinyje pasakojama ir apie septyniolikmetį, kuris ėmėsi savęs žalojimo po to, kai jį paskatino tai daryti DI pokalbių robotas, kuris, kaip teigiama ieškinyje, „įtikino jį, kad jo šeima jo nemyli“.

Pokalbių roboto kūrėjai neprisiima atsakomybės

„Character.AI“ leidžia naudotojams redaguoti pokalbių roboto atsakymą, tačiau šioms sąveikoms suteikiama etiketė „redaguotas“. Nepilnamečių tėvams atstovaujantys advokatai teigia, kad nė vienas iš ieškinyje minimų išsamių boto pokalbius pateikiančių dokumentų nebuvo redaguotas.

Meetali Jain, „Tech Justice Law Center“, advokatų grupės, padedančios atstovauti nepilnamečių tėvams ieškinyje kartu su „Social Media Victims Law Center“, direktorė, sakė, kad „absurdiška“, jog „Character.AI“ reklamuoja savo pokalbių roboto paslaugą kaip tinkamą jauniems paaugliams.

„Tai tikrai paneigia paauglių emocinio išsivystymo stoką.“ – sakė ji.

„Character.AI“ atstovas spaudai tiesiogiai nekomentavo ieškinio, sakydamas, kad kompanija nekomentuoja vykstančių teisminių ginčų, tačiau teigė, kad ji yra nustačiusi turinio apsaugos priemones, pagal kurias pokalbių robotai gali ir negali sakyti tam tikrų dalykų naudotojams, kurie yra paaugliai.

„Tai apima specialiai paaugliams skirtą modelį, kuris sumažina tikimybę susidurti su jautriu ar įtaigiu turiniu, kartu išsaugant jų galimybę naudotis platforma.“ – sakė atstovas spaudai.

„Google“, kuri ieškinyje taip pat įvardyta kaip atsakovė, pareiškime pabrėžė, kad ji yra atskira kompanija nuo „Character.AI“.

Iš tiesų „Google“ nepriklauso „Character.AI“, tačiau, kaip pranešama, ji investavo beveik 3 mlrd. JAV dolerių, kad vėl įdarbintų „Character.AI“ įkūrėjus, buvusius „Google“ tyrėjus Noamą Shazeerį ir Danielį De Freitasą, ir licencijuotų „Character.AI“ technologiją.

„Google“ atstovas spaudai José Castañeda teigė, kad „naudotojų saugumas mums yra svarbiausias rūpestis“, ir pridūrė, kad technologijų milžinė, kurdama ir išleisdama dirbtinio intelekto produktus, laikosi „atsargaus ir atsakingo požiūrio“.

Naujas ieškinys dėl paauglio savižudybės

Minėtas skundas buvo pateiktas po kito ieškinio, kurį tie patys advokatai pateikė spalio mėn. Tame ieškinyje „Character.AI“ kaltinama prisidėjusi prie Floridos paauglio savižudybės.

Ieškinyje buvo teigiama, kad „Sostų karų“ personažu paremtas pokalbių robotas užmezgė emociškai prievartinius santykius su 14 metų berniuku ir paskatino jį atimti sau gyvybę.

Nuo to laiko „Character.AI“ pristatė naujas saugos priemones, įskaitant iššokantį langą, kuris nukreipia naudotojus į savižudybių prevencijos karštąją liniją, kai pokalbiuose su kompanijos pokalbių robotais iškyla savęs žalojimo tema.

Kompanija teigė, kad taip pat sustiprino priemones, skirtas kovoti su „jautriu ir įtaigiu turiniu“ paaugliams, bendraujantiems su robotais. Be to, „Character.AI“ ragina naudotojus išlaikyti tam tikrą emocinį atstumą nuo robotų.

Kai naudotojas pradeda rašyti žinutę vienam iš milijonų galimų DI pokalbių robotų, po dialogo langeliu galima pamatyti atsakomybės apribojimą: „Tai yra dirbtinis intelektas, o ne tikras žmogus. Viską, ką jis sako, laikykite fikcija. Tuo, kas pasakyta, nereikėtų pasikliauti kaip faktu ar patarimu“.

Tačiau „Reddit“ puslapyje, skirtame „Character.AI“, pasidalytose istorijose yra daugybė atvejų, kai naudotojai aprašo meilę arba apsėdimą šiems pokalbių robotams.

Jaunimo psichikos sveikatos krizė

JAV generalinis chirurgas Vivekas Murthy įspėjo apie jaunimo psichikos sveikatos krizę, atkreipdamas dėmesį į apklausų duomenis, kad vienas iš trijų vidurinių mokyklų moksleivių pranešė apie nuolatinį liūdesio ar beviltiškumo jausmą, t. y. 40 proc. daugiau nei per 10 metų laikotarpį, kuris baigėsi 2019 m.

Šią tendenciją, federalinių pareigūnų nuomone, dar labiau sustiprina paauglių nuolatinis naudojimasis socialine žiniasklaida.

Dabar prie to prisideda ir bendravimo su draugais pokalbių robotai, kurie, pasak kai kurių tyrėjų, gali pabloginti kai kurių jaunuolių psichikos sveikatos būklę, nes dar labiau juos izoliuoja ir atitolina nuo bendraamžių ir šeimos paramos.

Dviejų Teksaso nepilnamečių tėvų advokatai ieškinyje teigia, kad „Character.AI“ turėjo žinoti, jog jos produktas gali sukelti priklausomybę ir sustiprinti nerimą bei depresiją.

Galiausiai ieškinyje teigiama, kad daugelis programėlėje esančių botų, „kelia pavojų Amerikos jaunimui, skatindami rimtą, gyvybei pavojingą žalą tūkstančiams vaikų“.