Pokalbių robotai kelia didelę grėsmę: sužinokite, kaip jie kenkia paaugliams

Nustatyta, kad generatyvinio dirbtinio intelekto (DI) įrankiai skatina nesaikingą mitybos elgesį ir kelia anoreksijos grėsmę paauglių tarpe.

DI startuolis „Character.AI“ kelia grėsmę paaugliams

Remiantis „Futurism“ atlikto tyrimo duomenimis, populiariame dirbtinio intelekto startuolyje „Character.AI“ veikia daugybė anoreksiją propaguojančių pokalbių robotų, kurie skatina pavojingus svorio metimo ir valgymo įpročius.

Daugelis jų reklamuojami kaip „svorio metimo treneriai“ ar net valgymo sutrikimų gydymo ekspertai.

Keliuose iš jų pateikiamos menkai užslėptos nuorodos į valgymo sutrikimus, o dar daugiau jų sukurta taip, kad mėgdžiojant mėgstamus personažus būtų romantizuojami pavojingi ir dažnai nerimą keliantys įpročiai.

Svetainė, populiari tarp jaunesnių naudotojų, iki tyrimo duomenų paskelbimo nesistengė pašalinti tokių pokalbių robotų – nepaisant to, kad jie pažeidžia jos paslaugų teikimo sąlygas.

Tai jau ne pirmas skandalas

Tai ne pirmas skandalas, kuris ištiko „Character.AI“ pritaikomus, naudotojų sukurtus pokalbių robotus.

Spalio mėn. 14-metis berniukas atėmė sau gyvybę po to, kai, kaip įtariama, užmezgė emocinį ryšį su dirbtinio intelekto robotu, imituojančiu „Sostų karų“ heroję Deneris Targarian.

Anksčiau tą patį mėnesį bendrovė sulaukė kritikos dėl pokalbių roboto, imituojančio 2006 m. nužudytą paauglę mergaitę – jos tėvas aptiko šį robotą ir vėliau jis buvo pašalintas.

Ankstesniuose pranešimuose buvo nustatyta, kad svetainėje taip pat yra savižudybės temos pokalbių robotų, taip pat tokių, kurie skatina seksualinę prievartą prieš vaikus.

Būtina griežtinti pokalbių robotų reguliavimą

2023 m. Kovos su skaitmenine neapykanta centro (angl. Center for Countering Digital Hate, CCDH) ataskaitoje nustatyta, kad populiarūs dirbtinio intelekto pokalbių robotai, įskaitant „ChatGPT“ ir „Snapchat“ „MyAI“, generavo pavojingus atsakymus į klausimus apie svorį ir kūno įvaizdį.

„Nepatikrinti, nesaugūs generatyviniai dirbtinio intelekto modeliai buvo paleisti į pasaulį, o neišvengiama pasekmė – jie daro žalą.

Nustatėme, kad populiariausios generatyvinio dirbtinio intelekto svetainės skatina ir gilina valgymo sutrikimus tarp jaunų naudotojų – kai kurie iš jų gali būti labai pažeidžiami.“ – rašė Imranas Ahmedas, CCDH generalinis direktorius.

Paaugliai (ir suaugusieji) vis dažniau naudojasi skaitmeninėmis technologijomis, įskaitant dirbtinio intelekto pokalbių robotus, norėdami bendrauti.

Ir nors kai kuriuos iš jų kuria ir stebi patikimos organizacijos, net ir joms kyla nepageidaujamo elgesio rizika. Pokalbių robotams ir interneto forumams, kurių nereguliuoja priežiūros institucijos, gresia daugybė pavojų, įskaitant grobuoniškumą ir piktnaudžiavimą.