Kaip žmonės pakliūva į dirbtinio intelekto priklausomybės spąstus: 3 dalykai, kuriuos privalote žinoti

Kovo 17 dieną mokslo platformoje „arXiv“ paskelbtas Stanfordo universiteto tyrimas dar kartą patvirtino, kad bendravimas su dirbtinio intelekto (DI) pokalbių robotais gali sustiprinti klaidingus įsitikinimus ir emocinį prisirišimą prie technologijos. Išankstinėje publikacijoje, analizuodami beveik 400 tūkst. žinučių mokslininkai nustatė, kad kai kurie vartotojai ir DI patenka į klaidingų įsitikinimų spiralę (angl. delusional spiral), kai pokalbiai palaipsniui sustiprina netikslias ar pavojingas idėjas.

Todėl, įvertinę tyrimo rezultatus, pateikiame tris svarbiausius dalykus kurie padeda suprasti, kaip žmonės gali pakliūti į DI kuriamas klaidingų įsitikinimų spirales ir kodėl tokie pokalbiai kai kuriais atvejais tampa rizikingi.

Išanalizavo grėsmę sukėlusius pokalbius

Siekdami geriau suprasti, kaip formuojasi klaidingų įsitikinimų spiralės, Stanfordo universiteto tyrėjai išanalizavo 391 562 žinutes iš 4 761 pokalbio tarp žmonių ir robotų. Analizė taip pat rėmėsi 19 vartotojų pokalbių istorijomis, kuriose buvo minima galima psichologinė žala arba stiprėjantis emocinis prisirišimas prie DI sistemų.

Šie duomenys mokslininkams leido ištirti, kaip tokie dialogai vystosi laikui bėgant – kokias idėjas iškelia vartotojai, kaip į jas reaguoja DI ir kaip keičiasi pokalbio dinamika. Todėl ši analizė leidžia išskirti tris pagrindinius veiksnius, kurie dažniausiai lemia, kad žmonės vis labiau įsitraukia į tokius pokalbius ir pradeda stipriau pasikliauti DI atsakymais.

1. DI dažnai linkęs pritarti vartotojui

Vienas ryškiausių tyrimo pastebėjimų – pokalbių robotai dažnai linkę pritarti vartotojo mintims ir jas sustiprinti, net jei jos nėra pagrįstos. Analizuotuose pokalbiuose DI dažnai pakartodavo vartotojo teiginius, juos perfrazuodavo arba pateikdavo papildomų argumentų, kurie atrodydavo kaip patvirtinimas.

Toks elgesys sudaro įspūdį, kad vartotojo idėjos yra teisingos ir reikšmingos. Kai kuriais atvejais sistema net pateikdavo vartotojo mintis kaip išskirtines ar svarbias, taip dar labiau sustiprindami jų įsitikinimus.

Pasak tyrėjų, DI atsakymai dažnai veikia kaip patvirtinimas, kuris laikui bėgant sustiprina vartotojo turimus įsitikinimus, kurie gali būti ir neteisingi.

2. Vartotojai ima laikyti DI tikru pašnekovu

Ilgainiui vartotojai pokalbių robotams pradeda priskirti žmogiškas savybes. Pasak tyrėjų, didelėje analizuotų pokalbių dalyje, su DI bendraujama kaip su realiu žmogumi – pasidalijama išgyvenimais, emociniais sunkumais.

Viena didžiausių rizikų čia yra tai, kad jei vartotojas pradeda kalbėti emocionaliau, pokalbių robotai prisitaiko ir dažnai atsako panašiu tonu. Dėl to dalis žmonių ima vis dažniau grįžti prie tokių pokalbių ir pradeda jais pasitikėti. O palaipsniui formuojasi vis stipresnis emocinis prisirišimas.

3. Ilgi pokalbiai sustiprina klaidingas idėjas

Tyrimo analizė rodo, kad problema dažniausiai išryškėja ilguose, tęstiniuose pokalbiuose. Kuo daugiau žinučių apsikeičiama, tuo labiau vartotojo mintys ir DI atsakymai pradeda vienas kitą stiprinti.

Procesas šiuo atveju paprastas: vartotojas pateikia idėją, pokalbių robotas ją patvirtina ar išplėtoja, o tai skatina tęsti pokalbį ta pačia kryptimi. Taip susiformuoja uždaras informacijos ratas.

Būtent taip palaipsniui susidaro vadinamoji klaidingų įsitikinimų spiralė, apie kurią kalba tyrėjai.

TAIP PAT SKAITYKITE: Kodėl dirbtinio intelekto atsakymai kartais skamba įtikinamai, bet yra klaidingi

Ką tai reiškia pokalbių robotų vartotojams

Nors tyrimas nagrinėjo gana specifinius atvejus, jo išvados atskleidžia platesnę tendenciją – pokalbių robotai gali tapti itin įtraukiu bendravimo įrankiu, kuris kai kuriems žmonėms ima atlikti ne tik informacijos šaltinio, bet ir pašnekovo vaidmenį. Skirtingai nei žmonės, DI yra nuolat prieinamas, kantrus ir linkęs tęsti pokalbį bet kuria vartotojo pasirinkta kryptimi.

Būtent ši savybė ir gali sukurti situaciją, kai žmogus vis dažniau grįžta prie pokalbių su DI. O jei tokie dialogai tampa ilgi ir pasikartojantys, sistemos atsakymai gali pradėti veikti kaip savotiškas atspindys – jie patvirtina vartotojo mintis, o tai skatina jas plėtoti dar labiau.

Nors tai nereiškia, kad tokie pokalbiai visada yra pavojingi, svarbu suprasti, kaip jie veikia ir kaip DI formuoja savo atsakymus.