Didžiausi DI mitai, kuriais vis dar tiki žmonės

Dirbtinis intelektas (DI) šiandien tapo viena labiausiai aptariamų technologijų pasaulyje – tačiau kartu ir viena labiausiai nesuprastų. Vieni jį laiko beveik neklystančiu autoritetu, galinčiu atsakyti į bet kokį klausimą, kiti mato kaip grėsmę, kuri netrukus „atimsianti“ didžiąją dalį darbų.

Problema ta, kad visos šios nuostatos turi bendrą bruožą – jos remiasi mitais arba pernelyg supaprastintu technologijos suvokimu. DI iš tiesų yra labai galingas įrankis, tačiau jo veikimo principai, ribos ir rizikos dažnai lieka už diskusijų ribų.

Tačiau ši painiava nėra atsitiktinė. Šiuolaikiniai DI modeliai geba generuoti itin sklandžius, užtikrintai skambančius atsakymus, kurie lengvai sukuria „supratimo“ iliuziją. Dėl šios priežasties šiame gide išskaidysime dažniausiai pasitaikančius mitus apie DI – nuo įsitikinimo, kad „DI visada teisus“, iki baimės, kad „DI pavogs visus darbus“.

Kaip „gimė“ mitai apie DI

Mitus apie DI sukuria ne viena priežastis, o kelių veiksnių kombinacija: technologijos pobūdis, jos pristatymas visuomenei ir žmogaus psichologija. Būtent šių trijų sluoksnių sankirta lemia, kodėl DI taip dažnai atrodo arba pernelyg galingas, arba pernelyg pavojingas.

Pirmiausia – pats technologijos veikimo principas. Šiuolaikiniai generatyviniai modeliai geba kurti itin sklandžius, logiškai struktūruotus ir užtikrintai skambančius atsakymus. Jie nenaudoja „galbūt“ ar „nesu tikras“ taip dažnai, kaip tai darytų žmogus. Dėl to atsiranda vadinamasis autoriteto šališkumas (angl. authority bias) – kai atsakymo tonas klaidingai interpretuojamas kaip tikslumo garantija. Net ir neteisinga informacija gali skambėti įtikinamai, o tai sukuria klaidingą įspūdį, kad sistema „žino“, nors iš tiesų ji tik prognozuoja labiausiai tikėtiną žodžių seką.

Antras svarbus sluoksnis – kaip DI yra pristatomas. Technologijų kompanijos ir žiniasklaida dažnai naudoja stiprius naratyvus: „pranoksta žmogų“ ar „revoliucija darbo rinkoje“. Tokia komunikacija padeda pritraukti dėmesį, tačiau kartu supaprastina realybę. Vietoje sudėtingo, daugybę niuansų įtraukiančio paaiškinimo apie modelių ribas, visuomenei pateikiama lengvai suprantama, bet kiek klaidinanti versija.

Trečias – žmogiškasis faktorius. Žmonės natūraliai linkę antropomorfizuoti sistemas, kurios kalba jų kalba. Kai DI atsako empatiškai ar palaiko dialogą, smegenys linkusios priskirti jam savybes, būdingas kitam žmogui: supratimą, ketinimus ar net „nuomonę“.

Iš principo tai lemia žinių spragos. Tai yra atotrūkis tarp to, ką vartotojas mato, ir to, kas iš tikrųjų vyksta modelio viduje.

Vartotojo akimis viskas atrodo paprasta: užduodi klausimą – gauni aiškų, logišką ir dažnai labai įtikinamą atsakymą. Tai primena pokalbį su žmogumi, kuris žino. Tačiau realybėje šis procesas neturi nieko bendro su žmogišku supratimu ar sąmoningu žinių taikymu. Modelis ne „atsimena“ ir ne „patikrina“, o, kaip minėjome, prognozuoja.

Kadangi šis mechanizmas nematomas, žmogus natūraliai bando jį paaiškinti sau suprantamais terminais. Jei atsakymas skamba kaip eksperto – daroma išvada, kad sistema turi eksperto žinias. Jei atsakymas skamba užtikrintai – laikoma, kad jis teisingas. Taip techninis procesas pakeičiamas intuityvia, bet klaidinga interpretacija.

TAIP PAT SKAITYKITE: Kaip iš tikrųjų veikia dirbtinio intelekto modeliai: nuo duomenų iki atsakymo

Kaip atsiranda mitai apie DI (santrauka):

Šie veiksniai paaiškina, kodėl DI dažnai atrodo protingesnis, nei yra iš tikrųjų – ir būtent čia prasideda didžiausi mitai.

1 mitas – DI supranta kaip žmogus

Tai vienas giliausių ir kartu labiausiai klaidinančių mitų apie dirbtinį intelektą. Jis atsiranda ne todėl, kad žmonės yra naivūs, o todėl, kad šiuolaikiniai DI modeliai yra itin geri imituojant supratimą.

Pavyzdžiui, kai kalbatės su pokalbių robotu kaip „ChatGPT“ ar „Gemini“, jis prisimena kontekstą, atsako į klausimus, paaiškina sudėtingas temas, netgi geba reaguoti empatiškai. Visa tai labai primena žmogaus mąstymą. Natūralu manyti, kad jei sistema taip elgiasi – ji ir „supranta“. Tačiau būtent čia slypi esminė klaida.

Nepaisant šių savybių būtina žinoti, kad dirbtinis intelektas nesupranta taip, kaip žmogus. Jis neturi sąmonės, patirties ir tikro pasaulio suvokimo. Vietoje to jis analizuoja didžiulius tekstų kiekius ir mokosi atpažinti, kokie žodžiai, sakiniai ir idėjos dažniausiai eina kartu.

Nepaisant to, didžiausia problema visgi slypi ne ten, kad DI „nesupranta“, o tai, kad jis atrodo tarsi suprastų.

Tai gali sukelti:

• per didelį pasitikėjimą jo atsakymais,
• emocinį prisirišimą prie sistemos,
• klaidingą įspūdį, kad DI gali priimti atsakingus sprendimus.

2 mitas – DI visada teisus

Šis mitas glaudžiai siejasi su pirmuoju ir taip pat yra vienas labiausiai paplitusių šia tema. Jis kyla iš paprastos, bet klaidinančios logikos: jei sistema atsako greitai, aiškiai ir užtikrintai – ji turbūt yra teisi.

Iš pirmo žvilgsnio tai atrodo pagrįsta. Ši technologija geba pateikti struktūruotus atsakymus, paaiškinti sudėtingas temas paprastai, generuoti tekstus, kurie primena ekspertų darbą. Daugeliu atvejų jis iš tiesų būna naudingas ir dažnai – pakankamai tikslus. Tačiau problema ta, kad tikslumas čia nėra garantija.

Kas šiame procese vyksta iš tikrųjų

DI nėra neklystantis šaltinis. Jis netikrina faktų realiu laiku ir neturi mechanizmo „žinoti, kad nežino“. Kai informacija yra neaiški, neišsami arba už modelio žinių ribų, jis vis tiek pateiks atsakymą. Šis atsakymas gali būti:

• dalinai teisingas,
• supaprastintas,
• arba visiškai išgalvotas.

Kaip minėjo aukščiau, tai vadinama haliucinacija – situacija, kai DI pateikia įtikinamą, bet neteisingą informaciją. Ji gali apimti neegzistuojančius šaltinius ir citatas, netikslius statistinius duomenis ar logiškus, bet realybės neatitinkančius atsakymus.

Kad išvengtumėte šio mito spąstų, verta laikytis kelių paprastų principų:

1. Laikyti DI pagalbininku, o ne autoritetu.
2. Tikrinti faktus remiantis patikimais šaltiniais.
3. Nepasitikėti vien tik atsakymo tonu.
4. Aukštos rizikos situacijose visada įtraukti žmogaus patikrą.

3 mitas – DI viską žino

Vienas dažniausių įspūdžių naudojant DI – kad jis turi atsakymą į beveik bet kokį klausimą. Nesvarbu, ar tai istorija, technologijos, sveikata ar kasdieniai patarimai – atsakymas pateikiamas greitai, aiškiai ir dažnai labai įtikinamai. Iš čia natūraliai gimsta išvada: DI žino viską. Tačiau tai – klaidinga.

Žmogui tai atrodo kaip universalios žinios. Mes esame įpratę, kad jei kažkas atsako į viską – jis turi žinoti daug. Tačiau DI atveju tai yra ne žinių kiekio, o veikimo principo pasekmė.

Paprasčiau tariant: DI atsako ne todėl, kad viską žino, o todėl, kad yra sukurtas atsakyti.

Kaip tai atrodo praktikoje

Šis mitas dažniausiai pasireiškia tokiose situacijose:

• DI pateikia neegzistuojančius mokslinius straipsnius ar šaltinius,
• sukuria netikslias statistikas, kurios atrodo realistiškos,
• atsako į labai siaurą ar naują temą, kurioje iš tiesų neturi pakankamai duomenų,
• „užpildo“ nežinomą informaciją, kad atsakymas būtų pilnas.

Visa tai jau mūsų aptartos – haliucinacijos.

4 mitas – DI pavogs visus darbus

Baimė, kad mašinos pakeis žmones, nėra nauja – ji lydėjo kiekvieną pramonės revoliuciją. Nors DI iš tiesų automatizuoja užduotis (generuoja tekstus, kuria programinius kodus, automatizuoja klientų aptarnavimą, ekspertai pabrėžia: darbo rinka ne susitrauks, o transformuosis. Tikrasis pavojus yra ne pats DI, o negebėjimas prie jo prisitaikyti. DI perima rutininius, techninius ir duomenų apdorojimo darbus. Tai leidžia žmogui susikoncentruoti į aukštesnės pridėtinės vertės kūrimą: strategiją, kūrybiškumą ir empatiją.

Paradoksalu, bet kuo daugiau technologijų turime, tuo vertingesnės tampa „žmogiškos“ savybės. Tuo pačiu svarbu suprasti, kad DI ne tik keičia esamus darbus, bet ir kuria visiškai naujas roles bei profesijas.

DI atveju jau dabar matome naujų darbo krypčių atsiradimą:

• specialistai, kurie dirba su DI įrankiais ir juos integruoja į verslo procesus,
• žmonės, atsakingi už DI generuojamo turinio tikrinimą, redagavimą ir kokybės kontrolę,
• ekspertai, kurie kuria, treniruoja ir prižiūri DI sistemas,
• rolės, kuriose svarbiausia tampa gebėjimas efektyviai „bendradarbiauti“ su DI.

Plačiau šį mitą analizavome ankstesniame straipsnyje: Ar dirbtinis intelektas atims jūsų darbą?

5 mitas – DI yra nešališkas ir neutralus

Kadangi DI remiasi duomenimis ir algoritmais, dažnai manoma, kad jis yra objektyvesnis už žmogų. Nėra emocijų, nėra asmeninių nuomonių, nėra interesų – vadinasi, sprendimai turėtų būti neutralūs. Tačiau tai netiesa.

DI objektyvumas yra iliuzija, kurią griauna trys pagrindiniai veiksniai:

1. Mokymo duomenų atspindys: DI mokosi iš interneto tekstų, knygų ir straipsnių, sukurtų per pastaruosius dešimtmečius. Jei šiuose duomenyse egzistuoja lyčių, rasių ar socialiniai stereotipai, algoritmas juos perima kaip „normą“. DI ne supranta etiką, o tiesiog atpažįsta dažniausiai pasikartojančius šablonus.
2. DI sustiprina esamus šališkumus: algoritmai linkę sustiprinti pastebėtus dėsningumus. Pavyzdžiui, jei istoriškai tam tikras pareigas dažniau užimdavo vyrai, DI atrankos įrankis gali pradėti automatiškai teikti pirmenybę vyriškos lyties kandidatams, net jei instrukcijose nurodyta vertinti tik kompetenciją.
3. Kūrėjų įtaka: nors programuotojai stengiasi įdiegti saugiklius, patys filtrai, kuriais bandoma „pataisyti“ DI šališkumą, taip pat yra subjektyvūs. Jie atspindi konkrečios įmonės ar kultūros vertybes.

Todėl svarbu suprasti: DI nėra neutralus stebėtojas, kuris „objektyviai“ vertina pasaulį. Jis atspindi duomenis, iš kurių mokėsi, ir sprendimus, kuriuos priėmė jo kūrėjai.

Apibendrinkime: mitai vs. realybė

Žemiau pateikiame lentelę, kurioje apibendriname šioje apžvalgoje išskirtus mitus:

Aptarti DI mitai mums parodo, kaip keičiasi mūsų pasaulis su technologiniu progresu. Jeigu anksčiau pagrindinis iššūkis buvo rasti informaciją, tai šiandien atsirinkti, kuri iš tiesų yra patikima, todėl reikalauja daugiau kritinio mąstymo nei bet kada anksčiau. O tik suprasdami pačią technologiją ir nebijodami ją priimti galime atsiriboti nuo klaidingų įsitikinimų, kurie dažnai kyla ne iš realių DI galimybių, o iš to, kaip mes jas interpretuojame.

D.U.K

Šaltiniai

• Tyrimas apie kalbos modelių veikimą ir rizikas: https://dl.acm.org/doi/10.1145/3442188.3445922
• Melburno universiteto mokslininko analizė apie istorinius DI mitus: https://findanexpert.unimelb.edu.au/news/135116-%E2%80%98artificial-intelligence%E2%80%99-myths-have-existed-for-centuries-%E2%80%93-from-the-ancient-greeks-to-a-pope%E2%80%99s-chatbot
• „TruthfulQA“ tyrimas apie DI pateikiamą klaidingą informaciją (haliucinacijas): https://arxiv.org/abs/2109.07958
• „OpenAI“ analizė apie tai, kodėl kalbos modeliai haliucinuoja: https://openai.com/index/why-language-models-hallucinate/