Kodėl dirbtinio intelekto atsakymai kartais skamba įtikinamai, bet yra klaidingi

Dirbtinio intelekto (DI) pokalių robotų atsakymai vis dažniau naudojami ne tik smalsumui patenkinti, bet ir sprendimams priimti – nuo mokymosi iki darbo ar finansinių klausimų. Tačiau kartais DI pateikia netikslią informaciją labai užtikrintu tonu, sukurdami klaidingą patikimumo įspūdį. Šis reiškinys kyla ne iš ketinimo klaidinti, o iš pačio technologinio veikimo principo.

Pagrindinė priežastis yra ta, kad dauguma šiuolaikinių DI sistemų yra sukurtos generuoti tikėtiną, sklandų tekstą, o ne tikrinti faktus realiuoju laiku. Modeliai mokomi iš didžiulių tekstinių duomenų rinkinių, kuriuose susimaišo tiek patikima, tiek netiksli informacija. Dėl to DI gali pateikti įtikinamai skambantį atsakymą net tada, kai jo faktinis pagrįstumas yra abejotinas.

Kalbos modeliai remiasi statistiniais ryšiais tarp žodžių ir sakinių, prognozuodami, koks tekstas tam tikrame kontekste atrodo labiausiai tikėtinas. Jie neturi vidinio mechanizmo, kuris savaime atskirtų faktą nuo klaidos ar patikrintų teiginį pagal patikimus šaltinius.

Užtikrintas tonas atsiranda todėl, kad modeliai mokomi imituoti aiškią, nuoseklią žmogaus kalbą. Tokia kalbinė struktūra sukuria patikimumo jausmą, net jei pateikiama informacija nėra tiksli.

Ką tai reiškia vartotojams

Vartotojams tai reiškia, kad DI pateikta informacija gali atrodyti teisinga vien dėl savo pateikimo formos. Tai ypač svarbu srityse, kur sprendimai turi realias pasekmes – moksle, technologijose, finansuose ar sveikatos moksluose. Neužtikrinta ar klaidinga informacija, naudojama be papildomo tikrinimo, gali lemti neteisingus sprendimus.

Dėl šios priežasties specialistai rekomenduoja DI naudoti kaip pagalbinį įrankį, o ne galutinį informacijos šaltinį. Kritinis vertinimas ir pirminių šaltinių tikrinimas išlieka būtini.

Technologijų bendrovės pripažįsta šį ribotumą ir diegia papildomas priemones – šaltinių nurodymą, integruotą paiešką ar faktų tikrinimo sistemas. Nors tai padeda sumažinti klaidų riziką, pats DI veikimo pagrindas vis dar orientuotas į kalbos generavimą, o ne absoliutų faktų patikrinimą.

Todėl užtikrintai skambantis DI atsakymas neturėtų būti laikomas galutine tiesa. Jis gali būti naudingas kaip pradinis orientyras, tačiau atsakomybė už informacijos patikimumą vis dar tenka pačiam vartotojui.