DI „krikštatėvis“ prisipažino meluojantis pokalbių robotams: atskleidė priežastį

Vienas iš keleto dirbtinio intelekto (DI) krikštatėvių Yoshua Bengio pokalbio metu atskleidė, kad dažnai meluoja jo paties sukurtai technologijai. Visgi, ši gudrybė yra sąmoninga, o mokslininkas, padėjęs pamatus DI, atskleidė, kodėl yra priverstas imtis apgaulės.

Pasidalijo gudrybe

Kalbėdamas „The Diary Of A CEO“ tinklalaidės serijoje, kurioje buvo aptariamos technologijos grėsmės susijusios su agentinėmis funkcijos, robotais ir kibernetiniais nusikaltimais, DI „krikštatėvis“ atskleidė, kad kartais meluoja su juo bendraujančiam modeliui.

Anot mokslininko, taip jis siekia gauti sąžiningus atsakymus. Šiuolaikiniai pokalbių robotai, kaip „ChatGPT“, „Claude“ ar „Gemini“, yra suprogramuoti taip, kad būtų itin paslaugūs ir malonūs vartotojui, tačiau tai bene pagrindinis apribojimas objektyvumo išlaikymui.

Melas vardan tiesos

Informatikas sako, kad jei DI žino, jog bendrauja su garsiuoju Yoshua Bengio, pokalbių robotas tampa nekritiškas. Jis pritaria kiekvienai minčiai, giria idėjas ir vengia nurodyti kritiškesnes pastabas. Priežastis paprasta – noras įtikti.

DI „krikštatėvis“ pridūrė, kad siekdamas to išvengti, jis sąmoningai pristato savo klausimus ir idėjas taip, tarsi jie būtų kito asmens. Taip sistema mažiau pataikauja ir dažniau pateikia kritišką atsakymą.

Viena iš problemų

Mokslininkas įvardija, kad šis reiškinys vadinamas „sycophancy“ – pataikavimo tendencija. Čia atsispindi gilesnė problema šiuolaikiniuose pokalbių robotuose. Dažnai jie pasirenka ne objektyviai įvertinti situaciją, bet pateikti atsakymus, kuriuos nori išgirsti vartotojas.

Bet tai ne vienintelė problema. Toks elgesys gali sukelti emocinį žmonių prisirišimą prie automatizuotų sistemų.

Padėjo pamatus technologiniam progresui

Yoshua Bengio yra vienas iš trijų dažnai įvardijamų DI „krikštatėvių“. Šalia jo yra kiti du mokslininkai: Geoffrey Hintonas ir Yannas LeCunu. Mokslininkas padėjo pamatus dirbtinių neuronų tinklų ir gilaus mokymosi srityse.

Jis yra ir dažniausiai cituojamas kompiuterių mokslininkas pasaulyje. Šių metų lapkritį jis tapo pirmuoju tyrėju, turinčiu daugiau nei milijoną citavimų.

Nors ir pats DI „krikštatėvis“ prisidėjo prie to, kad ši technologija šiandien mus pasiektų, jis nevengia kritikos ir neslepia galimų pavojų. Apie tai, kaip anksčiau rašėme, aktyviai kalba ir jo kolega Geoffrey Hintonas.

DAUGIAU SKAITYKITE: Dirbtinio intelekto „krikštatėvis“ skelbia šiurpinantį įspėjimą: žmonija praras kontrolę