Įspėja dėl dirbtinio intelekto „kanibalizmo“ – kas ši grėsmė?

Dirbtinio intelekto (DI) eroje mokslininkai vis dažniau kalba apie naują grėsmę – situaciją, kai DI pradeda mokytis daugiausia iš kitų sistemų sugeneruoto turinio. Tyrėjai perspėja, kad toks uždaras duomenų ciklas ilgainiui gali lemti vadinamąjį „model collapse“ reiškinį, kai DI įrankiai pradeda generuoti vis daugiau klaidų, netikslumų ar sunkiai paaiškinamų atsakymų. Kai kurių ekspertų teigimu, tai gali įvykti jau šiemet. Visgi naują analizę atlikę Londono karališkojo koledžo ir kitų institucijų mokslininkai teigia radę būdą, kuris teoriškai galėtų padėti šios problemos išvengti.

Kodėl mokslininkai kalba apie DI „kanibalizmą“?

Pastaraisiais metais generatyvinio DI sistemos, tokios kaip „ChatGPT“ ar „Google“ kuriami  „Gemini“ modeliai, buvo treniruojamos naudojant milžiniškus kiekius žmonių sukurto interneto turinio – straipsnius, forumų įrašus, knygas ar nuotraukas.

Tačiau internete sparčiai daugėja jau pačių sistemų generuojamo turinio. Dėl to atsiranda rizika, kad būsimi modeliai vis dažniau mokysis ne iš realių žmonių sukurtos informacijos, o iš ankstesnių DI atsakymų.

Mokslininkai šį reiškinį vadina savotišku „dirbtinio intelekto kanibalizmu“. Kitaip tariant, sistemai pradedant naudoti savo pačios sugeneruotus duomenis, gali suprastėti rezultatų kokybė.

Ieško būdų, kaip sustabdyti problemą

Londono karališkojo koledžo, Norvegijos mokslo ir technologijų universiteto bei Tarptautinio teorinės fizikos centro mokslininkai naujame tyrime aiškinosi, ar įmanoma sustabdyti vadinamąjį šį procesą dar prieš jam tampant rimta problema.

Tyrėjai analizavo ne sudėtingai perprantamus didžiuosius kalbos modelius, o paprastesnius statistinius modelius, kurie leido tiksliau stebėti, kaip sistema elgiasi uždarame mokymosi cikle – tuomet, kai DI mokomas beveik vien iš savo paties sugeneruotų duomenų.

Mokslininkų teigimu, tokioje aplinkoje modeliai ilgainiui pradeda prarasti gebėjimą tiksliai atspindėti realų pasaulį, o atsakymuose daugėja netikslumų ir haliucinacijų.

Vis dėlto tyrimo rezultatai parodė ir galimą sprendimą. Mokslininkai nustatė, kad net itin mažas kiekis „išorinių“ žmogaus sukurtų duomenų gali padėti stabilizuoti sistemą ir neleisti jai suprastėti.

Pasak tyrėjų, kai kuriais atvejais pakako vos vieno papildomo realaus duomenų taško, kad modelis nepradėtų generuoti vis prastesnių rezultatų, net jei likusi mokymosi medžiaga buvo sudaryta iš milžiniško kiekio sugeneruoto turinio.

TAIP PAT SKAITYKITE: Kodėl dirbtinio intelekto atsakymai kartais skamba įtikinamai, bet yra klaidingi

Poveikis kasdienybėje – didžiulis

Mokslininkai perspėja, kad ši problema gali paliesti ne tik pokalbių robotus ar technologijų bendroves. Vis daugiau žmonių DI naudoja informacijos paieškai, darbui, mokslams ar kasdieniams sprendimams. Technologija taip pat integruojama autonominiame transporte, medicinoje ir kitose jautriose srityse, todėl sistemų tikslumas tampa vis svarbesnis.

Jei ateities modeliai vis dažniau mokytųsi iš kitų DI sugeneruoto turinio, internete galėtų daugėti pasikartojančios, netikslios ar klaidinančios informacijos. Ilgainiui tai apsunkintų galimybę atskirti, kas paremta realiais duomenimis, o kas tėra kitų sistemų pakartoti netikslumai.

Tyrėjų teigimu, būtent todėl žmogaus kuriamas turinys ateityje gali tapti viena svarbiausių kokybiško DI sąlygų. Augant sintetinio turinio kiekiui internete, klausimas, kuo dar galima pasitikėti skaitmeninėje erdvėje, gali tapti vienu svarbiausių DI eros iššūkių.