„DI krikštatėvis“ perspėja: liko vos metai suvaldyti dirbtinį intelektą

Sekite TechNaujienos Google

Dirbtinio intelekto (DI) tyrimų pradininku vadinamas Geoffrey Hintonas rugsėjo 16 d. po susitikimo su JAV Kongreso nariais perspėjo, kad įstatymų leidėjams gali būti likę maždaug metai įdiegti veiksmingas DI saugumo priemones. Jo vertinimu, toliau sparčiai tobulėjant sistemoms, vėliau jas kontroliuoti gali tapti gerokai sunkiau.

2024 m. Nobelio fizikos premijos laureatas su kitais tyrėjais dalyvavo uždarame susitikime su abiejų JAV Kongreso rūmų įstatymų leidėjais. Vėliau žurnalistams jis teigė, kad politiniams sprendimams priimti gali būti likę „galbūt metai, bet nedaug daugiau nei metai“. Jo pasisakymą galima pamatyti vaizdo įraše.

Hintono aiškinimu, itin pažangaus dirbtinio intelekto atsiradimo prognozės pastaraisiais metais smarkiai trumpėjo: kadaise buvo kalbama apie kelis dešimtmečius, o dabar dalis tyrėjų mini vos kelerius metus. Vis dėlto tarp specialistų nėra vienos sutartos datos, kada galėtų atsirasti už žmogų daugelyje sričių pranašesnis DI, ir šie scenarijai išlieka neapibrėžti.

PAMATYKITE MŪSŲ SUSIJŲSĮ VAIZDO REPORTAŽĄ: Kas sukūrė dirbtini intelektą?

Naujausi straipsniai

4 min. skaitymo • prieš 47 minutės

Į Europos gatves išriedės 25 tūkst. autonominių taksi

3 min. skaitymo • prieš 56 minutės

J. T. Vaižganto garbei pavadintas asteroidas

3 min. skaitymo • prieš 58 minutės

Mėnulyje aptiktas naujas milžiniškas krateris: toks smūgis nutinka vos kartą per šimtmetį

Visi naujausi straipsniai →

Tai ne pirmas Hintono įspėjimas dėl technologijų plėtros tempo. Anksčiau rašėme, kad „DI krikštatėvis“ perspėjo apie sunkiai sustabdomas dirbtinio intelekto lenktynes. Naujausiame pasisakyme jis akcentavo ne vien pačių modelių galią, bet ir tai, kiek laiko valdžios institucijos turi susitarti dėl jų priežiūros.

Kodėl Hintonas kalba apie prarandamą kontrolę?

Vienas svarbiausių jo įvardijamų veiksnių – vadinamasis rekursinis savęs tobulinimas. Tai scenarijus, kai DI sistemos prisideda prie vis pajėgesnių DI sistemų kūrimo, todėl pažanga gali spartėti. Po susitikimo Hintonas sakė, kad DI jau pasiekė stadiją, kai padeda kurti geresnį DI, ir ragino sulėtinti tempą bei nustatyti saugiklius.

Tokie teiginiai nereiškia, kad savarankiškas nekontroliuojamas superintelektas jau egzistuoja. Tai perspėjimas apie galimą tolesnę raidą ir riziką, kurią, Hintono nuomone, reikia vertinti iš anksto. DI įmonės ir tyrėjai skirtingai vertina tiek šios technologinės pažangos terminus, tiek tinkamiausias priežiūros priemones.

Susitikimo kontekste JAV politikai taip pat aptarė neseniai viešai aprašytą incidentą, susijusį su DI agentais ir „Hugging Face“ platforma. Apie jo reikšmę kalbėjo Kongreso narys Tedas Lieu, o Hintonas pavartojo „mažojo Černobylio“ palyginimą. Šį apibūdinimą pateikė pats mokslininkas – jis nėra oficiali incidento klasifikacija ar įrodymas, kad įvyko plataus masto katastrofa.

Ką ketina daryti JAV įstatymų leidėjai?

Susitikimą su mokslininkais surengė senatorius Bernie Sandersas, pakvietęs abiejų partijų atstovus. Kongrese svarstomos įvairios idėjos, tarp jų reikalavimas pažangių DI sistemų kūrėjams išsaugoti techninę galimybę sustabdyti pavojingus modelius. Tokio pobūdžio iniciatyvą pristatė Atstovų Rūmų nariai Tedas Lieu ir Nathanielis Moranas. Tačiau vien galimybė išjungti sistemą dar negarantuoja, kad visos galimos rizikos bus pašalintos.

Įstatymų leidėjų požiūriai skiriasi: vieni ragina greičiau priimti naujus saugumo reikalavimus, kiti kelia klausimų dėl jų veiksmingumo, apimties ir poveikio inovacijoms. Todėl pats Hintono nurodytas terminas dar nereiškia, kad Kongresas per metus priims konkretų įstatymą ar kad po šio laikotarpio reguliavimas bus beprasmis.

Diskusija vyksta ne tik Jungtinėse Valstijose. Apie galimas pažangaus DI grėsmes ir tarptautinio koordinavimo poreikį jau perspėjo ir Jungtinių Tautų atstovai – plačiau apie tai rašėme publikacijoje „Jungtinės Tautos kreipiasi į žmoniją: nesame apsaugoti nuo dirbtinio intelekto sukeltos katastrofos“.

Esminė naujojo Hintono pasisakymo žinia – jo vertinimu, laikas susitarti dėl DI priežiūros gali būti trumpesnis, nei politikai įpratę planuoti. Ar jo perspėjimas dėl vienų metų pasitvirtins, šiuo metu nežinoma.