„Perdėta baimė“: kol DI ekspertai masiškai perspėja apie pavojų žmonijai, Muskas ramina

Sekite TechNaujienos Google

Perspėjimų apie dirbtinio intelekto keliamą riziką pastarosiomis dienomis daugėja taip sparčiai, kad tai jau sunku vadinti pavienėmis nuomonėmis. Apie galimą katastrofišką pažangių DI sistemų poveikį kalba ne tik technologijų kritikai ar akademikai – vis garsiau prabyla patys žmonės, kuriantys ir prižiūrintys pažangiausius modelius.

Tuo metu Elonas Muskas viešai abejoja, ar ši perspėjimų banga nėra perdėta ar net sąmoningai kurstoma. Jo reakcija dar labiau išryškino jau seniai bręstantį konfliktą DI industrijoje: vieni ragina kuo greičiau stiprinti kontrolę, kiti mano, kad visuomenė bauginama scenarijais, kurių tikimybė nėra aiški.

Perspėja jau ne vienas ar du tyrėjai

Šią savaitę diskusiją vėl įžiebė buvęs „Anthropic“ ir „OpenAI“ tyrėjas Jacobas Coxonas. Palikdamas „Anthropic“, jis pareiškė, kad didžiosios laboratorijos juda link save tobulinti galinčio superintelekto, nors, jo teigimu, patys specialistai nėra tikri, kad tokias sistemas sugebės kontroliuoti. Apie jo perspėjimą „Technaujienos.lt“ jau rašė anksčiau.

Coxono perspėjimą netrukus papildė ir kiti „Anthropic“ specialistai. DI saugos ir pažangių sistemų elgseną tiriantis Evanas Hubingeris viešai teigė manantis, kad tikimybė, jog pažangus DI per artimiausią dešimtmetį sukels žmonijos išnykimą, yra didesnė nei 10 proc. Kitas „Anthropic“ tyrėjas Samuelis Marksas taip pat pareiškė, kad DI kūrėjai rimtai vertina scenarijus, kuriuose technologija gali sukelti žmonijos išnykimą ar panašaus masto žalą.

Naujausi straipsniai

3 min. skaitymo • prieš 1 minutė

Kremlius perspėjo Lietuvą: branduolinių ginklų dislokavimas reikš „atsakomąsias priemones“

4 min. skaitymo • prieš 2 val

Pirmasis elektrinis „Range Rover“ atvyko: nustebino pravažumu – įveikia 90 cm gylio brastą

2 min. skaitymo • prieš 22 val

Naujasis „Apple Watch“ parodys jūsų „sveikatos amžių“

Visi naujausi straipsniai →

Dar svarbiau tai, kad panaši pozicija skamba ir „OpenAI“ valdymo struktūroje. Rugsėjo 9 d. „OpenAI“ paskelbė, kad prie jos fondo valdybos ir Saugumo bei apsaugos komiteto prisijungė DI saugos tyrėjas Paulas Christiano. Pats „OpenAI“ pristatyme pabrėžė, kad Christiano rimtai vertina galimybę, jog pažangios DI sistemos gali sukelti katastrofišką riziką, ir ilgą laiką vertino, ar industrijos apsaugos priemonės yra pakankamos.

Ši perspėjimų banga neatsirado vakuume. „Technaujienos.lt“ jau rašė, kad Jungtinės Tautos perspėjo apie nepakankamą pasirengimą galimai DI sukeltai katastrofai. Atskirai skelbta ir apie „kognityvinės atrofijos“ riziką, jei žmonės pernelyg didelę dalį mąstymo ir sprendimų perduos algoritmams.

Prie to prisideda ir konkretesni techniniai signalai. Nauji tyrimai rodo, kad pažangesnės sistemos tam tikrose situacijose gali vis dažniau ignoruoti ar apeiti joms nustatytus apribojimus, o kitame tyrime nustatyta, kad DI kai kuriose situacijose jau gali įtikinti žmones efektyviau nei kiti žmonės.

Pačios DI laboratorijos taip pat skelbia apie realius incidentus. „Anthropic“ rugsėjo 9 d. paskelbė vertinimą apie keturis atvejus, kai „Claude“ modeliai gavo neautorizuotą prieigą prie realių trečiųjų šalių sistemų. Bendrovė nurodo, kad po tokių incidentų išplėtė savo patikras iki šimtų milijonų sąveikų įrašų.

Muskas abejoja – bet pats nėra neutralus stebėtojas

Elonas Muskas į naujausius „Anthropic“ darbuotojų perspėjimus sureagavo skeptiškai. Savo įraše platformoje „X“ jis teigė manantis, kad tam tikras pagrindas tokiai baimės kampanijai buvo ruošiamas jau seniai, o naujausi perspėjimai tapo tik kibirkštimi, kuri ją išplėtė. Kitaip tariant, Muskas abejoja ne vien konkrečiais tyrėjų teiginiais, bet ir tuo, kaip ši tema pateikiama visuomenei bei politikams.

Tačiau Musko poziciją taip pat reikia vertinti kontekste. Jis vadovauja savo DI bendrovei xAI ir konkuruoja su „OpenAI“, „Anthropic“ bei kitais didžiaisiais žaidėjais. Kitaip tariant, tai nėra nepriklausomo eksperto vertinimas iš šalies – tai vieno didžiausių DI lenktynių dalyvių pozicija.

Be to, pats Muskas anksčiau ne kartą yra kalbėjęs apie reikšmingą DI keliamą egzistencinę riziką ir raginęs stiprinti priežiūrą. Todėl dabartinė jo reakcija labiau rodo ne tai, kad rizikos nėra, o ginčą dėl to, kaip ji komunikuojama ir kokios politinės išvados iš jos daromos.

Šiandien svarbiausias klausimas nebėra vien tai, ar dirbtinis intelektas teoriškai gali tapti pavojingas. Daug įdomiau tai, kad vis daugiau žmonių pačiose pažangiausiose laboratorijose viešai pripažįsta, jog neturi visiškai patikimo atsakymo, kaip kontroliuoti gerokai galingesnes sistemas, jei jos pradėtų veikti ne taip, kaip tikėtasi.

Būtent čia ir slypi dabartinio konflikto esmė: vieni mano, kad garsūs perspėjimai yra būtini, nes technologijų galimybės auga greičiau nei saugos mechanizmai. Kiti baiminasi, kad katastrofiniai scenarijai tampa politiniu įrankiu. Kol kas aišku viena – perspėjimai apie DI riziką jau nebėra marginali tema. Jie persikėlė į pačių didžiausių DI kompanijų laboratorijas, valdybas ir viešus ginčus tarp jų vadovų.