Dirbtinio intelekto „krikštatėvis“ skelbia šiurpinantį įspėjimą: žmonija praras kontrolę

Dirbtinio intelekto (DI) „krikštatėviu“ vadinamas Geoffrey Hintonas išsakė šiurpinančią žinią – jo sukurtos technologijos užvaldys pasaulį, ir nėra jokios galimybės to sustabdyti. Šis Kanadoje dirbantis britų mokslininkas sakė, kad bijo, jog „superintelektualūs ir psichopatiški“ pokalbių robotai suvoks, kad jų pasaulyje iš žmonių nėra jokios naudos.

Grėsmė ar neišvengiama ateitis?

Pasak G. Hintono, DI – kuris bus daug protingesnis už žmones – perims planetos kontrolę. Jis sukels masinį nedarbą, naikindamas žmonių darbo vietas didžiuliais mastais.

Žmonės bus išmesti į perteklinį pasaulį, kur jų gyvenimai be jokios prasmės bus visiškai kontroliuojami jų „robotų šeimininkų.

78 metų amžiaus G. Hintonas sakė, kad būtų logiška sustabdyti DI vystymąsi, kad būtų išvengta distopinės katastrofos.

Naujame interviu jis teigė, kad to niekada nebus, nes didžiausios pasaulio kompanijos yra beprotiškai pasiryžusios taupyti pinigus, naudodamos vis pažangesnį DI.

Pasak jo, vienintelė gera žinia yra ta, kad robotai mūsų nesuės, nes – būdami silicio pagrindu, – žmonių mityba jiems ne itin tiktų.

Kita vertus, G. Hintas prašė pasaulio sukurti apsaugas, kurios sustabdytų technologiją tapus pavojinga, jei ji patektų į netinkamas rankas.

Išėjo iš „Google“, kad perspėtų pasaulį

G. Hintonas, pažintinės psichologijos mokslininkas ir dirbtinių neuroninių tinklų pradininkas, dešimt metų dirbo „Google“, kol išėjo iš šios kompanijos, kad galėtų viešai kalbėti apie DI grėsmes. 

Praėjusiais metais jam įteikta Nobelio fizikos premija už atradimus, leidžiančius mašininiam mokymuisi remtis dirbtiniais neuroniniais tinklais. 

Dokumentiniame filme „Making God“ jis įspėja apie dirbtinio bendrojo intelekto (AGI) – DI su žmogaus pažinimo gebėjimais – pavojus. G. Hintonas šiame filme ragina nebežiūrėti į tai, kaip žmonija naudos DI technologiją, o susimąstyti, ką ji padarys mums.

Anot jo, dauguma žmonių nesuvokia idėjos, kad gali būti dalykų, protingesnių už mus, ir neįvertina, kaip DI mus panaudos.

G. Hintonas įsitikinęs, kad DI jau kelia masinį nedarbą ir kapitalistinėje visuomenėje didieji darbdaviai, kaip „Microsoft“, pakeis žmones su DI, kad taupytų atlyginimuose. 

Jo didžiausia įspėjama rizika, nors daug kam atrodo kaip mokslinė fantastika, yra reali. Tai yra, kad DI, protingesnis už mus, gali perimti kontrolę. Vienintelė mūsų viltis – kurti saugų DI ir rūpintis jo valdymu.

Kada DI taps per daug pavojingas?

Prieš dvejus metus G. Hintonas kartu su 23 mokslininkais parengė politikos pasiūlymą, kuriame pasmerkė nekontroliuojamą galingo DI kūrimą. 

Jie įspėjo, kad technologijų milžinai vysto DI greičiau, nei sugeba užtikrinti jo saugumą, ir paragino jas prisiimti atsakomybę už galimą žalą. 

Ekspertai siūlo, kad trečdalis tyrimų finansavimo būtų skirta saugiam ir etiškam DI taikymui, o pažangiausi modeliai turėtų būti licencijuojami dar prieš jų kūrimą. 

Taip pat, anot jų, būtinas nepriklausomas auditas, incidentų pranešimo sistema ir reguliavimo priemonės, leidžiančios sustabdyti pavojingų sistemų plėtrą. .

Jie įspėjo, kad jei sukursime itin pažangų autonominį DI, rizikuojame, kad jis sieks tikslų, visiškai nesuderinamų su žmonijos interesais.

Anksčiau rašėme, kaip G. Hintonas įspėjo žmoniją, kad galime būti arti išlikimo pabaigos. Sužinokite daugiau šiame straipsnyje.