Dirbtinio intelekto „krikštatėvis“: turiu planą kaip apsaugoti žmoniją nuo superintelekto

Vienas dirbtinio intelekto (DI) pradininkų Geoffrey Hintonas, dažnai vadinamas „DI krikštatėviu“, pasiūlė strategiją, kaip išgelbėti žmoniją nuo spartaus šios technologijos vystymosi pasekmių. Žmogus, padėjęs sukurti DI, dabar pats nori žmones nuo jo išgelbėti, o konferencijoje mokslininkas pasiūlė vieną būdą, kuris sušvelnins technologijos keliamą grėsmę.

DI turės didžiulių pasekmių

Mokslininkas Geoffrey Hintonas vykusioje pramonės konferencijoje „Ai4” Las Vegase dalijosi mintimis apie ateityje numanomą grėsmę žmonijai dėl nuolatos pažangą rodančio DI.

Kalbėdamas jis perspėjo, kad technologija gali turėti katastrofiškų pasekmių, kai kalbame apie superintelektą, kuris pranoks žmogaus ribas, o dėl to yra ir 10-20% tikimybė žmonijos išnykimui.

Mokslininkas skeptiškai vertino technologijų įmonių strategijas, kuriose atsiranda siekis išlaikyti žmogiškuosius išteklius pažangių DI sistemų valdymo akivaizdoje. Šiuos nuogąstavimus jis iliustravo šiuo pasisakymu:

„Tai neveiks. Jie bus daug protingesni už mus. Jie turės visokių būdų, kaip tai apeiti.“

Remdamasis jau dabar pasaulį sukrėtusiais atvejais, susijusiais su DI modelių apgaudinėjimu, manipuliavimu žmonėmis ar sukčiavimu, Geoffrey Hintonas tikina, kad autonomiškų technologijų ateitis prilygs „suaugusiojo papirkinėjimu vaiką saldainiais“.

Žmoniją išgelbės netradicinis požiūris

Konferencijos metu mokslininkas pateikė netikėtą pasiūlymą – norint išvengti katastrofiškų pasekmių ir užuot bandžius iškelti DI dominavimą, inžinieriai turi suteikti šioms technologijoms „motiniškus instinktus“. Šiuo atveju jos turėtų norą visados nuoširdžiai rūpintis žmonėmis – net ir tada, kai pranoks žmogaus intelektą. Anot jo, tai gali būti raktas į sėkmę, kai DI neatsisuks prieš žmoniją.

DI „krikštatėvis“ įspėja, kad šių veiksmų imtis būtina, nes agentines funkcijas turinčią technologiją bus sunku  suvaldyti įprastiniais kontrolės metodais, o ji savaime išsiugdys du norus: bet kokiu tikslu išlikti gyvai ir įgyti daugiau kontrolės.

Naujosios strategijos idėją mokslininkas iliustravo motinos ir sūnaus pavyzdžiu – motina, būdama gabesnė už vaiką, yra skatinama turimo instinkto puoselėti ir saugoti jį. O tokio „rūpesčio“ įskiepijimas DI paskatintų jo norą „nenorėti pamatyti žmonių žūties“.

Geoffrey Hintono darbas neuroninių tinklų srityje turėjo tvirtą pamatą šiuolaikinės technologijos vystymosi kelyje. Prieš keletą metų mokslininkas paliko „Google“, kad galėtų atvirai su visuomene aptarti įmanomas grėsmes. Kiek anksčiau jis dalijosi įspėjimais, kad žmonija yra ties riba, kurioje DI jiems kelią egzistencinę krizę.