„OpenAI“ kūrėjo vizija: bunkeris nuo dirbtinio bendrojo intelekto

Dirbtiniam intelektui nuolatos progresuojant ir judant prie dirbtinio bendrojo intelekto („AGI“) sukūrimo, pasirodė Ilya Sutskeverio – „OpenAI“ vieno iš įkūrėjų ir „ChatGPT“ kūrėjo projektuoti planai, kuriuose jis numatė pastatyti slėptuvę įmonės mokslininkams, apsaugant juos nuo „AGI“ galimų grėsmių.

Nepasitiki savo kuriamomis technologijomis?

Pokalbio fragmentais šia tema viena pirmųjų pasidalino Karen Hao, kurios būsimoje knygoje „Empire of AI: Dreams and Nightmares in Sam Altman‘s OpenAI“ užsimenama apie 2023 m. vasarą vykusį pokalbį, kurio metu Ilya Sutskeveris išreiškė norą pastatyti bunkerį geriausiems tyrėjams, kad šie galėtų būti apsaugoti nuo „chaoso“, kuris kiltų dėl dienos šviesą išvydusio „AGI“. Šiuos dar neįgyvendintus planus patvirtina ir kiti vidiniuose susitikimuose dalyvavę asmenys.

Anot „Disclose.tv“, tokia idėja siekiama apsaugoti mokslininkus nuo geopolitinių neramumų, smurto atvejų „katastrofos“ metu, kuri tikėtina po naujos kartos dirbtinio intelekto išleidimo. Kita vertus, tai atspindi, jog pati „OpenAI“ nerimauja dėl potencialių grėsmių ir rodo, kad pati technologija galėtų kelti riziką visuomenei.

Tokius pasisakymus ir planus galima vertinti dvejopai. „OpenAI“ kūrėjas jau ne vieną kartą yra pagarsėjęs kaip asmenybė, kuri mėgsta akcentuoti mistinius technologijos aspektus, susiejant juos su moraliniais ir metafiziniais posakiais. Kita vertus, niekam nekyla klausimų, kad tokių pasaulinių mastu žinomų organizacijų ir produktų kūrėjas turi įspūdingus techninius įgūdžius, kurie leidžia jam įvertinti realias grėsmes.

Vidines baimes atspindi ir tai, kad Ilya Sutskeveris kartu su tuo metu „OpenAI“ vyriausiosios technologijų direktorės pareigas ėjusios Mira Murati įsitraukimu, laikinai buvo pašalinę generalinį „OpenAI“ direktorių, Samą Altmaną, iš pareigų dėl saugumo protokolų nepaisymo.

„AGI“ – ateities dirbtinio intelekto siekiamybė

„AGI“ technologija yra technologijų milžinų siekiamybė, kuri prilygs žmogaus lygio intelektui ir galės pilnai imituoti ir netgi pranokti žmogaus gebėjimus ir kognityviniame lygmenyje. Todėl nenuostabu, kad tokios diskusijos yra keliamos, nes vis daugėja pasisakymų apie tai, kad šios dirbtinio intelekto galimybės galėtų kelti grėsmę žmonijos išnykimui.

Nepaisant to, sunku spręsti, ar šie nuogąstavimai iš tiesų yra pagrįsti, nes ekspertai nesutaria kokiame etape dar yra ši technologija ir kiek dar laiko liko iki minėtų galimybių realizavimo. Taip pat vis garsiau kalbama ir apie tai, kad dirbtinis intelektas būtų kuriamas atsakingai, užtikrinant griežtus saugumo apribojimus, bet kurioje jos panaudojimo srityje.

Ta pati „OpenAI“ pristatė naujus technologijos priežiūros metodus – minčių grandinės („CoT“) stebėjimo procesą, kuris leistų užtikrinti tokių sistemų samprotavimo skaidrumą ir patikimumą.