Ekspertai įspėja: dirbtinis intelektas bet kada galėtų įžiebti branduolinį karą

Pastaruoju metu, augant dirbtinio intelekto integracijai įvairiose srityse, jo pagrindu sukurtos sistemos pradedamos testuoti karinių vaizdo žaidimų simuliacijose, siekiant analizuoti sprendimų priėmimo procesus. Ekspertai įspėja, kad rezultatai neramina, o ir stebima aiški tendencija – dirbtinis intelektas ateityje turės galimybę aktyvuoti branduolinius ginklus pats arba žmonės bus pernelyg priklausomi nuo jo atsakymų, kad aklai priims sprendimus jų net neanalizavę.

Integravimas kariniuose procesuose kelia grėsmę

Viename iš „Politico“ straipsnių Stanfordo universiteto karinių žaidimų ir krizių modeliavimo iniciatyvos direktorė Jacquelyn Schneider pasakoja, išbandžiusi dirbtinio intelekto sistemų reakciją į karinius žaidimus. Žaidimuose penki didžiausi standartiniai modeliai, įskaitant „GPT-4“ ar „Claude 2”, susidūrė su išgalvotomis krizinėmis situacijomis, kurios priminė Rusijos invaziją į Ukrainą arba Kinijos konfliktą su Taivanu.

Pasak jos, plačiai paplitęs siekis integruoti šią technologiją kiekviename karinio sprendimo priėmimo lygmenį sukuria itin „slidų šlaitą“, kuriame tokie autonomiški sistemų sprendimai ateityje gali būti žmonių sukontroliuojami vis sunkiau.

J. Schneider pripažįsta, kad viena didžiausių šios situacijos silpnybių yra susijusi su tuo, kad niekas dar iki galo nesupranta, kaip veikia dirbtinis intelektas. Atlikti bandymai su kariniais vaizdo žaidimais atskleidžia, kad tokių pratybų metu sistema yra linkusi eskaluoti konfliktus iki „apokaliptinio“ lygio, kurį tuo tarpu žmonės jau būtų spėję nuraminti: „atrodo, kad dirbtinis intelektas supranta eskalaciją, bet ne deeskalaciją. Mes iš tikrųjų nežinome, kodėl taip yra“.

Ekspertai atskleidžia, kad šios tendencijos gali atspindėti liūdną ateities grėsmę – branduoliniuose sprendimuose šios technologijos veiks autonomiškai, joms nereikės žmonių sprendimų, o rezultate matysime agresyvius karinius procesus.

Skuba raminti, bet abejonės vis dar lieka

Tuo tarpu ekspertai iš Pentagono skuba kritikuoti drąsias ekspertų diskusijas ir teigia, kad realiame gyvenime taip niekada nenutiks, nes dirbtiniam intelektui nebus leidžiama dominuoti žmogaus sprendimų priėmimo cikle, ypatingai sprendžiant karinius klausimus.

Visgi, tie patys ekspertai abejoja šiais pareiškimais – Pentagonas jau dislokuoja naujausios kartos dirbtinį intelektą kaip pagrindinę JAV gynybos plėtros dalį, įrodant savo pažangą visame pasaulyje ir reaguojant prieš Rusijos ir Kinijos ambicijas, taip pat įgalinant šias sistemas. Visgi, kol kas nėra ir jokių aiškių gairių, kurios nurodytų, kaip dirbtinis intelektas turėtų būti integruojamas branduolinių procesų valdyme, o tai dar kelia daugybę neatsakytų klausimų.

Branduolinė grėsmė gynybos sektoriuje yra viena iš pavojingiausių ir akylai stebimų sričių. Dar metų pradžioje Kremlius grasino Vakarams „branduoline žiema“, o kiek vėliau pasirodė žinios, kad Kinija stato milžinišką ketvirtos kartos branduolinį lėktuvnešį.