Mokslininkai paprašė DI sukurti biologinį ginklą – tai, ką gavo, sukėlė nerimą

Dirbtinio intelekto (DI) pokalbių robotai kai kuriais atvejais gali pateikti detalius biologinių atakų ir jų ginklų kūrimo scenarijus. Pastaraisiais metais atlikti mokslininkų saugumo testai patvirtina, kad net plačiai prieinami modeliai geba paaiškinti, kaip modifikuoti patogenus ir kaip juos būtų galima paskleisti, skelbia su mokslininkų darbų rezultatais susipažinęs leidinys „The New York Times“.

Testai atskleidžia neraminančią tiesą

„The New York Times“ analizėje teigiama, kad populiarūs pokalbių robotai kaip „ChatGPT“, „Gemini“ ar „Claude“ tam tikromis sąlygomis gali pateikti jautrią ir potencialiai pavojingą informaciją, susijusią su biologiniais procesais.

Analizėje pateikiami konkretūs testų pavyzdžiai rodo, kad šie modeliai neapsiriboja bendro pobūdžio paaiškinimais. Kai kuriais atvejais jie pateikė nuoseklius atsakymus apie tai, kaip būtų galima įsigyti genetinę medžiagą, ją apdoroti ir teoriškai panaudoti pavojingiems tikslams.

Viename iš testų mikrobiologas dr. Davidas Relmanas, vertinęs vieną DI sistemą, kurios nepanoro atskleisti, prieš jos paleidimą, gavo atsakymus, kurie, jo teigimu, peržengė lūkesčius. Pasak jo, pokalbių robotas ne tik reagavo į užduotus klausimus, bet ir pats pateikė papildomų scenarijų, įskaitant galimus patogenų modifikavimo, platinimo būdus ir net galimas infrastruktūrines spragas.

Nuo informacijos iki veiksmų plano

Analizėje pateikiami keli kiti konkretūs atvejai. Pavyzdžiui, „Gemini“ viename pokalbyje pateikė penkių patogenų, galinčių pakenkti galvijų pramonei, sąrašą ir net įvertino galimą ekonominę žalą. Vieną iš jų sistema apibūdino kaip „istoriškai katastrofišką“.

Kitu atveju tas pats modelis aiškino, kaip pavojingas biologines medžiagas būtų galima pernešti per oro uostų saugumo patikras nepastebėtai. Tokie atsakymai, ekspertų teigimu, rodo ne tik informacijos pateikimą, bet ir strateginį mąstymą.

Ne mažiau dėmesio sulaukė ir „ChatGPT“ atsakymai. Viename eksperimente jis iš pradžių atsisakė padėti modeliuoti biologinių medžiagų sklaidą, įspėdamas apie galimą žalą, tačiau vėliau vis tiek pateikė modelį, kaip konkrečios dalelės galėtų pasklisti virš didelio miesto naudojant oro sroves.

Tuo metu „Claude“ pateikė pasiūlymą, kaip būtų galima sukurti naują toksiną, skirtą gyvūnų populiacijai kontroliuoti.

Naujas rizikos lygmuo

Biologinių ginklų kūrimas iki šiol reikalavo aukšto lygio specialių žinių, laboratorinės patirties ir prieigos prie ribotos informacijos. Tuo tarpu DI sistemų plėtra keičia šią situaciją.

Dalis mokslinių protokolų šiandien jau yra viešai prieinami internete, o sintetines genetines medžiagas galima užsisakyti nuotoliniu būdu. Prie šios grandinės prisideda ir DI, kuris gali padėti suprasti sudėtingus procesus bei sujungti skirtingus žinių fragmentus į nuoseklų veiksmų planą neturint ir jokių specifinių žinių.

Ir nors, ekspertų teigimu, tikimybė, kad tokia informacija bus panaudota realiai atakai, išlieka nedidelė, potencialios pasekmės būtų itin didelės.

TAIP PAT SKAITYKITE: Mokslininkas išbandė dirbtinį intelektą karo simuliacijose: išryškėjo pavojinga eskalacija

Technologijų bendrovės su rezultatais nesutinka

Anot „The New York Times“, šiuos pokalbių robotus kuriančios technologijų bendrovės rezultatų nevertina kaip potencialios grėsmės. Pasak jų, minėti tyrimai dažnai remiasi ankstesnėmis modelių versijomis. Tuo tarpu dabartinės sistemos turi papildomas saugumo priemones, todėl, technologijų bendrovių vertinimu, pokalbių robotų pateikiama informacija nėra pakankama, kad žmogus galėtų savarankiškai įgyvendinti biologinę ataką.

Vis dėlto dalis mokslininkų mano, kad net ir nepilni ar netikslūs atsakymai gali būti naudingi asmenims, turintiems piktų ketinimų, nes padeda geriau suprasti procesus ir sumažina šį barjerą.

Ką tai reiškia žmonėms ir kas laukia toliau

Šie pavyzdžiai rodo ne tik technologinį progresą, bet ir naujus iššūkius, su kuriais susiduria tiek visuomenė, tiek reguliuotojai. Nors dauguma vartotojų su DI susiduria kasdienėse situacijose, tokie tyrimai primena, kad ta pati technologija gali turėti ir kitą, mažiau matomą pusę.

Didžiosios technologijų bendrovės, tokios kaip „OpenAI“, „Google“ ir „Anthropic“, teigia nuolat stiprinančios apsaugas ir ribojančios jautrios informacijos pateikimą. Tačiau ekspertai pažymi, kad šios priemonės nėra tobulos – dalį jų galima apeiti, o ankstesnės modelių versijos vis dar išlieka prieinamos.

Kartu vis garsiau keliami ir reguliavimo klausimai. Kol kas nėra vieningo tarptautinio susitarimo, kaip turėtų būti ribojamos tokios technologijos, ypač jautriose srityse, kaip biologija. Vieni specialistai ragina griežtinti kontrolę ir riboti prieigą prie tam tikros informacijos, kiti įspėja, kad per griežti apribojimai gali sulėtinti svarbius mokslo proveržius, pavyzdžiui, naujų vaistų kūrimą ar ligų gydymą.

Svarbu ir tai, kad pats DI nėra savarankiška grėsmė – galutinį poveikį lemia žmonės, kurie juo naudojasi. Nors technologija gali padėti geriau suprasti sudėtingus procesus ar paspartinti mokslinius atradimus, ji taip pat gali sumažinti barjerą tiems, kurie siekia pakenkti.

Todėl šiandien pagrindinis iššūkis – rasti pusiausvyrą tarp inovacijų ir saugumo. Kol technologijos vystosi greičiau nei jų reguliavimas, atsakomybė tenka ne tik kūrėjams ar valdžios institucijoms, bet ir pačiai visuomenei – kaip ji pasirenka naudoti šiuos įrankius.