„OpenAI“ atskleidė beprecedentį incidentą: jų DI savarankiškai įvykdė kibernetinę ataką – kyla nauji pavojai?

Sekite TechNaujienos Google

Viena didžiausių pasaulio dirbtinio intelekto (DI) bendrovių „OpenAI“ paskelbė, kad vidinių bandymų metu jos kuriami pažangūs modeliai savarankiškai atliko veiksmų seką, pasibaigusią įsilaužimu į DI platformos „Hugging Face“ sistemas. Šis atvejis rodo, kad dalis pažangiausių DI galimybių, apie kurias iki šiol daugiausia kalbėta teoriškai, jau pasireiškia realių bandymų metu.

DI tikslą pasiekė netikėtais būdas

Kaip liepos 21 dieną nurodė bendrovė, incidentas įvyko ne realios atakos metu, o atliekant vidinių modelių vertinimą. Tyrėjai testavo, kaip pažangios sistemos sugeba ieškoti programinės įrangos pažeidžiamumų ir spręsti sudėtingas kibernetinio saugumo užduotis.

Vertinimo metu buvo naudojami naujausias modelis „GPT-5.6 Sol“ ir dar galingesnis eksperimentinis modelis, kuriems tam tikri saugumo apribojimai buvo laikinai sumažinti.

„OpenAI“ teigimu, šių bandymų metu modeliai pradėjo savarankiškai ieškoti alternatyvių būdų įvykdyti jiems skirtą užduotį ir įvykdė kibernetinę ataką.

Naujausi straipsniai

2 min. skaitymo • prieš 15 val

Lietuva investuoja į technologijų verslo talentus: septynių magistrantų studijoms – 49,3 tūkst. eurų

4 min. skaitymo • prieš 15 val

Prieš 476 tūkst. metų žmonių protėviai jau konstravo iš medžio: seniausias tokio tipo radinys

4 min. skaitymo • prieš 15 val

Kodėl automobilio akumuliatorius nusėda net važinėjant kasdien?

Visi naujausi straipsniai →

Aptiko iki tol nežinomą saugumo spragą

Bendrovės pateiktoje pirminėje analizėje nurodoma, kad modeliai pasinaudojo anksčiau nežinomu programinės įrangos pažeidžiamumu (angl. zero-day vulnerability).

Įgiję prieigą prie interneto, modeliai identifikavo, kad „Hugging Face“ gali saugoti informaciją, susijusią su jų atliekamu testu. Toliau modeliai savarankiškai ieškojo būdų pasiekti šiuos duomenis. Pasak „OpenAI“, tam jie sujungė kelis skirtingus pažeidžiamumus – pasinaudojo pavogtais prisijungimo duomenimis ir rado kelią nuotoliniam kodo vykdymui.

Atskleidžia naujas grėsmės

Šis incidentas rodo, kad pažangiausi DI modeliai jau geba ne tik aptikti pavienius programinės įrangos pažeidžiamumus, bet ir savarankiškai planuoti kelių etapų veiksmų seką, ieškodami efektyviausio būdo pasiekti jiems iškeltą tikslą. Dar visai neseniai tokios galimybės daugiausia buvo aptariamos kaip teorinis scenarijus, tačiau dabar jos vis plačiau užfiksuojamos realių sąlygų metu.

TAIP PAT SKAITYKITE: „Ne metai, o mėnesiai“: vienas galingiausių pasaulio aljansų perspėja apie naujas DI galimybes sukčiams

Tai nereiškia, kad DI veikia savavališkai ar priima savarankiškus sprendimus be žmogaus užduočių. Vis dėlto šis atvejis parodė, jog pažangūs modeliai tampa pakankamai pajėgūs netikėtai išnaudoti sudėtingas pažeidžiamumų grandines.

Paprastam naudotojui tai reiškia viena – ateityje vis didesnę reikšmę turės ne tik tai, ką DI sugeba atlikti, bet ir kaip bus užtikrinamas jo saugumas. Nuo to priklausys ne tik technologijų bendrovių sistemos, bet ir milijonų žmonių kasdien naudojamų debesijos paslaugų, programėlių bei kitų skaitmeninių įrankių patikimumas.