„OpenAI“ pasitelkė įsilaužimų tyrėjus „Hacktron“: DI sistemų saugume tikrins silpniausias jungtis

Sekite TechNaujienos Google

Nuo paprastų pokalbių robotų pereinant prie DI agentų, kurie jungiasi prie failų, duomenų bazių ir įvairių išorinių paslaugų, keičiasi ir kibernetinių grėsmių pobūdis. Lapkričio 6 d. „OpenAI“ paskelbė pradėjusi bendradarbiavimą su saugumo tyrimų bendrove „Hacktron“. Pagrindinis tikslas – aptikti ir pašalinti pažeidžiamumus, atsirandančius ten, kur DI sistemos susijungia su kitomis platformomis.

Tyrėjai dirbs kartu su „OpenAI“ inžinieriais ir pasirinks prioritetines tikrinimo sritis. Didžiausias dėmesys bus skiriamas trečiųjų šalių integracijoms. Tai svarbu, nes net gerai apsaugotas pagrindinis modelis negali automatiškai užtikrinti, kad prie jo prijungta paslauga, paskyros leidimai ar duomenų perdavimo mechanizmas būtų toks pat saugus.

Pagal susitarimą „Hacktron“ gauna platesnę prieigą prie pažangių kibernetiniam saugumui skirtų modelių per „Daybreak Red“. Šie įrankiai skirti teisėtiems saugumo bandymams – automatizuotai kodo analizei, leidžiamam prasiskverbimo testavimui ir vadinamajam „red teaming“, kai specialistai bando atkuriamomis sąlygomis surasti silpnąsias sistemos vietas.

Silpnoji vieta – skirtingų paslaugų susijungimas

DI asistentas, turintis galimybę ieškoti el. laiškuose, tvarkyti dokumentus ar atlikti veiksmus išorinėse programėlėse, gauna daugiau praktinės vertės. Tačiau kartu didėja jo prieigos teisių ir patikimumo svarba. Saugumo spraga gali slypėti ne pačiame modelyje, o neteisingai sukonfigūruotame leidime ar nepakankamai saugiai sujungtuose duomenų srautuose.

Naujausi straipsniai

4 min. skaitymo • prieš 9 minutės

JAV Pentagono planas: 250 mln. dolerių baterijų gamybai, kad dronai mažiau priklausytų nuo importo

4 min. skaitymo • prieš 10 minučių

ES ir Indija baigė derybas dėl 93,5 mlrd. eurų tyrimų programos: kas keisis Europai?

4 min. skaitymo • prieš 10 minučių

DI išbandytas su 100 tikros laboratorijos užduočių: rezultatai atskleidė rimtas klaidas

Visi naujausi straipsniai →

„Hacktron“ komanda, pasak oficialaus pranešimo, jau anksčiau nustatė pažeidžiamumų ten, kur tarpusavyje sąveikauja debesijos infrastruktūra, programėlės ir tapatybės valdymo sistemos. Dabar tokio pobūdžio analizė bus atliekama glaudžiau dirbant su „OpenAI“. Bendrovės nepaskelbė nei konkretaus pažeidžiamumų skaičiaus, nei saugumo projektui skirtos sutarties sumos.

„OpenAI“ pažymi, kad apie tyrėjų galimybes sužinojo per savo klaidų pranešimų programą. Tai rodo, kaip nepriklausomos saugumo bendruomenės darbas gali pereiti į gilesnį bendradarbiavimą su pačiu programinės įrangos kūrėju. Tačiau toks susitarimas nereiškia, jog paslaugos iki šiol buvo nesaugios arba kad jau nustatyta konkreti nauja ataka prieš naudotojus.

Ką turėtų įvertinti verslas Lietuvoje

Lietuvos įmonės sparčiai bando jungti DI įrankius su vidiniais dokumentais, klientų aptarnavimo sistemomis ir automatizuotais darbo procesais. Pagrindinė pamoka paprasta: prieš suteikiant agentui naują prieigą svarbu žinoti, ką jis gali skaityti, keisti, išsiųsti ir kam pateikti duomenis. Tinkama leidimų struktūra išlieka svarbi net tada, kai naudojami labai pažangūs modeliai.

Praktikoje verta taikyti mažiausių būtinų teisių principą, atskirti bandymų ir gamybines sistemas bei registruoti jautrius veiksmus. Taip pat naudinga apibrėžti, kada agentas gali pats atlikti veiksmą, o kada būtinas žmogaus patvirtinimas. Šios priemonės nėra konkrečiai „OpenAI“ paskelbti privalomi nustatymai, bet plačiai taikomi saugumo valdymo principai.

Anksčiau portale nagrinėjome „Google“ DI modelį pažeidžiamumams aptikti, aktyviai išnaudojamas „WordPress“ spragas ir DI keliamas rizikas kritinei infrastruktūrai. Visos šios istorijos rodo, kad problema vis labiau susijusi su sistemų sąveika, o ne vienu izoliuotu produktu.

Naujasis bendradarbiavimas svarbus kaip rinkos krypties ženklas: saugumą tenka vertinti kartu su pačiu DI galimybių plėtimu. Jo naudą bus galima įvertinti pagal aptiktas ir ištaisytas spragas bei geresnius integracijų kontrolės mechanizmus, o ne vien pagal partnerystės paskelbimą.

Techninis tokių sistemų sudėtingumas auga ir dėl to, kad vienas DI agentas gali naudoti kelis skirtingus prisijungimo būdus. Vienur taikomi trumpalaikiai prieigos raktai, kitur – platesni naudotojo įgaliojimai, dar kitur leidimai persiduoda tarp programėlių. Jeigu prieigos grandinėje atsiranda spraga, įsilaužėliui nebūtina tiesiogiai pažeisti didžiojo kalbos modelio. Jam gali pakakti išnaudoti netinkamai apribotą jungtį.

„Hacktron“ bendrovės patirtis šioje srityje aktuali todėl, kad vertinamas visas sistemos veikimo kelias, o ne tik vieno serverio apsauga. Programinės įrangos kūrėjai dažnai tikrina atskirus komponentus, tačiau netikėtas gedimas pasirodo tik tada, kai jie sujungiami. Agentų pasaulyje tokie ryšiai bus vis dažnesni, nes naudotojai tikisi, kad asistentas galės atlikti daugiau užduočių per skirtingas paslaugas.

Vis dėlto oficialus pranešimas nepateikia nepriklausomo įrodymo, kad būtent ši partnerystė jau sumažino realių incidentų skaičių. „OpenAI“ kalba apie planuojamą bendrą darbą ir prieigos plėtimą tyrėjams. Todėl saugumo požiūriu tai teigiamas procesinis žingsnis, kurio efektyvumą dar reikės vertinti pagal konkrečius rezultatus.

Šaltinis: oficialus pranešimas.