„OpenAI“ atleido tris DI saugumo tyrėjus – kaltina netinkamai perdavus konfidencialią informaciją

Sekite TechNaujienos Google

„OpenAI“ nutraukė darbo santykius su trimis DI saugumo tyrėjais, kuriuos bendrovė kaltina pažeidus jautrios vidinės informacijos tvarkymo taisykles. Apie sprendimą spalio 1 d. pirmiausia pranešė „The Wall Street Journal“, o „OpenAI“ vėliau patvirtino, kad vidinis tyrimas nustatė procedūrų pažeidimų.

Bendrovės atstovas teigė, kad trys darbuotojai netinkamai tvarkė jautrią informaciją už nustatytų įmonės procedūrų ribų. „OpenAI“ viešai neatskleidė, kokia konkrečiai informacija buvo perduota ir kokio masto duomenys galėjo būti paliesti.

„The Wall Street Journal“ skelbia, kad informacija galėjo būti perduota trečiosios šalies DI saugumo organizacijai. Ši detalė svarbi todėl, kad atleistieji darbuotojai dirbo srityje, kurioje tyrėjams suteikiama prieiga prie itin jautrių duomenų apie modelių elgesį, saugumo testus ir vidinius vertinimus.

Incidentas įvyksta tuo metu, kai didžiosios DI laboratorijos vis daugiau dėmesio skiria pažangių modelių saugumo patikroms. TechNaujienos.lt neseniai rašė apie kitą „OpenAI“ incidentą, kai bendrovei teko neplanuotai stabdyti galingų modelių mokymą.

Naujausi straipsniai

4 min. skaitymo • prieš 8 minutės

Tiesė dujotiekį ir jūros dugne rado 400 metų senumo laivą – viena detalė glumina archeologus

3 min. skaitymo • prieš 1 val

„Meta“ nutraukė tylą: neigia, kad jos DI agentas be leidimo skaitė privačias žinutes

3 min. skaitymo • prieš 1 val

Android telefonuose atsiranda nauja apsauga nuo šnipinėjimo – štai ką ji fiksuos

Visi naujausi straipsniai →

Kas žinoma apie atleidimus?

„OpenAI“ patvirtino, kad sprendimas priimtas po vidinio tyrimo. Bendrovės teigimu, darbuotojai pažeidė taisykles, reglamentuojančias prieigą prie jautrios informacijos ir jos tvarkymą. Įmonė pabrėžė, kad tokiose komandose pasitikėjimas yra ypač svarbus, nes darbuotojai mato medžiagą, kuri nėra prieinama nei visuomenei, nei daugumai kitų darbuotojų.

Viešai prieinama informacija kol kas neleidžia nustatyti, ar perduota medžiaga kėlė tiesioginę saugumo grėsmę. Taip pat neaišku, ar išorinė organizacija turėjo formalų bendradarbiavimo ryšį su „OpenAI“. Todėl ankstyvuose pranešimuose svarbu atskirti bendrovės patvirtintą faktą apie politikos pažeidimą nuo žiniasklaidoje minimų detalių apie galimą gavėją.

Atvejis iškelia sudėtingą klausimą DI bendrovėms: kaip suderinti vidinės informacijos apsaugą su nepriklausomais saugumo vertinimais. Išoriniai tyrėjai ir vertintojai dažnai prašo daugiau prieigos prie pažangiausių modelių, nes vien viešų testų nepakanka realioms rizikoms įvertinti.

DI saugumas tampa vis jautresne sritimi

Kuo pažangesni tampa modeliai, tuo daugiau informacijos apie jų gebėjimus, pažeidžiamumus ir ribas laikoma jautria. Saugumo komandos tikrina, ar modeliai gali apeiti apribojimus, savarankiškai vykdyti kelių etapų užduotis ar netikėtai panaudoti prieigą prie išorinių sistemų.

Todėl tokie tyrėjai atsiduria neįprastoje padėtyje: jų darbas reikalauja atvirai analizuoti rizikas, bet tuo pačiu jie privalo laikytis griežtų vidinių konfidencialumo taisyklių.

„OpenAI“ kol kas nepaskelbė išsamaus viešo tyrimo aprašymo, todėl daugiau detalių gali paaiškėti vėliau. Šiuo metu patvirtinta, kad trys darbuotojai paliko bendrovę po tyrimo dėl jautrios informacijos tvarkymo, o platesnės aplinkybės tebėra aiškinamos.