Naudojatės DI? Naujas „OpenAI“, „Google“ ir kitų milžinų vertinimas atskleidė nerimą keliančią problemą

Sekite TechNaujienos Google

Dirbtinio intelekto (DI) sistemoms patikime vis daugiau užduočių, tačiau jų kūrėjų gebėjimas šias technologijas kontroliuoti vis dar turi spragų. Naujas lyderiaujančių DI bendrovių saugumo praktikų vertinimas parodė, kad nė viena bendrovė neįgyvendina visų svarbiausių technologijos kontrolės priemonių. Ekspertai perspėja, kad DI tampant vis savarankiškesniam, šios spragos gali tapti vis aktualesnės ir milijonams vartotojų.

Geriausiai įvertintos „OpenAI“ ir „Anthropic“

Nepriklausoma DI saugumo organizacija „Guidelight AI Standards“ atliko pirmąjį didžiųjų DI bendrovių saugumo praktikų vertinimą. Į jį pateko penkios šiuo metu pažangiausias sistemas kuriančios bendrovės – „OpenAI“, „Anthropic“, „Google“, „Meta“ ir „xAI“.

Remiantis jų pateikiama vieša informacija, tyrėjai DI rinkos lyderius įvertino pagal pagrindinius šešis saugumo kriterijus: DI veiksmų registravimą ir stebėjimą, stebėsenos efektyvumą, rizikingų veiksmų patvirtinimą prieš juos atliekant, sistemų sustabdymą aptikus įtartiną elgesį, nepriklausomą saugumo vertinimą ir pasirengimą suvaldyti netinkamai veikiantį modelį.

Geriausiai iš penkių bendrovių pasirodė „OpenAI“ ir „Anthropic“ – abi surinko po 2,5 balo iš 5. „Google“ skirti 1,5 balo, „xAI“ – 0,83 balo, o prasčiausiai pasirodė „Meta“, surinkusi 0,67 balo.

Naujausi straipsniai

3 min. skaitymo • prieš 2 val

Astronomai aptiko greičiausią žinomą žvaigždę: ji gali padėti išbandyti vieną svarbiausių Einšteino teorijų

3 min. skaitymo • prieš 3 val

Norite mažiau laiko praleisti telefone? Vienas paprastas sprendimas gali padėti

3 min. skaitymo • prieš 5 val

Muziką įsijungiate jau vairuodami? Tyrimas atskleidė netikėtą pavojų

Visi naujausi straipsniai →

Rezultatai verčia sunerimti

Paviešinti rezultatai rodo, kad nė viena vertinta bendrovė kol kas nėra visiškai įgyvendinusi nė vienos iš šešių analizuotų DI kontrolės praktikų. Penkiabalėje skalėje nė viena bendrovė nė vienoje kategorijoje nesurinko daugiau nei 3 balų – toks rezultatas reiškia tik reikšmingą dalinį konkrečios priemonės įgyvendinimą.

„Guidelight AI Standards“ teigimu, bendrovėms geriausiai sekasi stebėti DI sistemų veiklą ir aptikti galimai nepageidaujamą jų elgesį. Tačiau gerokai daugiau spragų išryškėjo ten, kur tokį elgesį reikia užkirsti arba sistemą suvaldyti jau kilus problemai.

Ką svarbu žinoti vartotojams?

Svarbu pabrėžti, kad prasti įvertinimai savaime nereiškia, jog šiandien naudojamos DI sistemos yra nesaugios ar nekontroliuojamos. Vertinimas paremtas viešai prieinama informacija, todėl kai kurios bendrovių taikomos, bet neviešinamos saugumo priemonės galėjo likti neįvertintos.

Nepaisant to, išryškėjusios spragos aktualios ir vartotojams. DI sistemos tampa vis savarankiškesnės ir jau gali ne tik generuoti turinį, bet ir naudotis įvairiais įrankiais bei atlikti veiksmus žmogaus vardu. Kuo daugiau galimybių joms suteikiama, tuo svarbiau užtikrinti, kad nepageidaujamą veiksmą būtų galima laiku pastebėti ir sustabdyti.

Todėl tyrėjų išvados pirmiausia atkreipia dėmesį į ateities riziką: DI tampant vis pajėgesniam ir gaunant daugiau prieigos prie žmonių naudojamų paslaugų, jo kontrolės ir saugumo priemonės turės tobulėti kartu.

Apie panašią problemą anksčiau yra perspėjusi ir „Google“ – bendrovės tyrėjai nagrinėjo, kas gali nutikti vis savarankiškesniems DI agentams pradėjus veikti ne taip, kaip numatė jų kūrėjai.

Pabaigai: ką TechNaujienos.lt rekomenduoja padaryti kiekvienam

Nors didžioji atsakomybė už DI sistemų saugumą tenka jų kūrėjams, vartotojams taip pat verta atkreipti dėmesį į tai, kiek laisvės suteikiame šioms technologijoms. Apie tai anksčiau įspėjo ir DI saugumo ekspertė, vertindama „Meta“ agentą – kuo daugiau prieigos prie savo duomenų ir paslaugų suteikiame savarankiškai veikiančioms sistemoms, tuo svarbiau įvertinti galimas rizikas.

Naudojant DI agentus ar kitas funkcijas, galinčias veikti savarankiškai, verta periodiškai peržiūrėti, prie kokių paskyrų, failų ir kitų paslaugų jiems suteikta prieiga, bei panaikinti nebereikalingus leidimus.

Svarbiausia – DI suteikti tik tiek prieigos ir savarankiškumo, kiek iš tiesų reikia konkrečiai užduočiai atlikti.