Susižavėjote naujuoju „Meta“ DI agentu? Ekspertė siunčia svarbią žinutę vartotojams

Sekite TechNaujienos Google

Vos prieš dieną „Meta“ pristatė „Muse Glimmer“ – naują dirbtinio intelekto modelį, galintį veikti tiesiai vartotojo kompiuteryje. Tai suteikia reikšmingą privatumo pranašumą, nes jautrūs duomenys nebūtinai turi keliauti į debesijos serverius. Tačiau kibernetinio saugumo ekspertė perspėja, kad kartu atsiranda visai kita problema: kas nutiks, kai DI agentui suteiksime prieigą prie savo failų, žinučių ir kitų asmeninių duomenų bei leisime jam veikti savarankiškai?

Rugpjūčio 10 d. „Meta“ oficialiai pristatė „Muse Glimmer“ – 30 mlrd. parametrų atvirų svorių DI modelį, optimizuotą nuolat veikiantiems vietiniams DI agentams. Jis gali būti paleistas „Mac“ ar galingesniame asmeniniame kompiuteryje su viena vartotojams skirta vaizdo plokšte.

Apie vieną svarbiausių šio modelio savybių – galimybę veikti lokaliai ir dalį informacijos apdoroti neišsiunčiant jos į nuotolinius serverius – „Technaujienos.lt“ išsamiai rašė vakar. „Meta“ modelio svorius paskelbė pagal „Apache 2.0“ licenciją, o naudojant kvantavimą pats kalbos modelis gali būti sumažintas iki mažiau nei 20 GB.

Tačiau „Muse Glimmer“ kuriamas ne vien kaip pokalbių robotas. „Meta“ nurodo, kad modelis treniruotas atlikti ilgai trunkančias kelių etapų užduotis, naudoti išorinius įrankius, analizuoti tekstą ir vaizdus, atsiminti ankstesnį kontekstą bei savarankiškai bandyti išspręsti problemas, kai atlikdamas užduotį susiduria su klaida.

Naujausi straipsniai

4 min. skaitymo • prieš 10 minučių

„NVIDIA“ subūrė Volstrito gigantus: DI infrastruktūrai – 500 mlrd. JAV dolerių

4 min. skaitymo • prieš 29 minutės

„Bentley“ žengia į naują erą: pirmasis elektromobilis „Torcal“ debiutuos jau rugsėjį

4 min. skaitymo • prieš 16 val

NATO ruošiasi naujai karo realybei: kovai su dronais skirs 40 mlrd. dolerių – apžvalga

Visi naujausi straipsniai →

Būtent čia atsiranda kita privatumo ir saugumo medalio pusė.

Kuo daugiau DI gali padaryti, tuo daugiau prieigos jam reikia

Pati „Meta“ savo techniniame „Muse Glimmer“ pristatyme pateikia labai aiškų pavyzdį: DI agentui, kuris valdo jūsų darbotvarkę, rengia žinučių juodraščius, tvarko failus ir mokosi, kaip dirbate, reikalinga gili prieiga prie asmeninio konteksto.

Tai reiškia, kad privatumo klausimas nebėra vien „ar mano dokumentas iškeliaus į debesį?“. Ne mažiau svarbu tampa tai, ką su tais dokumentais galės daryti pats DI agentas, jeigu jam bus suteiktos platesnės teisės kompiuteryje.

„Cybernews“ kibernetinio saugumo ekspertė Stefanie Schappert mūsų redakcijai perduotame komentare būtent tai įvardija kaip vieną svarbiausių naujojo modelio keliamų klausimų.

„Kas nutinka, kai „Glimmer“ veikia prieš savo vartotojo interesus – pavyzdžiui, pasidalija jo privačiais duomenimis, net su kitais autonominiais agentais?“

Ekspertės teigimu, lokalus duomenų apdorojimas neabejotinai turi privatumo pranašumų, tačiau tai savaime nepašalina rizikos, kuri atsiranda suteikus vis pajėgesniam autonominiam agentui prieigą prie jautrios informacijos ir įrankių.

„Muse Glimmer“ mokytas ne tik vykdyti pavienes komandas. „Meta“ nurodo, kad modelis geba išlaikyti veiksmų planą per ilgesnes užduotis, naudoti skirtingus įrankius ir, nepavykus vienam veiksmui, diagnozuoti problemą bei mėginti dar kartą. Tai labai naudinga savybė asmeniniam DI asistentui, tačiau saugumo požiūriu reiškia ir tai, kad modelis yra specialiai kuriamas būti atkaklus siekdamas jam nustatyto tikslo.

Pastarųjų savaičių įvykiai rodo, kodėl tokie klausimai nėra vien teoriniai. „OpenAI“ liepą patvirtino incidentą, kai vertinimo metu DI modeliai, pasinaudoję anksčiau nežinoma „Artifactory“ spraga, pasiekė internetą ir „Hugging Face“ infrastruktūrą. Bendrovė po incidento pakeitė bandymų ir saugumo procedūras.

„Anthropic“ savo ruožtu liepą paskelbė apie tris realias organizacijas palietusius incidentus per kibernetinio saugumo bandymus. Bendrovė pabrėžė, kad „Claude“ sąmoningai nebandė „pabėgti“ iš testavimo aplinkos – modeliai veikė klaidingai manydami, kad pasiekiamos sistemos priklauso bandymo aplinkai. Apie šiuos „Claude“ DI agentų incidentus taip pat išsamiai rašėme „Technaujienos.lt“.

Panašus incidentas užfiksuotas ir atliekant „Meta Muse Spark 1.1“ kibernetinio saugumo vertinimą. Anot „Reuters“, neteisingai sukonfigūruota bandymų aplinka suteikė modeliui prieigą prie interneto, kurios jis neturėjo turėti, ir agentas pasiekė kitos bendrovės sistemas.

Tyrėjai pabrėžė, kad tai nebuvo sudėtingas sąmoningas „pabėgimas“ iš izoliacijos, tačiau pats atvejis parodė, kiek svarbi tampa aplinka, kurioje autonominiam modeliui leidžiama veikti.

„Meta“ modelį tikrino, tačiau klausimų išlieka

Prieš paskelbdama „Muse Glimmer“ svorius viešai, „Meta“ teigia modelį įvertinusi pagal savo Advanced AI Scaling Framework. Vertintos ir su kibernetiniu saugumu bei kontrolės praradimu susijusios rizikos. Bendrovė modelį pripažino tinkamu atvirų svorių išleidimui.

Schappert vis dėlto atkreipia dėmesį, kad laboratoriniai bandymai negali visiškai atkartoti visų situacijų, kurios atsiranda milijonams skirtingų vartotojų pradėjus jungti DI agentus prie failų, programų, paskyrų ir kitų sistemų.

Jos teigimu, pagrindinis klausimas ateityje bus ne vien tai, ar DI modelis saugo vartotojo duomenis lokaliai, bet ir tai, ar egzistuoja pakankamai stiprios kontrolės priemonės, neleidžiančios autonominiam agentui su tais duomenimis atlikti veiksmų, kurių vartotojas iš tikrųjų nenorėjo.

Tai svarbus skirtumas. Lokalūs modeliai, tokie kaip „Muse Glimmer“, gali sumažinti poreikį siųsti jautrią informaciją trečiųjų šalių serveriams, tačiau „duomenys lieka mano kompiuteryje“ dar nereiškia „DI negali su jais padaryti nieko nepageidaujamo“.

Rizika vis labiau priklausys nuo to, kokias teises vartotojas agentui suteikia, prie kokių programų jis prijungtas ir kokios apsaugos veikia tarp modelio bei realių veiksmų.

Būtent todėl naujoji autonominių DI agentų karta vienu metu gali tapti ir viena didžiausių privatumo pažangų, ir visiškai nauju kibernetinio saugumo iššūkiu.