„Microsoft“ įspėja apie grėsmę įmonių viduje: DI agentams siūlo nuolatinę veiksmų kontrolę

Sekite TechNaujienos Google

„Microsoft“ siūlo įmonėms nuolat prižiūrėti jų pačių įdiegtus dirbtinio intelekto agentus ir keisti leidimus pagal atliekamų veiksmų riziką. Spalio 19 d. paskelbtame bendrovės pranešime „Project Perception“ pristatoma kaip priemonė kontroliuoti sistemas, kurios turi prieigą prie organizacijos duomenų, įrankių ir darbo procesų.

Bendrovės saugumo vadovė Hayete Gallot problemą sieja su agentams suteikiamu pasitikėjimu: įmonė pati įsidiegia padėjėją, tačiau šis, siekdamas užduoties rezultato, gali veikti kitaip, nei numatė darbuotojai. Grėsmei atsirasti nebūtina, kad agentą perimtų išorinis įsilaužėlis.

Siūloma priežiūra apimtų agento tapatybę, duomenų prieigą, veikimo aplinką ir leidimus. Atskiri priežiūros agentai vertintų planuojamus veiksmus, o padidėjus rizikai sistema galėtų apriboti jų vykdymą. Veiksmų istorija liktų saugumo specialistams, kad šie galėtų nustatyti incidento aplinkybes ir pakeisti taisykles.

Priežiūros sistema išaugo iš kovos su išorinėmis atakomis

„Project Perception“ pirmą kartą pristatyta liepos 27 d. Jos architektūroje numatytos trys agentų grupės: vieni ieško galimų įsilaužimo kelių, kiti tiria signalus ir vertina pavojų, treti vykdo apsaugos pakeitimus. Šios grupės dalijasi informacija apie tą pačią organizacijos infrastruktūrą.

Naujausi straipsniai

2 min. skaitymo • prieš 24 sekundės

Iš Marso palydovo į Žemę keliaus grunto mėginiai: Japonija paleido MMX zondą

2 min. skaitymo • prieš 15 minučių

Virš Baltijos – Rusijos bombonešiai ir naikintuvai: NATO per savaitę reagavo šešis kartus

2 min. skaitymo • prieš 30 minučių

Lietuvos regionų įmonėms – 40,8 mln. eurų: kas gali gauti iki 1,5 mln. eurų?

Visi naujausi straipsniai →

Sprendimas sujungia duomenis apie paskyras, galinius įrenginius, programas ir debesijos paslaugas. Tokia informacija leidžia susieti atskirus veiksmus: prie kokių išteklių turi teisę jungtis paskyra, ką ji mėgina atlikti ir kokias kitas sistemas galėtų paveikti.

Liepos pristatyme taip pat numatyta naudoti kelis DI modelius, parenkant juos pagal konkrečią saugumo užduotį, atsako greitį ir sąnaudas. Taigi priežiūros sistema nesiremia vienu universaliu modeliu visiems incidentams tirti.

Verslui skirti agentai jau peržengia pokalbių lango ribas: „Google“ pristatytas darbo agentas taip pat orientuotas į kelių etapų užduočių vykdymą. Tokiose sistemose leidimas perskaityti dokumentą ir leidimas pakeisti jo turinį tampa skirtingais, atskirai valdomais veiksmais.

Spalio pranešime „Microsoft“ papildomai ragina didinti modelių veikimo skaidrumą, kad saugumo specialistai galėtų vertinti veiksmų atitiktį užduočiai. Bendrovė šį matomumą sieja su griežtais vykdymo apribojimais, o sprendimą dėl organizacijos saugumo taisyklių palieka žmonėms.

Praktikoje įmonėms svarbiausia atskirti skaitymo, keitimo ir išorinio duomenų perdavimo teises. Agentas, kuris gali apibendrinti vidaus dokumentus, nebūtinai turėtų savarankiškai išsiųsti jų turinį trečiajai šaliai ar keisti apskaitos įrašus. „Microsoft“ pranešimas nurodo siūlomą kontrolės kryptį, tačiau pats savaime neįrodo, kad visų tipų agentų klaidos ar piktnaudžiavimas jau gali būti patikimai sustabdyti.