Serverių infrastruktūra ir DI agentų saugumas
„Nvidia“ sukūrė DI agentų „sargą“ – nepaklusnius izoliuos per milisekundes
„Nvidia“ oficialiai pristatė naują saugumo platformą autonominiams DI agentams, kurios tikslas – neleisti agentui peržengti jam nustatytų ribų net tada, kai pats modelis bando apeiti programos saugumo taisykles. Į sistemą įeina „OpenShell“ saugi vykdymo aplinka ir „Sentry“ – atskiras aparatinis stebėtojas, galintis izoliuoti agentą per milisekundes.
Bendrovė naująją „Open Agent Safety Platform“ paskelbė rugsėjo 28 d. „Nvidia“ argumentuoja, kad pastarieji incidentai parodė vieną bendrą problemą: DI agentas kartais gali apeiti apsaugas, kurios įdiegtos tik programos arba modelio lygmenyje.
Naujas sprendimas saugumą perkelia žemiau – į vykdymo aplinką ir aparatinę infrastruktūrą. Kitaip tariant, agentas gali „norėti“ atlikti veiksmą, tačiau pati sistema gali fiziškai neleisti jam pasiekti failų, tinklo ar įrankių, kurių politika neleidžia.
„Sentry“ stebi agentą iš šalies
„OpenShell“ kiekvieną agentą paleidžia izoliuotoje aplinkoje. Numatyta, kad tiesioginė prieiga prie tinklo, failų ir procesų pagal nutylėjimą būtų ribojama, o leidimai suteikiami pagal iš anksto apibrėžtas taisykles.
Taip pat skaitykite
Atrinkome panašius straipsnius, kurie gali jums patikti.
Diskusija
0Ką manote apie šią naujieną? Pasidalinkite savo nuomone.
Komentuodami laikykitės komentavimo taisyklių .
Komentarai
Naujausi pirmiausiaĮkeliama...