„Google“ perspėjo, kad dabar apie 1,8 milijardo „Gmail“ naudotojų yra atsidūrę pavojuje dėl naujos kibernetinės grėsmės, kuri išnaudoja sparčią dirbtinio intelekto (DI) plėtrą. Bendrovės teigimu, įsilaužėliai pasitelkia pažangias DI technikas vykdydami apgaules, kurios gali paveikti tiek individualius vartotojus, tiek įmones, tiek valstybines institucijas.
Naujos DI grėsmės ir galimybės nusikaltėliams
Pranešama, kad „Google“ įspėjo apie naują pavojingą kibernetinių atakų formą. Tai – netiesioginės komandų injekcijos, kurios, pasak bendrovės, gali būti nukreiptos prieš pavienius naudotojus, verslo įmones ar net valstybines institucijas.
Kaip paaiškinta neseniai paskelbtame tinklaraščio įraše, ši atakos rūšis skiriasi nuo tiesioginių komandų injekcijų tuo, kad kenksmingos instrukcijos nėra tiesiogiai suvedamos į DI sistemą.
Vietoje to, jos slepiamos išoriniuose šaltiniuose, pavyzdžiui, el. laiškuose, dokumentuose ar net kalendoriaus kvietimuose. Kai DI apdoroja tokią informaciją, jis gali būti apgaulingai paskatinti atlikti veiksmus, kurių pats neturėtų daryti. Pavyzdžiui, atskleisti konfidencialius duomenis arba inicijuoti neleistinas užduotis.
Pasak „Google“, tokių grėsmių rizika sparčiai didėja, nes generatyvinis DI vis plačiau naudojamas tiek kasdienėse, tiek profesinėse srityse. Tai suteikia kibernetiniams nusikaltėliams naujų galimybių manipuliuoti išmaniosiomis sistemomis.
Ekspertai įspėja apie pavojus
Technologijų ekspertas Scottas Poldermanas teigė, kad kibernetiniai nusikaltėliai jau išnaudoja „Gemini“ – „Google“ sukurtą DI pokalbių robotą – vykdydami gudrias apgaules.
Pasak jo, žalingas kodas gali būti paslėptas, pavyzdžiui, el. laiške, o jam patekus į DI sistemą, „Gemini“ gali netyčia atskleisti prisijungimo duomenis, apie tai net neįtariant nei naudotojui, nei sistemai.
S. Poldermanas pabrėžė, kad ši grėsmė ypač pavojinga, nes vartotojui nereikia nieko spustelėti – užtenka, kad DI pats apdorotų paslėptas instrukcijas. Tokiu būdu DI gali būti priverstas atskleisti slaptažodžius ar kitą jautrią informaciją, tarsi sistema būtų nukreipta prieš save pačią.
Pati „Google“ teigia jau pradėjusi taikyti papildomas apsaugos priemones. Tarp jų – sustiprintas „Gemini 2.5“ modelis, mašininio mokymosi sprendimai, skirti aptikti įtartinas užklausas, bei platesnio lygmens saugumo priemonės, integruotos pačioje sistemoje.
Pasak bendrovės, šie pokyčiai turėtų apsunkinti tokių atakų įgyvendinimą ir priversti kibernetinius nusikaltėlius naudoti labiau pastebimus ir lengviau aptinkamus metodus.
Šis įspėjimas pasirodo vis dažniau keliant klausimus, kaip dirbtinis intelektas gali būti panaudojamas kenkėjiškais tikslais. Ekspertai pabrėžia, kad didėjanti DI integracija į kasdienes paslaugas sukuria naujų rizikų milijardams naudotojų visame pasaulyje.
Kaip vertinate šį straipsnį?
Prisijunk prie mūsų „Facebook“ bendruomenės
Trumpai, aiškiai ir be triukšmo – gaukite svarbiausias technologijų ir mokslo naujienas pirmieji.
- Sekite mokslo ir technologijų tendencijas
- Dalyvaukite diskusijose
- Naujienas gaukite pirmieji
