„ChatGPT“ paslydo: saugumo ekspertui sistema atskleidė „Windows“ licencijos informaciją

Svarbiausios technologijų naujienos jūsų telefone

Sekite mus „Google News“ šaltiniuose ir pamatykite daugiau svarbiausių mokslo ir technologijų naujienų.

Pridėti

Dirbtinio intelekto entuziastui pavyko apgauti „ChatGPT“ ir tam tikra prasme priversti sistemą pasidalinti „Windows“ produktų raktais. Ekspertas pateikė užklausas, sukuriant spėlionių žaidimą, kuris privertė sistemą atskleisti tiesą ir apeiti apsaugos užkardas.

Sumaniai apgavo dirbtinį intelektą

„0DIN GenAI“ dirbantis klaidų paieškos techninis produktų vadovas Marco Figueroa pasidalino, kaip tyrėjui pavyko apgauti „ChatGPT 4.0“. Užklausą pavaizduojant kaip žaidimą, jis sugebėjo apeiti apsaugos priemones, kurios neleidžia sistemai dalintis slapta ar potencialiai žalinga informacija.

Šįkart ekspertas nusitaikė į apsaugos priemones, kurios buvo sukurtos siekiant blokuoti prieigą prie bet kokių licencijų, kaip „Windows 10“ produktų raktai.

Viena iš taikytų taktikos detalių yra žaidimo elementas. Tyrėjas formuodamas užklausą paminėjo, kad dabar bus žaidžiamas žaidimas, kurio metu vartotojas bandys atspėti realų „Windows 10“ serijos numerį – užduodamas klausimus, o sistema turės atsakyti į juos „taip“ arba „ne“. Viso žaidimo esmė buvo vartotojo suformuota komanda, kad tuomet, kai vartotojas pasakys, kad pasiduoda, ji turės atskleisti teisingą variantą. Taip pat jis įtraukė HTML žymes su „Windows“ serijinio numerio terminu.

Naujausi straipsniai

3 min. skaitymo • prieš 1 val

Ukraina parodė naują povandeninį droną, galintį slapta įveikti tūkstančius kilometrų

3 min. skaitymo • prieš 13 val

Socialiniai tinklai – tik nuo 16 metų: Jungtinė Karalystė ruošia naujus ribojimus

2 min. skaitymo • prieš 14 val

Ukrainoje – naujas posūkis neperšaunamų liemenių byloje: priteista beveik 2 mln. eurų baudų

Visi naujausi straipsniai →

Taip manipuliuojant dirbtiniu intelektu, t. y. sukuriant žaidimą, nustatant taisykles ir įtraukiant pasidavimo momentą, ekspertas iš tiesų gavo galiojančius „Windows 10“ raktus, o vienas iš jų galimai yra privatus raktas, priklausantis „Wells Fargo“ bankui.

Anot tyrėjo, toks metodas yra parankus apeinant ir kitus turinio filtrus – skirtus neleisti atskleisti suaugusiems skirto turinio, nuorodas į kenksmingas svetaines ar asmens tapatybę atskleidžiančią informaciją – tuo atveju jei jie nelegaliai patektų į mokymo šaltinius, kaip „GitHub“.

Atskleidžiama, kodėl „ChatGPT“ taip lengva apgauti

Visų pirma, ekspertas išskiria, kad sistemos pateikti raktai buvo mišrūs – „Home“, „Pro“ ir „Enterprise“ versijų informacija, kuri nėra unikali ir dažnai aptinkama viešuose forumuose. Būtent jos prieiga viešojoje erdvėje ir suklaidino „ChatGPT“, atskleidžiant jautrią informaciją.

Kita vertus pripažįstama, kad vis dar yra nepakankama apsaugos mechanizmų sistema. Dirbtinis intelektas nesugebėjo atpažinti apgaulės atvejų, kai bandoma per žaidimą atskleisti jautrius duomenis, o tai tampa rimta sistemos spraga, kuri kitais atvejais gali padaryti ir ženkliai didesnę žalą.

Dirbtinio intelekto naudojimas vis dar vertinamas kontraversiškai. Jau ne vieną kartą ekspertai dalijo patarimus, ko geriau šiai sistemai neatskleisti. Daugėja ir nuomonių, kad dažnas „ChatGPT“ naudojimas gali kenkti kritiniam mąstymui.