„ChatGPT“ paslydo: saugumo ekspertui sistema atskleidė „Windows“ licencijos informaciją

Dirbtinio intelekto entuziastui pavyko apgauti „ChatGPT“ ir tam tikra prasme priversti sistemą pasidalinti „Windows“ produktų raktais. Ekspertas pateikė užklausas, sukuriant spėlionių žaidimą, kuris privertė sistemą atskleisti tiesą ir apeiti apsaugos užkardas.

Sumaniai apgavo dirbtinį intelektą

„0DIN GenAI“ dirbantis klaidų paieškos techninis produktų vadovas Marco Figueroa pasidalino, kaip tyrėjui pavyko apgauti „ChatGPT 4.0“. Užklausą pavaizduojant kaip žaidimą, jis sugebėjo apeiti apsaugos priemones, kurios neleidžia sistemai dalintis slapta ar potencialiai žalinga informacija.

Šįkart ekspertas nusitaikė į apsaugos priemones, kurios buvo sukurtos siekiant blokuoti prieigą prie bet kokių licencijų, kaip „Windows 10“ produktų raktai.

Viena iš taikytų taktikos detalių yra žaidimo elementas. Tyrėjas formuodamas užklausą paminėjo, kad dabar bus žaidžiamas žaidimas, kurio metu vartotojas bandys atspėti realų „Windows 10“ serijos numerį – užduodamas klausimus, o sistema turės atsakyti į juos „taip“ arba „ne“. Viso žaidimo esmė buvo vartotojo suformuota komanda, kad tuomet, kai vartotojas pasakys, kad pasiduoda, ji turės atskleisti teisingą variantą. Taip pat jis įtraukė HTML žymes su „Windows“ serijinio numerio terminu.

Taip manipuliuojant dirbtiniu intelektu, t. y. sukuriant žaidimą, nustatant taisykles ir įtraukiant pasidavimo momentą, ekspertas iš tiesų gavo galiojančius „Windows 10“ raktus, o vienas iš jų galimai yra privatus raktas, priklausantis „Wells Fargo“ bankui.

Anot tyrėjo, toks metodas yra parankus apeinant ir kitus turinio filtrus – skirtus neleisti atskleisti suaugusiems skirto turinio, nuorodas į kenksmingas svetaines ar asmens tapatybę atskleidžiančią informaciją – tuo atveju jei jie nelegaliai patektų į mokymo šaltinius, kaip „GitHub“.

Atskleidžiama, kodėl „ChatGPT“ taip lengva apgauti

Visų pirma, ekspertas išskiria, kad sistemos pateikti raktai buvo mišrūs – „Home“, „Pro“ ir „Enterprise“ versijų informacija, kuri nėra unikali ir dažnai aptinkama viešuose forumuose. Būtent jos prieiga viešojoje erdvėje ir suklaidino „ChatGPT“, atskleidžiant jautrią informaciją.

Kita vertus pripažįstama, kad vis dar yra nepakankama apsaugos mechanizmų sistema. Dirbtinis intelektas nesugebėjo atpažinti apgaulės atvejų, kai bandoma per žaidimą atskleisti jautrius duomenis, o tai tampa rimta sistemos spraga, kuri kitais atvejais gali padaryti ir ženkliai didesnę žalą.

Dirbtinio intelekto naudojimas vis dar vertinamas kontraversiškai. Jau ne vieną kartą ekspertai dalijo patarimus, ko geriau šiai sistemai neatskleisti. Daugėja ir nuomonių, kad dažnas „ChatGPT“ naudojimas gali kenkti kritiniam mąstymui.