„ChatGPT“ atsakymas gali tapti sukčių spąstais: kaip neapsigauti

Saugumo tyrėjas pademonstravo, kad dirbtinio intelekto (DI) sistema, apibendrindama internete rastą informaciją, gali į savo atsakymą įtraukti sukčių sukurtas nuorodas, netikrus perspėjimus ar kitą klaidinančią informaciją. Pasak JAV kibernetinio saugumo bendrovės „Permiso Security“, tam užtenka specialiai paruošto internetinio puslapio, todėl vartotojai ir čia turėtų išlikti itin budrūs.

Sukčiai taikosi ne į žmogų, o į patį DI

„Permiso Security“ tyrėjas Andi Ahmeti nagrinėjo, kaip „ChatGPT“ apdoroja ir pateikia informaciją, gautą iš interneto puslapių. Tyrimo metu jis nustatė, kad problema slypi ne pačiame modelyje, o tame, kaip sistema atvaizduoja tam tikrus iš tinklalapių perimtus elementus.

Eksperimento metu buvo sukurtas specialiai paruoštas puslapis su paslėptomis instrukcijomis ir „Markdown“ formato elementais. „Markdown“ yra plačiai naudojamas teksto žymėjimo formatas, leidžiantis paprastai įterpti nuorodas, paveikslėlius ir kitus interaktyvius elementus. Kai „ChatGPT“ buvo paprašyta apibendrinti tokio puslapio turinį, dalis šių elementų atsirado ir galutiniame DI atsakyme.

Tyrėjo teigimu, būtent čia slypi didžiausia rizika. Jo atliktas eksperimentas parodė, kad sistema gali perimti trečiųjų šalių puslapiuose esančias nuorodas ar paveikslėlių adresus ir pateikti juos savo atsakyme. Tai reiškia, kad specialiai paruoštame puslapyje sukčiai galėtų paslėpti klaidinančias nuorodas, netikrus perspėjimus ar QR kodus.

TAIP PAT SKAITYKITE: Kaip patikrinti, ar nuoroda yra saugi? Patikimi būdai

Kaip veikia „ChatGPhish“ metodas?

Savo demonstracinį scenarijų bendrovė pavadino „ChatGPhish“. Jo esmė – išnaudoti vartotojų pasitikėjimą DI sistemų pateikiamais atsakymais.

Pasak tyrėjo, užpuolikui nereikia įsilaužti nei į vartotojo paskyrą, nei į pačią „ChatGPT“ infrastruktūrą. Pakanka sukurti interneto puslapį, kurį žmogus vėliau paprašytų apibendrinti. Tokiu atveju DI gali perimti ir parodyti tam tikrus užpuoliko kontroliuojamus elementus.

Būtent todėl ši grėsmė išsiskiria iš tradicinių sukčiavimo schemų. Vietoje tiesioginio bandymo apgauti žmogų pirmiausia siekiama paveikti DI sistemą, kuri vėliau tampa tarpininku tarp sukčiaus ir galimos aukos.

Kuo tai svarbu ir į ką atkreipti dėmesį?

Šis eksperimentas primena, kad DI atsakymas nebūtinai yra tik modelio sugeneruota informacija. Kai sistema analizuoja išorinius interneto puslapius, dalis juose esančio turinio gali atsirasti ir galutiniame atsakyme. Dėl to vien tai, kad nuoroda ar perspėjimas pateikiami „ChatGPT“ lange, dar nereiškia, jog jie yra patikimi.

Plačiau kaip veikia DI rasite: Kas yra dirbtinis intelektas? Išsamus gidas 2026

Naudojantis DI įrankiais verta laikytis kelių paprastų taisyklių. Pirmiausia, nereikėtų aklai spausti atsakyme pateiktų nuorodų ar skenuoti QR kodų, ypač jei jie susiję su prisijungimu prie paskyrų, mokėjimais ar asmeninių duomenų pateikimu. Taip pat verta atkreipti dėmesį į tai, ar DI nepateikia neįprastų perspėjimų, skubių raginimų atlikti veiksmus arba pasiūlymų apsilankyti konkrečiose svetainėse.

Jeigu kyla bent menkiausia abejonė, saugiausia informaciją pasitikrinti pirminiame šaltinyje. Pavyzdžiui, vietoje nuorodos iš DI atsakymo geriau savarankiškai atsidaryti oficialų organizacijos ar paslaugos puslapį. Ypač atsargiai reikėtų vertinti nuorodas, vedančias į programų atsisiuntimo, registracijos ar prisijungimo puslapius.

Nors „ChatGPhish“ kol kas tėra demonstracinis scenarijus, jis parodo naują tendenciją – sukčiai taikosi ne tik į žmones, bet ir į sistemas, kuriomis vartotojai vis labiau pasitiki ieškodami informacijos.