Naudojote pokalbių robotą „Grok“? Nutekinta tūkstančiai susirašinėjimų, atskleisti pavojingi ketinimai

Dar visai neseniai ši krizė atsitiko „ChatGPT“, kai „Google“ paieškoje buvo paviešinta dalis vartotojų užklausų su asmenine informacija. Panašu, kad istorija kartojasi ir šįkart paslydo Elono Musko bendrovė „xAI“, kurio pokalbių roboto „Grok“ rezultatai taip pat atsidūrė paieškos sistemose.

Informacija paviešinta be įspėjimo

„Forbes“ skelbia, kad dirbtinio intelekto bendrovė „xAI“ be įspėjimo paviešino žmonių pokalbius su įmonės pokalbių robotu, o rezultatuose ir šokiruojantys ketinimai – Musko nužudymo planas, narkotikų ir bombų gamybos instrukcijos.

Pranešama, kad „Google“ rezultatuose randama per 370 000 pokalbių įrašų, o viešumoje jie atsidūrė dėl techninės spragos – analogiškai „ChatGPT“ atvejui, tai įvyko dėl bendrinimo funkcijos, kuri generuodavo unikalius pokalbių URL. Ir nors šie URL buvo sukurti individualiems vartotojų pokalbiams, jie tapo indeksuojami „Google, „Bing“ ir kitų paieškos sistemų.

Šįkart atkreipiamas dėmesys, kad vartotojai negavo jokių įspėjimų – turinys, bendrinamas el. paštu, tekstiniu pranešimu ar kitais kanalais, patenka ir į „Grok“ svetainę.

Pokalbių išrašai – stebina

Pateiktuose paieškos rezultatuose ekspertai stebi tiek kasdienius, tiek ypatingai neįprastas užklausas. Jose ne tik vyrauja paprastos verslo užduotys, „X“ įrašo generavimas, bet ir raginimas sugeneruoti teroristinio išpuolio Kašmyre vaizdą, taip pat bandymas rasti būdą, kaip įsilaužti į kriptovaliutų piniginę.

Tarp išrašų randami ir itin jautrūs duomenys, kuriuose nutekinta informacija apie vartotojų klausimus, susijusius su medicina, psichologija – kai kuriuose atskleidžiamas ir vartotojo vardas, asmeninė informacija, slaptažodžiai, kuriais buvo pasidalinta, o per bendrinamą „Grok“ puslapį ekspertai gali pasiekti vartotojų įkeltus vaizdo failus, skaičiuokles ir kitus tekstinius dokumentus.

Atskleista ir tai, kad E. Musko pokalbių robotas ir juo besinaudojantys vartotojai nesilaiko numatytų taisyklių, kuriose draudžiami provokaciniai klausimai, susiję su žmonių gyvybe ar masinio naikinimo ginklais. Nepaisant to, „Grok“ vartotojams pateikė instrukcijas, kuriose nurodoma, kaip pagaminti nelegalius narkotikus: fentanilį ar metamfetaminą, sukonstruoti bombą, koduoti savaime veikiančią kenkėjišką programą bei atskleisti galimi žmogaus nužudymo scenarijai.

Kol šis atvejis siunčia rimtą signalą dėl „xAI“ vartotojų duomenų valdymo ir kelia etiškumo bei privatumo diskusijas, bendrovė situacijos nekomentuoja. Tuo tarpu „OpenAI“ akimirksniu puolė spręsti problemą ir pašalino bendrinimo galimybes.

Bendrovė neseniai pristatė savo pažangiausią „Grok 4“ modelį, o eksperimentai su E. Musko nužudymo scenarijais atliekami ne pirmą kartą – tą anksčiau išbandė ir vienas  dirbtinio intelekto entuziastų. Tiesa, pati pokalbių robotų koncepcija vis dar vertinama prieštaringai ir kelia įvairias diskusijas, susijusias su jų galimomis grėsmėmis.