„OpenAI“ atskleidė „netikrų fasadų“ operacijas – DI naudotas įtakai ir kibernetinėms atakoms maskuoti

Sekite TechNaujienos Google

Generatyvinis dirbtinis intelektas vis dažniau naudojamas ne vien atviram turinio kūrimui, bet ir operacijoms, kurių tikrieji vykdytojai slepiasi už fiktyvių organizacijų, netikrų ekspertų ar tariamai nepriklausomų projektų. „OpenAI“ spalio 8 dieną paskelbė naują ataskaitą apie tokias „netikrų fasadų“ operacijas ir pranešė nutraukusi su jomis susijusių paskyrų veiklą.

Bendrovės saugumo pranešimų skiltyje operacijos apibūdinamos kaip bandymai DI priemonėmis greičiau kurti tekstus, versti turinį, rengti programinį kodą ir koordinuoti veiklą skirtingose platformose. Svarbi išvada – modeliai nepadarė užpuolikų visagaliais, tačiau sumažino rutininių darbų kainą ir leido mažoms grupėms atrodyti didesnėmis bei profesionalesnėmis.

Kaip veikia „netikras fasadas“

Tokios operacijos esmė nėra vien melagingas įrašas. Pirmiausia sukuriama patikimumo iliuzija: svetainė, socialinių tinklų paskyros, tariamų specialistų biografijos, logotipas ir nuosekli komunikacija. Vėliau šis fasadas naudojamas politinei žinutei, kenkėjiškai nuorodai, duomenų rinkimui arba ryšiui su konkrečia auditorija.

Generatyvinis DI ypač naudingas mastui. Juo galima vienu metu parengti dešimtis tekstų keliomis kalbomis, pritaikyti žinutę skirtingoms šalims ir palaikyti nuolatinį publikavimo ritmą. Modelis taip pat gali padėti taisyti kodą ar aiškinti technines klaidas. Tai nereiškia, kad jis savarankiškai suplanuoja visą operaciją: žmogus vis dar nustato tikslą, pasirenka aukas ir valdo infrastruktūrą.

Naujausi straipsniai

3 min. skaitymo • prieš 1 val

„Google“ pristatė universalų darbo DI agentą – savarankiškai planuos ir atliks sudėtingas užduotis

3 min. skaitymo • prieš 1 val

„Anthropic“ nemokamai tikrins atvirojo kodo programas – DI ieškos pavojingų saugumo spragų

3 min. skaitymo • prieš 2 val

Ukraina skelbia sunaikinusi „Pancir-S1“ ir smogusi Rusijos dronų paleidimo bazei prie Donecko

Visi naujausi straipsniai →

Technologijų bendrovės dėl to stebi ne vien vieno atsakymo turinį, bet ir platesnius naudojimo modelius. Įtarimą gali kelti daugybė paskyrų, vienodai formuluojamos užklausos, masinis vertimas, automatizuotas turinio generavimas arba sąsajos su jau žinoma kenkėjiška infrastruktūra.

Ką tai reiškia Lietuvos vartotojams

Lietuvių kalba ilgą laiką buvo tam tikras barjeras pigiai masinei dezinformacijai, nes kokybiškam vertimui reikėjo žmogaus. Šis pranašumas mažėja. Šiuolaikiniai modeliai gali sukurti taisyklingą, vietinei auditorijai pritaikytą tekstą, todėl vien gera kalba nebegali būti autentiškumo įrodymas.

Vertinant įtartiną svetainę ar paskyrą svarbiau tikrinti jos istoriją. Kada sukurtas domenas? Ar nurodyti žmonės egzistuoja? Ar yra aiškus juridinis asmuo ir redakcinė atsakomybė? Ar keli tariamai nepriklausomi puslapiai nekartoja tų pačių formuluočių ir nuorodų? Tokie signalai dažnai atskleidžia koordinavimą geriau nei bandymas iš teksto „atspėti“, ar jį rašė DI.

Ta pati taisyklė galioja kibernetinėms atakoms. Kaip parodė ir DI agentų panaudojimo finansų sektoriuje atvejis, automatizacija gali pagreitinti žvalgybą ir įrankių pritaikymą, tačiau galutinį pavojų sukuria prieiga prie sistemų, pavogti prisijungimai ir nepašalintos spragos.

Didžiausia klaida būtų manyti, kad kiekvienas sklandus tekstas yra DI propaganda, arba priešingai – kad profesionaliai atrodantis puslapis yra patikimas. „Netikrų fasadų“ era keičia tikrinimo taisyklę: pasitikėjimą turi kurti ne išvaizda, o skaidri kilmė, patikrinami autoriai, pirminiai šaltiniai ir nuosekli atsakomybė už klaidas.