Kinija „medžios“ valdžios kritikus internete su dirbtinio intelekto pagalba – kas žinoma?

Kinijoje kuriamos dirbtinio intelekto (DI) sistemos gali būti naudojamos ne tik piliečių veiklai stebėti, bet ir bandyti numatyti, kas ateityje gali tapti valdžios kritiku. Tokią išvadą pateikė Vanderbilto universiteto Nacionalinio saugumo instituto (JAV) tyrėjai, išanalizavę nutekintus Kinijos bendrovės „Geedge Networks“ vidinius dokumentus. Pasak mokslininkų, juose aprašomos technologijos, kurios leistų sujungti didelius kiekius gyventojų duomenų ir kurti elgesio modelius, skirtus potencialioms politinėms grėsmėms nustatyti.

Nutekinti dokumentai atskleidė sistemos veikimo principą

Tyrėjų ataskaitoje teigiama, kad „Geedge Networks“ yra viena iš bendrovių, kuriančių technologijas interneto stebėjimui ir cenzūrai Kinijoje, bendradarbiaujant kartu su valstybės institucijomis, mokslinių tyrimų organizacijomis ir kitomis privačiomis bendrovėmis. Analizuodami daugiau nei 100 tūkst. dokumentų, tyrėjai aptiko įrodymų apie architektūrą, kuri galėtų sujungti interneto srautų duomenis, vietos nustatymo informaciją bei socialinius ryšius į vieningą kiekvieno piliečio profilį.

Dokumentuose taip pat minima, kad bendrovės komandos tyrė, kaip didieji kalbos modeliai galėtų apdoroti didelius kiekius perimtų duomenų. Tarp jų – naršymo istorija, judėjimo maršrutai, bendravimo ryšiai ir kita skaitmeninė informacija. Tikslas buvo ne tik suprasti, ką žmogus jau padarė, bet ir prognozuoti, ką jis gali daryti ateityje bei su kuo gali būti susijęs.

TAIP PAT SKAITYKITE: Kinija jau testuoja 6G ryšį: ką rodo pirmieji bandymai

Nuo stebėjimo prie elgesio prognozavimo

Tradicinės stebėjimo sistemos dažniausiai veikia reaguodamos į konkretų veiksmą – komentarą, publikaciją ar dalyvavimą proteste. Tačiau DI pagrįstas prognozavimas keičia patį principą. Algoritmai gali vertinti žmogaus keliones, skaitomą turinį, bendravimo tinklus ir kitus elgesio požymius, o vėliau pagal juos apskaičiuoti galimą politinę riziką.

Tyrėjai pabrėžia, kad tokiose sistemose valstybės dėmesio centre atsiduria ne tai, ką pilietis padarė, o tai, ką algoritmas mano, kad jis gali padaryti ateityje. Būtent todėl tokio pobūdžio šios technologijos turėtų sulaukti didelio žmogaus teisių gynėjų ir privatumo ekspertų dėmesio.

Kinijos ambicijos neapsiriboja savo teritorija

Ataskaitoje minima ir dar viena svarbi detalė. Tyrėjų teigimu, „Geedge Networks“ kuriamos sistemos buvo siūlomos ne tik Kinijoje. Dokumentuose aptikta informacijos apie technologijų eksportą į tokias šalis kaip Mianmaras, Pakistanas, Etiopija ir Kazachstanas.

Nors nėra įrodymų, kad šios valstybės jau naudoja identiškas prognozuojamąsias stebėjimo sistemas, ekspertai perspėja, jog tokios technologijos gali prisidėti prie platesnio autoritarinių skaitmeninės kontrolės priemonių plitimo pasaulyje.

Kol kas neaišku, kiek tiksliai pažengę šie projektai ir kokį prognozavimo tikslumą jie iš tiesų gali pasiekti. Remiantis tyrėjų duomenimis manoma, kad šios bendrovės pažangą galėjo pristabdyti dar buvusio JAV prezidento įvesti pažangių DI lustų eksporto ribojimai.

Vis dėlto Vanderbilto universiteto tyrėjai pažymi, kad net ir netobulos sistemos gali reikšmingai išplėsti valstybės galimybes stebėti visuomenę bei didinti žmonių baimę būti nuolat vertinamiems algoritmų.

Kinijos technologinės ambicijos auga ir kitose srityse

Ši istorija nėra vien pavienis eksperimentas. Pastaraisiais metais Kinija aktyviai investuoja į technologijas, kurios gali būti naudojamos ne tik ekonominiams ar moksliniams tikslams, bet ir informacijos kontrolei bei nacionalinio saugumo stiprinimui.

Anksčiau rašėme, kad Kinijos sukurtas DI modelis „DeepSeek“ cenzūruoja didžiąją dalį užklausų jautriomis politinėmis temomis, o šalies mokslininkai taip pat paskelbė dirbantys prie daugiau nei dešimties kvantinio karo technologijų. Šie projektai rodo, kad Pekinas siekia technologinio pranašumo ne tik DI, bet ir platesnėje skaitmeninio saugumo bei kontrolės srityje.