Autonominiai ginklai jau čia: „Jungtinės Tautos“ siunčia perspėjimą žmonijai

Sekite TechNaujienos Google

Ginklai, galintys aptikti, pasirinkti ir atakuoti taikinius su vis mažesniu žmogaus įsikišimu, nebėra vien futuristinė karo technologijų vizija. Jungtinės Tautos ir Tarptautinis Raudonojo Kryžiaus komitetas perspėja, kad pasaulis pavojingai priartėjo prie ribos, kai sprendimas panaudoti mirtiną jėgą prieš žmogų gali būti vis labiau perduodamas mašinoms.

Tema tapo dar aktualesnė po rugpjūčio 25 d. paskelbto bendro JT generalinio sekretoriaus António Guterreso ir Tarptautinio Raudonojo Kryžiaus komiteto prezidentės Mirjanos Spoljaric kreipimosi. Jame šalys raginamos nedelsiant pradėti derybas dėl teisiškai privalomų autonominių ginklų taisyklių.

JT perspėjime teigiama, kad technologijų pažanga dabar juda greičiau nei tarptautinės taisyklės. Organizacija kalba apie nepatvirtintus pranešimus, jog mūšio lauke jau gali būti naudojami visiškai autonominiai ar DI valdomi dronai, tačiau pabrėžia, kad pats lenktyniavimas dėl vis didesnės ginklų autonomijos jau vyksta.

Pavojingiausia riba – kai taikiniu tampa žmogus

Didžiausias nerimas kyla ne dėl to, kad ginklas gali automatiškai sekti objektą ar naviguoti be piloto. Esminis klausimas – ar sistema pati gali nustatyti, kas yra taikinys, ir priimti sprendimą jį atakuoti. Guterresas ir Spoljaric tai apibūdino kaip moralinę ribą, kurios pasaulis neturėtų peržengti.

Naujausi straipsniai

3 min. skaitymo • prieš 1 val

Niekada neprovokuok roboto: pastūmus humanoidą, šis puolė atgal

4 min. skaitymo • prieš 2 val

„iPhone 18 Pro“ pristatymas – už kelių dienų: ką žinome apie kainą, spalvas ir naujoves

3 min. skaitymo • prieš 2 val

Proveržis medicinoje: „blogasis“ cholesterolis krito 52 proc. per pirmąjį bandymą su žmonėmis

Visi naujausi straipsniai →

Problema tampa ypač sudėtinga, kai į ginklų sistemas integruojamas DI. Algoritmai gali apdoroti kamerų, radarų, palydovų ir kitų jutiklių informaciją daug greičiau nei žmogus, tačiau klaidingas atpažinimas, šališki duomenys ar netikėtas sistemos elgesys gali turėti negrįžtamų pasekmių.

Apie šią kryptį „TechNaujienos.lt“ rašė dar pernai, kai analizavome autonominių dronų naudojimą Ukrainos karo lauke ir klausimą, ar DI bus leidžiama žudyti. Tuo metu didžiausia diskusija sukosi apie žmogaus kontrolės išlaikymą. Dabar Jungtinės Tautos teigia, kad laiko susitarti lieka vis mažiau.

Panašių scenarijų riziką anksčiau akcentavo ir Europolas. „TechNaujienos.lt“ jau skelbė apie agentūros perspėjimą, kad iki 2035 m. robotų ir žmonių konflikto scenarijai gali tapti realia saugumo problema. Tuo pat metu vienas garsiausių DI tyrėjų Geoffrey Hintonas taip pat yra kalbėjęs apie tai, kaip autonominės sistemos gali iš esmės pakeisti karo pobūdį.

JT nori tarptautinių taisyklių dar šiemet

Rugpjūčio pabaigoje JT ir Raudonasis Kryžius paragino valstybes pereiti nuo diskusijų prie konkrečių derybų. Siūloma aiškiai uždrausti sistemas, kurių veikimas yra neprognozuojamas, taip pat autonominius ginklus, skirtus tiesiogiai taikytis į žmones be prasmingos žmogaus kontrolės.

Tuo pat metu Ženevoje nuo rugpjūčio 31 d. iki rugsėjo 4 d. vyksta JT ekspertų grupės posėdžiai dėl mirtinų autonominių ginklų sistemų. Valstybės mėgina susitarti dėl galimo tarptautinio instrumento elementų, tačiau kol kas nėra vieningos pasaulinės sutarties, kuri aiškiai nustatytų, kiek savarankiškumo gali būti suteikta ginklui priimant gyvybės ir mirties sprendimą.

JT pozicija šiuo klausimu griežta: žmogaus kontrolė turi išlikti esminė, nes teisinė ir moralinė atsakomybė negali būti perduota algoritmui. Jei technologijų vystymosi tempas ir reguliavimo tempas toliau skirsis, autonominių ginklų naudojimo taisyklės gali būti pradėtos kurti tik po to, kai tokios sistemos jau taps įprasta karo lauko dalimi.