Milijardierius Billas Gatesas dirbtinio intelekto grėsmes lygina su branduoliniu pavojumi

Sekite TechNaujienos Google

Dirbtinio intelekto pažanga vis dažniau pristatoma kaip produktyvumo ir mokslo proveržis, tačiau Billas Gatesas ragina žiūrėti ir į kitą medalio pusę. „Microsoft“ bendraįkūrėjas teigia, kad pasauliui reikia visiškai naujos DI valdymo sistemos, o jos mastą lygina su tuo, kaip valstybės kadaise kūrė tarptautinius mechanizmus branduolinei grėsmei kontroliuoti.

Gateso argumentas nėra tas, kad šiandienos pokalbių robotai savaime prilygsta branduoliniam ginklui. Jo mintis kita: DI gali labai greitai sustiprinti žmonių ir organizacijų gebėjimą vykdyti kibernetines atakas, kurti biologines grėsmes, automatizuoti ginklus ir manipuliuoti informacija, todėl vien nacionalinių taisyklių ilgainiui gali nepakakti.

Rugpjūtį paskelbtame plačiame tekste apie DI ateitį Gatesas rašė, kad dabartinės institucijos nebuvo sukurtos technologijai, kuri vienu metu taip sparčiai keičia nacionalinį saugumą, darbo rinką, švietimą, energetiką, sveikatos apsaugą, finansus ir informacinę erdvę.

Didžiausia baimė – ne pats DI, o tai, kam jis bus panaudotas

Viena konkrečiausių Gateso minimų rizikų yra biologinis terorizmas. Pasak jo, DI gali padėti kurti naujus vaistus ir vakcinas, tačiau tos pačios technologijos gali sumažinti žinių ir resursų barjerą žmonėms, norintiems sukurti pavojingą biologinį agentą.

Naujausi straipsniai

4 min. skaitymo • prieš 25 minutės

Ar „powerbanką“ galima vežtis lėktuve? Ką svarbu žinoti apie oro linijų taisykles

2 min. skaitymo • prieš 55 minutės

„Meta“ tiesia 7 000 km kabelį per Atlantą – kodėl?

3 min. skaitymo • prieš 4 val

„Claude“ laboratorijoje atrado naują fermentų sistemą su CRISPR primenančiais pasikartojimais

Visi naujausi straipsniai →

Tai nėra visiškai naujas jo perspėjimas. Dar anksčiau Gatesas yra rašęs apie scenarijus, kuriuose specialiai sukurtas patogenas teoriškai galėtų nusinešti milžinišką skaičių gyvybių. Šiemet jis šią temą susiejo būtent su atvirojo kodo DI įrankiais ir teigė, kad nevalstybinės grupuotės galimybė pasitelkti juos biologiniam ginklui kurti gali tapti didesne grėsme nei natūraliai kylanti pandemija.

Apie šią riziką TechNaujienos.lt jau rašė anksčiau straipsnyje „Billas Gatesas įspėja: DI gali būti panaudotas kaip bioterorizmo ginklas“. Nuo tada jo tonas tapo platesnis – dabar kalbama ne tik apie vieną grėsmę, bet apie visą valdymo sistemą.

Kita problema – kibernetinės atakos. Gatesas pažymi, kad DI jau geba padėti aptikti programinės įrangos spragas, tačiau lygiai tokia pati galimybė gali būti naudojama ir atakoms. Kuo galingesni tampa modeliai, tuo mažiau techninių žinių gali reikėti tam, kad nusikaltėlis bandytų atakuoti ligonines, finansų įstaigas, elektros tinklus ar vandens tiekimo sistemas.

Prie to prisideda autonominiai ginklai, dezinformacija, masinė stebėsena ir galimybė daug pigiau manipuliuoti viešąja nuomone. Kitaip tariant, didelė dalis Gateso nerimo susijusi ne su fantastiniu scenarijumi, kuriame DI staiga „atsibunda“, o su tuo, kad labai galingi įrankiai taps prieinami vis didesniam skaičiui žmonių.

Kodėl jis kalba apie branduolinės eros modelį

Gatesas siūlo kurti tiek nacionalinę, tiek tarptautinę DI valdymo architektūrą. Kaip galimus pavyzdžius jis mini branduolinių ginklų inspekcijų režimą, tarptautinės aviacijos taisykles ir susitarimus, kurie buvo sukurti ozono sluoksniui apsaugoti.

Branduolinė analogija čia svarbi dėl vienos priežasties: kai technologijos pasekmės peržengia valstybių sienas, vienos šalies reguliavimo nepakanka. Jei pavojingą DI sistemą, biologinį agentą ar autonominį kibernetinės atakos įrankį galima sukurti vienoje valstybėje ir panaudoti kitoje, taisyklės turi veikti tarptautiniu mastu.

Gatesas taip pat pabrėžia, kad tam tikras bendradarbiavimas tarp JAV ir Kinijos būtų būtinas. Tai viena sudėtingiausių visos idėjos dalių: šalys tuo pačiu metu konkuruoja dėl pažangiausių DI sistemų ir turėtų tartis dėl ribų, kaip tos sistemos gali būti kuriamos bei naudojamos.

Jo pozicija nėra vien pesimistinė. Gatesas nuolat pabrėžia, kad DI gali pagreitinti medicinos, energetikos, klimato technologijų ir mokslo pažangą. Tačiau būtent dėl tokio potencialo jis nenori technologijos stabdyti – vietoje to siūlo iš anksto statyti saugiklius.

„Microsoft“ bendraįkūrėjas jau anksčiau kalbėjo ir apie kitą DI revoliucijos pusę – darbo rinką. Rugpjūtį TechNaujienos.lt rašė apie jo prognozę, kad dalis šiandien egzistuojančių darbo vietų gali išnykti visam laikui. Dabar jo perspėjimas apima kur kas platesnį klausimą: ar pasaulio institucijos sugebės keistis taip pat greitai, kaip keičiasi pati technologija.

Gateso naujausias argumentas išdėstytas jo asmeniniame tinklaraštyje „Gates Notes“, kur jis ragina valstybes pradėti kurti bendras taisykles dar prieš tai, kai rimtas incidentas privers veikti krizės režimu.