Kinija ir JAV atmeta raginimus „pristabdyti“ dirbtinio intelekto pažangą: lenktynės kaista

Sekite TechNaujienos Google

Diskusija, ar pažangiausių dirbtinio intelekto sistemų kūrimą reikėtų sąmoningai lėtinti, per kelias dienas iš technologijų sektoriaus vidaus persikėlė į geopolitikos centrą. „Anthropic“ vadovas Dario Amodei ragina duoti daugiau laiko saugumo priemonėms, tačiau tiek Donaldo Trumpo stovykla JAV, tiek Kinijos valdžia siunčia priešingą signalą: DI lenktynėse stabdis gali kainuoti strateginį pranašumą.

Amodei rugsėjį paskelbtame tekste „We Must Pace the Frontier“ teigia, kad pažangiausių modelių galimybės pradėjo augti taip sparčiai, jog saugumo, interpretavimo ir kontrolės priemonės gali tiesiog nespėti iš paskos. Jo siūlomas „pacing“ nereiškia visiško DI tyrimų sustabdymo, tačiau reikštų sąmoningai lėtesnį naujų galimybių diegimą, nepriklausomą vertinimą ir tam tikrą koordinavimą tarp didžiųjų laboratorijų bei valstybių.

Ši pozicija atspindi vis garsesnę DI saugumo stovyklą. Visai neseniai rašėme apie buvusį „Anthropic“ tyrėją, kuris palikdamas bendrovę perspėjo, kad laboratorijos gali rizikuoti žmonių gyvybėmis – „Jie lošia mūsų gyvybėmis“: DI tyrėjas paliko „Anthropic“ su šiurpiu perspėjimu.

Kinija: baimės kurstymas tik trukdo

Pekinas į šią diskusiją sureagavo neįprastai tiesiai. Rugsėjo 14 d. Kinijos Užsienio reikalų ministerijos spaudos konferencijoje atstovo Guo Jiakun buvo paklausta apie raginimus lėtinti pažangiausių DI sistemų vystymą ir argumentus, kad Kinijos persvara šioje srityje galėtų kelti grėsmę JAV nacionaliniam saugumui.

Naujausi straipsniai

4 min. skaitymo • prieš 1 val

Ar dirbtinio intelekto agentas gali „nulaužti“ jūsų kompiuterį?

4 min. skaitymo • prieš 1 val

Tarptautinis tyrimas atskleidė Rusijos valdomą „vienkartinių agentų“ tinklą Europoje

3 min. skaitymo • prieš 1 val

Mokslininkai aptiko, kas gali sukelti „smegenų rūką“ po ilgojo COVID

Visi naujausi straipsniai →

Oficialiame Kinijos URM atsakyme Guo pabrėžė, kad dirbtinis intelektas yra technologija, svarbi visos žmonijos gerovei, todėl jo plėtra turėtų būti atvira ir įtrauki. Kartu jis pareiškė, kad „fear-mongering“, konfrontacija ir piktybinė konkurencija trukdo sukurti veiksmingą pasaulinę DI valdymo sistemą.

Formuluotė svarbi tuo, kad Pekinas DI rizikos diskusiją aiškiai susieja ne tik su technologiniu saugumu, bet ir su konkurencija tarp valstybių. Amodei pats savo tekste pripažįsta tą pačią dilemą iš kitos pusės: jei JAV bendrovės lėtėtų, o Kinija – ne, Vašingtonas galėtų prarasti strateginį pranašumą. Todėl jo plane kartu su saugumo priemonėmis numatyta ir griežčiau riboti pažangių lustų bei technologijų patekimą į Kiniją.

Taigi ginčas jau nebėra paprastas pasirinkimas tarp „saugaus“ ir „greito“ DI. Abi pusės skirtingais argumentais kalba apie tą patį dalyką – kas kontroliuos technologijos tempą ir ar tas tempas netaps geopolitiniu ginklu.

Trumpas ir „Nvidia“ vadovas – už lenktynių tęsimą

JAV pusėje ypač iškalbingas epizodas užfiksuotas per pokalbį su „Nvidia“ vadovu Jensen Huang. X platformoje paskelbtame vaizdo įraše matyti, kaip pokalbio metu Huang netikėtai sulaukia Donaldo Trumpo skambučio. Diskusija pasisuka apie dirbtinio intelekto ateitį ir perspėjimus, kad sparčiai augančios sistemos gali tapti nekontroliuojamos.

Trumpo pozicija iš esmės priešinga idėjai, kad Jungtinės Valstijos turėtų vienašališkai sumažinti tempą. Jo argumentas paprastas: jeigu JAV sulėtins, o Kinija ne, pranašumas gali atitekti konkurentui. Huang taip pat ne kartą yra akcentavęs, kad JAV turi išlaikyti technologinę lyderystę, kartu gerindamos DI saugumą, o ne atsisakydamos pažangos.

Įdomu ir tai, kad skeptiškesnį požiūrį į katastrofinius DI scenarijus viešai yra reiškęs Elonas Muskas. Nors jis pats ilgą laiką perspėja apie ilgalaikes pažangaus DI rizikas, naujausiuose pasisakymuose dalį masinės baimės jis laiko perdėta. Apie šį paradoksą plačiau rašėme straipsnyje „Perdėta baimė“: kol DI ekspertai masiškai perspėja apie pavojų žmonijai, Muskas ramina.

Visa tai formuoja naują, gerokai sudėtingesnę DI lenktynių fazę. Vienoje pusėje – laboratorijos ir tyrėjai, teigiantys, kad technologijos galimybės auga greičiau nei gebėjimas jas kontroliuoti. Kitoje – politiniai ir verslo lyderiai, perspėjantys, kad bandymas pristabdyti gali tapti strategine dovana konkurentui.

Paradoksalu, tačiau Vašingtonas ir Pekinas šiuo metu bent vienu klausimu priartėjo prie panašios išvados: dirbtinio intelekto pažangos tempas tapo nacionalinės galios dalimi. Skiriasi tik paaiškinimas. JAV kalba apie būtinybę neleisti Kinijai perimti lyderystės, o Kinija – apie baimės kurstymą ir bandymą technologinę konkurenciją paversti politinio spaudimo priemone.

Todėl tikėtina, kad artimiausiais mėnesiais ginčas dėl DI saugumo dar labiau susilies su JAV ir Kinijos technologine konkurencija. Klausimas jau ne vien tas, kiek pavojingas gali būti pažangus DI. Vis svarbiau tampa, kas turės teisę nuspręsti, kaip greitai jis apskritai gali būti kuriamas.