Priežastis, kodėl JAV Kongresas uždraudė „Microsoft“ „Copilot“ dirbtinį intelektą

2023 m. pabaigoje JAV prezidentas Joe Bidenas pasirašė įsakymą, kuriuo nustatė naujus dirbtinio intelekto saugos standartus ir apsaugos priemones, susijusias su jo kūrimu.

Baltųjų rūmų Valdymo ir biudžeto biuras (OMB), kovo 28 d. atlikęs pirminius 150 dienų veiksmus, nurodytus įsakyme, paskelbė visos vyriausybės politiką, kuria siekiama kovoti su AI keliama rizika, didinti skaidrumą, stiprinti priežiūrą ir nurodyti, kaip federalinės agentūros gali naudoti AI.

Tačiau panašu, kad toks požiūris JAV Kongresui atrodo šiek tiek sunkiai suvokiamas.

Kongreso darbuotojai nebegali naudotis „Microsoft Copilot“

Remiantis vidiniu pranešimu, kurį gavo „Axios“, Kongreso darbuotojams uždrausta naudotis „Microsoft Copilot“ – dirbtinio intelekto įrankių rinkiniu, prieinamu visoje bendrovės produktų ekosistemoje ir internete.

Catherine Szpindor, JAV Atstovų rūmų administracijos vadovė nuo 2020 m., pranešė, kad „Copilot“ „neleistina naudoti Atstovų rūmuose“. Apribojimai taikomi komercinei „Copilot“ versijai, kurią galima naudoti kaip nemokamą įrankį ir prenumeruojant.

Pranešama, kad bendrovė kuria „Copilot“ versiją kaip „Azure“ debesijos ir „Microsoft 365“ paketo dalį, kad atitiktų pažangius vyriausybinių agentūrų saugumo atitikties reikalavimus.

Tačiau Szpindor biuras patvirtino, kad šios „Microsoft“ teikiamos vyriausybėms skirtos dirbtinio intelekto priemonės turės būti patikrintos, kol jomis bus leista naudotis darbuotojams.

Abejotina istorija

„Kibernetinio saugumo biuras nusprendė, kad „Microsoft Copilot“ programa kelia pavojų naudotojams dėl grėsmės, kad Rūmų duomenys gali nutekėti į Rūmų nepatvirtintas debesijos paslaugas“, – teigė Szpindoro biuras.

Duomenų nutekėjimas buvo generatyvinio dirbtinio intelekto įrankių problema nuo tada, kai atsirado „OpenAI“ „ChatGPT“.

Praėjusių metų gegužę „The Wall Street Journal“ pranešė, kad „Apple“ įspėjo darbuotojus nenaudoti tokių įrankių, kaip „GitHub“ pagalbininkas „Copilot“ kodavimui ir „ChatGPT“. Atskleidus duomenų nutekėjimo pėdsakus, „Samsung“ taip pat uždraudė darbuotojams naudoti „ChatGPT“.

Po kelių mėnesių, birželį, San Franciske įsikūrę „Robust Intelligence“ ekspertai pademonstravo, kaip „Nvidia“ dirbtinio intelekto programinę įrangą „NeMo Framework“ galima apgaule priversti atskleisti privačią informaciją ir apeiti saugos priemones.

JAV Federalinė prekybos komisija taip pat atliko tyrimą dėl „ChatGPT“ pavojaus duomenų saugumui. Praėjusių metų lapkritį Šiaurės Vakarų universiteto ekspertai atskleidė metodus, kaip apgaule priversti „GPT“ atskleisti konfidencialią informaciją.

Po mėnesio nutekinti dokumentai, kuriuos gavo „The Platformer“, atskleidė „Amazon“ pokalbių roboto Q haliucinacijų problemas ir tai, kad jis nutekindavo konfidencialius duomenis, tokius kaip duomenų centrų vieta, neišleistos funkcijos ir nuolaidų programos.

Kito incidento metu „ChatGPT“ išplatino asmeninius duomenis, pavyzdžiui, naudotojų bankininkystės informaciją, todėl bendrovė buvo priversta trumpam jį išjungti.

Turint tokią sukrečiančią istoriją, nenuostabu, kad „Microsoft“ „Copilot“ buvo uždrausta naudoti oficialiuose kompiuteriuose, nors Kongreso darbuotojams negalima uždrausti naudoti šių įrankių asmeniniuose įrenginiuose.