Įspūdingi DI fiasko: „AI Darwin“ apdovanojimai atskleis didžiausias metų nesėkmes

Dirbtinis intelektas pamažu užima vis didesnę vartotojų kasdienybės dalį, tačiau augantis jo potencialas – ne visada sėkmingas. Šios technologijos entuziastai sukūrė svetainę, kurioje įvyks „AI Darwin“ apdovanojimai, žymintys svarbiausias ir skausmingiausias inžinierių klaidas, diegiant šios sistemos sprendimus. Kartu tai atspindi siekį parodyti visuomenei, kaip žmonių neatsargumas ir per didelis pasitikėjimas dirbtinio intelekto galia nuveda prie kai kuriais atvejais itin katastrofiškų pasekmių.

„AI Darwin Awards“ – apie tai, kas nutylima

Šie apdovanojimai yra įkvėpti Charleso Darvino natūraliosios atrankos teorijos ir originalių Darvino apdovanojimų, kurie buvo skirti tiems, kurie „pagerino genų fondą pašalindami iš jo save“ neįtikėtinai kvailais veiksmais. Šie dirbtinio intelekto apdovanojimai tęsdami tradicijas atsisuka į mašinas – įrenginius, kuriems žmonės perduoda sprendimų priėmimo procesus.

Kartu tai šmaikščiai iliustruoja ir natūralios atrankos teoriją, kuri nebėra aktuali tik biologijai – pasak organizatorių, ji persikėlė į skaitmeninį pasaulį, kuriame blogi dirbtinio intelekto sprendimai irgi neberanda vietos.

Atrankos kriterijai

Šiuose apdovanojimuose vartotojai gali siūlyti kandidatus, tačiau jie turi atitikti keletą kriterijų. Juose būtinas dirbtinio intelekto dalyvavimas, „katastrofiškas potencialas“, kuris aiškiai atskleistų, kad pati idėja yra trumparegiška ir pasmerkta žūčiai, numanomų etikos aklųjų zonų įžvelgimas bei ambicingas siekis sprendimą pritaikyti kuo platesniu mastu.

Tuo tarpu suburta komisija tvirtina pateiktas paraiškas, o metų pabaigoje vertins nominantus, atsižvelgdama į sukurtą poveikį ir nesėkmės skambėjimą tarptautinėse antraštėse, netikėtas ir nelauktas pasekmes ar bandymą klaidas taisyti įtraukiant dar daugiau dirbtinio intelekto.

2025 m. pretendentai

Apdovanojimų sąraše jau yra 14 atvejų, kurių dalis jau atmesti kaip netinkami, dar kiti svarstomi, o 8 iš jų yra jau patvirtintos situacijos, simbolizuojančios ambicingus lūkesčius, bet skausmingus pralaimėjimus.

„AI Darwin Award“ nominantų sąraše yra tokios istorijos, kaip „Airbnb“ nuomojamo busto savininko dirbtiniu intelektu sugeneruotas patirtos žalos ieškinys svečiui, bandant prisiteisti kiek daugiau nei 10 tūkst. svarų sterlingų. Teisininko aklas pasikliovimas dirbtiniu intelektu, kai šis jam sugeneravo visiškai sufalsifikuotus teismo dokumentus su netikromis citatomis, pakliuvusiomis į reguliavimo institucijos rankas.

Čia yra ir dar viena drąsi istorija, kai „Taco Bell“ įdiegė balso komandomis valdomas užsakymo sistemas daugiau nei 500 užkandinių automobiliams, tikėdamiesi, kad šios technologijos pažanga yra tokia stipri, jog bus įveiktas akcento, sistemos trikdžių ir kt. veiksniai, o ši net nesugebėjo susidoroti su paprastomis užklausomis.

Paslydo ir garsusis „McDonald‘s“, kuris įdarbinimo pokalbių robotą apsaugojo elementariu slaptažodžiu – 123456. Saugumo ekspertai akimirksniu sugebėjo nutekinti milijonus kandidatų asmeninių duomenų.

Tarp svarstomų atvejų yra ir mūsų nagrinėtas „Replit“ agentas, sunaikinęs visą įmonės duomenų bazę. Skaitykite čia.

Savo ruožtu organizatoriai primena, kad nepaisant didžiulio dirbtinio intelekto potencialo, matome galybę klaidų, neapgalvotų sprendimų, o kartais ir visiškai utopiškų lūkesčių, bandant transformuoti visų mūsų gyvenimus. Kita vertus, kol technologijų entuziastai seka įspūdingas nesėkmes, kiti analizuoja svarbiausius šios rinkos asmenis.

Kviečiame skaityti: Kas formuoja DI ateitį? „TIME“ skelbia įtakingiausių kūrėjų šimtuką