Po DI klaidos – pasitikėjimo krizė: „Doritos“ palaikyti ginklu, sukėlusiu policijos „šturmą“

Ginkluotų išpuolių mokyklose tema JAV yra ypatingai svarbi, o viena iš prevencinių priemonių vis labiau tampa dirbtinio intelekto veikimu pagrįsti įrenginiai. Jie gali stebėti, identifikuoti ir reaguoti į įtartinus daiktus ir galimą grėsmę. Tik, kaip parodė Baltimorės apygardos atvejis, ši technologija vis dar kelia iššūkių – klaidingai palaikiusi „Doritos“ traškučių pakelį šaunamuoju ginklu, mokymosi įstaigoje ji sukėlė staigų pareigūnų reagavimą. Ir nors tai reiškia, kad sistema veikia, ekspertai diskutuoja, koks iš tiesų yra šiandieninis algoritmų patikimumas.

Nepagrįsti nuogąstavimai

Skelbiama, kad vienoje iš JAV mokyklų įdiegtos dirbtinio intelekto apsaugos sistemos algoritmai pažymėjo paauglio valgytus traškučius ir likusį tuščią „Doritos“ pakelį kaip galimą šaunamąjį ginklą. Grėsmė identifikuota po to, kai paauglys traškučių pakuotę laikė suspaudęs delne su vienu atsikišusiu pirštu.

Skelbiama, kad paauglys užkandžiavo po futbolo treniruotės, o po 20 minučių atvyko nedelsiant informuoti pareigūnai, kurie mokykloje apieškojo 16-etį berniuką. Paauglio teigimu, prie ugdymo įstaigos atvažiavo aštuoni policijos automobiliai, o jiems artėjant prie berniuko, jam buvo liepta gultis ant žemės, o ant rankų uždėti atrankiai, šiems tvirtinant, kad galbūt kažkur slepiamas ginklas.

Priemonės būtinos, bet ar patikima?

Incidentas paskatino viešas diskusijas, kurių akiratyje ne tik dirbtinio intelekto klaida, bet ir kritiškai vertinamas pareigūnų elgesys, kai šie nieko neturinčiam vaikui vis tiek uždėjo antrankius.

Baltimorės apygardos tarybos narys Julian Jones taip pat išreiškė savo susirūpinimą teigdamas: „nė vienas mūsų mokyklos sistemos vaikas neturėtų būti sulaikomas policijos vien dėl to, kad valgo traškučius“.

Tokias aptikimo sistemas tiekianti „Omnilert“ sako, kad vaizde buvo labai aiškiai matyti į ginklą panaši laikysena, todėl įspėjimas buvo patvirtintas ir persiųstas mokyklos saugumo komandai, kad ši priimtų sprendimą. Pasak jų, nors pavojaus signalas buvo klaidingas, sistema veikė taip, kaip buvo numatyta.

Kita vertus, specialistai sako, kad tai dar vienas atvejis, kuris parodo, jog dirbtinio intelekto veikimu pagrįstos aptikimo sistemos yra netikslios, jau nekalbant apie privatumo iššūkius, kurie tampa beveik neišvengiami šias priemones diegiant mokyklose.

Tuo tarpu „Doritos“ traškučiai žiniasklaidos dėmesio centre atsiduria ne pirmą kartą. Kiek anksčiau mokslininkai panaudojo vieną jų ingredientą, kuris pavertė pelę permatomą.