Dirbtinio intelekto naudojimas valgomiems grybams atpažinti gali būti mirtinas

Kai kuriems dalykams dirbtinio intelekto įrankiai yra naudingi, tačiau nepatikėkite savo sveikatos programėlėms, kurios dažnai daro klaidų.

Ieškant grybų yra mažai vietos klaidoms. Tyrėjas Rikas Kleipūlas (Rick Claypool) apie tai sužinojo labai nepavydėtinu būdu.

Keletą mėnesių užsiėmęs grybavimu, R. Kleipūlas surinko krepšelį, kaip jis manė, kelmučių, juos apkepė keptuvėje ir suvalgė su rameno makaronais. Tada jo skrandžio veikla sutriko.

Dirbtinis intelektas ne visuomet yra naudingas

Mini dirbtinio intelekto grybų programėlių išpopuliarėjimas simbolizuoja didesnę tendenciją, kai dirbtinis intelektas įtraukiamas į produktus, kuriems jis gali būti nenaudingas – nuo mokesčių programinės įrangos iki terapijos vizitų

„Galingos naujos technologijos, tokios kaip didelės kalbos modeliai ir vaizdų generatoriai, tinka kai kuriems dalykams, tačiau nuolatinis tikslios informacijos pateikimas nėra vienas iš jų. Grybų atpažinimas, dėl dažnų nesklandumų, yra netinkamas kandidatas automatizavimui, tačiau įmonės vis tiek tai daro“, – padarė išvadą Kleipūlas.

„Jos tai reklamuoja taip, tarsi tai būtų „Žvaigždžių kelio“ kompiuteris“, – sakė jis. „Tačiau realybė yra tokia: Šie daiktai nuolat daro klaidų.“

Nepaisant rizikos, atrodo, kad pradedantieji grybautojai vis dažniau naudojasi programėlėmis, kad padėtų nustatyti grybų rūšis. Remiantis „Google Trends“ duomenimis, trijose iš penkių populiariausių paieškų, susijusių su „grybų atpažinimu“, minimos programėlės arba programinė įranga.

Atlikus „grybų“ paiešką „OpenAI“ GPT parduotuvėje, kurioje vartotojai randa specializuotų pokalbių robotų, iš karto pateikiami tokie pasiūlymai kaip „Mushroom Guide“, kuris teigia, kad atpažįsta grybus iš nuotraukų ir nurodo, ar jie valgomi.

„Apple“ ar „Google“ programėlių parduotuvėse rasite dešimtis programėlių, teigiančių, kad atpažįsta grybus, o kai kurių pavadinimuose ar aprašymuose yra „AI“.

Kai Australijos mokslininkai pernai, padaugėjus apsinuodijimų, patikrino populiarių grybų atpažinimo programėlių tikslumą, jie nustatė, kad tiksliausia iš jų teisingai atpažino pavojingus grybus tik 44 proc. atvejų.

Tačiau net ir mažai tikslūs dirbtinio intelekto produktai gali greitai įgyti vartotojų pasitikėjimą dėl kognityvinio iškraipymo, vadinamo automatizavimo šališkumu. Dar 1999 m. mokslininkai nustatė, kad žmonės linkę pasitikėti kompiuterio sprendimais, net jei jo rekomendacijos prieštarauja jų sveikam protui ar mokymui.

Kai kuriais atvejais dirbtinis intelektas pagerina tikslumą ir rezultatus. Pavyzdžiui, vasario mėn. žurnale „JAMA Ophthalmology“ atliktame tyrime nustatyta, kad didelio kalbos modelio pokalbių robotas taip pat gerai, kaip ir akių specialistai, rekomendavo glaukomos ir tinklainės ligų diagnozes ir gydymą.

„Mūsų rezultatai, nors ir daug žadantys, neturėtų būti interpretuojami kaip patvirtinantys tiesioginį klinikinį taikymą dėl neaiškių pokalbių robotų apribojimų priimant sudėtingus sprendimus, taip pat dėl būtinų etinių, reguliavimo ir patvirtinimo aspektų“, – pažymi autoriai.

Kai Kleipūlas patikrino kitus dirbtinio intelekto grybų atpažinimo būdus, jis rado „Amazon“ knygyne siūlomus, kaip paaiškėjo, dirbtinio intelekto sukurtus grybų lauko vadovus. Jis taip pat išbandė „Microsoft“ programą „Bing Image Creator“ ir paprašė jos sugeneruoti ir paženklinti įvairių grybų atvaizdus.

Jis sugalvojo naujų grybų dalių, pavyzdžiui, „ging“ ir „nulpe“, kurios neegzistuoja. Netikslūs, dirbtinio intelekto sukuriami grybų atvaizdai gali „užnuodyti“ būsimus dirbtinio intelekto mokymo duomenis ir paieškos sistemos rezultatus, todėl šios dirbtinio intelekto sistemos taps dar mažiau tikslios, rašė Kleipūlas.

„Esame įsipareigoję savo klientams užtikrinti saugų apsipirkimą ir skaitymą, todėl į tokius dalykus kaip šis žiūrime rimtai“, – sakė „Amazon“ atstovė spaudai Ešli Vanicek (Ashley Vanicek).

Bendrovės gairėse reikalaujama, kad autoriai atskleistų informaciją apie dirbtinio intelekto sukurto turinio naudojimą, o A. Vanicek pažymėjo, kad „Amazon“ neleidžia įtraukti knygų į sąrašą ir pašalina šių taisyklių nesilaikančias knygas.

Nevaldykite laukinių grybų, jei nesikonsultuojate su ekspertu

Greitai po įnirtingo paieškos „Google“ ir kelionės į skubios pagalbos skyrių Kleipūlas sužinojo, kad iš pradžių buvo teisus – grybai nebuvo nuodingi. Gydytojai jo simptomus pavadino panikos priepuoliu ir išsiuntė jį namo.

Kitiems taip nepasisekė. Pasak naujienų pranešimų, 2015 m. viena Oregono šeima buvo paguldyta į ligoninę po to, kai suvalgė grybų, kuriuos identifikavimo programėlė nurodė kaip saugius.

2022 m. Ohajo vyras sunkiai susirgo suvalgęs nuodingų grybų, kuriuos taip pat klaidingai atpažino programėlė. Pasak Kleipūlo, norint užtikrintai atpažinti laukinius grybus, reikia patirties, o technologinės priemonės dar nėra tinkamos.

Dabar „Apple“, „Google“ ir „OpenAI“ programėlių parduotuvėse atsiranda naujų dirbtinio intelekto valdomų grybų atpažinimo priemonių. Šiose priemonėse dirbtinis intelektas naudojamas grybų nuotraukoms ar aprašymams analizuoti ir palyginti juos su žinomomis rūšimis.

Kaip ir ankstesnių grybų atpažinimo programėlių atveju, tikslumas yra prastas, nustatė Kleipūlas naujoje ataskaitoje, parengtoje ne pelno siekiančiai vartotojų teisių gynimo organizacijai „Public Citizen“. Tačiau dirbtinio intelekto bendrovės ir programėlių parduotuvės vis tiek siūlo šias programėles, paprastai aiškiai nenurodydamos, kaip dažnai šios priemonės klysta.

„Apple“, „Google“, „OpenAI“ ir „Microsoft‘ neatsakė į prašymus pateikti komentarus.