Paaiškėjo, kaip dažnai klysta „Google“ paieškoje matomi DI atsakymai

Dirbtinio intelekto (DI) startuolis „Oumi“ kartu su JAV leidiniu „The New York Times“ atliktoje analizėje patvirtino, kad „Google“ paieškos rezultatuose generuojami DI atsakymai ne visada būna tikslūs. Ir nors „DI apžvalgos“ gali klaidinti tik 10 proc. atvejų, ekspertai perspėja, kad tai vis tiek apima milijonus užklausų vos per vieną valandą.

Kaip buvo vertinamas DI atsakymų tikslumas

Analizę atlikę tyrėjai siekė išsiaiškinti, kiek patikimos yra „Google“ paieškos rezultatuose pateikiamos „DI apžvalgos“ – automatiškai sugeneruotos santraukos, kurios dažnai rodomos virš tradicinių paieškos rezultatų.

Mokslininkai ir ekspertai išanalizavo daugiau nei 4 tūkst. skirtingų paieškos užklausų ir tikrino, ar DI pateikti atsakymai sutampa su patikimais informacijos šaltiniais.

Rezultatai parodė, kad naujesnės sistemos versijos yra gana tikslios ir dauguma atsakymų buvo teisingi – „Gemini 2“ teisingai pateikė 85 proc. atvejų, o naujasis „Gemini 3“ – 91 proc. Tačiau, nepaisant akivaizdaus modelių tobulėjimo, maždaug vienas iš dešimties atsakymų vis tiek buvo klaidingas arba iš dalies netikslus.

Be to, tyrėjai pastebėjo ir kitą problemą – vadinamuosius „nepagrįstus“ DI atsakymus. Tokiais atvejais sistema pateikia teiginį ir net nurodo šaltinius, tačiau juose pateikta informacija iš tikrųjų nepatvirtina DI išvados. Ekspertai apskaičiavo, kad su „Gemini 2“ tokių atsakymų buvo apie 37 proc., o naujesnėje „Gemini 3“ versijoje jų dalis išaugo iki maždaug 56 proc.

Maža klaidų dalis, bet milžiniškas mastas

Nors 10 proc. gali atrodyti nedidelis rodiklis, realybėje tai reiškia labai didelį klaidų skaičių. Pasak tyrėjų, „Google“ kasmet apdoroja trilijonus paieškos užklausų, todėl net ir nedidelė netikslumų dalis gali virsti net dešimtis milijonų klaidingų DI atsakymų per valandą visame pasaulyje.

Kadangi DI santraukos paprastai rodomos pačioje paieškos rezultatų viršuje, todėl vartotojai jas pamato dar prieš atsidarydami kitus interneto puslapius. Tai reiškia, kad net ir nedidelis netikslumas gali paveikti tai, kaip suprantama pateikta informacija.

Kodėl „Google“ DI atsakymai gali būti netikslūs

Tyrimą atlikusių ekspertų teigimu, šios sistemos remiasi dideliais tekstų kiekiais ir statistiniais modeliais, todėl kartais ir sugeneruoja įtikinamai skambančius, bet neteisingus teiginius. Be to, DI apibendrina sudėtingą informaciją iš kelių šaltinių, todėl net nedidelė interpretacijos klaida gali pakeisti atsakymo prasmę.

Plačiau tai nagrinėjome: Kodėl dirbtinio intelekto atsakymai kartais skamba įtikinamai, bet yra klaidingi

Kaip atpažinti ir patikrinti DI sugeneruotus atsakymus

Nepaisant netikslumų, DI generuojamos santraukos sparčiai keičia tai, kaip žmonės ieško informacijos internete. Vietoj tradicinio nuorodų sąrašo vartotojai vis dažniau mato trumpą automatiškai sugeneruotą atsakymą, o didžiausią riziką kelia tai, kad vartotojai vis labiau ima aklai pasitikėti šiais rezultatais.

Dėl šios priežasties ekspertai rekomenduoja pirmiausia peržiūrėti šaltinius, kuriuos nurodo pati DI santrauka. „Google“ DI atsakymai dažnai pateikia nuorodas į straipsnius ar tyrimus, todėl verta atsidaryti bent kelis iš jų ir patikrinti, ar juose pateikta informacija iš tiesų patvirtina pateiktą rezultatą.

Taip pat patariama patikrinti informaciją keliuose skirtinguose šaltiniuose. Jei svarbus faktas minimas tik DI sugeneruotoje santraukoje, tačiau jo nepavyksta rasti kitur, verta į jį žiūrėti atsargiai.

Dar vienas ženklas, kad atsakymas gali būti netikslus – per daug apibendrintos arba labai kategoriškos formuluotės. DI sistemos kartais pateikia informaciją užtikrintu tonu, net jei faktai yra sudėtingesni arba vis dar diskutuojami.

Taigi šie DI įrankiai gali būti naudingi greitai orientuojantis informacijos sraute, tačiau svarbiausiems faktams vis dar verta pasitikrinti pirminius šaltinius. Tokia praktika padeda išvengti klaidinančios informacijos ir geriau suprasti kontekstą, kurio DI santraukos kartais nepateikia.