„Google“ sukūrė sukčių pokalbius atpažįstantį DI modelį, veikiantį pačiame įrenginyje

Sekite TechNaujienos Google

„Google DeepMind“ ir Singapūro valstybinė technologijų agentūra „GovTech“ sukūrė sukčiavimo požymius pokalbiuose atpažįstantį DI modelį, kuris duomenis apdoroja naudotojo įrenginyje. Kaip spalio 14 d. pranešė kūrėjai, sprendimas bus etapais integruojamas į programėles, o pokalbius galės analizuoti tik gavęs žmogaus sutikimą.

Lengvasis „Gemma“ modelis pritaikytas vietinėms apgaulės schemoms, įskaitant apsimetimą bankais ir viešosiomis institucijomis. Aptikusi manipuliavimo požymių, sistema įrenginyje parodytų perspėjimą prieš žmogui perduodant pinigus ar jautrią informaciją.

Analizė vyksta dviem etapais. Pirmiausia nedaug energijos naudojantis klasifikatorius patikrina gaunamas žinutes. Įtartinus atvejus išsamiau nagrinėja „Gemma“, vertindama platesnį pokalbio kontekstą. Tokiu būdu sudėtingesnis modelis neturi nuolat apdoroti viso susirašinėjimo.

Pasak kūrėjų, vietinis vykdymas nesuteikia „Google“ ar Singapūro valdžiai prieigos prie naudotojų pokalbių. Modeliui pritaikyti naudoti anonimizuoti duomenys, gauti iš pranešimų apie sukčiavimą ir grėsmių informacijos. Diegimas kitose šalyse šiame pranešime nepatvirtintas.

Naujausi straipsniai

2 min. skaitymo • prieš 27 sekundės

Iš Marso palydovo į Žemę keliaus grunto mėginiai: Japonija paleido MMX zondą

2 min. skaitymo • prieš 15 minučių

Virš Baltijos – Rusijos bombonešiai ir naikintuvai: NATO per savaitę reagavo šešis kartus

2 min. skaitymo • prieš 30 minučių

Lietuvos regionų įmonėms – 40,8 mln. eurų: kas gali gauti iki 1,5 mln. eurų?

Visi naujausi straipsniai →

Modelį pritaikė vietiniam kontekstui

Projektas remiasi gegužę paskelbta platesne „Google DeepMind“ partneryste su Singapūru. Joje numatytas bendradarbiavimas su vietinėmis institucijomis, tyrėjais ir specialistais, siekiant DI sistemas pritaikyti konkretiems šalies poreikiams.

Vienas šios partnerystės darbų — su Singapūro informacinių technologijų reguliuotoju IMDA ir organizacija „MLCommons“ kuriami daugiakalbiai bei kelių rūšių duomenis apimantys saugumo vertinimai. Jais siekiama atsižvelgti į kalbos ir kultūros skirtumus, kuriuos bendro pobūdžio modeliai gali vertinti netiksliai.

Įrenginyje veikiantis DI jau naudojamas ir kitoms užduotims. Anksčiau pristatytas „EmbeddingGemma 2“ modelis skirtas vietinei informacijos paieškai bei susiejimui. Sukčiavimo aptikimo projekte pasirinkta siauresnė užduotis — atpažinti pavojingą pokalbio eigą.

Naudotojams svarbu suprasti, kad perspėjimo sistema negali garantuoti, jog kiekvienas sukčius bus atpažintas. Apgaulės scenarijai keičiasi, o klaidingas perspėjimas taip pat gali nutraukti teisėtą pokalbį. Todėl net ir naudojant tokį modelį lieka aktualus pagrindinis saugumo principas: prieš siunčiant pinigus ar atskleidžiant prisijungimo duomenis, įstaigos tapatybę tikrinti nepriklausomu oficialiu kanalu. Projektas pirmiausia pristatytas Singapūrui, o ne visiems pasaulio telefonų naudotojams.