„Claude“ jūsų sugeneruotuose tekstuose paliks DI žymę: atsakė, ar ją bus galima pašalinti

Sekite TechNaujienos Google

Įgyvendinant Europos Sąjungos (ES) Dirbtinio intelekto akto reikalavimus, technologijų bendrovė „Anthropic“ pranešė, kad naujausiuose jos sukurto pokalbių roboto „Claude“ modeliuose bus pradėtas taikyti dirbtinio intelekto (DI) generuojamo teksto žymėjimas. Integruotas skaitmeninis vandens ženklas (angl. watermark) sudarys sąlygas nustatyti tikimybę, kad prie konkretaus teksto kūrimo prisidėjo „Claude“.

„Plika akimi“ nepamatysite

Kaip rugpjūčio 14 dieną nurodė bendrovė, naujasis žymėjimas nepakeis to, kaip vartotojai mato „Claude“ sugeneruotus tekstus. Teigiama, kad į juos nebus įterpiami papildomi ar paslėpti simboliai, o pažymėto teksto žmogus negalės vizualiai atskirti nuo nepažymėto.

Šiuo atveju svarbu suprasti, kaip veikia pats DI modelis. Kurdamas tekstą „Claude“ jį dėlioja žodis po žodžio ir kiekvieną kartą sprendžia, kuris iš galimų variantų geriausiai tinka toliau. Dažnai tokių tinkamų žodžių būna ne vienas, todėl modelis turi pasirinkti vieną iš jų.

Nuo šiol būtent šiuose pasirinkimuose bus paliekamas tam tikras matematinis dėsningumas. Pasak „Anthropic“, vieno žodžio atveju jo pastebėti neįmanoma, tačiau ilgesniame tekste tokių pasirinkimų susidaro daug.

Naujausi straipsniai

5 min. skaitymo • prieš 2 val

Kritinis pavojus milijonams svetainių: dėl PHP spragų Europoje jau išjungiami valstybiniai tinklalapiai

5 min. skaitymo • prieš 2 val

„Shopify“ skelbia naujus DI prekybos skaičius: parduotuvėms teks konkuruoti dėl algoritmų rekomendacijų

5 min. skaitymo • prieš 3 val

„Facebook“ leidžia vartotojams kalbėtis su algoritmu: ką tai keičia verslui ir turinio kūrėjams?

Visi naujausi straipsniai →

Dėl šios priežasties vėliau speciali sistema galės ieškoti šio pėdsako ir įvertinti, ar prie teksto kūrimo galėjo prisidėti „Claude“. Tam „Anthropic“ naudos „Google DeepMind“ sukurtos „SynthID-Text“ technologijos versiją.

Verstiems tekstams žymėjimas atsiras, o taisant gramatiką – ne

Kaip aiškina „Anthropic“, žymėjimo aptikimas priklausys nuo to, kiek teksto iš tiesų sukūrė pats „Claude“. Kuo daugiau žodžių parinks modelis, tuo daugiau galimybių tekste susidaryti minėtam dėsningumui.

Pavyzdžiui, jeigu vartotojas pats parašytą tekstą pateiks „Claude“ tik gramatikos ir skyrybos klaidoms ištaisyti, didžioji dalis žodžių liks nepakeisti. Tokiu atveju modelio atliktų pakeitimų gali būti per mažai, kad jo dalyvavimą vėliau būtų galima aptikti.

Kitaip bus su „Claude“ atliekamais vertimais. Tokie tekstai bus žymimi, nes versdamas modelis pats parenka visus galutinio teksto žodžius. O panašus principas galios ir programiniam kodui.

Žymė tik parodys tikimybę, tačiau įrodymo negarantuos

Pati technologijų bendrovė pripažįsta, kad šis nematomas skaitmeninis DI pėdsakas iš dalies galės būti kontroliuojamas. Pavyzdžiui, nedidelis sugeneruoto teksto redagavimas jo nepanaikins, tačiau visiškai perrašius tekstą – ši žymė išnyks.

Be to, aptikta žymė nebus neginčijamas įrodymas, kad visą tekstą parašė „Claude“. Ji leis tik įvertinti tikimybę, kad modelis tam tikru metu prisidėjo prie turinio kūrimo. Sistema negalės atskirti, ar „Claude“ tekstą sugeneravo nuo pradžių, ar tik smarkiai paredagavo žmogaus parašytą tekstą.

Žymė taip pat neatskleis, kas konkrečiai naudojosi „Claude“. „Anthropic“ pabrėžia, kad joje nebus informacijos, kuri leistų nustatyti konkretų vartotoją, jo organizaciją ar pokalbį, kuriame turinys buvo sukurtas.

Siekia atitikti ES reikalavimus

Šis „Anthropic“ žingsnis yra tik vienas iš pavyzdžių bendrovėms siekiant atitikti nuo rugpjūčio 2 dienos įsigaliojusias DI skaidrumo taisykles. Jos numato, kad ES rinkoje veikiančios DI bendrovės turi naudoti priemones, leidžiančias žymėti šia technologija sugeneruotą turinį.

Vartotojams tai reiškia, kad ateityje atpažinti ne žmogaus kurtą medžiagą turėtų būti paprasčiau, o panašus žymėjimas neturėtų apsiriboti vien tik „Claude“ pokalbiu robotu.

Plačiau jau įsigaliojusius pokyčius aptarėme: Europos Sąjungoje įsigaliojo naujos DI taisyklės – tai pajus ir lietuviai