Bręsta naujas skandalas? Popiežiaus perspėjime apie DI aptikti galimi generuoto teksto pėdsakai

Naujasis popiežiaus Leono XIV dokumentas apie dirbtinio intelekto (DI) grėsmes sukėlė netikėtą diskusiją dėl pačios technologijos naudojimo. Analizuodami oficialios enciklikos „Magnifica Humanitas“ tekstą, portalai ir interneto forumai pastebėjo galimus dirbtinai generuoto teksto požymius, o kai kurios ištraukos specialiuose DI detektoriuose buvo pažymėtos kaip galimai sukurtos pasitelkiant būtent šią technologiją, rašoma „LessWrong“ forume paskelbtoje analizėje.

Išanalizavo popiežiaus įspėjimą dėl dirbtinio intelekto

Gegužės 25 dieną popiežius Leonas XIV oficialiai pristatė keletą savaičių lauktą encikliką „Magnifica Humanitas“, skirtą DI poveikiui visuomenei, ekonomikai ir žmogaus orumui. Vatikane dokumentas buvo pristatytas kaip vienas svarbiausių pastarojo meto bažnyčios perspėjimų apie technologijų keliamas grėsmes bei būtinybę užtikrinti, kad šios technologijos vystymas išliktų žmogaus kontrolėje.

Vis dėlto netrukus po enciklikos paskelbimo internete prasidėjo diskusijos ne tik apie pačias DI grėsmes, bet ir apie galimą technologijos panaudojimą kuriant patį dokumentą. „LessWrong“ svetainėje paskelbtoje analizėje teigiama, kad „Magnifica Humanitas“ ištraukos buvo patikrintos DI detektoriumi „Pangram“, o dalis teksto pažymėta kaip galimai generuota DI.

TAIP PAT SKAITYKITE: Net Vatikanas pasitelkė dirbtinio intelekto paslaugas: jas galima išbandyti Švento Petro bazilikoje

Analizės autorius teigia su kolegomis pastebėjęs, jog dalis paviešinto teksto atrodo sugeneruota DI, todėl nusprendęs patikrinti dokumentą pats. Rezultatuose matyti, kad skirtinguose „Magnifica Humanitas“ skyriuose įrankis nustatė nuo 18 iki 62 proc. tikimybę, jog dalis turinio galėjo būti sukurta ne žmogaus.

Be to, teigiama, kad itališka dokumento versija DI detektoriuose buvo vertinama kaip turinti daugiausia galimai generuoto teksto požymių tarp visų paskelbtų vertimų.

Žemiau popiežiaus Leonas XIV enciklikos pasirašymo momentas:

Ar galima šiais rezultatais pasitikėti?

Nors analizės autorius teigia, kad įvertinus „Pangram“ įrankio ypatybes, galima gana tvirtai manyti, jog dalis pažymėtų pastraipų iš tiesų gali būti parašytos naudojant DI, pats tyrėjas taip pat pripažįsta, kad tokie įrankiai nėra neklystantys. Jo teigimu, sistema tekstą vertina fragmentais, todėl kai kuriais atvejais rezultatai gali atrodyti nelogiški – pavyzdžiui, vieną sakinį pažymėti kaip sugeneruotą, o kitą jau priskirti žmogui.

Dėl šios priežasties dalis skeptiškai vertina bandymus remiantis vien tokiais įrankiais daryti kategoriškas išvadas.

Kita vertus, „LessWrong“ analizėje pastebima, kad ankstesni Vatikano dokumentai tokiuose testuose dažniausiai būdavo vertinami kaip žmogaus parašyti tekstai. Taip pat analizės autoriai atkreipė dėmesį į kai kuriuos generuotam tekstui būdingus bruožus, pavyzdžiui, ilgus brūkšnius, kurie kituose Vatikano dokumentuose beveik nebuvo naudojami, ar dažną žodžio „genuinely“ pasikartojimą, siejamą su „Anthropic Claude“ rašymo maniera.

Galutinio atsakymo nėra

Vis dėlto kol kas nėra jokių oficialių įrodymų, kad Vatikanas tikrai naudojo DI kuriant encikliką, kurioje patys smerkia šią technologiją. Neatmetama ir kita galimybė – dokumento rengime galėjo būti naudojami tik pavieniai DI įrankiai redagavimui, vertimams ar stilistiniams pasiūlymams, o ne viso teksto generavimui.

Tuo tarpu popiežiaus atstovai oficialaus komentaro apie kilusias diskusijas nepateikė.