Kritikuojamas populiarus australų mokslo žurnalas: straipsnius generuoja dirbtiniu intelektu

Populiaraus Australijos mokslo žurnalo „Cosmos“ sprendimas skelbti dirbtinio intelekto sukurtus straipsnius sulaukė kritikos iš paties žurnalo bendradarbių ir buvusių redaktorių, įskaitant du jo įkūrėjus.

„Eksperimentinis projektas“

Žurnalą „Cosmos“ leidžianti CSIRO teigia remianti „eksperimentinį projektą“, kurio tikslas – ištirti „dirbtinio intelekto naudojimo galimybes ir riziką“ ir kuris turėtų būti vykdomas iki 2025 m. vasario mėn.

Tačiau kritikai sako, kad dirbtinio intelekto paslauga kenkia žurnalistikai ir buvo sukurta be tinkamo sutikimo.

Projektas buvo įgyvendintas gavus 2023 m. dotaciją iš fondo „Meta Australian News Fund“, kurį administruoja žurnalistikos meistriškumą remiantis Walkley fondas.

Šis ginčas yra pavyzdys didėjančio nerimo dėl dirbtinio intelekto vaidmens žurnalistikoje, nes leidėjai eksperimentuoja su naujomis produktyvumo priemonėmis. Praėjusią savaitę šimtai „Nine Entertainment“ dirbančių žurnalistų streikavo, iš dalies dėl dirbtinio intelekto apsaugos.

Per 20 leidybos metų žurnalistikos ir pramonės apdovanojimų pelnęs „Cosmos“, susidūręs su finansiniais sunkumais ir netekęs pusės darbuotojų, šių metų pradžioje patyrė dešimtis žurnalistikos ir pramonės apdovanojimų. Birželio mėn. leidinį perėmė nacionalinė mokslo agentūra CSIRO.

Dotacija, skirta dirbtinio intelekto generuojamiems paaiškinimams paremti, buvo skirta dar iki šio perėmimo.

Praėjusį mėnesį per dvi savaites „Cosmos“ savo interneto svetainėje paskelbė šešis dirbtinio intelekto sukurtus aiškinamuosius straipsnius įvairiomis temomis – nuo juodųjų skylių iki anglies dvideginio absorbentų.

Kiekviename straipsnyje buvo rašoma:

„Šį straipsnį sugeneravo mūsų užsakomoji dirbtinio intelekto paslauga“.

„Mūsų paslauga buvo sukurta siekiant sutelkti dėmesį į mūsų archyvą, kuriame yra daugiau nei 15 000 faktais pagrįstų mokslo naujienų istorijų ir straipsnių. Ji taip pat naudoja „Open AI“, kad padėtų kurti turinį. Visą sugeneruotą turinį faktais tikrina apmokytas mokslo komunikacijos specialistas, o redaguoja mūsų leidybos komanda.“

Į šį žingsnį „Cosmos“ bendradarbiai reagavo nepatikliai, sakydami, kad jų darbas buvo panaudotas kuriant dirbtinio intelekto paslaugą, kuri generuoja straipsnius ir, jų nuomone, menkina jų, kaip žurnalistų, vaidmenį.

Daugelis piktinosi, kad su jais nebuvo konsultuojamasi, ir sakė, kad į jų skambučius leidėjui niekas neatsakė.

„Per pastarąją savaitę du kartus kreipiausi į CSIRO ir „Cosmos“ redakciją ir negavau jokio atsakymo“, – sakė Bianca Nogrady, laisvai samdoma mokslo žurnalistė ir „Cosmos“ bendradarbė.

„Cosmos“ redakcijos darbuotojams taip pat nebuvo pranešta apie siūlomą užsakomąją dirbtinio intelekto paslaugą, sakė du buvę redaktoriai.

Pasak Iano Connellano ir Gail MacCallum, buvęs „Cosmos“ leidėjas, Australijos karališkoji institucija (RiAus), jiems nepranešė, kad 2023 m. pabaigoje kreipėsi dėl finansavimo užsakytai dirbtinio intelekto paslaugai, nors jie buvo atsakingi už „Cosmos“ redakcinius sprendimus.

„Mes nežinojome apie pasiūlymą įdarbinti dirbtinį intelektą kaip foninį rašytoją kūrėją“, – sakė J. Connellanas, kuris iki vasario mėnesio buvo RiAus vyriausiasis redaktorius. „Kaip vyriausiasis redaktorius būčiau pasakęs, kad tai bloga idėja“.

Ponia MacCallum, tuometinė „Cosmos“ vyriausioji redaktorė, sakė, kad reikia atsakyti į klausimus apie tokio dirbtinio intelekto naudojimo etiką.

„Esu didelė dirbtinio intelekto tyrinėjimo šalininkė, tačiau tai, kad jis kurtų faktų straipsnius, šiek tiek peržengia mano komforto zoną.“

Kylie Ahern, kuri 2004 m. buvo viena iš „Cosmos“ įkūrėjų ir iki 2013 m. ėjo vyriausiosios vykdomosios direktorės pareigas, sakė, kad dirbtinio intelekto generuojami straipsniai jos buvusiai darbovietei „nėra tinkama kryptis“.

Vilsonas da Silva, kitas vienas iš įkūrėjų, redagavęs „Cosmos“ nuo 2004 iki 2013 m., sakė, kad tai „tikrai nėra tai, ką [jis] būtų daręs“.

DI nėra specialiai apmokytas dirbti su „Cosmos“ straipsniais

„Cosmos“ redaktoriaus pareigas einantis Gavinas Stone’as perdavė ABC klausimus CSIRO leidyklai.

Pareiškime CSIRO leidybos atstovas spaudai atmetė abejones, kad „Cosmos“ dirbtinio intelekto tarnyba buvo apmokyta dirbti su autorių straipsniais.

„Šiame eksperimente nėra mokomas „OpenAI“ modelis GPT-4 (kurį iš anksto apmokė „OpenAI“)“, – sakė atstovas spaudai.

Paslauga veikia naudodama „OpenAI“ GPT-4, kad sukurtų tekstą įvairiomis temomis. Tuomet ji automatiškai patikrina faktus pagal leidėjo didelę, gerai ištirtą 15 000 istorijų ir teminių straipsnių duomenų bazę, naudodama procesą, vadinamą RAG (angl. retrieval-augmented generation).

GPT-4 buvo apmokytas naudotis didžiuliais duomenų rinkiniais, įskaitant CommonCrawl – turinio, surinkto iš milijardų interneto puslapių, įskaitant žurnalo „Cosmos Magazine“ puslapius, saugyklą. Dėl šio metodo teisėtumo vis dar sprendžiama, o „The New York Times“ ir keli autoriai šiuo metu teisia „OpenAI“ už tai, kad savo dirbtiniam intelektui mokyti naudojo autorių teisių saugomus kūrinius.

RAG metodas reiškia, kad „Cosmos“ dirbtinio intelekto paslauga nebuvo specialiai apmokyta pagal „Cosmos“ straipsnius, nors galiausiai ji remiasi šiuo darbų rinkiniu, kad patikrintų faktus.

CSIRO leidyklos atstovas spaudai teigė, kad šis projektas buvo eksperimentas, kurio tikslas – įvertinti „galimą GPT-4 modelio naudojimo naudą (ir riziką)“, „siekiant padėti mūsų mokslinės komunikacijos specialistams rengti mokslinių aiškinamųjų straipsnių projektus“.

Jie pridūrė, kad eksperimentas „nuolat peržiūrimas“.

„Ši nuolatinė peržiūra gali apimti įrankio programavimo, pasirinkimo naudoti įrankį ir tolesnio įrankio naudojimo ar tobulinimo po projekto pabaigos bandymus“.

Nuo liepos pabaigos „Cosmos“ nepaskelbė dirbtinio intelekto sukurto straipsnio.

Jie nemanė, kad tai bus įrankis, kuris generuos straipsnius

Nepaisant to, kad technologija viešai naudojama palyginti neseniai, „Cosmos“ eksperimentas su dirbtinio intelekto generuojamais aiškinamaisiais straipsniais buvo pradėtas gerokai anksčiau, nei birželio mėn. perėmė „CSIRO Publishing“.

2023 m. pabaigoje „RiAus“, leidusi „Cosmos“ nuo 2018 m. rugsėjo mėn. iki 2024 m. birželio mėn. pateikė paraišką skaitmeninių inovacijų dotacijai gauti iš Walkley fondo valdomo „Meta Australia News Fund“.

„Meta“ įsteigė 15 mln. JAV dolerių vertės trejų metų fondą Australijos žurnalistikai remti 2021 m. po viešo ginčo su Morrisono vyriausybe dėl Naujienų žiniasklaidos derybų kodekso.

„RiAus“ vykdomasis direktorius Willas Berrymanas sakė, kad kreipėsi dėl dotacijos dirbtinio intelekto priemonei, kuri padėtų žurnalistams atlikti pagrindinius tyrimus, sukurti „kaip pagalbinę žurnalistikos priemonę, o ne kaip priemonę, kuria tiesiogiai kuriami straipsniai“.

„Kai galvojome tai daryti, nemanėme, kad tai bus priemonė, kuri generuos straipsnius“, – sakė jis. „Tai buvo įrankiai, kurie buvo sukurti tam, kad padėtų jiems daryti tai, ką jie daro“.

Dotacija „RiAus“ buvo skirta 2024 m. vasario mėn. P. Berrymanas paliko „Cosmos“, kai birželio mėn. leidinį perėmė CSIRO leidykla.

Tačiau Walkley fondo generalinė direktorė Shona Martyn sakė, kad „projekto pobūdis buvo išsamiai paaiškintas paraiškoje“, kuri buvo pateikta iki 2023 m. rugsėjo mėn. paraiškų pateikimo termino.

„Žurnalas „Cosmos“ gavo dotaciją … projektui, kuriame buvo naudojamas dirbtinis intelektas ir mašininis mokymasis, siekiant padėti pakeisti kai kurių esamų mokslo istorijų paskirtį į tekstinius, vaizdo ir garso paaiškinimus, kad būtų skatinamas auditorijos įsitraukimas ir žinios“, – sakė Š. Martyn.

P. Berrymanas teigė, kad tokios dirbtinio intelekto priemonės, kaip „Cosmos“, buvo reikalingos siekiant kovoti su dezinformacija, kurią vis dažniau generuoja dirbtinis intelektas, ir padėti leidėjams kurti turinį mažesnėmis sąnaudomis, nes mažėjant pajamoms iš reklamos, kurios anksčiau padėdavo išlaikyti žurnalų veiklą.

„Verslo modelis tokiems dalykams kaip „Cosmos“ yra sugedęs“, – sakė jis. „Mums reikėjo kažką daryti kitaip.“

Jis teigė, kad dėl šio įrankio nereikėjo konsultuotis su įnašų teikėjais, nes tai buvo tiesiog „efektyvesnė ir veiksmingesnė“ „Google“ paieškos funkcijos versija.

„Jie nėra nepriklausomi rašytojai. Jie dirba [leidėjui]”, – sakė jis.

Įrankis žurnalistams ar išlaidų mažinimo priemonė?

Kiti sako, kad „Cosmos“ naudojimasis savo archyvu kelia sudėtingų etinių ir teisinių klausimų.

Didelę dalį 15 000 „Cosmos“ archyvo straipsnių parašė laisvai samdomi darbuotojai, kurie išlaiko savo darbo autorines teises, sakė buvę redaktoriai J. Connellanas ir M. MacCallum.

„Kūrėjas išlaiko autorių teises, tačiau suteikia „Cosmos“ neterminuotą licenciją naudoti tą kūrinį tiek jo užsakymo metu, tiek neribotą laiką“, – sakė J. Connellanas.

Kūrėjai taip pat turi „moralines teises“, kurios saugo kūrėjo ir jo kūrinio ryšį, net jei kūrėjas nebėra kūrinio ar autorių teisių savininkas.

CSIRO leidyklos chartijoje žadama su autoriais elgtis sąžiningai ir atlyginti už kūrybiškumą.

Žiniasklaidos pramogų ir meno aljanso (MEAA) tyrimų ir strategijos politikos vadovė Lilija Anderson sakė, kad dirbtinis intelektas gali būti vertingas šaltinis naujienų redakcijoms ir žurnalistams, „jei jis naudojamas etiškai“.

„Mums tai reiškia, kad su darbuotojais turi būti konsultuojamasi dėl bet kokio dirbtinio intelekto naudojimo darbo vietoje, kad jie sutinka su tokiu naudojimu ir kad dirbtinis intelektas būtų naudojamas taip, kad nepakeistų žurnalistų darbo, bet pagerintų arba padėtų jiems atlikti savo vaidmenį.“

Ji teigė, kad dirbtinio intelekto generuojami straipsniai galėtų būti etiški, jei žurnalistai išlaikytų redakcinę kontrolę.

Kartu su sutikimu MEAA ragina, kad žurnalistams būtų kompensuojama už jų darbo panaudojimą dirbtiniam intelektui mokyti.

„Norime, kad nauda būtų kaip nors dalijamasi“, – sakė ji.

Sidnėjaus technologijos universiteto Žiniasklaidos pertvarkos centro viena iš direktorių Monica Attard sakė, kad „Cosmos“ dirbtinio intelekto naudojimo etiškumas iš dalies priklauso nuo leidėjo ketinimų, kuriuos sunku nustatyti.

„Svarbu, ar jos naudojamos tam, kad įdarbintų mažiau žurnalistų, ar tam, kad palengvintų ar pagerintų galutinį produktą.“

Maiklas Deivisas, taip pat dirbantis Žiniasklaidos pertvarkos centre, pritarė.

„Jei tai tik trumpi faktiniai straipsniai ir tai padeda žurnalui išlaikyti žurnalą, kad jis galėtų įdarbinti žurnalistus, kurie rengtų dideles temines istorijas… tai yra pagrįstas argumentas.“

Tačiau Australijos mokslo žurnalistų asociacijos (SJAA) prezidentas Džeksonas Rajanas atmetė argumentą dėl dirbtinio intelekto generuojamų straipsnių efektyvumo kaip „lozungus“.

„Galų gale, tai yra išlaidų mažinimo priemonė ir būdas sutaupyti pinigų leidiniui, kuris yra ant paskutinių kojų, nes ką tik buvo parduotas“, – sakė jis. „Lengviausias būdas mažinti išlaidas visada yra personalo mažinimas. Negaliu patikėti, kad Walkleys finansuotų būtent tai.“

Walkley fondas taip pat sulaukė kritikos dėl dirbtinio intelekto sukurtų straipsnių dotacijos administravimo.

Kylie Ahern, kuri dabar vadovauja mokslo komunikacijos agentūrai, sakė, kad tai buvo keistas sprendimas, atsižvelgiant į platesnius klausimus, susijusius su dirbtinio intelekto naudojimu žurnalistikoje, ir nuogąstavimus, kad darbuotojams kenkia generatyvinis dirbtinis intelektas, apmokytas dirbti.

Kokia dirbtinio intelekto turinio prasmė?

Be šių teisinių ir etinių klausimų, „Cosmos“ dirbtinio intelekto generuojami straipsniai buvo nuobodūs, sakė buvęs ilgametis „Cosmos“ redaktorius Wilsonas da Silva.

„Mokslinis rašymas nėra faktų perpasakojimas prieinamu būdu. Kiek įkvėpimo gausite iš dirbtinio intelekto? Žmogaus kelionė į atradimus yra tai, kas daro mokslą tokį patrauklų.“

Vienas iš leidinio įkūrėjų, redagavęs leidinį laikotarpiu, kai jis du kartus buvo pripažintas metų žurnalu, sakė, kad „Cosmos“ „nukrypo nuo savo tradicinės užduoties“.

„Užsibrėžėme sau užduotį pabandyti paversti jį mokslo žurnalu „New Yorker“. Tai pasikeitė. Vienintelis būdas suburti auditoriją – puiki žurnalistika. Prekės ženklo nesukursi remdamasis dirbtiniu intelektu. Jei „Cosmos“ nevertina mokslo žurnalistikos, kas gi ją vertins?“, – sakė M. Ahern.