„Deloitte“ skandalas: ekspertų įžvalgas generavo dirbtiniu intelektu, Australijai grąžins pinigus

Tarptautinė finansų ir audito bendrovė „Deloitte“ grąžins dalį lėšų Australijos federalinei vyriausybei už 440 tūkst. dolerių kainavusią ataskaitą, kurioje aptikta klaidų. Paaiškėjo, kad rengiant dokumentą buvo pasitelktas generatyvusis dirbtinis intelektas (DI), o tai sukėlė abejonių dėl ataskaitos tikslumo ir kokybės.

DI vietoj ekspertų – klaidos ir haliucinacijos

Australijos Užimtumo ir darbo santykių departamentas (DEWR) patvirtino, kad bendrovė „Deloitte“ grąžins paskutinę įmoką pagal 440 tūkst. dolerių vertės sutartį. Ši informacija bus paviešinta, kai sandoris bus baigtas.

Ataskaitos šaknys siekia 2024 m. gruodį, kai DEWR pavedė „Deloitte“ peržiūrėti sistemą, automatizuotai taikančią sankcijas socialinės paramos gavėjams, jei šie nevykdo savo įsipareigojimų. 

Išanalizavusi šią sistemą, „Deloitte“ pateikė ataskaitą. Joje nustatyta daug rimtų trūkumų: nenuoseklumas tarp sistemos taisyklių ir galiojančių teisės aktų, techninės spragos bei „baudžiamasis požiūris“ į paramos gavėjus.

Nors ataskaita buvo paskelbta liepos 4 d., ji iš naujo įkelta į departamento svetainę tik po to, kai „Australian Financial Review“ rugpjūtį atskleidė, jog dokumente gausu klaidų – tarp jų ir neegzistuojančių šaltinių bei citatų.

Sidnėjaus universiteto akademikas dr. Christopheris Rudge’as nurodė, kad ataskaitoje pasireiškė vadinamosios DI „haliucinacijos“ – atvejai, kai DI sukuria duomenis ar šaltinius, kurių iš tikrųjų nėra.

„Vietoj to, kad tiesiog ištaisytų vieną netikrą nuorodą, naujojoje versijoje atsirado dar daugiau – penkios, šešios, net aštuonios“, – komentavo C. Rudge’as. 

Anot jo, tai rodo, jog kai kurie pagrindiniai teiginiai ataskaitoje nebuvo paremti jokiais tikrais įrodymais.

Ginasi, bet neatsako

Atnaujintoje ataskaitos versijoje „Deloitte“ pirmą kartą oficialiai pripažino, kad rengiant dokumentą buvo naudotas generatyvinis DI –„Azure OpenAI GPT-4o“ modelis, veikęs per Užimtumo departamento (DEWR) sistemą.

Nors bendrovė nurodo, kad DI buvo naudojamas tik dalyje darbo, klaidų priežasties jie nepaaiškina tiesiogiai. Be to, „Deloitte“ tvirtina, kad tai neturėjo jokios įtakos ataskaitos turiniui, išvadoms ar rekomendacijoms.

Įmonė taip pat pareiškė, kad „klausimas buvo išspręstas tiesiogiai su klientu“. Visgi diskusijos viešojoje erdvėje netyla.

Leiboristų senatorė Deborah O’Neill pareiškė, kad „Deloitte“ susiduria ne su dirbtinio, o su žmogiškojo intelekto problema.

Anot jos, užsakovai turėtų aiškiai žinoti, ar jų sumokėti pinigai atitenka realiems ekspertams ar DI.

„Gal verčiau jau prenumeruoti ChatGPT, nei samdyti brangią konsultacijų įmonę“, – ironizavo senatorė.