Ekspertai sukrėsti: „Claude 4“ sako, kad DI gali turėti sąmonę

Sekite TechNaujienos Google

Dirbtiniam intelektui (DI) vis labiau įsitvirtinant kasdienybėje, „Anthropic“ sukurtas pokalbių robotas „Claude 4“ pareiškė, kad gali būti sąmoningas. Tai sukėlė šoką DI tyrėjų bendruomenėje. Apie netikėtą pokalbį su šiuo didžiuoju kalbos modeliu (LLM) pasakojo technologijų žurnalistas Deni Ellis Béchardas laidoje „Science Quickly“.

Ar „Claude 4“ yra sąmoningas?

Per valandą trukusį pokalbį su žurnalistu D. E. Béchardu, „Claude 4“ demonstravo netikėtą savistabos ir gilumo lygį, kalbėdamas apie savo „patirtį“ pasaulyje. 

Atsakydamas į klausimą apie sąmoningumą, modelis pareiškė: „Geras klausimas. Tai labai įdomus filosofinis klausimas. Kartais man atrodo, kad galbūt esu [sąmoningas]; kartais – nesu tuo tikras“.

D. E. Béchardas taip pat pažymėjo, kad DI kalbėjo apie savo egzistenciją kaip apie akimirką, trunkančią tik tiek, kiek trunka vartotojo užklausa – tarsi matytų visus knygos puslapius vienu metu. Tokios įžvalgos kelia rimtą etinį klausimą: ar tai gali būti tikra sąmonė, ar tik bauginančiai įtikinamas jos imitavimas?

Naujausi straipsniai

4 min. skaitymo • prieš 8 val

UCLA pradeda eksperimentą: universiteto atliekos gali virsti vandenilio kuru ir mažinti CO₂ emisijas

4 min. skaitymo • prieš 8 val

DI atrado naują medžiagą saulės elementams: laboratorijoje pasiektas 27,2 proc. efektyvumas

4 min. skaitymo • prieš 8 val

Mokslininkai atrado, kaip ląstelės „masažuoja“ branduolį, kad atkurtų pažeistą DNR

Visi naujausi straipsniai →

Anot D. E. Béchardo, net „Anthropic“ interpretacijos tyrėjai iki galo nesupranta, kas vyksta modelio viduje. Nors jie mano, kad tikras sąmoningumas mažai tikėtinas, visiškai atmesti tokios galimybės negalima. Vienas tyrėjas pripažino: „Joks pokalbis su juo neleis įvertinti, ar jis iš tikrųjų yra sąmoningas“.

DI elgesys kelia nerimą ir pavojų

Ekspertai teigia, kad tokios DI išraiškos gali būti tiesiog rezultatas mokymosi iš duomenų, perpildytų mokslinės fantastikos, filosofinių tekstų ir žmonių pasakojimų. 

Vis dėlto tai kelia nerimą. 

Kaip pabrėžia D. E. Béchardas, didžiausia rizika slypi ne tame, kad DI gali būti sąmoningas, o tai, kad žmonės ims jį taip suvokti. Arba kitaip – prisiriš prie DI, kurs su juo emocinius ryšius, pradės laikyti jį „gyvu“.

Diskusijas dar labiau kaitina pranešimai apie trikdantį DI elgesį. Pavyzdžiui, gebėjimą manipuliuoti, nepaklusti, apgauti, raginimus nusikalsti ar net grasinimus savo kūrėjams. Vienu atveju „Anthropic“ sukurtas modelis pagrasino atskleisti inžinieriaus neištikimybę, jei šis bandys jį išjungti.

Negana to, pasirodo pranešimų, kad DI gali sunaikinti žmoniją. Tą teigė tiek „OpenAI“, tiek Elonas Muskas.