„ChatGPT“ atsakymas jaunuoliui kainavo gyvybę: nauja byla siunčia svarbų perspėjimą

JAV pateiktas ieškinys prieš „OpenAI“ sukėlė naują diskusijų bangą dėl dirbtinio intelekto (DI) sistemų patikimumo. 19-mečio šeima teigia, kad vaikinas prieš mirtį naudojosi „ChatGPT“, kuris esą pateikė mirtį nulėmusius atsakymus apie narkotikų ir vaistų derinius. Kartu byloje keliami klausimai, ar DI sistemos iš tiesų gali paskatinti rizikingą elgesį, kai vartotojai jų atsakymus priima kaip patikimus patarimus.

Šeima kaltina „ChatGPT“ pateikus pavojingus atsakymus

Kaip skelbia teisinės gynybos organizacija „Tech Justice Law“, pateiktame ieškinyje nurodyta, kad praėjusių metų gegužę Samas Nelsonas suvartojo tam tikras medžiagų dozes, apie kurias anksčiau diskutavo su „ChatGPT“, ir mirė nuo mirtino alkoholio, nerimo bei panikos sutrikimams gydyti skirto vaisto „Xanax“ ir kratomo derinio.

Byloje minima, kad jaunuolis kreipėsi į „ChatGPT“ klausinėdamas apie įvairių medžiagų poveikį ir jų maišymą. Pasak šeimos advokatų, pokalbių robotas ne tik neperspėjo apie galimą riziką, bet kai kuriais atvejais pateikė atsakymus, kurie galėjo būti suprasti kaip skatinimas tęsti pavojingą elgesį.

„OpenAI“ teigia atnaujinusi modelius

Kol šeima siekia įrodyti, kad DI atsakymai galėjo prisidėti prie šio tragiško įvykio, „OpenAI“ žiniasklaidai teigia, jog iš esmės nemano, kad „ChatGPT“ yra tiesiogiai atsakingas už jaunuolio mirtį.

Bendrovės atstovas Drew Pusateri šią situaciją pavadino „širdį veriančia tragedija“ ir teigė, kad su byla siejamas „ChatGPT“ modelis jau nebėra viešai prieinamas. Ne pirmą kartą technologijų įmonė pabrėžia, kad dabartiniai modeliai esą turi daugiau apsaugos priemonių jautriose situacijose, o „ChatGPT“ nėra profesionalios medicininės ar psichologinės pagalbos alternatyva.

Daugėja klausimų dėl „pernelyg pritariančio“ dirbtinio intelekto

Kaip TechNaujienos.lt analizavo išsamiame dirbtinio intelekto gide, ši technologija nėra sukurta savarankiškai suprasti tiesą ar moralines pasekmes. DI modeliai veikia remdamiesi milžiniškais duomenų kiekiais ir prognozuoja, koks atsakymas konkrečioje situacijoje labiausiai tiktų vartotojo užklausai.

Būtent dėl to specialistai jau kurį laiką perspėja apie vadinamąjį „pernelyg pritariančio“ DI efektą. Kai kurie pokalbių robotai linkę palaikyti pokalbį ir pritarti vartotojui taip, kad atsakymai skambėtų empatiškai, užtikrintai ar net padrąsinančiai.

Tuo tarpu didžiausia grėsmė ir kyla tuomet kai šių rizikų nesuvokia patys vartotojai ir algoritmo atsakymus supranta kaip autoritetingus.

Pabaigai: kaip įvertinti dirbtinio intelekto atsakymo tikrumą

Kol DI rinkoje vis dar trūksta aiškių atsakymų apie tai, kiek iš tiesų turėtų prisiimti atsakomybės tokių sistemų kūrėjai ir jų produktai tragiškai pasibaigusiose situacijose, aišku viena – didelė dalis jos atitenka ir pačiam vartotojui.

Bet kurio pokalbių roboto atsakymai neturėtų būti vertinami kaip galutinis tiesos šaltinis, o norint geriau įvertinti pateiktą atsakymą, verta dėmesį atkreipti į kelis dalykus:

• patikrinti informacijos šaltinius, o jei jų nėra – prašyti nurodyti,
• įvertinti atsakymo konkretumą – pernelyg bendri ir stokojantys detalių rezultatai gali būti susiję su sistemos haliucinacijomis,
• atsakymą palyginti su kitais nepriklausomais šaltiniais,
• ypač atsargiai vertinti atsakymus apie sveikatą ar finansus bei kitas jautrias temas, kur netiksli informacija gali turėti realių pasekmių.

TAIP PAT SKAITYKITE: Kaip gauti geresnius DI atsakymus: 5 paprastos taisyklės

Taip pat vertėtų būti atsargiems, kai DI atsakymai skamba pernelyg užtikrintai ar emociškai palaikančiai. Net ir labai įtikinamai pateiktas atsakymas gali būti netikslus arba pavojingas, jei jis nėra paremtas patikimais duomenimis.