Žmonijai gresia „kognityvinė atrofija“, sako „Goldman Sachs“ padalinio vadovas

Sekite TechNaujienos Google

Dirbtinis intelektas gali tapti ne tik produktyvumo įrankiu, bet ir technologija, kuri palaipsniui silpnina žmogaus gebėjimą savarankiškai samprotauti. Tokią riziką įvardijo „Goldman Sachs“ partneris ir bendrovės skaitmeninės platformos „Marquee“ vadovas Chrisas Churchmanas. Jo teigimu, didžiausia grėsmė kyla tuomet, kai žmonės modeliams pradeda perduoti ne tik rutinines užduotis, bet ir patį mąstymo procesą.

Churchmanas apie tai kalbėjo naujausiame „Goldman Sachs Exchanges“ pokalbyje apie dirbtinio intelekto sistemų kūrimą kapitalo rinkoms. „Goldman Sachs“ paskelbtame pokalbyje jis perspėjo apie „kognityvinės atrofijos“ pavojų – situaciją, kai žmogus, nuolat perduodamas samprotavimą DI, ilgainiui gali prarasti dalį gebėjimo pats struktūruoti problemą, tikrinti prielaidas ir mąstyti nuo pirmųjų principų.

Šį perspėjimą rugpjūčio 25 d. taip pat iškėlė „TheStreet“, pabrėždama paradoksą: vienas iš aktyviausiai DI diegiančių Volstrito bankų kartu viešai kalba apie riziką, kad nauja darbuotojų karta gali tapti pernelyg priklausoma nuo modelių. Churchmano mintis pirmiausia buvo susijusi su finansų sektoriumi, tačiau pats jo argumentas gerokai platesnis.

Problema prasideda tada, kai DI ne padeda mąstyti, o mąsto už žmogų

Churchmanas pateikė paprastą technologijų raidos logiką. Žmonija nuolat kuria priemones, kurios tam tikras užduotis atlieka geriau už mus, o vėliau dalis anksčiau reikalingų gebėjimų ima nykti. Navigacijos sistemos sumažino poreikį įsiminti maršrutus, paieškos sistemos – prisiminti didelius informacijos kiekius, o generatyvinis DI vis dažniau perima ir argumentų kūrimą, analizę bei sprendimų struktūravimą.

Naujausi straipsniai

7 min. skaitymo • prieš 35 minutės

Jūsų televizorius žino daugiau, nei manote: kokius duomenis renka išmanieji TV

4 min. skaitymo • prieš 1 val

Maskva perspėja Londoną: Ukrainai dronus gaminančios įmonės gali tapti taikiniais

4 min. skaitymo • prieš 2 val

Pirmą kartą istorijoje: iš moters šlaunies paimtos mitochondrijos suleistos į akis regėjimui gerinti

Visi naujausi straipsniai →

„Goldman Sachs“ vadovo nuomone, būtent samprotavimas yra vienas iš gebėjimų, kurio nereikėtų lengvai atiduoti modeliams. Finansų institucijoje neužtenka gauti techniškai įtikinamą atsakymą – darbuotojai turi suprasti, kaip jis buvo gautas, kokios prielaidos panaudotos ir kodėl konkrečiu sprendimu galima pasitikėti neapibrėžtumo sąlygomis.

Tai ypač svarbu todėl, kad patys didieji kalbos modeliai gali pateikti labai įtikinamą, tačiau faktiškai klaidingą atsakymą. Churchmanas pabrėžė, kad institucinėje aplinkoje kiekviena DI išvada turi būti susieta su patikrinamu šaltiniu ar audituojamu skaičiavimu. Kitaip tariant, tikslas nėra leisti modeliui priimti sprendimą vietoje žmogaus, o sukurti sistemą, kurioje žmogus vis dar supranta ir gali apginti galutinę išvadą.

Panašių signalų jau yra ir akademiniuose tyrimuose. „Microsoft Research“ ir Carnegie Mellon universiteto mokslininkai apklausė 319 žinių darbuotojų ir išanalizavo 936 realius generatyvinio DI naudojimo atvejus. Tyrimo rezultatai parodė, kad didesnis pasitikėjimas DI buvo siejamas su mažesnėmis kritinio mąstymo pastangomis. Kritinis mąstymas neišnyko, tačiau vis dažniau persikėlė nuo originalaus sprendimo kūrimo prie jau sugeneruoto atsakymo tikrinimo ir pritaikymo.

Ši tendencija aktuali ne tik bankams ar programuotojams. Kai DI tampa kasdieniu darbo įrankiu, svarbiausias klausimas yra ne tai, ar žmogus juo naudojasi, o ką tiksliai jam perduoda. „Technaujienos.lt“ anksčiau rašė apie įgūdžius, kurie gali tapti svarbiausiu žmogaus pranašumu DI eroje, o tarp jų išsiskiria gebėjimas vertinti kontekstą, priimti sprendimus ir pastebėti tai, ko automatinė sistema gali nesuprasti.

„Goldman Sachs“ pats kuria DI, bet nenori atiduoti jam paskutinio žodžio

Churchmano perspėjimas nereiškia, kad „Goldman Sachs“ stoja prieš dirbtinį intelektą. Priešingai – jo vadovaujama „Marquee“ komanda kuria DI sistemas instituciniams klientams, kurios gali surinkti įmonės tyrimus, prekybos aikštelės komentarus, rinkos duomenis ir skaičiavimus į vieną atsakymą. Tačiau bendrovė akcentuoja, kad tokia sistema turi būti suprojektuota taip, jog kiekvieną teiginį būtų galima atsekti iki šaltinio.

Churchmanas taip pat atkreipė dėmesį į skirtumą tarp įspūdingos DI demonstracijos ir realaus produkto. Demonstracijoje pakanka, kad modelis gerai veiktų geriausią dieną. Instituciniame banke produktas vertinamas pagal tai, kas atsitinka blogiausią dieną – kai pateikiamas klaidingas skaičius, nepatikima išvada ar sprendimas, kurio darbuotojas pats negali paaiškinti.

Todėl „Goldman Sachs“ vadovo perspėjimo esmė nėra atsisakyti DI. Priešingai, jis siūlo išlaikyti aiškią ribą tarp užduočių, kurias verta automatizuoti, ir gebėjimų, kuriuos žmogui būtina treniruoti pačiam. Jei DI nuolat pateikia galutinį argumentą, o žmogaus vaidmuo apsiriboja jo priėmimu, trumpalaikis produktyvumo šuolis gali turėti ilgalaikę kainą.

Šis klausimas tampa vis svarbesnis, nes generatyvinis DI sparčiai persikelia iš eksperimentinių projektų į kasdienį darbą. Kaip jau rašėme, DI sukurtas turinys jau sudaro vis didesnę interneto informacijos dalį. Dabar panašus pokytis vyksta ir su pačiu mąstymo procesu: technologija ne tik pateikia informaciją, bet vis dažniau nusprendžia, kaip ją interpretuoti. Būtent čia, Churchmano vertinimu, prasideda riba, kurią žmonėms reikėtų saugoti.