Dirbtinis intelektas gali pradėti kurti pats save: „Anthropic“ įspėja dėl artėjančio lūžio

Svarbiausios technologijų naujienos jūsų telefone

Sekite mus „Google News“ šaltiniuose ir pamatykite daugiau svarbiausių mokslo ir technologijų naujienų.

Pridėti

Dirbtinis intelektas (DI) jau šiandien atlieka vis didesnę dalį naujų DI sistemų kūrimo darbo, o ateityje gali tapti pajėgus kurti savo „įpėdinius“ beveik be žmogaus įsikišimo. Tokį scenarijų naujoje analizėje nagrinėja bendrovė „Anthropic“, teigdama, kad pažangiausi modeliai sparčiai artėja prie vadinamojo rekursinio savęs tobulinimo (angl. recursive self-improvement). Pasak bendrovės, tai galėtų tapti vienu svarbiausių technologinių lūžių šiuolaikinėje istorijoje, turinčiu reikšmingų pasekmių mokslui, ekonomikai ir pačiai žmonių rolei kuriant DI sistemas.

„Anthropic“ perspėja dėl naujo DI etapo

Kaip paskelbtame pranešime nurodo „Anthropic“, bendrovė jau mato aiškių ženklų, kad pažangūs DI modeliai tampa svarbia pačių DI sistemų kūrimo proceso dalimi. Bendrovės duomenimis, daugiau nei 80 proc. į pagrindinę programinę bazę įtraukiamo kodo šiuo metu parašo „Claude“ modeliai, o inžinierių produktyvumas per pastaruosius metus išaugo kelis kartus.

„Anthropic“ teigimu, ilgainiui ši tendencija gali nuvesti prie scenarijaus, kai pažangios DI sistemos pačios projektuos, testuos ir kurs savo klonus. Nors bendrovė pabrėžia, kad iki tokio etapo dar nėra prieita, jos vertinimu, pokyčiai vyksta greičiau, nei daugelis institucijų yra pasirengusios.

Kodėl „Anthropic“ mano, kad pokyčiai spartėja?

Savo analizėje technologijų bendrovė pateikia ne tik vidinius duomenis, bet ir platesnes tendencijas, rodančias sparčiai augančius DI sistemų gebėjimus. Bendrovės teigimu, užduočių, kurias modeliai gali patikimai atlikti savarankiškai, sudėtingumas pastaraisiais metais auga itin sparčiai. Jei 2024 m. pažangiausi modeliai galėjo susidoroti su kelių minučių trukmės programavimo užduotimis, šiandien jie jau geba atlikti darbus, kuriems anksčiau būtų prireikę daugelio valandų žmogaus darbo.

Naujausi straipsniai

5 min. skaitymo • prieš 8 minutės

Ar saugu naudoti nemokamą viešą USB krovimo stotelę? Viskas, ką reikėtų žinoti

4 min. skaitymo • prieš 3 d.

Parodys, kaip greitai senstate: naujas „biologinis laikrodis“ stebina galimybėmis

3 min. skaitymo • prieš 3 d.

„Facebook“ ir „Instagram“ paskyrų blokavimai – po padidinamuoju stiklu: „Meta“ sulaukė kritikos

Visi naujausi straipsniai →

„Anthropic“ taip pat atkreipia dėmesį į spartų progresą programavimo ir mokslinių tyrimų srityse. Bendrovės vertinimu, DI vis geriau ne tik vykdo konkrečias instrukcijas, bet ir geba savarankiškai atlikti eksperimentus, analizuoti rezultatus bei siūlyti tolimesnius veiksmus.

Vieną tokių atvejų aptarėme: „OpenAI“ skelbia proveržį: DI išsprendė 80 metų gluminusią matematikos problemą

Tai laikoma vienu svarbiausių žingsnių link sistemų, kurios ateityje galėtų aktyviai prisidėti prie naujų DI modelių kūrimo.

Kas įvyktų po šio lūžio?

„Anthropic“ pabrėžia, kad rekursinis savęs tobulinimas nebūtinai reikštų staigų ar nekontroliuojamą technologinį šuolį. Vis dėlto tokia galimybė galėtų iš esmės pakeisti DI vystymo tempą. Jei modeliai taptų pajėgūs kurti vis pažangesnes savo versijas, pažanga galėtų priklausyti nebe nuo žmonių darbo greičio, o nuo turimų skaičiavimo resursų ir infrastruktūros.

Bendrovės vertinimu, toks scenarijus galėtų atverti naujas galimybes moksle, medicinoje ir kitose srityse, kuriose sudėtingų problemų sprendimas šiandien užtrunka metus ar net dešimtmečius. Kita vertus, kartu išaugtų ir klausimų dėl saugumo, priežiūros bei žmonių galimybių išlaikyti kontrolę sparčiai tobulėjančių sistemų atžvilgiu.

TAIP PAT SKAITYKITE: Sunerimo net technologijų lyderiai: įspėjo apie augančią biologinių ginklų grėsmę

„Anthropic“ ragina ruoštis iš anksto

Nors bendrovė nepranašauja, kad rekursinis savęs tobulinimas yra neišvengiamas, ji ragina šią galimybę vertinti rimtai jau dabar. Analizėje teigiama, kad visuomenė, politikos formuotojai ir technologijų bendrovės turėtų iš anksto svarstyti, kaip būtų galima valdyti šią situaciją.

Susirūpinimą dėl sparčios DI pažangos anksčiau yra išreiškę ir patys bendrovės vadovai. Apie tai, kodėl vienas iš „Anthropic“ bendraįkūrėjų viešai pripažino baiminantis kai kurių DI raidos scenarijų, rašėme anksčiau.

Plačiau apie tai: „Anthropic“ bendraįkūrėjas pripažįsta, kad jis labai bijo dirbtinio intelekto