„Pavojingu“ laikytas DI modelis tapo prieinamas visiems: „Anthropic“ pristato „Claude Fable 5“

Svarbiausios technologijų naujienos jūsų telefone

Sekite mus „Google News“ šaltiniuose ir pamatykite daugiau svarbiausių mokslo ir technologijų naujienų.

Pridėti

Dirbtinio intelekto (DI) bendrovė „Anthropic“ pristatė naujus DI modelius „Claude Mythos 5“ ir „Claude Fable 5“, kuriuos vadina pažangiausiais iki šiol plačiajai visuomenei prieinamais savo DI produktais. Bendrovės teigimu, jie daugelyje testų pranoksta ankstesnes „Claude“ versijas ir išsiskiria programavimo, mokslinių tyrimų, vaizdų analizės bei sudėtingų užduočių sprendimo srityse. Kartu su naujaisiais modeliais „Anthropic“ pirmą kartą visuomenei atvėrė dalį technologijos, kuri iki šiol buvo prieinama tik ribotam patikimų partnerių ratui dėl pavojingų galimybių kibernetinio saugumo srityje.

Nauja DI klasė, pranokstanti ankstesnius modelius

„Anthropic“ teigimu, „Mythos“ klasės modeliai yra aukštesnio pajėgumo nei anksčiau pristatyti „Opus“ serijos sprendimai. Pirmasis šios klasės modelis ribotai buvo pristatytas dar balandį per projektą „Glasswing“, tačiau dabar bendrovė žengia kitą žingsnį ir dalį šių galimybių atveria platesnei auditorijai.

Nors daugiausia dėmesio sulaukė „Claude Mythos 5“, realiai visuomenei skirtas modelis yra „Claude Fable 5“. Abu modeliai paremti ta pačia technologija, tačiau jų skirtumas slypi apsaugos mechanizmuose. „Fable 5“ turi papildomus saugumo filtrus, o „Mythos 5“ kai kuriose srityse veikia be šių apribojimų.

Ambicijos neapsiriboja programavimu

Naujieji modeliai kuriami ne vien programavimo užduotims. Bendrovė pateikia pavyzdžių, kai ankstyvieji „Fable 5“ naudotojai sudėtingus programinės įrangos projektus atliko kelis kartus greičiau nei anksčiau. Taip pat akcentuojami pažangūs gebėjimai analizuoti dokumentus, interpretuoti grafikus, dirbti su vaizdine informacija ir atlikti ilgalaikes užduotis.

Naujausi straipsniai

5 min. skaitymo • prieš 49 minutės

Kaip sužinoti, kokius duomenis apie jus kaupia „Meta“?

3 min. skaitymo • prieš 18 val

Ar LED apšvietimas veikia mūsų ląsteles? Naujas tyrimas pateikė netikėtų užuominų

4 min. skaitymo • prieš 19 val

Tyrimas: dėl dirbtinio intelekto kas antras gydytojas gali priimti daugiau pacientų

Visi naujausi straipsniai →

Dar didesnių ambicijų siejama su „Mythos 5“. „Anthropic“ teigia, kad modelis gali padėti kuriant naujus vaistus, generuojant mokslines hipotezes bei atliekant sudėtingus biologinius tyrimus. Kai kuriais atvejais modelis savarankiškai atliko užduotis, kurios įprastai būtų patikėtos tik specialistų komandoms.

Kodėl prireikė papildomų apsaugų?

Kartu su pristatymu „Anthropic“ atvirai kalba ir apie rizikas. Bendrovės vertinimu, pažangiausi DI modeliai jau pasiekė lygį, kai gali reikšmingai padėti ne tik mokslininkams ar programuotojams, bet ir piktavaliams.

TAIP PAT SKAITYKITE: Dirbtinis intelektas gali pradėti kurti pats save: „Anthropic“ įspėja dėl artėjančio lūžio

Dėl šios priežasties „Fable 5“ naudoja specialius klasifikatorius, kurie analizuoja vartotojų užklausas. Jei sistema nustato, kad užklausa susijusi su jautriomis kibernetinio saugumo, biologijos ar chemijos temomis, atsakymą perima mažiau rizikingu laikomas „Claude Opus 4.8“ modelis.

„Anthropic“ teigimu, šis metodas padės išvengti galimų grėsmių, o saugumo tyrėjai praleido daugiau nei 1 000 valandų atlikdami bandymus ir ieškodami universalų būdų apeiti šias apsaugas, tačiau, pasak jų, tokių metodų kol kas rasta nebuvo.

Pasiekta „kritinė“ riba?

Iki šiol plačiai diskusijose aptariamos DI galimybės įgauna kiek realistiškesnį vaizdą. Pažangiausi modeliai ne tik padeda, bet ir kelia papildomas grėsmes išnaudojant žmonėms neįveikiamas ar nepastebėtas saugumo spragas.

Būtent dėl šios priežasties „Anthropic“ dar visai neseniai „Mythos“ klasės modelius buvo apribojusi tik patikimiems partneriams. Tačiau naujausias bendrovės sprendimas rodo, kad DI kūrėjai vis labiau pasitiki ne tik pačių modelių galimybėmis, bet ir juos kontroliuojančiomis apsaugos sistemomis.

Vis dėlto tai nereiškia, kad diskusijos dėl tokių modelių rizikų baigėsi. Priešingai – kuo galingesnės tampa DI sistemos, tuo svarbesnis tampa klausimas, kur baigiasi naudingas jų pritaikymas ir prasideda galimas piktnaudžiavimas. O tik laikas parodys, ar numatyta apsauga iš tiesų veikia.