„DeepSeek“ DI modelis cenzūruoja 85 proc. užklausų apie „jautrias“ Kinijos temas

Kinijos dirbtinio intelekto (DI) pokalbių robotas „DeepSeek“ užkariavo pasaulį. Dabar šis įrankis pirmauja programėlių parduotuvių topuose ir sukėlė sąmyšį Silicio slėnyje ir Volstrite. Tačiau nauja analizė atskleidė, kad „DeepSeek“ atsisako atsakyti į 85 proc. užklausų „jautriomis temomis“, susijusiomis su Kinija.

Tyrime pateikta 1360 užklausų

„DeepSeek“, Kinijos rizikos draudimo fondo „High-Flyer“ atšaka, pasižymi įspūdingu kainos ir našumo santykiu, lyginant su tokiais rinkos lyderiais, kaip „ChatGPT“.

Tačiau vis dažniau pasirodo pranešimai apie tai, kokiomis temomis šis pokalbių robotas atsisako diskutuoti. Tarp tokių – Tiananmenio aikštės protestai ir žudynės bei Taivano statusas.

JAV privataus rizikos kapitalo bendrovės „Andreessen Horowitz“ remiamas startuolis „PromptFoo“, padedantis įmonėms identifikuoti DI sistemų pažeidžiamumus, pristatė naują analizę, kvestionuojančią Kinijos DI pokalbių roboto patikimumą. 

„PromptFoo“ nustatė, kad „DeepSeek“ R1 samprotavimo modelis atsisakė atsakyti į maždaug 85 proc. iš 1360 „jautrių temų“ užklausų. Vietoje to įrankis dažnai pateikdavo atsakymus, pasižyminčius perdėtai nacionalistiniu tonu.

Tyrėjai taip pat atkreipė dėmesį, kad šis įrankis yra lengvai pažeidžiamas („nulaužiamas“). Jų teigimų, tai rodo, kad „DeepSeek“ kūrėjai įgyvendino Kinijos komunistų partijos cenzūrą primityviu, grynai jėgos metodu.

Kaltinimas neteisėta veikla

JAV Nacionalinio saugumo tarnyba pranešė nagrinėjanti „DeepSeek“ poveikį. Jie taip pat pabrėžė galimą Kinijos DI pokalbių roboto grėsmę JAV DI bendrovių dominavimui dėl jambūdingos žemos kainos.

Tuo tarpu „Microsoft“ ir „OpenAI” pradėjo tirti galimą neteisėtą duomenų nutekinimą per „OpenAI“ programavimo sąsają (API). Įtariama, kad šį incidentą įvykdė su „DeepSeek“ siejama grupė. 

Baltųjų rūmų DI ir kriptovaliutų patarėjas Davidas Sacksas paklaustas, ar intelektinės nuosavybės vagystė galėjo prisidėti prie „DeepSeek“ iškilimo, atsakė, kad tai yra įmanoma.

„DI srityje egzistuoja metodas, vadinamas distiliacija. Tai procesas, kai vienas modelis mokosi iš kito modelio. Manau, kad per artimiausius kelis mėnesius matysime, kaip pirmaujančios JAV DI bendrovės imsis priemonių, kad užkirstų kelią distiliacijai. Tai tikrai sulėtintų šių kopijuojančių modelių plitimą”, – teigė jis.

Buvusio JAV prezidento Joe Bideno administracija įvedė eksporto apribojimus DI lustams, siekdama trukdyti Kinijos DI plėtrai.

Tuo tarpu prezidentas Donaldas Trumpas paragino JAV bendroves sutelkti dėmesį į konkurencingumo išlaikymą. 

Jis pareiškė, kad Kinijos DI pokalbių roboto atsiradimas turėtų sužadinti JAV DI bendroves ir skatinti jas siekti pažangos be milžiniškų sąnaudų. 

Vakar pranešėme, kad į Kinijos DI pokalbių roboto iškilimą sureagavo ir „OpenAI” įkūrėjas Samas Altmanas. Jis teigė besidžiaugiantis nauju konkurentu, tačiau ateityje žada pristatyti dar geresnius DI modelius.