Parodoje „DevDay 2024“ „OpenAI“ pristatė keletą naujų kūrėjų įrankių, leidžiančių lengviau kurti pažangias dirbtinio intelekto programas.
„Realtime API“ beta versija
„OpenAI“ paskelbė viešą „Realtime API“ beta versiją, kuri leis kūrėjams savo programėlėse kurti mažo vėlavimo, daugialypės terpės patirtį. Tai suteiks galimybę kūrėjams kurti panašias į „ChatGPT“ išplėstinio balso režimo programas su natūraliais pokalbiais naudojant šešis iš anksto nustatytus balsus.
Kūrėjams, kuriems nėra aktualus nedidelis vėlavimas, „OpenAI“ taip pat pranešė apie garso įvestį ir išvestį „Chat Completions API“.
„Realtime API“ teksto įvesties ženklai kainuos 5 USD už 1 mln. ir 20 USD už 1 mln. išvesties ženklų. Garso įvesties kaina bus 100 USD už 1 mln. žetonų, o išvesties – 200 USD už 1 mln. žetonų. Taigi, viena garso įvesties minutė kainuos apie 0,06 JAV dolerio, o garso išvesties minutė – 0,24 JAV dolerio.
Vizualinis tikslinimas „GPT-4o“
„OpenAI“ taip pat pristatė vizualinį tikslinimą „GPT-4o“, leidžiantį kūrėjams tikslinti modelį naudojant vaizdus kartu su tekstu. Tai bus naudinga tokiuose scenarijuose, kaip patobulinta vizualinės paieškos funkcija, patobulintas objektų aptikimas autonominėse transporto priemonėse, tiksli medicininių vaizdų analizė ir kt.
Vizualinis tikslinimas dabar prieinamas visiems kūrėjams, naudojantiems naujausią „GPT-4o“ modelio momentinę kopiją „gpt-4o-2024-08-06“ mokamose naudojimo pakopose.
Be to, „OpenAI“ iki 2024 m. spalio 31 d. nemokamai siūlo 1 mln. mokymo žetonų per dieną, kad būtų galima tiksliai sureguliuoti „GPT-4o“ su vaizdais. Po to tikslaus derinimo mokymas kainuos 25 JAV dolerius už 1 mln. žetonų, o išvadų darymas kainuos 3,75 JAV dolerio už 1 mln. įvesties žetonų ir 15 JAV dolerių už 1 mln. išvesties žetonų.
„Prompt Caching“ palaikymas
„OpenAI“ pagaliau pasivijo „Google“ ir „Anthropic“ su nauju „Prompt Caching“ palaikymu, kuris leidžia kūrėjams sumažinti išlaidas ir vėlavimą.
Naudodami „Prompt Caching“ kūrėjai gali gauti 50 % nuolaidą ir greitesnį apdorojimo laiką. Be to, kūrėjams nereikia nieko daryti, kad įjungtų „Prompt Caching“, nes ji automatiškai taikoma naujausiose „GPT-4o“, „GPT-4o mini“, „o1-preview“ ir „o1-mini“ versijose, taip pat šių modelių patikslintose versijose.
„Model Distillation“ rinkinys
„OpenAI“ paskelbė apie naują „Model Distillation“ rinkinį, kuris leis kūrėjams koreguoti mažesnius modelius naudojant didesnių ribinių modelių rezultatus. Tai jiems suteiks galimybę daug mažesnėmis sąnaudomis pasiekti pažangių modelių našumą sprendžiant konkrečias užduotis.
Anksčiau modelių atrūšiavimas buvo susijęs su didžiuliu procesu ir keliomis tarpusavyje nesusijusiomis priemonėmis. Naudodama naująjį „Model Distillation“ rinkinį, „OpenAI“ dabar siūlo visą funkcionalumą tiesiogiai savo platformoje. „Model Distillation“ dabar prieinamas visiems kūrėjams.
Iki spalio 31 d. „OpenAI“ siūlo 2 mln. nemokamų mokymo žetonų per dieną „GPT-4o mini“ ir 1 mln. nemokamų mokymo žetonų per dieną „GPT-4o“. Vėliau šio modelio mokymo ir paleidimo kaina bus tokia pati, kaip ir dabartinės standartinės „OpenAI“ tikslaus derinimo kainos.