OpenAI snižuje náklady na používání své AI s „mini“ modelem

OpenAI dnes oznámila „mini“ model se sníženou cenou, o kterém říká, že umožní více společnostem a programům využívat jeho umělou inteligenci. Nový model s názvem GPT-4o mini a dostupný od dnešního dne je o 60 procent levnější než nejlevnější stávající model OpenAI a zároveň nabízí vyšší výkon, říká společnost.

OpenAI charakterizuje tento krok jako součást snahy učinit AI „co nejširší dostupnost“, ale také odráží rostoucí konkurenci mezi poskytovateli cloudu AI a také rostoucí zájem o malé a bezplatné modely AI s otevřeným zdrojovým kódem. Očekává se, že Meta příští týden představí největší verzi své velmi schopné bezplatné nabídky, Llama 3.

„Celým smyslem OpenAI je bezpečně budovat a distribuovat AI a zpřístupnit ji široce,“ říká Olivier Godement, produktový manažer OpenAI zodpovědný za nový model, WIRED. „Zpřístupnění zpravodajských informací za nižší cenu je pro nás jedním z nejúčinnějších způsobů, jak toho dosáhnout.“

Godement říká, že společnost vyvinula levnější nabídku vylepšením architektury modelu a vylepšením tréninkových dat a tréninkového režimu. GPT-4o mini překonává ostatní „malé“ modely na trhu v několika běžných benchmarcích, říká OpenAI.

OpenAI získala významnou pozici na trhu cloudové umělé inteligence díky pozoruhodným schopnostem svého chatbota ChatGPT, který debutoval na konci roku 2022. Společnost za poplatek umožňuje přístup k velkému jazykovému modelu, který ChatGPT pohání, a který se nazývá GPT-4o. Nabízí také méně výkonný model s názvem GPT-3.5 Turbo za zhruba desetinu ceny GPT-4o.

Zájem o jazykové modely vyvolaný divokým úspěchem ChatGPT přiměl konkurenty k vývoji podobných nabídek. Google, průkopník v oblasti umělé inteligence, učinil velký tlak na vybudování a komercializaci velkého jazykového modelu a chatbota pod značkou Gemini. Startupy jako Anthropic, Cohere a AI21 získaly miliony na vývoj a prodej vlastních velkých jazykových modelů pro firemní zákazníky a vývojáře.

Vytvoření nejvýkonnějších velkých jazykových modelů vyžaduje obrovské finanční zdroje, ale některé společnosti se rozhodly otevřít své výtvory, aby přilákaly vývojáře do svých ekosystémů. Nejvýraznějším open source modelem umělé inteligence je Meta’s Llama; lze jej stáhnout a používat zdarma, ale jeho licence ukládá určitá omezení pro komerční využití.

Letos v dubnu Meta oznámila Llama 3, svůj nejvýkonnější bezplatný model. Společnost vydala malou verzi modelu s 8 miliardami parametrů – hrubým měřítkem přenositelnosti a složitosti modelu – a také výkonnější, středně velkou verzi se 70 miliardami parametrů. Model střední velikosti se blíží nejlepší nabídce OpenAI v několika srovnávacích hodnoceních.

Několik zdrojů potvrdilo WIRED, že Meta plánuje vydat největší verzi Llama 3 se 400 miliardami parametrů 23. července, ačkoli říkají, že datum vydání se může změnit. Není jasné, jak moc bude tato verze Llama 3 schopná, ale některé společnosti obrátily svou pozornost k modelům AI s otevřeným zdrojovým kódem, protože jsou levnější a přizpůsobitelné a nabízejí větší kontrolu nad modelem a daty, do kterých jsou dodávány.

Godement připouští, že potřeby zákazníků se vyvíjejí. „To, co na trhu stále více vidíme, jsou vývojáři a podniky, které kombinují malé a velké modely, aby vytvořili nejlepší produktový zážitek za cenu a latenci, která pro ně dává smysl,“ říká.

Godement říká, že cloudové nabídky OpenAI poskytují zákazníkům modely, které prošly větším bezpečnostním testováním než konkurence. Dodává, že OpenAI by časem mohla vyvinout modely, které by zákazníci mohli provozovat na vlastních zařízeních. „Pokud uvidíme masivní poptávku, můžeme ty dveře otevřít,“ říká.