Nový model ultrarychlého překladu společnosti Mistral umožňuje velkým laboratořím umělé inteligence utrácet peníze

Mistral AI má vydala novou rodinu modelů AI, o kterých tvrdí, že uvolní cestu k bezproblémové konverzaci mezi lidmi mluvícími různými jazyky.

Ve středu pařížská laboratoř AI vydala dva nové modely převodu řeči na text: Voxtral Mini Transcribe V2 a Voxtral Realtime. První je navržen pro přepis zvukových souborů ve velkých dávkách a druhý pro přepis téměř v reálném čase, do 200 milisekund; oba umí překládat mezi 13 jazyky. Voxtral Realtime je volně dostupný pod licencí open source.

Se čtyřmi miliardami parametrů jsou modely dostatečně malé, aby mohly běžet lokálně na telefonu nebo notebooku – první v oblasti převodu řeči na text, tvrdí Mistral – což znamená, že soukromé konverzace nemusí být odesílány do cloudu. Podle Mistralu jsou nové modely levnější na provoz a méně náchylné k chybám než konkurenční alternativy.

Společnost Mistral představila Voxtral Realtime – ačkoli tento model vydává text, nikoli řeč – jako výrazný krok směrem k volně plynoucí konverzaci přes jazykovou bariéru, což je problém, o jehož vyřešení soutěží Apple a Google. Nejnovější model od Googlu je schopen překládat s dvousekundovým zpožděním.

„To, co budujeme, je systém, který je možné bezproblémově překládat. Tento model pro to v podstatě pokládá základy,“ tvrdí Pierre Stock, viceprezident pro vědecké operace ve společnosti Mistral, v rozhovoru pro WIRED. „Myslím, že tento problém bude vyřešen v roce 2026.“

Společnost Mistral, kterou v roce 2023 založili Meta a absolventi Google DeepMind, je jednou z mála evropských společností vyvíjejících základní modely umělé inteligence schopné fungovat na dálku v blízkosti lídrů amerického trhu – OpenAI, Anthropic a Google – z hlediska schopností.

Bez přístupu ke stejné úrovni financování a výpočtů se Mistral zaměřil na zvýšení výkonu prostřednictvím nápaditého návrhu modelu a pečlivé optimalizace tréninkových datových sad. Cílem je, aby se mikrovylepšení ve všech aspektech vývoje modelu promítla do zvýšení materiálové výkonnosti. „Upřímně řečeno, příliš mnoho GPU vás činí línými,“ tvrdí Stock. „Prostě slepě testujete spoustu věcí, ale nepřemýšlíte, jaká je nejkratší cesta k úspěchu.“

Vlajková loď velkého jazykového modelu (LLM) Mistral neodpovídá konkurenčním modelům vyvinutým americkými konkurenty, pokud jde o nezpracované schopnosti. Společnost však vytvořila trh tím, že našla kompromis mezi cenou a výkonem. „Mistral nabízí alternativu, která je cenově výhodnější, kde modely nejsou tak velké, ale jsou dostatečně dobré a lze je otevřeně sdílet,“ říká Annabelle Gawer, ředitelka Centra digitální ekonomiky na University of Surrey. „Možná to není vůz Formule 1, ale je to velmi efektivní rodinný vůz.“

Mezitím, zatímco jeho američtí kolegové házejí stovky miliard dolarů do závodu o umělou obecnou inteligenci, Mistral buduje seznam specializovaných – i když méně sexy – modelů určených k provádění úzkých úkolů, jako je převod řeči na text.

„Mistral se nestaví jako okrajový hráč, ale rozhodně vytváří specializované modely,“ říká Gawer. „Jako americký hráč se zdroji chcete mít velmi výkonnou univerzální technologii. Nechcete plýtvat svými zdroji dolaďováním podle jazyků a specifik určitých sektorů nebo geografických oblastí. Tento druh méně ziskového podnikání necháte na stole, což vytváří prostor pro střední hráče.“

Vzhledem k tomu, že vztahy mezi USA a jejich evropskými spojenci vykazují známky zhoršení, Mistral se stále více opírá i o své evropské kořeny. „V Evropě existuje trend, kdy společnosti a zejména vlády velmi pečlivě sledují svou závislost na americkém softwaru a firmách s umělou inteligencí,“ říká Dan Bieler, hlavní analytik IT poradenské firmy PAC.

V tomto kontextu se Mistral umístil jako nejbezpečnější pár rukou: evropská, vícejazyčná, open source alternativa k proprietárním modelům vyvinutým v USA. „Jejich otázka vždy zněla: Jak si vybudujeme obhajitelnou pozici na trhu, kterému dominují ohromně financovaní američtí herci?“ říká Raphaëlle D’Ornano, zakladatelka technologické poradenské firmy D’Ornano + Co. „Přístup, který Mistral doposud zvolil, je takový, že chce být suverénní alternativou, v souladu se všemi předpisy, které mohou v EU existovat.“

Přestože výkonnostní rozdíl oproti americkým těžkým vahám zůstane, protože podniky se potýkají s potřebou najít návratnost investic do umělé inteligence a zohlednit geopolitický kontext, menší modely vyladěné na specifické požadavky odvětví a regionu přijdou na své, předpovídá Bieler.

„LLM jsou obři, kteří dominují diskusím, ale nespoléhal bych na to, že tato situace bude navždy,“ tvrdí Bieler. „Malé a regionálně zaměřené modely budou hrát v budoucnu mnohem větší roli.“