Velká AI společnosti nám slíbily, že rok 2025 bude „rokem agentů AI“. Ukázalo se, že je to rok mluvit o Agenti umělé inteligence a nakopnutí plechovky pro tento transformační okamžik do roku 2026 nebo možná později. Ale co když odpověď na otázku „Kdy budou naše životy plně automatizovány generativními AI roboty, kteří za nás plní naše úkoly a v podstatě řídí svět?“ je jako ta karikatura z New Yorku: „Co takhle nikdy?“
To bylo v podstatě poselství článku publikovaného bez velkých fanfár před několika měsíci, plácnutí uprostřed přehnaného roku „agentické AI“. S názvem „Halucinační stanice: o některých základních omezeních jazykových modelů založených na transformátoru“ má matematicky ukázat, že „LLM nejsou schopny provádět výpočetní a agentní úkoly nad určitou složitost“. Ačkoli věda jde mimo mě, autoři – bývalý technický ředitel SAP, který studoval AI pod jedním ze zakladatelů oboru, Johnem McCarthym, a jeho dospívajícím zázračným synem – prosadili vizi agentského ráje s jistotou matematiky. Dokonce ani modely uvažování, které jdou nad rámec čistého procesu předpovídání slov LLM, říkají, problém nevyřeší.
„Neexistuje žádný způsob, jak mohou být spolehliví,“ říká mi Vishal Sikka, táta. Po kariéře, která kromě SAP zahrnovala i působení jako CEO Infosys a člen představenstva Oracle, v současné době vede startup služeb AI s názvem Vianai. „Takže bychom měli zapomenout na agenty AI provozující jaderné elektrárny?“ ptám se. „Přesně tak,“ říká. Možná se vám podaří zařadit nějaké papíry nebo něco podobného, abyste ušetřili čas, ale možná budete muset rezignovat na některé chyby.
Odvětví umělé inteligence se liší. Za prvé, velkým úspěchem v AI agentů bylo kódování, které se prosadilo minulý rok. Zrovna tento týden v Davosu oznámil šéf společnosti Google pro AI Demis Hassabis průlomy v minimalizaci halucinací a hyperscalery i startupy tlačí na narativ agentů. Teď mají nějakou zálohu. Startup s názvem Harmonic hlásí průlom v kódování umělé inteligence, který také závisí na matematice – a je na špičce ve srovnávacích testech spolehlivost.
Společnost Harmonic, která byla spoluzaložena generálním ředitelem Robinhood Vladem Tenevem a Tudorem Achimem, matematikem vyškoleným ve Stanfordu, tvrdí, že toto nedávné vylepšení jejího produktu s názvem Aristotle (žádná arogance!) je známkou toho, že existují způsoby, jak zaručit důvěryhodnost systémů AI. „Jsme odsouzeni k tomu, abychom byli ve světě, kde umělá inteligence jen generuje propadák a lidé to nemohou pořádně zkontrolovat? To by byl šílený svět,“ říká Achim. Harmonic řešením je použít formální metody matematického uvažování k ověření výstupu LLM. Konkrétně kóduje výstupy v programovacím jazyce Lean, který je známý svou schopností ověřit kódování. Je jisté, že dosavadní zaměření Harmonic bylo úzké – jeho klíčovým posláním je hledání „matematické superinteligence“ a kódování je poněkud organické rozšíření. Věci jako historické eseje – které nelze matematicky ověřit – jsou za jeho hranicemi. Zatím.
Nicméně se nezdá, že by si Achim myslel, že spolehlivé chování agentů je takový problém, jak se někteří kritici domnívají. „Řekl bych, že většina modelů v tomto bodě má úroveň čisté inteligence potřebnou k tomu, aby si rezervovaly cestovní itinerář,“ říká.
Obě strany mají pravdu – nebo možná dokonce na stejné straně. Na jedné straně se všichni shodují na tom, že halucinace budou i nadále nepříjemnou realitou. V článku zveřejněném loni v září vědci z OpenAI napsali: „Navzdory značnému pokroku halucinace nadále sužují pole a jsou stále přítomny v nejnovějších modelech.“ Toto neradostné tvrzení dokázali tím, že požádali tři modelky, včetně ChatGPT, aby uvedly název disertační práce hlavního autora. Všechny tři si vymyslely falešné tituly a všechny špatně uvedly rok vydání. V blogu o novinách OpenAI zasmušile uvedl, že v modelech AI „přesnost nikdy nedosáhne 100 procent“.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
