Pokud se ptáte Yann LeCun, Silicon Valley má problém se skupinovým myšlením. Od listopadového odchodu z Meta se výzkumník a představitel AI zaměřili na ortodoxní názor, že velké jazykové modely (LLM) nás dostanou k umělé obecné inteligenci (AGI), prahu, kde se počítače vyrovnají nebo překonávají lidské chytrosti. Každý, prohlásil v nedávném rozhovoru, byl „pilulovaný LLM“.
Startup Logical Intelligence se sídlem v San Francisku jmenoval 21. ledna LeCuna do své rady. Na základě teorie vytvořené LeCunem před dvěma desetiletími startup tvrdí, že vyvinul jinou formu AI, lépe vybavenou k učení, uvažování a sebeopravám.
Logical Intelligence vyvinula to, co je známé jako model energetického uvažování (EBM). Zatímco LLM efektivně předpovídají nejpravděpodobnější další slovo v sekvenci, EBM absorbují sadu parametrů – řekněme pravidla pro sudoku – a dokončí úkol v těchto mezích. Tato metoda má eliminovat chyby a vyžaduje mnohem méně výpočtů, protože je zde méně pokusů a omylů.
Debutový model startupu, Kona 1.0, dokáže vyřešit sudoku mnohonásobně rychleji než přední světové LLM, a to navzdory skutečnosti, že běží pouze na jediném GPU Nvidia H100, jak uvedla zakladatelka a generální ředitelka Eve Bodnia v rozhovoru pro WIRED. (V tomto testu jsou LLM blokovány v používání kódovacích schopností, které by jim umožnily „hrubou silou“ hádanku.)
Logical Intelligence prohlašuje, že je první společností, která vybudovala fungující EBM, až dosud jen letem akademické fantazie. Cílem je, aby Kona řešila ožehavé problémy, jako je optimalizace energetických sítí nebo automatizace sofistikovaných výrobních procesů, v nastaveních bez tolerance chyb. „Žádný z těchto úkolů není spojen s jazykem. Není to nic jiného než jazyk,“ říká Bodnia.
Bodnia očekává, že Logical Intelligence bude úzce spolupracovat s AMI Labs, pařížským startupem, který nedávno zahájila společnost LeCun a který vyvíjí další formu umělé inteligence – takzvaný světový model, který má rozpoznávat fyzické dimenze, demonstrovat trvalou paměť a předvídat výsledky svých akcí. Cesta k AGI, tvrdí Bodnia, začíná vrstvením těchto různých typů umělé inteligence: LLM se propojí s lidmi v přirozeném jazyce, EBM převezmou úkoly uvažování, zatímco modely světa pomohou robotům jednat ve 3D prostoru.
Bodnia tento týden hovořila s WIRED prostřednictvím videokonference ze své kanceláře v San Franciscu. Následující rozhovor byl z důvodu srozumitelnosti a délky upraven.
WIRED: Měl bych se zeptat na Yanna. Povězte mi o tom, jak jste se potkali, jak se podílel na řízení výzkumu v Logical Intelligence a co bude jeho role ve správní radě obnášet.
Bodnia: Yann má mnoho zkušeností z akademického konce jako profesor na New York University, ale byl vystaven skutečnému průmyslu prostřednictvím Meta a dalších spolupracovníků po mnoho a mnoho let. Viděl oba světy.
Pro nás je jediným odborníkem na energetické modely a různé druhy souvisejících architektur. Když jsme začali pracovat na tomto EBM, byl jediným člověkem, se kterým jsem mohl mluvit. Pomáhá našemu technickému týmu orientovat se v určitých směrech. Byl velmi, velmi praktický. Bez Yanna si nedokážu představit, že bychom škálovali tak rychle.
Yann otevřeně hovoří o potenciálních omezeních LLM a o tom, které modelové architektury s největší pravděpodobností posunou výzkum AI kupředu. kde stojíš?
LLM jsou velkou hádankou. Proto potřebujete hodně výpočtů. Vezmete neuronovou síť, nakrmíte ji téměř veškerým odpadem z internetu a pokusíte se ji naučit, jak spolu lidé komunikují.
Když mluvíš, tvůj jazyk je pro mě inteligentní, ale ne kvůli jazyku. Jazyk je projevem čehokoli, co je ve vašem mozku. Moje úvaha se odehrává v jakémsi abstraktním prostoru, který dekóduji do jazyka. Mám pocit, jako by se lidé pokoušeli zvrátit inteligenci napodobováním inteligence.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
