Anthropic’s Claude převezme kontrolu nad robotickým psem

Jako více robotů Začnou se objevovat ve skladech, kancelářích a dokonce i v domácnostech lidí, zní myšlenka velkých jazykových modelů nabourávat se do složitých systémů jako ze sci-fi nočních můr. Antropičtí výzkumníci tedy přirozeně dychtivě sledovali, co by se stalo, kdyby se Claude pokusil ovládnout robota – v tomto případě robotického psa.

V nové studii výzkumníci společnosti Anthropic zjistili, že Claude byl schopen automatizovat většinu práce spojené s programováním robota a přimět ho k provádění fyzických úkolů. Na jedné úrovni jejich zjištění ukazují schopnosti agenta kódovat moderní modely umělé inteligence. Na druhé straně naznačují, jak se tyto systémy mohou začít rozšiřovat do fyzické oblasti, protože modely zvládají více aspektů kódování a zlepšují se v interakci se softwarem – a také fyzickými objekty.

„Máme podezření, že dalším krokem pro modely AI je začít oslovovat svět a ovlivňovat svět šířeji,“ říká Logan Graham, člen červeného týmu Anthropic, který studuje modely potenciálních rizik, pro WIRED. „To bude skutečně vyžadovat, aby se modely více propojily s roboty.“

Společnost Anthropic byla založena v roce 2021 bývalými zaměstnanci OpenAI, kteří věřili, že AI se může s postupem stát problematickou – dokonce nebezpečnou. Dnešní modely nejsou dostatečně chytré, aby převzaly plnou kontrolu nad robotem, říká Graham, ale budoucí modely by mohly být. Říká, že studium toho, jak lidé využívají LLM k programování robotů, by mohlo pomoci průmyslu připravit se na myšlenku „modelů, které se nakonec ztělesňují“ s odkazem na myšlenku, že umělá inteligence může někdy provozovat fyzické systémy.

Stále není jasné, proč by se model AI rozhodl převzít kontrolu nad robotem – natož s ním udělat něco zlomyslného. Spekulování o nejhorším scénáři je však součástí značky Anthropic a pomáhá společnosti postavit se jako klíčového hráče v odpovědném hnutí AI.

V experimentu nazvaném Project Fetch požádala společnost Anthropic dvě skupiny výzkumníků bez předchozích zkušeností s robotikou, aby převzali kontrolu nad robotickým psem, čtyřnožcem Unitree Go2, a naprogramovali jej tak, aby prováděl konkrétní činnosti. Týmy dostaly přístup k ovladači a poté byly požádány, aby dokončily stále složitější úkoly. Jedna skupina používala Claudův model kódování – druhá psala kód bez pomoci umělé inteligence. Skupina využívající Clauda byla schopna dokončit některé – i když ne všechny – úkoly rychleji než programovací skupina určená pouze pro lidi. Například dokázal přimět robota, aby se prošel a našel plážový míč, což skupina pouze lidí nedokázala zjistit.

Společnost Anthropic také studovala dynamiku spolupráce v obou týmech pomocí záznamu a analýzy jejich interakcí. Zjistili, že skupina bez přístupu ke Claudovi vykazovala více negativních nálad a zmatku. To může být způsobeno tím, že Claude urychlil připojení k robotu a nakódoval snáze použitelné rozhraní.

Robot Go2 použitý v experimentech společnosti Anthropic stojí 16 900 dolarů – na poměry robotů relativně levné. Obvykle se používá v průmyslových odvětvích, jako je stavebnictví a výroba, k provádění vzdálených kontrol a bezpečnostních hlídek. Robot je schopen chodit autonomně, ale obecně se spoléhá na softwarové příkazy na vysoké úrovni nebo na osobu obsluhující ovladač. Go2 vyrábí společnost Unitree se sídlem v Hangzhou v Číně. Podle nedávné zprávy společnosti SemiAnalysis jsou její systémy AI v současnosti nejoblíbenější na trhu.

Velké jazykové modely, které pohání ChatGPT a další chytré chatboty, obvykle generují text nebo obrázky v reakci na výzvu. V poslední době se tyto systémy staly zběhlými ve generování kódu a operačního softwaru – přeměňují je na agenty, nikoli jen na generátory textu.