„Umělý vědec“ vymýšlí a provádí své vlastní experimenty

Na první pohled se nedávná várka výzkumných prací vytvořených prominentní laboratoří umělé inteligence na University of British Columbia ve Vancouveru nemusí zdát tak pozoruhodná. Díky postupným vylepšením stávajících algoritmů a nápadů se čtou jako obsah prostřední konference nebo časopisu AI.

Ale výzkum je ve skutečnosti pozoruhodný. Je to proto, že jde výhradně o práci „vědce AI“ vyvinutého v laboratoři UBC společně s výzkumníky z Oxfordské univerzity a startupem Sakana AI.

Projekt demonstruje raný krok k tomu, co by se mohlo ukázat jako revoluční trik: nechat AI učit se vymýšlením a zkoumáním nových nápadů. V současnosti prostě nejsou super romány. Několik článků popisuje vylepšení pro zlepšení techniky generování obrazu známé jako difúzní modelování; další nastiňuje přístup pro urychlení učení v hlubokých neuronových sítích.

„Tohle nejsou převratné myšlenky. Nejsou nijak divoce kreativní,“ přiznává Jeff Clune, profesor, který vede laboratoř UBC. „Ale vypadají jako docela skvělé nápady, které by někdo mohl zkusit.“

Jakkoli úžasné mohou být dnešní programy umělé inteligence, jsou omezeny svou potřebou spotřebovávat tréninková data vytvořená lidmi. Pokud se programy umělé inteligence mohou místo toho učit způsobem s otevřeným koncem, experimentováním a zkoumáním „zajímavých“ nápadů, mohou odemknout schopnosti, které přesahují vše, co jim lidé ukázali.

Cluneova laboratoř již dříve vyvinula programy umělé inteligence určené k učení tímto způsobem. Například jeden program nazvaný Omni se pokusil vygenerovat chování virtuálních postav v několika prostředích podobných videohrám, zařadil ty, které se zdály zajímavé, a poté je opakoval s novými návrhy. Tyto programy dříve vyžadovaly ručně kódované instrukce, aby definovaly zajímavost. Velké jazykové modely však poskytují způsob, jak umožnit těmto programům identifikovat to, co je nejzajímavější. Další nedávný projekt z Cluneovy laboratoře použil tento přístup k tomu, aby nechal programy AI vymyslet kód, který umožňuje virtuálním postavám dělat nejrůznější věci ve světě podobném Robloxu.

Vědec s umělou inteligencí je jedním z příkladů Cluneovy laboratoře, která zkoumá možnosti. Program přichází s experimenty strojového učení, rozhodne, co se zdá nejslibnější, pomocí LLM, poté zapíše a spustí potřebný kód – opláchne a zopakuje. Navzdory ohromujícím výsledkům Clune říká, že otevřené výukové programy, stejně jako samotné jazykové modely, by se mohly stát mnohem schopnějšími, jakmile se zvýší výkon počítače.

„Je to jako prozkoumávat nový kontinent nebo novou planetu,“ říká Clune o možnostech, které LLM nabízejí. „Nevíme, co objevíme, ale kamkoli se obrátíme, je něco nového.“

Tom Hope, odborný asistent na Hebrejské univerzitě v Jeruzalémě a vědecký pracovník v Allenově institutu pro AI (AI2), říká, že vědec AI se stejně jako LLM jeví jako vysoce odvozený a nelze jej považovat za spolehlivý. „Žádná z komponent není momentálně důvěryhodná,“ říká.

Hope poukazuje na to, že snahy o automatizaci prvků vědeckého objevu se táhnou desetiletí zpět k práci průkopníků umělé inteligence Allena Newella a Herberta Simona v 70. letech a později k práci Pat.

Langley v Institutu pro studium učení a odbornosti. Poznamenává také, že několik dalších výzkumných skupin, včetně týmu AI2, nedávno využilo LLM, aby pomohly s generováním hypotéz, psaním prací a revizí výzkumu. „Zachytili duch doby,“ říká Hope o týmu UBC. „Směr je samozřejmě neuvěřitelně cenný, potenciálně.“

Zda systémy založené na LLM mohou někdy přijít se skutečně novými nebo průlomovými nápady, zůstává také nejasné. „To je otázka za bilion dolarů,“ říká Clune.

I bez vědeckých průlomů může být otevřené učení životně důležité pro vývoj schopnějších a užitečnějších systémů umělé inteligence tady a teď. Zpráva, kterou tento měsíc zveřejnila investiční společnost Air Street Capital, zdůrazňuje potenciál Cluneovy práce na vývoji výkonnějších a spolehlivějších agentů umělé inteligence nebo programů, které autonomně provádějí užitečné úkoly na počítačích. Zdá se, že všechny velké společnosti zabývající se umělou inteligencí považují agenty za další velkou věc.

Tento týden Cluneova laboratoř odhalila svůj nejnovější otevřený vzdělávací projekt: program umělé inteligence, který vymýšlí a vytváří agenty umělé inteligence. Agenti navržení AI překonávají agenty navržené lidmi v některých úkolech, jako je matematika a čtení s porozuměním. Dalším krokem bude vymýšlení způsobů, jak zabránit tomu, aby takový systém generoval agenty, kteří se chovají špatně. „Je to potenciálně nebezpečné,“ říká Clune o této práci. „Musíme to dát do pořádku, ale myslím, že je to možné.“