Muž za AlphaGo si myslí, že AI jde špatnou cestou

David Silver dal svět svůj úplně první záblesk superinteligence.

V roce 2016 se program AI AlphaGo, který vyvinul v Google DeepMind, naučil hrát slavně obtížnou hru Go s jistým mistrovstvím, které dalece přesahovalo mimiku.

Silver od té doby založil svou vlastní společnost Ineffable Intelligence, jejímž cílem je vybudovat obecnější formy superinteligence AI. Společnost to udělá, říká Silver, tím, že se zaměří na posílení učení, které zahrnuje modely umělé inteligence, které se učí nové schopnosti pomocí pokusů a omylů. Vizí je vytvořit „superlearery“, kteří v mnoha oblastech přesahují lidskou inteligenci.

Tento přístup je v protikladu k tomu, jak většina společností s umělou inteligencí plánuje budovat superinteligenci využitím možností kódování a výzkumu velkojazyčných modelů.

Silver při rozhovoru s WIRED ze své kanceláře v Londýně říká, že si myslí, že tento přístup selže. Jakkoli jsou LLM úžasné, učí se z lidské inteligence – spíše než budovat svou vlastní.

„Lidská data jsou jako druh fosilního paliva, které poskytuje úžasnou zkratku,“ říká Silver. „Systémy, které se samy učí, si můžete představit jako obnovitelné palivo – něco, co se může jen učit a učit se a učit se navždy, bez omezení,“ říká.

Se Silverem jsem se párkrát setkal a – navzdory tomuto prohlášení – na mě vždy působil jako jeden z nejskromnějších lidí v AI. Někdy, když mluví o nápadech, které považuje za hloupé, blýskne se nafoukaným úsměvem. Právě teď to však myslí smrtelně vážně.

„Myslím si, že naše poslání je prvním kontaktem se superinteligencí,“ říká. „Superinteligencí myslím skutečně něco neuvěřitelného. Měla by pro sebe objevit nové formy vědy nebo technologie nebo vlády nebo ekonomiky.“

Před pěti lety se taková mise mohla zdát směšná. Ale tech CEO nyní běžně mluví o strojích, které překonávají lidskou inteligenci a nahrazují celé kategorie pracovníků. Myšlenka, že by nějaký nový technický obrat mohl odemknout nadlidské schopnosti umělé inteligence, nedávno zplodila řadu startupů za miliardy dolarů.

Společnost Ineffable Intelligence dosud získala počáteční financování ve výši 1,1 miliardy dolarů v hodnotě 5,1 miliardy dolarů – podle evropských standardů umělé inteligence obrovská suma. Silver také najal špičkové výzkumníky AI z Google DeepMind a dalších hraničních laboratoří, aby se připojili k jeho úsilí.

Silver říká, že všechny peníze, které vydělá z vlastního kapitálu v Effable Intelligence – částku, která by mohla činit miliardy, pokud bude úspěšný – dá na charitu.

„Vybudovat společnost zaměřenou na superinteligenci je obrovská zodpovědnost,“ říká mi. „Myslím, že je to něco, co je třeba udělat ve prospěch lidstva, a veškeré peníze, které vydělám z vůle Ineffable, půjdou na vysoce účinné charitativní organizace, které zachrání co nejvíce životů.“

Celkové zaměření

Silver se v dětství setkal s Demisem Hassabisem, generálním ředitelem Google DeepMind, na šachovém turnaji a později se z nich stali celoživotní přátelé a spolupracovníci.

Zůstali blízko poté, co Silver opustil Google DeepMind, což udělal jen proto, že chtěl vytyčit úplně novou cestu. „Cítím, že je opravdu důležité, aby existovala elitní laboratoř umělé inteligence, která se skutečně stoprocentně zaměřuje na tento přístup,“ říká. „Že to není jen koutek jiného místa věnovaného LLM.“

Limity přístupu založeného na LLM lze vidět, říká Silver, jednoduchým myšlenkovým experimentem. Představte si, že se vrátíte v čase a uvolníte velký jazykový model ve světě, který věřil, že svět je plochý. Bez možnosti interakce se skutečným světem by systém, jak říká, zůstal zaníceným flat-eartherem, i kdyby pokračoval ve vylepšování vlastního kódu.

Systém umělé inteligence, který se může sám učit o světě, by však mohl dělat své vlastní vědecké objevy.