Boj AGI Microsoft a OpenAI je větší než smlouva

Nejprve jsem se naučil O klauzuli od generálního ředitele společnosti Microsoft Satya Nadella. Během rozhovoru s ním v květnu 2023 jsem se zeptal na dohodu mezi Microsoftem a OpenAI, která poskytla jeho společnosti exkluzivní přístup k průkopnické technologii AI startupu. Věděl jsem, že smlouva stanovila omezení toho, kolik zisku by Microsoft z dohody mohl udělat, a zeptal jsem se ho, co se stane, kdyby a kdy bylo dosaženo tohoto bodu. Odpověď byla trochu záhadná.

„V zásadě je jejich dlouhodobou myšlenkou, že se dostaneme k superintelligence,“ řekl mi. „Pokud se to stane, myslím, že všechny sázky jsou pryč, že?“ Vypadal téměř veselý o možnosti a vedl mě k přemýšlení, jak vážně to vzal. „Pokud se jedná o poslední vynález lidstva, pak jsou všechny sázky vypnuté,“ pokračoval. „Různí lidé budou mít různé úsudky o tom, co to je a kdy to je.“

Neuvědomil jsem si, jak důležité bude toto odhodlání až o několik týdnů později. Když jsem pracoval na funkci o OpenAI, dozvěděl jsem se, že smlouva v podstatě prohlásila, že pokud modely OpenAI dosáhly umělé obecné inteligence, Microsoft by již neměl přístup k svým novým modelům. Podmínky smlouvy, které by se jinak rozšířily do roku 2030, by byly neplatné. Přestože jsem o tom psal ve svém příběhu a klauzule nikdy nebyla státním tajemstvím, nevytvořila to mnoho diskuse.

To už není. Klauzule byla ve středu stále více roztříštěného vztahu mezi Microsoftem a OpenAI a je pod vyjednáváním. Byl předmětem vyšetřovacích obchodů podle informací, Wall Street Journal, The Financial Times a, ano, zapojený.

Význam klauzule však přesahuje osudy dvou společností, které s ní souhlasily. Mírné podmínky této smlouvy jdou do jádra zuřící debaty o tom, jak by se mohla být agi na svět, pokud by to bylo realizováno, a co by to znamenalo, že společnost založená na zisku ovládá technologii, díky níž bude Sauronův prsten moci vypadat jako plastový doodad. Pokud chcete pochopit, co se děje v AI, téměř vše lze vysvětlit klauzulí.

Pojďme se kopat do detailů. Přestože přesný jazyk nebyl zveřejněn, zdroje se znalostí smlouvy potvrzují, že klauzule má tři části, z nichž každá má vlastní důsledky.

Existují dvě podmínky, které musí být uspokojeny, aby OpenAI popřel svou technologii společnosti Microsoft. Za prvé, rada OpenAI by určila, že její nové modely dosáhly AGI, která je v Openiově chartě definována jako „vysoce autonomní systém, který překonává lidi na nejvíce ekonomicky cenné práci“. Dost fuzzy pro vás? Není divu, že Microsoft se obává, že OpenAI toto rozhodnutí učiní předčasně. Jediným způsobem, jak protestovat proti deklaraci rady OpenAI, by bylo žalovat.

Ale to není všechno. Rada OpenAI by byla rovněž vyžadována k určení, zda nové modely dosáhly „dostatečného AGI“. To je definováno jako model schopný generovat zisky dostatečné k odměně Microsoft a Openiových dalších investorů, což je hodnota o 100 miliard dolarů. OpenAI nemusí tyto zisky skutečně vydělat, pouze poskytnout důkaz, že jeho nové modely vůle generovat tu odměnu. Na rozdíl od prvního odhodlání se Microsoft musí souhlasit s tím, že OpenAI splňuje tento standard, ale nemůže jej nepřiměřeně zpochybnit. (Opět, v případě sporu, který může soud nakonec rozhodnout.)

Altman mi v roce 2023 připustil, že standardy jsou vágní. „Dává naší radě velkou kontrolu, abychom se rozhodli, co se stane, když se tam dostaneme,“ řekl. V každém případě, pokud OpenAI rozhodne, že dosáhne dostatečného AGI, nemusí tyto modely sdílet s Microsoftem, který bude uvíznut s nyní zastaralými dřívějšími verzemi. Nebude muset ani používat cloudové servery Microsoft; V současné době má Microsoft právo na první odmítnutí práce.