Strach, který inspiroval Elona Muska a Sama Altmana k vytvoření OpenAI

Elon Musk minulý týden zažaloval dva ze svých spoluzakladatelů OpenAI, Sama Altmana a Grega Brockmana, a obvinil je z „zjevného porušení“ původní dohody trojice, že společnost bude vyvíjet umělou inteligenci otevřeně a bez honby za zisky. Pozdě v úterý OpenAI zveřejnilo částečně redigované e-maily mezi Muskem, Altmanem, Brockmanem a dalšími, které poskytují protimluv.

E-maily naznačují, že Musk byl otevřen tomu, aby se OpenAI relativně brzy více zaměřovalo na zisk, což potenciálně podkopalo jeho vlastní tvrzení, že se odchýlilo od svého původního poslání. V jedné zprávě Musk nabízí, že vloží OpenAI do své společnosti Tesla, aby poskytl více zdrojů, což byl nápad původně navržený v e-mailu, který přeposlal od nejmenované externí strany.

Nově zveřejněné e-maily také naznačují, že Musk nebyl dogmatický o tom, že OpenAI musí volně poskytovat svůj vývoj všem. V reakci na zprávu hlavního vědce Ilji Sutskevara, která varovala, že výkonné pokroky umělé inteligence s otevřeným zdrojem mohou být riskantní, protože technologie postupují, Musk píše: „Ano. Zdá se, že to je v rozporu s argumenty v žalobě z minulého týdne, že bylo od začátku dohodnuto, že OpenAI by měla své inovace volně zpřístupnit.

Odhlédneme-li od právního sporu, e-maily vydané OpenAI ukazují mocný kádr technologických podnikatelů, kteří zakládají organizaci, která se rozrostla do obrovské moci. Je zarážející, že ačkoli OpenAI ráda popisuje svou misi jako zaměřenou na vytváření umělé obecné inteligence – strojů chytřejších než lidé – její zakladatelé tráví více času diskusí o obavách z rostoucí síly Googlu a dalších gigantů s hlubokými kapsami, než nadšení z AGI.

„Myslím, že bychom měli říci, že začínáme se závazkem financování ve výši 1 miliardy USD. Tohle je skutečné. Pokryji vše, co kdokoli jiný neposkytne,“ napsal Musk v dopise o tom, jak představit OpenAI světu. Zamítl návrh na zahájení tím, že oznámil financování ve výši 100 milionů dolarů s odkazem na obrovské zdroje Googlu a Facebooku.

Musk spoluzaložil OpenAI s Altmanem, Brockmanem a dalšími v roce 2015, během dalšího období opojného humbuku AI zaměřeného na Google. Měsíc před založením neziskové organizace se program AlphaGo společnosti Google pro umělou inteligenci naučil hrát ďábelsky záludnou deskovou hru Go dost dobře na to, aby poprvé porazil šampiona lidského hráče. Tento čin šokoval mnoho odborníků na umělou inteligenci, kteří si mysleli, že Go je příliš rafinovaný na to, aby ho počítače v dohledné době zvládly. Ukázal také potenciál AI zvládnout mnoho zdánlivě nemožných úkolů.

Text Muskovy žaloby potvrzuje některé dříve oznámené podrobnosti o příběhu OpenAI v tomto okamžiku, včetně skutečnosti, že Musk byl poprvé upozorněn na možná nebezpečí, která AI představuje během setkání v roce 2012 s Demisem Hassabisem, spoluzakladatelem a generálním ředitelem společnosti DeepMind. která vyvinula AlphaGo a byla získána společností Google v roce 2014. Žaloba také potvrzuje, že Musk hluboce nesouhlasil se spoluzakladatelem Google Larry Pageem ohledně budoucích rizik AI, což zřejmě vedlo k tomu, že se dvojice rozešla jako přátelé. Musk se nakonec v roce 2018 rozešel s OpenAI a od divokého úspěchu ChatGPT očividně projekt dále zkomplikoval.

Od té doby, co OpenAI tento týden zveřejnila e-maily s Muskem, se spekulovalo o jménech a dalších podrobnostech redigovaných ze zpráv. Nějaký obrátil na AI jako způsob, jak vyplnit prázdná místa statisticky věrohodným textem.

„To potřebuje okamžitě miliardy ročně, nebo na to zapomeňte,“ napsal Musk v jednom e-mailu o projektu OpenAI. „Bohužel budoucnost lidstva je v rukou.“ [redacted]“ dodal, možná odkaz na spoluzakladatele Google Page.

Jinde ve změně e-mailu se software AI – stejně jako někteří komentátoři na Twitteru – domníval, že Musk předal argumenty, že Google má v AI od Hassabise velkou výhodu.

Ať už to byl kdokoli, vztahy zobrazené v e-mailech mezi spoluzakladateli OpenAI se od té doby rozpadly. Muskova žaloba se snaží donutit společnost, aby přestala licencovat technologii jejímu primárnímu podporovateli, společnosti Microsoft. V blogovém příspěvku, který doprovázel e-maily vydané tento týden, vyjádřili další spoluzakladatelé OpenAI zármutek nad tím, jak se věci zhoršily.

„Jsme smutní, že k tomu došlo s někým, koho jsme hluboce obdivovali,“ napsali. „Někdo, kdo nás inspiroval, abychom mířili výš, pak nám řekl, že neuspějeme, založil konkurenci a pak nás zažaloval, když jsme bez něj začali dělat smysluplný pokrok směrem k misi OpenAI.“