Ne, Same Altmane, AI nevyřeší všechny problémy lidstva

Už jsme věděli, kde se generální ředitel OpenAI, Sam Altman, staví na umělé inteligenci vis-à-vis lidské sáze: Bude to transformační, historické a ohromně přínosné. V bezpočtu rozhovorů byl jen konzistentní. Z nějakého důvodu tento týden cítil, že je nutné tyto názory destilovat ve stručném blogovém příspěvku. „Věk inteligence“, jak tomu říká, bude dobou hojnosti. „Můžeme sdílet prosperitu v míře, která se dnes zdá nepředstavitelná; v budoucnu může být život každého lepší, než je život kohokoli teď,“ píše. „Ačkoli se to bude dít postupně, ohromující triumfy – napravení klimatu, založení vesmírné kolonie a objev veškeré fyziky – se nakonec stanou běžnými.“

Možná to zveřejnil, aby zpochybnil myšlenkový sled, který odmítá zdánlivé zisky velkých jazykových modelů jako něco jako iluzi. Nuh-uh, říká. Dostáváme tento velký bonus AI, protože „hluboké učení funguje“, jak řekl v rozhovoru později v týdnu, zesměšňující ty, kteří říkali, že programy jako GPT4o od OpenAI jsou prostě hloupé motory, které dodávají další token ve frontě. „Jakmile to začne dokazovat neprokázané matematické teorémy, opravdu stále chceme diskutovat: ‚Ach, ale je to jen předpovídání dalšího žetonu?‘,“ řekl.

Bez ohledu na to, co si o Samu Altmanovi myslíte, je nesporné, že toto je jeho pravda: Umělá obecná inteligence – AI, která se vyrovná lidským schopnostem a poté je převyšuje – vymaže problémy, které sužují lidstvo, a zahájí zlatý věk. Navrhuji, abychom tento koncept deus ex machina nazvali The Strawberry Shortcut, na počest kódového označení nedávného průlomu OpenAI v umělém uvažování. Stejně jako shortcake, předpoklad vypadá chutně, ale je méně podstatný v jídle.

Altman správně poznamenává, že technologický pochod přinesl světským lidem to, co bylo kdysi luxusem – včetně toho, co nebylo dostupné faraonům a lordům. Karel Veliký nikdy neměl rád klimatizaci! Lidé z dělnické třídy a dokonce i někteří na veřejné pomoci mají myčky nádobí, televizory s obřími obrazovkami, iPhony a doručovací služby, které jim přinášejí dýňové latté a krmivo pro domácí mazlíčky. Altman ale celý příběh nepřiznává. Navzdory obrovskému bohatství se ne všem daří a mnozí jsou bez domova nebo těžce zbídačení. Abych parafrázoval Williama Gibsona, ráj je tady, jen není rovnoměrně rozmístěn. Není to proto, že by technologie selhala –my mít. Domnívám se, že totéž bude platit, pokud AGI dorazí, zejména proto, že tolik úloh bude automatizováno.

Altman není příliš konkrétní o tom, jaký bude život, až se mnoho našich současných zaměstnání vydá cestou lampářů z 18. století. Tento týden jsme získali náznak jeho vize v podcastu, který požádal technologické osobnosti a celebrity, aby sdíleli své seznamy skladeb Spotify. Když Altman vysvětloval, proč si vybral melodii „Underwater“ od Rüfüse du Sol, je to pocta Burning Manovi, kterého se několikrát zúčastnil. Festival, jak říká, „je součástí toho, jak může vypadat post-AGI, kde se lidé soustředí jen na to, aby dělali věci jeden pro druhého, starali se jeden o druhého a dělali neuvěřitelné dary, aby se navzájem získali.“

Altman je velkým fanouškem univerzálního základního příjmu, o kterém se zdá, že si myslí, že zmírní ránu ušlé mzdy. Umělá inteligence by skutečně mohla generovat bohatství, aby byl takový plán proveditelný, ale existuje jen málo důkazů o tom, že lidé, kteří shromažďují jmění – nebo dokonce ti, kteří si stále vydělávají na skromné ​​živobytí – budou mít sklon tento koncept přijmout. Altman mohl mít s Burning Manem skvělé zkušenosti, ale zdá se, že některé laskavé duše z Playa se bouří kvůli návrhu, který se týká pouze lidí v hodnotě přes 100 milionů dolarů, zdanit některé z jejich nerealizovaných kapitálových zisků. Je pochybná premisa, že takoví lidé – nebo jiní, kteří se stanou superbohatými díky práci ve společnostech s umělou inteligencí – otevřou své pokladny, aby mohli financovat volný čas pro masy. Jedna z hlavních amerických politických stran nemůže Medicaid vystát, takže si lze jen představovat, jak budou populističtí demagogové na UBI pohlížet.

Jsem také ostražitý před předpokládanou bonanzou, která přijde, až budou vyřešeny všechny naše velké problémy. Připusťme, že umělá inteligence může skutečně rozluštit největší rébusy lidstva. My lidé bychom museli tato řešení skutečně implementovat, a to je místo, kde jsme znovu a znovu selhali. Nepotřebujeme velký jazykový model, který by nám řekl, že válka je peklo a neměli bychom se navzájem zabíjet. Války však pokračují.