Nový šéf Open AI je stejný jako starý šéf. Ale společnost – a průmysl umělé inteligence – se možná hluboce změnily v posledních pěti dnech mýdlové opery s vysokými sázkami. Sam Altman, generální ředitel, spoluzakladatel a loutka OpenAI, byl v pátek odvolán představenstvem. V úterý večer, po masovém protestu většiny zaměstnanců startupu, byl Altman na cestě zpět a většina stávající rady byla pryč. Ale tato rada, většinou nezávislá na operacích OpenAI, svázaná s posláním „pro dobro lidstva“, byla zásadní pro jedinečnost společnosti.
Když Altman v roce 2023 cestoval po světě a varoval média a vlády před existenčním nebezpečím technologie, kterou on sám budoval, vykreslil neobvyklou neziskovou strukturu OpenAI pro zisk jako ohnisko proti nezodpovědnému vývoji. výkonné AI. Ať už Altman udělal s miliardami Microsoftu cokoli, správní rada ho mohla držet pod kontrolou a další vedoucí představitele společnosti. Pokud by začal jednat nebezpečně nebo proti zájmům lidstva, podle názoru správní rady by ho skupina mohla vyhodit. „Představenstvo mě může vyhodit, myslím, že je to důležité,“ řekl Altman v červnu Bloombergu.
„Ukázalo se, že ho nemohli vyhodit, a to bylo špatné,“ říká Toby Ord, vedoucí vědecký pracovník filozofie na Oxfordské univerzitě a významný hlas mezi lidmi, kteří varují, že umělá inteligence může pro lidstvo představovat existenční riziko.
Chaotický reset vedení na OpenAI skončil přeskupením představenstva tak, aby se skládalo z představitelů technologických firem a bývalého amerického ministra financí Larryho Summerse. Dvě ředitelky spojené s hnutím efektivního altruismu, jediné ženy, byly odvolány z představenstva. Vykrystalizovaly existující rozpory ohledně toho, jak by měla být řízena budoucnost umělé inteligence. Doomers, kteří se obávají, že AI zničí lidstvo, vidí výsledek velmi odlišně; transhumanisté, kteří si myslí, že technologie pospíší k utopické budoucnosti; ti, kteří věří ve volný tržní kapitalismus; a zastánci přísné regulace s cílem omezit technologické giganty, kterým nelze důvěřovat, že vyváží potenciální škody silně ničivé technologie s touhou vydělat peníze.
„Do určité míry to byl kolizní kurz, který byl nastaven po dlouhou dobu,“ říká Ord, který je také považován za spoluzakladatele hnutí efektivního altruismu, jehož části jsou posedlé zhoubnějším koncem AI. rizikové spektrum. „Pokud je to tak, že správní rada neziskové organizace OpenAI byla v zásadě bezmocná skutečně ovlivnit své chování, pak si myslím, že odhalení, že je bezmocné, bylo pravděpodobně dobrá věc.“
Governance Gap
Důvod, proč se představenstvo OpenAI rozhodlo jít proti Altmanovi, zůstává záhadou. Oznámení, že Altman je mimo křeslo generálního ředitele, uvedlo, že „nebyl důsledně upřímný ve své komunikaci s představenstvem, což brání jeho schopnosti vykonávat své povinnosti“. Interní poznámka OpenAI později objasnila, že Altmanovo vyhození „nebylo provedeno v reakci na pochybení“. Emmett Shear, druhý ze dvou prozatímních generálních ředitelů, kteří řídili společnost mezi pátečním večerem a středečním ránem, po přijetí role napsal, že se zeptal, proč byl Altman odvolán. „Výbor neodvolal Sama kvůli nějaké konkrétní neshodě ohledně bezpečnosti,“ napsal. „Jejich uvažování bylo úplně jiné.“ Zavázal se zahájit vyšetřování důvodů Altmanova odvolání.
Vakuum ponechalo prostor pro fámy, včetně toho, že Altman věnoval příliš mnoho času vedlejším projektům nebo příliš uctivý k Microsoftu. Také to podpořilo konspirační teorie, jako je myšlenka, že OpenAI vytvořila umělou obecnou inteligenci a správní rada přepnula vypínač na radu hlavního vědce, spoluzakladatele a člena správní rady Ilyi Sutskevera.
„S jistotou vím, že nemáme AGI,“ říká David Shrier, profesor praxe, AI a inovací na Imperial College Business School v Londýně. „S jistotou vím, že došlo ke kolosálnímu selhání vládnutí.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
