V červenci loňského roku OpenAI oznámilo vytvoření nového výzkumného týmu, který by se připravil na příchod superinteligentní umělé inteligence schopné přelstít a přemoci své tvůrce. Ilya Sutskever, hlavní vědec OpenAI a jeden ze spoluzakladatelů společnosti, byl jmenován coleadem tohoto nového týmu. OpenAI uvedla, že tým obdrží 20 procent svého výpočetního výkonu.
Nyní společnost OpenAI potvrzuje, že „tým pro superalignment“ již neexistuje. To přichází po odchodech několika zúčastněných výzkumníků, úterních zprávách, že Sutskever opouští společnost, a rezignace druhého týmu týmu. Práce skupiny bude začleněna do dalších výzkumných snah OpenAI.
Sutskeverův odchod se dostal na titulní stránky novin, protože ačkoliv pomohl generálnímu řediteli Samu Altmanovi v roce 2015 rozjet OpenAI a určil směr výzkumu, který vedl k ChatGPT, byl také jedním ze čtyř členů představenstva, kteří Altmana v listopadu vyhodili. Altman byl obnoven jako generální ředitel o pět chaotických dní později po masové vzpouře zaměstnanců OpenAI a zprostředkování dohody, při které Sutskever a další dva ředitelé společnosti opustili správní radu.
Několik hodin poté, co byl v úterý oznámen Sutskeverův odjezd, Jan Leike, bývalý výzkumník DeepMind, který byl druhým vedoucím týmu superalignment, zveřejněno na X že rezignoval.
Sutskever ani Leike nereagovali na žádosti o komentář a veřejně nekomentovali, proč opustili OpenAI. Sutskever nabídl podporu pro současnou cestu OpenAI v příspěvku na X. „Trajektorie společnosti byla zázračná a jsem si jistý, že OpenAI vybuduje AGI, které bude bezpečné i přínosné“ pod jejím současným vedením, napsal.
Rozpuštění superalignment týmu OpenAI přispívá k nedávným důkazům o otřesech uvnitř společnosti v důsledku krize řízení z loňského listopadu. Dva výzkumníci z týmu, Leopold Aschenbrenner a Pavel Izmailov, byli propuštěni kvůli úniku firemních tajemství, informoval minulý měsíc The Information. Další člen týmu, William Saunders, opustil OpenAI v únoru, podle příspěvku na internetovém fóru na jeho jméno.
Zdá se, že ze společnosti nedávno odešli další dva výzkumníci OpenAI pracující na politice a správě AI. Podle LinkedIn Cullen O’Keefe opustil svou roli vedoucího výzkumu na hranicích politiky v dubnu. Daniel Kokotajlo, výzkumník OpenAI, který je spoluautorem několika článků o nebezpečích schopnějších modelů umělé inteligence, „opustil OpenAI kvůli ztrátě důvěry, že by se v době AGI choval zodpovědně“, podle příspěvku na internetovém fóru jeho jménem. . Žádný z výzkumníků, kteří zřejmě odešli, nereagoval na žádosti o komentář.
OpenAI odmítlo komentovat odchody Sutskevera nebo jiných členů superalignment týmu, ani budoucnost své práce na dlouhodobých rizicích AI. Výzkum rizik spojených s výkonnějšími modely nyní povede John Schulman, který vede tým zodpovědný za dolaďování modelů umělé inteligence po školení.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
