Filozof Nick Bostrom je překvapivě veselý na někoho, kdo strávil tolik času obavami o způsoby, jak by se lidstvo mohlo zničit. Na fotografiích se často tváří smrtelně vážně, možná patřičně pronásledován existenčními nebezpečími, které se mu pohybují v mozku. Když mluvíme přes Zoom, vypadá uvolněně a usmívá se.
Bostrom si dal za své celoživotní dílo přemýšlet o vzdáleném technologickém pokroku a existenčních rizicích pro lidstvo. S vydáním jeho poslední knihy, Superinteligence: Cesty, Nebezpečí, Strategiev roce 2014, Bostrom upozornil veřejnost na to, co byl tehdy okrajový nápad – že umělá inteligence postoupí do bodu, kdy se může obrátit proti a zničit lidstvo.
Mnohým ve výzkumu AI i mimo něj se tato myšlenka zdála fantazijní, ale vlivné osobnosti včetně Elona Muska citoval Bostromův spis. Kniha vyvolala apokalyptické obavy z doutnání umělé inteligence, které se nedávno rozhořely po příchodu ChatGPT. Obavy z rizika umělé inteligence nejsou jen hlavním proudem, ale také tématem v kruzích vládní politiky v oblasti umělé inteligence.
Bostromova nová kniha má úplně jiný směr. Spíše než hrát doomy hity, Hluboká utopie: Život a smysl ve vyřešeném světě, uvažuje o budoucnosti, ve které lidstvo úspěšně vyvinulo superinteligentní stroje, ale odvrátilo katastrofu. Všechny nemoci byly ukončeny a lidé mohou žít donekonečna v nekonečném množství. Bostromova kniha zkoumá, jaký smysl by měl život uvnitř technoutopie, a ptá se, zda by mohl být spíše dutý. Mluvil s WIRED přes Zoom v konverzaci, která byla lehce upravena pro délku a srozumitelnost.
Will Knight: Proč přecházet od psaní o superinteligentní umělé inteligenci, která ohrožuje lidstvo, k úvahám o budoucnosti, ve které je zvyklá konat dobro?
Nick Bostrom: Různým věcem, které by se mohly s vývojem umělé inteligence pokazit, se nyní dostává mnohem více pozornosti. Je to velký posun za posledních 10 let. Nyní mají všechny přední hraniční laboratoře umělé inteligence výzkumné skupiny, které se snaží vyvinout škálovatelné metody zarovnání. A v posledních několika letech také vidíme, že političtí vůdci začínají věnovat pozornost umělé inteligenci.
Dosud nedošlo k úměrnému nárůstu hloubky a propracovanosti, pokud jde o přemýšlení o tom, kam věci směřují, pokud nespadneme do jedné z těchto jam. Přemýšlení bylo na toto téma dost povrchní.
Když jsi napsal superinteligenceJen málokdo by čekal, že se existenciální rizika AI tak rychle stanou mainstreamovou debatou. Budeme se muset o problémy ve vaší nové knize starat dříve, než by si lidé mysleli?
Jak začneme vidět zavádění automatizace, za předpokladu, že pokrok bude pokračovat, pak si myslím, že tyto rozhovory začnou probíhat a nakonec se prohloubí.
Sociální doprovodné aplikace budou stále významnější. Lidé budou mít nejrůznější názory a je to skvělé místo, kde si možná zažijete malou kulturní válku. Mohlo by to být skvělé pro lidi, kteří nedokázali najít naplnění v běžném životě, ale co když existuje část populace, která má radost z toho, že je uráží?
V politické a informační sféře jsme mohli vidět využití AI v politických kampaních, marketingu, automatizovaných propagandistických systémech. Ale pokud máme dostatečnou úroveň moudrosti, tyto věci by mohly skutečně zesílit naši schopnost být svým způsobem konstruktivními demokratickými občany s individuálními radami vysvětlujícími, co pro vás politické návrhy znamenají. Pro společnost bude celá řada dynamiky.
Byla by budoucnost, ve které umělá inteligence vyřešila mnoho problémů, jako je změna klimatu, nemoci a potřeba pracovat, skutečně tak špatná?
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
