Leah Feigerová: Dobře, to je dobrý. Děkuji, Tori. Wille, co pro nás máš?
Will Knight: Páni, nevím, jestli můžu skutečně konkurovat RFK, ale jako správný agent CIA budu asi propagovat něco z podivnějších koutů AI, AI a filozofie. Takže je tu věc zvaná Rokův bazilišek. Bazilišek je tedy mytologický had, kterému kdybyste se podívali do očí, mohl by vás zabít. A tak došlo k tomuto myšlenkovému experimentu, který někdo zveřejnil na fóru AI a řekl, že superinteligence bude v budoucnu motivována k vytvoření simulace, ve které možná všichni v ní budeme existovat, a bude motivována k mučení každého, kdo pracuje proti nebo o tom jen přemýšlí. myšlenka pracovat proti jeho vzniku. Takže v jednu chvíli v jednom z těchto…
Leah Feigerová: Neuvěřitelný.
Will Knight: … fórech, zakázali mluvit o Rokovi, o tomto myšlenkovém experimentu, o Rokově baziliškovi. Myšlenka byla taková, že pokud jste o tom jen pomysleli, mohlo by to být nebezpečné, což jsou zejména banány.
Leah Feigerová: To je tak legrační. Na jakých fórech se to množí nebo nemnoží?
Will Knight: Bylo to na LessWrong, což je velmi známé fórum věnované rizikům a zarovnání AI a…
Leah Feigerová: Jak často vy osobně myslíte na Rokova baziliška?
Will Knight: No, vlastně jsem to objevil teprve nedávno a snažím se na to pro každý případ nemyslet. Je to jako Pascalova sázka, že? Je to jen tak trochu hraní na šance, že superinteligence vznikne, takže se musíte snažit, aby vznikla. Jo, je to úplně šílené.
Leah Feigerová: Oh, to je velmi dobré. OK. Oh, ve skutečnosti je to tento týden trochu těžké, ale musím jít s Tori. Majetek CIA, jdeme na to.
Vittoria Elliottová: Konečně. Dostali mě Havrani přes okraj? Musím to vědět.
Leah Feigerová: Havrani vás dostali přes okraj. Líbilo se mi to a bylo to součástí, jen jsem viděl, jak moc na tom pracujete, a ano, bylo to A za snahu a A za provedení. Dobré věci.
Vittoria Elliottová: Děkuju.
Leah Feigerová: A částečně nemohu dát výhru něčemu, na co už nesmím nikdy myslet. Tori a Wille, děkujeme, že jste se k nám připojili. Byli jste výborní hosté.
Vittoria Elliottová: Díky, Leah.
Will Knight: Díky, že mě máš.
Leah Feigerová: Děkujeme, že jste poslouchali WIRED Politická laboratoř. Pokud se vám líbí to, co jste dnes slyšeli, sledujte pořad a ohodnoťte ho ve své vybrané podcastové aplikaci. Máme také newsletter, který Makena Kelly píše každý týden. Odkaz na newsletter a zpravodajství WIRED, které jsme dnes zmínili, jsou v poznámkách k pořadu. Pokud byste se na nás chtěli obrátit s jakýmikoli dotazy, komentáři nebo návrhy, napište nám prosím na adresu policylab@WIRED.com. To je policylab@WIRED.com. Jsme velmi rádi, že se o vás dozvíme. WIRED Politická laboratoř produkoval Jake Harper. Pran Bandi je náš studiový inženýr. Amar Lal míchal tuto epizodu. Stephanie Kariuki je naše výkonná producentka. Chris Bannon je globální šéf audio ve společnosti Condé Nast a já jsem váš hostitel, Leah Feiger. Příští týden se vrátíme do vašich zdrojů s novou epizodou.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
