Pokud dosáhnete bodu, kdy pokrok překonal schopnost zajistit bezpečné systémy, přeměnili byste se?
Nemyslím si, že dnešní systémy představují jakékoli existenciální riziko, takže je to stále teoretické. Geopolitické otázky by ve skutečnosti mohly být složitější. Ale vzhledem k dostatečnému času a dostatečné péči a ohleduplnosti a použití vědecké metody…
Pokud je časový rámec tak těsný, jak říkáte, nemáme moc času na péči a ohleduplnost.
My Ne mít hodně času. Stále více uvádíme zdroje do bezpečnosti a věcí, jako je Cyber a také výzkum, víte, ovladatelnost a porozumění těmto systémům, někdy nazývané mechanistická interpretovatelnost. A pak zároveň musíme mít také společenské debaty o institucionální budově. Jak chceme, aby správa věcí veřejnosti fungovala? Jak získáme mezinárodní dohodu, alespoň na některých základních principech kolem toho, jak jsou tyto systémy používány a nasazovány a také stavěny?
Kolik si myslíte, že AI změní nebo odstraní práci lidí?
Obecně se to stane, že jsou vytvářeny nová pracovní místa, která využívají nové nástroje nebo technologie a jsou ve skutečnosti lepší. Uvidíme, jestli je to tentokrát jiné, ale v příštích několika letech budeme mít tyto neuvěřitelné nástroje, které přebírají naši produktivitu a ve skutečnosti nás téměř trochu udělají nadlidským.
Pokud AGI dokáže dělat vše, co lidé mohou udělat, pak by se zdálo, že by to mohlo také dělat nová práce.
Je tu spousta věcí, které nebudeme chtít dělat se strojem. Doktorovi by mohl pomoci nástroj AI, nebo byste mohli mít dokonce i doktora AI. Ale nechtěli byste robotickou sestru – je tu něco o aspektu lidské empatie této péče, která je obzvláště humanistická.
Řekněte mi, co si představujete, když se podíváte na naši budoucnost za 20 let a podle vaší předpovědi je AGI všude?
Pokud všechno jde dobře, měli bychom být v éře radikální hojnosti, jakési zlaté éry. AGI může vyřešit to, co nazývám problémy s kořenovým uzlem na světě-vynakládat strašlivé onemocnění, mnohem zdravější a delší životnost, najít nové zdroje energie. Pokud se to všechno stane, měla by to být éra maximálního lidského vzkvétání, kde cestujeme ke hvězdám a kolonizujeme galaxii. Myslím, že k tomu začne dojít v roce 2030.
Jsem skeptický. Máme neuvěřitelnou hojnost v západním světě, ale spravedlivě to nerozdělíme. Pokud jde o řešení velkých problémů, nepotřebujeme odpovědi tolik, jak se rozhodnout. Nepotřebujeme AGI, abychom nám řekli, jak opravit změnu klimatu – víme jak. Ale to neděláme.
Souhlasím s tím. Jako druh jsme byli společností, která ve spolupráci nebyla dobrá. Naše přirozená stanoviště jsou zničena a je to částečně proto, že by to vyžadovalo, aby lidé dělali oběti a lidé to nechtějí. Ale tato radikální hojnost AI způsobí, že se věci budou cítit jako nenulová hra-
AGI by změnilo lidské chování?
Jo. Dovolte mi, abych vám dal velmi jednoduchý příklad. Přístup k vodě bude obrovským problémem, ale máme řešení – desalinaci. Stojí to hodně energie, ale pokud existovala obnovitelná, bezplatná, čistá energie [because AI came up with it] Z fúze pak najednou vyřešíte problém s přístupem vody. Najednou to už není hra s nulovým součtem.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
