Za 30 $ Million Mansion se posadil na útesu s výhledem na most Golden Gate Bridge, skupina vědců AI, filozofů a technologů se shromáždila, aby diskutovala o konci lidstva.
Nedělní odpolední sympozium, nazvané „Hodný nástupce“, se točilo kolem provokativní myšlenky podnikatele Daniela Faggelly: „morálním cílem“ pokročilého AI by mělo být vytvoření formy inteligence tak silné a moudré, že „radostí byste upřednostňovali, aby to (nikoliv lidstvo) určovalo samotnou cestu života.“
Faggella objasnil téma ve svém pozvání. „Tato událost je velmi zaměřena na posthumánský přechod,“ napsal mi přes X DMS. „Ne na AGI, který věčně slouží jako nástroj pro lidstvo.“
Strana plná futuristických fantazií, kde účastníci diskutují o konec lidstva jako logistický problém spíše než o metaforické, by mohla být popsána jako výklenek. Pokud žijete v San Franciscu a pracujete v AI, pak je to typická neděle.
Asi 100 hostů ošetřovalo nealkoholické koktejly a okusovalo se na sýrových talířích poblíž oken od podlahy ke stropu směřující k Tichýmu oceánu, než se shromáždili, aby slyšeli tři rozhovory o budoucnosti inteligence. Jeden účastník sportoval košili, která řekla: „Kurzweil měl pravdu“, zdánlivě odkaz na Ray Kurzweil, futurista, který předpovídal stroje, v nadcházejících letech překoná lidskou inteligenci. Jiný měl na sobě tričko, která řekla: „Pomáhá nám to dostat se do bezpečného AGI?“ doprovázen myšlenkovým tváří emodži.
Faggella řekla Wiredovi, že tuto událost hodil, protože „velké laboratoře, lidé, kteří vědí, že AGI pravděpodobně skončí lidstvo, o tom nemluví, protože to pobídky nedovolují“ a odkazovali se na rané komentáře od vedoucího techniky, jako je Elon Musk, Sam Altman a Demis Hassabis, kteří „všichni byli docela upřímní o možnosti zabití agi.“ Nyní, když mají pobídky soutěžit, říká: „Všichni závodí s plně, aby to postavili.“ (Abych byl spravedlivý, Musk stále mluví o rizicích spojených s pokročilým AI, i když ho to nezabránilo v závodění dopředu).
Na LinkedIn se Faggella chlubila seznamem hostů s hvězdami se zakladateli AI, vědci ze všech nejlepších západních AI laboratoří a „většina důležitých filozofických myslitelů na AGI“.
První mluvčí, Ginevera Davis, spisovatel se sídlem v New Yorku, varoval, že lidské hodnoty by nebylo možné přeložit do AI. Stroje nemusí nikdy pochopit, jaké to je být vědomé, řekla a pokusit se o tvrdé kódování lidských preferencí do budoucích systémů může být krátkozraké. Místo toho navrhla vznešenou znějící myšlenku s názvem „Cosmic Alignment“-budování AI, která může hledat hlubší a univerzálnější hodnoty, které jsme dosud neobjevili. Její snímky často vykazovaly zdánlivě generovaný obraz techno-utopie generovaný AI, přičemž skupina lidí se shromáždila na trávě s výhledem na futuristické město v dálce.
Kritici strojového vědomí řeknou, že velké jazykové modely jsou jednoduše stochastické papoušky – metafora vytvořená skupinou vědců, z nichž někteří pracovali na Googlu, kteří psali ve slavném dokumentu, že LLM skutečně nerozumí jazyku a jsou to pouze pravděpodobnostní stroje. Ale tato debata nebyla součástí sympozia, kde reproduktory vzali jako danou myšlenku, že superintelligence přichází a rychle.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
