Tři dny poté Trumpova administrativa zveřejnila svůj velmi očekávaný akční plán AI, čínská vláda vydala svůj vlastní politický plán AI. Bylo načasování náhodou? Pochybuji o tom.
Čínský „globální akční plán správy AI“ byl vydán 26. července, první den světové konference o umělé inteligenci (WAIC), největší každoroční událost AI v Číně. Geoffrey Hinton a Eric Schmidt byli mezi mnoha osobnostmi západního technologie, které se zúčastnily slavností v Šanghaji. Náš kabelový kolega Will Knight byl také na scéně.
Vibrace na WAIC byla polárním opakem Trumpova Ameriky-první, regulační vize pro AI, řekne mi to. Ve svém úvodním projevu učinil čínský premiér Li Qiang vytrvalý důvod pro důležitost globální spolupráce na AI. Následoval ho řada prominentních čínských vědců AI, kteří přednesli technické rozhovory, které zdůrazňují naléhavé otázky, které se zdá, že Trumpova administrativa se z velké části čistí.
Zhou Bowen, vůdce Shanghai AI Lab, jedné z nejlepších čínských výzkumných institucí AI, nabídl práci svého týmu na bezpečnosti AI na WAIC. Navrhl také, že by vláda mohla hrát roli při monitorování komerčních modelů AI pro zranitelnosti.
V rozhovoru s Wired, Yi Zeng, profesor na Čínské akademii věd a jedním z předních hlasů země na AI, uvedl, že doufá, že bezpečnostní organizace AI z celého světa najdou způsoby spolupráce. „Bylo by nejlepší, kdyby se spojily Spojené království, USA, Čína, Singapur a další ústavy,“ řekl.
Konference také zahrnovala schůzky s uzavřenými dveřmi o otázkách bezpečnosti AI. Poté, co se zúčastnil jednoho takového Confabu, Paul Triolo, partner poradní firmy DGA-Albright Stonebridge Group, řekl Wiredovi, že diskuse byly produktivní, navzdory znatelné absenci amerického vedení. S USA z obrazu „Koalice hlavních hráčů bezpečnosti AI, vedená Čínou, Singapurem, Spojeným královstvím a EU, nyní povedou k úsilí o stavbu zábradlí kolem vývoje modelu Frontier AI,“ řekl Triolo Wired. Dodal, že to nebyla jen americká vláda, která chyběla: Ze všech hlavních amerických AI laboratoří poslal Xai Elon Musk zaměstnance, aby se zúčastnili fóra WAIC.
Mnoho západních návštěvníků bylo překvapeno, když se dozvěděli, kolik konverzace o AI v Číně se točí kolem bezpečnostních předpisů. „V posledních sedmi dnech byste se mohli doslova zúčastnit bezpečnostních akcí AI. A to tomu tak nebylo u některých dalších globálních summitů AI,“ řekl mi Brian Tse, zakladatel Pekingského institutu AI Research Institute Concordia AI. Začátkem tohoto týdne uspořádala Concordia AI v Šanghaji celodenní bezpečnostní fórum se slavnými vědci AI jako Stuart Russel a Yoshua Bengio.
Přepínání pozic
Při porovnání čínského plánu AI s akčním plánem Trumpa se zdá, že obě země změnily pozice. Když čínské společnosti poprvé začaly vyvíjet pokročilé modely AI, mnoho pozorovatelů si myslelo, že by je zadržely požadavky na cenzuru uložené vládou. Nyní američtí vůdci tvrdí, že chtějí zajistit domácí modely AI „sledovat objektivní pravdu“, což je snaha, že jak napsal můj kolega Steven Levy v minulém týdnu Backchannel Newsletter, je „očividné cvičení v ideologickém zaujatosti shora dolů“. Čínský akční plán AI mezitím zní jako globalistický manifest: doporučuje, aby OSN pomohla vést mezinárodní úsilí AI a navrhuje, aby vlády hrály při regulaci technologie důležitou roli.
Ačkoli jejich vlády jsou velmi odlišné, pokud jde o bezpečnost umělé inteligence, lidé v Číně a USA se obávají mnoha stejných věcí: modelu halucinace, diskriminace, existenciální rizika, zranitelnosti kybernetické bezpečnosti atd. Protože USA a Čína vyvíjejí hraniční modely AI, které jsou velmi podobné, jako jsou velmi podobné, “říká, že jsou velmi podobné,“ říká, že jsou velmi podobné, „říká,“ říká, že jsou velmi podobné. “ To také znamená, že akademický výzkum bezpečnosti AI se sbližuje ve dvou zemích, včetně oblastí, jako je škálovatelný dohled (jak lidé mohou monitorovat modely AI s jinými modely AI) a vývoj standardů interoperabilních bezpečnostních testování.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
