A National Security Insider počítá nebezpečí AI

Jedním z typů rizik, o které jste se dlouhou dobu velmi zajímali, je „biorisk“. co je nejhorší věc, která by se mohla stát? Proveď nás tím.

Začal jsem v oblasti veřejného zdraví, než jsem pracoval v národní bezpečnosti, kde jsem pracoval na kontrole infekčních nemocí – malárie a tuberkulózy. V roce 2002 byl první virus syntetizován od nuly na projektu Darpa a pro biovědy a komunitu veřejného zdraví to byl jakýsi „svinstvo“, když si uvědomili, že se biologie stane inženýrskou disciplínou, která by mohla být potenciálně zneužita. Pracoval jsem s veterány kampaně na vymýcení pravých neštovic a oni si pomysleli: „Sakra, jen jsme strávili desetiletí vymýcení nemoci, kterou lze nyní syntetizovat od nuly.“

Pak jsem přešel k práci v biologické bezpečnosti a snažil jsem se přijít na to, jak bychom mohli zvýšit zabezpečení kolem biologických laboratoří, aby bylo méně pravděpodobné, že budou používány? Jak můžeme odhalit programy biologických zbraní? Které bohužel na pár místech světa stále existují ve značném množství. Také, jak můžeme zapéct do společnosti více bezpečnosti, abychom byli odolnější, pokud jde nejen o umělou pandemii, ale také o přírodní pandemie?

Ve společnosti zůstává mnoho zranitelnosti. Covid toho byl ukázkou. Z historického hlediska to byl relativně mírný virus – jeho úmrtnost na infekci byla nižší než 1 procento – zatímco existují některé přirozené viry, které mají úmrtnost výrazně vyšší než 50 procent. Existují syntetické viry, které mají téměř 100% úmrtnost a přitom jsou stále stejně přenosné jako SARS-CoV-2. I když víme, jak navrhnout vakcíny a vyrobit je velmi rychle, jejich schválení dnes trvá přibližně stejně dlouho jako před asi 20 lety. Takže množství času, které byste potřebovali k očkování populace, je dnes přibližně stejné jako pro naše rodiče a dokonce i pro naše prarodiče.

Když jsem se v roce 2002 poprvé začal zajímat o biologickou bezpečnost, stála výroba polioviru, velmi, velmi malého viru, mnoho milionů dolarů. Syntéza viru neštovic, velmi velkého viru, by stála téměř 1 miliardu dolarů. Dnes jsou náklady nižší než 100 000 USD, takže za toto období jde o 10 000násobný pokles. Mezitím se náklady na vakcíny za toto období ve skutečnosti ztrojnásobily. Asymetrie obrany a útoku se ubírá špatným směrem.

A co považujete za našeho největšího protivníka v biologických rizicích?

První je příroda. Evoluce přírodních virů pokračuje. Budeme mít budoucí virové pandemie. Některé z nich budou horší než Covid, některé z nich nebudou tak špatné jako Covid, ale musíme být odolní vůči oběma. Covid stál americkou ekonomiku více než 10 bilionů dolarů, a přesto to, co investujeme do prevence další pandemie, jsou možná 2 až 3 miliardy dolarů federálních investic.

Další kategorií jsou úmyslné biologické útoky. Aum Shinrikyo byl kultem soudného dne v Japonsku, který měl program biologických zbraní. Věřili, že naplní proroctví tím, že zabijí každého na planetě. Naštěstí pracovali s biologií 90. let, která nebyla tak sofistikovaná. Bohužel pak přešli na chemické zbraně a zahájili tokijské útoky sarinem.

Dnes máme jednotlivce a skupiny, které mají v úmyslu způsobit hromadné neštěstí a stále více vyjadřují zájem o biologii jako zbraň. To, co jim brání v efektivním využití biologie, nejsou kontroly nástrojů nebo surovin, protože ty jsou nyní dostupné v mnoha laboratořích a na eBay – syntetizér DNA si nyní můžete koupit za mnohem méně než 100 000 dolarů. Všechny materiály a spotřební materiál, které potřebujete, můžete získat ve většině obchodů s vědeckými potřebami.

Co by apokalyptické skupině chybělo, je know-how proměnit tyto nástroje v biologickou zbraň. Existuje obava, že umělá inteligence zpřístupňuje know-how v širším měřítku. Některé z provedených výzkumů [AI safety and research company] Společnost Antropic se zabývala hodnocením rizik, aby zjistila, zda tyto nástroje nemůže zneužít někdo, kdo nemá silné biologické zázemí. Mohli by v podstatě získat postgraduální školení od digitálního lektora ve formě velkého jazykového modelu? Právě teď asi ne. Ale pokud zmapujete pokrok za posledních pár let, bariéra vstupu pro někoho, kdo chce provést biologický útok, se eroduje.