NSA varuje, že američtí protivníci, kteří mohou volně těžit soukromá data, mohou mít AI Edge

Elektrotechnik Gilbert Herrera byl koncem roku 2021 jmenován ředitelem výzkumu americké Národní bezpečnostní agentury, právě když v americkém technologickém průmyslu probíhala revoluce v umělé inteligenci.

NSA, o které se někdy v žertu říká, že znamená agenturu No Such, už dlouho najímá špičkové talenty v oblasti matematiky a informatiky. Její techničtí lídři byli ranými a vášnivými uživateli pokročilých počítačů a umělé inteligence. A přesto, když se mnou Herrera telefonicky hovořil o důsledcích nejnovějšího boomu umělé inteligence z centrály NSA ve Fort Meade v Marylandu, zdálo se, že stejně jako mnoho jiných i agentura byla ohromena nedávným úspěchem velkých jazykových modelů za ChatGPT. a další hit AI produkty. Konverzace byla lehce upravena pro srozumitelnost a délku.

Jak velkým překvapením byl okamžik ChatGPT pro NSA?

Myslel jsem, že vaše první otázka bude „co se NSA naučila z Archy úmluvy? To se opakuje asi od roku 1939. Rád bych vám to řekl, ale nemůžu.

Myslím, že všichni se z okamžiku ChatGPT naučili, že pokud na AI hodíte dostatek dat a dostatek výpočetních zdrojů, objeví se tyto nové vlastnosti.

NSA skutečně pohlíží na umělou inteligenci jako na hranici dlouhé historie používání automatizace k provádění našich misí s výpočetní technikou. Umělá inteligence byla dlouho považována za způsob, jak bychom mohli fungovat chytřeji, rychleji a ve větším měřítku. A tak jsme již více než 20 let zapojeni do výzkumu vedoucího k tomuto okamžiku.

Velké jazykové modely existovaly dávno před generativními předtrénovanými (GPT) modely. Ale tento „ChatGPT moment“ – jakmile jej můžete požádat o napsání vtipu nebo jakmile se můžete zapojit do konverzace – to ho skutečně odlišuje od jiné práce, kterou jsme my a ostatní dělali.

NSA a její protějšky z řad amerických spojenců příležitostně vyvinuly důležité technologie dříve než kdokoli jiný, ale držely to v tajnosti, jako je kryptografie s veřejným klíčem v 70. letech. Stalo se snad totéž s velkými jazykovými modely?

V NSA jsme nemohli vytvořit tyto velké modely transformátorů, protože jsme nemohli použít data. Nemůžeme použít údaje občanů USA. Další věcí je rozpočet. Poslouchal jsem podcast, kde někdo sdílel hovor s Microsoftem o výdělcích, a řekl, že utrácí 10 miliard dolarů čtvrtletně za náklady na platformu. [The total US intelligence budget in 2023 was $100 billion.]

Musí to být opravdu lidé, kteří mají dostatek peněz na kapitálové investice v řádu desítek miliard a [who] mít přístup k datům, která mohou produkovat tyto vznikající vlastnosti. A tak to skutečně jsou hyperscalery [largest cloud companies] a potenciálně vlády, které se nestarají o osobní soukromí, nemusí dodržovat zákony na ochranu osobních údajů a nemají problém s krádeží dat. A kdo to může být, nechám na vaší fantazii.

Nestaví to NSA – a Spojené státy – do nevýhody při shromažďování a zpracovávání zpravodajských informací?

Trochu odstrčím: Nestaví nás to do velké nevýhody. Musíme to nějak obejít a já k tomu přijdu.

Není to velká nevýhoda pro naši odpovědnost, která se týká národních cílů. Pokud se podíváte na jiné aplikace, může to některým našim kolegům, kteří se zabývají domácím zpravodajstvím, ztížit. Ale zpravodajská komunita bude muset najít cestu k používání komerčních jazykových modelů a respektování soukromí a osobních svobod. [The NSA is prohibited from collecting domestic intelligence, although multiple whistleblowers have warned that it does scoop up US data.]