OpenAI a další tech giganti budou muset varovat vládu USA, když začnou nové projekty AI

Když ChatGPT od OpenAI minulý rok vzal svět útokem, zaskočilo to mnoho zprostředkovatelů energie jak v Silicon Valley, tak ve Washingtonu, DC. Americká vláda by nyní měla dostat předběžné varování o budoucích průlomech AI zahrnujících velké jazykové modely, technologii za ChatGPT.

Bidenova administrativa se připravuje na použití zákona o výrobě obrany, aby přiměla technologické společnosti, aby informovaly vládu, když trénují model umělé inteligence využívající značné množství výpočetního výkonu. Pravidlo by mohlo začít platit už příští týden.

Nový požadavek umožní vládě USA přístup ke klíčovým informacím o některých z nejcitlivějších projektů v rámci OpenAI, Google, Amazon a dalších technologických společností soutěžících v AI. Společnosti budou také muset poskytovat informace o bezpečnostních testech, které se provádí na jejich nových výtvorech AI.

OpenAI se stydí, kolik práce bylo vykonáno na nástupci své současné nejvyšší nabídky, GPT-4. Americká vláda může být první, kdo se dozví, kdy na GPT-5 skutečně začíná pracovní nebo bezpečnostní testování. OpenAI okamžitě nereagovala na žádost o komentář.

„Používáme zákon o obranné produkci, což je autorita, kterou máme kvůli prezidentovi, k provedení průzkumu, který vyžaduje, aby společnosti s námi sdílely pokaždé, když trénují nový velký jazykový model, a podělily se s námi o výsledky – bezpečnost. data – abychom je mohli přezkoumat,“ řekla Gina Raimondo, americká ministryně obchodu, v pátek na akci pořádané v Hooverově institutu Stanfordské univerzity. Neuvedla, kdy požadavek vstoupí v platnost ani jaké kroky by vláda mohla podniknout na základě informací, které obsahuje. obdrželi o projektech AI. Další podrobnosti by měly být oznámeny příští týden.

Nová pravidla jsou implementována jako součást rozsáhlého výkonného nařízení Bílého domu vydaného loni v říjnu. Výkonný příkaz dal ministerstvu obchodu lhůtu do 28. ledna, aby přišlo se schématem, podle kterého by společnosti byly povinny informovat americké úředníky o podrobnostech o výkonných nových modelech umělé inteligence ve vývoji. Objednávka uváděla, že tyto podrobnosti by měly zahrnovat množství použitého výpočetního výkonu, informace o vlastnictví dat přiváděných do modelu a podrobnosti o testování bezpečnosti.

Říjnová objednávka vyžaduje zahájení prací na definování, kdy by modely umělé inteligence měly vyžadovat hlášení ministerstvu obchodu, ale nastavuje počáteční laťku na 100 septillionů (milion miliard miliard nebo 10²⁶) operace s pohyblivou řádovou čárkou za sekundu nebo flopy a úroveň 1000krát nižší pro velké jazykové modely pracující na datech sekvenování DNA. OpenAI ani Google nezveřejnily, kolik výpočetního výkonu použili k trénování svých nejvýkonnějších modelů, GPT-4 a Gemini, v tomto pořadí, ale zpráva kongresové výzkumné služby o exekutivním nařízení naznačuje, že 10²⁶ flops je mírně nad rámec toho, co bylo použito k tréninku GPT-4.

Raimondo také potvrdil, že ministerstvo obchodu brzy zavede další požadavek říjnového výkonného příkazu, který vyžaduje, aby poskytovatelé cloud computingu, jako jsou Amazon, Microsoft a Google, informovali vládu, když zahraniční společnost použije své zdroje k školení velkého jazykového modelu. Zahraniční projekty musí být hlášeny, když překročí stejnou počáteční hranici 100 septiliónů propadů.