Bílý dům klade nové zábrany na vládní využití umělé inteligence

Americká vláda ve čtvrtek vydala nová pravidla vyžadující větší opatrnost a transparentnost od federálních agentur využívajících umělou inteligenci a uvedla, že jsou potřebná k ochraně veřejnosti, protože AI rychle postupuje. Nová politika však také obsahuje ustanovení na podporu inovací AI ve vládních agenturách, pokud lze technologii použít pro veřejné blaho.

USA doufají, že se se svým novým režimem vládní umělé inteligence stanou mezinárodním lídrem. Viceprezidentka Kamala Harrisová na tiskové konferenci před oznámením uvedla, že administrativa plánuje, aby tyto politiky „sloužily jako model pro globální akci“. Řekla, že USA „budou nadále vyzývat všechny národy, aby následovaly naše vedení a daly veřejný zájem na první místo, pokud jde o vládní použití AI“.

Nová politika Úřadu pro řízení a rozpočet Bílého domu povede k používání AI napříč federální vládou. Vyžaduje to větší transparentnost, pokud jde o to, jak vláda používá AI, a také požaduje větší rozvoj technologie v rámci federálních agentur. Politika vidí, že se administrativa snaží najít rovnováhu mezi zmírňováním rizik plynoucích z hlubšího používání umělé inteligence – jejíž rozsah není znám – a používáním nástrojů umělé inteligence k řešení existenčních hrozeb, jako jsou klimatické změny a nemoci.

Oznámení přispívá k řadě kroků Bidenovy administrativy k přijetí a omezení AI. V říjnu prezident Biden podepsal rozsáhlé exekutivní nařízení o AI, které by podpořilo rozšiřování technologií AI vládou, ale také vyžaduje, aby ti, kdo vyrábějí velké modely AI, poskytovali vládě informace o svých aktivitách v zájmu národní bezpečnosti.

V listopadu se USA připojily ke Spojenému království, Číně a členům EU a podepsaly deklaraci, která uznala nebezpečí rychlého pokroku AI, ale také vyzvala k mezinárodní spolupráci. Harris ve stejném týdnu odhalil nezávaznou deklaraci o vojenském použití AI, kterou podepsalo 31 zemí. Nastavuje základní mantinely a vyzývá k deaktivaci systémů, které se zapojují do „nezamýšleného chování“.

Nová politika pro používání AI vládou USA oznámená ve čtvrtek žádá agentury, aby podnikly několik kroků k zabránění nezamýšleným následkům nasazení AI. Pro začátek musí agentury ověřit, že nástroje umělé inteligence, které používají, nevystavují Američany riziku. Například, aby ministerstvo pro záležitosti veteránů mohlo používat AI ve svých nemocnicích, musí ověřit, že technologie nedává rasově zaujaté diagnózy. Výzkum zjistil, že systémy umělé inteligence a další algoritmy používané k informování diagnózy nebo rozhodování o tom, kteří pacienti dostanou péči, mohou posílit historické vzorce diskriminace.

Pokud agentura nemůže zaručit takové záruky, musí přestat systém AI používat nebo odůvodnit jeho další používání. Americké agentury mají 1. prosince lhůtu pro splnění těchto nových požadavků.

Zásady také požadují větší transparentnost vládních systémů umělé inteligence a vyžadují, aby agentury zveřejnily modely umělé inteligence ve vlastnictví státu, data a kód, pokud zveřejnění takových informací nepředstavuje hrozbu pro veřejnost nebo vládu. Agentury musí každý rok veřejně hlásit, jak používají AI, potenciální rizika, která systémy představují, a jak jsou tato rizika zmírňována.

A nová pravidla také vyžadují, aby federální agentury posílily svou odbornost v oblasti AI a nařizovaly každé jmenovat hlavního důstojníka AI, který bude dohlížet na veškerou AI používanou v rámci této agentury. Je to role, která se zaměřuje na podporu inovací AI a také na sledování jejích nebezpečí.

Úředníci říkají, že změny také odstraní některé překážky pro používání AI ve federálních agenturách, což je krok, který může usnadnit zodpovědnější experimentování s AI. Tato technologie má potenciál pomoci agenturám revidovat škody po přírodních katastrofách, předpovídat extrémní počasí, mapovat šíření nemocí a řídit letecký provoz.

Země po celém světě přecházejí k regulaci umělé inteligence. EU v prosinci odhlasovala přijetí svého zákona o AI, opatření, kterým se řídí vytváření a používání technologií AI, a formálně jej přijala začátkem tohoto měsíce. Čína také pracuje na komplexní regulaci umělé inteligence.