Když Společnost Antropic se loni stala první velkou společností zabývající se umělou inteligencí, která byla vládou USA schválena pro utajované použití – včetně vojenských aplikací – tato zpráva neudělala velký rozruch. Tento týden však druhý vývoj zasáhl jako dělová koule: Pentagon přehodnocuje svůj vztah se společností, včetně kontraktu ve výši 200 milionů dolarů, údajně proto, že firma zaměřená na bezpečnost AI má námitky proti účasti na určitých smrtících operacích. Takzvané ministerstvo války by dokonce mohlo označit Anthropic za „riziko dodavatelského řetězce“, šarlatový dopis obvykle vyhrazený pro společnosti, které obchodují se zeměmi kontrolovanými federálními úřady, jako je Čína, což znamená, že Pentagon nebude obchodovat s firmami, které používají AI Anthropic při své obranné práci. V prohlášení pro WIRED hlavní mluvčí Pentagonu Sean Parnell potvrdil, že Anthropic je v horkém křesle. „Náš národ vyžaduje, aby naši partneři byli ochotni pomoci našim bojovníkům zvítězit v jakémkoli boji. V konečném důsledku jde o naše jednotky a bezpečnost amerického lidu,“ řekl. Toto je zpráva i pro další společnosti: OpenAI, xAI a Google, které mají v současné době smlouvy s ministerstvem obrany na neklasifikované práce, skákají přes požadované obruče, aby získaly vlastní vysoká povolení.
Je tu toho hodně k vybalení. Jednak je otázkou, zda je společnost Anthropic potrestána za to, že si stěžovala na skutečnost, že její model umělé inteligence Claude byl použit jako součást nájezdu k odstranění venezuelského prezidenta Nicoláse Madura (to se uvádí, společnost to popírá). Je zde také skutečnost, že Anthropic veřejně podporuje regulaci AI – což je v tomto odvětví odlehlý postoj a je v rozporu s politikou administrativy. Ale ve hře je větší, znepokojivější problém. Učiní požadavky vlády na vojenské použití samotnou AI méně bezpečnou?
Výzkumníci a manažeři věří, že AI je nejvýkonnější technologie, která byla kdy vynalezena. Prakticky všechny současné společnosti s umělou inteligencí byly založeny na předpokladu, že je možné dosáhnout AGI neboli superinteligence způsobem, který zabrání rozsáhlému poškození. Elon Musk, zakladatel xAI, byl kdysi největším zastáncem kontroly AI – spoluzaložil OpenAI, protože se obával, že tato technologie je příliš nebezpečná na to, aby byla ponechána v rukou společností toužících po zisku.
Společnost Antropic si vytvořila prostor, který je ze všech nejbezpečnější. Posláním společnosti je mít zábradlí tak hluboce integrované do svých modelů, aby špatní herci nemohli využít nejtemnější potenciál AI. Isaac Asimov to řekl jako první a nejlepší ve svých zákonech robotiky: Robot nesmí zranit lidskou bytost nebo svou nečinností připustit, aby člověku ublížil. I když se umělá inteligence stane chytřejší než kterýkoli člověk na Zemi – což je eventualita, v kterou vůdci umělé inteligence horlivě věří – tyto mantinely musí držet.
Zdá se tedy rozporuplné, že přední laboratoře AI se snaží dostat své produkty do špičkových vojenských a zpravodajských operací. Jako první velká laboratoř s utajovanou smlouvou poskytuje Anthropic vládě „vlastní sadu modelů Claude Gov vytvořených výhradně pro zákazníky z oblasti národní bezpečnosti v USA“. Přesto společnost Anthropic uvedla, že tak učinila, aniž by porušila své vlastní bezpečnostní normy, včetně zákazu používat Clauda k výrobě nebo konstrukci zbraní. Generální ředitel společnosti Anthropic Dario Amodei konkrétně řekl, že nechce, aby byl Claude zapojen do autonomních zbraní nebo vládního dohledu AI. To by ale se současnou administrativou nemuselo fungovat. CTO ministerstva obrany Emil Michael (dříve hlavní obchodní ředitel Uberu) tento týden novinářům řekl, že vláda nebude tolerovat společnost AI omezující způsob, jakým armáda používá AI ve svých zbraních. „Pokud z vojenské základny vylétne roj dronů, jaké máte možnosti, jak ho sundat? Pokud doba reakce člověka není dostatečně rychlá… jak to uděláte?“ zeptal se řečnicky. Tolik k prvnímu zákonu robotiky.
Existuje dobrý argument, že účinná národní bezpečnost vyžaduje nejlepší technologie od nejinovativnějších společností. Zatímco ještě před několika lety některé technologické společnosti při spolupráci s Pentagonem ucukly, v roce 2026 jsou to obecně vlajkové potenciální vojenské dodavatele. Ještě jsem neslyšel žádného představitele AI mluvit o tom, že by jejich modely byly spojovány se smrtící silou, ale generální ředitel Palantir Alex Karp se nestydí říci se zjevnou hrdostí: „Náš produkt se příležitostně používá k zabíjení lidí.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
