Antropické hity zpět poté, co americká armáda označila za „riziko dodavatelského řetězce“

Ministr obrany Spojených států Pete Hegseth v pátek nařídil Pentagonu, aby označil Anthropic za „riziko dodavatelského řetězce“, což vyvolalo otřesy Silicon Valley a nechalo mnoho společností, aby pochopily, zda mohou nadále používat jeden z nejpopulárnějších modelů umělé inteligence v tomto odvětví.

„S okamžitou platností žádný dodavatel, dodavatel nebo partner, který obchoduje s armádou Spojených států, nesmí provádět žádnou komerční činnost s Anthropic,“ napsal Hegseth v příspěvku na sociálních sítích.

Označení přichází po týdnech napjatých vyjednávání mezi Pentagonem a Anthropic o tom, jak by americká armáda mohla využívat modely AI startupu. V blogovém příspěvku tento týden společnost Anthropic tvrdila, že její smlouvy s Pentagonem by neměly umožňovat použití její technologie pro masové domácí sledování Američanů nebo plně autonomní zbraně. Pentagon požádal, aby společnost Anthropic souhlasila s tím, aby americká armáda použila svou AI na „všechna zákonná použití“ bez konkrétních výjimek.

Označení rizika dodavatelského řetězce umožňuje Pentagonu omezit nebo vyloučit určité dodavatele z kontraktů na obranu, pokud se má za to, že představují bezpečnostní zranitelnost, jako jsou rizika související se zahraničním vlastnictvím, kontrolou nebo vlivem. Má chránit citlivé vojenské systémy a data před potenciálním ohrožením.

Antropic reagoval v pátek večer v dalším blogovém příspěvku a uvedl, že by „u soudu napadl jakékoli označení rizik dodavatelského řetězce“ a že takové označení by „vytvořilo nebezpečný precedens pro jakoukoli americkou společnost, která vyjednává s vládou“.

Společnost Anthropic dodala, že neobdržela žádnou přímou komunikaci od ministerstva obrany ani Bílého domu ohledně vyjednávání o použití jejích modelů AI.

„Sekretář Hegseth naznačil, že toto označení by omezovalo kohokoli, kdo obchoduje s armádou, v obchodování s Anthropic. Ministr nemá zákonnou pravomoc toto prohlášení podepřít,“ napsala společnost.

Pentagon to odmítl komentovat.

„Je to ta nejšokující, nejškodlivější a nejrozsáhlejší věc, jakou jsem kdy viděl vládu Spojených států udělat,“ říká Dean Ball, vedoucí pracovník Nadace pro americkou inovaci a bývalý hlavní politický poradce pro AI v Bílém domě. „V podstatě jsme právě uvalili sankce na americkou společnost. Pokud jste Američan, měli byste přemýšlet o tom, zda zde za 10 let byste měli žít, nebo ne.“

Lidé z celého Silicon Valley se přihlásili na sociálních sítích a vyjadřovali podobný šok a zděšení. „Lidé, kteří řídí tuto správu, jsou impulzivní a pomstychtiví. Věřím, že to stačí k vysvětlení jejich chování,“ řekl Paul Graham, zakladatel startupového akcelerátoru Y Combinator.

Boaz Barak, výzkumník OpenAI, ve svém příspěvku uvedl, že „pod koleny jedné z našich předních společností s umělou inteligencí má pravdu o nejhorším vlastním cíli, který můžeme udělat. Pevně ​​doufám, že převládnou chladnější hlavy a toto oznámení bude obráceno.“

Mezitím generální ředitel OpenAI Sam Altman v pátek večer oznámil, že společnost dosáhla dohody s ministerstvem obrany o nasazení svých modelů umělé inteligence v utajených prostředích, zdánlivě s omezenými možnostmi. „Dvěma z našich nejdůležitějších bezpečnostních zásad jsou zákazy domácího hromadného sledování a lidská odpovědnost za použití síly, včetně autonomních zbraňových systémů,“ řekl Altman. „DoW souhlasí s těmito zásadami, odráží je v zákonech a zásadách a my je vkládáme do naší dohody.“

Zmatení zákazníci

Ve svém pátečním příspěvku na blogu společnost Anthropic uvedla, že označení rizik dodavatelského řetězce pod autoritou 10 USC 3252 se vztahuje pouze na smlouvy ministerstva obrany přímo s dodavateli a nezahrnuje, jak dodavatelé používají jeho software Claude AI k obsluze jiných zákazníků.

Tři experti na federální smlouvy tvrdí, že v tuto chvíli je nemožné určit, kteří zákazníci společnosti Anthropic, pokud vůbec nějací, musí nyní přerušit vztahy se společností. Hegsethovo prohlášení „není utopeno v žádném zákoně, který bychom právě teď mohli uvěřit,“ říká Alex Major, partner advokátní kanceláře McCarter & English, která spolupracuje s technologickými společnostmi.