Antropičtí nemohou manipulovat její generativní model umělé inteligence Claude, jakmile jej americká armáda spustí, napsal v pátek vedoucí pracovník v soudním podání. Prohlášení bylo učiněno v reakci na obvinění Trumpovy administrativy ohledně společnosti, která potenciálně manipulovala se svými nástroji AI během války.
„Anthropic nikdy nedokázal přimět Clauda, aby přestal pracovat, změnil svou funkčnost, zablokoval přístup nebo jinak ovlivňoval či ohrožoval vojenské operace,“ napsal Thiyagu Ramasamy, vedoucí veřejného sektoru Anthropic. „Anthropic nemá přístup potřebný k deaktivaci technologie nebo ke změně chování modelu před nebo během probíhajících operací.“
Pentagon už měsíce zápasí s přední laboratoří AI o tom, jak lze jeho technologii využít pro národní bezpečnost – a jaké by měly být limity tohoto použití. Tento měsíc ministr obrany Pete Hegseth označil Anthropic za riziko dodavatelského řetězce, což je označení, které zabrání ministerstvu obrany v používání softwaru společnosti, a to i prostřednictvím dodavatelů, v následujících měsících. Claudea opouštějí i další federální agentury.
Společnost Antropic podala dvě žaloby, které zpochybňují ústavnost zákazu, a usiluje o vydání mimořádného příkazu k jeho zrušení. Zákazníci však již začali nabídky rušit. Slyšení v jednom z případů je naplánováno na 24. března u federálního okresního soudu v San Franciscu. Soudce by mohl brzy poté rozhodnout o dočasném zrušení.
V podání na začátku tohoto týdne vládní právníci napsali, že ministerstvo obrany „není povinno tolerovat riziko, že kritické vojenské systémy budou ohroženy v klíčových okamžicích národní obrany a aktivních vojenských operací“.
Pentagon využívá Clauda k analýze dat, psaní poznámek a pomáhá vytvářet bitevní plány, uvedl WIRED. Argumentem vlády je, že Anthropic by mohl narušit aktivní vojenské operace vypnutím přístupu k Claude nebo prosazením škodlivých aktualizací, pokud společnost neschválí určité použití.
Ramasamy tuto možnost odmítl. „Anthropic neudržuje žádná zadní vrátka ani dálkový ‚zabíječ‘,“ napsal. „Antropický personál se například nemůže přihlásit do systému DoW, aby modifikoval nebo deaktivoval modely během operace; technologie tak prostě nefunguje.“
Pokračoval tím, že Anthropic bude moci poskytovat aktualizace pouze se souhlasem vlády a jejího cloudového poskytovatele, v tomto případě Amazon Web Services, i když to nespecifikoval jménem. Ramasamy dodal, že Anthropic nemá přístup k výzvám nebo jiným datům, která vojenští uživatelé zadávají do Claude.
Manažeři společnosti Antropic v soudních podáních tvrdí, že společnost nechce právo veta nad vojenskými taktickými rozhodnutími. Sarah Heck, šéfka politiky, v pátek v soudním podání napsala, že Anthropic je ochoten zaručit totéž ve smlouvě navržené 4. března. [Anthropic] chápe, že tato licence neuděluje ani neuděluje žádné právo kontrolovat nebo vetovat zákonné operační rozhodování ministerstva války,“ stálo v návrhu podle podání, které odkazovalo na alternativní název Pentagonu.
Společnost byla také připravena přijmout jazyk, který by reagoval na její obavy z Clauda, který byl použit k pomoci při provádění smrtících úderů bez lidského dohledu, tvrdil Heck. Jednání ale nakonec ztroskotala.
V současné době ministerstvo obrany v soudních spisech uvedlo, že „přijímá další opatření ke zmírnění rizika dodavatelského řetězce“, které společnost představuje, prostřednictvím „spolupráce s poskytovateli cloudových služeb třetích stran, aby bylo zajištěno, že vedení Antropie nemůže provádět jednostranné změny“ v systémech Claude, které jsou v současné době zavedeny.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
