OpenAI zakázalo vojenské použití. Pentagon každopádně testoval své modely prostřednictvím Microsoftu

Generální ředitel OpenAI Sam Altman je tento týden stále v horkém křesle poté, co jeho společnost podepsala dohodu s americkou armádou. Zaměstnanci OpenAI kritizovali tento krok, který přišel poté, co zkolabovala zhruba 200milionová smlouva Anthropicu s Pentagonem, a požádali Altmana, aby o dohodě zveřejnil další informace. Altman připustil, že to v příspěvku na sociálních sítích vypadalo „nedbale“.

I když se tento incident stal hlavním zpravodajským příběhem, může to být jen nejnovější a nejveřejnější příklad toho, že OpenAI vytváří vágní zásady ohledně toho, jak může americká armáda získat přístup ke své AI.

V roce 2023 zásady používání OpenAI výslovně zakázaly armádě přístup k jejím modelům AI. Někteří zaměstnanci OpenAI však zjistili, že Pentagon již začal experimentovat s Azure OpenAI, verzí modelů OpenAI nabízených společností Microsoft, uvedly dva zdroje obeznámené s touto záležitostí. V té době Microsoft uzavíral smlouvy s ministerstvem obrany po celá desetiletí. Byla také největším investorem OpenAI a měla širokou licenci na komercializaci technologie startupu.

Ve stejném roce viděli zaměstnanci OpenAI úředníky Pentagonu procházet kancelářemi společnosti v San Franciscu, uvedly zdroje. Mluvili pod podmínkou anonymity, protože nemají oprávnění komentovat záležitosti soukromých společností.

Někteří zaměstnanci OpenAI byli opatrní ohledně spojení s Pentagonem, zatímco jiní byli jednoduše zmateni, co znamenají zásady používání OpenAI. Vztahovaly se zásady na společnost Microsoft? Zatímco zdroje říkají WIRED, že to většině zaměstnanců v té době nebylo jasné, mluvčí OpenAI a Microsoft tvrdí, že produkty Azure OpenAI nepodléhají a nepodléhaly zásadám OpenAI.

„Microsoft má produkt nazvaný Azure OpenAI Service, který se stal dostupným pro vládu USA v roce 2023 a podléhá smluvním podmínkám společnosti Microsoft,“ uvedl mluvčí Frank Shaw v prohlášení pro WIRED. Microsoft odmítl konkrétně komentovat, kdy zpřístupnil Azure OpenAI Pentagonu, ale poznamenává, že služba nebyla schválena pro „přísně tajné“ vládní úkoly až do roku 2025.

„AI již hraje významnou roli v národní bezpečnosti a věříme, že je důležité mít místo u stolu, abychom zajistili její bezpečné a zodpovědné nasazení,“ uvedla v prohlášení mluvčí OpenAI Liz Bourgeois. „Vůči našim zaměstnancům jsme byli transparentní, když jsme přistupovali k této práci, poskytovali jsme pravidelné aktualizace a vyhrazené kanály, kde mohou týmy klást otázky a jednat přímo s naším národním bezpečnostním týmem.“

Ministerstvo obrany na žádost WIRED o komentář nereagovalo.

Do ledna 2024 OpenAI aktualizovala své zásady, aby odstranila všeobecný zákaz vojenského použití. Několik zaměstnanců OpenAI se o aktualizaci zásad dozvědělo prostřednictvím článku v The Intercept, říkají zdroje. Vedoucí společnosti se později zabývali změnou na společném setkání a vysvětlili, jak bude společnost v této oblasti postupovat opatrně.

V prosinci 2024 OpenAI oznámila partnerství s Andurilem za účelem vývoje a nasazení systémů umělé inteligence pro „národní bezpečnostní mise“. Před oznámením OpenAI řekl zaměstnancům, že partnerství má úzký rozsah a bude se zabývat pouze neklasifikovanými pracovními zátěžemi, uvedly stejné zdroje. To bylo v kontrastu s dohodou, kterou Anthropic podepsal s Palantirem, podle níž se AI Anthropic používala pro tajnou vojenskou práci.

Palantir oslovil OpenAI na podzim roku 2024, aby prodiskutoval účast v jejich programu „FedStart“, potvrdil mluvčí OpenAI pro WIRED. Společnost to nakonec odmítla a řekla zaměstnancům, že by to bylo příliš vysoké riziko, uvedly dva zdroje obeznámené se záležitostí WIRED. OpenAI však nyní spolupracuje s Palantirem i jinými způsoby.

Přibližně v době, kdy byla oznámena dohoda s Andurilem, se několik desítek zaměstnanců OpenAI připojilo k veřejnému kanálu Slack, aby prodiskutovali své obavy ohledně vojenského partnerství společnosti, říkají zdroje a potvrdil mluvčí. Někteří věřili, že modely společnosti jsou příliš nespolehlivé na to, aby zvládly informace o kreditní kartě uživatele, natož aby pomohly Američanům na bitevním poli.