Jak ve skutečnosti vypadají modely umělé inteligence pro válku

Společnost Anthropic může mít pochybnosti o poskytnutí neomezeného přístupu americké armádě ke svým modelům umělé inteligence, ale některé startupy budují pokročilou umělou inteligenci speciálně pro vojenské aplikace.

Společnost Smack Technologies, která tento týden oznámila kolo financování ve výši 32 milionů dolarů, vyvíjí modely, které podle ní brzy překonají Claudeovy schopnosti, pokud jde o plánování a provádění vojenských operací. A na rozdíl od Anthropic se startup zdá, že se méně zabývá zákazem konkrétních typů vojenského použití.

„Když sloužíte v armádě, skládáte přísahu, že budete sloužit čestně, zákonně a v souladu s pravidly války,“ říká generální ředitel Andy Markoff. „Podle mě lidé, kteří nasazují technologii a zajišťují, aby byla používána eticky, musí být v uniformě.“

Markoff je stěží běžným manažerem umělé inteligence. Bývalý velitel ve velitelství speciálních operací námořní pěchoty USA pomáhal provádět operace speciálních jednotek s vysokými sázkami v Iráku a Afghánistánu. Spoluzaložil Smacka s Clintem Alanisem, dalším bývalým mariňákem, a Danem Gouldem, počítačovým vědcem, který dříve pracoval jako viceprezident pro technologii ve společnosti Tinder.

Smackovy modely se učí identifikovat optimální plány mise pomocí procesu pokusů a omylů, podobně jako Google trénoval svůj program AlphaGo z roku 2017. V Smackově případě strategie zahrnuje procházení modelu různými scénáři válečných her a expertní analytici poskytují signál, který modelu řekne, zda se jeho zvolená strategie vyplatí. Startup možná nemá rozpočet konvenční hraniční laboratoře umělé inteligence, ale utrácí miliony na výcvik svých prvních modelů umělé inteligence, říká Markoff.

Bojové linie

Vojenské využití umělé inteligence se v Silicon Valley stalo horkým tématem poté, co se úředníci ministerstva obrany střetli s vedoucími pracovníky společnosti Anthropic ohledně podmínek smlouvy v hodnotě zhruba 200 milionů dolarů.

Jedním z problémů, který vedl ke zhroucení, které mělo za následek, že ministr obrany Pete Hegseth prohlásil Anthropic za riziko dodavatelského řetězce, byla touha Anthropic omezit použití svých modelů v autonomních zbraních.

Markoff říká, že rozruch zakrývá skutečnost, že dnešní velké jazykové modely nejsou optimalizovány pro vojenské použití. Univerzální modely, jako je Claude, jsou dobré ve shrnutí zpráv, říká. Ale nejsou trénovaní na vojenských datech a postrádají pochopení fyzického světa na lidské úrovni, takže se nehodí k ovládání fyzického hardwaru. „Mohu vám říci, že absolutně nejsou schopni identifikace cíle,“ tvrdí Markoff.

„Nikdo, koho znám na ministerstvu války, nehovoří o plné automatizaci řetězce zabíjení,“ tvrdí s odkazem na kroky spojené s rozhodováním o použití smrtící síly.

Rozsah mise

USA a další armády již v určitých situacích používají autonomní zbraně, včetně systémů protiraketové obrany, které potřebují reagovat nadlidskou rychlostí.

„USA a více než 30 dalších států již nasazuje zbraňové systémy s různou mírou autonomie, včetně některých, které bych definoval jako plně autonomní,“ tvrdí Rebecca Crootof, autorita na právní otázky kolem autonomních zbraní na University of Richmond School of Law.

V budoucnu by podle Markoffa mohly být specializované modely, jako je ten, na kterém pracuje Smack, použity pro účely plánování misí. Modely společnosti mají velitelům pomoci zautomatizovat velkou část dřiny při načrtnutí plánů misí. Plánování vojenských misí se stále obvykle provádí ručně pomocí tabulí a poznámkových bloků, říká Markoff.

Pokud by USA šly do války s „blízkým protějškem“, jako je Rusko nebo Čína, říká Markoff, automatizované rozhodování by mohlo nabídnout USA tolik potřebnou „rozhodovací dominanci“.

Je ale stále otevřenou otázkou, zda by AI mohla být za takových okolností spolehlivě použita. Jeden nedávný experiment, který provedl výzkumník z King’s College v Londýně, znepokojivě ukázal, že LLM měly tendenci eskalovat jaderné konflikty ve válečných hrách.