Americká armáda staví svého vlastního chatbota pro boj

The Americká armáda vyvíjí modely umělé inteligence trénované na datech ze skutečných misí s cílem nasadit chatbota speciálně pro vojáky.

„Všechna tato ponaučení jsme se naučili z misí, jako je ukrajinsko-ruská válka a operace Epic Fury,“ říká Alex Miller, hlavní technologický důstojník armády, v rozhovoru pro WIRED. „K dispozici je obrovské množství znalostí.“

Miller ukázal WIRED prototyp systému nazvaný Victor, který kombinuje fórum podobné Redditu s chatbotem nazvaným VictorBot, aby pomohl vojákům objevit užitečné informace, jako je nejlepší způsob, jak nakonfigurovat systémy elektromagnetického boje pro konkrétní misi. Když se voják zeptá, jak nastavit svůj hardware, VictorBot vygeneruje odpověď a ukáže na relevantní příspěvky a komentáře od ostatních členů služby. „Elektromagnetická válka je tak těžké téma,“ říká Miller. Victor, dodává, „může generovat odpověď a citovat všechna ponaučení, ze kterých se poučil [different] jednotky.”

Pentagon během posledních dvou let zintenzivnil své úsilí o začlenění umělé inteligence do vojenských systémů, ale Victor je sám o sobě vzácným příkladem umělé inteligence vojenských budov. Projekt ukazuje, jak horlivá je americká armáda, aby zvládla základy umělé inteligence – a jak může být tato technologie připravena změnit každodenní život mnoha vojáků.

Miller říká, že armáda spolupracuje s dodavatelem třetí strany, který bude provozovat a dolaďovat modely AI, které pohánějí Victora. Konkrétní firmu odmítl uvést, protože smlouva ještě nebyla oznámena. Říká, že do systému bylo vloženo více než 500 úložišť dat, a poznamenává, že Victor se bude snažit snížit potenciál chyb podobným způsobem jako komerční chatboti, a to citováním faktických zdrojů.

Snahy o integraci umělé inteligence do vojenských systémů se zrychlily po zavedení ChatGPT v roce 2022. V nedávné době údajně hrála technologie Anthropic významnou roli při plánování operací v Íránu prostřednictvím systému poháněného Palantirem.

Jak se však tyto systémy staly schopnějšími, objevily se neshody ohledně toho, jak by měla být AI nasazena. Začátkem tohoto roku se Anthropic střetl s Pentagonem a tvrdil, že jeho technologie by neměla být používána k pohonu autonomních zbraní nebo sledování amerických občanů.

Stejné chyby

Victor je vyvíjen v rámci Combined Arms Command (CAC). Podplukovník Jon Nielsen, který dohlíží na práci CAC na Victorovi, říká, že není neobvyklé, že různé brigády dělají stejné chyby na různých misích. Dodává, že cílem Victora je, aby se systém nakonec stal multimodálním, aby vojáci mohli vkládat snímky nebo video a získávat poznatky. „Victor bude jedním z mála zdrojů, který bude mít přístup k důvěryhodným armádním informacím,“ říká Nielsen.

Lauren Kahn, vedoucí výzkumná analytička v Georgetownském centru pro bezpečnost a nové technologie a bývalá politická poradkyně Pentagonu, říká, že projekt Victor zdůrazňuje potenciál umělé inteligence k automatizaci mnoha nesexy back-office úkolů v rámci ministerstva obrany. Koncem loňského roku toto oddělení představilo GenAI.mil, iniciativu zaměřenou na podnícení většího přijetí AI mezi zaměstnanci DOD.

Pokud však Victor prokáže úspěch, Kahn věří, že armáda by nakonec mohla najmout velkou společnost s umělou inteligencí, aby zlepšila schopnosti systému. „Velké laboratoře budou mít zjevně komparativní výhodu“, pokud jde o budování a nasazení špičkové umělé inteligence, říká.

Selhání Intelu

Umělá inteligence by mohla zavést nové druhy problémů pro armády, říká Paul Scharre, výkonný prezident Centra pro novou americkou bezpečnost a bývalý strážce americké armády. Scharre říká, že tendence modelů umělé inteligence k patolízalismu by mohla být obzvláště problematická. „Dokázal bych si představit situace, kdy by to bylo v kontextu zpravodajské analýzy obzvláště znepokojivé,“ vysvětluje.

Scharre dodává, že přijetí umělé inteligence by se mohlo zkomplikovat s tím, jak se systémy posunou od chatbotů k agentům schopným používat software a počítačové sítě. „Agentická umělá inteligence přináší celou tuto novou sadu výzev v oblasti bezpečnosti,“ poznamenává.