Když expert na dezinformace Tal Hagin požádal Groka, aby ověřil příspěvek na X o íránských raketách, které údajně zasáhly Tel Aviv, chatbot Elona Muska poháněný umělou inteligencí selhal.
Grok opakovaně chybně identifikoval místo a datum videa, které v neděli na X původně sdílelo íránské státní médium. Poté se chatbot pokusil dokázat svůj názor sdílením obrázku vytvořeného umělou inteligencí.
„Teď Grok odpovídá AI troškou ničení,“ napsal v reakci Hagin. „Vařené, to vám říkám.“
Tato interakce úhledně shrnuje, jak moc se od reality X stalo od té doby, co USA a Izrael zahájily útok na Írán 28. února. Jak tehdy informoval WIRED, platformu sociálních médií rychle zaplavily dezinformace z účtů sdílejících falešná a předělaná videa.
Jak konflikt pokračoval, povodeň se jen zhoršila. V posledních dnech byl přeplňován obrázky a videi AI, zatímco Grok opakovaně uvedl nepravdivé informace, když byl požádán o ověření tvrzení učiněných na platformě. Obrázky umělé inteligence sdílejí placené účty s modrým zaškrtnutím a íránští úředníci, kteří se snaží vykreslit přehnané škody.
Šíření snadno přístupných nástrojů AI pro generování obrázků a videí vedlo ke stále sofistikovanějšímu falešnému obsahu. 2. března například íránští představitelé a státní média sdíleli videa vygenerovaná umělou inteligencí zachycující hořící výškovou budovu v Bahrajnu. Videa a obrázky vypadají pro mnohé dostatečně realisticky: Jeden snímek amerického bombardéru B-2 sestřeleného Íránem se zadrženými americkými vojáky byl zhlédnut více než milionkrát, než byl smazán, zatímco snímky členů Delta Force zajatých íránskými úřady byly zhlédnuty více než 5 milionůkrát, než byly smazány.
Některý obsah AI propagovaný na X je méně realistický. Jedno video například údajně ukazuje, jak íránské síly vyrábějí rakety hluboko uvnitř jeskyně. Video však stále sdílelo více účtů a bylo zhlédnuto více než milionkrát.
Umělá inteligence je také používána íránskou vládou k prosazování zjevně antisemitských narativů, přičemž účty v prorežimní propagandistické síti na X sdílejí příspěvky generované umělou inteligencí zobrazující ortodoxní Židy, jak vedou americké vojáky do války nebo oslavují americké úmrtí, podle výzkumníků z Institutu strategického dialogu (ISD), kteří sdíleli svou analýzu s WIRED.
Řada účtů v této prorežimní síti také sdílela falešné video, které údajně ukazovalo řadu mladých dívek procházejících kolem prezidenta Donalda Trumpa pouze ve spodním prádle. Příspěvek byl podle ISD zhlédnut více než 6,8 milionukrát, než byl stažen, i když je nadále sdílen jinými účty na X.
„To, co je na této válce obzvláště jedinečné, je dramatický nárůst obsahu generovaného umělou inteligencí, který sám odhaluji,“ říká Hagin WIRED. „Pravděpodobně je to způsobeno tím, že umělá inteligence je dostatečně pokročilá, aby oklamala novináře, a snadností, s jakou mohou uživatelé vytvořit tento průšvih AI s nulovými následky. Čím déle budeme bez regulací proti zneužívání umělé inteligence, tím více škod bude způsobeno. Vidím, že šíření falešných zpráv na základě umělé inteligence nás tlačí přes okraj světa založeného na faktech, pokud nyní neprovedeme změnu.“
Když platformu minulý týden začala přebírat záplava padělků generovaných umělou inteligencí, společnost X oznámila, že dočasně demonetizuje účty s modrým zaškrtnutím, pokud zveřejní videa ozbrojených konfliktů vytvořená umělou inteligencí bez označení. Společnost X neodpověděla na žádost o vyjádření k tomu, kolik účtů od zavedení opatření demonetizovala. Až donedávna se zdálo, že řada íránských úředníků platila X za její prémiovou službu, která opatřovala jejich účty modrým zaškrtnutím, zvyšovala zapojení a vytvářela potenciál vydělávat peníze za své příspěvky.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
