V hodinách poté, co maskovaný federální agent zastřelil Renee Nicole Goodovou, 37letou ženu v Minneapolis, uživatelé sociálních sítí sdíleli obrázky upravené umělou inteligencí, o kterých nepravdivě tvrdí, že „odmaskovali“ důstojníka a odhalili tak svou skutečnou identitu. Agent byl později identifikován mluvčí ministerstva pro vnitřní bezpečnost Tricií McLaughlinovou jako důstojník pro imigrační a celní orgány.
Ke střelbě došlo ve středu ráno a záběry na sociálních sítích ukazují, jak se dva maskovaní federální agenti blíží k SUV zaparkovanému uprostřed silnice na předměstí jižně od centra Minneapolis. Zdá se, že jeden z policistů žádá řidiče, aby vystoupil z vozidla, než chytne kliku dveří. V tomto okamžiku se zdá, že řidič couval, než pojede vpřed a odbočí. Třetí maskovaný federální důstojník, stojící poblíž přední části vozidla, vytahuje pistoli a střílí na vozidlo, čímž Gooda zabije.
Videa incidentu sdílená na sociálních sítích v okamžicích po střelbě neobsahovala žádné záběry žádného z maskovaných agentů ICE se staženými maskami. Během několika hodin po střelbě se však po internetu začalo šířit několik snímků, na nichž je vidět odmaskovaný agent.
Obrázky se zdají být snímky obrazovky pořízené ze skutečného videozáznamu, ale upravené pomocí nástrojů umělé inteligence, aby vytvořily tvář důstojníka.
WIRED zkontroloval několik AI upravených obrázků odmaskovaného agenta sdílených na všech běžných platformách sociálních médií, včetně X, Facebook, Threads, Instagram, BlueSky a TikTok. „Potřebujeme jeho jméno,“ napsal Claude Taylor, zakladatel anti-Trump Mad Dog PAC, v příspěvku na X, který obsahoval obrázek agenta pozměněný AI. Příspěvek byl zobrazen více než 1,2 milionukrát. Taylor neodpověděl na žádost o komentář.
Účet nazvaný „Influencer_Queeen“ na Threads zveřejnil obrázek agenta upravený umělou inteligencí a napsal: „Pojďme získat jeho adresu. Ale zaměřme se pouze na JEHO. Ne na jeho děti.“ Příspěvek se líbil téměř 3 500krát.
„Vylepšení poháněná umělou inteligencí má tendenci halucinovat detaily obličeje, což vede k vylepšenému obrazu, který může být vizuálně čistý, ale také může postrádat realitu s ohledem na biometrickou identifikaci,“ říká Hany Farid, profesor UC-Berkeley, který v minulosti studoval schopnost umělé inteligence vylepšovat obrázky obličeje, říká WIRED. „V této situaci, kdy je polovina obličeje zakryta, AI nebo jakákoli jiná technika podle mého názoru není schopna přesně rekonstruovat identitu obličeje.“
Někteří z lidí, kteří snímky zveřejnili, také bez důkazů tvrdili, že identifikovali agenta, sdíleli jména skutečných lidí a v řadě případů poskytli odkazy na účty těchto lidí na sociálních sítích.
WIRED potvrdil, že dvě z kolujících jmen se nezdají být bezprostředně spojena s nikým spojeným s ICE. Zatímco mnoho příspěvků sdílejících tyto obrázky umělé inteligence má omezené zapojení, některé získaly významnou trakci.
Jedním ze jmen sdílených online bez důkazů je Steve Grove, generální ředitel a vydavatel Minnesota Star Tribune, který dříve pracoval v administrativě guvernéra Minnesoty Tima Walze. „Momentálně monitorujeme koordinovanou online dezinformační kampaň, která nesprávně identifikuje agenta ICE zapojeného do včerejší střelby,“ řekl WIRED Chris Iles, viceprezident pro komunikaci na Star Tribune. „Aby bylo jasno, agent ICE nemá žádné známé spojení s Minnesota Star Tribune a rozhodně není naším vydavatelem a generálním ředitelem Steve Groveem.“
Není to poprvé, co umělá inteligence způsobila problémy po střelbě. Podobná situace se objevila v září, kdy byl zabit Charlie Kirk a AI upravený snímek střelce, založený na zrnitém videu zveřejněném orgány činnými v trestním řízení, byl široce sdílen online. Obraz AI nevypadal jako muž, který byl nakonec zajat a obviněn z Kirkovy vraždy.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
