Indičtí voliči jsou bombardováni miliony Deepfakes. Političtí kandidáti schvalují

Na dusnu Dubnové odpoledne v Ajmeru v indickém státě Rádžasthán se místní politik Shakti Singh Rathore posadil před greenscreen, aby natočil krátké video. Vypadal nervózně. Bylo to poprvé, co byl klonován.

Rathore měl na sobě zářivě bílou košili a slavnostní šafránový šátek s lotosovým květem – logem BJP, vládnoucí strany země – stiskl dlaně a pozdravil své publikum v hindštině. „Namashkar,“ začal. „Všem mým bratrům –“

Než se nadál, režisér natáčení vešel do záběru. Divyendra Singh Jadoun, 31letý muž s holou hlavou a hustým černým plnovousem, řekl Rathore, že se na kameře příliš pohybuje. Jadoun se pokoušel zachytit dostatek zvukových a obrazových dat, aby vytvořil AI deepfake Rathore, který by přesvědčil 300 000 potenciálních voličů kolem Ajmera, že s ním vedli personalizovanou konverzaci – ale nadměrný pohyb by porušil algoritmus. Jadoun řekl svému subjektu, aby se díval přímo do kamery a pohyboval pouze rty. „Začněte znovu,“ řekl.

Právě teď jde největší demokracie na světě k volbám. Téměř miliarda Indů má právo volit v rámci všeobecných voleb v zemi a deepfakes by mohly hrát rozhodující a potenciálně rozdělující roli. Indické politické strany využívají umělou inteligenci k pokřivení reality prostřednictvím levných zvukových padělků, propagandistických obrázků a parodií na umělou inteligenci. Ale zatímco globální diskurs o deepfakes se často zaměřuje na dezinformace, dezinformace a další společenské škody, mnoho indických politiků používá technologii k jinému účelu: k oslovení voličů.

Napříč ideologickým spektrem spoléhají na umělou inteligenci, která jim pomáhá orientovat se ve 22 úředních jazycích země a tisících regionálních dialektů a doručovat personalizovaná sdělení ve vzdálenějších komunitách. Zatímco USA nedávno zakázaly používání hlasů generovaných umělou inteligencí pro nevyžádané hovory, v Indii se sankcionované deepfakes staly obchodní příležitostí za 60 milionů dolarů. Během dvou měsíců, které předcházely dubnovým volbám, bylo uskutečněno více než 50 milionů hlasových klonů generovaných umělou inteligencí – a další miliony budou uskutečněny během hlasování, řekl WIRED jeden z největších provozovatelů obchodních zpráv v zemi.

Jadoun je plakátem tohoto rozvíjejícího se průmyslu. Jeho firma Polymath Synthetic Media Solutions je jedním z mnoha poskytovatelů hluboce falešných služeb z celé Indie, kteří se objevili, aby uspokojili politickou třídu. V této volební sezóně Jadoun zatím dodal pět AI kampaní, za které jeho společnost zaplatila celkem 55 000 $. (Účtuje podstatně méně než velcí političtí poradci – 125 000 rupií [$1,500] vytvořit digitálního avatara a 60 000 rupií [$720] pro audio klon.) Udělal deepfakes pro Prema Singha Tamanga, hlavního ministra himálajského státu Sikkim, a vzkřísil YS Rajasekhara Reddyho, ikonického politika, který zemřel při havárii vrtulníku v roce 2009, aby podpořil svého syna YS Jagan Mohan Reddy , v současnosti hlavní ministr státu Ándhrapradéš. Jadoun také vytvořil propagandistické písně generované umělou inteligencí pro několik politiků, včetně Tamanga, místního kandidáta do parlamentu a hlavního ministra západního státu Maháráštra. „On je naše hrdost,“ zněla jedna píseň v hindštině o místním politikovi v Ajmeru s mužskými a ženskými hlasy naladěnými na pikantní melodii. „Vždy byl nestranný.“

Zatímco Rathore letos nevolí, je jedním z více než 18 milionů dobrovolníků BJP, kteří mají za úkol zajistit, aby si vláda premiéra Narendry Modiho udržela moc. V minulosti by to znamenalo strávit měsíce křižováním Rádžasthánu, pouštního státu o velikosti zhruba jako Itálie, mluvit s voliči jednotlivě a připomínat jim, jak těžili z různých sociálních programů BJP – důchody, nádrže na vaření zdarma, hotovost platby pro těhotné ženy. Ale s pomocí Jadounových deepfakes se Rathoreho práce mnohem zjednodušila.

Stráví zde 15 minut povídáním na kameru o některých klíčových volebních otázkách, zatímco mu Jadoun klade otázky. Ale je vlastně jedno, co říká. Vše, co Jadoun potřebuje, je Rathoreův hlas. Jakmile to bude hotové, Jadoun použije data ke generování videí a hovorů, které půjdou přímo do telefonů voličů. Místo zaklepání na dveře nebo rychlého podání ruky na shromáždění uvidí nebo uslyší, jak je Rathore oslovuje jménem a mluví s děsivou konkrétností o problémech, na kterých jim nejvíce záleží, a požádá je, aby hlasovali pro BJP. Pokud se ptají, AI by měla reagovat – jasným a klidným hlasem, který je téměř lepší než rychlé tažení skutečného Rathore. Méně technicky zdatní voliči si možná ani neuvědomují, že mluvili se strojem. Dokonce i Rathore přiznává, že toho o AI moc neví. Ale rozumí psychologii. „Takové hovory mohou pomoci s výkyvy voličů.“

Kartáčování ramen s politici nejsou pro Jadouna novinkou. Býval jedním. V roce 2015 kandidoval ve volbách v Ajmeru jako okresní prezident Národní studentské unie Indie (NSUI), mládežnického křídla Indického národního kongresu, kdysi impozantní národní strany, která je nyní hlavní opozicí vůči Modiho BJP.