Pokud Taylor Swift nemůže porazit Deepfake porno, nemůže to nikdo

Pokud někdo dokáže shromáždit základnu, je to Taylor Swift.

Když tento týden na sociálních sítích kolovaly sexuálně explicitní, pravděpodobně umělou inteligencí generované obrázky Swift, její fanoušky to vyburcovalo. Swifties našel fráze a hashtagy související s obrázky a zaplavil je videi a fotkami vystupujících Swift. „Chraňte Taylor Swift“ se stal virálním a stal se trendem, když Swifties mluvil nejen proti hlubokým fakeům Swift, ale proti všem nekonsensuálním, explicitním obrázkům žen.

Swift, pravděpodobně nejslavnější žena na světě právě teď, se stala vysoce postavenou obětí až příliš časté formy obtěžování. Fotografie se ještě veřejně nevyjádřila, ale její status jí dává sílu vládnout v situaci, kdy tolik žen nemá možnost se uchýlit. Deepfake porno se stává častějším, protože generativní umělá inteligence se zlepšuje: 113 000 deepfake videí bylo nahráno na nejpopulárnější porno weby v prvních devíti měsících roku 2023, což je významný nárůst na 73 000 videí nahraných v průběhu roku 2022. V roce 2019 výzkum od startupu zjistili, že 96 procent deepfakes na internetu bylo pornografických.

Obsah lze snadno najít ve vyhledávačích a sociálních sítích a ovlivnil další ženské celebrity a teenagery. Přesto mnoho lidí nechápe celý rozsah problému ani jeho dopad. Swift a mediální mánie kolem ní má potenciál to změnit.

„Mám pocit, že by to mohla být jedna z těch spouštěcích událostí“, které by mohly vést k právním a společenským změnám kolem nekonsensuálních deepfakes, říká Sam Gregory, výkonný ředitel Witness, neziskové organizace zaměřené na používání obrázků a videí k ochraně lidských práv. Ale Gregory říká, že lidé stále nechápou, jak časté je deepfake porno a jak škodlivé a porušující může být pro oběti.

Pokud něco, tato hluboce falešná katastrofa připomíná únik z iCloudu z roku 2014, který vedl k tomu, že se online šířily nahé fotky celebrit jako Jennifer Lawrence a Kate Upton, což vyvolalo volání po větší ochraně digitální identity lidí. Apple nakonec zvýšil bezpečnostní funkce.

Hrstka států má zákony týkající se nekonsensuálních deepfakes a existují kroky k jejich zákazu i na federální úrovni. Poslanec Joseph Morelle (D-New York) představil v Kongresu návrh zákona, který by zakázal vytvářet a sdílet hluboce falešné porno bez souhlasu osoby. Další návrh zákona od Republikánky Yvette Clarke (D-New York) se snaží poskytnout právní pomoc obětem falešného porna. Poslanec Tom Kean, Jr. (R-New Jersey), který v listopadu představil návrh zákona, který by vyžadoval označování obsahu umělé inteligence, využil virální moment Swift, aby upozornil na své úsilí: „Ať už je obětí Taylor Swift nebo jakýkoli mladý osoba v celé naší zemi – musíme zavést ochranná opatření k boji proti tomuto alarmujícímu trendu,“ uvedl Kean v prohlášení.

Není to poprvé, co se Swift nebo Swifties pokoušejí přimět platformy a lidi k odpovědnosti. V roce 2017 Swift vyhrála soudní spor, který podala proti rádiovému DJ, o kterém tvrdila, že ji osahával během setkání a pozdravu. Dostala 1 dolar, částku, o kterou žalovala, a to, co její právní zástupce Douglas Baldridge nazval symbolickou sumou, „jejíž hodnota je pro všechny ženy v této situaci nezměrná“.