Deepfake Nude Generator odhaluje mrazivý pohled na své oběti

Další obrázek na webu ukazoval skupinu mladých dospívajících, kteří vypadají, že jsou na střední škole: chlapec, který si dělá selfie v něčem, co vypadá jako školní tělocvična, se dvěma dívkami, které se usmívají a pózují na obrázku. Chlapcovy rysy byly zakryty čočkou Snapchat, která mu zvětšila oči natolik, že mu zakryly obličej.

Titulky na zjevně nahraných obrázcích naznačovaly, že obsahují obrázky přátel, spolužáků a romantických partnerů. „My gf“ říká jeden titulek a ukazuje mladou ženu, která si fotí selfie v zrcadle.

Mnoho z fotek ukazovalo influencery, kteří jsou populární na TikTok, Instagramu a dalších platformách sociálních médií. Jiné fotografie vypadaly jako snímky obrazovky Instagramu lidí, kteří sdíleli obrázky ze svého každodenního života. Na jednom obrázku byla mladá žena s úsměvem s dezertem zakončeným slavnostní svíčkou.

Zdálo se, že několik obrázků ukazuje lidi, kteří byli pro osobu, která fotografii pořídila, úplně cizí. Jeden snímek pořízený zezadu zachycoval ženu nebo dívku, která nepózuje na fotografii, ale prostě stojí poblíž něčeho, co vypadá jako turistická atrakce.

Některé obrázky ve zdrojích, které WIRED recenzovala, byly oříznuty, aby byly odstraněny obličeje žen a dívek, zobrazující pouze jejich hruď nebo rozkrok.

Obrovské publikum

Během osmidenního sledování webu se WIRED objevilo pět nových obrázků žen na domovské stránce a tři na stránce Prozkoumat. Statistiky uvedené na webu ukázaly, že většina těchto obrázků nashromáždila stovky „zhlédnutí“. Není jasné, zda se všechny obrázky odeslané na web dostanou na domovskou stránku nebo zdroj Prozkoumat, nebo jak jsou tabulková zobrazení. Každý příspěvek na domovské stránce má alespoň několik desítek zobrazení.

Fotografie celebrit a lidí s velkou sledovaností na Instagramu jsou na prvním místě v seznamu „Nejsledovanějších“ obrázků uvedených na webu. Nejsledovanějšími lidmi všech dob na webu jsou herečka Jenna Ortega s více než 66 000 zhlédnutími, zpěvačka a skladatelka Taylor Swift s více než 27 000 zhlédnutími a influencer a DJ z Malajsie s více než 26 000 zhlédnutími.

Swift a Ortega byli terčem falešných aktů již dříve. Oběh falešných nahých snímků Swift na X v lednu vyvolal moment obnovené diskuse o dopadech deepfakes a potřebě větší právní ochrany obětí. Tento měsíc NBC oznámila, že Meta po dobu sedmi měsíců hostovala reklamy na aplikaci deepnude. Aplikace se chlubila svou schopností „svlékat“ lidi pomocí obrázku Jenny Ortegové z doby, kdy jí bylo 16 let.

Ve Spojených státech se žádný federální zákon nezaměřuje na šíření falešných, nesouhlasných nahých obrázků. Několik států přijalo své vlastní zákony. Ale nahé obrázky nezletilých generované umělou inteligencí spadají do stejné kategorie jako ostatní materiály týkající se sexuálního zneužívání dětí, neboli CSAM, říká Jennifer Newman, výkonná ředitelka NCMEC’s ​​Exploited Children’s Division.

„Pokud je to k nerozeznání od obrazu živé oběti, skutečného dítěte, pak je to pro nás materiál týkající se sexuálního zneužívání dětí,“ říká Newman. „A budeme s tím zacházet jako s tím, že zpracováváme naše hlášení, protože tyto hlášení předáváme orgánům činným v trestním řízení.“