Webové stránky „nudify“ se hrají v milionech dolarů

Po celá léta, tzv Aplikace a webové stránky „Nudify“ se houby online a umožňují lidem vytvářet nekonsensuální a urážlivé obrázky žen a dívek, včetně materiálu sexuálního zneužívání dětí. Navzdory některým zákonodárcům a technologickým společnostem podniknou kroky k omezení škodlivých služeb, každý měsíc miliony lidí stále přistupují k webovým stránkám a tvůrci stránek mohou každý rok vydělávat miliony dolarů, naznačuje nový výzkum.

Analýza 85 webových stránek NUDIFICE a „UNDSRES“ – které lidem umožňují nahrávat fotografie a používat AI k generování „nahých“ obrázků předmětů s několika kliknutími – zjistila, že většina webů se spoléhá na technologické služby od společnosti Google, Amazon a Cloudflare, aby fungovaly a zůstaly online. Zjištění odhalená společností Indicator, publikace zkoumající digitální podvod, říkají, že webové stránky měly kombinovaný průměr 18,5 milionu návštěvníků za každý z posledních šesti měsíců a společně mohou tvořit 36 milionů dolarů ročně.

Alexios Mantzarlis, spoluzakladatel indikátoru a online výzkumný pracovník v oblasti online bezpečnosti, říká, že kalný ekosystém nudifieru se stal „lukrativním obchodem“, který „laissez-faire přístup k generativnímu AI“ Silicon Valley “. „Měli by přestat poskytovat jakékoli a veškeré služby AI nudifierům, když bylo jasné, že jejich jediným případem použití bylo sexuální obtěžování,“ říká Mantzarlis o technologických společnostech. Je stále více nezákonné vytvářet nebo sdílet explicitní hlubokéfake.

Podle výzkumu poskytují Amazon a CloudFlare služby hostování nebo doručování obsahu pro 62 z 85 webových stránek, zatímco systém přihlášení společnosti Google byl použit na 54 webových stránkách. Webové stránky NUDIFY také používají řadu dalších služeb, jako jsou platební systémy, poskytované mainstreamovými společnostmi.

Mluvčí Amazon Web Services Ryan Walsh říká, že AWS má jasné podmínky služby, které vyžadují, aby zákazníci dodržovali „použitelné“ zákony. „Když obdržíme zprávy o možném porušování našich podmínek, jednáme rychle, abychom zkontrolovali a podnikli kroky k deaktivaci zakázaného obsahu,“ říká Walsh a dodal, že lidé mohou svým bezpečnostním týmům nahlásit problémy.

„Některé z těchto webů porušují naše podmínky a naše týmy přijímají kroky k řešení těchto porušení a také pracují na dlouhodobějších řešeních,“ říká mluvčí Google Karl Ryan a zdůrazňuje, že systém přihlášení společnosti Google vyžaduje, aby vývojáři souhlasili s jeho zásadami, které zakazují nelegální obsah a obsah, které obtěžují ostatní.

Cloudflare neodpověděl na žádost Wireda o komentář v době psaní. Wired v tomto příběhu nepojmenovává webové stránky nudifieru, protože jim neposkytuje další expozici.

Webové stránky a svlékání a svlékání se od roku 2019 vzkvétaly poté, co se původně vynořily z nástrojů a procesů používaných k vytvoření prvních explicitních „hlubokých“. Sítě vzájemně propojených společností, jak uvádí BellingCat, se objevily online nabízející technologii a vydělávání peněz ze systémů.

Obecně platí, že služby používají AI k transformaci fotografií na nekonsenzuální explicitní snímky; Často vydělávají peníze prodejem „kreditů“ nebo předplatného, které lze použít ke generování fotografií. Byly přeplněny vlnou generátorů generátorů AI, které se objevily v posledních několika letech. Jejich výstup je nesmírně škodlivý. Fotografie sociálních médií byly odcizeny a používány k vytváření hrubých obrázků; Mezitím v nové formě kyberšikany a zneužívání vytvořili dospívající chlapci po celém světě představy o svých spolužácích. Takové intimní zneužívání obrazu je pro oběti trýznivé a obrázky mohou být obtížné vyčistit z webu.