Google, Apple a Discord nechají škodlivé webové stránky s umělou inteligencí používat své přihlašovací systémy

Velké technologické společnosti, včetně Google, Apple a Discord, umožňují lidem rychle se zaregistrovat na škodlivých „svlékacích“ webových stránkách, které používají AI k odstranění oblečení ze skutečných fotografií, aby oběti vypadaly jako „nahé“ bez jejich souhlasu. Více než tucet těchto deepfake webů používá přihlašovací tlačítka od technologických společností po celé měsíce.

Analýza WIRED nalezla 16 největších takzvaných svlékacích a „nahozených“ webových stránek využívajících infrastrukturu přihlašování od společností Google, Apple, Discord, Twitter, Patreon a Line. Tento přístup umožňuje lidem snadno vytvářet účty na hluboce falešných webech – což jim nabízí pozlátko důvěryhodnosti – předtím, než zaplatí za kredity a vytvoří obrázky.

Zatímco roboti a webové stránky, které vytvářejí nekonsensuální intimní obrázky žen a dívek, existují již léta, se zavedením generativní umělé inteligence se jejich počet zvýšil. Tento druh zneužívání „svlékání“ je znepokojivě rozšířený, přičemž dospívající chlapci údajně vytvářejí obrázky svých spolužáků. Technologické společnosti se pomalu vypořádávají s rozsahem problémů, kritici říkají, že webové stránky se objevují vysoce ve výsledcích vyhledávání, placené reklamy je propagují na sociálních sítích a aplikace se zobrazují v obchodech s aplikacemi.

„Jde o pokračování trendu, který normalizuje sexuální násilí na ženách a dívkách ze strany Big Tech,“ říká Adam Dodge, právník a zakladatel EndTAB (Ending Technology-Enabled Abuse). „Přihlašovací rozhraní API jsou pohodlné nástroje. Ze sexuálního násilí bychom nikdy neměli dělat akt pohodlnosti,“ říká. „Měli bychom postavit zdi kolem přístupu k těmto aplikacím a místo toho dáváme lidem padací most.“

Nástroje pro přihlášení analyzované WIRED, které jsou nasazeny prostřednictvím rozhraní API a běžných metod ověřování, umožňují lidem používat stávající účty pro připojení k hluboce falešným webům. Přihlašovací systém Google se objevil na 16 webech, Discord na 13 a Apple na šesti. Tlačítko X bylo na třech webových stránkách, přičemž Patreon a služba zasílání zpráv Line’s se objevily na stejných dvou webových stránkách.

WIRED nepojmenovává webové stránky, protože umožňují zneužití. Některé jsou součástí širších sítí a jsou vlastněny stejnými jednotlivci nebo společnostmi. Přihlašovací systémy byly používány navzdory tomu, že technologické společnosti obecně mají pravidla, že státní vývojáři nemohou používat jejich služby způsoby, které by mohly poškodit, obtěžovat nebo narušit soukromí lidí.

Poté, co byli kontaktováni WIRED, mluvčí společnosti Discord a Apple uvedli, že odstranili účty vývojářů připojené k jejich webům. Google uvedl, že zakročí proti vývojářům, když zjistí, že byly porušeny jeho podmínky. Patreon uvedl, že zakazuje účty, které umožňují vytváření explicitních snímků, a Line potvrdil, že to vyšetřuje, ale řekl, že nemůže komentovat konkrétní webové stránky. Společnost X neodpověděla na žádost o komentář ohledně způsobu používání jejích systémů.

V několika hodinách poté, co Jud Hoffman, viceprezident společnosti Discord pro důvěru a bezpečnost, řekl WIRED, že ukončil přístup webů ke svým rozhraním API z důvodu porušení zásad pro vývojáře, jedna z webových stránek o svlékání zveřejněná v kanálu Telegram, že autorizace přes Discord byla „dočasně“ nedostupný“ a tvrdil, že se pokouší obnovit přístup. Tato svlékací služba nereagovala na žádost společnosti WIRED o vyjádření k jejím operacím.

Rychlé rozšíření

Od té doby, co se koncem roku 2017 objevila technologie deepfake, počet vytvářených nekonsensuálních intimních videí a obrázků exponenciálně vzrostl. Zatímco produkce videí je těžší, vytváření obrázků pomocí „svlékacích se“ nebo „nahození“ webových stránek a aplikací se stalo běžnou záležitostí.

„Musíme být jasné, že to není inovace, to je sexuální zneužívání,“ říká David Chiu, městský právník v San Franciscu, který nedávno zahájil žalobu proti svlékacím a nudným webům a jejich tvůrcům. Chiu říká, že 16 webových stránek, na které se soustředí žaloba jeho úřadu, mělo jen za prvních šest měsíců letošního roku kolem 200 milionů návštěv. „Tyto webové stránky se zabývají strašlivým vykořisťováním žen a dívek po celém světě. Tyto obrázky se používají k šikanování, ponižování a vyhrožování ženám a dívkám,“ tvrdí Chiu.