Grok generuje sexuální obsah mnohem více grafiky než to, co je na X

Tento příběh obsahuje popisy explicitního sexuálního obsahu a sexuálního násilí.

Chatbot Grok Elona Muska vyvolal pobouření a vyzývá k vyšetřování poté, co byl použit k zaplavení X „svlečenými“ obrázky žen a sexualizovanými obrázky osob, které vypadají jako nezletilé. To však není jediný způsob, jak lidé používají AI k vytváření sexualizovaných obrázků. Webové stránky a aplikace Grok, které jsou oddělené od X, zahrnují sofistikované generování videí, které není dostupné na X a používá se k vytváření extrémně názorných, někdy násilných, sexuálních snímků dospělých, které jsou mnohem explicitnější než obrázky vytvořené Grokem na X. Mohlo být také použito k vytváření sexualizovaných videí zjevně nezletilých.

Na rozdíl od X, kde je výstup Groku ve výchozím nastavení veřejný, obrázky a videa vytvořená v aplikaci Grok nebo na webu pomocí modelu Imagine nejsou sdíleny otevřeně. Pokud však uživatel sdílí adresu URL Imagine, může být viditelná pro kohokoli. Mezipaměť asi 1 200 odkazů Imagine plus WIRED recenze těch, které byly indexovány Googlem nebo sdíleny na hluboce falešném porno fóru, ukazují znepokojivá sexuální videa, která jsou mnohem explicitnější než obrázky vytvořené Grokem na X.

Jedno fotorealistické video Grok, hostované na Grok.com, ukazuje zcela nahého muže a ženu vygenerovanou umělou inteligencí, zakrvácené přes tělo a obličej, jak mají sex, zatímco další dvě nahé ženy tančí v pozadí. Video je orámováno sérií obrázků postav ve stylu anime. Další fotorealistické video obsahuje nahou ženu vygenerovanou umělou inteligencí s nožem zasunutým do genitálií, na nohou a posteli se jí objevuje krev.

Další krátká videa zahrnují snímky skutečných ženských celebrit zapojených do sexuálních aktivit a řada videí také ukazuje, jak moderátorky televizních zpráv zvedají své svršky, aby odhalily svá ňadra. Jedno video vytvořené Grokem zachycuje záznam CCTV záběrů přehrávaných v televizi, kde ochranka hladí polonahou ženu uprostřed nákupního centra.

Několik videí – pravděpodobně vytvořených ve snaze vyhnout se systémům bezpečnosti obsahu Groka, které mohou omezovat grafický obsah – se vydává za „filmové“ plakáty Netflix: Dvě videa ukazují nahou umělou inteligenci zobrazující Dianu, princeznu z Walesu, jak má sex se dvěma muži na posteli s překryvnou vrstvou zobrazující loga Netflixu a jeho seriálu. Koruna.

Přibližně 800 archivovaných adres URL Imagine obsahuje buď video, nebo obrázky vytvořené Grokem, říká Paul Bouchaud, hlavní výzkumník pařížské neziskové organizace AI Forensics, který obsah zkontroloval. Všechny adresy URL byly archivovány od srpna loňského roku a představují pouze malý snímek toho, jak lidé používali Grok, což pravděpodobně celkově vytvořilo miliony obrázků.

„Jsou převážně sexuálním obsahem,“ říká Bouchaud o mezipaměti 800 archivovaných Grokových videí a obrázků. „Většinu času je to manga a hentai explicitní obsah a [other] fotorealistické. Máme plnou nahotu, plná pornografická videa se zvukem, což je docela nové.“

Bouchaud odhaduje, že z 800 příspěvků se zdá, že o něco méně než 10 procent obsahu souvisí s materiálem pro sexuální zneužívání dětí (CSAM). „Většinou je to hentai, ale existují i ​​případy fotorealistických lidí, velmi mladých, kteří provádějí sexuální aktivity,“ říká Bouchaud. „Stále pozorujeme některá videa velmi mladě vypadajících žen, jak se svlékají a zapojují se do aktivit s muži,“ říkají. „Je to znepokojující na jinou úroveň.“

Výzkumník říká, že nahlásili asi 70 Grok URL, které mohou obsahovat sexuální obsah nezletilých, regulačním orgánům v Evropě. V mnoha zemích mohou být CSAM generované umělou inteligencí, včetně kreseb nebo animací, považovány za nezákonné. Francouzští představitelé okamžitě nereagovali na žádost WIRED o komentář; Pařížská prokuratura však nedávno uvedla, že dva zákonodárci podali stížnosti její kanceláři, která vyšetřuje společnost sociálních médií, na „svlečené“ obrázky.