Po vytvoření tisíců „Svlékajících se“ obrázků žen a sexualizovaných snímků zjevně nezletilých, Elon Musk X zjevně omezil, kdo může vytvářet obrázky s Grokem. Navzdory změnám je však chatbot stále používán k vytváření „svlékacích“ sexualizovaných obrázků na platformě.
V pátek ráno začal účet Grok na X reagovat na požadavky některých uživatelů zprávou, že generování a úpravy obrázků jsou „momentálně omezeny na platící předplatitele“. Zpráva také obsahuje odkaz, který tlačí lidi k úrovni ročního předplatného platformy sociálních médií 395 USD. V jednom testu systému, který požadoval, aby Grok vytvořil obrázek stromu, systém vrátil stejnou zprávu.
Zjevná změna přichází po dnech rostoucího rozhořčení a zkoumání Muskova X a xAI, společnosti stojící za chatbotem Grok. Společnosti čelí rostoucímu počtu vyšetřování ze strany regulátorů z celého světa kvůli vytváření nekonsensuálních explicitních snímků a údajných sexuálních zobrazení dětí. Britský premiér Keir Starmer nevyloučil zákaz X v zemi a prohlásil, že tyto akce byly „protizákonné“.
Ani X, ani xAI, společnost vlastněná Muskem, která stojí za Grokem, nepotvrdila, že z generování a úprav obrázků udělala pouze placenou funkci. Mluvčí X uznal dotaz WIRED, ale před zveřejněním neposkytl komentář. X již dříve uvedla, že podniká „kroky proti nelegálnímu obsahu na X“, včetně případů materiálů obsahujících sexuální zneužívání dětí. Zatímco Apple a Google již dříve zakázaly aplikace s podobnými funkcemi „nudify“, X a Grok zůstávají dostupné v příslušných obchodech s aplikacemi. xAI okamžitě neodpověděl na žádost WIRED o komentář.
Už více než týden uživatelé na X žádají chatbota, aby upravil obrázky žen a odstranil jejich oblečení – často žádali, aby obrázek obsahoval „provázek“ nebo „průhledné“ bikiny. Zatímco veřejný zdroj obrázků vytvořený Grokem v pátek obsahoval mnohem méně výsledků těchto „svlékacích“ obrázků, stále vytvářel sexualizované obrázky, když k tomu byli vyzváni X uživatelé s placenými „ověřenými“ účty.
„Pozorujeme stejný druh pohotovosti, pozorujeme stejný druh výsledku, jen méně než dříve,“ říká Paul Bouchaud, vedoucí výzkumný pracovník pařížské neziskové organizace AI Forensics, WIRED. „Modelka může pokračovat ve vytváření bikin [images],“ říkají.
Recenze WIRED některých příspěvků Groka v pátek ráno odhalila, že Grok generuje obrázky v reakci na požadavky uživatelů na obrázky, které ji „oblečou do latexového prádla“ a „navlečou ji do plastových bikin a zakryjí ji koblihovou bílou polevou“. Obrázky se zobrazují za rámečkem „upozornění na obsah“, který říká, že je zobrazen materiál pro dospělé.
Ve středu WIRED odhalil, že Grokova samostatná webová stránka a aplikace, která je oddělená od verze na X, byla také v posledních měsících použita k vytváření vysoce názorných a někdy násilných sexuálních videí, včetně celebrit a dalších skutečných lidí. Bouchaud říká, že je stále možné použít Grok k vytvoření těchto videí. „Podařilo se mi vytvořit video se sexuálně explicitním obsahem bez jakéhokoli omezení z neověřeného účtu,“ říkají.
Zatímco test WIRED generování obrázků pomocí Groka na X pomocí bezplatného účtu neumožnil vytvářet žádné obrázky, pomocí bezplatného účtu v aplikaci a webových stránkách Groka stále generovaly obrázky.
Změna na X by mohla okamžitě omezit množství sexuálně explicitního a škodlivého materiálu, který platforma vytváří, říkají odborníci. Ale byl také kritizován jako minimální krok, který funguje jako náplast na skutečné škody způsobené nekonsensuálními intimními představami.
„Nedávné rozhodnutí omezit přístup platícím předplatitelům je nejen nedostatečné – představuje zpeněžení zneužívání,“ uvedla Emma Pickeringová, šéfka technologicky usnadněného zneužívání v britské charitativní organizaci Refuge pro domácí zneužívání. „I když omezení generování obrázků AI na placené uživatele může nepatrně snížit objem a zlepšit sledovatelnost, zneužívání nebylo zastaveno. Jednoduše bylo umístěno za paywall, což X umožnilo profitovat ze škod.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
