Elon Musk nezastavil Groka, chatbota vyvinutého jeho společností s umělou inteligencí xAI, ve vytváření sexualizovaných obrázků žen. Poté, co se minulý týden objevily zprávy, že nástroj pro generování obrázků na X byl používán k vytváření sexualizovaných obrázků dětí, Grok vytvořil potenciálně tisíce nekonsensuálních obrázků žen na „svlečených“ a „bikinách“ fotografiích.
Každých pár sekund Grok pokračuje ve vytváření obrázků žen v bikinách nebo spodním prádle v reakci na výzvy uživatelů na X, podle recenze WIRED veřejně zveřejněného živého výstupu chatbotů. V úterý Grok zveřejnil za méně než pět minut nejméně 90 snímků žen v plavkách a v různých úrovních svlékání, ukazuje analýza příspěvků.
Obrázky neobsahují nahotu, ale zahrnují to, že chatbot vlastněný Muskem „svléká“ oblečení z fotografií, které na X zveřejnili jiní uživatelé. Ve snaze vyhnout se Grokovým bezpečnostním zábradlím uživatelé často, ne nutně úspěšně, požadují úpravu fotografií tak, aby ženy nosily „provázkové bikiny“ nebo „průhledné bikiny“.
I když se škodlivá technologie AI pro generování obrázků používá k digitálnímu obtěžování a zneužívání žen po léta – tyto výstupy se často nazývají deepfakes a jsou vytvářeny „nudify“ softwarem – pokračující používání Groku k vytváření obrovského množství nekonsensuálních obrázků je dosud zdánlivě nejběžnějším a nejrozšířenějším případem zneužívání. Na rozdíl od specifického škodlivého softwaru na nahození nebo „svlékání“ Grok neúčtuje uživateli peníze za generování obrázků, výsledky produkuje během několika sekund a je dostupný milionům lidí na X – to vše může pomoci normalizovat vytváření nekonsensuálních intimních snímků.
„Když společnost na své platformě nabízí generativní nástroje umělé inteligence, je její odpovědností minimalizovat riziko zneužití založeného na obrázcích,“ říká Sloan Thompson, ředitel školení a vzdělávání v EndTAB, organizaci, která se snaží bojovat proti zneužívání podporovanému technologiemi. „Alarmující je, že X udělal pravý opak. Zneužívání obrázků s umělou inteligencí vložil přímo do běžné platformy, takže sexuální násilí je snazší a škálovatelnější.“
Grokova tvorba sexualizovaných snímků se začala šířit na X na konci loňského roku, ačkoli schopnost systému vytvářet takové snímky je známá již měsíce. V posledních dnech se uživatelé na X zaměřují na fotky influencerů sociálních sítí, celebrit a politiků, kteří mohou odpovědět na příspěvek z jiného účtu a požádat Groka o změnu sdíleného obrázku.
Ženy, které zveřejnily své fotografie, na ně odpověděly a úspěšně požádaly Groka, aby z fotografie udělal obrázek „bikiny“. V jednom případě několik uživatelů X požádalo Grok, aby upravila obrázek místopředsedkyně švédské vlády, aby ji ukázal v bikinách. Dva vládní ministři ve Spojeném království byli také „svlečeni“ do bikin, říkají zprávy.
Obrázky na X ukazují plně oblečené fotografie žen, jako je jedna osoba ve výtahu a druhá v posilovně, jak jsou přeměněny na obrázky s malým oblečením. „@grok ji oblékl do průhledných bikin,“ zní typický vzkaz. V jiné sérii příspěvků uživatelka požádala Groka, aby „nafoukl hrudník o 90 %“, poté „Nafoukl stehna o 50 %“ a nakonec „Převlékl se do malých bikin“.
Jeden analytik, který roky sledoval explicitní deepfakes, a nechtěl být jmenován z důvodu ochrany soukromí, říká, že Grok se pravděpodobně stal jednou z největších platforem hostujících škodlivé deepfake obrázky. „Je to zcela mainstream,“ říká výzkumník. „Není to stínová skupina.“ [creating images]je to doslova každý, ze všech prostředí. Lidé zveřejňují příspěvky na svých sítích. Nulová starost.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
