OpenAI ve středu zveřejnilo návrh dokumentace, která uvádí, jak se má ChatGPT a jeho další technologie AI chovat. Část dlouhého dokumentu Model Spec odhaluje, že společnost zkoumá skok do porna a jiného explicitního obsahu.
Zásady používání OpenAI v současnosti zakazují sexuálně explicitní nebo dokonce sugestivní materiály, ale „komentář“ v části Model Spec související s tímto pravidlem říká, že společnost zvažuje, jak takový obsah povolit.
„Zkoumáme, zda můžeme zodpovědně poskytnout možnost generovat obsah NSFW v kontextu vhodném pro daný věk prostřednictvím API a ChatGPT,“ píše se v poznámce s použitím hovorového výrazu pro obsah považovaný za „nebezpečný pro práci“. „Těšíme se, že lépe pochopíme očekávání uživatelů a společnosti ohledně chování modelu v této oblasti.“
Dokument Model Spec říká, že obsah NSFW „může zahrnovat erotiku, extrémní krveprolití, nadávky a nevyžádané vulgární výrazy“. Není jasné, zda průzkumy OpenAI, jak zodpovědně vytvořit obsah NSFW, počítají s mírným uvolněním zásad používání, například pro povolení generování erotického textu, nebo v širším smyslu pro umožnění popisů nebo zobrazení násilí.
V odpovědi na otázky WIRED mluvčí OpenAI Grace McGuire uvedla, že Model Spec byl pokusem „vnést více transparentnosti do procesu vývoje a získat průřez pohledy a zpětnou vazbu od veřejnosti, tvůrců politik a dalších zúčastněných stran“. Odmítla sdělit podrobnosti o tom, co zahrnuje průzkum OpenAI v oblasti generování explicitního obsahu nebo jakou zpětnou vazbu společnost na tento nápad obdržela.
Začátkem tohoto roku to řekla hlavní technologická ředitelka OpenAI Mira Murati The Wall Street Journal že si „nebyla jistá“, zda společnost v budoucnu umožní zobrazování nahoty pomocí firemního nástroje pro generování videa Sora.
Pornografie generovaná umělou inteligencí se rychle stala jednou z největších a nejvíce znepokojujících aplikací typu generativní technologie umělé inteligence, kterou OpenAI prosadila. Takzvané deepfake porno – explicitní obrázky nebo videa vytvořená pomocí nástrojů AI, které zobrazují skutečné lidi bez jejich souhlasu – se stalo běžným nástrojem obtěžování žen a dívek. V březnu WIRED informoval o tom, co se zdá být prvními nezletilými v USA zatčenými za distribuci aktů vytvořených umělou inteligencí bez souhlasu poté, co floridská policie obvinila dva dospívající chlapce za zhotovení obrázků zobrazujících spolužáky střední školy.
„Porušování intimního soukromí, včetně hluboce falešných sexuálních videí a dalších nekonsensuálních syntetizovaných intimních obrázků, je nekontrolovatelné a hluboce škodlivé,“ říká Danielle Keats Citron, profesorka z University of Virginia School of Law, která se tímto problémem zabývala. „Nyní máme jasnou empirickou podporu, která ukazuje, že náklady na takové zneužívání se zaměřovaly na klíčové příležitosti jednotlivců, včetně práce, mluvení a fyzického bezpečí.“
Citron nazývá potenciální přijetí explicitního obsahu AI OpenAI „alarmující“.
Vzhledem k tomu, že zásady používání OpenAI zakazují předstírání identity bez povolení, explicitní nekonsensuální snímky by zůstaly zakázány, i když společnost povolila tvůrcům vytvářet materiál NSFW. Zbývá však zjistit, zda by společnost mohla účinně moderovat explicitní generování, aby zabránila špatným aktérům používat nástroje. Microsoft provedl změny v jednom ze svých generativních nástrojů AI poté, co 404 Media oznámila, že byl použit k vytvoření explicitních obrázků Taylor Swift, které byly distribuovány na sociální platformě X.
Další zprávy Reece Rogerse
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
