Google se omezil na explicitní Deepfakes

Před několika týdny vyhledávání na Googlu pro „deepfake akty jennifer aniston“ přineslo nejméně sedm vysoce kvalitních výsledků, které údajně obsahovaly explicitní obrázky herečky generované AI. Nyní zmizely.

Produktová manažerka Google Emma Highamová říká, že nové úpravy způsobu hodnocení výsledků společnosti, které byly zavedeny v letošním roce, již snížily vystavení falešným explicitním obrázkům o více než 70 procent při vyhledáváních hledajících tento obsah o konkrétní osobě. Tam, kde se kdysi mohly objevit problematické výsledky, se algoritmy Google zaměřují na propagaci zpravodajských článků a jiného neexplicitního obsahu. Vyhledávání Aniston nyní vrací články jako „Jak falešné AI porno Taylor Swift představuje hrozbu“ a další odkazy, jako je varování generálního prokurátora Ohia před „podvody s propagací falešných celebrit“, které cílí na spotřebitele.

„S těmito změnami si lidé mohou přečíst o dopadu, jaký mají deepfakes na společnost, místo aby viděli stránky se skutečnými nesouhlasnými falešnými obrázky,“ napsal Higham ve středu na firemním blogu.

Změna žebříčku následuje po šetření WIRED z tohoto měsíce, které odhalilo, že vedení společnosti Google v posledních letech odmítlo řadu nápadů navržených zaměstnanci a externími odborníky v boji proti rostoucímu problému intimních zobrazení lidí šířících se online bez jejich svolení.

Zatímco Google usnadnil žádost o odstranění nežádoucího explicitního obsahu, oběti a jejich obhájci požadovali proaktivnější kroky. Společnost se však snažila vyhnout tomu, aby se stala přílišným regulátorem internetu nebo poškodila přístup k legitimnímu pornu. Mluvčí společnosti Google v reakci na to uvedl, že několik týmů pilně pracuje na posílení záruk proti tomu, co nazývá nekonsensuální explicitní snímky (NCEI).

Rozšiřující se dostupnost generátorů obrázků AI, včetně některých s několika omezeními na jejich použití, vedla podle obhájců obětí k nárůstu NCEI. Tyto nástroje usnadnily téměř každému vytvářet falešné explicitní obrázky jakéhokoli jednotlivce, ať už je to spolužák ze střední školy nebo mega-celebrita.

V březnu analýza WIRED zjistila, že Google obdržel více než 13 000 žádostí o odstranění odkazů na tucet nejpopulárnějších webových stránek, které hostují explicitní deepfakes. Google odstranil výsledky v přibližně 82 procentech případů.

V rámci nového zásahu Google Higham říká, že společnost začne uplatňovat tři z opatření, aby snížila zjistitelnost skutečných, ale nechtěných explicitních obrázků na ty, které jsou syntetické a nechtěné. Poté, co Google vyhoví žádosti o zastavení šíření pro sexualizovaný deepfake, pokusí se udržet duplikáty mimo výsledky. Bude také filtrovat explicitní obrázky z výsledků v dotazech podobných těm, které jsou uvedeny v žádosti o zastavení šíření. A konečně, weby, na které se vztahuje „velký objem“ úspěšných žádostí o zastavení šíření, budou čelit degradaci ve výsledcích vyhledávání.

„Tyto snahy jsou navrženy tak, aby lidem dodaly klid, zvláště pokud mají obavy z podobného obsahu, který se o nich v budoucnu objeví,“ napsal Higham.

Google uznal, že opatření nefungují dokonale, a bývalí zaměstnanci a obhájci obětí uvedli, že by mohli jít mnohem dál. Vyhledávač důrazně varuje lidi v USA, kteří hledají nahé obrázky dětí, že takový obsah je nezákonný. Účinnost varování je nejasná, ale je to potenciální odstrašující prostředek podporovaný obhájci. Navzdory zákonům zakazujícím sdílení NCEI se podobná varování neobjevují u vyhledávání, která hledala sexuální faleš dospělých. Mluvčí Google potvrdil, že se to nezmění.