YouTube aktualizoval svou knihu pravidel pro éru deepfakes. Ode dneška musí každý, kdo nahraje video na platformu, zveřejnit určitá použití syntetických médií, včetně generativní umělé inteligence, aby diváci věděli, že to, co vidí, není skutečné. YouTube říká, že se to vztahuje na „realistická“ pozměněná média, jako je „aby to vypadalo, jako by skutečná budova začala hořet“ nebo záměna „tváří jednoho jednotlivce s obličejem druhého“.
Nové zásady ukazují, že YouTube podniká kroky, které by mohly pomoci omezit šíření dezinformací generovaných umělou inteligencí, když se blíží prezidentské volby v USA. Zarážející je také to, co umožňuje: animace generované umělou inteligencí zaměřené na děti nepodléhají novým pravidlům zpřístupňování syntetického obsahu.
Nové zásady YouTube zcela vylučují animovaný obsah z požadavku na zveřejnění. To znamená, že vznikající scéna podvodníků s obsahem generovaným umělou inteligencí, kteří rychle zbohatnou, mohou neustále chrlit videa zaměřená na děti, aniž by museli zveřejňovat své metody. Rodiče, kteří se zajímají o kvalitu narychlo vytvořených videí s říkankami, budou muset sami identifikovat karikatury vytvořené umělou inteligencí.
Nová politika YouTube také říká, že tvůrci nemusí označovat použití umělé inteligence pro „drobné“ úpravy, které jsou „primárně estetické“, jako jsou filtry krásy nebo čištění videa a zvuku. Použití umělé inteligence k „generování nebo vylepšení“ skriptu nebo titulků je také povoleno bez zveřejnění.
Na YouTube není nouze o obsah nízké kvality vytvořený bez umělé inteligence, ale generativní nástroje umělé inteligence snižují laťku při vytváření videa způsobem, který urychluje jeho produkci. Mateřská společnost YouTube, Google, nedávno uvedla, že ladí své vyhledávací algoritmy, aby snížila nedávnou záplavu clickbaitů generovaných umělou inteligencí, kterou umožňují nástroje jako ChatGPT. Technologie generování videa je méně vyspělá, ale rychle se zlepšuje.
Zavedený problém
YouTube je dětský zábavní moloch, trpasličí konkurenti jako Netflix a Disney. Platforma se v minulosti potýkala s problémy s moderováním obrovského množství obsahu zaměřeného na děti. Dostala se pod palbu kvůli hostování obsahu, který vypadá povrchně vhodný nebo lákavý pro děti, ale při bližším sledování obsahuje nechutná témata.
WIRED nedávno informoval o vzestupu kanálů YouTube zaměřených na děti, které zřejmě používají nástroje pro generování videa AI k výrobě nekvalitních videí s obecnými 3D animacemi a nestandardními iteracemi oblíbených dětských říkanek.
Výjimka pro animace v nových zásadách YouTube by mohla znamenat, že rodiče nebudou moci snadno filtrovat taková videa z výsledků vyhledávání nebo zabránit algoritmu doporučení YouTube v automatickém přehrávání karikatur vygenerovaných umělou inteligencí poté, co své dítě nastaví ke sledování oblíbených a důkladně prověřených kanálů, jako jsou PBS Kids nebo Ms. Rachel.
Některý problematický obsah generovaný umělou inteligencí zaměřený na děti vyžaduje nahlášení podle nových pravidel. V roce 2023 BBC prozkoumala vlnu videí zaměřených na starší děti, která využívala nástroje AI k prosazování pseudovědy a konspiračních teorií, včetně popírání klimatických změn. Tato videa napodobovala konvenční vzdělávací videa v přímém přenosu – ukazující například skutečné pyramidy v Gíze – takže je nic netušící diváci mohli zaměnit za fakticky přesný vzdělávací obsah. (Videa o pyramidách pak pokračovala v naznačování, že struktury mohou vyrábět elektřinu.) Tato nová politika by proti tomuto typu videa zasáhla.
„Požadujeme, aby tvůrci dětského obsahu zveřejnili obsah, který je smysluplně pozměněn nebo synteticky vytvořen, když se zdá realistický,“ říká mluvčí YouTube Elena Hernandez. „Nepožadujeme zveřejnění obsahu, který je zjevně nerealistický a neklame diváka, aby si myslel, že je skutečný.“
Specializovaná dětská aplikace YouTube Kids je spravována pomocí kombinace automatických filtrů, kontroly člověkem a zpětné vazby od uživatelů, aby bylo možné najít dobře vytvořený obsah pro děti. Ale mnoho rodičů jednoduše používá hlavní aplikaci YouTube k vyhledávání obsahu pro své děti, přičemž se spoléhají na nápadné názvy videí, seznamy a miniatury, aby posoudili, co je vhodné.
Dosud byla většina zjevně AI vytvořeného dětského obsahu WIRED nalezeného na YouTube špatně vytvořena podobným způsobem jako konvenčnější dětské animace s nízkou námahou. Mají ošklivé vizuální prvky, nesouvislé zápletky a nulovou vzdělávací hodnotu – ale nejsou jedinečně ošklivé, nesouvislé nebo pedagogicky bezcenné.
Nástroje AI usnadňují produkci takového obsahu a ve větším objemu. Některé z kanálů WIRED, které zjistily, nahrávají dlouhá videa, některé hodně přes hodinu. Požadavek štítků na dětském obsahu generovaném umělou inteligencí by mohl rodičům pomoci odfiltrovat karikatury, které mohly být publikovány s minimální – nebo zcela bez – lidské prověrky.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
