Čínský plán vytvořit AI vodoznaky

Čínští regulátoři se pravděpodobně poučili ze zákona EU o umělé inteligenci, říká Jeffrey Ding, odborný asistent politologie na Univerzitě George Washingtona. „Čínští tvůrci politik a vědci řekli, že čerpali ze zákonů EU jako inspiraci pro věci v minulosti.“

Některá opatření přijatá čínskými regulátory však zároveň nejsou v jiných zemích skutečně replikovatelná. Čínská vláda například žádá sociální platformy, aby prověřovaly obsah nahraný uživateli na přítomnost umělé inteligence. „Zdá se, že je to něco, co je velmi nové a může být jedinečné pro čínský kontext,“ říká Ding. „To by v kontextu USA nikdy neexistovalo, protože USA jsou známé tím, že platforma není zodpovědná za obsah.“

Ale co svoboda projevu online?

Návrh nařízení o označování obsahu AI čeká na zpětnou vazbu veřejnosti do 14. října a může trvat dalších několik měsíců, než bude upraven a schválen. Čínské společnosti však nemají důvod odkládat přípravy na dobu, kdy vstoupí v platnost.

Sima Huapeng, zakladatel a generální ředitel čínské společnosti AIGC Silicon Intelligence, která využívá technologie deepfake ke generování agentů AI, influencerů a replikaci živých a mrtvých lidí, říká, že jeho produkt nyní umožňuje uživatelům dobrovolně se rozhodnout, zda vygenerovaný produkt označí jako AI. Pokud ale zákon projde, možná ho bude muset změnit na povinný.

„Pokud je funkce volitelná, pak ji společnosti s největší pravděpodobností do svých produktů nepřidají. Ale pokud to bude povinné ze zákona, pak to musí zavést každý,“ říká Sima. Přidávat vodoznaky nebo štítky metadat není technicky obtížné, ale společnostem, které vyhovují požadavkům, to zvýší provozní náklady.

Politiky, jako je tato, mohou odvrátit AI od použití k podvodům nebo invazi do soukromí, říká, ale také by mohly vyvolat růst černého trhu se službami AI, kde se společnosti snaží vyhnout dodržování zákonů a ušetřit na nákladech.

Existuje také tenká hranice mezi tím, že se producenti obsahu AI budou zodpovídat, a dohledem nad jednotlivými projevy prostřednictvím sofistikovanějšího sledování.

„Velkou základní výzvou v oblasti lidských práv je ujistit se, že tyto přístupy dále neohrozí soukromí nebo svobodu projevu,“ říká Gregory. Zatímco implicitní štítky a vodoznaky lze použít k identifikaci zdrojů dezinformací a nevhodného obsahu, stejné nástroje mohou platformám a vládě umožnit mít silnější kontrolu nad tím, co uživatelé zveřejňují na internetu. Obavy z toho, jak se mohou nástroje umělé inteligence zkazit, byly ve skutečnosti jednou z hlavních hnacích sil čínského úsilí o proaktivní legislativu v oblasti umělé inteligence.

Čínský průmysl umělé inteligence zároveň tlačí zpět na vládu, aby měla více prostoru pro experimentování a růst, protože již zaostává za svými západními protějšky. Dřívější čínský zákon o generativní AI byl mezi prvním veřejným návrhem a konečným návrhem zákona značně oslaben, odstranil požadavky na ověřování identity a snížil sankce uvalované na společnosti.

„Viděli jsme, že se čínská vláda skutečně snaží jít po tomto jemném laně mezi ‚ujištěním, že udržujeme kontrolu nad obsahem‘, ale také ‚tím, že tyto laboratoře umělé inteligence ve strategickém prostoru mají svobodu inovovat‘,“ říká Ding. „Toto je další pokus o to.“