Organizace spojených národů chce s umělou inteligencí zacházet se stejnou naléhavostí jako se změnou klimatu

Dnes zveřejněná zpráva Organizace spojených národů navrhuje, aby mezinárodní orgán dohlížel na první skutečně globální úsilí o monitorování a řízení umělé inteligence.

Zpráva, kterou vypracoval poradní orgán na vysoké úrovni pro AI generálního tajemníka OSN, doporučuje vytvoření orgánu podobného Mezivládnímu panelu pro změnu klimatu, který by shromažďoval aktuální informace o AI a jejích rizicích.

Zpráva vyzývá k novému politickému dialogu o umělé inteligenci, aby 193 členů OSN mohlo diskutovat o rizicích a dohodnout se na akcích. Dále doporučuje, aby OSN podnikla kroky k posílení postavení chudších zemí, zejména těch na globálním jihu, aby těžily z umělé inteligence a přispívaly k její správě. Mezi ně by mělo patřit vytvoření fondu pro umělou inteligenci na podporu projektů v těchto zemích, vytvoření standardů umělé inteligence a systémů pro sdílení dat a vytvoření zdrojů, jako je školení na pomoc zemím s řízením umělé inteligence. Některá doporučení zprávy by mohla usnadnit Global Digital Compact, existující plán na řešení digitálních a datových propastí mezi národy. Nakonec navrhuje vytvoření úřadu pro umělou inteligenci v rámci OSN věnovaného koordinaci stávajícího úsilí v rámci OSN o splnění cílů zprávy.

„Máte mezinárodní společenství, které souhlasí s tím, že umělá inteligence přináší škody i rizika a také příležitosti,“ říká Alondra Nelson, profesorka Institutu pro pokročilá studia, která působila v poradním orgánu OSN na doporučení Bílého. Sněmovna a ministerstvo zahraničí.

Pozoruhodné schopnosti, které v posledních letech prokázaly velké jazykové modely a chatboty, vyvolaly naděje na revoluci v ekonomické produktivitě, ale také přiměly některé odborníky varovat, že AI se možná vyvíjí příliš rychle a brzy se může stát obtížně ovladatelným. Nedlouho poté, co se objevil ChatGPT, mnoho vědců a podnikatelů podepsalo dopis vyzývající k šestiměsíční pauze ve vývoji technologie, aby mohla být vyhodnocena rizika.

Bezprostřednější obavy zahrnují potenciál AI automatizovat dezinformace, vytvářet hluboce falešné video a audio, hromadně nahrazovat pracovníky a zhoršovat společenské algoritmické zaujatosti v průmyslovém měřítku. „Je tu pocit naléhavosti a lidé cítí, že musíme spolupracovat,“ říká Nelson.

Návrhy OSN odrážejí velký zájem politiků na celém světě o regulaci umělé inteligence za účelem zmírnění těchto rizik. Ale také to přichází, když se hlavní mocnosti – zejména Spojené státy a Čína – snaží vést technologii, která slibuje obrovské ekonomické, vědecké a vojenské výhody, a protože tyto státy vytyčují své vlastní vize, jak by měla být použita a kontrolované.

V březnu Spojené státy představily rezoluci OSN, která vyzývá členské státy, aby přijaly vývoj „bezpečné, bezpečné a důvěryhodné umělé inteligence“. V červenci Čína představila vlastní usnesení, které zdůraznilo spolupráci při vývoji umělé inteligence a zpřístupnění této technologie široké veřejnosti. Obě dohody podepsaly všechny členské státy OSN.

„AI je součástí americko-čínské konkurence, takže je toho jen tolik, na čem se shodnou,“ říká Joshua Meltzer, expert z Brookings Institute, think-tanku ve Washingtonu, DC. Mezi klíčové rozdíly podle něj patří, jaké normy a hodnoty by měla ztělesňovat AI a ochrana soukromí a osobních údajů.