Generátor obrázků „Probuzený“ od Googlu ukazuje omezení AI

Krajně pravicový internetový troll Ian Miles Cheong obvinil celou situaci na Krawczyka, kterého označil za „probuzeného, ​​rasou posedlého idiota“, přičemž odkazoval na příspěvky na X z doby před lety, kde Krawczyk uznal existenci systémového rasismu a bílých privilegií.

„Nyní jsme našim dementním lžím poskytli nadlidskou inteligenci,“ Jordan Peterson napsal na jeho X účtu s odkazem na příběh o situaci.

Ale realita je taková, že Blíženci nebo jakýkoli podobný generativní systém umělé inteligence nemá „nadlidskou inteligenci“, ať už to znamená cokoliv. Pokud něco, tato situace ukazuje, že opak je pravdou.

Jak Marcus zdůrazňuje, Blíženci nedokázali rozlišit mezi historickým požadavkem, jako je žádost o ukázku posádky Apolla 11, a současným požadavkem, jako je žádost o snímky současných astronautů.

Historicky byly modely umělé inteligence včetně Dall-E od OpenAI sužovány zaujatostí a ukazovaly nebílé lidi, když byli požádáni o obrázky vězňů, řekněme, nebo výhradně bílé lidi, když byli vyzváni, aby ukázali generální ředitele. Problémy Gemini nemusí odrážet nepružnost modelu, „ale spíše přílišnou kompenzaci, pokud jde o reprezentaci diverzity v Gemini,“ říká Sasha Luccioni, výzkumník ze startupu Hugging Face s umělou inteligencí. „Zaujatost je opravdu spektrum a je opravdu těžké zasáhnout správnou notu a vzít v úvahu věci, jako je historický kontext.“

V kombinaci s omezeními modelů umělé inteligence může tato kalibrace jít obzvlášť špatně. „Modely generování obrázků ve skutečnosti nemají žádnou představu o čase,“ říká Luccioni, „takže v podstatě jakýkoli druh diverzifikačních technik, které tvůrci Gemini použili, by byly široce použitelné na jakýkoli obrázek generovaný modelem. Myslím, že to je to, co tady vidíme.“

Zatímco se rodící se průmysl umělé inteligence pokouší potýkat s tím, jak se vypořádat s předpojatostí, Luccioni říká, že nalezení správné rovnováhy, pokud jde o zastoupení a rozmanitost, bude obtížné.

„Nemyslím si, že existuje jediná správná odpověď a neexistuje ‚nezaujatý‘ model,“ řekl Luccioni. „Různé společnosti k tomu zaujaly různé postoje. Vypadá to rozhodně legračně, ale zdá se, že Google přijal a Bridgerton přístup ke generování obrazu a myslím, že je to svým způsobem osvěžující.“