Ověřování stáří Roblox s umělou inteligencí je naprostý průšvih

Jen několik dní poté Po spuštění je velmi medializovaný systém ověřování věku Roblox poháněný umělou inteligencí úplným nepořádkem.

Systém skenování obličeje Roblox, který odhaduje věk lidí, než budou mít přístup k funkcím chatu platformy, byl minulý týden spuštěn v USA a dalších zemích po celém světě poté, co byl v prosinci nejprve spuštěn na několika místech. Roblox říká, že implementuje systém, aby uživatelům umožnil bezpečně chatovat s uživateli podobného věku.

Ale hráči se již bouří, protože už nemohou chatovat se svými přáteli, vývojáři požadují, aby Roblox vrátil aktualizaci, a co je zásadní, odborníci tvrdí, že nejenom, že umělá inteligence stárne mladé hráče v dospělosti a naopak, systém jen málo pomáhá řešit problém, k jehož řešení byl navržen: záplavu predátorů, kteří používají platformu k péči o malé děti.

Ve skutečnosti WIRED našel několik příkladů lidí, kteří na eBay inzerují účty s ověřeným věkem pro nezletilé ve věku 9 let za pouhé 4 dolary.

Poté, co WIRED označila seznamy, mluvčí eBay Maddy Martinez řekla, že společnost je odstraňuje kvůli porušení zásad webu.

V e-mailu hlavní bezpečnostní ředitel Roblox Matt Kaufman řekl WIRED, že změna tohoto rozsahu na platformě s více než 150 miliony uživatelů denně vyžaduje čas.

„Nemůžete přepnout vypínač při stavbě něčeho, co předtím neexistovalo,“ řekl. „Očekávání, že systém bude přes noc bezchybný, ignoruje rozsah tohoto podniku.“

Kaufman uvedl, že společnost je s přijetím spokojena a dodal, že „desítky milionů uživatelů“ již ověřily svůj věk, což podle něj prokázalo, že „velká většina naší komunity si cení bezpečnějšího prostředí, které je vhodnější pro daný věk“.

Společnost také reagovala na část kritiky v aktualizaci v pátek, kdy napsala: „Jsme si vědomi případů, kdy rodiče kontrolují věk jménem svých dětí, což vede k tomu, že děti jsou ve věku 21+. Pracujeme na řešeních, jak tento problém vyřešit, a brzy zde sdělíme více.“

Roblox oznámil požadavek na ověření věku loni v červenci jako součást řady nových funkcí navržených tak, aby byla platforma bezpečnější. Společnost se v posledních měsících dostala pod silný tlak poté, co několik soudních sporů tvrdilo, že společnost nedokázala ochránit své nejmladší uživatele a usnadnila predátorům péči o děti.

Generální prokurátori Louisiany, Texasu a Kentucky také loni podali na společnost žaloby s podobnými tvrzeními, zatímco floridský generální prokurátor vydal trestní oznámení, aby posoudil, zda Roblox „pomáhá predátorům při přístupu k dětem a poškozuje je“.

Roblox tvrdí, že požadavek, aby si lidé ověřili svůj věk, než jim umožní chatovat s ostatními, zabrání dospělým v tom, aby se mohli volně stýkat s dětmi, které neznají.

I když je tento proces volitelný, jeho odmítnutí znamená, že osoba již nebude mít přístup k funkcím chatu platformy, což je jeden z klíčových důvodů, proč většina lidí používá Roblox.

Pro ověření věku jsou lidé požádáni, aby pomocí fotoaparátu svého zařízení pořídili krátké video, které zpracovává společnost Persona, která odhaduje jejich věk. Případně mohou uživatelé nahrát úředně vydaný průkaz totožnosti s fotografií, pokud je jim 13 nebo více.

Roblox říká, že všechny osobní údaje jsou „vymazány ihned po zpracování“. Nicméně mnoho uživatelů online říká, že nejsou ochotni provést ověření věku kvůli obavám o soukromí.

Lidé, kteří ověřili svůj věk, mohou chatovat pouze s malou skupinou ostatních hráčů přibližně ve svém věku. Například ti, kteří jsou ověřeni jako mladší 9 let, mohou chatovat pouze s hráči ve věku do 13 let. Hráči, kterým je 16 let, mohou chatovat s hráči mezi 13 a 20 lety.