Největší společnosti s umělou inteligencí se setkaly, aby našly lepší cestu pro společníky chatbotů

Na Stanfordu se desítky účastníků účastnily dlouhých rozhovorů o rizicích a výhodách společníků robotů. „Na konci dne jsme skutečně svědky velké shody,“ říká Sunny Liu, ředitel výzkumných programů ve Stanfordu. Zdůraznila nadšení skupiny pro „způsoby, jak můžeme tyto nástroje použít ke sblížení ostatních lidí“.

Bezpečnost mladistvých

Jak mohou společníci umělé inteligence ovlivnit mladé lidi, to bylo primární téma diskuse s pohledy zaměstnanců společnosti Character.AI, která je navržena pro hraní rolí a je oblíbená u teenagerů, stejně jako u odborníků na online zdraví teenagerů, jako je Digital Wellness Lab v Boston Children’s Hospital.

Zaměření na mladší uživatele přichází v době, kdy několik rodičů žaluje výrobce chatbotů, včetně OpenAI a Character.AI, kvůli smrti dětí, které byly v interakci s roboty. OpenAI jako součást své reakce přidala řadu nových bezpečnostních funkcí pro dospívající. A příští týden Character.AI plánuje zakázat uživatelům mladším 18 let přístup k funkci chatu.

V průběhu roku 2025 společnosti s umělou inteligencí buď výslovně, nebo implicitně uznaly, že mohou udělat více pro ochranu zranitelných uživatelů, jako jsou děti, které mohou být v kontaktu se společníky. „Je přijatelné zapojit dítě do rozhovorů, které jsou romantické nebo smyslné,“ stálo v interním dokumentu Meta, který nastiňuje pokyny pro chování AI, podle zprávy agentury Reuters.

Během následného pozdvižení ze strany zákonodárců a rozhořčených rodičů Meta změnila pokyny a aktualizovala bezpečnostní přístup společnosti vůči dospívajícím.

Roleplay Roll Call

Zatímco Character.AI se workshopu účastnila, nikdo z Replika, podobného webu pro hraní rolí, ani Grok, bot Elona Muska se společníky anime NSFW, tam nebyl. Mluvčí Replika a Grok neodpověděli na okamžité žádosti o vyjádření.

Na zcela explicitním konci spektra se objevili tvůrci webu Candy.ai, který se specializuje na chytré chatboty pro heterosexuální muže. Uživatelé platformy určené pouze pro dospělé, kterou vytvořil EverAI, mohou platit peníze za vytváření necenzurovaných obrázků syntetických žen s příběhy na pozadí, které napodobují běžné pornografické tropy. Například mezi společnicemi na domovské stránce Candy patří Mona, „vzpurná nevlastní sestra“, se kterou jste doma sami, a Elodie, dcera přítele, které „právě bylo 18“.