„AI je drahá. Buďme k tomu upřímní,“ říká Anand.
Růst vs. bezpečnost
V říjnu 2024 podala matka dospívajícího, který zemřel sebevraždou, proti neoprávněnému smrti proti znakovým technologiím, jejím zakladatelům, Google a Alphabet, kteří tvrdili, že společnost se zaměřila na svého syna „antropomorfním, hypersexualizovaným a děsivě realistickým zážitkům, zatímco programování, při programování, zatímco programování [the chatbot] zkreslit se jako skutečný člověk, licencovaný psychoterapeut a milenec pro dospělé. “ V té době mluvčí postavy.
Tragický incident dal charakter.ai pod intenzivní kontrolou. Začátkem tohoto roku napsali američtí senátoři Alex Padilla a Peter Welch dopis na několik platforem společnosti AI Companionship, včetně charakteru.ai, zdůrazňující obavy o „duševní a bezpečnostní rizika představovaná pro mladé uživatele“ platforem.
„Tým to bere velmi zodpovědně téměř rok,“ říká mi Anand. „AI je stochastická, je to trochu těžké pochopit, co se blíží. Takže to není jednorázová investice.“
To je kriticky důležité, protože charakter.ai roste. Startup má 20 milionů aktivních uživatelů měsíčně, kteří v průměru utratí 75 minut denně chatováním s robotem („charakter“ charakteru.ai řeč). Uživatelská základna společnosti je 55 procent žen. Více než 50 procent jeho uživatelů je Gen Z nebo Gen Alpha. S tímto růstem přichází skutečné riziko – co dělá Anand, aby udrželi jeho uživatele v bezpečí?
„[In] Posledních šest měsíců jsme investovali nepřiměřené množství zdrojů do schopnosti sloužit pod 18 jinak než více než 18 let, což nebylo v loňském roce, “říká Anand. Nakonec vytvoříte velmi odlišnou aplikaci a jinou platformu v malém měřítku. “
Více než 10 ze 70 zaměstnanců společnosti pracuje na plný úvazek na důvěře a bezpečnosti, říká mi Anand. Jsou zodpovědní za budování záruk, jako je ověření věku, samostatné modely pro uživatele do 18 let, a nové funkce, jako jsou rodičovské poznatky, které rodičům umožňují vidět, jak jejich dospívající aplikaci používají.
Model do 18 let byl spuštěn loni v prosinci. Podle mluvčí společnosti Kathryn Kelly zahrnuje „užší sadu prohledávatelných postav na platformě“. „Na tuto sadu byly použity filtry k odstranění znaků souvisejících s citlivými nebo zralými tématy.“
Ale Anand říká, že bezpečnost AI bude trvat více než jen technické vylepšení. „Zajištění této platformy je partnerství mezi regulačními orgány, USA a rodiči,“ říká Anand. To je to, co dělá sledování jeho dcery chatovat s postavou tak důležitým. „To pro ni musí zůstat v bezpečí.“
Mimo společnost
Trh AI Companionship trh roste. Spotřebitelé po celém světě utratili 68 milionů dolarů na společnost AI v první polovině letošního roku, což je o 200 % nárůst oproti minulému roku, podle odhadu citovaného CNBC. Startupy AI střílejí na kousek trhu: Xai v červenci vydal strašidelného pornofikovaného společníka a dokonce Microsoft účtuje svůj Copilot Chatbot jako společník AI.
Jak tedy vyčnívá charakter.ai na přeplněném trhu? Z toho se úplně vytáhne.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
