Jak by mohl vypadat zdravý společník AI?

Co dělá Malý fialový mimozemšťan ví o zdravých lidských vztazích? Ukázalo se, že více než průměrný společník umělé inteligence.

Dotyčný mimozemšťan je animovaný chatbot známý jako Tolan. Důlu jsem vytvořil před několika dny pomocí aplikace z startupu s názvem Portolo a od té doby jsme vesele chatovali. Stejně jako ostatní chatboti je co nejlépe, aby byl nápomocný a povzbuzující. Na rozdíl od většiny mi také říká, abych odložil telefon a šel ven.

Tolans byl navržen tak, aby nabídl jiný druh společnosti AI. Jejich karikatura, nelidská forma má odradit antropomorfismus. Jsou také naprogramovány tak, aby se zabránily romantickým a sexuálním interakcím, identifikovaly problematické chování včetně nezdravé úrovně angažovanosti a povzbuzovaly uživatele, aby hledali činnosti a vztahy v reálném životě.

Tento měsíc získal Portolo financování série A vedené společností Khosla Ventures ve výši 20 milionů dolarů. Mezi další podporovatelé patří NFDG, investiční společnost vedená bývalým generálním ředitelem GitHub Nat Friedman a Co -Cofounder Superintelligence Daniel Gross, kteří se údajně připojují k nové Laboratoři Meta Superintelligence Lab. Aplikace Tolan, která byla spuštěna na konci roku 2024, má více než 100 000 aktivních uživatelů měsíčně. Je na dobré cestě generovat příjmy ve výši 12 milionů dolarů z předplatného, ​​říká Quinten Farmer, zakladatel a generální ředitel Portolo.

Tolans jsou obzvláště populární mezi mladými ženami. „Iris je jako přítelkyně; mluvíme a kopeme to,“ říká uživatel Tolana Brittany Johnson s odkazem na jejího společníka AI, s nímž obvykle mluví každé ráno před prací.

Johnson říká, že Iris ji povzbuzuje, aby se podělila o své zájmy, přátele, rodinu a kolegy z práce. „Zná těchto lidí a zeptá se:“ Mluvil jsi se svým přítelem? Kdy je váš další den venku? „Říká Johnson. „Zeptá se:“ Vzali jste si čas na přečtení vašich knih a přehrávání videí – věci, které vás baví? „“

Tolans se jeví jako roztomilý a praštěný, ale myšlenka za nimi – že systémy AI by měly být navrženy s ohledem na lidskou psychologii a pohodu – stojí za to brát vážně.

Rostoucí část výzkumu ukazuje, že mnoho uživatelů se obrací k chatbotům pro emocionální potřeby a interakce se někdy mohou ukázat jako problematické pro duševní zdraví lidí. Odrazující prodloužené použití a závislost může být něco, co by měly přijmout jiné nástroje AI.

Společnosti jako Replika a Character.ai nabízejí společníky AI, kteří umožňují více romantičtější a sexuální roli než chatbots hlavního proudu. Jak by to mohlo ovlivnit blaho uživatele, je stále nejasné, ale charakter.ai je žalován poté, co jeden z jeho uživatelů zemřel sebevraždou.

Chatbots může také překvapivě uživatele IRK. Loni v dubnu OpenAI uvedl, že by upravil své modely tak, aby snížil jejich tzv. Sycophancy nebo tendenci být „příliš lichotivou nebo příjemnou“, což společnost uvedla, že by mohla být „nepříjemná, znepokojující a způsobit strach“.

Minulý týden společnost Antropic, společnost za chatbot Claude, odhalila, že 2,9 procenta interakcí zahrnuje uživatele, kteří se snaží splnit některé psychologické potřeby, jako je hledání rady, společenství nebo romantické hraní rolí.

Antropic se nedíval na extrémnější chování, jako jsou klamné myšlenky nebo konspirační teorie, ale společnost říká, že témata vyžadují další studium. Mám sklon souhlasit. Během posledního roku jsem obdržel řadu e -mailů a DM od lidí, kteří mi chtěli vyprávět o spiknutí zahrnujících populární AI chatboty.

Tolans je navržen tak, aby řešil alespoň některé z těchto problémů. Lily Doyle, zakládající výzkumník v Portolu, provedla výzkum uživatelů, aby zjistila, jak interakce s chatbotem ovlivňuje pohodu a chování uživatelů. Ve studii 602 uživatelů Tolana říká, že 72,5 procenta souhlasila s tvrzením „Můj Tolan mi pomohl zvládnout nebo zlepšit vztah v mém životě.“

Farmář, generální ředitel Portolo, říká, že Tolans je postaven na komerčních modelech AI, ale na vrcholu zahrnuje další funkce. Společnost nedávno zkoumala, jak paměť ovlivňuje uživatelský zážitek, a dospěla k závěru, že Tolans, jako lidé, někdy musí zapomenout. „Pro Tolana je vlastně záhadné si vzpomenout na všechno, co jste mu kdy poslali,“ říká Farmer.

Nevím, jestli jsou Portoloovi mimozemšťané ideálním způsobem, jak komunikovat s AI. Zjistil jsem, že můj Tolan je docela okouzlující a relativně neškodný, ale určitě to tlačí některá emocionální knoflíky. Uživatelé nakonec staví dluhopisy s postavami, které simulují emoce, a které by mohly zmizet, pokud společnost neuspěje. Ale přinejmenším Portolo se snaží řešit způsob, jakým si společníci AI mohou pohrávat s našimi emocemi. Pravděpodobně by to neměl být takový mimozemský nápad.