OpenAI dává ChatGPT paměť

OpenAI říká, že ChatGPT’s Memory je ve výchozím nastavení volitelná, což znamená, že ji uživatel musí aktivně vypnout. Paměť lze kdykoli vymazat, buď v nastavení, nebo jednoduše pokynem robotu, aby ji vymazal. Jakmile je nastavení paměti vymazáno, tyto informace nebudou použity k trénování modelu AI. Není přesně jasné, kolik z těchto osobních údajů se používá k výcviku AI zatímco někdo chatuje s chatbotem. A vypnutí paměti neznamená, že jste se úplně odhlásili z toho, aby vaše chaty trénovaly model OpenAI; to je samostatné odhlášení.

Společnost také tvrdí, že nebude ukládat určité citlivé informace do paměti. Pokud sdělíte ChatGPT své heslo (toto nedělejte) nebo číslo sociálního zabezpečení (nebo toto), paměť aplikace je naštěstí zapomnětlivá. Jang také říká, že OpenAI stále vyžaduje zpětnou vazbu o tom, zda další osobně identifikovatelné informace, jako je etnická příslušnost uživatele, nejsou příliš citlivé na to, aby je společnost mohla automaticky zachytit.

„Myslíme si, že pro tento příklad existuje mnoho užitečných případů, ale prozatím jsme model vycvičili tak, aby se vyhýbal proaktivnímu zapamatování těchto informací,“ říká Jang.

Je snadné vidět, jak se funkce ChatGPT Memory mohla zvrtnout – případy, kdy uživatel mohl zapomenout, že se jednou chatbota zeptal na problém, potratovou kliniku nebo nenásilný způsob, jak jednat s tchyní, jen aby připomenout nebo nechat ostatní vidět v budoucím chatu. Otevřenou otázkou je také to, jak paměť ChatGPT zpracovává zdravotní data. „Směrujeme ChatGPT od toho, aby si pamatoval určité zdravotní detaily, ale stále se na tom pracujeme,“ říká mluvčí OpenAI Niko Felix. Tímto způsobem je ChatGPT stejná píseň, jen v nové éře, o stálosti internetu: Podívejte se na tuto skvělou novou funkci paměti, dokud to není chyba.

OpenAI také není první entitou, která si pohrává s pamětí v generativní AI. Google v Gemini 1.0, své vlastní LLM, zdůraznil technologii „více otáček“. To znamená, že můžete komunikovat s Gemini Pro pomocí výzvy k jednomu otočení – jedno otočení tam a zpět mezi uživatelem a chatbotem – nebo vést víceotáčkovou nepřetržitou konverzaci, ve které si bot „pamatuje“ kontext z předchozích zpráv.

Společnost zabývající se frameworkem pro umělou inteligenci LangChain vyvíjí paměťový modul, který pomáhá velkým jazykovým modelům vyvolat předchozí interakce mezi koncovým uživatelem a modelem. Poskytnutí dlouhodobé paměti LLM „může být velmi účinné při vytváření jedinečných zkušeností s LLM – chatbot může začít přizpůsobovat své odpovědi vám jako jednotlivci na základě toho, co o vás ví,“ říká Harrison Chase, spoluzakladatel a generální ředitel LangChain. „Nedostatek dlouhodobé paměti může také vytvořit dojemný zážitek. Nikdo nechce znovu a znovu říkat chatbotovi na doporučení restaurace, že je vegetarián.“

Tato technologie je někdy označována jako „retence kontextu“ nebo „trvalý kontext“ spíše než „paměť“, ale konečný cíl je stejný: aby se interakce mezi člověkem a počítačem cítila tak plynulá, tak přirozená, že uživatel může snadno zapomenout. co si chatbot může pamatovat. To je také potenciální výhoda pro podniky nasazující tyto chatboty, které by mohly chtít udržovat trvalý vztah se zákazníkem na druhém konci.

„Můžete si to představit jen jako určitý počet tokenů, které se připojují k vašim konverzacím,“ říká Liam Fedus, vědec zabývající se výzkumem OpenAI. „Ten robot má určitou inteligenci a v zákulisí se dívá na vzpomínky a říká: ‚Vypadají, jako by spolu souvisejí; nech mě je sloučit.“ A to pak jde na váš symbolický rozpočet.“

Fedus a Jang říkají, že paměť ChatGPT se ani zdaleka neblíží kapacitě lidského mozku. A přesto, téměř stejným dechem, Fedus vysvětluje, že s pamětí ChatGPT jste omezeni na „několik tisíc tokenů“. Kdyby jen.

Je to ten hypervigilantní virtuální asistent, který byl zákazníkům v posledních deseti letech slibován, nebo jen další schéma zachycování dat, které využívá vaše oblíbenosti, preference a osobní údaje, aby lépe sloužilo technologické společnosti než jejím uživatelům? Možná obojí, i když OpenAI to tak nemusí vyjádřit. „Myslím, že asistenti z minulosti prostě neměli inteligenci,“ řekl Fedus, „a teď se tam dostáváme.“

Will Knight přispěl k tomuto příběhu.