Během spánku Lidský mozek se třídí různými vzpomínkami a upevňuje důležité a zároveň vyřazuje ty, na kterých nezáleží. Co kdyby AI mohla udělat totéž?
Bilt, společnost, která nabízí místní nákupní a restaurační nabídky nájemcům, nedávno nasadila několik milionů agentů s nadějí, že to udělá.
Bilt používá technologii z startupu s názvem Letta, který umožňuje agentům učit se z předchozích konverzací a vzájemně sdílet vzpomínky. Pomocí procesu s názvem „Sleeptime Compute“ agenti rozhodují, jaké informace ukládat v jeho dlouhodobém paměťovém trezoru a co by mohlo být potřebné pro rychlejší stažení.
„Můžeme provést jednu aktualizaci na a.“ [memory] Blokujte a mají chování stovek tisíc agentů se mění, “říká Andrew Fitz, inženýr AI v Biltu.„ To je užitečné v jakémkoli scénáři, ve kterém chcete jemnozrnnou kontrolu nad kontextem agentů, “dodává s odkazem na textovou výzvu k modelu v době inference.
Velké jazykové modely mohou obvykle „vyvolat“ věci, pokud jsou informace zahrnuty do okna kontextu. Pokud chcete, aby si chatbot vzpomněl na vaši poslední konverzaci, musíte jej vložit do chatu.
Většina systémů AI dokáže zvládnout omezené množství informací v okně kontextu před jejich schopností používat data ochablá a halucinace nebo zmatení. Naproti tomu lidský mozek je schopen podat užitečné informace a později si je vzpomenout.
„Váš mozek se neustále zlepšuje a přidává další informace, jako je houba,“ říká Charles Packer, generální ředitel společnosti Letta. „U jazykových modelů je to jako pravý opak. Tyto jazykové modely provozujete ve smyčce dostatečně dlouho a kontext se otráví; vykolejili se a chcete jen resetovat.“
Packer a jeho spoluzakladatelka Sarah Wooders dříve vyvinula Memgpt, projekt open-source, jehož cílem bylo pomoci LLMS rozhodnout, jaké informace by měly být uloženy v krátkodobé vs. dlouhodobé paměti. S Letta duo rozšířilo svůj přístup k tomu, aby se agenty učily v pozadí.
Spolupráce společnosti Bilt s Letta je součástí širšího tlaku, aby AI poskytla schopnost ukládat a vyvolávat užitečné informace, což by mohlo způsobit, že chatbots chytřejší a agenty jsou méně náchylné k chybám. Paměť zůstává nedostatečně rozvinutá v moderní AI, která podle odborníků, s nimiž jsem mluvil, podkopává inteligenci a spolehlivost nástrojů AI.
Harrison Chase, spoluzakladatel a generální ředitel společnosti Langchain, další společnost, která vyvinula metodu pro zlepšení paměti u agentů AI, říká, že vidí paměť jako zásadní součást kontextového inženýrství – kde uživatel nebo inženýr rozhoduje, jaké informace se mohou krmit do kontextového okna. Langchain nabízí společnostem několik různých druhů paměťových úložišť pro agenty, od dlouhodobých faktů o uživatelích po vzpomínky na nedávné zkušenosti. „Paměť, tvrdil bych, je forma kontextu,“ říká Chase. „Velká část práce inženýra AI je v zásadě získat model ten správný kontext [information]“
Nástroje AI spotřebitelů se také postupně stávají méně zapomněním. Letos v únoru OpenAI oznámil, že ChatGPT bude ukládat relevantní informace, aby uživatelům poskytl osobní zkušenost – ačkoli společnost nezveřejnila, jak to funguje.
Letta a Langchain dělají proces stažení transparentnější pro inženýry budování AI systémů.
„Myslím, že je velmi důležité nejen pro otevřené modely, ale také pro otevřené systémy paměti,“ říká Clem Delangue, generální ředitel hostitelské platformy AI, která objímala tvář a investor v Letta.
Je zajímavé, že generální ředitel společnosti Letta Packer naznačuje, že by mohlo být také důležité, aby se modely AI dozvěděly, na co zapomenout. „Pokud uživatel řekne:“ ten jeden projekt, na kterém jsme pracovali, vymažte z vaší paměti „, měl by se agent schopen vrátit a zpětně přepsat každou jednotlivou paměť.“
Pojem umělých vzpomínek a snů mě nutí myslet na Sní Androids o elektrických ovcích? Autor: Philip K. Dick, román ohýbání mysli, který inspiroval stylově dystopický film Blade Runner. Velké jazykové modely ještě nejsou tak působivé jako vzpurní replikátoři příběhu, ale zdá se, že jejich vzpomínky mohou být stejně křehké.
Toto je vydání Will Knight’s AI Lab Newsletter. Přečtěte si předchozí zpravodaje zde.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
