Sierra říká, že konverzační umělá inteligence zabije aplikace a webové stránky

mohl jsem nechtěně urazil Breta Taylora a Claye Bavora, když jsem s nimi minulý týden dělal rozhovor o jejich novém startupu s umělou inteligencí. Jejich nová společnost, Sierra, vyvíjí agenty s umělou inteligencí, aby velkým společnostem „zvyšovali zákaznickou zkušenost“. Mezi její původní zákazníky patří WeightWatchers, Sonos, SiriusXM a OluKai (oděvní společnost „inspirovaná Havají“). Konečným trhem Sierry je jakákoliv společnost, která komunikuje se svými zákazníky, což je docela velká příležitost. Jejich plán mi připadá jako potvrzení široce vyjádřené předpovědi, že rok 2024 bude rokem, kdy se modely umělé inteligence, které nám v uplynulém roce lámaly hlavu, promění ve skutečné produkty. Takže když jsem pozdravil tyto spoluzakladatele, které znám léta, poznamenal jsem, že jejich společnost se zdá být „velmi šílená“.

Bylo to špatné říct? „Nevím, jestli je to kompliment nebo kritika, nebo jen fakt,“ říká Taylor, který opustil svou práci co-CEO Salesforce a založil Sierru. Ujistil jsem ho, že to vidím spíše jako to druhé. „Není to tak, že stavíš.“ přítelkyně!“ poznamenal jsem.

Je příznačné, že dva z více vizionářských vůdců v Silicon Valley budují startup s umělou inteligencí, aby se nehnali za hloupou trofejí superinteligence, ale aby využili nedávné pokroky v oblasti umělé inteligence k futurizaci netechnických, mainstreamových korporací. Jejich zkušenosti je staví k patě známějším osobnostem v oboru; Taylor byl klíčovým vývojářem Google Maps v aughts a Bavor vedl úsilí společnosti Google o VR. Dychtějí mě ujistit, že jejich srdce jsou stále v režimu měsíčního záběru. Oba mají pocit, že konverzační umělá inteligence je pokrokem srovnatelným s grafickým uživatelským rozhraním nebo chytrým telefonem a bude mít přinejmenším stejný dopad na naše životy. Sierra se náhodou soustředí na specifický, podnikový aspekt tohoto. „V budoucnu bude agent AI společnosti – v podstatě verze AI této společnosti – stejně důležitý jako jejich web,“ říká Taylor. „Úplně to změní způsob, jakým společnosti existují digitálně.“

Aby Sierra postavila své roboty způsobem, který tento úkol zvládne efektivně, příjemně a bezpečně, musela vymyslet několik inovací, které obecně posouvají technologii agentů AI. A aby se vypořádala s možná nejznepokojivějším problémem – halucinacemi, které by mohly zákazníkům poskytnout špatné informace – používá Sierra několik různých modelů umělé inteligence najednou, přičemž jeden model funguje jako „dohlížitel“, aby se ujistil, že agent umělé inteligence nezabočuje do území woo-woo. . Když se něco stane se skutečnými důsledky, Sierra použije svůj přístup založený na síle v číslech. „Pokud si povídáte s agentem WeightWatchers a napíšete zprávu, vyvolá se přibližně čtyři nebo pět různých velkých jazykových modelů, které se rozhodnou, co dělat,“ říká Taylor.

Díky síle, rozsáhlým znalostem a neskutečnému porozumění silným velkým jazykovým modelům AI mohou tito digitální agenti porozumět hodnotám a postupům společnosti stejně jako lidé – a možná dokonce lépe než nějaký nespokojený dělník na severu. Kotelna Dakota. Tréninkový proces se více podobá začleňování zaměstnance, než zavádění pravidel do systému. A co víc, tito roboti jsou dostatečně schopní na to, aby dostali nějakou, ehm, agenturu při obsluhování potřeb volajícího. „Zjistili jsme, že mnoho našich zákazníků mělo politiku, a pak měli za touto politikou další politiku, která je skutečně důležitá,“ říká Bavor. Agenti Sierry jsou dostatečně důmyslní, aby to věděli – a také dost chytří na to, aby hned nerozsypali fazole a poskytli zákazníkům speciální nabídku, pouze pokud zatlačí. Cílem Sierry není nic menšího než posunout automatizované interakce se zákazníky z pekla do štěstí.

To byla ambrózie pro uši jednoho z prvních klientů Sierry, WeightWatchers. Když Taylor a Bavor řekli generální ředitelce Simě Sistani, že agenti umělé inteligence mohou být opravdoví a příbuzní, byla zaujata. Řekla mi však, že rozhodující bylo, když jí spoluzakladatelé řekli, že konverzační umělá inteligence dokáže „empatii ve velkém“. Byla in a nyní WeightWatchers používá agenty vytvořené Sierrou pro své interakce se zákazníky.

Dobře, ale empatie? Slovník Merriam-Webster to definuje jako „akce porozumění, uvědomování si, citlivosti a zástupného prožívání pocitů, myšlenek a zkušeností druhého“. Zeptal jsem se Sistaniho, jestli by to mohlo být protimluvné říkat, že robot může být empatický. Po pauze, kdy jsem skoro slyšel, jak jí v mozku skřípe ozubená kola, vykoktala odpověď. „Je to zajímavé, když to řeknete takto, ale žijeme ve 2D světech. Algoritmy nám pomáhají určit další spojení, které vidíme, a vztah, který vytvoříme. To jsme jako společnost překonali.“ Že což znamená představu, že interakce s robotem nemůže být autentická. IRL je samozřejmě ideál, rychle říká, a agenti jsou spíše doplňkem skutečného života než náhražkou. Ale ona neustoupí z tvrzení o empatii.

Když na ni tlačím příklady, Sistani mi řekne o jedné interakci, kdy člen WW řekl, že musela zrušit své členství kvůli těžkostem. Agent AI ji z lásky bombardoval: „Je mi to tak líto, že… Tyto těžkosti mohou být tak náročné… Dovolte mi, abych vám s tím pomohl.“ A pak jí agent jako kmotře víle pomohl prozkoumat alternativy. „Je nám jasné, že jde o virtuálního asistenta,“ říká Sistani. „Ale kdybychom nebyli, nemyslím si, že bys poznal rozdíl.“