Přehledy AI společnosti Google budou vždy rozbité. Tak funguje umělá inteligence

Týden poté, co jeho algoritmy doporučily lidem jíst kameny a dát lepidlo na pizzuGoogle ve čtvrtek přiznal, že potřebuje upravit svou odvážnou novou generativní funkci vyhledávání AI. Tato epizoda zdůrazňuje rizika agresivní snahy společnosti Google komercializovat generativní AI – a také zrádná a základní omezení této technologie.

Funkce Google AI Overviews čerpá z Gemini, velkého jazykového modelu, jako je ten, který stojí za ChatGPT OpenAI, a generuje písemné odpovědi na některé vyhledávací dotazy shrnutím informací nalezených online. Současný boom umělé inteligence je postaven na působivé plynulosti LLM s textem, ale software může tuto možnost využít také k tomu, aby přesvědčivě nastínil nepravdy nebo chyby. Použití technologie pro shrnutí příslibů online informací může usnadnit trávení výsledků vyhledávání, ale je nebezpečné, když jsou online zdroje omezené nebo když lidé mohou použít informace k důležitým rozhodnutím.

„Rychlý prototyp nyní můžete získat poměrně rychle pomocí LLM, ale vytvořit jej tak, aby vám neříkal, že máte jíst kameny, vyžaduje hodně práce,“ říká Richard Socher, který zásadním způsobem přispěl k umělé inteligenci pro jazyky. jako výzkumník a koncem roku 2021 spustil vyhledávač zaměřený na umělou inteligenci s názvem You.com.

Socher říká, že spor o LLM vyžaduje značné úsilí, protože základní technologie nemá skutečné pochopení světa a protože web je prošpikován nedůvěryhodnými informacemi. „V některých případech je lepší vám ve skutečnosti nejen dát odpověď, nebo vám ukázat několik různých úhlů pohledu,“ říká.

Vedoucí vyhledávání společnosti Google Liz Reid ve čtvrtek na blogu společnosti uvedla, že před spuštěním přehledů AI provedla rozsáhlé testování. Dodala však, že chyby, jako jsou příklady pojídání kamene a lepené pizzy – ve kterých algoritmy Googlu čerpaly informace ze satirického článku a vtipného komentáře na Redditu – si vyžádaly další změny. Zahrnují lepší detekci „nesmyslných dotazů“, říká Google, a tím, že se systém méně spoléhá na obsah vytvářený uživateli.

You.com se běžně vyhýbá druhům chyb, které zobrazují přehledy AI společnosti Google, říká Socher, protože jeho společnost vyvinula asi tucet triků, jak zabránit tomu, aby se LLM při vyhledávání špatně chovaly.

„Jsme přesnější, protože jsme vynaložili mnoho prostředků na to, abychom byli přesnější,“ říká Socher. You.com mimo jiné používá webový index vytvořený na míru, který má LLM pomoci vyhnout se nesprávným informacím. K zodpovězení konkrétních dotazů také vybírá z více různých LLM a používá citační mechanismus, který dokáže vysvětlit, kdy si zdroje odporují. Správné vyhledávání AI je však složité. WIRED v pátek zjistil, že You.com nedokázal správně zodpovědět dotaz, o kterém je známo, že podrazil jiné systémy umělé inteligence, a uvedl, že „na základě dostupných informací neexistují žádné africké národy, jejichž jména začínají písmenem ‚K‘.“ V předchozích testech zvládl dotaz.

Generativní upgrade AI od Googlu na jeho nejrozšířenější a lukrativní produkt je součástí restartu v celém technickém průmyslu inspirovaného vydáním chatbota ChatGPT od OpenAI v listopadu 2022. Pár měsíců po debutu ChatGPT Microsoft, klíčový partner OpenAI, využila svou technologii k upgradu svého také provozovaného vyhledávače Bing. Upgradovaný Bing byl sužován chybami generovanými umělou inteligencí a podivným chováním, ale generální ředitel společnosti, Satya Nadella, řekl, že tento krok byl navržen tak, aby zpochybnil Google a řekl: „Chci, aby lidé věděli, že jsme je přiměli tančit.“

Někteří odborníci se domnívají, že Google upgradoval AI. „Překvapuje mě, že to spustili tak, jak to je, na tolik dotazů – lékařských, finančních – myslel jsem si, že budou opatrnější,“ říká Barry Schwartz, redaktor zpravodajství Search Engine Land, publikace, která sleduje průmysl vyhledávání. Společnost měla lépe předvídat, že někteří lidé se záměrně pokusí podrazit přehledy AI, dodává. „Google na to musí být chytrý,“ říká Schwartz, zvláště když výsledky zobrazují jako výchozí na svém nejcennějším produktu.

Lily Ray, konzultantka optimalizace pro vyhledávače, byla rok beta testerem prototypu, který předcházel přehledům AI, který Google nazval Search Generative Experience. Říká, že ji nepřekvapilo, když viděla chyby, které se objevily minulý týden, vzhledem k tomu, jak měla předchozí verze tendenci jít stranou. „Myslím, že je prakticky nemožné, aby vždy bylo vše v pořádku,“ říká Ray. „To je povaha AI.“