Kdy můžete očekávat, že váš dotaz spustí souhrn výsledků vygenerovaný AI? „U komplexních dotazů se zobrazují přehledy AI,“ říká Mallory De Leon, mluvčí společnosti Google. „Přehledy umělé inteligence najdete ve výsledcích Vyhledávání Google, když naše systémy zjistí, že generativní umělá inteligence může být obzvláště užitečná – například když chcete rychle porozumět informacím z různých zdrojů.“ Během prvních testů jsem měl pocit, že přehledy AI se u dotazů objevovaly téměř náhodně a souhrny se objevovaly u jednoduchých otázek i u složitějších dotazů.
Podle De Leona je přehled AI založen na přizpůsobené verzi modelu Gemini od Googlu, který je doplněn o aspekty firemního vyhledávacího systému, jako je Knowledge Graph, který obsahuje miliardy obecných faktů.
Jedním z mých zásadních váhání ohledně této funkce, jak se zavádí, je pokračující potenciál pro halucinace AI, běžněji známé jako lži. Když komunikujete s chatbotem Gemini od Googlu, ve spodní části se zobrazí prohlášení o vyloučení odpovědnosti: „Blíženci mohou zobrazovat nepřesné informace, včetně informací o lidech, proto si znovu zkontrolujte jeho odpovědi.“ Na konci přehledu AI, který často jednoduše zní: „Generativní umělá inteligence je experimentální“, není žádné takové prohlášení přidáno.
Na otázku, proč zde není žádná zmínka o potenciálních halucinacích pro přehledy AI, De Leon zdůrazňuje, že Google chce stále nabízet vysoce kvalitní výsledky vyhledávání, a zmiňuje, že společnost provedla nepřátelské testy red-teamingu, aby odhalila potenciální slabá místa této funkce.
„Tato implementace generativní umělé inteligence je zakořeněna v základních systémech kvality a bezpečnosti Search, s vestavěnými ochrannými zábradlími, které zabraňují tomu, aby se na povrch dostaly nekvalitní nebo škodlivé informace,“ říká. „Přehledy AI jsou navrženy tak, aby zdůrazňovaly informace, které lze snadno ověřit pomocí podpůrných informací, které objevíme.“
I když to víte, možná budete chtít proklikat odkazy na webové stránky a zkontrolovat, zda jsou informace skutečně správné. I když je těžké si představit, že mnoho uživatelů, kteří často hledají rychlé odpovědi, stráví více času čtením zdrojových materiálů pro odpověď generovanou umělou inteligencí Google.
Liz Reid, vedoucí vyhledávání Google, nedávno řekla mé kolegyni Lauren Goode, že přehledy AI by měly dorazit do zemí mimo Spojené státy do konce roku 2024, takže se s touto novou funkcí pravděpodobně brzy setká více než miliarda lidí. Jako někdo, jehož práce závisí na tom, aby čtenáři skutečně klikali na odkazy a trávili čas čtením článků, se této změny samozřejmě bojím – a nejsem sám.
Kromě obav vydavatelů také zůstává nejasné, jaké další dopady by se na uživatele mohly dostat z přehledů AI společnosti Google. Ano, ChatGPT od OpenAI a další nástroje umělé inteligence jsou v technických kruzích Silicon Valley docela populární, ale tato funkce pravděpodobně vystaví miliardy lidí, kteří nikdy předtím nepoužili chatbota, textu generovanému umělou inteligencí. Přestože jsou přehledy AI navrženy tak, aby vám šetřily čas, mohou vést k méně důvěryhodným výsledkům.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
