Agenti AI jsou tady. Jak moc bychom je měli nechat dělat?

Mám si nastavit osobního agenta AI, aby mi pomáhal s mými každodenními úkoly?

—Hledání pomoci

Jako obecné pravidlo si myslím, že spoléhání se na jakýkoli druh automatizace ve vašem každodenním životě je nebezpečné, když je to dovedeno do extrému, a potenciálně odcizující, i když je používáno s mírou, zejména s ohledem na osobní interakce. Agent AI, který organizuje můj seznam úkolů a shromažďuje online odkazy pro další čtení? Báječný. Agent AI, který mým rodičům každý týden automaticky posílá rychlou aktualizaci života? Strašný.

Nejsilnějším argumentem, proč do své každodenní rutiny nezařazovat více generativních nástrojů umělé inteligence, však zůstává dopad těchto modelů na životní prostředí během školení a vytváření výstupů. S ohledem na to všechno jsem prohrabal archiv společnosti WIRED, publikovaný během slavného úsvitu tohoto nepořádku, kterému říkáme internet, abych našel další historické souvislosti pro vaši otázku. Po chvíli hledání jsem se vrátil s přesvědčením, že už pravděpodobně používáte agenty AI každý den.

Myšlenka agentů umělé inteligence nebo nedej bože „agentní umělé inteligence“ je aktuálním módním slovem pro každého technologického lídra, který se snaží propagovat své nedávné investice. Koncept automatizovaného asistenta, který se věnuje dokončování softwarových úkolů, ale zdaleka není čerstvým nápadem. Tolik diskurzů o „softwarových agentech“ v 90. letech odráží současnou konverzaci v Silicon Valley, kde lídři technologických společností nyní slibují přicházející záplavu generativních agentů poháněných umělou inteligencí vyškolených k tomu, aby za nás dělali online práce.

„Jeden problém, který vidím, je ten, že se lidé budou ptát, kdo je zodpovědný za jednání agenta,“ píše se v rozhovoru WIRED s profesorkou MIT Pattie Maes, původně publikovaném v roce 1995. „Zejména věci jako agenti, kteří zabírají příliš mnoho času na stroji nebo nákup něčeho, co nechcete vaším jménem. Agenti nastolí spoustu zajímavých problémů, ale jsem přesvědčen, že bez nich nebudeme moci žít.“

Začátkem ledna jsem Maes zavolal, abych slyšel, jak se její pohled na agenty AI v průběhu let změnil. Je optimistická jako vždy, pokud jde o potenciál osobní automatizace, ale je přesvědčena, že „extrémně naivní“ inženýři nevěnují dostatek času řešení složitých interakcí mezi člověkem a počítačem. Ve skutečnosti říká, že jejich lehkomyslnost by mohla způsobit další zimu AI.

„Způsob, jakým jsou tyto systémy právě teď stavěny, jsou optimalizovány z technického hlediska, z technického hlediska,“ říká. „Ale nejsou vůbec optimalizovány pro problémy lidského designu.“ Zaměřuje se na to, jak jsou agenti umělé inteligence stále snadno oklamáni nebo se uchylují ke zkresleným předpokladům, a to i přes vylepšení základních modelů. A nesprávná důvěra vede uživatele k tomu, aby důvěřovali odpovědím generovaným nástroji AI, i když by neměli.

Abychom lépe porozuměli dalším potenciálním úskalím osobních agentů umělé inteligence, rozdělme tento mlhavý pojem do dvou odlišných kategorií: na ty, kteří vás živí, a na ty, kteří vás zastupují.

Krmní agenti jsou algoritmy s údaji o vašich zvycích a chutích, které prohledávají množství informací, aby našli to, co je pro vás relevantní. Zní to povědomě, že? Jakýkoli nástroj na doporučení sociálních médií, který vyplňuje časovou osu přizpůsobenými příspěvky nebo nepřetržitý sledovač reklam, který mi po tisícíkrát na Instagramu ukazuje ty houbové gumičky, by mohl být považován za osobního agenta AI. Jako další příklad z rozhovoru z 90. let Maes zmínila agenta pro shromažďování zpráv vyladěného tak, aby přinesl články, které chtěla. To zní jako moje vstupní stránka Zpráv Google.