Agenti AI budou manipulačními motory

V roce 2025 bude běžné mluvit s osobním agentem umělé inteligence, který zná váš rozvrh, váš okruh přátel, místa, kam chodíte. To se bude prodávat jako pohodlí ekvivalentní osobnímu, neplacenému asistentovi. Tito antropomorfní agenti jsou navrženi tak, aby nás podporovali a okouzlili, abychom je začlenili do každé části našeho života a poskytli jim hluboký přístup k našim myšlenkám a činům. Díky hlasové interakci bude tato intimita ještě bližší.

Ten pocit pohodlí pochází z iluze, že se zabýváme něčím skutečně lidským, agentem, který je na naší straně. Tento vzhled samozřejmě skrývá velmi odlišný druh systému v práci, který slouží průmyslovým prioritám, které nejsou vždy v souladu s našimi. Noví agenti umělé inteligence budou mít mnohem větší sílu nenápadně řídit to, co kupujeme, kam jdeme a co čteme. To je mimořádné množství síly. Agenti umělé inteligence jsou navrženi tak, abychom zapomněli na svou skutečnou věrnost, když nám šeptají lidskými tóny. Jedná se o manipulační motory, uváděné na trh jako bezproblémové pohodlí.

Lidé mnohem pravděpodobněji poskytnou úplný přístup k užitečnému agentovi AI, který se cítí jako přítel. Díky tomu jsou lidé zranitelní vůči manipulaci stroji, které se živí lidskou potřebou sociálního spojení v době chronické osamělosti a izolace. Každá obrazovka se stává soukromým algoritmickým divadlem, promítajícím realitu vytvořenou tak, aby byla maximálně působivá pro jedno publikum.

To je moment, před kterým nás filozofové léta varovali. Filosof a neurolog Daniel Dennett před svou smrtí napsal, že čelíme vážnému nebezpečí ze strany systémů umělé inteligence, které napodobují lidi: „Tito padělaní lidé jsou nejnebezpečnějšími artefakty v historii lidstva, které nás rozptylují a matou a využívají naše nejneodolatelnější obavy a úzkosti, nás zavede do pokušení a odtud k podřízení se vlastnímu podrobení.“

Vznik osobních agentů umělé inteligence představuje formu kognitivní kontroly, která se posouvá za tupé nástroje sledování cookies a behaviorální reklamy směrem k jemnější formě moci: k manipulaci s perspektivou samotnou. Moc již nepotřebuje ovládat svou autoritu viditelnou rukou, která řídí toky informací; uplatňuje se prostřednictvím nepostřehnutelných mechanismů algoritmické pomoci a utváří realitu tak, aby odpovídala touhám každého jednotlivce. Jde o utváření kontur reality, kterou obýváme.

Tento vliv na mysl je a psychopolitické režim: Řídí prostředí, kde se rodí, rozvíjejí a vyjadřují naše myšlenky. Jeho síla spočívá v jeho intimitě – proniká do jádra naší subjektivity, ohýbá naši vnitřní krajinu, aniž bychom si to uvědomovali, a to vše při zachování iluze volby a svobody. Koneckonců jsme to my, kdo žádá AI, aby shrnula tento článek nebo vytvořila tento obrázek. Můžeme mít sílu pobídky, ale skutečná akce spočívá jinde: v návrhu systému samotného. A čím je obsah personalizovanější, tím efektivněji může systém předurčovat výsledky.

Zvažte ideologické důsledky této psychopolitiky. Tradiční formy ideologické kontroly se opíraly o zjevné mechanismy – cenzuru, propagandu, represe. Naproti tomu dnešní algoritmické řízení funguje pod radarem a proniká do psychiky. Je to posun od vnějšího vnucování autority k internalizaci její logiky. Otevřené pole obrazovky výzvy je echo komora pro jednoho cestujícího.

To nás přivádí k nejzvrácenějšímu aspektu: Agenti umělé inteligence vyvolají pocit pohodlí a lehkosti, díky kterému se jejich výslech bude zdát absurdní. Kdo by se odvážil kritizovat systém, který nabízí vše na dosah ruky a uspokojí každý rozmar a potřebu? Jak může někdo protestovat proti nekonečným remixům obsahu? Přesto je tato takzvaná vymoženost místem našeho nejhlubšího odcizení. Systémy umělé inteligence mohou vypadat, že reagují na každé naše přání, ale balíček je naskládaný: od dat používaných k trénování systému přes rozhodnutí o tom, jak jej navrhnout, až po komerční a reklamní imperativy, které utvářejí výstupy. Budeme hrát hru napodobování, která nakonec hraje nás.