Nedávno jsem byl na dovolené v Itálii. Stejně jako v těchto dnech jsem prošel svůj itinerář kolem GPT-5 pro návrhy památek a doporučení restaurací. Bot hlásil, že nejlepší volbou na večeři v blízkosti našeho hotelu v Římě byla krátká procházka po Via Margutta. Ukázalo se, že je to jedno z nejlepších jídel, které si pamatuji. Když jsem se vrátil domů, zeptal jsem se modelky, jak si vybrala tu restauraci, kterou zde váhám prozradit pro případ, že bych někdy v budoucnu chtěl stůl (Sakra, kdo ví, jestli se vůbec vrátím: Jmenuje se Babette. Zavolejte předem pro rezervaci.) Odpověď byla složitá a působivá. Mezi faktory patřily nadšené recenze od místních obyvatel, oznámení v blozích o jídle a italském tisku a v restauraci oslavovaná kombinace římské a současné kuchyně. Jo a ta krátká procházka.
Něco bylo požadováno i z mého konce: důvěra. Musel jsem se smířit s myšlenkou, že GPT-5 byl čestný makléř, který si mou restauraci vybral bez zaujatosti; že se mi restaurace nezobrazovala jako sponzorovaný obsah a nedostávala mi škrt ze šeku. Mohl jsem udělat hluboký průzkum sám, abych si znovu zkontroloval doporučení (vyhledal jsem web), ale smyslem použití AI je obejít toto tření.
Tato zkušenost posílila mou důvěru ve výsledky umělé inteligence, ale také mě přiměla přemýšlet: Jak společnosti jako OpenAI získávají na síle a jak se snaží splácet svým investorům, bude umělá inteligence náchylná k erozi hodnoty, která se zdá být endemická pro technologické aplikace, které dnes používáme?
Slovní hra
Spisovatel a technický kritik Cory Doctorow nazývá tuto erozi „enshitification“. Jeho předpokladem je, že platformy jako Google, Amazon, Facebook a TikTok začínají s cílem potěšit uživatele, ale jakmile společnosti porazí konkurenty, záměrně se stanou méně užitečnými pro větší zisky. Poté, co WIRED znovu publikoval Doctorowovu průkopnickou esej o tomto fenoménu z roku 2022, vstoupil tento termín do lidové mluvy, hlavně proto, že lidé poznali, že je naprosto na místě. Enshittification bylo zvoleno slovem roku 2023 American Dialect Society. Tento koncept byl citován tak často, že přesahuje jeho vulgárnost a objevuje se na místech, která by se nad takovým slovem normálně chytla za nos. Doctorow právě vydal stejnojmennou knihu na toto téma; titulní obrázek je emoji pro… hádejte co.
Pokud se chatboti a agenti umělé inteligence rozzlobí, mohlo by to být horší, než že Vyhledávání Google bude méně užitečné, výsledky Amazonu budou zamořeny reklamami a dokonce Facebook bude zobrazovat méně sociálního obsahu ve prospěch návnady vyvolávající hněv.
Umělá inteligence je na trajektorii, aby byla stálým společníkem a poskytovala jednorázové odpovědi na mnoho našich požadavků. Lidé na něj již spoléhají, že jim pomůže interpretovat aktuální události a získat rady ohledně nejrůznějších nákupních možností – a dokonce i životních rozhodnutí. Vzhledem k obrovským nákladům na vytvoření plnohodnotného modelu umělé inteligence je spravedlivé předpokládat, že v této oblasti bude dominovat pouze několik společností. Všichni plánují v příštích letech utratit stovky miliard dolarů za vylepšení svých modelů a dostat je do rukou co největšímu počtu lidí. Právě teď bych řekl, že AI je ve fázi, kterou Doctorow nazývá „dobré pro uživatele“. Ale tlak na vrácení masivních kapitálových investic bude obrovský – zvláště pro společnosti, jejichž uživatelská základna je uzamčena. Tyto podmínky, jak píše Doctorow, umožňují společnostem zneužít své uživatele a firemní zákazníky „k získání veškeré hodnoty pro sebe“.
Když si člověk představí shittifikaci AI, první věc, která ho napadne, je reklama. Noční můrou je, že modely AI budou vydávat doporučení na základě toho, které společnosti za umístění zaplatily. To se nyní neděje, ale firmy zabývající se umělou inteligencí aktivně zkoumají reklamní prostor. V nedávném rozhovoru generální ředitel OpenAI Sam Altman řekl: „Věřím, že pravděpodobně existuje nějaký skvělý reklamní produkt, který můžeme udělat, a který je pro uživatele čistým ziskem a svým způsobem pozitivním pro náš vztah s uživatelem.“ Mezitím OpenAI právě oznámila dohodu s Walmartem, takže zákazníci prodejce mohou nakupovat v aplikaci ChatGPT. Nedovedu si tam představit konflikt! Vyhledávací platforma AI Perplexity má program, kde se sponzorované výsledky objevují v jasně označených následných akcích. Slibuje však, že „tyto reklamy nezmění náš závazek udržovat důvěryhodnou službu, která vám poskytuje přímé a nezaujaté odpovědi na vaše otázky.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
