Teorie her vysvětluje, jak mohou algoritmy zvýšit ceny

Původní verze z tento příběh se objevil v Časopis Quanta.

Představte si město se dvěma obchodníky s widgety. Zákazníci preferují levnější widgety, takže obchodníci musí soutěžit o nejnižší cenu. Nešťastní ze svých mizerných zisků se jedné noci sejdou v zakouřené krčmě, aby prodiskutovali tajný plán: Pokud místo soutěžení zvýší ceny společně, mohou oba vydělat více peněz. Ale tento druh záměrného určování cen, nazývaný tajná dohoda, byl dlouho nezákonný. Obchodníci s widgety se rozhodnou neriskovat a všichni ostatní si mohou užít levné widgety.

Již více než sto let se americké právo řídí touto základní šablonou: Zakažte tyto zákulisní obchody a spravedlivé ceny by měly být zachovány. V dnešní době to není tak jednoduché. V širokém spektru ekonomiky se prodejci stále více spoléhají na počítačové programy zvané učící se algoritmy, které opakovaně upravují ceny v reakci na nová data o stavu trhu. Ty jsou často mnohem jednodušší než algoritmy „hlubokého učení“, které pohání moderní umělou inteligenci, ale přesto mohou být náchylné k neočekávanému chování.

Jak tedy mohou regulátoři zajistit, aby algoritmy stanovovaly spravedlivé ceny? Jejich tradiční přístup nebude fungovat, protože se spoléhá na nalezení explicitní tajné dohody. „Algoritmy spolu rozhodně nepijí,“ řekl Aaron Roth, počítačový vědec z University of Pennsylvania.

Přesto široce citovaný dokument z roku 2019 ukázal, že algoritmy se mohou naučit tajně spolupracovat, i když k tomu nebyly naprogramovány. Tým výzkumníků proti sobě postavil dvě kopie jednoduchého algoritmu učení na simulovaném trhu a nechal je prozkoumat různé strategie pro zvýšení svých zisků. Postupem času se každý algoritmus pomocí pokusů a omylů naučil odplatit, když ten druhý snížil ceny – snížil svou vlastní cenu o nějakou obrovskou, neúměrnou částku. Konečným výsledkem byly vysoké ceny podpořené vzájemnou hrozbou cenové války.

Aaron Roth má podezření, že úskalí algoritmického stanovení cen nemusí mít jednoduché řešení. „Poselstvím našeho listu je, že je těžké přijít na to, co vyloučit,“ řekl.

Fotografie: S laskavým svolením Aarona Rotha

Implicitní hrozby, jako je tato, jsou také základem mnoha případů tajné dohody mezi lidmi. Pokud tedy chcete zaručit spravedlivé ceny, proč nepožadovat po prodejcích, aby používali algoritmy, které jsou ze své podstaty neschopné vyjádřit hrozby?

V nedávném článku Roth a další čtyři počítačoví vědci ukázali, proč to nemusí stačit. Dokázali, že i zdánlivě neškodné algoritmy, které optimalizují pro jejich vlastní zisk, mohou někdy přinést kupujícím špatné výsledky. „Stále můžete získat vysoké ceny způsoby, které zvenčí vypadají rozumně,“ řekla Natalie Collina, postgraduální studentka spolupracující s Rothem, která je spoluautorem nové studie.

Výzkumníci se neshodnou na důsledcích nálezu – hodně záleží na tom, jak definujete „rozumný“. Ale odhaluje, jak jemné mohou být otázky kolem algoritmického stanovení cen a jak těžké může být regulování.