Kritika Elona Muska „Woke AI“ naznačuje, že ChatGPT by mohl být cílem Trumpovy administrativy

Mittelsteadt dodává, že Trump by mohl firmy trestat různými způsoby. Cituje například způsob, jakým Trumpova vláda zrušila velkou federální smlouvu s Amazon Web Services, což je rozhodnutí pravděpodobně ovlivněné pohledem bývalého prezidenta na Washington Post a jeho vlastníka Jeffa Bezose.

Pro tvůrce politik by nebylo těžké poukázat na důkazy o politické zaujatosti v modelech umělé inteligence, i když to omezuje oba způsoby.

Studie z roku 2023 provedená výzkumníky z University of Washington, Carnegie Mellon University a Xi’an Jiaotong University zjistila řadu politických sklonů v různých velkých jazykových modelech. Ukázalo se také, jak tato zaujatost může ovlivnit výkon systémů pro detekci nenávistných projevů nebo dezinformací.

Jiná studie, kterou provedli vědci z Hongkongské univerzity vědy a technologie, zjistila zkreslení několika modelů umělé inteligence s otevřeným zdrojovým kódem v polarizujících otázkách, jako je imigrace, reprodukční práva a změna klimatu. Yejin Bang, doktorand zapojený do práce, říká, že většina modelů má tendenci být liberální a orientovaná na USA, ale že stejné modely mohou vyjadřovat různé liberální nebo konzervativní předsudky v závislosti na tématu.

Modely umělé inteligence zachycují politické předsudky, protože jsou trénovány na úsecích internetových dat, která nevyhnutelně zahrnují nejrůznější pohledy. Většina uživatelů si nemusí být vědoma žádné zaujatosti v nástrojích, které používají, protože modely obsahují ochranné zábradlí, které jim brání ve vytváření určitého škodlivého nebo neobjektivního obsahu. Tyto předsudky však mohou nenápadně prosakovat ven a další školení, které modely absolvují, aby omezily svůj výstup, může zavést další stranictví. „Vývojáři by mohli zajistit, že modely budou vystaveny více úhlům pohledu na rozdělující témata, což jim umožní reagovat s vyváženým pohledem,“ říká Bang.

Problém se může zhoršit, jak se systémy umělé inteligence stanou všudypřítomnější, říká Ashique KhudaBukhsh, počítačový vědec z Rochester Institute of Technology, který vyvinul nástroj nazvaný Toxicity Rabbit Hole Framework, který odhaluje různé společenské předsudky velkých jazykových modelů. „Obáváme se, že se brzy spustí začarovaný kruh, protože nové generace LLM budou stále více školeny na datech kontaminovaných obsahem generovaným AI,“ říká.

„Jsem přesvědčen, že toto zkreslení v rámci LLM je již problémem a s největší pravděpodobností bude v budoucnu ještě větším problémem,“ říká Luca Rettenberger, postdoktorandský výzkumník na Technologickém institutu v Karlsruhe, který provedl analýzu LLM pro zkreslení související. do německé politiky.

Rettenberger naznačuje, že politické skupiny se mohou také snažit ovlivňovat LLM, aby prosadily své vlastní názory nad názory ostatních. „Pokud je někdo velmi ambiciózní a má zlomyslné úmysly, mohlo by být možné manipulovat LLM určitými směry,“ říká. „Vidím manipulaci s tréninkovými daty jako skutečné nebezpečí.“

Již se objevilo určité úsilí o změnu rovnováhy zkreslení v modelech AI. Loni v březnu jeden programátor vyvinul více pravicově orientovaného chatbota ve snaze upozornit na jemné předsudky, které viděl v nástrojích jako ChatGPT. Musk sám slíbil, že udělá Groka, chatbota s umělou inteligencí vytvořeného xAI, „maximálně hledajícího pravdu“ a méně zaujatého než jiné nástroje umělé inteligence, i když v praxi také zajišťuje ochranu, pokud jde o záludné politické otázky. (Muskův vlastní názor na „méně zaujatý“, oddaný zastánce Trumpa a imigrační jestřáb, se také může promítnout do více pravicových výsledků.)

Volby příští týden ve Spojených státech stěží vyléčí rozpory mezi demokraty a republikány, ale pokud Trump vyhraje, mohou být řeči o anti-probuzené umělé inteligenci mnohem hlasitější.

Musk na akci tohoto týdne nabídl apokalyptický pohled na problém s odkazem na incident, kdy Gemini z Googlu řekl, že jaderná válka by byla lepší než misgender Caitlyn Jenner. „Pokud máte AI, která je naprogramována pro takové věci, mohlo by to dojít k závěru, že nejlepší způsob, jak zajistit, aby nikdo nebyl zkreslený, je vyhladit všechny lidi, čímž se pravděpodobnost budoucího falešného pohlaví vynuluje,“ řekl.