2. listopadu, 2022, zúčastnil jsem se akce Google AI v New Yorku. Jedním z témat byl zodpovědný AI. Když jsem poslouchal vedoucí pracovníky, hovoří o tom, jak sladili svou technologii s lidskými hodnotami, uvědomil jsem si, že poddatelnosti modelů AI je dvojitý meč. Modely by mohly být vylepšeny tak, aby minimalizovaly zkreslení, ale také k prosazování konkrétního pohledu. Vlády by mohly požadovat manipulaci, aby cenzurovala nevítaná fakta a podpořila propagandu. Představoval jsem si to jako něco, co by mohl použít autoritářský režim, jako je Čína. Ve Spojených státech by ústava samozřejmě zabránila vládě v tom, aby se zmást výstupy modelů AI vytvořených soukromými společnostmi.
Tuto středu vydala Trumpova administrativa svůj manifest AI, dalekosáhlý akční plán pro jeden z nejdůležitějších problémů, kterým země čelí-a dokonce i lidstvo. Plán se obecně zaměřuje na nejlepší Čínu v závodě o nadřazenost AI. Ale jedna část se zdá být více synchronizovaná s čínskou hrací knihou. Ve jménu pravdy americká vláda nyní chce, aby modely AI dodržovaly definici tohoto slova Donalda Trumpa.
Tento záměr nenajdete jasně uvedený v 28stránkovém plánu. Místo toho se říká: „Je nezbytné, aby tyto systémy byly postaveny od základů s ohledem na svobodu projevu a projevu a že vládní politika USA nezasahuje do tohoto cíle. Musíme zajistit, aby svoboda projevu vzkvétala v éře AI a že AI pořízená federální vládou objektivně odráží pravdu než agentury sociálního inženýrství.“ “
To je v pořádku až do poslední věty, která vyvolává otázku – podle koho? A co přesně jde o „agendu sociálního inženýrství“? V příštím odstavci, který nařídí ministerstvu obchodu, o tom dostaneme ponětí, aby se podíval na pravidla AI Biden a „odstranil odkazy na dezinformace, rozmanitost, spravedlnost a začlenění a změnu klimatu“. (Weird Uppercase, jak je napsáno v publikovaném plánu.) Potvrzení změna klimatu Je sociální inženýrství? Pokud jde o pravdu, Bílý dům v listu o plánu říká: „LLMS bude pravdivý a upřednostňuje historickou přesnost, vědecké šetření a objektivitu.“ Zní to dobře, ale to pochází z administrativy, která omezuje americkou historii na „povznášející“ interpretace, popírá změnu klimatu a považuje tvrzení Donalda Trumpa o tom, že je největším americkým prezidentem za objektivní pravdu. Mezitím, právě tento týden, Trumpova pravda sociální účet repostoval video AI Obamy ve vězení.
V řeči, který ve středu ve Washingtonu vychvaloval plán, Trump vysvětlil logiku směrnice: „Američané nechtějí probudit marxistickou šílenství v modelech AI,“ řekl. Poté podepsal výkonný příkaz s názvem „Prevence AI ve federální vládě“. Ačkoli určuje, že „federální vláda by měla váhat regulovat funkčnost modelů AI na soukromém trhu,“ prohlašuje, že „v kontextu federálního zadávání veřejných zakázek má povinnost nezabírat modely, které obětují pravdivost a přesnost ideologických programů.“ Vzhledem k tomu, že všechny velké společnosti AI vycházejí z vládních smluv, zdá se, že příkaz je úsilím o zákulisí, aby zajistil, že LLM obecně projevují falešnost interpretaci historie, sexuální identity a dalších problémů s horkými tlačítky. V případě, že existuje pochybnosti o tom, co vláda považuje za porušení, příkaz utratí několik odstavců démonizujících AI, která podporuje rozmanitost, vyvolává rasovou zaujatost nebo si cení rovnosti pohlaví. Pogo Alert-Trumpův výkonný příkaz zakazující ideologickou zaujatost shora dolů je očividným cvičením v ideologickém zaujatosti shora dolů.
Marx Madness
Je na společnostech, aby určily, jak tyto požadavky zvládnout. Tento týden jsem hovořil s inženýrem OpenAI, který pracoval na chování modelu, který mi řekl, že společnost již usiluje o neutralitu. V technickém smyslu řekli, že splnění vládních standardů, jako je protičlen, by nemělo být obrovskou překážkou. Ale to není technický spor: je to ústavní. Pokud se společnosti jako Antropic, Openai nebo Google rozhodnou pokusit se minimalizovat rasovou zaujatost ve svých LLM nebo se rozhodnout, aby se zajistilo, že reakce modelů odrážejí nebezpečí změny klimatu, první změna pravděpodobně chrání tato rozhodnutí jako vykonávání „svobody projevu a projevu“, která byla uvedena v akčním plánu AI. Vládní mandát, který popírá vládní smlouvy společnostem, které uplatňují toto právo, je podstatou zásahu.
Možná si myslíte, že společnosti, které staví AI, by se bránily a citovaly jejich ústavní práva v této otázce. Doposud však žádná velká technologická společnost veřejně protestovala proti plánu Trump Administration. Google oslavil podporu Bílého domu s problémy s domácími mazlíčky, jako je zvýšení infrastruktury. Antropic publikoval pozitivní blogový příspěvek o plánu, i když si stěžoval na náhlé zdánlivé opuštění silného vývozního kontroly začátkem tohoto měsíce. OpenAI říká, že je již blízko k dosažení objektivity. Nic o prosazování jejich vlastní svobody projevu.
V akci
Ostrannost je pochopitelná, protože celkově je akční plán AI pro společnosti AI bonanza. Zatímco Biden Administration nařídila kontrolu velké techniky, Trumpův plán je pro průmysl velkým tlustým zeleným světlem, které považuje za partnera v národním boji o porážku Číny. Umožňuje moc AI v podstatě foukat kolem environmentálních námitek při výstavbě masivních datových center. Zavázává podporu výzkumu AI, který bude proudit do soukromého sektoru. Existuje dokonce ustanovení, které omezuje některé federální fondy pro státy, které se snaží regulovat AI samy o sobě. To je cena útěchy za neúspěšnou část nedávného návrhu zákona o rozpočtu, která by po desetiletí zakázala státní regulaci.
Pro nás ostatní však není pořadí „anti-broko“ tak snadno kartáčovaný. AI je stále více médium, podle kterého dostáváme zprávy a informace. Zakládajícím principem Spojených států byla nezávislost takových kanálů od vládních zásahů. Viděli jsme, jak současná administrativa má mateřské společnosti Cowed of Media Giants, jako je CBS, aby zjevně ohrozily jejich novinářské principy, aby upřednostňovaly firemní cíle. Rozšířením této „anti-bdělé“ agendy na modely AI není nepřiměřené očekávat podobné ubytování. Senátor Edward Markey napsal přímo generálním ředitelům Abecedy, antropického, OpenAI, Microsoftu a Meta, kteří je naléhali na to, aby bojovali proti rozkazu. „Podrobnosti a implementační plán pro tento výkonný příkaz zůstávají nejasné,“ píše, „ale vytvoří významné finanční pobídky pro velké technologické společnosti … aby zajistily, že jejich chatboty AI nevytvářejí řeč, která by narušila Trumpovu správu.“ Ve svém prohlášení řekl: „Republikáni chtějí použít sílu vlády, aby chatgpt zněl jako Fox & Friends“
Jak byste mohli mít podezření, tento pohled není sdílen týmem Bílého domu, který pracuje na plánu AI. Domnívají se, že jejich cílem je skutečná neutralita a že daňoví poplatníci by neměli platit za modely AI, které neodrážejí nezaujatou pravdu. Samotný plán ukazuje na prst v Číně jako příklad toho, co se stane, když je pravda manipulována. Nařídí vládě, aby prozkoumala hraniční modely z Čínské lidové republiky, aby určila „sladění s čínskou komunistickou stranou mluvící body a cenzurou“. Pokud firemní vládci AI nedostanou nějakou páteř, budoucí hodnocení americký Frontier modely mohou dobře odhalit zarovnání LockStep s mluvením Bílého domu a cenzury. Ale možná to nezjistíte dotazem na model AI. Příliš probudil.
Toto je vydání Steven Levy’s Zpravodaj backchannel. Přečtěte si předchozí pokrytí od Stevena Levyho zde.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
