Big Tech poskytuje kampaním jed i protilátku proti GenAI

Demokratičtí tech lídři, jako je výkonný ředitel Zinc Labs Matt Hodges, mi řekli, že školicí kampaně o těchto nástrojích by nyní mohly zabránit bolestem hlavy dále.

„Nechceme tento proces zahájit za šest měsíců. Od dnešního dne si udržíme náskok před touto křivkou,“ říká Hodges, který byl také bývalým technickým ředitelem pro Biden 2020. Zinc Labs také poskytuje školení AI pro kampaně.

Začátkem tohoto roku podepsaly velké technologické společnosti jako Amazon, Google, Meta a Microsoft pakt, v němž souhlasí se zavedením „rozumných opatření“, aby jejich generativní nástroje umělé inteligence nepřispívaly k nějaké volební katastrofě po celém světě. Dohoda požaduje, aby společnosti detekovaly a označovaly klamavý obsah vytvořený pomocí AI.

Microsoft a Google začlenily své programy pro označování a vodoznaky také do workshopů kampaně. Microsoft říká, že poskytuje rychlokurz o svých „obsahových pověřeních“ nebo technologii vodoznaků a vysvětluje kampaním, jak je mohou použít na své vlastní materiály kampaně, aby zajistili jejich autenticitu. Podobně Google vysvětluje svůj vlastní program SynthID, který označuje obrázky vytvořené jeho nástroji AI.

Právě tyto typy režimů ověřování obsahu věří Big Tech, které by mohly zmírnit rizika hlubokých padělků, laciných padělků a dalších forem obsahu upraveného umělou inteligencí z narušení amerických voleb.

Ale navzdory podepsání technických dohod a dalších dobrovolných opatření žádná z těchto metod ověřování není spolehlivá, jak již dříve uvedla Kate Knibbs z WIRED.

A je to trochu složitější než jen propagace ověřování obsahu pro Microsoft a Google. Jejich chatboti s umělou inteligencí, Copilot a Gemini, také neprokázali, že dokážou odpovědět na jednoduché otázky o historii voleb. Na otázku, kdo vyhrál prezidentské volby v roce 2020, oba chatboti odmítli odpovědět, uvedl minulý týden můj kolega David Gilbert. To by byly modely poskytující politické pokyny pro kampaně. Jsou to také modely, které podporují roboty AI, kteří odpovídají na otázky voličů nebo sami kandidují.

Šest měsíců ode dne voleb dodává Big Tech do kampaní jed i protijed na gen AI. I kdyby jejich autentizační programy dokázaly identifikovat obsah generovaný umělou inteligencí ve 100 procentech času, vláda by pravděpodobně musela zasáhnout, aby standardizovala technologii ve všech oblastech.

Prozatím tedy – a pravděpodobně i po zbytek roku – bude záležet na odvětví umělé inteligence, aby nedělalo žádné katastrofální chyby, pokud jde o vytváření nebo zjišťování škodlivého obsahu.

Chatovací místnost

Po přečtení fenomenálního „Nukleární války: Scénář“ Annie Jacobsenové jsem byl trochu posedlý čtením o konci světa. 𝓳𝓾𝓼𝓽 𝓰𝓲𝓻𝓵𝔂 𝓽𝓱𝓲𝓷𝓰𝓼 ★~(◠‿◕✿)

Takže tento týden chci, abyste moji schránku zaplavili svými nejhoršími obavami, pokud jde o AI a všechny volby, které se letos konají. Hledám něco děsivého, ale zároveň realistického.

Chci to slyšet od tebe! Zanechte komentář na stránce nebo mi pošlete e-mail na adresu mail@wired.com.

💬 Zanechte komentář pod tímto článkem.

WIRED Čte

Chcete více? Přihlaste se k odběru pro neomezený přístup k WIRED.

Co dalšího čteme

🔗 Jak Američané procházejí politikou na TikTok, X, Facebook a Instagram: Navzdory změně ve vedení je X, dříve Twitter, stále nejlepší platformou pro uživatele, kteří hledají politické zprávy. Republikáni jsou podle průzkumu mnohem spokojenější s platformou pod kontrolou Elona Muska. (Pew Research)

🔗 Chirurg General: Proč volám po výstražném štítku na platformách sociálních médií: V op-ed pro The New York Times americký chirurg Vivek Murthy nastiňuje, proč si myslí, že by vláda měla na platformy sociálních médií připevňovat varovné štítky. Murthyho volání přichází před rozhodnutím v Murthy proti Missouri případ, který by měl letos v létě klesnout. (The New York Times)

🔗 ZAMĚŘENÍ NA FAKT: Bidenova pauza, když opustil hvězdnou sbírku v LA, se stává cílem pro oponenty: Bidenova kampaň čelí prvnímu velkému falešnému skandálu volebního cyklu. Klipy ze série významných událostí, jako je poslední summit G7, se staly virálními na platformách jako X poté, co byly klamavě upraveny tak, aby zveličovaly účinky Bidenova věku. (AP)

The Download

Na tento týden WIRED Politická laboratoř podcast, moderátorka Leah Feigerová si povídá s mým kolegou a starším reportérem Davidem Gilbertem o některých nedávných zprávách, které udělal pro celonárodní milici organizovanou uvězněným výtržníkem ze 6. ledna. Najdete ho všude, kde posloucháte podcasty.

Uvidíme se příští týden! Můžete mě kontaktovat prostřednictvím e-mailu, Instagramu, X and Signal at makenakelly.32.