Techničtí lídři kdysi křičeli po regulaci umělé inteligence. Nyní je zpráva ‚Zpomalte‘

Minulou noc jsem se zúčastnil tiskové večeře pořádané obchodní společností s názvem Box. Mezi dalšími hosty byli představitelé dvou datově orientovaných společností Datadog a MongoDB. Vedoucí pracovníci na těchto večírcích se obvykle chovají nejlépe, zvláště když je diskuse na záznamu, jako je tato. Takže mě vyděsila výměna názorů s generálním ředitelem Boxu Aaronem Leviem, který nám řekl, že měl těžkou zastávku u dezertu, protože tu noc letěl do Washingtonu, DC. Měl namířeno na speciální zájmový thon nazvaný TechNet Day, kde se Silicon Valley rychle seznamuje s desítkami kongresových tvorů, aby utvářel to, s čím bude muset (nezvaná) veřejnost žít. A co od toho zákona chtěl? „Co nejméně,“ odpověděl Levie. „Budu sám odpovědný za zastavení vlády.“

Dělal si z toho srandu. Tak nějak. Pokračoval tím, že regulace jasného zneužívání umělé inteligence, jako jsou deepfakes, dává smysl, ale je příliš brzy na to, abychom uvažovali o omezeních, jako je nucení společností předkládat velké jazykové modely vládě schváleným policistům s umělou inteligencí nebo skenování chatbotů kvůli věcem, jako je zaujatost nebo schopnost hacknout reálnou infrastrukturu. Poukázal na Evropu, která již přijala omezení na AI jako příklad čeho ne dělat. „To, co Evropa dělá, je docela riskantní,“ řekl. „V EU panuje názor, že pokud nejprve regulujete, vytvoříte atmosféru inovací,“ řekl Levie. „To se empiricky ukázalo jako špatné.“

Levieho poznámky letí tváří v tvář tomu, co se stalo standardním postavením mezi elitami AI v Silicon Valley, jako je Sam Altman. „Ano, reguluj nás!“ oni říkají. Levie ale poznamenává, že když dojde přesně na to, co by zákony měly říkat, konsenzus se rozpadá. „My jako technický průmysl nevíme, co vlastně požadujeme,“ řekl Levie, „nebyl jsem na večeři s více než pěti lidmi s umělou inteligencí, kde by existovala jediná dohoda o tom, jak byste umělou inteligenci regulovali.“ Ne že by na tom záleželo – Levie si myslí, že sny o rozsáhlém účtu AI jsou odsouzeny k záhubě. „Dobrou zprávou je, že neexistuje způsob, jak by USA někdy byly koordinovány tímto způsobem.“ V USA prostě nebude zákon o umělé inteligenci.“

Levie je známý svou neuctivou výstředností. Ale v tomto případě je prostě upřímnější než mnoho jeho kolegů, jejichž pozice reguluj-nás-prosím je formou sofistikovaného lana-a-dope. Jediná veřejná událost TechNet Day, alespoň pokud jsem to dokázal rozeznat, byla živě přenášená panelová diskuse o inovacích AI, do níž se zapojili prezident společnosti Google pro globální záležitosti Kent Walker a Michael Kratsios, nejnovější americký technologický ředitel a nyní výkonný ředitel společnosti Google. Měřítko AI. Mezi těmito panelisty byl pocit, že by se vláda měla zaměřit na ochranu amerického vedení v této oblasti. I když připustili, že technologie má svá rizika, tvrdili, že stávající zákony do značné míry pokrývají potenciální ohavnost.

Walker z Google se zdál být obzvláště znepokojen tím, že některé státy vyvíjejí legislativu AI samy. „V samotné Kalifornii je dnes v zákonodárném sboru projednáváno 53 různých návrhů zákonů o umělé inteligenci,“ řekl a nechlubil se. Walker samozřejmě ví, že tento Kongres může jen stěží udržet vládu samotnou nad vodou, a vyhlídka, že obě komory úspěšně žonglují s tímto horkým bramborem ve volebním roce, je tak vzdálená, jako kdyby Google znovu najal osm autorů článku o transformátoru.

Americký Kongres čeká na legislativu. A účty stále přicházejí – některé možná méně smysluplné než jiné. Zástupce Adam Schiff, kalifornský demokrat, tento týden představil návrh zákona nazvaný Generative AI Copyright Disclosure Act z roku 2024. Ten nařizuje, že velké jazykové modely musí úřadu pro autorská práva předložit „dostatečně podrobné shrnutí všech autorských děl použitých… při školení datový soubor.“ Není jasné, co znamená „dostatečně podrobné“. Bylo by v pořádku říct „Jednoduše jsme seškrábali otevřený web?“ Schiffovi zaměstnanci mi vysvětlili, že přijímají opatření v návrhu zákona EU o AI.