Přišel antropický proti navrhovanému zákonu státu Illinois podporovanému OpenAI, který by chránil laboratoře s umělou inteligencí před odpovědností, pokud jsou jejich systémy používány ke způsobení rozsáhlých škod, jako jsou hromadné oběti nebo škody na majetku přesahující 1 miliardu dolarů.
Boj o státní zákon SB 3444 vytváří nové bitevní linie mezi Anthropic a OpenAI ohledně toho, jak by měly být technologie AI regulovány. I když odborníci na politiku AI říkají, že legislativa má jen vzdálenou šanci stát se zákonem, odhalila politické rozpory mezi dvěma předními americkými laboratořemi AI, které by mohly nabývat na důležitosti, protože konkurenční společnosti posílí svou lobbistickou aktivitu po celé zemi.
V zákulisí Anthropic lobbuje u státního senátora Billa Cunninghama, sponzora SB 3444, a dalších zákonodárců z Illinois, aby buď provedli zásadní změny v návrhu zákona, nebo jej zabili tak, jak je, podle lidí obeznámených s touto záležitostí. V e-mailu pro WIRED mluvčí společnosti Anthropic potvrdil nesouhlas společnosti s SB 3444 a uvedl, že vedla slibné rozhovory s Cunninghamem o použití zákona jako výchozího bodu pro budoucí legislativu AI.
„Jsme proti tomuto návrhu zákona. Dobrá legislativa týkající se transparentnosti musí zajistit veřejnou bezpečnost a odpovědnost společností, které vyvíjejí tuto výkonnou technologii, a nikoli poskytovat kartu na únik z vězení proti veškeré odpovědnosti,“ uvedl v prohlášení Cesar Fernandez, hlava amerického státu a místní samosprávy ve společnosti Anthropic. „Víme, že senátorovi Cunninghamovi velmi záleží na bezpečnosti umělé inteligence, a těšíme se na spolupráci s ním na změnách, které by místo toho spojily transparentnost se skutečnou odpovědností za zmírnění nejzávažnějších škod, které by hraniční systémy umělé inteligence mohly způsobit.“
Zástupci Cunninghamu nereagovali na žádost o komentář. Mluvčí guvernéra státu Illinois JB Pritzker zaslal následující prohlášení: „Zatímco úřad guvernéra bude monitorovat a přezkoumávat mnoho návrhů zákonů o umělé inteligenci procházející Valným shromážděním, guvernér Pritzker nevěří, že by velké technologické společnosti měly někdy dostat plný štít, který by se vyhnul odpovědnosti, kterou by měly mít za ochranu veřejného zájmu.“
Jádro OpenAI a nesouhlasu Anthropic ohledně SB 3444 spočívá v tom, kdo by měl nést odpovědnost v případě katastrofy s umělou inteligencí – potenciální scénář noční můry, se kterým se američtí zákonodárci teprve nedávno začali potýkat. Pokud by byla schválena SB 3444, laboratoř AI by nebyla zodpovědná, pokud by špatný herec použil jejich model AI například k vytvoření biologické zbraně, která zabije stovky lidí, pokud laboratoř navrhla svůj vlastní bezpečnostní rámec a zveřejnila jej na svých webových stránkách.
OpenAI tvrdí, že SB 3444 snižuje riziko vážného poškození hraničními systémy umělé inteligence a přitom „stále umožňuje, aby se tato technologie dostala do rukou lidí a podniků – malých i velkých – z Illinois.“
Tvůrce ChatGPT říká, že spolupracoval se státy jako New York a Kalifornie na vytvoření toho, čemu se říká „harmonizovaný“ přístup k regulaci AI. „V případě neexistence federálních opatření budeme pokračovat ve spolupráci se státy – včetně Illinois – abychom pracovali na konzistentním bezpečnostním rámci,“ uvedla v prohlášení mluvčí OpenAI Liz Bourgeois. „Doufáme, že tyto státní zákony budou informovat národní rámec, který pomůže zajistit, že USA budou i nadále vést.“
Společnost Antropic na druhé straně tvrdí, že společnosti vyvíjející hraniční modely umělé inteligence by měly nést alespoň částečnou odpovědnost, pokud je jejich technologie používána k rozsáhlým společenským škodám.
Někteří odborníci tvrdí, že návrh zákona by zrušil stávající předpisy, které mají společnosti odradit od špatného chování. „Odpovědnost již existuje podle obecného práva a poskytuje společnostem s umělou inteligencí silnou pobídku, aby podnikly přiměřené kroky k zabránění předvídatelným rizikům plynoucím z jejich systémů AI,“ říká Thomas Woodside, spoluzakladatel a hlavní politický analytik v Secure AI Project, neziskové organizaci, která pomáhala vyvíjet a obhajovat zákony o bezpečnosti AI v Kalifornii a New Yorku. „SB 3444 by udělal extrémní krok téměř eliminující odpovědnost za vážné škody. Ale není to špatný nápad oslabit odpovědnost, která je ve většině států nejvýznamnější formou právní odpovědnosti společností AI, která již existuje.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
