Daniela Amodei ze společnosti Anthropic věří, že trh odmění bezpečnou umělou inteligenci

Trumpova administrativa může si myslet, že regulace ochromuje průmysl AI, ale jeden z největších hráčů v tomto odvětví s tím nesouhlasí.

Na čtvrteční akci WIRED’s Big Interview prezidentka a spoluzakladatelka Anthropic Daniela Amodeiová řekla šéfredaktorovi WIRED Stevenu Levymu, že i když Trumpův AI a kryptocar David Sacks mohl tweetovat, že její společnost „provozuje sofistikovanou regulační strategii zachycování založenou na vyvolávání strachu“, je přesvědčena, že závazek její společnosti propagovat silnější AI představuje potenciální nebezpečí.

„Od prvního dne jsme byli velmi hlasití, že jsme cítili tento neuvěřitelný potenciál“ pro AI, řekl Amodei. „Opravdu chceme, aby si celý svět uvědomil potenciál, pozitivní přínosy a výhody, které může AI přinést, a abychom toho dosáhli, musíme uvést ty těžké věci na pravou míru. Musíme zajistit, aby byla rizika zvládnutelná. A proto o tom tolik mluvíme.“

Více než 300 000 startupů, vývojářů a společností používá nějakou verzi modelu Claude od Anthropic a Amodei řekla, že díky jednání společnosti s těmito značkami zjistila, že zákazníci sice chtějí, aby jejich umělá inteligence dokázala dělat skvělé věci, ale zároveň chtějí, aby byla spolehlivá a bezpečná.

„Nikdo neříká: ‚Chceme méně bezpečný produkt‘,“ řekl Amodei a přirovnal hlášení Anthropic o limitech a útěcích z vězení k tomu, že automobilka vydává studie nárazových testů, aby ukázala, jak se vypořádala s bezpečnostními problémy. Mohlo by se zdát šokující vidět na videu nárazovou figurínu prolétající oknem auta, ale zjištění, že automobilka v důsledku tohoto testu aktualizovala bezpečnostní prvky svého vozidla, by mohlo prodat kupujícímu auto. Amodei řekl, že totéž platí pro společnosti používající produkty AI společnosti Anthropic, což vytváří trh, který je poněkud samoregulační.

„Nastavujeme to, co si můžete téměř představit jako minimální bezpečnostní standardy jen tím, co vkládáme do ekonomiky,“ řekla. Společnosti „nyní vytvářejí mnoho pracovních postupů a každodenních úloh týkajících se AI a říkají si: ‚No, víme, že tento produkt tolik nehalucinuje, neprodukuje škodlivý obsah a nedělá všechny tyto špatné věci.‘ Proč byste šli s konkurentem, který bude mít nižší skóre?