Tvůrce signálu pomáhá šifrovat Meta AI

Moxie Marlinspike, obhájce soukromí, který vytvořil aplikaci pro zabezpečenou komunikaci Signal a její široce používaný šifrovací protokol s otevřeným zdrojovým kódem, tento týden uvedl, že jeho platforma AI zaměřená na soukromí, Confer, začne začleňovat svou technologii do systémů AI společnosti Meta.

Každý den jsou miliardy chatových zpráv odeslaných přes Signal, Meta’s WhatsApp a Apple Messages chráněny end-to-end šifrováním. Funkce, která znemožňuje technologickým společnostem a komukoli jinému než odesílateli a příjemci sledovat vaše zprávy, se za poslední desetiletí stala běžnou součástí. Zatímco popularita generativních platforem AI exploduje, lidé si nyní také vyměňují miliardy zpráv denně s chatboty AI, které nenabízejí ochranu end-to-end šifrováním, což firmám AI usnadňuje přístup k tomu, o čem mluvíte.

Toto je záměrné, vzhledem k tomu, že platformy často chtějí trénovat své modely AI na co největším možném množství uživatelských dat a ztížily možnost odhlásit se z používání vašich informací jako školicích dat. Ale jak se chatboti a agenti AI stávají schopnějšími, někteří technologové a společnosti tlačí na vytvoření omezenějších systémů zaměřených na soukromí.

„Vzhledem k tomu, že LLM jsou stále schopny dělat více, měli bychom očekávat, že do nich bude proudit ještě více dat,“ napsal Marlinspike v krátkém blogovém příspěvku o své spolupráci s Metou zveřejněném v úterý. „Právě teď žádná z těchto dat není soukromá. Sdílejí se se společnostmi s umělou inteligencí, jejich zaměstnanci, hackery, soudními příkazy a vládami. Jako vždy v případě nešifrovaných dat nevyhnutelně skončí ve špatných rukou.“

Marlinspike napsal, že „bude pracovat na integraci technologie ochrany soukromí Confer tak, aby podporovala Meta AI“. Zdůraznil také, že Confer, který debutoval na začátku tohoto roku, bude i nadále fungovat nezávisle na Meta. Cílem projektu, dodal Marlinspike, je nabídnout technologii, která „každému umožní získat plný výkon AI spolu s úplným soukromím šifrované konverzace“.

V roce 2016 Marlinspike spolupracoval s WhatsApp, který vlastní Meta, na zavedení end-to-end šifrování pro více než miliardu účtů současně. Během posledního roku WhatsApp zavedl do své aplikace chatbota Meta AI, který není chráněn před společností stejně jako jednotlivé chaty.

„Lidé používají AI způsoby, které jsou hluboce osobní a vyžadují přístup k důvěrným informacím,“ napsal ve středu šéf WhatsApp Will Cathcart na platformě sociálních médií X o spolupráci s Confer. „Je důležité, abychom tuto technologii vybudovali způsobem, který lidem umožní dělat to soukromě.“

Přijetí šifrované umělé inteligence se stále objevuje. Kryptografická schémata používaná v end-to-end šifrování pro tradiční digitální komunikaci nelze snadno nebo přímo převést do ochrany dat pro generativní AI. Confer je stále novým projektem a Marlinspikeův blogový příspěvek neuvedl konkrétní podrobnosti o tom, jak přesně bude spolupráce s Meta fungovat, ani jaké jsou konkrétní cíle integrace.

Marlinspike ani Meta neposkytli WIRED před zveřejněním další komentář.

Mallory Knodel, výzkumník v oblasti kryptografie na New York University, říká, že by bylo „skvělé pro lidi používající chatboty, kteří používají Meta AI, mít v rámci této výměny důvěrnost a soukromí“. Zásadní je, že to znamená, že Meta nebude mít přístup k datům chatu AI pro školení, říká Knodel, který spolu s kolegy nedávno publikoval studii o end-to-end šifrování a AI. „Opravdu doufám, že tento přístup přijme více chatbotů s umělou inteligencí.“

Knodelova předběžná, počáteční hodnocení Confer naznačují, že platforma není dokonalá, ale je důležitým příkladem toho, jak vytvořit soukromého chatbota s umělou inteligencí.