Minulý měsíc, Jasone Grad vydal pozdě v noci varování 20 zaměstnancům svého technologického startupu. „Pravděpodobně jste viděli Clawdbot trendy na X/LinkedIn. I když je to cool, v současnosti je to neprozkoumané a vysoce rizikové pro naše prostředí,“ napsal ve zprávě Slack s emoji červené sirény. „Prosím, držte Clawdbot mimo veškerý firemní hardware a mimo účty propojené s prací.“
Grad není jediným technickým manažerem, který vzbudil obavy zaměstnanců ohledně experimentálního agentního nástroje AI, který byl krátce známý jako MoltBot a nyní se jmenuje OpenClaw. Vedoucí pracovník Meta říká, že nedávno řekl svému týmu, aby OpenClaw nepouštěl do svých běžných pracovních notebooků, jinak riskoval ztrátu zaměstnání. Výkonný ředitel řekl novinářům, že se domnívá, že software je nepředvídatelný a mohl by vést k narušení soukromí, pokud by byl používán v jinak zabezpečeném prostředí. Mluvil pod podmínkou anonymity, aby mluvil upřímně.
Peter Steinberger, sólový zakladatel OpenClaw, jej spustil jako bezplatný open source nástroj loni v listopadu. Jeho popularita však minulý měsíc vzrostla, když další kodéři přispěli funkcemi a začali sdílet své zkušenosti s jeho používáním na sociálních sítích. Minulý týden se Steinberger připojil k vývojáři ChatGPT OpenAI, který říká, že ponechá OpenClaw open source a bude jej podporovat prostřednictvím nadace.
OpenClaw vyžaduje základní znalosti softwarového inženýrství k nastavení. Poté potřebuje pouze omezený směr k převzetí kontroly nad počítačem uživatele a interakci s jinými aplikacemi, které pomáhají s úkoly, jako je organizace souborů, provádění průzkumu webu a nakupování online.
Někteří odborníci na kybernetickou bezpečnost veřejně vyzvali společnosti, aby přijaly opatření k přísné kontrole toho, jak jejich zaměstnanci používají OpenClaw. A nedávné zákazy ukazují, jak společnosti rychle postupují, aby zajistily prioritu bezpečnosti před jejich touhou experimentovat s nově vznikajícími technologiemi AI.
„Naší zásadou je ‚nejprve zmírnit, potom prozkoumat‘, když narazíme na cokoli, co by mohlo být škodlivé pro naši společnost, uživatele nebo klienty,“ říká Grad, který je spoluzakladatelem a generálním ředitelem společnosti Massive, která poskytuje internetové proxy nástroje milionům uživatelů a podniků. Jeho varování pro zaměstnance vyšlo 26. ledna, ještě předtím, než některý z jeho zaměstnanců nainstaloval OpenClaw, říká.
V jiné technologické společnosti, Valere, která pracuje na softwaru pro organizace včetně Johns Hopkins University, zaměstnanec 29. ledna zveřejnil příspěvek o OpenClaw na interním kanálu Slack pro sdílení nových technologií, které lze případně vyzkoušet. Prezident společnosti rychle odpověděl, že používání OpenClaw je přísně zakázáno, říká generální ředitel Valere Guy Pistone WIRED.
„Pokud by získal přístup k jednomu z našich vývojářských strojů, mohl by získat přístup k našim cloudovým službám a citlivým informacím našich klientů, včetně informací o kreditních kartách a kódových základen GitHubu,“ říká Pistone. „Je docela dobrý v čištění některých svých akcí, což mě také děsí.“
O týden později Pistone skutečně umožnil Valereho výzkumnému týmu spustit OpenClaw na starém počítači zaměstnance. Cílem bylo identifikovat chyby v softwaru a potenciální opravy, aby byl bezpečnější. Výzkumný tým později doporučil omezit, kdo může dávat příkazy OpenClaw, a vystavit jej na internet pouze s heslem pro jeho ovládací panel, aby se zabránilo nežádoucímu přístupu.
Ve zprávě sdílené s WIRED výzkumníci z Valere dodali, že uživatelé musí „připustit, že robot může být oklamán“. Pokud je například OpenClaw nastaveno tak, aby shrnulo e-maily uživatele, hacker by mohl poslat škodlivý e-mail osobě, která instruuje AI, aby sdílela kopie souborů na počítači dané osoby.
Ale Pistone je přesvědčen, že mohou být zavedena ochranná opatření, aby byl OpenClaw bezpečnější. Dal týmu ve Valere 60 dní na prošetření. „Pokud si nemyslíme, že to dokážeme v rozumném čase, zřekneme se toho,“ říká. „Ten, kdo přijde na to, jak zajistit bezpečnost pro podniky, bude mít určitě vítěze.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
