Po uniklých odhaleních na konci března, kdy Anthropic vyvinul nový výkonný model Claude, společnost v úterý oficiálně oznámila Mythos Preview spolu se zprávami o průmyslovém konsorciu, které svolalo, známém jako Project Glasswing, aby se vypořádalo s dopady nového modelu na kybernetickou bezpečnost a obecně rozšiřující možnosti v oblasti umělé inteligence.
Tato skupina zahrnuje Microsoft, Apple a Google, stejně jako Amazon Web Services, Linux Foundation, Cisco, Nvidia, Broadcom a více než 40 dalších technologických, kybernetických, kritických infrastruktur a finančních organizací, které budou mít soukromý přístup k modelu, který zatím není obecně vydáván. Myšlenka je zčásti jednoduše dát vývojářům základních světových technologických platforem čas, aby zapnuli Mythos Preview na jejich vlastních systémech, aby mohli zmírnit zranitelnosti a využít řetězce, které model vyvíjí v simulovaných útocích. V širším měřítku společnost Anthropic zdůrazňuje, že účelem svolání tohoto úsilí je zahájit naléhavé zkoumání toho, jak jsou schopnosti umělé inteligence v celém odvětví na propasti, říká společnost, aby změnily současné praktiky softwarového zabezpečení a digitální obrany po celém světě.
„Skutečným poselstvím je, že se nejedná o model nebo Anthropic,“ říká Logan Graham, vedoucí hraničního červeného týmu společnosti WIRED. „Musíme se nyní připravit na svět, kde budou tyto schopnosti široce dostupné za 6, 12, 24 měsíců. Mnoho věcí by se v oblasti bezpečnosti změnilo. Mnohé z předpokladů, na kterých jsme postavili moderní bezpečnostní paradigmata, by se mohlo zlomit.“
Modely vyvinuté a trénované mnoha společnostmi byly stále více schopny najít zranitelná místa v kódu a navrhnout zmírnění – nebo strategie pro zneužití. Vzniká tak nová generace klasické bezpečnostní hry na kočku a myš, ve které nástroj může pomoci obráncům, ale také může podněcovat zlé herce a usnadnit provádění útoků, které byly kdysi příliš drahé nebo složité na to, aby byly praktické.
„Náhled Claude Mythos je obzvláště velký skok,“ řekl generální ředitel společnosti Anthropic Dario Amodei v úterý ve videu ze zahájení projektu Glasswing. „Netrénovali jsme ho speciálně, aby byl dobrý v kybernetickém prostředí. Trénovali jsme ho, aby byl dobrý v kódu, ale jako vedlejší efekt dobrého v kódu je to také dobré v kybernetu.“ Ve videu dodává, že „výkonnější modely přijdou od nás a od ostatních. A tak potřebujeme plán, jak na to reagovat.“
Graham z Anthropic poznamenává, že kromě zjišťování zranitelnosti – včetně vytváření potenciálních řetězců útoků a důkazů konceptu – je Mythos Preview schopen pokročilejšího vývoje exploitů, penetračního testování, hodnocení bezpečnosti koncových bodů, hledání chybných konfigurací systému a vyhodnocování softwarových binárních souborů bez přístupu k jeho zdrojovému kódu.
Při provádění postupného vydání Mythos Preview, počínaje fází průmyslové spolupráce, Graham říká, že Anthropic se snažil čerpat z principů koordinovaného odhalování zranitelnosti, což je proces, který dává vývojářům čas na opravu chyby, než se o ní bude veřejně diskutovat.
„Viděli jsme, že Mythos Preview dokáže věci, které by byl schopen udělat zkušený bezpečnostní výzkumník,“ říká Graham. „To má potom velmi velký dopad na to, jak by měly být schopnosti, jako je tato, uvolněny. Nedělejte to opatrně, pro útočníky by to mohlo být významným akcelerátorem.“
Partneři projektu Glasswing, včetně některých konkurentů Anthropic, zasáhli v prohlášeních jako součást uvedení na trh kooperativní tón.
„Google je potěšen, že se tato mezioborová iniciativa v oblasti kybernetické bezpečnosti spojuje,“ říká Heather Adkinsová, viceprezidentka pro bezpečnostní inženýrství společnosti Google. „Dlouho jsme věřili, že umělá inteligence představuje nové výzvy a otevírá nové příležitosti v kybernetické obraně.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
