Jak převést AI CHATGPT v bezpečnostních záležitostech

Výhody, které ChatGPT přináší, jsou více, protože mohou psát řádky kódu v několika programovacích a skriptovacích jazycích, když mají vstup do přirozeného jazyka.

K tomu společnost Sofos zveřejnila zprávu „Aplikace lingvistického zpracování na kybernefy“, o tom, jak může sektor kybernetické bezpečnosti využít výhody GPT-3, jazykového modelu používaného Chatgpt, jako spolu-pilot, který pomáhá porazit kyberšiti.

„An Sofos, dlouho jsme viděli AI spíše jako spojence než jako nepřítel, což z něj dělá základní technologii pro Sophos, a GPT-3 se neliší. Odvětví kybernetické bezpečnosti by mělo věnovat pozornost nejen potenciálním rizikům, ale také příležitostem, které nabízí GPT-3«Vysvětluje Sean Gallagher, hlavní výzkumný pracovník hrozeb Sophos.

Vědci Sofhos X-Ops pracují na třech experimentálních projektech:

• Projekt 1: Konzultační rozhraní v přirozeném jazyce pro hledání škodlivé činnosti. První aplikace, kterou se Sophos pokusil s metodou učení „málo shot učení“, je rozhraní konzultací v přirozeném jazyce pro filtrování škodlivé aktivity v telemetrii XDR. Nejširší model vytvořený společností SOFO pro tento projekt dal přesné odpovědi ve více než 80% případů při řešení otázek přirozeného jazyka, které používaly data, která viděli jako součást školení, a v 70,5% času při řešení otázek, které obsahovaly data, které model předtím neviděl.

Sopos ukazuje, jak převést AI Chatgptu na spojence proti počítačové kriminalitě

• Projekt 2: Detektor spamu založeného na GPT. Strojové učení již bylo použito před detekcí spamu pomocí různých typů modelu. SOFOS však vyzkoušel nový spamový filtr pomocí CHATGPT a zjistil, že ve srovnání s jinými modely je filtr GPT-3 výrazně přesnější a daleko přesahuje jiné tradiční metody strojového učení, když je množství dat použitých pro školení malé.
• Projekt 3: Nástroj pro analýzu příkazových řádků provedených v binárních souborech „Living of the Land“ (LOLBIN). Konečně, vědci SoFOS vytvořili program, který zjednodušuje inverzní inženýrský proces příkazových řádků LOLBINS. Pro vývojáře a odborníky je tento typ reverzního inženýrství obtížné provést, protože zahrnuje hodně zmatku a analyzovat dlouhé a obtížné kódy; Je však také důležité tak učinit, abychom pochopili chování lolbinů a zastavili tyto typy útoků.