Jako generativní AI zvyšuje rychlost vývoje softwaru a také zvyšuje schopnost digitálních útočníků provádět finančně motivované nebo státem podporované hacky. To znamená, že bezpečnostní týmy v technologických společnostech mají k revizi více kódu než kdy jindy, přičemž se vypořádávají s ještě větším tlakem špatných aktérů. V pondělí Amazon poprvé zveřejní podrobnosti o interním systému známém jako Autonomous Threat Analysis (ATA), který společnost používá, aby pomohla svým bezpečnostním týmům proaktivně identifikovat slabá místa na svých platformách, provádět analýzu variant k rychlému hledání dalších podobných nedostatků a poté vyvinout nápravné a detekční schopnosti, které zapíchnou díry, než je útočníci najdou.
ATA se zrodilo z interního hackathonu Amazonu v srpnu 2024 a členové bezpečnostního týmu říkají, že se od té doby rozrostlo v klíčový nástroj. Klíčovým konceptem, který je základem ATA, je, že nejde o jediného agenta AI vyvinutého pro komplexní provádění bezpečnostních testů a analýzy hrozeb. Místo toho Amazon vyvinul několik specializovaných agentů umělé inteligence, kteří proti sobě soutěží ve dvou týmech, aby rychle prozkoumali techniky skutečného útoku a různé způsoby, jak je lze použít proti systémům Amazonu – a poté navrhnout bezpečnostní kontroly pro kontrolu člověkem.
„Počáteční koncept byl zaměřen na řešení kritického omezení v testování zabezpečení – omezené pokrytí a problém udržet detekční schopnosti aktuální v rychle se vyvíjejícím prostředí hrozeb,“ říká Steve Schmidt, hlavní bezpečnostní ředitel Amazonu, WIRED. „Omezené pokrytí znamená, že se nemůžete dostat přes veškerý software nebo se nemůžete dostat ke všem aplikacím, protože prostě nemáte dostatek lidí. A pak je skvělé provést analýzu sady softwaru, ale pokud neudržujete samotné detekční systémy aktuální se změnami v oblasti hrozeb, chybí vám polovina obrazu.“
Jako součást škálování používání ATA vyvinul Amazon speciální „high-fidelity“ testovací prostředí, která jsou hluboce realistickým odrazem produkčních systémů Amazonu, takže ATA může jak přijímat, tak produkovat skutečnou telemetrii pro analýzu.
Bezpečnostní týmy společnosti si také daly záležet na návrhu ATA tak, aby každá technika, kterou používá, a detekční schopnost, kterou produkuje, byla ověřena skutečnými automatickými testy a systémovými daty. Agenti červeného týmu, kteří pracují na hledání útoků, které by mohly být použity proti systémům Amazonu, provádějí skutečné příkazy ve speciálních testovacích prostředích ATA, která vytvářejí ověřitelné protokoly. Modrý tým nebo agenti zaměření na obranu používají skutečnou telemetrii k potvrzení, zda jsou ochrany, které navrhují, účinné. A kdykoli agent vyvine novou techniku, vytáhne také záznamy s časovým razítkem, aby dokázal, že jeho tvrzení jsou správná.
Tato ověřitelnost snižuje falešně pozitivní výsledky, říká Schmidt, a působí jako „management halucinací“. Protože systém je postaven tak, aby vyžadoval určité standardy pozorovatelných důkazů, Schmidt tvrdí, že „halucinace jsou architektonicky nemožné“.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
