Google používá AI na zařízení k nalezení podvodních textů a investičních podvodů

Digitální podvodníci nikdy nebyli tak úspěšní. Minulý rok Američané ztratili 16,6 miliardy dolarů na online zločiny, přičemž téměř 200 000 lidí hlásilo podvody, jako je phishing a spoofing na FBI. Podle Federální obchodní komise bylo ukradeno více než 470 milionů dolarů v podvodech, které začaly textovou zprávou v loňském roce. A jako největší výrobce mobilních operačních systémů na světě se Google snažil něco udělat a vytvářet nástroje, které varují spotřebitele o potenciálních podvodech.

Před spuštěním společnosti Android 16 Google příští týden společnost v úterý uvedla, že rozšiřuje svou nedávno spuštěnou funkci vlajky AI pro aplikaci Google Messages, známou jako detekce podvodů, aby poskytovala upozornění na potenciálně nebezpečné zprávy, jako jsou možné krypto podvody, finanční zdokonalení, dárkové karty a podvody s výhodou, scams a další. V kombinaci s dalšími bezpečnostními funkcemi AI pro zprávy Google – to vše provozuje lokálně na zařízeních uživatelů a nesdílí data nebo obsah zpráv se společností – Anroid nyní detekuje zhruba 2 miliardy podezřelých zpráv měsíčně.

„Podvod je opravdu srdcervoucí,“ říká Dave Kleidermacher, viceprezident pro inženýrství v divizi bezpečnosti a ochrany osobních údajů Android. „Existuje opravdu velmi obrovská částka – téměř epidemie a pohroma k lidstvu – finančních podvodů, které jsou po celém světě.“

Podvodníci pracují po celém světě, ale čínské podvodné skupiny jsou zejména za miliony podvodných zpráv a požadují věci jako „mýtné“ platby nebo informace za údajné dodávky poštovních služeb. Když lidé kliknou na odkazy a zadávají své údaje, včetně platebních údajů, podvodníci ukradnou jejich data. V některých případech jsou podvody navrženy jako druh rozbití a uchopení, kde útočníci rychle přimějí uživatele, aby se vzdali některých drobků informací, jako je pár přihlašovacích údajů nebo číslo kreditní karty. Tyto podvody mají tendenci být formální a jsou potenciálně snazší je detekovat. Složitější výzvou je detekce vysoce zapojených investičních nebo romantických podvodů – často nazývaných podvody s butcheringu prasat -, které se staví a vyvíjejí v průběhu měsíců zpráv, zatímco podvodníci budují vztah se svými cíli, než je podvádějí, aby předali své životní úspory nebo dokonce zadlužili, aby poslali více peněz.

„Trvá jim čas, než se dostanou k podvodu – nejen klikněte na odkaz,“ říká Kleidermacher. „Tím, že máte AI na zařízení, můžete skutečně sledovat a pozorovat tyto sofistikovanější konverzace a poté detekovat jejich podvody.“

S laskavým svolením společnosti Google

S laskavým svolením společnosti Google

Na obrazovce funkce detekce podvodů poskytovanou společností Google ukazuje šifrovaný chat RSC typickou podvodnou zprávu, že platba mýtného EZ je nesplacená. Zpráva dodává, že „právní schopnost“ řídit může být zrušena, pokud není platba provedena. Zpráva obsahuje odkaz, který někoho nasměruje na webovou stránku škodlivého plateb. Překrytí podvodů ve spodní části obrazovky říká, že ve zprávě byla detekována „podezřelá aktivita“ a nabízí způsob, jak ohlásit a blokovat odesílatele, spolu s možností, která umožňuje lidem označit, že se nejedná o podvod.

Google není zdaleka jedinou společnost, která používá AI, aby se pokusila bojovat proti podvodníkům a zabránila jim v dosažení doručených pošt lidí. Někteří se obrátili na používání AI, aby přímo bojovali proti podvodníkům. Například britská telekomunikační společnost O2 vytvořila „AI babičku“, která je nastavena tak, aby udržovala podvodníky v telefonu a ztrácela čas. A online podvod Baiter Kitboga vytvořil řadu robotů, které uskutečňují současná volání do call centra, která provádějí podvody.

Mezitím v posledních měsících Meta, která vlastní WhatsApp, Messenger a Instagram, začala představovat varování o vyskakovacím okně, když jsou lidé požádáni, aby provedli platby v chatovacích zprávách. Společnost Cybersecurity Company F-Secure vytvořila beta nástroj, který lidem pomůže zjistit, zda zpráva a odesílatel jsou pravděpodobně podvodníky a blokové zprávy. Zavedení vrstvy tření, která lidi odvrátí od účtů zasílání zpráv, které neznají nebo odpovídají na zprávy, které žádají o podrobnosti, může snížit šance, že podvodníci jsou úspěšní.

Kleidermacher společnosti Google říká, že společnost vidí „opravdu pozitivní dopad“ z používání svých systémů strojového učení k detekci potenciálních podvodních zpráv v reálném čase. Jak ochrana nadále dozrává, poznamenává, že základní systém by se mohl nakonec rozšířit za pouhou aplikaci Google Messages do komunikačních platforem třetích stran.

Prozatím se některá z této expanze začínají v rámci vlastních produktů společnosti Google. Společnost také v úterý uvedla, že je to v raných fázích testovacích způsobů, jak začlenit detekci podvodů pro telefonní hovory, ale schopnost nebyla široce nasazena.