Představte si, že potkáte někdo nový. Ať už je to na seznamovací aplikaci nebo sociálních médiích, máte šanci přes sebe online a promluvte si. Jsou skutečné a relativní, takže to rychle vyvedete z DMS na platformu, jako je Telegram nebo WhatsApp. Vyměňujete si fotografie a dokonce i video zavoláte. Začnete se pohodlně. Pak najednou přinášejí peníze.
Potřebují, abyste pokryli náklady na svůj přístup Wi-Fi. Nebo vyzkoušejí tuto novou kryptoměnu. Měli byste se na to opravdu dostat brzy! A pak, až poté, co je příliš pozdě, si uvědomíte, že osoba, se kterou jste mluvili, ve skutečnosti vůbec nebyla skutečná.
Byli to real-time-generovaný Deepfake, který skrýval tvář někoho, kdo běžel podvod.
Tento scénář může znít příliš dystopický nebo sci-fi, aby to byl pravdivý, ale stalo se to již nespočet lidí. Se špičkou ve schopnostech generativní AI v posledních několika letech mohou podvodníci nyní vytvářet realistické falešné tváře a hlasy, které maskují své vlastní v reálném čase. A odborníci varují, že tito hlubokéfake mohou přeplatky závratné rozmanitosti online podvodů, od romantiky po zaměstnání po daňové podvody.
David Maimon, šéf poznatků o podvodech v ověřovací firmě Identity Senlilink a profesor kriminologie na Georgia State University, sledoval vývoj podvodů AI Romance a jiné druhy podvodů AI za posledních šest let. „Vidíme dramatický nárůst objemu Deepfakes, zejména ve srovnání s 2023 a 2024,“ říká Maimon.
„Nebylo to moc. Mluvíme o možná o čtyřech nebo pěti za měsíc,“ říká. „Nyní vidíme stovky z nich měsíčně napříč deskou, což je ohromující.“
Deepfakes se již používají v různých online podvodech. Například jeden finanční pracovník v Hongkongu zaplatil 25 milionů dolarů scammerovi představujícímu jako hlavní finanční ředitel společnosti v hlubokém videohovoru. Někteří podvodníci Deepfake dokonce zveřejnili instruktážní videa na YouTube, která mají vyloučení odpovědnosti jako pro „žerty a vzdělávací účely“. Tato videa se obvykle otevírají s románským podvodem, kde hezký mladý muž generovaný AI mluví se starší ženou.
Tradičnější hluboké paprsky-například jako předem vykreslené video celebrity nebo politika, spíše než živého falešného-se také stávají více převládajícími. V loňském roce ztratil důchodce na Novém Zélandu kolem 133 000 dolarů na kryptoměnovou investiční podvod poté, co viděl reklamu na Facebooku s hlubokým předsedou vlády země povzbuzující lidi, aby si koupili.
Maimon říká, že Senlilink začal vidět Deepfakes používané k vytváření bankovních účtů, aby si pronajal byt nebo zapojil se do podvodu vrácení daní. Říká, že rostoucí počet společností také zaznamenal Deepfakes ve videohovárních pohovorech.
„Cokoli, co vyžaduje, aby lidé byli online a který podporuje příležitost vyměnit tváře s někým – to bude k dispozici a otevřeno pro podvod, aby bylo možné využít,“ říká Maimon.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
