otec Mike Schmitz, katolický kněz a podcaster oslovil v listopadu svou kongregaci s více než 1,2 milionu odběratelů YouTube neobvyklým druhem homilie. Ne vždy se dalo věřit slovům vycházejícím z jeho úst, řekl Schmitz, protože někdy to ve skutečnosti nebyla jeho slova – nebo jeho ústa. Schmitz se stal terčem falešných podvodů generovaných umělou inteligencí.
„Sleduje vás démonický člověk,“ řekl falešný Schmitz v jednom videu, které skutečný Schmitz, který měl přes úřednický oblek na sobě bundu LL Bean, uvedl ve svém oznámení veřejné služby jako příklad. „Musíte jednat rychle, protože místa pro posílání modliteb už docházejí,“ řekl další falešný Schmitz s blížícími se přesýpacími hodinami za zády. „A další cesta se uskuteční až za čtyři měsíce.“ Falešný Schmitz zněl tak trochu roboticky, když nabádal diváky, aby klikli na odkaz a zajistili si své požehnání, než bude příliš pozdě.
„Můžu se na ně podívat a říct ‚To je směšné, to bych nikdy neřekl‘,“ řekl skutečný Schmitz, který sídlí v Duluth v Minnesotě, ve svém videu s popiskem. „Ale lidé to nemůžou nutně říct. To je problém. To je jako opravdu velký problém.“
Na skutečném videu Schmitze některé z hlavních komentářů jeho následovníků uvedly, že viděli jiné prominentní katolické osobnosti vydávané prostřednictvím videí AI, včetně papeže. Podle expertky na kybernetickou bezpečnost Rachel Tobac, která je generální ředitelkou SocialProof Security, je to proto, že pastoři se stali extrémně oblíbenými subjekty podvodů s umělou inteligencí a dalších podvodných médií.
„Pokud jste na TikTok nebo Reels, pravděpodobně narazili na vaši stránku For You,“ říká Tobac. „Tohle je někdo, kdo vypadá jako kněz, kdo má na sobě všechny šaty, stojí na kazatelně nebo jevišti nebo jak to nazvat, a zdá se, že mluví ke své kongregaci velmi nadšeným způsobem.“
Pastoři a ministři v Birminghamu v Alabamě, Freeportu v New Yorku a Fort Lauderdale na Floridě varovali své následovníky před podvody AI, které se za ně vydávaly ve formě DM, hovorů a deepfakes. Alan Beauchamp, pastor v Ozarks, řekl, že jeho účet na Facebooku byl napaden hackery, přičemž hacker zveřejnil falešný, možná umělou inteligencí vygenerovaný certifikát pro obchodování s kryptoměnami s Beauchampovým jménem a popiskem, který vyzývá své členy, aby se k němu připojili. Megacírkev na Filipínách obdržela zprávy o deepfake s jejími pastory. Evangelikální sbor v Nebrasce vydal na Facebooku „upozornění na podvodníka“ AI a jeden návštěvník kostela v komentářích zveřejnil snímek obrazovky s texty, které údajně pocházejí od jednoho z jejich pastorů.
Nepomáhá, že mnoho pastorů a kazatelů, kteří si na internetu vyrostli, často ve skutečnosti požaduje dary a prodává věci, jen ne ty samé věci, jako jsou jejich imitátoři AI. S pomocí sociálních médií byli představitelé náboženských autorit schopni oslovit věřící daleko za hranicemi jejich sousedství, ale šíření obsahu s jejich podobiznami a hlasy také poskytlo dokonalou příležitost pro podvodníky, kteří používají generativní nástroje umělé inteligence.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
