Teenageři používají „pomlouvačné stránky“ poháněné umělou inteligencí k zesměšňování svých učitelů

Video se otevře se školním dozorcem, který synchronizuje milostnou píseň, ale není jediným interpretem.

Umělá inteligence vygenerovaná verze izraelského premiéra Benjamina Netanjahua a zesnulého sexuálního delikventa Jeffreyho Epsteina se k němu připojila v baladě – spojení mezi „Be Around Me“ od Willa Josepha Cooka a přepisem písně od Beth McCarthy na TikTok – s Epsteinem pronesenými slovy: „Ach můj bože, říkal jí možná dítě?

Klip zveřejněný na instagramovém účtu @thewyliefiles se líbil více než 107 000krát. Jeho popisek zní jako přehled velkého jazykového modelu Wylie Independent School District v Collin County v Texasu, kde byl dříve zaměstnán pěvecký dozorce, a chlubil se svými „silnými akademiky“ a „širokým spektrem mimoškolních předmětů“. Nejlepší komentář zní: „Gem alarm!“ což naznačuje, že kolemjdoucí narazili na zlato ve svém každodenním svitku.

Scénář je jen jedním z příkladů nového trendu AI-video meme na Instagramu a TikTok, který studenti vymysleli, aby zesměšnili fakultu školy a někdy útočili na jejich pověst, zdánlivě kvůli viralitě. Tyto převážně studentské účty si vysloužily přezdívku „stránky pomluv“ online. Jsou digitální mutací průměrného středoškolského žertu, ale s potenciálně mnohem vyššími sázkami.

Příspěvky na „stránce pomluv“ používají slangové výrazy, které pocházejí z nechutných částí internetu. V těchto memech se běžně používá žargón „Looksmaxxing“, který pochází z manosférických fór, která učí muže, jak být atraktivnější, včetně slov jako „mog“, což znamená ovládnout jiného muže svým vzhledem, a „sub5“, které bylo vytvořeno k označení lidí, kteří jsou podlidsky oškliví.

Některá „pomlouvačná“ videa používají nástroj AI pro převod obrazu na video Viggle AI, který tvůrcům umožňuje vložit jakoukoli fotografovanou osobu do libovolného referenčního videa a animovat statický obrázek do formátu videa se synchronizací rtů. Viggle AI byla v nedávném příspěvku na blogu popsána jako „nová hranice ve vytváření spontánní extremistické propagandy“ organizací Global Network on Extremism and Technology, akademickým výzkumným oddělením King’s College London. Platforma se k únoru může pochlubit více než 40 miliony uživatelů. Viggle AI neodpověděla na žádost o komentář.

V jednom od té doby odstraněném „pomluvném“ videu využívajícím Viggle AI, které bylo zveřejněno na TikTok, byla tvář učitele překryta někým, kdo sebou škubal v koupelně. Překryvný text zněl: „Vezmi si ohradu, nebo buď k ničemu,“ označoval záchvat jako fentanylovou drogu.

Plakáty za těmito stránkami také používají morfované extremistické symboly. V jednom příkladu jsou někteří učitelé vpuštěni do fiktivní říše Agartha, což je klíčové prostředí neonacistického okultismu, kde jsou všichni bílí a blonďatí. Učitelé v úpravě jsou vyobrazeni se zářícíma bílýma očima, které označují, že mají povolen vstup do Agarthy, nebo mají červené oči, aby bylo vidět, že jim byl odepřen.

V případě střední školy Crandall v texaském Crandall se situace vyhrotila. Memy virového účtu TikTok s názvem @crandall.kirkinator prolomily zadržování místní uživatelské základny Crandall a inspirovaly TikTokers se stovkami tisíc následovníků – a bez zjevných vazeb na školu – aby zesílili „pomluvy“ proti učitelům Crandall. Virální video scénky dokonce předvedly scénáře, ve kterých administrátoři trestají studenty, kteří tyto příspěvky píšou.

Administrátoři na Crandall High School odmítli situaci komentovat, ale na konci ledna byl veškerý obsah na účtu @crandall.kirkinator TikTok vymazán a nahrazen prohlášením potvrzujícím, že shodný účet na Instagramu byl smazán. „Můj účet na Instagramu nebyl zakázaný, smazal jsem ho dobrovolně… Někteří učitelé byli obtěžováni, volali jim spam nebo jim posílali e-maily, což nikdy nebylo mým záměrem… Účet byl vytvořen jako vtip a nikdy neměl eskalovat tak daleko,“ stálo v prohlášení. Dny po zveřejnění výpisu se účet začal znovu zveřejňovat na TikTok. Minulý týden byla celá smazána.