TikTok Lite ponechává až 1 miliardě uživatelů méně ochrany

V květnu TikTok oznámil, že na své platformě automaticky označí obsah generovaný AI. To však neplatí pro všechny verze aplikace. Nová zpráva od Mozilla Foundation a AI Forensics zjistila, že verze TikTok Lite-Save Data, zaměřená na uživatele na chudších trzích, nejenže nechává obsah generovaný umělou inteligencí bez označení, ale také postrádá jiné, podobné záruky.

„Označování je velmi důležitá taktika, kterou platformy používají k poskytování určité formy důvěry a bezpečnosti,“ říká Odanga Madung, člen Mozilly a spoluautor zprávy.

Uživatelé plné verze TikTok například uvidí štítky označující, že obsah je grafický nebo zobrazuje nebezpečné chování. Některý obsah o tématech, jako jsou volby a zdraví, podobně zahrnuje upozornění vybízející uživatele k přístupu k důvěryhodným informacím prostřednictvím „centra zdrojů“ v aplikaci.

Na TikTok Lite nejsou žádné z těchto zábradlí. Mimo jiné to znamená, že s klamavým obsahem generovaným umělou inteligencí, který je problémem voleb po celém světě, uživatelé na chudších trzích dostávají méně informací o tom, co je falešné a co je skutečné, než uživatelé na bohatších.

Madung si klade otázku, proč ze všech funkcí, které bylo možné vyjmout za účelem optimalizace aplikace, společnost zahrnula ty, které činí platformu pro uživatele bezpečnější. „Nevíme, jestli je to volba, nebo jestli je to jen nedbalost,“ říká.

„V této zprávě je několik faktických nepřesností, které zásadně zkreslují náš přístup k bezpečnosti,“ uvedl v prohlášení mluvčí TikTok. „Faktem je, že obsah, který porušuje naše pravidla, je z TikTok Lite odstraněn stejným způsobem jako naše hlavní aplikace a nabízíme řadu bezpečnostních funkcí.“ Společnost odmítla poukázat na jakékoli konkrétní nepřesnosti.

Lite verze aplikací jsou pro společnosti již dlouho způsob, jak zvýšit podíl na trhu v oblastech, kde jsou uživatelé vystaveni vysokým nákladům na data nebo si mohou dovolit pouze méně pokročilé telefony. V roce 2015 Meta, poté Facebook, spustil Facebook Lite, oříznutou verzi své aplikace, která byla více kompatibilní s datovými sítěmi 2G. Ve stejném roce také spustil Free Basics, který uživatelům na globálním jihu umožnil přístup k platformě a některým dalším webům, aniž by jim byly účtovány poplatky za využití dat. (Aplikace nebo služba splňující tato kritéria se nazývá „nulové hodnocení“.) Projekt v té době čelil široké kritice, zejména v Indii, za vytvoření prostředí druhé úrovně pro chudší zákazníky.

TikTok zahájil svou Lite verzi v roce 2018 v Thajsku a rychle expandoval na další trhy v jihovýchodní Asii, včetně Indonésie, Malajsie a Filipín. Aplikace, která na rozdíl od plné verze TikTok může běžet v sítích 2G a 3G, má nyní podle údajů z obchodu Google Play více než 1 miliardu stažení. (TikTok Lite je k dispozici pouze pro telefony Android.)

„Většina uživatelů na globálním Jihu má nízké příjmy a omezené zdroje,“ říká Payal Arora, profesor inkluzivních kultur umělé inteligence na Utrechtské univerzitě. Zjednodušené verze aplikací pomáhají společnostem získat tyto lidi, což je podle ní ještě důležitější než v minulosti, protože „data jsou na tomto trhu řízeném umělou inteligencí a hladovém po AI měnou“.