Podvodné knihy generované AI zaplavují Amazon

Když výzkumnice AI Melanie Mitchell zveřejnila Umělá inteligence: Průvodce pro myšlení lidí v roce 2019 se rozhodla objasnit dopad AI. O několik let později ChatGPT spustil nový boom umělé inteligence – s vedlejším efektem, který ji zaskočil. Napodobenina její knihy vytvořená umělou inteligencí se objevila na Amazonu ve zjevném plánu profitovat z její práce. Vypadá to jako další příklad pokračujícího problému ecommerce giganta s nadbytkem nekvalitních e-knih generovaných umělou inteligencí.

Mitchell se dozvěděla, že při hledání její knihy na Amazonu se objevila nejen její vlastní kniha, ale také další e-kniha se stejným názvem, vydaná loni v září. Měl jen 45 stran a papouškoval Mitchellovy myšlenky zastavujícím, trapným jazykem. Uvedená autorka „Shumaila Majid“ neměla žádný životopis, headshot ani internetovou přítomnost, ale kliknutím na toto jméno se objevily desítky podobných knih shrnujících nedávno vydané tituly.

Mitchell uhodla, že elektronická kniha byla vytvořena umělou inteligencí, a její tušení se zdá být správné. WIRED požádal startup Reality Defender s deepfake-detection, aby analyzoval náhražkovou verzi Umělá inteligence: Průvodce pro myšlení lidía její software prohlásil, že kniha je z 99 procent pravděpodobně vytvořena AI. „To mě naštvalo,“ říká Mitchell, profesor na Santa Fe Institute. „Je to prostě děsivé, jak jsou lidé vtaženi do nákupu těchto knih.“

Amazon odstranil napodobeninu Mitchellovy knihy poté, co společnost WIRED kontaktoval společnost. „Zatímco povolujeme obsah generovaný umělou inteligencí, nepovolujeme obsah generovaný umělou inteligencí, který porušuje naše pokyny pro obsah Kindle Direct Publishing, včetně obsahu, který vytváří neuspokojivé zákaznické zkušenosti,“ říká mluvčí Amazonu Ashley Vanicek.

Mitchell však není zdaleka jediným výzkumníkem umělé inteligence, na kterého se zjevně zaměřuje pomocí stejné technologie, na které pracují. Nové paměti průkopnického počítačového vědce Fei-Fei Li Světy, které vidím: Zvědavost, průzkum a objevování ve věku umělé inteligence při hledání knihy na Amazonu se objeví více než tucet různých shrnutí.

Na rozdíl od vzletu Mitchellovy knihy se shrnutí Liovy knihy jako takové prohlašují. Jedna, s přímým názvem Shrnutí a analýza světů, které vidím, má popis produktu, který začíná: „ODPOVĚDNOST!! TOTO NENÍ KNIHA OD FEI-FEI LI ANI NENÍ S NI SPOJENA. JE TO NEZÁVISLÁ PUBLIKACE, KTERÁ PODROBNĚ SHRNUTÍ KNIHY FEI-FEI LI. JE TO SHRNUTÍ.“ Přesto se zdá, že i tyto knihy byly vytvořeny umělou inteligencí a pro čtenáře mají malou přidanou hodnotu. Reality Defender analyzoval vzorek Shrnutí a analýza knihu a zjistili, že je pravděpodobně také vytvořena AI. „Úplné a úplné přepsání textu. Například někdo požádal LLM, aby text přepsal, nikoli shrnul,“ říká vedoucí marketingu Reality Defender Scott Steinhardt. „Je to jako KidzBop verze skutečné věci.“ Li požádala o komentář prostřednictvím e-mailu a destilovala svou reakci do jediného emoji: 🤯.

Shrnutí Provedení

Špinavá shrnutí knih jsou na Amazonu dlouhodobým problémem. v roce 2019 The Wall Street Journal zjistili, že mnozí používali záměrně matoucí přebal a text, což popudilo spisovatele včetně podnikatele Tima Ferrisse. „Společně s některými vydavateli se je snažíme už nějakou dobu odstranit,“ říká generální ředitelka Authors Guild Mary Rasenberger. Vzestup generativní umělé inteligence podnítil odvětví spamových souhrnů. „Je to první trh, u kterého jsme očekávali, že bude zaplaven umělou inteligencí,“ říká Rasenberger. Říká, že tato schémata zapadají do silných stránek velkých jazykových modelů, které jsou vhodné pro vytváření souhrnů práce, kterou dostávají, a dokážou to udělat rychle. Plody této rychlé generace jsou nyní běžné při vyhledávání populárních titulů literatury faktu na Amazonu.

Souhrny generované umělou inteligencí prodávané jako e-knihy „dramaticky rostou, říká expertka na vydavatelský průmysl Jane Friedmanová, která byla sama cílem jiného schématu knih generovaných umělou inteligencí. A to i přesto, že Amazon v září omezil autory na nahrávání maximálně tří knih do svého obchodu každý den. „Právě teď je běžné, že autor literatury faktu oslaví uvedení své knihy na trh a během několika dní objeví jeden z těchto souhrnů na prodej.“