Fable, oblíbená aplikace sociálních médií, která se popisuje jako útočiště pro „knihomoly a milovníky přejídání“, vytvořila souhrnnou funkci na konci roku s umělou inteligencí, která shrnuje, co uživatelé četli v roce 2024. Mělo to být hravé a zábavné, ale některé rekapitulace nabraly zvláštně bojovný tón. Shrnutí spisovatele Dannyho Grovese se například zeptalo, zda „má někdy náladu na přímý, cis bílý mužský pohled“ poté, co ho označil za „oddaného rozmanitosti“.
Shrnutí ovlivňovače knih Tiany Trammellové mezitím skončilo následující radou: „Nezapomeňte se vynořit občasné bílé autorce, ano?“
Trammell byla ohromena a brzy si uvědomila, že není sama poté, co se podělila o své zkušenosti s Fableho shrnutími na Threads. „Dostala jsem několik zpráv,“ říká, od lidí, jejichž souhrny nevhodně komentovaly „postižení a sexuální orientaci.“
Od uvedení Spotify Wrapped se funkce každoročních rekapitulací staly všudypřítomnými po celém internetu a poskytují uživatelům přehled o tom, kolik knih a novinových článků přečetli, poslouchaných skladeb a cvičení, která dokončili. Některé společnosti nyní používají AI k úplné produkci nebo rozšíření způsobu prezentace těchto metrik. Například Spotify nyní nabízí podcast generovaný umělou inteligencí, kde roboti analyzují vaši historii poslechu a odhadují váš život na základě vašeho vkusu. Fable na tento trend naskočil a pomocí API OpenAI generoval pro své uživatele souhrny za posledních 12 měsíců jejich čtenářských návyků, ale neočekával, že model umělé inteligence vyplivne komentář, který nabere podobu anti-probuzeného vědce. .
Společnost Fable se později omluvila na několika kanálech sociálních médií, včetně Threads a Instagramu, kde zveřejnila video vedoucího pracovníka vydávajícího mea culpa. „Hluboce se omlouváme za zranění způsobené některými z našich čtenářských souhrnů tento týden,“ napsala společnost v popisku. „Uděláme to lépe.“
Kimberly Marsh Allee, vedoucí komunity Fable, řekla WIRED, že společnost pracuje na řadě změn, aby zlepšila své souhrny AI, včetně možnosti odhlášení pro lidi, kteří je nechtějí, a jasnějších informací o tom, že jsou AI- vytvořené. „Zatím jsme odstranili část modelu, která čtenáře hravě praží, a místo toho model jednoduše shrnuje vkus uživatele v knihách,“ říká.
Některým uživatelům nepřipadá úprava AI jako adekvátní odezva. Spisovatelka fantasy a románů AR Kaufer byla zděšená, když viděla snímky některých shrnutí na sociálních sítích. „Musí říct, že úplně skoncují s AI.“ A musí vydat prohlášení nejen o AI, ale s omluvou těm, kterých se to týká,“ říká Kaufer. „Tato ‚omluva‘ na Threads mi přijde neupřímná, zmínka o aplikaci je ‚hravá‘, jako by nějak omlouvala rasistické/sexistické/ableistické citáty.“ V reakci na incident se Kaufer rozhodla smazat svůj účet Fable.
Stejně tak Trammell. „Vhodným postupem by bylo deaktivovat tuto funkci a provést přísné interní testování, včetně nově implementovaných bezpečnostních opatření, aby se podle svých nejlepších schopností zajistilo, že žádní další uživatelé platformy nebudou vystaveni poškození,“ říká.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
