Detektory AI pro ChatGPT: Vše, co potřebujete vědět

Zjistit, kdy byl text vygenerován nástroji jako ChatGPT, je obtížný úkol. Populární nástroje detekce umělé inteligence, jako je GPTZero, mohou uživatelům poskytnout určité vodítko tím, že jim sdělí, kdy něco napsal robot a ne člověk, ale ani specializovaný software není spolehlivý a může chrlit falešné poplachy.

Jako novinář, který se začal zabývat detekcí umělé inteligence před více než rokem, jsem chtěl sestavit některé z nejlepších článků WIRED na toto téma, které pomohou čtenářům, jako jste vy, lépe porozumět tomuto složitému problému.

Máte ještě další otázky ohledně vyhledávání výstupů z ChatGPT a dalších nástrojů chatbotů? Přihlaste se k odběru mého newsletteru AI Unlocked a kontaktujte mě přímo s čímkoli, co souvisí s AI, na co byste chtěli odpovědět nebo chcete WIRED prozkoumat více.

února 2023 od Reece Rogerse

V tomto článku, který byl napsán asi dva měsíce po spuštění ChatGPT, jsem se začal potýkat se složitostí detekce textu AI a také s tím, co by revoluce AI mohla znamenat pro autory, kteří publikují online. Edward Tian, ​​zakladatel GPTZero, se mnou hovořil o tom, jak se jeho detektor AI zaměřuje na faktory, jako je variace textu a náhodnost.

Při čtení se zaměřte na část o textovém vodoznaku: „Vodoznak může být schopen určit určité slovní vzory, které jsou pro generátor textu AI zakázány.“ I když to byl slibný nápad, výzkumníci, se kterými jsem mluvil, už byli skeptičtí ohledně jeho potenciální účinnosti.

září 2023 od Christophera Beama

Tento článek, fantastický kousek z loňského říjnového vydání WIRED, vám poskytuje vnitřní pohled na myšlení Edwarda Tiana, když pracoval na rozšíření dosahu a detekčních schopností GPTZero. Zásadní je zaměření na to, jak umělá inteligence ovlivnila školní práci.

Detekce textu pomocí umělé inteligence je pro mnoho učitelů ve třídách prvořadá, protože hodnotí písemky a případně se úplně vzdávají esejových úkolů kvůli tomu, že studenti tajně používají chatboty k plnění domácích úkolů. Zatímco někteří studenti mohou používat generativní umělou inteligenci jako nástroj pro brainstorming, jiní ji používají k výrobě celých úkolů.

září 2023 od Kate Knibbs

Mají společnosti odpovědnost za označování produktů, které mohou být generovány umělou inteligencí? Kate Knibbsová zkoumala, jak potenciálně porušující autorská práva vytvořené knihy generované umělou inteligencí byly nabízeny k prodeji na Amazonu, i když některé startupy věřily, že produkty lze zaznamenat pomocí speciálního softwaru a odstranit. Jedna ze stěžejních debat o detekci umělé inteligence závisí na tom, zda potenciál pro falešné poplachy – člověkem psaný text, který je náhodně označen jako dílo umělé inteligence – převažuje nad výhodami označování algoritmicky generovaného obsahu.

srpna 2023 od Amandy Hoover

Text vygenerovaný umělou inteligencí se kromě domácích úkolů objevuje spíše v akademických časopisech, kde je bez řádného zveřejnění často zakázán. „Články napsané umělou inteligencí by také mohly odvést pozornost od dobré práce rozmělněním zásoby vědecké literatury,“ píše Amanda Hoover. Jednou z potenciálních strategií pro řešení tohoto problému je, že vývojáři vytvoří specializované detekční nástroje, které vyhledávají obsah AI v recenzovaných dokumentech.

října 2023 od Kate Knibbs

Když jsem loni v únoru poprvé mluvil s výzkumníky o vodoznakech pro detekci textu AI, byli nadějní, ale opatrní ohledně možnosti vtisknout textu AI specifické jazykové vzorce, které jsou pro lidský čtenáře nezjistitelné, ale detekčnímu softwaru zřejmé. Když se podíváme zpět, jejich strach se zdá být na správném místě.

Jen o půl roku později mluvila Kate Knibbs s několika zdroji, které rozbíjely vodoznaky AI a demonstrovaly svou základní slabost jako detekční strategii. I když není zaručeno, že selže, AI text vodoznaku je i nadále obtížné odstranit.

dubna 2024 od Amandy Hoover

Jedním z nástrojů, který se učitelé snaží použít k detekci práce ve třídě generované umělou inteligencí, je Turnitin, software pro detekci plagiátů, který přidal možnosti rozpoznávání umělé inteligence. (Turnitin vlastní Advance, mateřská společnost Condé Nast, která vydává WIRED.) Amanda Hoover píše: „Chechitelli říká, že většina klientů služby se rozhodla pro nákup detekce AI. Ale rizika falešných poplachů a zaujatosti vůči studentům angličtiny vedla některé univerzity k tomu, že se prozatím těchto nástrojů vzdaly.“

Detektory umělé inteligence pravděpodobněji falešně označí psaný obsah od někoho, jehož mateřským jazykem není angličtina, jako umělou inteligenci, než od někoho, kdo je rodilým mluvčím. Vzhledem k tomu, že vývojáři pokračují v práci na vylepšování algoritmů detekce AI, problém chybných výsledků zůstává hlavní překážkou, kterou je třeba překonat.