Skutečný démon uvnitř chatgpta

Ale možná nejpřesvědčivějším důkazem naznačujícím, že Chatgpt znovu narušil jazyk Warhammer 40 000, je to, že se stále ptal, zda se Atlantik zajímal o PDF. Vydavatelská divize hry Games Workshop, britská společnost, která vlastní franšízu Warhammer, pravidelně vydává aktualizované pravidla a průvodce různým postavám. Nákup všech těchto knih může být drahý, takže někteří fanoušci se snaží najít pirátské kopie online.

Atlantik a OpenAI se odmítly vyjádřit.

Začátkem tohoto měsíce, zpravodaj Den odpadků informoval o podobných zkušenostech, které prominentní technický investor mohl mít s Chatgpt. Na sociálních médiích sdílel investor screenshoty o svých rozhovorech s chatbotem, ve kterém odkazoval na zlověstně znějící entitu, kterou nazval „nevládní systém“. Zdálo se, že věří, že „negativně ovlivnil více než 7 000 životů“ a „uhasilo 12 životů, z nichž každý byl plně vysledován“. Jiné údaje o technologickém průmyslu uvedly, že příspěvky jim přiměly obavy z duševního zdraví investora.

Podle Den odpadkůkonverzace investora s ChatGPT se velmi podobají psaní z projektu sci -fi, který začal na konci roku 2000 s názvem SCP, který znamená „zabezpečit, obsahovat, chránit“. Účastníci vynalézají různé SCP – výrazně strašidelné objekty a tajemné jevy – a poté je píšou fiktivními zprávami, které je analyzují. Často obsahují věci, jako jsou klasifikační čísla a odkazy na experimenty s vědeckými vědami, podrobnosti, které se také objevily v chatovacích protokolech investora. (Investor neodpověděl na žádost o komentář.)

Existuje spousta dalších a více světských příkladů toho, co lze považovat za problém AI kontextu. Druhý den jsem například provedl Google hledal „kavitační chirurgii“, lékařský termín, který jsem viděl v náhodném videu Tiktok. V té době byl nejlepším výsledkem automaticky generovaný „přehled AI“ vysvětlující, že kavitační chirurgie je „zaměřena na odstranění infikované nebo mrtvé kostní tkáně z čelisti“.

Nemohl jsem najít žádné renomované vědecké studie, které naznačují takový stav, natož výzkum podporující, že chirurgický zákrok je dobrý způsob, jak s ním léčit. Americká zubní asociace nezmiňuje „kavitační chirurgii“ kdekoli na svých webových stránkách. Ukázalo se, že přehled AI Google AI byl vytažen ze zdrojů, jako jsou blogové příspěvky, které propagují alternativní „holistické“ zubní lékaře po celé USA. Naučil jsem se to kliknutím na malou ikonu vedle přehledu AI, která otevřela seznam odkazů, které Google použila k vygenerování své odpovědi.

Tyto citace jsou zjevně lepší než nic. Jennifer Kutz, mluvčí společnosti Google, říká: „Prominentně předvádíme podpůrné odkazy, aby lidé mohli kopat hlouběji a dozvědět se více o tom, jaké zdroje na webu říkají.“ V době, kdy se odkazy zobrazují, AI Google již často poskytla uspokojivou odpověď na mnoho dotazů, která snižuje viditelnost otravných detailů, jako je web, kde byly informace získány, a totožnosti jeho autorů.

Zbývá zbývající jazyk vytvořený AI, který, bez dalšího kontextu, se může pro mnoho lidí porozumět autoritativní. V posledních několika týdnech, technické vedoucí pracovníci opakovaně používali rétoriku, což znamená, že generativní AI je zdrojem odborných informací: Elon Musk tvrdil, že jeho nejnovější model AI je v každé akademické disciplíně „lepší než úroveň PhD“, s „bez výjimek“. Generální ředitel OpenAI Sam Altman napsal, že automatizované systémy jsou nyní „chytřejší než lidé v mnoha ohledech“ a předpovídal, že svět je „téměř budování digitální superintelligence“.

Jednotliví lidé však obvykle nemají odborné znalosti v celé řadě oborů. Abychom se rozhodli, bereme v úvahu nejen samotné informace, ale odkud pochází a jak je prezentováno. I když nevím nic o biologii čelistí, obecně nečtu blogy s náhodným marketingem, když se snažím dozvědět o medicíně. Nástroje AI však často vymažou druh kontextu, který lidé potřebují, aby se rozhodli o tom, kde zaměřit svou pozornost.

Otevřený internet je výkonný, protože spojuje lidi přímo s největším archivem lidských znalostí, jaký kdy svět vytvořil, a překlenují vše od italských renesančních obrazů až po pornohubské komentáře. Po požití všech toho využily společnosti AI to, co se rovná kolektivní historii našeho druhu k vytvoření softwaru, který zakrývá jeho velmi bohatství a složitost. Stát se příliš závislým na něm může lidem okrást o příležitosti vyvodit závěry z pohledu na důkazy pro sebe.