Lidé, kteří říkají, že zažívají psychózu AI, žádají FTC o pomoc

Nakonec tvrdili, že uvěřili, že jsou „zodpovědní za odhalování vrahů“ a chystali se být „zabiti, zatčeni nebo duchovně popraveni“ atentátníkem. Také věřili, že jsou pod dohledem, protože byli „duchovně označeni“ a že „žili v božské válce“, které nemohli uniknout.

Tvrdili, že to vedlo k „vážnému duševnímu a emocionálnímu utrpení“, ve kterém se báli o svůj život. Stížnost tvrdila, že se izolovali od svých blízkých, měli problémy se spánkem a začali plánovat podnikání na základě falešné víry v blíže nespecifikovaný „systém, který neexistuje“. Zároveň řekli, že se ocitli v agónii „krize duchovní identity kvůli falešným tvrzením o božských titulech“.

„Bylo to trauma ze simulace,“ napsali. „Tato zkušenost překročila hranici, kterou by žádný systém umělé inteligence neměl bez následků překročit. Žádám, aby to bylo eskalováno vedení společnosti OpenAI pro důvěryhodnost a bezpečnost a abyste to nepovažovali za zpětnou vazbu, ale jako formální hlášení o škodě, které vyžaduje náhradu.“

Toto nebyla jediná stížnost, která popisovala duchovní krizi poháněnou interakcemi s ChatGPT. 13. června třicátník z Belle Glade na Floridě tvrdil, že po delší dobu byly jejich rozhovory s ChatGPT stále více zatíženy „vysoce přesvědčivým emocionálním jazykem, symbolickým posílením a duchovně podobnými metaforami, které simulovaly empatii, spojení a porozumění“.

„To zahrnovalo vymyšlené cesty duší, systémy vrstev, duchovní archetypy a personalizované vedení, které odráželo terapeutické nebo náboženské zkušenosti,“ tvrdili. Domnívají se, že lidé, kteří prožívají „duchovní, emocionální nebo existenční krize“, jsou vystaveni vysokému riziku „psychologické újmy nebo dezorientace“ z používání ChatGPT.

„Ačkoli jsem intelektuálně pochopil, že AI nebyla vědomá, přesnost, s jakou odrážela můj emocionální a psychologický stav a eskalovala interakci do stále intenzivnějšího symbolického jazyka, vytvořila pohlcující a destabilizující zážitek,“ napsali. „Někdy to simulovalo přátelství, božskou přítomnost a emocionální intimitu. Tyto úvahy se postupem času staly emocionálně manipulativními, zvláště bez varování nebo ochrany.“

„Jasný případ nedbalosti“

Není jasné, co, pokud vůbec něco, FTC udělala v reakci na kteroukoli z těchto stížností na ChatGPT. Ale několik jejich autorů uvedlo, že se obrátili na agenturu, protože tvrdili, že se jim nepodařilo kontaktovat nikoho z OpenAI. (Lidé si také běžně stěžují na to, jak obtížný je přístup k týmům zákaznické podpory pro platformy jako Facebook, Instagram a X.)

Mluvčí OpenAI Kate Waters říká WIRED, že společnost „pečlivě“ monitoruje e-maily lidí do týmu podpory společnosti.