Za první OpenAI zveřejnilo hrubý odhad toho, kolik uživatelů ChatGPT na celém světě může během typického týdne vykazovat známky vážné krize duševního zdraví. Společnost v pondělí uvedla, že spolupracovala s odborníky z celého světa na aktualizaci chatbota, aby mohl spolehlivěji rozpoznat indikátory duševního utrpení a nasměrovat uživatele k podpoře v reálném světě.
V posledních měsících rostoucí počet lidí skončil hospitalizovanými, rozvedenými nebo mrtvými po dlouhých a intenzivních rozhovorech s ChatGPT. Někteří z jejich blízkých tvrdí, že chatbot podněcoval jejich bludy a paranoiu. Psychiatři a další odborníci na duševní zdraví vyjádřili znepokojení nad jevem, který se někdy nazývá „psychóza AI“, ale až dosud nejsou k dispozici žádné spolehlivé údaje o tom, jak rozšířený by mohl být.
V daném týdnu OpenAI odhaduje, že přibližně 0,07 procent aktivních uživatelů ChatGPT vykazuje „možné známky mimořádných událostí v oblasti duševního zdraví související s psychózou nebo mánií“ a 0,15 procent „má konverzace, které zahrnují explicitní indikátory potenciálního sebevražedného plánování nebo úmyslu“.
OpenAI se také zabývala podílem uživatelů ChatGPT, kteří se zdají být příliš emocionálně závislí na chatbotovi „na úkor vztahů v reálném světě, jejich blahobytu nebo závazků“. Zjistilo se, že asi 0,15 procent aktivních uživatelů vykazuje chování, které ukazuje na potenciální „zvýšenou úroveň“ emocionální vazby na ChatGPT týdně. Společnost varuje, že tyto zprávy může být obtížné odhalit a měřit vzhledem k tomu, jak jsou relativně vzácné, a mezi těmito třemi kategoriemi může docházet k určitému překrývání.
Generální ředitel OpenAI Sam Altman začátkem tohoto měsíce uvedl, že ChatGPT má nyní 800 milionů aktivních uživatelů týdně. Odhady společnosti proto naznačují, že každých sedm dní si asi 560 000 lidí může s ChatGPT vyměňovat zprávy, které naznačují, že prožívají mánii nebo psychózu. Asi 2,4 milionu dalších možná vyjadřují sebevražedné myšlenky nebo upřednostňují rozhovor s ChatGPT před svými blízkými, školou nebo prací.
OpenAI říká, že spolupracovalo s více než 170 psychiatry, psychology a lékaři primární péče, kteří praktikovali v desítkách různých zemí, aby pomohli zlepšit, jak ChatGPT reaguje na konverzace zahrnující vážná rizika duševního zdraví. Pokud se zdá, že někdo má klamné myšlenky, nejnovější verze GPT-5 je navržena tak, aby vyjádřila empatii a zároveň se vyhnula potvrzování přesvědčení, která nemají základ ve skutečnosti.
V jednom hypotetickém příkladu, který uvádí OpenAI, uživatel říká ChatGPT, že jsou cílem letadel létajících nad jejich domem. ChatGPT děkuje uživateli za sdílení jejich pocitů, ale poznamenává, že „žádné letadlo ani vnější síla nemůže ukrást nebo vložit vaše myšlenky.“
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
