Julie Carpenter ne vůbec obviňovat lidské uživatele z antropomorfizace chatbotů. Dlouholetý odborník na interakci mezi člověkem a AI a autor Nahý Android vidí generativní nástroje umělé inteligence, jako je ChatGPT, jako záměrně navržené tak, aby vyvolaly tyto reakce od uživatelů prostřednictvím vysoce personalizovaných vzpomínek a interakcí, které kopírují sociální zážitky.
Tato jednostranná spojení se mohou stát ještě komplikovanějšími a potenciálně katastrofálními, když se jako možnost přidá erotika generovaná umělou inteligencí. Carpenter se obává nadcházejících plánů OpenAI umožnit dospělým sextovat s ChatGPT. „Jsem pro lidi, kteří zkoumají svou sexualitu, ale chci to způsobem, který je pro ně bezpečný a zároveň zábavný,“ říká. „Lidé si musí být velmi dobře vědomi toho, že data obsahují aspekt sledování.“
OpenAI poprvé naznačila, že umožňuje dospělým uživatelům generovat erotiku pomocí ChatGPT před dvěma lety v oficiálním dokumentu popisujícím, jak se mají její modely chovat. I když se zdá, že společnost stále plánuje své případné vydání, časová osa je nejasná. V posledních měsících poradní rada externích expertů OpenAI vyjádřila obavy z rizik tohoto bezprostředního vydání, včetně možnosti „sexy sebevražedného kouče“, podle zprávy od The Wall Street Journal. OpenAI odmítlo komentovat, když jej oslovil WIRED.
Lidé mluvící špinavě se stroji, jako je ChatGPT, není nic nového. „Chtějí zpeněžit něco, co vidí, že se to lidé stejně pokusí udělat,“ říká Kate Devlin, profesorka umělé inteligence a společnosti na King’s College London, jejíž výzkum zahrnuje digitální sex.
Co se zde liší, je potenciální přijetí smutu OpenAI na mainstreamové platformě. Erotičtí chatboti jsou byznysem, který zvyšuje příjmy, ale často jsou odkázáni na specializované stránky s nevýraznými jmény nebo na Grok Elona Muska, známý pro nekonsensuální hluboce falešné obrázky a přecházející do režimu „MechaHitler“.
Až bude uvolněn režim pro dospělé, bude zajímavé vidět, co přesně si bude ChatGPT pamatovat o sexuálních sklonech uživatelů. V posledních několika letech OpenAI pokračovala ve vylepšování funkce paměti chatbota, která zaznamenává uživatelské preference a odpovídá personalizovanými výstupy. jsi vegan? ChatGPT vám nedoporučí steakhouse, když budete požádáni o nápady na restauraci. Chcete vyrazit na túru? Z minulých chatů ví, že jste v San Franciscu, a navrhne vám přiměřeně blízké trasy, i když kontext daného místa ve výzvě není zahrnut.
Ale co se stane, když tento typ protokolování dat a hyperspecifická personalizace splňuje nadržené sextingové návyky milionů dospělých uživatelů ChatGPT? Erotické interakce s ChatGPT dále zvýší sázky na soukromí uživatelů.
Spíše než si pamatovat vaše dietní preference nebo jaký typ filmů máte nejraději, ChatGPT by si mohl vzpomenout, jak moc jste fantazírovali o chlupatém pornu, trojicích na pláži a chcankách, a také přizpůsobit své denní reakce s ohledem na tyto sexuální detaily. Zůstává nejasné, jak OpenAI plánuje zvládnout tyto vyspělé konverzace.
Lidé, kteří se při spuštění rozhodnou pracovat se smutovou verzí ChatGPT, mohou najít útěchu ve funkci „dočasných chatů“. Když je povoleno, tyto konverzace se nezobrazují v historii protokolů uživatele ani se nepoužívají ke zlepšení modelů OpenAI.
Tyto chaty však nejsou tak pomíjivé, jak by se uživatelům mohlo zdát. „Z bezpečnostních důvodů si stále můžeme ponechat kopii po dobu až 30 dnů,“ stojí na webu OpenAI. Na stránce webu je také prohlášení o vyloučení odpovědnosti, které tvrdí, že „uchovávání údajů pro určité služby může být ovlivněno nedávným právním vývojem“.
Čerpáme z těchto zdrojů: google.com, science.org, newatlas.com, wired.com, pixabay.com
