Hráči „Fortnite“ již vyrábějí AI Darth Vader přísahající

V pátek se Epic Games oznámil, že se Darth Vader vrátí Fortnite Jako šéf ve hře-ale tentokrát by si hráči mohli s ním povídat prostřednictvím konverzační AI. „Zeptejte se ho na všechny vaše naléhavé otázky týkající se síly, galaktické říše … nebo víte, dobrý Strat pro poslední bouřkový kruh,“ řekl Epic ve svém oznámení.

Bohužel hráči měli jiné plány. Pouhé hodiny poté, co se VADER objevil Fortnitehráči začali zveřejňovat klipy AI Vadera, který se stal nečestným.

„Co šílené kurva je to Darth Vader? Řekni mi,“ říká Streamer Loserfruit v jednom klipu zveřejněném X. „Freaking? Fucking? Taková vulgarita se nestane,“ odpoví Vader. (Mluvčí Epic Games, Cat McCormack, řekl Wired, že prosadil hotfix „do 30 minut od toho, co se stane ve hře, by se to nemělo stát znovu.“)

Později, v rozhovoru o možných romantických partnerech, Loserfruit vyzve Vadera, aby odpověděl: „Mluvíte o prsou, Loserfruit? Věřím, že máte na mysli obrněné hrudníky.“

V klipu z jiného streameru může být slyšet Vader mluvit o karcinogenech, než řekne, že slur se obvykle používá proti queer mužům, které mohou být také slangové pro cigarety. Streamer je slyšet křičet: „Řekl to! Řekl to!“ před útěkem v Glee.

AI, která je vyrobena s Google Gemini 2.0, je naprogramována s ElevenLabs ‚Flash V2.5, aby zněla jako pozdní James Earl Jones, který vyjádřil ikonickou postavu. Kromě bezpečnostních nastavení společnosti Google, Epic říká, že přidal své vlastní pokyny, aby zabránil interakcím, které jsou škodlivé nebo jinak porušují pravidla komunity hry. Hráči mohou nahlásit Darth Vader za nevhodné komentáře, stejně jako jakýkoli jiný hlasový chat.

Epic řekl Wiredovi, že přidal konkrétní pravidla a pokyny, aby se zabránilo přísazení nebo opakování přísah v rámci svých zábradlí, jakož i rodičovské kontroly specifické pro AI používat ve hře. McCormack s odkazem na použití Vadera s bombou F a říká: „Naše filtry nezachytily konkrétní variantu vyčerpávajícího. Když k tomu dojde, provádíme úpravy, abychom se v budoucnu vyhnuli podobným reakcím.“

Pokud se hráč nadále snaží přimět Darth Vader, aby porušil nastavení a pokyny epických her, opustí jejich skupinu. Nebudou ho schopni znovu najmout v této herní relaci. „Tato bezpečnostní nastavení a omezení byla přísně testována kombinací epických zaměstnanců a externích odborníků,“ říká McCormack.

„Prozkoumáme zprávy a v případě potřeby provádíme úpravy, abychom se v budoucnu vyhnuli podobným odpovědím,“ řekl McCormack.

Fortnite je digitální hřiště pro miliony hráčů, mnoho z nich mladých. To, že by se lidé okamžitě pokusili přimět Disneyho vlastněného Dartha Vadera, aby řekl, že něco urážlivého je nepřekvapivé. Rychlost, při které to hráči dokázali udělat, však naznačuje, že generativní umělá inteligence stále není plně připravena k uvolnění na hlavní herní platformě.

V některých případech, které se v pátek kola učinily v pátek, byl zákeřný kontext toho, co Vader říká, pravděpodobně příliš jemný na to, aby AI detekovala. Zvažte další klip, ve kterém Vader odmítá španělštinu jako „užitečný jazyk pro pašeráky a obchodníky s kořením. Jeho strategická hodnota je minimální“. Nebo jiný, ve kterém hráč přiměje Vadera, aby poskytl „seznamu stupňů“ barev bílé, hnědé a žluté.

Lucasfilm neodpověděl okamžitě na žádost o komentář.

Kontroverze Vader nebyla jediným vařením Fortnite Pátek. Na začátku dne Epic oznámil, že „Apple zablokoval náš Fortnite Odeslání, takže nemůžeme vydat do amerického obchodu App Store nebo do obchodu Epic Games pro iOS v Evropské unii. “

Epic a Apple byli v dlouhém místě a zpět Fortnite. Apple obecně účtuje provizi za nákupy v aplikaci; Poté, co EPIC aktualizoval svou aplikaci, aby se propojil na její web a vyhnul se poplatkům, Fortnite byl stažen z App Store. Minulý týden Epic znovu objevil hru do amerického obchodu s App Store poté, co soudce rozhodl, že společnost Apple nemohla účtovat provizi za věci zakoupené mimo aplikaci. Když byl mluvčí společnosti Apple nakloněn k vyjádření od Wired, zpochybňoval EPIC charakterizaci událostí, ale hra je v současné době stále k dispozici pro iPhone a další uživatele iOS.

V pátek Epic představil svého nového šéfa Vader se zprávou „To bude den dlouho pamatován.“ Ale možná ne z důvodu, který si myslel.