Seznamte se s vtipálky za Goodym-2, „nejzodpovědnějším“ AI chatbotem na světě

Goody-2 také zdůrazňuje, že ačkoli se firemní řeči o zodpovědné umělé inteligenci a odklonu od chatbotů staly běžnějšími, vážné bezpečnostní problémy s velkými jazykovými modely a generativními systémy umělé inteligence zůstávají nevyřešeny. Ukázalo se, že nedávné propuknutí deepfakes Taylor Swift na Twitteru pramení z generátoru obrázků vydaného společností Microsoft, která byla jednou z prvních velkých technologických společností, které vybudovaly a udržovaly významný odpovědný výzkumný program AI.

Omezení kladená na chatboty s umělou inteligencí a potíže s nalezením morálního souladu, který by uspokojil každého, se již staly předmětem určité debaty. Někteří vývojáři tvrdili, že ChatGPT od OpenAI má levicový sklon a snažili se vybudovat politicky neutrálnější alternativu. Elon Musk slíbil, že jeho vlastní konkurent ChatGPT, Grok, bude méně zaujatý než jiné systémy umělé inteligence, i když ve skutečnosti to často končí nejasnostmi způsoby, které mohou připomínat Goody-2.

Zdá se, že mnoho výzkumníků AI oceňuje vtip, který stojí za Goody-2 – a také vážné body, které projekt vznesl – sdílení chvály a doporučení pro chatbota. „Kdo říká, že umělá inteligence nemůže dělat umění,“ Toby Walsh, profesor na University of New South Wales, který pracuje na vytváření důvěryhodné umělé inteligence, zveřejněno na X.

„S rizikem, že zkazíte dobrý vtip, to také ukazuje, jak těžké je to udělat správně,“ přidal Ethan Mollick, profesor na Wharton Business School, který studuje umělou inteligenci. „Nějaké mantinely jsou nutné, ale rychle zasahují.“

Brian Moore, další co-CEO Goody-2, říká, že projekt odráží ochotu upřednostňovat opatrnost více než ostatní vývojáři AI. „Skutečně se zaměřuje na bezpečnost, především a především, nad doslova všechno ostatní, včetně vstřícnosti a inteligence a skutečně jakékoli užitečné aplikace,“ říká.

Moore dodává, že tým za chatbotem zkoumá způsoby, jak vytvořit extrémně bezpečný generátor obrázků AI, i když to zní, že by to mohlo být méně zábavné než Goody-2. „Je to vzrušující pole,“ říká Moore. „Rozmazání by bylo krokem, který bychom mohli vidět vnitřně, ale na konci bychom chtěli buď úplnou tmu, nebo potenciálně žádný obraz.“