
Vědci navrhují lepší způsob, jak nahlásit nebezpečné nedostatky AI
Na konci roku 2023 objevil tým vědců třetích stran znepokojivou závadu v široce používaném modelu umělé inteligence OpenAI GPT-3.5. Když byl model požádán o opakování určitých slov, začal model opakovat slovo znovu a znovu, a pak se najednou přepnul na vyplivnutí nesouvislého textu a úryvků osobních údajů z jeho tréninkových dat, včetně částí jmen, telefonních…