AI je černá skříňka. Antropický přišel na způsob, jak se podívat dovnitř
Minulý rok tým začal experimentovat s malým modelem, který používá pouze jednu vrstvu neuronů. (Sofistikované LLM mají desítky vrstev.) Doufalo se, že v co nejjednodušším nastavení dokážou objevit vzory, které označují prvky. Provedli nespočet experimentů bez úspěchu. „Zkoušeli jsme spoustu věcí a nic nefungovalo. Vypadalo to jako hromada náhodného odpadu,“ říká Tom Henighan, člen technického…