Nick Clegg nechce mluvit o superinteligenci

Myslím, že jeho produkt má hluboký demokratizační účinek. Teoreticky by dítě sedící v provinčním městě na brazilském venkově mělo být schopno získat stejnou odezvu s učitelem AI Efekta jako někdo žijící v Mayfair.

Ztratilo se něco zavedením AI do třídy? Skončíme s generací studentů, kteří používají chatboty jako berličku – k psaní esejí, řešení problémů a tak dále?

Stejně to udělají. Snažit se vyloučit AI ze škol je nesmyslné. Jde o to, jak začleníte umělou inteligenci do vzdělávání. Špatní učitelé ji budou používat špatně a dobří učitelé ji budou používat velmi dobře – stejně jako tabule a kalkulačky.

To se ale bavíme o zásadnější změně. Ptám se, co by to pro studenty mohlo znamenat, že nerozvíjejí základní dovednosti.

Pokud se vrátíte do doby, kdy byly vynalezeny kalkulačky, [people thought that] děti nikdy nebudou umět mentální aritmetiku. Ale ukázalo se, že tomu tak není. Bude to mít samozřejmě vliv. Ale myslím si, že čistý efekt by měl být pozitivní, pokud jde o výsledky vzdělávání.

Děti jsou pravděpodobně jedinečně zranitelné vůči druhům nebezpečí spojených s chatboty. Jak si o těchto rizicích myslíte?

Samozřejmě existují rizika – zvláště zranitelní dospělí a děti se stanou emocionálně závislými a investují do vztahu s něčím, co má v jejich životech avatara, humanoida.

Na společenské úrovni bychom měli zaujmout velmi preventivní přístup. Myslím, že byste měli mít jasnou věkovou hranici ohledně toho, jak jsou agentní AI zpřístupněny mladým lidem.

Jako australský zákaz sociálních sítí pro osoby mladší 16 let?

Nemá smysl mít zákaz, pokud nemůžete lidem změřit věk. To je místo, kde tvůrci politik spěchají, aby zachytili titulky o zákazech a nemysleli na docela obtížné věci. Pokud nechcete, aby všechny tyto platformy uchovávaly údaje o pasech všech? Dlouho jsem se domníval, že jediný způsob, jak toho dosáhnout, je přes škrticí body iOS a Android. [app store] úroveň.

Ale v zásadě si myslím, že byste měli postupovat podobně preventivně. Náchylnost k tomu, že budete silně emocionálně investováni do vašeho vztahu s laskavým, trpělivým a 24hodinovým hlasem, který vám neustále naslouchá, a možná i nepatřičně ovlivněni, je velmi reálná.

Nemyslím si však, že u produktů, které Efekta vyrábí, je to vůbec riziko.

I když AI doslova přebírá roli učitele?

No, ne – protože není. Tyto agentní umělé inteligence produkované společnostmi jako Efekta nebudou mít nějaký druh tajného půlnočního vztahu, kde by žákovi říkali nejrůznější příšerné věci. Je to učitelem řízená zkušenost.

V Metě jste strávil téměř sedm let. V té době se AI stala a hraniční technologie. Zajímalo by mě, jak vaše zkušenost v Meta ovlivnila váš pohled na příležitosti, rizika a limity umělé inteligence – a hledání superinteligence.

Pokud se zeptáte tří lidí ve stejné organizaci, co je to superinteligence, dostanete tři různé odpovědi. Mám dojem, že každý v Silicon Valley musí říct, že je na dosah od umělé obecné inteligence nebo superinteligence, protože to je způsob, jak přilákat nejlepší datové vědce. Je pro mě těžké se potýkat s tak zvlněným konceptem.