Jak nebýt hloupý ohledně AI s Yannem LeCunem

Jakmile získáme počítače odpovídající inteligenci na lidské úrovni, nezůstanou jen u toho. S hlubokými znalostmi, matematickými schopnostmi na úrovni strojů a lepšími algoritmy vytvoří superinteligenci, že?

Jo, není pochyb o tom, že stroje budou nakonec chytřejší než lidé. Nevíme, jak dlouho to bude trvat – mohou to být roky, mohou to být staletí.

Na že bod, musíme zatloukat poklopy?

Ne, ne. Všichni budeme mít asistenty AI a bude to jako pracovat se štábem super chytrých lidí. Prostě to nebudou lidi. Lidé se tím cítí ohroženi, ale myslím, že bychom se měli cítit vzrušení. Nejvíc mě vzrušuje práce s lidmi, kteří jsou chytřejší než já, protože to umocňuje vaše vlastní schopnosti.

Ale pokud se počítače stanou superinteligentními, proč by nás potřebovaly?

Není důvod se domnívat, že jen proto, že jsou systémy umělé inteligence inteligentní, budou nás chtít ovládnout. Lidé se mýlí, když si myslí, že systémy umělé inteligence budou mít stejnou motivaci jako lidé. Prostě nebudou. Navrhneme, aby ne.

Co když lidé tyto pohony nezabudují a superinteligenční systémy nakonec ublíží lidem tím, že cílevědomě sledují cíl? Jako příklad filozofa Nicka Bostroma se systémem navrženým k výrobě kancelářských sponek bez ohledu na to, a ovládnout svět, aby jich bylo více.

Byli byste extrémně hloupí budovat systém a nestavěli žádné mantinely. To by bylo jako postavit auto s motorem o výkonu 1000 koní a bez brzd. Vložení disků do systémů AI je jediný způsob, jak zajistit, aby byly ovladatelné a bezpečné. Říkám tomu cílevědomá AI. Toto je něco jako nová architektura a v tuto chvíli nemáme žádnou její ukázku.

To je to, na čem teď pracuješ?

Ano. Myšlenka je taková, že stroj má cíle, které potřebuje splnit, a nemůže produkovat nic, co tyto cíle nesplňuje. Tyto cíle mohou zahrnovat zábradlí, aby se zabránilo nebezpečným věcem nebo čemukoli jinému. Tak zajistíte systém umělé inteligence.

Myslíte si, že budete žít, abyste litovali následků AI, které jste pomohli vyvolat?

Kdybych si myslel, že to tak je, přestal bych dělat to, co dělám.

Jste velký jazzový fanoušek. Mohlo by se něco generovaného umělou inteligencí vyrovnat elitní, euforické kreativitě, kterou zatím dokážou vytvořit pouze lidé? Může to produkovat dílo, které má duši?

Odpověď je složitá. Ano, v tom smyslu, že systémy umělé inteligence budou nakonec produkovat hudbu – nebo vizuální umění nebo cokoli – s technickou kvalitou podobnou té, kterou dokážou lidé, možná lepší. Ale systém AI nemá podstatu improvizované hudby, která se opírá o komunikaci nálady a emocí od člověka. Alespoň zatím ne. Proto se jazzová hudba má poslouchat živě.