AI nikdy nebude vědomá

Blake Lemoine Incident je dnes připomínán jako vrchol humbuku AI. Celou myšlenku vědomé umělé inteligence vnesl do povědomí veřejnosti během jednoho nebo dvou zpravodajských cyklů, ale také zahájil konverzaci mezi počítačovými vědci i výzkumníky vědomí, která se od té doby jen zintenzivnila. Zatímco tech komunita celou myšlenku (a chudák Lemoine) nadále veřejně zlehčuje, v soukromí začala brát tuto možnost mnohem vážněji. Vědomá umělá inteligence může postrádat jasné komerční zdůvodnění (jak věc zpeněžit?) a vytvářet lepkavá morální dilemata (jak bychom měli zacházet se strojem schopným trpět?). Přesto někteří inženýři umělé inteligence dospěli k názoru, že svatý grál umělé obecné inteligence – stroj, který je nejen superchytrý, ale také obdařený lidskou úrovní porozumění, kreativity a zdravého rozumu – může k dosažení něčeho jako vědomí vyžadovat. V technické komunitě se to, co bylo neformálním tabu kolem vědomé umělé inteligence – jako vyhlídka, která bude veřejnosti připadat děsivé – najednou začalo hroutit.

Zlom nastal v létě 2023, kdy skupina 19 předních počítačových vědců a filozofů zveřejnila 88stránkovou zprávu s názvem „Vědomí v umělé inteligenci“, neformálně známou jako Butlinova zpráva. Zdálo se, že během několika dní ji přečetli všichni v komunitě vědy o umělé inteligenci a vědomí. Abstrakt návrhu zprávy nabídl tuto zatracující větu: „Naše analýza naznačuje, že žádné současné systémy umělé inteligence nejsou vědomé, ale také naznačuje, že neexistují žádné zjevné překážky pro budování systémů vědomé umělé inteligence.“

Autoři uznali, že součástí inspirace za svoláním skupiny a napsáním zprávy byl „případ Blakea Lemoina“. „Pokud umělá inteligence může vzbudit dojem vědomí,“ řekl spoluautor časopisu Science, „proto je naléhavou prioritou, aby se vědci a filozofové zabývali.“

Co však upoutalo pozornost všech, bylo jediné prohlášení v abstraktu předtisku: „žádné zjevné překážky pro budování vědomých systémů umělé inteligence“. Když jsem ta slova četl poprvé, měl jsem pocit, že byl překročen nějaký důležitý práh, a nebyl to jen technologický. Ne, to mělo co do činění s naší identitou jako druhu.

Co by pro lidstvo znamenalo, kdyby jednoho dne v ne tak vzdálené budoucnosti zjistilo, že na svět přišel plně vědomý stroj? Hádám, že by to byl koperníkovský okamžik, který by náhle zbavil našeho smyslu pro ústřední postavení a výjimečnost. My lidé jsme strávili několik tisíc let tím, že jsme se vymezovali v opozici vůči „menším“ zvířatům. To znamenalo popírat zvířatům takové údajně jedinečně lidské vlastnosti, jako jsou pocity (jedna z nejkřiklavějších Descartových chyb), jazyk, rozum a vědomí. V posledních několika letech se většina těchto rozdílů rozpadla, protože vědci prokázali, že spousta druhů je inteligentních a vědomých, mají city a používají jazyk a nástroje, což je proces zpochybňující staletí lidské výjimečnosti. Tento posun, který stále probíhá, vyvolal ožehavé otázky o naší identitě, stejně jako o našich morálních závazcích vůči jiným druhům.

S AI přichází hrozba pro naše vznešené sebepojetí úplně z jiné strany. Nyní se my lidé budeme muset definovat ve vztahu k AI spíše než k jiným zvířatům. Jak nás počítačové algoritmy převyšují čirou mozkovou silou – hravě nás porážejí ve hrách, jako jsou šachy a Go a v různých formách „vyššího“ myšlení, jako je matematika –, můžeme se alespoň utěšovat tím, že my (a mnoho dalších živočišných druhů) stále máme pro sebe požehnání a zátěž vědomí, schopnost cítit a mít subjektivní zážitky. V tomto smyslu může umělá inteligence sloužit jako společný protivník, přitahující lidi a další zvířata k sobě: my proti ní, živí versus stroje. Tato nová solidarita by vytvořila potěšující příběh a mohla by být dobrou zprávou pro zvířata pozvaná do Team Conscious. Ale co se stane, když AI začne zpochybňovat lidský – nebo bych měl říct zvířecí – monopol na vědomí? Kdo pak budeme?