Nepochybuji, že umělá inteligence naplní naše nejhorší obavy 

Chilský spisovatel Benjamín Labatut ve svých románech míchá historické reálie s fikcí, takže bývají někdy nazývány románovou literaturou faktu. Mezi řádky se ale skrývá hlubší výpověď o tvořivé i zničující síle intelektu, směřování světa a rizicích vědy. Jak sám říká, v jeho knihách se střetává přílišná racionalita, často reprezentovaná chladným vědeckým myšlením, s nespoutanými silami lidského podvědomí.

To platí i pro jeho zatím poslední román Maniac, který nyní vyšel česky. Hlavní postavou je matematik maďarského původu John von Neumann (1903–1957), všestranný vědec, jehož myšlenky pomohly na svět dvěma potenciálně destruktivním technologiím – jaderným zbraním a umělé inteligenci. Název románu odpovídá akronymu jednoho z prvních počítačů, stroje postaveného na základě von Neumannových myšlenek, jehož prvním úkolem bylo lépe propočítat okolnosti výbuchu připravované vodíkové bomby.

Půltunový počítač MANIAC zároveň poprvé využil stejné matematické postupy jako o více než šedesát let později systém AlphaGo, jehož vítězství nad lidskými velmistry hry go příběh uzavírá. Jak von Neumann, tak AlphaGo jsou v knize ztělesněním chladného, nadlidského intelektu – jsou jako „spadlá hvězda“, která „jako všechny věci, které se zřítí z nebe, je poslem smrti“ a „neštěstím uvaleným na lidstvo, abychom si nemysleli, že jsme nad bohy“.

Rovněž starší Labatutův román Strašlivá závrať varuje před dvojakostí vědy, která zlepšuje naše životy a zároveň může vést k destrukci. Je to hlavně příběh otců kvantové fyziky a vzniku této vědy, jež nás zbavila schopnosti rozumět světu a místo toho nám dala atomovou bombu. Kniha obsahuje spoustu názorných vysvětlení fyzikálních myšlenek na úrovni nejlepších populárně-vědeckých prací, ale také mnoho románových prvků; halucinace, pochyby, smutek nad tím, kam se svět ubírá, i tušení blížící se katastrofy.

Labatutova metoda míchání historické pravdy a fikce vyvolává obdiv kritiků, ale i pochybnosti. „Nelze-li fikci a realitu žádným způsobem rozlišit, jak máme najít jazyk pro věci, o nichž víme, že jsou pravdivé?“ ptal se například v roce 2021 časopis The New Yorker a Labatutovu metodu charakterizoval jako rozporuplnou až na hranici „noční můry“.

V závěrečné části nejnovějšího románu Maniac o možnostech vědy a nezodpovědnosti vědců vyprávíte o počítačovém systému AlphaGo, který porazil všechny světové velmistry hry go. Když jste ho psal, ještě neexistovali pokročilí chatboti. Před necelými dvěma lety se pak objevil ChatGPT, byla to pro vás satisfakce?

Hlavní postava románu John von Neumann nastiňuje, za jakých podmínek by počítačový systém mohl začít jevit známky inteligence srovnatelné s lidskou: musel by vyrůst, ne být postaven, a musel by se sám učit. A k tomu skutečně došlo. Necháváme tyto stroje, aby činily vlastní rozhodnutí, vyrůstaly na nich, učily samy sebe. Von Neumann také říká, že by musely používat jazyk, mluvit, číst, psát. S velkými jazykovými modely se to stalo realitou, u které jsme vůbec nečekali, že přijde tak rychle. Neváhal bych označit tyto technologie za zázračné. Jsou také značně nepochopitelné. Ani lidé, kteří je postavili, jim nerozumějí. Před vědce i filozofy staví zásadní otázky: Co je vědomí? Jaká je podstata inteligence? Jako řada dalších nových vynálezů jsou i tyto systémy děsivé, zneklidňující a zároveň obdivuhodné.

Co se vám honilo hlavou, když počítačové hráče firmy DeepMind vystřídaly v centru pozornosti ještě univerzálnější systémy – tedy právě generativní jazykové modely, zkráceně chatboti?

V zásadě jsem něco podobného očekával. Psal jsem o AlphaGo, protože podle mě představuje první případ kreativity, jež není kreativitou lidskou. Když hrál proti jihokorejskému velmistrovi I Se-tolovi, došlo k několika momentům, kdy jsme zahlédli nový druh krásy, kterou jsme si dříve neuměli představit. Bylo to například tah číslo 37 v jedné z partií, tah stroje. Zkušené hráče go zasáhl jako blesk. Byl něčím, co by člověk nikdy neudělal. Něčím zcela nepochopitelným, nepředstavitelným, krásným a děsivým – a zásadním pro vývoj partie, kterou pak stroj vyhrál. A pokud jde o jazykové modely, vyvíjejí se tak rychle, že během dvou tří let budou vyžadovat nějaký druh společného globálního postupu, který by je usměrnil. Pokud nepřijdeme na to, jak je správně používat, neumím si představit budoucnost, která nás čeká.

Jazykové modely se nečekaně, samy od sebe, naučily programovat, překládat z jazyka do jazyka, řešit matematické problémy. Varování před tímto vývojem chápu jako jedno z poselství vaší knihy. Vašimi slovy démon racionality a rozumu vytvořil novou nadlidskou moc, svého druhu nové božstvo.

Metafory často vycházejí z náboženství. Bohové představují nástroje, jejichž prostřednictvím se snažíme porozumět světu a sobě samým. Odkazy na bytosti, které existují jen v lidské představivosti, jsou cestou, jak mluvit o nevyslovitelném, nevyjádřitelném. Výpočetní technika, strojové zpracovávání informací, existuje zhruba od čtyřicátých let minulého století díky objevům vědců jako Alan Turing, John von Neumann a dalších. Je to možná největší objev vůbec, srovnatelný s osvojením ohně. A teprve nyní, po osmdesáti letech, začínáme doceňovat, o co jde: není to jen nová technologie, iPhone ve vaší kapse.

Co to tedy je?

Je to vzácný, podivný, hluboce tajemný aspekt vesmíru. Mezi ukřižováním Ježíše a prvními texty o jeho životě uběhlo osmdesát až sto let a pak chvíli trvalo, než povědomí o těchto událostech prosáklo do lidského vědění. Myslím, že teď procházíme podobně transformativním procesem. Paralela s Bohem se nabízí, protože se tu setkáváme se silami, které se vymykají našemu chápání. A také proto, že AI se do velké míry chová jako orákulum.

V jakém smyslu?

Na něco se jí zeptáte, požádáte ji o radu, a ona zpracuje vaše zadání a odpoví vám. To je pradávný přístup, jehož jsme v oblasti moderní techniky dosud nebyli svědky. Neprosíte jaderný reaktor, aby začal vyrábět energii. S velkým jazykovým modelem máme určitý vztah založený na pradávné technice, kdy kohosi temného, někoho, kdo v jeskyni inhaluje kouř, žádáte o vědění, o zjevení budoucnosti. I umělá inteligence je prediktivní, orientovaná na budoucnost. Hledá vzory, vzájemné souvislosti, a předvídá podle nich, co bude následovat.

Co nového nám tohle „orákulum“ může prozradit?

Nejlepší oblast použití AI je podle mě ve vědě a technologiích. Může pomoci třeba s vývojem materiálů, které by měly supravodivé vlastnosti, tedy nulový elektrický odpor, i za pokojové teploty. Víme, že supravodivost existuje, jen musíme najít vhodnou kombinaci materiálů. Umělá inteligence může zkoumat řadu možností způsobem, kterým to žádný člověk nedokáže. Může také navrhovat léky na míru, pro každého pacienta zvlášť podle jeho genomu. To je rovněž problém natolik komplexní, že ho sami nevyřešíme; musíme nejprve vytvořit systém, který to udělá za nás. Což je zajímavé – nutí nás to zvažovat základní paradoxy lidského vědění: vytvoříte nástroj, který vám může přinést obrovskou výhodu, dosud nedostupné vědomosti. Ale může také být velmi destruktivní. Je to balancování na ostří nože.

V jakém smyslu může být destruktivní?

Po zkrocení atomu jsme snili o jaderné fúzi, prakticky nevyčerpatelném zdroji poměrně čisté energie. Tu jsme neovládli, zato jsme se naučili vyrábět vodíkové bomby. Obávám se, že i v případě umělé inteligence si můžeme být jisti, že se naplní nejhorší scénáře. Přinese AI zároveň i pozitivní věci? Nevím, nejsem si jist. Jsem ale přesvědčen, že nízko visící ovoce, trochu nahnilé, určitě sklidíme.

Co dokáže jediná lidská mysl

Nevěříte tedy, že využijeme pozitiva AI a naučíme se ji regulovat tak, abychom nejhorším scénářům zabránili. Jaké to mohou být?

Nevím. Aby mohl člověk odpovědět, musel by být tak trochu šílený génius, něco jako byl Philip K. Dick, který měl skutečný cit pro budoucnost. Já ho ve svých knihách nemám, snažím se naopak hledět do minulosti. Psal jsem o Johnu von Neumannovi, protože se domnívám, že nejlepší způsob, jak přiblížit přicházející superinteligenci, je přemýšlet o té minulé. Von Neumann je nejbližší historickou analogií superinteligence, jakou máme. Nemám, co bych řekl o budoucích schopnostech počítačových systémů; o tom, jestli je budeme používat jen jako sexuální roboty či tvůrce horoskopů nebo nějak jinak. Vím ale, že tu máme jasný případ toho, co může udělat se světem mysl nadaná ohromující logikou a nesmírnou silou. Tím případem je jediná lidská bytost, John von Neumann.

Opravdu se podobal superinteligenci?

Byl to člověk přemýšlející o věcech, o kterých nikdo jiný uvažovat nedokázal. Člověk, který se ve svých úmyslech a cílech choval jako stroj provádějící výpočty. Počítač zrozený dřív, než jsme první vyrobili. Matematické entity, které teď vytváříme, vnímám jako jeho potomky ubírající se v mnoha ohledech po stejných cestách jako on – po cestách matematiky a Booleovy logiky. Jsou to matematické systémy generující jazyk. Pracují se symboly, které chápeme jako výsostně lidské. Pokud vydestilujete podstatu lidského poznání, přinejmenším toho racionálního, dostanete matematiku a jazyk. A je ohromující, že tu teď máme umělé systémy, které na matematickém základě generují mluvenou i psanou řeč.

Váš Maniac vypráví i o dalších vědcích první poloviny minulého století, často geniálních podivínech. Přitom končí téměř současnými událostmi, což je obrovský záběr. Jak velké úsilí jste věnoval studiu historických pramenů?

Nezabývám se klasickým studiem podkladů. V historických dokumentech a svědectvích se snažím objevit to, co dokáže zprostředkovat jen literatura: skrytá poselství, temné a divné významy ukryté mezi řádky. Čtu třeba záznamy přednášek, poznámky z obskurních seminářů, ale je to spíš černá magie, démonologie, hledání surovin, které děsí naši představivost a z nichž se rodí literatura. Člověk, který píše populárně-vědeckou knihu, biografii nebo historický román, chce podat pravdivý záznam skutečnosti. Já hledám hluboké noty a ozvěny – něco, z čeho se skládají mýty a sny. Hledám zbylé stopy duchů, které věda ještě nestihla vyhubit. Okamžiky v životě, které přetékají významy. Jako když biolog kráčí lesem a nevěnuje pozornost stromům a dalším makroskopickým rysům krajiny, ale naslouchá ozvěně něčeho skrytého, co žije v podzemí.

Co jste objevil?

Hledám momenty, jako bylo třeba snění Alana Turinga o stroji na způsob věštce, o nedeterministickém skoku. Jde o systém, který se striktně řídí zásadami logiky – a náhle učiní nečekaný intuitivní krok, podobně jako když člověk jedná podvědomě. Abych použil běžnou metaforu – hledám „ducha ve stroji“. Dělám to, co každý spisovatel, každý umělec, nebo to přinejmenším dělám já: s nesmírným apetitem vstřebávám věci až k přesycení, nasávám informace vlastně podobným způsobem, jako to při tréninku dělaly velké jazykové modely. A všechno to pak filtruji přes své obsese.

Takhle chápete tvorbu?

Tvorba není racionální proces, spíš se podobá deliriu. Zkrátka napínám mozek až k limitům. Po čase věci zvolna začnou krystalizovat. Začnu snít, časem i ve dne. A pak začnu psát. Člověk může skoro zešílet, nakonec ovšem vytvoří něco srozumitelného. V tom podle mě spočívá literární talent. Celý tenhle proces u mě trvá roky.

V jednom rozhovoru jste řekl: „V každé dobré knize je několik stránek, které nenapsal autor, ale něco vyššího, co mu vedlo ruku. Právě kvůli nim člověk píše.“ Jak se do tohoto stavu vytržení a extrémní inspirace dostat?

Obcovat s vlastním podvědomím je nebezpečná věc. Není to něco, do čeho byste se pustil a bezpečně se zcela příčetný vrátil. Spisovatel musí být tak trochu jako houba schopná nasávat věci zvenčí. Můj oblíbený autor Roberto Calasso jednou řekl, že nejvyšší formou inteligence je posedlost, schopnost nechat se něčím ovládnout. Součástí spisovatelského řemesla je tedy částečně i schopnost vzdát se kontroly nad tím, co vytváříte. Zároveň musím být schopen uvařit dceři oběd, odvést ji do školy, vyvenčit psa, zaplatit účty. Jde zkrátka o takové kontrolované halucinace, chcete-li.

Čím si k nim pomáháte?

Věcmi, které nelze doporučit každému. Zahrnují magii v západní tradici, rituály, meditaci, správné užívání jistých substancí, ovšem stejně jako rozum a racionální přemýšlení nebo četbu mých oblíbených autorů a naslouchání inspirativním lidem. Musíte používat tři části vašeho mozku: levou, pravou a tu, která vůbec není ve vaší hlavě.

Nebude mi vadit, když lidé přestanou číst

V dětství se vaše rodina opakovaně stěhovala mezi Jižní Amerikou a Nizozemskem. Jak jste to snášel?

Dětství je vždycky obtížné. Je vůbec zázrak, že jsme ho přežili. Nebyl jsem moc šťastné dítě a mezi Chile a Nizozemskem je obrovská propast. Výsledkem bylo, že jsem se necítil ani jako Chilan, ani jako Holanďan. Jsem Latinoameričan, ale vyrůstal jsem v anglicky mluvící kultuře. Chodil jsem do britské školy, takže všechny kulturní reference, které jsem si ze školy odnesl, jsou britské, což je divné. Ale když jste založením melancholik, nebudete se cítit dobře, ať už vyrůstáte kdekoli.

Současná mládež dává přednost videím na sociálních sítích a podcastům. Nebojíte se, že lidé brzy úplně přestanou číst knihy?

Je mi to jedno. Beztak už nikdo nečte. Nevím, jak u vás v Česku, ale tam, kde jsem vyrůstal já, jsem byl jediné dítě ve třídě a jediný ze všech mých kamarádů, kdo četl. Literatura je něco jako náboženství, jen bez jednoho boha. Je to něco posvátného, hluboce osobní věc. Vášnivý a intenzivní vztah s realitou, který nepotřebuje mít publikum. Většina mých oblíbených knih a autorů už nevychází nebo je zná minimum lidí. Posvátné ale zůstane posvátným, ať už v ně lidé věří nebo ne; i když je zapomenuto. Vůbec mi nebude vadit, když lidé přestanou číst.

Leckdo vaše knihy může chápat jako technofobické. Straníte se technologií?

Trpím fobiemi obecně, ale technofob nejsem. Většinu studia podkladů provádím pomocí internetu. Spisovatel musí být taky normální lidská bytost, dělat to, co ostatní. Vzdoroval jsem mobilním telefonům, dokud to šlo, ale pak už ne. Neúčastním se věcí, které jsou zcela hloupé a poškozují lidský mozek, jako jsou třeba sociální sítě. Což ale neznamená, že občas nekoukám na záběry štěňátka na Instagramu.

V závěru Strašlivé závrati vyprávíte o citrusu coby stromu, který na konci života projde obdobím nesmírné plodnosti, vytvoří tolik ovoce, že se mu lámou větve, obrovská úroda citrusů pod ním hnije, a pak uhyne. Je to metafora lidstva v závěrečném stadiu vývoje?

Nevím, jestli jsme odsouzeni k zániku, jestli máme před sebou miliony let, nebo jen padesát. Jak někdo řekl – když předvídáte budoucnost, vyplatí se nezacházet do detailů. Ale i pokud jsme odsouzeni k zániku, stejně bychom všichni měli žít životy naplněné smyslem, cílem a krásou. Mně osobně dělá starosti to, že mé dcerce rostou zuby ne úplně rovně. Že moje květiny napadl škůdce. A někdy taky to, že vytváříme inteligence, které nás mohou učinit zastaralými a přežitými.

Na co jiného se ale můžeme spolehnout při řešení problémů typu změny klimatu než na vědu?

Na naše vědomí. Věda je neutrální, lhostejná, slepá. Lidé takoví nejsou; nejsou to racionální procesy, které se odvíjejí po předem daných trajektoriích. Jsme pronásledovaný druh, který potřebuje veškeré své schopnosti k tomu, aby přežil. Nevyřešíme změnu klimatu pomocí umění, ale umění nás pomáhá přesvědčit, abychom se jí postavili. Nevytvoříme AI pomocí filozofie, ale potřebujeme filozofii, abychom lépe posoudili, jak s AI naložit. Lidé zapomínají, že jsme druh, který tančí, vyměšuje, souloží, ne nějaký druh mozku naloženého ve skleněné nádobě. Zapomínáme, že jsme živoucí organismus, který závisí na všech věcech, co kdy žily, i na těch neživých. Zapomínáme, že se minerály po milionech let eroze rozpouštějí v moři. Že celá Země je živá.

A jaké místo má pak v tomhle systému technologie a věda?

Technologie je náš nejlepší, nejostřejší nástroj. V prehistorických časech jsme začali vytvářet umění, ale zároveň zbraně. Nůž i hudební nástroj. Nezůstali jsme jen u lovu a plození dětí, ale přidávali jsme ke svým vědomostem další a další vrstvy a významy. Vezměte si jen to, že spolu vedeme tenhle rozhovor: jistě, je to prostřednictvím technologie, přes internet, ale já se snažím působit na vaši iracionální, emocionální stránku. Naše propojení vyžaduje mysl; tu složitou, divnou, temnou a hluboce záhadnou entitu. Zároveň máme také tělo a tyto dvě věci jsou propojeny způsobem, kterému pořád nerozumíme. Takže nezáleží jen na technologii. Ale třeba se v celém tomhle rozhovoru mýlím. To je naprosto v pořádku. Na tom být spisovatel je úžasné, že vaše omyly jsou občas stejně cenné jako těch pár věcí, které chápete správně. Nejsem politik, takže se můžu mýlit klidně pořád.

Píšete ve španělštině i angličtině. Jakým jazykem jste psal Maniaca?

Anglicky, stejně jako poslední kapitolu Strašlivé závrati. Přepínám mezi oběma jazyky, ale řekl bych, že hlavní je pro mě spíš angličtina. Mimochodem mezi oběma knihami jsem napsal rovněž anglicky ještě dvojici esejů The Stone of Madness (Kámen šílenství). A ten druhý vypráví příběh skutečné bývalé fyzičky, která byla přesvědčena, že já, ale i spousta dalších autorů včetně nobelistů  si přivlastňujeme její nápady, vykrádáme její práci. Tvrdila také, že vydavatelství s pomocí umělé inteligence prosévají obsah internetu a přeskupují jej do nových forem. Když o tom psala, byl to paranoidní blud. Ale než moje kniha vyšla, stala se z toho reálná možnost. Je neuvěřitelné, kolik se toho děje. Literatura, dokonce ani science fiction nedokážou udržet krok s podivností světa.