Nepochybuji, že umělá inteligence naplní naše nejhorší obavy 

Chilský spisovatel Benjamín Labatut ve svých románech míchá historické reálie s fikcí, takže bývají někdy nazývány románovou literaturou faktu. Mezi řádky se ale skrývá hlubší výpověď o tvořivé i zničující síle intelektu, směřování světa a rizicích vědy. Jak sám říká, v jeho knihách se střetává přílišná racionalita, často reprezentovaná chladným vědeckým myšlením, s nespoutanými silami lidského podvědomí.

To platí i pro jeho zatím poslední román Maniac, který nyní vyšel česky. Hlavní postavou je matematik maďarského původu John von Neumann (1903–1957), všestranný vědec, jehož myšlenky pomohly na svět dvěma potenciálně destruktivním technologiím – jaderným zbraním a umělé inteligenci. Název románu odpovídá akronymu jednoho z prvních počítačů, stroje postaveného na základě von Neumannových myšlenek, jehož prvním úkolem bylo lépe propočítat okolnosti výbuchu připravované vodíkové bomby.

Půltunový počítač MANIAC zároveň poprvé využil stejné matematické postupy jako o více než šedesát let později systém AlphaGo, jehož vítězství nad lidskými velmistry hry go příběh uzavírá. Jak von Neumann, tak AlphaGo jsou v knize ztělesněním chladného, nadlidského intelektu – jsou jako „spadlá hvězda“, která „jako všechny věci, které se zřítí z nebe, je poslem smrti“ a „neštěstím uvaleným na lidstvo, abychom si nemysleli, že jsme nad bohy“.

Rovněž starší Labatutův román Strašlivá závrať varuje před dvojakostí vědy, která zlepšuje naše životy a zároveň může vést k destrukci. Je to hlavně příběh otců kvantové fyziky a vzniku této vědy, jež nás zbavila schopnosti rozumět světu a místo toho nám dala atomovou bombu. Kniha obsahuje spoustu názorných vysvětlení fyzikálních myšlenek na úrovni nejlepších populárně-vědeckých prací, ale také mnoho románových prvků; halucinace, pochyby, smutek nad tím, kam se svět ubírá, i tušení blížící se katastrofy.

Labatutova metoda míchání historické pravdy a fikce vyvolává obdiv kritiků, ale i pochybnosti. „Nelze-li fikci a realitu žádným způsobem rozlišit, jak máme najít jazyk pro věci, o nichž víme, že jsou pravdivé?“ ptal se například v roce 2021 časopis The New Yorker a Labatutovu metodu charakterizoval jako rozporuplnou až na hranici „noční můry“.

V závěrečné části nejnovějšího románu Maniac o možnostech vědy a nezodpovědnosti vědců vyprávíte o počítačovém systému AlphaGo, který porazil všechny světové velmistry hry go. Když jste ho psal, ještě neexistovali pokročilí chatboti. Před necelými dvěma lety se pak objevil ChatGPT, byla to pro vás satisfakce?

Hlavní postava románu John von Neumann nastiňuje, za jakých podmínek by počítačový systém mohl začít jevit známky inteligence srovnatelné s lidskou: musel by vyrůst, ne být postaven, a musel by se sám učit. A k tomu skutečně došlo. Necháváme tyto stroje, aby činily vlastní rozhodnutí, vyrůstaly na nich, učily samy sebe. Von Neumann také říká, že by musely používat jazyk, mluvit, číst, psát. S velkými jazykovými modely se to stalo realitou, u které jsme vůbec nečekali, že přijde tak rychle. Neváhal bych označit tyto technologie za zázračné. Jsou také značně nepochopitelné. Ani lidé, kteří je postavili, jim nerozumějí. Před vědce i filozofy staví zásadní otázky: Co je vědomí? Jaká je podstata inteligence? Jako řada dalších nových vynálezů jsou i tyto systémy děsivé, zneklidňující a zároveň obdivuhodné.

Co se vám honilo hlavou, když počítačové hráče firmy DeepMind vystřídaly v centru pozornosti ještě univerzálnější systémy – tedy právě generativní jazykové modely, zkráceně chatboti?

V zásadě jsem něco podobného očekával. Psal jsem o AlphaGo, protože podle mě představuje první případ kreativity, jež není kreativitou lidskou. Když hrál proti jihokorejskému velmistrovi I Se-tolovi, došlo k několika momentům, kdy jsme zahlédli nový druh krásy, kterou jsme si dříve neuměli představit. Bylo to například tah číslo 37 v jedné z partií, tah stroje. Zkušené hráče go zasáhl jako blesk. Byl něčím, co by člověk nikdy neudělal. Něčím zcela nepochopitelným, nepředstavitelným, krásným a děsivým – a zásadním pro vývoj partie, kterou pak stroj vyhrál. A pokud jde o jazykové modely, vyvíjejí se tak rychle, že během dvou tří let budou vyžadovat nějaký druh společného globálního postupu, který by je usměrnil. Pokud nepřijdeme na to, jak je správně používat, neumím si představit budoucnost, která nás čeká.

Jazykové modely se nečekaně, samy od sebe, naučily programovat, překládat z jazyka do jazyka, řešit matematické problémy. Varování před tímto vývojem chápu jako jedno z poselství vaší knihy. Vašimi slovy démon racionality a rozumu vytvořil novou nadlidskou moc, svého druhu nové božstvo.

Metafory často vycházejí z náboženství. Bohové představují nástroje, jejichž prostřednictvím se snažíme porozumět světu a sobě samým. Odkazy na bytosti, které existují jen v lidské představivosti, jsou cestou, jak mluvit o nevyslovitelném, nevyjádřitelném. Výpočetní technika, strojové zpracovávání informací, existuje zhruba od čtyřicátých let minulého století díky objevům vědců jako Alan Turing, John von Neumann a dalších. Je to možná největší objev vůbec, srovnatelný s osvojením ohně. A teprve nyní, po osmdesáti letech, začínáme doceňovat, o co jde: není to jen nová technologie, iPhone ve vaší kapse.

Co to tedy je?

Je to vzácný, podivný, hluboce tajemný aspekt vesmíru. Mezi ukřižováním Ježíše a prvními texty o jeho životě uběhlo osmdesát až sto let a pak chvíli trvalo, než povědomí o těchto událostech prosáklo do lidského vědění. Myslím, že teď procházíme podobně transformativním procesem. Paralela s Bohem se nabízí, protože se tu setkáváme se silami, které se vymykají našemu chápání. A také proto, že AI se do velké míry chová jako orákulum.

V jakém smyslu?

Na něco se jí zeptáte, požádáte ji o radu, a ona zpracuje vaše zadání a odpoví vám. To je pradávný přístup, jehož jsme v oblasti moderní techniky dosud nebyli svědky. Neprosíte jaderný reaktor, aby začal vyrábět energii. S velkým jazykovým modelem máme určitý vztah založený na pradávné technice, kdy kohosi temného, někoho, kdo v jeskyni inhaluje kouř, žádáte o vědění, o zjevení budoucnosti. I umělá inteligence je prediktivní, orientovaná na budoucnost. Hledá vzory, vzájemné souvislosti, a předvídá podle nich, co bude následovat.