Vědí vůbec, co dělají?

Jednoho pondělního rána letos v dubnu seděl v centrále společnosti OpenAI v San Franciscu Sam Altman a vyprávěl mi o nebezpečné formě umělé inteligence, kterou jeho společnost vyvinula, ale nikdy ji prý neuvolní k běžnému využití. Později zmínil, že jeho zaměstnanci nemohou někdy v noci spát ze strachu, že uvedou na trh inteligenci, jejímž rizikům nebudou úplně rozumět. Nohama se při tom pohodlně opíral o svou otočnou židli a vypadal uvolněně. Jeho firma přitom vloni v listopadu skutečně uvedla na trh novou AI, tak výkonnou, že to vyvolalo pozornost nesrovnatelnou s ničím v nedávné historii technologií. Někteří sice upozorňovali na to, co všechno ChatGPT ještě neumí, jiní zase varovali, jaká budoucnost od vynálezu hrozí. Altman si s tím ale hlavu nelámal. Pro něj byl loňský listopad triumfálním okamžikem.

Z Altmanových velkých modrých očí probleskují paprsky upřímného intelektuálního zájmu a on si zjevně uvědomuje, že ve větších dávkách může intenzita jeho pohledu působit zneklidňujícím dojmem. Tentokrát je to ale ochoten riskovat, chce, aby mi bylo úplně jasné, že ať se rizika spojená s umělou inteligencí nakonec ukážou být jakákoli, on sám nemá z uvolnění ChatGPT na trh žádné výčitky. Že naopak věří, že tím prokázal velkou službu veřejnosti.

„Mohli jsme pokračovat v práci a dokončit to celé během pěti let tady v naší budově,“ říkal mi, „a pak bychom měli k dispozici něco, z čeho by každému spadla čelist.“ Jenže veřejnost by v takovém případě neměla čas připravit se na seizmické otřesy, které budou následovat, a to je „hodně nepříjemná představa“.  Altman věří, že lidé potřebují nějaký čas, aby se vyrovnali se skutečností, že brzy mohou planetu sdílet s výkonnou novou inteligencí. Ta promění vše, od práce až po mezilidské vztahy. ChatGPT byl vlastně takovým upozorněním.

Altman, Elon Musk a několik prominentních vědců z oblasti AI založili v roce 2015 společnost OpenAI, protože věřili, že obecná umělá inteligence, tedy něco, co je intelektuálně na úrovni třeba typického vysokoškoláka, je minimálně na dosah. Chtěli být u cíle první a chtěli ještě víc – toužili do světa vypustit superinteligenci, rozum zásadně převyšující ten, jakým disponuje jakýkoli člověk. A zatímco velká technologická firma by o takové prvenství mohla usilovat nezodpovědně a s ohledem na vlastní cíle, oni to chtěli provést bezpečně, aby „užitek mělo lidstvo jako celek“. OpenAI strukturovali jako neziskovou organizaci „neomezenou požadavkem generovat finanční zisk“ a zavázali se, že výzkum bude transparentní. Žádná supertajná laboratoř někde v poušti v Novém Mexiku.

Veřejnost toho o OpenAI celá léta mnoho nevěděla. Když se stal v roce 2019 jejím generálním ředitelem právě Altman, údajně po mocenském boji s Elonem Muskem, vydalo to stěží na zprávu. OpenAI vydávala studie, včetně té, která ve stejném roce zmiňovala novou AI. V technologické komunitě Silicon Valley to vyvolalo velký zájem, širší veřejnosti ale nebyl potenciál umělé inteligence zřejmý až do loňského roku, kdy si lidé začali hrát právě s ChatGPT.

Modul, který nyní ChatGPT pohání, se nazývá GPT-4. Altman mi ho popsal jako mimozemskou inteligenci. Mnozí mají podobný pocit, když pozorují, jak stroj v nepravidelných výbuších aktivity přerušovaných krátkými pauzami, jež (záměrně) evokují skutečné přemýšlení, generuje srozumitelné texty. Během několika měsíců své existence dokázal navrhnout nové recepty na míchané nápoje podle vlastní teorie o kombinaci chutí, uvrhl v zoufalství učitele tím, že napsal nepřeberné množství vysokoškolských prací, sepsal básně nejrůznějších stylů (někdy dobře, vždy rychle) a úspěšně složil standardní americkou advokátní zkoušku. Stroj dělá faktické chyby, s okouzlující elegancí se k nim ale přiznává. Altman si ještě stále živě pamatuje na chvíli, kdy spatřil, jak GPT-4 píše první složitý počítačový kód – a provádí tak něco, k čemu nebyl výslovně navržen. „A je to tady,“ řekl si prý tehdy.

ChatGPT dosáhl podle studie UBS během prvních devíti měsíců od uvedení na trh hranice 100 milionů uživatelů měsíčně, což z něj pravděpodobně učinilo nejrychleji adoptovaný spotřebitelský produkt v dějinách. Takový úspěch neprošel bez povšimnutí: velcí investoři i obří firmy ve Spojených státech a Číně rychle přesměrovaly desítky miliard dolarů do vývoje produktů, jež se snaží postup OpenAI napodobit. Metaculus, webový server zaměřený na předpovědi, již roky sleduje odhady prognostiků týkající se nástupu obecné umělé inteligence. Před třemi a půl lety připadal průměrný odhad obvykle zhruba na rok 2050. V poslední době se predikce pohybuje kolem roku 2026.

Do sídla OpenAI jsem se vydal pochopit technologii, jež firmě umožnila přeskočit technologické giganty – a abych porozuměl, co může pro lidskou civilizaci znamenat, pokud se na cloudovém serveru nějaké firmy v dohledné době zhmotní superinteligence. Umělá inteligence byla přece od samých počátků počítačové revoluce mytologizována jako technologie, jež musí nutně přinést zásadní zvrat v dějinách lidstva. Naše kultura si vytvořila celý katalog představ, v nichž bude AI tak či onak znamenat konec dějin. V některých figurují téměř božské bytosti, které setřou každou slzu, uzdraví nemocné a napraví náš vztah k Zemi, aby nás nakonec přivedly k věčnosti plné krásy a blahobytu. V jiných jsme všichni až na několik málo vyvolených redukováni na nevolníky nebo odsouzeni k vyhynutí.

Sám Altman si pohrává s nejextrémnějšími scénáři. „Když jsem byl v rané fázi dospělosti,“ vyprávěl mi, „měl jsem strach, cítil úzkost… a abych byl upřímný, s tím se mísila dvě procenta nadšení z toho, že stvoříme věc, která nás překoná, odlepí se od země a kolonizuje vesmír, a lidské bytosti zůstanou ve Sluneční soustavě.“

„Jako v přírodní rezervaci?“ zeptal jsem se.

„Přesně,“ odpověděl. „A to mi teď přijde strašně naivní.“

Altman mi v průběhu několika rozhovorů, jež probíhaly ve Spojených státech a v Asii, se svým typickým vzrušeným středozápadním přízvukem nastínil novou vizi budoucnosti umělé inteligence. Vysvětlil mi, že tato revoluce se bude lišit od předchozích dramatických technologických změn, že spíše přinese „nový typ společnosti“. Dodal, že spolu s kolegy strávili spoustu času přemýšlením o společenských dopadech AI a o tom, jak bude vypadat svět „na druhé straně“. 

Čím déle jsme ale mluvili, tím nezřetelněji taková druhá strana vypadala. Altmanovi je třicet osm a je dnes nejmocnější postavou v oblasti rozvoje AI. Jeho názory, povahové rysy a rozhodnutí mohou mít obrovský vliv na budoucnost, v níž budeme všichni žít – možná více než ty, jimiž se vyznačuje americký prezident. I on sám ale přiznává, že budoucnost je nejasná a plná vážných rizik. Altman netuší, jak výkonná umělá inteligence nakonec bude, co bude její nástup znamenat pro průměrného člověka, ani zda nějak ohrozí lidstvo. Nemám mu to úplně za zlé, nemyslím, že by vůbec někdo chápal, kam dnešní vývoj spěje. Přesvědčil mě ale, že se do budoucnosti řítíme rychle, ať už je to dobře či nikoli.