Vědí vůbec, co dělají?

Jednoho pondělního rána letos v dubnu seděl v centrále společnosti OpenAI v San Franciscu Sam Altman a vyprávěl mi o nebezpečné formě umělé inteligence, kterou jeho společnost vyvinula, ale nikdy ji prý neuvolní k běžnému využití. Později zmínil, že jeho zaměstnanci nemohou někdy v noci spát ze strachu, že uvedou na trh inteligenci, jejímž rizikům nebudou úplně rozumět. Nohama se při tom pohodlně opíral o svou otočnou židli a vypadal uvolněně. Jeho firma přitom vloni v listopadu skutečně uvedla na trh novou AI, tak výkonnou, že to vyvolalo pozornost nesrovnatelnou s ničím v nedávné historii technologií. Někteří sice upozorňovali na to, co všechno ChatGPT ještě neumí, jiní zase varovali, jaká budoucnost od vynálezu hrozí. Altman si s tím ale hlavu nelámal. Pro něj byl loňský listopad triumfálním okamžikem.

Z Altmanových velkých modrých očí probleskují paprsky upřímného intelektuálního zájmu a on si zjevně uvědomuje, že ve větších dávkách může intenzita jeho pohledu působit zneklidňujícím dojmem. Tentokrát je to ale ochoten riskovat, chce, aby mi bylo úplně jasné, že ať se rizika spojená s umělou inteligencí nakonec ukážou být jakákoli, on sám nemá z uvolnění ChatGPT na trh žádné výčitky. Že naopak věří, že tím prokázal velkou službu veřejnosti.

„Mohli jsme pokračovat v práci a dokončit to celé během pěti let tady v naší budově,“ říkal mi, „a pak bychom měli k dispozici něco, z čeho by každému spadla čelist.“ Jenže veřejnost by v takovém případě neměla čas připravit se na seizmické otřesy, které budou následovat, a to je „hodně nepříjemná představa“.  Altman věří, že lidé potřebují nějaký čas, aby se vyrovnali se skutečností, že brzy mohou planetu sdílet s výkonnou novou inteligencí. Ta promění vše, od práce až po mezilidské vztahy. ChatGPT byl vlastně takovým upozorněním.

Altman, Elon Musk a několik prominentních vědců z oblasti AI založili v roce 2015 společnost OpenAI, protože věřili, že obecná umělá inteligence, tedy něco, co je intelektuálně na úrovni třeba typického vysokoškoláka, je minimálně na dosah. Chtěli být u cíle první a chtěli ještě víc – toužili do světa vypustit superinteligenci, rozum zásadně převyšující ten, jakým disponuje jakýkoli člověk. A zatímco velká technologická firma by o takové prvenství mohla usilovat nezodpovědně a s ohledem na vlastní cíle, oni to chtěli provést bezpečně, aby „užitek mělo lidstvo jako celek“. OpenAI strukturovali jako neziskovou organizaci „neomezenou požadavkem generovat finanční zisk“ a zavázali se, že výzkum bude transparentní. Žádná supertajná laboratoř někde v poušti v Novém Mexiku.

Veřejnost toho o OpenAI celá léta mnoho nevěděla. Když se stal v roce 2019 jejím generálním ředitelem právě Altman, údajně po mocenském boji s Elonem Muskem, vydalo to stěží na zprávu. OpenAI vydávala studie, včetně té, která ve stejném roce zmiňovala novou AI. V technologické komunitě Silicon Valley to vyvolalo velký zájem, širší veřejnosti ale nebyl potenciál umělé inteligence zřejmý až do loňského roku, kdy si lidé začali hrát právě s ChatGPT.

Modul, který nyní ChatGPT pohání, se nazývá GPT-4. Altman mi ho popsal jako mimozemskou inteligenci. Mnozí mají podobný pocit, když pozorují, jak stroj v nepravidelných výbuších aktivity přerušovaných krátkými pauzami, jež (záměrně) evokují skutečné přemýšlení, generuje srozumitelné texty. Během několika měsíců své existence dokázal navrhnout nové recepty na míchané nápoje podle vlastní teorie o kombinaci chutí, uvrhl v zoufalství učitele tím, že napsal nepřeberné množství vysokoškolských prací, sepsal básně nejrůznějších stylů (někdy dobře, vždy rychle) a úspěšně složil standardní americkou advokátní zkoušku. Stroj dělá faktické chyby, s okouzlující elegancí se k nim ale přiznává. Altman si ještě stále živě pamatuje na chvíli, kdy spatřil, jak GPT-4 píše první složitý počítačový kód – a provádí tak něco, k čemu nebyl výslovně navržen. „A je to tady,“ řekl si prý tehdy.

ChatGPT dosáhl podle studie UBS během prvních devíti měsíců od uvedení na trh hranice 100 milionů uživatelů měsíčně, což z něj pravděpodobně učinilo nejrychleji adoptovaný spotřebitelský produkt v dějinách. Takový úspěch neprošel bez povšimnutí: velcí investoři i obří firmy ve Spojených státech a Číně rychle přesměrovaly desítky miliard dolarů do vývoje produktů, jež se snaží postup OpenAI napodobit. Metaculus, webový server zaměřený na předpovědi, již roky sleduje odhady prognostiků týkající se nástupu obecné umělé inteligence. Před třemi a půl lety připadal průměrný odhad obvykle zhruba na rok 2050. V poslední době se predikce pohybuje kolem roku 2026.

Do sídla OpenAI jsem se vydal pochopit technologii, jež firmě umožnila přeskočit technologické giganty – a abych porozuměl, co může pro lidskou civilizaci znamenat, pokud se na cloudovém serveru nějaké firmy v dohledné době zhmotní superinteligence. Umělá inteligence byla přece od samých počátků počítačové revoluce mytologizována jako technologie, jež musí nutně přinést zásadní zvrat v dějinách lidstva. Naše kultura si vytvořila celý katalog představ, v nichž bude AI tak či onak znamenat konec dějin. V některých figurují téměř božské bytosti, které setřou každou slzu, uzdraví nemocné a napraví náš vztah k Zemi, aby nás nakonec přivedly k věčnosti plné krásy a blahobytu. V jiných jsme všichni až na několik málo vyvolených redukováni na nevolníky nebo odsouzeni k vyhynutí.

Sám Altman si pohrává s nejextrémnějšími scénáři. „Když jsem byl v rané fázi dospělosti,“ vyprávěl mi, „měl jsem strach, cítil úzkost… a abych byl upřímný, s tím se mísila dvě procenta nadšení z toho, že stvoříme věc, která nás překoná, odlepí se od země a kolonizuje vesmír, a lidské bytosti zůstanou ve Sluneční soustavě.“

„Jako v přírodní rezervaci?“ zeptal jsem se.

„Přesně,“ odpověděl. „A to mi teď přijde strašně naivní.“

Altman mi v průběhu několika rozhovorů, jež probíhaly ve Spojených státech a v Asii, se svým typickým vzrušeným středozápadním přízvukem nastínil novou vizi budoucnosti umělé inteligence. Vysvětlil mi, že tato revoluce se bude lišit od předchozích dramatických technologických změn, že spíše přinese „nový typ společnosti“. Dodal, že spolu s kolegy strávili spoustu času přemýšlením o společenských dopadech AI a o tom, jak bude vypadat svět „na druhé straně“. 

Čím déle jsme ale mluvili, tím nezřetelněji taková druhá strana vypadala. Altmanovi je třicet osm a je dnes nejmocnější postavou v oblasti rozvoje AI. Jeho názory, povahové rysy a rozhodnutí mohou mít obrovský vliv na budoucnost, v níž budeme všichni žít – možná více než ty, jimiž se vyznačuje americký prezident. I on sám ale přiznává, že budoucnost je nejasná a plná vážných rizik. Altman netuší, jak výkonná umělá inteligence nakonec bude, co bude její nástup znamenat pro průměrného člověka, ani zda nějak ohrozí lidstvo. Nemám mu to úplně za zlé, nemyslím, že by vůbec někdo chápal, kam dnešní vývoj spěje. Přesvědčil mě ale, že se do budoucnosti řítíme rychle, ať už je to dobře či nikoli.

Něco krásného

Sídlo společnosti OpenAI se nachází v třípatrové budově bývalé továrny ve čtvrti Mission pod věčně do mlhy zahalenou Sutro Tower. Když vstoupíte z ulice do vstupní haly, první, co na stěně spatříte, je mandala, spirituální obraz vesmíru, sestavená z obvodů, měděných drátů a dalších artefaktů spojených s výpočetní technikou. Vlevo vedou bezpečnostní dveře do otevřeného bludiště pracovních míst vyvedených v pohledném světlém dřevě a s elegantními dlaždicemi a dalšími znaky luxusního stylu úspěšných miliardářů. Všude jsou rostliny včetně zavěšených kapradin a působivé sbírky neobvykle velkých bonsají, každá z nich velikosti přikrčené gorily. V otevřené hale bylo během mé návštěvy úplně plno a podle očekávání jsem tam neviděl nikoho, kdo by vypadal nad padesát. S výjimkou dvoupatrové knihovny vybavené posuvným žebříkem prostor výzkumnou laboratoř příliš nepřipomínal, protože to, co zde vzniká, existuje pouze na cloudových úložištích. Alespoň prozatím. 

Jednoho rána jsem se tam setkal s Ilyou Sutskeverem, hlavním vědeckým pracovníkem firmy. Je mu sedmatřicet a působí dojmem mystika, někdy až příliš: vloni způsobil menší rozruch tvrzením, že GPT-4 může mít „trochu vědomí“. Jméno si nejdřív získal jako hvězdný student Geoffreyho Hintona, emeritního profesora z Torontské univerzity, který letos na jaře podal výpověď v Googlu, aby mohl svobodněji hovořit o tom, jak umělá inteligence ohrožuje lidstvo.

Hinton bývá někdy označován za „kmotra AI“, protože dříve než ostatní pochopil možnosti takzvaného hlubokého učení. V osmdesátých letech, krátce poté, co Hinton dokončil svůj doktorát, se vlastně pokrok v této oblasti téměř zastavil. Seriózní vědci v té době stále ještě programovali umělou inteligenci od A do Z: AI měla fungovat podle vyčerpávající sady do sebe navzájem zapadajících pravidel – o jazyku, principech geologie nebo lékařské diagnostice – v naději, že se jednou takový postup posčítá do úrovně lidské inteligence. Hinton ale chápal, že takové složité soustavy pravidel jsou neohrabané a příliš jednorázové. Místo toho Sutskevera naučil, aby s pomocí geniální algoritmické struktury nazvané neuronová síť postavil před umělou inteligenci celý svět, jako byste ho postavili před malé dítě, které pak samo může objevovat pravidla jeho fungování.

Sutskever mi neuronovou síť popsal jako něco krásného a podobného mozku. V jednu chvíli vstal od stolu, u kterého jsme seděli, přistoupil k bílé tabuli a chopil se červené fixy. Na tabuli pak nakreslil primitivní neuronovou síť a vysvětlil mi, že podstatou její geniality je schopnost učit se a že je tato schopnost založena na předvídání – vlastně se trochu podobá vědecké metodě. Neurony jsou uloženy ve vrstvách. Vstupní vrstva obdrží shluk dat, třeba kousek textu nebo obrázek. Zázrak se odehraje v prostředních (nebo „skrytých“) vrstvách, které data zpracují tak, aby výstupní vrstva mohla nabídnout predikci.

Představte si neuronovou síť, jež byla naprogramována tak, aby předvídala další slovo v textu. Předem bude mít k dispozici gigantické množství možných slov. Než ji ale začneme cvičit, nebude mít žádnou zkušenost potřebnou k tomu, aby mezi slovy rozlišovala, a její predikce budou tudíž mizerné. Pokud jí předložíme třeba větu: „Den po středě je…“, její počáteční odhad bude klidně třeba „fialový“.

Neuronová síť se učí tím, že její tréninková data obsahují správné předpovědi, a díky tomu může svoje vlastní výsledky sama hodnotit. Když vidí rozdíl mezi vlastní odpovědí „fialový“ a správnou „čtvrtek“, upraví odpovídajícím způsobem propojení mezi slovy ve svých skrytých vrstvách. Časem se tyto malé změny propojí v geometrický model jazyka, jenž koncepčně reprezentuje vztahy mezi slovy. Obecně lze říct, že model se stává tím sofistikovanějším, čím větší počet vět dostane k dispozici – a tím lepší jsou také jeho predikce.

To ale neznamená, že byla cesta od prvních neuronových sítí k dnešnímu GPT-4 jednoduchá. Altman skutečně přirovnává počáteční stadium výzkumu umělé inteligence k učení malých dětí. „Trvá to roky, než se naučí něco zajímavého,“ řekl týdeníku The New Yorker v roce 2016, právě v době, kdy OpenAI začala nabírat dech. „Kdyby vědci pracující na umělé inteligenci vyvíjeli algoritmus a náhodou vytvořili ten, na jehož základě funguje malé dítě, začal by je brzy nudit, mysleli by si, že nefunguje, a zahodili by ho.“ Prvních několik let v OpenAI bylo ve znamení nudné dřiny, částečně proto, že nikdo pořádně nevěděl, jestli skutečně vyučuje malé dítě, nebo jenom kráčí velmi drahou slepou uličkou.

„Nic nefungovalo a Google měl všechno: všechny talentované lidi, všechny peníze,“ vyprávěl mi Altman. Zakladatelé museli do rozjezdu společnosti vložit miliony dolarů a neúspěch se zdál být naprosto reálnou možností. Greg Brockman mi vyprávěl, že v roce 2017 byl tak znechucený, že začal kvůli vlastní duševní rovnováze posilovat s činkami. Nebyl si tehdy jistý, zda OpenAI přežije do konce roku, a chtěl, aby „mohl ukázat alespoň něco“.

Neuronové sítě se již tehdy uměly v mnoha ohledech chovat inteligentně, nebylo ale jasné, co z toho by mohlo vést k obecné umělé inteligenci. Krátce po založení OpenAI šokovala svět AI nazvaná AlphaGo, protože dokázala porazit v Go, hře mnohem komplikovanější než šachy, šampiona Lee Se-dola. Poražený Lee pak popsal tahy AlphaGo jako „krásné“ a „kreativní“. Jiný špičkový hráč prohlásil, že člověk by nikdy nic takového nevymyslel. OpenAI se poté pokusil vytrénovat svou AI na Dota 2, hře, která je ještě komplikovanější a jejíž součástí je fantazijní válka vedená v trojrozměrné mozaice lesů, polí a pevností. AI nakonec porazila i nejlepší lidské hráče, její inteligence se ale nikdy neprojevila v jiných oblastech. Sutskever se pak s kolegy cítil jako zklamaní rodiče, kteří svým dětem dovolili hrát tisíce hodin videohry, i když věděli, že se to vlastně dělat nemá.

Sutskever zahájil v roce 2017 sérii konzultací s výzkumným pracovníkem OpenAI Alecem Radfordem, který se zabýval zpracováním přirozeného jazyka. Ten začal dosahovat pozoruhodných výsledků tím, že cvičil neuronové sítě na souboru recenzí serveru Amazon.

Vnitřní fungování ChatGPT, všechny ty záhadné věci, jež se odehrávají ve skrytých vrstvách, jsou příliš složité na to, aby jim mohl člověk porozumět – alespoň s nástroji, jež má dnes k dispozici. Snaha sledovat vše, co se děje napříč celým systémem skládajícím se z miliard neuronů, je dnes beznadějná. Radfordovy modely ale byly k základnímu porozumění dostatečné. Když nahlédl do skrytých vrstev, zjistil, že se v nich vyvinul speciální neuron umožňující porozumět duchu zmíněných recenzí. Neuronové sítě již dříve dělaly analýzy obecných rysů textu, musely k tomu ale dostat příkaz a musely být speciálně vycvičené s pomocí dat, která k obecným rysům textu konkrétně odkazovala. Tentokrát si ale inteligence takovou schopnost vyvinula sama.

Radfordova neuronová síť tak jako vedlejší produkt jednoduchého úkolu predikovat další písmeno každého slova sama modelovala širší významovou strukturu světa. Sutskever se zamýšlel nad tím, zda by síť vycvičená na mnohem rozmanitějších jazykových datech mohla také zmapovat více významových struktur. Pokud by její skryté vrstvy nashromáždily dostatek pojmových vědomostí, mohly by snad dokonce vytvořit jakýsi základní modul budoucí superinteligence.

Knihovny lidstva

Tady je dobré se zastavit a pochopit, proč je tak mimořádným zdrojem informací právě jazyk. Představte si, že jste novou inteligencí, která začala tady na Zemi právě existovat. Obklopuje vás atmosféra planety, Slunce a Mléčná dráha, další miliardy jiných galaxií, z nichž každá emituje světelné vlny, zvukové vibrace a spoustu dalších informací. Jazyk se ale od těchto zdrojů dat liší. Nejedná se o přímý fyzikální signál, jako je světlo nebo zvuk, zároveň je ale informačně velmi hustý, protože kodifikuje všechny pravidelné struktury, které dokázali lidé rozpoznat v širším světě. V přepočtu na jeden bajt se jedná o nejlepší data, jaká známe, a každá nová inteligence, která se snaží porozumět světu, jich bude chtít vstřebat co nejvíce.

Sutskever tak Radfordovi poradil, ať se zaměří na rozsáhlejší zdroje než recenze Amazonu. Tvrdil, že by umělou inteligenci měli cvičit na největším a nejvíce diverzifikovaném zdroji dat na světě – na internetu. V roce 2017 to byla s tehdy dostupnou architekturou neuronových sítí nepraktická představa. Procedura by trvala léta. V červnu téhož roku však Sutskeverovi bývalí kolegové ze společnosti Google Brain zveřejnili pracovní dokument popisující novou architekturu neuronových sítí nazvanou transformer. Tu bylo možné cvičit mnohem rychleji, částečně proto, že absorbovala obrovské množství dat paralelně. „Druhý den po zveřejnění článku jsme si řekli: ,To je ono‘,“ vyprávěl mi Sutskever. „Teď máme k dispozici vše, co potřebujeme. “

O rok později, v červnu 2018, uvolnila společnost OpenAI transformační model GPT, který byl vycvičen na více než 7000 knihách. GPT nezačal s jednoduchou knížkou a nepropracoval se od ní až k Proustovi. Dokonce ani nečetl knihy rovnou. Pouze z nich simultánně vstřebával náhodné části textu. Představte si skupinu studentů sdílejících kolektivní vědomí, jak běhají po knihovně. Každý z nich bere rychle z police do ruky svazek, hbitě si přečte náhodnou krátkou pasáž, vrátí knihu zpět a běží si zase pro další. Studenti by za pochodu předvídali slovo za slovem a vybrušovali by jazykový instinkt své kolektivní mysli, až by nakonec po týdnech přečetli všechny knihy.

GPT objevila v přečtených pasážích mnoho struktur, které se opakují. Mohli jste ji požádat, aby dokončila větu. Mohli jste jí položit otázku, protože podobně jako v případě ChatGPT její predikční model chápal, že po otázce obvykle následuje odpověď. Přesto se ještě jednalo o nefunkční program, spíše o demonstraci konceptu než předzvěst budoucí superinteligence. O čtyři měsíce později společnost Google uvolnila BERT, jednodušší jazykový model, který se dočkal lepšího ohlasu v médiích. V tu chvíli už ale OpenAI cvičila další model na souboru dat z více než osmi milionů webových stránek, z nichž každá prošla určitou minimální hranicí upvotů na síti Reddit – což není úplně nejpřísnější filtr, ale možná je to lepší než filtr žádný.

Sutskever si nebyl jistý, jak výkonný vlastně GPT-2 bude poté, co vstřebá takové množství textu, k jakému by lidský čtenář potřeboval celá staletí. Vzpomíná si, jak si s ním hrál hned po ukončení výcviku a jak byl překvapen jeho schopnostmi překládat mezi různými jazyky. GPT-2 nebyl vycvičen k překladu pomocí spárovaných jazykových vzorků ani žádné jiné digitální obdoby Rosettské desky, jež kdysi pomohla rozluštit egyptské hieroglyfy. Přesto se zdálo, že chápe, jak se jeden jazyk vztahuje ke druhému. Umělá inteligence si tak sama vyvinula dovednost, jakou si její tvůrci vůbec nepředstavovali.

Ztracené dny

Vědci v jiných laboratořích nemohli ani věřit, o kolik pokročilejší byl model GPT-2 v porovnání s původním GPT. Google, Meta pak začaly rychle cvičit vlastní velké jazykové modely. Altman, rodák ze St. Louis, který nedokončil Stanfordovu univerzitu a založil několik firem, dříve vedl přední akcelerátor startupových firem v Silicon Valley nazvaný Y Combinator, a viděl tudíž spoustu začínajících firem, které sice měly na počátku skvělý nápad, pak je ale rozdrtila již zavedená konkurence. OpenAI založila kvůli zisku kapitálu vlastní ziskovou pobočku firmy, v níž nyní pracuje více než 99 procent zaměstnanců organizace. (Musk, který mezitím představenstvo společnosti opustil, tento krok přirovnal k přeměně organizace na ochranu deštných pralesů v dřevařskou firmu.) Brzy nato investoval do OpenAI jednu miliardu dolarů Microsoft a od té doby údajně přidal dalších 12 miliard. OpenAI ohlásil, že výnosy počátečních investorů budou omezeny na stonásobek původně vložených peněz s tím, že případné přebytky budou vynaloženy na vzdělávání nebo jiné iniciativy v zájmu lidstva. Výši investice Microsoftu firma potvrdit odmítla.

Altman a další šéfové firmy OpenAI jsou si podle všeho jistí, že restrukturalizace společnosti nebude mít dopad na její hlavní cíl a že ve skutečnosti jeho dosažení pouze urychlí. Altman má sklony dívat se na věc optimisticky. V jedné z diskusí vloni přiznal, že AI může mít pro lidskou společnost „skutečně strašlivé dopady“, a dodal, že se na nejhorší eventuality musíme připravit. Pokud tak ale učiníme, dodal, „můžeme mít stejně tak dobře pocit, že se blížíme úžasné budoucnosti a že děláme všechno pro to, abychom jí dosáhli.“

Pokud jde o další změny ve firemní struktuře a financování, řekl mi, že si vytyčil jasné hranice vstupu na burzu. „Kdosi mi kdysi řekl památnou větu, a ta zněla: Nikdy se nevzdávejte kontroly nad firmou ve prospěch lidí, kteří se sjíždějí koksem na Wall Street,“ prohlásil. Jinak prý ale bude přijímat „jakékoli investice, jež budou zapotřebí“, aby firma uspěla.

Bez ohledu na to, zda OpenAI někdy pocítí tlak čtvrtletních uzávěrek, v tuto chvíli je již zaklesnutá v souboji s největšími a nejmocnějšími technologickými konglomeráty ve snaze vycvičit co největší a nejsofistikovanější modely – a komercionalizovat je pro své zákazníky. Elon Musk založil počátkem roku jako přímého konkurenta OpenAI vlastní laboratoř umělé inteligence s názvem xAI. („Elon je superinteligentní,“ odpověděl diplomaticky Altman, když jsem se ho na to ptal. „Předpokládám, že odvede kus dobré práce.“) Amazon mezitím přepracovává svou Alexu a využívá při tom mnohem větší jazykové modely než dříve.

Všechny zmíněné firmy spolu také soupeří o špičkové grafické karty, jež pohánějí superpočítače, které cvičí velké neuronové sítě. Musk prohlásil, že dnes „se shánějí podstatně hůř než drogy“. I přes jejich nedostatek se ale v posledních letech rozsah výcviku každých šest měsíců zdvojnásobuje.

Nicméně předstihnout OpenAI, která se plně soustředila na GPT-4, se zatím nikomu nepodařilo. Brockman, ředitel společnosti, mi řekl, že na prvních dvou velkých lingvistických modelech pracovala ve firmě pouze hrstka lidí. Na vývoji GPT-4 se jich již podílelo více než 100 a umělá inteligence byla trénována na nebývale velkém souboru dat, který pracoval nejen s textem, ale i s obrazovými soubory.

Když plně zformovaná a „našprtaná“ GPT-4 konečně spatřila světlo světa, začala s ní experimentovat celá firma, jejíž zaměstnanci ty nejpozoruhodnější odpovědi zveřejňovali na speciálně vyhrazených kanálech aplikace Slack. Brockman mi vyprávěl, že s modelem toužil strávit každou volnou chvíli. „Každý den, kdy zahálí, je den ztracený pro lidstvo,“ říká bez náznaku sarkasmu. Produktová manažerka Joanne Jang vzpomíná, jak si z diskusního fóra zaměřeného na instalatérské rady stáhla obrázek nefunkčního potrubí. Nahrála ho do GPT-4 a model dokázal diagnostikovat problém. „Naskočila mi z toho husí kůže,“ vyprávěla mi.

Někdo vnímá GPT-4 jako jakousi náhražku internetového vyhledávače: něco jako Google, se kterým je možné snáze komunikovat. To je ale nedorozumění. GPT-4 si ze svého výcviku nepřinesl obrovský balík textů, který by prohledával, když mu položíte otázku. Ve skutečnosti vytváří kompaktní a elegantní analýzu zmíněných textů a odpovídá zpaměti na základě vzorců, jež texty prostupují. To je také důvod, proč se někdy mýlí při uvádění faktů. Altman tvrdí, že GPT-4 je nejlépe vnímat jako jakýsi stroj, který přemýšlí. Jeho schopnosti jsou nejvíce vidět v okamžiku, kdy ho požádáte, aby porovnával pojmy, vytvářel protiargumenty nebo analogie či vyhodnocoval symbolickou logiku v části počítačového kódu. Sutskever mi řekl, že se jedná o nejsložitější softwarový objekt, jaký byl kdy vytvořen.

Jeho model vnějšího světa je podle něj „neuvěřitelně bohatý a subtilní“, protože se vycvičil na velkém množství lidských pojmů a myšlenek. Všechna cvičná data, i když je jich obrovské množství, „zůstávají nehybná“. Tréninkový proces je pak tím, co je „zjemňuje, přetváří a uvádí do života“. Aby mohl GPT-4 predikovat na základě všech možností obsažených v tak obrovské alexandrijské knihovně, musí nutně objevit všechny skryté struktury, všechna tajemství, všechny jemné aspekty ukryté nejen v samotných textech, ale alespoň částečně i ve vnějším světě, který je stvořil. To je důvod, proč je schopen vysvětlit geologii a ekologii planety, na níž vznikl, politické teorie, jež se snaží vnést řád do zmatku spojeného s počínáním jejího dominantního živočišného druhu, nebo širší vesmír až po slabé galaxie na okraji našeho pozorovatelného vesmíru.

Jiné světy

S Altmanem jsem se znovu setkal v červnu v přeplněném tanečním sále štíhlého zlatého mrakodrapu, který se tyčí nad Soulem. Právě uzavíral namáhavé turné po Evropě, Blízkém východě, Asii a Austrálii, se zastávkami v Africe a Jižní Americe. Já se stal svědkem poslední fáze jeho cesty. Turné bylo opojné, ale Altmanovi už přece jenom docházely síly. Původním smyslem cesty byla setkání s uživateli OpenAI, postupně se ale proměnila v diplomatickou misi. Altman hovořil s více než deseti hlavami států a vlád, a ty měly řadu otázek na budoucnost ekonomiky, kultury i politiky ve svých jednotlivých zemích.

Akce pořádaná v Soulu byla inzerována jako „posezení u krbu“, zaregistrovalo se na ni ale více než 5000 zájemců. Altman bývá na konci podobných akcí často obklopen zájemci o selfie a jeho ochranka na něj bedlivě dohlíží. Práce na umělé inteligenci přitahuje „podivnější fanoušky a hatery, než je obvyklé“, popisuje. Na jedné zastávce ho oslovil muž, který byl přesvědčen, že Altman je mimozemšťan vyslaný z budoucnosti, aby se ujistil, že přechod na svět s umělou inteligencí proběhne bez problémů. 

Na svém turné Altman nenavštívil Čínu – s výjimkou účasti na jedné videokonferenci pořádané v Pekingu. ChatGPT zatím není v Číně dostupný a Altmanův kolega Ryan Lowe mi řekl, že firma zatím pořádně neví, jak se zachová v případě, že po ní čínská vláda bude chtít verzi aplikace, jež bude například odmítat diskutovat o masakru na náměstí Nebeského klidu. Když jsem se Altmana ptal, zda se kloní k nějakému řešení, neodpověděl. „To není v první desítce otázek spojených s dodržováním norem, které řeším,“ prohlásil. 

Až do tohoto okamžiku jsme spolu o Číně diskutovali jenom v jemných narážkách, jako o civilizačním soupeři. Shodli jsme se na tom, že pokud je obecná umělá inteligence natolik převratná, jak Altman předpokládá, budou mít země, jež ji získají jako první, seriózní geopolitickou výhodu – podobně jako ji měli angloameričtí vynálezci parníků. Zajímalo mě, zda je to argument na podporu nacionalismu v oblasti umělé inteligence. „Ve správně fungujícím světě by se podle mě mělo jednat o projekt vlád,“ odpověděl. 

Možnosti americké vlády byly donedávna tak velké, že trvalo pouhých deset let, než se jí podařilo dopravit člověka na Měsíc. Jako u jiných velkých projektů 20. století měla i v tomto případě demokratická společnost možnost ovlivnit jak cíle, tak i provedení projektu Apollo. Altman ale dává jasně najevo, že dnes již žijeme v jiném světě. A že místo toho, aby čekal, až se staré časy vrátí, nebo takovému návratu věnoval svou energii, řítí se plnou parou vpřed v realitě, jaká nyní existuje.

Altman dokonce tvrdí, že by bylo hloupé, kdyby se Američané snažili postup OpenAI zbrzdit. V Silicon Valley i mimo ně je běžně rozšířený názor, že pokud budou americké firmy zpomalovány regulací, Čína je bleskurychle předběhne. Umělá inteligence by se pak mohla stát jakýmsi džinem v lahvi autokratů, kterým poskytne naprostou kontrolu nad obyvatelstvem a neporazitelnou armádu. „Pokud jste občanem liberálně-demokratické země, je pro vás určitě lepší držet palce OpenAI než autoritářským vládám,“ říká Altman.

Před evropskou částí svého turné vystoupil šéf OpenAI v americkém Senátu. Tedy na stejném místě, kde musel Mark Zuckerberg defenzivně obhajovat roli Facebooku ve volbách v roce 2016. Altman naopak okouzlil zákonodárce tím, jak střízlivě popisoval rizika umělé inteligence a jak velkoryse žádal o její regulaci. Znělo to ušlechtile, v zemi, v níž Kongres jen zřídkakdy schválí technologickou legislativu nenaředěnou lobbisty, to ale nemělo velkou váhu. V Evropě je nicméně jiná situace. Když Altman dorazil na setkání v Londýně, čekali ho demonstranti. Po akci se s nimi pokoušel dát do řeči (na turné chtěl přece naslouchat!), nezněl ale přesvědčivě. Jeden z demonstrantů se mi svěřil, že po rozhovoru cítil ještě větší obavy z nebezpečí spojených s umělou inteligencí než před ním.        

Ve stejný den se Altmana reportéři ptali na chystanou legislativu Evropské unie, podle níž by byl GPT-4 klasifikován jako vysoce rizikový a jako takový vystaven nejrůznějším byrokratickým útrapám. Altman si stěžoval na nadměrnou regulaci a podle novinářů pohrozil, že evropský trh opustí. Mně ale šéf OpenAI tvrdil, že pouze prohlásil, že jeho firma nebude porušovat v Evropě zákony v případě, že je nebude schopna dodržet. (Těžko říct, jaký je v tom rozdíl.) Ve stručně formulovaném tweetu zveřejněném poté, co jeho komentáře uvedl časopis Time a agentura Reuters, pak Evropu ujistil, že OpenAI odchod neplánuje.

2. část textu k přečtení zde.42 minVědí vůbec, co dělají?

© 2023 The Atlantic Media Co., as first published in The Atlantic magazine or on theatlantic.com (as applicable).

All rights reserved. Distributed by Tribune Content Agency.