O lidskosti a umělé inteligenci

Třináctého července 1833 zažil Ralph Waldo Emerson během návštěvy přírodovědného kabinetu Botanické zahrady v Paříži nečekané prozření. Jak si prohlížel vystavené exponáty, motýly, kousky jantaru či mramoru, nejrůznější mušle, ovládl ho najednou ohromující pocit, že v přírodě je vše propojeno – včetně člověka.

Popsaná zkušenost ho přiměla napsat text The Uses of Natural History (Smysl přírodních věd) a zformulovat filozofii, která do středu intelektuálního života v technologicky chaotické době postavila naturalismus. Jejím prostřednictvím pak spolu se skupinou spisovatelů a radikálních myslitelů známých dnes jako transcendentalisté došel až k novému duchovnímu systému víry. Emerson věřil, že kterýkoli člověk se může prostřednictvím empirického zkoumání přírodního světa sám stát „tvůrcem a autorem mapy definující rovnoběžky i poledníky vlastního života“ – a otevřít tak v mechanizované době prostor pro vlastní nezávislé jednání, individualitu i úžas nad světem.

Amerika v té době přetékala vynálezy a zdálo se, že v jejich důsledku se vše zrychluje. Jako houby po dešti vyrůstaly továrny nebo cukrovary, do amerických přístavů kvapem vplouvaly a zase z nich vyplouvaly parníky, zemí se proháněly parní lokomotivy, telegraf propojil Američany jako nic před ním, vznikaly první fotografie, jež měly navždy změnit představu člověka o sobě samém. Všeobecná nálada se pohybovala mezi nadšením, nervozitou a naprostým zděšením.

Záblesk Emersonovy vize nesměřoval k jednoduchému odmítnutí probíhajících změn, spíše ke způsobu, jak si uchovat lidský rozměr ve světě, který se vymyká z kloubů. Jeho reakce na technologickou renesanci 19. století stojí za pozornost i dnes, kdy uvažujeme nad velkou technologickou proměnou v našem vlastním století – nad nástupem umělé superinteligence. 

Ta teď postupuje vpřed mílovými kroky, oceán informací, v němž jsme všichni ponořeni, ale rozbouřila již dříve. První změny v jeho složení přinesly algoritmy, které řadí informace podle jejich významu. Ty se staly určujícím rysem moderního webu. Google se podle nich rozhoduje, jaké výsledky vyhledávání vám má ukázat, algoritmy také nasávají vaše osobní data a na jejich základě pak organizují a personalizují obsah kanálů sociálních platforem, jako jsou Facebook, Instagram nebo TikTok.

Teď si představme stejnou internetovou infrastrukturu, pouze vybavenou programy, které komunikují s aurou odbornosti v jakémkoli tématu, s možností generovat sofistikované originální texty, audio- nebo videozáznamy, se schopností napodobovat jednotlivce tak přesvědčivým způsobem, že nikdo nepozná, co je nebo není skutečné. Dnešní modely umělé inteligence jsou navíc navrženy tak, aby se samy zlepšovaly s každou jednotlivou interakcí s uživateli. Občas při tom také halucinují či manipulují nebo si jednoduše vymýšlejí. Člověk nedokáže předjímat, co udělají nebo proč k tomu dojde. Pokud je vyhledávač Googlu moderní verzí starověké Alexandrijské knihovny, nová umělá inteligence bude jakýmsi velmi vrtošivým, nevyzpytatelným prorokem.

Generativní umělá inteligence se vyvíjí neuvěřitelnou rychlostí a uplatní se téměř ve všech oborech a odvětvích. Technologické giganty – včetně společností Alphabet (která vlastní Google), Amazon, Meta (která vlastní Facebook) a Microsoft – jsou v tuto chvíli zaklesnuté v souboji o to, kdo umělou inteligenci nejlépe využije ve stávajících produktech, jako jsou mapy, e-mail, sociální platformy nebo fotografický software.

Technokulturní normy a zvyky, jimž jsme přivykli během trojnásobné revoluce spojené s nástupem internetu, chytrých telefonů a sociálních sítí, přitom samy o sobě již potřebují důkladnou korekci. Příliš mnoho lidí se těmito technologiemi nechalo jednoduše převálcovat. Teď by proto bylo moudré nejen napravit chyby nedávné minulosti, ale také předjímat a aktivně ovlivňovat dopady, jimiž naše životy i civilizaci promění mnohem radikálnější nové technologie.

Korporace, které se na nich chystají profitovat, se již v tuto chvíli učí fráze, s jejichž pomocí budou čelit kritice. Zaznějí optimistické obraty jako: „rozšířené možnosti člověka“ či „umělá inteligence soustředěná na člověka“. Ty jsou ale stejně tak povrchní jako abstraktní. To, co se k nám blíží, totiž jednoznačně překoná jakékoli technologické změny v živé paměti lidstva: internet, osobní počítače nebo atomovou bombu. Snadno se může jednat o nejdůležitější technologii v celých lidských dějinách.

Mávnutím proutku

Lidé jsou známí tím, že téměř nedokážou předvídat budoucnost a revoluční změny většinou rozpoznají velmi pomalu – a to i když už probíhají. Časový úsek mezi vznikem nové technologie a zpřísněním stávajících norem a standardů ale bývá velmi krátký. Jinými slovy, Divoký západ netrvá věčně. Nakonec železniční společnosti kvůli jízdním řádům standardizují čas napříč kontinentem, žárovky převálcují obloukovky a sen o otevřeném webu umírá.

Časové okno, v němž je možné ovlivnit změnu v oblasti umělé inteligence, je stále ještě otevřené. Mnozí zasvěcení experti si ale zároveň zoufají, že tato příležitost už nepotrvá dlouho.

Generativní umělá inteligence nám podobně jako dříve vyhledávače, telefony nebo vlaky umožní fungovat tak efektivně, že to bude působit téměř magicky. Můžeme si představovat celé kategorie práce nebo v některých případech celá pracovní odvětví, která s překvapující rychlostí zcela zaniknou. Ti z nás, kteří mají utopické sklony, mohou takovou revoluci vnímat jako příležitost předat strojům úmornou práci a věnovat se místo toho vyšším formám seberealizace. Jako mávnutím proutku se najednou budeme moci věnovat záležitostem, jež si skutečně zaslouží pozornost – hlouběji pátrat po vědomostech, rychleji bádat ve vědách, trávit větší množství času s lidmi, na nichž nám záleží. S umělou inteligencí za zády ale možná budeme také čelit masové nezaměstnanosti nebo ztrátě profesního sebevědomí.

O vytvoření etických principů umělé inteligence v tuto chvíli s nejlepšími úmysly usilují vládní představitelé i další lídři – viz například Plán Listiny práv umělé inteligence Bílého domu. (Ten má navzdory neohrabanému názvu za cíl chránit lidská práva, i když otázka občanských práv strojů bude nakonec stejně nevyhnutelná.) Podobné snahy jsou nezbytné, nebudou ale stačit.

Dnes už by nám mělo být jasné, že ani způsob, jakým novým technologiím rozumí vláda, ani seberegulace technologických gigantů nedokážou udržet krok s rychlostí technologických změn nebo odhodláním Silicon Valley usilovat o zisk. Nadcházející fázi lidských dějin bude definovat úsilí, jež začíná na úrovni každého jednotlivce.

Podobně jako průmyslová revoluce zažehla ve Spojených státech transcendentalismus a v Evropě romantismus (obě hnutí odmítala konformitu a dávala přednost pravdě, přírodě a individualismu), i dnes potřebujeme svou vlastní kulturní a filozofickou revoluci. Takové nové hnutí by mělo upřednostňovat lidské bytosti před stroji a mělo by nově popsat vztah člověka k přírodě i technologiím, aniž by tím omezilo rozvoj v oblastech, v nichž stroje vynikají. Umělá inteligence nám bezpochyby pomůže učinit zázračné objevy, bude zachraňovat lidské životy. Nebezpečí spočívá v ochotě předat strojům bez omezení naše vlastní lidství, zejména když nás technologie předčí v kontextuálním myšlení. V éře inteligentních strojů potřebujeme renesanci člověka.

Umělí přátelé

Moc dnešních technologických magnátů je velmi koncentrovaná, takže se může zdát, že obyčejní lidé nemají žádnou naději ovlivnit stroje, jež nás ostatně brzy intelektuálně převýší. Naše obrovská síla ale spočívá v možnosti definovat myšlenky a ideály, i když jejich naplnění třeba zůstane mimo náš dosah. Vzhledem k tomu, co všechno je v sázce, se o to musíme alespoň pokusit.

Základním principem výměny myšlenek mezi lidmi by tak měla zůstat transparentnost. Lidé by vždy měli otevřeně uvádět, zda je ve vzájemné komunikaci přítomna nebo zda v ní byla použita umělá inteligence. Toto základní pravidlo by mohlo vést k disciplinovanému budování zón vyhrazených zcela nebo převážně pouze lidem a k méně anonymnímu prostředí na webu. Každý novinář vám řekne, že anonymita by se měla používat vždy jen ve veřejném zájmu, v krajních případech a ve výjimečných situacích. Potřebujeme vytvořit atmosféru, v níž se očekává, že lidé budou nejen zastávat své názory, ale že tak budou činit také pod svým skutečným jménem.

Teď také nastává pravá chvíle pro opětovné prohlubování osobních vztahů. Živé videochaty sice mohou vymazat časový rozdíl nebo vzdálenost, podobné technologie jsou ale chabou náhražkou skutečné osobní komunikace tváří v tvář, obzvláště v prostředí, v němž je nejdůležitější tvůrčí spolupráce nebo učení. Bolestně to ukázala nedávná pandemie. Mezilidské vztahy není možné pěstovat pouze v digitální sféře a ani bychom to dělat neměli, zvláště pak ve chvíli, kdy umělá inteligence narušuje naše chápání toho, co je a není reálné. „Lajkování“ není totéž co přátelství. Rozhovor s umělou inteligencí je jednostranný, je to pouze iluze skutečného propojení.

Děti budou mít možná již brzy více syntetických kamarádů než těch skutečných. Takoví „přátelé“ nebudou zkonstruováni pouze k tomu, aby sledovali lidské bytosti, které je používají, budou také neúprosně propojeni s byznysem, a budou se tedy snažit generovat závislost a zisk. To pokřiví samu povahu představ o tom, jak mají vypadat mezilidské vztahy.

Nedokonalé bytosti

Díla spisovatelů jako Fjodor M. Dostojevskij, Rod Serling nebo José Saramago již celé generace varují před dvojníky, kteří nás zbaví lidství tím, že nám ukradnou naši lidskou podobu. Náš nový svět vede přímo do takového podivného údolí.

Zatímco první algoritmická revoluce využívala osobní údaje uživatelů k tomu, aby pro ně přeorganizovala svět, ta nadcházející nejen že naruší náš sdílený smysl pro realitu, ale také na jejich základě vybuduje naše umělé repliky. Manažer v nahrávacím studiu bude ve své honbě za ziskem jistě nadšený z představy, že skladby vytvořené umělou inteligencí nazpívá hlas ovládaný tímtéž, bez jakýchkoli vazeb na autorská práva. Výtvarní umělci, spisovatelé nebo hudebníci mohou očekávat rozsáhlé snahy o nápodobu a měli by se jim bránit. To ale platí pro každého z nás. Jedna počítačová expertka mi nedávno prozradila, že hodlá doma zavést tajné heslo, které bude znát jenom ona a její stárnoucí rodiče. Ti pak, když uslyší v telefonu její hlas s žádostí o pomoc nebo o peníze, snadno poznají, že ve skutečnosti mluví umělá inteligence, jež využívá jejích veřejně dostupných přednášek k tomu, aby zněla přesně jako ona. 

Dnešní děti se již na základních školách běžně učí nedůvěřovat tomu, že všechno, co vidí nebo slyší na obrazovkách, je skutečné. Mladí lidé si ale zároveň zaslouží moderní technologické a informační prostředí postavené na základních hodnotách osvícenství: na rozumu, lidské autonomii a zdvořilé výměně názorů. Všechno by se nemělo nahrávat a sdílet, osobní svoboda se skrývá v úctě k pomíjivosti. Více osobních interakcí by mělo probíhat pouze mezi zainteresovanými osobami. Klíčem k uchování lidskosti je soukromí.

Pozornost si zasluhuje ještě další existenciální otázka, a tou je míra, do jaké se naše úsilí o poznání orientuje dovnitř či vně člověka. Umělá inteligence v blízké budoucnosti překoná naše empirické schopnosti, zároveň tím ale může utlumit naši zvědavost. Riskujeme, že se necháme natolik oslnit umělými světy, jež vytvoříme – všemi těmi datovými soubory, duplikáty a zpětnými vazbami –, že přestaneme s úžasem nebo originalitou nahlížet do neznáma.

Měli bychom důvěřovat lidské vynalézavosti a tvůrčí intuici. Měli bychom se vyvarovat přílišné závislosti na nástrojích, jež otupují naše vlastní estetické cítění nebo intelekt. Emerson kdysi napsal, že Isaac Newton „používal stejný důvtip k tomu, aby zvážil Měsíc, a i k tomu, aby si zavázal tkaničky“. K tomu dodávám, že Newton využil stejný důvtip také k vynálezu zrcadlového teleskopu, jenž stál na počátku mocné technologie umožňující člověku nahlédnout až na samé počátky vesmíru. Podstata Emersonovy myšlenky je ale stále stejně platná: základním předpokladem na cestě k poznání je pozorování světa skrze smysly. Můžeme a měli bychom si při něm pomoci vrstvami nejrůznějších nástrojů, nikdy ale na úkor vlastního vidění, cítění a v konečném důsledku poznání reality.

Budoucnost, v níž přehnaně sebevědomé stroje zdánlivě nabízejí odpovědi na všechny otázky života i vesmíru, je nejen nebezpečně pomýlená, ale zároveň nás zbavuje naší lidské podstaty. V éře hněvu, předčasných voleb a zdánlivě vševědoucí umělé inteligence bychom měli klást větší důraz na promýšlení vlastního způsobu bytí. Měli bychom se naučit přijímat fakt, že naše myšlení není nikdy úplné, že naše zažité představy se nikdy nepřestanou rozpadat, měli bychom vyhledávat ty, s nimiž nesouhlasíme, a občas bychom jednoduše neměli znát odpovědi. Zůstáváme smrtelnými bytostmi, které touží po tom poznat více, než se jim kdy může podařit.

Běh času dokáže lidské poznání vymazat. Mizí celé jazyky, objevitelé ztrácejí talent plavit se přes oceány pouze podle hvězd. Technologie naše intelektuální schopnosti neustále proměňují. Jedno ale zůstává, jsme na této planetě, abychom poznávali, hledali pravdu a krásu – a máme k dispozici pouze omezený čas.

Dotek paže

Když jsem byla ještě malá a bydlela jsem v massachusettském Concordu, viděla jsem na Emersonův dům z okna své ložnice. Nedávno jsem se tam znovu vydala na návštěvu. Ten dům mě vždycky fascinoval. Emerson v něm žil 47 let až do své smrti v roce 1882. Dnes se o něj starají jeho potomci a hrstka personálu pečující o jeho odkaz. Dům je starý zhruba dvě stě let a jeho věk se projevuje vrzáním a fleky na stěnách. Zároveň ale vyzařuje něco, co je u tak starých budov historického významu mimořádně vzácné: i 141 let po Emersonově smrti budí dojem, že svému majiteli patří. Na policích jsou stále jeho knihy. Na věšáku u dveří stále visí jeho klobouk. Původní tapeta Williama Morrise v kočárové vstupní hale je stále stejně ostře zelená. Nad krbovou římsou drží i dnes na obraze Francesca Salviatiho tři sudičky nit osudu. Právě v této místnosti napsal Emerson svou Přírodu. Stůl, u něhož dílo vzniklo, je stále na svém místě vedle krbu. 

V Emersonově pracovně jsem přemýšlela nad tím, že žádná technologie nepředčí samotné putování k cíli, ať je jakýkoli. Žádná kniha, fotografie nebo televizní pořad, žádný tweet, mem, vylepšená realita, hologram, žádný plán nebo horečnatý sen vytvořený umělou inteligencí nemůže nahradit to, co zakoušíme jako lidské bytosti. Proto se vydáváme na cestu, plavíme se napříč oceány, pozorujeme západ slunce, posloucháme cvrčky, sledujeme fáze měsíce. Proto, když se rozesmějeme, máme potřebu dotknout se paže člověka vedle nás. A proto stojíme v úžasu v pařížské Botanické zahradě, ohromeni vesmírem, jenž nám vyjevuje svá skrytá tajemství.

© 2023 The Atlantic Media Co., as first published in The Atlantic magazine or on theatlantic.com (as applicable).

All rights reserved. Distributed by Tribune Content Agency.