Despotové ze Silicon Valley

Pokud by měl člověk v jednom stručném příběhu vystihnout dominantní ideologii Silicon Valley, mohl by snadno využít dvacet let starou scénu s Markem Zuckerbergem. Sedí v ní v modravé záři obrazovky svého počítače a chatuje s kamarádem o tom, jak mu jeho nová webovka, TheFacebook, otevřela přístup k hromadě osobních informací o spolužácích.

Po této konverzaci, jež později unikla z chatových archivů, následovala další, stejně výmluvná, i když zdvořilejší. Na dnes již slavném vánočním večírku v roce 2007 se Zuckerberg poprvé setkal se Sheryl Sandberg, svou pozdější provozní ředitelkou, která pak společně s ním platformu proměnila v digitální imperialistickou velmoc. Zuckerberg v počátcích Facebooku razil mantru „Firma je důležitější než stát“ a během setkání své budoucí spolupracovnici prozradil své přání, aby měl vlastní účet na Facebooku každý Američan s internetovým připojením. Sandberg se kdysi jednomu ze svých kolegů svěřila s pocitem, že „byla na tuhle planetu seslána proto, aby budovala organizace“. Zuckerbergův sen vypadal jako úkol stvořený právě pro ni.

Facebook (dnes Meta) se od té doby stal ztělesněním všeho, co je se Silicon Valley špatně. Šíření dezinformací, jehož se ze zištných důvodů dopouští v globálním měřítku, se proměnilo v nikdy nekončící krizi. Vzpomeňme také na tajný experiment s manipulací nálad uživatelů, který společnost provedla v roce 2012 tak, že záměrně měnila nabízený obsah Newsfeedu a zároveň měřila, do jaké míry dokáže Facebook bez vědomí lidí ovlivňovat jejich emocionální stav. Nebo účast firmy na podněcování genocidy v Barmě v roce 2017. Nebo jeho ochotu umožnit využití sebe sama jako prostoru k plánování a realizaci ozbrojené vzpoury 6. ledna 2021. (Zuckerberg v počátcích Facebooku uváděl „revoluce“ jako jeden ze svých zájmů. Dělo se to zhruba ve stejné době, kdy si nechal vytisknout vizitky s nápisem „Jsem generální ředitel, blbečku.) 

Přes to všechno zůstává způsob, jakým Facebook funguje, v pozoruhodné míře normou pro celý technologický průmysl. A to i přesto, že kulturní význam Facebooku dnes již překonaly jiné sociální platformy (TikTok) i celý technologický vývoj (umělá inteligence). 

Abyste se mohli klanět u oltáře „mega“ dosahu svých aplikací a dokázali přesvědčit sami sebe, že právě vy byste měli činit historická rozhodnutí jménem světového společenství, které vás nezvolilo a které nesdílí vaše hodnoty – nebo jejich absenci –, musíte se zbavit mnoha nepříjemných zbytečností. Mimo jiné pokory a schopnosti jemně rozlišovat. Mnozí titánové Silicon Valley takové kompromisy činí opakovaně. YouTube (vlastněný Googlem), Instagram (držený Metou) a Twitter (jemuž Elon Musk sveřepě říká X) škodí v oblasti práv jednotlivců, občanské společnosti nebo globální demokracie podobně jako Facebook. A vzhledem k tomu, jakým způsobem teď probíhá v Silicon Valley vývoj v oblasti umělé inteligence, měli bychom se připravit na to, že škody se v následujících letech ještě zmnohonásobí.

Technologické společnosti a lidé v jejich čele se často chovají pokrytecky, chamtivě a jsou posedlí vlastním statusem. Pod projevy samolibosti se ale skrývá něco nebezpečnějšího: jasná a ucelená ideologie, která bývá jenom zřídka nazývána tím, čím ve skutečnosti je – tedy autoritářskou technokracií. S tím, jak nejmocnější firmy Silicon Valley vyzrávají, zmíněná ideologie sílí, je stále sebevědomější, je stále více zahleděná do sebe, a když je podrobena kritice, reaguje stále podrážděněji.

I když noví technokraté okázale používají jazyk, jenž se odvolává na hodnoty osvícenství, na rozum, pokrok a svobodu, ve skutečnosti stojí v čele nedemokratického a neliberálního hnutí. Mnozí z nich se zaklínají bezpodmínečnou podporou svobodě slova, pak se ale chovají pomstychtivě k těm, kteří jim nehodlají lichotit. Často zastávají výstřední názory, například, že jakýkoli technologický pokrok je bezvýhradně a z podstaty pozitivní, že je vždy nutné uskutečnit cokoli jen proto, že to uskutečnit možné je, že plynulý tok informací je nejvyšší hodnotou bez ohledu na jejich kvalitu, že soukromí je překonaný pojem nebo že bychom se měli těšit na den, kdy inteligence strojů překoná naši vlastní.

A především, že jejich vlastní moc by neměla být nijak omezována. Systém, který vytvořili nebo ho vytvářejí, směřuje k proměně lidské komunikace a sociálních interakcí a vnáší do každodenního života umělou inteligenci. Populace, které je vnucován, se přitom nikdo na nic neptal ani ji smysluplně neinformoval. Místo toho se technokraté pokoušejí i nadále šířit absurdní mýtus, že oni sami nejsou ničím jiným než jakýmisi sympatickými outsidery.

Silicon Valley bývá často přirovnáváno k Wall Street nebo k Washingtonu a je to snadno pochopitelné. Ve všech třech případech se jedná o mocenská centra přitahující lidi, jejichž ambice jsou až příliš často silnější než lidskost. Vliv Silicon Valley ale snadno Wall Street nebo Washington překoná. Technologické firmy proměňují společnost mnohem zásadnějším způsobem než jakékoli jiné mocenské centrum kterékoli doby – snad s výjimkou éry Nového údělu. Mnozí Američané se oprávněně obávají vzestupu Republikánské strany v její trumpovské MAGA (zkratka Trumpova sloganu „Make America Great Again“ – pozn. red.) verzi, zároveň ale riskují, že přehlédnou nástup jiné neliberální síly: nesmírně mocných vládců technologií náchylných k dětinským záchvatům vzteku. 

Nevyhnutelnost 

Facebook se řídí heslem „postupuj rychle a rozbíjej vše okolo sebe“. Míru, do jaké nejhorší rysy jeho mentality prostoupily Silicon Valley, pak dobře vystihuje shakespearovské drama, jež se koncem minulého roku odehrálo ve firmě OpenAI. Ta byla založena v roce 2015 jako nezisková organizace s cílem uvést do světa umělou inteligenci tak, aby sloužila obecnému prospěchu. V pozadí stálo přesvědčení, že tato nová technologie je příliš mocná a příliš nebezpečná, aby ji mohlo být možné vyvíjet pouze s komerční motivací.

V roce 2019 ale umělá inteligence začínala tempem svého postupu překvapovat i své vlastní tvůrce a firma vytvořila vlastní ziskovou část s cílem získat více kapitálu. Microsoft touto cestou investoval nejdříve miliardu dolarů a pak ještě mnoho dalších miliard přidal. Poté byl vloni na podzim spektakulárně propuštěn generální ředitel firmy Sam Altman a hned zase rychle přijat zpět, což je vnímáno jako důkaz demolice všech záruk, že právě tato firma bude stavět zájem společnosti před vlastní obchodní cíle. Ti, kdo chtěli Altmana odvolat, se údajně domnívali, že příliš upřednostňuje tempo vývoje před bezpečností. Nabídka Microsoftu, aby u něj Altman nebo kdokoli z OpenAI vybudoval celý tým znovu, však odstartovala dostihy, jež nakonec vedly k návratu Altmana do vedení OpenAI. Celý konflikt byl značně nepřehledný a Altman je dost možná skutečně mužem na svém místě, zpráva z něj je ale jednoznačná: honba za vlivem a ziskem zvítězila nad obavami o bezpečnost a veřejnou odpovědností. 

Silicon Valley jistě i nadále přitahuje mnoho talentovaných lidí, kteří se snaží v dobré víře vybudovat co nejlepší možnou verzi vzájemně propojené globální společnosti bohaté na informace. I ty nejhorší firmy vytvořily úžasné nástroje. Ty však, použity v masovém měřítku, se zároveň stávají nástroji kontroly a manipulace. Slibují lepší soužití, ale v praxi zasévají rozkol. Tvrdí, že se zasazují o pravdu, a ve skutečnosti šíří lži. Halí se do pojmů, jako je posílení moci nebo svobody, a ve skutečnosti nás nepřetržitě sledují. Ve firmách nakonec vítězí hodnoty, jež oslabují naši schopnost samostatně jednat a udržují nás v závislosti na obsahu sítí.

Teoretický příslib umělé inteligence nabízí stejnou naději, s jakou kdysi přicházely sociální sítě, a je stejně oslnivý jako její největší stoupenci. AI by skutečně mohla vyléčit řadu nemocí. Skutečně by mohla transformovat vědecké obory a znovu objevit ztracené vědomosti. Problém je v tom, že Silicon Valley ovládané nejhoršími technokratickými pudy pokračuje podle stejného modelu, jaký se osvědčil v průběhu masového rozšíření a monopolizace sociálních sítí. OpenAI, Microsoft, Google a další korporace v čele vývoje umělé inteligence se nezaměřují na oblasti, jež jsou nejpotřebnější pro veřejnost nebo poznání, a už vůbec nepracují jakkoli transparentně nebo obezřetně. Místo toho se pustily do soutěže, kdo bude nejrychlejší a nejlépe maximalizuje své zisky. 

Nic z toho se neděje bez základní technokratické filozofie nevyhnutelnosti, tedy myšlenky, že pokud člověk může stvořit něco nového, musí tak bezvýhradně učinit. „Ve správně fungujícím světě by se mělo jednat o vládní projekt,“ svěřil se Altman vloni mému kolegovi Rossu Andersenovi (text byl zveřejněn v Respektu č. 35 a 36/2023 – pozn. red.) a myslel tím pokusy své firmy OpenAI vyvinout umělou inteligenci. Ale Altman ji stejně chce i nadále budovat sám. Nebo, jak to vystihl před několika lety Zuckerberg v týdeníku The New Yorker: „Není snad vznik obrovské lidské sociální sítě nakonec nevyhnutelný? (…) Kdybychom to neudělali my, udělal by to někdo jiný.“ 

Pochoduj 

Technokracie se jako politická ideologie zformovala poprvé po první světové válce v malé skupině newyorských vědců a inženýrů, kteří toužili po novém uspořádání společnosti, jež by nahradilo zastupitelskou demokracii a v jehož čele by stála technologická elita. I když toto hnutí neuspělo politicky a lidé dali přednost Novému údělu prezidenta Franklina D. Roosevelta, zaznamenalo větší úspěch v intelektuální sféře a stalo se jedním z typických rysů doby spolu s modernismem v umění a literatuře, s nimiž sdílelo některé hodnoty. Modernistický slogan amerického básníka Ezry Pounda „Make it New“ (Dělej to nově) mohl snadno fungovat také jako heslo technokratů. Paralelním hnutím byl pak italský futurismus, v jehož čele stály osobnosti jako básník F. T. Marinetti a který razil hesla jako „Pochoduj a nezahnívej“ nebo „Tvorba, nikoli kontemplace“.

Hnutí technokratů a futuristů byla nesena étosem, jenž žádal akci pro akci samotnou. „Nestačí nám bloumat po zahradě obklopené temnými cypřiši, sklánět se nad ruinami a památkami porostlými mechem,“ prohlásil ve svém vystoupení Marinetti v roce 1929. „Věříme, že jedinou skutečně důstojnou tradicí Itálie je skutečnost, že nikdy žádnou tradici neměla.“ Prominentní futuristé svůj zápal pro technologie, rychlost a činy nakonec přetvořili ve fašismus. Marinetti na svůj Futuristický manifest (1909) navázal Fašistickým manifestem (1919). Jeho přítel Ezra Pound byl zcela nadšený z Benita Mussoliniho a spolupracoval s jeho režimem na rozhlasovém pořadu, v němž propagoval fašismus, rozplýval se nad knihou Mein Kampf a vedle Mussoliniho vynášel do nebes i Adolfa Hitlera. Přerod futurismu ve fašismus nebyl nevyhnutelný a mnozí Poundovi přátelé se básníka začali bát nebo si mysleli, že se zbláznil. Proměna ale zároveň ukazuje, jak snadno se v době sociální nestability může kulturní hnutí založené na radikálním odmítnutí tradice i dějin a podbarvené pocitem křivdy stát politickou ideologií.

Vloni v říjnu zveřejnil investor a technokrat Marc Andreessen na webových stránkách své firmy dokument nazvaný Technooptimistický manifest. Jedná se ideologickou směsici o 5000 slovech, která temně připomíná italské futuristy, jako byl Marinetti, a výslovně se na ně také odvolává. Andreessen je známý nejen tím, že je jedním z nejvlivnějších miliardářů investujících v Silicon Valley. Zároveň je také proslulý svou popudlivostí a neústupností. Esej je navzdory optimismu ve svém názvu podle všeho motivován pocitem rozhořčení nad tím, že technologie, jež se autorovi a jeho kolegům podařilo uvést do života, již nejsou „náležitě oslavovány“. Jde o výmluvný dokument odrážející pohled na svět typický právě pro svého autora a jeho kolegy – technokraty.

Andreessen píše, že „neexistují materiální problémy“, včetně těch, jež způsobily technologie, které „nemohou vyřešit další technologie“.  Píše, že technologie by neměly pouze postupovat vpřed, ale že by se jejich postup měl neustále zrychlovat, tak aby „technologicko-kapitálová spirála mohla pokračovat donekonečna“. Zároveň tvrdě kritizuje to, co nazývá kampaněmi proti technologiím, jež vystupují pod názvy jako „etika technologií“ nebo „existenční riziko“.  

Za pozornost stojí také část, kterou lze považovat za jakési apoštolské vyznání víry jeho vznikajícího politického hnutí:

Andreessen také představuje několik „svatých patronů“ svého hnutí, mezi nimi i Marinettiho. Cituje z jeho Futuristického manifestu, přičemž Marinettiho „poezii“ nahrazuje „technologií“:

Aby bylo jasno, Andreessenův manifest není fašistickým dokumentem, je však extremistický. Vychází z rozumného stanoviska, že technologie jako celek dramaticky zlepšily lidský život, a pokřivuje ho do absurdního závěru, že jakákoli snaha omezit technologický vývoj je za všech okolností zavrženíhodná. Takový postoj, nahlížen bez cynismu, dává smysl pouze jako náboženské přesvědčení. V praxi pak slouží pouze k vyvázání autora a dalších gigantů Silicon Valley z jakékoli morální nebo občanské odpovědnosti činit cokoli jiného než vymýšlet novinky, jež vedou k vlastnímu obohacení – bez ohledu na společenské náklady nebo na historii. Andreessen také představuje seznam nepřátel a „mrtvých myšlenek“, jako jsou „instituce“ nebo „tradice“, a vyzývá své stoupence k boji proti nim. 

„Naším nepřítelem,“ píše Andreessen, „je světonázor vševědoucích expertů, kteří si libují v abstraktních teoriích, luxusních postojích, sociálním inženýrství, jsou odtržení od reálného světa, poblouznění, nevolení a nikomu se neodpovídají – hrají si na bohy, kteří řídí životy ostatních a jsou zcela izolováni od důsledků.“

Ironické je, že takový popis velmi dobře odpovídá charakteristice samotného Andreessena a dalších příslušníků elity v Silicon Valley. Svět, jaký v posledních dvou desetiletích vytvořili, je bezesporu světem bezohledného sociálního inženýrství, bez důsledků pro své tvůrce, kteří nám všem vnucují své abstraktní teorie a luxusní postoje.

Některé jednotlivé principy prosazované v manifestu nejsou nijak výrazné. Celkový radikalismus textu by nás ale měl vzhledem k postavení a moci jeho autora probudit ze spánku. Klíčové postavy Silicon Valley, včetně Muska, v posledních letech zjevně našly zalíbení v neliberálních myšlenkách. Voličská podpora Donalda Trumpa v Silicon Valley v roce 2020 dosáhla 23 procent. To není mnoho, ale je to více než 20 procent v roce 2016.

Hlavní nebezpečí autoritářské technokracie není v tuto chvíli politické, alespoň tedy ne v tradičním smyslu slova. Přesto již v tuto chvíli disponuje několik vyvolených autoritářskou mocí, která více či méně určuje pravidla a kulturní normy digitálního světa a která může být stejně silná jako skutečná moc politická. 

Vzpoura a regulace

Před nebezpečím nastupující technokracie varoval již v roce 1961 ve svém posledním projevu k Američanům tehdejší prezident Dwight Eisenhower. „I když si náležitě vážíme vědeckého výzkumu a objevů, měli bychom se mít zároveň na pozoru vůči stejnému, ale opačnému nebezpečí, totiž že by se veřejná politika sama mohla stát zajatcem vědecko-technologické elity,“ prohlásil. „Úkolem státníků je formovat, vyvažovat a integrovat tyto a další síly, nové i staré, v rámci principů našeho demokratického systému a vždy směřovat k nejzazším cílům naší svobodné společnosti.“

O osm let později byly první počítače propojeny do sítě ARPANET, předchůdkyně dnešní sítě World Wide Web, jež se stala šířeji dostupnou v roce 1993. V těch dobách bylo Silicon Valley vnímáno jako utopický projekt pro ambiciózní kapitalisty a optimistické vynálezce s nevšedními myšlenkami, kteří chtěli změnit svět bez zátěže byrokracie a rychlostí internetu (tehdy 14,4 kilobitu za sekundu). Jeho kultura měla od počátku své mouchy, byla ale svým typicky americkým způsobem nápaditá a vedla ke vzniku skutečně průlomového a někdy až neuvěřitelně krásného hardwaru i softwaru.

Pokud jde o regulaci tohoto sektoru, stála jsem i já sama dlouho na Andreessenově straně názorového spektra. Věřila jsem, že sociální sítě mohou být v celkovém součtu silou dobra a že pokud jim bude dopřáno dost času, zvítězí v nich přirozeně hodnoty sloužící veřejnému zájmu. Bránila jsem se představě, že je regulace sociálních sítích vůbec nutná, částečně proto, že jsem nebyla (a stále nejsem) přesvědčená, že by vláda mohla něco takového dokázat, aniž by nenapáchala škody. (Evropský model regulace, včetně zákonů, jako je tzv. právo být zapomenut, je v hlubokém rozporu s ochranou svobody tisku v Americe a představuje nebezpečí z hlediska práva veřejnosti na přístup k informacím.) Jako síla pro vylepšení technologií i společnosti by se mi mnohem více líbila tržní konkurence.  

V posledních letech se nicméně ukazuje, že regulace je nutná, přinejmenším proto, že samotný nástup technokracie je nejlepším důkazem, že lídři Silicon Valley v zájmu veřejnosti jednat nehodlají. Mnoho je potřeba vykonat na ochranu dětí před nebezpečím sociálních sítí i na poli rozbíjení monopolů a oligopolů škodlivých pro společnost. Ale nejen to. Zároveň se totiž domnívám, že kulturní úpadek, který technokraté šíří, nezastaví samotná regulace.

Své postavení lídrů ve vývoji technologií proměňujících svět pro lidské dobro by měly opět získat univerzity. (Harvard, Stanford a MIT by mohly společně investovat a založit za tímto účelem konsorcium – jejich nadační jmění teď ostatně dosahuje částky zhruba 110 miliard dolarů.)

Svůj díl na změně budou muset odpracovat i jednotlivci. Možná se nebudete chtít úplně vzdát sociálních médií nebo sledovacího softwaru, který využíváte na svém pracovišti, možná se z nich ani nebudete chtít odhlásit. Mimořádná síla se ale ukrývá v definování ideálů, a to je něco, co může učinit každý z nás sám za sebe, ale také v rámci sítí našich skutečných přátel v reálném životě, ve školách nebo třeba v církvích. Bylo by od nás moudré, kdybychom sami vypracovali vlastní pravidla, jak budeme v komunitách používat invazivní technologie. To by mělo obsahovat i zpochybnění stávajících norem, jež se týkají užívání aplikací a YouTube ve třídách, běžného rozšíření chytrých telefonů mezi dospívající mládeží a všeobecného nedostatku respektu k soukromí jednotlivců. Ti, kteří věří, že si zasloužíme žít v lepším světě, by se sami měli chopit iniciativy a postavit se do čela takového úsilí. 

Naše děti nejsou soubory dat sloužící ke kvantifikaci, sledování a prodeji. Výsledky naší intelektuální práce nejsou pouhým manuálem k výcviku umělé inteligence, jež nás bude napodobovat a vykrádat. Naše životy nemají být optimalizovány prostřednictvím obrazovky, máme je žít ve vší jejich neučesané kráse, lézt v nich po stromech, chodit si v noci zaplavat, zažívat dobrodružství. Když netweetujeme, neposíláme „lajky“ a donekonečna nescrollujeme, jsme všichni lepšími verzemi nás samotných.

Technokraté mají pravdu, když tvrdí, že technologie jsou klíčem k lepšímu světu. Nejdříve si ale musíme popsat, jaký svět si vlastně přejeme mít – jaké problémy chceme vyřešit ve veřejném zájmu a v souladu s hodnotami a právy, jež prohlubují lidskou důstojnost, rovnost, svobodu, soukromí, zdraví a štěstí. A musíme trvat na tom, aby vedoucí představitelé institucí, jež nás reprezentují, malých i velkých, využívali technologie způsobem, který reflektuje, co je dobré pro jednotlivce i pro společnost, a nikoli pouze pro obohacení technokratů. 

Nemusíme nutně žít ve světě, jenž pro nás vytvářejí noví technokraté. Nemusíme se podrobit jejich stále širšímu projektu dehumanizace a těžby osobních dat. Jednat může každý z nás sám za sebe.

Skoncujme s heslem: vytvořme všechno, co vytvořit můžeme. Hoďme za hlavu algoritmické feedbacky. Nepotřebujeme infrastrukturu, která lidi připravuje o vládu nad sebou samými a předává ji do rukou těch, kteří kontrolují technologie. Každý den sami hlasujeme tím, čemu věnujeme vlastní pozornost. Ta je vzácná a zoufale po ní touží lidé, kteří ji chtějí využít pro svůj zisk a politické cíle. Nedovolme jim to.

© 2024 The Atlantic Media Co., as first published in The Atlantic Magazine or on theatlantic.com (as applicable). All rights reserved. Distributed by Tribune Content Agency.