Černé zrcadlo už deset let věští temnou budoucnost. Naplnily se jeho technologické vize?

„To je jako v Black Mirror!“ Kdo patří mezi fanoušky známého britského seriálu, který Česká televize vysílala pod názvem Černé zrcadlo, tuhle hlášku mu není potřeba vysvětlovat. Používá se ve chvílích, kdy člověk zažívá intenzivní pocit, že dystopické vize, které byly ještě nedávno považované za sci-fi, se stávají až příliš reálnou součástí našich každodenních životů. Pro autora tohoto textu to byl třeba okamžik, kdy ho před pár lety vezl taxikář společnosti Uber a stěžoval si, jak ho jeden cestující nutil projet zákazem vjezdu pod pohrůžkou, že jestli to neudělá, dá mu v mobilní aplikaci sdílené taxislužby špatné hodnocení. Měl řidič porušit pravidla a riskovat, že dostane pokutu? Anebo přání cestujícího odmítnout, dostat místo pěti jen jednu hvězdičku a smířit se s tím, že si příští zákazník možná vybere jiného řidiče?

I tohle dilema jako by vypadlo z jednoho dílu odvysílaného v říjnu 2016. Epizoda pojmenovaná Pád střemhlav téma všudypřítomných hodnotících aplikací, které nás dnes obklopují a nutí nás chovat se určitým způsobem, posouvala ještě dál. Ukazovala svět blízké budoucnosti, ve kterém má každý člověk hodnocení od jedné do pěti hvězdiček, které mu průběžně dávají lidé v jeho okolí podle toho, zda jsou s ním spokojení. Od tohoto skóre se odvíjí občanský status daného člověka, a když mu klesne pod určitou úroveň, je nešťastník prakticky vyřazen z běžného života. Nikdo se s ním nebaví, ztratí možnost využívat veřejné služby, má zapovězený vstup na společenské akce.

Epizoda Pád střemhlav je pro Černé zrcadlo typická, protože obsahuje všechny hlavní atributy, které seriál udělaly tak úspěšným a populárním po celém světě. Varuje, kam nás mohou zavést moderní technologie, které přitom všichni používáme už dnes, a současně téma satiricky žene do extrému, aby vynikla pointa. Kromě hodnotících aplikací si seriál během celkem pěti sezón a několika speciálních dílů bral na mušku třeba také zhoubný vliv sociálních sítí na šíření nenávisti, stále dokonalejší počítačové hry překračující rozdíl mezi realitou a fikcí anebo umělou inteligenci. Každá epizoda seriálu byla samostatným uzavřeným filmem - takže tvůrci stihli v dvaadvaceti dílech popsat řadu témat a nastínit jejich možné „zneužití“ a další vývoj.

Tento týden uplyne deset let ode dne, kdy britská stanice Channel 4 odvysílala první epizodu Černého zrcadla, které si získalo status globálně úspěšného a kultovního díla. Kulaté výročí je příležitostí k bilancování nad jedinečným počinem vizionářského, byť někdy lehce paranoidního a moralizujícího tvůrce Charlieho Brookera. A také k prozkoumání, zda se temná varování seriálu mezitím aspoň částečně naplnila.

Orwell, nebo Kafka?

Zmíněný díl Pád střemhlav je příkladem toho, kdy se už temná vize autorů seriálu alespoň částečně přiblížila skutečnosti. V souvislosti s touto epizodou bývá často zmiňována komunistická Čína řízená autoritářským prezidentem Si Ťin-pchingem a jeho stranickým aparátem, který v zemi postupně zavádí systém státního dohledu založený na osobním hodnocení obyvatel. Už v roce 2016, kdy byl díl odvysílán, tamní vláda v rámci několika pilotních programů testovala systém takzvaného sociálního kreditu, který všeobecné hodnocení lidí z Černého zrcadla připomínal. Jenže zatímco v Černém zrcadle o osobním skóre jednotlivce rozhodovali ostatní lidé, kteří mezi sebou navzájem vstupovali do každodenních interakcí, v Číně měli o výši skóre rozhodovat především státní instituce.

Čínský plán zněl následovně: vysoké skóre bude mít ten, kdo se bude chovat podle státem stanovených pravidel – například bude včas splácet dluhy, nebude přecházet na červenou či trávit velké množství času hraním počítačových her, a naopak čas od času daruje krev nebo bude navštěvovat své stárnoucí rodiče. Takoví lidé nebudou muset čekat fronty na letištích, v některých nemocnicích budou přednostně přijati k ošetření a dostanou nejlepší pokoje v hotelech. Nízké skóre naopak může člověku znemožnit nákup jízdenky na vysokorychlostní vlak nebo letenky, uzavřít mu dveře do určitých profesí i do vzdělávacích institucí, zněl plán. A v roce 2018 světová média skutečně informovala, že v rámci systému sociálního kreditu bylo zamítnuto několik milionů letenek a jízdenek vysokorychlostním vlakem, protože zájemci o cestování neměli dost vysoký sociální kredit.

Podobné zprávy naznačovaly, že čínská komunistická strana v zemi pomocí systému hodnocení vytvořila dokonalou orwellovskou dystopii, v jejímž rámci odměňuje poslušné poddané a trestá svobodomyslné disidenty, ale realita zdaleka není tak přímočará. Detailnější analýzy čínského systému naznačují, že univerzální skóre určované podle jednotného algoritmu napříč Čínou zatím zdaleka neexistuje: vše je velmi složitě a nepřehledně rozdrobené na mnoho dílčích systémů v jednotlivých regionech a městech, které spolu příliš nekomunikují. Jak píše agentura Bloomberg, čínský systém sociálního kreditu je „více kafkovský než orwellovský“.

Sociální kredit je zároveň používán spíše jako ukazatel, zda je jednotlivec dostatečně solventní k získání půjčky v bance, než k tomu, aby byly z ideologických důvodů omezeny jeho svobody. Cílem sociálního kreditu je sjednotit databáze běžných přestupků a registry dlužníků, aby se „obvyklí podezřelí“ po spáchání přečinu nemohli přesunout do vedlejší provincie a tam pokračovat, píše časopis Foreign Policy s tím, že západní svět dělá z čínského sociálního kreditu dystopický nástroj sociální kontroly, kterým není. Časopis nicméně připomíná, že k pronásledování politických oponentů a příslušníků menšin má Čína jiné a velmi účinné sledovací programy. Jedná se především o systém cenzury zvaný Zlatý štít a špehovací program Bystré oči, které slouží jako ideologický dohled nad správným chováním občanů. Tyto sofistikované projekty však nejsou založené na systému hodnocení, který by připomínal díl Pád střemhlav.

Přesně na cíl

Relativně přesně mířila na cíl také epizoda nazvaná DJ na odstřel. Její ústřední zápletku tvoří seznamovací aplikace, která dokáže člověku najít vhodného partnera na základě jeho skrytých niterních preferencí, je však současně tak dokonalá, že mu hned po seznámení ohlásí, jak dlouho bude tento vztah trvat a kdy přesně skončí. Některé páry totiž algoritmus vyhodnotí jako ideální pouze na jednu noc, jiným dá vyhlídku několika let. Někdy algoritmus svede dohromady i lidi, kteří už se jednou rozešli. Jak si všiml deník Guardian ohlížející se za deseti lety seriálu, letos v lednu nabídla seznamovací aplikace Birdy svým uživatelům možnost, aby si našli dokonalého partnera tím, že vyplní psychologický test. Tzv. Myers-Briggs Type Indicator určuje osobnost člověka a online seznamka porovnáním výsledků najde pro každého toho pravého, slibují její autoři.

Epizodou, která dokázala předpovědět fenomén šíření online agrese, jejž dnes zažíváme naplno, je Nenávist národa odvysílaná v roce 2016. Díl má detektivní zápletku, kdy dva vyšetřovatelé pátrají po tom, kdo stojí za sérií podivných úmrtí veřejně známých osob. Oběti přitom pokaždé usmrtí roj autonomních robotických včel, před kterými je nemožné se skrýt. O tom, kdo bude příštím zavražděným, rozhoduje anonymní internetové publikum pomocí hashtagu #DeathTo, za nímž vždy následuje jméno nominanta.

Osoba s nejvíce hashtagy za den je pak tímto „lidovým soudem“ na internetu vydána napospas zabijáckým minirobotům. Epizoda tím předjala fenomén veřejných kampaní šířených pomocí hashtagů sociálními sítěmi, ve kterých se známé postavy staly terčem kritiky a často upadly ve všeobecnou nemilost, někdy skončily ve vězení. Kritici nicméně epizodě vyčítali přílišnou doslovnost a přehnanost, která bránila v lepším popsání štvavých internetových honů na jednotlivce, online šikany, případně cancel culture - místo toho zbytečně brzy sklouzla k akční detektivce.

Ve výčtu toho, co se tvůrcům podařilo předpovědět, by šlo ještě dlouho pokračovat. Epizoda Přijdu hned z roku 2013 úspěšně předpověděla nástup robotů, kteří se z archivovaných videozáznamů a textových zpráv dokážou naučit a přesně imitovat styl komunikace člověka - takže si zájemci po smrti milované osoby můžou vytvořit její robotickou kopii a dál žít po jejím boku. Například programátorka Eugenia Kuyda v roce 2017 vytvořila automatického bota, který umí přijmout osobnost zemřelého a komunikovat „ze záhrobí“. Zatím se ale nejedná o fyzického, nýbrž pouze virtuálního textového robota, byť vznik opravdových společníků je nejspíš jen otázkou času.

Epizoda Celá tvá minulost odvysílaná už v roce 2011 zase popisovala svět, ve kterém je pomocí kamery zabudované do oka nahrávat vše, co člověk zažije. Uchované záznamy znamenají, že všechny krásné okamžiky jsou navždy uloženy, stejně ale zůstávají i ty, které tak krásné nejsou. Videozáznamy mohou později sloužit i jako usvědčující „objektivní“ důkazy, které se obrátí proti nositeli zařízení. Všudypřítomná kamera člověku znemožňuje lhaní, ale hlavně mu de facto bere mu soukromí, naznačovali tvůrci. A o několik let později je vidět, že mířili přesně: společnost Samsung si v roce 2016 nechala patentovat kontaktní čočku, která průběžně vytváří fotografie při každém mrknutí. A podobné technologie chystají i další firmy.

Jiné čtení

Seriál správně předpověděl také nástup dokonalých osobitých panenek pro děti, možnost fyzického milování dvou lidí ve virtuální realitě, anebo situaci, kdy lidé budou moci stále účinněji blokovat nepohodlné lidi ze svých životů. Stejně tak by samozřejmě bylo možné pokračovat výčtem toho, co seriál předpověděl, ale zatím se to nenaplnilo.

Stále nemáme virtuální realitu, kde by lidé mohli společně existovat po svém úmrtí ve formě unikátního algoritmu (epizoda San Junipero) a tím žít věčně. Žádný rodič svému dítěti zatím nevpichuje do těla čip, pomocí kterého by ho mohl neustále sledovat na každém kroku, slyšet a vidět každý jeho pohyb i slovo (Arkangel). Stejně jako zatím nežijeme ve světě, kdy by lidé museli neustálým šlapáním na kole generovat elektřinu, povinně sledovat pornografii a reklamy - a u toho snít, že se v televizní soutěži jednou stanou celebritami, což je jediná cesta z tohoto vězení (Patnáct milionů meritů).

Vnímat Černé zrcadlo jako seriál, který se snaží ukázat úskalí nových technologií, je však možná špatný způsob, jak tento jedinečný počin číst. O neurózách dnešní společnosti (a také těch vlastních) se divák možná dozví víc, když v každé epizodě spatří pokus zabývat se jednou lidskou slabinou či vlastností a jejím možným zneužitím. Díl Arkangel, ve kterém rodiče vpichují dětem sledovací čip, je tak mnohem více studií přehnané starostlivosti a snahy mít vše pod kontrolou než pokusem detailně rozebrat současné sledovací technologie.

Přijdu hned nám  zas touto optikou ukazuje, kam až vede neschopnost rozloučit se s mrtvou milovanou osobou, nikoli analýzu pokročilosti umělé inteligence. A v úvodu zmíněná (a možná nejslavnější) epizoda Pád střemhlav se nepokouší ukázat, jak přesně bude jednou možná vypadat systém osobního hodnocení, spíše ukazuje společnost, ve které se lidé snaží být pouze pozitivní a dělat věci jen s tím, aby byli populární.

Možná vůbec nejstrašidelnější a nejvíce prorockou epizodou celého seriálu je v tomto smyslu díl Medvídek Waldo, který se objevil v druhé řadě v roce 2013. Představuje animovaného maskota Walda, který vystupuje jako legrační doplněk televizních politických debat. Jeho úlohou je pokládat politikům zpitvořeným hlasem drzé dotazy a dělat tím show zábavnější pro široké publikum. Kdosi ale dostane nápad, že by Waldo mohl uspět i coby politik – což se mu k všeobecnému překvapení a nadšení podaří.

Waldovy jednoduché teze skvěle vyhovují selskému rozumu většiny lidí, stejně jako jim konvenuje jeho sprostý, nekorektní jazyk a smysl pro humor, díky čemuž se z legračního maňáska postupně stane totalitní figura řídící celou zemi. Teprve tehdy se naplno ukáže, že vyhovovat lidovému vkusu, apelovat na nízké pudy a všechno kritizovat k úspěšnému řízení země nestačí, ale na návrat k demokracii je už v tu chvíli pozdě. Prorocké schopnosti autorů tu vystupují do popředí zejména při vědomí, že epizoda byla natočena dlouho před nástupem Donalda Trumpa nebo Borise Johnsona k moci.

Pokud bychom se ptali, zda scenáristé s Waldem trefili budoucnost, šlo by samozřejmě odpovědět ano i ne. Představa, že by nějakou zemi řídila animovaná postavička, je (zatím) stále směšná a absurdní. Ale nestala se v posledních deseti letech politika místem, kde vítězí populistické výroky útočící na nejnižšího společného jmenovatele? Tady už by nejspíš většina lidí odpověděla, že ano.