Čína všechno vidí

Erik Tabery: Jsou témata, která přes všechnu naši snahu, touhu a chuť nejdou v podmínkách tuzemské žurnalistiky zpracovat. Již jsem tu jednou zmiňoval, že velké světové redakce mají rozpočty jen na zahraniční reportáže větší, než je kompletní rozpočet Respektu. Přesto máme ambici přinášet texty, které překračují tyto finanční hranice. Budeme proto publikovat dvakrát do měsíce články z časopisu The Atlantic. V tomto čísle naleznete článek s výmluvným podtitulem: „Si Ťin-pching využívá umělou inteligenci k posílení vládní totalitní kontroly – a tuto technologii exportuje do režimů po celém světě.“ Je to naprosto výjimečný text, který je důležitý i pro náš kontext.

Za třetím dálničním obchvatem v Pekingu, severozápadně od Zakázaného města, buduje Čínská akademie věd již několik desetiletí kampus národních laboratoří. Téměř v jeho středu se nachází Ústav pro automatizaci, blyštivá, stříbřitě modrá budova obklopená stožáry s nainstalovanými kamerami. Jedná se o zařízení určené k základnímu výzkumu, počítačoví vědci tady pronikají do základních tajemství umělé inteligence (Artificial Intelligence, AI). Praktičtější výsledky výzkumu, třeba rozeznávání očních duhovek nebo syntézu řeči s využitím cloudového úložiště, předávají obřím čínským technologickým firmám, startupům pracujícím s umělou inteligencí a občas Čínské lidové osvobozenecké armádě.

Ústav jsem navštívil jednoho deštivého dopoledne v létě 2019. Nejlepší a nejchytřejší z Číňanů se teprve trousili dovnitř, po dojíždění neformálně oblečeni v basketbalových trenýrkách nebo kalhotách na jógu, s AirPody v uších. V kapse jsem měl telefon na jednorázové použití, v batohu počítač s kompletně vymazanými daty, což jsou standardní preventivní opatření západních novinářů v Číně. Když navštívíte Čínu kvůli čemukoli citlivému, riskujete soustředěnou palbu kybernetických útoků a malwaru. Belgičtí představitelé na obchodní misi si v roce 2019 všimli, že se data z jejich mobilních telefonů načítají s pomocí výsuvné antény před hotelem.

Když jsem prošel bezpečnostní kontrolou, řekli mi, abych počkal v hale monitorované kamerami. Na stěnách visely plakáty nejvýznamnějších čínských poválečných vůdců. Mao Ce-tung ve svém typickém saku se čtyřmi kapsami dominoval. Vypadal klidně, jako by byl spokojený s tím, že dokázal Čínu vymanit z područí Západu. Vedle něj visel neostrý černobílý snímek Teng Siao-pchinga při návštěvě ústavu v posledních letech svého života, poté co jeho ekonomické reformy nasměrovaly Čínu zpět k jejímu tradičnímu postavení světové mocnosti.

Nejvýraznější byl ale obraz zachycující Si Ťin-pchinga v dokonalém černém obleku. Současný čínský prezident a předseda čínské komunistické strany projevuje o ústav nadšený zájem. Zdejší činnost je součástí velké strategie umělé inteligence, jak ji Si předložil v sérii projevů podobných tomu, s jehož pomocí otočil John F. Kennedy zraky vědecko-technologické Ameriky k Měsíci. Si prohlásil, že si přeje, aby byla Čína v nejbližší době schopná konkurovat v oblasti AI světovým lídrům, což se podle všeho již povedlo. Žádal také, aby země do roku 2030 dosáhla v oboru dominantního postavení.

Prezidentovy výroky mají temnou stránku. AI nachází uplatnění v téměř každé sféře lidské činnosti, od okamžitého překladu mluveného jazyka po včasnou detekci ohnisek epidemií. Si chce ale využít dechberoucích analytických možností AI také k tomu, aby posunul Čínu na špici světové špionáže. Hodlá vybudovat vševidoucí digitální systém sociální kontroly, který dokáže s pomocí prediktivních algoritmů identifikovat potenciální odpůrce v reálném čase.

Čínská vláda dokázala v minulosti využít významné historické události k zavedení nových prostředků špionáže. Během příprav na letní olympiádu 2008 v Pekingu zvýšily čínské bezpečnostní služby dohled nad místním internetem. V průběhu koronavirové epidemie se vláda ve velkém spolehla na soukromé společnosti, jež vlastní citlivá osobní data. Za zavřenými dveřmi se sjednávaly provizorní dohody, ty se ale mohou proměnit v trvalé vztahy.

V Číně jsou již nyní nainstalovány stovky milionů špionážních kamer a vláda doufá, že jejich zorné pole brzy kompletně pokryje všechny klíčové veřejné prostory. Velkou část záběrů analyzují algoritmy s cílem odhalit všemožné bezpečnostní hrozby. V blízké budoucnosti bude na veřejných místech možné identifikovat kohokoli na základě umělé inteligence zpracovávající oceány osobních údajů včetně veškeré textové komunikace a individuální tělesné konfigurace proteinů jednotlivých osob. Časem budou algoritmy schopné propojit data z celé řady různých zdrojů, od cestovních záznamů přes údaje o přátelích a známých po informace o četbě či nákupech, a budou schopné předvídat politický odpor dříve, než k němu vůbec dojde. Čínská vláda tak brzy dosáhne bezprecedentní politické nadvlády nad více než jednou miliardou lidí.

Na počátku koronavirové epidemie rozdělila Čína své občany podle toho, jaký stupeň rizika představují. Algoritmus jim připsal barevné označení jako na semaforu, tedy zelené, oranžové a červené, jež zároveň určovalo jejich možnosti cestovat nebo vstupovat do budov v čínských megaměstech. Stejné barevné kódy je možné v sofistikovaném digitálním systému sociální kontroly použít k hodnocení domnělé politické bezúhonnosti každé osoby.

Zárodečná verze takového systému dohledu založeného na umělé inteligenci již funguje v čínské severovýchodní provincii Sin-ťiang, kde je uvězněno více než jeden milion muslimských Ujgurů. Jedná se o největší represivní opatření proti nábožensko-etnické menšině od pádu třetí říše. V okamžiku, kdy Si dovede svůj systém k dokonalosti v Sin-ťiangu, nebude mu nic bránit v jeho zavedení na celém území Číny. Zároveň ho bude moci vyvážet za hranice Číny a může tak ukotvit moc dnešních autokratů na celé generace.

Čína v uplynulých letech zahájila v zahraničí množství velkých infrastrukturních projektů. Vedle silně propagované Iniciativy pásu a cesty, známé pod termínem Nová hedvábná stezka, buduje megaměsta nebo vysokorychlostní železniční tratě. Nic z toho se však nezapíše do dějin podobně jako čínská digitální infrastruktura, jež může celosvětově změnit poměr sil mezi jednotlivcem a státem.

Obavy z takové možnosti mají američtí experti napříč politickým spektrem. Michael Kratsios, dřívější spolupracovník Petera Thiela, jehož si Donald Trump vybral za hlavního technologického poradce, mi řekl, že technologická převaha demokratických zemí „nebyla nikdy důležitější“, a že „pokud si chceme být jisti tím, že technologie budoucnosti budou odrážet západní hodnoty, musíme se v těchto oblastech udržet na špici vývoje“.

Analytici stále předpokládají, že si Amerika přes podstatné pokroky Číny udrží v oblasti AI převahu aspoň následujících deset let. To je ale slabá útěcha, Čína již nyní vyvíjí výkonné špionážní nástroje a exportuje je do desítek současných i aspirujících autokracií po celém světě. Během několika následujících let bude možné technologie doladit a propojit do rozsáhlých sledovacích systémů, které diktátoři prostě koupí a zapnou.

Vznik bloku autoritářských režimů založených na umělé inteligenci a vedených Čínou pak může změnit geopolitické poměry tohoto století. Miliardy lidí na obrovských rozlohách planety mohou ztratit jakoukoli příležitost k dosažení politické svobody. A ať američtí experti říkají cokoli, zabránit tomu mohou jen samotní Číňané. Do Pekingu jsem se vydal pátrat po náznacích toho, zda by skutečně mohli.