O lidskosti a umělé inteligenci

Třináctého července 1833 zažil Ralph Waldo Emerson během návštěvy přírodovědného kabinetu Botanické zahrady v Paříži nečekané prozření. Jak si prohlížel vystavené exponáty, motýly, kousky jantaru či mramoru, nejrůznější mušle, ovládl ho najednou ohromující pocit, že v přírodě je vše propojeno – včetně člověka.

Popsaná zkušenost ho přiměla napsat text The Uses of Natural History (Smysl přírodních věd) a zformulovat filozofii, která do středu intelektuálního života v technologicky chaotické době postavila naturalismus. Jejím prostřednictvím pak spolu se skupinou spisovatelů a radikálních myslitelů známých dnes jako transcendentalisté došel až k novému duchovnímu systému víry. Emerson věřil, že kterýkoli člověk se může prostřednictvím empirického zkoumání přírodního světa sám stát „tvůrcem a autorem mapy definující rovnoběžky i poledníky vlastního života“ – a otevřít tak v mechanizované době prostor pro vlastní nezávislé jednání, individualitu i úžas nad světem.

Amerika v té době přetékala vynálezy a zdálo se, že v jejich důsledku se vše zrychluje. Jako houby po dešti vyrůstaly továrny nebo cukrovary, do amerických přístavů kvapem vplouvaly a zase z nich vyplouvaly parníky, zemí se proháněly parní lokomotivy, telegraf propojil Američany jako nic před ním, vznikaly první fotografie, jež měly navždy změnit představu člověka o sobě samém. Všeobecná nálada se pohybovala mezi nadšením, nervozitou a naprostým zděšením.

Záblesk Emersonovy vize nesměřoval k jednoduchému odmítnutí probíhajících změn, spíše ke způsobu, jak si uchovat lidský rozměr ve světě, který se vymyká z kloubů. Jeho reakce na technologickou renesanci 19. století stojí za pozornost i dnes, kdy uvažujeme nad velkou technologickou proměnou v našem vlastním století – nad nástupem umělé superinteligence. 

Ta teď postupuje vpřed mílovými kroky, oceán informací, v němž jsme všichni ponořeni, ale rozbouřila již dříve. První změny v jeho složení přinesly algoritmy, které řadí informace podle jejich významu. Ty se staly určujícím rysem moderního webu. Google se podle nich rozhoduje, jaké výsledky vyhledávání vám má ukázat, algoritmy také nasávají vaše osobní data a na jejich základě pak organizují a personalizují obsah kanálů sociálních platforem, jako jsou Facebook, Instagram nebo TikTok.

Teď si představme stejnou internetovou infrastrukturu, pouze vybavenou programy, které komunikují s aurou odbornosti v jakémkoli tématu, s možností generovat sofistikované originální texty, audio- nebo videozáznamy, se schopností napodobovat jednotlivce tak přesvědčivým způsobem, že nikdo nepozná, co je nebo není skutečné. Dnešní modely umělé inteligence jsou navíc navrženy tak, aby se samy zlepšovaly s každou jednotlivou interakcí s uživateli. Občas při tom také halucinují či manipulují nebo si jednoduše vymýšlejí. Člověk nedokáže předjímat, co udělají nebo proč k tomu dojde. Pokud je vyhledávač Googlu moderní verzí starověké Alexandrijské knihovny, nová umělá inteligence bude jakýmsi velmi vrtošivým, nevyzpytatelným prorokem.

Generativní umělá inteligence se vyvíjí neuvěřitelnou rychlostí a uplatní se téměř ve všech oborech a odvětvích. Technologické giganty – včetně společností Alphabet (která vlastní Google), Amazon, Meta (která vlastní Facebook) a Microsoft – jsou v tuto chvíli zaklesnuté v souboji o to, kdo umělou inteligenci nejlépe využije ve stávajících produktech, jako jsou mapy, e-mail, sociální platformy nebo fotografický software.

Technokulturní normy a zvyky, jimž jsme přivykli během trojnásobné revoluce spojené s nástupem internetu, chytrých telefonů a sociálních sítí, přitom samy o sobě již potřebují důkladnou korekci. Příliš mnoho lidí se těmito technologiemi nechalo jednoduše převálcovat. Teď by proto bylo moudré nejen napravit chyby nedávné minulosti, ale také předjímat a aktivně ovlivňovat dopady, jimiž naše životy i civilizaci promění mnohem radikálnější nové technologie.