Možná nasadíme blade runnery

Poslyšte bajku o vrabcích a sově: „Jsme tak malí a slabí,“ přemýšlí nahlas jeden vrabčák. „Pomyslete, jak by byl náš život snadný, kdybychom měli sovu, která by nám pomáhala se stavbou hnízd!“ Hejno je nadšeno. „A mohla by se starat o naše seniory a mláďata,“ navrhuje další. Mrzout jménem Vrzličák sice protestuje, prosí, aby se vrabci nejprve zamysleli, jak sovu ochočit, ale nikdo ho neposlouchá. Hejno se rozletí do světa hledat soví vejce nebo rovnou mládě vhodné k adopci.

Tímto vyprávěním začíná svou knihu Superinteligence (vyšla nedávno i v Česku) filozof a matematik z Oxfordské univerzity Nick Bostrom. Ilustruje jím problém, který chápe jako zásadní. Lidé se vydali „hledat soví vejce“ – vytvářejí vyspělou umělou inteligenci, která by jim usnadnila život. Nemají však k dispozici dospělou „sovu“, na níž by mohli výsledné soužití testovat. Jinými slovy, vyvíjíme něco, s čím nemáme zkušenost a co se může vymknout kontrole.

Jako superinteligentní definuje Bostrom stroj, který ve všech důležitých oblastech výrazně předčí duševní schopnosti člověka. Očekává, že takový stroj vznikne ještě během tohoto století, a nedělá si o něm iluze. Může postrádat zábrany, jež brání lidem dělat rozhodnutí, která chápou jako „zlá“. A naopak si lze představit, že zpočátku bude předstírat přátelské chování, aby získal víc autonomie.

Superinteligence zároveň nemusí sídlit v jednom uměle vytvořeném mozku, jemuž se dá v případě krize vypnout přívod energie; může být rozptýlená v…