Hloupí jako lidé

Přiznávám, že mnou málokdy něco tak zatřáslo jako rozsáhlý text měsíčníku The Atlantic o nástupu obecné umělé inteligence, jehož druhou (závěrečnou) část otiskujeme v tomto čísle. Text nabízí pozoruhodný vhled do přemýšlení lidí, kteří mají podle vlastního přesvědčení v rukou zásadní proměnu lidské civilizace. Na planetu Zemi přichází úplně nová inteligence, jež na rozdíl od lidské není zanořena v biologickém organismu a nevyvinula se plynule v hlubinách věků. V prvním díle používá šéf OpenAI, nejdůležitější firmy, jež umělou inteligenci vyvíjí, k jejímu popisu adjektivum alien. Tedy zásadně cizí, mimozemská.

Otázkou je, zda technologům ze Silicon Valley jejich přesvědčení o nástupu umělé superinteligence vůbec věřit. Od podzimu si sice všichni můžeme hrát (mimo jiné) s velkým jazykovým modelem nabízeným pod názvem ChatGPT, který se na první pohled chová skutečně zázračně. Zároveň je ale jasné, že to zatím žádná superinteligence není. A třeba ani nikdy nebude, i když vývoj jde vpřed mílovými kroky.

Americká autorka Meghan O’Gieblyn ve své knize God, Human, Animal, Machine (Bůh, člověk, zvíře, stroj) upozorňuje, že lidstvo dodnes nepochopilo, co je podstatou jeho vlastního rozumu, inteligence nebo, chcete-li, duše. Nevíme, jak vlastně myslíme, a zároveň se pokoušíme vymyslet stroj, který bude přemýšlet ještě lépe než my. O’Gieblyn upozorňuje, že právě proto si pro popis fungování lidské mysli obvykle pomáháme metaforou, přičemž tou nejmodernější je představa, že mozek je sám jakýsi superpočítač. Problém je v tom, že časem metafoře skutečně uvěříme a začneme ji brát smrtelně vážně. Jinými slovy, je možné, že se snažíme vybudovat „něco“, co ve skutečnosti funguje úplně jinak, než předpokládáme – a my nevíme jak. Co takovým způsobem stvoříme, je ve hvězdách.