Na internetu žijeme každý ve vlastním světě

S novým technickým ředitelem antivirové společnosti Avast Michalem Pěchoučkem o vlivu umělé inteligence na náš každodenní život, o svobodě rozhodování a o tom, proč lidstvo v budoucnu neovládnou všehoschopní roboti.

První, co se člověk o umělé inteligenci dočte, je, že nemá jednu ustálenou definici. Co je tedy umělá inteligence podle vás?

Když jsem před dvaceti lety studoval umělou inteligenci, jednalo se o jasně vymezený obor, který měl svou vědeckou komunitu, měl svoje výukové programy na univerzitách a bylo to tehdy poměrně konkrétní. Dnes je ale umělá inteligence jednak vědní disciplína, jednak soubor technologií a poté ohromná škála aplikací. Zmíněná vědní disciplína se ve zkratce zabývá tím, jak se dá automatizovat lidské uvažování a rozhodování. V minulosti to bylo napodobování lidské inteligence, dnes je už mnohem zajímavější překonávání lidské inteligence. A to překonávání je ve třech dimenzích. Zaprvé v přesnosti. Zadruhé ve schopnosti zpracovávat výrazně větší množství informací, kdy je například člověk schopen prohlédnout si pouze omezené množství fotek, nicméně počítač jich za stejnou dobu projde milionkrát více. A třetí dimenzí je rychlost. Podle mě je dnes tedy umělá inteligence schopnost replikovat a také zlepšovat lidské uvažování – nicméně vždy v ní jde pouze o jeden aspekt tohoto uvažování. Auto se sice umí samo skvěle řídit pomocí algoritmů, ale „jeho“ inteligence už nezvládne těžké mentální činnosti, jako je třeba nákup a prodej dluhopisů. Slýcháme sice příběhy o vzpouře robotů, kteří budou vypadat jako lidé a budou mnohonásobně výkonnější, mluví se o vzniku všeobjímající – neboli obecné – umělé inteligence, která dokáže úplně replikovat člověka, ale dojít k ní není lehké. Lidskou dovednost propojovat, nacházet analogie a kombinovat nabyté schopnosti stroje nemají.

Už dříve jste říkal, že si „nedovedete představit dobu, kdy si umělá inteligence uvědomí sama sebe. Jádro umělé inteligence není nic jiného než výpočty, je to super nekreativní materiál.“ Takže apokalyptické scénáře o nadvládě robotů jsou jen sci-fi a nepochopení umělé inteligence?

Je to spíše jiný úhel pohledu. Neexistuje žádný průkazný argument, který by nám zaručil, že se v budoucnu umělá inteligence nemůže stát obecnou nebo že si umělá inteligence nikdy neuvědomí sama sebe nebo že nikdy nebude kreativní jako člověk. A že takový argument není, je do jisté míry způsobeno varováním Elona Muska nebo profesora Stephena Hawkinga, podle kterých nás tady jednou umělá inteligence všechny sežere. Musk a další vizionáři v Silicon Valley, kteří se dlouhodobě bojí umělé inteligence, založili kvůli tomu firmu OpenAI, která se snaží o to, aby se vývoj obecné umělé inteligence publikoval a byl dostupný veřejnosti. Vědci z OpenAI se dnes domnívají, že pro to, abychom dokázali sestavit obecnou umělou inteligenci, potřebujeme mít výpočetní kapacitu a rychlost, jakou má lidský mozek. Takže Musk a spol. vzali investici v řádu jedné miliardy dolarů od Microsoftu a za tyhle peníze staví datové centrum, které má mít parametry lidského mozku. Chtějí tím dokázat, že zrealizovat obecnou umělou inteligenci jde rychle – a že bychom se toho měli bát.

Vy se toho očividně nebojíte. Ale není naivní myslet si, že se umělá inteligence tímto směrem v budoucnu neposune? Sám jste popisoval, že když jste v devadesátých letech studoval umělou inteligenci v Edinburghu, na první přednášce vám řekli, že umělá inteligence nikdy nebude umět řídit auto. A dnes mají auta bez řidiče povolení jezdit po Berlíně.

Rozdíl mezi vývojem obecné umělé inteligence a autonomními auty je ten, že autonomní auto je tady proto, že to je hrozně užitečná věc, protože ji chceme a potřebujeme, usnadňuje nám život. Ale obecnou umělou inteligenci lidstvo vlastně zas až tak nepotřebuje. Proto si myslím, že umělá inteligence a její rozvoj má šanci tam, kde si na sebe vydělá. A dnes sektorová umělá inteligence –  tedy ta, která je koncentrovaná jen na jeden úkol právě jako samořídící auta – nabízí výrazně lepší návratnost investice. Já si myslím, že bychom se místo na boj s obecnou umělou inteligencí měli spíše zaměřit na to, jak ta sektorová umělá inteligence ovlivňuje a proměňuje, někdy i negativně, naše životy už nyní.

Jak nám tedy umělá inteligence proměňuje život?

Vidím dvě hrozby. Zaprvé nás omezuje ve svobodě rozhodování. Rozhodujeme se méně svobodně, protože umělá inteligence za nás už nějaké rozhodování dělá sama. Kvůli nastaveným algoritmům v on-line prostředí internetu už nejsme tak často, nebo i vůbec konfrontováni se zkušenostmi a názory lidí z jiných sociálních vrstev, díky čemuž jsme si v minulosti třeba tříbili svůj pohled na svět. Umělá inteligence nám v podstatě dává informace, které chceme slyšet, které nás zajímají, které konvenují našemu přesvědčení. A zároveň nás odsouvá od schopnosti obhajovat si svoje pozice a porovnávat je s ostatními. Druhá sada hrozeb souvisí s tím, že umělá inteligence je určitým druhem zbraně dnešního světa, se kterou můžete napadat nejen zabezpečení jiných firem, ale i států či společenství.