Od červa k člověku

Nic podobného jsem nikdy předtím neviděl. Když jsem vstoupil do budovy a spatřil tuhle atrakci, okamžitě jsem si představil, co se může stát,“ vypráví na pódiu americký počítačový výzkumník Dileep George a za všeobecného smíchu publika promítá snímek paternosteru, výtahu s mnoha kabinami v setrvalém pohybu. „Podaří se mi do něj naskočit? Nesemele mě? A když zapomenu nahoře vystoupit, zaveze mě do strojovny?“ uvažuje vědec nad prastarým zařízením v budově Fakulty strojní ČVUT v Praze, která koncem srpna hostila mezinárodní konferenci o umělé inteligenci – konkrétně o tom, kdy a zda vůbec vznikne stroj, jehož duševní schopnosti se přiblíží lidským.

Jako každý jiný člověk si George při pohledu na výtah okamžitě vytvořil vnitřní model své budoucí cesty do vyšších pater a všech rizik s ní spojených. A právě tohle současná umělá inteligence neumí – nepochopí situaci, pro jejíž řešení nebyla vytvořena, nenahlédne všechny souvislosti. Připomíná evolučně starý mozek, například mozek ropuchy, která stále dokola útočí na lezoucí hmyz, pokud jí ho promítneme na obrazovce: opakovaně naráží na sklo a nikdy si neuvědomí, že je to jen chiméra. Nový mozek, jímž disponují mořští savci nebo primáti včetně člověka, se vyvinul nad strukturami toho starého a je všestranný – poradí si i s neznámou situací či problémem.

Jak jej napodobit „ex machina“, ve stroji, není vůbec jasné. Současné chytré programy a roboti jsou co do „duševní vyspělosti“ maximálně na úrovni hmyzu nebo červů. A pražská konference Human-Level AI 2018 (Umělá inteligence na úrovni člověka 2018) pořádaná firmou GoodAI ukázala, že stále ještě netušíme, jak tohle evoluční stadium překonat. Málokterý objev by přitom proměnil svět tak jako vznik toho, co experti označují zkratkou AGI (Artificial General Intelligence, obecná umělá inteligence).

Loutky a papoušci

Tomáš Mikolov, mladý český vědec, který pracuje v New Yorku pro Facebook, vypočítává nápady, které se jevily jako slibná cesta, ale zatím k „novému mozku“ nevedly – například různé metody strojového učení nebo umělé neuronové sítě, softwarové modely naprogramované v počítači tak, aby do jisté míry napodobovaly architekturu lidského mozku, v němž se spojení mezi jednotlivými neurony posilují na základě zkušenosti a nových informací. Zkrátka nic, co v oboru vzniklo v posledních dvaceti letech, nás podle Mikolova zatím k AGI výrazně neposouvá.

„To, co je veřejnosti prezentováno jako převratné objevy, jsou spíše magické triky, systém často jen opakuje, co zadali lidští programátoři. Jsou to loutky a papoušci,“ říká vědec a jako příklad uvádí mobilní asistentku Siri nebo známou „inteligentní“ robotku Sophii, která kromě jednoduché konverzace s člověkem zvládne třeba výuku meditace.

Umělé neuronové sítě a strojové učení hrají velkou roli v přepisu mluvené řeči, strojovém překladu, porozumění obrazu nebo třeba výběru zboží a dalších produktů pro konkrétního zákazníka. Výzkumníci se jim teď snaží dát do vínku zmíněnou všestrannost – vyvíjejí například systémy, které se samy naučí hrát různé počítačové hry, aniž by jim někdo vysvětlil pravidla. Jedním ze šampionů se před třemi lety stal systém nazývaný Deep Q-Network od firmy DeepMind, jež se před několika lety stala součástí impéria Google.

Tenhle křemíkový „gambler“ exceluje ve hrách pro staré počítače Atari, řadu jich zvládá lépe než člověk. Naučil se je sám, na základě povědomí o tom, jak si momentálně ve hře vede, doplněného jen vizuální informací z obrazovky, na níž shůry padají primitivní stylizovaní mimozemšťané nebo se střelbou likviduje vícevrstevná bariéra. Za úspěchy vděčí takzvanému posilovanému učení: podobně jako je lidský mozek odměňován dopaminem, chápal „mozek“ umělého hráče jako odměnu zvyšující se počet bodů ve hře nebo to, že se v ní dokázal déle udržet.

Podobně zajímavě znějí úspěchy umělého šampiona hry go od téže firmy, s nímž se žádný člověk nemůže měřit a který svého mistrovství dosáhl mimo jiné tím, že sehrál miliony partií sám se sebou. Pořád však hovoříme o úzce zaměřených systémech, které po tréninkové fázi zvládají v podstatě jen úkol, pro nějž byly vytvořeny – v nejlepším případě dovedou hrát několik desítek různých her v podobném prostředí. Skutečný „nový mozek“ by měl být nejen mnohem všestrannější, ale měl by se také učit pořád, celý „život“. Zkoumat svoje okolí často bez odměňování a dozoru, prostě ze zvědavosti.

Pátrání po tom, jak k němu dospět, nemíří jasně vytyčeným směrem. Japonský neurovědec a počítačový expert Ryota Kanai ukazuje na obrazovce počítače simulaci, ze které trochu mrazí – velké vypoulené oko na stěně sleduje člověka v místnosti a snaží se uhodnout jeho příští pohyb. „To oko má v sobě jistou zvědavost. Chce vědět, co člověk dělá,“ vysvětluje Kanai, zakladatel a šéf firmy Araya, jejímž cílem není nic menšího než vytvořit počítač disponující vědomím. V příští fázi výzkumu chtějí vědci přidat další postavy a testovat, jestli jejich příchod vzbudí pozornost oka. Jestli je bude sledovat; jestli počítačový agent, který pohyby oka řídí, projeví úmysl svědčící o možném zárodku vědomí.

I cesta může být cíl

Časem díky podobným pokusům může vzniknout něco fundamentálně nového, systém, který se bude učit rozumět světu podobně jako člověk. Když „odroste dětskému věku“ a uvidí paternoster nebo třeba nezvyklé vozítko segway, s nimiž se nikdy předtím nesetkal, po pár vteřinách pozorování pochopí, o co jde. Třeba že obojí slouží k dopravě osob, ale segway se víc podobá kolu, zatímco paternoster klasickému výtahu – a že z jízdy v obou případech pramení jistá rizika. V jakém okamžiku jej přestaneme nazývat chytrým softwarem a začneme mluvit o počítačové bytosti, není zatím jasné.

Podle amerického počítačového vědce Kennetha Stanleye, který kromě akademické sféry pracuje pro společnost Uber AI, se ovšem „nový mozek“ stěží zrodí bez radikální změny přístupu. Jediný hybatel, jenž vytvořil inteligenci na úrovni lidské, je evoluce, často divergentní síla, která zřejmě nemá žádný jasně stanovený cíl, jen slepě podporuje nové životaschopné mutace, nové „nápady“. Naopak prakticky všechny současné přístupy ve vývoji umělé inteligence k nějakému cíli směřují, tvůrci mají už na začátku vývoje před očima, co by budoucí systém měl umět, a právě to jim podle Stanleye brání v úspěchu.

„Způsob, jak objevit nové věci, je nehledat je,“ míní Stanley a ukazuje příklad, který s kolegy vytvořil. Promítá dvojici jednoduchých kráčejících panáčků, z nichž každý představuje umělou inteligenci v simulovaném prostředí počítače, jež měla obecné zadání stát se co nejlepším chodcem. Obratnější z panáčků při tom kromě snahy ujít co největší vzdálenost preferoval při tréninku i „novost“, způsob chůze, který se dostatečně lišil od všech předešlých, a ten pak dál piloval. Důležité tak pro něj byly také selhání a pády, které by jeho kolega zavrhl jako zbytečné. I díky nim objevil neočekávanou věc, totiž to, jak důležitý je při chůzi kolébavý pohyb pánve a trupu. Podle Stanleye nicméně tyto přístupy stále představují jen „škrábance na povrchu ledovce tajemství“ divergentní evoluce. Do jeho nitra jsme zatím nedokázali proniknout.

Jiní účastníci konference tak radikální nebyli: k vytvoření „nového mozku“ podle nich stačí i dosavadní cesty, rozvíjení umělých neuronových sítí a zdokonalování strojového učení. „Pojďme pomalu zlepšovat, co už máme,“ radí Pavel Kordík z Fakulty informačních technologií pražského ČVUT. Stejně jako mnoho dalších výzkumníků Kordík pracuje na takzvaném metaučení, tedy schopnosti stroje „učit se, jak se učit“.

Umělou inteligenci vytrénovanou třeba k tomu, aby doporučovala návštěvníkům zpravodajského webu články podle jejich vkusu, nelze použít k ničemu jinému – třeba ji nasadit na e-shop, kde by zasvěceně pomáhala s výběrem oblečení. „K tomu potřebujeme právě metaučení,“ vysvětluje Kordík, který spoluzaložil několik soukromých firmem, jež tyto postupy uvádějí do praxe. Systém s metaučením je vlastně „umělá inteligence na druhou“: její nižší vrstva se stará například právě o doporučování podle vkusu zákazníka, dohlíží na ni ovšem vrstva vyšší, jakýsi bdělý počítačový kritik a učitel, který ji udržuje, vylepšuje a modifikuje, když se změní podmínky. Může pak obsluhovat tisíce různých „doporučovacích“ scénářů současně.

Zároveň Kordík odhaluje nečekaná omezení pro další pokrok. Představme si, že máme obrázek, který nakreslila umělá neuronová síť, a snažíme se tuto síť znovu objevit, rekonstruovat. Je to zdánlivě jednoduchý úkol, můžeme totiž vytvářenou síť podle toho, s jakou odchylkou požadovaný obrázek kreslí, postupně optimalizovat – přidávat neurony a upravovat sílu jejich propojení. Ani nejnovější algoritmy takzvané neuroevoluce však úkol často nezvládnou. V krajině možných řešení jsou totiž takzvaná lokální minima, jakési svůdné pasti, ve kterých pátrání uvázne a nemůže už přes okolní „hory“ dospět do nejhlubšího údolí, kde leží skutečný výsledek – neuronová síť vyladěná tak, aby obrázek nakreslila s nulovou odchylkou. „Optimalizační techniky jsou v podstatě stejné jako v osmdesátých letech. Potřebujeme pár nových nápadů, jak je vylepšit, jak učit umělou inteligenci tato lokální minima lépe překonávat,“ vysvětluje Kordík.

Raději sebevraždu

Investice do výzkumu umělé inteligence rostou exponenciálně a cesty k „novému mozku“ hledají tisíce vědců. Podle nejoptimističtějších odhadů tak již v příští dekádě mohou vzniknout stroje, které nebude nutné programovat, vše potřebné se naučí samy. „Nebudete už potřebovat lidi, kteří navrhují auta nebo šaty. Třeba v ocelářství to může zasáhnout celý výrobní proces: stroje vytěží rudu a převezou ji do slévárny, kde ji další stroje zpracují,“ líčí kanadský lékař a počítačový vědec Howard Schneider možnou budoucnost, která by vedla k dramatickým změnám na pracovním trhu.

Kdy se na této cestě objeví první skutečný „nový mozek“, nevíme. Každopádně to ale může to být mozek značně odlišný od lidského. „Naše myšlenky, vzory chování jsou výsledkem miliard let evoluce. Instinkty typu ,uteč, nebo bojuj‘ dědíme už od plazů. Umělá inteligence postavená na matematických modelech se může chovat úplně jinak, připomínat život na jiné planetě,“ upozorňuje Tomáš Mikolov, který přes své mládí prošel již několika nejprestižnějšími pracovišti světa. S inteligentním strojem pak může být obtížné se vůbec dorozumět, podobně jako nejsme schopni pochopit zpěv ptáků.

Taková perspektiva samozřejmě vyvolává obavy. „Co mám udělat, když vytvořím obecnou umělou inteligenci, která bude nenapravitelně zlá?“ ptal se během konference jeden z účastníků a jeho dotaz vyvolal smršť nepříliš vážně míněných odpovědí od „okamžitě ji od vás koupím“ (investor ze Silicon Valley) až po „ihned spáchejte sebevraždu“. Přes žertovný tón však z diskuse vyplynulo, že podobně jako v jiných oborech neexistují žádná mezinárodně přijímaná pravidla, jak s rizikovým výzkumem naložit.

Podle zmíněného Kanaie spočívá ovšem problém spíše v něčem jiném – v tom, že velké internetové firmy jako Google nebo Facebook by byly díky objevu obecné umělé inteligence ještě mnohem silnější. Umělá inteligence totiž znamená efektivitu a efektivita se snadno proměňuje na peníze a moc. Také čínská vláda velmi touží stát se v oboru lídrem. „Hrozí, že pole ovládne malý počet firem a organizací, a vzroste proto nerovnost ve společnosti,“ varuje japonský vědec. Řešení vidí v pěstování kultury globální spolupráce a sdílení poznatků, ve vytváření atmosféry, v níž přinejmenším bude obtížné utajit, že se někdo blíží k cíli.

Existuje však i opačný pohled. Do životního prostředí se dostává řada stále složitějších chemikálií, ohrožují nás klimatické a jiné environmentální změny. Nedokážeme dostatečně přesně předpovědět, co se stane za dvacet či třicet let, neumíme přijímat rozhodnutí, jejichž důsledky se projeví až ve vzdálenější budoucnosti. Díky chytrým strojům bychom se my mohli stát chytřejšími, mohli bychom s nimi žít v jakémsi symbiotickém vztahu, myslí si Tomáš Mikolov, a svoji přednášku proto uzavírá slovy: „Co když hlavní riziko pro lidstvo spočívá v tom, že obecnou umělou inteligenci nevytvoří?“