Dopisy

Možná nasadíme blade runnery

Respekt 23/2017

Není náhodou, že je v diskusi o nadlidské umělé inteligenci (AI) jen málo slyšet vědce, kteří se AI zabývají. Jejich pohled na věc není katastrofický ani hyperoptimistický, a tak to asi není tolik zajímavé. Hlavně debata o nadlidské AI odvrací pozornost od skutečných problémů, které jsou spojené s AI tak, jak ji dnes používáme.

Nejprve (zjednodušující) odbočka do historie: v padesátých a šedesátých letech se počítače naučily hrát dobře dámu nebo dokazovat matematická tvrzení. Základem bylo tzv. prohledávání a lidé věřili, že nadlidská AI je na dosah – stačí vše formulovat jako prohledávací problém. O následném vystřízlivění mluvíme teď jako o AI zimě. V osmdesátých letech byl svět nadšen z tzv. expertních systémů, věřilo se, že stačí do počítače přepsat znalosti jako logické formule a stroje brzy nahradí lékaře i manažery – první částečné úspěchy už byly přece vidět. O následném vystřízlivění mluvíme dnes jako o druhé AI zimě. Nyní jsme nadšeni z velkých dat a hlubokých neuronových sítí, které zatřásly se strojovým zpracováním obrazu, a zdá se, že naučí počítače řídit auta. A věříme, že stačí udělat naše sítě hlubší a sehnat více dat a vyřešíme všechny problémy. Každá vlna AI přinesla velké pokroky, ale ještě větší nesplněné sliby. Přijde brzy další zima? Nemusí to tak být.

Mojí asi největší výtkou k tématu „superinteligence“ je ale představa, že AI se nějakým způsobem vymkne fyzikálním zákonům. Zapomíná se, že kdykoli chci něco nového vytvořit (i kdyby to byl jen software), je zde malá složka nápadu a pak dlouhá doba experimentování a inženýrské práce. Vyléčit rakovinu nebo vytvořit robota nelze od stolu, je potřeba kultivovat buňky či testovat prototypy v jednoduchém prostředí. A to vše vyžaduje materiál, energii a čas. Více inteligence tento proces jistě urychlí, ale je absurdní si myslet, že se nějaká velká změna stane nepozorovaně přes noc nebo že lze zrychlovat donekonečna.

Hlavně si však stále více zvykáme na představu, že algoritmy jsou jakési magické bytosti, že mají svou hlavu a zodpovědnost. A to je nebezpečné – nejedna bezohledná firma se jistě těší, až před soudem bude moci prohlásit „to ne my, to algoritmus“. Maciej Cegłowski přirovnal strojové učení k „praní špinavé morálky“ – algoritmy, které tvoříme, a data, která jim předkládáme, jsou zatíženy předsudky programátorů a tvůrců, sběračů a zpracovatelů dat. Ale když dá odpověď počítač, působí to jako objektivní, nestranný názor. „My nediskriminujeme ženy, ale náš algoritmus nám nedoporučil vás přijmout.“ Nehledě na to, že současné metody AI jsou často neprůhledné – nelze z nich zjistit, proč se algoritmus rozhodl tak, jak se rozhodl. Stejně jako architekt musí umět vysvětlit, proč jím navržený most bude stát, a přijmout zodpovědnost, když se zhroutí, musí tvůrci AI umět obhájit rozhodnutí svých algoritmů a přijmout zodpovědnost za jejich chyby.

Vedle odpovědnosti za algoritmy či změn na trhu práce, jež AI způsobí, patří k aktuálním otázkám i užití AI ve válce, hledání způsobů interakce lidí a algoritmů nebo hledání jazyka, kterým lze AI algoritmy vysvětlovat veřejnosti. Při hledání odpovědí se určitě něco dozvíme též o inteligenci jako takové a filozofická debata o nadlidské AI bude mít pevnější základy.

Martin Černý

Pohádka o Stalinově uchu

Respekt 24/2017

Film Monstrum se nemusí líbit každému. Nicméně, protože dobu pamatuji, Stalinův pomník mě provázel vlastně celým dětstvím a v době jeho boření mi bylo třináct, rád bych proti argumentům J. H.Vitvara uvedl, že po celou dobu jsem slýchal doma od otce (ročník 1914) říkat: „Zavři ty hovadiny, nebo tím načichnem“, „Uvidíš, do roka to prdne“, slýchal jsem také o ku*vách, které popravují ženy a básníky, sám jsem slovo ku*va používal, a dokonce své vrstevníky oslovoval přízviskem: „vole“, i když jsme častěji užívali poněkud mužnější výraz: „Ty bejku lysej.“

Film mi nepřipadl jako agitka, naopak, připomněl mi autenticky mé dětství, které jsem prožíval jako střet jasného dobra s jasným zlem, které se přes nesouhlas (zbaběle skrývaný) většiny drželo ještě dlouho potom u moci. Ostatně ne poprvé a ne naposledy v našich dějinách.

Zdeněk Bárta, farář