Zásadní otázka zůstává: co by ve světě práva mělo zůstat nevyhnutelně lidské?

Český Ústavní soud letos řešil nezvyklý problém. Do Brna dorazila stížnost, která na první pohled působila přesvědčivě. Advokát v ní citoval řadu rozhodnutí Ústavního soudu i Evropského soudu pro lidská práva, aby podpořil argumentaci svého klienta ve sporu o povolení k pobytu. Když však soud začal jednotlivá rozhodnutí ověřovat, zjistil něco zvláštního: část z nich vůbec neexistovala. Nešlo o špatně napsané spisové značky ani o omyl při citaci. Rozhodnutí si jednoduše vymyslela umělá inteligence, kterou advokát při psaní stížnosti použil. Ústavní soud mu proto uložil pořádkovou pokutu 25 tisíc korun. Přitom dodal, že právníci mohou při své práci využívat různé technologické nástroje – odpovědnost za obsah podání však zůstává vždy na nich.

Popsaný případ je extrémní. Přesto dobře ukazuje, že umělá inteligence již proniká do běžné právnické práce. A otevírá otázku, která je možná důležitější než chyba jednoho advokáta. Co se stane, když se při hledání odpovědí na právní otázky začneme stále častěji obracet na umělou inteligenci?

Dvojí průnik

Právo a umělá inteligence se dnes setkávají dvěma různými způsoby.

Ten první je dobře známý: právo se snaží novou technologii regulovat. Diskutuje se o tom, kdo ponese odpovědnost za chyby algoritmů, jak chránit soukromí uživatelů nebo komu budou patřit autorská práva k textům a obrázkům vytvořeným umělou inteligencí. Otázkou je také, kam všude umělou inteligenci pustit – například zda ji používat při sledování lidí nebo při cílené reklamě.

Odpovědi na tyto otázky nejsou jednoduché. V určitém smyslu však nejde o nic nového. Podobné debaty se vedly již při nástupu sociálních sítí, genetických technologií či třeba v 19. století s příchodem železnice. Vždy šlo o hledání rovnováhy mezi riziky a přínosy nové technologie. Regulace umělé inteligence je tak sice důležitá, zároveň ale vlastně poměrně tradiční právnická agenda.

Druhý způsob, jak se právo s umělou inteligencí potkává, je méně nápadný, ale zřejmě mnohem zásadnější. Umělá inteligence se totiž postupně stává nástrojem, s jehož pomocí právníci i běžní lidé s právem pracují. Používá se při vyhledávání judikatury, analýze dokumentů či při přípravě právních podání. A právě tady může umělá inteligence přinést mnohem hlubší změnu.

Technologie dnes postupně proniká do široké škály činností, které právníci dělají. Advokáti například běžně používají AI nástroje pro rešerši judikatury. Ty dokážou během několika vteřin projít velké množství rozhodnutí, vytipovat relevantní případy a navrhnout, jak by je advokát mohl využít ve své argumentaci. Stejně tak AI umí rychle projít rozsáhlé soubory dokumentů, shrnout jejich obsah a upozornit na problematické pasáže, kterým by měl advokát věnovat pozornost. Právě analýza velkého množství dokumentů přitom často patřila k nejdražším částem právních služeb.

Podobně se umělá inteligence začíná objevovat také na soudech. Ministerstvo spravedlnosti sice zatím žádné rozsáhlé AI nástroje pro soudy nenasadilo, soudcům ale zpřístupnilo například systém Microsoft Copilot. Jeden soudce mi popisoval, že ho používá třeba k tomu, aby byla jeho rozhodnutí srozumitelnější: vloží do systému své odůvodnění a požádá AI, aby text přepsala tak, aby mu rozumělo i dvanáctileté dítě.

V zahraničí se experimentuje ještě odvážněji. AI se tam používá například při vyhodnocování rizika útěku obviněného nebo při rozhodování o přidělení určitých sociálních dávek.

Umělá inteligence v právu může ale pomáhat i běžným lidem. Ústavní soud například nedávno představil na svých webových stránkách vlastního AI chatbota, který dokáže odpovídat na základní otázky týkající se ústavního práva a vyhledávat relevantní rozhodnutí. Podobného chatbota jménem Justína provozuje i ministerstvo spravedlnosti. A mnoho lidí dnes používá nástroje jako ChatGPT k tomu, aby si nechali vysvětlit právní problém, připravili návrh smlouvy nebo se jenom dozvěděli, zda a jak mají vyplnit daňové přiznání.

Zapojování těchto nástrojů při práci s právem je lákavé právě proto, že slibuje zmírnit některé z nejčastěji zmiňovaných slabin právního systému: složitost, nákladnost, pomalost a obtížnou předvídatelnost. Umělá inteligence může lidem usnadnit orientaci v právu – a právníkům zároveň zrychlit a zlevnit část jejich práce.

Není proto překvapivé, že tlak na využívání těchto nástrojů rychle roste a v části právnické obce vyvolává velké nadšení. Tato očekávání by ale neměla zastínit skutečnost, že s jejich používáním jsou spojena také významná rizika.

Forma moci

V českém právním prostředí jsou s nástupem technologie patrné nejméně tři zásadní problémy.

První je poměrně prozaický a technický. Digitalizace české justice a veřejné správy zůstává v mnoha ohledech nedokončená. Systémy, se kterými dnes většina soudců a úředníků pracuje, často odpovídají technologickému stavu konce devadesátých let. Řada soudních spisů například stále existuje pouze v papírové podobě, používané informační systémy spolu často nekomunikují a rozhodnutí soudů se zveřejňují jen sporadicky a navíc způsobem, který je pro běžného uživatele obtížně přístupný.

Nepřipravený je v některých ohledech i právní rámec. Existující právní úprava například v řadě situací automatizované rozhodování ve veřejné správě vůbec nepředpokládá nebo ho přímo omezuje. Debata o umělé inteligenci tak někdy předbíhá, a svým způsobem i překrývá, mnohem základnější problém: samotnou digitální a právní infrastrukturu, na níž by tyto nástroje musely stát. Bez této infrastruktury umělá inteligence zřejmě zůstane jen nástrojem jednotlivců, nikoli impulzem k širší systémové změně.

Druhý problém souvisí s povahou samotných AI systémů, zejména velkých jazykových modelů. Ty dokážou velmi přesvědčivě generovat text, zároveň však ne vždy spolehlivě rozlišují mezi tím, co je skutečné a co nikoli. Případy „halucinujících“ podání, jako ten zmíněný v úvodu, proto nejsou jen kuriózním selháním jednotlivce, ale připomínkou technologických limitů těchto nástrojů. Problémem přitom nejsou jen zcela smyšlené rozsudky nebo zákony, ale i jemnější zkreslení toho, co rozhodnutí ve skutečnosti říkají.

S tím souvisí ještě jedna důležitá vlastnost těchto nástrojů: netransparentnost. Mnohé systémy umělé inteligence fungují jako takzvané černé skříňky. I pro odborníky je často obtížné přesně pochopit, jak systém dospěl k určitému doporučení nebo závěru. Pokud takové nástroje začnou hrát významnou roli při práci s právem, vzniká otázka, zda je vůbec možné jejich fungování dostatečně kontrolovat.

Poslední problém je možná ze všech nejzásadnější. Debata o umělé inteligenci v právu se často soustředí především na otázku přesnosti a efektivity těchto nástrojů, případně na ochranu práv konkrétního člověka. Takový pohled ale může přehlížet, že používání technologií v právu má i důležitý mocenský rozměr.

Přes všechny rozdíly mají technologie a právo jednu důležitou společnou vlastnost: obojí lze používat k řízení lidského chování a vykonávání moci. Právo to dělá pomocí pravidel, která určují, co je dovolené a co zakázané. Technologie však může fungovat podobně. Místo zákona může být určité pravidlo jednoduše zabudováno do systému. Pravidlo, že se nesmí propagovat nacismus, lze napsat do trestního zákoníku. Podobně ho ale lze zakódovat i do technologie tak, že systém takový obsah jednoduše nebude generovat.

Právě tato schopnost technologií nastavovat pravidla je pro úvahy o spojení práva a umělé inteligence klíčová. Pokud totiž používáme technologické nástroje při práci s právem, znamená to, že naše porozumění právu je stále více zprostředkováno systémem, který sám obsahuje určité volby a preference.

Představme si například zmíněného chatbota Ústavního soudu. Aby mohl odpovídat na otázky o judikatuře, musí nastavení systému činit řadu důležitých voleb. Jsou některá rozhodnutí důležitější než jiná? Mají být novější rozsudky upřednostněny před staršími, nebo naopak? Jak má systém zacházet s rozpory v rozhodování? Má rozhodovat počet citací, autorita konkrétního soudce, nebo třeba ideové směřovaní samotného rozhodnutí?

Žádná z těchto voleb není neutrální. Způsob, jakým je systém nastaven, tak může významně ovlivnit, jak lidé – včetně samotných právníků – právo vnímají, jaká rozhodnutí nacházejí a jak s nimi pracují. Technologie se tak postupně stává dalším faktorem, který se svým nastavením podílí na tom, jak právo interpretujeme a používáme.

Zásadním problémem přitom je, že tyto důležité volby v daných systémech zůstávají skryté. V případě chatbota Ústavní soud sice po kritice veřejnosti nástroj upravil a představil ho na svém webu, jeho přesné fungování ale pořád zůstává nejasné. To může být zčásti kvůli výše popsanému problému černé skříňky, zčásti to však může být i proto, že technologie byla vyvinuta externí firmou a její fungování může být chráněno smluvními podmínkami nebo obchodním tajemstvím.

Dostáváme se tak do situace, kdy se na utváření toho, jak lidé právo chápou a používají, podílí nový mocenský aktér – technologický systém –, aniž by bylo vždy zřejmé, jak přesně funguje a kdo za jeho nastavení nese odpovědnost. Tohle je problém, který vybočuje z tradiční představy o fungování práva v demokratickém státě. V lepším případě se do právního systému dostává prvek nejistoty, jemuž většina uživatelů nerozumí. V horším případě se část moci přesouvá k vývojářům technologických nástrojů a k firmám, které tyto systémy vytvářejí.

Neprůhledný technologický filtr určující, co je důležité a jaké informace se k nám dostanou, by nebyl zásadní problém, kdyby šlo o vyhledávání faktů nebo o návod, jak opravit pračku. Jenže právo je něco jiného. Je to systém veřejné moci, který může rozhodovat o majetku, právech a v krajním případě i o osobní svobodě. Jakmile technologie začne zprostředkovávat přístup k právu, její nastavení tím získává nevyhnutelně politický význam. Skrze ni se totiž utváří něco tak zásadního, jako je důvěra v justici, vnímání spravedlnosti jejího fungování a představa o tom, kde leží hranice právní ochrany.

Zrcadlo profese

I kdyby se všechny zmíněné problémy podařilo časem vyřešit, spojení umělé inteligence a práva otevírá ještě jednu, možná ještě zásadnější otázku: jaká je vlastně přidaná hodnota právníků?

Pokud budou právníci i neprávníci používat stejné nástroje k vyhledávání práva a práci s ním, v čem se jejich role liší? Proč by měl člověk v situaci, kdy AI dokáže během několika vteřin vytvořit fakticky správné a přesvědčivě napsané právní podání, vyhledat pomoc advokáta z masa a kostí? A proč by měl spory rozhodovat lidský soudce?

Odpověď na tyto otázky není jednoduchá a závisí na tom, co vlastně považujeme za podstatu práva. Pokud by totiž právo spočívalo především ve vnějším projevu právní práce – formálním jazyku, práci s texty a přesvědčivé argumentaci podložené citacemi –, mohou generativní nástroje působit jako srovnatelná, a přitom výrazně levnější alternativa k lidským službám.

Pokud je ale právo něčím víc, pak je potřeba říci čím. Je to schopnost chápat kontext, vážit různé hodnoty a nést odpovědnost za rozhodnutí? Je to umění podrobovat existující pravidla kritice a přicházet s novými argumenty a interpretacemi? Anebo spočívá síla práva především v tom, že o otázkách, co je důležité a jak jednotlivé zájmy sladit, vedeme otevřený spor – a že výsledná odpověď nikdy není jen technickým výpočtem?

Největší přínos umělé inteligence pro právo tak možná nespočívá v rychlejším vyhledávání judikatury ani v levnějších právních službách. Hlavní přínos AI může ležet jinde: nutí právníky znovu si položit starou otázku, co vlastně dělá právo právem – a co v něm musí zůstat nevyhnutelně lidské.

Ondřej Kadlec je vědeckým pracovníkem Ústavu pro otázky soudnictví na Masarykově univerzitě v Brně.

Jakub Harašta působí na téže univerzitě jako vědecký pracovník Ústavu práva a technologií.