![Věra Jourová na AI Safety Summitu. • Autor: REUTERS](https://i.respekt.cz/data.eu.cntmbr.com/respekt-prod/respekt-prod/8fdf1502-db30-4b48-8f64-848a8b123eea.jpeg?width=3840)
„Kdy jsem to sakra řekl?“ ptal se americký prezident Joe Biden nedávno svých spolupracovníků – poté, co mu pustili zvukový záznam jeho hlasu pronášejícího slova, která si nepamatoval. Neřekl je nikdy; šlo o další tzv. deepfake, audio vytvořené umělou inteligencí. Předminulé pondělí Biden podepsal exekutivní příkaz, který je výsledkem více než roční práce několika amerických ministerstev a který by měl – mimo jiné – podobné neoznačené podvrhy postavit mimo zákon.
Obavami z umělé inteligence (AI) byli vedeni také pořadatelé dvoudenní bezpečnostní konference, která se minulý týden konala v Bletchley Parku v Británii, venkovském sídle, kde byl za druhé světové války rozluštěn německý kód Enigma. Výsledkem je deklarace vyzývající ke sledování rizik spojených s rozvojem chytrých počítačových systémů, kterou podepsalo 28 zemí včetně Spojených států a Číny a také Evropská unie (ta navíc dokončuje vlastní zákon o umělé inteligenci). Podle zastánců regulace AI jsou to všechno důležité snahy, které pomohou udržet na uzdě, případně postavit mimo zákon přinejmenším již existující systémy, jako jsou právě generátory „deepfake“.
Kam dospěly snahy o regulaci, lze nejlépe vysvětlit na připravovaném evropském zákoně, jenž by měl být dle plánu definitivně přijat do konce tohoto roku. Potenciálně nebezpečnou umělou inteligenci rozděluje do tří skupin podle rizikovosti. Do té nejhorší, kterou se chystá úplně zakázat, patří například systémy, které mohou na sociálních sítích doporučovat sebevraždu a další způsoby sebepoškozování, algoritmy, které by umožňovaly vládám dohled nad svými občany na způsob čínského systému „sociálního kreditu“, nebo manipulativní „deepfake“ videa. Dalším příkladem je všudypřítomný kamerový dozor spojený s rozpoznáváním tváří, který by měl zákon povolovat jen v jasně definovaných situacích, třeba v případě nebezpečí teroristického útoku.
Předplaťte si Respekt a nepřicházejte o cenné informace.
Online přístup ke všem článkům a archivu