Tmavovlasý moderátor s perfektním účesem a v padnoucím saku vypadá jako každý druhý hlasatel televizních zpráv. Na krátkém videu nakonec dělá přesně to – upozorňuje na ostudně nedostatečnou regulaci zbraní v USA. Je na něm ovšem cosi zvláštního, a nejde jen o to, že je pohledný jaksi uměle. Navíc ještě nepřirozeně pohybuje hlavou a ústy. A dojem, že zde cosi nesedí, je správný. „Alex“ není reálný, jde o avatar vytvořený softwarem, který pohání umělá inteligence. Video se do světa rozšířilo pomocí falešných účtů na Facebooku a Twitteru. A protože šlo o účty podporující oficiální politiku Číny, experti analytické společnosti Graphika, kteří si neživotného Alexe a dalšího videa s jeho podobně umělou kolegyní všimli, z toho usuzují, že jde o kampaň s cílem podpořit čínskou komunistickou stranu a oslabit pozici USA.
Jde o další příklad, kdy byl tzv. deepfake, jak se říká vyfabrikovaným fotografiím nebo videím, použit pro šíření dezinformací. Loni třeba kolovalo po sítích zmanipulované video, na němž ukrajinský prezident Volodymyr Zelenskyj oznamuje kapitulaci země. S rostoucí úrovní technologie a nulovou zákonnou regulací už dlouho probublávají obavy, že deepfake dále zvýší dopad a šíření hoaxů a dezinformací. „Tyto předpovědi se nyní staly skutečností,“ píše americký deník The New York Times. Ačkoli je u pročínských videí zjevné, že jsou falešná, otevírá se podle NYT nová kapitola informační války. Jak řekl deníku viceprezident zmiňované firmy Graphika Jack Stubbs, technologie je dnes už na takové úrovni, že podobná videa lze za pomoci volně dostupného softwaru vyrobit v řádu minut.
Graphika zjistila, že videa, o kterých je zde řeč, byla vyrobena pomocí technologie z dílny pět let existujícího start-upu se sídlem v Londýně. Software je volně dostupný, stačí zaplatit, zadat scénář – a video je na světě. Služby Synthesie zatím využívaly hlavně firmy k výrobě neškodných instruktážních či vzdělávacích videí. A firma tvrdí, že stvořitelé „Alexe“ porušili obchodní podmínky, které stanovují, že videa nemají sloužit k výrobě politického nebo sexuálního obsahu.
Pokud jste v článku našli chybu, napište nám prosím na [email protected].
