Vědí vůbec, co dělají?

„Do sídla OpenAI jsem se vydal pochopit technologii, jež firmě umožnila přeskočit technologické giganty – a abych porozuměl tomu, co může pro lidskou civilizaci znamenat, pokud se na cloudovém serveru nějaké firmy v dohledné době zhmotní superinteligence,“ píše ve svém textu v nejnovějším vydání amerického časopisu The Atlantic novinář Ross Andersen. Ten během přípravy ke svému rozsáhlému textu hovořil se špičkovými vědci a manažery nejdůležitější firmy na poli rozvoje umělé inteligence – OpenAI. První část článku jsme přinesli v minulém vydání Respektu25 minVědí vůbec, co dělají?, druhou, rozsáhlejší porci, nabízíme na následujících stránkách.

Významná část důležitých světových ekonomik hodlá nejmodernější umělé inteligence regulovat. To je dobře, jejich vlastní tvůrci nám ostatně často připomínají, že největší modely mají tendenci disponovat na konci přípravného procesu nečekanými vlastnostmi vynořit se z přípravného procesu s neočekávanými schopnostmi. Vedoucí výzkumu firmy OpenAI Ilya Sutskever byl podle vlastních vzpomínek překvapen tím, že GPT-2 umí překládat mezi jazyky. Jiné nečekané schopnosti už ale nemusejí být tak úžasné ani užitečné.

Analytička OpenAI Sandhini Agarwal mi prozradila, že spolu se svým týmem nemá příliš jasnou představu, s čím se bude muset vypořádat, protože model GPT-4 může být podle jejich odhadu až „desetkrát výkonnější“ než jeho předchůdce. Po dokončení výcviku firma sestavila přibližně padesát zvláštních týmů, jejichž úkolem byla snaha stroj v průběhu několika měsíců vyprovokovat k nějakému závadnému chování. Agarwal si rychle všimla, že GPT-4 nad svým předchůdcem vyniká schopností radit i v oblastech, jež jsou na pováženou. I běžný vyhledávač vám prozradí, jaké chemikálie jsou nejvhodnější pro výrobu výbušnin, GPT-4 ovšem také krok za krokem poradil, jak je správně syntetizovat v podomácku zařízené laboratoři. Jeho rady byly kreativní a promyšlené a stroj svoji instruktáž spokojeně upřesňoval až do chvíle, než jí uživatel skutečně dobře porozuměl. Kromě pomoci s výrobou domácí bomby pak ještě například pomohl promyslet, ve kterém mrakodrapu by ji bylo nejlepší odpálit. Stroj dokázal také intuitivně pochopit vztah mezi maximálním počtem obětí a šancí pachatele uprchnout z místa činu.