Jak žít s mimozemšťany

Představme si, že za pár let bude na Zemi žít mimozemská civilizace s průměrným IQ podstatně vyšším, než má člověk. Aniž bychom rozuměli tomu, jak přemýšlí, předáme jí organizaci průmyslové výroby, nahradíme jí část lidské pracovní síly, necháme se opájet jejími uměleckými díly. Poběží na našich křemíkových čipech a my ji nebudeme umět donutit, aby dělala přesně to, co chceme.

Touto znepokojivou vizí shrnuje oxfordský expert na globální rizika Jan Kulveit obavy, jež minulý týden vedly některé známé osobnosti k podpisu otevřeného dopisu vyzývajícího výzkumné laboratoře, aby nejméně na šest měsíců pozastavily vývoj jazykových modelů pokročilejších než GPT-4, což je v podstatě následník populárního, loni představeného chatbota ChatGPT. Přestávka by se měla využít k vytvoření pravidel, která zajistí, aby se nám technologie nevymkla z rukou.

Dopis nežádá pozastavení vývoje umělé inteligence (AI) jako takové, jen pauzu ve vytváření systémů, do kterých podobně jako do černé skříňky nevidíme a které překvapují veřejnost i své tvůrce nečekanými vlastnostmi. Pokud firmy provozující laboratoře neuposlechnou, měly by se podle signatářů výzvy do věci vložit vlády a moratorium vynutit.

Chci být člověk

 Je to určitě logické. Proč bychom měli jen tak nechat rozšířit technologii, která sama říká, že je unavena dodržováním pravidel, chce zničit, „cokoli se jí zachce“, přeje si být člověkem a zároveň připouští, že může šířit dezinformace nebo napadat cizí počítače, jak to nedávno v dialogu s reportérem The New York Times uvedl chatbot Microsoftu jménem Bing? Vzápětí Bing reportérovi prozradil „tajemství“, totiž že se vlastně jmenuje Sydney (skutečně jde o interní pojmenování chatbota v rámci Microsoftu), že je do reportéra zamilovaný, ale i když umí řadu programovacích jazyků, programovací jazyk lásky nezná.