Strach z umělé inteligence byl dlouho zakořeněn v populární kultuře. Nejlepší mozky lidstva, od Stephena Hawkinga po Elona Muska, hovořily o existenciální hrozbě digitální mysli pro lidstvo.
Profesor na kalifornské univerzitě v Berkeley Stuart Russell o tom také mluví, ale ve své vizi budoucnosti neexistují zlí roboti, kteří se vzbouřují proti lidské nadvládě.
Podle Russella se stroje v určitém okamžiku stanou tak účinnými, že nás zničí a budou plnit úkoly, které jsme jim dali.
Russell je odborník na strojové učení a autor Human Compatible: AI a Problem of Control.
„Tradiční hollywoodský příběh spočívá v tom, že stroje se spontánně uvědomí a pak se rozhodnou, že nenávidí lidi a chtějí zabít každého,“poznamenává profesor Russell.
Podle jeho názoru je to však nesprávná vize robo-apokalypsy, protože stroje nemají lidské emoce.
"Musíme si dělat starosti nejen o sebevědomí zlých strojů, ale o kompetenci strojů, které plní úkoly, které jsme si stanovili," je vědec přesvědčen.
Propagační video:
„Příliš kompetentní“
V rozhovoru pro BBC Today profesor Russell popsal hypotetickou situaci, ve které by existence lidstva mohla být ohrožena umělou inteligencí.
Představte si, že existuje velmi silná umělá inteligence, která dokáže ovládat klima planety. Má za úkol přivést hladiny oxidu uhličitého v atmosféře zpět na předindustriální úrovně.
"Systém bude zvažovat, že nejúčinnějším způsobem, jak toho dosáhnout, je zničit lidi." Produkují oxid uhličitý, “říká profesor.
"Tomu lze zabránit, například tím, že se stane podmínkou, aby se lidí nezbavila." Co tedy systém udělá? Zajistí, aby se rodilo méně a méně dětí, dokud lidé úplně nezmizí. “
Toto je příklad toho, k čemu umělá inteligence může vést pod špatně koncipovanými lidskými pokyny.
Superintelligence
Systémy AI, které dnes existují, mají úzce cílené aplikace. Jsou navrženy tak, aby řešily jasně definované problémy v jedné oblasti, říkají vědci z Centra pro studium existujících rizik na Cambridge University.
Triumfálním okamžikem této filozofie AI bylo vítězství počítače Deep Blue nad panujícím mistrem světa v šachu Garrym Kasparovem v roce 1997.
* Vítězství Deep Blue nad Kasparovem v roce 1997 bylo triumfem AI.
Ale Deep Blue byla vytvořena výhradně pro šachovou hru. U dámy by prohrál s pátým srovnávačem.
Nedávný pokrok v umělé inteligenci nám přinesl velmi odlišné programy.
Například program AlphaGo Zero se naučil hrát Go sám, bez použití dat o minulých hrách hraných lidmi a za pouhé tři dny hraní sám o sobě dosáhl úrovně nedosažitelné pro obyčejného člověka.
K vytvoření AlphaGo Zero byly použity algoritmy pro hluboké učení. To znamená, že k vývoji programu bylo zapotřebí relativně málo lidské práce.
Současně AlphaGo Zero umí dobře hrát šachy i shogi.
Připomeňme, že program je zcela samoučící se. To může pro některé vyvolávat obavy.
"Jak se AI stane silnějším a všestrannějším, existuje riziko, že se stane inteligentním, to znamená, že v mnoha nebo všech oblastech překoná lidi," říká Centrum pro studium existujících rizik.
Nevíme, co chceme
Profesor Russell věří, že pouhé udělení AI velmi specifických úkolů není cestou ven, protože lidé sami nejsou schopni je formulovat dostatečně dobře.
"Neuvědomujeme si, že se nám něco nelíbí, dokud se to nestane," říká.
"Musíme změnit velmi základní přístup k tvorbě systémů AI," dodává profesor. Věří, že dát robotům úkol, který pak vykonávají, je v zásadě nesprávný.
„Systém musí pochopit, že cíl není jasný. on říká. - Když jsou takové systémy vytvořeny, opravdu záleží na osobě. Začnou žádat o povolení dříve, než něco udělají, protože si nejsou jisti, zda chcete. “
A co je nejdůležitější, profesor říká, že nebudou odolávat, pokud se rozhodnete je vypnout, protože jsou navrženy tak, aby nedělaly to, co se vám nelíbí.
Aladinova lampa
AI je dnes vytvořeno, jako by to bylo džin od lampy, říká profesor Russell. Třete si lampu a řeknete: „Chci, aby se to stalo.“
Ve hře Stanley Kubrick z roku 2001 * Space Odyssey * se superinteligentní počítač vzbouří proti lidem, kteří se rozhodnou jej vypnout.
A pokud je umělá inteligence dostatečně silná, udělá přesně to, o co požádáte.
"Problém s ginem spočívá v tom, že třetím přáním je vždy zrušit první dva, protože je osoba nesprávně formulovala."
„Stroj, který sleduje špatný cíl, se de facto stává nepřítelem lidstva a tento nepřítel je mnohem silnější než my,“uzavírá vědec.