Říkáme, že roboti porostou. To převezme svět, ovládne všechno. Tato varování jsme slyšeli po celá desetiletí a dnes, na začátku 21. století, počet těchto varování roste. Roste strach z umělé inteligence, která náš druh skončí.
Takové skripty jsou nejen v Hollywoodu, ale také stále více podporují vědecké a filozofické pole. Například Ray Kurzweil napsal, že exponenciální růst umělé inteligence povede k technologické jedinečnosti, bodu, kdy strojová inteligence překoná lidskou inteligenci. Někteří to vidí jako konec světa, jiní vidí jen příležitosti. Nick Bostrom si myslí, že superintelligence by nám pomohla vypořádat se s nemocí, chudobou a ničením životního prostředí a také se zlepšit.
V úterý se slavný vědec Stephen Hawking připojil k řadám proroků singularity, přesněji, k jejich pesimistické skupině, jak řekl BBC, že „vývoj plnohodnotné umělé inteligence může znamenat konec lidské rasy“. Věří, že lidé nebudou schopni soutěžit s umělou inteligencí, která bude schopna sama se přeprogramovat a dosáhnout úrovně mnohem lepší než člověk. Hawking se však také domnívá, že bychom se neměli vůbec snažit kontaktovat cizince, protože budou mít pouze jeden cíl: podmanit si nás nebo nás úplně zničit.
Problém s těmito scénáři není v tom, že se nevyhnutelně mýlí - kdo může předvídat budoucnost? - nebo nevěřící sci-fi skripty. Ten je nevyhnutelný, pokud chcete porozumět a vyhodnotit moderní technologie a jejich dopad na nás v budoucnosti. V takových scénářích je důležité položit na stůl naše filozofické otázky a prozkoumat naše obavy a zjistit, na čem je pro nás nejdůležitější.
Problém se zaměřením výhradně na umělou inteligenci v kontextu „doomsday“a dalších fatálních scénářů je v tom, že nás rozptyluje od jiných, naléhavějších a důležitých etických a sociálních otázek, které vyvstávají v souvislosti s technologickým vývojem v těchto oblastech. Existuje například místo pro soukromí ve světě informačních a komunikačních technologií? Jsou Google, Facebook a Apple ohrožující svobodu ve světě technologií? Vede další automatizace ke ztrátě pracovních míst? Mohou nové finanční technologie ohrozit globální ekonomiku? Jak mobilní zařízení ovlivňují životní prostředí? (K Hawkingově úvěru zmínil soukromí v rozhovorech, ale pak ještě mluvil o konci lidského věku.)
Tyto otázky jsou mnohem méně atraktivní než superinteligence nebo konec lidstva. Nevyvolávají ani otázky ohledně inteligence nebo robotů; jsou o tom, jaký druh společnosti potřebujeme a jak chceme vidět náš život.
Tyto otázky jsou starodávné, vynořily se ze samého vzhledu vědy a filozofie a díky rostoucím dnešním informačním technologiím, které mění náš svět, nás nutíme znovu o nich přemýšlet. Doufejme, že nejlepší lidské mysli naší doby zaměří většinu své energie spíše na nalezení odpovědí na správné otázky, než na demagogii kolem přehnaných hrozeb.
Ilya Khel
Propagační video: