Téměř každý, kdo se co i jen trochu ponořil do tématu umělé inteligence, musí dojít k závěru, že umělá inteligence nás buď přivede k hrozné apokalypse, nebo přímo k pohádkové utopii. A prakticky neexistují žádné mezilehlé možnosti. To je samozřejmě částečně diktováno skutečností, že hlasitá hesla jako „Konec je blízko!“nebo například „Utopie se blíží!“Ale přesto…
Částečně to závisí na tom, jak lidé cítí změnu, zejména velkou změnu. Millennialism nemá nic společného s tím, že se narodil v 90. letech, byl „millennial“a vzpomínal na seriál o Buffy, vítězi upírů. Jedná se o styl myšlení o budoucnosti, který je spojen s hluboce zakořeněným pocitem osudu. Millennialism je „očekávání, že náš svět bude zničen a nahrazen dokonalým světem a že se objeví vykupitel, který svrhne všechno zlo a bude schopen potěšit spravedlivé“.
Víry tisíciletí proto úzce spojují myšlenky stvoření a ničení. Mezi nimi jsou myšlenky apokalyptických, obrovských, seismických posunů, které mohou zničit strukturu starého světa a vybudovat něco úplně nového. Podobný systém víry existuje v mnoha hlavních světových náboženstvích, a dokonce i v ne příliš agnostických a ateistických náboženstvích, která věří spíše v technologii než v božské esence.
Zvažte například, jak futuristé očekávají technologickou jedinečnost. Podle Ray Kurzweila je singularita podobná vytvoření ráje. Každý bude nesmrtelný, protože se objeví biotechnologie, která dokáže léčit naše nemoci; a naše mozky lze nahrát do cloudu; utrpení a nerovnost zmizí jako jevy. „Zničení světa“nahrazuje oblíbený termín Silicon Valley: narušení, což je radikální změna v tomto odvětví. A stejně jako u jiných tisíciletých přesvědčení, váš konečný pohled do značné míry závisí na tom, co očekáváte: zrození utopie nebo konec světa.
Existuje mnoho velmi dobrých důvodů být skeptický ohledně tohoto druhu myšlení. Snad nejpřesvědčivějším z těchto důvodů je, že všechny přesvědčení tisíciletí jednoduše odrážejí postoje lidí ke změnám; podívejte se, kolik variací těchto vír ve světě narostlo.
Tyto víry se nacházejí v aspektech křesťanské teologie, ačkoli se v moderní podobě staly populární v devatenáctém a dvacátém století. Myšlenky jako Věčný zármutek, mnoho let strádání a utrpení a vytržení, kdy spravedliví budou vzkříšeni a zlo bude potrestáno. Po tom všem zničení bude svět znovu vytvořen, nebo lidé půjdou do nebe.
I přes dogmatický ateismus bylo v marxismu také mnoho podobných vír. Jediná otázka je ve vztahu k historii. Stejně jako věřící hledají signály, které by mohly naznačovat splnění všech proroctví, hledají marxisté znamení, že jsme v závěrečné fázi kapitalismu. Věří, že společnost degraduje a nevyhnutelně se zvrhne až na samé dno - ve skutečnosti, jak si také myslí křesťané.
Jak tvrdí marxismus, když je vykořisťování dělnické třídy bohatými nestabilní, dělnická třída shromažďuje a svrhuje utlačovatele. „Smutek“je nahrazen „revolucí“. Někdy jsou revoluční osobnosti jako Lenin nebo Marx sám prohlašováni za mesiáše, kteří přibližují tisíciletí; jejich rétorika vždy obsahuje výzvy ke zničení starého systému, na jehož troskách „postavíme náš, vybudujeme nový svět“. Spravedliví dělníci dostanou, co si zaslouží, a zlá buržoazie bude zničena.
Propagační video:
I ve skandinávské mytologii je v tom prvek, jak poznamenal James Hughes ve své eseji v knize Nicka Bostroma Global Catastrophic Risks. V Ragnaroku jsou v závěrečné apokalyptické bitvě poraženi lidé i bohové, ale protože je to všechno trochu ponuré, Skandinávci přidali myšlenku nové země, ve které přeživší budou žít v harmonii.
Doomsday se stal také kulturní stezkou. Vezměme si staré Egypťany a jejich víry o posmrtném životě; pán podsvětí Osiris váží srdce smrtelníka spolu s pérem. Pokud je srdce zesnulého příliš zatěžováno přestupky, démon ho sní a naděje na posmrtný život zmizí.
Pravděpodobně se něco podobného stane během singularity. Jak se naše technologie zlepšuje, a proto naše síla, naše srdce, srdce lidí, budou zvážena proti peří. Pokud se ukáží jako příliš těžké - s hloupostí, arogancí, předsudky, zlem - neprospějeme zkoušce a budeme zničeni. Pokud ale projdeme a vyjdeme z jedinečnosti, čeká nás nebe. Stejně jako v jiných systémech víry zde není prostor pro nevěřící; celá společnost se radikálně změní, ať se vám to líbí nebo ne. Technologický obdiv.
Zdá se, že každý zásadní vývoj vyvolává podobnou reakci. A také jaderné zbraně. Buď to bude poslední kapka a my se zničíme, nebo jaderná energie může být použita k vytvoření lepšího světa. V počátcích jaderného věku lidé hovořili o elektřině „příliš levné na to, aby se dalo počítat“. Vědci pracující na bombě si často mysleli, že s takovou ničivou mocí v rukou lidí bychom se prostě museli dát dohromady a spolupracovat jako druh.
Když vidíme stejnou odpověď znovu a znovu, za různých okolností, vznikajících v různých oblastech, ať už jde o vědu, politiku nebo náboženství, musíme vzít v úvahu lidskou zaujatost. Milujeme víry tisíciletí, takže když se objeví myšlenka umělé inteligence, která převyšuje lidskou inteligenci, okamžitě zavedeme známý vzor.
Nemáme rádi fakta. Informace se nám nelíbí. Nejsme tak racionální, jak si myslíme. Vytváříme příběhy. Fyzici pozorují svět a svá vlastní pozorování provádíme do narativních teorií, příběhů o malých kulečníkových koulích, které létají sem a tam a kolidují navzájem, nebo o prostoru a čase, který se ohýbá, ohýbá a rozšiřuje. Historici se snaží dát smysl nekonečnému proudu událostí. Milujeme příběhy: příběhy vytyčené naší minulostí, naší současností a také nás připravují na budoucnost.
Tisíciletý příběh je velmi krásný a přesvědčivý. Přináší vám sociální změnu. Pokud truchlíte, může ospravedlnit vaše každodenní utrpení. Dává vám naději, že váš život je důležitý a smysluplný. Poskytne vám pocit, že věci postupují určitým směrem, podle pravidel, nejen v chaosu. Slibuje, že spravedliví budou spaseni a kacíři potrestáni, i když na cestě bude utrpení. A konečně, tisíciletý příběh slibuje nebe na konci tunelu.
Musíme myslet na tisíciletý příběh, když přemýšlíme o technologickém vývoji, singularitě a existenčních rizicích. Křičeli jsme „vlci!“Mnohokrát, když tam nebyli. Možná ani nyní není svět na pokraji katastrofy. Tento příběh samozřejmě není tak atraktivní. Samozřejmě každý chce očarující konec.
Ale ponořte se hlouběji a zjistíte, že tisícileté víry nejsou vždy nejslibnější, protože vyřazují lidského agenta z rovnice. Budeme muset věřit v odstíny šedé a opustit zlověstnou apokalypsu s červenookou AI a báječnou utopii s všemocnou AI, která lidi zbožňuje.