Téměř každý, kdo se co i jen trochu ponoří do tématu umělé inteligence, dospěje k závěru, že nás to buď dovede k ohnivé apokalypse, nebo k magické utopii. Mezi nimi nejsou prakticky žádné možnosti. To je samozřejmě částečně způsobeno skutečností, že slogany jako „Konec je blízko!“nebo „Utopie se blíží!“Ale přesto…
Část toho se scvrkává na to, jak lidé cítí změnu, zvláště velkou. Millennialism nemá nic společného s tím, že byl millennial, narodil se v 90. letech a vzpomínal na sérii Buffy the Vampire Slayer. Jedná se o styl myšlení o budoucnosti, který je spojen s hluboce zakořeněným pocitem osudu. Millennialism je „očekávání, že svět bude zničen a nahrazen dokonalým světem a že přijde vykupitel, který svrhne zlo a potěší spravedlivé“.
Tisíciletá víra tedy úzce spojuje myšlenky ničení a stvoření. Mezi nimi jsou myšlenky obrovských, apokalyptických, seismických posunů, které zničí strukturu starého světa a vybudují něco úplně nového. Podobný systém víry existuje v mnoha hlavních světových náboženstvích, a dokonce i v méně než ateistických a agnostických náboženstvích, která věří v technologii.
Podívejte se například na to, jak futuristé očekávají technologickou jedinečnost. Podle Ray Kurzweila je Singularity stvořením ráje. Každý se stane nesmrtelným díky biotechnologii, která uzdraví naše nemoci; naše mozky lze nahrát do cloudu; nerovnost a utrpení zmizí jako jevy. „Zničení světa“nahrazuje oblíbený termín Silicon Valley: narušení nebo radikální změna odvětví. A stejně jako u jiných tisíciletých přesvědčení, váš konečný pohled závisí na tom, zda čekáte na konec světa nebo na zrození utopie.
Existuje mnoho dobrých důvodů být skeptičtí ohledně tohoto druhu myšlení. Snad nejpřesvědčivější z nich je, že víry tisíciletí jednoduše odrážejí postoje lidí ke změnám; stačí se podívat na to, kolik variací těchto vír ve světě vyrostlo.
Tyto víry jsou přítomné v aspektech křesťanské teologie, ačkoli se v moderní podobě staly populární v 19. a 20. století. Myšlenky jako Věčné soužení - mnoho let utrpení a strádání - a vytržení, kdy spravedliví budou vzkříšeni a zlo potrestáno. Po těchto destrukcích bude svět vytvořen znovu, nebo lidé půjdou do ráje.
Navzdory dogmatickému ateismu existovalo v marxismu mnoho podobných přesvědčení. Jediná otázka je ve vztahu k historii. Stejně jako věřící hledají signály naznačující naplnění proroctví, hledají marxisté znamení, že jsme v závěrečné fázi kapitalismu. Věří, že společnost bude nevyhnutelně degradovat a degenerovat až na samé dno - ve skutečnosti, jak věří křesťané.
Podle marxismu, když se vykořisťování dělnické třídy bohatými stane neudržitelným, dělnická třída shromažďuje a svrhuje utlačovatele. „Smutek“je nahrazen „revolucí“. Někdy jsou revoluční osobnosti jako Lenin nebo sám Marx oslavováni jako mesiáši, kteří přibližují tisíciletí; jejich rétorika nevyhnutelně obsahuje výzvy ke zničení starého systému, na jehož troskách „postavíme svůj, postavíme nový svět“. Spravedliví dělníci dostanou své právo a zlá buržoazie bude zničena.
Propagační video:
I ve skandinávské mytologii je v tom prvek, jak poznamenal James Hughes ve své eseji v knize Nicka Bostroma Global Catastrophic Risks. V Ragnaroku jsou v závěrečné apokalyptické bitvě poraženi lidé i bohové, ale protože je to všechno trochu ponuré, Skandinávci přidali myšlenku nové země, ve které přeživší budou žít v harmonii.
Doomsday se stal také kulturní stezkou. Vezměme si staré Egypťany a jejich víry o posmrtném životě; pán podsvětí Osiris váží srdce smrtelníka spolu s pérem. Pokud je srdce zesnulého příliš zatěžováno přestupky, démon ho sní a naděje na posmrtný život zmizí.
Možná se něco takového stane během singularity. Jak se naše technologie zlepšuje, a proto naše síla, naše srdce, srdce lidí, budou zvážena proti peří. Pokud se ukáží jako příliš těžké - s hloupostí, arogancí, předsudky, zlem - neprospějeme zkoušce a budeme zničeni. Pokud ale projdeme a vyjdeme z jedinečnosti, čeká nás nebe. Stejně jako v jiných systémech víry zde není prostor pro nevěřící; celá společnost se radikálně změní, ať se vám to líbí nebo ne. Technologický obdiv.
Zdá se, že každý zásadní vývoj vyvolává takovou reakci. A také jaderné zbraně. Buď to bude poslední kapka a my se zničíme, nebo jaderná energie může být použita k vytvoření lepšího světa. V počátcích jaderného věku lidé hovořili o elektřině „příliš levné na to, aby se dalo počítat“. Vědci, kteří pracovali na bombě, si často mysleli, že s takovou ničivou mocí v rukou člověka bychom se prostě museli dát dohromady a spolupracovat jako druh.
Když vidíme stejnou odpověď znovu a znovu, za různých okolností, vznikajících v různých oblastech, ať už jde o vědu, náboženství nebo politiku, musíme vzít v úvahu lidskou zaujatost. Milujeme víry tisíciletí, takže když se objeví myšlenka umělé inteligence, která převyšuje lidskou inteligenci, okamžitě zavedeme známý vzor.
Nemáme rádi fakta. Informace se nám nelíbí. Nejsme tak racionální, jak si myslíme. Vytváříme příběhy. Fyzici pozorují svět a svá vlastní pozorování provádíme do narativních teorií, příběhů o malých kulečníkových koulích, které létají sem a tam a kolidují navzájem, nebo o prostoru a čase, který se ohýbá, ohýbá a rozšiřuje. Historici se snaží dát smysl nekonečnému proudu událostí. Milujeme příběhy: příběhy vytyčené naší minulostí, naší současností a také nás připravují na budoucnost.
Tisíciletý příběh je krásný a přesvědčivý. Přináší vám sociální změnu. Pokud truchlíte, může ospravedlnit vaše každodenní utrpení. Dává vám naději, že váš život je důležitý a smysluplný. Poskytne vám pocit, že věci postupují určitým směrem, podle pravidel, nejen v chaosu. Slibuje, že spravedliví budou spaseni a kacíři potrestáni, i když na cestě bude utrpení. A konečně, tisíciletý příběh slibuje nebe na konci tunelu.
Když uvažujeme o technologickém vývoji, singularitě a existenčních rizicích, měli bychom být opatrní při tisíciletém vyprávění. Křičeli jsme „vlci!“Mnohokrát, když tam nebyli. Možná ani nyní není svět na pokraji katastrofy. Tento příběh samozřejmě není tak atraktivní. Samozřejmě každý chce očarující konec.
Ale ponořte se hlouběji a zjistíte, že tisícileté víry nejsou vždy nejslibnější, protože vyřazují lidského agenta z rovnice. Budeme muset věřit v odstíny šedé a opustit zlověstnou apokalypsu s červenookou AI a báječnou utopii s všemocnou AI, která lidi zbožňuje.
Ilya Khel