Unášeni humbukem ohledně současných „krizí“, kterým lidstvo čelí, zapomínáme na velké množství generací, které, jak doufáme, nás přijdou nahradit. Nemluvíme o těch lidech, kteří budou žít 200 let po nás, ale o těch, kteří budou žít tisíc nebo 10 tisíc let po nás.
Používám slovo „naděje“, protože čelíme rizikům, která se nazývají existenční a která mohou zničit lidstvo. Tato rizika nejsou spojena pouze s velkými katastrofami, ale také s katastrofami, které mohou ukončit historii.
Avšak ne každý ignoruje vzdálenou budoucnost. Mystici jako Nostradamus se pravidelně snaží určit datum konce světa. H. G. Wells se pokusil vyvinout vědu predikce a je známo, že popsal budoucnost lidstva v The Time Machine. Jiní autoři přišli s jinými verzemi vzdálené budoucnosti, aby varovali, pobavili nebo snít.
Ale i kdyby všichni tito průkopníci a futuristé nemysleli na budoucnost lidstva, výsledek by zůstal stejný. Člověk předtím nemohl udělat mnoho, aby nás zachránil před existenční krizí nebo ji dokonce způsobil.
Dnes máme privilegovanější postavení. Lidská činnost postupně formuje budoucnost naší planety. Přestože máme stále daleko od zvládání katastrof, vyvíjíme již technologie, které mohou zmírnit jejich důsledky nebo alespoň něco udělat.
Budoucnost je nedokonalá
Tato rizika však stále nejsou dobře pochopena. U uvedených problémů panuje bezmoc a fatalismus. Lidé už po tisíciletí mluví o apokalypsech, ale jen málo z nich se jim snaží zabránit. Lidské bytosti navíc nejsou tak silné, pokud jde o problémy, které se dosud neobjevily (zejména kvůli dopadu heuristiky dostupnosti) - tendence přeceňovat pravděpodobnost těchto událostí, jejichž příklady známe, a podceňovat události, které my nemůžeme si hned vzpomenout).
Propagační video:
Pokud lidstvo přestane existovat, pak bude tento druh ztráty přinejmenším ekvivalentní ztrátě všech žijících jednotlivců, stejně jako zhroucení všech jejich cílů. Ve skutečnosti však bude ztráta pravděpodobně mnohem větší. Zmizení člověka znamená ztrátu smyslu vytvořeného předchozími generacemi, ztrátu života všech budoucích generací (a počet budoucích životů může být astronomický), stejně jako všechny ty hodnoty, které by pravděpodobně mohly vytvořit.
Pokud vědomí a rozum již neexistují, může to znamenat, že ve vesmíru přestane existovat samotná hodnota. To je velmi silný morální důvod neúnavné práce na prevenci existenčních hrozeb. A na této cestě nesmíme udělat jedinou chybu.
S tím jsem vybral pět nejzávažnějších hrozeb pro lidskou existenci. Měly by se však vzít v úvahu některé další okolnosti, protože tento seznam ještě není konečný.
Během posledních několika století jsme pro sebe objevili nebo vytvořili nová existenční rizika: na začátku 70. let byly objeveny supervulkány a před projektem na Manhattanu byla jaderná válka nemožná. Proto bychom měli očekávat, že se objeví další hrozby. Některá rizika, která se dnes zdají vážná, mohou navíc s hromaděním znalostí zmizet. Pravděpodobnost určitých událostí se také časem mění. Někdy se to stane, protože nás znepokojují stávající rizika a řešíme jejich příčiny.
A konečně, skutečnost, že je něco možné a potenciálně riskantní, ještě neznamená, že je třeba se toho obávat. Existují rizika, s nimiž nemůžeme dělat vůbec nic - například toky gama záření vycházející z exploze galaxií. Pokud ale zjistíme, že jsme schopni něco udělat, pak se priority změní. Například se zlepšováním hygienických podmínek, nástupem vakcín a antibiotik začal být mor vnímán ne jako projev božského trestu, ale jako důsledek špatného stavu zdravotní péče.
1. Jaderná válka
Zatímco dosud byly použity pouze dvě atomové bomby - v Hirošimě a Nagasaki během druhé světové války - a zásoby se zmenšily z vrcholů studené války, bylo by chybou si myslet, že jaderná válka je nemožná. Ve skutečnosti se nezdá být neuvěřitelná.
Kubánská raketová krize byla velmi blízko k tomu, aby se stala jadernou. Vycházíme-li z předpokladu, že k takové krizi dochází každých 69 let a existuje jedna ze tří šancí, že by mohla vést k vypuknutí jaderné války, zvyšuje se možnost takové katastrofy a odpovídající koeficient bude 1 ku 200 ročně.
Aby toho nebylo málo, kubánská raketová krize je jen nejslavnějším případem. Historie sovětsko-amerického jaderného odstrašování je plná krizových situací a nebezpečných chyb. Skutečná pravděpodobnost již nezávisí na mezinárodním napětí, je však nepravděpodobné, že by pravděpodobnost jaderného konfliktu byla nižší než koeficient 1 ku 1000 za rok.
Úplná jaderná válka mezi velmocemi by vedla ke smrti stovek milionů lidí přímo v okamžiku výměny stávek nebo v důsledku jejich následků - byla by to nemyslitelná katastrofa. Pro existenční riziko to však stále nestačí.
Totéž je třeba říci o rizicích spojených s následky jaderných výbuchů - jsou často přehnaná. Místně jsou smrtelné, ale celosvětově představují relativně omezený problém. Kobaltové bomby byly navrženy jako hypotetická zbraň soudného dne schopná zničit vše v důsledku důsledků spojených s jejich použitím, ale v praxi se vyrábějí velmi obtížně a jsou drahé. A jejich vytvoření je ve skutečnosti nemožné.
Skutečnou hrozbou je jaderná zima - to znamená částice sazí, které mohou stoupat do stratosféry a způsobit tak dlouhodobý pokles teploty a dehydrataci planety. Současné klimatické simulace ukazují, že by to znemožnilo obhospodařovat většinu planety po mnoho let.
Pokud se tento scénář naplní, miliardy lidí zemřou hladem a malý počet přeživších bude vystaven dalším hrozbám, včetně nemocí. Hlavní nejistota spočívá v tom, jak se budou chovat částice sazí, které stoupají na oblohu: v závislosti na jejich složení může být výsledek odlišný a zatím nemáme spolehlivý způsob měření tohoto druhu následků.
2. Pandemie způsobené bioinženýrstvím
Přírodní pandemie způsobily více úmrtí než válek. Je však nepravděpodobné, že by přírodní pandemie představovaly existenční hrozbu. Obvykle existují lidé, kteří jsou imunní vůči patogenům, a potomci přeživších jsou ještě více chráněni.
Evoluce také nijak zvlášť nepodporuje ty parazity, které ničí hostitelské organismy, a proto se syfilis, jak se rozšířil v Evropě, změnil na brutálního zabijáka a chronické onemocnění.
Bohužel my sami jsme nyní schopni učinit nemoci ničivějšími. Jedním z nejznámějších příkladů je, jak zahrnutí extra genu do myších neštovic - myší varianta neštovic - je mnohem nebezpečnější pro život a je schopné infikovat již očkované jedince. Nedávná práce s influenzou ptáků ukázala, že infekčnost nemoci lze cíleně zvýšit.
V současné době je riziko, že někdo úmyslně rozšíří nějaký druh škodlivé infekce, zanedbatelné. Jak se však biotechnologie zdokonaluje a zlevňuje, stále více skupin bude schopno tuto chorobu ještě více ohrozit.
Většinu prací v oblasti biologických zbraní provádějí státy, které chtějí získat něco pod kontrolou, protože ničení lidstva není vojensky užitečné. Vždy však existují lidé, kteří přijdou udělat nějaké věci jednoduše proto, že jsou schopni to udělat. Jiní mohou mít vznešenější cíle.
Například členové náboženské skupiny Aum Shinrikyo se snažili urychlit nástup apokalypsy pomocí biologických zbraní, nejen pomocí úspěšnějšího útoku pomocí nervového plynu. Někteří lidé věří, že situace na Zemi se zlepší, pokud na ní už nebudou žádné lidské bytosti atd.
Počet úmrtí v důsledku použití biologických zbraní a epidemických chorob nutí člověka myslet si, že se vyvíjejí podle mocenského zákona - ve velkém počtu případů je málo obětí, ale v malém počtu případů je mnoho obětí. Vzhledem k aktuálně dostupným údajům se riziko globální pandemie z bioterorismu jeví jako malé.
To se však týká pouze bioterorismu: vlády za pomoci biologických zbraní zabily podstatně více lidí než bioteroristé (během druhé světové války se oběťmi japonského programu biologické války stalo asi 400 tisíc lidí). Technologie se stává výkonnější, což usnadňuje vytváření ještě více patogenů v budoucnosti.
3. Superinteligence
Inteligence je silná. Mezní nárůst řešení problémů a koordinace skupin je důvodem, proč jsou ostatní druhy opic bez práce. V současné době jejich existence závisí na rozhodnutích dané osoby, a nikoli na tom, co dělají.
Být chytrý je skutečná excelence pro lidi a organizace, a proto se hodně úsilí věnuje zlepšování naší individuální a kolektivní inteligence, od drog přes zlepšení kognitivních schopností až po vývoj programů souvisejících s umělou inteligencí.
Problém je v tom, že inteligentní systémy fungují dobře při dosahování svých cílů, ale pokud jsou tyto cíle špatně definovány, pak mají schopnost využít svou sílu k inteligentnímu dosažení svých katastrofických cílů. Není důvod si myslet, že intelekt sám o sobě je schopen přimět něco nebo někoho, aby jednal správně a morálně. Ve skutečnosti existuje možnost, že některé typy superinteligentních systémů budou vzdorovat morálním pravidlům, i kdyby to bylo možné.
Ještě znepokojivější je skutečnost, že když se snažíme vysvětlit věci umělé inteligenci, čelíme hlubokým praktickým a filozofickým problémům. Lidské hodnoty jsou vágní, složité problémy, které ještě nedokážeme dobře definovat, a i kdybychom mohli, nemuseli bychom pochopit všechny důsledky toho, co se snažíme vytvořit.
Softwarová inteligence dokáže velmi rychle překlenout propast s lidmi a schopnosti strojů se mohou stát nebezpečnými. Problém je v tom, že umělá inteligence může souviset různými způsoby s biologickou inteligencí: může běžet rychleji na rychlejších počítačích, její části mohou být umístěny na více počítačích, některé její verze lze testovat a aktualizovat za běhu a existuje možnost zavedení nových algoritmů, které mohou dramaticky zvýšit výkon.
Dnes mnozí předpokládají, že „průlom v inteligenci“je pravděpodobný, pokud má samotný software schopnost produkovat lepší software. Pokud k takovému skoku dojde, bude velký rozdíl mezi inteligentním systémem (nebo lidmi, kteří mu říkají, co má dělat), a zbytkem světa. Pokud nebudou cíle stanoveny správně, může taková situace velmi dobře vést ke katastrofě.
Neobvyklá věc na superinteligenci spočívá v tom, že nevíme, zda je ve vývoji inteligence možný rychlý a silný průlom: možná se naše současná civilizace jako celek zdokonaluje nejvyšší rychlostí. Existuje však dostatečný důvod se domnívat, že některé technologie dokážou posunout určité věci vpřed mnohem rychleji než možnosti zlepšení jejich kontroly moderní společností.
Kromě toho ještě nejsme schopni pochopit, jaké nebezpečné mohou být některé formy superinteligence a jak budou fungovat strategie zmírňování. Je velmi obtížné spekulovat o budoucích technologiích, které zatím nemáme, nebo o inteligenci, která převyšuje to, co máme. Mezi uvedenými riziky má právě toto největší šanci stát se buď skutečně rozsáhlým, nebo zůstat jen přeludem.
Obecně není tato oblast dosud dostatečně prozkoumána, což je překvapivé. I v padesátých a šedesátých letech byli lidé plně přesvědčeni, že superinteligence může být vytvářena „v průběhu generace“, ale v té době nebyla bezpečnostním otázkám věnována náležitá pozornost. Možná pak lidé jednoduše nebrali své předpovědi vážně a s největší pravděpodobností to považovali za problém v daleké budoucnosti.
4. Nanotechnologie
Nanotechnologie je o řízení hmoty s atomovou nebo molekulární přesností. Samo o sobě není nebezpečné a naopak může být velmi dobrou zprávou pro mnoho použití. Problém je v tom, že stejně jako v biotechnologiích, rostoucí příležitosti také zvyšují potenciál zneužívání, proti kterému je velmi těžké se bránit.
Velkým problémem není notoricky známý „šedý goo“samoreplikujících se nanomachinů, které pohltí všechno. To bude vyžadovat vytvoření velmi sofistikovaných zařízení. Je obtížné vytvořit stroj, který by se dokázal sám reprodukovat: biologie je podle definice lepší v tomto druhu úkolu. Možná to někteří maniaci dokážou, ale na stromě destruktivních technologií je dostupnější ovoce.
Nejviditelnějším rizikem je, že automatická přesná výroba se jeví jako ideální pro levnou výrobu věcí, jako jsou zbraně. Ve světě, ve kterém bude mít mnoho vlád schopnost „tisknout“velké množství autonomních nebo poloautonomních zbraňových systémů (včetně možnosti zvýšení jejich výroby), mohou být závody ve zbrojení velmi intenzivní - a výsledkem bude zvýšená nestabilita, a proto může být velmi lákavé zahájit první stávku až do okamžiku, kdy nepřítel získá velkou výhodu.
Zbraně mohou být také velmi malé a velmi přesné: mohou to být „chytré jedy“, které mohou působit nejen jako nervový plyn, ale také k výběru jejich obětí, nebo všudypřítomní mikro roboti (gnatboti), miniaturní sledovací systémy, které udržují poslušnost populace - to vše je docela možné. Kromě toho se jaderné zbraně a zařízení ovlivňující klima mohou dostat do rukou vetřelců.
Nemůžeme odhadnout pravděpodobnost existenčního rizika, které představuje budoucí nanotechnologie, ale zdá se, že mohou být docela destruktivní jednoduše proto, že jsou schopni dát, co chceme.
5. Tajemné neznámo
Nejznepokojivější možností je, že na světě existuje něco smrtelného, ale nevíme, co to je.
Mlčení v nebi může být toho důkazem. Je nepřítomnost mimozemšťanů způsobena skutečností, že život a inteligence jsou velmi vzácné, nebo proto, že inteligentní život má tendenci být zničen? Pokud existuje budoucí Velký filtr, pak by si toho měly všimnout jiné civilizace, ale ani to nepomohlo.
Ať už je taková hrozba jakákoli, byla by téměř nevyhnutelná, i kdybyste si byli vědomi její existence, bez ohledu na to, kdo jste nebo čím ve skutečnosti jste. O tomto druhu ohrožení nevíme nic (žádná z výše uvedených hrozeb takto nefunguje), ale mohou existovat.
Všimněte si, že přítomnost něčeho neznámého neznamená, že o tom nemůžeme uvažovat. Článek Maxe Tegmarka a Nicka Bostroma ukazuje, že daná sada rizik by měla mít poměr menší než jedno ku miliardě ročně, na základě relativního stáří Země.
Může vás překvapit, že změna klimatu a dopady meteorů na tomto seznamu nejsou. Je velmi nepravděpodobné, že by změna klimatu způsobila neobyvatelnost celé planety (ale pokud by se naše obrana ukázala jako neúčinná, mohla by představovat další hrozby). Meteory nás samozřejmě mohou setřít z povrchu Země, ale v tomto případě musíme být velmi velcí poražení.
Typický typ savce existuje již asi milion let. Hlavní míra přirozeného vyhynutí je tedy přibližně jedna ku milionu ročně. To je výrazně nižší než riziko jaderné války, která je i po 70 letech největší hrozbou pro naši další existenci.
Heuristika dostupnosti nás nutí přeceňovat rizika, o nichž se často diskutuje v médiích, a bagatelizovat rizika, s nimiž se lidstvo dosud nesetkalo. Pokud chceme existovat i po milionu let, musíme tuto situaci napravit.
Anders Sandberg
Populární věda