Pokud jste někdy hráli hry na hraní rolí - ať už online nebo ve staromódním dvorku - víte, jak snadné je připojit se ke svému avatarovi, tj. Zvyknout si na roli „kozáka lupiče“. Doslova cítíte bolest, když je postava poražena trolem, pražena drakem nebo zabita šamanem. Americký sociolog (a vášnivý hráč) William Sims Bainbridge vzal tento vztah ještě více vytvořením virtuálních reprezentací 17 zemřelých členů rodiny. V eseji o online avatarech z roku 2013 si představí čas, kdy můžeme načíst naši osobnost do umělé inteligentní simulace sebe sama, která může jednat nezávisle na nás a zůstat i po smrti.
Jakou odpovědnost můžeme těmto simulovaným lidem uložit? I když máme podezření z násilných počítačových her, nikdo vážně nepovažuje vraždu za podkopání virtuálního útočníka. Není však už absurdní představovat si, že jakmile budou modelovat lidé, budou existovat a budou mít také určitou míru autonomie a vědomí. Mnoho filozofů věří, že mysl, jako je ta naše, nemusí být uložena v síti neuronů v našem mozku, ale mohla by existovat v různých druzích materiálních systémů. Pokud jsou správné, není důvod se domnívat, proč dostatečně výkonné počítače nemohly ukládat vědomí do svých čipů.
Zabijete digitální mouchu?
Dnes se mnoho morálních filosofů snaží pochopit etiku změny lidské populace a klást takové otázky: Jaké jsou náklady na lidský život? Jaký druh života bychom se měli snažit utvářet? Jakou hodnotu bychom měli investovat do lidské rozmanitosti? Ale pokud jde o etiku zacházení s modelovanými entitami, není zcela jasné, zda bychom se měli spoléhat na stejnou logiku a intuici, jaké používáme v našem světě masa a krve. Hluboko v našich duších se cítíme špatně, když zabijeme psa nebo dokonce mouchu. Ale zabilo by to mouchu - nebo model lidského mozku - zabít? Když „život“nabývá nových digitálních forem, naše vlastní zkušenost již nemůže fungovat jako spolehlivý morální společník.
Adrian Kent, teoretický fyzik na University of Cambridge, se rozhodl tuto mezeru v morálním uvažování prozkoumat. Předpokládejme, že jsme se naučili napodobit lidské vědomí na počítači levně a jednoduše, píše v jednom z článků. Rádi bychom tomuto virtuálnímu stvoření dali bohaté a obohacující prostředí pro komunikaci - život, který stojí za to žít. Možná bychom to mohli udělat se skutečnými lidmi skenováním jejich mozků do detailů a jejich replikací na počítači. Lze si představit, jak taková technologie „zachrání“lidi před smrtelným onemocněním; někteří transhumanisté to vidí jako cestu k nesmrtelnému vědomí.
Samozřejmě by to mohl být jen sen o dýmkách - ale předpokládejme opak. Podívejme se nyní na řadu utilitárních morálních principů, které zavedl Jeremy Bentham na konci 18. století a které následně zdokonalil John Stuart Mill. Když vezmeme v úvahu všechny věci, řekl Bentham, měli bychom se snažit přinést maximální štěstí (nebo „užitečnost“) co nejvíce lidem. Nebo, podle Millových slov, „akce jsou odůvodněné úměrně tomu, jak jsou šťastné, a neodůvodněné, pokud vedou k nedostatku štěstí“.
Zásady dobrého chování mají mnoho kritiků. Například, jak můžeme měřit nebo porovnávat typy štěstí - vážení hodnoty lásky babičky, například na stejných stupních s obdivem pro virtuózního koncertního pianisty? "I když chcete brát utilitarismus vážně, nevíte, na jakých kvalitách do svých výpočtů záleží," říká Ken. Většina systémů víry však dnes ve výchozím nastavení akceptuje, že morální kompas, který ukazuje na větší štěstí, je jednoznačně lepší než ten, který se od něj dívá dál.
Propagační video:
Podle Kentova scénáře, pokud vycházíme z utilitárních motivů, lze věřit, že musíme bez omezení postupovat vpřed a znásobit naše modelované nebo simulované stvoření - řekněme jim sims. Ve skutečném světě má takové nekontrolované rozmnožování zjevné nevýhody. Lidé budou trpět, emocionálně a ekonomicky, s velkou rodinou; přelidnění již vyvíjí tlak na globální zdroje atd. Ale ve virtuálním světě nemusí být takové limity. Můžete vytvořit utopii s téměř neomezenými prostředky. Proč tedy nemůžete vytvořit co nejvíce světů a naplnit je radostnými Siminy?
Naše intuice navrhuje odpověď: ale proč? Možná vědomá sim prostě nebude mít stejnou vnitřní hodnotu jako osoba masa a krve? Tento bod je vyjádřen filozofem mysli a etikem virtuální reality Michaelem Mederym na Tulane University v New Orleans a věří, že by to mělo být bráno vážně.
Někteří filozofové věří, že my sami můžeme být podobnými simulovanými bytostmi. Takovou možnost prostě nemůžeme vyloučit, ale přesto považujeme tyto otázky za smysluplné. Dalo by se také předpokládat, že Sims má právo klást otázky.
Kent se znovu ptá: co by bylo správnější - vytvořit populaci stejných tvorů nebo úplně jiného? Je zřejmé, že by bylo efektivnější vytvořit identická stvoření - dostatek informací o jednom, aby bylo možné vytvořit N z nich. Naše instinkty nám však říkají, že rozmanitost má smysl a hodnotu. A proč, přemýšlím, jestli není důvod se domnívat, že N různí jednotlivci budou šťastnější než N identičtí.
Kentův přístup je takový, že různé životy jsou vhodnější než několik stejných kopií. "Nemohu se zbavit myšlenky, že vesmír s miliardou nezávislých identických emulací Alice bude méně zajímavý a méně kvalitní než vesmír s miliardou různých jednotlivců," říká. Tento koncept nazývá podřadnost.
Pokud vezmeme v úvahu vesmír obývaný miliardami Alice, stojí za to mluvit o jednom životě, mnohonásobně, nebo mluvíme o jednom životě, rozprostřený po mnoha světech. Z toho vyplývá, že mnoho Alice ve stejném prostředí nebude mít hodnoty víc než jednu. Tento scénář nazývá zbytečností replikace. „Jsem k tomuto názoru nakloněn,“říká Kent, nicméně připouští, že ve své obhajobě nemůže najít nevyvratitelný argument.
Kentův myšlenkový experiment se dotýká několika starých tajemství morální filosofie, která nikdy nebyla vyřešena. Anglický filozof Derek Parfit, který zemřel minulý rok, je oslovil ve svém monumentálním díle o osobnosti a sobě samém, Důvody a osobnosti (1984). Parfit přemýšlel o otázkách, jako je kolik lidí by vůbec mělo být a zda bude vždy morálně lepší přidat život, který stojí za život, do shonu světa, až dostaneme příležitost.
I když přijmete utilitární názor, je problém najít největší štěstí pro největší počet: dvojitá kritéria vytvářejí dvojznačnost. Představte si například, že máme kontrolu nad tím, kolik lidí žije ve světě s omezenými zdroji. Člověk by si myslel, že by měl existovat nějaký optimální počet lidí, kteří (v zásadě) budou nejlépe využívat zdroje k zajištění štěstí a prosperity pro všechny. Ale nebylo by v takové utopii místo pro jinou osobu? Nebylo by přijatelné omezit štěstí každého trochu, aby se zajistil další šťastný život?
Problém je v tom, že tento proces nemá konec. Jak čísla rostou, přidané štěstí nového života může převážit nad náklady těch, kteří již žijí. Nakonec, Parfit říká, jste dospěli k „nechutnému závěru“: scénáře, ve kterém by nejlepším výsledkem byla nafouknutá populace lidí, kteří jsou beznadějně nešťastní, ale lepší než než vůbec žádný život. Dohromady jejich skromné kousky štěstí přispívají více než k součtu malého počtu skutečně šťastných lidí. „Je pro mě těžké přijmout tento závěr,“napsal Parfit, ale můžeme tento přístup ospravedlnit? Kent to neví. "Nevím, jestli může existovat vyvážené rozhodnutí o nechutném závěru," říká.
Kořen této otázky spočívá v tom, co Parfit nazval „problém neidentity“: jak můžeme racionálně uvažovat o otázkách ustaraných jednotlivců, pokud jejich samotná existence závisí na volbách, které uděláme (jako je nalezení místa pro „jiného“)? Vážení kladů a záporů, které mohou ovlivnit jednotlivce v závislosti na našich rozhodnutích, v zásadě není tak obtížné. Ale vzhledem k možnosti, že tato postava možná nikdy neexistovala, už nevíme, jak vypočítat. Ve srovnání s nulou nebo nicotou bude cokoli vítězstvím, takže i ty nejhorší scénáře existence mohou být morálně ospravedlnitelné.
V této utilitární populační hře je další velmi zvláštní scénář. Co kdyby existovali lidé s tak velkou potřebou štěstí, že by od ostatních vyžadovali víc, než si mohli dovolit? Americký filozof Robert Rozick označil toto stvoření za „utilitární monstrum“a kritizoval ho ve své knize Anarchie, Stát a Utopie (1974). Podle Nozicka tento obrázek „bude vyžadovat, abychom všichni obětovali kvůli příšerě, abychom zvýšili naši celkovou užitečnost“. Hodně z Parfitovy knihy byl pokus - nakonec neúspěšný - uniknout jak odpornému závěru, tak utilitárnímu monstrum.
Nyní se vraťme do Kentových virtuálních světů plných Simsů a jeho principu neúplné replikace - když určitý počet různých životů stojí za více než stejný počet identických. Možná nám to umožní vyhnout se Parfitovu příšernému závěru. Navzdory tomu, co Leo Tolstoy řekl o nerovnosti nešťastných rodin na začátku Anny Kareninové (1878), se zdá, že obrovské množství nešťastných životů bude v jejich ponurém smutku téměř stejné. V důsledku toho nebude možné je vyzvednout a zvýšit celkové štěstí po kapkách.
Stejně tak však podřadnost replikace vyzařuje utilitární monstrum - podle definice musí být jedinečná, a tedy „užitečnější“, ve srovnání s nevyhnutelnou podobností životů, které ji živí. Toto rozhodnutí nás také neuspokojuje. "Bylo by hezké, kdyby si lidé o těchto otázkách nějak mysleli," přiznává Kent. "Jsem z nich trochu zmatený."
Pro amerického liberálního ekonoma Robina Hansona, profesora ekonomie na George Mason University ve Virginii, nejsou tyto úvahy tolik mentálními experimenty, jako předpovědi budoucnosti. Jeho kniha „Age of Em“představuje společnost, ve které všichni lidé vkládají své vědomí do počítače, aby mohli žít svůj život ve formě „emulací“(nikoli sims, ale emas). "Miliardy takových stahování mohly žít a pracovat v jedné výškové budově a pro každého by byl prostor," píše.
Hanson podrobně zkoumal, jak by taková ekonomika mohla fungovat. EMS může mít jakoukoli velikost - některé z nich budou velmi malé - a čas pro ně může být jiný než u lidí. Bude existovat přísný dohled a malý plat, ale ems se může zbavit tohoto utrpení výběrem života bez práce. (Hanson věří, že v takovém světě už můžeme žít.)
Tento scénář umožňuje možnost zdvojení sebe sama, protože mysl již byla přenesena do počítače, takže vytváření kopií bude docela jednoduché. Hanson říká, že problém identity je v tomto případě rozmazaný: duplikáty jsou zpočátku „stejná osoba“, ale postupně se jejich identita liší, když začnou žít odděleně.
Hanson navrhuje, že zdvojování lidí bude nejen možné, ale i žádoucí. V nadcházejícím věku emů budou lidé se zvláště cennými mentálními schopnostmi mnohokrát „naloženi“. A obecně si lidé budou chtít pořídit více kopií sebe samého jako formu pojištění. "Mohou upřednostnit redundanci ve své vlastní implementaci, aby se ujistili, že mohou přežít neočekávané katastrofy," říká Hanson.
Nemyslí si však, že by upřednostňovali Kentův scénář stejných životů. Ems „nebude klást žádnou zvláštní hodnotu na život ve stejném životě v různých časech a na různých místech. Investují hodnotu do více kopií, protože tyto kopie mohou pracovat nebo komunikovat s ostatními. Tento druh práce a vztahu však bude vyžadovat, aby každá kopie byla kauzálně nezávislá a jejich příběhy byly vzájemně propojeny na základě úkolů nebo jako partneři. “
V každém případě bude muset em čelit morálním obtížím, které zatím nemůžeme přeceňovat. "Nemyslím si, že morálka, kterou lidé mají, je dostatečně obecná nebo spolehlivá, aby mohla poskytnout sebevědomé odpovědi na takové situace, které jsou tak daleko od„ zkušenosti "našich předků," říká Hanson. "Předpovídám, že emus bude mít mnoho různých protichůdných názorů na takové věci."
EMS, sims a naše virtuální budoucnost
Teď to všechno může znít podivně, jako apokryfní středověké rozhovory o andělech tančících na špičkách. Budeme někdy schopni vytvořit virtuální život, který bude vůbec podobný skutečnému životu? „Nemyslím si, že by kdokoli mohl s jistotou říci, zda je to možné, nebo ne,“říká Kent, částečně proto, že „nemáme dobré vědecké chápání vědomí.“
Přesto se technologie pohybuje vpřed a tyto otázky zůstávají otevřené. Švédský filozof Nick Bostrom z Institutu pro budoucnost člověka tvrdil, že výpočetní výkon, který je k dispozici pro „lidskou“civilizaci, by usnadnil simulaci stvoření, která žijí ve světě, a cítil by je stejně reálný jako my sami. (Bostrom si také myslí, že bychom v takové simulaci mohli žít.) Ale otázka, jak můžeme tyto světy naplnit, představuje „skutečné dilema pro programátory, vědce a zákonodárce budoucnosti, i když ne tak vzdálené,“říká Kent.
Kentův scénář již může mít dopad na reálný svět. Argumenty maximalizace užitečnosti a problém neidentity vyvstávají v diskusích o podpoře a prevenci lidské koncepce. Kdy byste měli odmítnout otěhotnět v případě rizika, například při vývoji abnormalit u dítěte? Žádná z nových metod nezaručuje úplnou bezpečnost a nikdy nezaručená, ale IVF by nikdy nebylo provedeno, pokud by to byl předpoklad. Očekává se, že taková technika splní určitou prahovou hodnotu rizika. Utilitární přístup však tuto myšlenku zpochybňuje.
Co kdyby nová metoda asistované reprodukce měla střední riziko vzniku malých vad při narození, jako jsou mateřská znaménka? (Toto je skutečný argument: Nathaniel Hawthorneův příběh z roku 1843 vypráví o alchymistovi, který se se smrtelnými následky pokusil odstranit značku od své manželky, citoval americkou bioetickou radu z roku 2002.) Je obtížné říci, že lidé označeni takovým místem budou horší než ostatní, a proto by se neměli touto metodou zohlednit. Ale kde je čára, která má být nakreslena? Kdy se vrozená vada lépe nezavede?
Někteří zmínili toto dilema při obraně lidského klonování. Nebezpečí, jako je sociální stigma nebo zkreslené rodičovské motivy a očekávání, převáží nad přínosem života. Kdo jsme, abychom vybrali klonovaného člověka? Kdo budeme, pokud se rozhodneme dříve, než člověk vůbec existuje?
Zdá se, že tento druh uvažování vyžaduje, abychom činili božská rozhodnutí. Feministická pozorovatelka si však může myslet, že jsme obětí verze Frankensteinovy fantazie. Jinými slovy, není to skupina mužů sní o tom, že konečně začnou vymýšlet lidi, když to ženy dělají po staletí? Pocit novosti, který vede ke všem těmto sporům, má patriarchální chuť.
Přesto perspektiva virtuálního vědomí vyvolává některé velmi svěží a fascinující etické otázky - které podle Kentu vedou k výzvě k intuitivní hodnotě, kterou v životě a demografii klademe. Je nesmírně obtížné vidět silný argument pro skutečnost, že určitý počet různých životů bude morálně lepší než stejný počet. Proč si to myslíme? Jak se můžeme zbavit předsudků?
Dalo by se říci, že vnímaná homogenita v lidské populaci narušuje schopnost empatie a etického uvažování. „Beztvářný“dav, proti kterému jednotlivec stojí, je známé klišé, které evokuje pocit hrdinství. To však nutně není správné.
Možná máme evoluční averzi ke stejným jedincům, zvláště když si uvědomíte, že genetická rozmanitost populace zajišťuje její přežití? Jen přemýšlejte o filmech o totožných dvojčatech nebo klonech - vždy to nevypadá dobře. Vypadá to dokonce zlověstně. V roce 1919 Sigmund Freud spojil tento pocit s myšlenkou na zlého dvojníka (doppelganger). A pokud je to stále pochopitelné v případě identických dvojčat, bude stovka „identických“postav vypadat hrozně.
Nevypadá to, že se v pravém nebo virtuálním světě kdykoli setkáme s armádami duplikátů. Hodnota experimentů s myšlenkou je však taková, že vám dávají nový způsob, jak pochopit světové otázky. Představujeme si etiku našeho vztahu se Simsem a odhalujeme nejistou nebo neexistující logiku, kterou instinktivně využíváme k vážení morální hodnoty našich vlastních životů.
Ilya Khel