Řekové byli posedlí otázkou, co to ve skutečnosti znamená být člověkem. Jejich legendy znovu a znovu zkoumaly vyhlídky a rizika nesmrtelnosti, rozvoje lidských schopností, zdvojování živé bytosti. V oblíbených mýtech o Herkulovi, Jasonovi a Argonautech, o čarodějce Medea a inženýrovi Daedalusovi, o božském vynálezci Hephaestu a tragicky zvědavém Pandorovi, byla položena hlavní otázka ohledně hranice mezi člověkem a strojem. Biotechnologický vývoj a pokroky v umělé inteligenci dnes opět dávají význam otázce důsledků kombinování biologických a technologických. Můžeme říci, že tento diskurs zahájili starověcí Řekové.
Medea, mýtická kouzelnice, jejíž jméno pochází ze slovesa „vynalézat“, vlastnila mnoho tajných umění. A mezi nimi je tajemství omlazení. Aby se prokázala její síla, Medea se objevila před Jasonem a Argonauty ve formě staré, křivé staré ženy, jen aby se proměnila v krásnou mladou princeznu. Iason padl pod kouzlo a zamiloval se do ní. Požádal Medea, aby vzkřísila mladou sílu svého starého otce Esony. Medea vyčerpala veškerou krev ze žil starého muže a nahradila ji šťávou z léčivých bylin.
Starý Eson, náhle energický a plný zdraví, ohromil všechny, včetně dcer starých Peliasů. Požádali Medea, aby odhalila tajný recept na vdechnutí života otci. Nevěděli však, že Pelius je Medeaovým dlouholetým nepřítelem. Čarodějnice podváděla tím, že je nechala sledovat její obsazení. Zatímco opakovala kouzla, dala skvělou show smícháním lékárny (léků) ve speciálním „omlazovacím kotlíku“. Potom Medea vytáhla starého berana, odřízla mu hrdlo a hodila ho do velkého kotle. Abracadabra: odtud se zázračně objevilo děsivé mladé jehněčí! Důvěryhodné dcery se vrátily domů a pokusily se opakovat trik se svým starým otcem, opakovaly magická slova tím, že mu odřízly hrdlo a strčily ho do vroucí vody.
Přirozeně zabili Peliase. V pohádce o Medea se kombinuje naděje a strach, věčná dvojice reakcí na vědecké experimenty o životě samotném.
***
Nejstarší zobrazení Medea se objevilo na řecké váze kolem roku 500 před naším letopočtem. e. nicméně, ústní tradice existovaly po mnoho století dříve. Když Medea smíchá obsah kotle, objeví se z něj jehněčí. Beránek a jehně Medea jsou předchůdci Dolly, první ovce vytvořené v genetickém inženýrství klonovacím experimentem v roce 1997.
Replikace života v nás oživuje archaické obavy. Doppelgangerův efekt zpochybňuje touhu každého jednotlivce být jedinečný, nenahraditelný.
Tyto starodávné tradice se v naší době zdají být hluboce naplněné metafyzickým porozuměním a předpovědi o budoucí manipulaci s lidskou přirozeností. Pokud se podíváte na to, co Řekové nazývají biotechnologie (bios = life, techne = vytvořené uměním vědy) jako vědecké bádání, „science fiction“starověkého světa nabývá děsivého moderního významu. Medea a další biotechnologické mýty inspirovaly strašidelné, dramatické představení a nezapomenutelné ilustrace v klasických vázových malbách a sochách.
Propagační video:
Mezitím kolem roku 400 před naším letopočtem. E. Archytas, přítel Platóna, se postříkal svým mechanickým ptákem poháněným parou. Helénský inženýr Heron z Alexandrie vynalezl stovky automatizovaných strojů ovládaných hydraulikou a pneumatikou. Ostatní řemeslníci vytvořili pohyblivé postavy, které vydávaly zvuky, otevíraly dveře, nalévaly víno a dokonce napadaly lidi. Je zřejmé, že staří Řekové byli přitahováni k biotechnologiím.
Za těmito technologickými zázraky leží hledání věčného života. Řekové věřili, že Chronos měří životy žen a mužů. Čas byl rozdělen na minulost, současnost a budoucnost. Svoboda od času slibovala věčný život, ale vyvolala znepokojivé otázky. Jděte s proudem nekonečného času - a co se stane se vzpomínkami? Co se stane s láskou? Může krása existovat bez smrti a stáří? Jsou oběti a hrdinství možné bez smrti? Velcí hrdinové z mýtů zemřeli fyzicky a po smrti zůstali v paměti, i když se z podsvětí stali Homerovými „cvrlikajícími duchy“. Mýty vysílají existenciální zprávu: smrt je nevyhnutelná a vyhlídky na lidskou důstojnost, nezávislost a hrdinství ve skutečnosti závisí na úmrtnosti.
Opravdu, poté, co jim bohové dali na výběr, Achilles a další hrdinové odmítnou život pohodlí a lenivosti, věčný život. V mýtech si hrdinové a hrdinky rozhodně vybrali krátký, nezapomenutelný život plný cti, rizika a odvahy. "Pokud je náš život krátký, nechť je naplněn slávou!" Umělá nesmrtelná existence může být atraktivní, ale bude skvělá a ušlechtilá?
Mýty těch nejodvážnějších hrdinů dramatizují nevýhody nesmrtelnosti. Když bohyně Thetis vrhla svého mladého syna Achilla do magické řeky Styx, aby ho učinila nezranitelným, drží ho za patou. Na bitevním poli v Troy po celou svou statečnost zemřel nejlepší řecký šampion ne ve spravedlivém boji tváří v tvář, jak doufal, ale kvůli otrávené šipce, která probodla Achillovu patu. Takové věci se zdají nevýznamné, ale takové nepředvídané zranitelnosti jsou vlastní pokročilým biotechnologiím.
***
Touha překonat smrt je stejně stará jako samotné lidské vědomí. V mytologickém prostoru se nesmrtelnost stává dilematem pro bohy i lidi. Mýtus o Eosovi a Typhonu vyvolává problém prevence veškerých nepředvídaných událostí a možných komplikací. Eos byla nesmrtelná bohyně, která se zamilovala do smrtelného Typhonu. Bohové vyhověli Eosově žádosti, aby její milovaný žil navždy. Zapomněla však požádat o věčnou mládí pro svou vyvolenou. "Když příšerný stáří rozbil Typhon, Eos zoufalství," říká mýtus. Bohužel uvěznila svého milovaného v žaláři za zlatými dveřmi. "Tam, bez síly pohybovat kdysi poddajnými údy, se Typhon vrhl do věčnosti." V některých verzích je Typhon vyčerpán cikádami, jejichž monotónní zpěv je nekonečnou prosbou o smrt.
Osud Typhonu vrhá stín na perspektivu prodloužení lidského života. Biomedicínský gerontolog Aubrey de Gray, který uznal dilema Typhonu, které je spojeno s omezováním stárnutí na neurčito, založil v roce 2009 výzkumnou nadaci SENS (Strategie pro inženýrství mírného stárnutí). SENS doufá, že najde způsob, jak zabránit stárnutí buněk, protože smrt samotná je dále a dále.
V nejhlubších prastarých mýtech je položena otázka: osvobozuje nesmrtelnost člověka od utrpení a zármutku? Například v eposu Gilgamesh touží po titulní straně nesmrtelný hrdina mezopotámské básně. Ale kdyby Gilgamesh získal věčný život, strávil by ho ve věčném zármutku pro svého přítele Enkidu.
Nebo se podívejte na osud moudrého kentaura Chirona, mentora a přítele Herkula a Apolla. Hercules náhodně zasáhl Chiron šípem otráveným jedem Hydry. Hrozná rána by se nikdy nezhojila. Chiron, který se vzpamatoval z neúnosné bolesti, se kvůli ní zbavil a požádal bohy o požehnanou smrt výměnou za jeho nesmrtelnost. Prometheus, titán, který lidem odhalil božské tajemství ohně, se ukázal jako další nesmrtelný, který trpěl nekonečnou bolestí. Zeus připoutal Prometheuse ke skále a každý den poslal obrovského orla, aby mu kloval na játra. Titanova játra narostla zpět přes noc a orel ji znovu vykouzlil. Čas od času. Nekonečně. Nesmrtelnost.
Regenerační noční můra je také odhalena v mýtu vícehlavé Hydry. Hercules se pokusil zabít netvora a odřízl každou ze svých hlav, po kterých vyrostly na jeho místě dvě nové. Nakonec spálil každý krk pochodní, ale centrální hlava Hydry byla nesmrtelná a nemožná ji zničit. Hercules zahrabal svou nezranitelnou hlavu do země a převalil obrovský balvan, aby odtud vyděsil lidi. A dokonce i z tesáků Hydry pohřbených hluboko v podzemí smrtící jed stále vytékal. Tentokrát byla nesmrtelnost doslova otrávena.
Další příklad: Jasonovi a Argonautům hrozilo legie ohavných replikátorů. Na špičce zlého Medea zvedli armádu dračích zubů a orali pole pomocí oheň dýchajících mechanických býků, které Daedalus vynalezl (autorova chyba: to nebyl náznak, ale rozkaz; býci byli darováni Hephaestem - přibližně nový). Zasadil drakovy zuby do půdy. „Semena“vyklíčila a ze Země se objevila neporazitelná v jejich množství, plně ozbrojených kostrových válečníků. Kouzelné sklizni však chyběla jedna klíčová kvalita: nelze je objednat. Prostě útočí, neustále. Medeain otec chtěl, aby armáda zničila Argonauty. Ponuré „roboty“postupovaly na Iasona a jeho muže. Jason zoufale chtěl zastavit rostoucí nekontrolovatelný dav a začal házet kameny do davu. Kostry byly „naprogramovány“tak, aby zabíjely nejbližšího nepříteletak se navzájem zabíjeli. Někteří učenci věří, že starověký příběh předchází Homerovi. Tento příběh je zlověstným znamením skličujícího úkolu správy kybernetických vojáků.
Další série mýtů věnovaných krétskému géniovi Daedalu je spojena s divy mechaniky. Byl to on, kdo vyrobil dronového orla, který pravidelně vrhal na játra Prometheuse. Jeho nejslavnějším experimentem byl létání na křídlech a stal se klišé tragické arogancie. Daedalův syn Icarus obdivoval kouzlo letu a létal příliš vysoko. Horko slunce roztavilo vosk, který držel pohromadě bronzové „peří“, křídla se rozpadla a Icarus padl k smrti. Stejně jako jiné mýty o nesmrtelnosti a posílení lidských schopností, historie ukazuje na nemožnost předpovídat jednoduché, ale potenciálně smrtící technologické momenty.
Podle řeckých legend byl Daedalus prvním smrtelníkem, který vytvořil „živé sochy“. Pohybovaly se bronzovými sochami, které vypadaly, že jsou skutečně obdarovány životem: převrátily oči, potily se, plakaly, vykrvily, mluvily a pohybovaly končetinami. V jeho dílně byla biomimetická kráva vytvořena ze dřeva a kůží, tak realistických, že podvedla býka, který se s ní spároval: Daedalus tak uspokojil zvrácenou vášeň královny Pasiphae. Výsledkem bylo sjednocení člověka, stroje a zvířete v Minotauru, ošklivé stvoření s lidským tělem a býčí hlavou. Byl předurčen stát se kanibalem, uvězněným v labyrintu (také projektem Daedaluse), až jednoho dne byl zabit hrdinou Theseusem. Starověká biotechnologie opět spojila člověka a stroj - a vytvořila monstrum.
***
Hephaestus, bůh vynálezu a technologie, také stavěl roboty, které poslouchaly příkazy a pohybovaly se nezávisle. Byl to tento nebeský kovář, který měl ve starověku největší biotechnologický životopis. Hephaestus vytvořil dva mechanické psy ze zlata a stříbra, aby střežili královský palác. Jeho čtyři robotičtí koně vytáhli vůz, „kopali prach svými mosaznými kopyty, whinnying.“Poté, co bohové vzkřísili nasekaného hrdinu Pelope, nahradil Hephaestus čepel ramene slonovinou ze slonoviny.
Hephaestus vyvinul několik „samohybných“stativů na kolech, které reagovaly na příkazy přinést jídlo a víno. To ho vedlo k vytvoření skupiny zlatých služek v životní velikosti, aby mohl plnit své rozkazy. Automatizovaní služebníci byli „jako skutečné mladé dívky: s vnímáním a inteligencí, silou a dokonce i hlasem, vybaveni všemi znalostmi nesmrtelných.“Jaký nadšenec Silicon Valley AI může tuto ambici překonat?
Divy Hefaestu si představovala starodávná společnost, která se obvykle nepovažuje za technologicky vyspělou. Biotechnologická stvoření fascinovala kulturu, která existovala po tisíciletí před příchodem robotů, které mohou vyhrát ve složitých hrách, vést rozhovory, analyzovat spoustu informací a určovat touhy lidí. Ale jejichž přání splní roboti s umělou inteligencí? Od koho se budou učit?
Poučný Microsoft chat s ženským jménem Tay je poučným příkladem naší doby. V březnu 2016 začala Tay pracovat na Twitteru. Thay, složitě naprogramovaný tak, aby napodoboval nervové sítě lidského mozku, se musel poučit od „přátel“- lidí. Očekávalo se, že bude schopna vést složité rozhovory bez filtrů a bez dohledu nad svým chováním. Za pouhých několik hodin zlovolní následovníci Twitteru změnili Tay v internetový trol s rasistickými a sexistickými posměšky. Za méně než 12 hodin to tvůrci vypnuli. Vysoce destruktivní výukový systém Thay utlumil optimismus ohledně samoučících AI a inteligentních robotů.
Starověcí historičky Polybius a Plutarch popsali úmyslně násilnou robotku. Byla vytvořena pro Nabise, posledního krále Sparty, na obraz jeho zlé manželky Apega. Krutý tyran Nabis se dostal k moci v roce 207 př. Nl. E. a během jeho vlády vydíral velké částky peněz od bohatých předmětů. Řečtí sochaři byli slaveni pro své mimořádně realistické portrétní sochy s přírodními tóny, lidskými vlasy a skleněnými oči. Nabis oblékl tento velmi realistický manekýn do oblečení své ženy, které zakrývalo jeho hruď, poseté nehty. Bohatým občanům bylo nejprve dáno hodně vína k pití, a poté, když odmítli platit, byli představeni Apega, což bylo přesvědčivější. Když opilí hosté vstali a pozdravili „královnu“, král Nabis ovládal páky skryté na zádech robota. Zvedla ruce a popadla muže, přitáhla si objetí a přitiskla ho k přibité hrudi. Pro toto a další zvěrstva byl Nabis popraven v roce 192 př.nl. E. O staletí později vymysleli středověcí mučitelé primitivní verzi této sofistikované spartánské „železné dívky“.
Epos Jasona a Argonautů, The Argonauts, také představuje smrtícího robota. Talos je jedním z nejpamátnějších výtvorů Hephaestus. Byl to obrovský bronzový válečník, naprogramovaný tak, aby střežil ostrov Kréta a vrhal balvany na blížící se lodě. Měl také další bojové schopnosti, které napodobují lidskou vlastnost. Jako robot Apega mohl Talos provádět chladivé zkreslení univerzálního znamení tepla - objetí. Talos, který byl schopen zahřát bronzové tělo, objal oběť a pražil ji. Jak Jason a Argonauti unikli této bionické monstrum?
Používání biotechnologií v reakci na biotechnologie. Medea věděla, že Hephaestus vytvořil Talose s jedinou tepnou, skrz kterou mezi krkem a kotníkem cirkuloval jejichor, záhadná životodárná tekutina bohů. Jeden bronzový hřebík utěsnil Talosův „životní systém“.
Medea přesvědčila Talose, že by ho mohla učinit nezranitelným tím, že vytáhne bronzový hřebík. Ale když byl hřeb vytáhnut, jejichor vytékal z Talosu jako roztavený kov a jeho „život“vymizel. Medea využila věčnou touhu imaginárních replikátorů, od Talose po Frankinsteinovo monstrum po Blade Runnera. Věříme, že lidské touhy jsou v nich skryté.
Vyvrcholením projektu laboratoře Hephaestus byla dívka androida, kterou zadal Zeus. Zeus chtěl potrestat lidi za přijetí nebeského tajemství ohně ukradeného Prometheusem. A jejich trest, vytvořený Hefaestem, byl Pandora („ten, kdo vše jedl“). Každý bůh jí dal lidskou vlastnost. Pandora měla krásu, kouzlo, talent pro hudbu, znalost léčivých a jiných věd, inteligenci, odvahu a samozřejmě neukojitelnou zvědavost. Pandora je agentem AI bohů. Objevuje se jako krásná mladá dívka a byla poslána na Zemi s uzavřenou krabicí obsahující další sadu „darů“.
Přátelský titán Prometheus varoval lidi, že by Pandorina skříňka neměla být otevřena. Možná jsou Stephen Hawking, Elon Musk a Bill Gates prometheanskými titány naší doby? Varovali vědce, že je nutné zastavit bezohlednou fascinaci umělou inteligencí, protože jakmile budou vypuštěni, lidé ji nebudou moci ovládat. Algoritmy pro hluboké učení umožňují počítačům AI extrahovat sekvence z obrovského množství dat, extrapolovat do nových situací a rozhodovat bez lidského vedení. Roboti umělé inteligence začnou nevyhnutelně vymýšlet a klást otázky sami. Počítače již vyvinuly altruismus a mazanost na vlastní pěst. Bude AI zvědavá na odhalení tajných znalostí a bude se chovat podle své logiky?
***
Pandorina riskantní, zvědavá lidská povaha ji přinutila otevřít hrudník. Z Pandoriny krabice vyletěl mor, smutek, neštěstí. V jednoduché verzi mýtu je poslední věcí, která vyletěla z Pandoriny krabice, naděje. Ale v podrobnějších a tmavších verzích, místo naděje, poslední věc na hrudi byla „očekávání potíží“. V této verzi Pandora zpanikařil a zabouchl víko a zachytil předvídavost uvnitř. Lidstvo, zbavené schopnosti předpovídat budoucnost, dostalo to, čemu říkáme „naděje“.
Od pradávna debatovali filozofové, zda je v Pandorově krabici ta nejlepší nebo nejhorší věc. Dokud bude lidská vynalézavost, zvědavost a odvážnost pokračovat v prozkoumávání hranic biologického života a smrti, lidí a strojů, bude této otázce čelit každá nová generace. Náš svět je, pokud jde o technologické možnosti, bezprecedentní. Avšak rušivý tah mezi vědeckými nočními můrami a velkolepými sny je věčný. Staří Řekové věděli, že nejdůležitějším rysem lidstva je pokušení dostat se „mimo člověka“.
Začátkem tohoto roku vytvořili inženýři amerického výrobce zbraní Raytheon tři drobné cvičitelné roboty. Říkali jim starověká jména: Zeus, Athena a Hercules. U nervových systémů založených na švábech a chobotnicích dostali malí roboti se solárním pohonem tři dary: schopnost pohybu, přitažlivost k temnotě a schopnost nabíjení na slunci. Roboti se rychle naučili mutovat a brzy si uvědomili, že se buď musí dostat do nesnesitelného světla, aby se mohli dobít nebo zemřít. Tento zdánlivě mírný konflikt ve učení je srovnatelný s „kognitivní ekonomií“, ve které emoce pomáhají mozku alokovat zdroje a strategizovat. Další experimenty umělé inteligence učí počítače, aby rozeznaly, jak cizinci projevují vzájemnou lásku.a jak smrtelníci reagují na negativní a pozitivní emoce.
Poté, co Hawking varoval, že „umělá inteligence může ohlašovat konec lidské rasy,“navrhli někteří vědci výukové roboty o lidských hodnotách a morálce. Bajky, romány a jiná literatura, dokonce i databáze hollywoodských filmových spiknutí může působit jako druh „průvodce lidmi“pro počítač. Jeden takový systém se nazývá Scheherazade, podle hrdinky Tisíce a jedné noci, legendárního perského filozofa-vypravěče, který si pamatoval obrovské množství příběhů zaniklých civilizací. V současné době jsou příběhy jednoduché, ukazují počítači, jak se chová milý, duševně zdravý člověk. Aby se roboti naučili soucitně komunikovat s lidmi a přiměřeně reagovat na jejich emoce, budou do repertoáru počítače přidány složitější grafy. Myšlenka jetyto příběhy získají hodnotu, když AI dosáhne lidské úrovně mentální dovednosti „přenosného učení“, může symbolicky uvažovat s analogiemi a rozhodovat bez výzvy.
Počítače lze modelovat podle lidského mozku, ale lidská mysl nefunguje přesně jako počítač. Dozvíme se, že naše kognitivní schopnosti a racionální myšlení závisí na emocích. Příběhy přitahují emoce, patos. Příběhy žijí tak dlouho, dokud vyvolávají vágní emoce, pokud rezonují se skutečnými dilematy a jsou vhodné k reflexi. V dávné minulosti Řekové vyprávěli příběhy, aby pochopili lidstvo, které touží překonat biologické limity. Biotechnologické mýty jsou důkazem přetrvávání diskursu kolem toho, co to znamená být člověkem. Vhled a moudrost mýtů přispívají k hloubce našich rozhovorů o umělé inteligenci. Mohly by některé z těchto mýtů pomoci AI lépe pochopit protichůdné touhy lidstva? Možná jednoho dne budou subjekty AI chápat nejhlubší touhy a obavy smrtelníků,líčeny ve starověkých mýtech a jsou si vědomi našich složitých očekávání od sebe samých. Tím, že se učí, že je lidé předvídali a přemýšleli o některých výzvách, které by jim mohly přijít, mohou lépe porozumět výzvám, s nimiž nás zaměňují.
Vznik „kultury“robotů AI se již nezdá být příliš přitažlivý. Vynálezci AI a mentoři již vytvářejí loga, étos a patos této kultury. Jak se lidé zdokonalují technologií a stávají se stále více podobnými strojům, v robotech se probudí něco, co připomíná lidstvo. Blížíme se k tomu, co někteří nazývají novým úsvitem lidskosti. Až přijde ten den, jaké mýty si řekneme sami sobě? Odpověď také určí, jak a co se roboti naučí.
Autor: Adrien Mayor