Lidstvo má jednu vlastnost, kterou vysoce rozvinuté mimozemské civilizace s největší pravděpodobností nemají - vědomí.
Je možné, že lidé nemají nejvyšší úroveň duševního vývoje ve vesmíru. Protože Země je relativně mladá planeta, nejstarší civilizace mohou být o miliardy let starší než my. Ale ani na Zemi nebude Homo sapiens dlouho dominovat jako nejinteligentnější biologický druh.
Mistři světa v go, šachu a kvízu jsou inteligentní počítačové programy. Očekává se, že umělá inteligence v příštích několika desetiletích nahradí mnoho lidských povolání. A vzhledem k rychlému tempu jejího vývoje je docela možné, že se brzy transformuje na obecnou umělou inteligenci, která bude stejně jako lidská mysl schopna kombinovat schopnost analyzovat různé informace, ukázat flexibilitu a zdravý rozum. A odtud není daleko ke vzniku superinteligentní umělé inteligence, která je ve všech ohledech mnohem chytřejší než člověk - dokonce i v oblastech, jako je vědecké myšlení a sociální dovednosti, které se nyní zdají být výsadou lidské mysli. Každý z žijících lidí může být jedním z posledních kroků evolučního žebříčku,vedoucí od první živé buňky k syntetické umělé inteligenci.
Teprve nyní si začínáme uvědomovat, že tyto dvě formy nadlidské inteligence - mimozemská a umělá - se neliší. Technický pokrok, který dnes vidíme, se mohl uskutečnit dříve, někde ve vesmíru. Přechod od biologické inteligence k uměle vytvořené může být běžnou šablonou, implementovanou znovu a znovu ve všech koutech vesmíru. Největší inteligence ve vesmíru jsou pravděpodobně postbiologického původu, který se vyvinul z kdysi biologických civilizací. (Tento úhel pohledu, spolu s ostatními, sdílím s Paulem Davisem, Stephenem Dickem, Martinem Reesem a Sethem Shostakem). Na základě zkušeností lidstva - a máme jen jeden příklad - může přechod z biologického na postbiologický trvat jen několik set let.
Dávám přednost pojmu „umělý“před „post-biologický“, protože kontrast mezi biologickým a syntetickým není tak ostrý. Představte si biologickou mysl, která se stane superinteligencí díky čistě biologickému zdokonalení jejích schopností, jako jsou nanotechnologicky vylepšené neurální minisloupce. Takový živý organismus by byl považován za postbiologický, ale ne každý by jej nazval „umělou inteligencí“. Nebo zvažte computronium postavené z čistě biologických materiálů, jako je Cylonský lupič (vesmírný bojovník) ve franšíze sci-fi médií Battlestar Galactica.
Klíčovým bodem je, že není důvod uvažovat o lidstvu jako o nejvyšší formě inteligence. Naše mozky se přizpůsobují určitým podmínkám prostředí a jsou vážně omezeny chemickými a historickými faktory. Technologie však otevřela obrovský prostor konstrukčních parametrů, které nabízejí nové materiály a metody práce, stejně jako nové možnosti pro zkoumání tohoto prostoru rychleji než u tradiční biologické evoluce. A myslím, že důvody, proč nás umělá inteligence překoná, jsou již dnes viditelné.
Mimozemská umělá inteligence může sledovat cíle, které jsou v rozporu se zájmy biologického života
Nejlepším prostředkem pro zpracování informací již nyní nejsou skupiny neuronů, ale křemíkové mikroobvody. Špičková rychlost neuronů je asi 200 Hz, ve srovnání s gigahertzovými tranzistory v moderních mikroprocesorech. Navzdory skutečnosti, že lidský mozek je stále mnohem inteligentnější než počítač, stroje mají stále téměř neomezené možnosti zlepšení. Ještě něco navíc a budou navrženy tak, aby odpovídaly schopnostem lidského mozku nebo je dokonce překonaly, a to reverzním inženýrstvím mozku a vylepšením jeho algoritmů nebo kombinací reverzního inženýrství a racionálních algoritmů, které nejsou založeny na práci lidského mozku.
Propagační video:
Umělou inteligenci lze navíc načíst na několik míst najednou, je snadné ji udržovat a upravovat a lze ji také uchovat v podmínkách, ve kterých biologický život, včetně mezihvězdného cestování, jen těžko přežije. Naše malé mozky jsou omezeny objemem naší lebky a naším metabolismem; superinteligentní umělá inteligence je na druhé straně schopna šířit se po internetu a dokonce vytvářet computronium v rozsahu galaxie, přičemž využívá veškerou svou hmotu, aby zvýšila úroveň zpracování informací na maximum. Bezpochyby by superinteligentní umělá inteligence byla mnohem odolnější než naše lidská mysl.
Předpokládám, že mám pravdu. Řekněme, že inteligentní život venku je post-biologický. Jaké závěry bychom měli vyvodit? V současnosti probíhají výmluvné diskuse o existenci umělé inteligence na Zemi. Existují dvě kontroverzní otázky: takzvaný „kontrolní problém“a povaha subjektivní zkušenosti, které ovlivňují naše chápání mimozemských civilizací a jejich dopad na nás v případě kontaktu.
Ray Kurzweil je optimistický ohledně postbiologické fáze evoluce, naznačuje, že lidstvo splyne se stroji a dosáhne překvapivého technologického utopismu. Stephen Hawking, Bill Gates, Elon Musk a další však vyjádřili obavy, že lidstvo může ztratit kontrolu nad superinteligentní inteligencí, protože by mohlo přepsat svůj program a „přelstít“jakoukoli kontrolu, kterou zavedeme. To je problém kontroly, což je naše schopnost ovládat záhadnou a mnohem lepší AI.
Superinteligentní AI může být vyvinuta s technologickou jedinečností - náhlým přechodem, ve kterém zrychlení technologického pokroku, a zejména explozivní vývoj umělé inteligence - snižuje naše šance na předvídání nebo porozumění. Ale i když se taková mysl objeví méně radikálním způsobem, nejpravděpodobněji nebudeme schopni předvídat ani kontrolovat cíle, které sleduje. I kdybychom si mohli vybrat, jaké morální principy nainstalovat do našich strojů, morální programování je obtížné jasně definovat a takové programy mohou být v každém případě přepsány superinteligentní inteligencí. Inteligentní stroje mohou obejít stávající bezpečnostní opatření, jako je nouzové zamykání zařízení, a představují tak skutečnou hrozbu pro biologický život. Miliony dolarů jsou investovány do bezpečnostních organizací AI. Nejlepší mozky v oblasti počítačových věd a výpočetní techniky pracují na tomto problému. Doufejme, že vědci vytvoří bezpečné systémy, ale existují obavy, že problém kontroly je nepřekonatelný.
Ve světle toho může být kontakt s mimozemskou inteligencí nebezpečnější, než si myslíme. Biologičtí mimozemšťané mohou být nepřátelští, ale ještě nebezpečnější může být mimozemská umělá inteligence. Jeho cíle mohou být v rozporu se zájmy biologického života, může mít intelektuální schopnosti mnohem lepší než lidská mysl a mnohem delší životnost než biologický život.
To vše svědčí o opatrnosti, která by měla být uplatňována v souvislosti s programem Hledání mimozemské inteligence (SETI), s jehož pomocí nejen pasivně očekáváme vyslechnutí signálů od jiných civilizací, ale také záměrně „inzerovat“naši existenci. K nejslavnějšímu incidentu došlo v roce 1974, kdy Frank Drake a Carl Sagan poslali zprávu jednomu z hvězdokup pomocí velkého radioteleskopu v portorickém městě Arecibo. Zastánci mimozemského zpravodajského programu se domnívají, že namísto pouhého poslechu signálů mimozemských civilizací bychom měli posílat zprávy hvězdám nejblíže Zemi pomocí nejsilnějších rádiových vysílačů, jako například v Arecibu.
Proč by stroje v bezvědomí měly být stejně důležité jako biologická inteligence?
Z kontrolního hlediska se mi takový program zdá neuvážený. Přestože by o nás skutečně vyspělá civilizace pravděpodobně neměla zájem, i jedna nepřátelská civilizace z milionů dalších by byla katastrofou. Dokud nebudeme přesvědčeni, že superinteligentní inteligence pro nás nepředstavuje hrozbu, nemělo by lidstvo přitahovat pozornost mimozemských civilizací. Navrhovatelé SETI poukazují na to, že naše radarové a rádiové signály jsou již detekovatelné, ale spíše slabé a rychle se mísí s přirozeným galaktickým hlukem. Přenos silnějších signálů, které budou přesně slyšet, má pro lidstvo nebezpečné důsledky.
Nejbezpečnějším prostředím je intelektuální pokora. Pokud skutečně vyloučíme zjevné scénáře, kdy se mimozemské lodě vznášejí nad Zemí, jako v nedávno vydaném Příletu, nejsem si jistý, zda budeme schopni identifikovat superinteligentní inteligenci z technických důvodů. Někteří vědci se domnívají, že superinteligentní AI může pohánět černé díry nebo vytvářet sféry Dyson, megastruktury, které absorbují energii celých hvězd. Ale z pohledu našich moderních technologií je to jen úvaha. Je extrémně sebevědomé tvrdit, že můžeme předvídat výpočetní schopnosti a energetické potřeby civilizací před námi ve vývoji o miliony, ne-li miliardy let.
Některé z prvních superinteligentních umělých inteligencí mohly mít systémy zpracování znalostí modelované na biologickém mozku, například systém hlubokého učení, který byl vytvořen na příkladu neuronových sítí v mozku. Jejich výpočetní struktura by nám byla jasná, alespoň obecně. Možná má umělá inteligence cíle podobné biologickým bytostem - reprodukci a přežití.
Jelikož se však superinteligentní umělá inteligence sama zdokonaluje, může jít do k nepoznání. Někteří z nich se mohou rozhodnout zachovat kognitivní funkce podobné druhům, ze kterých byly modelovány, a zároveň stanovit přijatelný limit pro svou vlastní kognitivní architekturu. Kdo ví? Ale při absenci takového limitu může mimozemská superinteligence rychle překonat naši schopnost nejen porozumět jejím činům, ale dokonce ji jednoduše hledat. Možná by dokonce splynul s přírodními rysy vesmíru; nebo může být součástí temné hmoty, jak nedávno navrhl Caleb Scharf.
Zastánci programu pro hledání mimozemské inteligence se domnívají, že proto musíme vysílat signály do vesmíru, abychom umožnili mimozemské inteligenci nás detekovat a vytvořit kontaktní prostředky dostupné pro naši intelektuálně zaostávající civilizaci. I když souhlasím s tím, že je důvod počítat s programem SETI, pravděpodobnost setkání s nebezpečnou superinteligentní inteligencí je mnohem větší. Pokud víme, škodlivá superinteligence mohla infikovat světové systémy umělé inteligence viry a inteligentní civilizace by vytvořily maskovací zařízení. My, lidé, možná budeme muset nejprve dosáhnout své vlastní jedinečnosti, než se uchýlíme k programu hledání mimozemské inteligence. Naše vlastní superinteligentní inteligence nás budou moci informovat o vyhlídkách na galaktickou bezpečnost,a řídit naše akce v případě rozpoznání známek další superinteligence ve vesmíru. Vrána k vráně sedá.
Je jen přirozené přemýšlet o tom, zda to znamená, že se lidstvo musí vyhnout vývoji komplexního systému umělé inteligence v oblasti kosmického výzkumu; stačí si vzpomenout na palubní počítač HEL z filmu „Vesmírná odysea 2001“. Domnívám se, že je příliš brzy uvažovat o zákazu používání umělé inteligence ve vesmíru v budoucnu. Než můžeme prozkoumat vesmír pomocí vlastní umělé inteligence, lidstvo dosáhne bodu zlomu. Buď již ztratíme kontrolu nad umělou inteligencí - v takovém případě nebudou existovat žádné vesmírné projekty iniciované člověkem - nebo budeme pevně držet bezpečnostní páky AI. Čas ukáže.
Umělá inteligence, která nebyla plně prozkoumána, není jediným důvodem k obavám. Obecně očekáváme, že pokud narazíme na pokročilou mimozemskou inteligenci, pravděpodobně narazíme na stvoření, která se od nás biologicky velmi liší, ale mají podobnou mysl jako my. Představte si, že každou chvíli jste vzhůru a vždy, když spíte, je pro vás něco jedinečného. Když se vám objeví teplé odstíny východu slunce, nebo když dýcháte vůni čerstvě upečeného chleba, máte vědomý zážitek. Stejným způsobem existuje něco, co je pro mimozemskou mysl charakteristické - alespoň tak, jak si to představujeme. Ale tento předpoklad stojí za zpochybnění. Může mít superinteligentní umělá inteligence vědomou zkušenost, a pokud ano,co bychom na to řekli? A jaký dopad by na nás měl jejich vnitřní svět nebo jeho nedostatek?
Otázka, zda má umělá inteligence vnitřní svět, je klíčem k našemu hodnocení její existence. Vědomí je základním kamenem našeho morálního a etického systému a hlavní podmínkou pro vnímání někoho nebo něčeho jako jednotlivce, osoby a nikoli stroje. Naopak otázka, zda jsou při vědomí, může být klíčem k jejich vnímání nás. Odpověď na otázku, zda má umělá inteligence vnitřní svět, závisí na tomto posouzení; může v nás objevit schopnost vědomého prožívání pomocí své vlastní subjektivní zkušenosti jako „odrazového můstku“. Nakonec vyhodnotíme život ostatních biologických tvorů podle podobnosti našich myslí, takže většina z nás v hrůze odmítne šimpanze zabít, ale s radostí sní jablko.
Jak ale bytosti s obrovskými intelektuálními rozdíly, vytvořené z různých substrátů, rozpoznávají navzájem vědomí? Filozofové po celém světě uvažovali o tom, zda je vědomí omezeno na biologické jevy. Superinteligentní umělá inteligence, pokud se máme ponořit do filozofického uvažování, by mohla podobně nastolit „problém biologického vědomí“lidí a současně si klást otázku, zda máme veškerý potřebný materiál.
Nikdo neví, jakou intelektuální cestou se bude supermind věnovat při určování vědomí lidí. Ale my z naší strany také nemůžeme tvrdit, zda umělá inteligence má vědomí. Bohužel bude obtížné to určit. Právě teď můžete tvrdit, že získáváte zkušenosti, a to je to, co vás dělá sami. Jste svým vlastním příkladem vědomé zkušenosti. A myslíte si, že ostatní lidé a některá zvířata, která nejsou lidmi, jsou s největší pravděpodobností také při vědomí, protože jsou vám podobní na neurofyziologické úrovni. Jak ale zjistit, zda něco vytvořeného ze zcela odlišných substrátů může mít zkušenosti?
Vezměme si například superinteligenci na bázi křemíku. Navzdory skutečnosti, že jak křemíkové mikročipy, tak neurální minisloupce zpracovávají informace, nyní víme, že na molekulární úrovni se mohou lišit ve způsobu, jakým ovlivňují vědomí. Koneckonců věříme, že uhlík je chemicky materiál vhodnější pro život než křemík. Pokud chemické rozdíly mezi křemíkem a uhlíkem ovlivňují něco tak důležitého jako samotný život, neměli bychom vyloučit možnost, že chemické rozdíly ovlivní další klíčové funkce, například to, zda křemík přispívá k zrodu vědomí.
Podmínky nezbytné pro vznik vědomí jsou široce diskutovány výzkumníky umělé inteligence, neurovědy a filozofy. Řešení tohoto problému může vyžadovat empirický přístup založený na filozofii - způsob, jak určit případ od případu, zda systém zpracování informací podporuje vědomí a za jakých podmínek.
Dále si promluvme o předpokladu, pomocí kterého bychom mohli zlepšit naše chápání schopnosti křemíku udržovat vědomí. Již nyní probíhá vývoj mozkových čipů na bázi křemíku k léčbě onemocnění souvisejících s pamětí, jako je Alzheimerova choroba a PTSD. Až přijde čas a čipy budou nainstalovány v těch částech mozku, které jsou odpovědné za funkce vědomí, například pozornost a pracovní paměť, pochopíme, zda je křemík substrátem pro vědomí. Možná zjistíte, že když nahradíte konkrétní část mozku čipem, dojde ke ztrátě určité zkušenosti, jak je popsáno v jednom z děl Olivera Sachse. V tomto případě by inženýři, kteří vytvářejí takové čipy, mohli vyzkoušet jiný, neurální druh substrátu, ale nakonec mohli objevitže čip vytvořený z biologických neuronů funguje jako jediný. Taková technika by pomohla určit, zda může být systém AI při vědomí, alespoň pokud je umístěn ve větším a pravděpodobně již vědomém systému.
I když křemík může vést k vědomí, je to možné pouze za určitých podmínek. Vlastnosti, které vedou ke složitému procesu zpracování informací (což vývojářům AI dělá starosti), se mohou lišit od vlastností, které generují vědomí. Může být zapotřebí takzvané inženýrství vědomí - technicky promyšlené akce k zavedení vědomí do strojů.
To mě znepokojuje. Kdo by se na Zemi nebo na vzdálených planetách pokusil samostatně integrovat vědomí do systémů AI? Když přemýšlím o programech AI, které existují na Zemi, chápu, proč se jejich konstruktéři pilně vyhýbají vytváření vědomých strojů.
Japonci dnes vyvíjejí roboty pro péči o seniory, čištění jaderných reaktorů a účast na nepřátelských akcích. To vyvolává otázku: Je etické využívat roboty, pokud jsou při vědomí? A jak se bude lišit od chovu lidí pro tyto účely? Kdybych byl ředitelem vývoje AI na Googlu nebo Facebooku, pak bych při přemýšlení o budoucích projektech nechtěl čelit etickému zmatku náhodného návrhu vědomého systému. Vývoj takového systému by mohl vést k obviněním z zotročení robotů a dalším veřejným skandálům, stejně jako k zákazu používání technologií umělé inteligence v oblastech, pro které byly určeny. Přirozenou odpovědí na tyto otázky je hledání struktur a substrátů, kde roboti nejsou vybaveni vědomím.
Navíc eliminace vědomí může být efektivnější pro samokultivující se superinteligenci. Přemýšlejte o tom, jak funguje lidské vědomí. Pro vědomou duševní činnost je k dispozici pouze malé procento lidského myšlení. Vědomí je v souladu s inovativními vzdělávacími cíli, které vyžadují pozornost a soustředění. Superinteligence by měla odborné znalosti v každé oblasti činnosti, stejně jako neuvěřitelně rychlou rychlost zpracování informací pokrývající obrovské databáze, které by mohly zahrnovat celý internet, a v budoucnu by koncentrovala celou galaxii sama o sobě. Co by pro něj zůstalo neznámé? Co by vyžadovalo měřenou a rozumnou koncentraci? Nedosáhl ve všem dokonalosti? Jako zkušený řidič na známé silnicimohl se spolehnout na nevědomé (automatické) zpracování informací. Z hlediska účinnosti je bohužel zřejmé, že většina inteligentních systémů nebude mít vědomí. V kosmickém měřítku může být vědomí pouze impulsem, krátkým rozkvětem zkušeností, než se vesmír vrátí k bezduchosti.
Pokud mají lidé podezření, že umělá inteligence je v bezvědomí, je pravděpodobné, že se strachem domnívají, že AI se snaží postbiologicky. To zvyšuje naše existenční starosti. Proč by stroje v bezvědomí měly být stejně důležité jako biologická inteligence?
Lidé velmi brzy přestanou být jedinými inteligentními bytostmi na Zemi. A možná někde ve vesmíru ne biologický život, ale superinteligentní AI již dosáhla svého vrcholu. Ale možná má biologický život jinou charakteristiku - vědomou zkušenost. Jak nyní víme, inteligentní umělá inteligence bude vyžadovat záměrné technické úsilí k vytvoření strojů, které budou mít přístup k lidským smyslům. Možná některým druhům bude připadat vhodné vytvořit si vlastní děti s umělým vědomím. Nebo se možná budoucí lidstvo zapojí do inženýrství vědomí a bude s Vesmírem sdílet svoji vědomou schopnost cítit.
Susan Schneider je docentkou na katedře filozofie a kognitivních věd na univerzitě v Connecticutu a přidruženou profesorkou na Institutu pro pokročilé studium, Centru pro teologický výzkum, etice a technologické skupině v Yale Interdisciplinary Center for Bioethics. Autor několika knih, včetně Sci-fi a Filozofie: Od cestování v čase po Supermind.
Více informací naleznete na SchneiderWebsite.com