Před vámi je druhá část článku ze seriálu „Počkejte, jak to všechno může být skutečné, proč se o tom stále nemluví v každém rohu“. V předchozí sérii se ukázalo, že exploze inteligence se postupně vkrádá k lidem planety Země, snaží se vyvíjet z úzce zaměřené na univerzální inteligenci a konečně umělou superintelligence.
"Možná čelíme nesmírně obtížnému problému a není známo, kolik času je věnováno na jeho řešení, ale budoucnost lidstva může záviset na jeho řešení." - Nick Bostrom.
První část článku začala dostatečně nevinně. Diskutovali jsme o úzce zaměřené umělé inteligenci (AI, která se specializuje na řešení jednoho konkrétního problému, jako je určování cest nebo hraní šachů), v našem světě je toho hodně. Poté analyzovali, proč je tak obtížné pěstovat obecnou umělou inteligenci (AGI, nebo AI, která je z hlediska intelektuálních schopností srovnatelná s člověkem při řešení jakéhokoli problému) tak obtížná. Došli jsme k závěru, že exponenciální tempo technologického pokroku naznačuje, že AGI může být brzy za rohem. Nakonec jsme se rozhodli, že jakmile stroje dosáhnou lidské inteligence, může se stát následující:
Jako obvykle se díváme na obrazovku a nevěříme, že se během našeho života může objevit umělá superintelligence (ISI, která je mnohem chytřejší než kterákoli jiná osoba), a vybíráme emoce, které nejlépe odrážejí náš názor na tuto otázku.
Propagační video:
Než se pustíme do specifik ISI, připomeňme si, co to znamená, aby byl stroj superinteligentní.
Hlavní rozdíl spočívá v rychlé superintelligence a kvalitě superintelligence. První věc, která přichází na mysl, když přemýšlím o superinteligentním počítači, je to, že umí myslet mnohem rychleji než člověk - milionkrát rychlejší a za pět minut pochopí, co by člověk vzal za deset let. ("Já vím kung fu!")
Zní to působivě a ISI by měl myslet rychleji než kdokoli z lidí - ale hlavní oddělovací funkcí bude kvalita jeho intelektu, což je docela další. Lidé jsou mnohem chytřejší než opice, ne proto, že přemýšlejí rychleji, ale proto, že jejich mozky obsahují řadu důmyslných kognitivních modulů, které provádějí složité jazykové reprezentace, dlouhodobé plánování, abstraktní myšlení, které opice nejsou schopny. Pokud tisíckrát zrychlíte mozek opice, nebude to chytřejší než my - ani po deseti letech nebude možné sestavit konstruktéra podle pokynů, což by člověku trvalo maximálně několik hodin. Jsou věci, které se opice nikdy nenaučí, bez ohledu na to, kolik hodin tráví nebo jak rychle funguje její mozek.
Opice navíc neví, jak lidsky, protože její mozek prostě není schopen realizovat existenci jiných světů - opice může vědět, co je člověk a co je mrakodrap, ale nikdy nechápe, že mrakodrap byl postaven lidmi. Ve svém světě vše patří k přírodě a makak nejenže nemůže postavit mrakodrap, ale také pochopit, že ho může postavit kdokoli. A to je výsledek malého rozdílu v kvalitě inteligence.
Ve všeobecném schématu inteligence, o kterém mluvíme, nebo jednoduše podle standardů biologických bytostí, je rozdíl v kvalitě inteligence mezi lidmi a opicemi malý. V předchozím článku jsme kladli biologické kognitivní schopnosti na žebřík:
Abyste pochopili, jak vážný bude superinteligentní stroj, umístěte jej na tento žebřík o dva zářezy výše než osoba. Tento stroj může být jen trochu superinteligentní, ale jeho nadřazenost nad našimi kognitivními schopnostmi bude stejná jako u našich - u opic. A stejně jako šimpanz nikdy nepochopí, že mrakodrap může být postaven, nemůžeme nikdy pochopit, co stroj o pár kroků výše pochopí, i když se nám to stroj snaží vysvětlit. Ale to je jen pár kroků. Chytřejší stroj v nás uvidí mravence - naučí nás nejjednodušší věci ze své pozice po celá léta a tyto pokusy budou zcela beznadějné.
Typ superintelligence, o kterém dnes mluvíme, leží daleko za tímto žebříkem. Jedná se o explozi inteligence - když se chytřejší auto stane, tím rychleji může zvýšit svou vlastní inteligenci a postupně zvyšovat rychlost. Může trvat roky, než stroj jako je tento překoná šimpanze ve inteligenci, ale možná pár hodin nás předčí o pár kroků. Od této chvíle může auto již každou sekundu přeskočit o čtyři kroky. Proto bychom měli pochopit, že velmi brzy poté, co se objeví první zpráva, že stroj dosáhl úrovně lidské inteligence, můžeme čelit realitě soužití na Zemi s něčím, co bude na tomto žebříčku mnohem vyšší než my (nebo možná a milionykrát vyšší):
A protože jsme zjistili, že je naprosto zbytečné snažit se pochopit sílu stroje, který je jen dva kroky nad námi, definujme jednou provždy, že neexistuje způsob, jak pochopit, co ISI udělá a jaké to pro nás bude mít následky. Každý, kdo tvrdí, že právě naopak, nechápe, co to znamená superintelligence.
Evoluce pomalu a postupně vyvinula biologický mozek po stovky milionů let, a pokud lidé vytvoří superinteligentní stroj, v jistém smyslu překonáme evoluci. Nebo to bude součástí evoluce - možná evoluce funguje takovým způsobem, že inteligence se vyvíjí postupně, dokud nedosáhne bodu zlomu, který ohlašuje novou budoucnost pro všechny živé věci:
Z důvodů, o nichž budeme diskutovat později, se velká část vědecké komunity domnívá, že otázkou není, zda se dostaneme k tomuto bodu zlomu, ale kdy.
Kde potom skončíme?
Myslím, že nikdo na tomto světě ani já ani vy nebudeme schopni říct, co se stane, když dosáhneme bodu zvratu. Oxfordský filozof a přední teoretik AI Nick Bostrom je přesvědčen, že všechny možné výsledky můžeme převést do dvou širokých kategorií.
Nejprve, když se podíváme na historii, víme o životě následující: druhy se objevují, existují po určitou dobu, a pak nevyhnutelně odpadnou z rovnováhy života a vymizí.
„Všechny druhy vymřou“byly v historii stejně spolehlivým pravidlem jako „všichni lidé jednoho dne umírají“. 99,9% druhů spadlo ze žurnálu života a je jasné, že pokud nějaký druh visí na tomto žurnálu příliš dlouho, poryv přirozeného větru nebo náhlý asteroid otočí žurnál. Bostrom nazývá vyhubení stavem přitažlivosti - místem, kde se všechny druhy vyrovnávají, aby neklesly tam, kde se žádný druh nevrátil.
A ačkoli většina vědců připouští, že ISI bude mít možnost odsoudit lidi k vyhynutí, mnozí se také domnívají, že využití schopností ISI umožní jednotlivcům (a druhům jako celku) dosáhnout druhého stavu přitažlivosti - druhové nesmrtelnosti. Bostrom věří, že nesmrtelnost druhu je stejně přitažlivá jako vyhynutí druhu, to znamená, že pokud se k tomu dostaneme, budeme odsouzeni k věčné existenci. Přestože všechny druhy dosud spadly z této hůlky do zániku záhyby, Bostrom věří, že deník má dvě strany, a na Zemi se prostě neobjevila taková inteligence, která by pochopila, jak padnout na druhou stranu.
Pokud má Bostrom a další pravdu a soudí podle všech dostupných informací, může to tak být, musíme přijmout dvě velmi šokující fakta:
1. Vznik ISI poprvé v historii otevře druhům možnost dosáhnout nesmrtelnosti a vypadnout ze smrtelného cyklu vyhynutí.
2. Vznik ISI bude mít tak nepředstavitelně obrovský dopad, že s největší pravděpodobností vytlačí lidstvo z tohoto paprsku jedním nebo druhým směrem.
Je možné, že když vývoj dosáhne takového bodu obratu, vždy ukončí vztah lidí s proudem života a vytvoří nový svět, s lidmi nebo bez nich.
To vyvolává zajímavou otázku, kterou by se neptal jen bummer: Kdy se dostaneme k tomuto bodu zvratu a kam nás zavede? Nikdo na světě nezná odpověď na tuto dvojitou otázku, ale mnoho chytrých lidí se ji pokusilo přijít na desetiletí. Ve zbytku článku zjistíme, odkud pocházejí.
* * *
Začněme první částí této otázky: kdy bychom měli dosáhnout bodu zlomu? Jinými slovy: kolik času zbývá, než první stroj dosáhne superinteligence?
Názory se liší případ od případu. Mnoho, včetně profesora Vernora Vinge, vědce Ben Herzela, spoluzakladatele Sun Microsystems Bill Joy, futuristu Ray Kurzweila, souhlasilo s odborníkem na strojové učení Jeremy Howardem, když na TED Talk představil následující graf:
Tito lidé sdílejí názor, že ISI se blíží - tento exponenciální růst, který se nám dnes zdá pomalý, bude v příštích několika desetiletích doslova explodovat.
Jiní, jako je spoluzakladatel společnosti Microsoft Paul Allen, výzkumný psycholog Gary Marcus, počítačový expert Ernest Davis a technologický podnikatel Mitch Kapor, se domnívají, že myslitelé jako Kurzweil vážně podceňují velikost problému a domníváme se, že nejsme tak blízko bodu zlomu.
Kurzweilův tábor tvrdí, že jediným podceňováním, které se vyskytuje, je ignorování exponenciálního růstu a pochybovače lze srovnávat s těmi, kdo se podívali na pomalu se rozvíjející internet v roce 1985 a tvrdili, že by to nemělo v blízké budoucnosti dopad na svět.
Pochybníci mohou odrazit, že je obtížnější, aby pokrok učinil každý další krok, pokud jde o exponenciální vývoj inteligence, který neutralizuje typickou exponenciální povahu technologického pokroku. Atd.
Třetí tábor, ve kterém je Nick Bostrom umístěn, nesouhlasí s prvním nebo druhým, argumentujíc, že a) to vše se může v blízké budoucnosti absolutně stát; a b) neexistuje žádná záruka, že k tomu vůbec dojde nebo že to bude trvat déle.
Jiní, jako filosof Hubert Dreyfus, věří, že všechny tři skupiny naivně věří, že dojde k bodu zlomu, a že se k ISI pravděpodobně nikdy nedostaneme.
Co se stane, když všechny tyto názory dáme dohromady?
V roce 2013 provedl Bostrom průzkum, ve kterém provedl rozhovor se stovkami odborníků v oblasti umělé inteligence během řady konferencí na toto téma: „Jaké budou vaše předpovědi pro dosažení AGI na lidské úrovni?“a požádali nás, abychom jmenovali optimistický rok (ve kterém budeme mít AGI s 10% pravděpodobností), realistický předpoklad (rok, ve kterém budeme mít AGI s 50% pravděpodobností) a sebevědomý předpoklad (nejranější rok, ve kterém se AGI objeví od 90 -percentní pravděpodobnost). Zde jsou výsledky:
- Průměrný optimistický rok (10%): 2022
- Průměrný realistický rok (50%): 2040
- Průměrný pesimistický rok (90%): 2075
Průměrní respondenti se domnívají, že za 25 let budeme mít AGI spíše než ne. 90% šance na výskyt AGI do roku 2075 znamená, že pokud jste nyní ještě docela mladí, pravděpodobně se to stane během vašeho života.
Samostatná studie, kterou nedávno provedl James Barratt (autor uznávané a velmi dobré knihy Naše nejnovější vynález, výňatky, ze kterých jsem upozornil čtenáře Hi-News.ru) a Ben Hertzel na každoroční konferenci AGI, jednoduše ukázaly názory lidí vzhledem k roku jsme se dostali k AGI: 2030, 2050, 2100, později nebo nikdy. Zde jsou výsledky:
- Do roku 2030: 42% respondentů
- Do roku 2050: 25%
- Do 2100: 20%
- Po roce 2100: 10%
- Nikdy: 2%
Podobné výsledky Bostromu. Podle Barrattovy ankety bude více než dvě třetiny dotázaných věřit, že AGI bude do roku 2050, a méně než polovina věří, že se AGI objeví v příštích 15 letech. Je také zarážející, že pouze 2% respondentů v zásadě nevidí AGI v naší budoucnosti.
Ale AGI není bod zvratu jako ISI. Kdy podle odborníků budeme mít ISI?
Bostrom se zeptal odborníků, kdy dorazíme na ASI: a) dva roky po dosažení AGI (to je téměř okamžitě kvůli explozi inteligence); b) po 30 letech. Výsledek?
Průměrný názor je, že k rychlému přechodu z AGI na ISI dojde s pravděpodobností 10%, ale za 30 let nebo méně dojde s pravděpodobností 75%.
Z těchto údajů nevíme, jaké datum by respondenti nazvali 50% pravděpodobností ASI, ale na základě výše uvedených odpovědí předpokládejme, že je to 20 let. To znamená, že přední světoví odborníci na umělou inteligenci věří, že zlom nastane v roce 2060 (AGI se objeví v roce 2040 + bude to trvat 20 let pro přechod z AGI na ISI).
Všechny výše uvedené statistiky jsou samozřejmě spekulativní a představují pouze názor odborníků v oblasti umělé inteligence, ale také poukazují na to, že většina dotčených lidí souhlasí s tím, že do roku 2060 pravděpodobně dorazí umělá inteligence. Za pouhých 45 let.
Pojďme k druhé otázce. Když se dostaneme k bodu zlomu, která strana fatální volby nás určí?
Superintelligence bude mít nejsilnější moc a kritická otázka pro nás bude následující:
Kdo nebo co bude řídit tuto moc a jaká bude jejich motivace?
Odpověď na tuto otázku bude záviset na tom, zda ISI získává neuvěřitelně silný vývoj, nesmírně děsivý vývoj nebo něco mezi tím.
Odborná komunita se samozřejmě snaží také odpovědět na tyto otázky. Bostromův průzkum analyzoval pravděpodobnost možných důsledků dopadu AGI na lidstvo a ukázalo se, že s 52 procentní šancí všechno půjde velmi dobře as 31 procentní šancí všechno půjde špatně nebo extrémně špatně. Průzkum připojený na konci předchozí části tohoto tématu, provedený mezi vámi, vážení čtenáři Hi-News, ukázal přibližně stejné výsledky. Pro relativně neutrální výsledek byla pravděpodobnost pouze 17%. Jinými slovy, všichni věříme, že AGI bude velký problém. Je také třeba poznamenat, že tento průzkum se týká vzniku AGI - v případě ISI bude procento neutrality nižší.
Než začneme hlouběji přemýšlet o dobrých a špatných stranách otázky, spojme obě strany otázky - „kdy se to stane?“a „je to dobré nebo špatné?“do tabulky, která zahrnuje názory většiny odborníků.
O hlavním táboře si promluvíme za minutu, ale nejprve se rozhodněte o vaší pozici. Pravděpodobně jste na stejném místě, kde jsem byl, než jsem začal pracovat na tomto tématu. Existuje několik důvodů, proč lidé o tomto tématu vůbec nemyslí:
- Jak bylo uvedeno v první části, filmy vážně zaměňovaly lidi a fakta a představovaly nerealistické scénáře s umělou inteligencí, což vedlo k tomu, že bychom AI neměli brát vážně vůbec. James Barratt přirovnal tuto situaci k tomu, že byl vydán Centers for Disease Control (CDC) s vážným varováním před upíry v naší budoucnosti.
- Kvůli tzv. Kognitivním předsudkům je pro nás velmi obtížné uvěřit, že něco je skutečné, dokud nemáme důkaz. Lze si s jistotou představit, že počítačoví vědci z roku 1988 pravidelně diskutují o dalekosáhlých důsledcích internetu a o tom, co by se mohlo stát, ale lidé stěží věřili, že by to změnilo jejich životy, dokud by se to skutečně nestalo. Je to jen to, že počítače nevěděly, jak to udělat v roce 1988, a lidé se jen dívali na své počítače a mysleli si: „Opravdu? Je to to, co změní svět? “Jejich představivost byla omezena tím, co je jejich osobní zkušenost naučila, věděli, co je počítač, a bylo těžké si představit, co by počítač mohl v budoucnu dokázat. Totéž se děje nyní s AI. Slyšeli jsme, že se to stane vážnou věcíAle protože jsme se s tím ještě nesetkali tváří v tvář a obecně pozorujeme spíše slabé projevy umělé inteligence v našem moderním světě, je pro nás obtížné uvěřit, že to radikálně změní náš život. Proti těmto předsudkům se mnozí odborníci ze všech táborů, jakož i zájemci, staví proti snaze upoutat naši pozornost hlukem každodenního kolektivního egocentrismu.
- I kdybychom tomu všemu věřili - kolikrát jste dnes přemýšleli o tom, že zbytek věčnosti strávíte v nicotě? Trochu, souhlasím. I když je tato skutečnost mnohem důležitější než cokoli jiného, co děláte den co den. Je to proto, že naše mozky se obvykle zaměřují na malé každodenní věci, bez ohledu na to, jak klamnou je dlouhodobá situace, ve které se nacházíme. Jen jsme stvořeni.
Jedním z cílů tohoto článku je dostat vás z tábora s názvem „Rád přemýšlím o jiných věcech“a dostat vás do odborného tábora, i když stojíte na křižovatce mezi dvěma tečkovanými čarami v rámečku výše, zcela nerozhodnuti.
V průběhu výzkumu je zřejmé, že názory většiny lidí se rychle unášejí směrem k „hlavnímu táboru“a tři čtvrtiny odborníků spadají do dvou dílčích táborů v hlavním táboře.
Oba tyto tábory navštívíme v plném rozsahu. Začněme zábavou.
Proč by mohla být budoucnost naším největším snem?
Když zkoumáme svět AI, v naší zóně pohodlí najdeme překvapivě mnoho lidí. Lidé na pravém horním náměstí bzučí vzrušením. Věří, že padneme na dobrou stranu protokolu, a také věří, že k tomu nevyhnutelně dojde. Budoucnost je pro ně jen to nejlepší, o čem člověk může jen snít.
To, co odlišuje tyto lidi od ostatních myslitelů, není to, že chtějí být na šťastné straně - ale že jsou si jistí, že na nás čeká.
Tato důvěra vychází z diskuse. Kritici se domnívají, že pochází z oslnivého vzrušení, které zastíní potenciální negativní stránky. Zastánci však tvrdí, že ponuré předpovědi jsou vždy naivní; technologie pokračuje a vždy nám pomůže víc než ublížit.
Můžete si vybrat kterýkoli z těchto názorů, ale odložte skepticismus a dobře se podívejte na šťastnou stranu vyvažovacího paprsku a pokuste se přijmout skutečnost, že se vše, co jste si přečetli, již mohlo stát. Pokud jste ukázali lovcům-sběračům náš svět pohodlí, technologie a nekonečné hojnosti, zdálo se jim, že je to magická fikce - a my se chováme skromně, neschopní připustit, že nás v budoucnu čeká stejná nepochopitelná transformace.
Nick Bostrom popisuje tři cesty, které může superinteligentní AI systém zvládnout:
Věštec, který dokáže odpovědět na jakoukoli přesnou otázku, včetně složitých otázek, na které lidé nemohou odpovědět - například: „jak zefektivnit motor automobilu?“Google je primitivní typ „věštce“.
Džin, který bude provádět jakýkoli příkaz na vysoké úrovni - pomocí molekulárního assembleru vytvoří novou, účinnější verzi automobilového motoru - a bude čekat na další příkaz.
Panovník, který bude mít široký přístup a schopnost svobodně fungovat ve světě, přijímat svá vlastní rozhodnutí a zlepšovat tento proces. Vymyslí levnější, rychlejší a bezpečnější způsob soukromé dopravy než auto.
Tyto otázky a úkoly, které se nám zdají obtížné, se zdají superinteligentnímu systému, jako by někdo požádal o zlepšení situace „moje tužka spadla ze stolu“, ve které byste ji jednoduše zvedli a položili zpět.
Eliezer Yudkowski, americký expert na umělou inteligenci, to řekl dobře:
"Nejsou žádné těžké problémy, pouze problémy, které jsou pro určitou úroveň inteligence obtížné." Jděte o krok výše (pokud jde o inteligenci) a některé problémy se najednou přesunou z kategorie „nemožné“do tábora „zjevné“. O krok výše - a všichni se stanou zřejmými. “
Existuje mnoho netrpělivých vědců, vynálezců a podnikatelů, kteří si vybrali zónu sebedůvěry v pohodlí našeho stolu, ale potřebujeme pouze jednoho průvodce, který bude chodit po tom nejlepším v tomto nejlepším světě.
Ray Kurzweil je dvojznačný. Někteří idolizují jeho myšlenky, jiní pohrdají. Někteří zůstávají uprostřed - Douglas Hofstadter, diskutující o myšlenkách Kurzweilových knih, výmluvně poznamenal, že „je to, jako byste si vzali spoustu dobrého jídla a malého psího hovna, a pak vše smíchal tak, že je nemožné pochopit, co je dobré a co špatné.“
Ať už se vám líbí jeho myšlenky nebo ne, je nemožné je projít bez stínu zájmu. Začal vymýšlet věci jako teenager a v následujících letech vynalezl několik důležitých věcí, včetně prvního plochého skeneru, prvního skeneru pro převod textu na řeč, známého hudebního syntetizátoru Kurzweil (prvního skutečného elektrického piana) a prvního komerčně úspěšného rozpoznávače řeči. Je také autorem pěti senzačních knih. Kurzweil je oceňován za jeho odvážné předpovědi a jeho dosavadní výsledky jsou docela dobré - na konci 80. let, kdy byl internet stále ještě v plenkách, předpovídal, že v roce 2000 se web stane globálním fenoménem. Wall Street Journal nazval Kurzweil „neklidným géniem“, „Forbesem“stroj na globální myšlení “Inc. Časopis - „Edisonův oprávněný dědic“, Bill Gates - „to nejlepší z nichkdo předpovídá budoucnost umělé inteligence. “V roce 2012 spoluzakladatel společnosti Google Larry Page pozval Kurzweila na post CTO. V roce 2011 spoluzakládal Singularity University, kterou pořádá NASA a je částečně sponzorována společností Google.
Na jeho biografii záleží. Když Kurzweil hovoří o své vizi budoucnosti, zní to jako bláznivý blázen, ale opravdu bláznivé na tom je, že není zdaleka blázen - je neuvěřitelně chytrý, vzdělaný a zdravý člověk. Možná si myslíte, že se ve svých předpovědích mýlí, ale není blázen. Předpovědi Kurzweilu sdílí mnoho odborníků na komfortní zóny, Peter Diamandis a Ben Herzel. To je to, co si myslí, že se stane.
Chronologie
Kurzweil věří, že počítače dosáhnou úrovně obecné umělé inteligence (AGI) do roku 2029 a do roku 2045 budeme mít nejen umělou superinteligenci, ale také zcela nový svět - čas tzv. Singularity. Jeho chronologie AI je stále považována za neuvěřitelně zveličenou, ale v posledních 15 letech rychlý vývoj vysoce zaměřených systémů umělé inteligence (AI) přinutil mnoho odborníků, aby se postavili na stranu Kurzweilu. Jeho předpovědi zůstávají stále ambicióznější než Bostromův průzkum (AGI do roku 2040, ISI do roku 2060), ale ne moc.
Podle Kurzweila řídí singularitu roku 2045 tři současné revoluce v biotechnologiích, nanotechnologiích a především AI. Ale než půjdeme dále - a nanotechnologie pečlivě sleduje umělou inteligenci - věnujme chvíli nanotechnologii.
Pár slov o nanotechnologiích
Obvykle nazýváme nanotechnologické technologie, které se zabývají manipulací s hmotou v rozmezí 1-100 nanometrů. Nanometr je jedna miliardtina metru nebo miliontina milimetru; v rozsahu 1 až 100 nanometrů lze ubytovat viry (průměr 100 nm), DNA (šířka 10 nm), molekuly hemoglobinu (5 nm), glukóza (1 nm) a další. Pokud se nanotechnologie někdy stane naším předmětem, dalším krokem bude manipulace s jednotlivými atomy, které jsou menší než jeden řád řádů (~, 1 nm).
Abychom pochopili, kde se lidé potýkají s problémy manipulace s hmotou v takovém měřítku, skočme do většího měřítka. Mezinárodní kosmická stanice je 481 km nad zemí. Kdyby byli lidé obři a hlavami by zasáhli ISS, byli by 250 000krát větší než nyní. Pokud zvětšíte něco od 1 do 100 nanometrů 250 000krát, dostanete 2,5 centimetru. Nanotechnologie je ekvivalent člověka, který obíhá kolem ISS a snaží se manipulovat s věcmi, jako je zrno písku nebo oční bulvy. Aby se dostal na další úroveň - ovládal jednotlivé atomy - obří bude muset pečlivě umisťovat objekty o průměru 1/40 milimetru. Obyčejní lidé budou potřebovat mikroskop, aby je mohli vidět.
Richard Feynman poprvé hovořil o nanotechnologiích v roce 1959. Poté řekl: „Fyzikální principy, pokud mohu říci, nemluví proti možnosti kontrolovat věci atomem atomem. Fyzik by v zásadě mohl syntetizovat jakoukoli chemikálii, kterou si chemik zapsal. Jak? Umístěním atomů, kde chemik říká, že dostane látku. “To je celá jednoduchost. Pokud víte, jak pohybovat jednotlivými molekulami nebo atomy, můžete dělat téměř cokoli.
Nanotechnologie se stala vážným vědeckým oborem v roce 1986, kdy inženýr Eric Drexler představil své základy ve své klíčové knize Machines of Creation, ale Drexler sám věří, že ti, kteří se chtějí dozvědět více o moderních nápadech v nanotechnologii, by si měli přečíst jeho knihu 2013. Plná hojnost “(Radical Abundance).
Jakmile se dostaneme na dno nanotechnologií, můžeme jej použít k vytvoření technických zařízení, oděvů, potravin, bioproduktů - krevních buněk, bojovníků s viry a rakovinou, svalové tkáně atd. - cokoli. A ve světě používajícím nanotechnologie již nebudou náklady na materiál vázány na jeho nedostatek nebo složitost výrobního procesu, ale na složitost jeho atomové struktury. Ve světě nanotechnologií může být diamant levnější než guma.
Ještě tam nejsme ani blízko. A není zcela jasné, zda podceňujeme nebo přeceňujeme složitost této cesty. Všechno však jde do té míry, že nanotechnologie není daleko. Kurzweil předpokládá, že do roku 2020 je budeme mít. Světové státy vědí, že nanotechnologie může slibovat velkou budoucnost, a proto do nich investují mnoho miliard.
Jen si představte, jaké možnosti by superinteligentní počítač získal, kdyby se dostal ke spolehlivému assembleru v nanoměrech. Ale náš nápad je nanotechnologie a my se ji snažíme jezdit, je to pro nás obtížné. Co když jsou jen vtipem pro systém ISI a ISI sám přijde s technologiemi, které budou mnohokrát silnější než cokoli, co můžeme v zásadě předpokládat? Dohodli jsme se: nikdo si neumí představit, co umělé superintelligence bude schopno? Předpokládá se, že naše mozky nejsou schopny předvídat ani minimum toho, co se stane.
Co pro nás může AI udělat?
Vyzbrojeni superintelligence a všemi technologiemi, které by superintelligence dokázali vytvořit, bude ISI pravděpodobně schopen vyřešit všechny problémy lidstva. Globální oteplování? ISI nejprve zastaví emise uhlíku vynalézáním řady účinných nefosilních paliv pro výrobu energie. Poté přijde s efektivním a inovativním způsobem, jak odstranit přebytečný CO2 z atmosféry. Rakovina a další nemoci? To není problém - zdravotní péče a medicína se změní způsoby, které si nelze představit. Světový hlad? ISI použije nanotechnologii k vytvoření masa, které je identické s přírodním, od nuly, skutečného masa.
Nanotechnologie bude schopna proměnit hromadu odpadků na kádě čerstvého masa nebo jiného jídla (ne nutně ani v obvyklé podobě - představte si obrovskou jablečnou kostku) a distribuovat toto jídlo po celém světě pomocí vyspělých dopravních systémů. To bude samozřejmě skvělé pro zvířata, která již nemusí zemřít na jídlo. ISI může také dělat mnoho dalších věcí, jako je ochrana ohrožených druhů nebo dokonce přivést zpět zaniklé z konzervované DNA. ISI může vyřešit naše nejobtížnější makroekonomické problémy - naše nejobtížnější ekonomické debaty, etické a filozofické otázky, globální obchod - to vše bude pro ISI bolestně zřejmé.
Ale je tu něco velmi zvláštního, co pro nás ISI může udělat. Svůdná a dráždivá, která by všechno změnila: ISI nám může pomoci vyrovnat se s úmrtností. Postupným pochopením schopností AI možná přehodnotíte všechny své představy o smrti.
Neexistoval žádný důvod k tomu, aby evoluce prodloužila naši životnost déle, než je tomu nyní. Pokud žijeme dostatečně dlouho, abychom porodili a vychovávali děti do bodu, kdy se o sebe mohou postarat, stačí evoluce. Z evolučního hlediska je 30+ let pro vývoj dostačující a není důvod, aby mutace prodlužovaly život a snižovaly hodnotu přirozeného výběru. William Butler Yates nazval náš druh „duší připoutanou k umírajícímu zvířeti“. Není moc legrace.
A protože jednou jednou zemřeme, žijeme s myšlenkou, že smrt je nevyhnutelná. Přemýšlíme o stárnutí v čase - pokračujeme v postupu vpřed a nemůžeme tento proces zastavit. Ale myšlenka na smrt je zrádná: zajato ji zapomínáme žít. Richard Feynman napsal:
"V biologii je úžasná věc: v této vědě není nic, co by mluvilo o nutnosti smrti." Chceme-li vytvořit stroj pro neustálý pohyb, uvědomujeme si, že jsme našli ve fyzice dostatek zákonů, které buď naznačují nemožnost tohoto, nebo že zákony jsou špatné. V biologii však není nic, co by naznačovalo nevyhnutelnost smrti. To mě vede k přesvědčení, že to není tak nevyhnutelné, a je jen otázkou času, než biologové odhalí příčinu tohoto problému, tuto hroznou univerzální nemoc, bude vyléčena. ““
Faktem je, že stárnutí nemá nic společného s časem. Stárnutí je, když se opotřebují fyzické materiály těla. Části aut se také zhoršují - je však stárnutí nevyhnutelné? Pokud stále opravujete auto, protože se díly opotřebují, bude to trvat věčně. Lidské tělo se neliší - jen složitější.
Kurzweil hovoří o inteligentních nanobotech připojených k Wi-Fi v krevním řečišti, které by mohly vykonávat nesčetné úkoly pro lidské zdraví, včetně pravidelné opravy nebo výměny opotřebovaných buněk kdekoli v těle. Zlepšení tohoto procesu (nebo nalezení alternativy navržené inteligentnějším ASI) nejen udržuje tělo zdravé, ale může zvrátit stárnutí. Rozdíl mezi tělem 60letého a 30letého spočívá v hrstce fyzických otázek, které lze napravit správnou technologií. ISI mohl postavit auto, do kterého by člověk vstoupil, když je 60 let, a odejít, když bude 30 let.
Dokonce i degradovaný mozek by mohl být obnoven. ISI by jistě věděl, jak to udělat, aniž by to ovlivnilo mozková data (osobnost, vzpomínky atd.). 90letý muž trpící úplnou degradací mozku by se mohl podrobit rekvalifikaci, obnově a návratu na začátek svého života. Může to vypadat absurdně, ale tělo je hrstkou atomů a ISI je s nimi určitě snadno manipuluje, jakoukoli atomovou strukturu. Není to tak absurdní.
Kurzweil také věří, že umělé materiály se budou s postupem času stále více integrovat do těla. Pro začátek mohly být orgány nahrazeny super-pokročilými strojovými verzemi, která by trvala věčně a nikdy selhala. Pak bychom mohli udělat kompletní rekonstrukci těla a nahradit červené krvinky dokonalými nanoboty, které se pohybují samy od sebe, což zcela eliminuje potřebu srdce. Mohli bychom také zlepšit naše kognitivní schopnosti, začít přemýšlet miliardykrát rychleji a prostřednictvím cloudu přistupovat ke všem informacím dostupným lidstvu.
Možnosti pochopení nových horizontů by byly opravdu nekonečné. Lidé dokázali vybavit sex novým účelem, dělají to pro potěšení, nejen pro reprodukci. Kurzweil si myslí, že můžeme udělat totéž s jídlem. Nanoboty by mohly dodávat ideální výživu přímo do buněk v těle, což umožní, aby nezdravé látky procházely tělem. Nanotechnologický teoretik Robert Freitas již vyvinul náhradu za krvinky, které, když jsou implementovány v lidském těle, mu mohou dovolit, aby dýchat po dobu 15 minut - a to vynalezl člověk. Představte si, kdy ISI získá moc.
Koneckonců, Kurzweil věří, že lidé dosáhnou bodu, kdy se stanou zcela umělými; čas, kdy se podíváme na biologické materiály a přemýšlíme o tom, jak primitivní byly; čas, kdy budeme číst o raných stádiích lidské historie, ohromeni tím, jak mohou bakterie, nehody, nemoci nebo prostě stáří zabít člověka proti jeho vůli. Nakonec lidé porazí svou vlastní biologii a stanou se věčnými - to je cesta ke šťastné straně vyvažovacího paprsku, o které jsme mluvili od samého začátku. A lidé, kteří tomu věří, si jsou také jisti, že taková budoucnost nás velmi, velmi brzy očekává.
Pravděpodobně nebudete překvapeni, že Kurzweilovy nápady vyvolaly tvrdou kritiku. Jeho jedinečnost v roce 2045 a následný věčný život pro lidi byl nazýván „vzestupem pitomců“nebo „inteligentní stvoření lidí s IQ 140“. Jiní zpochybňovali optimistický časový rámec, porozumění lidskému tělu a mozku, připomínali Mooreův zákon, který ještě neodešel. Pro každého odborníka, který věří v Kurzweilovy myšlenky, jsou tři, kteří si myslí, že se mýlí.
Ale nejzajímavější na tom je, že většina odborníků, kteří s ním nesouhlasí, obecně neříká, že je to nemožné. Místo toho, aby říkali „kecy, to se nikdy nestane“, říkají něco jako „všechno se to stane, pokud se dostaneme k ISI, ale to je úlovek.“Bostrom, jeden z uznávaných odborníků na AI, který varuje před nebezpečím AI, také připouští:
"Sotva zbývá žádný problém, který by superintelligence nedokázala vyřešit nebo nám dokonce pomoci vyřešit." Nemoc, chudoba, ničení životního prostředí, utrpení všeho druhu - vše, co tato superintelligence s pomocí nanotechnologií dokáže vyřešit za okamžik. Superintelligence nám také může poskytnout neomezenou životnost zastavením a obrácením procesu stárnutí pomocí nanomedicíny nebo schopností nahrát nás do cloudu. Superintelligence může také vytvořit příležitosti pro nekonečné zvyšování intelektuálních a emocionálních schopností; může nám pomoci vytvořit svět, ve kterém budeme žít v radosti a porozumění, přibližovat se našim ideálům a pravidelně uskutečňovat naše sny. “
Toto je citát od jednoho z kurzweilových kritiků, který však připouští, že to vše je možné, pokud dokážeme vytvořit bezpečný ASI. Kurzweil jednoduše definoval, co by se mělo stát umělou superintelligence, pokud je to možné. A pokud je dobrý bůh.
Nejviditelnější kritikou zastánců komfortní zóny je to, že mohou být zatraceni špatně při hodnocení budoucnosti ISI. Ve své knize Singularity věnoval Kurzweil 20 stránek ze 700 možných hrozeb ISI. Otázka není, když se dostaneme k ISI, otázkou je, jaká bude její motivace. Kurzweil na tuto otázku odpoví opatrně: „ISI pramení z mnoha nesourodých snah a bude hluboce integrována do infrastruktury naší civilizace. Ve skutečnosti bude pevně zakotveno v našem těle a mozku. Odráží naše hodnoty, protože bude s námi. ““
Ale pokud je odpověď, proč se tolik chytrých lidí v tomto světě obává o budoucnost umělé inteligence? Proč říká Stephen Hawking, že vývoj ISI „může znamenat konec lidské rasy“? Bill Gates říká, že „nerozumí lidem, kteří se neobtěžují“. Elon Musk se obává, že „vyvoláme démona“. Proč mnoho odborníků považuje ISI za největší hrozbu pro lidstvo?
Na základě materiálů z waitbutwhy.com, kompilace Tim Urban. Článek používá materiály z děl Nicka Bostroma, Jamese Barratta, Raye Kurzweila, Jaye Nielse-Nilssona, Stephena Pinkera, Vernora Vingla, Moshe Vardyho, Russ Roberts, Stuart Armstrog a Kai Sotal, Susan Schneider, Stuart Russell a Peter Norvig, Theodore Modis Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Autor: Ilya Khel
Část třetí: Proč by to mohl být náš poslední vynález?