I přes rozšířenou pozornost věnovanou vývoji umělé inteligence je na světě několik lidí, kteří věří, že potenciál výrazně zlepšené lidské inteligence (AI) je mnohem vyšší. Otázka, co přijde jako první, zůstává otevřená, ale věří se, že technologicky vyspělý mozek může být stejně silný (a upřímně řečeno, stejně nebezpečný) jako AI.
Člověk jako druh rozvinul své myšlení po mnoho tisíciletí. Nebo se to alespoň pokusil udělat. Při pokusu o překonání svých kognitivních omezení použili lidé vše, co mohou, od písemných, jazykových a meditativních technik po moderní nootropiku.
Proč by nebylo namísto snahy o rozvoj obecné umělé inteligence (AGI) nebo dokonce umělé superintelligence (ISI) lepší soustředit se na lidský mozek a jeho stále ještě daleko od plně uvolněného potenciálu? Koneckonců, významné zlepšení mysli - ať už prostřednictvím genetiky, kybernetiky nebo sil externích zařízení - může vést ke stejnému výsledku, jaký očekáváme od vytvoření pokročilé AI.
Portál Gizmodo se rozhodl kontaktovat futurologa Michaila Anisimova, blogera portálu Accelerating Future a spoluzakladatele události Singularity Summit a zjistit pravděpodobné vyhlídky na vývoj směru zlepšování lidského mozku. Anisimov bere tento problém velmi vážně a je přesvědčen, že bychom měli mít na pozoru před AI stejně jako AI.
Michaele, když mluvíme o zvyšování inteligence, co tím vlastně myslíme? Mluvíme o vytváření nových Einsteinů? Nebo je to něco ještě ambicióznějšího?
Skutečným cílem směru AI je spíše vytvořit „supereinsteiny“, lidi mnohem chytřejší než kdokoli jiný, kdo kdy žil na Zemi. K dosažení tohoto cíle bude nutné provést několik klíčových kroků.
Prvním krokem je vytvoření přímého nervového spojení s informacemi. Přemýšlejte o tom jako o „telepatickém vyhledávání Google“.
Dalším bude vývoj rozhraní mozek-počítač, který zlepší práci části mozku zodpovědné za vizuální vnímání. To zlepší nejen naši vizi, ale také výrazně zvýší efektivitu zpracování informací. Jen si představte, že budete moci téměř okamžitě vytvořit v mozku složité schéma objektu v detailu, nebo si nyní můžete zapamatovat schéma, které jste viděli, ve velmi podrobných detailech. Zvětšení bude také vyžadováno v dalších oblastech smyslové kůry odpovědných za dotek a sluch.
Propagační video:
Třetím krokem bude rozšíření prefrontální kůry. Toto je svatý grál výzkumu UI - zlepšuje účinnost vnímání a integraci senzorických informací do konceptů. Konečným výsledkem bude vznik lidí schopných prokázat téměř nemožné intelektuální schopnosti. Mluvíme například o schopnosti ovládat ostatní lidi silou rozumu, porozumět všem vítězným pozicím na akciovém trhu nebo například vytvořit vynálezy, které mohou změnit svět téměř za jeden den. Teď se to může zdát nemožné, stejně jako se naše moderní úspěchy zdály nemožné v očích lidí doby kamenné. Ale tato možnost je opravdu reálná.
Pokud se podíváme do příštích deseti let, kde se AI vyvine? Může s tím lidský mozek opravdu konkurovat?
Lidský mozek opravdu nelze příliš změnit. Koneckonců, je to už výsledek sedmi milionů let evoluční optimalizace a doladění, které musím připustit, vzhledem k jeho omezením, velmi úspěšné. A pokusy o „přetaktování“zpravidla vedou k jeho selhání, pokud vezmeme v úvahu tento problém, alespoň z hlediska příkladu účinků doprovázených amfitaminovou závislostí.
Trailer k filmu Areas of Darkness
Chemikálie nejsou schopny zlepšit kognitivní schopnosti člověka. A všechno, co je dáno ve prospěch účinnosti současných „mozkových urychlovačů“, vypadá ve skutečnosti velmi kontroverzně a pochybně. Skutečný úspěch bude vyžadovat použití mozkových implantátů připojujících se k milionům neuronů. To bude zase vyžadovat miliony malých elektrod a vyhrazený řídicí systém, který je všechny synchronizuje. V dnešní době má nejpokročilejší design rozhraní počítač-mozek v nejlepším případě asi 1000 takových spojení. Jinými slovy, moderní vývoj musí být rozšířen více než tisíckrát, aby se dosáhlo něčeho opravdu zajímavého. I když vezmeme v úvahu exponenciální růst, dosažení výsledků bude trvat nejméně 15 až 20 let.
Vývoj uživatelského rozhraní je založen především na pokroku ve vývoji nanoprodukce. A výsledky inženýrů pracujících na rozhraní mozek-počítač, jako je například Ed Boyden z Massachusetts Institute of Technology, jsou zcela závislé na pokroku v tomto směru. Vzhledem k zanedbatelné úrovni vývoje výrobních technologií na atomové úrovni vypadá nanoúrovňová samoestavení jako nejviditelnější způsob, jak vyvinout rozhraní mozek-počítač s miliony elektrod. Je třeba poznamenat, že nanoúrovňová samoskladba není atomově přesná výrobní metoda, ale je dostatečně přesná podle standardů základní výroby a fotolitografie.
Jaké jsou potenciální psychologické vedlejší účinky u lidí se výrazně zlepšenou inteligencí? Mohou být z tohoto hlediska obecně považováni za lidi?
Jedním z nejčastějších vedlejších účinků bude šílenství. Lidský mozek je neuvěřitelně jemně vyladěný stroj. A jakákoli změna v jeho provozním režimu vede k tomu, co obvykle nazýváme „šílenství“. Existuje mnoho různých typů šílenství, mnohem více než vzorce chování v zdravém rozumu. Například skryté šílenství z pohledu vnějšího prostředí se může zdát docela zdravé chování, proto s největší pravděpodobností budeme čelit potížím při identifikaci takových jedinců trpících šílenstvím.
I při úplném zdravém rozumu se mohou vyskytnout různé vedlejší účinky, včetně záchvatů, přetížení informací a možná pocity egománie a úplného odcizení. Inteligentní lidé mají tendenci se cítit více odcizeni od světa kolem sebe, takže vědí, že jste nejchytřejší na světě, tento účinek mnohokrát zesílí.
Většina velmi inteligentních lidí není příliš společenská a veselá, jako například americký vědec Richard Feynman nebo jako moderní Neil DeGrasse Tyson. Hemingway jednou řekl: „Inteligentní člověk je někdy nucen opít se, aby vydržel komunikaci s blázny.“Co se však stane, když alkoholová intoxikace už nestačí k udržení kamarádství a vzájemné náklonnosti? To může vést ke ztrátě empatie, což nakonec vede k psychopatii.
Co tedy bude první? Zesílená nebo umělá inteligence?
Je velmi obtížné předvídat. Existuje velká touha, že se před AI objeví vylepšená inteligence. Všechna tato umělecká díla a hry, ve kterých má hlavní hrdina takové UI, jsou do velké míry zodpovědné za tuto touhu. Mělo by však být zřejmé, že předpojatost vůči uživatelskému rozhraní ve skutečnosti neumožňuje pracovat na technologické složitosti. Ale osobně si myslím, že UI přijde dříve.
Ať už je to jakkoli, oba směry se implementují velmi obtížně. Možná jednoho neuvidíme až do 60., 2070 nebo dokonce později. Nakonec oba směry vývoje dosáhnou svých cílů. Pokud o tom přemýšlíte, v inteligenci není nyní nic překvapivého, takže potřeba jej zlepšit je neuvěřitelně velká. A pravděpodobně to bude vyžadovat celosvětové Ludditovo povstání (účastníci spontánních protestů první čtvrtiny 19. století proti zavedení strojů během průmyslové revoluce v Anglii - ed.) Zastavit pokrok technologického vývoje, který nás dovede k požadovaným výsledkům.
Jaké jsou výhody a nevýhody těchto dvou různých přístupů k rozvoji?
Hlavní výhoda volby vývojové cesty AI spočívá v neúměrně levnějších a snadnějších vývojových procesech. AI na papíře a v kódu již bylo vyvinuto. Zbývá pouze správně sestavit. Nejvýznamnější výzkum UI je zase jednoduše nezákonný. Vážný výzkum UI bude vyžadovat velmi sofistikované experimenty v neurochirurgii a mozkových implantátech. Implantáty mozku mohou zase selhat a způsobit záchvaty, šílenství nebo dokonce smrt. Zlepšení lidské inteligence, pokud jde o kvalitní způsob sebezdokonalování, není jen záležitostí vzít několik tablet k získání supervelmocí. Tady musíte opravdu experimentovat s mozkovými implantáty, pokud chcete dosáhnout vážných výsledků.
Většina výzkumu v této oblasti je silně kontrolována a neuvěřitelně drahá. Všechny experimenty se zvířaty jsou vždy drahé. Například Theodor Berger již mnoho let pracuje na hippocampálním implantátu, aby obnovil a zlepšil výkon paměti. V roce 2004 byly provedeny první testy na živé tkáni, ale od té doby byly zprávy velmi vzácné. Každých pár let jsou ve zprávách samozřejmě nějaké poznámky, ale konečný výsledek jsem velmi skeptický. Nyní se podívejme na úroveň vývoje, kterého se nám podařilo dosáhnout ve vývoji umělé inteligence!
Vypadá AI bezpečněji než AI, pokud jde o předvídatelnost a kontrolu? Který je důležitější vytvořit první, AI nebo super-výkonný AI?
Zvýšená inteligence je považována za více nepředvídatelnou a nekontrolovatelnou ve srovnání se super výkonnou umělou inteligencí. A z dlouhodobého hlediska to vypadá ještě nebezpečněji. Nedávno jsem napsal článek reflektující téma globální politické transformace, vyvolaný obrovskou mocí soustředěnou v rukou malé skupiny lidí s umělou inteligencí nebo exkluzivním přístupem k molekulární výrobě. V něm jsem vytvořil termín „Maximilián“, což znamená „nejlepší z nejlepších“, abych popsal vysoce vlivného vůdce, který sám používá vylepšené zpravodajské technologie, aby se zvýšil nad všechny ostatní.
Kognitivně vylepšený Reginald Barkley z Star Trek: Nová generace v epizodě X
Klíčovým bodem mého odůvodnění v tomto článku je, že v případě lepší inteligence musíte jednat s lidmi a člověk, jak víte, je nedokonalý. Může se ukázat, že lidé se zdokonalenou inteligencí si pravděpodobně udrží určitou jistou úroveň lidské morálky, ale s největší pravděpodobností začnou využívat veškerou sílu své mysli k hédonistickým účelům a případně i ke genocidě.
Umělá superintelligence, podle pořadí, může být vytvořena od nuly a jednoduše vyrobena tak, aby sledovala řadu vlastních motivací (které budou do ní také začleněny), které mají dobrý začátek, stabilitu a pozitivní zpětnou vazbu.
Lidé se ptají: „Odmítl by ISI tyto motivace?“Ne, nebude, protože tyto motivace budou tvořit jádro jeho hodnot, pokud budou samozřejmě správně naprogramovány. V autě nebude žádný „duch“schopný ignorovat nebo odmítnout předprogramované motivy.
Filozof Nick Bostrom provedl ve své práci Vůle superintelligence úžasnou analýzu. Klíčovou myšlenkou je, že sobecké cíle se nemohou objevit samy o sobě, pokud je systém klíčových úkolů AI zpočátku zásadně souborem nesobeckých cílů a pokud samotnou podstatou existence stroje je udržovat tuto nesobeckost. Evoluce ukázala, že sobecké cíle hrají důležitou roli v přežití, zejména pokud vezmeme v úvahu evoluční konstruktivní omezení živých organismů, ale to neznamená, že my sami nedokážeme naprogramovat nezajímavé původce od nuly?
Jaké potíže (technologické, lékařské nebo etické) stojí v cestě rozvoji?
Největší výzva spočívá ve vývoji vhodných výrobních technologií. Teď nejsme ani blízko toho. Dalším úskalím je úkol zjistit, za co přesně každý jednotlivý neuron je zodpovědný, a určit přesné umístění těchto neuronů v jedné osobě. Opět jsme se k tomu ani nedostali.
Zatřetí, musíme vyvinout rychlý způsob, jak otestovat mnoho teorií o funkci mozku. Ed Boyden nazývá tento „vysoce výkonný obvod pro screening neuronových sítí“. Nejvhodnějším a nejviditelnějším řešením této otázky může být vytvoření lidské bytosti v bezvědomí a experimentování s ní bez otřesů svědomí nebo morálních dilemat. Mám však pocit, že většina etických komisí tuto myšlenku potká s nepřátelstvím.
Pokud taková příležitost neexistuje, musíme najít způsob, jak vytvořit bezprecedentně podrobný model lidského mozku. A nemluvíme o dnešních těžkých pokusech o projekt „mozkové modelování“, kolem kterého je tolik humbuk. Hovoříme o bezprecedentní nové úrovni, které nebudeme moci dosáhnout až do roku 2050–2080. Oxfordova analýza ukazuje, že jde spíše o období kolem 80. let 20. století. Všechno to teď vypadá, samozřejmě, jako věštění na kávě, ale stále blíže realitě.
NIKOLAY KHIZHNYAK