Důvod, proč tento (a další) článek vyšel najevo, je jednoduchý: umělá inteligence možná není jen důležitým tématem pro diskusi, ale také nejdůležitějším v kontextu budoucnosti. Každý, kdo se co i jen trochu ponoří do podstaty potenciálu umělé inteligence, uznává, že toto téma nelze ignorovat. Někteří - a mezi nimi Elon Musk, Stephen Hawking, Bill Gates, ne nejhloupější lidé na naší planetě - věří, že umělá inteligence představuje existenční hrozbu pro lidstvo, srovnatelnou v měřítku s úplným vyhynutím nás jako druhu. No, pohodlně se usaďte a dotáhněte i pro sebe.
„Jsme na pokraji změn srovnatelných s původem lidského života na Zemi“(Vernor Vinge).
Co to znamená být na pokraji takové změny?
Zdá se, že to není nic zvláštního. Musíte si ale pamatovat, že být na takovém místě v grafu znamená, že nevíte, co je po vaší pravici. Měli byste cítit něco takového:
Pocity jsou celkem normální, let jde dobře.
Propagační video:
Budoucnost se blíží
Představte si, že vás stroj času přenesl do roku 1750, v době, kdy svět zažíval neustálé výpadky proudu, komunikace mezi městy znamenala výstřely z děla a veškerý transport běžel na seno. Řekněme, že se tam dostanete, někoho vezmete a přivedete do roku 2015, ukažte, jak to tady je. Nejsme schopni pochopit, jaké by to bylo, kdyby viděl všechny tyto lesklé tobolky létat po silnicích; mluvit s lidmi na druhé straně oceánu; podívejte se na sportovní hry vzdálené tisíc kilometrů; slyšet hudební vystoupení nahrané před 50 lety; hrajte s magickým obdélníkem, který dokáže pořídit fotografii nebo zachytit živý okamžik; sestavte mapu s paranormální modrou tečkou označující její polohu; podívat se na něčí tvář a komunikovat s ním mnoho kilometrů daleko a tak dále. To vše je pro téměř tři sta let staré lidi nevysvětlitelné kouzlo. Nemluvě o internetu, Mezinárodní vesmírné stanici, Velkém hadronovém urychlovači, jaderných zbraních a obecné teorii relativity.
Takový zážitek pro něj nebude překvapivý ani šokující - tato slova nevyjadřují celou podstatu mentálního kolapsu. Náš cestovatel může úplně zemřít.
Ale je tu zajímavý bod. Pokud se vrátí do roku 1750 a začne žárlit, že jsme chtěli vidět jeho reakci na rok 2015, může s sebou vzít stroj času a pokusit se udělat totéž s, řekněme, 1500. Poletí tam, najde člověka, vyzvedne ho v roce 1750 a ukáže vše. Ten chlap z roku 1500 bude nadměrně šokován - ale je nepravděpodobné, že zemře. I když bude samozřejmě překvapen, rozdíl mezi lety 1500 a 1750 je mnohem menší než mezi lety 1750 a 2015. Osoba z roku 1500 bude v některých okamžicích z fyziky překvapena, bude ohromena tím, čím se Evropa stala pod tvrdou patou imperialismu, nakreslí mu do hlavy novou mapu světa … Ale každodenní život v roce 1750 - doprava, komunikace atd. - ho pravděpodobně k smrti nepřekvapí.
Ne, aby se člověk z roku 1750 bavil stejně jako my, musí jít mnohem dále - možná rok jako tento v roce 12 000 před naším letopočtem. e., ještě před první zemědělskou revolucí se zrodila první města a koncept civilizace. Pokud kdokoli ze světa lovců a sběračů, v době, kdy byli lidé ještě více jiným živočišným druhem, viděl obrovské lidské říše z roku 1750 s jejich vysokými kostely, loděmi přecházejícími oceány, jejich konceptem být „uvnitř“budovy, všeho tato znalost - pravděpodobně by zemřel.
A potom, po smrti, by záviděl a chtěl udělat totéž. Vrátí se před 12 000 lety, ve 24 000 před naším letopočtem. e., by vzal osobu a přivedl ho včas. A nový cestovatel by mu řekl: „No, to je v pořádku, děkuji.“Protože v tomto případě osoba od 12 000 před naším letopočtem. E. člověk by se musel vrátit o 100 000 let zpět a poprvé ukázat místním domorodcům oheň a jazyk.
Pokud potřebujeme někoho přepravit do budoucnosti, abychom byli překvapeni smrtí, musí pokrok urazit určitou vzdálenost. Musí být dosažen pokrok v bodě smrti (TPP). To znamená, že pokud v době lovců a sběračů trvalo TSP 100 000 let, k další zastávce došlo již v roce 12 000 před naším letopočtem. E. Poté byl pokrok již rychlejší a do roku 1750 radikálně změnil svět (zhruba). Pak to trvalo pár set let a jsme tady.
Tento obrázek - kde se lidský pokrok pohybuje rychleji, jak čas plyne - nazývá futurista Ray Kurzweil zákon zrychlení návratů v lidské historii. Stává se to proto, že vyspělejší společnosti mají schopnost posunout pokrok rychleji než méně rozvinuté společnosti. Lidé 19. století věděli více než lidé 15. století, takže není divu, že pokrok v 19. století byl rychlejší než v 15. století atd.
V menším měřítku to také funguje. Back to the Future vyšlo v roce 1985 a minulost byla v roce 1955. Ve filmu, když se Michael J. Fox vrátil v roce 1955, ho překvapila novinka televizorů, ceny sodovky, nedostatek lásky ke zvuku kytary a variace ve slangu. Byl to samozřejmě jiný svět, ale kdyby se film natáčel dnes a minulost byla v roce 1985, rozdíl by byl mnohem globálnější. Marty McFly, v čase z dob osobních počítačů, internetu a mobilních telefonů, by byl mnohem irelevantnější než Marty, který od roku 1985 šel do roku 1955.
To vše je dáno zákonem zrychlení návratnosti. Průměrná míra vývoje pokroku mezi lety 1985 a 2015 byla vyšší než míra od roku 1955 do roku 1985 - protože v prvním případě byl svět rozvinutější a byl nasycen výdobytky posledních 30 let.
Čím více úspěchů, tím rychlejší změny. Ale nemělo by nám to zanechat určité náznaky do budoucnosti?
Kurzweil naznačuje, že pokroku celého 20. století bylo možné dosáhnout za pouhých 20 let na úrovni rozvoje v roce 2000 - to znamená, že v roce 2000 byla míra pokroku pětkrát rychlejší než průměrná míra pokroku 20. století. Rovněž věří, že pokrok celého 20. století byl rovnocenný pokroku v období od roku 2000 do roku 2014 a pokrok v dalším 20. století bude ekvivalentní období do roku 2021 - tedy za pouhých sedm let. Po několika desetiletích bude veškerý pokrok 20. století probíhat několikrát ročně a poté - za pouhý měsíc. Zákon o zrychlování návratů nás nakonec povede k tomu, že pokrok v celém 21. století bude 1000krát větší než pokrok ve 20. století.
Pokud má Kurzweil a jeho příznivci pravdu, rok 2030 nás překvapí stejně, jako by ten z roku 1750 překvapil náš rok 2015 - to znamená, že příští TSP bude trvat jen pár desetiletí - a svět roku 2050 bude tak odlišný od moderního, že sotva budeme zjistit. A to není fantazie. Toto je názor mnoha vědců, kteří jsou chytřejší a vzdělanější než vy a já. A když se podíváte na historii, pochopíte, že tato předpověď vyplývá z čisté logiky.
Proč tedy, když čelíme výrokům jako „svět za 35 let se změní k nepoznání“, skepticky pokrčíme rameny? Existují tři důvody pro náš skepticismus ohledně budoucích předpovědí:
1. Pokud jde o historii, myslíme rovně. Při pokusu o vizualizaci pokroku v příštích 30 letech se díváme na pokrok v předchozích 30 letech jako na indikátor toho, jak moc se to pravděpodobně stane. Když přemýšlíme o tom, jak se náš svět změní v 21. století, vezmeme pokrok 20. století a přidáme ho k roku 2000. Stejná chyba, jakou dělá náš chlap z roku 1750, když dostane někoho z roku 1500 a pokusí se ho překvapit. Intuitivně uvažujeme lineárně, i když bychom měli být exponenciální. Futurista by se měl v zásadě pokusit předpovědět pokrok v příštích 30 letech, nehledě na předchozích 30, ale soudě podle aktuální úrovně pokroku. Pak bude předpověď přesnější, ale stále u brány. Abyste správně přemýšleli o budoucnosti, musíte vidět věci, které se pohybují mnohem rychlejším tempem, než se pohybují nyní.
2. Trajektorie nedávné historie je často zkreslena. Nejprve se i strmá exponenciální křivka jeví lineární, když uvidíte její malé části. Zadruhé, exponenciální růst není vždy plynulý a rovnoměrný. Kurzweil věří, že pokrok se pohybuje v hadovitých křivkách.
Taková křivka prochází třemi fázemi: 1) pomalý růst (raná fáze exponenciálního růstu); 2) rychlý růst (výbušný, pozdní fáze exponenciálního růstu); 3) stabilizace ve formě konkrétního paradigmatu.
Pokud se podíváte na poslední příběh, část S-křivky, ve které se právě nacházíte, může skrýt rychlost pokroku před vaším vnímáním. Část času v letech 1995 až 2007 byla věnována výbušnému vývoji internetu, představení veřejnosti Microsoftu, Google a Facebooku, zrození sociálních sítí a vývoji mobilních telefonů a poté chytrých telefonů. Toto byla druhá fáze naší křivky. Období 2008–2015 však bylo méně rušivé, přinejmenším z technologického hlediska. Ti, kdo dnes přemýšlejí o budoucnosti, může trvat posledních pár let, než posoudí celkové tempo pokroku, ale nevidí celkový obraz. Ve skutečnosti se nyní může připravovat nová a výkonná fáze 2.
3. Naše vlastní zkušenost z nás dělá nevrlé staré lidi, pokud jde o budoucnost. Naše představy o světě vycházíme z našich vlastních zkušeností a tato zkušenost pro nás jako samozřejmost udává tempo růstu v nedávné minulosti. Naše představy jsou také omezené, protože využívají naše zkušenosti k předpovídání - ale častěji než my prostě nemáme nástroje, abychom přesně předpovídali budoucnost. Když slyšíme předpovědi do budoucnosti, které jsou v rozporu s naším každodenním vnímáním toho, jak věci fungují, považujeme je instinktivně za naivní. Pokud jsem vám řekl, že se dožijete 150 nebo 250 let, nebo možná nezemřete vůbec, budete si instinktivně myslet, že „to je hloupé, z historie vím, že během této doby všichni zemřeli“. Je tomu tak: nikdo se těchto let nedožil. Před vynálezem letadel ale neletělo ani jedno letadlo.
Ačkoli se vám zdá skepse rozumná, je to častěji než špatné. Měli bychom akceptovat, že pokud se vyzbrojíme čistou logikou a počkáme na obvyklé historické cikcaky, musíme připustit, že v nadcházejících desetiletích se musí velmi, velmi, velmi změnit; mnohem víc než intuitivně. Logika také diktuje, že pokud nejpokročilejší druhy na planetě budou i nadále dělat obrovské skoky vpřed, rychleji a rychleji, v určitém okamžiku bude skok tak závažný, že radikálně změní život, jak ho známe. Něco podobného se stalo v procesu evoluce, kdy se člověk stal tak chytrým, že úplně změnil život jakéhokoli jiného druhu na planetě Zemi. A pokud strávíte trochu času čtením toho, co se nyní děje ve vědě a technologii, možná anozačněte vidět určité stopy o tom, jaký bude další obrovský skok.
Cesta k superinteligenci: co je to AI (umělá inteligence)?
Stejně jako tolik lidí na této planetě jste zvyklí myslet na umělou inteligenci jako na hloupý sci-fi nápad. Ale v poslední době spousta vážných lidí projevila znepokojení nad touto hloupou myšlenkou. Co je špatně?
Existují tři důvody, které vedou ke zmatku ohledně pojmu AI:
1. Spojujeme AI s filmy. "Hvězdné války". "Terminátor". „Vesmírná odysea z roku 2001“. Ale stejně jako roboti, AI v těchto filmech je fikce. Tak hollywoodské filmy oslabují úroveň našeho vnímání, AI se stává známou, známou a samozřejmě zlou.
2. Toto je široké pole použití. Začíná to kalkulačkou v telefonu a vývojem samojízdných vozů v něco daleko v budoucnosti, které způsobí revoluci ve světě. AI znamená všechny tyto věci a je to matoucí.
3. Používáme AI každý den, ale často si to ani neuvědomujeme. Jak řekl John McCarthy, vynálezce pojmu „umělá inteligence“v roce 1956, „jakmile to funguje, už to nikdo neříká AI.“AI se stala spíše mýtickou předpovědí o budoucnosti než něčím skutečným. Zároveň se v tomto jménu skrývá něco z minulosti, co se nikdy nestalo skutečností. Ray Kurzweil říká, že slyší lidi spojovat AI s fakty z 80. let, což lze přirovnat k „tvrzení, že internet zemřel u dotcomů na počátku 2000. let“.
Ujasníme si to. Nejprve přestaňte myslet na roboty. Robot, který je kontejnerem pro AI, někdy napodobuje lidskou podobu, někdy ne, ale samotná AI je počítač uvnitř robota. AI je mozek a robot je tělo, pokud má vůbec tělo. Například software a data Siri je umělá inteligence, ženský hlas je personifikací této AI a v tomto systému nejsou žádní roboti.
Zadruhé jste pravděpodobně slyšeli výraz „singularita“nebo „technologická singularita“. Tento termín se v matematice používá k popisu neobvyklé situace, kdy obvyklá pravidla již nefungují. Ve fyzice se používá k popisu nekonečně malého a hustého bodu černé díry nebo původního bodu Velkého třesku. Zákony fyziky v tom opět nefungují. V roce 1993 napsal Vernor Vinge slavnou esej, ve které tento výraz aplikoval na okamžik v budoucnosti, kdy inteligence našich technologií předčí naši vlastní - kdy se život, jak ho známe, navždy změní a obvyklá pravidla jeho existence již nebudou fungovat. … Ray Kurzweil tento termín dále upřesnil poukazem na to, že singularita bude dosažena, až zákon urychlení zpětného rázu dosáhne extrémního bodu,když se technologický pokrok pohybuje tak rychle, že si přestáváme všímat jeho úspěchů, téměř nekonečně rychle. Pak budeme žít ve zcela novém světě. Mnoho odborníků však tento termín přestalo používat, takže ho nepoužívejme často.
A konečně, i když existuje mnoho typů nebo forem AI, které jsou odvozeny od širokého konceptu AI, hlavní kategorie AI jsou ráže. Existují tři hlavní kategorie:
1. Úzce zaměřená (slabá) umělá inteligence (AI). UII se specializuje na jednu oblast. Mezi těmito AI jsou ti, kteří mohou porazit mistra světa v šachu, ale to je asi tak všechno. Existuje jeden, který může nabídnout nejlepší způsob ukládání dat na pevný disk, a to je vše.
2. Obecná (silná) umělá inteligence. Někdy se také označuje jako AI na lidské úrovni. AGI označuje počítač, který je stejně chytrý jako člověk - stroj, který je schopen provádět jakoukoli intelektuální akci vlastní osobě. Vytváření AGI je mnohem obtížnější než AGI a k tomu jsme se ještě nedostali. Profesorka Linda Gottfredsonová popisuje inteligenci jako „v obecném smyslu psychický potenciál, který mimo jiné zahrnuje schopnost uvažovat, plánovat, řešit problémy, uvažovat abstraktně, rozumět složitým myšlenkám, rychle se učit a učit se ze zkušenosti“. AGI by měl být schopen to všechno udělat stejně snadno jako vy.
3. Umělá superinteligence (ISI). Oxfordský filozof a teoretik AI Nick Bostrom definuje superinteligenci jako „inteligenci, která je mnohem chytřejší než nejlepší lidská mysl prakticky ve všech oblastech, včetně vědecké kreativity, obecné moudrosti a sociálních dovedností.“Umělá superinteligence zahrnuje jak počítač, který je o něco chytřejší než člověk, tak počítač, který je bilionykrát chytřejší v jakémkoli směru. ISI je důvodem rostoucího zájmu o AI a také skutečnosti, že se v takových diskusích často objevují slova „vyhynutí“a „nesmrtelnost“.
V dnešní době již lidé pokořili úplně první fázi kalibru AI - AI - mnoha způsoby. Revoluce AI je cesta od AGI přes AGI k ISI. Tuto cestu možná nepřežijeme, ale určitě to všechno změní.
Pojďme se blíže podívat na to, jak tuto cestu vidí přední myslitelé v oboru a proč by tato revoluce mohla nastat rychleji, než si myslíte.
Kde jsme v tomto streamu?
Cílená umělá inteligence je strojová inteligence, která se rovná nebo překračuje lidskou inteligenci nebo účinnost při provádění konkrétního úkolu. Několik příkladů:
"Automobily jsou přeplněné systémy ICD, od počítačů, které určují, kdy má protiblokovací systém naběhnout, až po počítač, který určuje parametry systému vstřikování paliva." Samořiditelná auta Google, která jsou v současné době testována, budou obsahovat robustní systémy AI, které snímají a reagují na okolní svět.
- Váš telefon je malá továrna na ICD. Když používáte aplikaci mapy, získejte doporučení pro stahování aplikací nebo hudby, podívejte se na zítřejší počasí, promluvte si se Siri nebo udělejte cokoli jiného - používáte AI.
- Váš e-mailový filtr spamu je klasický typ AI. Začíná to zjišťováním, jak oddělit spam od použitelných e-mailů, a poté se naučí, jak zachází s vašimi e-maily a předvolbami.
- A tento nepříjemný pocit, když jste včera hledali šroubovák nebo novou plazmu ve vyhledávači a dnes vidíte nabídky z užitečných obchodů na jiných stránkách? Nebo když vám sociální síť doporučuje přidat zajímavé lidi jako přátele? To vše jsou systémy AI, které spolupracují, určují vaše preference, načítají údaje o vás z internetu, přibližují se a přibližují vám. Analyzují chování milionů lidí a na základě těchto analýz vyvozují závěry s cílem prodat služby velkým společnostem nebo zlepšit jejich služby.
- Google Translate je další klasický systém AI, který je v určitých věcech působivě dobrý. Stejně tak rozpoznávání hlasu. Když vaše letadlo přistane, jeho terminál není identifikován osobou. Cena lístku je stejná. Nejlepší dámu na světě, šachy, vrhcáby, buldozery a další hry dnes představuje úzce zaměřená umělá inteligence.
- Google Search je jedna obří AI, která používá neuvěřitelně chytré metody k hodnocení stránek a určování SERP.
A to pouze ve spotřebitelském světě. Sofistikované systémy ICD jsou široce používány ve vojenském, výrobním a finančním průmyslu; v lékařských systémech (myslím IBM Watson) a tak dále.
Cesta z AGI do AGI: proč je to tak obtížné?
Nic neprozrazuje složitost lidské inteligence víc než snaha vytvořit počítač, který je stejně chytrý. Stavět mrakodrapy, létat do vesmíru, tajemství Velkého třesku jsou nesmysl ve srovnání s opakováním našich mozků, nebo alespoň s pochopením toho. Lidský mozek je v současné době nejsložitějším objektem ve známém vesmíru.
Možná ani netušíte, jaké je potíže s vytvořením AGI (počítač, který bude chytrý jako člověk obecně a nejen v jedné oblasti). Sestavení počítače, který dokáže za zlomek sekundy znásobit dvě desetimístná čísla, je hračkou. Stvořit toho, kdo se dokáže podívat na psa a kočku a zjistit, kde je pes a kde je kočka, je neuvěřitelně obtížné. Vytvořit AI, která dokáže porazit velmistra? Hotovo. Nyní se ho pokuste přimět, aby přečetl odstavec ze šest let staré knihy a porozuměl nejen slovům, ale také jejich významu. Google za to utrácí miliardy dolarů. Se složitými věcmi - jako jsou výpočty, výpočet strategií finančního trhu, překlad jazyka - se s tím počítač snadno vyrovná, ale s jednoduchými věcmi - vidění, pohyb, vnímání - ne. Jak řekl Donald Knuth: „AI nyní dělá téměř všechnocož vyžaduje „myšlení“, ale nedokáže se vyrovnat s tím, co lidé a zvířata dělají bez přemýšlení. “
Když se zamyslíte nad důvody, uvědomíte si, že věci, které se nám zdají jednoduché, se zdají jen proto, že byly optimalizovány pro nás (a zvířata) po stovky milionů let evoluce. Když natáhnete předmět, svaly, klouby, kosti vašich ramen, loktů a rukou okamžitě provádějí dlouhé řetězce fyzických operací, synchronně s tím, co vidíte, a pohybují paží ve třech rozměrech. Zdá se vám to jednoduché, protože za tyto procesy je zodpovědný ideální software ve vašem mozku. Tento jednoduchý trik usnadňuje postup registrace nového účtu zadáváním křivě napsaného slova (captcha) a peklem škodlivého robota. Pro náš mozek to není těžké: musíte jen vidět.
Na druhou stranu, množení velkého počtu nebo hraní šachů jsou nové aktivity pro biologické bytosti a my jsme neměli dostatek času se v nich zlepšovat (ne miliony let), takže není těžké, aby nás počítač porazil. Jen se nad tím zamyslete: Raději byste vytvořili program, který dokáže množit velká čísla, nebo program, který rozpozná písmeno B v jeho milionech hláskování, v těch nepředvídatelných písmech, ručně nebo s holí ve sněhu?
Jeden jednoduchý příklad: když se na to podíváte, vy a váš počítač si uvědomíte, že se jedná o střídající se čtverce dvou různých odstínů.
Pokud však odstraníte černou, okamžitě popíšete celý obrázek: válce, roviny, trojrozměrné úhly, ale počítač to nedokáže.
Popíše to, co vidí jako různé dvourozměrné tvary v různých odstínech, což je v zásadě pravda. Váš mozek dělá spoustu práce při interpretaci hloubky, hry stínů, světla na obrázku. Na obrázku níže bude počítač vidět dvourozměrnou bílo-šedo-černou koláž, zatímco ve skutečnosti existuje trojrozměrný kámen.
A to, co jsme právě nastínili, je špička ledovce, pokud jde o porozumění a zpracování informací. Aby člověk dosáhl stejné úrovně s člověkem, musí pochopit rozdíl v jemných výrazech obličeje, rozdíl mezi rozkoší, smutkem, uspokojením, radostí a tím, proč je Chatsky dobrý, a Molchalin není.
Co dělat?
První krok k vytvoření AGI: zvýšení výpočetního výkonu
Jednou z nezbytných věcí, které se musí stát, aby se AGI stalo možným, je zvýšení výkonu počítačového hardwaru. Má-li být systém umělé inteligence stejně chytrý jako mozek, musí odpovídat mozku v surové výpočetní síle.
Jedním ze způsobů, jak tuto schopnost zvýšit, je celkový počet výpočtů za sekundu (OPS), které mozek dokáže vyprodukovat, a tento počet můžete určit zjišťováním maximálního OPS pro každou strukturu mozku a jejich spojením.
Ray Kurzweil dospěl k závěru, že stačí získat profesionální odhad OPS jedné struktury a její hmotnosti vzhledem k hmotnosti celého mozku a poté jej proporcionálně znásobit, abychom získali celkový odhad. Zní to trochu pochybně, ale udělal to mnohokrát s různými odhady různých oblastí a vždy přišel se stejným číslem: asi 10 ^ 16 nebo 10 kvadrillion OPS.
Nejrychlejší superpočítač na světě, čínský Tianhe-2, již toto číslo překonal: je schopen provádět přibližně 32 kvadrillionů operací za sekundu. Ale „Tianhe-2“zabírá 720 metrů čtverečních prostoru, spotřebovává 24 megawattů energie (náš mozek jen 20 wattů) a stojí 390 milionů dolarů. Nemluvíme o komerčním nebo rozšířeném použití.
Kurzweil navrhuje, abychom posuzovali zdraví počítačů podle toho, kolik OPS si můžete koupit za 1 000 $. Když toto číslo dosáhne lidské úrovně - 10 kvadrillionů OPS - AGI se může stát součástí našich životů.
Moorův zákon - historicky spolehlivé pravidlo, že maximální výpočetní výkon počítačů se každé dva roky zdvojnásobuje - znamená, že vývoj výpočetní techniky, stejně jako pohyb člověka v historii, exponenciálně roste. Dáme-li to do souladu s Kurzweilovým tisícidolarovým pravidlem, můžeme si nyní dovolit 10 bilionů OPS za 1 000 $.
Exponenciální růst výpočetní techniky: 20. - 21. století. Vpravo je posuvné pravidlo a na něm - mozek hmyzu, myši, osoby a všech lidí; vlevo - výpočty za sekundu za 1000 $; níže - rok.
Počítače za 1 000 $ obcházejí mozek myši ve své výpočetní síle a jsou tisíckrát slabší než lidé. To se jeví jako špatný indikátor, dokud si nepamatujeme, že počítače byly v roce 1985 bilionkrát slabší než lidský mozek, miliarda v roce 1995 a milion v roce 2005. Do roku 2025 bychom měli mít cenově dostupný počítač, který bude konkurovat výpočetnímu výkonu náš mozek.
Surová energie potřebná pro AGI je tedy již technicky dostupná. Během 10 let opustí Čínu a rozšíří se do celého světa. Samotný výpočetní výkon však nestačí. A další otázka: jak poskytneme inteligenci na lidské úrovni se vší touto mocí?
Druhý krok k vytvoření AGI: dát mu inteligenci
Tato část je docela složitá. Po pravdě řečeno, nikdo opravdu neví, jak udělat stroj inteligentním - stále se snažíme přijít na to, jak vytvořit inteligenci na lidské úrovni, která dokáže rozeznat kočku od psa, izolovat B nakreslenou ve sněhu a analyzovat druhořadý film. Existuje však několik strategií pro myšlení vpřed a v jednom okamžiku by jedna z nich měla fungovat.
1. Opakujte mozek
Tato možnost je jako kdyby vědci byli ve stejné třídě s dítětem, které je velmi chytré a dobře odpovídá na otázky; a i když se pilně snaží pochopit vědu, ani se nepřiblíží k tomu, aby chytili chytré dítě. Nakonec se rozhodnou: k čertu, jen odepíšeme odpovědi na jeho otázky. Dává to smysl: nemůžeme postavit superkomplexní počítač, tak proč si jako základ nevzít jeden z nejlepších prototypů ve vesmíru: náš mozek?
Vědecký svět tvrdě pracuje na tom, aby zjistil, jak funguje náš mozek a jak evoluce vytvořila tak složitou věc. Podle nejoptimističtějších odhadů to dokážou až do roku 2030. Ale jakmile pochopíme všechna tajemství mozku, jeho účinnost a sílu, můžeme se inspirovat jeho metodami při vytváření technologie. Například jednou z počítačových architektur, která napodobuje fungování mozku, je neurální síť. Začíná sítí tranzistorových „neuronů“vzájemně propojených vstupem a výstupem a neví nic - jako novorozenec. Systém se „učí“tím, že se snaží dokončit úkoly, rozpoznat ručně psaný text a podobně. Spojení mezi tranzistory je posíleno, pokud je odpověď správná, a oslabeno, pokud je odpověď nesprávná. Po mnoha cyklech otázek a odpovědí vytváří systém inteligentní neurální vazby,optimalizováno pro konkrétní úkoly. Mozek se učí podobným způsobem, ale mnohem komplexnějším způsobem, a jak to budeme dál studovat, objevujeme neuvěřitelně nové způsoby, jak zlepšit neuronové sítě.
Ještě extrémnější plagiátorství zahrnuje strategii zvanou plná emulace mozku. Účel: Chcete-li rozřezat skutečný mozek na tenké plátky, naskenujte každý z nich, poté pomocí softwaru přesně rekonstruujte 3D model a poté jej převeďte do výkonného počítače. Pak budeme mít počítač, který bude oficiálně schopen dělat vše, co mozek dokáže: potřebuje se jen naučit a sbírat informace. Pokud inženýři uspějí, mohou emulovat skutečný mozek s tak neuvěřitelnou přesností, že po stažení do počítače zůstane jeho skutečná identita a paměť neporušené. Pokud mozek patřil Vadimovi před jeho smrtí, počítač se probudí v roli Vadima, který bude nyní AGI na lidské úrovni, a my zase z Vadima uděláme neuvěřitelně inteligentního ISI.kterým bude pravděpodobně potěšen.
Jak daleko jsme od úplné emulace mozku? Ve skutečnosti jsme právě emulovali mozek milimetrového plochého červa, který obsahuje celkem 302 neuronů. Lidský mozek obsahuje 100 miliard neuronů. Pokud se vám zdá, že pokus dostat se k tomuto číslu zbytečný, přemýšlejte o exponenciální rychlosti růstu. Dalším krokem bude emulace mozku mravence, pak bude myš a člověk bude na dosah.
2. Pokuste se sledovat stopy evoluce
Pokud se rozhodneme, že odpovědi chytrého dítěte jsou příliš složité na to, abychom mohli odepsat, můžeme se pokusit jít v jeho stopách učení a přípravy na zkoušku. Co víme? Je docela možné postavit počítač tak silný jako mozek - to dokazuje vývoj našich vlastních mozků. A pokud je mozek příliš složitý na to, aby emuloval, můžeme se pokusit napodobit evoluci. Jde o to, že i když dokážeme napodobit mozek, mohlo by to být jako pokusit se postavit letadlo směšným mávnutím rukou, které napodobuje pohyby ptačích křídel. Častěji se nám nedaří vytvořit dobré stroje pomocí strojově orientovaného přístupu, spíše než s přesnou imitací biologie.
Jak simulovat evoluci k vytvoření AGI? Tato metoda zvaná „genetické algoritmy“by měla fungovat asi takto: musí existovat produktivní proces a jeho hodnocení a bude se opakovat znovu a znovu (stejným způsobem biologická stvoření „existují“a „jsou hodnocena“podle jejich schopnosti reprodukovat). Skupina počítačů bude provádět úkoly a nejúspěšnější z nich budou sdílet své vlastnosti s jinými počítači, „výstup“. Méně úspěšní budou nemilosrdně hozeni do popelnice historie. Prostřednictvím mnoha a mnoha iterací tento proces přirozeného výběru vyprodukuje lepší počítače. Výzva spočívá ve vytváření a automatizaci cyklů rozmnožování a hodnocení tak, aby proces evoluce pokračoval sám od sebe.
Nevýhodou kopírování evoluce je, že evoluce trvá miliardy let, než něco uděláme, a k tomu nám zbývá jen několik desetiletí.
Na rozdíl od evoluce však máme spoustu výhod. Zaprvé, nemá dar předvídavosti, funguje náhodou - například rozdává zbytečné mutace - a můžeme tento proces kontrolovat v rámci stanovených úkolů. Zadruhé, evoluce nemá žádný cíl, včetně touhy po inteligenci - někdy v prostředí určitý druh nezvítězí na úkor inteligence (protože ta spotřebuje více energie). Na druhou stranu se můžeme zaměřit na zvýšení inteligence. Zatřetí, aby bylo možné zvolit inteligenci, musí evoluce provést řadu vylepšení třetích stran - například přerozdělení spotřeby energie buňkami - můžeme jednoduše odstranit přebytek a používat elektřinu. Bezpochyby budeme rychlejší než evoluce - ale opět není jasné, zda ji dokážeme překonat.
3. Nechte počítače pro sebe
Toto je poslední šance, když jsou vědci zcela zoufalí a pokusí se naprogramovat program pro vlastní rozvoj. Tato metoda se však může ukázat jako nejslibnější ze všech. Myšlenka spočívá v tom, že vytváříme počítač, který bude mít dvě základní dovednosti: zkoumat umělou inteligenci a sám kódovat změny - což mu umožní nejen více se naučit, ale také vylepšit vlastní architekturu. Můžeme vycvičit počítače, aby se staly jejich vlastními počítačovými inženýry, aby se mohli samostatně rozvíjet. A jejich hlavním úkolem bude přijít na to, jak být chytřejší. O tom si povíme později.
To vše se může stát velmi brzy
Rychlý pokrok v experimentování s hardwarem a softwarem probíhá paralelně a AGI se může objevit rychle a neočekávaně ze dvou hlavních důvodů:
Kdy počítače předčí lidi v myšlení? Objem Michiganského jezera (v tekutých uncích) se rovná objemu našich mozků (v operacích za sekundu). Výpočetní výkon se každých 18 měsíců zdvojnásobuje. Při této rychlosti dlouho neuvidíte žádné výsledky, ale pak se vše stane okamžitě.
2. Pokud jde o software, pokrok se může zdát pomalý, ale pak jeden průlom okamžitě změní rychlost pokroku (dobrý příklad: v dobách geocentrického světonázoru bylo pro lidi obtížné vypočítat práci vesmíru, ale objev heliocentrismu vše mnohem usnadnil). Nebo, pokud jde o počítač, který se zdokonaluje, věci se mohou zdát extrémně pomalé, ale někdy ho pouze jedna změna systému odděluje od tisícinásobné účinnosti ve srovnání s lidskou nebo předchozí verzí.
Cesta z AGI na ISI
V určitém okamžiku určitě dostaneme AGI - obecnou umělou inteligenci, počítače s obecnou úrovní inteligence člověka. Počítače a lidé budou žít společně. Nebo nebudou.
Jde o to, že AGI se stejnou úrovní inteligence a výpočetní síly jako lidé budou mít stále významné výhody oproti lidem. Například:
Zařízení
Rychlost. Mozkové neurony pracují při 200 Hz, zatímco moderní mikroprocesory (které jsou výrazně pomalejší než to, co získáme v době, kdy je vytvořen AGI) pracují na 2 GHz nebo 10 milionůkrát rychleji než naše neurony. A vnitřní komunikace mozku, která se může pohybovat rychlostí 120 m / s, je výrazně nižší než schopnost počítačů používat optiku a rychlost světla.
Velikost a skladování. Velikost mozku je omezena velikostí našich lebek a nemůže se zvětšovat, jinak bude interní komunikace rychlostí 120 m / s trvat příliš dlouho, než se bude cestovat z jedné struktury do druhé. Počítače se mohou rozšířit na jakoukoli fyzickou velikost, použít více hardwaru, zvýšit RAM, dlouhodobou paměť - to vše je nad naše možnosti.
Spolehlivost a trvanlivost. Nejen paměť počítače je přesnější než lidská paměť. Počítačové tranzistory jsou přesnější než biologické neurony a jsou méně náchylné k poškození (a skutečně je lze vyměnit nebo opravit). Mozek lidí se unavuje rychleji, zatímco počítače mohou pracovat nepřetržitě 24 hodin denně, 7 dní v týdnu.
Software
Možnost editace, modernizace, širší škála možností. Na rozdíl od lidského mozku lze počítačový program snadno opravit, aktualizovat nebo s ním experimentovat. Lze také upgradovat oblasti, kde je lidský mozek slabý. Lidský software pro vidění je skvěle navržen, ale z technického hlediska jsou jeho schopnosti stále velmi omezené - vidíme pouze ve viditelném spektru světla.
Kolektivní schopnost. Lidé jsou lepší než jiné druhy, pokud jde o velkou kolektivní inteligenci. Od vývoje jazyka a formování velkých komunit, přes vynálezy psaní a tisku a nyní napájené nástroji, jako je internet, je kolektivní inteligence lidí důležitým důvodem, proč si můžeme říkat korunu evoluce. Ale počítače budou stále lepší. Celosvětová síť umělých inteligencí pracujících na jednom programu, neustále se synchronizujících a se vyvíjejících, vám umožní okamžitě přidávat nové informace do databáze, ať jste kdekoli. Taková skupina bude také schopna pracovat na dosažení jednoho cíle jako celku, protože počítače netrpí zvláštními názory, motivací a vlastním zájmem, které lidé dělají.
AI, která se pravděpodobně stane AGI díky programovanému sebezdokonalování, nebude vnímat „inteligenci na lidské úrovni“jako důležitý milník - tento milník je důležitý pouze pro nás. Nebude mít důvod zastavit se na této pochybné úrovni. A vzhledem k výhodám, které bude mít dokonce AGI na lidské úrovni, je zcela zřejmé, že lidská inteligence bude pro ni krátkým zábleskem v závodě o intelektuální nadřazenost.
Tento vývoj událostí nás může velmi, velmi překvapit. Faktem je, že z našeho pohledu a) jediným kritériem, které nám umožňuje určit kvalitu inteligence, je inteligence zvířat, která je standardně nižší než naše; b) pro nás jsou nejchytřejší lidé VŽDY chytřejší než nejhloupější. Více či méně takto:
To znamená, že zatímco se AI jen snaží dosáhnout naší úrovně vývoje, vidíme, jak se stává chytřejší a blíží se úrovni zvířete. Když se dostane na první úroveň člověka - Nick Bostrom používá výraz „idiot země“- budeme potěšeni: „Páni, už je jako pitomec. Chladný! Jediná věc je, že v obecném spektru inteligence lidí, od vesnického idiota po Einsteina, je dosah malý - takže poté, co se AI dostane na úroveň idiota a stane se AGI, bude najednou chytřejší než Einstein.
A co se stane dál?
Výbuch inteligence
Doufám, že vám to připadalo zajímavé a zábavné, protože od té chvíle se téma, o kterém diskutujeme, stává nenormálním a strašidelným. Měli bychom se pozastavit a připomenout si, že každá skutečnost uvedená výše i níže je skutečnou vědou a skutečnými předpovědi do budoucnosti, které učinili nejvýznamnější myslitelé a vědci. Jen mějte na paměti.
Jak jsme již uvedli výše, všechny naše moderní modely pro dosažení AGI zahrnují možnost, když se AI zlepšuje sama. A jakmile se stane AGI, dokonce i systémy a metody, kterými vyrůstal, se staly dostatečně chytrými, aby se zlepšil - pokud chtějí. Objevuje se zajímavý koncept: rekurzivní sebezdokonalování. Funguje to takto.
Určitý systém AI na určité úrovni - řekněme vesnický idiot - je naprogramován tak, aby zlepšoval svou vlastní inteligenci. Když se takový systém vyvinul - řekněme na úroveň Einsteina -, začíná se rozvíjet již s Einsteinovým intelektem, jeho vývoj trvá méně času a skoky jsou čím dál větší. Umožňují systému překonat jakoukoli osobu a jsou stále větší a větší. Jak se rychle rozvíjí, AGI stoupá do nebeských výšek ve své inteligenci a stává se superinteligentním systémem ISI. Tento proces se nazývá exploze inteligence a je to nejjasnější příklad zákona zrychlení návratů.
Vědci se dohadují o tom, jak rychle AI dosáhne AGI - většina věří, že dostaneme AGI do roku 2040, za pouhých 25 let, což je podle standardů technologického rozvoje velmi, velmi málo. V pokračování logického řetězce není těžké předpokládat, že přechod z AGI na ISI proběhne také velmi rychle. Více či méně takto:
"Trvalo několik desetiletí, než první systém AI dosáhl nejnižší úrovně obecné inteligence, ale nakonec se to stalo." Počítač je schopen pochopit svět kolem sebe jako čtyřletý člověk. Najednou, doslova hodinu po dosažení tohoto milníku, systém vytvoří skvělou fyzikální teorii, která kombinuje obecnou relativitu a kvantovou mechaniku, což žádný člověk nedokáže. Po hodině a půl se z AI stane ISI, 170 000krát chytřejší než kterýkoli člověk. “
Nemáme ani správné termíny k popisu superinteligence takového rozsahu. V našem světě „chytrý“znamená osobu s IQ 130, „hloupý“- 85, ale nemáme žádné příklady lidí s IQ 12 952. Naši vládci k tomu nejsou určeni.
Dějiny lidstva nám jasně a jasně říkají: spolu s intelektem přichází síla a síla. To znamená, že když vytvoříme umělou superinteligenci, bude to nejmocnější tvor v historii života na Zemi a všechny živé bytosti, včetně lidí, budou zcela v její moci - a to se může stát za dvacet let.
Pokud naše skromné mozky dokázaly vymyslet Wi-Fi, pak něco chytřejšího než my stokrát, tisíckrát, miliardkrát dokáže snadno vypočítat polohu každého atomu ve vesmíru v daném okamžiku. Všechno, co lze nazvat magií, jakákoli síla přisuzovaná všemohoucímu božstvu - to vše bude mít k dispozici ISI. Vytváření technologií pro zvrácení stárnutí, léčba jakékoli nemoci, ukončení hladu a dokonce smrti, kontrola počasí - vše bude najednou možné. Okamžitý konec veškerého života na Zemi je také možný. Nejchytřejší lidé na naší planetě se shodují, že jakmile se na světě objeví umělá superinteligence, bude to znamenat vzhled Boha na Zemi. A zůstává důležitá otázka.
Na základě materiálů z waitbutwhy.com, kompilace Tim Urban. Článek využívá materiály z děl Nicka Bostroma, Jamese Barratta, Raya Kurzweila, Jaye Nielse-Nilssona, Stephena Pinkera, Vernora Vinge, Moshe Vardyho, Russa Robertsa, Stuarta Armstroga a Kai Sotala, Susan Schneiderové, Stuarta Russella a Petera Norviga, Theodora Modise, Garyho Modise Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Autor: Ilya Khel
Část druhá: vyhynutí nebo nesmrtelnost?