Snad jedním z nejobtížnějších testů strojové inteligence byla šachová hra, která proběhla před téměř 20 lety mezi počítačem Deep Blue a mistrem světa v šachu Garrym Kasparovem. Auto zvítězilo. V tuto chvíli skončila série her v logické hře go, kde soutěžily AI AlphaGo od DeepMind (majitel Google) a legendární go šampion z Číny Li Si Dol. Ve čtyřech z pěti her zvítězil stroj, který v této hře ukázal svou převahu nad člověkem. Neuvěřitelně složitá hra mezi člověkem a AI ukazuje, že během této doby se inteligence strojů vyvinula velmi silně. Zdá se, že osudový den, kdy jsou stroje skutečně chytřejší než lidé, je nyní blíže než kdy jindy. Zdá se však, že mnozí tomu vůbec nerozumí, ale spíše se mýlí ohledně důsledků, které nás v budoucnu mohou čekat.
Podceňujeme některé velmi závažné a dokonce nebezpečné důsledky vývoje umělé inteligence. V loňském roce vydal spoluzakladatel SpaceX Elon Musk prohlášení, ve kterém vyjádřil znepokojení nad možným zotročením světa umělou inteligencí, což vyvolalo obrovské množství komentářů od příznivců i odpůrců tohoto stanoviska.
Pro tak zásadně revoluční budoucnost, která nás může čekat, je překvapivé, že dnes existuje tolik neshod ohledně toho, zda se to vůbec stane a co se nakonec ukáže. Je obzvláště zvláštní popírat neuvěřitelné výhody, které můžeme získat při vytváření skutečně inteligentní AI, samozřejmě s přihlédnutím ke všem možným rizikům. Všechny tyto otázky jsou neuvěřitelně obtížné získat odpovědi, které potřebujete, protože AI, na rozdíl od jiných vynálezů lidstva, dokáže toto lidstvo skutečně „omladit“nebo úplně zničit.
Nyní je těžké pochopit, čemu věřit a v co doufat. Díky průkopníkům počítačové vědy, neurologům a teoretikům vývoje AI se však začíná pomalu vyjasňovat jasný obraz. Níže je uveden seznam nejčastějších mylných představ a mýtů týkajících se umělé inteligence.
Nikdy nevytvoříme AI s humanoidní inteligencí
Realita zase naznačuje, že již máme počítače, které v některých oblastech odpovídají a dokonce překračují lidské schopnosti. Vezměte si šachy nebo stejnou hru go, obchodování na burzách nebo roli virtuálního partnera. Počítače a algoritmy, které je ovládají, se časem budou jen zlepšovat a je jen otázkou času, než se stanou rovnocennými lidským schopnostem.
Propagační video:
Výzkumník z Newyorské univerzity Gary Markus kdysi řekl, že „prakticky každý“, kdo pracuje s AI, věří, že nás stroje jednoho dne překonají:
„Jediným sporem mezi příznivci a skeptiky je načasování této události.“
Futuristé jako Ray Kurzweil věří, že by se to mohlo stát v nadcházejících desetiletích, zatímco jiní říkají, že to bude trvat několik století.
Skeptici AI nejsou přesvědčiví ve svých důkazech, že vytvoření umělé inteligence jako něčeho jedinečného a velmi podobného skutečně živému lidskému mozku z technologického hlediska je někde mimo realitu. Náš mozek je také stroj. Biologický stroj. Existuje ve stejném světě a řídí se stejnými zákony fyziky jako všechno ostatní. A postupem času úplně přijdeme na celý princip jeho práce.
AI bude mít vědomí
Existuje obecná shoda, že strojová inteligence bude při vědomí. To znamená, že AI bude uvažovat stejným způsobem jako člověk. Někteří kritici, například spoluzakladatel Microsoftu Paul Allen, se domnívají, že kvůli neúplnému teoretickému základu popisujícímu mechanismy a principy sebeuvědomění jsme dosud nevytvořili ani obecnou umělou inteligenci, tedy inteligenci schopnou vykonávat jakékoli intelektuální úkoly, s nimiž člověk zvládne. Podle Murraye Shanahana, odborného asistenta na katedře kognitivní robotiky na Imperial College v Londýně, bychom však neměli tyto dva činit.
"Sebevědomí je určitě velmi zajímavý a důležitý předmět výzkumu, ale nevěřím, že by sebeuvědomění mělo být povinným atributem umělé inteligence podobné člověku," říká Shanahan.
„Výraz„ sebevědomí “obecně používáme pouze k označení několika psychologických a kognitivních atributů, které jsou v člověku obvykle spojeny.“
Je možné si představit velmi chytré auto, které postrádá jeden nebo více těchto atributů. Jednoho dne budeme schopni vybudovat skutečně neuvěřitelně inteligentní AI, ale zároveň zbavení schopnosti sebeuvědomění a subjektivního a vědomého porozumění světu kolem nás. Shanahan poznamenává, že sjednocení inteligence a sebeuvědomění uvnitř stroje bude stále možné, ale nesmíme přehlédnout skutečnost, že se jedná o dva zcela odlišné pojmy.
A ačkoli byla úspěšně projata jedna z variant „Turingova testu“, ve které stroj ukázal, že se neliší od člověka, vůbec to neznamená, že tento stroj má vědomí. Z našeho (lidského) hlediska se nám pokročilá umělá inteligence může zdát jako něco, co má sebeuvědomění, ale samotný stroj si nebude více vědom sebe než stejný kámen nebo kalkulačka.
Neměli bychom se bát AI
V lednu tohoto roku se zakladatel Facebooku Mark Zuckerberg podělil o své myšlenky, jak bychom se neměli bát AI, a dodal, že tato technologie může přinést obrovské výhody po celém světě. Pravda je, že má pravdu jen částečně. Skutečně budeme schopni sklízet úžasné výhody s umělou inteligencí, kterou máme k dispozici (od samojízdných automobilů po nové objevy v medicíně), ale nikdo nemůže zaručit, že každá aplikace umělé inteligence nutně přinese výhody.
Vysoce inteligentní systém možná bude znát vše potřebné pro určité úkoly (například řešení složité globální finanční situace nebo hacknutí počítačových systémů nepřítele), avšak mimo vysoce specializované úkoly je potenciál AI stále zcela nejasný, a proto potenciálně nebezpečný. Například systém DeepMind se specializuje na hru go, ale nemá žádnou schopnost (a důvod) prozkoumat oblasti mimo tuto oblast.
Plamenový počítačový virus, jehož úkolem bylo sledovat země Středního východu
Mnoho z těchto systémů může představovat vážná bezpečnostní rizika. Dobrým příkladem je silný a velmi mazaný virus Stuxnet, militarizovaný červ vytvořený americkou a izraelskou armádou k infiltraci a útoku na íránské jaderné elektrárny. Pouze tento škodlivý program nějak (náhodně nebo úmyslně) infikoval také jednu z ruských jaderných elektráren.
Dalším příkladem je virus Flame vyvinutý pro cílenou kybernetickou špionáž na Středním východě. Je snadné si představit, jak „budoucí verze“virů Stuxnet a Flame nezávisle překročí jejich přidělené úkoly a budou schopny infikovat téměř celou infrastrukturu země. A udělají to velmi tiše a nenápadně.
Umělá superinteligence bude příliš chytrá na to, aby mohla dělat chyby
Richard Luzmore, matematik, výzkumník umělé inteligence a zakladatel robotické společnosti Surfing Samurai Robots, je přesvědčen, že většina scénářů soudného dne AI vypadá nepravděpodobně, protože všechny jsou obecně založeny na tom, co AI jednoho dne řekne: „Chápu, že destrukce people is a error in my program code, but I still have to follow the task. “
Luzmore věří, že pokud se AI bude chovat podle tohoto scénáře, bude čelit logickým rozporům, které zpochybní celou její nahromaděnou znalostní základnu a nakonec povedou k vlastnímu povědomí o své hlouposti a zbytečnosti.
Výzkumník se rovněž domnívá, že ti lidé, kteří říkají, že „AI bude dělat pouze to, co je součástí jejího programu“, se mýlí, stejně jako lidé, kteří kdysi řekli stejná slova, ale vůči počítačům, prohlašující, že počítačové systémy nikdy nebudou mít univerzálnost.
Peter McIntyre a Stuart Armstrong, oba z Institutu pro budoucnost lidstva na Oxfordské univerzitě, s tímto názorem nesouhlasí a tvrdí, že chování AI bude povinné a do značné míry ospravedlněno programovým kódem. Vědci nevěří, že AI nikdy neudělá chyby, nebo naopak bude příliš hloupý, aby přesně pochopil, co od nich chceme.
„Podle definice je umělá superinteligence (ISI) agentem, jehož inteligence mnohonásobně překoná nejlepší mozky lidstva téměř ve všech oblastech,“říká McIntyre.
„Určitě pochopí, co od něj chceme.“
McIntyre a Armstrong věří, že AI bude plnit pouze úkoly, pro které byla naprogramována, ale pokud se nějak vyvine sama, pak se s největší pravděpodobností pokusí zjistit, jak moc se její akce budou lišit od lidských úkolů a od těch, které jsou v ní stanoveny. zákony.
McIntyre srovnává budoucnost lidí s budoucností myší. Myši mají silný instinkt pro hledání jídla a přístřeší, ale jejich cíle jsou často v rozporu s osobou, která je nechce vidět ve svém domě.
„Stejně jako naše znalosti o myších a jejich touhách, systém superinteligence může také vědět všechno o nás a vědět, co chceme, ale zároveň bude zcela lhostejný k našim touhám.“
Jednoduché řešení odstraní problém s řízením AI
Jak ukazuje film „From the Machine“, bude velmi obtížné ovládat AI, která bude mnohem chytřejší než my
Pokud předpokládáme, že jednoho dne vytvoříme superinteligenci, která bude chytřejší než lidé, pak budeme muset čelit vážnému problému, problému kontroly. Futuristé a teoretici umělé inteligence ještě nejsou schopni vysvětlit, jak můžeme ovládat a obsahovat ISI po jeho vytvoření. Není také jasné, jak můžeme zajistit, aby byl přátelský k lidem. V poslední době vědci z Georgia Institute of Technology (USA) naivně navrhli, že umělá inteligence se může učit a absorbovat lidské hodnoty a znalosti sociálních norem pouhým čtením jednoduchých pohádek. Ano, ano, jednoduché dětské pohádky a příběhy, které nám rodiče četli v dětství. Ve skutečnosti se ale všechno ukáže mnohem komplikovanější než to všechno.
„Pro problematiku řízení umělé inteligence bylo navrženo mnoho takzvaných„ řešení “,“říká Stuart Armstrong.
Příkladem takových řešení může být programování ISI takovým způsobem, že se neustále snaží potěšit nebo potěšit osobu. Alternativou by byla integrace konceptů, jako je láska nebo respekt, do jeho zdrojového kódu. A aby se zabránilo takovému vývoji scénáře, podle kterého umělá inteligence může všechny tyto koncepty zjednodušit a vnímat tento svět pomocí hranolu těchto superjednodušších konceptů, který jej rozdělí pouze na černobílý, lze jej naprogramovat tak, aby chápal a přijímal intelektuální, kulturní a sociální rozmanitost.
Tři zákony robotiky vytvořené Isaacem Asimovem dokonale zapadají do konceptu fikce, ale ve skutečnosti potřebujeme něco komplexnějšího, abychom se zabývali otázkou kontroly
Tato řešení jsou bohužel příliš jednoduchá a vypadají jako pokus o přizpůsobení se celé složitosti lidských lajků a nelibostí do jedné obecné definice nebo pojmu, nebo pokus o přizpůsobení celé složitosti lidských hodnot do jednoho slova, fráze nebo myšlenky. Například se pokuste do tohoto rámce zapadnout konzistentní a adekvátní definici takové věci jako „respekt“.
"Samozřejmě, neměli bychom si myslet, že takové jednoduché možnosti jsou naprosto zbytečné." Mnoho z nich nabízí velký důvod k přemýšlení a možná stimuluje hledání řešení konečného problému, “říká Armstrong.
„Nemůžeme se však spolehnout pouze na ně bez složitější práce, bez jasného výzkumu a hledání důsledků používání určitých řešení.“
Zničí nás umělá superinteligence
Nikdo nemůže zaručit, že nás AI jednoho dne zničí, stejně jako nikdo nemůže s jistotou říci, že nebudeme schopni najít způsoby, jak ovládat a používat AI pro naše vlastní účely. Jak kdysi řekl americký expert na umělou inteligenci Eliezer Yudkowski: „AI vás nemůže milovat ani nenávidět, ale jste vyrobeni z atomů, které by mohla použít k něčemu jinému.“
Oxfordský filozof Nick Bostrom ve své knize „Superinteligence: způsoby, nebezpečí a strategie“píše, že skutečná superinteligence bude jednoho dne schopna se realizovat, což ji učiní nebezpečnější než jakýkoli vynález, který kdy vytvořil člověk. Významní současní myslitelé jako Elon Musk, Bill Gates a Stephen Hawking (z nichž mnozí věří, že „vytvoření AI může být nejhorší chybou v historii lidstva“), více souhlasí s tímto názorem a již nyní bijí na poplach.
Peter McIntyer věří, že pro většinu úkolů, které si superinteligence může stanovit, budou lidé vypadat jako odkaz navíc.
„AI bude jednoho dne schopna dospět k závěru - a je třeba poznamenat, že to vypočítá zcela správně - že lidé ji nechtějí používat k maximalizaci ziskovosti konkrétní společnosti za každou cenu, bez ohledu na důsledky pro spotřebitele, životní prostředí a živé bytosti. Proto bude mít obrovskou pobídku k vypracování plánu a strategie, díky nimž člověk nebude moci zasahovat do řešení úkolu jeho změnou nebo dokonce vypnutím AI. “
Podle MacIntyera, pokud jsou úkoly AI přímo protikladné našim úkolům, pak mu to dá velké důvody, abychom ho nenechali zastavit. A když vezmeme v úvahu, že úroveň jeho inteligence bude mnohem vyšší než naše, bude opravdu velmi, velmi těžké ho zastavit, pokud je to vůbec možné.
Nyní je však nemožné s jistotou něco říct a nikdo nebude schopen říci, s jakou formou AI se budeme muset vypořádat a jak může ohrozit lidstvo. Jak jednou řekl Elon Musk, AI by mohla být skutečně použita k ovládání, sledování a ovládání jiných AI. A možná do toho budou zavedeny lidské hodnoty a počáteční přátelskost k lidem.
Umělá superinteligence bude přátelská
Filozof Immanuel Kant věřil, že inteligence je silně propojena s principy morálky. Ve své práci Singularity: A Philosophical Analysis vzal neurolog David Chalmers jako základ slavnou myšlenku Kanta a pokusil se ji použít k analýze formování umělé superinteligence.
"Pokud jsou principy popsané v tomto článku správné, pak by se spolu s prudkým rozvojem AI mělo očekávat prudký rozvoj morálních principů." Další vývoj povede ke vzniku systémů ISI, které budou disponovat supermorálkou a superinteligencí. Měli bychom tedy od nich očekávat pouze benevolentní vlastnosti. “
Pravdou je, že myšlenka pokročilé AI s principy morálky a výjimečné ctnosti neobstojí. Jak zdůrazňuje Armstrong, svět je plný chytrých válečných zločinců. Například intelekt a morálka u člověka nejsou nijak spojeny, proto vědec zpochybňuje, že takový vztah bude existovat i v jiných formách inteligence.
"Chytří lidé, kteří se chovají nemravně, mají tendenci vytvářet mnohem více problémů a bolesti než jejich méně inteligentní protějšky." Inteligence jim dává schopnost být sofistikovanější ve svých špatných než dobrých činech, “říká Armstrong.
McIntyre vysvětluje, že schopnost agenta dosáhnout daného úkolu nemá nic společného s tím, o jaký úkol jde.
"Budeme mít velké štěstí, pokud se naše AI stanou morálnějšími, nejen chytrými." Spoléhat se na štěstí je v této věci samozřejmě poslední věcí, ale možná je to štěstí, které v budoucnu určí naši pozici, “říká výzkumník.
Rizika spojená s AI a robotikou jsou stejná
Toto je obzvláště běžná mylná představa používaná v médiích i v hollywoodských trhácích, jako je The Terminator.
Pokud chce umělá superinteligence, jako je například Skynet, skutečně zničit celé lidstvo, pak je nepravděpodobné, že použije polovojenské androidy se samopaly v každé ruce. Jeho mazané a efektivní myšlení mu umožní pochopit, že bude mnohem pohodlnější použít, řekněme, nový typ biologického moru nebo například nějakou nanotechnologickou katastrofu. Nebo možná jen vezme a zničí atmosféru naší planety. AI je potenciálně nebezpečná nejen proto, že její vývoj úzce souvisí s vývojem robotiky. Důvod jeho potenciálního nebezpečí spočívá v metodách a prostředcích, kterými může deklarovat svou přítomnost světu.
AI ve sci-fi odráží naši budoucnost
Bezpochyby spisovatelé a autoři sci-fi už mnoho let využívají prostředí sci-fi jako odrazový můstek pro spekulace o naší skutečné budoucnosti, ale skutečné vytvoření ISI a skutečné důsledky toho jsou stále za horizontem našeho skutečného poznání. Navíc taková umělá a zjevně nelidská povaha umělé inteligence nám ani neumožňuje s přesností předpokládat, co tato umělá inteligence ve skutečnosti bude.
Ve většině sci-fi děl je AI co nejblíže lidem.
"Před námi je vlastně celé spektrum nejrůznějších možných typů mysli." I když vezmeme pouze lidskou podobu. Například vaše mysl není zdaleka totožná s myslí vašeho souseda. Ale toto srovnání je jen kapkou v moři veškeré možné rozmanitosti myslí, která by mohla existovat, “říká McIntyre.
Většina sci-fi fikcí je samozřejmě vytvořena především proto, aby vyprávěla příběh, aby nebyla tak vědecky přesvědčivá, jak je to jen možné. Pokud by to bylo naopak (věda je důležitější než zápletka), pak by bylo nezajímavé tyto práce sledovat.
"Jen si představte, jak nudné by byly všechny tyto příběhy, kde AI bez sebeuvědomění, schopnosti radovat se, milovat nebo nenávidět ničí všechny lidi prakticky bez jakéhokoli odporu k dosažení svého cíle, což mimochodem nemusí být příliš zajímavé." pro čtenáře nebo diváka, “komentuje Armstrong.
AI nám vezme práci
Schopnost AI automatizovat procesy, které děláme ručně, a její potenciál zničit celé lidstvo nejsou totéž. Podle Martina Forda, autora knihy Rise of the Robots: Technology and the Threat of a Jobless Future, se však tyto koncepty často snaží srovnávat a kombinovat do souvislého celku. Samozřejmě je skvělé, že se snažíme předvídat důsledky vytváření AI tak daleko, ale pouze pokud nás toto úsilí neodvádí od problémů, kterým můžeme čelit za pár desetiletí, pokud nic neděláme. A jedním z hlavních takových problémů je hromadná automatizace.
Málokdo by tvrdil, že jednou z výzev umělé inteligence bude najít způsob, jak automatizovat mnoho pracovních míst, od pracovních míst v továrně až po některé administrativní práce. Někteří odborníci předpovídají, že polovina všech pracovních míst, alespoň v USA, může být v blízké budoucnosti automatizována.
To ale vůbec neznamená, že nebudeme schopni takové změny přijmout. Je důležité si uvědomit, že touha zbavit se zbytečného fyzického a psychického stresu při práci byla ve skutečnosti snem našeho lidského druhu po dlouhou dobu.
"Za několik desetiletí umělá inteligence skutečně nahradí lidi na mnoha pracovních místech." A to je vlastně docela dobré. Například autojeřáby nahradí autodopravce, což zase nejen sníží náklady na přepravu zboží, ale také sníží náklady na samotné zboží. Pokud pracujete jako řidič kamionu, pak samozřejmě zůstáváte posledním, ale v tomto případě všichni ostatní pravděpodobně zvýší své platy. A čím více těchto peněz lze ušetřit, tím více je možné utratit za další zboží a služby, kterým se lidé budou na svých pracovištích věnovat. “
Umělá inteligence bude s největší pravděpodobností hledat nové způsoby, jak se cítit dobře, a nakrmit lidi, zatímco budou dělat jiné věci. Pokroky ve vývoji AI budou doprovázeny úspěchy v jiných oblastech. Zejména ve výrobních odvětvích. V budoucnu to vše pravděpodobně uspokojení našich základních potřeb spíše výrazně zjednoduší, než zkomplikuje.