Jednoho večera v srpnu 2010 vystoupil v konferenční místnosti v oblasti San Francisco Bay Area 34letý Londoner jménem Demis Hassabis. Vystoupil na pódium s předstíraným pohybem muže, který se pokoušel ovládat své nervy, stiskl rty k sobě v krátkém úsměvu a řekl: „No, dnes chci mluvit o různých přístupech ke stvoření …“. Zastavil se, jako by si uvědomil, jak nahlas deklaruje své ambice. A řekl: „AGI“.
AGI je zkratka pro General Artificial Intelligence, hypotetický počítačový program, který dokáže vykonávat intelektuální úkoly i člověka, nebo dokonce lépe. AGI bude moci provádět specifické úkoly, jako je rozpoznávání lidí na fotografiích nebo překlady jazyků, které jsou v současné době schopny provádět v našich telefonech a počítačích mnoho samostatných umělých inteligencí. Budou schopni pokračovat v rozhovoru, hrát šachy a hovořit francouzsky zároveň. Budou schopni porozumět knihám o fyzice, psát romány, rozvíjet investiční strategie a udržovat příležitostný rozhovor s cizími lidmi. Budou sledovat jaderné reakce, řídit energetické sítě a provoz a bez námahy uspět ve všem ostatním. AGI bude nejmodernější AI dnes vypadat jako kapesní kalkulačky.
Jediný intelekt, který je v současné době schopen plnit všechny tyto úkoly, patří lidem. Ale lidská mysl je omezena velikostí lebky, která ukládá mozek. Jeho síla je omezena malým množstvím energie, kterou může tělo poskytnout. Protože AGI poběží na počítačích, nebude trpět těmito omezeními. Jeho inteligence bude omezena pouze počtem dostupných procesorů. AGI může začít sledováním jaderných reakcí. Ale brzy objeví nové zdroje energie a stráví více fyzikální práce za sekundu, než může člověk za tisíc let. Inteligence na lidské úrovni, podpořená rychlostí a škálovatelností počítačů, nám ušetří potíže. Hassabis řekl britským novinám Observer, že očekává, že AGI bude mimo jiné řešit problémy jako „rakovina“změna klimatu, energetika, genomika, makroekonomie a finanční systémy. “
Konference, na níž hovořil Hassabis, se jmenovala Summit Singularity Summit. Singularita - první část názvu - podle futurologů označuje nejpravděpodobnější důsledek vzniku AGI. Protože AGI bude zpracovávat informace vysokou rychlostí, stane se velmi inteligentní velmi rychle. Rychlé cykly samokontroly povedou k výbuchu inteligence stroje a lidé nechají čichat křemíkový prach. Protože tato budoucnost je založena pouze na neověřených předpokladech, téměř nábožensky se předpokládá, že singularita bude buď utopií, nebo peklem.
Soudě podle názvů projevů účastníci konference věřili více v první výsledek: „Mysl a jak ji postavit“, „AI proti stárnutí“, „Výměna našich těl“, „Úprava hranice mezi životem a smrtí“. Hassabisova řeč na druhou stranu vypadala nudně: „Systémový neurovědný přístup k vytváření AGI.“
Hassabis přecházel mezi pódiem a obrazovkou a mluvil v plácnutí. Měl na sobě vínový svetr a bílou knoflíkovou košili jako školák. Zdálo se, že jeho malá postava zdůrazňuje jeho inteligenci. Až dosud Hassabis vysvětlil, že vědci přistupovali k AGI ze dvou stran. Jeden přístup, známý jako symbolická umělá inteligence, se pokusil popsat a naprogramovat všechna pravidla potřebná pro systém, který by mohl myslet jako člověk. Tento přístup byl populární v 80. a 90. letech, ale nepřinesl požadované výsledky. Hassabis věřil, že mentální architektura mozku je příliš jemná, než aby byla popsána tímto způsobem.
Jiný přístup spojil vědce, kteří se pokoušeli digitálně replikovat fyzické sítě mozku. Dávalo to určitý smysl. Koneckonců, mozek je postel lidské inteligence. Ale tito vědci byli také na špatné cestě, řekl Hassabis. Jejich úkolem bylo vytvořit mapu všech hvězd ve vesmíru. Hluběji se soustředili na špatnou úroveň fungování mozku. Bylo to jako pokusit se zjistit, jak aplikace Microsoft Excel pracuje hackováním do počítače a naučením se, jak tranzistory interagují.
Místo toho, Hassabis nabídl střední půdu: AGI by měl čerpat inspiraci z širokých způsobů, kterými mozek zpracovává informace, spíše než z fyzických systémů nebo specifických pravidel, která platí v konkrétních situacích. Jinými slovy, měl by se zaměřit na porozumění softwaru mozku, nikoli jeho hardwaru. Nové techniky, jako je funkční magnetické rezonance (fMRI), které umožňovaly nahlédnout do mozku, jak to fungovalo, naznačovaly, že takové porozumění je možné. Nedávné studie, řekl Hassabis, ukazují, že mozek se učí opakováním svých zkušeností během spánku, aby odhalil obecné principy. Vědci umělé inteligence musí takový systém napodobovat.
Propagační video:
V pravém dolním rohu úvodního snímku je logo ve tvaru kulatého modrého víru. Dvě slova vedle ní jsou vytištěna níže: DeepMind. Bylo to poprvé, kdy byla společnost veřejně zmíněna. Hassabis strávil přes rok snahou získat pozvání na vrchol Singularity Summit. Přednáška byla jeho obálkou. Ve skutečnosti potřeboval jednu minutu s Peterem Thielem, miliardářem Silicon Valley, který financoval konferenci. Hassabis chtěl Thielovu investici.
Hassabis nikdy nemluvil o tom, proč potřebuje Thielovu podporu. Thiel ale věřil v AGI ještě víc než Hassabis. Když Thiel hovořil na summitu Singularity v roce 2009, řekl, že jeho největším strachem z budoucnosti není robotické povstání. Více se obával, že singularita nepřichází brzy. Svět potřeboval nové technologie, aby zabránil hospodářskému poklesu.
DeepMind nakonec získala 2 miliony liber, z toho Thiel 1,4 milionu. Když společnost Google koupila společnost v lednu 2014 za 600 milionů USD, Thiel a další dříví investoři dosáhli návratnosti svých investic ve výši 5 000%.
Pro mnoho zakladatelů by to byl šťastný konec. Jeden mohl odpočinout, udělat krok zpět, trávit čas sám s penězi. Pro Hassabise byla akvizice Google dalším krokem v jeho hledání AGI. Většinu roku 2013 strávil jednáním o podmínkách dohody. DeepMind musela pracovat odděleně od svého majitele. Potřebovala získat výhody vlastnictví Google, jako je přístup k peněžním tokům a výpočetní výkon, aniž by ztratila kontrolu.
Hassabis si myslel, že DeepMind může být hybrid, se spouštěcím motorem, mozkem největších univerzit a hlubokými kapsami jedné z nejcennějších společností na světě. Každá složka byla na místě, aby urychlila příjezd AGI a odstranila příčiny lidského utrpení.
Hu od pana Hassabise
Demis Hassabis se narodil v severním Londýně v roce 1976 řecké kyperské a singapurské čínské rodině. Byl nejstarším ze tří sourozenců. Jeho matka pracovala v britském obchodním domě John Lewis a jeho otec provozoval obchod s hračkami. Sám Hassabis začal ve čtyřech letech šachy a sledoval hru svého otce a strýce. Za pár týdnů už bil dospělé. Ve věku 13 let se stal druhým nejlepším šachovým hráčem svého věku. V osmi letech se naučil programovat na jednoduchém počítači.
Hassabis získal vysokoškolské vzdělání v roce 1992, dva roky před plánovaným termínem. Dostal práci jako programátor videoher ve společnosti Bullfrog Productions. Hassabis napsal Theme Park, ve kterém hráči vytvářejí a spravují virtuální zábavní park. Hra byla velkým úspěchem a prodala 15 milionů kopií, čímž vytvořila celý žánr simulačních her, ve kterých cílem nebylo porazit nepřítele, ale optimalizovat fungování obrovského komplexního systému, jako je obchod nebo město.
Kromě vytváření her je Demis dobře hrál. Jako teenager běžel mezi podlahami v soutěžích deskových her, zatímco soutěžil v soubojích šachů, scrabble, poker a backgammon. V roce 1995, když studoval informatiku na University of Cambridge, Hassabis soutěžil v studentském turnaji. Go je prastará strategická stolní hra, která je výrazně obtížnější než šachy. Mistrovství musí vyžadovat intuici získanou mnohaletými zkušenostmi. Nikdo nevěděl, jestli Hassabis někdy hrál Go předtím.
Nejprve Hassabis vyhrál turnaj pro začátečníky. Poté porazil vítěze zkušených hráčů, i když s handicapem. Charles Matthews, Cambridge Go Master, který hostil turnaj, připomíná šok z toho, že byl zničen 19letým nováčkem. Matthews vzal Hassabise pod křídlo.
Hassabisova inteligence a ambice byly ve hrách vždy patrné. Hry zase vzbudily jeho vášeň pro inteligenci. Když sledoval svůj vývoj v šachu, přemýšlel, jestli by se počítače nemohly naprogramovat tak, aby se učily stejným způsobem jako získávání zkušeností. Hry nabídly vzdělávací prostředí, které neodpovídalo skutečnému světu. Byli přísní a uzavření. Protože hry jsou oddělené od skutečného světa, lze je praktikovat bez rušení a efektivně se učit. Hry urychlují čas: hráči vytvoří zločinecký syndrom za pár dní a bojují na Sommě za pár minut.
V létě 1997 cestoval Hassabis do Japonska. V květnu toho roku porazil počítač IBM Deep Blue Garry Kasparov, mistra světa v šachu. Poprvé počítač porazil velmistra. Zápas přitahoval pozornost celého světa a vzbudil obavy z rostoucí síly a potenciální hrozby počítačů. Když se Hassabis setkal s japonským mistrem deskové hry Masahiko Futszuvera, hovořil o plánech, které by spojily jeho zájmy ve strategických hrách a umělé inteligenci: jednoho dne vyvinul počítačový program, aby porazil největšího hráče go.
Hassabis přistoupil ke své kariéře metodicky. "Ve věku 20 let Hassabis věřil, že musí existovat určité věci, než se umělá inteligence může dostat na úroveň, kterou potřebuje," říká Matthews. "Měl plán."
V roce 1998 založil vlastní herní studio s názvem Elixir. Hassabis se zaměřil na jednu nesmírně ambiciózní hru Republic: Revoluce, komplexní politická simulace. Před několika lety, když byl ještě ve škole, Hassabis řekl svému příteli Mustafovi Suleimanovi, že svět potřebuje velkolepé simulace, aby mohl modelovat svou komplexní dynamiku a vyřešit nejsložitější sociální problémy. Teď se to ve hře pokusil udělat.
Bylo obtížnější kódovat jeho touhy, než se očekávalo. Elixir nakonec vydal uvolněnou verzi hry, aby získal teplé recenze. Jiné hry selhaly. V dubnu 2005 Hassabis vypnul Elixir. Matthews věří, že Hassabis založil společnost jednoduše proto, aby získal manažerské zkušenosti. Hassabis nyní postrádal pouze jednu důležitou oblast odborných znalostí, než mohl začít hledat AGI. Musel rozumět lidskému mozku.
V roce 2005 získal Hassabis doktorát z neurověd na University College London. Publikoval vysoce vlivnou studii paměti a představivosti. Jedna studie, která byla od té doby citována více než 1 000krát, ukázala, že lidem s amnézií je také obtížné představit si nové zkušenosti, což naznačuje spojení mezi zapamatováním a vytvářením mentálních obrazů. Hassabis vybudoval pochopení mozku potřebného k zvládnutí AGI. Velká část jeho práce se zredukovala na jednu otázku: Jak lidský mozek přijímá a udržuje koncepty a znalosti?
Hassabis oficiálně založil DeepMind 15. listopadu 2010. Poslání společnosti bylo stejné jako v současnosti: „vyřešte inteligenci“a poté ji využijte k vyřešení všeho jiného. Jak řekl Hassabis na summitu Singularity Summit, znamená to, že naše chápání toho, jak mozek plní úkoly, do softwaru, který dokáže použít stejné metody k výuce, to znamená.
Hassabis v žádném případě netvrdí, že věda plně pochopila lidskou mysl. Plán implementace AGI se nemohl poučit ze stovek studií neurověd. Jasně však věří, že je docela možné začít pracovat na AGI způsobem, který se k němu líbí. Je však také možné, že jeho důvěra převyšuje realitu. Stále víme jen velmi málo jistých o tom, jak mozek skutečně funguje. V roce 2018 tým australských vědců zpochybnil Hassabisovy vlastní nálezy. Toto je samozřejmě pouze jeden dokument, ale ukazuje, že věda, za kterou DeepMindova práce stojí, není zdaleka prokázána.
Jako spoluzakladatelé se připojili Suleiman a Shane Legg, nový Zéland, posedlý AGI, kterého Hassabis také potkal na univerzitě. Pověst společnosti rychle rostla. Hassabis vzkvétal. „Přitahuje to jako magnet,“říká Ben Faulkner, bývalý výkonný ředitel Deep Mind. Mnoho rekrutů pochází z Evropy. Snad největším úspěchem DeepMindu bylo aktivní nábor talentovaných lidí brzy a udržení těch nejjasnějších a nejlepších z nich.
Jedna z technik strojového učení, na které se společnost zaměřila, vyrostla z Hassabisovy duální vášně pro hry a neurovědu: posílení učení. Takový program je navržen tak, aby shromažďoval informace o životním prostředí a poté se z něj poučil a znovu a znovu reprodukoval své zkušenosti - stejně jako Hassabis popsal mozkovou aktivitu během spánku ve své přednášce na summitu Singularity Summit.
Učení vyztužení začíná čistou břidlicí. Program je zobrazen ve virtuálním prostředí, o kterém neví nic kromě pravidel, jako je šachový simulátor nebo videohra. Program obsahuje alespoň jednu komponentu známou jako neuronová síť. Skládá se z vrstev výpočetních struktur, které procházejí informacemi, aby identifikovaly specifické rysy nebo strategie. Každá vrstva zkoumá prostředí na své vlastní úrovni abstrakce. Zpočátku tyto sítě mají minimální úspěch, ale jejich chyby - a to je důležité - jsou v nich také zakódovány. Postupně se stávají chytřejší a chytřejší, experimentují s různými strategiemi a pokud uspějí, dostávají odměny. Pokud program přesune šachovou figurku a v důsledku toho prohraje hru, již takovou chybu znovu neudělá. Hodně magie umělé inteligence spočívá v rychlosti, s jakou tyto úkoly opakuje.
Práce společnosti DeepMind dosáhla svého zenitu v roce 2016, kdy tým vyvinul program umělé inteligence, který využíval posilování učení spolu s dalšími metodami hraní. Program, zvaný AlphaGo, zvedl obočí poté, co porazil mistra světa v zápase pěti zápasů v Soulu v roce 2016. Vítězství stroje, které sledovalo 280 milionů lidí, se stalo o deset let dříve, než stroje předpovídaly. Následujícího roku vylepšená verze AlphaGo porazila čínského šampiona Goa.
Stejně jako Deep Blue v roce 1997 změnil AlphaGo vnímání lidských úspěchů. Lidští šampióni, brilantní mysli planety už nestáli na vrcholu intelektuální pyramidy. Téměř 20 let poté, co Hassabis oznámil své ambice Fuzuvere, splnil je. Hassabis řekl, že tento zápas ho přivedl k slzám. Byl Matthewsovi vděčný.
DeepBlue zvítězil díky hrubé síle a výpočetní rychlosti, ale styl AlphaGo připadal umělecký, téměř lidský. Jeho elegance a sofistikovanost, nadřazenost výpočetní síly, zdálo se, že ukazují, že DeepMind před konkurencí při vytváření programu, který dokáže léčit nemoci a řídit města.
DeepMind a umělá inteligence
Hassabis vždy říkal, že DeepMind změní svět k lepšímu. O AGI však není jistota. Pokud se někdy objeví, nevíme, zda to bude k lepšímu nebo horšímu, zda se podrobí lidské kontrole. Pokud ano, kdo bude držet otěže?
Hassabis se od začátku snažil bránit nezávislost DeepMindu. Vždy trval na tom, aby DeepMind zůstala v Londýně. Když společnost Google koupila společnost v roce 2014, otázka kontroly se stala naléhavější. Hassabis nemusel prodávat DeepMind společnosti Google. S dostatkem peněz v ruce načrtl obchodní model, ve kterém by společnost vyvíjela hry na financování výzkumu. Slibovali spoustu peněz na Googlu, ale nechtěl převést společnost, kterou získal. V rámci dohody společnost DeepMind vytvořila dohodu, která by společnosti Google bránila v jednostranném převzetí kontroly nad duševním vlastnictvím společnosti. V roce před akvizicí zdroje uvádějí, že obě strany podepsaly dohodu - dohodu o etice a bezpečnosti. Tuto dohodu vypracovali vedoucí právníci v Londýně.
Tato dohoda přenáší kontrolu základní technologie AGI DeepMind, pokud existuje, na správní radu pro etiku. Podle stejného zdroje není Etická rada v žádném případě kosmetickým ústupkem od společnosti Google, ale poskytuje DeepMind pevnou právní podporu, aby si udržel kontrolu nad nejcennější a potenciálně nejnebezpečnější technologií. Jména komisařů nebyla zveřejněna, ale další zdroj blízký DeepMind a Google řekl, že na desce jsou všichni tři zakladatelé DeepMindu. Společnost sama o sobě nic nezveřejňuje.
Hassabis může určit osud DeepMind jiným způsobem. Jedním z nich je oddanost. Zaměstnanci, bývalí i současní, tvrdí, že výzkumný program Hassabis je jednou z největších silných stránek společnosti DeepMind. Jeho program, který nabízí vzrušující a důležitou práci bez tlaku akademické obce, přilákal stovky nejtalentovanějších světových odborníků. DeepMind má pobočky v Paříži a Albertu. Mnoho zaměstnanců se cítí více spojeno s Hassabis a jeho posláním než s mateřskou společností, která chce pouze příjem. Dokud si Hassabis udržuje osobní loajalitu, má značnou moc nad jediným akcionářem. Je lepší nechat talent pracovat pro DeepMind vzdáleně, než skončit na Facebooku nebo Apple.
DeepMind má další zdroj pákového efektu, ačkoli vyžaduje neustálé doplňování: příznivý halo. Společnost v tom uspěla. AlphaGo byla skvělá reklama. Od akvizice společnosti Google společnost opakovaně vytváří zázraky, které přitahují pozornost na celém světě. Jeden příklad softwaru může detekovat vzory očního skenování, které jsou indikátory makulární degenerace. Jiný program se naučil hrát šachy od nuly pomocí architektury podobné AlphaGo a stal se největším hráčem všech dob po pouhých devíti hodinách hraní sám se sebou. V prosinci 2018 se ukázalo, že AlphaFold je přesnější než konkurenti při předpovídání trojrozměrné struktury proteinů ze seznamu sloučenin, které by mohly potenciálně léčit nemoci, jako je Parkinsonova a Alzheimerova choroba.
Společnost DeepMind je obzvláště hrdá na algoritmy, které vyvinula a které počítají nejúčinnější řešení chlazení datových center Google, která obsahují přibližně 2,5 milionu počítačových serverů. V roce 2016 společnost DeepMind uvedla, že snížila účet společnosti Google za elektřinu o 40%. Někteří zasvěcenci však říkají, že se tato chvála přehnula. Google používal algoritmy k optimalizaci svých datových center dlouho před tím, než se objevila společnost DeepMind. Předpokládá se, že DeepMind nadhodnocuje své zásluhy, aby získala hodnotu v očích abecedy. Mateřská společnost Google Alphabet platí DeepMind za podobné služby. V roce 2017 vydala posledně uvedená společnost Alphabet fakturu za 54 milionů GBP. Tato čísla jsou bledá ve srovnání s režií DeepMindu. Ve stejném roce utratila za zaměstnance 200 milionů GBP. Obvykle,v roce 2017 ztratila společnost DeepMind 282 milionů liber.
To je cent pro bohatého obra. Ale další dceřiné společnosti Abeceda upoutaly pozornost Ruth Poratové, roztržitého finančního ředitele abecedy. Google Fiber, pokus vybudovat poskytovatele internetových služeb, byl pozastaven poté, co bylo jasné, že investice bude trvat desetiletí, než se vyplatí. Vědci AI také přemýšlejí, jestli bude DeepMind zmatená.
Postupné zveřejňování pokroků společnosti DeepMind v oblasti umělé inteligence je součástí strategie, která postupně buduje pověst společnosti. To je zvláště cenné v době, kdy je společnost Google obviněna z porušování soukromí uživatelů a šíření falešných zpráv. DeepMind má také štěstí, že má zastánce na nejvyšší úrovni: Larry Page, jeden ze dvou zakladatelů společnosti Google, nyní generální ředitel společnosti Alphabet. Paige je velmi blízko Hassabisu. Page otec, Karl, studoval neuronové sítě v 60. letech. Na začátku své kariéry Page řekl, že vytvořil Google výhradně pro založení společnosti AI.
Úzká kontrola nad tiskem DeepMind není v souladu s akademickým duchem, který prostupuje společností. Někteří učenci si stěžují, že je pro ně obtížné publikovat svou práci: musí před překonáním vrstev interního schválení překonat, než mohou dokonce odevzdat příspěvek na konferenci nebo časopis. DeepMind věří, že je nutné postupovat opatrně, aby nedošlo k vyděsení veřejnosti s perspektivou AGI. Příliš tvrdá obvinění však mohou zničit akademickou atmosféru a oslabit loajalitu zaměstnanců.
Pět let po akvizici Google se stává otázka, kdo ovládá DeepMind, kritická. Zakladatelé a první zaměstnanci společnosti se přibližují prahu, když mohou odejít s finanční kompenzací, kterou získali z nákupu společnosti (akcie Hassabis mají pravděpodobně hodnotu asi 100 milionů liber). Ale zdroj blízký společnosti naznačuje, že Alphabet již několik let tlačí zpět zakladatelům platby. Vzhledem k jeho neúnavnému zaměření je nepravděpodobné, že by Hassabis skočil z lodi. Zajímají ho peníze, pouze pokud mu to pomáhá v dosažení cíle celého jeho života. Ale někteří moji kolegové odešli. Od počátku roku 2019 společnost opustili tři inženýři AI. Ben Laurie, jeden z nejvýznamnějších bezpečnostních techniků na světě, je zpět na Googlu. To rozhodně není mocAle DeepMind nabízí tak úžasnou misi a slušnou odměnu, že nikdo by neměl odejít.
Google zatím DeepMind opravdu neobtěžoval. Jeden nedávný vývoj však vyvolal obavy, jak dlouho bude společnost schopna udržet si svou nezávislost.
DeepMind, Medicine and Artificial Intelligence
Společnost DeepMind vždy plánovala používat AI ke zlepšení zdravotní péče. V únoru 2016 byla vytvořena nová divize DeepMind Health pod vedením Mustafy Suleimana, jednoho ze spoluzakladatelů společnosti. Suleiman, jehož matka byla zdravotní sestra, doufal, že vytvoří program nazvaný Streams, který bude varovat lékaře, když se zhoršuje zdraví pacienta. DeepMind by byl odměňován na základě metrik. Protože tato práce vyžadovala přístup k důvěrným informacím o pacientech, společnost Suleiman vytvořila nezávislý kontrolní panel (IRP), který rekrutoval dobré anglické zdravotnické a technologické odborníky. DeepMind byl dost moudrý, aby byl opatrný. Britský komisař pro informace následně zjistil, že jeden z nemocničních partnerů porušil zákon při zpracování údajů o pacientech. Do konce roku 2017 však Suleiman podepsal dohody se čtyřmi hlavními nemocnicemi.
8. listopadu 2018 společnost Google oznámila vytvoření své vlastní divize zdraví - Google Health. O pět dní později bylo oznámeno, že DeepMind Health se má připojit k úsilí mateřské společnosti. DeepMind nebyl varován. Podle informací získaných z požadavků FOI oznámila změnu partnerským nemocnicím pouze tři dny předem. DeepMind odmítl zveřejnit, když začaly diskuse o fúzi, ale řekl, že krátká doba mezi oznámením a veřejným oznámením je v zájmu transparentnosti. V roce 2016 Suleiman napsal, že „údaje o pacientech nebudou nikdy spojovány s účty, produkty nebo službami Google.“Zdálo se, že jeho slib byl porušen.
Připojení společnosti Google rozzlobilo zaměstnance DeepMind Health. Po dokončení procesu převzetí plánuje opustit společnost více zaměstnanců, podle lidí v blízkosti zdravotnického týmu.
Tato epizoda ukazuje, že periferní části práce DeepMind jsou zranitelné vůči Googlu. DeepMind uvedl, že „všichni jsme se shodli, že má smysl kombinovat toto úsilí do jednoho společného úsilí se zvýšenými zdroji.“To vyvolává otázku, zda Google použije stejnou logiku na práci DeepMindu na AGI.
Ve velkém měřítku DeepMind učinila velké pokroky. Už vytvořila software, který se dokáže naučit provádět úkoly na nadlidské úrovni. Hassabis často odkazuje na Breakout, videohru pro konzoli Atari. Hráč ovládá netopýr, který se může pohybovat vodorovně a pomocí jeho pomoci odrazí míče a nasměruje je do bloků nad nimi, které jsou zničeny při kolizi. Hráč vyhraje, když jsou všechny bloky zničeny. Ztráty, pokud míč spadne mimo platformu. Bez lidské instrukce se DeepMind nejen naučil hrát hru, ale také házet koule do prostoru za bloky, aby využil odrazu. To demonstruje sílu posilování učení a nadpřirozené schopnosti počítačových programů DeepMindu.
Ukázka je určitě působivá. Hassabis však o něčem mlčí. Pokud je virtuální platforma zvýšena o něco výše, program provede chybu. Dovednost, kterou DeepMind získala, je natolik omezená, že nemůže reagovat ani na nepatrné změny v prostředí, které by člověk mohl snadno překonat. Ale na světě je mnoho jemností. Pro diagnostickou inteligenci nejsou dva orgány těla podobné. Pokud jde o mechanickou inteligenci, dva podobné motory nebudou nikdy v ladění stejné. Proto je obtížné vypustit programy do přírody.
Druhým, o kterém DeepMind zřídka mluví, je to, že úspěch ve virtuálních prostředích závisí na tom, zda bude mít funkci odměny: signál, který umožňuje softwaru měřit jeho pokrok. Program se dozví, že odskakování ze zadní stěny zvyšuje jeho skóre. Hodně z DeepMindovy práce s AlphaGo bylo vytvoření funkce odměny, která je kompatibilní s tak složitou hrou. Skutečný svět bohužel nenabízí jednoduché odměny. V jednotlivých bodech se pokrok jen zřídka měří. Lidský mozek dostává signál o úspěchu úkolu přímo v procesu jeho implementace, a ne poté.
DeepMind přišel na způsob, jak se tím obejít pomocí obrovského množství výpočetní síly. AlphaGo hraje hry tisíce let lidského času, aby se něco naučil. Mnoho filozofů umělé inteligence má podezření, že toto řešení je nepřijatelné pro úkoly, které nabízejí slabší odměny. DeepMind uznává takové dvojznačnosti. Nedávno přijala počítačovou strategickou hru StarCraft 2. Rozhodnutí učiněná na začátku hry mají důsledky, které se objevují později, což je docela typické pro klikatou a opožděnou zpětnou vazbu o skutečných problémech. V lednu porazil software společnosti DeepMind některé z nejlepších hráčů na světě a navzdory přísným omezením to bylo docela působivé. Programy také začaly zkoumat funkce odměňování sledováním zpětné vazby od lidí. Ale zahrnutí lidských pokynů do smyčky vytváří riziko ztráty měřítka a rychlosti.
Současní i bývalí vědci DeepMind a Google, pod podmínkou anonymity, vyjádřili skepticismus, že DeepMind bude schopna dosáhnout AGI pomocí těchto metod. Pro ně je touha dosáhnout vysokého výkonu v simulovaném prostředí obtížné vyřešit problém funkce odměny. Přesto je tento přístup jádrem DeepMindu. V rámci společnosti existuje interní soutěž, kde programy konkurenčních týmů soutěží o svrchovanost.
Hassabis vždy viděl život jako hru. Většina z jeho kariéry byla věnována jejich výrobě, většinu svého volného času strávil hraním. Ve společnosti DeepMind je používá k rozvoji silné umělé inteligence. Stejně jako jeho software se i Hassabis učí ze své vlastní zkušenosti. Pronásledování AGI může nakonec vést k slepé uličce, vynalézat užitečnou lékařskou technologii podél cesty a přemáhat nejlepší hráče v jejich dovednostech. Ale může také vytvořit AGI přímo pod nosem Google, ale mimo jeho kontrolu. A pokud se mu to podaří, Demis Hassabis vyhraje nejtěžší hru ze všech.
Ilya Khel