Politici a kapitalisté mají v pátek odpoledne tradici skládat spoustu zpráv, aby mezi nimi skrývali špatné zprávy. Bylo tedy trochu divné, že Elon Musk, zakladatel Tesla, výrobce elektrického vozidla, a Sam Altman, prezident proslulého technologického inkubátoru Y Combinator, představili svou novou AI-themed společnost na samém konci týdenní konference AI v Montrealu loni v prosinci.
V tak pozdní hodině byl důvod k zavedení OpenAI. Ne proto, že se nikdo nedíval. Protože všichni sledovali. Když některé z nejsilnějších společností v Silicon Valley vycítily, že vítr fouká, začali nově nabízenému obrovskému množství OpenAI AI talentů nabízet obrovské částky peněz, aby si udrželi tyto génia doma. Na poslední chvíli byly návrhy - některé předložené na samotné konferenci - tak velké, že Musk a Altman museli zpoždění ohlášení nového spuštění. "Částky dosáhly na hranici šílenství," říká Wojciech Zaremba, vědec, který se připojil k OpenAI po stážích na Googlu a Facebooku a byl mezi těmi, kteří obdrželi hlavní nabídky v 23:00.
Kolik dolarů je hranicí šílenství? Před dvěma lety, když se trh s nejnovějšími technologiemi strojového učení začal zahřívat, viceprezident Microsoft pro výzkum Peter Lee řekl, že náklady na špičkové výzkumníky umělé inteligence překročily náklady na nejlepší quarterback v Národní fotbalové lize - a to za normálních okolností, ne v případě největších podnikatelů Silicon Valley se snaží poskládat nejlepší talent. Zaremba říká, že když se OpenAI spojila, byla nabídnuta dvakrát až třikrát vyšší než tržní hodnota.
OpenAI tyto návrhy nesplnil. Nabídl však něco jiného: schopnost provádět výzkum zaměřený výhradně na budoucnost, nikoli na výrobky a čtvrtletní zisky, a nakonec sdílet většinu - pokud ne všechny - výzkumu mezi tím, kdo si to přeje. Správně: Musk, Altman a společnost se vydali rozdat to, co by mohla být nej transformativnější technologie 21. století, a rozdat ji zdarma.
Zaremba říká, že návrhy na pokraji šílenství ho ve skutečnosti odložily - navzdory obrovskému respektu vůči společnostem jako Google a Facebook. Cítil, že peníze směřovaly, aby zabránily vytvoření OpenAI, což dále posílilo jeho odhodlání velkorysého spuštění. "Uvědomil jsem si," říká Zaremba, "že OpenAI je pro mě nejlepším místem."
Cítíte ironii v srdci tohoto příběhu? Zatímco největší světové technologické společnosti se snaží udržet své výzkumné pracovníky tak tvrdě, jak se týmy NFL snaží udržet své hvězdné quarterbacky, sami výzkumní pracovníci se chtějí podělit o své poznatky. V sofistikovaném světě výzkumu umělé inteligence jsou nejjasnější mysli poháněny nejen dalším produktovým cyklem nebo ziskem, nebo nejsou vůbec posedlí nimi. Chtějí vylepšit AI a je nemožné vylepšit AI, když si necháte svůj nejnovější vývoj pro sebe.
OpenAI nedávno vydala první dávku softwaru AI, sadu nástrojů pro budování systémů umělé inteligence založených na technologii zvané posilování učení, jedné z klíčových technologií, která vedla k vytvoření AlphaGo, AI společnosti Google, která svými schopnostmi překvapila svět. jít hry. S touto sadou nástrojů můžete vytvářet systémy, které otevřou novou generaci robotů, budou hrát hry Atari a ano, porazit mistrů světa na Go.
Propagační video:
Ale hračky jsou jen začátek. OpenAI je miliardová mise, která tlačí AI co nejdále. Ve způsobu, jakým se společnost spojila a jaké jsou její plány, můžete vidět další novou vlnu inovací. Zatím nevíme, jestli bude OpenAI hlavním tahounem těchto změn. Síly, které stojí za vytvořením tohoto poněkud neobvyklého spuštění, však ukazují, že příští generace AI nejen změní technologii, ale také způsob, jakým funguje.
Umělá inteligence je všude
Silicon Valley má vášeň pro přehánění. Tučně znějící tvrzení by se měla vždy setkat se zrnkem soli. Ale v oblasti umělé inteligence skutečně dochází ke změnám. V společnostech, jako jsou Google a Facebook, již technologie hlubokého učení pomáhají internetovým službám identifikovat tváře na fotografiích, rozpoznávat hlasové příkazy na chytrých telefonech a reagovat na internetová vyhledávání. A tato stejná technologie by mohla v budoucnu vyřešit mnoho dalších problémů. Může pomoci strojům naučit se porozumět přirozenému jazyku - který jsme my lidé zvyklí mluvit a psát. Může pomoci vyvinout nové plemeno robotů, umožnit automatům nejen plnit jejich úkoly, ale také se učit za běhu. A někteří věří, že to nakonec přinese strojům něco jako zdravý rozum - schopnost myslet opravdu jako člověk.
A spolu s takovými sliby se rodí hluboká úzkost. Musk a Altman se obávají, že pokud lidé mohou vytvářet umělé inteligence, které dělají skvělé věci, mohou budovat umělé inteligence, které dělají hrozné věci. Ve svých obavách nejsou sami. A zatímco se to může zdát kontraintuitivní, Musk a Altman se také domnívají, že nejlepším způsobem, jak bojovat proti škodlivé umělé inteligenci, není omezit přístup k umělé inteligenci, ale rozšířit ji. Právě tato snaha vede k týmu mladých a inteligentních idealistů.
OpenAI se minulý léto objevil v soukromé místnosti v hotelu Rosewood v Silicon Valley, luxusním městském hotelu, který doslova sedí ve středu rizikového kapitalistického světa. Elon Musk měl oběd s Ilyou Sutskeverovou, která byla tehdy společností Google Brain, společností vyvíjející hluboké neuronové sítě - systémy umělé inteligence, které lze trénovat k plnění úkolů analýzou obrovského množství digitálních dat, včetně rozpoznávání fotografií a psaní e-mailů, učení se z korespondence. Suckever byl jedním z hlavních vývojářů projektu.
Ilya Sutskeverová
Sam Altman, jehož Y Combinator pomohl utvářet společnosti jako Airbnb, Dropbox a Coinbase, zprostředkoval schůzku a shromáždil několik výzkumných pracovníků AI a mladý, ale zkušený stavitel společnosti Greg Brockman, dříve hlavní technologický ředitel ve společnosti Stripe, další společnost Y Kombinátor. Byla to eklektická skupina. Všichni však měli cíl: vytvořit nový typ laboratoře AI, který by mohl fungovat mimo kontrolu nejen Google, ale všech ostatních. „To nejlepší, co jsem si dokázal představit jako výzvu,“říká Brockman, „je posunout lidstvo směrem k vytvoření skutečné umělé inteligence po bezpečné cestě.“
Musk tam byl kvůli jeho dlouhému přátelství s Altmanem - a protože AI je kritická pro budoucnost jeho různých podniků a pro budoucnost jako celek. Tesla potřebuje umělou inteligenci, pokud chce stavět automobily s vlastním pohonem. SpaceX, další z muskových společností, potřebuje AI, aby vzala lidi do vesmíru a udržovala je v bezpečí a zvuk tam. Musk je však také jedním z prvních (a nejhlasitějších) varujících, že jednoho dne může lidstvo ztratit kontrolu nad systémy, které jsou dostatečně silné na to, aby se samy učily.
Vyskytl se problém: spousta lidí, kteří byli dostatečně kvalifikovaní, aby vyřešili všechny tyto problémy, které již fungovaly na Googlu (stejně jako Microsoft, Facebook, Baidu a Twitter). A nikdo na té večeři si nebyl úplně jistý, že se tito vědci mohou nalákat do nového startu, i když za tím byli Musk a Altman. A alespoň jeden klíčový hráč byl připraven opustit loď. "Chápal jsem rizika," říká Suckever, "ale také jsem věděl, že by bylo zajímavé vyzkoušet."
Prolomte kruh
Povzbuzen rozhovory s Muskem, Altmanem a dalšími v Rosewoodu se Brockman brzy rozhodl postavit laboratoř, na kterou všichni měli na mysli. Se silným závazkem k projektu přinesl Yoshua Bengio, vědce z Montrealské univerzity a jednoho ze zakladatelů hnutí hlubokého učení. Dva další průkopníci v oboru - Jeff Hinton a Jan Lecun - pracují na Googlu a na Facebooku, ale Bengio usiloval o život v akademickém světě, někde mimo dosah průmyslových chapadel. Načrtl seznam nejlepších vědců v oboru a během několika příštích týdnů Brockman kontaktoval vše, co mohl, včetně několika dalších.
Mnoho z těchto vědců tuto myšlenku uvítalo, ale byli opatrní ohledně možnosti takového skoku. Ve snaze prolomit kruh vybral Brockman deset průzkumníků, které chtěl vidět nejvíce, a vyzval je, aby sobotu strávili s vínem, občerstvením a konverzací ve vinném sklípku v údolí Napa. Pro Brockman byl katalyzátorem projektu i výlet do Napa. "Je to podceňovaný způsob, jak spojit lidi, zejména v době, kdy nemáte kam spěchat, abyste dosáhli svého cíle," říká. "Musíš tam jít, ale musíš si také promluvit." A když se dostali k vínu, ta atmosféra zůstala. Jak říká Suckever, „víno bylo vedlejším rozhovorem.“
Greg Brockman
Na konci dne Brockman pozval všech deset vědců, aby se připojili k laboratoři, a dal jim tři týdny na přemýšlení. Na konci funkčního období bylo ve velení devět. A zůstali v něm, navzdory velkým nabídkám obrů Silicon Valley. "Dostal jsem velmi atraktivní nabídku na pobyt, takže rozhodnutí nebylo snadné," říká Suckever z Google, jeho bývalý zaměstnavatel. "Nakonec jsem se rozhodl jít na OpenAI, částečně kvůli velmi silné skupině lidí a samozřejmě hlavně kvůli jejich poslání."
Hluboké učení hnutí začalo v akademické obci. Teprve nedávno se společnosti jako Google, Microsoft a Facebook rozhodly tuto oblast řešit, protože pokroky v brutální výpočetní síle učinily tyto hluboké neuronové sítě realitou, nejen teoretickou možností. Lidé jako Hinton a LeCune opustili akademii na Googlu a Facebooku kvůli obrovským zdrojům v těchto společnostech. Ve spolupráci s dalšími teoretiky oboru však zůstal úzce propojen. Jak vysvětluje LeCun, hluboký výzkum učení vyžaduje volný tok nápadů. „Když děláš tajný výzkum,“říká, „ustoupíš.“
Výsledkem je, že velké společnosti mají nyní k dispozici velkou část svého výzkumu AI. Jedná se o hlavní trumfovou kartu, zejména pro společnost Google, která dlouhou dobu uchovávala technologii své online říše v tajnosti. Není to tak dávno, co Google otevřel zdrojový kód pro softwarový stroj, který provozuje jeho neuronové sítě. Ale hodně zůstává pod zámkem a klíčem v tomto závodě pro budoucnost. Brockman, Altman a Musk se snaží posunout pojem otevřenosti ještě dále tím, že říkají, že nechtějí, aby jedna nebo dvě velké korporace ovládaly budoucnost umělé inteligence.
Meze otevřenosti
Všechno zní skvěle. Ale pro veškerý idealismus OpenAI se mohou vědci ocitnout ve stejných podmínkách, které je donutily pracovat na starých pracovních místech. Otevřenost má své limity. A dlouhodobá vize AI není jediným zájmem o tuto hru. OpenAI nevykonává charitativní práci. Společnosti společnosti Musk budou mít z práce na startu velký prospěch, stejně tak i společnost Altman's Y Combinator. "Určitě existují některé konkurenční body," říká Lecun. - Je to nezisková organizace, ale má úzký vztah s Y Combinator. A lidé budou za práci v tomto odvětví odměněni. ““
Laboratoř neplatí stejné astronomické platy, jaké poskytli Google a Facebook vědcům z oblasti umělé inteligence, řekl Brockman. Ale také říká, že laboratoř "chce zaplatit dobře," a nabízí kompenzaci ve formě akciových opcí, nejprve u Y Combinator a později možná u SpaceX (což je na rozdíl od Tesly soukromá společnost).
Brockman nicméně trvá na tom, že OpenAI nestanoví zvláštní zacházení se spřízněnými společnostmi. OpenAI je výzkumná iniciativa, nikoli konzultační firma. Idealismus OpenAI však má svá omezení. Společnost nemusí otevřít kód pro všechno, co produkuje, ačkoli konečným cílem je stále distribuovat většinu z toho, ať už jde o vědecké práce nebo internetové služby. „Otevření není nutně nejlepší volba. Musíte nápad vyživovat, zjistit, kam vede, a poté publikovat, říká Brockman. - Vyrábíme spoustu open source kódu. Ale budeme mít také spoustu věcí, které ještě nejsou připraveny k propuštění. “
Suzkever také dodává, že OpenAI by mohla jít až tak daleko, že patentuje část své práce. "Brzy nebudeme patentovat nic," říká Brockman. "Ale jsme připraveni změnit taktiku z dlouhodobého hlediska, pokud si myslíme, že to bude pro svět lepší." Například OpenAI může udělat aktivní patentování, aby odradilo ostatní od získání patentů.
Někteří mohou vidět patenty jako motiv k zisku. Ale to je celý smysl patentů.
Problém superintelligence
Když Musk a Altman představili OpenAI, načrtli také projekt jako způsob, jak neutralizovat hrozbu škodlivé superintelligence. Samozřejmě by taková superintelligence mohla vycházet z práce OpenAI, ale trvají na tom, že jakákoli hrozba bude zmírněna poskytnutím technologie všem. "Myslíme si, že je mnohem pravděpodobnější, že množství umělých inteligence dokáže zastavit náhodné špatné herce," říká Altman.
Ale ne všichni v této oblasti věří v takový výsledek. Nick Bostrom, Oxfordský filozof, který stejně jako Musk varoval před nebezpečím AI, poukazuje na to, že pokud sdílíte svůj výzkum bez omezení, „špatní herci“je mohou chytit dříve, než všichni vědí, že jsou v bezpečí. „Máte-li tlačítko, díky kterému je svět zatracený,“říká Bostrom, „pravděpodobně nebudete chtít dát všem přístup.“Pokud se naopak OpenAI rozhodne zdržet výzkum tak, aby k němu zlí lidé nedostali přístup, Bostrom se ptá: jak se to bude lišit od Googlu nebo Facebooku?
Říká ano, neziskový status OpenAI může nebo nemusí věci změnit. Skutečnou silnou stránkou projektu je, že může být ověřen společností Google a Facebook. "Bude schopen snížit pravděpodobnost monopolizace supervize." Bude schopen odstranit jeden z možných důvodů, proč někteří jednotlivci nebo skupiny budou mít přístup k lepší AI než všichni ostatní. ““
V nedávné práci filozof vysvětluje, že hlavním účinkem iniciativy, jako je OpenAI - iniciativa svobodného sdílení toho, co se děje -, je urychlit pokrok umělé inteligence, alespoň v krátkodobém horizontu. A může dlouhodobě urychlit pokrok za předpokladu, že bude zachována vyšší úroveň transparentnosti, než by bylo komerčně optimální.
"Je možné, že filantropicky motivovaný investor pro výzkum a vývoj by mohl vážně urychlit pokrok prováděním otevřených vědeckých politik," říká.
Jak Xerox PARC
Začátkem ledna se v jeho bytě v San Franciscu shromáždilo devět Brockmanových vědců. Projekt byl tak nový, že neměli ani tabule. (Představte si.) Koupili pár ve stejný den a začali pracovat.
Brockman říká, že OpenAI začne zkoumáním posilovacího učení, což je strojový způsob učení problémů tím, že je znovu a znovu opakuje a sleduje, které metody vedou k nejlepším výsledkům. Další velkou výzvou je tzv. „Učení bez dozoru“- vytvoření strojů, které se mohou skutečně učit bez lidské pomoci. Hluboké učení dnes závisí na pečlivě označených datech. Pokud chcete naučit neuronovou síť rozpoznávat fotografie koček, je třeba ji krmit určitým počtem příkladů - a tyto příklady by měly být označeny jako fotografie koček. Takové školení se provádí za pomoci lidí. Ale stejně jako mnoho jiných vědců, OpenAI plánuje vybudovat neuronové sítě, které se mohou učit bez pečlivého výběru dat.
"Pokud máte opravdu dobrou metodiku výuky bez učitele, stroje se mohou učit ze všech znalostí na internetu - jako člověk, jen se rozhlížet - nebo čtením knih," říká Brockman.
OpenAI vidí jako moderní inkarnaci Xerox PARC, technologické výzkumné laboratoře, která existovala v 70. letech. Stejně jako otevřený a volný výzkum PARC vedl ke všemu, od grafických uživatelských rozhraní a laserového tisku až po objektově orientované programování, Brockman a jeho tým se chtějí ponořit do toho, co bývalo vědeckou fantastikou. PARC byl ve vlastnictví Xeroxu, ale nakrmený z rukou mnoha dalších společností, včetně Apple, protože lidé jako Steve Jobs jeho výzkum vítali. Brockman chce, aby všichni uvítali OpenAI výzkum.
V naději, že se tato dynamika dotkne, Brockman a společnost přijali několik dalších významných vědců, včetně Iana Goodfellowa, dalšího vedoucího výzkumného týmu v týmu Google Brain. Brockman říká, že PARC v podstatě spojil spoustu inteligentních lidí a rozhodl se vidět, co se stalo. "Potřebuješ společnou vizi bez centrálního ovládání."
Nedostatečná kontrola je nezbytná pro ideál. Pokud do kolektivního cíle přivedete dostatek lidí, konečný výsledek zvítězí nad tím, co jste tajně uvařili. Pokud se ale umělá inteligence stane tak silnou, jak jsme slíbili, změní se rovnice. Potřebujeme ujištění, že nově objevená umělá inteligence se bude držet stejných rovnostářských ideálů, které vedly k jejímu vytvoření na prvním místě. Musk, Altman a Brockman věří v lidi, v dav. A pokud se ukáže, že má pravdu, jednoho dne nebude tento dav úplně lidský.
ILYA KHEL