Jednou v sobotu minulý měsíc se na přestavěném autosalonu v San Francisku sebevědomě vynořilo pět mužů ve věku 19 až 26 let z oblaku fialového kouře. Posadili se za řadu počítačových klávesnic a hlasitě je přivítal dav několika stovek lidí. Po devadesáti minutách intenzivního klikání myší se úsměv pětiny otupil a potlesk uklidnil. Team OG, globální mistry nejziskovější konkurenční hry na světě Dota 2, prohrály s týmem robotů AI dvě hry za sebou.
Tento výsledek je pozoruhodný, protože složité videohry jsou matematicky obtížnější než deskové hry, jako jsou šachy nebo hry. A přesto, opřený o zeď v zákulisí, Sam Altman - generální ředitel výzkumného ústavu OpenAI, který tyto roboty vyvinul - pocítil dovolenou úlevy.
Umělá inteligence versus tečky
"Všichni jsme toho rána byli docela nervózní - myslel jsem si, že šance jsou 60 až 40," říká Altman. V březnu se stal generálním ředitelem OpenAI poté, co odstoupil z funkce prezidenta vlivného startupového inkubátoru YCombinator. Aby mohl Altman uspět ve své nové roli, potřeboval roboty, kteří ve videohrách nejen porazili člověka - potřeboval roboty, kteří byli ve všem lepší než lidé.
Úkolem OpenAI je zajistit, aby jakákoli budoucí AI, která může překonat „lidi v nákladově nejefektivnějším zaměstnání“, byla přínosem pro celé lidstvo. Takové technologie - obecná umělá inteligence, „silná“umělá inteligence nebo AGI - ještě nejsou na obzoru, ale OpenAI tvrdí, že jak ona, tak i ostatní rychle postupují. Organizace prokázala, že může provádět výzkum na úrovni nejlepších na světě. A získala obvinění z vytváření humbuk AI, stejně jako stanovení AGI a potenciálních hrozeb AI.
Altmanovým plánem je, že výzkum OpenAI - a provokace - by měl pouze zrychlit. Bývalý předseda správní rady organizace převzal funkci generálního ředitele poté, co pomohl přesunout většinu neziskové pracovní síly do nové obchodní společnosti v naději, že přiláká investory miliardami potřebnými k utváření osudu AI a lidstva. Altman říká, že velké technologické laboratoře v Alphabet a jinde by měly být pod tlakem kolegů, kteří se nesnaží zvýšit hodnotu pro akcionáře. "Nechci být ve světě, ve kterém jedna společnost vytváří AGI, využívá veškerou její hodnotu a dělá veškerá rozhodnutí," říká.
Propagační video:
Na akci MIT koncem roku 2014 popsal generální ředitel společnosti Tesla Elon Musk výzkum umělé inteligence jako pokus „vyvolat démona“. V létě roku 2015 hovořil s Altmanem a několika dalšími na večeři a navrhl vytvoření výzkumné laboratoře nezávislé na technologickém segmentu, která by řídila AI pozitivním směrem. Ve stejném roce byl vytvořen OpenAI, ve kterém se Altman a Musk ocitli. Na začátku roku 2018 Musk opustil správní radu s odvoláním na potenciální konflikty se svými dalšími rolemi.
Během svého krátkého života se OpenAI umístilo jako vážné místo pro výzkum AI. Ilya Sutskever, spoluzakladatel organizace, která odstoupila z vedoucího výzkumu AI ve společnosti Google, dohlíží na zaměstnance zahrnující bývalé zaměstnance společností Google, Facebook, Microsoft a Intel. Jejich práce na robotice a strojovém učení se objevila na nejprestižnějších konferencích. Vítězství nad Team OG v Dota 2 jim vyneslo respekt v oblasti AI a her.
Transformace OpenAI na komerční společnost byla způsobena pocitem, že aby bylo možné držet krok s velikány, jako je Alphabet, bude vyžadován přístup ke stále rostoucím výpočetním zdrojům. V roce 2015 společnost OpenAI uvedla, že má hotovost 1 miliardu dolarů od společností Altman, Musk, spoluzakladatele LinkedIn Reida Hoffmana, dřívějšího investora Facebooku Petera Thiela a Amazonu. Altman nyní říká, že jedna miliarda nebude stačit. "Množství peněz, které potřebujeme, aby byla mise úspěšná, je mnohem víc, než jsem si myslel," říká.
Záznamy IRS ukazují, že v roce 2017, kdy OpenAI odhalil svůj první bot dota, utratil 8 milionů dolarů za cloud computing. Od té doby se její výdaje pravděpodobně výrazně zvýšily. V roce 2018 společnost OpenAI oznámila, že předchůdce systému, který porazil OG, propojuje více než 120 000 procesorů pronajatých cloudovou divizí společnosti Google po dobu několika týdnů. Šampiónem vyhraná verze trénovala 10 měsíců, což je ekvivalent 45 000 let hraní hry Dota 2 proti sobě. Kolik to stálo? Greg Brockman, technický ředitel OpenAI, říká, že projekt šel do „milionů dolarů“, ale nezveřejnil podrobnosti.
Altman není přesvědčen, že OpenAI se bude i nadále spoléhat na konkurenční cloudové služby - je stále otevřený nákupu nebo dokonce vývoji hardwaru AI. Organizace pečlivě sleduje nové čipy vyvíjené společností Google a řadu startupů, které ještě více vymačkají algoritmy strojového učení.
Aby Altman získal prostředky potřebné pro přístup k budoucímu vybavení, pokusil se tento nápad prodat investorům v režimu, který by byl divoký i v Silicon Valley. Investujte do OpenAI, počkejte, a společnost vám stonásobně vrátí vaši investici - jakmile vymyslí roboty, které překonávají lidi v ekonomicky nejcennějších úkolech.
Altman říká, že splnění těchto očekávání bylo „nejzajímavější zkušeností s získáváním finančních prostředků v mém životě - na žádný jiný model se to nehodí.“Největší zájem, jak říká, je o bohaté lidi se zájmem o AI. Hoffman a firma rizikového kapitálu Khosla Ventures investovaly do nového komerčního OpenAI, ale neodpověděly na žádosti o komentář. Nikdo neříká, kdy očekávat vrácení peněz, ale sázení na OpenAI není pro netrpělivé. Společnosti jsou informovány, že jejich doba vrácení může překročit průmyslový standard (deset let). "Hned jim řekneme, že v příštích 10 letech neobdržíte finanční prostředky," říká Altman.
Přes své nejlepší úsilí je OpenAI často kritizováno vedoucími představiteli průmyslu. V únoru společnost odhalila podrobnosti o softwaru pro zpracování jazyků, který byl schopen generovat překvapivě živý text. Někteří okamžitě označili vynález za „nebezpečný“a vyjádřili obavy, že by mohl být použit škodlivým způsobem k odhazování sociálních sítí.
Naštvalo se několik prominentních osob v oblasti výzkumu AI, včetně šéfa AI na Facebooku Iana Lekuna. Ve svých příspěvcích na Facebooku hájil otevřené zveřejnění výzkumu AI a vtipkoval, že by lidé měli přestat mít děti, protože jednoho dne budou zveřejňovat falešné zprávy.
Pro některé tato epizoda zdůraznila, že poslání OpenAI se příliš neliší od jiných firemních nebo akademických laboratoří. „Dělají, dávají nebo berou stejný výzkum jako ostatní, ale chtějí získat miliardy dolarů,“říká Zachary Lipton, profesor strojového učení na Carnegie Mellon University. „Jediným způsobem, jak to udělat, je trochu zkroutit srdce.“
Altman připouští, že OpenAI možná spustil poplach příliš brzy, ale říká, že je to lepší, než přijít pozdě. "Technologický průmysl neudělal příliš dobrou práci ve snaze být proaktivní vůči zneužívání," říká. Samotnou OpenAI vyžaduje autocenzuru.
Po porážce OG minulý měsíc se OpenAI, aby vyjádřil soucit, rozhodl provést druhý experiment, aby demonstroval dobrou stránku nadlidské AI. Experti Dota 2 a několik nováčků hráli v týmech po boku robotů.
Tento software, bohužel natolik nešťastný, že se stal spoluhráčem noobů, z velké části prokázal nadlidskou lhostejnost k pomoci začínajícímu hráči. Místo toho se zaměřila na vítězství, následovala instinkty vylepšené měsíce nákladného tréninku.
Nikdo neví, jak zvýšit flexibilitu vysoce zaměřené AI nebo jaké komponenty mohou být potřebné, aby se AGI stalo více než technologickou fantazií. I Altman je zastrašen velikostí problému. "Mám dny, kdy věřím, že se to všechno stane, a dny, kdy to všechno vypadá jako sen o dýmce," říká.
Myslíte si, že uspěje?
Ilya Khel