Téměř vše, co dnes slyšíte o umělé inteligenci, pochází z hlubokého učení. Tato kategorie algoritmů pracuje se statistikami, aby nalezla vzory v datech, a ukázalo se, že je velmi silná při napodobování lidských dovedností, jako je naše schopnost vidět a slyšet. Do velmi úzké míry může dokonce napodobit naši schopnost uvažovat. Tyto algoritmy podporují vyhledávání Google, Facebook Newsfeed, motor doporučení Netflix a formují průmyslová odvětví, jako je zdravotnictví a vzdělávání.
Jak se rozvíjí hluboké učení
Přestože hluboké učení prakticky přivedlo umělou inteligenci na veřejnosti, představuje jen malý záblesk v historickém úkolu lidstva reprodukovat jeho vlastní inteligenci. To bylo v popředí tohoto hledání méně než deset let. Odložíme-li celou historii této oblasti, je snadné pochopit, že brzy také může zmizet.
Výzkumy umělé inteligence dlouho charakterizují náhlý vzestup a pokles různých metod. Každou desetiletí mezi různými nápady probíhala intenzivní konkurence. Potom se čas od času přepne a celá komunita začne dělat jednu věc.
Naši kolegové z MIT Technology Review chtěli tyto problémy vizualizovat a začít. Za tímto účelem se obrátili na jednu z největších databází otevřených vědeckých článků známých jako arXiv. Stáhli výňatky z celkem 16 625 článků dostupných v sekci umělé inteligence do 18. listopadu 2018 a sledovali slova uvedená v průběhu let, aby viděli, jak se pole vyvíjelo.
Jejich analýzou se objevily tři hlavní trendy: posun směrem ke strojovému učení na konci 90. a začátkem roku 2000, nárůst popularity neuronových sítí, který začal na začátku roku 2010, a nárůst učení o posílení v posledních několika letech.
Propagační video:
Nejprve ale několik upozornění. Zaprvé, sekce arXiv s umělou inteligencí sahá až do roku 1993 a termín „umělá inteligence“sahá až do padesátých let, takže samotná databáze představuje pouze poslední kapitoly z historie oboru. Za druhé, dokumenty přidávané do databáze každý rok představují jen zlomek práce, která se v této oblasti v současnosti provádí. ArXiv však nabízí vynikající zdroj pro identifikaci některých hlavních výzkumných trendů a pro sledování přetahování mezi různými ideologickými tábory.
Paradigma strojového učení
Největší posun, který vědci našli, byl posun od systémů založených na znalostech k počátkům 20. let. Takové počítačové systémy jsou založeny na myšlence, že je možné zakódovat veškeré lidské znalosti do systému pravidel. Místo toho se vědci obrátili na strojové učení, rodičovskou kategorii algoritmů, které zahrnují hluboké učení.
Ze 100 zmíněných slov se nejvíce snížila slova spojená se systémy založenými na znalostech - „logika“, „omezení“a „pravidlo“. A ty, které se týkaly strojového učení - „data“, „síť“, „výkon“- rostly nejvíce.
Důvod této změny počasí je velmi jednoduchý. V 80. letech si systémy založené na znalostech získaly na popularitě mezi fanoušky díky vzrušení z ambiciózních projektů, které se pokusily znovu vytvořit zdravý rozum ve strojích. Když se však tyto projekty rozvinuly, vědci čelili hlavní výzvě: Systém musel udělat příliš mnoho pravidel, aby mohl udělat něco užitečného. To vedlo ke zvýšeným nákladům a výrazně zpomalilo probíhající procesy.
Odpověď na tento problém je strojové učení. Spíše než vyžadovat, aby lidé ručně kódovali stovky tisíc pravidel, tento přístup programuje stroje tak, aby tato pravidla automaticky extrahovala z hromady dat. Stejně tak se toto pole posunulo od systémů založených na znalostech a obrátilo se ke zdokonalení strojového učení.
Rozmach neuronových sítí
V rámci nového paradigmatu strojového učení nedošlo k přechodu k hlubokému učení přes noc. Místo toho analýza klíčových termínů ukázala, že vědci testovali kromě neuronových sítí mnoho hlavních metod, což jsou hlavní mechanismy hlubokého učení. Mezi další populární metody patřily Bayesovské sítě, podporující vektorové stroje a evoluční algoritmy, které používají různé přístupy k nalezení vzorů v datech.
Během 90. a 2000. let existovala mezi těmito metodami silná konkurence. V roce 2012 pak dramatický průlom vedl k další změně počasí. Během každoroční soutěže ImageNet o urychlení pokroku v počítačovém vidění dosáhl výzkumník jménem Jeffrey Hinton spolu s kolegy z University of Toronto nejlepší přesnost rozpoznávání obrázků s chybou o něco více než 10%.
Technika hlubokého učení, kterou použil, vytvořila novou vlnu výzkumu, nejprve ve vizualizační komunitě a poté mimo ni. S tím, jak ji stále více vědců začalo používat k dosažení působivých výsledků, stoupla popularita této techniky spolu s popularitou neuronových sítí.
Růst posílení učení
Analýza ukázala, že několik let po rozkvětu hlubokého učení došlo k třetímu a poslednímu posunu ve výzkumu AI.
Kromě různých metod strojového učení existují tři různé typy: učení pod dohledem, učení bez dozoru a učení o posílení. Dozorované učení, které zahrnuje podávání označených dat do stroje, je nejčastěji používaným a má také nejpraktičtější aplikace dnes. V posledních několika letech však posílení učení, které napodobuje proces učení zvířat prostřednictvím mrkve a tyčinek, trestů a odměn, vedlo k rychlému nárůstu referencí v dílech.
Samotná myšlenka není nová, ale po mnoho desetiletí nefungovala. "Odborní učitelé se smáli nad odborníky na posilování učení," říká Domingos. Ale jako u hlubokého učení, jeden zlomový bod najednou přinesl metodu do popředí.
Ten okamžik přišel v říjnu 2015, když AlphaGo DeepMindu, trénované s posilou, porazilo mistra světa ve starověké hře go. Dopad na výzkumnou komunitu byl okamžitý.
Dalších deset let
Technologická recenze MIT poskytuje pouze nejnovější snímek konkurence mezi nápady, které charakterizují výzkum AI. To však ilustruje nekonzistentnost snahy o zdvojení inteligence. "Je důležité pochopit, že nikdo neví, jak tento problém vyřešit," říká Domingos.
Mnoho metod, které se používají 25 let, se objevilo přibližně ve stejném období v 50. letech 20. století a nedokázaly se vyrovnat výzvám a úspěchům každého desetiletí. Například neuronové sítě dosáhly vrcholu v 60. a mírně v 80. letech, ale díky hlubokému učení téměř zemřely, než znovu získaly svou popularitu.
Každá dekáda, jinými slovy, viděla dominanci jiné techniky: neuronové sítě na konci 50. a 60. let, různé symbolické pokusy v 70. letech, systémy založené na znalostech v 80. letech, Bayesovské sítě v 90. letech, referenční vektory v nulové a neurální sítě opět v roce 2010.
2020 nebude nic jiného, říká Domingos. To znamená, že doba hlubokého učení může brzy skončit. Ale co se stane dál - stará technika v nové slávě nebo zcela nové paradigma - to je předmětem silné diskuse v komunitě.
Ilya Khel