Autor je znepokojen rostoucí rolí robotů ve válce. Od roku 1991, od války v Zálivu, pomáhali generálům. A nyní byl vytvořen „zabijácký robot“- stroj, který se nezávisle rozhoduje zničit nepřátele, pokud je to v souladu s obecnou politikou „řídícího centra“.
Vývojář umělé inteligence DeepMind oznámil novinku - bota zvanou AlphaStar, která bude hrát populární online strategii Starcraft-2 na úrovni „velmistra“.
Tohle není poprvé, kdy robot porazil lidi ve strategické válečné hře. V roce 1981, program nazvaný Eurisko, vyvinutý jedním z průkopníků umělé inteligence, Doug Lenat, vyhrál US Traveler Championship, vysoce komplexní strategickou válečnou hru, ve které musí hráč dokončit svou flotilu a bojovat proti nepřátelské flotile. Eurisko bylo nakonec oceněno titulem Honorary Admiral Traveler. V roce 1982 se pravidla turnaje změnila ve snaze zmařit počítač. Eurisko ale vyhrálo všechny dva roky v řadě. Poté, co sponzoři slíbili zrušení turnaje, pokud počítač znovu vyhraje, Lenat ustoupil.
DeepMind PR si přeje, abyste věřili, že StarCraft „se objevil konsensem jako další velká výzva (v počítačových hrách)“a „byl výzvou pro vývojáře AI již více než 15 let.“
V posledním Starcraft Championship byly podány pouze 4 přihlášky z akademických nebo průmyslových výzkumných laboratoří. Zbývajících devět robotů bylo napsáno samostatně jednotlivci a ne jako součást hlavního proudu výzkumu umělé inteligence (AI).
Ve skutečnosti počet autorů (42) článku DeepMind, publikovaného 31. října v Přírodě, výrazně převyšuje počet lidí pracujících na robotech Starcraft ve zbytku světa. Nechci zastínit úspěch této technické spolupráce, ale pokud do řešení problému investujete dostatek prostředků, úspěch je zaručen.
Na rozdíl od nedávných vítězství v počítačových šachech nebyl AlphaStar trénován hraním proti sobě. Naučil se to napodobováním nejlepších epizod z téměř milionu her hraných těmi nejlepšími lidskými hráči. Před tím utrpěl AlphaStar nepopiratelnou porážku v 19 z 20 zápasů, když si zahrál se skutečnými lidmi na herním serveru StarCraft. AlphaStar hrál anonymně, aby zabránil lidem zneužívat slabostí, které se mohly vyskytnout v předchozích hrách.
Loni v prosinci AlphaStar porazil jednoho z nejlepších světových profesionálních hráčů - Grzegorz MaNa Komincz. Jednalo se však o verzi AlphaStar s reflexy, které byly podstatně rychlejší než lidské, a také s neomezeným viděním hracích ploch (na rozdíl od lidských hráčů, kteří současně vidí pouze jednu část). Sotva ji lze nazvat rovnými podmínkami.
Propagační video:
StarCraft má však některé funkce, díky nimž je AlphaStar působivým vývojem, ne-li skutečným průlomem. Na rozdíl od šachů nebo orientální hry (strategická hra, která používá desku s polem 361 - ed.), Hráči StarCraft mají nedokonalé porozumění stavu věcí ve hře, ale počet možných akcí v ní je mnohem větší. A boj StarCraft se odehrává v reálném čase, ale vyžaduje dlouhodobé plánování.
Robot Wars
Vyvstává otázka - uvidíme v budoucnosti, jak se roboti nejen účastní válek, ale také je plánují? Ve skutečnosti se oba již dějí.
Přes mnoho varování od vědců z umělé inteligence (jako jsem já), zakladatelů robotiky, laureátů Nobelovy ceny a vedoucích církví, již byla vytvořena zcela autonomní zbraň známá jako „zabijácký robot“a brzy bude použita.
V roce 2020 Turecko rozmístí drony kamikaze na hranici se Sýrií. Tito dronové budou používat počítačové vidění k identifikaci, sledování a zabíjení lidí bez lidského zásahu.
To je hrozný vývoj. Počítače nemají morální schopnost učinit morálně vyvážené rozhodnutí o tom, kdo bude žít a kdo zemře. Chybí jim empatie nebo soucit. Vrah robotů změní samotnou povahu konfliktu k horšímu.
A co „robotičtí generálové“? Počítače pomohly generálům plánovat válku po celá desetiletí. Na začátku 90. let, během operace Pouštní bouře během války v Zálivu, byly nástroje umělé inteligence (AI) použity k plánování nárůstu na Blízkém východě před konfliktem. Americký generál mi krátce nato řekl, že ušetřená částka se rovná součtu všeho, co bylo dříve vynaloženo na vývoj AI.
Generálové také používají počítače k vývoji vícerozměrných vojenských strategií, které mohou být náhle zapotřebí. Nenecháváme však veškerá rozhodnutí na bojišti v rukou jednoho vojáka, a proto přesouvá veškerou odpovědnost z mozku generála na počítačový procesor příliš daleko.
Stroj nemůže být odpovědný za svá rozhodnutí. Odpovědné jsou pouze lidé. A to je základní kámen mezinárodního humanitárního práva. Generálové se však budou ve svých rozhodnutích stále více spoléhat na počítačovou podporu, aby prolomili válečnou mlhu a vypořádali se s obrovským množstvím informací přicházejících zepředu.
Pokud to má za následek méně civilních obětí, méně přátelský požár a větší dodržování mezinárodního humanitárního práva, měli bychom takovou počítačovou pomoc uvítat. Konečné rozhodnutí však musí učinit člověk, ne stroj.
Zde je ještě jedna poslední otázka k zamyšlení. Pokud technické společnosti jako Google opravdu nechtějí, abychom se báli strojového povstání, proč staví roboty, aby vyhráli virtuální války místo toho, aby se zaměřili na něco klidnějšího, jako jsou mírové elektronické hry? Se vší úctou ke sportovním fanouškům musíme připustit, že sázky na neválečné hry vyjdou mnohem méně.
Toby Walsh je profesorem umělé inteligence na University of New South Wales a ve výzkumné komunitě Data61.