Začátkem tohoto roku podepsalo 116 technologických osobností otevřený dopis vyzývající OSN k zákazu „smrtících autonomních zbraňových systémů“. Věří, že to může vést k ozbrojeným konfliktům nebývalých rozměrů. The Independent poznamenal, že „je to poprvé, co odborníci v oblasti umělé inteligence a robotické společnosti učinily společné rozhodnutí v této otázce.“
Ale ne všichni pozorovatelé se tak obávají. Andrew Ng, který donedávna pracoval jako hlavní vědec v Baidu, dospěl k závěru, že dělat si starosti se zabijáckými roboty je jako dělat si starosti s přeplněností na Marsu, a budeme mít dost času si to uvědomit.
V prvních letech 21. století jen málo témat vyvolalo větší zájem nebo debaty energičtěji než umělá inteligence, počínaje samotným pochopením tohoto pojmu. Letos v březnu jeden pozorovatel poznamenal, že „existuje asi tolik definic umělé inteligence, kolik je vědců vyvíjejících tuto technologii.“Robbie Whiting, zakladatel poradenské firmy Junior, tvrdí, že „AI není jen módní slovo - změní svět.“
I když přehánění existuje, AI již přestavuje celá průmyslová odvětví, jako je doprava, finance a zdravotnictví. ČTÚ společnosti Facebook věří, že umělá inteligence „může vyřešit problémy v celém planetovém měřítku“. Elon Musk mezitím tvrdí, že „AI představuje zásadní riziko pro existenci lidské civilizace.“Většina technologií není užitečná ani škodlivá - záleží na tom, kdo je používá a proč.
Málokdo nesouhlasí s tím, že AI se vyvíjí mnohem rychleji, než se snažíme pochopit její složitou povahu, více aspektů a dalekosáhlé důsledky pro národní bezpečnost. V nedávné zprávě Gregoryho Allena a Thaniela Chana, postgraduálních studentů na Harvardské univerzitě, existuje výzva, aby vláda vytvořila něco jako společnost RAND pro AI.
Výzkumníci RAND se zase přihlásili k odběru slov Harvardského týmu.
Navrhují zvážit čtyři oblasti, ve kterých může být dopad AI významný, ale nejistý.
Propagační video:
Pracoviště
Kai Fu Lee, předseda SinovationVentures, je přesvědčen, že AI je „zaměřena na snižování počtu pracovních míst ve velkém“, zatímco koncentruje bohatství do rukou společností, které AI vyvíjejí nebo přijímají. Jiní věří, že podobné obavy byly přítomny s příchodem všech technologií, které mění svět, až po tiskařský stroj v 15. století.
The Economist přesvědčí čtenáře, že „AI vytváří poptávku po pracovních místech“a rostoucí počet lidí po celém světě „poskytuje digitální služby na internetu“. Které společnosti a země budou v éře AI prosperovat? Jaké segmenty zmizí, změní se, budou vytvořeny? Jak se změní povaha práce?
Válčení
Zastánci bojových dronů tvrdí, že takové zbraně mohou zasáhnout cíle s mnohem vyšší přesností než lidé; a čím větší roli hrají ve válečném divadle, tím méně často je technici využijí k ublížení.
Ale co když se taková zbraň osamostatní a funguje nezávisle, bez lidského zásahu? Povede vyřazení lidí ze seznamu vojenského personálu k ještě přísnějším a nezastavitelným závodům ve zbrojení?
Otevřený dopis, který byl zveřejněn na Mezinárodní konferenci o umělé inteligenci v roce 2015, varoval, že autonomní zbraně „nevyžadují drahé ani těžko dostupné suroviny, takže se stanou všudypřítomnými a levnými pro všechny významné vojenské síly pro masovou výrobu“. Bude éra automatizovaných zbraní mírumilovnější nebo agresivnější?
Vědci z RAND požadují analytický rámec a mezinárodní úsilí o využití dronů dlouhého dosahu v boji proti terorismu a cíleným vraždám.
Rozhodování
Politici jsou neustále konfrontováni s nesčetnými možnostmi a motivy - v dobách sociálních médií je jich mnohem víc než před dvaceti lety. Takové informační přetížení neumožňuje zvládnout situaci během krize, nemluvě o několika krizích.
Nedávno byl předložen návrh předat „všechna rozhodnutí prezidenta přes počítač - nikoli učinit konečnou volbu, ale pomoci vůdci v osobě člověka“.
Ale zatímco AI je právě teď z velké části bez hříchu, výzkum RAND zdůrazňuje rizika algoritmického zkreslení při filtrování zpráv, ovlivňování trestního soudnictví a dokonce i poskytování dávek sociálního zabezpečení a vydávání víz. Jaká rozhodnutí by měla být učiněna vůči AI? Co by mělo zůstat v rukou člověka? V rukou týmu lidí?
Tvorba
Svět je zvyklý na AI, která dokáže provádět vzrušující výpočetní výkony a porazit lidi v populárních deskových hrách (uplynulo jen něco málo přes 20 let, co superpočítač IBMDeepBlue skvěle porazil šachového velmistra Garryho Kasparova). Jak bude pokračovat v pokroku v tvůrčím prostoru lidí?
Výzkumník umělé inteligence Jesse Engel věří, že „transformuje tvůrčí proces … pomocí inteligentních nástrojů, které poskytují nové způsoby vyjadřování“. Jiní nejsou tak optimističtí. Novinářka Adrienne Lafranceová poznamenává, že umělá inteligence již dokáže „flirtovat“, „psát romány“a „falešné slavné obrazy s úžasnou přesností“. Co to znamená být kreativní? Co navíc znamená být člověkem?
Diskuse o AI často zacházejí do extrémů, ať už jde o příslib utopie bez lidského utrpení, nebo o nebezpečí dystopie, kdy roboti zotročují své lidské tvůrce. Je zapotřebí vyváženější a důkladnější analýza, která pomůže formovat politiky ke zmírnění rizik a maximalizaci výhod. Je třeba podniknout kroky k překonání obav, že AI bude fungovat pro vládu a společnost.
Jak může AI ovlivnit národní zájmy země? Jaké typy AI, pokud existují, lze považovat za strategické technologie na základě vládních kritérií? Kde by měly hrát tržní síly a kde je politika? Zatímco AI zůstává z velké části doménou sci-fi, tyto problémy získávají stále větší význam.
Ilya Khel