Stephen Hawking pokračuje v „křížové výpravě“proti umělé inteligenci (AI).
Během vysoce očekávané kampaně Zeptejte se všeho na Reddit napsal, že práce na vývoji bezpečnostního protokolu AI by se měla provádět nyní, nikoli v daleké budoucnosti.
"Naším cílem by nemělo být vytvoření abstraktní umělé inteligence, ale vytvoření užitečné inteligence," napsal slavný fyzik. pokročilé AI “.
Hawking využívá slávu k podpoře hnutí AI v bezpečí od roku 2014, kdy spolu s dalšími vědci varoval před existenční hrozbou, kterou moderní stroje představují pro lidstvo.
Do Hawkingu se přidali další významné technické osobnosti, Elon Musk a Steve Wozniak. Dříve v tom všichni tři podepsali otevřený dopis vyzývající k zákazu autonomních zbraní nebo bojových robotů.
Očekávání, že lidstvo brzy vytvoří umělou inteligenci, existují od 50. let a dosud se neospravedlnily. Většina vědců z oblasti umělé inteligence se však domnívá, že v tomto století se objeví stroje, které mají stejnou inteligenci jako lidé.
Fotografie: ANDREW COWIE / AFP
Propagační video:
Hawking varuje, že vyobrazení umělé inteligence ve filmech sci-fi zkresluje skutečné nebezpečí strojů. Filmy jako The Terminator zobrazují démonické zabijáky, kteří se snaží zničit lidstvo z důvodů, které skutečná umělá inteligence neměla. Usnadňují také zmírnění potenciálního rizika AI (jako například nestavění kyborgů).
"Skutečnou hrozbou ze strany AI není to, že je to zlo, ale že je velmi schopná." Umělá superintelligence je velmi dobrá při plnění svých úkolů.
Pokud se jeho úkoly neshodují s našimi, budeme mít problémy, - napsal Hawking, - sotva nenávidíte mravence, ale pokud máte na starosti projekt zelené energie a oblast, kde se nachází mraveniště, musí být zaplavena, mravenci nemají štěstí. Nedovolme, aby se lidstvo ocitlo v pozici těchto mravenců. ““
Nick Bostrom, filozof umělé inteligence, fantazíruje scénáře konce světa, když program začne pracovat nesprávným směrem. Například umělá inteligence má za úkol vypracovat plán na ochranu životního prostředí a za účelem vyřešení problému ekologie se rozhodne zničit lidstvo.
Elon Musk již věnoval 10 milionů dolarů na výzkum bezpečnosti AI, aby zabránil destruktivní umělé inteligenci, jako je Skynet, objevovat se v Terminátoru. Ale Hawking chce, aby lidé změnili své celkové vnímání AI.
„Řekněte prosím svým studentům, aby přemýšleli nejen o tom, jak vytvořit umělou inteligenci, ale také o tom, jak zajistit, aby byla použita pro užitečné účely,“řekl Hawking učiteli, který přednáší umělou inteligenci. „Vznik AI, který přesahuje lidi, se stane buď nejlepší, nebo nejhorší událost v lidské historii. Proto je důležité, aby všechno šlo tak, jak má. “