Slavný britský fyzik Stephen Hawking v článku inspirovaném sci-fi filmem „Transcendence“v hlavní roli Johnnyho Deppa uvedl, že podceňování hrozby umělé inteligence může být největší chybou v lidské historii.
V článku, který je spoluautorem profesora informatiky Stuarta Russella z Kalifornské univerzity v Berkeley a profesorů fyziky Maxe Tegmark a Franka Wilczka z MIT, poukazuje Hawking na některé pokroky v umělé inteligenci, na vědomí autosedaček, Siriho hlasového asistenta a superpočítače. vítěz muže v televizní kvízu Jeopardy.
"Všechny tyto úspěchy blednou na pozadí toho, co nás v nadcházejících desetiletích čeká." Úspěšné vytvoření umělé inteligence bude největší událostí v lidské historii. Bohužel se může ukázat jako poslední, pokud se nenaučíme vyhýbat se rizikům, “cituje Hawking britské noviny The Independent.
Profesoři píšou, že v budoucnu se může stát, že nikdo a nic nezastaví stroje s nelidskou inteligencí od sebezdokonalování. A tím se zahájí proces tzv. Technologické singularity, což znamená extrémně rychlý technologický rozvoj. Ve filmu za účasti Deppa se v tomto smyslu používá slovo „transcendence“.
Představte si, že taková technologie překonává lidi a řídí finanční trhy, vědecký výzkum, lidi a vývoj zbraní nad naše chápání. Pokud krátkodobý účinek umělé inteligence závisí na tom, kdo ji řídí, pak dlouhodobý účinek závisí na tom, zda ji lze vůbec kontrolovat.
Je těžké říci, jaké důsledky může mít umělá inteligence na člověka. Hawking věří, že těmto problémům je věnována malá pozornost mimo takové neziskové organizace, jako je Cambridgeovo centrum pro studium existujících rizik, Institut pro budoucnost lidstva a výzkumné ústavy pro strojovou inteligenci a budoucí život.
Podle něj by se každý z nás měl ptát, co můžeme udělat, abychom se vyhnuli nejhoršímu scénáři budoucnosti.