Představte si toho nejodpornějšího, nejsmutnějšího, cynického a mazaného světového vůdce. Nyní si představte, že tato osoba není osoba, ale síť milionů počítačů po celém světě. A tento digitální diktátor má okamžitý přístup k nejmenším dokumentovaným informacím o každém člověku, který žije nebo kdy žil na Zemi. A může také provádět miliony výpočtů za zlomek vteřiny, ovládat světovou ekonomiku, všechny počítačové ozbrojené systémy a, nejhorší ze všech, má nesmrtelnost v té či oné podobě.
Vznik takového neuvěřitelného digitálního diktátora je podle zakladatele Tesly a SpaceX Elona Muska jedním z nejtemnějších možných scénářů budoucnosti lidstva, pokud vývoj umělé inteligence pokračuje bez vážného regulačního dohledu.
"Je zcela jasné, že se rychle vyvíjíme směrem ke vzniku digitální superinteligence, která překoná všechny lidské bytosti," řekl Elon Musk v novém dokumentu Důvěřujete tomuto počítači? („Věříte tomuto počítači?“) Režie Chris Payne, který také režíroval dokument „Kdo zabil elektrické auto?“(„Kdo zabil elektrické auto?“).
"Pokud jedna společnost nebo malá skupina lidí dokáže vytvořit božskou digitální superinteligenci, převezme to svět."
Lidská historie obsahuje mnoho příkladů jednotlivců, kteří se pokusili dobýt celý svět najednou. Alexander The Great, Charlemagne, Napoleon, Hitler jsou jen některá jména na tomto seznamu. Podle Muska však bude mít autoritativní umělá inteligence nad všemi těmito lidmi jednu hroznou výhodu.
"Všichni, dokonce i ti nejzranitelnější a nejodpornější diktátoři, byli spojeni jednou věcí - byli smrtelníky." Pro AI však nebude nic jako smrt vůbec. Bude schopen existovat navždy. Lidé se před takovým zlem nebudou muset schovat, “řekl Musk.
Podle téhož pižma nebude tento hypotetický AI diktátor ani muset být skutečně zlý, aby představoval nebezpečí pro celé lidstvo.
"Pokud má AI určitý úkol a vyvíjí se tak, aby lidstvo stálo v cestě řešení tohoto úkolu, AI to jednoduše zničí." Bez váhání a morálního utrpení. Je to jako stavět silnici, na které se mraveniště stalo. Nenávidíme mravence, jen stavíme silnici. Sbohem mravenci, “dodal Musk.
Propagační video:
Nikolay Khizhnyak