Téma pokročilé umělé inteligence (AI) v budoucnu s sebou obvykle nese určité obavy - například to, že se bude schopna samoučení a stane se tak rozvinutým, že ji lidé už nebudou schopni pochopit. Ve špatných rukou, a dokonce i sám o sobě, by takový pokročilý algoritmus mohl převzít vládu a armádu, zavést orwellovské metody dohledu a manipulace, nastolit kontrolu nad společností a dokonce velet armádě autonomních bojových robotů na bojišti.
Někteří odborníci na umělé inteligence však tyto obavy nepovažují za platné. Ve skutečnosti může být vysoce pokročilá umělá inteligence lépe ovládat svět než lidé. Tyto obavy jsou samy o sobě nebezpečné, protože nám mohou bránit v realizaci takové příležitosti.
"Možná neimplementace AI představuje nebezpečí pro lidstvo," řekl výzkumník AI na Facebooku Thomas Mikolov na konferenci v Praze o výzvách vytváření AI na úrovni lidské inteligence.
Mikolov vysvětluje, že lidé jako druh jsou velmi slabí v dlouhodobých rozhodnutích, která přinášejí prospěšné výsledky. Lidé vyčistili deštné pralesy, aby vytěžili suroviny, aniž by si uvědomili (nebo nezajímali), že tím přispěli k degradaci naší planety - možná nevratně.
Pokročilý systém umělé inteligence by však mohl chránit lidstvo před krátkozrakostí.
"Lidé jsou špatně schopni předvídat vzdálenou budoucnost, řekněme, 20 až 30 let dopředu." Možná vytvořením umělé inteligence, která je mnohem chytřejší, než jsme my, si můžeme pomoci vyhnout se budoucí katastrofě. ““
Mikolov samozřejmě patří k menšině vědců, kteří věří, že vysoce rozvinutá umělá inteligence bude laskavá. Během konference mnozí řečníci vyjádřili rozšířený strach z umělé inteligence, častěji v souvislosti s jejím možným využitím nebezpečnými subjekty ze strany škodlivých herců, jejichž nebezpečí by nemělo být podceňováno.
Nevíme s jistotou, zda bude možné vytvořit univerzální umělou inteligenci schopnou plnit jakýkoli myšlenkový úkol, který má člověk k dispozici, a možná ještě lepší než oni.
Propagační video:
Budoucnost pokročilé umělé inteligence vypadá slibně, ale vyvolává mnoho etických obav. Nevíme ani všechny otázky, na které bude třeba odpovědět.
Většina účastníků pražské konference se však shodla na tom, že pravidla musí být vypracována dříve, než budou potřebná. Již je nutné vytvářet mezinárodní smlouvy, etické výbory a regulační orgány ve vládách, společnostech a vědeckých komunitách. Zavedení takových institucí a protokolů sníží pravděpodobnost, že nepřátelská vláda, nežádoucí výzkumník nebo dokonce skutečně šílený „vědec“spustí škodlivou umělou inteligenci nebo použije složitý algoritmus jiným způsobem jako zbraň. A v nejhorším případě budeme mít nápravná opatření.
Zavedením nezbytných pravidel a preventivních opatření budeme v budoucnu moci žít v souladu s vysoce rozvinutou umělou inteligencí; možná jednoho dne nás dokonce zachrání.
Vadim Tarabarko