Superinteligentní počítače nebo roboty, které ohrožují existenci lidské rasy, jsou oblíbeným dějem sci-fi. Podle vědců ve skutečnosti lze takovému scénáři doomsday předcházet pouze vytvořením virtuálního „vězení“, které by obsahovalo umělou inteligenci (AI). A to musí být provedeno dříve, než se naučí uvědomovat si a zlepšovat se.
Pokud necháte toto džin z láhve, pak z věštce, které řeší naše problémy, může se proměnit v apokalyptickou hrozbu, - řekl Roman Yampolsky, vědec z University of Louisville (Kentucky), pracující v oblasti informatiky. Podmínky, za nichž bude umělá inteligence obsažena, musí být pečlivě naplánovány, aby se nemohly uvolnit prostřednictvím hrozeb, úplatkářství, pokušení nebo počítačového hackování.
"Dokáže vymyslet mnoho způsobů ovlivňování, otáčení komplexní socio-inženýrské kombinace a použití existujících hardwarových komponent pro účely, které si ani nedokážeme představit," věří Yampolsky. - Takový software má neomezené možnosti infikování počítačů a sítí. Umím najít způsoby, jak ovlivnit lidskou psychiku, úplatky nebo vydírání lidí, kteří s ní jsou v kontaktu. ““
Vznik nové oblasti vědeckého výzkumu zabývající se problémem vytvoření „vězení“pro umělou inteligenci má další výhody. Tyto studie jsou velmi užitečné pro zlepšení počítačové bezpečnosti a kryptografie, Yampolsky si je jistý. Jeho návrhy byly podrobně popsány v březnovém čísle akademického časopisu Journal of Consciousness Studies.
Jak nastavit past na Skynet
Pro začátek můžete umělou inteligenci uzavřít do „virtuálního počítače“. Nechte to fungovat v běžném operačním systému - omezením přístupu AI k softwaru a hardwaru hostitelského počítače bude mnohem neškodnější. Inteligentní umělá inteligence každopádně nebude schopna vysílat svým lidským fanouškům tajné zprávy a chladící fanoušky mlátí Morseův kód.
Vložení umělé inteligence do počítače bez přístupu k internetu je dobrý způsob, jak zmařit zákeřné plány AI na ochranu Země před vámi a mnou. V případě jakéhokoli jiného selhání mohou vědci vždy zpomalit myšlenkový proces AI zpomalením rychlosti zpracování počítače, pravidelným stisknutím tlačítka "reset" nebo odpojením AI od napájení.
Propagační video:
Tato bezpečnostní opatření jsou navržena tak, aby se vypořádala s vysoce inteligentními a nebezpečnými počítačovými viry, ale jak efektivní se ve skutečnosti ukázalo, je odhadnout někdo.
Catch-22 (román amerického spisovatele J. Hellera; cca. Mixednews) znamená, že nemůžeme provádět komplexní testování našich myšlenek, dokud není vývoj AI dokončen. Aby však byla AI bezpečná, je nutné vyvinout řadu vhodných opatření, říká Yampolsky. „Nejlepší možností je uvalit omezení na používání systémů AI a poté je podle potřeby změnit v souladu s rostoucími schopnostmi AI.“
Vědec Roman Yampolsky navrhl použití znaku „@“nebo jiných známek, které se dnes používají k označení radiace nebo biologické hrozby k označení přítomnosti nebezpečí spojeného s umělou inteligencí.
Nikdy nedávejte na vozidlo lidskou ochranku
Během zdánlivě nevinné konverzace s ochrankou nic nebrání AI v používání psychologických technik, jako je přátelství nebo vydírání. Osobu lze podplatit tím, že mu slíbíme dokonalé zdraví, nesmrtelnost nebo dokonce slib vrátit příbuzným a přátelům z jiného světa. Nebo dosáhnout něčeho s hrozbami.
Nejbezpečnější způsob, jak komunikovat s umělou inteligencí, je učinit z ní při řešení konkrétního vědeckého nebo technického problému odpověď z mnoha dostupných možností, vysvětluje Yampolsky. To pomůže udržet super inteligentní věštce na krátkém vodítku.
Mnoho vědců se domnívá, že navzdory všem preventivním opatřením nebude udržování inteligentní inteligence umělé inteligence na neurčitou dobu fungovat. Poslední experiment Eliezera Yudkowského, výzkumníka Ústavu singularity o vytvoření umělé inteligence, ukázal, že i inteligence na lidské úrovni může člověka oklamat a „uniknout“z vězení.
Přesto Yampolsky trvá na zachování AI v přísné izolaci - je to stále lepší než vzdát se a dát mu úplnou svobodu. Pokud však vývoj umělé inteligence dosáhne bodu, kdy může manipulovat s člověkem pomocí podvědomí (předpovídání budoucnosti), telepatie nebo telekineze, budou důsledky nepředvídatelné.
"Pokud se taková umělá inteligence zlepší a dosáhne úrovně výrazně překračující schopnosti lidské inteligence, důsledky si ani nelze představit," varuje Yampolsky.