Specialisté v oblasti vytváření umělé inteligence na lidské úrovni dnes musí řešit nejen vědecké, ale i etické problémy. Jaké jsou výzvy, kterým čelí vědci? Jak chránit lidstvo před potenciálními hrozbami, které představuje vytvoření supervelmocné mysli, a zůstat člověkem v novém světě? Profesorka Ústavu inteligentních kybernetických systémů Národní výzkumné jaderné univerzity „MEPhI“(IIKS NRNU MEPhI) Alexey Samsonovich o tom řekl korespondentovi projektu „Sociální navigátor“MIA „Rusko dnes“Anně Kurské.
- Alexey Vladimirovich, náš rozhovor probíhá v rámci mezinárodní konference „Biologicky inspirované kognitivní architektury“BICA 2019. Jaká témata diskuse dnes přicházejí do popředí v souvislosti s vytvářením umělé inteligence na lidské úrovni?- Konference nám umožnila znovu si uvědomit hlavní výzvy v oblasti vytváření umělé inteligence nové generace, která by se měla stát rovnocenným partnerem a přítelem člověka. Prvním úkolem je vytvořit emoční inteligenci na lidské úrovni, která dokáže využít emoce při rozhodování a generování chování. Tato kvalita zejména umožní stroji navázat dlouhodobé společenské vazby, podobné vazbám mezi blízkými. Umožní jí to také ospravedlnit její činy a rozhodnutí, zvolit cíle a způsob učení. Emoční inteligence je klíčem k odpovědi na další výzvy. Neomezuje se na schopnost rozpoznávat a vyjadřovat emoce, které dnes zaměstnává většina vědců pracujících v této oblasti. Přestože jsou oba tyto procesy nezbytné,je mnohem důležitější a těžší pochopit souvislost mezi sebou a druhou, kterou poskytuje emoční inteligence. Za druhé, inteligentní agent musí pochopit kontext toho, co se děje. To znamená, že na základě informací, které má k dispozici, musí nezávisle generovat a průběžně aktualizovat globální scénář minulosti a budoucnosti, určovat jeho roli v něm a poté na tomto základě stanovit pro sebe konkrétní cíle a vypracovat plány k jejich dosažení. Ve vědecké literatuře se tato schopnost obvykle nazývá „narativní inteligence“(neměla by být zaměňována s programy, které fungují podle skriptu nebo příběhu, který dříve napsal člověk).že musí nezávisle generovat a průběžně aktualizovat globální scénář minulosti a budoucnosti na základě informací, které má k dispozici, určit jeho roli v něm a poté na tomto základě stanovit konkrétní cíle a vypracovat plány k jejich dosažení. Ve vědecké literatuře se tato schopnost obvykle nazývá „narativní inteligence“(neměla by být zaměňována s programy, které fungují podle skriptu nebo příběhu, který dříve napsal člověk).že musí nezávisle generovat a průběžně aktualizovat globální scénář minulosti a budoucnosti na základě informací, které má k dispozici, určit jeho roli v něm a poté na tomto základě stanovit konkrétní cíle a vypracovat plány k jejich dosažení. Ve vědecké literatuře se tato schopnost běžně nazývá „narativní inteligence“(neměla by být zaměňována s programy, které fungují podle skriptu nebo příběhu, který dříve napsal člověk).nebo vyprávění).nebo vyprávění). - Existuje třetí výzva?
- Bude to provádění aktivního učení umělé inteligence, které stejně jako člověk sám vyvíjí systém hodnot, který motivuje proces učení, sám vytváří cíle a cestovní mapu pro učení, vybírá prostředky (například experimenty k testování hypotéz, hledání dostupných zdrojů nebo dotazů na člověka), a na základě své vlastní iniciativy používá tyto prostředky k dosažení cíle. Současně musí být stroj schopen samostatně se vyvíjet z úrovně dítěte na úroveň dospělého a dále do superintelligence.
Tuto třetí oblast lze nazvat inteligencí učení na úrovni člověka, která ji odlišuje od hlubokého učení a jiných typů strojového učení, které jsou dnes populární. Podle mého porozumění bude inteligence učení na lidské úrovni možná prostřednictvím emoční a narativní inteligence.
Jaký výzkum teď děláš? Jak postupuje vaše práce na tvorbě virtuálních lidských asistentů a modelování emoční inteligence?
- Zabýváme se modelováním lidské emoční inteligence s cílem vyvinout sociálně kompatibilní virtuální lidské asistenty založené na našich modelech.
Bereme v úvahu celou řadu konkrétních úkolů a oblastí výzkumu. Jedná se například o vytvoření virtuálního partnera ve videohře; virtuální koordinátor nebo moderátor; virtuální kreativní pomocník pro skladatele, choreografa, designéra, asistenta pro řešení problémů vhledu; virtuální posluchač (v budoucnu - virtuální partner); stejně jako virtuální mazlíček, srovnatelný se skutečným, pokud jde o jeho sociální a emoční vlastnosti.
Výsledky je obtížné podrobně prezentovat zde, ale lze je nalézt v našich otevřených publikacích. Pro celou šíři našich pokusů a úspěchů potřebujeme průlom v jednom směru: při prokazování praktické hodnoty obecného modelu lidské emoční inteligence, ztělesněné v intelektuálním agentovi.
V poslední době byla naše laboratoř BICA na Katedře kybernetiky na NRNU MEPhI obohacena o nové výzkumné metody, včetně experimentální platformy založené na virtuální a smíšené realitě (se sledováním směru očí očí), jakož i na elektromyografii a automatickou analýzu výrazů obličeje, což nám umožňuje zaznamenávat emoce subjektů ponořených do virtuální prostředí. Většina naší práce se nyní provádí pomocí těchto technologií. V některých experimentech se používají také EEG a fMRI.
Propagační video:
Naším bezprostředním zastřešujícím cílem je zdokonalit a empiricky validovat socio-emoční kognitivní architekturu Ebica (eBICA) a na jejím základě vytvořit efektivní demonstrace. Tato práce se provádí na NRNU MEPhI s finanční podporou z grantu Ruské vědecké nadace č. 18-11-00336.
Nedávno spuštění Elon Musk Neuralink oznámilo vývoj, který by v budoucnu mohl z člověka udělat kyborg schopný ovládat počítač s myšlenkovou silou. Jak slibná je pro vás tato linie výzkumu?
- Podle mého chápání by se umělá inteligence měla stát na jedné straně rovnocenným partnerem a přítelem člověka a na druhé straně rozšířením normální nebo náhrady ztracených lidských schopností, včetně prostředků založených na přímém rozhraní s lidským mozkem.
V tomto případě by člověk mohl doslova používat počítač nebo mikročip jako součást svého mozku. Oba jsou zaměřeni na dobro a měli by být zcela pod kontrolou jeho tvůrce. Přeji Elon Muskovi hodně úspěchů.
Jak velká je potřeba vyvinout prostředky pro boj proti umělé inteligenci?
- Myslím si, že v naší éře zůstanou nástroje umělé inteligence pod kontrolou osoby, i když pouze kvůli jejich závislosti na jejich službě osobou a poskytnutí jim všeho, co potřebují. Pokud je někdo může obrátit proti osobě, pak pouze osoba sama. Pak by měla být zvážena otázka konfrontace s těmito lidmi.
Není žádným tajemstvím, že armáda potřebuje především umělou inteligenci. Dnes, stejně jako dříve, se vytvářejí nové způsoby útoku a obrany. Zvláštností naší doby je však to, že oba zahrnují umělou inteligenci. V tomto smyslu je potřeba vyvinout prostředky konfrontace velká a pro některé země je to z finančního hlediska priorita.
Co nás čeká po vytvoření umělé inteligence, lepší než člověk? Budeme koexistovat se stroji nebo se spojíme do nějakého jediného celku?
- Umělá inteligence se stane a již se stává nedílnou součástí lidské civilizace. Zároveň jsou stále možné dva způsoby: dědičnost našich hodnot, aspirace a ideály umělou inteligencí nebo jejich nahrazení „strojními hodnotami“, které se vztahují nejen na stroje, ale také na lidi. Která z těchto dvou cest je realizována, je na nás.
Co to znamená zůstat člověkem v éře umělé inteligence?
- Zůstat člověkem v éře umělé inteligence znamená realizovat první cestu.