Michail Burtsev, vedoucí laboratoře neurálních systémů a hlubokého učení na Moskevském institutu fyziky a technologie, hovoří o tom, zda je možné vytvořit plnohodnotný počítačový analog lidské mysli, a vysvětluje, proč jej vědci vyvíjejí a jak jej lze chránit před útoky trolů.
Na konci července zahájili vědci z MIPT mezinárodní soutěž o „mluvené“systémy umělé inteligence schopné napodobit živého člověka a vyzvali všechny, kteří s nimi chtěli komunikovat a vyhodnotit výsledné dialogy. Vědci s pomocí dobrovolníků doufají, že v příštích třech letech vytvoří hlasového asistenta, který dokáže komunikovat s člověkem téměř stejně dobře jako žijící partner.
Soutěž společně organizovali vědci z univerzit v Montrealu, McGill a Carnegie Mellon. Kliknutím na odkaz se můžete zúčastnit testování dialogových systémů.
Ve skutečnosti tyto myšlenky nebyly vynalezeny dnes - moderní hlasoví asistenti od společností Google, Apple, Amazon a dalších IT společností mají kořeny v hluboké minulosti, na samém počátku počítačové éry. První takový mluvící stroj s názvem ELIZA byl vytvořen v roce 1966 a byl ve skutečnosti vtipem, parodií psychoterapeuta, který pacientovi poskytoval zbytečné rady.
V následujících letech a desetiletích programátoři vytvářeli stále složitější a „živé“systémy pro komunikaci s počítačem. Nejpokročilejší z těchto systémů dokáže rozpoznat náladu majitele, pamatovat si jeho staré touhy a preference a řešit pro něj některé běžné úkoly a úkoly v domácnosti, objednávat jídlo nebo zboží v obchodě nebo hrát roli operátora v call centrech.
Michaile, od založení ELIZY uplynulo téměř 50 let. Co se během této doby obecně změnilo a lze v zásadě očekávat, že v budoucnu budou vědci schopni vytvořit takový systém, který lidé nebudou moci odlišit od žijícího partnera?
- Myslím si, že v blízké budoucnosti bude možné vytvořit technologii mluvené inteligence, která umožní stroji přiblížit se úrovni lidského dialogu. Na tomto úkolu pracujeme v rámci projektu iPavlov, který je součástí Národní technologické iniciativy.
Uživatel by měl komunikovat se systémem automatického dialogu stejně dobře jako se živou osobou. To umožní vytvořit informační systémy, které jsou schopny lépe porozumět tomu, co od nich člověk chce, a reagovat na ně přirozeným jazykem.
Propagační video:
Konverzační inteligenci lze použít k automatizaci mnoha hlasových a textových rozhraní, včetně poslů, jako je Telegram. Jak ukazují statistiky, poslové se dnes používají aktivněji než sociální sítě a velmi velké množství informací prochází textovými komunikačními kanály.
Například se pohodlně používají v dopravě a přidání asistenta dialogu - chatovacího robota - umožní uživatelům nejen vzájemně komunikovat, ale také přijímat potřebné informace, nakupovat a dělat mnoho dalších věcí. To povede k tomu, že instant messenger a hlasoví asistenti postupně nahradí obvyklé webové stránky a aplikace a budou také hrát roli online konzultantů a specialistů call centra.
Může Rusko vzhledem k přítomnosti společností Apple, Google a Amazon na tomto trhu konkurovat? Existuje v ruštině nějaká specifičnost, která by mohla bránit potenciálním konkurentům ruských společností a vědců?
- Ruský jazyk je samozřejmě složitější a některé metody, které se dnes používají při vývoji dialogových systémů a hlasových asistentů ve světě, nelze použít bez zdokonalení a výrazných úprav, které by jim umožnily pracovat s bohatší gramatikou.
Na druhou stranu, základní algoritmy, které se používají při práci Siri, Cortana, Google a dalších digitálních asistentů, nikdo neskrývá - jsou nám k dispozici alespoň na úrovni výzkumu a konceptů. Články z výzkumu a programový kód jsou často veřejně dostupné - lze je v zásadě přizpůsobit ruštině.
Michail Burtsev, vedoucí laboratoře neurálních systémů a hlubokého učení, MIPT
Navíc není mnoho pokusů o implementaci na „průmyslové“úrovni. Jediným významným projektem je společnost Yandex, která vyvíjí asistenta pro projekt Alice.
V našem projektu se snažíme vytvořit nástroje, které by zjednodušily a urychlily vytváření takových „průmyslových“dialogových systémů určených pro nejrůznější účely. Vývoj univerzálního hlasového asistenta, který je schopen vyřešit jakýkoli problém, je však pro velké společnosti nesmírně obtížný úkol.
Na druhou stranu je mnohem snazší implementovat automatizaci malého podniku, který bude používat systém specializovaného dialogu. Doufáme, že nástroje, které vytvoříme, pomohou podnikatelům a programátorům vyřešit tyto problémy dostatečně rychle, aniž by měli hluboké znalosti a vynaložili na to mimořádné úsilí.
Mnoho vědců, jako je Roger Penrose nebo Stuart Hameroff, věří, že lidská mysl má kvantovou povahu a je nemožné v zásadě postavit analogový stroj. Souhlasíte s nimi nebo ne?
- Podle mého názoru, pokud se podíváme na to, co dnes víme o struktuře mozku a povaze lidského vědomí, pak zatím nečelíme žádným zásadním překážkám, abychom mohli jeho práci reprodukovat pomocí počítače.
Penrose a Hameroff mají řadu hypotéz, které podle nich vysvětlují, proč to nelze udělat. Neurofyziologové dosud nenašli žádné experimentální důkazy o správnosti těchto hypotéz a naše současná znalostní základna hovoří ve prospěch opaku.
Další věc je, že časový rámec, kdy bude takový stroj vytvořen, není plně definován. Zdá se mi, že k tomu může dojít nejméně za 50, nebo dokonce 100 let.
Bude to vyžadovat zásadně nové technologie a počítače, které jsou ve svých principech fungování blíže neuronům než digitální logice?
- Pokud věříme, že lidská inteligence je založena na nějaké formě výpočtu, pak jakýkoli univerzální výpočetní systém ekvivalentní Turingovu stroji může teoreticky napodobovat práci lidského mozku.
Další věc je, že tento stroj může běžet velmi pomalu, takže je z praktického hlediska nepoužitelný. Dnes je těžké uhodnout, jaké technologie pro stavbu počítačů zde budeme potřebovat.
Jaké další úkoly mohou digitální asistenti řešit kromě toho, co dělají dnes? Lze je použít k dešifrování textů v mrtvých jazycích nebo k šifrování, jako je rukopis Voynich?
- V tuto chvíli, pokud vím, se nikdo nepokusil pomocí neuronových sítí odhalit tajemství mrtvých jazyků a dešifrovat texty, ale zdá se mi, že se o to v blízké budoucnosti někdo pokusí. My jsme zase o takové věci ještě neměli zájem.
„Pomocník“je ve skutečnosti velmi široký pojem, který může zahrnovat mnoho velmi odlišných věcí. Vezmeme-li například stejnou ELIZU, virtuální „psychoterapeutku“, vyvstává otázka: je asistentkou nebo ne?
Konverzační systémy lze použít nejen k řešení praktických problémů, ale také k pobavení lidí nebo k udržení jejich nálady. Otázkou zde ve skutečnosti je, co máme na mysli pod pojmem osobní asistent a jak široký nebo úzký je. V nejširším slova smyslu mohou takové systémy vyřešit všechny problémy spojené s komunikací, i když s různou mírou úspěchu.
Konverzační rozhraní lze kromě přímé komunikace s lidmi použít také k výuce strojů k rychlému nalezení společného jazyka a přenosu informací z jednoho systému do druhého.
Tím se obejde problém vytváření propojení a přenosu dat mezi existujícími a vytvořenými službami, protože pro vzájemnou komunikaci nebudou potřebovat znát specifikace API toho druhého. Budou si moci vyměňovat data pomocí přirozených jazyků nebo vlastního umělého jazyka, který pro takové účely vymyslí stroje nebo lidé.
Zhruba řečeno, i systémy, které si navzájem „nejsou známé“, se budou moci dohodnout, když pro ně budou používat společný komunikační jazyk, a nikoli pevná pravidla pro výměnu informací. Pokud jim něco není jasné, mohou se navzájem ptát na neznámé věci, díky čemuž bude celá infrastruktura pro poskytování služeb a služeb na internetu neuvěřitelně flexibilní a umožní jí rychle integrovat nové služby bez pomoci lidí.
V tomto ohledu vyvstává otázka - kdo by měl být odpovědný za doporučení „psychoterapeutky“ELIZA, počítačových lékařů a dalších hlasových asistentů, jejichž rady mohou výrazně ovlivnit pohodu a zdraví člověka?
- To je velmi obtížná otázka, protože dnes neexistují žádná jasná kritéria, která by nám pomohla pochopit, jak v takových případech jednat. Mnoho internetových služeb a služeb, které vydávají doporučení uživatelům, začne fungovat až poté, co uživatel souhlasí s podmínkami služby a důsledky, které mohou nastat v důsledku práce s ní.
Zdá se mi, že práce chatovacích robotů a hlasových asistentů - alespoň v raných fázích jejich existence - by mohla být regulována podobným způsobem. Pokud například robot jednoduše prohledá a analyzuje informace a jedná zhruba stejným způsobem jako vyhledávač, lze na něj použít stejná pravidla. V případě, že poskytne lékařské nebo právní poradenství, forma odpovědnosti by měla být odlišná.
Takové systémy by například měly jasně informovat uživatele o důsledcích volby mezi umělou inteligencí a běžným lékařem. Osoba bude mít na výběr - důvěřovat lékaři, který se například bude mýlit v 10% případů, nebo vsadit na stroj, který dá špatnou odpověď ve 3% případů. V prvním případě bude za chybu zodpovědný lékař a ve druhém samotný uživatel.
V loňském roce Microsoft spustil chatbot Tay. AI, který musel doslova o den později vypnout kvůli skutečnosti, že netizens proměnil „dospívající dívku“ve skutečného rasistu. Je možné chránit takové dialogové systémy před trolly a vtipanty?
- Zdá se mi, že se můžete bránit, ale zda to má smysl udělat, záleží na účelu systému. Je jasné, že pokud by systém neměl vydávat žádné konkrétní poznámky - hrubé nebo extremistické, pak můžeme filtrovat jeho reakce. K tomuto filtrování může dojít buď ve fázi trénování systému, nebo již během generování odpovědí.
Mimochodem, podobný úkol hodnocení kvality dialogu řešili týmy v rámci vědeckého školního hackathonu DeepHack Turing, který se konal před několika týdny na MIPT. Jeho účastníci vyvinuli algoritmy, které z předpovědí dialogu dokázaly předpovědět, jaké hodnocení by člověk dal systému dialogu.
Dalším krokem ve vývoji tohoto přístupu je vytvoření programu, který by posoudil přijatelnost frází nebo spolehlivost zdrojů použitých ke generování odpovědí na dotazy uživatelů. Zdá se mi, že by to pomohlo vyřešit tento problém.