"Rise of the Machines", "The Terminator Returns" … Mnoho sci-fi je založeno na skutečnosti, že počítače se stávají tak chytrými, že chápou, že budou lepší bez člověka. Pohádky? Jak vypadat. Do roku 2050 bude typický domácí počítač schopen zpracovat tolik informací, kolik všichni lidé na Zemi sestaví.
Ale rok 2050 je pod podmínkou, že se stroje budou vyvíjet postupně. Takhle to nefunguje. Náš vztah s elektronickým světem postupuje skokem a mezemi. Jednou - k vozu byla připojena myš. Jednou - objevil se internet. Jednou - byly chytré telefony s tablety.
Další průlom nastává, když počítač dokáže lidem porozumět. Chytré telefony již mají aplikace jako Siri a Cortana, které s námi mohou vést jednoduchou konverzaci. Problém je však v tom, aby počítač pochopil, ne to, co říkáme, ale co máme na mysli! Nejjednodušší příklad: věta „Nechal mě“, řekla žena se slzami a mužský šéf má úplně jiné významy.
Takže: jakmile se stroje naučí rozpoznávat nuance lidské řeči, na jedné straně budou naše ruce rozvázány v doslovném a obrazovém smyslu. Mluvil jsem s počítačem a udělal všechno. Na druhou stranu, nepřibližujeme se k nebezpečné linii a neodstraňujeme poslední bariéru v komunikaci mezi lidmi a bezduchým železem?
Dlouho jsem o tom chtěl mluvit se známým vědcem, ředitelem lingvistického výzkumu v ABBYY, vedoucím oddělení výpočetní lingvistiky na Ruské státní univerzitě humanitních věd a Moskevským institutem fyziky a technologie Vladimirem Selegeyem. Ale když jsem mu řekl své apokalyptické obavy, zamračil se.
"Ano, sci-fi je plná temných předpovědí o tom, jak budou stroje vyškolené člověkem bez ní fungovat." Není mi však jasné, proč zvýšení množství znalostí obsažených v programech přiměje počítač, aby se rozhodoval bez vyžádání povolení od osoby?
Ve skutečnosti problém není v tom, že se počítač naučí dělat bez lidí, ale že lidé se budou chtít obejít bez sebe při řešení určitých problémů. Tady je Černobyl …
Propagační video:
A co s tím má Černobyl společného?
- Jaderný reaktor je velmi komplexní fyzikální model. Zdá se, že všechny řídicí parametry reaktoru jsou známy, vše se řídí přísnými fyzickými zákony a rozhodování může být zcela svěřeno počítači. Ale…
V roce 1986, týden po nehodě, jsem se zúčastnil semináře o využití umělé inteligence v průmyslu. I tehdy bylo jasné, že svěřením rozhodování do počítače jsme vážně ohroženi. Je běžné, že programy obsahují chyby. Dokonce i satelity mají softwarové závady.
To znamená, že člověk je spolehlivější než počítač, i když „myslí“mnohem rychleji?
- Osoba má kromě všeho jiného motivaci. Řeší své problémy - vzdělání, plození, kariéru, ví, jak se cítit …
Ale může nějaký mazaný programátor napsat program, který by učil agresivní stroj …
- Můžete se pokusit vyrobit například vojenského robota, který bude sám rozhodovat, analyzovat, co vidí a slyší. A bude to velmi nebezpečné. Ale ne proto, že robot bude mít najednou touhu zničit, jak napsali autoři science fiction. Ale protože chyba programátora může zanedbání některých faktorů vést k nepředvídatelnému chování robota.
Ale zatím jsme velmi daleko od schopnosti vytvářet samoučící se programy, které jsou schopny generovat zcela nové znalosti. Zhruba řečeno, nezávisle se přesuňte od multiplikační tabulky ke schopnosti řešit složité rovnice.
Ve druhé polovině dvacátého století byly velmi populární futuristické předpovědi v oblasti vědy. Všechno o inteligenci počítače se dostalo do mléka. Nikdo nepředpovídal internet, neuvěřitelnou svobodu přístupu k informacím, mobilní telefony. Ale všichni mluvili o myslících počítačích.
Například na konci 60. let minulého století se náš první šachový systém KAISA úspěšně účastnil mistrovství světa mezi počítači. Věřilo se, že aby stroj mohl porazit člověka, bylo nutné simulovat algoritmy lidské hry. Pokládat mysl, intelekt, velmi záhadnou intuici, díky níž je šachový hráč schopen činit správná rozhodnutí.
Dnes počítač porazí člověka. Nikdy se však nenaučil intuici. Miliarda hraných her, veškerý zážitek ze hry, všechna rozhodnutí, která kdy šachoví hráči učinili, byla načtena do jeho paměti. A naučili je používat tuto volbu při výběru optimálního herního plánu a poskytnout jim obrovskou rychlost výčtu a vyhodnocení možností. Počítač porazil mistrů světa, ale nezískal z toho žádné potěšení. Všechno je úplně jiné než lidé.
Ale vy jste jeden z těch, kdo právě učí počítač "otočit hlavu"
- Snažíme se pouze učit programy „porozumět“textům, aby z nich mohli extrahovat informace, hromadit je a zobecňovat je. Aby lidé dostávali filtrované znalosti, vybrané z miliard zdrojů. To je velmi obtížné, protože člověk sám dobře neví, jak jsou jeho jazykové schopnosti uspořádány, na nichž je založeno jeho chápání ostatních lidí.
Statistický strojový překlad je nyní populární. Počítač vůbec nechápe, o čem je přeložený text, prostě ví, jak najít nejpravděpodobnější varianty překladu malých fragmentů (několika slovy), analyzovat obrovské množství lidských překladů uložených v paměti. Obecně je text jasný. Bylo by však frivolní činit odpovědné rozhodnutí na základě takového překladu.
Dobře, může mi počítač přeložit instrukce?
- Pokyny? Je to nebezpečné.
- Ano jednoduché ledničce!
- Dokonce i do ledničky! Chtěl bych, aby naše programy překládaly, snažily se porozumět textu, vybírat si mezi možnostmi založenými na znalostech, a to nejen proto, že tato korespondence je nejčastěji nalezena v naší databázi.
Dobře, řekněme, že jste problém vyřešili a vytvořili jste systém, díky kterému se počítače naučí porozumět nuancím naší řeči a dokonce ji přesně přeložit do jiného jazyka. A pak nové nebezpečí ohrožuje lidi - nebude třeba myslet. Není třeba trénovat paměť, mozek. Potřebujete informace - prosím, Wikipedia. Musíte mluvit s cizincem - překladatelem …
- Čím vyšší úroveň inteligence a znalostí osoby, tím užitečnější pro něj bude další „inteligentní asistent“. A čím nižší, tím více příležitostí se zdá, že vůbec nemyslí. Počítačové technologie vedou k polarizaci společnosti. Zhruba řečeno, příchod kalkulačky nevedl k degeneraci matematiků. U některých žáků však samozřejmě došlo ke snížení již tak nízké úrovně schopností.
- Víte, pro mě je vážným ukazatelem poklesu úrovně vzdělání počet lidí, kteří píší negramotně nebo nejsou schopni vyjádřit své myšlenky a pocity bez použití kamaráda
- Ano, lidé začali psát méně kompetentně. Jednoduše proto, že obecně existuje méně čtení upravených textů a mnohem více takových zdrojů, kde je pravopis velmi rozmazaný. Dělo to lidi hloupějšími? Asi ne.
Vidíte souvislost mezi skutečností, že člověk neomylně vyjadřuje své myšlenky ve svém rodném jazyce, a skutečností, že se stal hloupějším?
"Nešel bych tak daleko." I když je to zřejmé: protože děti začaly číst méně, vyvstaly některé problémy s přenosem znalostí a kultury mezi generacemi. To je problém. Dnes vidíme, že moderní školák se stejnou úrovní známek jako před 30 lety zná literaturu horší.
Tady! …
"… Ale na druhou stranu zná mnoho dalších věcí mnohem lépe, což si nikdo nemyslel, že by to mohli vědět."
Je to přirozený proces?
- Ano. Navíc poprvé v historii lidstva nelze znalosti přenášet nikoliv od starších k mladším, jak tomu bylo po staletí. Docházelo k přenosu znalostí od mladších k starším, což dříve nebylo vůbec charakteristické pro lidskou kulturu. Dítě učí otce nebo mámu pracovat na počítači, s mobilním telefonem, je zdrojem různých znalostí pro své rodiče. A ještě více dětí cestuje po celém světě. Velmi často jsou zdrojem geografických a kulturních znalostí.
Poslouchejte, ale tady to všechno začalo s počítači. Osvobodili lidi i z nutnosti zapamatovat si základní pravidla gramatiky
- Začátkem 90. let jsem pracoval v týmu, který vyvinul jeden z prvních systémů kontroly pravopisu pro ruský jazyk. Bylo to užitečné nebo škodlivé? Velmi užitečné z mého pohledu. Tento systém umožnil rychlejší vytváření dokumentů. A pak vše záleží na úrovni odpovědnosti osoby. Kdo řekl, že po autě není třeba vůbec kontrolovat? Systém pouze přispívá k větší efektivitě.
Ale věříme počítači
- Znamená to pouze, že osoba, která vytvořila program, vás neinformovala, že existuje mnoho jevů, které stroj nemůže ověřit. Například vyjednávání.
Nové technologie, bohužel, často vedou ke ztrátě tradičních dovedností. Dělal jsem opravy v bytě. Chtěl jsem nainstalovat dřevěná okna, která byla nainstalována dříve. Ale ukázalo se, že to není možné. Všechny instalují okna s dvojitým zasklením. Lidé, bohužel, přestávají rukama dělat mnoho věcí. Co dělat, tak život funguje. Bohužel.
Takže jsi konformista?
- Ne. Věřím, že dělat absolutně škodlivé věci není dobré. Ale pokud máte jak zisky, tak ztráty, musíte posoudit rizika … Pokud vyrábíte léky, nemyslíte si, že v důsledku jeho použití přežijí nejen dobří lidé, ale i špatní lidé.
V našem případě je současně s vývojem technologií nutné zapojit se do školení těch, kteří je používají. Negativní důsledky nových technologií se projevují především u těch, kteří svou práci na jakékoli technologické úrovni nedělají velmi dobře.
Vezměte si například léky. Chceme pomáhat lékaři při rozhodování, děláme počítačový expertní systém založený na analýze velkého počtu spolehlivých diagnóz nejlepších lékařů. Poskytuje odborníkovi příležitost obrátit se na větší objem znalostí, než má on sám. Ale konečné rozhodnutí je jeho, ne počítač! Pro špatného doktora je všechno jiné - bude věřit tomu, co nemůže spolehlivě zkontrolovat. Ale s příchodem takových technologií se mi v průměru zdá, že medicína se stále zlepšuje, ne horší.
Byli jsme přesvědčeni, že intelektuální systém porozumění lidskému počítači přinese více výhod než poškození. Ale kdy se objeví?
- Je to velmi obtížný úkol, který nelze okamžitě vyřešit. Je nutné učit počítačové znalosti o jazyce a znalosti o světě, metodách odvozování a porovnávání hodnot. Něco, co víme, jak dělat nyní, něco bude trvat roky. Potřebujeme například spolehlivé údaje o používání jazyka, přičemž zohledníme individuální a sociální rozdíly. A tyto rozdíly jsou velmi významné. Například jsme vytvořili speciální projekt věnovaný regionálním rozdílům v ruském jazyce. Shromáždili slovník, ve kterém téměř 10 tisíc slov, které jsou normou pro obyvatele pouze v určitých oblastech naší země
Kdo jsme?
- Jedná se o společný projekt s názvem Jazyky ruských měst, který zahrnuje odborníky ABBYY, lingvistické vědce, nadšence z různých částí Ruska a rusky mluvící do zahraničí. Analyzovali jsme jazyk regionálních médií, sociálních sítí, vyhlášek a rozhodnutí místních úřadů. A to je jen malá část znalostí, které je třeba naučit do počítače!
Jaký je zásadní rozdíl například mezi vaším přístupem k překladu a systémy, které Google používá?
- Statistické systémy nevytvářejí lingvistické struktury. Hledají překladové zápasy pro malé fragmenty 5-7 slov. Jazyk je však uspořádán tak, že související slova jsou často umístěna mnohem dále, a pokud toto spojení nebude zohledněno, dojde k chybám. Ale velmi často jsou takové podrobnosti důležité v překladu, jejichž zanedbání může zcela změnit význam. Abychom vzali vše v úvahu, je nutné během analýzy identifikovat celý systém jazykových souvislostí mezi slovy, což se nazývá struktura věty. Nepřekládáme části vět z jazyka do jazyka, snažíme se identifikovat sémantickou strukturu věty a pak ji syntetizovat pomocí jiného jazyka.
Tyto sémantické struktury se však používají nejen a ne tolik pro účely strojového překladu. Jsou také potřeba k účinnému řešení problémů inteligentního vyhledávání a analýzy informací, které jsou dnes důležitější pro ABBYY jako komerční společnost. Například nedávno vydaná první řešení pro podnikový trh jsou založena na těchto technologiích: umožňují pouze vyhledávat a analyzovat data v obrovském množství informací uložených v organizacích.
A který jazyk je z vašeho pohledu obtížnější pochopit?
- Obecně se uznává, že obtížnější jsou jazyky, ve kterých se musíte naučit více pravidel. Ale v případě počítačového porozumění tomu tak není.
Něco, co je pro člověka obtížné, například bohatý inflexní systém v ruštině nebo litevštině, zjednodušuje úlohu počítače v určitých fázích analýzy.
Například čínský jazyk je velmi obtížný, protože v něm není žádná morfologie, a tudíž velké množství dvojznačnosti, kterému počítač čelí. Proto je pro počítačovou analýzu čínského jazyka velmi důležité používat znalosti o světě, důležitější než například při analýze jazyků s rozvinutou morfologií.
Podařilo se nám pracovat s rusky, německy, anglicky, francouzsky, španělsky, čínsky. Analýza jazyka je rozdělena do etap. Některé fáze mají specifičnost, potíže s jedním jazykem, jiné s jiným. Technologie, se kterými pracujeme, jsou však v podstatě použitelné ve všech jazycích.
Podle vašeho názoru, kdy přijde den, kdy budeme moci obdržet rychlý a srozumitelný překlad na počítači souběžně s naší konverzací. Řekněme, že teď mluvíme, a okamžitě získáme přepis rozhovoru ve španělštině?
- Bude to možné brzy. Nemyslím si, že za dva roky. Ale … Co je potřeba k vyřešení tohoto problému? Musíme zlepšit naše systémy pro analýzu řeči. Zatím nemůžeme provést spontánní konverzaci, oddělit ji od hluku a získat požadovaný text. A v tomto směru je každý rok pokrok.
Ale stejně budou existovat takové věci, které stroj nedokáže jednoznačně interpretovat. A zde bude přesnost porozumění a překladu záviset na dostupnosti systému znalostí o světě, na mechanismech logického odvozování.
V každém případě však zůstává nebezpečí naprosté důvěry v takový program. Je chybou si myslet, že za pět let můžete diktovat dopis do počítače, přeloží jej, pošle vašemu obchodnímu partnerovi a vše bude v pořádku. Nikdo nezaručuje, že stroj někde neunikne „ne“nebo neudělá jiné chyby, po kterých lze váš obchodní vztah považovat za úplný.
To znamená, že osoba jako správce by stále měla být?
- Rozhodně. Technologie slepého důvěřování je nebezpečná.