Roboti se rychle vyvíjejí - blíží se doba, kdy zaplní ulice, kanceláře, byty a dokonce i naše těla. Jsme připraveni existovat bok po boku se stroji, které se chovají jako lidé a již s námi začaly soutěžit o práci? Vyvstává mnoho humanitárních problémů.
Co můžete robotovi svěřit a co je lepší odmítnout? Je schopen rozhodovat se, cítit emoce, má určitou svobodnou vůli a odpovídá za své činy? Jak integrovat roboty do společnosti? Tyto otázky se zdají naivní. Zatímco. Může se ale ukázat, že odpovědi na ně rozhodnou o osudu naší civilizace.
Když světla zhasla, začala hrát horká melodie, která obvykle doprovází modelky na molu. A my (zaměstnanci časopisu Schrödingerova kočka) jsme viděli dvě obrovské červené oči ve tvaru srdce. Robot přistoupil k publiku důstojně a elegantně. Oči se změnily ve dva modré kruhy, vyzařující dobré úmysly a dětinskou naivitu, ruce natažené k lidem. Světla se znovu rozsvítila.
- Alantim! - představil jej veřejnosti vedoucí projektu Promobot a vedoucí oddělení robotiky Moskevského technologického institutu (MTI) Alexey Yuzhakov. - V roce 2012 jsme mu říkali Promobot, pak se na něj nalepila útočná přezdívka Monument, poté měl zvučné jméno Bogdan, ale nyní je Alantim - na počest tvůrců nového světa Alana Turinga a Tima Berners-Leeho.
Foto: Skoltech / kot.sh
Alantim se stále otáčel sem a tam a šel mluvit s novináři, zasypával je vtipy a příběhy o tom, jak se roboti chopí moci na Zemi a přejmenují ji na Promobotia. Okamžitě se k němu přidala řada dívek, které si přály být vyfotografovány s tak roztomilým stvořením. Alantim se s dívkami setkal, odpovídal na otázky o smyslu života a směnném kurzu dolaru a všechny si pamatoval.
Tak uběhl první pracovní den nového zástupce vedoucího katedry robotiky Moskevského technologického institutu, robota Alantima.
Propagační video:
Auto s charakterem
Alantim není jedinečné stvoření. Tým z Permu, který vytvořil promoboty, již prodal 60 takových zařízení a v letošním roce podepsal smlouvy na dalších 124, čímž prakticky splnil roční celo ruský plán dodávek servisní robotiky - v roce 2014 bylo prodáno pouze asi 200 domácích servisních robotů.
Promobot je autonomní robot s charakterem, navržený pro práci na přeplněných místech: promotér, průvodce, showman. Ví, jak rozpoznat některé emoce partnera, je schopen porozumět otázce, která mu byla adresována, a najít odpověď na webu, a pokud této otázce nerozumí, snaží se jí smát.
Mezitím jsme šli k vedoucímu Alantimu - prorektorovi MIT Evgeny Pluzhnikovi
[Schrödingerova kočka] Jak jste přišel k nápadu najmout si pro organizaci robota?
[Grigory Bubnov] Právě jsme si uvědomili, že dříve či později přijde okamžik, kdy si roboti začnou najímat. A rozhodli jsme se stát se průkopníky.
[KSh] Takže ne nadarmo se říká, že roboti se ucházejí o naše práce
[GB] Ve skutečnosti nejde o vtip, ale o velmi vážnou hrozbu, zejména v oblastech, kde je zaměstnáno velké množství lidí. Myslím si například, že již v tomto desetiletí budou automobily s autonomním řízením široce prodávány a poté bude mnoho řidičů ponecháno bez práce. Vlády budou nevyhnutelně čelit této výzvě - musí začít přemýšlet o tom, jak vytvořit nová pracovní místa a rekvalifikační programy.
[KSh] Jak si myslíte, že používáte Alantim? Stejně jako okázalá hračka?
[GB] Nejen! Například má výzkumný úkol - shromažďovat údaje o komunikaci robotů s lidmi, studovat jednotlivé reakce na roboty. Tyto informace pomohou učinit vzhled a chování budoucích modifikací Alantim lidštější a pohodlnější pro komunikaci.
Foto: Skoltech / kot.sh
[KSh] Jaké informace shromažďuje?
[GB] Za prvé, údaje o reakcích na jeho chování - má systém rozpoznávání emocí. Jak například reagují ostatní, když zvedne ruku? Co když je způsob, jakým něco dělá, děsí? Naše gesta byla vylepšena evolucí - neváháme, řekněme, poškrábání v zádech našich hlav - a s robotem stále musíme jít až k „přirozenému“chování. Mimochodem, pamatuje si lidi tím, že je fotografuje.
Mohou však nastat problémy: obrazy lidí jsou považovány za osobní údaje a jejich použití omezuje zákon. Obecně zde vyvstane mnoho otázek právní povahy - je například nutné platit daň z příjmu z elektřiny, která byla zaměstnanci robotů dána k nabíjení? Myslím, že brzy uvidíme, jak se právní předpisy v různých zemích začnou měnit - spolu s přístupem lidí k robotům.
Gumový Puškin a další roboti
Globální trh robotů již zažívá boom, tržby lámou rekordy - na konci loňského roku desítky miliard dolarů.
0,17% - Tento podíl na světovém trhu průmyslových robotů je v Rusku (podle údajů z roku 2013).
Foto: Skoltech / kot.sh
Z hrdinů hollywoodských trháků se roboti brzy stanou skutečnými postavami - a my s nimi začneme žít. Budeme spolu? Počínaje hororovými příběhy o Golemovi a Frankensteinovi nebo hrou Karla Čapka, kde se poprvé objevuje slovo „robot“, všechny tyto příběhy zpravidla končily jednou - povstáním uměle vytvořených tvorů proti jejich tvůrcům. Budeme schopni vytvořit realitu, která překoná naše fantazie?
Reklama na webových stránkách projektu Promobot jasně vysvětluje, proč je zaměstnanec robota lepší než člověk: nepotřebuje plat a kombinézu, pracuje bez přestávek, neochorie, neprotestuje, nenechá se zmást, příliš toho neříká, nepotřebuje školení … Existuje tolik výhod že podle různých odhadů mohou roboti v příštích desetiletích obsadit 40 až 80% pracovních míst, to znamená, že nám hrozí nebývalá vlna masové nezaměstnanosti.
Možná se to nakonec promění ve zlatý věk, kdy, jak snil Karl Marx, se lidé budou věnovat svobodné kreativitě. Stále se toho ale musíme dožít - a nejlépe bez společenských katastrof. Je nepravděpodobné, že bude možné výrazně omezit používání robotů: nikdy předtím nebyly legislativní zákazy schopny zastavit pokrok. Jaký to má smysl? Spíše bude lidem zakázáno řídit, když se robotičtí řidiči stanou všudypřítomnými. Člověk je příliš nepředvídatelný. Nejsou například lidští piloti, kteří jsou schopni nasměrovat letadlo do země nebo do obytných oblastí, nebezpeční?
To znamená, že se musíme naučit žít s roboty
Nejprve jsme šli na místo, kde je mnoho robotů - na mezinárodní konferenci Skolkovo Robotics. V Hypercube Skolkovo se shromáždila pestrá společnost robotů a jejich tvůrců. Velké i malé, létající a chodící drony, profesionální hasiči a elektronické stěrače, mechanické paže a nohy, trup a hlavy …
Tady je Puškinova gumová hlava, připevněná na stativu, jako na kůl, sleduje kolemjdoucí a nervózně trhá obočím - lidí je příliš mnoho, oči jdou nahoru. Tvář básníka je tak podobná té skutečné, že cítíte úctu.
Foto: Skoltech / kot.sh
Nedaleko je robot, který vůbec nevypadá jako člověk. Místo těla je na kole hůl, místo hlavy obrazovka, která se otáčí všemi směry. Jedná se o telepresenčního robota Webota, který byl vytvořen ve Skolkově na pomoc dětem se zdravotním postižením. Můžete se k němu připojit přes internet, pohybovat se s ním po budově, vidět a slyšet, co se děje kolem, a komunikovat s ostatními.
Takové roboty se již používají na několika školách - děti se k nim připojují z domova a s jejich pomocí chodí na lekce, plní úkoly, odpovídají na otázky učitele, dojíždějí k tabuli a komunikují s vrstevníky.
Hlavními spotřebiteli servisních robotů v Rusku a na celém světě jsou lidé se zdravotním postižením. Robotika jim dává naději na návrat do plného života - jako první ruský exoskeleton ExoAtlet. Jeho pilot Jaroslav, který byl nedávno nucen vést život ochrnutého člověka, kráčí mezi veřejností jako kyborg z budoucnosti.
Další robotický asistent nám představil japonský profesor Kazuhiko Terashima:
- Japonská společnost rychle stárne, na klinikách není dostatek personálu. A námi vyvinutý robot Terapio se ukázal jako vynikající asistent lékaře. Sleduje lékaře, nosí nástroje, ale co je nejdůležitější, pamatuje si data, díky nimž jsou lékařské záznamy zbytečné. Kromě toho samostatně provádí kola pacientů a v takovém případě vyvolá poplach.
Na tváři má dětský výraz a jemný hlas, umí se smát i plakat, jeho velké oči neustále mrkají - potěšit pacienty, vyvolat u nich reakci podobnou reakci dětí nebo koťat. Náš robot je důležitým krokem v robotickém nemocničním projektu, který neustále sleduje pacienty. Mimochodem, víte, nyní se operace provádějí pomocí robotických chirurgů.
Foto: Skoltech / kot.sh
Android poznáte podle chůze
V konferenčním sále Hypercube vystupují robotici a designéři. Michail Lebedev z Duke University vysvětluje, jak implantuje čipy do mozků opic, které jim umožňují ovládat roboty pomocí jejich myslí. Zasedání moderuje Dmitrij Teteryukov, profesor Skolkovského institutu vědy a technologie, vedoucí laboratoře vesmírných robotů, který mnoho let pracoval v Japonsku.
Samozřejmě jsme ho posypali otázkami.
[Schrödinger's Cat] Statisticky počet robotů rychle roste, ale kde se skrývají - kromě těch, které se používají v průmyslu?
[Dmitry Teterukov] Kromě průmyslových robotů roste armáda servisních robotů - každý slyšel o robotických vysavačích nebo robotických kvadrokoptérách, které dodávají nákupy. Mnoho z těchto strojů se používá v medicíně a v americké armádě jsou již dlouhou dobu ve válce: například pásové roboty s manipulátorem se zabývají odminováním. Obecně se ukázaly jako velmi užitečné v nouzových situacích, byly použity při nehodě ve Fukušimě.
[KSh] Jaké roboty vyrábíte v Rusku?
[JT] Pokračuji v tom, co jsem dělal v Japonsku. Jedním z projektů je ovládnout skupinu robotů, když jednají podle společného plánu, jako jediné stádo, vyměňovat si informace a brát v úvahu vzájemné akce. Toto vše samozřejmě vyzkoušíme tady na Zemi, ale plánujeme, že budou fungovat ve vesmíru.
[KSh] Autoři sci-fi vždy popisovali roboty jako taková samotářská stvoření …
[JT] Distribuce práce mezi mnoho je mnohem efektivnější než přiřazení všeho jednomu. Řekněme, že jedno auto s vlastním řízením musí zpracovávat všechny informace o silnici samotné, ale pokud jsou taková zařízení všude, je pro ně mnohem pohodlnější jednat na základě obecného obrazu a programu.
[KSh] Když se roboti navenek i mentálně stanou člověkem podobnými, začne vás to trochu děsit?
[JT] Existuje japonský profesor Hiroshi Ishiguro, který vytváří androidy téměř k nerozeznání od nás - nedávno jsem si spletl jeden z jeho geminoidů s člověkem. Ale to je jen když sedí. Dosud se neobjevil takový robot, který by dokázal chodit jako člověk - snadno ho poznáte podle chůze. Ishiguro si vyrobil vlastní i svou dceru.
Je pravda, že když ji uviděla, dcera se vyděsila, rozplakala se a utekla. To znamená, že když se robot velmi podobá člověku, dojde k jeho odmítnutí. A když je tento práh překročen, nepřirozený vzhled a pohyby jsou eliminovány, robot začne být vnímán jako skutečná osoba. Aby to však bylo možné, musí člověk dosáhnout nejen fyzické podobnosti, ale také intelektuální - schopnosti vést rozumný rozhovor.
[KS] Je slavné Turingovo kritérium, podle něhož by měl být robot považován za rozumný, což nemůžeme odlišit od člověka v rozhovoru? Nebo je třeba to nějak přeformulovat?
[JT] Nyní je toto kritérium chápáno jako test programů, které simulují lidské chatování. Nejde však jen o intelekt - aby si antropomorfní robot mohl člověka splést s člověkem, musí být emotivní, pohybovat se hladce a chovat se jako člověk. Již existují programy, které velmi přesvědčivě demonstrují sarkasmus a ironii. Myslím, že brzy budou k dispozici samostatné testy pro různé schopnosti: emoční Turingův test ověří přiměřenost emocí a například motorický test - schopnost pohybovat se jako člověk.
Foto: Skoltech / kot.sh
[KS] Nebojíte se, zhruba řečeno, povstání robotů?
[ДТ] Koneckonců, lidé píší programy pro roboty, což znamená, že určují, co roboti mohou a co ne, jaké touhy budou mít a co ne. A proč by roboti šli proti jejich tvůrcům, z jakého důvodu?
[KSh] Například kvůli našemu nedorozumění, že také potřebují práva, nebo proto, že jsou rozebrána a zlikvidována po uplynutí doby jejich platnosti. A programy pro roboty nebudou psány jen lidmi - dříve nebo později se stroje stanou samoučícími se
[JT] Budou proškoleni v rámci, který jsme stanovili. Zdá se mi, že verze budoucnosti s konfrontací mezi lidmi a roboty vede k degradaci bez ohledu na to, kdo v takové konfrontaci zvítězí. Evolučně produktivním scénářem je symbióza, nikoli válka vyhlazení, parazitismu nebo jiného podrobení. K této symbióze navíc dojde i v lidském těle, takže podle mého názoru vyvstanou v souvislosti s kyborgizací ty nejzajímavější etické problémy.
Kam půjde hranice mezi člověkem a strojem, když začneme pro sebe instalovat umělé orgány, instalovat čipy do mozku, zlepšovat s jejich pomocí naši paměť a další schopnosti? Zdá se mi, že nás čeká budoucnost bez gadgetů a osobních počítačů - bude to stačit na mentální požadavek nebo na povel, protože mozek bude připojen k síti.
Ale možná budou kyborgové potřebovat omezující zákony, podobné zákonům Asimovovy robotiky - dokonce jsem je nějak formuloval. Jejich podstatou je, že stroj v kyborgu nezachytí moc nad osobou, takže rozhodovací síla zůstane u osoby, a ne u jejího hlavního zpracovatele.
[KSh] Máte vysněného robota?
[DT] Toto je pravděpodobně robot ovládaný operátorem s efektem telepresence, který by umožňoval plnou komunikaci na dálku a sdělil operátorovi všechny vjemy a vytvořil efekt úplné přítomnosti.
[CS] Avatar?
[JT] Ano. Tímto tématem jsem se zabýval před tím, než vyšel Avatar, ale takové filmy samozřejmě v určitém smyslu určují budoucnost - naše chápání toho, o co se snažíme a co je možné.
Foto: Skoltech / kot.sh
Morální stroje
Mezitím v Hypercube začala diskuse na téma „Morální portrét antropomorfního stroje“. Profesor psychologie Maxim Kiselev přednesl úvodní řeč o morální povaze robotů.
"Roboethics se zabývá všemi humanitárními problémy souvisejícími s roboty," vysvětlil. - Například legální: kdo je odpovědný, pokud někam odjelo auto bez řidiče - samotný robot, majitel automobilu nebo programátor? Nebo sociální, z nichž hlavní je potenciální nezaměstnanost. Sám jsem byl v robotických továrnách vícekrát - například v závodě ve Swindonu, kde se vyrábějí komponenty pro automobily MINI Cooper. Zaměstnává asi dvě stě robotů a stejný počet lidí a dříve zde byly čtyři tisíce pracovních míst. Existují také konkrétní morální problémy, například takzvané dilema robotického asistenta. Jak víte, že pomoc se strojem je kontraproduktivní? Představte si robota, jemného a nadýchaného, který sleduje dítě a sbírá hračky. Ale pro normální vývoj dítěte je nutné, aby to udělal sám.
Plní robofobie jsme šli za tvůrcem roboetiky, profesorem Gianmarcem Verugiem, předsedou vědecké komise Školy robotiky Italského institutu elektroniky, informačních technologií a telekomunikací - jen seděl poblíž.
[Schrödingerova kočka] Jak přišla roboetika?
[Gianmarco Verugio] Kdysi jsem byl Asimovovým fanouškem, v šestnácti jsem si přečetl všechny jeho knihy. Možná proto o mnoho let později na mě přišlo něco jako zjevení, z něhož vzešla roboetika. Uvědomil jsem si, že zákony Asimovovy robotiky - „Robot nemůže ublížit člověku“a tak dále - vůbec nejsou zákony, ale pouze dobrá přání, žádná z nich se v praxi nedodržuje. Skutečný zákon je e = mc2. Stejně jako jiné přírodní zákony jej nelze porušit.
Porušení zákonných zákonů je trestáno. A tři zákony robotiky jsou jako biblická přikázání, která říkají „Nezabiješ“: zdá se, že každý je pro, ale nedodržuje to. Právě teď se robotické zbraňové systémy vyvíjejí v mnoha zemích po celém světě. K zabíjení jsou potřeba zbraně, což znamená, že tito roboti jsou stvořeni k zabíjení lidí.
Musíme dát právní sílu zákonům robotiky. Psaní takových zákonů je obtížný úkol. Předpokládejme, že robot může člověka zabít úmyslně, nebo možná náhodou, kvůli poruše nebo chybám programu, bude často obtížné tyto situace rozlišit. Ale stojí za to začít o těchto problémech uvažovat hned: pokud se vydáme špatnou cestou, můžeme výrazně pokazit budoucnost lidstva. Je hloupé vytvářet budoucnost se zavřenýma očima, ale zatím vyvíjíme robotiku naslepo.
Váleční roboti jsou jedním z hlavních problémů robotiky. Snažíme se na to upozornit různé mezinárodní organizace. Není to jen moje iniciativa, existuje mezinárodní hnutí „Stop zabijáckým robotům!“, Které vede kampaň na internetu a je podporováno OSN.
Další skupina problémů se týká tématu biorobotů a umělých orgánů. Do jaké míry můžeme například zasahovat do práce lidského mozku? Můj přítel experimentuje s krysami - vkládá elektrony do jejich mozků a kontroluje jejich chování. Je to skutečný pilot krys! Ale když je lidský mozek plný všech druhů neuroimplantátů, které zvyšují schopnosti nebo ovládají kybernetické orgány, lze podobné zachycení kontroly provést u lidí.
Foto: Skoltech / kot.sh
[KS] Ale nemůžeme se vzdát výhod technologie jen proto, že nové příležitosti jdou vždy ruku v ruce s novými nebezpečími?
[DV] Jak vyřešit tyto problémy tak, aby z nás technologie neudělaly kontrolované objekty správy, ale naopak, zvyšovaly naši svobodu? Nemám odpověď na tuto otázku, chci ji jen položit, uvědomuji si celou svou složitost a neúplnost naší vize situace.
Před roboetikou vyvstává mnoho neočekávaných otázek. Představte si například následující situaci: robotická sestra se stará o osamělou starou osobu, která s autem komunikuje více než kdokoli jiný. A rychle ji začne považovat za osobu, milovat ji jako osobu a trpět, pokud se zhroutí - máme tendenci to dělat iu primitivních Tamagotchi, ale zde budou mnohem silnější pocity. Může být takový robot vypnut? Pro mě je člověk člověk a stroj je stroj, ale obávám se, že lidé brzy začnou dělat chyby …
[KSh] Jak je rozdělíte? Chatboti již procházejí Turingovým testem …
[DW] Začal bych tím, že naše psychika není obsažena pouze v těle, jako v nádobě. Psychika je zabudována do těla - s tělesnými zkušenostmi se stáváme inteligentními a vědomými. Koncept umělé inteligence, vytvořený počítačovými vědci v 60. letech, předpokládal, že virtuální svět je dostačující k tomu, aby se objevil. Nyní se tato myšlenka žertovně nazývá GOFAI (dobrá staromódní umělá inteligence) a vývojářům bylo jasné, že k získání zdání inteligence bude program potřebovat tělo robota a dlouhé zkušenosti s interakcí se skutečným světem. Ale obecně řečeno, nemůžeme vytvořit inteligentní stroj, už jen proto, že stále velmi málo rozumíme tomu, jak mozek funguje, jaký je rozum a vědomí.
[KSh] Takže robotika se nezabývá právy robota? Ale co uděláte, když zítra váš počítač řekne: „Bojím se, nevypínejte mě?“
[DW] No, ne, práva robotů mě začnou znepokojovat, až bude mít všechna práva poslední osoba na planetě. Stále je toho ještě hodně co dělat, aby se lidé začali o automobily starat. Roboetika je o lidech, musíme to dělat, protože si vytváříme vlastní budoucnost.
Publikováno v populárně vědeckém časopise „Schrödinger's Cat“# 5 (07) pro květen 2015