Kapitola z knihy vydané Polytechnickým muzeem
Člověk a robot - kde je hranice mezi nimi a jaká nebezpečí přináší naše blízkost? Na základě osobních zkušeností, četných rozhovorů a dat z nejnovějšího výzkumu nabízí nejuznávanější vědec v oboru David Mindell pohled na nejinovativnější aplikace robotiky. Indicaror. Ru vydává kapitolu ze své knihy „Rise of the Machines is an Canceled! Mýty o robotizaci “.
Člověk ovládaný - vzdálený - autonomní
Hluboko v noci vysoko nad Atlantským oceánem v rozlehlém otevřeném prostoru mezi Brazílií a Afrikou byl pravidelný osobní dopravní letoun chycen za špatného počasí. Zmrzlý led ucpával malé trubice v nose letadla, které určovalo jeho rychlost a přenášelo data do počítačů ovládajících letadlo. Počítače by mohly i nadále létat bez těchto informací, ale program v nich zabudovaný takové zarovnání nezajistil. Automatický systém fly-by-wire se vzdal a vypnul a přenesl kontrolu na lidi - piloty sedící v kokpitu parníku: 32letý Pierre-Cedric Bonin a 37letý David Robert. Bonin a Robert, jak uvolnění, tak trochu unavení, byli překvapeni, když najednou zjistili, že za špatných povětrnostních podmínek, dokonce i v noci, budou muset ve velké výšce ručně letět s velkým letadlem ručně. A za příznivějších podmínek by byl obtížný úkol, kterému piloti v poslední době čelili. Velitel posádky, 58letý Marc Dubois, v té chvíli nelétal s letadlem, ale odpočíval v kabině. Piloti museli strávit drahocenný čas, aby ho zavolali do kokpitu. Navzdory skutečnosti, že v době, kdy byly počítače vypnuty, bylo letadlo na úrovni přímého horizontálního letu, měli piloti obtížné pochopit skromné parametry vzduchu. Jeden z nich přitáhl ovládací páku směrem k sobě, druhý ji posunul dopředu. Dopravní letadlo pokračovalo v rovném letu asi minutu a pak začalo padat. Piloti museli strávit drahocenný čas, aby ho zavolali do kokpitu. Navzdory skutečnosti, že v době, kdy byly počítače vypnuty, bylo letadlo na úrovni přímého horizontálního letu, měli piloti obtížné pochopit skromné parametry vzduchu. Jeden z nich přitáhl ovládací páku směrem k sobě, druhý ji posunul dopředu. Dopravní letadlo pokračovalo v rovném letu asi minutu a pak začalo padat. Piloti museli strávit drahocenný čas, aby ho zavolali do kokpitu. Navzdory skutečnosti, že v době, kdy byly počítače vypnuty, bylo letadlo na úrovni přímého letu, nebylo pro piloty snadné pochopit chudé vzduchové parametry. Jeden z nich přitáhl ovládací páku směrem k sobě, druhý ji posunul dopředu. Dopravní letadlo pokračovalo v rovném letu asi minutu a pak začalo padat.a pak začal klesat.a pak začal klesat.
Dne 1. června 2009 se společnost Air France Flight 447 spirála do oceánu a zabila více než 200 cestujících a posádky. Do vln zmizel téměř beze stopy. V celosvětově propojeném systému mezinárodních leteckých společností je nemyslitelné, že by letadlo jednoduše zmizelo. Byla organizována rozsáhlá koordinovaná rešeršní práce. O několik dní později byly na dně oceánu nalezeny stopy letadla. Abychom však našli většinu trosek dopravního letadla a černých beden, díky nimž by bylo možné zjistit příčinu tragédie, bylo nutné provést prohlídky na rozsáhlém území oceánského dna, které se beznadějně pohybovaly pomalu. O více než dva roky později, v hloubce 3,2 km, téměř v místě, kde dopravní letadlo narazilo na hladinu oceánu,autonomní podvodní vozidlo zvané Remus 6000 tiše klouzalo temnotou pod obludným tlakem vodního sloupce. Robot ve tvaru torpéda se pohyboval o něco rychleji než chodec a udržoval konstantní výšku asi 60 m nad dnem. V této poloze přijímal jeho akustický skener nejjasnější obrázky. Akustický signál prošel kolem 800 m ve všech směrech, robot sbíral gigabajty informací prostřednictvím vrácených signálů.robot sbíral gigabajty informací prostřednictvím vrácených signálů.robot sbíral gigabajty informací prostřednictvím vrácených signálů.
Povrch byl hornatý, takže mořské dno prudce stoupalo. Navzdory své umělé inteligenci robot občas dopadl na povrch, nejčastěji bez jakýchkoli následků. Tři z těchto robotů pracovali harmonicky v tandemu: zatímco dva z nich hledali pod vodou, třetí byl na palubě lodi na hladině. Taková „zastávka v boxech“trvala tři hodiny, během nichž lidé sloužící robotovi přepisovali informace, dobíjeli baterie a stanovovali nové plány vyhledávání. Na lodi pracoval tým dvanácti inženýrů z oceánografického výzkumného ústavu Woods Hole pod vedením Mika Purcella, který byl průkopníkem v designu a vývoji vyhledávacích vozidel, dvanáct hodin. Byly načteny jako každý mechanický tým Formule 1.
Když se zařízení zvedlo na povrch, trvalo přibližně 45 minut, než inženýři stáhli informace, které shromáždili, do počítače, poté další půl hodiny, než je zpracovali, aby bylo možné je rychle zobrazit na monitoru. Francouzští a němečtí vyšetřovatelé a zástupci Air France se dívali na jejich ramena. Jejich akce se zdály být promyšlené a obezřetné, ale ve vzduchu viselo napětí: sázky byly příliš vysoké, pokud jde o národní hrdost Francouzů a reputaci výrobce Airbusu a bezpečnost všech leteckých cest.
Propagační video:
Několik předchozích expedic bylo neúspěšných. Ve Francii, Brazílii a po celém světě čekaly rodiny obětí zprávy. Oddělování informací z akustického skeneru vyžaduje pečlivou analýzu, kterou nelze zcela důvěřovat počítači. Purcell a jeho inženýři se spoléhali na mnohaleté zkušenosti. Na svých monitorech studovali skalnatý dolní kilometr po kilometru. Tato rutinní práce trvala pět dní, dokud nebyla přerušena monotónnost: na obrazovce se objevila hromada trosek a vědci se dostali do oblasti katastrofy - dostali umělý signál z umělých objektů v oceánské poušti. Přinejmenším tak předpokládali, ale stále nemohli říct s jistotou. Inženýři přeprogramovali vozidla tak, aby se vrátili do oblasti katastrofy a pohybovali se tam a zpět. Tentokrát museli roboti přiblížit kamery tak, aby mohly fotografovat ve výšce asi 9 m nad dnem ve světle bočních světel. Když vozidla přinesla obrázky na povrch, inženýři a vyšetřovatelé viděli oblast katastrofy a dostali odpověď: našli trosky dopravního letadla, které se stalo hrobem pro stovky lidí. Brzy se další tým vrátil na místo tragédie s jiným typem robota - dálkově ovládaným podvodním vozidlem. Brzy se další tým vrátil na místo tragédie s jiným typem robota - dálkově ovládaným podvodním vozidlem. Brzy se další tým vrátil na místo tragédie s jiným typem robota - dálkově ovládaným podvodním vozidlem.
Šlo o těžké zařízení speciálně určené pro práci v hloubce. Byl připojen k lodi pomocí kabelu. Pomocí map vygenerovaných úspěšným vyhledáváním lokalizoval ROV černé skříňky - diktafon a diktafon letadla - a zvedl je na povrch. Záznamy posledních minut odsouzených pilotů byly získány z hlubin oceánu a vyšetřovatelé nyní mohli obnovit fatální okolnosti, které vedly ke zmatku na palubě automatizovaného dopravního letadla. Potom se podvodní vozidlo pustilo do smutné mise - načíst zbytky mrtvých.
Havárie společnosti Air France Flight 447 a operace zaměřená na nalezení trosky spojují moderní automatizaci a robotiku ve dvou extrémních prostředích: na okraji stratosféry a v hlubinách moře. Letoun padl do oceánu kvůli chybám v interakci člověka s automatizovanými systémy. Jeho fragmenty pak lidé objevili pomocí dálkově ovládaných a autonomních robotů.
Ačkoli slova „automatizovaný“a „autonomní“(ve svých nejběžnějších významech) naznačují, že takové systémy fungují nezávisle, v obou případech selhání nebo úspěch nebylo způsobeno tím, že stroje a lidé jednali samostatně, ale kvůli kombinovanému působení strojů. a lidé. Lidští piloti bojovali o život letadla, které bylo automatizováno kvůli větší bezpečnosti a spolehlivosti; mnoho vzájemně propojených lodí, satelitů a bezplatných plovoucích bójí pomohlo najít místo havárie; inženýři zpracovali informace přijaté od robotů a jednali podle nich.
Automatizovaná a autonomní vozidla se neustále vracela ke svým tvůrcům - lidem - pro informace, energii a směr. Tragédie letu Air France Flight 447 objasnila, že neustálým přizpůsobováním a úpravou našeho prostředí se předstíráme. Jak mohou být piloti tak závislí na počítačích, že na moři padli dokonale pracující letadlo? Jaká je role lidí v oblastech, jako je doprava a přeprava, výzkum a vojenské činnosti, kdy se zdá, že stále více úkolů má na starosti strojové vybavení? Extrémní úhel pohledu je, že lidé jsou téměř „vyřazeni z provozu“, že roboti „doslova potřebují jednu aktualizaci softwaru“, aby se stali plně autonomními, jak nedávno napsal vědecký Američan. Tento pohled nám říkáže roboti postupují - stále více se s nimi setkáváme ve známém prostředí. Obavy z neznámých a pochybných schopností umělé inteligence vycházejí z přesvědčení, že jsme na vrcholu „superintelligence“. Náš svět je na pokraji změny, ve skutečnosti se již mění pod vlivem robotů a automatizace.
Objeví se najednou nové projekty představující staré sny inteligentních strojů, které nám pomáhají plnit naše profesionální povinnosti, usnadňují fyzickou práci a rutinní úkoly v každodenním životě. Roboti, kteří existují a pracují v těsné blízkosti lidí na fyzické, kognitivní a emoční úrovni, se stávají stále rozsáhlejším a slibnějším tématem výzkumu. Autonomie - sen, který se roboti jednoho dne budou chovat jako zcela nezávislé entity - zůstává zdrojem inspirace, inovací a strachu. Vzrušení je způsobeno závažností experimentu; přesné formy těchto technologií zdaleka nejsou úplné a ještě méně jisté jsou jejich sociální, psychologické a kognitivní důsledky.
Jak nás naši roboti změní? V jakém obrazu a podobě je vyrobíme? Co zbude z našich tradičních oblastí činnosti - vědec, právník, lékař, voják, manažer a dokonce i řidič a školník - když tyto úkoly budou vykonávat stroje? Jak budeme žít a pracovat? Nepotřebujeme spekulovat: z velké části tato budoucnost již dorazila dnes, ne-li v každodenním životě, pak v extrémních podmínkách, kde roboti a automatizaci používáme po celá desetiletí. Člověk nemůže sám existovat v horních vrstvách atmosféry, v hlubinách oceánu, ve vesmíru. Kvůli potřebě poslat lidi do těchto nebezpečných podmínek byla robotika a automatizace vytvořena a implementována v těchto oblastech dříve než v jiných oblastech činnosti, které jsou nám známé.
V extrémních prostředích je vztah mezi lidmi a roboty testován na sílu. V takovém prostředí se objevují nejinovativnější vývojové trendy. Zde mají inženýři nejširší svobodu experimentovat. Přes fyzickou izolaci se zde začaly projevovat kognitivní a sociální účinky různých zařízení. Vzhledem k tomu, že jde o lidské životy, drahé vybavení a kritické úkoly, musí být autonomie vždy omezena z hlediska bezpečnosti a spolehlivosti. V takových podmínkách marnost a záležitosti každodenního života dočasně ustupují do pozadí a najdeme z okolní temnoty fragmentární strašidelné alegorie lidského života ve světě techniky. Sociální a technologické procesy v kokpitu letadla nebo uvnitř hlubinného vozidla se zásadně neliší od podobných procesů v továrně, kanceláři nebo v autě. V extrémních podmínkách se však objevují explicitněji, a proto jsou snáze pochopitelné.
Každý let dopravního letadla je příběh, stejně jako každá oceánografická expedice, vesmírný let nebo vojenská operace. Prostřednictvím těchto příběhů konkrétních lidí a strojů můžeme shromáždit data o jemné dynamice. V extrémních podmínkách získáváme představu o naší nejbližší budoucnosti, kdy lze takové technologie zavést v oblastech lidské činnosti, jako je silniční doprava, zdravotnictví, vzdělávání atd. Zařízení ovládaná osobou na dálku nebo autonomně otevírají kvalitativně nové možnosti interakce mezi lidmi a stroji, nové formy přítomnosti a nové zkušenosti a zároveň upozorňují na nebezpečí, etické aspekty a nežádoucí důsledky života kolem inteligentních strojů. Vidíme budoucnost, kde se lidská přítomnost a znalosti stanou důležitějšími,než kdy jindy, ale svým způsobem neobvyklým a neznámým. A tato auta jsou prostě úžasná.
Nejsem jediný člověk, který celý život obdivoval letadla, kosmické lodě a ponorky. Hrdinové příběhů, které níže uvedu, byly ve skutečnosti vedeny nejen hledáním praktických výhod, ale byly vedeny také vášní pro nové technologie. Není náhodou, že takové příběhy byly často popsány ve sci-fi pracích o lidech a strojích. Příběhy lidí a strojů interagujících na hranici svých možností jsou podmanivé, překvapivé a probouzející naděje na to, kým se můžeme stát. Toto nadšení se někdy odráží v naivní víře v perspektivu technologie. Ale takový zájem nás postupně vede k hlavním filosofickým a humanistickým otázkám:kdo jsme? Jak jsme spojeni s naší prací a navzájem? Jak naše kreace rozšiřují naše zkušenosti? Jak můžeme žít v tomto měnícím se světě? Tyto otázky se objevují samy o sobě, když začnete mluvit s lidmi, kteří vytvářejí a řídí roboty a stroje. Chci se s vámi podělit o informace, které jsem obdržel z první ruky, z nejpodrobnějších rozhovorů a výsledků nejnovějšího výzkumu z Massachusetts Institute of Technology a dalších organizací, v rámci kterých se provádějí zkoušky robotiky a automatizace v extrémních podmínkách hlubin oceánu, během leteckých letů (civilních a vojenských). a ve vesmíru. Toto není imaginární budoucnost, ale to, co se dnes děje: uvidíme, jak lidé ovládají roboty a přijímají informace prostřednictvím autonomních zařízení, budeme analyzovat, jak tyto interakce ovlivňují jejich práci,životní zkušenosti, dovednosti a schopnosti.
Náš příběh začíná tam, kde jsem sám začal - v hlubinách oceánu. Před dvaceti pěti lety, když jsem byl inženýrem vyvíjejícím vestavěné počítače a nástroje pro roboty hlubinného moře, byl jsem ohromen, když jsem zjistil, že tato technika mění nepředvídatelným způsobem oceánografii, vědecké metody a dokonce i samotnou povahu profese oceánografů. Toto porozumění mě vedlo ke dvěma paralelním profesím. Jako vědec jsem studoval interakce mezi lidmi a stroji, od obrněných lodí během americké občanské války až po počítače a software, který pomohl astronautům Apolla přistát na Měsíci.
Jako inženýr jsem integroval data získaná z tohoto výzkumu do moderních projektů - vyvíjel roboty a zařízení pro použití v úzké interakci s lidmi. V některých příbězích se objevuji jako účastník, v jiných - jako pozorovatel a v jiných - v obou těchto podobách najednou. Během let sbírání zkušeností, vyhledávání a rozhovoru s lidmi jsem byl přesvědčen, že musíme změnit názor na roboty. Dokonce ani jazyk, ve kterém o nich mluvíme, je spíše převzat z science fiction 20. století a nemá nic společného s technickými úspěchy naší doby. Například, dálkově ovládaná letadla jsou nazývána drony, jako by to byly bezduché automaty, když ve skutečnosti jsou přísně kontrolovány lidmi.
Roboti jsou často prezentováni (a prodáváni) jako zcela autonomní zprostředkovatelé, ale i dnešní omezená autonomie často existuje pouze v lidské fantazii. Roboty, které používáme tak široce a různě, jsou automaty s téměř hrozbami - jsou zabudovány do sociálních a technických sítí stejně jako my. Níže se podíváme na mnoho příkladů toho, jak spolupracujeme s našimi stroji. Je to všechno o kombinacích. Je na čase zvážit, jaké funkce moderní roboty skutečně vykonávají, aby lépe porozuměli našemu vztahu s těmito často úžasně dovednými výtvory lidských rukou. Nabízím vám empirický závěr podporovaný výzkumem: bez ohledu na to, co roboty dělají v laboratoři, ve skutečnosti, kde jsou ohroženy lidské životy a skutečné zdroje,snažíme se omezit jejich autonomii na velké množství požadovaných schválení a příležitostí k zásahu člověka.
Netvrdím, že stroje jsou chytré, a neříkám, že jednoho dne nemusí být dostatečně chytré. Spíše se domnívám, že takové stroje nejsou izolovány od lidí. Pojďme vyjmenovat tři mýty 20. století týkající se robotiky a automatizace. Prvním mýtem je lineární pokrok - myšlenka, že technologie se bude pohybovat od přímého lidského ovládání k dálkovému ovládání a poté k plně autonomním robotům. Podstata tohoto mýtu zachycuje slova filozofa Singera, který neustále hovoří v obraně autonomních systémů. Píše, že „schopnost lidí udržet si kontrolu nad tím, co se děje, je zrušena těmi u kormidla i přímo technologií, a proto budou lidé brzy vyloučeni z kontrolní smyčky.“Není však důvod předpokládatže evoluce bude následovat tuto cestu, že „sama technologie“, jak píše Singer, povede k něčemu podobnému. Ve skutečnosti existuje důkaz, že lidé se postupně dostávají do hlubšího kontaktu se svými stroji.
Neustále zjišťujeme, že lidé, vzdáleně ovládaní jimi a autonomní vozidla, se vyvíjejí paralelně a vzájemně se ovlivňují. Například vzdušná vozidla bez posádky by nemohla létat v americkém národním vzdušném prostoru bez příslušných změn u vozidel s posádkou. Nebo si vezměte další příklad: nové pokroky v robotice v oblasti údržby kosmických lodí se odrážejí v práci astronautů s Hubbleovým vesmírným dalekohledem. Nejpokrokovější (a nejkomplexnější) technologie nejsou ty, které fungují odděleně od lidí, ale ty, které jsou nejhlubší součástí sociálního systému a rychleji reagují na to, co se v něm děje. Druhým je substituční mýtus, myšlenka, že stroje postupně začnou převzít všechny úkoly, které lidé vykonávají. Tento mýtus je verzí dvacátého století, kterou nazývám fenomén Iron Horse.
Lidé si zpočátku mysleli, že železnice popírají potřebu koní, ale vlaky se ukázaly jako velmi nedůležité koně. Železnice zaujaly své místo, když se lidé pomocí své pomoci naučili dělat úplně nové věci. Výzkumníci v oblasti lidských faktorů a kognitivní vědci tvrdí, že automaty jen zřídka „mechanizují“lidské úkoly. Spíše mají tendenci úkol ztížit, často zvýšením pracovní zátěže (nebo jejím přerozdělováním). Letadla s dálkovým ovládáním nevykonávají stejné úkoly jako letadla s posádkou; přebírají nové funkce. Dálkově ovládané roboty na Marsu nereplikují práci geologů v terénu;oni a lidé, kteří s nimi pracují, se učí provádět terénní výzkum v novém prostředí pomocí vzdálených mechanismů.
Nakonec máme třetí mýtus - mýtus o úplné autonomii, utopický nápad, že roboti mohou dnes nebo v budoucnosti jednat zcela nezávisle. Ano, automaty samozřejmě mohou převzít některé z úkolů, které dříve vykonávali lidé, a jsou skutečně schopné jednat nezávisle po určitou omezenou dobu v reakci na změny prostředí. Stroje, které nejsou závislé na lidském směru, jsou však zbytečné stroje. Pouze kámen může být skutečně autonomní (ale i kámen byl vytvořen a umístěn na své místo díky svému prostředí). Automatizace mění míru lidské účasti na provozu stroje, ale zcela ji nevylučuje. V jakémkoli systému, dokonce i zdánlivě autonomním systému, vždy najdeme rozhraní, díky kterému může člověk ovládat jeho práci,číst informace a díky nimž se stane užitečným. Abych citoval jednu z nejnovějších zpráv Ministerstva obrany Spojených států amerických: „Neexistují žádné plně autonomní systémy, stejně jako neexistují plně autonomní vojáci, námořníci, letci nebo mariňáci.“
Abychom mohli přemýšlet v termínech 21. století a změnit naše názory na robotiku, automatizaci a zejména na novější myšlenku autonomie, musíme pochopit, jak lidské úmysly, plány a předpoklady mění podstatu stroje, který vytvářejí. Každý operátor, který řídí jeho stroj, komunikuje s designéry a programátory, jejichž přítomnost v stroji je neměnná - dokonce ve formě strukturálních prvků nebo řádků kódu vytvořených před mnoha lety. Palubní počítače Air France Flight 447 mohly pokračovat v letu letadlem i s omezenými údaji o rychlosti letu, ale lidé je naprogramovali tak, aby nemohli. I když software provádí činnosti, které nelze předvídat, chová se v rámci schémat a omezení stanovených jeho tvůrci. Že,jak byl systém vyvinut, kým a za jakým účelem určuje jeho schopnosti a způsoby interakce s lidmi, kteří jej používají. Mým cílem je zbavit se těchto mýtů a pochopit pojem autonomie v kontextu 21. století.
Prostřednictvím příběhů, které následují níže, mám v úmyslu přetvořit veřejný diskurs a vytvořit koncepční mapu pro novou éru. Abych vytvořil takovou mapu, mluvím o zařízeních a robotech v této knize, budu pracovat s koncepty člověka ovládaného, vzdáleného a autonomního. První je analogem ne vždy vhodného slova „obsluhovaného“, proto v některých případech „kontrolovaný“znamená „ovládán osobou ve vozidle“. Jsou to samozřejmě staré a známé typy přístrojů, jako jsou lodě, letadla, vlaky a automobily - stroje, kterými lidé cestují. Obvykle se systémy řízené člověkem vůbec nepovažují za roboty, ačkoli se stále více podobají robotům s lidmi uvnitř. Dálková, zkrácená forma dálkově ovládaného vozidla, jednoduše označuje, kde je obsluha ve vztahu k vozidlu. I když se kognitivní úkol ovládání vzdáleného systému téměř zcela shoduje s tím, co přímo vykonává fyzicky přítomný operátor, je přítomnost nebo nepřítomnost operátora a související rizika považována za velký kulturní význam.
Nejvýraznějším příkladem je vzdálené válčení tisíce kilometrů od válečné zóny. Je to zážitek zcela odlišný od úkolů obyčejného vojáka. Jako kognitivní jev je lidská přítomnost propojena se sociálním aspektem. Automatizace je také myšlenkou dvacátého století a stále odráží mechanistický názor, že stroje postupují krok za krokem předem stanovené postupy. Termín „automatizovaný“se běžně používá k popisu počítačů na palubě letadel, i když obsahují moderní, poněkud složité algoritmy. Autonomie je dnes modernějším slovem a je jednou z hlavních výzkumných priorit stále se zmenšujícího amerického ministerstva obrany. Někteří vědci jasně rozlišují mezi autonomií a automatizací, ale podle mého názorurozdíl mezi autonomií spočívá pouze v širším stupni nezávislého rozhodování než v jednoduché zpětné vazbě; navíc pojem „autonomie“zahrnuje a sjednocuje mnoho nápadů vypůjčených z teorie umělé inteligence a dalších disciplín. A myšlenka autonomie jednotlivců a skupin se samozřejmě stává příčinou neustálých sporů v politice, filozofii, medicíně a sociologii. To by nemělo být žádným překvapením, protože technici si často půjčují termíny od společenských věd, aby popsali své stroje.myšlenka autonomie jednotlivců a skupin se stává příčinou neustálého sporu v politice, filozofii, medicíně a sociologii. To by nemělo být žádným překvapením, protože technici si často půjčují termíny od společenských věd, aby popsali své stroje.myšlenka autonomie jednotlivců a skupin se stává příčinou neustálého sporu v politice, filozofii, medicíně a sociologii. To by nemělo být žádným překvapením, protože technici si často půjčují termíny od společenských věd, aby popsali své stroje.
Dokonce i v oblasti designu může mít pojem „autonomie“několik různých významů. Autonomie při navrhování kosmických lodí spočívá v palubním zpracování dat, která jsou nezbytná pro provoz kosmické lodi (ať už se jedná o obíhající automatizovanou stanici nebo mobilní robot), odděleně od úkolů, jako je plánování mise. V Massachusetts Institute of Technology, kde vyučuji, obsah inženýrských kurzů o autonomii pokrývá hlavně „plánování cest“- jak se dostat z jednoho bodu do druhého, strávit na něm přiměřené množství času a nezhroutit se v nic. V jiných systémech je autonomie analogická inteligenci, schopnosti rozhodovat se, která by osoba v určitých situacích učinila, nebo schopnost jednat v podmínkáchkteré tvůrci zařízení neočekávali ani nepředvídali.
Autonomní ponorky se nazývají proto, že fungují samostatně a jsou na rozdíl od dálkově ovládaných vozidel, která jsou k lodi připojena dlouhými kabely. Přesto inženýři, kteří vytvářejí takové autonomní ponorky, tvrdí, že jejich zařízení jsou částečně autonomní, protože pouze ve vzácných případech pracují bez jakéhokoli kontaktu s operátorem. Výraz „autonomní“znamená větší svobodu jednání. Popisuje způsob práce zařízení, což je potenciálně volatilní faktor. Nedávná studie navrhuje pojem „zvyšující se autonomie“: tímto způsobem autoři zdůrazňují relativní povahu autonomie a tvrdí, že „úplná“autonomie, tj. Stroje, které nepotřebují přijímat informace od osoby, bude vždy nedosažitelné.
V této knize bude pracovní definicí autonomie: prostředek vyvinutý člověkem pro transformaci informací z prostředí do cílených plánů a akcí. Formulace záleží a dává kontroverzi jinou chuť. Ale neměli bychom na ně přebývat. Často se budu spoléhat na jazyk (který může být někdy nepřesný) používaný lidmi, se kterými pracuji. Smysl této knihy není v definicích, ale v popisech skutečné práce - jak lidé používají tyto systémy ve skutečném světě, získávají nové zkušenosti, zkoumají nebo dokonce bojují a zabíjejí. Co se vlastně děje? Pokud věnujete pozornost životním zkušenostem designérů a těch, kteří používají roboty, pak se vše může vyjasnit. Například,slovo „dron“skrývá inherentně lidskou povahu robotů a připisuje jejich negativní stránky abstraktním myšlenkám, jako je „technologie“nebo „autonomie“. Když prozkoumáme vnitřní fungování operátorů Predator, zjistíme, že nevedou válku s automatickými zařízeními - lidé stále vynalézají, programují a kontrolují stroje.
Existuje dlouhá debata o etice a zásadách dálkového zavraždění drony se vzdálenými operátory nebo o utajení takových zařízení, která fungují v interním americkém vzdušném prostoru. Tyto debaty se však týkají povahy, místa a načasování lidských rozhodnutí, nikoli s autonomními stroji. Otázka tedy nespočívá v porovnání vozidel s posádkou a bezpilotních vozidlech a nikoli v protikladu k vozidlům ovládaným člověkem k autonomním vozidlům. Hlavní otázky této knihy jsou: „Kde jsou lidé?“, „Kdo jsou tito lidé?“, „Co dělají?“, „Kdy to dělají?“Kde jsou lidi? (Na lodi … ve vzduchu … uvnitř aut … nebo v kanceláři?) Manipulace operátora Predátora se podobají činnostem pilota letadla - sleduje stav palubních systémů, vnímá informace,přijímá rozhodnutí a přijímá určité kroky. Ale jeho tělo je na jiném místě, možná několik tisíc kilometrů od výsledků jeho práce. Na tomto rozdílu záleží. Úkoly jsou odlišné. Rizika jsou různá a také rovnováha moci.
Lidská mysl je schopna cestovat na jiná místa, do jiných zemí, na jiné planety. Znalosti získané myslí a smysly se liší od znalostí získaných tělem (kde jíte, spíte, komunikujete, vyprazdňujete). V závislosti na konkrétní situaci rozhodujeme, který ze dvou způsobů získávání znalostí bude následovat, a to má důsledky pro ty, kteří jsou do procesu zapojeni. Kdo jsou tito lidé? (Piloti … inženýři … vědci … nekvalifikovaní pracovníci … manažeři?) Změnit techniku a pak se změní jak úloha, tak podstata odborníka, který na tom pracuje. Ve skutečnosti změníte celý kontingent lidí, kteří jsou schopni systém spravovat. Stát se pilotem trvá roky studia a výcviku a tato profese je na vrcholu personální hierarchie. Vyžaduje dálkové ovládání letadla stejné dovednosti a vlastnosti? Z jakých sociálních tříd lze najmout pracovníky?
Nárůst automatizace komerčních letadel odpovídá rozšíření demografie pilotů v průmyslových zemích i po celém světě. Je výzkumný pracovník někdo, kdo cestuje v nebezpečných podmínkách, nebo někdo, kdo sedí doma před počítačem? Musíte si užívat života na palubě, abyste se stali oceánografem? Můžete prozkoumat Mars, když jste na vozíku? Co tito noví piloti, vědci a vědci pracují se vzdáleným přístupem? Co dělají? (Fly … ovládání … informace o procesu … komunikovat?) Fyzické úsilí se promění ve zpracování vizuální informace a pak v kognitivní úkol. To, co bývalo vyžadovalo sílu, nyní vyžaduje pozornost, trpělivost a rychlou reakci. Udržuje pilot ruce přímo na ovládací páce,kdy létá letadlem? Nebo zadejte klíčové příkazy do autopilota nebo letového počítače pro programování dráhy letu letadla? Jaká je role osoby při hodnocení situace? Jaká je role inženýra, který programoval palubní počítač, nebo leteckého technika, který jej nastavil?
Kdy to dělají? (V reálném čase … s určitým zpožděním … předem, roky nebo měsíce před misí?) Let obyčejného letounu probíhá v reálném čase: člověk okamžitě reaguje na události, které nastanou, a jeho činy mají okamžitý účinek. Ve scénáři kosmického letu může být zařízení na Marsu (nebo se blíží ke vzdálenému asteroidu), v takovém případě bude trvat 20 minut, než zařízení obdrží příkaz, a 20 minut, než operátor uvidí, že se něco stalo. Nebo můžeme říci, že plavidlo přistává „v automatickém režimu“, když ve skutečnosti chápeme, že přistane pod kontrolou programátorů, kteří opustili instrukce několik měsíců nebo let před přistáním (i když zde možná budeme muset upravit samotný koncept "řízení"). Ovládání automatizovaného systému se může podobat interakci s duchem. Tyto jednoduché otázky nás upozorňují na přerozdělení a nové uspořádání.
Nové formy lidské přítomnosti a činnosti nejsou běžné a nejsou rovnocenné starým - kulturní identita pilota, který riskuje svůj život létáním na bojišti, se liší od osoby, která dálkově řídí vozidlo z pozemní stanice. Tyto změny jsou však také neočekávané - vzdálený operátor se může na bojišti cítit více než pilot, který nad ním letí vysoko. Vědecké informace o Měsíci mohou být stejné nebo dokonce úplnější, pokud jsou shromažďovány dálkově ovládaným vozidlem, a nikoli osobou, která přistála přímo na planetě. Kulturní zkušenost z průzkumu Měsíce je v tomto případě úplně jiná. Nahrazme zastaralé představy bohatými animovanými obrázky toho, jak lidé ve skutečnosti vytvářejí a ovládají roboty a automatické systémy v reálném světě. Příběhy níže jsou vědecké, technické i humanistické.
Uvidíme, že lidské, vzdálené a autonomní stroje umožňují pohyb a přesměrování lidské přítomnosti a jednání v čase a prostoru. Podstata této knihy je následující: není důležitá samotná opozice člověkem ovládaných a autonomních systémů, ale spíše otázky - „Kde jsou lidé?“, „Kdo jsou tito lidé?“, „Co dělají a kdy?“Poslední, nejobtížnější otázky budou: „Jak se změní vnímání člověka?“„A proč na tom záleží?“