Chytré telefony, roboty a počítače usnadňují náš život, ale možná něco ztratíme? Reportér z jedné z publikací hovořil s americkým spisovatelem Nicholasem Carrem o nebezpečích a dokonce hrozbách nadměrné automatizace.
Všeobecně se věří, že automatizace všeho a každého zlepšuje kvalitu našeho života. Počítače nám pomáhají dosáhnout špičkového výkonu. Softwarové aplikace urychlují a usnadňují úkoly. Roboti se zabývají únavou a tvrdou prací. Neustálý proud inovací ze Silicon Valley pouze posiluje přesvědčení lidí, že nové technologie zlepšují život.
Existuje však jiný názor. Spisovatel Nicholas Carr podrobuje postuláty moderního digitálního světa nestranné analýze. Jeho esej „Dává nám Google hloupost?“, Publikovanou v Atlantiku v roce 2008, je stále kontroverzní, stejně jako bestsellerová kniha Shallows z roku 2010.
Carr je viděn stoupenci teorie, že technologie zachrání náš svět jako jednoho z jejich nejsilnějších oponentů. A ti, kdo si dávají pozor na důsledky technologického pokroku pro lidstvo, ho respektují pro vyvážené uvažování.
Nyní se Carr zajímá o novou otázku: měli bychom se bát, že pro nás nebudou ve světě postupně žádné obtížné úkoly? Budou naše životy díky novým technologiím příliš efektivní?
Nedávno se novinář (T. C.) setkal se spisovatelem, aby hovořil o své nové knize The Glass Cage: Automation and Us a o tom, co ji přimělo napsat.
1. Odhalovat hlavní mýtus o nových technologiích
Propagační video:
"Mysleli jsme si, že účinnost a pohodlí jsou ve výchozím nastavení dobré. Tento přístup je docela naivní."
Tom Chatfield: Pokud rozumím správně, ve hře The Glass Cage se snažíte odhalit mýtus, že zjednodušení našich životů technologickým pokrokem je nutně pozitivní jev.
Nicholas Carr: Na osobní i institucionální úrovni máme sklon myslet si, že účinnost a pohodlí jsou ve výchozím nastavení dobré, a maximalizace je určitě hodný cíl. Zdá se mi, že tento přístup k technologii ve všech jejích podobách, zejména ve formě počítačové automatizace, je spíše naivní. To platí také pro naše vlastní touhy a skutečný život v moderním světě.
Nahradí počítač někdy lidi?
T. Ch.: A přesto většina přívrženců technologického pokroku dodržuje utilitární hledisko, podle kterého jsou největší chyby, které uděláme, důsledkem zanedbávání účinnosti a logiky a ve skutečnosti sami nevíme, co je pro nás dobré. Úkolem technologického pokroku je proto z jejich pohledu identifikovat nedostatky lidského myšlení a poté vytvořit systémy, které by tyto nedostatky kompenzovaly. Je tento názor nesprávný?
N. K.: Na jedné straně mnoho inovací ve vývoji výpočetní techniky a ve vývoji automatizovaných systémů nemá nic společného s tím, že lidé jsou ve srovnání s počítači velmi nedokonalí. Ano, počítač lze naprogramovat tak, aby určité operace vykonával neomezeně dlouho v konstantní kvalitě. A je pravda, že člověk to není schopen.
Ale někteří jdou ještě dále a tvrdí, že lidé jsou příliš nedokonalí, že jejich role by měla být co nejvíce omezena a že za všechny základní úkoly by měly odpovídat počítače. Nejde jen o pokus o kompenzaci lidských nedostatků - myšlenkou je zcela odstranit lidský faktor, v důsledku čehož se podle našeho názoru náš život zlepší.
TC: Zdá se, že to není nejlepší nápad. Existuje optimální úroveň automatizace?
N. K.: Podle mého názoru není otázkou, zda musíme tento nebo ten složitý úkol automatizovat. Otázkou je, jak využíváme automatizaci, jak přesně používáme počítače k doplnění lidských znalostí a dovedností, kompenzaci nedostatků v lidském myšlení a chování a také k tomu, abychom lidi povzbudili, aby co nejlépe využili své vlastní zkušenosti k dosažení nových výšin.
Nadměrné spoléhání se na software nás může změnit v pozorovatele počítačového monitoru a operátory toku procesů. Počítače mohou hrát velmi důležitou roli, protože jsme pouze lidé - můžeme se vyhýbat předsudkům nebo vynechat důležité informace. Nebezpečí však spočívá v tom, že je příliš snadné outsourcovat všechny naše funkce do počítačů, což by podle mého názoru bylo špatné rozhodnutí.
2. Potřebujete přiblížit skutečný život scénáři videohry?
"Máme rádi počítačové hry právě proto, že je není snadné hrát."
TC: S potěšením jsem poznamenal, že ve své knize citujete videohry jako příklad interakce v systému „člověk-stroj“, ve kterém jde o překonání obtíží, nikoli jim zabránit. Nejoblíbenější hry jsou druhem práce, která dává hráči pocit spokojenosti. Můžeme si jen stěžovat, že práce, kterou mnozí z nás musí každý den dělat, vyžaduje mnohem méně dovedností a přináší nám mnohem menší potěšení.
N. K.: Videohry jsou velmi zajímavé, protože jejich koncepce je v rozporu s obecně přijímanými zásadami vývoje softwaru. Účelem počítačových her není vůbec zbavit uživatele nepříjemností. Naopak, stimulují hráče, aby vyvinuli další úsilí a maximalizovali využití mozku. Videohry si užíváme právě proto, že nás napadají stále rostoucími výzvami. Neustále se ocitáme v obtížných situacích - ale ne v situacích, které způsobují zoufalství. Překonání každé nové úrovně pouze zlepší naše schopnosti.
Tento proces je velmi podobný tomu, jak člověk získá životní zkušenost v reálném životě. Jak víme, pro rozvoj schopností musí člověk čelit znovu a znovu vážným překážkám a čas od času je překonávat pomocí všech svých znalostí a dovedností. Člověk postupně dosáhne nové úrovně, po které se obtížnost překážek zvyšuje.
Myslím, že lidé milují videohry ze stejného důvodu, že získají uspokojení z získání nových zkušeností a překonávání překážek. Řešení obtížného úkolu, v jehož průběhu se získávají nové znalosti, nezbytné k překonání nových, ještě složitějších obtíží, dává člověku velkou radost.
Jedním z hlavních problémů, které v knize vyjadřuji, je to, že náš postoj k pokroku je spojen s touhou vyhnout se co největšímu řešení obtížných problémů. Zdá se mi, že tento pohled je v rozporu se samotným konceptem životní spokojenosti a seberealizace.
3. Budou počítače eliminovat potřebu lidí?
"Lidé prostě nemohou držet krok s počítači, když obchodují s finančními nástroji"
TC: Na rozdíl od videoher ve skutečnosti není tvrdá práce nutně odměněna. Skutečný svět je nespravedlivý a nevyvážený. Snad nejznepokojivějším trendem je, že zájmy jednotlivce (psychologicky, osobně, a to i pokud jde o přežití) se stále více ztotožňují s firemními a vládními představami o výhodnosti. Bojíte se, že počítače konečně nahradí lidi?
N. K.: Když jsem sbíral materiál pro knihu, byl jsem velmi vyděšený článkem (citace, z nichž cituji text), napsaným odborníkem na vojenskou strategii. Podle něj, vzhledem k narůstajícímu měřítku využívání počítačových technologií na bojišti, nemusí být ve vojenské záležitosti příliš brzy prostor pro člověka. Rychlost rozhodování se natolik zvýšila, že lidé prostě nemohou držet krok s počítači. Nevyhnutelně směřujeme k plně automatizovanému válčení: drony se rozhodnou, kdy vypálit rakety na cíle, a robotičtí vojáci na zemi se rozhodnou, kdy vypálit.
Podle mého názoru je tato situace pozorována nejen ve vojenských záležitostech, ale také v mnoha dalších oblastech - například ve světě financí. Lidé například při obchodování s finančními nástroji jednoduše neudržují krok s počítači.
Co nás čeká? Můžeme nejen ztratit schopnost, která nás odlišuje od počítačů, pro kritické posouzení našich vlastních akcí - možná takové systémy implementujeme bezmyšlenkovitě a věříme, že hlavní věcí je rychlost rozhodování. A pak, pokud jsme přesvědčeni, že jsme se mýlili, zjistíme, že se nedá vrátit zpět. Velmi často se ukázalo, že není možné integrovat osobu do systému původně založeného na počítačové technologii.
TC: Byl jsem také vyděšený, když jsem ve vaší knize četl pasáž o automatickém válčení. Mám pocit, že proces, který nás povede k plně autonomním bojovým systémům, nelze zastavit. Část mého děsu pochází ze vzpomínek na finanční krizi v roce 2008, která prakticky zničila biliony dolarů. Alespoň nyní jsou lidé odpovědnější za své finance. Pokud se to však stane ve vojenské oblasti, nebudou zničeny ani dolary, ale lidské životy.
Navíc se mi zdá, že existuje myšlenka, která odkazuje na vaši předchozí knihu „Empty“: dnešní lidé v biologickém smyslu se příliš neliší od našich předků, kteří žili před stovkami let, ale žijeme ve zcela novém světě. důsledky některých akcí již dávno překročily rychlost, na kterou jsme zvyklí. Totéž platí pro nové vynálezy - oni sami, ve formě informací a algoritmů, jakož i jejich důsledky, se šíří ohromujícím tempem.
Budoucnost bez lidí?
N. K.: Nejde jen o to, že nové technologie, zejména technologie v oblasti softwaru, lze dnes replikovat a distribuovat velmi rychle. Jde o to, že všechny tyto procesy probíhají v konkurenčním prostředí. Ať už mluvíme o závodě ve zbrojení nebo obchodní soutěži, jakmile jeden ze soupeřů získá krátkodobou výhodu na úkor konkrétní technologie, okamžitě ji začnou zavádět, kdykoli je to možné - protože nikdo nechce zůstat v nevýhodě.
Myslím, že v této situaci je příliš snadné ztratit ze zřetele skutečnost, že jsme v podstatě zvířata. Lidé prošli po tisíciletí evoluční cestou, aby mohli žít a přežít. Role lidstva, stejně jako naše pocity uspokojení a seberealizace, úzce souvisí s naší zkušeností žít ve světě, který určuje naše obvyklé tempo.
Proto, když se postavíme proti osobě se všemi svými fyzickými výhodami a nevýhodami vůči rychlému a přesnému počítači, existuje touha vzdát se celého života počítačům. Zapomínáme však, že úplné odevzdání počítači nás povede k životu, ve kterém bude malý prostor pro seberealizaci.
4. Jak automatizujeme svět?
"Můžete inteligentně inovovat, ale můžete to udělat lehce."
TC: Myslím, že musíme být kritičtí vůči novým technologiím, ale obávám se, že lidé přeměňují zbytečné problémy a antitechnologickou „autentičnost“v fetiš. Existuje tak moderní myšlenková škola, která chválí tvrdou fyzickou práci a tvrdí, že všechno, co děláme, musí být řemeslné a autentické. Podle mého názoru takové postavení zasahuje snobství a nezohledňuje obrovský počet pozitivních úspěchů, které s sebou přinesla demokratizace technologického pokroku.
N. K.: Úplně s vámi souhlasím. V rozhovoru jsem byl dotázán, jak můj opatrný přístup k pokroku pomůže například lidem, kteří pracují v obtížných podmínkách v závodech na zpracování masa. Odpověděl jsem, že samozřejmě bude vždy místo pro automatizaci výroby, kde je třeba zlepšit pracovní podmínky lidí. Je to jen to, že můžete inteligentně inovovat, nebo to můžete udělat bezmyšlenkovitě; najdeme způsob, jak zohlednit hodnotu lidské zkušenosti a důležitost seberealizace, nebo můžeme jednoduše rozšířit schopnosti počítačů. Správná volba není snadná. Pokud tento úkol vnímáme výhradně černobíle - buď slepě stojíme za tvrdou, vyčerpávající fyzickou prací v jakékoli situaci, nebo naopak, vidíme smysl života v sybarismu - nepomůže to.
Lidé neustále vytvářejí a používají nástroje. Od nepaměti musíme činit rozhodnutí týkající se dělby práce, dělení množství práce mezi osobou a nástrojů, které má. A zdá se mi, že úžasná účinnost počítačů při plnění celé řady úkolů jen komplikuje proces těchto rozhodnutí.
5. Co nás čeká?
"Musíme se snažit zajistit, aby počítače obohatily naši životní zkušenost, a neměly bychom z nás udělat pasivní pozorovatele obrazovek monitorů."
T. Ch.: Kam tedy směřuje lidstvo?
NK: Historik přírodní historie Thomas Hughes, který minulý rok zemřel, navrhl koncept technologického impulsu. Věřil, že technologie zabudované do sociálních struktur a procesů se začnou rozvíjet samy o sobě a táhnou spolu s nimi společnost. Je docela možné, že naše trajektorie již byla stanovena a že budeme pokračovat na naší současné cestě, aniž bychom se ptali, zda se ubíráme správným směrem. Opravdu nevím, co se stane. Nejvíc, co můžu udělat, je pokusit se zdůvodnit tyto opravdu těžké otázky podle svých nejlepších schopností.
Doufám, že my, jako jednotlivci a jako členové společnosti, budeme schopni udržet určitou úroveň porozumění tomu, co se s námi děje, a také určitou míru zvědavosti, a budeme činit rozhodnutí na základě našich dlouhodobých zájmů, a nikoli na obvyklých koncepcích pohodlí, rychlosti, přesnosti. a efektivitu.
Zdá se mi, že se musíme snažit zajistit, aby počítače obohatily naše životní zkušenosti a otevřely nám nové možnosti, a ne z nás se stali pasivními pozorovateli obrazovek monitoru. Stále si myslím, že pokud dosáhneme více z nových technologií, budou schopni dělat, jaké technologie a nástroje udělali v celé historii lidstva - vytvořit kolem nás zajímavější svět a pomoci nám, abychom se zlepšili. Nakonec vše záleží na nás.
Tom Chatfield