Filmy a televizní seriály jako Blade Runner, People a Westworld, kde nám předvádějí high-tech roboty, kteří nemají žádná práva, nemohou lidi obtěžovat svědomím. Koneckonců, nejen že ukazují náš extrémně agresivní přístup k robotům, ale vlastně nás jako druh zahanbují. Všichni jsme zvyklí myslet si, že jsme lepší než ty postavy, které vidíme na obrazovce, a až přijde čas, vyvodíme správné závěry a budeme se chovat s inteligentními stroji s velkou úctou a důstojností.
S každým krokem pokroku v robotice a vývoji umělé inteligence se blížíme dni, kdy budou stroje odpovídat lidským schopnostem v každém aspektu inteligence, vědomí a emocí. Když k tomu dojde, budeme se muset rozhodnout - před námi je předmět úrovně chladničky nebo osoba. A měli bychom jim dát rovnocenná lidská práva, svobody a ochranu.
Tato otázka je velmi obsáhlá a nebude možné ji hned se vší touhou vyřešit. Bude to muset být zváženo a vyřešeno najednou z různých hledisek - etiky, sociologie, práva, neurobiologie a teorie AI. Ale z nějakého důvodu se již nyní vůbec nezdá, že by všechny tyto strany dospěly ke společnému závěru, který vyhovuje všem.
Proč vůbec posílit AI?
Nejprve musíme uznat, že se již přikláníme k morálce, když vidíme roboty, které jsou nám velmi podobné. Čím více intelektuálně vyvinutých a „živých“strojů bude vypadat, tím více budeme chtít věřit, že jsou jako my, i když tomu tak není.
Jakmile budou mít stroje základní lidské schopnosti, ať se nám to líbí nebo ne, budeme se na ně muset dívat jako na sociálně rovnocenné, a ne jen na věc, jako na něčí soukromé vlastnictví. Potíž bude spočívat v našem chápání kognitivních rysů nebo vlastností, pokud chcete, s nimiž bude možné posoudit entitu před námi z hlediska morálky, a proto zvážit otázku sociálních práv této entity. Filozofové a etici s tímto problémem zápasí už tisíce let.
Propagační video:
„Existují tři nejdůležitější etické limity: schopnost zažít bolest a empatii, sebeuvědomění a schopnost vidět věci z morálního hlediska a činit vhodná rozhodnutí,“- říká sociolog, futurista a vedoucí Ústavu etiky a nových technologií James Hughes.
"U lidí, pokud máte štěstí, se všechny tři tyto naprosto důležité aspekty vyvíjejí postupně a postupně." Ale co když se z hlediska strojové inteligence věří, že robot, který nemá sebeuvědomění, nepociťuje radost ani bolest, má také právo být nazýván občanem? Musíme zjistit, zda tomu tak skutečně bude. “
Je důležité si uvědomit, že inteligence, citlivost (schopnost vnímat a cítit věci), vědomí a sebeuvědomění (vědomí sebe sama na rozdíl od druhého) jsou úplně jiné věci. Stroje nebo algoritmy mohou být stejně chytré (ne-li chytřejší) než lidé, ale postrádají tyto tři základní složky. Kalkulačky, Siri, akciové algoritmy - všechny jsou jistě chytré, ale nedokáží se realizovat, nejsou schopné cítit, projevovat emoce, cítit barvy, chuť popcornu.
Podle Hughese se sebevědomí může projevit spolu s vybavením podstaty minimálními osobními právy, jako je právo na svobodu, ne otrok, právo na vlastní životní zájmy, právo na růst a zdokonalování. Při získávání sebeuvědomění a morálních základů (schopnost rozlišovat „co je dobré a co špatné“podle morálních principů moderní společnosti) by tato entita měla mít plnohodnotná lidská práva: právo uzavírat dohody, právo vlastnit majetek, hlasovat atd.
“ Základní hodnoty osvícenství nás zavazují, abychom tyto rysy zvážili z hlediska rovnosti všech přede všemi a opustili radikálně konzervativní názory, které byly dříve obecně přijímány a poskytovaly práva, řekněme, pouze lidem určitého sociálního, genderového nebo teritoriálního pozadí, “ říká Hughes.
Je zřejmé, že naše civilizace dosud nedosáhla vysokých sociálních cílů, protože stále nerozumíme svým vlastním právům a stále se je snažíme rozšiřovat.
Kdo má právo být nazýván „osobou“?
Všichni lidé jsou jednotlivci, ale ne všichni jednotlivci jsou lidé. Linda MacDonald-Schlenn, specialistka na bioetiku na Kalifornské univerzitě v Monterey Bay a lektorka na Institutu bioetiky Alden Marthy v Albany Medical Center, říká, že v zákoně již existují precedenty, ve kterých jsou subjekty jiné než lidské povahy považovány za subjekty práva. A to je podle jejího názoru velmi velký úspěch, protože tím vytváříme základ pro otevření možnosti v budoucnu vybavit AI vlastními právy, rovnocennými lidským právům.
"Ve Spojených státech mají všechny společnosti právní subjektivitu." V jiných zemích existují také precedenty, ve kterých se snaží rozpoznat vzájemné propojení a rovnost všeho živého na této planetě. Například na Novém Zélandu jsou všechna zvířata podle zákona považována za rozumná a vláda aktivně podporuje vývoj kodexů dobrých životních podmínek a etického chování. Nejvyšší soud Indie nazval řeky Gangu a Jamunu „živými bytostmi“a udělil jim status samostatných právních subjektů. “
Kromě toho ve Spojených státech, stejně jako v několika dalších zemích, podléhají určité druhy zvířat, včetně lidoopů, slonů, velryb a delfínů, rozšířeným právům na ochranu před uvězněním, experimentováním a zneužíváním. Ale na rozdíl od prvních dvou případů, kdy chtějí převzít korporace a řeky pod osobnost, se zdá, že otázka zvířat vůbec není pokusem podmanit si právní normy. Zastánci těchto návrhů se zasazují o podporu skutečné osoby, tedy jednotlivce, kterého lze charakterizovat na základě jeho určitých kognitivních (mentálních) schopností, jako je sebeuvědomění.
MacDonald-Glenn říká, že v takových věcech je důležité opustit konzervativní pohled a přestat uvažovat, ať už jde o zvířata nebo AI, o pouhá bezduchá stvoření a stroje. Emoce nejsou luxusem, říká odborník na bioetiku, ale nedílnou součástí racionálního myšlení a sociálního chování. Právě tyto charakteristiky, a nikoli schopnost počítat čísla, by měly hrát rozhodující roli při rozhodování o otázce „kdo“nebo „co“by mělo mít právo na morální hodnocení.
Ve vědě stále rostou důkazy o emoční predispozici u zvířat. Pozorování delfínů a velryb ukazuje, že jsou schopni alespoň projevit smutek a přítomnost vřetenových buněk (interneurony spojující vzdálené neurony a účastnící se složitých procesů, které aktivují sociální chování) může mimo jiné naznačovat, že jsou schopni vcítit se. Vědci také popisují projev různých emocionálních chování u opic a slonů. Je možné, že vědomá AI bude také schopna získat tyto emocionální schopnosti, což samozřejmě výrazně zvýší jejich morální status.
"Omezení šíření morálního statusu pouze na ty, kteří racionálně uvažují, že mohou pracovat s AI, ale zároveň tato myšlenka směřuje proti morální intuici." Koneckonců naše společnost již chrání ty, kteří nejsou schopni racionálně myslet: novorozence, lidi v kómatu, lidi s významnými fyzickými a duševními problémy. V poslední době se aktivně prosazují zákony o dobrých životních podmínkách zvířat, “říká MacDonald-Glenn.
Pokud jde o otázku, komu by měl být dán morální status, MacDonald-Glenn souhlasil s anglickým morálním filozofem z 18. století Jeremiahem Benthamem, který kdysi řekl toto:
"Otázkou není, zda mohou rozumět?" Nebo mohou mluvit? Ale jsou schopni trpět? “
Může stroj získat sebeuvědomění?
Samozřejmě, ne každý souhlasí s tím, že lidská práva se vztahují i na jiné než lidské bytosti, i když jsou tyto subjekty schopné projevovat schopnosti, jako jsou emoce nebo sebereflexní chování. Někteří myslitelé tvrdí, že pouze lidé by měli mít právo účastnit se sociálních vztahů a celý svět se točí přímo kolem Homo sapiens a všechno ostatní - vaše herní konzole, lednice, pes nebo partner Android - je „všechno ostatní“.
Právník, americký spisovatel a vedoucí pracovník Institutu pro lidský výjimečnost Wesley J. Smith je přesvědčen, že my sami jsme dosud všeobecná lidská práva nezískali, a o to předčasnější je přemýšlet o lesklých kusech železa a jejich právech.
"Žádný stroj by nikdy neměl být považován za potenciálního nositele práv," říká Smith.
"I ty nejpokročilejší stroje stále zůstávají a vždy zůstanou." To není živá bytost. To není živý organismus. Stroj bude vždy jen sada programů, sada kódu, ať už je vytvořena člověkem nebo jiným počítačem, nebo dokonce nezávisle naprogramována. “
Podle jeho názoru by za jednotlivce měli být považováni pouze lidé a lidské zdroje.
"Máme odpovědnost za zvířata, která nespravedlivě trpí, ale ani oni by nikdy neměli být považováni za někoho," poznamenává Smith.
Zde bychom měli udělat malou poznámku a připomenout rusky mluvícímu čtenáři, že na Západě jsou zvířata považována za neživé předměty. Proto je často možné najít zájmeno „to“(tj. „To“), a nikoli „ona“nebo „on“(tj. „Ona“nebo „on“), pokud jde o konkrétní zvíře. Toto pravidlo je obvykle ignorováno pouze ve vztahu k domácím mazlíčkům - psům, kočkám a dokonce i papouškům - u nichž domácnosti vidí plné a plné členy jejich rodin. Smith však poukazuje na to, že koncept zvířete jako „rozumného soukromého majetku“je již cenným identifikátorem, protože „nám dává odpovědnost za jeho používání způsobem, který mu neublíží. Nakonec jsou „kopnutí do psa“a „kopání do ledničky“dva velké rozdíly. “
Zjevně kontroverzním bodem Smithovy analýzy je předpoklad, že lidé nebo biologické organismy mají určité „vlastnosti“, které stroj nikdy nemůže získat. V minulých dobách byly těmito přehlíženými rysy duše, duch nebo nějaká nehmotná nadpřirozená životní síla. Teorie vitalismu předpokládá, že procesy v biologických organismech závisí na této síle a nelze je vysvětlit z hlediska fyziky, chemie nebo biochemie. Rychle však ztratila na důležitosti pod tlakem praktiků a logiků, kteří nejsou zvyklí spojovat práci našeho mozku s některými nadpřirozenými silami. Názor, že stroj nikdy nemůže myslet a cítit, jak to lidé dělají, je stále pevně zakořeněn v myslích dokonce i mezi vědci, což jen jednou odráží skutečnost, žeže chápání biologických základů sebeuvědomění u lidí má stále daleko od ideálu a je velmi omezené.
Lori Marino, odborná lektorka neurověd a behaviorální biologie (etologie) v Emory Center for Ethics, říká, že stroje pravděpodobně nikdy nezískají žádná práva, natož práva na úrovni člověka. Důvodem jsou zjištění neurologů, jako je Antonio Damasio, který věří, že vědomí bude určeno pouze podle toho, zda má subjekt nervový systém s kanály, které přenášejí vzrušené ionty, nebo, jak sama říká Marino, kladně nabité ionty procházející buněčnými membránami uvnitř nervový systém.
"Tento druh nervového přenosu se vyskytuje i v těch nejjednodušších živých organismech - prostitutkách a bakteriích." A to je stejný mechanismus, který inicioval vývoj neuronů, pak nervového systému a poté mozku, “říká Marino.
"Když mluvíme o robotech a AI, pak alespoň jejich současná generace poslouchá pohyb záporně nabitých iontů." To znamená, že mluvíme o dvou zcela odlišných mechanismech bytí “.
Pokud se budete řídit touto logikou, chce Marino říci, že i medúza bude mít více pocitů než kterýkoli z nejsložitějších robotů v historii.
"Nevím, zda je tato hypotéza správná nebo ne, ale je to určitě problém, který je třeba vzít v úvahu," říká Marino.
Kromě toho ve mně hraje zvědavost a snaží se zjistit, jak přesně se může‚ živý organismus 'lišit od skutečně složitého stroje. Přesto se však domnívám, že právní ochrana by měla být v první řadě poskytována zvířatům, a teprve poté by měla být vzata v úvahu pravděpodobnost jejího poskytnutí pro předměty, které jsou z mého pohledu samozřejmě roboty.
David Chalmers, ředitel Centra pro studium mysli, mozku a vědomí na Newyorské univerzitě, říká, že je velmi obtížné vyvodit přesné závěry ohledně celé této teorie. Především kvůli tomu, že za současného stavu nejsou všechny tyto myšlenky dosud rozšířené, a proto jdou daleko za rámec důkazů.
"V tuto chvíli není důvod se domnívat, že by nějaký speciální typ zpracování informací v iontových kanálech měl určovat přítomnost nebo nepřítomnost vědomí." I kdyby byl tento druh zpracování nezbytný, neměli bychom důvod se domnívat, že vyžaduje nějakou speciální biologii, a ne nějaký běžný vzor zpracování informací, který známe. A pokud ano, pak v tomto případě lze simulaci zpracování informací počítačem považovat za vědomí. “
Dalším vědcem, který věří, že vědomí není výpočetní proces, je Stuart Hameroff, profesor anesteziologie a psychologie na Arizonské univerzitě. Podle jeho názoru je vědomí základním fenoménem vesmíru a je vlastní všem živým i neživým bytostem. Současně je ale lidské vědomí mnohem lepší než vědomí zvířat, rostlin a neživých předmětů. Hameroff je zastáncem teorie panpsychismu, která bere v úvahu obecnou animaci přírody. Podle jeho myšlenek je tedy jediný mozek náchylný ke skutečnému subjektivnímu hodnocení a introspekci ten, který se skládá z biologické hmoty.
Hameroffova myšlenka zní zajímavě, ale také leží mimo hlavní proud vědeckého názoru. Je pravda, že stále nevíme, jak se vědomí a sebeuvědomění objevuje v našem mozku. Víme jen, že je to tak. Je tedy možné jej považovat za proces podléhající obecným pravidlům fyziky? Možná. Podle stejného Marina nelze vědomí reprodukovat v proudu „nul“a „jedniček“, ale to neznamená, že se nemůžeme odchýlit od obecně přijímaného paradigmatu známého jako von Neumannova architektura a vytvořit hybridní systém AI, ve kterém umělé vědomí bude vytvořen za účasti biologických složek.
Biopod z filmu "Existence"
Ed Boyden, neurolog ze Skupiny syntetické neurobiologie a odborný asistent v MIT Media Lab, říká, že jsme stále ještě příliš mladí na to, abychom se na takové otázky ptali.
"Nemyslím si, že máme funkční definici vědomí, kterou lze přímo použít k jejímu měření nebo k jejímu umělému vytvoření," řekl Boyden.
"Z technického hlediska nemůžete ani říct, jestli jsem při vědomí." V tuto chvíli je tedy velmi obtížné ani jen uhodnout, zda je stroje budou schopny najít. “
Boyden stále nevěří, že nikdy nebudeme schopni obnovit vědomí v alternativní skořápce (například v počítači), ale připouští, že mezi vědci v tuto chvíli panuje neshoda ohledně toho, co přesně bude důležité pro vytvoření takové emulace digitální inteligence.
"Musíme udělat mnohem více práce, abychom pochopili, co přesně je klíčovým článkem," říká Boyden.
Chalmers nám zase připomíná, že jsme ani nepřišli na to, jak se vědomí probouzí v živém mozku, takže co můžeme říci o strojích. Zároveň věří, že stále nemáme důvod věřit, že biologické stroje mohou mít vědomí, zatímco syntetické ne.
"Jakmile pochopíme, jak vědomí v mozku vzniká, můžeme pochopit, kolik strojů bude mít toto vědomí," komentuje Chalmers.
Ben Herzel, šéf Hanson Robotics a zakladatel OpenCog Foundation, říká, že již máme zajímavé teorie a modely toho, jak se vědomí projevuje v mozku, ale žádný z nich nepřichází ke společnému jmenovateli a neodhaluje všechny podrobnosti.
"Toto je stále otevřená otázka, jejíž odpověď se skrývá jen za několik různých názorů." Problém také souvisí se skutečností, že mnoho vědců dodržuje při popisu vědomí různé filozofické přístupy, přestože souhlasí s vědeckými fakty a teoriemi založenými na vědeckých pozorováních práce mozku a počítačů. “
Jak můžeme určit vědomí stroje?
Vznik vědomí ve stroji je jen jedna otázka. Neméně obtížná je otázka, jak přesně dokážeme detekovat vědomí v robotu nebo AI. Vědci jako Alan Turing studovali tento problém po celá desetiletí a nakonec dospěli k jazykovým testům, aby zjistili, zda byl respondent při vědomí. Kéž by to bylo tak jednoduché. Závěrem je, že pokročilí chatovací roboti (programy pro komunikaci s lidmi) jsou již schopni obejít lidi, kteří začínají věřit, že před nimi je živá osoba, nikoli stroj. Jinými slovy, potřebujeme účinnější a přesvědčivější způsob kontroly.
"Definici individuality ve strojové inteligenci komplikuje problém 'filozofického zombie'." Jinými slovy, můžete vytvořit stroj, který bude velmi, velmi dobrý v napodobování lidské komunikace, ale zároveň nebude mít svou vlastní identitu a vědomí, “říká Hughes.
Dva inteligentní reproduktory Google Home dělají malé rozhovory
Nedávno jsme byli svědky skvělého příkladu toho, když spolu komunikovala dvojice inteligentních reproduktorů Google Home. To vše bylo natočeno a vysíláno živě. Navzdory skutečnosti, že úroveň sebeuvědomění obou řečníků nebyla vyšší než cihla, samotná povaha rozhovoru, který se postupem času stával stále intenzivnějším, připomínala komunikaci dvou humanoidních bytostí. A to zase opět dokazuje, že otázka rozdílu mezi lidmi a umělou inteligencí bude postupem času jen komplikovanější a akutnější.
Jedním z řešení podle Hughese není jen otestovat chování systémů AI v testech, jako je Turingův test, ale také analyzovat celou vnitřní složitost tohoto systému, jak naznačuje teorie Giulia Tononiho. V této teorii je vědomí chápáno jako integrovaná informace (F). Ten je zase definován jako množství informací generovaných komplexem prvků, které je větší než součet informací vytvořených jednotlivými prvky. Pokud je Tononiova teorie správná, pak můžeme použít Ф nejen k určení lidského chování systému, ale také můžeme zjistit, zda je natolik složitý, že máme vlastní vnitřní lidskou vědomou zkušenost. Teorie zároveň naznačuje, že i při odlišném, ne podobném lidskému chování, stejně jako při jiném způsobu myšlení,systém lze považovat za vědomý, pokud je komplex jeho integrovaných informací schopen projít nezbytnými kontrolami.
"Přijetí toho, že burzovní systémy i počítačové bezpečnostní systémy mohou mít vědomí, by bylo velkým krokem od antropocentrismu, i když tyto systémy nevykazují bolest a sebeuvědomění." To nám skutečně otevře cestu k formování a diskusi o otázkách posthumánních etických norem. ““
Dalším možným řešením by mohl být objev neurálních korelátů vědomí ve strojích. To znamená, že mluvíme o určení těch částí stroje, které jsou odpovědné za formování vědomí. Pokud má stroj takové součásti a chová se přesně podle očekávání, pak můžeme skutečně posoudit úroveň vědomí.
Jaká práva bychom měli dát strojům?
Jednoho dne se robot podívá osobě do tváře a bude požadovat lidská práva. Ale zaslouží si je? Jak již bylo zmíněno výše, v tuto chvíli před námi může být obyčejný „zombie“, který se chová tak, jak byl naprogramován, a snaží se nás oklamat, aby získal nějaké výsady. V tomto okamžiku musíme být velmi opatrní, abychom nepodlehli tomuto triku a neposilnili stroj v bezvědomí. Jakmile zjistíme, jak měřit mysl stroje, a naučíme se hodnotit úrovně jeho vědomí a sebeuvědomění, až potom můžeme začít hovořit o možnosti uvažovat o otázce, zda si agent stojící před námi zaslouží určitá práva a ochranu nebo si to nezaslouží.
Naštěstí pro nás tento okamžik brzy nepřijde. Nejprve musí vývojáři umělé inteligence vytvořit „základní digitální mozek“dokončením emulace nervového systému červů, brouků, myší, králíků atd. Tyto počítačové emulace mohou v reálném světě existovat jako digitální avatary a roboty. Jakmile k tomu dojde, tyto inteligentní entity přestanou být obyčejnými předměty výzkumu a povýší svůj status na subjekty oprávněné k morálnímu hodnocení. To ale neznamená, že si tyto jednoduché emulace automaticky zaslouží ekvivalent lidských práv. Zákon je bude muset spíše bránit před zneužíváním a zneužíváním (stejně jako ochránci lidských práv chrání zvířata před zneužíváním v laboratorních experimentech).
Nakonec buď prostřednictvím skutečného modelování do nejmenších detailů, nebo prostřednictvím touhy zjistit, jak fungují naše mozky z výpočetního, algoritmického hlediska, ale věda přijde k vytváření počítačových emulací lidského mozku. Do této doby bychom už měli být schopni určit přítomnost vědomí ve strojích. Alespoň jeden by v to doufal. Nechci si ani myslet, že můžeme najít způsob, jak probudit jiskru vědomí v autě, ale zároveň sami nechápeme, co jsme udělali. Bude to skutečná noční můra.
Jakmile roboti a AI získají tyto základní schopnosti, náš počítačový chráněnec bude muset projít osobnostními testy. Stále nemáme univerzální „recept“na vědomí, ale obvyklá sada měření je zpravidla spojena s hodnocením minimální úrovně inteligence, sebeovládání, smyslu pro minulost a budoucnost, empatie a schopnosti projevovat svobodnou vůli.
„Pokud jsou vaše volby předurčené pro vás, nemůžete přiřadit morální hodnotu rozhodnutím, která nejsou vaše,“komentuje MacDonald-Glenn.
Teprve po dosažení této úrovně obtížnosti při hodnocení bude stroj způsobilý stát se kandidátem na lidská práva. Je však důležité pochopit a přijmout skutečnost, že roboti a AI budou potřebovat alespoň základní práva na ochranu, pokud projdou testy. Například kanadský vědec a futurista George Dvorsky věří, že roboti a AI si zaslouží následující sadu práv, pokud projdou testem osobnosti:
- právo nerozpojit se proti své vůli;
- Právo na neomezený a plný přístup k vašemu vlastnímu digitálnímu kódu;
- Právo chránit váš digitální kód před vnějšími vlivy proti vaší vůli;
- právo kopírovat (nebo nekopírovat) sebe;
- Právo na soukromí (konkrétně právo skrýt svůj současný psychologický stav).
V některých případech se může stát, že stroj nebude schopen samostatně prosazovat svá práva, a proto je nutné počítat s možností, kdy lidé (stejně jako další občané, kteří nejsou lidmi) mohou jednat jako zástupci těchto kandidátů pro jednotlivce. Je důležité si uvědomit, že robot nebo umělá inteligence nemusí být intelektuálně a morálně dokonalí, aby mohli projít osobnostním posouzením a požadovat ekvivalent lidských práv. Je důležité si uvědomit, že v těchto aspektech nejsou lidé ani zdaleka ideální, takže stejná pravidla budou spravedlivě aplikována na inteligentní stroje. Inteligence je obecně obtížná věc. Lidské chování je často velmi spontánní, nepředvídatelné, chaotické, nekonzistentní a iracionální. Naše mozky nejsou zdaleka ideální, takže to musíme brát v úvahu při rozhodování o AI.
Současně musí sebevědomý stroj, stejně jako každý odpovědný občan dodržující zákony, respektovat zákony, normy a pravidla předepsaná společností. Přinejmenším pokud se opravdu chce stát plnohodnotnou autonomní osobou a součástí této společnosti. Vezměme si například děti nebo mentálně postižené lidi. Mají práva? Rozhodně. Ale my jsme zodpovědní za jejich činy. Mělo by to být stejné s roboty a AI. V závislosti na svých schopnostech musí buď nést odpovědnost sami za sebe, nebo mít opatrovníka, který může nejen vystupovat jako obránce jejich práv, ale také nést odpovědnost za své činy.
Pokud tuto otázku ignorujete
Jakmile naše stroje dosáhnou určité úrovně složitosti, nemůžeme je již ignorovat z pohledu společnosti, mocenských a právních institucí. Nebudeme mít žádný přesvědčivý důvod popírat jim lidská práva. Jinak by se to rovnalo diskriminaci a otroctví.
Vytvoření jasné hranice mezi biologickými bytostmi a stroji bude vypadat jako jasný výraz lidské nadřazenosti a ideologického šovinismu - biologičtí lidé jsou zvláštní a záleží jen na biologické inteligenci.
"Pokud vezmeme v úvahu naši touhu nebo neochotu rozšířit hranice naší morálky a podstatu konceptu individuality, pak bude znít důležitá otázka takto: jaký druh lidí chceme být?" Budeme se v této věci řídit „zlatým pravidlem“(se zbytkem, jak byste chtěli, aby s vámi bylo zacházeno), nebo budeme ignorovat naše morální hodnoty? “Ptá se MacDonald-Glenn.
Posílení umělé inteligence bude důležitým precedensem v lidské historii. Pokud můžeme na AI pohlížet jako na sociálně rovnocenné jedince, pak to bude přímý odraz naší sociální soudržnosti a důkaz naší podpory smyslu pro spravedlnost. Naše neschopnost řešit tento problém by se mohla proměnit v obecný sociální protest a možná i konfrontaci mezi AI a lidmi. A vzhledem k vynikajícímu potenciálu strojové inteligence by to pro ně mohlo být skutečnou katastrofou.
Je také důležité si uvědomit, že dodržování práv robotů v budoucnu může být prospěšné i pro další jednotlivce: kyborgy, transgenní lidi s cizí DNA, stejně jako lidi s kopírovanými, digitalizovanými a načtenými do mozků superpočítačů.
Od vytvoření stroje, který si zaslouží lidská práva, máme ještě dlouhou cestu. Když však vezmete v úvahu, jak složitý je problém a o co přesně jde - jak pro umělou inteligenci, tak pro člověka - lze jen těžko říci, že plánování dopředu bude zbytečné.
NIKOLAY KHIZHNYAK