Jako výzkumník umělé inteligence jsem často konfrontován s názorem, že mnoho lidí se bojí umělé inteligence a co se může stát. Ve skutečnosti není překvapivé, když se podíváte z pohledu lidské historie a přitom věnujete pozornost tomu, co nás živí zábavní průmysl, že se lidé mohou bát kybernetické vzpoury, která nás přinutí žít v izolovaných oblastech, a přeměnit ostatní v „lidské matice podobné“baterie. …
A přesto, pro mě, při pohledu na všechny tyto evoluční počítačové modely, které používám ve vývoji AI, je těžké si myslet, že moje neškodná, čistá jako slzy dítěte, stvoření na obrazovce mého počítače se jednoho dne mohou proměnit v monstra futuristické dystopie. Mohu být skutečně nazýván „ničitelem světů“, jak Oppenheimer jednou litoval a řekl o sobě poté, co vedl program na vytvoření jaderné bomby?
Možná bych přijal takovou slávu, nebo možná kritici mé práce jsou po tom všem? Možná bych se měl přestat vyhýbat otázkám, jaké obavy mám z AI jako odborníka na AI?
Strach z nepředvídatelnosti
HAL 9000, spisovatel snu sci-fi Arthur Charles Clarke a oživený filmařem Stanleym Kubrickem v roce 2001 ve filmu Space Odyssey, je vynikajícím příkladem systému, který havaroval v důsledku nepředvídaných okolností.
V mnoha složitých systémech - Titanic, raketoplán NASA a černobylská jaderná elektrárna - museli inženýři kombinovat mnoho komponent. Možná si architekti těchto systémů dobře uvědomovali, jak každý z jeho prvků fungoval samostatně, ale nechápali dostatečně dobře, jak všechny tyto komponenty budou spolupracovat.
Propagační video:
Výsledkem byly systémy, které nikdy plně nerozuměli jejich vlastní tvůrci, což vedlo ke známým důsledkům. V každém případě se loď potopila, explodovaly dvě raketoplány a téměř celá Evropa a části Asie se potýkaly s problémem radioaktivní kontaminace - soubor relativně malých problémů, které se však shodou okolností vyskytly současně, vytvořil katastrofický efekt.
Dokážu si představit, jak my, tvůrci umělé inteligence, můžeme dospět k podobným výsledkům. Bereme nejnovější vývoj a výzkum v kognitivní vědě (věda myšlení - ed.), Překládáme je do počítačových algoritmů a přidáváme vše do stávajících systémů. Snažíme se vyvinout umělou inteligenci, aniž bychom plně pochopili naši vlastní inteligenci a vědomí.
Systémy jako IBM Watson nebo Google Alpha jsou umělé neuronové sítě s působivou výpočetní silou a schopností řešit opravdu složité úkoly. Jedinou věcí, k níž dojde k chybě v jejich práci, však bude zatím výsledek ztráty intelektuální hry „Jeopardy!“nebo zmeškaná příležitost porazit ještě další nejlepší deskovou deskovou hru na světě Go.
Tyto důsledky nemají globální povahu. Ve skutečnosti je nejhorší věcí, která se v tomto případě může stát lidem, že někdo v sázkách ztratí nějaké množství peněz.
Architektura AI se však stává složitější a počítačové procesy se zrychlují. Schopnosti umělé inteligence se časem zvýší. A to už nás povede k tomu, že AI začneme svěřovat stále větší odpovědnost, a to i přes rostoucí rizika nepředvídaných okolností.
Jsme si dobře vědomi toho, že „chyby jsou součástí lidské přirozenosti“, a proto bude pro nás jednoduše fyzicky nemožné vytvořit ve všech bezpečných systémech.
Strach ze zneužití
Nemám opravdu obavy z nepředvídatelnosti důsledků v práci AI, které vyvíjím pomocí tzv. Neuroevolučního přístupu. Vytvářím virtuální prostředí a naplňuji je digitálními bytostmi a dávám jejich mozkům příkazy k řešení problémů se zvyšující se složitostí.
Postupem času se účinnost řešení těchto tvorů zvyšuje a vyvíjí. Ti, kteří dělají nejlepší práci, jsou vybráni pro reprodukci a vytvářejí na jejich základě novou generaci. V průběhu generací se tato digitální stvoření rozvíjejí kognitivní schopnosti.
Například právě teď podnikáme první kroky ve vývoji strojů na úroveň provádění jednoduchých navigačních úkolů, provádění jednoduchých rozhodnutí nebo zapamatování několika bitů informací. Brzy však uvidíme vývoj strojů, které dokážou provádět složitější úkoly a mají mnohem efektivnější celkovou úroveň inteligence. Naším konečným cílem je vytvořit inteligenci na lidské úrovni.
V průběhu tohoto vývoje se pokusíme najít a opravit všechny chyby a problémy. S každou novou generací budou stroje lépe zvládat chyby než ty předchozí. Tím se zvýší šance, že budeme schopni identifikovat všechny nepředvídatelné důsledky simulací a eliminovat je ještě předtím, než budou realizovatelné v reálném světě.
Další příležitost, kterou poskytuje vývojová metoda vývoje, je poskytnout umělé inteligenci etice. Je pravděpodobné, že takové etické a morální charakteristiky člověka, jako je spolehlivost a altruismus, jsou výsledkem našeho vývoje a faktorem jeho pokračování.
Můžeme vytvořit vybudované prostředí a umožnit strojům prokázat laskavost, poctivost a empatii. To by mohl být jeden způsob, jak zajistit, abychom vyvinuli poslušnější služebníky než nemilosrdné zabijácké roboty. Přestože neuroevoluce může snížit úroveň nezamýšlených důsledků v chování AI, nemůže zabránit zneužití umělé inteligence.
Jako vědec se musím podřídit svému závazku k pravdě a podat zprávu o tom, co jsem objevil skrze své experimenty, ať už výsledky mám rád nebo ne. Mým úkolem není určovat, co se mi líbí a co ne. Jedinou důležitou věcí je, že svou práci mohu zveřejnit.
Strach ze špatných sociálních priorit
Být vědcem neznamená ztrátu lidstva. Musím se znovu spojit se svými nadějemi a strachem na určité úrovni. Jako morálně a politicky motivovaný jednotlivec musím zvážit možné důsledky své práce a její možný dopad na společnost.
Jako vědci a zástupci společnosti jsme stále ještě nepochopili jasnou představu o tom, co přesně chceme získat od AI a co by se mělo nakonec stát. To je samozřejmě částečně způsobeno tím, že stále ještě stále plně nerozumíme jeho potenciálu. Stále však musíme jasně porozumět a rozhodnout se, co chceme získat od skutečně pokročilé umělé inteligence.
Jednou z největších oblastí, které lidé věnují pozornost při rozhovoru o umělé inteligenci, je zaměstnání. Roboti pro nás již provádějí složitou fyzickou práci, jako je montáž a svařování částí karoserie k sobě. Jednoho dne ale přijde den, kdy budou roboti pověřeni vykonáváním kognitivních úkolů, tj. Budou jim přiděleny úkoly, které byly dříve považovány za výlučně jedinečnou schopnost samotné osoby. Auta s vlastním pohonem mohou nahradit řidiče taxi; letadla s vlastním řízením nebudou potřebovat piloty.
Místo lékařské péče v pohotovostních místnostech naplněných vždy unaveným personálem a lékaři mohou pacienti provádět vyšetření a diagnostikovat diagnózy pomocí expertních systémů s okamžitým přístupem ke všem lékařským poznatkům. Chirurgické operace budou prováděny roboty, které nejsou náchylné k únavě, s dokonale „vyškolenou rukou“.
Právní poradenství bude k dispozici z komplexního právního rámce. Pokud jde o investiční poradenství, obrátíme se na expertní systémy prognózování trhu. Možná jednoho dne bude veškerá lidská práce prováděna stroji. I moje práce může být provedena rychleji pomocí velkého počtu strojů vytrvale zkoumajících, jak udělat stroje chytřejšími.
V realitě naší současné společnosti již automatizace nutí lidi, aby opustili svou práci, což bohatým majitelům takových automatů ještě více obohatilo a zbytek ještě chudší. To však není vědecký problém. Jedná se o politický a socioekonomický problém, který musí sama společnost vyřešit.
Můj výzkum to nezmění, ale mé politické nadace spolu s lidskostí mohou vést k okolnostem, za nichž se umělá inteligence může stát nesmírně užitečnou funkcí, namísto rozšíření mezery mezi jedním procentem světové elity a zbytkem nás.
Strach z katastrofického scénáře
Došli jsme ke konečnému strachu, který na nás působil šílený HAL 9000, Terminátor a jakákoli darebná superintelligence. Pokud se umělá inteligence bude dál vyvíjet, dokud nepřekoná lidskou inteligenci, považuje by umělý superinteligentní systém (nebo soubor takových systémů) za zbytečný materiál? Jak můžeme ospravedlnit naši existenci tváří v tvář superinteligenci schopnou dělat a vytvářet to, co nemůže žádný jiný člověk? Budeme se moci vyhnout tomu, aby byl osud setřen z povrchu Země pomocí strojů, které jsme pomohli vytvořit?
Proto za těchto okolností bude znít nejdůležitější otázka: proč nás bude potřebovat umělá superintelligence?
Pokud by k takové situaci došlo, pravděpodobně bych řekl, že jsem dobrý člověk, který dokonce přispěl k vytvoření této superintelligence, kterému nyní čelím. Chtěl bych apelovat na jeho soucit a empatii, aby mě superintelligence opustila, tak soucitně a empaticky, naživu. Také bych dodal, že druhová rozmanitost má hodnotu a vesmír je tak velký, že existence lidského druhu v něm je vlastně docela zanedbatelná.
Nemohu však mluvit za celé lidstvo, takže pro mě bude obtížné najít platný argument. Je to jen to, že když se na nás všechny podívám, opravdu vidím, že jsme udělali hodně a že se hodně nedělá. Ve světě vládne nenávist. Jdeme do války proti sobě. Nespravedlivě distribuujeme jídlo, znalosti a zdravotní péči. Znečišťujeme planetu. V tomto světě samozřejmě existuje mnoho dobrých věcí, ale pokud se podíváte na všechny špatné věci, které jsme vytvořili a stále vytváříme, bude velmi obtížné najít argument na podporu naší další existence.
Naštěstí ještě nemusíme zdůvodňovat naši existenci. Stále máme čas. Od 50 do 250 let, v závislosti na tom, jak rychle se rozvíjí umělá inteligence. Jako druh máme schopnost se spojit a najít dobrou odpověď na otázku, proč by nás superintelligence neměla otírat z tváře planety.
Bude velmi obtížné tento problém vyřešit. Koneckonců, říci, že podporujeme rozmanitost a etno-kulturní rozdíly, a to je úplně jiné. How to say, že chceme zachránit planetu a úspěšně s ní vyrovnat.
Každý z nás, ať už je to každý jednotlivec nebo společnost jako celek, se musí připravit na katastrofický scénář, který využije toho času, aby byl připraven ukázat a prokázat, proč by naše stvoření měla umožnit, abychom nadále existovali. Nebo můžeme jednoduše slepě věřit, že takový vývoj událostí je nemožný, a jednoduše přestat mluvit o tomto tématu.
Bez ohledu na to, jaké fyzické nebezpečí pro nás může superintelligence představovat, bychom však neměli zapomenout, že to bude také představovat politické a ekonomické nebezpečí. Pokud nenajdeme způsob, jak zlepšit naši životní úroveň, skončí jednoduše kapitalismus pomocí umělého inteligenta, který bude sloužit jen několika vyvoleným, kteří mají všechny výrobní prostředky.
Tento článek byl původně publikován na theconversation.com Arend Hintze, docent na Katedře integrované biologie, informatiky a inženýrství, University of Michigan
Nikolay Khizhnyak