Chytré stroje se naučily blufovat, překonávat profesionály v šachu nebo Go, překládat a rozpoznávat lidský hlas. Každý týden se dozvídáme o dalších a dalších výhodách počítačových programů, které již umí provádět lékařské diagnózy, kreslit i Rembrandta, zpívat nebo generovat text. Měl by se člověk bát umělé inteligence?
Umělá inteligence (AI) se v posledních několika letech stala opravdu horkým tématem. Vědci to spojují s rychlým rozvojem neuronových sítí (jedna z oblastí výzkumu v oblasti umělé inteligence), což se zase stalo možným s příchodem výkonných počítačů.
„Od počátku roku 2010, ovlivněná působivým úspěchem dosaženým použitím vícevrstvých neuronových sítí (především konvolučních a rekurentních), přitahovala tato oblast vážnou pozornost jak vědců, inženýrů, tak investorů,“komentuje autor jeden z ruských šachových programů, specialista na strojové učení Sergej Markov.
Vědecká komunita může argumentovat o načasování vzniku inteligentních strojů, ale shodují se na jedné věci: vývoj technologie bude mít v budoucnu bezpodmínečný dopad na společnost, ekonomiku a vztahy mezi lidmi. Již nyní existují výzvy k zvážení etických zásad pro vývoj umělé inteligence, které by měly zajistit, aby se umělá inteligence vyvíjela směrem, který je pro člověka bezpečný.
Ekonomický dopad a dopad na trh práce
Sci-fi a Hollywood formovaly koncept „umělé inteligence“jako další formy života na planetě, která zotročila lidstvo v Matrixu nebo pro ni uspořádala jaderný soudný den. Přeživší budou zakončeni Terminátorem.
Vědci a odborníci připouštějí, že i přes nedávný pokrok v oblasti umělé inteligence jsou inteligentní bytosti daleko. Oba, ale i ostatní, však nyní doporučuje věnovat pozornost některým aspektům.
Propagační video:
Podle výzkumné organizace McKinsey Global Institute v příštích deseti letech nové technologie radikálně změní trh práce na planetě, což ušetří zhruba 50 bilionů dolarů.
Změny se dotknou stovek milionů pracovních míst. Stále více lidí přesune některé své pracovní úkoly a mnoho rutinních úkolů na stroj, což jim umožní soustředit se na kreativní práci.
„Z určitého hlediska má lidstvo jako celek důležitý a zajímavý úkol - vyvíjet se u každého jednotlivce mnohem rychleji, než lidstvo vyvíjí systémy umělé inteligence,“řekl Grigory Bakunov, expert, ředitel technologické distribuce v Yandexu.
Spolu s automatizací však nevyhnutelně utrpí méně kvalifikovaný personál a již je nutné přemýšlet o tom, jak je chránit, rekvalifikovat a připravit na nový život.
Praxe ukazuje, že mohou trpět nejen dělnické obojky, ale také znalostní pracovníci. Před několika dny společnost Goldman Sachs nahradila tým 600 obchodníků dvěma lidmi a automatizovanými algoritmickými obchodními programy, pro které bylo najato 200 programátorů.
Umělá inteligence sama o sobě není totožná s automatizací procesů, ale vývoj AI povede k tomu, že stále více úkolů bude v moci počítačového programu.
Mezi možnosti řešení problému lidského vysídlení strojem na trhu práce, jak zdůraznila Allison Dutman, programová koordinátorka Foresight Institute, neziskové organizace se sídlem v Silicon Valley, která propaguje nové technologie, je zavedení konceptu „univerzálního základního příjmu“, který by dostával každý bez ohledu na úrovně příjmů a zaměstnanosti. Takový příjem by byl financován z takzvané inovativní daně z pozemkové hodnoty, o jejímž zavedení se nyní v Silicon Valley aktivně diskutuje.
Je umělá inteligence člověk?
Je robotický systém člověk? Může chytrý počítač hlasovat? Jaké je pohlaví? Poslanci již diskutují o vztahu mezi člověkem a chytrým strojem a uvažují o tom, zda by budoucí roboti měli mít status „elektronické osobnosti“.
Jak Dutmann zdůrazňuje, lidé se zdráhají sdílet svá práva s těmi, kterým nerozumí, což znamená, že budou odolávat „humanizaci“AI.
"Vezmeme-li v úvahu, jak dlouho lidstvo trvalo, aby poskytlo stejná práva všem lidem, bez ohledu na jejich barvu pleti, rasu nebo pohlaví, můžeme již předpokládat, že neuznávají okamžitě stroje jako rovnocenné."
Spolu s etickými se objevují právní jemnosti: kdo převezme odpovědnost v případě nehody bezpilotního vozidla nebo poruchy inteligentního zdravotnického zařízení - a morální otázky: stojí za to vyvinout bezpilotní zbraň schopnou jednat bez vědomí osoby?
Třetí etický hlavolam je diskutován častěji než ostatní a znepokojuje lidstvo mnohem víc: co teoreticky může lidstvo udělat superinteligence, skutečný chytrý stroj?
Učte etiku AI
Specialisté na AI připouštějí: i když ne v příštích 20–30 letech se lidstvo ještě dožije vzniku skutečné umělé inteligence, která bude chytřejší než její tvůrce.
„Poslední bašta bude přijata, až bude vytvořena takzvaná„ silná AI “(Strong AI, Artificial General Intelligence), tj. AI, která bude schopna řešit neurčitě širokou škálu intelektuálních úkolů,“říká Sergey Markov.
A co je nejdůležitější, taková AI bude schopna myslet samostatně.
Mnoho institucí, včetně institutu Future of Life, Foresight Institute, Future of Humanity Institute, OpenAI a dalších, se zabývá výzkumem hrozeb, které představuje AI, a také etickými problémy spojenými s novými technologiemi.
Rozhodnutí Allison Dutman z Foresight Institute je nechat počítač číst veškerou vědeckou literaturu, vědecké články, které se zabývají otázkou etiky, a učinit z těchto informací základ pro budoucí rozhodnutí.
Co jsou neuronové sítě a jaká je jejich budoucnost?
Většina odborníků spojuje pokrok ve vývoji AI s vývojem neuronových sítí.
Neuronové sítě jsou jednou z linií výzkumu v oblasti umělé inteligence založených na modelování biologických procesů, ke kterým dochází v lidském mozku.
Právě jim vděčíme za působivé výsledky v rozpoznávání řeči a obrazu, lékařských diagnózách, překladu a tvorbě textu, generování řeči a hudební kompozici.
Dnes, jak odborníci připouštějí, jsou neuronové sítě uznávány jako jeden z nejlepších algoritmů strojového učení a řešení na nich založená ukazují momentálně nejvýraznější výsledky.
A to navzdory skutečnosti, že moderní neuronové sítě jsou jeden a půl tisíckrát jednodušší než mozek krysy.
"Doposud jsou neuronové sítě, které vytváříme, relativně malé ve srovnání s neuronovou sítí lidského mozku a navíc jsou velmi zjednodušeným analogem přirozených neuronových sítí." Proto prozatím s pomocí neuronových sítí řešíme hlavně čistě aplikované problémy, “říká Sergey Markov.
Nyní se vytvářejí specializované procesory pro trénování takových sítí (tzv. Neuromorfní procesory), které zvýší rychlost výpočtů o několik řádů.
Vývojáři se nyní zabývají nejen zvyšováním počtu neuronů v síti, ale také změnou designu sítí. "Složité systémy konfigurace sítě jsou ty, s nimiž se provádí největší počet experimentů," říká Grigory Bakunov.
A skutečnost, že se tyto systémy staly relativně přístupnými velkému počtu běžných vývojářů, vedla ke vzniku startupů experimentujících s neurálními sítěmi, jako je Prisma (aplikace umožňuje zpracovávat fotografie a proměnit je ve stylizaci obrazů slavných umělců) a Mubert (online skladatel elektronické hudby). …
Co nás čeká v blízké budoucnosti
Nick Lane, profesor na University College London a hlavní vědecký pracovník Nokia Bell Labs, předpovídá, že člověka obklopí ještě více „chytrých věcí“. Budou menší a efektivnější.
Profesor uvádí příklad: pokud si dříve senzor zabudovaný do zdi mohl uvědomit, že někdo prošel kolem, pak v budoucnu bude vědět nejen to, kdo přesně prošel, ale také to, jak se člověk chová, nic nepotřebuje, nereprezentuje zda je hrozbou pro sebe nebo pro ostatní.
Čidlo velikosti tlačítka může upozornit osobu v případě nebezpečí.
Grigory Bakunov z Yandexu také souhlasí s profesorem: „V blízké budoucnosti uvidíme boom ve vývoji úzkých umělých inteligencí, které pomohou vyřešit jeden poměrně jednoduchý problém, který však vyřeší ještě lépe než člověk.“
Například rozpoznávání hlasu již rozpoznává některé hlasové příkazy a adresy lépe než lidé.
"Nejpravděpodobnější cestou pro rozvoj naší civilizace je cesta syntézy člověka a stroje: hůl, oblečení, auto, mobilní telefon, kardiostimulátor nebo kochleární implantát - jak se vyvíjíme, naše nástroje stále více připomínají rozšíření našich těl." Zítra budou stroje schopny přijímat mentální povely od člověka, vnímat mentálně formované vizuální obrazy, přenášet informace přímo do mozku - takové projekty již existují za zdmi nejpokročilejších technologických laboratoří, “shrnuje Sergey Markov.
Stále potřebujete novináře?
Financial Times v loňském roce provedly poměrně riskantní experiment, který měl současně za úkol napsat text svému korespondentovi v profilu a chytrému programu s názvem Emma. Redaktor Financial Times poté musel přečíst oba články a odhadnout, za kterou z těchto dvou poznámek byl novinář a který počítač.
Před tímto druhem „nárazového testu“korespondent Financial Times připustil: „Myslím, že program si s úkolem určitě poradí rychleji než já. Ale doufám, že to zvládnu lépe. ““
A tak se stalo: Emma se skutečně ukázala být rychlejší - program vygeneroval text založený na statistikách míry nezaměstnanosti v Británii za 12 minut. Novináři to trvalo 35 minut. A jak později sama připustila, Emma předčila její očekávání. Program nejen obratně zpracoval fakta, ale také uvedl zprávy do kontextu, což naznačuje, jak může situaci změnit případný „brexit“(byl to v květnu 2016, před referendem o odchodu Británie z EU).
Emma však udělala něco horšího než novinářka. "Emmin článek byl napsán trochu nemotornějším jazykem." Ale co je nejdůležitější, mělo to hodně čísel, - připustil editor FT. „A možná, hlavní věcí, kterou se zde snažíme udělat, je vybrat pouze opravdu důležitá čísla.“
Emma je produktem startupu s názvem Stealth. Společnost říká, že Emma má tým živých pomocníků, ale tvrdí, že vše, co píše nebo dělá, je produktem jejích „mozků“.
A přesto - měli bychom se bát AI?
Mnoho, ne-li všichni, lidí podílejících se na vývoji systémů umělé inteligence dnes snadno připouštějí, že díky AI brzy nebudou lidé zbyteční. Právě proto, že umělá inteligence ještě není tak chytrá. Hlavní věc, která mu dnes chybí, je autonomní schopnost myslet.
"Nyní byste se neměli bát AI v žádné formě." Můžete počkat 30-40 let, než dojde k radikálním změnám, “řekl Bakunov.
Ale něco se již děje: čára se pomalu stírá mezi prací nebo úkolem prováděným osobou a úkolem prováděným strojem. Jak odborníci vysvětlují, i nyní je někdy obtížné pochopit, kdo sedí uvnitř systému - člověk nebo stroj.
"Neexistují žádná kritéria, kdy budeme schopni porozumět tomu, že uvnitř stroje vzniklo vědomí," ptá se Bakunov.
Člověk se stane kancelářskou sponkou?
Známý přívrženec poplašného úhlu pohledu, ve kterém se hrůzy popsané v Terminátorovi mohou stát realitou, filozof Nick Bostrom, je toho názoru, že AI, která dosáhla intelektuální úrovně člověka, bude schopna zničit lidstvo.
Bostrom vysvětluje pomocí kancelářských sponek: zpochybňujete umělou inteligenci, aby byly kancelářské sponky co největší a lepší. AI si v určitém okamžiku uvědomí, že člověk představuje hrozbu, protože může vypnout počítač, což by bylo v rozporu s úkolem vytvořit co nejvíce kancelářských sponek. V případě, že osoba není hrozbou, AI rozhodne, že lidská těla jsou tvořena atomy, z nichž lze vytvářet skvělé kancelářské sponky. Výsledkem je, že počítač přivede lidstvo k kancelářským sponkám.
Tento scénář se zdá mnohým přehnaný. Podle Sergeje Markova například „vysoká účinnost plnění absurdního cíle je neslučitelná s absurditou tohoto cíle - zhruba řečeno, umělá inteligence schopná přeměnit celý svět na kancelářské sponky bude nevyhnutelně dostatečně chytrá, aby takový cíl opustila.“
Umělá inteligence je jako zlatá rybka
Margaret Bodenová, britská odbornice na umělou inteligenci a profesorka kognitivních věd na univerzitě v Sussexu, je skeptická ohledně bezprostředního příchodu inteligentních strojů.
Profesor uvádí příklad „zlaté rybky“, když rybář výměnou za svobodu vysloví tři přání. Jedním z přání je vrátit svého syna z války, druhým je 50 tisíc dolarů a třetím je příležitost udělat si další ráno další ráno.
Téhož večera došlo k zaklepání na rybářský dům. Syn byl z války vrácen - v rakvi. Rybář získal pojištění za 50 tisíc dolarů.
"Vyměňte rybu za AI v tomto podobenství a vše bude jasné," vysvětluje Boden. „Ach ano, příštího dne využil rybář třetího přání a - zrušil předchozí dva.“
Je možné přenést vědomí do auta?
Sergey Markov:
Pokud mluvíme o možnosti úplného přenosu vědomí, pak moderními předchůdci takové technologie budoucnosti jsou projekty jako Blue Brain zaměřené na vytváření funkčních elektronických analogů mozku, stejně jako projekty zaměřené na vytváření rozhraní mozek-stroj (BCI) - zařízení pro protetiku ztraceného vidění, sluch, náhrada ztracených končetin, dokonce i částí mozku.
Optogenetika je velmi zajímavý a slibný směr (v zásadě lze jako rozhraní mezi mozkem a strojem změnit nejen stroje, ale také samotnou nervovou tkáň a vytvořit v ní umělé fotoreceptory).
Když se v rámci těchto soukromých projektů vyřeší celá řada technických problémů, domnívám se, že úkol přenosu vědomí se stane docela řešitelným. Dreamers již navrhují hypotetická schémata pro realizaci takového projektu.
Například Jan Korchmaryuk, který najednou navrhl název „Setleretics“pro směr výzkumu souvisejícího s přenosem vědomí, věří, že nejslibnějším schématem je použití specializovaných nanorobotů implantovaných do neuronů lidského mozku. Pro úspěšnou implementaci takového schématu je však nutné vyřešit řadu složitých technických problémů. “
Ksenia Gogitidze