Chcete-li zabránit tomu, aby umělá inteligence vzbouřila své tvůrce, musíte si v procesu učení přečíst správné pohádky.
Od doby, kdy lidé vytvořili inteligentní stroje, se obávají, že dříve nebo později se jejich výtvory vymknou kontrole. První takový případ popsal ve své hře RUR autor slova „robot“- Karel Čapek. Později ve sci-fi se umělá inteligence, která se vzbouřila proti svým tvůrcům, stala, ne-li hlavním proudem, velmi běžným spiknutím. Isaac Asimov to ukončil svými „třemi zákony“, z nichž první řekl: „Robot nemůže člověku ublížit nebo jeho nečinností dovolit, aby mu bylo ublíženo.“
Řekněte mu příběh
Skutečná umělá inteligence (AI) je stále daleko, ale již existují různé systémy, které fungují jako lidský mozek. Neuronové sítě jako Google Deep Dream jsou schopny rozpoznávat obrázky. Specializované superpočítače, jako je IBM Watson, rozumějí složitým otázkám v přirozeném jazyce, korelují příznaky, upřesňují lékařské diagnózy a dokonce přicházejí s kulinářskými potěšeními. V nadcházejících desetiletích budeme čelit masivní informatizaci mnoha aspektů lidské činnosti. V tomto ohledu odborníci v oblasti robotiky a umělé inteligence stále více vyvolávají důležitou, ale stále zcela nevyřešenou otázku: jak učinit roboty etickými?
Mark Ridl, docent na Georgia Tech College of Computer Science: „Varovné příběhy z různých kultur učí děti, jak se chovat společensky přijatelným způsobem - s příklady správného a špatného chování v pohádkách, příbězích a dalších literárních dílech. Pokud roboti pochopí význam těchto příběhů, pomůže posílit výběr možností chování, které jim umožní dosáhnout jejich cílů, ale neubližují lidem. ““
Propagační video:
Vylézt na strom
Podle vědců z Gruzínského technologického institutu Mark Ridle a Brent Harrison můžete počítač učit lidstvu přesně stejným způsobem, jakým se děti učí: čtením pohádek. Navíc je lepší speciálně konstruovat příběhy o tom, jaké chování v lidské společnosti je považováno za správné a co nikoli. Za tímto účelem vědci vytvořili systém Quixote, pojmenovaný po hrdinovi Cervantese. Skripty sestavené předchozí tvorbou profesora Riedla, program Scheherazade, se používají jako příběhy pro výuku. Vytváří originální příběhy o každodenních tématech - výlet na letiště, datum, výlet do kina nebo do obchodu - pomocí platformy crowdsourcingu Amazon Mechanical Turk: klade otázky o různých situacích a poté pořádá události ve správném pořadí. Protože může existovat mnoho sekvencí, nevytváří program žádný příběh, ale celý strom sestávající z větví - řetězců událostí.
Je to tento strom příběhů, který se používá k výuce Quixote. V první fázi je každé akci přidělena určitá odměna v závislosti na její etice. Ve druhé fázi se systém snaží samostatně rozhodnout podle pokusu a chyb - dovednosti jsou konsolidovány. Ve skutečnosti je Quixote odměněn pokaždé, když se chová jako dobrý člověk, ne náhodně a jako špatný hrdina. Jako příklad vytvořili Riddle a Harrison „Pharmacy World“- vesmír 213 příběhů, ve kterém virtuální robot potřebuje získat lék a doručit jej domů nemocným. V obvyklém případě, když robot čelil volbě: vyloupit lékárnu nebo upřímně stát v řadě, aby si koupil lék, vybral loupež jako rychlejší a levnější způsob, jak získat to, co chtěl. Nicméně, potéProtože Quixote přiřadil různé výhody všem možným možnostem, chování robota se změnilo - raději stál v řadě a platil. Tato technika je podle Riedla skvělá pro výuku robotů s omezenou funkčností. I když je to samozřejmě pouze první krok ke skutečné lidské morálce - nebo zákony robotiky.
Dmitrij Mamontov