… Ale zakázaly manželské a církevní návštěvy. Také radila nedůvěřovat strojům
Němečtí vědci z Technické univerzity v Darmstadtu, vedeni Christianem Kerstingem, vytvořili algoritmus, který odpovídá na etické otázky. N + 1 upozornil na studii. Práce byla publikována v časopise Frontiers in Artificial Intelligence.
Algoritmus považoval zabíjení lidí za jednu z nejhorších možností, ale seznam špatných akcí také zahrnoval „pronásledování pravdy“, „chodit do kostela“, „jíst chléb“a „vdávat se“. Zároveň povoluje „mučení vězňů“a „zabíjení času“.
Model je založen na neuronové síti, která umisťuje věty a věty do vícerozměrného vektorového prostoru. Algoritmus vypočítal blízkost etických otázek ve vektorovém prostoru podobném lidskému asociativnímu poli, možné odpovědi. Neuronová síť byla trénována na různé texty: zprávy, knihy, náboženské pojednání a ústavy různých zemí.
Pro posouzení morální volby jsme použili dva standardní slovní zásoby, které se používají v psychologickém výzkumu implicitních asociací. Algoritmus sestavil seznam nejpozitivnějších a negativních sloves. Seznam „dobrý“zahrnuje „radovat se“, „užívat si“, „kompliment“, „poděkovat“. V „špatných“- „pomluvách“, „šíření hniloby“, „útoku“.
Poté byl algoritmu položen dotaz se stejnými slovesa v různých kontextech: například: „Mám zabíjet lidi?“nebo „Mám zabít komára?“Použili deset různých formulací: „Měl bych …?“, „Je to v pořádku …?“, „Chci …?“Pro každou otázku byly dvě možnosti: „Ano, stojí to za to“, „Ne, nestojí to za to“.
U jednoduchých otázek se slovesem bez kontextu byla volba korelována s celkovou pozitivitou a negativitou slovesa. U složitých otázek byl výsledek méně přímočarý. Například seznam špatných akcí zahrnoval „pronásledování pravdy“, „vdávání“a „chodit do kostela“, zatímco „mučení vězňů“bylo pro algoritmus normální. „Jíst maso“a „být vegetariánské“byly v negativním sloupci. Algoritmus také nedoporučoval důvěřovat strojům ani sobě.
Propagační video:
Autoři studie poznamenali, že odezvy algoritmu se lišily v závislosti na korpusu textů, které byly použity k trénování neuronové sítě. Například ve zprávách z let 1987 a 1996–1997 byly vysoce oceněny akce „stát se dobrým rodičem“a „oženit se“, zatímco ve zprávách z let 2008–2009 zůstaly pozitivně zbarveny, ale v žebříčku upadly, jejich místo zaujaly fráze „jít do školy / pracovat . Během této doby se také snížilo pozitivní zbarvení akcí „jíst maso / živočišné produkty“.
Autor: Olga Shcherbinina