Američtí odborníci vyvíjejí neuronovou síť, která dokáže vysvětlit rozhodnutí bojových robotů. Tím se zvýší úroveň lidské důvěry v „elektronické vojáky“.
Projekt Explainable Artificial Intelligence, nebo jednoduše XAI (Explainable Artificial Intelligence), umožní lidem a robotům vzájemně se lépe porozumět. Neuronová síť XAI vytvoří logický řetězec „uvažování“robota a ukáže člověku, proč se stroj právě rozhodl - například zahájit palbu na konkrétní cíl.
Probíhá vývoj s cílem vytvořit v americké armádě smíšené bojové jednotky robot-člověk. Dosud je těžké si to představit, ale za několik desetiletí se roboti stanou plnohodnotnými vojáky - stejně jako lidé. Kromě toho jsou schopni nahradit člověka v situacích, kdy může být nutné zahájit palbu na živý cíl. Taková náhrada formálně zbaví osobu odpovědnosti za smrtelné rozhodnutí, ale nebude schopna zbavit jej pochybností a výčitek a může také způsobit nedůvěru robotů. Nikdy to nevíš - možná roboti jsou vlastně elektroničtí maniaci, kteří rádi zabíjejí?
Projekt XAI by měl tento problém vyřešit v interakci člověk-robot. Díky zavedení nového systému budou armáda (ti, kteří stále žijí), schopni pochopit, podle jakého kritéria stroj vyhodnotil tento nebo ten předmět nebo osobu jako hrozbu. XAI navíc usnadní bojovým robotům přizpůsobení se realitě konkrétního vojenského konfliktu a sníží míru nesmyslné krutosti.
Nový vývoj bude užitečný nejen pro armádu. Může být také použit v civilní sféře - v průmyslu, bezpečnostních systémech a medicíně. Příkladem takového použití je Bill Ferguson, přední specialista Raytheonu, který se přímo podílí na vývoji neuronové sítě. "Pokud umělá inteligence detekuje příznaky rakoviny plic na rentgenovém snímku, lékař může zjistit, proč se to stroj rozhodl." Počítač zvýrazní všechny podezřelé oblasti, které by lékař mohl ignorovat, a zaměňuje se za obrazové artefakty. Poté bude lékař schopen určit, zda stojí za to opravit diagnózu, nebo zda došlo k omylu neuronové sítě, “vysvětluje vědec.