Všichni čekáme na okamžik, kdy se umělá inteligence, programy, technologie naučí dělat prakticky totéž, pak jsme. To vše je skutečné. Ale zatím si jen málokdo myslí, že to samé nebude pro stroje a lidi stejný.
Například skupina vědců z Kyushu University objevila způsob, jak oklamat programy rozpoznávání vzorů změnou jednoho pixelu v obrázku. Tento pixel je umístěn tak, že zaměňuje neuronové sítě odpovědné za identifikaci a začnou si zaměňovat psy za kočky a koně za auta.
Testovací obrázky byly omezeny na pouhých tisíc pixelů, ale pro vyšší rozlišení a miliony pixelů pravidlo funguje také. Pouze je třeba změnit ne jeden pixel, ale několik set.
Druhá skupina vědců, tentokrát z Massachusetts Institute of Technology, dokázala jít ještě dále. Byli schopni vytisknout sochu želvy pomocí 3D tiskárny, kterou program, i když viděl ze všech stran a z jakéhokoli úhlu, vzal za pušku. Tento experiment představuje mnohem větší problém pro technologii rozpoznávání obrazu, protože celá věc se stala ve skutečnosti, a program měl možnost analyzovat objekt ze všech úhlů, ale stále nezjistil jeho skutečný tvar.
Společně obě studie ukazují, jak musí roboti a programy cestovat, než dosáhnou lidské úrovně. Koneckonců, naše mozky nelze oklamat nahrazením jednoho nebo dokonce sta pixelů.
Jedinou škoda je, že zdroje neposkytují vysvětlení toho, jak se ukázalo, že klamou program. Co myslíš? Co je tajemstvím „zlomených pixelů“a jak můžete podvádět 3D model?
Nikolay Kudryavtsev
Propagační video: