Upravená videa se objevují na internetu, kde lidé říkají určitá slova (i když je ve skutečnosti neřekli) nebo vykonávají některé akce (i když je ve skutečnosti neudělali). Díky novému vývoji založenému na umělé inteligenci se kvalita takových video padělků výrazně zvýší.
Technologie pro vytváření falešných videí se dnes neomezují pouze na pohyby rtů a obličeje osoby v původních rámcích - systém založený na umělé inteligenci je schopen připravit realistické video, ve kterém upravený digitální obraz člověka může pohybovat hlavou různými směry, blikat a ukazovat emoce. Všechny akce a slova herce, který je natočen v původním videu, budou převedeny na falešné video.
Vývojový tým porovnával nový algoritmus se stávajícími systémy manipulace s videem a fotografiemi, se kterými se Facebook a Google zabývají. Nový algoritmus předčil existující techniky a účastníci experimentu nemohli jen stěží určit pravost videí.
Výzkumníci byli částečně financováni společností Google. Tvůrci systému doufají, že nová technologie zlepší virtuální realitu. AI potřebuje ke studiu upraveného videa pouze několik minut zdrojového materiálu. Vědci proto tvrdí, že vysoce kvalitní software pro editaci videa bude dostupnější.
Vývojáři chápou, že jejich vynález může v komunitě vyvolat určité obavy.
Výzkumník Justus Tees řekl The Register, že se obává etické stránky problému. Výsledky studie byly zveřejněny s cílem upozornit lidi na pokrok v manipulačních technikách, řekl Tees.
Vědci opět „varovali před nebezpečím“, ale nadále vylepšovali podezřelé technologie. V textu studie byl etický problém zmíněn pouze přechodem: vývojáři se domnívají, že by někdo měl vylepšit systém vodoznaků nebo přijít s jiným způsobem, jak odhalit padělání videa.
Samotní vědci se tímto problémem nechtějí zabývat, protože se zabývají zlepšováním nástroje pro vytváření falešných videí.
Propagační video:
Anton Komarov