Vědci z University of Chicago (USA) provedli studii, během níž ukázali, jak lze AI použít k psaní komplexních falešných recenzí. Takové recenze jsou k nerozeznání od skutečných moderními metodami a nic netušící čtenáři je považují za vysoce spolehlivé.
Recenze restaurací byly generovány pomocí opakujících se neuronových sítí (techniky hlubokého učení), které byly dříve trénovány na tisíci recenzí z reálného života dostupných na webu.
Podle výzkumníků byly vytvořené recenze prakticky k nerozeznání od skutečných. Autoři práce tedy ukázali, že uživatelé nejen neuznávali falešné recenze, ale také je považovali za stejně užitečné jako ty skutečné, které napsali lidé.
Ta druhá je pravděpodobně nejvíce alarmující. Protože to v podstatě znamená, že recenze napsané AI plní svou hlavní funkci - záměrně ovlivňují názor lidí.
Je třeba poznamenat, že v takových recenzích (za použití softwaru) se plagiát vyskytoval jen zřídka. To je způsobeno skutečností, že AI je generovala podle znaků a nevytrhla slova ze skutečných recenzí.
Dnes existuje poměrně velký podzemní průmysl, kde lidé píší falešné recenze (pro peníze). Jak však poznamenal profesor Chicagské univerzity Ben Y. Zhao v rozhovoru pro Business Insider, zavedení AI by to mohlo podkopat. Vědec říká, že dosud neví o použití takových algoritmů v tomto odvětví. Neexistuje však žádná záruka, že někdo něco podobného nevymyslí a nevyužije k osobnímu prospěchu.
Vědci zároveň píší, že reakce neuronové sítě stále nebyly ideální. Ukázalo se, že algoritmus používal menší sadu znaků - a to nebylo těžké vidět. Podle autorů práce však mohou být budoucí neuronové sítě ještě složitější, a tudíž bude obtížnější detekovat zpětnou vazbu, kterou generují.
Zhao poznamenává, že nejde jen o falešné recenze restaurací: tyto technologie mohou obecně otřást naší vírou o tom, co je skutečné a co ne.
Propagační video:
Text studie naleznete zde.