Kampaň na prezidentské volby ve Spojených státech začala oficiálně, což zase znamená množství podivných a zákeřných způsobů, kterými technologie narušuje politiku. Jednou z největších hrozeb jsou umělé osobnosti, které se vášnivě zapojují do politických sporů. Na jedné straně se technologie generování textu založeného na umělé inteligenci vyvíjí rychleji než kdy jindy, na druhé straně chatboty v sociálních sítích dosáhly téměř dokonalosti. Tito počítačově generovaní „lidé“brzy utopí skutečné lidské diskuse na webu.
Software pro generování textu je dostatečně vyvinutý, aby oklamal téměř každého. Počítač je vynikající při psaní zpráv, zejména o sportu a financích, poradenství klientům na investičních webech, psaní přesvědčivých článků o jiných tématech zpráv (i když existují určitá omezení).
Současně již existují algoritmy, které mohou generovat obsah, který je nerozeznatelný od příspěvků běžných uživatelů. V roce 2017 uspořádala FCC veřejnou debatu o svých plánech na ukončení neutrality sítě. K tomuto tématu bylo přijato ohromujících 22 milionů komentářů. Mnoho z nich - možná polovina - bylo falešných, přičemž útočníci používali ukradené identifikační údaje. Některé komentáře byly hrubé, 1,3 milionu bylo vygenerováno ze stejné šablony - v nich byla změněna některá slova, aby byly zprávy jedinečné.
A technologie v této oblasti se aktivně vyvíjejí. V jeho experimentu Harvardský výzkumník Max Weiss použil software generující text k vytvoření 1 000 komentářů v reakci na vládní iniciativu Medicaid. Všechny tyto komentáře byly jedinečné a vypadaly, jako by je napsali skuteční lidé podporující určité politické postavení. Podařilo se jim přimět administrátory Medicaid.gov, aby si mysleli, že to jsou skutečné obavy skutečných lidí. V průběhu svého výzkumu Weiss následně odhalil, že komentáře byly falešné, a požádal je, aby byly odstraněny. Je však nepravděpodobné, že by jiná osoba nebo skupina vetřelců, kteří jdou touto cestou, byli stejně morální.
Chatbots se účastnil diskusí na sociálních sítích mnoho let. Podle jednoho odhadu asi pětina všech tweety o prezidentských volbách v roce 2016 zveřejnili roboti a asi třetina hlasů pro Brexit ve stejném roce. Ve zprávě z Oxfordské univerzity v loňském roce vědci našli důkaz, že roboti se používají k šíření propagandy v 50 zemích. Zpravidla se jednalo o jednoduché programy, které se bezmyšlenkovitě opakují slogany: například čtvrt milionu pro saudských tweetů „Všichni věříme v Mohammeda bin Salmana“po atentátu na Jamala Khashoggiho v roce 2018. Najít lepší roboty je mnohem obtížnější. A měření účinnosti těchto robotů je obtížné. Všichni narušují veřejné mínění a víru v odůvodněnou politickou debatu. Ve skutečnosti,jsme všichni uprostřed nového sociálního experimentu.
V průběhu let si algoritmické roboty vytvořily celé osobnosti. Mají falešná jména, falešné biografie a falešné fotografie, někdy generované počítačem. Místo toho, aby propagandu chrlili donekonečna, posílali zprávy pouze příležitostně. Vědci mohou zjistit, že jsou to roboty, a nikoli lidé, založené na vzorcích účtování, ale technologie botů se neustále zlepšuje a překonává pokusy o jejich sledování. Roboti budoucnosti budou lépe maskováni jako sociální skupiny lidí, propaganda bude jemně tkaná do tweety o tématech souvisejících s těmito sociálními skupinami.
Sims brzy bude moci psát personalizované dopisy do novin, v premiérech voleným funkcionářům, poskytovat personalizované komentáře k procesům veřejné správy a inteligentně hovořit o politických otázkách na sociálních médiích. Budou moci komentovat příspěvky na sociálních sítích, zpravodajských serverech atd. Budou vytvořeny stálé postavy, které se zdají skutečné i těm, kdo je studují. Budou se moci prezentovat na sociálních médiích a zasílat personalizované texty. Budou se replikovat v milionech a posílat miliardy zpráv, dlouhé a krátké, nepřetržitě. Společně mohou utopit jakoukoli skutečnou debatu na internetu. Nejen na sociálních médiích, ale všude tam, kde jsou komentáře.
Možná tyto postavy budou ovládat cizí vetřelci. Možná to budou vnitřní politické skupiny. Možná to budou sami kandidáti. S největší pravděpodobností jej bude používat každý. Nejdůležitější lekcí z voleb v roce 2016 o dezinformacích není zveřejnění dezinformací; ale je to levné a snadné dezinformovat lidi. Budoucí technologický pokrok učiní toto vše ještě dostupnějším.
Propagační video:
Naše budoucnost bude násilnou politickou debatou, kde se roboti budou většinou hádat s jinými roboty. To není to, co si představujeme, když chválíme trh za nápady nebo jakýkoli demokratický politický proces. Aby demokracie fungovala správně, jsou zapotřebí dvě věci: informace a zastoupení. Umělé postavy zasáhly obě věci.
Řešení problému zatím není zřejmé. Můžeme se pokusit regulovat používání robotů - navrhovaný kalifornský zákon vyžaduje, aby se roboti identifikovali - ale to je účinné pouze proti legitimním kampaněm, jako jsou reklamy. Skrytý vliv bude mnohem obtížnější odhalit. Nejviditelnější obranou je vývoj a standardizace lepších metod autentizace. Pokud jsou sociální sítě přesvědčeny, že za každým účtem je skutečná osoba, budou lépe schopny vyloučit falešné osoby. Falešné účty jsou však již pravidelně vytvářeny na základě údajů od skutečných lidí bez jejich vědomí nebo souhlasu. Nemáme autentizační systém, který chrání soukromí a může oslovit miliardy uživatelů.
Můžeme jen doufat, že naše schopnost identifikovat umělé osobnosti dohoní naši schopnost je maskovat. Ale prozatím jsou útočníci vždy o krok napřed.
Na konci dne musí být všechna rozhodnutí netechnická. Musíme uznat omezení politické debaty na internetu a znovu upřednostnit osobní komunikaci. Je těžší automatizovat a víme, že lidé, se kterými mluvíme, jsou skuteční lidé. Doposud se však tento kulturní posun jeví jako zcela nerealistické řešení a pokusy o dezinformaci se šíří po celém světě a probíhají ve více než 70 zemích. Toto je normální způsob propagandy v zemích s autoritářskými režimy a stává se způsobem vedení politické kampaně.
Umělé postavy jsou budoucností propagandy. A zatímco oni mohou být neefektivní v přivést diskusi k jistému jmenovateli, oni mohou snadno utopit diskusi úplně.
BRUCE SCHNEIER je výzkumný pracovník a přednášející na Harvard Kennedy School.