Nová studie ukázala, že projevující předsudky vůči ostatním nevyžadují zvláštní inteligenci a mohou se snadno vyvíjet v uměle inteligentních strojích.
Psychologové a specialisté na informační technologie na University of Cardiff a MIT prokázali, že skupiny autonomních strojů mohou projevit zaujatosti tím, že jednoduše definují takové chování, zkopírují ho a vzájemně ho učí.
Může se zdát, že předsudky jsou čistě lidským jevem, který vyžaduje, aby lidská inteligence tvořila názory nebo stereotypy o osobě nebo skupině. Zatímco některé typy počítačových algoritmů již projevily neobjektivnost, jako je rasismus a sexismus na základě studia veřejných záznamů a dalších údajů generovaných člověkem, nová práce ukazuje schopnost AI samostatně se rozvíjet zaujaté skupiny.
Výzkum je publikován ve vědeckých zprávách. Je založen na počítačových simulacích toho, jak mohou předpojatí virtuální agenti tvořit skupiny a vzájemně spolupracovat. Během simulace se každý jednotlivec rozhodne, zda pomůže někomu z jeho skupiny nebo od jiného, v závislosti na reputaci tohoto jednotlivce, jakož i na jeho vlastní strategii, která zahrnuje jejich úroveň předsudků vůči cizincům. Po provedení tisíce simulací se každý jednotlivec učí nové strategie kopírováním ostatních - ať už jsou členy vlastní skupiny nebo celé „populace“.
Relativní kumulativní frekvence charakteristik agentů podle úrovně předsudků / Roger M. Whitaker.
"Poté, co jsme tyto simulace prováděli tisíce a tisícekrát za sebou, jsme začali chápat, jak se vyvíjí zkreslení a jaké podmínky jsou potřebné k jeho kultivaci nebo prevenci," uvedl spoluřešitel studie Profesor Roger Whitaker z Ústavu pro výzkum trestné činnosti a bezpečnosti a Školy informatiky a informatiky na Cardiffské univerzitě. „Naše simulace ukazují, že zaujatost je silnou silou přírody a prostřednictvím evoluce ji lze stimulovat ve virtuálních populacích, aby poškodila širší spojení s ostatními. Ochrana před poškozenými skupinami může neúmyslně vést ke vzniku dalších poškozených skupin, což může vést k většímu rozdělení populace. Takové rozšířené předsudky je obtížné zvrátit. “
Výzkumná data zahrnují také jednotlivce, kteří zvyšují svou úroveň zaujatosti preferenčním kopírováním těch, kteří dosahují nejlepších krátkodobých výsledků, což zase znamená, že taková rozhodnutí nemusí nutně vyžadovat zvláštní schopnosti.
„Je zcela pravděpodobné, že autonomní stroje schopné identifikace s diskriminací a kopírování ostatních mohou být v budoucnosti náchylné k jevům předsudků, které vidíme ve společnosti,“pokračuje profesor Whitaker. „Mnoho vývojů umělé inteligence, které dnes vidíme, zahrnuje autonomii a sebeovládání, to znamená, že chování zařízení je také ovlivněno těmi kolem nich. Nedávné příklady zahrnují dopravu a internet věcí. Náš výzkum poskytuje teoretický pohled na to, kde se simulovaní agenti pravidelně obracejí k jiným za účelem získání zdrojů.
Propagační video:
Vědci také zjistili, že za určitých podmínek, včetně přítomnosti více rozdělených subpopulací téže společnosti, je předpojatost obtížnější posílit.
"S velkým počtem subpopulací mohou nezaujaté skupinové odbory spolupracovat, aniž by byly zneužity." Rovněž se tím snižuje jejich menšinový status a zároveň se snižuje jejich náchylnost k zaujatosti. To však také vyžaduje okolnosti, za nichž jsou agenti příznivěji nakloněni interakcím mimo jejich skupinu, “uzavřel profesor Whitaker.
Vladimir Guillen