Umělá inteligence (AI) již přetváří svět viditelným způsobem. Data řídí náš globální digitální ekosystém a technologie AI odhalují vzorce v datech.
Smartphony, inteligentní domácnosti a inteligentní města ovlivňují způsob, jakým žijeme a interagujeme, a systémy umělé inteligence se stále více podílejí na přijímání rozhodnutí, lékařské diagnostice a rozhodování. Zda je tento scénář utopický nebo dystopický, je na nás.
Možná rizika AI jsou uvedena mnohokrát. Zabijáci a masivní nezaměstnanost jsou běžné problémy, zatímco někteří lidé se dokonce bojí vyhynutí. Optimističtější projekce tvrdí, že AI přidá do světové ekonomiky do roku 2030 15 bilionů dolarů a nakonec nás zavede k určitému druhu sociální nirvany.
Určitě musíme zvážit dopad, jaký tyto technologie mají na naše společnosti. Jedním z hlavních problémů je to, že systémy umělé inteligence posilují stávající sociální předsudky - do ničivého účinku.
Několik notoricky známých příkladů tohoto jevu bylo rozšířeno: moderní automatizované systémy strojového překladu a systémy rozpoznávání obrazu.
Tyto problémy vznikají, protože takové systémy používají matematické modely (jako jsou neuronové sítě) k definování vzorců ve velkých souborech údajů o školení. Pokud budou tato data různými způsoby vážně zkreslena, budou nevyhnutelně studovány a reprodukovány inherentní chyby školenými systémy.
Předpojaté autonomní technologie jsou problematické, protože mohou potenciálně izolovat skupiny, jako jsou ženy, etnické menšiny nebo starší lidé, čímž se prohlubuje stávající sociální nerovnováha.
Pokud jsou systémy AI vyškoleny například z údajů o policejním zatčení, pak jakákoli vědomá nebo nevědomá zkreslení projevená ve stávajících systémech zatčení bude duplikována systémem AI „policejní předvídavosti“vyškoleným z těchto dat.
Propagační video:
Různé uznávané organizace uznaly vážné důsledky a nedávno doporučily, aby byly všechny systémy umělé inteligence vyškoleny na objektivní údaje. Etické pokyny zveřejněné Evropskou komisí dříve v roce 2019 navrhly toto doporučení:
Při shromažďování dat mohou obsahovat sociálně konstruované chyby, nepřesnosti. To je třeba řešit před školením AI na jakémkoli souboru dat.
To vše zní dost rozumně. Bohužel, někdy není možné zajistit nestrannost určitých datových souborů před tréninkem. Konkrétní příklad by to měl objasnit.
Všechny moderní systémy strojového překladu (jako je Google Translate) se učí z dvojic vět.
Anglo-francouzský systém používá údaje, které propojují anglické věty („ona je vysoká“) s ekvivalentními francouzskými větami („elle est grande“).
V daném souboru údajů o výcviku by mohlo být 500 milionů takových párů, a tedy pouze jedna miliarda individuálních vět. Pokud chceme zabránit tomu, aby se v systému generovaly výsledky, jako jsou následující, musí být odstraněna veškerá předpojatost pohlaví:
Francouzský překlad byl vytvořen pomocí Google Translate 11. října 2019 a je nesprávný: „Ils“je ve francouzštině mužský množné číslo a zdá se zde, i když z kontextu jasně vyplývá, že se na něj odkazuje. na ženy.
Toto je klasický příklad automatizovaného systému, který preferuje výchozí mužský standard kvůli zkreslení v tréninkových datech.
Celkově je 70 procent obecných zájmena v souborech překladů maskulinních a 30 procent ženských. Důvodem je skutečnost, že texty používané pro tyto účely se častěji vztahují na muže než na ženy.
Aby se předešlo opakování existujících chyb překladatelského systému, bylo by nutné z údajů vyloučit konkrétní dvojice vět, aby se zájmena mužského a ženského pohlaví setkávala v poměru 50/50 na anglické i francouzské straně. Tím se zabrání systému přiřazování vyšších pravděpodobností mužským zájmům.
A i když výsledná podmnožina údajů je plně vyvážená z hlediska pohlaví, bude stále zkreslená různými způsoby (např. Etnickým nebo věkem). Ve skutečnosti by bylo obtížné úplně odstranit všechny tyto chyby.
Pokud jedna osoba věnuje pouhých pět sekund čtení každé z jedné miliardy vět v tréninkových datech AI, bude to trvat 159 let, než budou všechny vyzkoušeny - a to předpokládá ochotu pracovat celý den a noc bez přestávek na oběd.
Alternativní?
Proto je nereálné vyžadovat, aby byly všechny datové sady školení před sestavením systémů AI nezaujaté. Takové požadavky na vysoké úrovni obvykle předpokládají, že „AI“označuje homogenní shluk matematických modelů a algoritmických přístupů.
Ve skutečnosti různé úkoly AI vyžadují zcela odlišné typy systémů. A plné podceňování této rozmanitosti maskuje skutečné problémy spojené s, řekněme, vysoce zkreslenými daty. To je nešťastné, protože to zanedbává jiná řešení problému předpojatosti dat.
Například zkreslení ve vyškoleném systému strojového překladu může být významně sníženo, pokud je systém upraven poté, co byl vyškolen na velkém, nevyhnutelně předpojatém datovém souboru.
To lze provést pomocí mnohem menšího a méně zkomoleného datového souboru. Proto lze většinu údajů vysoce ovlivnit, ale školený systém není nutný. O těchto metodách bohužel jen zřídka diskutují ti, kdo vytvářejí směrnice a právní rámce pro výzkum AI.
Pokud systémy umělé inteligence jednoduše prohloubí stávající sociální nerovnováhu, je pravděpodobnější, že budou odrazovat než podporovat pozitivní sociální změnu. Kdyby byly technologie umělé inteligence, které stále více používáme denně, mnohem méně zaujaté než my, mohly by nám pomoci rozpoznat a čelit našim vlastním číhajícím předsudkům.
O to bychom se samozřejmě měli snažit. Proto musí designéři umělé inteligence přemýšlet mnohem pečlivěji o sociálních důsledcích systémů, které vytvářejí, zatímco ti, kteří píší o umělé inteligenci, musí lépe porozumět tomu, jak jsou systémy umělé inteligence skutečně navrženy a postaveny.
Protože pokud se skutečně blížíme buď k technologické idyli, nebo k apokalypse, první by byla lepší.
Victoria Vetrová