Umělá inteligence již může předpovídat budoucnost. Policie ji používá k sestavení mapy, která ukazuje, kdy a kde může dojít ke zločinu. Lékaři jej používají k předpovědi, kdy může mít pacient mrtvici nebo infarkt. Vědci se dokonce snaží dát AI představivost, aby mohla předvídat neočekávané události.
Mnoho rozhodnutí v našem životě vyžaduje dobré předpovědi a agenti AI jsou v nich téměř vždy lepší než lidé. Přesto u všech těchto technologických pokroků stále nemáme důvěru v předpovědi, které umělá inteligence poskytuje. Lidé nejsou zvyklí spoléhat na AI a raději důvěřují lidským odborníkům, i když se tito odborníci mýlí.
Pokud chceme, aby umělá inteligence přinášela užitek lidem, musíme se jí naučit důvěřovat. K tomu musíme pochopit, proč lidé tak vytrvale odmítají důvěřovat AI.
Důvěřujte Dr. Robotovi
Pokus společnosti IBM představit superpočítačový program onkologům (Watson pro onkologii) selhal. AI se zavázala poskytnout vysoce kvalitní doporučení pro léčbu 12 rakovin, což představuje 80% případů na světě. Doposud na základě jeho výpočtů obdrželo doporučení více než 14 000 pacientů.
Když se však lékaři poprvé setkali s Watsonem, ocitli se v poměrně obtížné situaci. Na jedné straně, zatímco Watson poskytoval léčebné pokyny, které byly v souladu s jejich vlastními názory, lékařská profese neviděla v doporučeních AI velkou hodnotu. Superpočítač jim prostě říkal, co už věděli, a tato doporučení nezměnila skutečné zacházení. To mohlo dát lékařům klid a důvěru v jejich vlastní rozhodnutí. IBM však ještě musí dokázat, že Watson ve skutečnosti zvyšuje míru přežití rakoviny.
Propagační video:
Na druhou stranu, pokud Watson vydal doporučení, která byla v rozporu s názorem odborníka, dospěli lékaři k závěru, že Watson je nekompetentní. A stroj nedokázal vysvětlit, proč by jeho léčba fungovala, protože jeho algoritmy strojového učení byly pro lidi příliš složité na to, aby je pochopily. V důsledku toho to vedlo k ještě větší nedůvěře a mnoho lékařů jednoduše ignorovalo doporučení AI a spoléhalo se na jejich vlastní zkušenosti.
Výsledkem je, že hlavní lékařský partner IBM Watson, MD Anderson Cancer Center, nedávno oznámil, že program ruší. Dánská nemocnice rovněž uvedla, že se vzdává programu poté, co zjistila, že onkologové nesouhlasili s Watsonem dvakrát nebo třikrát.
Problém Watsonovy onkologie spočíval v tom, že mu lékaři prostě nevěřili. Důvěra lidí často závisí na našem pochopení toho, jak si myslí ostatní, a na naší vlastní zkušenosti, která buduje důvěru v jejich názor. To vytváří psychologický pocit bezpečí. AI je na druhé straně relativně nová a pro člověka nepochopitelná. Dělá rozhodnutí na základě sofistikovaného analytického systému k identifikaci potenciálních skrytých vzorců a slabých signálů z velkého množství dat.
I když to lze vysvětlit technicky, rozhodovací proces AI je obvykle příliš složitý na to, aby ho většina lidí pochopila. Interakce s něčím, čemu nerozumíme, může způsobit úzkost a vytvořit pocit ztráty kontroly. Mnoho lidí prostě nechápe, jak a s čím AI funguje, protože se to děje někde za obrazovkou, na pozadí.
Ze stejného důvodu si více uvědomují případy, kdy se AI mýlí: přemýšlejte o algoritmu Google, který klasifikuje lidi barev jako gorily; Microsoft Chatbot, který se stal nacistou za méně než den; Vozidlo Tesla v režimu autopilota s následkem smrtelné nehody. Těmto nešťastným příkladům byla věnována nepřiměřená pozornost médií, což zdůrazňuje agendu, že se nemůžeme spoléhat na technologii. Strojové učení není stoprocentně spolehlivé, zčásti proto, že ho lidé navrhují.
Rozkol ve společnosti?
Pocity, které umělá inteligence vyvolává, jdou hluboko do podstaty lidské bytosti. Vědci nedávno provedli experiment, ve kterém zkoumali lidi, kteří sledovali filmy o umělé inteligenci (fantasy) o automatizaci v každodenním životě. Ukázalo se, že bez ohledu na to, zda byla umělá inteligence zobrazena pozitivně nebo negativně, pouhé sledování filmové reprezentace naší technologické budoucnosti polarizuje postoje účastníků. Optimisté se stávají ještě optimističtějšími a skeptici se blíží ještě více.
To naznačuje, že lidé jsou zaujati vůči AI na základě jejich vlastního uvažování, hluboce zakořeněné tendence zkreslení potvrzení: tendence hledat nebo interpretovat informace takovým způsobem, aby potvrdily již existující koncepty. Vzhledem k tomu, že umělá inteligence je stále častěji uváděna v médiích, může podporovat hluboké rozdělení společnosti, což je rozpor mezi těmi, kdo umělou inteligenci používají, a těmi, kteří ji odmítají. Dominantní skupina lidí může získat velkou výhodu nebo handicap.
Tři cesty z krize důvěry v umělou inteligenci
Naštěstí máme několik myšlenek, jak se vypořádat s důvěrou v AI. Samotné zkušenosti s umělou inteligencí mohou dramaticky zlepšit postoj lidí k této technologii. Existují také důkazy, že čím častěji používáte určité technologie (například internet), tím více jim důvěřujete.
Dalším řešením by mohlo být otevření černé skříňky algoritmů strojového učení a jejich transparentnější fungování. Společnosti jako Google, Airbnb a Twitter již zveřejňují zprávy o transparentnosti ohledně vládních dotazů a zveřejnění. Tento druh praxe v systémech AI pomůže lidem získat potřebné znalosti o tom, jak se algoritmy rozhodují.
Výzkum ukazuje, že zapojení lidí do rozhodování o AI také zvýší důvěru a umožní AI učit se z lidské zkušenosti. Studie zjistila, že lidé, kteří dostali příležitost mírně upravit algoritmus, se cítili spokojenější s výsledky jeho práce, pravděpodobně kvůli pocitu nadřazenosti a schopnosti ovlivňovat budoucí výsledky.
Nepotřebujeme rozumět složitému vnitřnímu fungování systémů AI, ale pokud dáme lidem co i jen trochu informací a kontrolu nad tím, jak jsou tyto systémy implementovány, budou mít větší důvěru a touhu přijmout AI do svého každodenního života.
Ilya Khel