Jak počítače dělají divná rozhodnutí
Umělá inteligence se vyvíjí tak rychle, že mnozí začínají pociťovat úzkost: pokud bude brzy moci zažít emoce a učinit svá vlastní rozhodnutí. Ať už je to bot, autonomní vozidlo nebo tvůrce rozhodnutí v oblasti obchodu a vědy: umělá inteligence proniká do všech oblastí našeho života a společnosti. Strojové mozky jsou považovány za logické, nezaměstnané a nestranné, ale praxe ukazuje, že ne vždy rozhodují všechno s otevřenou myslí.
Umělá inteligence je nezbytná tam, kde je důležité rozeznat vzorce ve velkém množství dat a na základě nich rozhodovat. Ale v budoucnu by systémy umělé inteligence mohly být také použity v oblastech, kde náš blahobyt a dokonce i naše životy jsou přímo závislé na závěrech - v medicíně, při výběru pracovních míst, vydávání půjček a spravedlnosti.
Jak objektivně a morálně správná činí umělá inteligence rozhodnutí? Můžeme opravdu věřit strojovému mozku, aby mohl učinit taková potenciálně důležitá rozhodnutí?
Umělá inteligence se používá ve všech oblastech
I dnes se adaptivní algoritmy používají v mnoha oblastech našeho každodenního života. Existují digitální asistenty pro porozumění hlasovým příkazům a otázkám. Na internetu pomáhají weboví roboti udržovat a kontrolovat webové stránky, takže je obtížné je odlišit od lidí. I když jsou detekovány falešné zprávy a manipulace s obrázky, jedná se o systémy umělé inteligence.
Propagační video:
Systémy AI také vykonávají svou práci v průmyslu, podnikání a dokonce i ve vládě. Optimalizují a řídí výrobní procesy, regulují logistiku kontejnerových přístavů a velkých skladů nebo vedou účetní záznamy. Pojišťovací společnosti a banky již mají první inteligentní programy pro kontrolu podaných žádostí nebo rozhodování o platbách. Ve společnostech Ikea, Deutsche Telekom a mnoha dalších společnostech, UNICEF nebo knihovnách, jsou do péče o zákazníky zapojeni virtuální asistenti.
Velké množství dat zpracovaných pro školení
To vše je možné díky schopnosti AI systémů rychle analyzovat obrovské množství dat, identifikovat vzorce a korelace. Algoritmus se například učí z nesčetných fotografií domácích zvířat se shodnými jmény. Po tréninkovém období může systém vybrat zcela nové fotografie požadovaného druhu. Rozpoznává rozdíly sám o sobě.
Mnoho jiných AI systémů používá text jako základ pro učení. Posuzují kontext, ve kterém slovo stojí, a studují jeho sémantický význam, jakož i vztahy s podobnými slovy nebo synonyma. Tyto sémantické vztahy převádějí programy do matematických výrazů, a tak se učí i složité sémantické kontexty.
Pouze díky této schopnosti umí umělá inteligence například vyhodnotit lékařské údaje a lékařské záznamy a z nich odvodit charakteristiky klinických obrázků. Na základě těchto výsledků se systémy AI již používají jako diagnostické pomůcky, mohou rozpoznat různé typy rakoviny, příznaky Alzheimerovy choroby, sebevražedné stavy a nebezpečné hladiny cukru v cukrovce.
Ale jak atraktivní to zní, stále více a více má AI velkou nevýhodu. Další umělá inteligence proniká prakticky do všech sfér naší společnosti, čím větší jsou potenciální důsledky jejích rozhodnutí. Finanční nebo profesní budoucnost člověka, nebo dokonce jeho život, závisí na jeho úsudku.
AI řešení, která mohou stát životy
Například, pokud AI chybně diagnostikuje v medicíně, aniž by byl vyslýchán, může být pacient podroben špatnému zacházení nebo dokonce zemřít. Armáda používá autonomní zbraňový systém, který činí špatná rozhodnutí. Například AI nedokáže odlišit uprchlého přítele od nepřítele, nevinné zemřít.
AlI algoritmy jsou již používány u soudů ve Spojených státech. Předpovídají pravděpodobnost recidivy pachatelů u soudu. Jejich posouzení často ovlivňuje rozhodnutí soudu a v důsledku toho i rozsudek odsouzeného.
Pokud AI rozhodne o půjčkách
Stejně tak rozhodnutí v oblasti financí a pojištění může mít vliv na to, zda osoba získá půjčku nebo ne. Tyto systémy jsou obvykle školeny pomocí databází.
A zde AI hledá vzorce: které lidé obvykle splácejí své půjčky a které nikoli? Rozvíjí své postupy posuzování a přijímá příslušná rozhodnutí. Zejména to znamená, že lidé se špatným bydlištěm nebo povoláním neobdrží půjčky bez ohledu na to, kolik jsou ochotni zaplatit, navzdory těmto okolnostem.
Při takovém rozdělení odpovědnosti s počítači bude osoba pouze pomocníkem při provádění rozhodnutí o kybernetických mozcích. A to se už děje.
Kdo je odpovědný za chyby?
Další problém ve vývoji umělé inteligence: čím složitější jsou zásady rozhodování, tím obtížnější je pro ně lidé pochopit. Vyvolává také otázku, kdo je odpovědný za chyby.
Případy nehod při řízení automobilů na autopilotu jsou stále častější: kdo má za vinu skutečnost, že některé situace nejsou uloženy v paměti nebo AI vyvodí nesprávné závěry. Nebo možná dělá své vlastní závěry? Takové příklady již existují.
Hraní roboti si během hry vytvořili svá vlastní pravidla
Pro tuto studii vědci umožnili interakci 100 chytrých robotů v koncesní hře. Každý z nich se musí rozhodnout, zda něco daruje někomu ze svého týmu nebo účastníkovi zvenku.
Překvapivě se postupem času stávají roboti stále více vyloučení z vnějších skupin a darují pouze svým členům týmu.
Důvod: inteligentní roboti přizpůsobili svou herní strategii kopírováním chování soudruhů, kteří získali nejvíce peněz a byli nejúspěšnější. Tak se objevily skupiny robotů, kteří se chovali stejným způsobem a důsledně vylučovali nesouvisející účastníky hry. Lidstvo, které neustále vytváří něco, co počítá, analyzuje a přijímá rozhodnutí rychleji než to, ztratí kontrolu nad jeho vytvářením, o činech, o kterých nebude moci sledovat.
Podle vědců je to zřejmé: umělá inteligence nepotřebuje umělá data k zaujatosti, stačí mít kolem sebe další stroje. Protože i to může vytvořit skupinovou mysl, která je známá z lidských komunit. Proto by lidé pomocí AI měli rozhodnutí ponechat na sebe.
Vasilik Svetlana