Žijeme ve zlatém věku vědeckých dat, obklopeni obrovskými rezervami genetických informací, lékařských zobrazovacích a astronomických dat. Současné schopnosti algoritmů strojového učení umožňují umělé inteligenci studovat tato data tak rychle a současně velmi pečlivě, což často otevírá dveře potenciálně novým vědeckým objevům. Neměli bychom však slepě věřit výsledkům vědeckého výzkumu prováděného AI, říká vědec Rice University Genever Allen. Alespoň ne na současné úrovni vývoje této technologie. Podle vědce problém spočívá v tom, že moderní systémy umělé inteligence nemají schopnost kriticky posoudit výsledky své práce.
Podle Allena mohou být systémy AI, které používají metody strojového učení, to znamená, když se učení objeví v procesu aplikace řešení mnoha podobných problémů, a to nejen zavedením a dodržováním nových pravidel a předpisů, důvěryhodné, aby mohly učinit některá rozhodnutí. Přesněji řečeno, je docela možné přiřadit úkoly AI při řešení problémů v oblastech, kde konečný výsledek může být snadno zkontrolován a analyzován samotnou osobou. Jako příklad můžeme uvést, počítat počet kráterů na Měsíci nebo předpovídat otřesy po zemětřesení.
Přesnost a efektivita složitějších algoritmů, které se používají k analýze velkého množství dat k nalezení a určení dříve neznámých faktorů nebo vztahů mezi různými funkcemi, je však mnohem obtížnější ověřit, “poznamenává Allen. Nemožnost ověřit údaje odpovídající těmto algoritmům tedy může vést k chybným vědeckým závěrům.
Vezměte si například precizní medicínu, kde odborníci analyzují pacientova metadata, aby našli konkrétní skupiny lidí s podobnými genetickými charakteristikami, aby vyvinuli účinné léčby. Některé programy umělé inteligence určené k prosévání genetických dat jsou skutečně účinné při identifikaci skupin pacientů s podobnou predispozicí, například k rozvoji rakoviny prsu. Ukázalo se však, že jsou zcela neúčinné při identifikaci jiných typů rakoviny, například kolorektálního karcinomu. Každý algoritmus analyzuje data odlišně, takže při kombinování výsledků může často dojít ke konfliktu v klasifikaci vzorku pacienta. Díky tomu vědci přemýšlejí o tom, které AI nakonec důvěřují.
Tyto rozpory vznikají v důsledku skutečnosti, že algoritmy pro analýzu dat jsou navrženy tak, aby se řídily pokyny stanovenými v těchto algoritmech, které neponechávají prostor pro nerozhodnost, nejistotu, vysvětluje Allen.
Vědci nemají rádi nejistotu. Tradiční metody pro stanovení nejistot měření jsou však navrženy pro případy, kdy je třeba analyzovat data, která byla speciálně vybrána pro vyhodnocení konkrétní hypotézy. Takhle nefungují programy AI pro dolování dat. Tyto programy nejsou poháněny žádným vodícím nápadem a jednoduše analyzují shromážděné datové soubory bez konkrétního zvláštního účelu. Proto mnoho výzkumníků AI, včetně samotné Allen, vyvíjí nové protokoly, které umožní systémům AI příští generace vyhodnotit přesnost a reprodukovatelnost svých objevů.
Propagační video:
Výzkumník vysvětluje, že jedna z nových metod těžby bude založena na konceptu převzorkování. Pokud má například AI systém provést důležitý objev, například identifikuje skupiny pacientů klinicky důležité pro výzkum, měl by se tento objev zobrazit v jiných databázích. Pro vědce je velmi nákladné vytvářet nové a větší datové soubory pro ověřování vzorkování AI. Podle Allana je tedy možné použít přístup, ve kterém „bude použit existující datový soubor, informace, ve kterých budou náhodně smíchány tak, že napodobuje zcela novou databázi“. A pokud AI dokáže znovu a znovu určit charakteristické rysy, které umožňují provést nezbytnou klasifikaci, „pak bude možné zvážitže ve vašich rukou máte skutečný objev, “dodává Allan.
Nikolay Khizhnyak