Teoretický fyzik Stephen Hawking a zakladatel Tesla Motors Elon Musk podpořili řadu zásad, které by měly zajistit, aby umělá inteligence (AI) nepoškodila člověka a sloužila pouze dobru. Zprávy v obchodním deníku Silicon Valley.
Tento pakt je nezbytný k zajištění bezpečnosti lidí ak zodpovězení mnoha otázek týkajících se AI. Musk věří, že umělá inteligence může být potenciálně nebezpečnější než jaderné zbraně. Hawking má rovněž podobný názor a tvrdí, že AI může zničit lidstvo. Oba však uznávají, že umělá inteligence pomůže lidem vyřešit mnoho problémů, jako je léčba rakoviny nebo zpomalení globálního oteplování.
Dodržování všech 23 zásad by mělo zajistit, že AI slouží pouze dobrým účelům. Jsou rozděleny do tří kategorií: Výzkumné otázky, Problémy etiky a hodnot a Dlouhodobé problémy. První kategorie zahrnuje odpovědi na otázky, kterým tvůrci AI čelí, včetně toho, jak by financování mělo probíhat. Druhá kategorie se týká bezpečnostních problémů a způsobů, jak hrozbu neutralizovat. Třetí popisuje možná rizika, kterým může lidstvo čelit, když AI dosáhne svého vrcholu a objeví se takzvaná superinteligence.
Tyto principy byly vyvinuty na konferenci o diskusi o AI začátkem ledna 2017. K psaní přispěl generální ředitel DeepMind Demis Hassabis.