Umělá inteligence se brzy vyvine na úroveň inteligence u myší nebo psů, což představuje pro společnost etický problém.
Je na čase zvážit, zda si umělá inteligence zaslouží etickou ochranu, kterou společnost poskytuje zvířatům, a za jakých podmínek by ji měla získat, naléhá na vydání Aeonu. Tento problém je třeba řešit, než můžeme vytvořit umělou inteligenci, která je stejná nebo nadřazená lidem.
Na celém světě již existuje mnoho komunit a výborů, které zajišťují, aby zvířata nebyla zbytečně obětována a nepřiměřeně trpěla. Pokud se během výzkumu používají lidské kmenové buňky nebo lidské mozkové buňky, jsou etické požadavky ještě přísnější. Etická stránka používání umělé inteligence ještě nebyla studována, mnohem méně pod kontrolou. Možná by to tak mělo být.
Lze předpokládat, že si AI nezaslouží druh etické ochrany poskytované lidem a zvířatům kvůli nedostatku vědomí a emocí, jako je radost nebo utrpení. Možná. Ale pak čelíme obtížné filozofické otázce: jak víme, že jsme vytvořili něco, co je schopno zažít radost a utrpení? Pokud je AI dostatečně pokročilý, aby si stěžoval a hájil svá práva, to je jedna věc. Ale co když je jako intelekt myši nebo psa a nemůže říct o svých zážitcích?
Zde vyvstává problém, protože ve vědě dosud nedospěli ke shodě o tom, co je vědomí a jak určit, zda je či není přítomen. Předpokládá se, že existence vědomí vyžaduje pouze určitý typ dobře organizovaného zpracování informací: flexibilní informační model systému ve vztahu k objektům v jeho prostředí, s kontrolovanými možnostmi pozornosti a dlouhodobým plánováním akcí. Možná lidé v blízké budoucnosti vytvoří něco podobného. Další konzervativnější názor je, že vědomí může vyžadovat velmi specifické biologické rysy, jako je mozek, který vypadá jako mozek savců. Stále jsme daleko od této úrovně umělého vědomí.
Není jasné, která z těchto myšlenek je správná a zda se v blízké budoucnosti může objevit nová definice vědomí. Pokud je však první pohled správný, můžeme brzy vytvořit mnoho nelidských AI, které budou potřebovat ochranu práv.
Práva zvířat a lidí se začala hájit až poté, co byly v jejich vztahu zaznamenány závažná etická porušení - zbytečné vivisekce, nacistické lékařské válečné zločiny, jakož i výzkum syfilis ve městě Tuskegee (USA), kde byli touto chorobou infikováni zdraví lidé. Možná se něco podobného stane v oblasti ochrany AI práv.