Odborníci předpovídají, že umělá inteligence se brzy vyvine na úroveň zvířat, a v tomto ohledu se stále více objevují etické otázky. Někteří se vážně ptají, zda bude nutné poskytnout AI etickou ochranu, podobnou té, kterou dnes poskytujeme našim menším bratřím. Podle publikace Aeon musí být tento problém vyřešen dříve, než se umělá inteligence přiblíží k lidskému rozvoji.
Dnes je na celém světě velké množství různých výborů a veřejných organizací, které zajišťují, aby zvířata nebyla zbytečně vystavena utrpení nebo usmrcena. A v případě použití lidských kmenových a mozkových buněk pro vědecký výzkum je kontrola ještě přísnější. Proč nebyla etice používání AI věnována stejná pozornost?
Někteří to ospravedlňují tím, že umělá inteligence není vědomá a nezažívá emoce. Dobro a zlo pro něj neexistují. Vyvstává však otázka, jak bude lidstvo jednoho dne vědět, že umělá inteligence vytvořila se schopností zažít emoce? Koneckonců, pokud taková inteligence z hlediska vývoje dohoní i myší, bude již schopna zažít bolest nebo potěšení, ale nebude ji moci nahlásit.
To nás přivádí zpět k pojetí vědomí samotného ak kritériím, podle nichž lze určit jeho přítomnost nebo nepřítomnost. Progresivní vědci se domnívají, že pro vytvoření umělého vědomí stačí vytvořit program pro efektivní zpracování dat s funkcemi dlouhodobého plánování a zaměřením pozornosti na objekty kolem. Konzervativci tvrdí, že jeden program zde nestačí a jsou zapotřebí složité orgány, jako je mozek savců.
Pokud budou mít první pravdu, může se na Zemi brzy objevit mnoho umělých inteligencí, z nichž každá bude muset chránit svá práva.
Připomeňme, že i lidská a zvířecí práva se začala relativně nedávno bránit v měřítku historie, a zvláštní pokrok nastal ve vývoji instituce lidských práv po válečných zločinech nacistů, lékařských experimentech atd. Existuje podobný scénář v případě AI.