Dva miliardáři, kteří učinili své jmění online, majitel Tesla a Space X Elon Musk a zakladatel Facebooku Mark Zuckerberg, se dostali do sporu o nebezpečí umělé inteligence.
Oba podnikatelé jsou přesvědčeni, že vytvoření plnohodnotné umělé inteligence je věcí blízké budoucnosti. Ale Musk věří, že je čas, aby lidstvo přemýšlelo o regulaci vývoje v této oblasti, a Zuckerberg je přesvědčen, že umělá inteligence výrazně zlepší životy lidí.
V polovině července hovořil Elon Musk s guvernéry amerických států a vyzval úřady, aby uvažovaly o zavedení legislativních omezení rozvoje AI.
Zuckerberg odpověděl na otázku o nebezpečí AI při chatování s uživateli Facebooku. Zeptal se ho upřímně, jestli si myslí, že Muskovy obavy jsou platné. Tvůrce Facebooku řekl, že nechápe, jak může Musk vážně požadovat zpomalení probíhajícího procesu.
Odpověděl tweeting: „Mluvil jsem o tom s Markem. Má omezené pochopení tohoto problému “:
Přítomnost Tense plně publikuje projevy dvou miliardářů.
"Dokud neuvidíme roboty, jak chodí po ulicích a zabíjejí lidi, nebudeme vědět, jak reagovat." Obavy Elona Muska
Propagační video:
Mám přístup k nejnovějším v AI. A myslím si, že lidé by se touto otázkou měli opravdu zabývat. Vím, jak to zní, ale dokud lidé neuvidí roboty, jak chodí po ulicích a zabíjejí lidi, nebudou vědět, jak reagovat.
Zdá se to nereálné. Myslím, že se opravdu musíme bát AI. A myslím si, že se jedná o vzácný případ, kdy my, v našich legislativních omezeních, musíme být před křivkou a nečinit rozhodnutí později, když je příliš pozdě.
Omezení obvykle fungují takto: zpočátku se stane mnoho špatných věcí, protesty společnosti a po mnoha letech jsou pro toto odvětví regulační orgány. Společnosti, které nemají rádi vnější kontrolu, odolávají a trvá velmi dlouho. V minulosti to již vedlo ke špatným důsledkům, nepředstavovalo to však zásadní ohrožení existence lidstva.
AI je základní riziko pro lidskou existenci. A to je druh rizika, které nikdy nehody aut, havárie letadla, problémové drogy ani špatné jídlo nikdy neměly. Nebyly to hrozby. Možná byli pro konkrétní lidi, ale nepředstavovali riziko pro celou společnost.
AI je základní existenciální hrozbou pro civilizaci a nemyslím si, že si to lidé plně uvědomují. Ano, omezování není zábava. Ale v automobilovém průmyslu nás kontroluje Ministerstvo dopravy a mnoho dalších. A každá země má regulační orgány. Ve vesmírném průmyslu nás kontroluje Federální letecká správa. Ale pokud se zeptáte obyčejné osoby: „Hej, chceš se zbavit řízení civilního letectví a prostě doufat, že výrobci nezachrání letadlo, protože zisk klesl v tomto čtvrtletí,“odpoví: „Samozřejmě, že ne.“Zní to tak.
Myslím, že i velmi liberálně smýšlející lidé by stále říkali: „Dejme pozor na výrobce letadel, musíme se ujistit, že vyrábějí dobré letouny.“Pěkná auta, podobné věci. Regulátoři tedy musí hrát roli. Samozřejmě jsem proti přísné kontrole. Ale myslím, že bychom si měli pospíšit s AI.
Samozřejmě to [vynález AI] povede ke ztrátě pracovních míst, protože roboti dokážou všechno lépe než my. To je lepší než my všichni. Ano. Nevím, co s tím dělat. To je pro mě nejhorší problém. Ano, jsem si skutečně jist, že budeme potřebovat státní kontrolu, protože tak můžeme zajistit veřejnou bezpečnost.
Společnosti jsou ve spěchu, potřebují čas na výrobu umělé inteligence, jinak se stanou nekonkurenceschopnými. Pokud váš konkurent spěchá na vytvoření AI a vy nejste, zničí vás. A společnosti říkají: „Nechceme umřít, vypadá to, že musíme také vytvořit umělou inteligenci.“
A tady by se měly dostat ovládací prvky: „Kluci, všichni musíte zpomalit a ujistit se, že je to bezpečné.“Pokud jsou recenzenti přesvědčeni, že je to bezpečné, můžete pokračovat v práci. Jinak zpomalte. Auditoři to však musí udělat pro každého, kdo to dělá, jinak akcionáři řeknou: „Hej, proč nevyvíjíte umělou inteligenci rychleji než vaši konkurenti? Bylo by to nutné! “
Věřím, že toto je největší riziko, které bereme jako civilizaci. Myslím, že úlohou státu je starat se o společnost a věnovat pozornost tomu, co ji ohrožuje. Z tohoto důvodu jsou omezení. Nejprve se o tom musíte co nejvíce naučit, abyste porozuměli povaze problému, sledovali pokrok a neuvěřitelné úspěchy v oblasti umělé inteligence.
V loňském roce, ve hře go, která byla dost těžká na výhru, a ve kterém si lidé mysleli, že počítač nikdy nepřekoná nejlepšího lidského hráče, nebo že se to stane 20 let od nynějška, minulý rok AlphaGo, vytvořil DeepMind, společnost zakoupená společností Google porazila nejlepšího hráče na světě. A teď může hrát se 150 hráči současně a všechny porazit.
To je působivá míra pokroku a bude se stále častěji zobrazovat. Například robotika. Existují roboti, kteří se učí chodit od nuly za několik hodin. Rychlejší než jakýkoli druh. Ale nejnebezpečnější - a to je nejtěžší pochopit - protože to není něco fyzického, je to inteligence.
Zdá se, že, co může na webu udělat silná [umělá] inteligence? Například, začněte válku. Například vytvořením falešných zpráv, falešných tiskových zpráv a poštovních adres a jednoduše manipulací s informacemi. Pero je mocnější než meč.
Jako příklad - chci zdůraznit, nemyslím si, že se to skutečně stalo, říkám to čistě hypoteticky - vzpomínáte na to, že malajské letadlo bylo sestřeleno nad hranicí mezi Ruskem a Ukrajinou? To výrazně zvýšilo tření mezi Ruskem a EU.
Představte si, že byste měli umělou inteligenci a jejím cílem bylo maximalizovat hodnotu akciového portfolia, jedním ze způsobů by bylo nákup obranných zásob, krátkých zásob spotřebitelů a zahájení války.
Jak to mohl udělat? Hackujte malajské aerolinie, nasměrujte servery letadel, naplánujte trasy přes válečnou zónu a poté pošlete anonymní zprávu, že „nad vámi letí nepřátelské letadlo“.
"Všechny technologie mohou být použity pro poškození a dobré." Optimismus Marka Zuckerberga
Mám o tom docela silné přesvědčení. Jsem velmi optimistický. Jsem obecně optimistický člověk. Myslím, že můžeme vytvořit věci, díky nimž je svět lepším místem, a pokud jde o umělé inteligence, jsem obzvláště optimistický. Myslím, že prostě nerozumím lidem, kteří jsou vždy skeptičtí a neustále zastrašováni těmito scénáři bezprostředního konce světa. Myslím, že je to opravdu velmi špatné a nezodpovědné, protože v příštích pěti až deseti letech bude AI schopna zlepšit a zlepšit kvalitu našich životů.
Pokud se zajímáte o bezpečnost a zdraví lidí, AI již pomáhá lépe diagnostikovat nemoci a vybírá léky pro lidi v závislosti na tom, s čím jsou nemocní a jak je lze lépe vyléčit. Mnoho lidí dostane lepší zdravotní péči než kdykoli předtím.
Pokud jde o automobily s vlastním pohonem, budou bezpečnější než automobily poháněné lidmi. Je to jen otázka času. Dopravní nehody zůstávají jednou z hlavních příčin smrti. A pokud by mohly být odstraněny pomocí AI, výrazně by to zlepšilo životy lidí.
Když uslyším důvody: „Ach, víš, AI v budoucnu ublíží lidem,“myslím si, že opravdu, veškerá technologie může být použita jak pro poškození, tak pro dobro. A když něco vytvoříte, musíte být opatrní, musíte být opatrní a přemýšlet o tom, jak bude aplikováno.
Ale když lidé trvají na zpomalení procesu AI, považuji to za velmi kontroverzní. Je pro mě opravdu těžké to pochopit, protože pokud jste proti AI, pak jste proti bezpečnějším strojům, které se nedostanou do nehod, proti možnosti lepší diagnostiky nemocí. A já prostě nechápu, jak to někteří lidé dokážou bez mazání. Takže jsem obecně mnohem optimističtější k tomuto [vytvoření AI], než možná mnoho lidí je.