Myšlenka, že umělá inteligence nás nevyhnutelně povede ke scénáři, ve kterém se stroje bouří proti lidem, je docela populární. Umělá superintelligence se zdá být největší možnou hrozbou a fantastické příběhy, podle kterých nebudeme ve světě vlastněném technologiemi zapotřebí, nikdy neztratily na popularitě.
Je to nevyhnutelné?
Literární a filmové zobrazení inteligentních počítačových systémů z 60. let pomohlo utvářet a shrnout naše očekávání do budoucna, když se vydáváme na cestu vytváření strojové inteligence, která předčí lidskou inteligenci. AI již zjevně překonala lidi v určitých konkrétních úkolech vyžadujících složité výpočty, ale stále ještě zaostává v řadě dalších schopností. Jak současně zvýšit sílu tohoto drsného nástroje a zachovat si nad ním naši ekonomickou pozici.
Protože umělá inteligence již hraje a bude i nadále hrát velkou roli v naší budoucnosti, je nezbytné prozkoumat naše možnosti koexistence s těmito složitými technologiemi.
Kevin Abosch, zakladatel společnosti Kwikdesk, společnosti zabývající se zpracováním dat a umělou inteligencí, se o tom podělil. Věří, že umělá inteligence by měla být rychlá, nenápadná, spolehlivá, gramotná a etická. Ano, etické.
Etický rámec
Propagační video:
Koncept umělé neuronové sítě, modelovaný po biologické neuronové síti, není ničím novým. Jednotky výpočetního výkonu, nazývané neurony, se navzájem spojují a vytvářejí síť. Každý neuron aplikuje na vstup sofistikovaný algoritmus učení, před přenosem dat do jiných neuronů, dokud se neuron na výstupu neaktivuje a neotevře možnost čtení. Expertní systémy spoléhají na to, že lidé systém „učí“a zasadí semena znalostí. Logické stroje hledají shody, rozhodují se, nastavují pravidla if-this-then-then na znalostní bázi. V tomto procesu jsou do znalostní báze přidány nové znalosti. Čistá neuronová síť se učí v procesu získávání nelineárních zkušeností, nemá problém s osazováním znalostí odborníkem. Hybridní sítě se osvědčilykteré zlepšují schopnost učení strojů.
Nyní se podívejme na etické otázky takových systémů. Dále od první osoby.
„Chybný kód“versus dobrý kód
Autor používá slova k ponoření čtenáře do fikčního světa, a dělá to různými způsoby, ale skvělí autoři to dělají velmi elegantně. Softwarový inženýr píše řádky kódu, které usnadňují zpracování a pohyb dat. I on si může vybrat z mnoha možností různými způsoby, ale půvabné kodéry jsou počítačoví vědci. Progresivní kodér se zaměřuje na to, jak zapouzdřit co nejvíce a lépe, jak je to možné, v krátkém a elegantním kódu. Redundantní kód je udržován na minimu. Skvělý kód také udržuje okno otevřené pro budoucí přírůstky. Ostatní inženýři mohou přidávat kód se svou vlastní elegancí a produkt se vyvíjí hladce.
Jakýkoli umělý produkt je založen na záměru. Věci dělané lidmi jsou nasyceny úmysly a do té míry jsou nositeli samotné povahy stvořitele. Pro některé lidi je obtížné si představit neživý předmět této povahy. Ale mnozí by s tím souhlasili. Energie záměrů existuje tisíce let, sjednocuje, rozděluje, sjednocuje, transformuje společnost. Rovněž by neměla být podceňována síla jazyka. Nezapomeňte, že řádky kódu jsou psány ve specifickém programovacím jazyce. Jsem tedy přesvědčen, že kód, který se stává softwarem používaným v počítačích nebo mobilních zařízeních, je velmi „živý“.
Bez ohledu na moudrost a spiritualitu v souvislosti s výpočetní technikou a potenciálními důsledky umělé inteligence můžeme stále zobrazit statický kód jako jednu jednotku s potenciálem „dělat dobro“nebo „dělat zlo“. Tyto výstupy se nacházejí pouze v procesu používání aplikací lidmi. Je to jasné rozhodnutí, které lidé dělají, které ovlivňují povahu aplikace. Lze je prohlížet v místním systému, určujícím pozitivní nebo negativní dopad na tento systém nebo na základě souboru předdefinovaných standardů. Stejně jako novinář však nemůže být stoprocentně nestranný v procesu psaní článku, tak strojník úmyslně nebo nevědomky přidá do kódu povahu svých záměrů. Někteří by mohli argumentovat, že psaní kódu je logický proces a skutečná logika neponechává žádný prostor pro přírodu.
Ale jsem si jistý, že ve chvíli, kdy vytvoříte pravidlo, blok kódu nebo celý kód, je to vše doplněno elementem lidské povahy. S každým dalším pravidlem se penetrace druhu prohlubuje. Čím je kód složitější, tím více v něm je tato povaha. Vyvstává tedy otázka: „Může být povaha kódu dobrá nebo zlá?“
Je zřejmé, že virus vyvinutý hackerem, který zlomyslně prorazí obranu vašeho počítače a způsobí zmatek ve vašem životě, je nasycen zlou přírodou. Ale co virus vytvořený dobrými lidmi, aby infiltroval počítače teroristické organizace, aby zabránil teroristickým útokům? Jaká je jeho povaha? Technicky by to mohlo být totožné s jeho nebezpečným protějškem, jen použitým pro „dobré“účely. Takže jeho povaha je laskavá? Toto je celý etický paradox malwaru. Ale nemohli jsme to ignorovat, přemýšleli o „zlém“kódu.
Podle mého názoru existuje kód, který neodmyslitelně směřuje k „zlu“a existuje kód, který je neodmyslitelně zaujatý směrem k dobré vůli. To je důležitější v souvislosti s offline počítači.
V Kwikdesku vyvíjíme AI framework a protokol založený na mém expertním systému / hybridním designu neuronových sítí, který se nejvíce podobá biologickému modelu. Neurony se projevují jako I / O moduly a virtuální zařízení (v jistém smyslu autonomní agenti) propojené „axony“, bezpečnými oddělenými kanály šifrovaných dat. Tato data jsou dešifrována při vstupu do neuronu a po určitých procesech jsou šifrována před odesláním do dalšího neuronu. Než mohou neurony vzájemně komunikovat prostřednictvím axonu, musí se provést výměna klíčů mezi účastníkem a kanálem.
Věřím, že do takových sítí by mělo být zabudováno zabezpečení a oddělení od nejnižší úrovně. Nástavby odrážejí vlastnosti jejich nejmenších součástí, takže cokoli menšího než bezpečné stavební bloky povede k nebezpečnému provozu celé linky. Z tohoto důvodu musí být data chráněna místně a při místním přenosu dešifrována.
Provádění a záruky
Kvalita našeho života společně se stroji, které jsou chytřejší a chytřejší, je pochopitelně problémem a jsem si naprosto jistý, že musíme podniknout kroky k zajištění zdravé budoucnosti pro příští generace. Hrozby pro chytré stroje jsou potenciálně různorodé, lze je však rozdělit do následujících kategorií:
Rezervace. Na pracovištích budou lidé nahrazeni stroji. Tento posun trvá již desetiletí a bude jen zrychlovat. K přípravě lidí na budoucnost, ve které stovky milionů tradičních pracovních míst prostě přestanou existovat, je zapotřebí odpovídající vzdělání. Je to komplikované.
Zabezpečení. Spoléháme na stroje zcela a budeme se i nadále spoléhat. Když stále více důvěřujeme strojům, když se pohybujeme z bezpečné oblasti do potenciálně nebezpečné oblasti, můžeme čelit riziku chyby stroje nebo škodlivého kódu. Přemýšlejte například o dopravě.
Zdraví. Osobní diagnostická zařízení a propojená lékařská data. AI se bude i nadále vyvíjet v preventivní medicíně a analyzovat genetické údaje z různých zdrojů. Opět musíme mít ujištění, že tyto stroje se nijak nezabývají škodlivou podvracením ani nám nijak neubližují.
Osud. AI s rostoucí přesností předpovídá, kam půjdete a co budete dělat. Jak se tato oblast bude rozvíjet, bude vědět, jaká rozhodnutí činíme, kam půjdeme příští týden, jaké výrobky si koupíme, nebo dokonce až zemřeme. Chceme, aby ostatní měli přístup k těmto datům?
Znalosti. Stroje de facto shromažďují znalosti. Ale pokud získají znalosti rychleji, než je mohou lidé vyzkoušet, jak můžeme věřit jeho integritě?
Závěrem chci poznamenat, že naším způsobem je bdělý a odpovědný přístup k umělé inteligenci ke zmírnění potenciálních problémů při technologické explozi supernovy. Buď zkrotíme potenciál AI a modlíme se, aby přineslo lidstvu jen to nejlepší, nebo vyhoříme v jeho potenciálu, který bude odrážet to nejhorší v nás.
Ilya Khel