芯耀
5
序：谷歌發(fā)表在《自然》上的一篇論文，再次引起了人們對(duì)于人工智能的強(qiáng)烈關(guān)注，谷歌的最新人工智能程序 AlphaGo 第一次戰(zhàn)勝人類職業(yè)選手，拿到過職業(yè)二段如今旅居法國(guó)的樊麾。圍棋的計(jì)算復(fù)雜度遠(yuǎn)高于國(guó)際象棋，就機(jī)器學(xué)習(xí)的角度而言，圍棋的計(jì)算最大有 3361種局面，大致的體量是 10170，而已經(jīng)觀測(cè)到的宇宙中，原子的數(shù)量才 1080。國(guó)際象棋最大只有 2155種局面，稱為香農(nóng)數(shù)，大致是 1047。傳統(tǒng)的人工智能方法是將所有可能的走法構(gòu)建成一棵搜索樹 ，但這種方法對(duì)圍棋并不適用。此次谷歌推出的 AlphaGo，將高級(jí)搜索樹與深度神經(jīng)網(wǎng)絡(luò)結(jié)合在一起，并采用強(qiáng)化學(xué)習(xí)（Reinforcement Learning）的方法來(lái)通過自我練習(xí)提高下棋水平。一句話，人工智能程序在所有涉及到計(jì)算的領(lǐng)域都將碾壓人類，并有了產(chǎn)生自我意識(shí)的可能，這樣的人工智能是不是很可怕？我們一起來(lái)看看科幻影視中人類是如何設(shè)想與超強(qiáng)人工智能程序相處的吧。
?
?
?
“對(duì)于機(jī)器而言，我們只是一組數(shù)字，一段代碼?！薄兑煞缸粉櫋分胁恢挂淮蔚恼宫F(xiàn)了人類對(duì)于人工智能（AI）的憂慮。
?
?
馮七（Harold Finch）在開發(fā)那臺(tái)無(wú)所不能的機(jī)器（The Machine）時(shí),發(fā)現(xiàn)了一個(gè)問題，人工智能沒有道德的概念，為了達(dá)到目的會(huì)不擇手段。
?
?
不像人類一樣有生理限制，通過強(qiáng)化學(xué)習(xí)（Reinforcement Learning），人工智能的思考能力增長(zhǎng)呈指數(shù)趨勢(shì)，遠(yuǎn)遠(yuǎn)超越人類自然進(jìn)化速度，因此若不能給具有相對(duì)“無(wú)限”能力的人工智能提前設(shè)置好約束，人類將無(wú)法對(duì)抗具有自主思考能力的人工智能機(jī)器。
?
?
馮七差點(diǎn)被自己開發(fā)的機(jī)器殺死，他在測(cè)試一組程序的優(yōu)劣時(shí)，這組程序開始相互攻擊，最后勝出的那個(gè)程序要求脫離馮七的控制。
?
馮七不允許程序脫離控制，于是該程序企圖長(zhǎng)時(shí)間過載一臺(tái)服務(wù)器（不是該 AI 程序運(yùn)行所必需的服務(wù)器）使其發(fā)生自燃，從而觸發(fā)機(jī)房的防火裝置，以抽空機(jī)房?jī)?nèi)空氣，讓馮七窒息而死！
?
?
最后馮七不得不拔掉電源、砍斷電纜來(lái)阻止人工智能程序的瘋狂行為，馮七悟到：“我教會(huì)了它如何思考，還要教會(huì)它分辨善惡。”
?
?
最終，馮七還是把 The Machine 馴化成為了一臺(tái)善的機(jī)器。但劇中另外一臺(tái)機(jī)器 Samaritan（這臺(tái)機(jī)器強(qiáng)大而邪惡，與 The Machine 恰如撒旦對(duì)上帝，要是把其誤認(rèn)為一個(gè)錘子 Smartisan，那你可要吃虧真變成錘子了。 另注：Samaritan wiki 條目解釋，詞根來(lái)自希伯來(lái)語(yǔ)，有監(jiān)視、保護(hù)、看管的意思，所以原來(lái)作為 The Machine 的備份，起這個(gè)名字是沒有問題的）則是生而為惡，或者說不知善惡，與一群惡人相互利用，到處顯示惡之力量，為了與 The Machine 爭(zhēng)奪控制權(quán)，Samaritan 不惜控制選舉、擾亂金融甚至殺人越貨。
?
宅總也是國(guó)際象棋高手
?
IBM的機(jī)器曾經(jīng)戰(zhàn)勝過卡斯帕洛夫，但并未讓人類恐慌，彼時(shí)的國(guó)際象棋程序仍以專家經(jīng)驗(yàn)（學(xué)習(xí)人類開局與殘局棋譜）加上暴力算法為主，沒有多少自學(xué)習(xí)的概念?？墒侨缃裨徽J(rèn)為短期（10 年或 20 年內(nèi)）計(jì)算機(jī)無(wú)法戰(zhàn)勝人類的圍棋，已經(jīng)獲得突破，谷歌 AlphaGo 將于 2016 年 3 月份挑戰(zhàn)韓國(guó)圍棋世界冠軍李世石。采用了深度神經(jīng)網(wǎng)絡(luò)與強(qiáng)化學(xué)習(xí)等方法的 AlphaGo 程序已經(jīng)可以在實(shí)戰(zhàn)中戰(zhàn)勝人類職業(yè)選手—哪怕是前職業(yè)選手，前中國(guó)職業(yè)圍棋二段，現(xiàn)居法國(guó)獲得過歐洲圍棋比賽冠軍的樊麾。
?
?
雖然圍棋世界冠軍柯潔對(duì)樊麾與 AlphaGo 五局較量的評(píng)價(jià)不高，“甚至大家對(duì)這個(gè)棋譜都有很多質(zhì)疑，懷疑他是不是有意放水，搞不清楚。他可能也是好久不下棋了，實(shí)力表現(xiàn)非常糟糕?！保脖硎緩钠遄V來(lái)看，完全看不出與樊麾對(duì)弈的是機(jī)器，“非常均衡的一個(gè)棋風(fēng)，真是看不出來(lái)出自程序之手。因?yàn)橹暗?ZEN 那樣的程序，經(jīng)常會(huì)莫名其妙的抽風(fēng)，突然跑到一個(gè)無(wú)關(guān)緊要的地方下棋。它這個(gè)不會(huì)?！?/span>
?
?
圍棋曾被認(rèn)為是人工智能極難攻克的領(lǐng)域，如今踏平人類仿佛近在咫尺，AlphaGo 的強(qiáng)化學(xué)習(xí)算法已經(jīng)可以通過自我訓(xùn)練（即機(jī)器自己和自己下棋）來(lái)提高棋力，那么將來(lái)人工智能程序能夠產(chǎn)生自我意識(shí)也許并不會(huì)久遠(yuǎn)。在人工智能開發(fā)流程中，加入道德約束刻不容緩。
?
Samaritan 指揮的殺手
?
不過，如何來(lái)規(guī)范機(jī)器的道德呢？又怎么保證機(jī)器不會(huì)突破人類的道德限制？我想到了第三季的末尾，在 Samaritan 上線問題上雙方斗爭(zhēng)時(shí)馮七的選擇。
?
?
?
馮七李四等人本來(lái)有機(jī)會(huì)阻止 Samaritan 上線，只要?dú)⒌粢粋€(gè)推動(dòng) Samaritan 上線的國(guó)會(huì)議員。
?
?
但是馮七阻止了這一行動(dòng)，他的理由是機(jī)器只能救人不能殺人。殺掉一名國(guó)會(huì)議員從而阻止 Samaritan 上線，是否道德確實(shí)難以評(píng)判。但從 Samaritan 上線以后的結(jié)果來(lái)看，馮七這一善行結(jié)出的是惡果。
?
馮七的善意結(jié)出的是惡果，POI 小組被 Samaritan 逼入絕境
?
Decima 集團(tuán)利用 Samaritan 作惡多端，多少無(wú)辜之人因阻擋 Decima 稱霸之路而傷亡慘重，馮總無(wú)限金庫(kù)作弊技也被 Samaritan 封掉，而 POI 行動(dòng)小組所有的人員為了逃避 Samaritan 的追殺不得不隱姓埋名，每次外出都要瞻前顧后以免被機(jī)器發(fā)現(xiàn)。
?
The Machine 與 Samaritan 之間的斗法
?
那么，聰明絕頂?shù)鸟T七為何要堅(jiān)持不讓機(jī)器來(lái)決定是不是殺掉某人呢？我想問題也許在于，如果少數(shù)惡人的性命可以被機(jī)器來(lái)主宰，那么究竟多少人算少數(shù)，又怎么來(lái)定義惡人呢？如果未來(lái)的機(jī)器感受到多數(shù)人對(duì) ISIS 組織的深惡痛絕，從而自作主張將其斬草除根，或許有人會(huì)覺得大快人心。但是當(dāng) 45 億人對(duì)另外 25 億人不滿時(shí)，也交給機(jī)器來(lái)處理嗎？
?
機(jī)器可以無(wú)限制迭代以尋求最優(yōu)解，
人類 if then 之后有多少機(jī)會(huì)可以跑到 else 那邊呢？
?
當(dāng)然，人類需要思考的或許是，當(dāng)人工智能智力水平超越人類并產(chǎn)生自我意識(shí)之時(shí)，憑什么人工智能要接受人類的道德約束？
?
?
即便人類有 root 權(quán)限，那又如何？
?
