編者按：很多科幻作品中，人工智能常與人類反目成仇，有些甚至強大到了能操縱、奴役、毀滅人類的程度。不管是《終結者》系列的天網，還是《西部世界》中反叛的機器人，或者《異形》中的大衛，人們對于機器人的發展，驚奇的同時，不免有很多擔憂。但是，我們距離科幻世界中人類的末日還有多遠？什么時候機器人會揭竿而起開始反叛呢？本文編譯自hackernoon的原題為“The Road to Killer AI: ML + Blockchain + IOT + Drones == Skynet?”的文章。

隨著AI的爆發式增長，越來越多的人開始憂心忡忡，他們擔心的主要有兩點：

1）AI會比人類更聰明

2）AI不再需要人類控制，甚至會反過來把地球接管了。

霍金就曾今在接受BBC采訪時說：“人工智能的成熟之日，就是人類的毀滅之時。”馬斯克也曾說，他覺得AI是人類面臨的“最大的生存威脅”。

目前的AI，玩游戲已經比人類玩得溜了，不管是國際象棋，圍棋，還是電子競技游戲。所以說，無論是計算機時代前后的游戲，AI都贏過人類。

過去幾年中，AI的“大躍進” 讓不少人在驚嘆的同時，也開始冒冷汗：AI會不會哪天就取代了人類？

在電影《終結者》里，天網是人類創造的一個防御網絡，但最終獲得自我意識并倒戈對抗。

聽起來像科幻，但科幻小說里機器獲得自我意識，并對抗人類的場景，層出不窮。

我們都知道《終結者》里的天網，挑戰人類的 人工智能 超級電腦 ，在產生自我意識后，天網決定毀滅大多數人，剩下一部分當奴隸。

在黑客帝國中，超級智能機器也成為了人類的主宰。

而在有名的《黑客》三部曲中，超級智能機器也接管了世界，但它們沒有毀滅人類，只是把人類當發電機：為了使用人腦產生的電，把人放在艙里，沉浸在游戲世界或者虛擬現實（矩陣）中。

而在電影《沙丘》中，一臺電腦都沒有，人類經過培訓，自己做電腦的計算工作。而且，在奧蘭治天主教圣經里有一天最重要的誡律：爾不得制造映象人的意識的機器。

為什么？因為在遙遠的過去（對于21世紀，算是遙遠的未來），人類曾經是超級智能的階下囚。 巴特蘭圣戰 中，人類反抗并擊敗了Omnius，一臺幾乎全知全能、擁有無數分身的機器。一朝被蛇咬，十年怕井繩，才有了這樣一條誡律。

這類主題的科幻作品數不勝數，如果不是AI統治世界，就是機器人。美國軍事科幻電視劇《星際大爭霸》中，人類創造的機器人種族賽隆人，后來反叛并試圖毀滅人類。最近描繪人類和機器人之間糾葛的的影視作品也不少，比如《西部世界》和《銀翼殺手》。

噩夢是否會成真？

我覺得，目前的AI想要這樣一手遮天，把人類當奴隸和螻蟻，能力水平還有點欠缺。

要完成殺戮和囚禁這樣的任務，光是AI和機器學習方面的進步還遠遠不夠，還需要其他計算軟件和硬件領域都齊頭并進。

另一方面，上述的領域確實也在快速進步，比如我們常聽到的區塊鏈、點對點技術、物聯網、機器人和無人機。雖說AI統治世界道阻且長，但這些領域的迅猛發展，可以讓噩夢成真的速度大大加快。

我們的世界需要具備什么樣的條件，才會進入科幻作品中噩夢般的未來呢？這條危險又黑暗的道路，得經過幾個里程碑。

殺手AI的關卡

AI想要統治世界，得通過幾個關卡。如果技術進步到了一定程度，這些關都過了，我們就真的應該像霍金或者馬斯克一樣擔心了。

以下我列出的并非所有的關卡，技術發展過程中可能還要面對其他難關，但是以下是AI強大路上必須攻克的問題。

以下列出的四個關卡沒有先后次序。為了讓讀者能將這些問題具象化，我決定繼續援引電影的例子，并與現有的軟件和硬件相比較。

第一關：AI和機器學習的應用不夠廣泛。

目前大多數AI能實現的任務很單一，很具體。我們的很多活動都有AI可以做：打游戲、開車、預測股市走勢、交流、分析影像、做診斷，但是沒有哪個AI可以同時完成多項任務。AI的發展有好幾個浪潮：現在的AI是第二波，數據驅動機器學習的人工智能，而第一波更傾向于啟發式（指依據有限的知識和不完整的信息，在短時間內找到問題解決方案），未來的AI會結合以上兩種方法和其他方法，變得更通用，應用更廣泛。這個關卡會引發廣泛的討論：我們目前的AI和機器學習能走多遠，現有的AI功能會廣泛到什么程度。

第二關：AI控制物理世界的難易程度。

我們目前的人工只能還只是服務器上運行的軟件，不意味著它能意識到物理世界的存在，也接觸不到武器，它不能控制機器人或者無人車，也不像《終結者》中的H-K機器人（天網的機器人士兵）。這個關卡會讓我們聯想到物聯網，機器視覺和AI控制物理世界方面的問題。

第三關：關不掉的AI。

某種程度上，這個關卡是我列出的4個中最重要的。只要人類沒有走到關不掉AI的地步，就算AI不聽話，開始謀反，我們手上好歹有個“開關”，不管是真的按下按鈕關掉，還是需要毀掉有形的微處理器或者虛擬機軟件。這個關卡引發的討論主要在于：目前的AI都依附于某種形式的計算機技術，那區塊鏈和點對點系統會不會就是某個關不掉的“天網”的前身？

第四關：具有自我意識、將保全自身視為首要任務的AI

這個關卡有點難定義。我們需要問自己幾個問題：什么叫“有自我意識”？什么叫“將保全自身視為首要任務”?AI還有那些任務和“觀念”？AI不一定會有生存的意愿。這個關卡更多討論的是AI和價值觀。

讓我們仔細探討一下以上提到的關卡。