專家：人工智能開始對現實世界產生重大影響

本文摘自中國日報網

中國日報網11月8日電 據英國《衛報》報道，曾撰寫過一本有關人工智能的權威教科書的美國科學家表示，在將人工智能的進步比作原子彈技術的發展時，專家們被自己在該領域的成就“嚇壞了”。

美國加州大學伯克利分校人類兼容人工智能中心（CHAI）的創始人斯圖爾特·拉塞爾（Stuart Russell）教授表示，大多數專家認為本世紀就會開發出比人類更聰明的機器，并呼吁制定一些國際條約來規范這一技術的發展。

他對《衛報》表示，人工智能界還沒有適應人工智能技術開始在現實世界中產生真正的重大影響的事實。但是，在人工智能歷史上，過往大多數時候都不是這樣的——專家只是待在實驗室里開發產品，試圖讓這些產品發揮作用，但大多數情況下都失敗了。因此，人工智能對現實世界的影響與科學家并沒有太大聯系，所以科學家必須快速成長、趕上潮流。

人工智能支撐著現代生活的許多方面，包括搜索引擎和銀行業務等，而在圖像識別和機器翻譯領域所取得的進步是近年來的重要發展之一。

拉塞爾在1995年合著了《人工智能技術：一種現代方法》一書。他表示，在緊迫的關鍵領域仍需要確保人類對有超常智慧的人工智能的控制權。

他指出，人工智能是用一種特定的方法和某種通用方法進行設計的，而在復雜的現實環境中使用這種系統仍然不夠謹慎。

例如，要求人工智能盡快治愈癌癥可能會有危險。拉塞爾認為，它可能會找到在整個人類中誘發腫瘤的方法，這樣它就可以并行進行數百萬個實驗，把我們所有人都當作實驗品。這是因為人工智能在執行我們所設定目標的解決方案；但我們只是忘了作具體說明，忘了告訴人工智能不能把人類當作實驗品、不能用全世界的GDP來完成人工智能實驗，以及其他的禁忌等。”

他還表示，如今的人工智能技術與《機械姬》等電影中描述的技術仍有很大差距，但未來的機器勢必會比人類更聰明。

拉塞爾認，為這一目標最快可以在10年內實現，慢則需要長達幾百年的光陰。不過，幾乎所有人工智能研究人員都認為這將一展望將在本世紀得以實現。

一個擔憂的問題是，機器不需要在所有方面都比人類更聰明，否則會帶來嚴重的風險。拉塞爾表示，這是目前科學家們正在做的事情。如果了解一下社交媒體和那些通過計算給人們推送閱讀和觀看內容的算法，就會知道它們在很大程度上控制著我們的認知輸入。

他表示，結果就是算法操縱著用戶，不停地給他們洗腦，這樣算法就可以預測用戶的行為和喜好，所推送的內容也會獲得更多的點贊及收入。

以于人工智能研究人員是否被自己的成就嚇到的問題，拉塞爾明確表示，“是的，我認為我們的恐懼正與日俱增”。

這讓拉塞爾想起了在物理學領域發生的事情：物理學家知道原子能的存在，他們可以測量出不同原子的質量，還可以計算出在不同類型的原子之間進行轉換可以釋放多少能量。但是，專家們總是強調這些想法只是理論上的。隨后當原子能真正運用到實際生活中時，這些專家還沒有準備好。

拉塞爾表示，人工智能在軍事領域上的應用，比如造小型殺傷性武器等，十分令人擔憂。這些武器是可以量產的，這意味著可以在一輛卡車上安裝一百萬個小型武器，之后你打開后車廂讓它駛離，就足以摧毀整座城市。

拉塞爾認為，人工智能的未來在于開發出一種機器，知道真正的目標是不確定的，就好像人們的偏好也是不確定的一樣。這意味著它們在做出任何決定時都必須與人類進行溝通，而不是像管家一樣自行決定。但是，這個想法很復雜，尤其是因為不同的人有不同的、或相互沖突的偏好，而這些偏好不是固定的。

拉塞爾呼吁人們采取措施，包括制定研究人員行為準則、立法和條約，以確保使用的人工智能系統的安全，還應該培訓研究人員來確保人工智能免遭種族偏見等問題的影響。他表示，歐盟禁止機器模仿人類的相關立法應該在世界范圍內實施。

他希望讓公眾參與到這些選擇中來是很重要的，因為公眾才是最終受益與否的對象。

另一方面，在人工智能領域取得進步需要一段時間才能實現，但這也不會讓人工智能變成科幻小說。

（編譯：喻玲蕭 編輯：王旭泉）

審核編輯：符乾江