2020，這個略帶對仗神秘感的數(shù)字，給予了人們許多對未來的期盼。時至今日，不少人自嘲今年是“見證歷史”的一年，我們以科技為主題的專欄也在這歷史潮流的裹挾中應(yīng)運而生。

鑒于此，紅杉匯聯(lián)合成員企業(yè)童行學(xué)院創(chuàng)始人、“雨果獎”獲得者郝景芳開啟“折疊宇宙”這檔專欄誕生的初衷，以“打開折疊宇宙，看見跨界未來”為宗旨，以通俗易懂的大眾化語言，拆解科技領(lǐng)域?qū)I(yè)術(shù)語和科學(xué)概念，傳播重要信息思維，讓前沿科技走進(jìn)大眾。

我們精心選擇了人工智能、基因編輯、機械骨骼、細(xì)胞醫(yī)療等與你我他息息相關(guān)的話題，腳踏實地的深入研究領(lǐng)域內(nèi)的各機構(gòu)，如中科院首席專家、領(lǐng)域內(nèi)創(chuàng)始人、研究第一人等，獨家解析。

我們期望帶著讀者在與不同城市、不同歷史時空、不同行業(yè)領(lǐng)域的人破壁、破次元、破圈層，相互溝通，跨界對話，一同進(jìn)入腦洞大開的未來。本期我們帶來這一系列的第一個話題——人工智能。

有關(guān)人工智能，過去幾年已是老生常談。但關(guān)于人工智能與人的邊界，行業(yè)一直存在爭議，并且衍生出不同的想象。熱門的科幻電影《機械姬》隱喻出有關(guān)人工智能技術(shù)發(fā)展的兩大問題：一個是圖靈測試可能存在缺陷，一個是人工智能與人腦的界限究竟在哪里。 對科學(xué)家而言，這或許是難以解答的技術(shù)性命題，需要漫長的理論證實和研究。但對更多人來說，大家關(guān)心的無外乎兩類問題：

?未來人工智能會不會像機械姬這么聰明？

?人工智能會超越人類智商進(jìn)而統(tǒng)治人類嗎？

圍棋可以說是人類智力游戲的最高峰，AlphaGo曾在圍棋比賽中戰(zhàn)勝了人類世界冠軍李世石，這難道還不夠聰明嗎？其實，在單一智能方面，人工智能已經(jīng)超越人類，但是綜合智能方面，還和人類差得很遠(yuǎn)。 為此，我們特意實地探訪了AI類腦智能研究中心，與中科院類腦智能研究中心副主任曾毅教授，隨郝景芳一起進(jìn)行了一場未來感十足的AI對話，揭曉更多有關(guān)人工智能、類腦研究的秘密。

初探類腦網(wǎng)絡(luò)：假若獅子會說話？

郝景芳：身為一個主寫科幻小說的人，腦子里更多想的是天馬行空的思路，而曾毅教授則更多是腳踏實地的研究，非常想了解更多有關(guān)人工智能的前沿科技成果，科幻與科技的思維碰撞一向充滿了化學(xué)反應(yīng)。先請曾毅教授為我們介紹下類腦網(wǎng)絡(luò)吧！ 曾毅：我們?yōu)槭裁匆獜氖艽竽X啟發(fā)的角度去構(gòu)建人工智能呢？

實際上人類在發(fā)展過程中，一直是一種比較自信的動物。但在自然界面前，人類在整個演化過程當(dāng)中，并不一定就是最優(yōu)的，人類也還沒有到達(dá)演化的頂峰。但是，人類在構(gòu)建人工智能的時候，我們可以認(rèn)為在一個鏡子當(dāng)中看我們自己，在構(gòu)建一種新的文明。 受人類智能啟發(fā)，有人說構(gòu)建AI不需要參考人類智能。如果這樣，可能忽略的就是數(shù)億年的自然演化帶給我們的力量。人類是怎么產(chǎn)生的？

正是在數(shù)億年的演化過程當(dāng)中產(chǎn)生的。有個非常有意思的例子，有位哲學(xué)家曾經(jīng)說過，如果一只獅子會說話，那我們就沒有辦法去理解它。另一位哲學(xué)家Daniel Danette卻認(rèn)為不是這樣。如果一個獅子會說話，我們將很好地理解這個動物。但這對于我們理解獅子毫無益處，因為一個會說話的獅子就已經(jīng)不是獅子了。 這不就是我們在構(gòu)建人工智能時所面臨的嗎？如果我們創(chuàng)造的AI，與人類的實現(xiàn)方式是完全不一樣的，那還是我們理解的智能嗎？

從這個角度來講，我們更多希望受到大自然演化機制的啟發(fā)，去構(gòu)建未來的人工智能。更關(guān)鍵的是，這種方式構(gòu)建的人工智能對人類來講可能是最貼近的，最容易被人類理解的，也是最安全的方式?？梢韵胂?，如果你用一種完全不同的方式去構(gòu)建人工智能，你自己也說不清楚它為什么工作。就像現(xiàn)在深度神經(jīng)網(wǎng)絡(luò)的系統(tǒng)，很多層隱藏很難解釋一樣。你寧愿相信這樣的系統(tǒng)，還是相信一個基于這個數(shù)億年的演化，得到了現(xiàn)有機制和結(jié)構(gòu)發(fā)展出來的智能系統(tǒng)呢？ 答案已經(jīng)非常明顯了。我們在構(gòu)建類腦人工智能的過程當(dāng)中，其實是受到腦結(jié)構(gòu)和它機制的啟發(fā)，而不是去克??！因為自然演化的過程，已經(jīng)使得我們大腦的結(jié)構(gòu)和機制調(diào)整得更適合去解決問題。

人類是唯一具有意識的智能體嗎？

曾毅：有一個非常有意思的實驗，我們經(jīng)常說一個人之所以跟動物有區(qū)別，就是因為人類可以有意識，但實際上人類是不是唯一能夠具有意識的智能體？從認(rèn)知科學(xué)的角度來研究的話，有不同的認(rèn)識。如果我們跟AI系統(tǒng)來比較，AI永遠(yuǎn)不可能有意識。 自我意識是意識的其中一種，通過鏡像測試，我們認(rèn)為很多動物是有自我意識的，比如說大象、海豚。

通過測試，可以看出海豚像人一樣具有自我意識，而有一些動物像猴子，它就不能夠通過鏡像測試。 我有一個同事，訓(xùn)練恒河猴大概兩到五周的時間，使得它在訓(xùn)練以后能夠通過鏡像測試。當(dāng)時給我的啟發(fā)就是，如果我要構(gòu)建一個猴腦的計算模型，要做的實驗就是人們設(shè)計給訓(xùn)練猴子的這個實驗。如果猴子能夠?qū)W會通過鏡像測試，那么是不是人工智能也能夠?qū)W會通過鏡像測試。最終的結(jié)果是積極的，我們的小機器人通過了鏡像測試。你在用激光筆打到它的臉上的時候，它知道你打的是他的臉，而不是其他的幾個長得跟它一模一樣的機器人。但是在未經(jīng)訓(xùn)練之前，它沒有這樣的意識。 當(dāng)時這件事情，把我神經(jīng)科學(xué)的同事嚇了一跳。

他們說，這一定是個假新聞，因為機器人怎么可能具有意識呢？我沒有說機器人具有意識啊，我是說，通過這個訓(xùn)練后，使猴子有了自我意識。但實驗是你設(shè)計的，猴腦是猴子大腦的一個復(fù)制品，我們把它運用到機器人身上去?，F(xiàn)在猴子通過了測試，你說猴子具有自我意識，機器人通過測試，你說機器人沒有自我意識，我說這個道理在哪里呢？實際上我的結(jié)論是說一個沒有自我意識的機器人，現(xiàn)在通過了鏡像測試，那能說明什么呢？說明從神經(jīng)學(xué)和心理學(xué)出發(fā)設(shè)計的鏡像測試，可能并不能作為檢測自我意識的黃金標(biāo)準(zhǔn)。郝景芳：我非常有感觸。人工智能帶來的最大好處，其實是讓我們?nèi)祟惛斫馕覀冏约骸?br />
就比如說我看了一些人工智能的相關(guān)原理后，我發(fā)現(xiàn)人工智能，它其實是很難做自我驅(qū)動的一些事情，你讓它下圍棋，它不會去干別的。所以我觀察小朋友。他現(xiàn)在一歲多，每到一個陌生的環(huán)境，會四處打量，覺得很稀奇有趣。當(dāng)他看到有人把百葉窗的窗簾嘩的弄下來時，他看呆了，仿佛沒見過這么有意思的現(xiàn)象。于是就跑到窗戶旁邊，也想擺弄著玩。 但人工智能就不一樣了，像AlphaGo雖然戰(zhàn)勝了人類，卻并不會想到除了下圍棋，還能去做什么，這種自我驅(qū)動力是AI所沒有的。

那我們?nèi)祟愂侨绾螕碛羞@種力量的？就像曾教授剛才講的自我意識，我也是看馬文·明斯基的作品《情感機器人》，他說人至少有六層自我認(rèn)知。先自我認(rèn)知，然后有個自我批評，再對自我批評的自我批評，然后有一個自我綜合定位等等。所以，人類的意識是非常復(fù)雜的。我們越是想要構(gòu)建發(fā)達(dá)的AI神經(jīng)網(wǎng)絡(luò)，就越發(fā)現(xiàn)“哦，其實我們?nèi)祟惐旧砭屯ι衿娴摹！?/p>

AI的善與惡 要看人類怎么定義

曾毅：另一個非常有意思的觀點同樣來自一位哲學(xué)家。他認(rèn)為：“擬人化的人工智能是一個錯誤的發(fā)展道路，因為人類的情感和價值觀，就是我們仇恨、敵視的來源，所以模仿了人類的情感和價值觀的機器人，會像我們現(xiàn)在的人類一樣危險。”我想他要表達(dá)的意思，并不是對人類很失望，而是說我們?nèi)祟惒煌晟频哪且幻?，有可能被計算機學(xué)到，特別是我們所說的人類價值觀。如果我們自身的價值觀不正確的，定義這個價值觀的人是不正確的，那么產(chǎn)出的人工智能系統(tǒng)就非常危險。 郝景芳：因為現(xiàn)在很多人就在討論互聯(lián)網(wǎng)的極化。本來大家認(rèn)為信息是平的，世界都變平了。但是現(xiàn)在發(fā)現(xiàn)互聯(lián)網(wǎng)的時代，大家反而各自湊到一起，反而激化了各種極端觀點，聲音被放大。

那未來會不會形成好多種人工智能，比如說，性別偏見人工智能，他們就專門是做性別偏見的智能。還有民族仇恨的人工智能，人和人的極端矛盾思想作用于AI。人工智能世界也會變得激化嗎？ 曾毅：不排除這種可能。目前構(gòu)建人工智能物，我們是在說人類要把人工智能變成什么樣子，所以它仍然是人類的一面鏡子?，F(xiàn)在人類的很多方面，像你說的會比較極端化，所以我們現(xiàn)在要想如何避免這些情況的發(fā)生。

首先，我希望人工智能的模型演化速度要比大腦的演化速度再快一點。我覺得超級智能什么時候到來不重要，重要的是我們怎么定義。如果超級智能真的超級，那么它在我們所說的利他之心等方面，都要比人有過之而無不及。只有那樣的話才是真正的超級智能。所以像有些人說超級智能如果真的實現(xiàn)了，那人類就滅亡了。我說那還不是真正超級智能，仍然是一個沒有演化好的超級智能。


如果它演化好了的話，它就會發(fā)現(xiàn)真正的利他行為，所以我覺得這個可能是未來人工智能在發(fā)展過程中，特別是在構(gòu)建它的倫理道德框架過程中，非常重要的發(fā)展方向。 基于現(xiàn)在對于人類價值觀的理解開始，實際上人類也還在演化的過程當(dāng)中。我們未來構(gòu)建的你可以理解是人類的擴展。它是另外一種文明，但也有可能是人類的未來。像景芳說的。如果人類未來存在的其中一種形式就是把意識上傳的話，那你可以認(rèn)為它是另外一個增強人類的智能版本。

如果是這樣的話，我們現(xiàn)在同時也要思考的，就是人類如何去轉(zhuǎn)型。人類的倫理道德價值觀也在發(fā)生著演變。像我們剛剛提到一個場景，我們能不能在一個模擬的環(huán)境當(dāng)中去演變，加速它演變的過程，使得現(xiàn)代人類能夠受益于這種計算模擬演變，再回饋于現(xiàn)代社會。我想這可能是對人類來講，既是一個終極機遇也是一個終極挑戰(zhàn)。 郝景芳：我想到了阿西莫夫的機器人三大定律，目的就是機器人服務(wù)于人類、保護(hù)人類，這是基本法則。

曾毅：對，但為什么要保護(hù)你而不是我？為什么保護(hù)的是人類不是機器人？一旦AI獲得了這種反思的能力的話，它就會去挑戰(zhàn)人類倫理道德和價值觀。但從另外一方面，我們也要去深刻思考人類倫理道德價值觀是不是有問題？ 我有一個朋友他是耶魯大學(xué)生物倫理中心主任叫Wendell Wallach。他寫了一本書，叫做《道德機器》。在那本書的中文版書皮上，有這樣一句話“永遠(yuǎn)把機器關(guān)在道德的牢籠里”。我看到這句話覺得很不舒服，提出了質(zhì)疑，他卻堅持這句話是對的，并且要刊在英文第二版書上。 我說，“如果這樣的話，你就不要給我看你的書了”。我不同意這句話，為什么呢？

你可以設(shè)想這樣一個場景：在2015年的時候，AI可以看著網(wǎng)絡(luò)視頻學(xué)會炒菜。然后現(xiàn)在我們要構(gòu)建更高智能的AI，教它去理解電影里面的場景。那么30年之后，超級智能真正到來的時刻，AI在網(wǎng)絡(luò)上看到，關(guān)于人類如何對待機器人的視頻。你想一想，那到底是人類在牢籠里還是機器在牢籠里面？這是一個很難回答的問題。 他聽完笑的很大聲，但始終沒有給出問題的答案。我想就是這樣，我們現(xiàn)在并不確定人類的道德倫理價值觀就是最優(yōu)的，構(gòu)建以人類為中心的人工智能倫理，真就那么好嗎？還有一個策略是以生態(tài)為中心，人類是生態(tài)的一部分。 1950年艾倫·圖靈寫計算機智能的時候，文章中有句話，大意為，我們應(yīng)該有以宇宙為中心的這樣的視角來構(gòu)建新興科技的倫理的問題。

所以我覺得人類能夠看到的視野是很小一部分，往前一點點。即使是這樣，還有很多問題亟待解決。郝景芳：其實科幻照進(jìn)科學(xué)，科學(xué)也照進(jìn)科幻。這本來就是一個思想實驗的共生體。像剛才討論說未來人工智能是否可以真的去判決人類，我其實真就寫過這樣一個法庭的故事。人工智能誤判了人類，它從表面看事實是一回事，但深究內(nèi)里卻是不對的。那這樣一個故事就是從我去了解到人工智能的原理所得來的靈感。所以想要寫關(guān)于未來的故事，本身就應(yīng)該多去學(xué)習(xí)一些前沿科技。

原文標(biāo)題：曾毅對話郝景芳：人工智能不是未來，而是現(xiàn)在 | 紅杉愛科學(xué)

文章出處：【微信公眾號：紅杉匯】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq