精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

沒人說得清深度學習的原理 只是把它當作一個黑箱來使

lviY_AI_shequ ? 2017-12-26 16:07 ? 次閱讀

人類正在慢慢接近世界的本質——物質只是承載信息模式的載體。人腦之外的器官都只是保障這一使命的給養艦隊。

自從去年 AlphaGo 完虐李世乭,深度學習火了。但似乎沒人說得清它的原理,只是把它當作一個黑箱來使。有人說,深度學習就是一個非線性分類器?有人說,深度學習是對人腦的模擬……但我覺得都沒有捅透那層窗戶紙。

當讀完 Jeff Hawkins 的《論智能》,「就是它了!」。而我驚奇地發現,原書竟是 2004 年出版的!我怕自己讀了本假書,或是某個美國民科的著作,特意到豆瓣、知乎上查了下,發現幾乎每個看過這本書的人都對其理論嘖嘖稱贊。但奇怪的是,似乎沒人肯替它站臺,這套理論的影響止步于此,好像大家都在刻意掩飾自己看過這本秘笈。它明明已經完整解釋了人腦智能的運作機制了啊!注意是 Real Intelligence ,而不僅僅是 Artificial Intelligence !!!

三個洞見

比起絕大多數腦科學論文,作者的洞見簡單得多,也深刻得多:

長久以來,由于我們沒有能力從內部去觀察思維,所以人們總是把「智能」等同為「表現出智能的行為」。但當我們看書時,在外人看來并沒有任何變化,而我們自己知道,這期間產生了無數的聯想、頓悟、回憶。所以,「理解」是無法通過外部行為來測量的,它是一個內在度量的指標。

從草履蟲到人類,大自然會為每一種生物分別設計一套智能機制,還是沿用一套機制,亦或是從某一代開始出現某種全新的智能機制,并沿用至今(那么,最先產生這套智能機制的又是什么物種呢?)?我們所說的智能,是人類所獨有,還是生物的普遍特征(只是多寡之別)?而作者相信,智能不可能是上帝專為人類而設計的,它一定來自大自然的某種慣用伎倆。

大腦皮層,不管是結構上還是功能上,都有著相同的構造/機理(嚴格來說,這不算作者的洞見,而是早在 1978 年由 Vernon Mountcastle 發現的)。

由這三個洞見出發,自然而然地導向了以下疑問:

如果智能不是由行為定義的,那該如何定義它?

向前看,智能是如何演化而來的?

向內看,大腦皮層的結構是如何捕捉這個世界的結構的?

簡單地說,作者的結論是:

智能并沒有人們想象的那么玄乎,它不過是一種「預測未來的能力」罷了。

這些預測的實質,不過是「生物的應激性」在「生物自平衡機制」&「環境壓力」下產生的副產品

智能的核心是某種「穩定不變的東西」。而這得益于大腦皮層同質的層級結構。

下面,我們就來看看作者是怎么從那三個簡單的洞見一步步推測出智能的本質的。

生命的秋千

小到人體,大到經濟系統,復雜系統內都有著一種消減沖擊、使系統回歸穩態的類似機制。血糖濃度低了,胰高血糖素分泌會增加,拉高血糖;而血糖高了,胰島素分泌會增加,拉低血糖。通過調節這對激素,系統竭力讓血糖維持在某一范圍內。這種自穩態機制出現在生命的各個角落,保持著生命的自我平衡。

這就像一只「看不見的手」,總是想推開擠壓,同時把「逃兵」抓回來。這只「看不見的手」在我們大腦中編織了無數「正確的位置」(用腦科學家的黑話說就是「恒定表征」)。一旦偏離,我們就開始警覺起來,并調動多個系統聯合應對。舉個書中的例子,一個球飛過來,我們并不是去計算它的彈道、落點,而是指揮肢體相應調整,直到抓住來球。這套調整算法就是「預測」。從這個事例看,人們在接球這件事上表現出的智能,和草履蟲向著食物劃動所展現的應激性,又有什么本質的分別呢?

為什么說「預測」是智能的基礎?

平常,人們理解的「預測」步子邁得太大了,就好比從一發球就要精準地算出其落點,而人腦的「預測」更像是「應激」,球動我動,一點點微調。現代社會發展得太快,讓我們看不清概念的歷史面貌,因而更容易被表象的迷霧困惑。當我們走回歷史的起點,迷霧自然散去。智能,于我們最大的益處是什么?并非創造什么,而是生存下去。人類無時無刻不在「生存」還是「發展」之間糾結。但很少有人看到:發展,不過是為了應對未知的生存挑戰。

我們應該怎么去定義智能呢?也許演化的歷史能告訴我們更多。智能,是幫助人類生存下去的一種能力:是讓我們可以在溪流中叉到游動的魚兒的能力,是讓我們可以只靠一幅模糊的圖像就判斷出是朋友還是猛獸……我們應該去研究那些「如何保持平衡」之類的問題,而不是什么彈道求解問題,那不是大自然的進化目標,自然也得不到什么大腦的機制。

所有生存問題都可以歸結為一個元問題:如何識別出這個問題中的那些個恒定不變的東西。比如:溪流中的魚、回家的方向……如果說智能中還存在別的成分,比如:想象、創造工具、解決問題,都可以規約到某種抽象手段上。歸根結底,人類解決一切問題的方法只有一個——運用抽象,在更高維度上調和矛盾。

一切繞不開「恒定表征」(invariant representations)。

抽象的本質

就如同人們在認可了「負數」這一概念之后,終于能將「加法」&「減法」這兩種表象上完全不同(一個增加,一個減少)的運算,統一為「整數域上的加法」。從更高的維度調和矛盾,這正是大腦皮層的構造方式,也是其工作原理。不斷在現象中找到共同點,提取出來,取個名字;這些名字又成為了上一層抽象的基石(或者叫「詞匯」)。這樣一層一層,直至得到那個智能的圣杯——恒定表征。

舉個例子,我們是如何識別邊緣的呢?

我們先來考察一小塊 3×3 的視網膜,分別標記為 #1~#9 (如下圖所示)。當一條豎線出現時(#1, #4, #7 均被激活),電信號傳遞到第二層。第二層的每一個神經元,分別響應視網膜上一組細胞被激活的情況。比如:第二層最左邊的那片神經元,響應的是單個視網膜細胞被激活的情況。再比如:第二層左二那片神經元,響應的是任意兩個視網膜細胞被激活的情況。以此類推……

邊緣識別:最下層是視網膜細胞;當某個視網膜細胞組合被激活后,會激活其上一層的相應神經元;而上一層神經元的某個組合被激活后,又會鏈式地激活更上一層的神經元如果我們把時間的因素考慮進去,假設信號并不會馬上消失,而是隨著時間衰減,那么只要時間夠短,輸入 (#1, #4, #7)、(#2, #5, #8)、(#3, #6, #9) 這三組刺激,就會在第三層激活某個神經元,代表「發現一條豎線」。

看,其實每一個神經元都是一個「單詞」(或是「概念」/「抽象」/「特征」)。只不過低層神經元描述的「單詞」抽象程度更低。比如:第二層那個 #(1, 4, 7) 神經元代表的是「在視網膜的最左邊出現一條豎線」,而其上層那個則沒有「在視網膜的最左邊」這一約束。

記憶的角色

神經元可以在 5 毫秒內完成信息的收集-整合-輸出,相當于運算速度為每秒 200 次。人類可以在半秒內(相當于 100 步)識別圖像、作出選擇…… 100 步,機器可做不到。在人類已知的算法里面,也許只有「打表」(把答案事先存儲在記憶中,用時并不作計算,而只是提取)可以做到。所以,整個大腦皮層就是一個記憶系統,而非什么計算機。

深度學習做對了什么?

多層網絡,提供了逐層抽象的通道。如今,圖像識別系統正是這么做的:底層識別邊緣,而后識別特定形狀,再高層識別某種特征……

卷積,提供了獲得「恒定表征」的手段。

還有什么我們不知道?

當我們想要提取某段記憶時,往往只需要只言片語就行了。也就是說,記憶似乎是以一種全息的形式存儲的。任何片段都包含了全部。

還有,我們依然不知道大腦是怎么在 100 步內完成決策的。我們也不知道為什么會有那么多反饋連接?軸突 v.s. 樹突在功能上有什么分別?……

現在讓我們回過頭來看作者的三個洞見,用黑話再講一遍就是:

理解,是對「大腦如何形成記憶,并利用這些記憶作出預測」的一個內部度量。

預測,是某種自我調節機制的副產品。

大腦皮層在外表 & 結構上存在著驚人的同質性。也就是說,大腦皮層使用相同的計算方式來完成它的一切功能。人類展現出來的所有智能(視覺、聽覺、肢體運動……)都是基于一套統一的算法

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 智能
    +關注

    關注

    8

    文章

    1703

    瀏覽量

    117421
  • 深度學習
    +關注

    關注

    73

    文章

    5493

    瀏覽量

    120980
  • 邊緣
    +關注

    關注

    0

    文章

    25

    瀏覽量

    2004

原文標題:為什么大家都不戳破深度學習的本質?!

文章出處:【微信號:AI_shequ,微信公眾號:人工智能愛好者社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    NPU在深度學習中的應用

    隨著人工智能技術的飛速發展,深度學習作為其核心驅動力之,已經在眾多領域展現出了巨大的潛力和價值。NPU(Neural Processing Unit,神經網絡處理單元)是專門為深度
    的頭像 發表于 11-14 15:17 ?301次閱讀

    GPU深度學習應用案例

    能力,可以顯著提高圖像識別模型的訓練速度和準確性。例如,在人臉識別、自動駕駛等領域,GPU被廣泛應用于加速深度學習模型的訓練和推理過程。 二、自然語言處理 自然語言處理(NLP)是深度學習
    的頭像 發表于 10-27 11:13 ?328次閱讀

    激光雷達技術的基于深度學習的進步

    信息。這使得激光雷達在自動駕駛、無人機、機器人等領域具有廣泛的應用前景。 二、深度學習技術的發展 深度學習是機器學習
    的頭像 發表于 10-27 10:57 ?302次閱讀

    FPGA加速深度學習模型的案例

    FPGA(現場可編程門陣列)加速深度學習模型是當前硬件加速領域的熱門研究方向。以下是些FPGA加速
    的頭像 發表于 10-25 09:22 ?146次閱讀

    AI大模型與深度學習的關系

    AI大模型與深度學習之間存在著密不可分的關系,它們互為促進,相輔相成。以下是對兩者關系的介紹: 深度學習是AI大模型的基礎 技術支撐 :
    的頭像 發表于 10-23 15:25 ?378次閱讀

    利用Matlab函數實現深度學習算法

    在Matlab中實現深度學習算法是復雜但強大的過程,可以應用于各種領域,如圖像識別、自然語言處理、時間序列預測等。這里,我將概述
    的頭像 發表于 07-14 14:21 ?1915次閱讀

    基于Python的深度學習人臉識別方法

    基于Python的深度學習人臉識別方法是涉及多個技術領域的復雜話題,包括計算機視覺、深度學習
    的頭像 發表于 07-14 11:52 ?1189次閱讀

    深度學習中的無監督學習方法綜述

    深度學習作為機器學習領域的重要分支,近年來在多個領域取得了顯著的成果,特別是在圖像識別、語音識別、自然語言處理等領域。然而,
    的頭像 發表于 07-09 10:50 ?517次閱讀

    深度學習與nlp的區別在哪

    深度學習和自然語言處理(NLP)是計算機科學領域中兩非常重要的研究方向。它們之間既有聯系,也有區別。本文將介紹深度學習與NLP的區別。
    的頭像 發表于 07-05 09:47 ?820次閱讀

    深度學習常用的Python庫

    深度學習作為人工智能的重要分支,通過模擬人類大腦中的神經網絡來解決復雜問題。Python作為種流行的編程語言,憑借其簡潔的語法和豐富的
    的頭像 發表于 07-03 16:04 ?569次閱讀

    TensorFlow與PyTorch深度學習框架的比較與選擇

    深度學習作為人工智能領域的重要分支,在過去十年中取得了顯著的進展。在構建和訓練深度學習模型的
    的頭像 發表于 07-02 14:04 ?890次閱讀

    深度學習模型訓練過程詳解

    深度學習模型訓練是復雜且關鍵的過程,涉及大量的數據、計算資源和精心設計的算法。訓練
    的頭像 發表于 07-01 16:13 ?1094次閱讀

    能把ESP32當作通用MCU來使用嗎?

    這個芯片除了WIFI,藍牙等功能外的其他資源和功能很適合我的需要.我能用C編譯器從頭編譯干凈的HEX,點亮LED么?有這個芯片的寄存器定義和例子嗎?
    發表于 06-25 06:38

    為什么深度學習的效果更好?

    導讀深度學習是機器學習子集,已成為人工智能領域的項變革性技術,在從計算機視覺、自然語言處
    的頭像 發表于 03-09 08:26 ?596次閱讀
    為什么<b class='flag-5'>深度</b><b class='flag-5'>學習</b>的效果更好?

    深度學習在人工智能中的 8 種常見應用

    深度學習簡介深度學習是人工智能(AI)的分支,
    的頭像 發表于 12-01 08:27 ?3239次閱讀
    <b class='flag-5'>深度</b><b class='flag-5'>學習</b>在人工智能中的 8 種常見應用