精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

機器學習的變革,隨機和分散的網絡

zhKF_jqr_AI ? 來源:未知 ? 作者:李倩 ? 2018-10-04 08:56 ? 次閱讀

如今的人工智能系統,例如受到神經元和神經系統連接啟發的人工神經網絡,在很多任務上表現得都不錯。同樣,這些系統需要強大的計算力和大量訓練數據,這也使得它們能在圍棋等游戲上達到甚至超越人類水平、能夠檢測出圖像中的汽車、能分辨是貓是狗。但是,賓夕法尼亞大學的計算神經科學家Konrad Kording表示:“它們在音樂編曲或寫短故事方面仍然表現不佳。它們在對實際情況進行有效推理時仍然有困難。”

為了突破這些限制,一些研究小組回過頭來思考,大腦能否為創造新想法提供創意。但是其中有些人選擇的研究對象看起來似乎很難:對氣味的感知。科學家們嘗試創建一種更好方法,理解器官是如何處理化學信息的,從而發現了與人工智能問題相關的編碼策略。此外,嗅覺回路與更復雜的大腦區域非常相似,這些區域對構建更好地機器能提供幫助。

現在,計算機科學家們開始在機器學習環境中研究這些發現。

機器學習的變革

目前使用的領先的機器學習技術,有些是在模仿視覺系統的結構,基于對信息的分層提取。當大腦的視覺皮層接收到感知數據,它首先會選取一些小的、明確的特點,例如線條、結構、顏色等。神經科學家David Hubel和Torsten Wiesel在上世紀50和60年代發現,視覺系統中特殊的神經元對應著視網膜中相同位置的像素。這一發現讓他們獲得了諾貝爾獎。

隨著視覺信息在大腦皮層神經元中傳遞,有關線條、結構和顏色的詳細信息組合在一起構成了輸入的抽象表示,即判斷目標物體時人臉,之后確定他的身份。網絡中的每一層都能幫助該器官達到這一目標。

深度神經網絡也是用相似的分層方式搭建的,這對機器學習和AI研究來說是一場革命。想要教會這些網絡辨認目標物體,例如人臉,它們就需要輸入上千張樣本圖片。有了足夠的樣本,它就能在新圖片和語境中識別出目標人臉。

研究人員在圖像分類、語音識別、語言翻譯以及其他機器學習應用中都取得了較大的成功。華盛頓大學計算神經科學中心的研究者Charles Delahunt表示:“我把深度網絡看作是貨運列車。它們非常強大,只要你有足夠平的空地,就能在上面鋪設鐵軌、建造設施。但是我們知道生物系統并不需要這些,它們可以解決深度網絡目前無法解決的問題。”

自動駕駛汽車是AI領域的熱點話題,當汽車在新環境中實時導航時,這一環境可能經常在變化,充滿了噪音,受視覺系統啟發的深度學習技術可能會失靈。或許,只依靠視覺導航也許不是正確的方法。麻省理工學院的生物物理學家Adam Marblestone認為,這種視覺上的成功是歷史發展的巧合。這一系統也是科學家們最了解的,能有明確的機器學習任務應用。

但是,加利福尼亞一名計算機科學家Saket Navlakha表示:“每一種刺激并非是按同一種方式進行處理的,例如視覺和嗅覺都是不同種類的信號……所以可能存在不同的方法,處理不同類型的數據。我認為除了研究視覺系統的工作原理外,還有很多需要了解的事。”

Saket Navlakha

他和他的同事們開始研究昆蟲的嗅覺系統背后的秘密。上個世紀九十年代,生物學家Linda Buck和Richard Axel發現了有關氣味接收器的基因,這才開始了對嗅覺的研究。但是從那時起,嗅覺系統僅僅能從蒼蠅或其他昆蟲中輕易地研究。有些科學家認為,視覺系統并不能用于一般的計算挑戰任務中。

Delahunt說:“我們研究嗅覺,是因為它是一個有限的系統,你可以相對完整地描述它。”赫特福德郡大學的計算神經科學家Michael Schmuker表示:“人們已經能用視覺做出很強大的結果了,也許嗅覺同樣如此。”

隨機和分散的網絡

嗅覺和視覺在很多角度都不同。味道是非結構化的,它們沒有線條,也無法在空間中進行分類。它們是各種成分和濃度的混合體,并且難以用種類進行區分。所以并不確定應該關注哪些特征。

嗅覺系統中的神經元是對整個接收區域隨機采樣,并非針對某一特定區域。在類似視覺皮層的映射系統中,神經元所在的位置解釋了它所攜帶的信息。但是在嗅覺皮層中卻不是這樣的,信息分布在系統中,要讀取數據需要對少量神經元進行采樣。

以果蠅的嗅覺循環為例:50個投射神經元從接收器中接收了輸入,每個都對不同的模塊有反應。一種氣味可能會讓多種不同神經元有反應,而且每種神經元可以表示多種氣味。這樣的信息非常會亂,各種表示也相互重疊。之后,這些信息被隨機投射到2000個Kenyon細胞上,該細胞中含有特殊的氣味,其中包含的維度比之前多了40倍,分辨氣味更加容易。

一旦果蠅的嗅覺循環完成,它就需要找到一種方法用非重疊的神經元區分味道。它通過對數據“稀疏化”完成這一過程,只有大約100個Kenyon細胞對特定氣味有反應,這就能夠給每種氣味打上唯一的標簽

簡單來說,雖然傳統的深度網絡會在“學習”的過程中改變它們連接的力量,但嗅覺系統通常不會通過調整投射神經元和Kenyon細胞之間的連接而訓練自己。

本世紀初,研究者創建了相應算法來判斷隨機嵌入和更高維度的分散是如何幫助提高計算效率的。英國斯科塞斯大學的Thomas Nowotny和加利福尼亞大學圣迭戈分校的Ramón Huerta利用支持向量機進行這一問題的研究。他們認為,不論是自然還是人工的信息處理系統,在利用隨機組織和維度擴張來高效地表示復雜數據時,方法都是相同的。

基于此,Nowotny和他的同事們繼續探尋嗅覺和機器學習之間的關系,看二者之間是否有更深的聯系。2009年,他們證明了一種基于昆蟲的嗅覺模型可以辨認手寫數字。即使去除了大部分神經元,也不會過度影響模型性能。

但在這之后,就很少有相關研究出現。直到最近一些科學家們開始回顧嗅覺的生物系統能否改善相關的機器學習問題。

基于嗅覺的多種成果

Delahunt和他的同事們重復了Nowotny等人的部分工作,用飛蛾的嗅覺系統作為基礎,將它與傳統的機器學習模型相比。只提供不到20個樣本,基于飛蛾的模型能更好地識別出手寫數字,但是隨著訓練數據的增加,其他模型也能得出更精確的結果。

至于學習速度,嗅覺似乎表現得更好。在這種情況下,學習不再是尋找最佳特征和表示,而是減少了辨認大量隨機特征的機會,很多都是無用的。南方醫科大學的生物學家Fei Peng表示:“如果能點擊一下鼠標就能完成訓練,不就太完美了嗎?”

嗅覺策略的其中一個著名案例是去年Navlakha實驗室的成果,研究者們想找到一種基于嗅覺的方法,利用相似性進行搜索。就像各類視頻網站總是在頁面邊緣推薦相關信息一樣,器官也要在辨認氣味時快速做出對比和判斷。果蠅最初可能會學習接近成熟的香蕉味道,遠離醋味,但是由于環境非常復雜,充滿噪聲,它無法多次聞到同樣的氣味。當它感知到一種新味道后,果蠅要思考之前聞過的哪種氣味更接近,這樣才能做出正確的反應。

Charles Delahunt(左)和J.Nathan Kutz(右)

Navlakha創造了一種基于氣味相似性的搜索算法,將其應用到了圖片數據集上。他和他的團隊發現他們的算法比傳統的非生物方法好兩到三倍。除此之外,Peng和他的同事們,基于螞蟻的嗅覺模型研究它們是如何進行導航的。Nowotny正在研究嗅覺系統是如何處理混合物的,例如器官可以在多種味道的混合中分辨出一種特定的味道。

這一想法可能對AI領域的“雞尾酒問題”有所幫助,這一問題是指想在嘈雜的環境中分離多種對話有多困難。如果一間房間里有很多說話者,AI可能通過分辨聲音信號來確定不同的發言者。

結語

嗅覺是一種古老的系統,可以追溯到細菌的生化感知能力,很多生物的器官都用它來探索環境。讓科學家們感到欣慰的是,嗅覺系統的結構和許多物種大腦的其他區域驚人地相似,特別是涉及記憶和導航的海馬體,以及負責運動控制的小腦。

嗅覺循環可以用作理解海馬體和小腦使用的復雜學習算法和計算的手段,并且可以應用于AI之上。研究人員已經開始轉向研究注意力和各種形式的認知過程,希望能找到改進當前機器學習架構和機制的方法。而嗅覺可能提供了一種更簡單的方法建立這些連接。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 圖像分類
    +關注

    關注

    0

    文章

    90

    瀏覽量

    11907
  • 視覺系統
    +關注

    關注

    3

    文章

    331

    瀏覽量

    30684
  • 機器學習
    +關注

    關注

    66

    文章

    8377

    瀏覽量

    132410

原文標題:機器視覺之后,AI開始模仿嗅覺系統了

文章出處:【微信號:jqr_AI,微信公眾號:論智】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    機器學習算法之隨機森林算法詳解及工作原理圖解

    隨機森林是一種靈活且易于使用的機器學習算法,即便沒有超參數調優,也可以在大多數情況下得到很好的結果。它也是最常用的算法之一,因為它很簡易,既可用于分類也能用于回歸任務。 在這篇文章中,你將了解到
    的頭像 發表于 03-14 16:10 ?31.9w次閱讀
    <b class='flag-5'>機器</b><b class='flag-5'>學習</b>算法之<b class='flag-5'>隨機</b>森林算法詳解及工作原理圖解

    基于深度學習技術的智能機器

    “狗”。深度學習主要應用在數據分析上,其核心技術包括:神經網絡搭建、神經網絡訓練及調用。CNN神經網絡訓練 機器視覺中的圖像預處理屬于傳統技
    發表于 05-31 09:36

    機器學習隨機森林相關知識

    機器學習隨機森林(三)
    發表于 04-02 10:06

    機器學習神經網絡參數的代價函數

    吳恩達機器學習筆記之神經網絡參數的反向傳播算法
    發表于 05-22 15:11

    變時滯隨機大系統的輸出反饋分散控制

    變時滯隨機大系統的輸出反饋分散控制:研究了一類具有嚴反饋形式的變時滯隨機非線性大系統,其互聯項滿足線性增長約束,選擇了適合這類組合非線性系統的分散狀態觀測器,應
    發表于 10-21 08:00 ?12次下載

    云中的機器學習:FPGA上的深度神經網絡

    憑借出色的性能和功耗指標,賽靈思 FPGA 成為設計人員構建卷積神經網絡的首選。新的軟件工具可簡化實現工作。人工智能正在經歷一場變革,這要得益于機器學習的快速進步。在
    發表于 11-17 11:47 ?1373次閱讀

    基于網絡表示學習隨機游走的鏈路預測算法

    現有的基于隨機游走鏈路預測指標在無權網絡上的轉移過程存在較強隨機性,沒有考慮在網絡結構上不同鄰居節點間的相似性對轉移概率的作用。針對此問題,提出一種基于
    發表于 11-29 10:24 ?0次下載
    基于<b class='flag-5'>網絡</b>表示<b class='flag-5'>學習</b>與<b class='flag-5'>隨機</b>游走的鏈路預測算法

    一種隨機的人工神經網絡學習方法

    針對復雜網絡環境下網絡流監測(分類)問題,為實現多個類別直接分類以及提高學習方法的訓練速度,提出了一種隨機的人工神經網絡
    發表于 12-05 15:26 ?0次下載

    機器學習和線性隨機效應混合模型在縱向數據預測上的對比

    本文針對牛奶中所含蛋白質的縱向數據,利用R軟件,運用機器學習方法中的決策樹、boost、bagging、隨機森林、神經網絡、支持向量機和傳統處理縱向數據的線性
    發表于 01-02 18:51 ?0次下載

    隨機塊模型學習算法

    由于隨機塊模型能夠有效處理不具有先驗知識的網絡,對其研究成為了機器學習網絡數據挖掘和社會網絡
    發表于 01-09 18:20 ?1次下載

    5分鐘內看懂機器學習和深度學習的區別

    學習的比較外,我們還將研究他們未來的趨勢和走向。 深度學習機器學習簡介 一、什么是機器學習
    發表于 09-13 17:19 ?540次閱讀

    如何進行改進隨機游走進行網絡表示學習算法資料說明

    現有的基于Word2vec的網絡表示學習(NRL)算法使用隨機游走(RW)來生成節點序列,針對隨機游走傾向于選擇具有較大度的節點,生成的節點序列不能很好地反映
    發表于 04-11 16:51 ?2次下載
    如何進行改進<b class='flag-5'>隨機</b>游走進行<b class='flag-5'>網絡</b>表示<b class='flag-5'>學習</b>算法資料說明

    使用TensorFlow建立深度學習機器學習網絡

    教你使用TensorFlow建立深度學習機器學習網絡
    發表于 03-26 09:44 ?18次下載

    機器學習網絡中的實際應用

      機器學習網絡中的集成不僅限于上述用例。通過從網絡機器學習的角度闡明機遇和研究,可以在使用
    的頭像 發表于 06-27 15:52 ?950次閱讀

    機器學習網絡中的實際應用

      機器學習被證明對幾乎每個行業都是有益的,包括網絡行業。機器學習可以幫助解決棘手的舊網絡障礙,
    的頭像 發表于 11-18 17:21 ?748次閱讀