諾亞關于深度學習的研究進展及發展趨勢
大?。?/span>0.6 MB 人氣: 2017-10-09 需要積分:1
標簽:深度學習(119547)
本文來自華為諾亞方舟實驗室資深專家劉曉華在攜程技術中心主辦的深度學習Meetup中的主題演講,介紹了華為諾亞面向語音語義的深度學習進展。本次演講簡要回顧了深度學習近十年進展,重點介紹華為諾亞方舟實驗室最近兩年內和深度學習相關的研究成果,并探討了深度學習的未來趨勢。
深度學習的近十年進展
深度學習為什么現在這么火?大數據、算法突破和計算能力。算法上有什么樣的突破?第一點,對多層神經網絡做預訓練。第二點,大量標注數據驅動的監督學習和防過擬合技術的結合,例如dropout。第三點,注意力模型。特別是2012年來,深度學習在語音、圖片、視頻識別,包括自然語言處理方面取得重大突破等。
語音識別方面:基于深度神經網絡的聲音模型替隱馬爾可夫框架下的基于混合高斯分布的升學模型,使語音識別取得了突破性進展。目前完全融合了聲學模型、語言模型和聲學詞典的基于深度學習的端到端的語音識別系統也開始出現,并有可能演進為下一代的語音識別系統。
圖像識別:2011年,基于深度卷積神經網絡的圖像識別系統在ImageNet數據集上取得極大成功,并開始有成功的商業化應用。
自然語言處理:自2014年始,深度學習在語法分析、機器翻譯、對話等領域都取得了一系列重要成果。
符號人工智能:深度學習開始進入知識表達和推理等傳統人工智能的領域,并取得了初步成功。
控制/強化學習:深度學習和強化學習結合催生了深度強化學習技術,該技術在控制領域,如游戲操作和機器人的控制的端到端學習(end-to-end learning),都有了令人矚目的成功。
諾亞語音語義方面深度學習相關研究
華為諾亞方舟實驗室已經成為中國在深度自然語言處理研究(deep learning for NLP)領域最好的實驗室之一。
非常好我支持^.^
(0) 0%
不好我反對
(0) 0%