導語：Science is NOT a battle, it is a collaboration. We all build on each other’s ideas. Science is an act of love, not war. Love for the beauty in the world that surrounds us and love to share and build something together. That makes science a highly satisfying activity, emotionally speaking! ——Yoshua Bengio

人工智能的浪潮正席卷全球，諸多詞匯時刻縈繞在我們的耳邊，如人工智能，機器學習，深度學習等。“人工智能”的概念早在1956年就被提出，顧名思義用計算機來構造復雜的，擁有與人類智慧同樣本質特性的機器。經過幾十年的發展，在2012年后，得益于數據量的上漲，運算力的提升和機器學習算法(深度學習)的出現，人工智能開始大爆發。但目前的科研工作都集中在弱人工智能部分，即讓機器具備觀察和感知能力，可以一定程度的理解和推理，預期在該領域能夠取得一些重大突破。電影里的人工智能多半都是在描繪強人工智能，即讓機器獲得自適應能力，解決一些之前還沒遇到過的問題，而這部分在目前的現實世界里難以真正實現。

若人工智能有希望取得突破，是如何實現的，“智能”又從何而來呢？這主要歸功于一種實現人工智能的方法——機器學習。

一、機器學習概念

機器學習一種實現人工智能的方法。

機器學習最基本的做法是，使用算法來解析數據從中學習，然后對真實世界中的事件做出決策和預測。與傳統的為解決特定任務、硬編碼的軟件程序不同，機器學習是用大量的數據來“訓練”，通過各種算法從數據中學習如何完成任務。機器學習源于早期的人工智能領域，傳統的算法包括決策樹、聚類、貝葉斯分類、支持向量機、EM、Adaboost等等。從學習方法上來分，機器學習算法可以分為監督學習（如分類問題）、無監督學習（如聚類問題）、半監督學習、集成學習、深度學習和強化學習。

傳統的機器學習算法在指紋識別、基于Haar的人臉檢測、基于HoG特征的物體檢測等領域的應用基本達到了商業化的要求或者特定場景的商業化水平，但每前進一步都異常艱難，直到深度學習算法的出現。

二、深度學習概念

深度學習是一種實現機器學習的技術。

其本身并不是一種獨立的學習方法，也會用到有監督和無監督的學習方法來訓練深度神經網絡。但由于近幾年該領域發展迅猛，一些特有的學習手段相繼被提出（如殘差網絡），因此越來越多的人將其單獨看作一種學習的方法。

最初的深度學習是利用深度神經網絡來解決特征表達的一種學習過程。深度神經網絡本身并不是一個全新的概念，可大致理解為包含多個隱含層的神經網絡結構。為了提高深層神經網絡的訓練效果，人們對神經元的連接方法和激活函數等方面做出相應的調整。其實有不少想法早年間也曾有過，但由于當時訓練數據量不足、計算能力落后，因此最終的效果不盡如人意。深度學習，作為目前最熱的機器學習方法，但并不意味著是機器學習的終點。起碼目前存在以下問題：

1、深度學習模型需要大量的訓練數據，才能展現出神奇的效果，但現實生活中往往會遇到小樣本問題，此時深度學習方法無法入手，傳統的機器學習方法就可以處理；

2、有些領域，采用傳統的簡單的機器學習方法，可以很好地解決了，沒必要非得用復雜的深度學習方法；

3、深度學習的思想，來源于人腦的啟發，但絕不是人腦的模擬。

因此，機器學習框架和深度學習框架之間也是有區別的。本質上，機器學習框架涵蓋用于分類，回歸，聚類，異常檢測和數據準備的各種學習方法，也可以包括神經網絡方法。深度學習或深度神經網絡（DNN）框架涵蓋具有許多隱藏層的各種神經網絡拓撲，包括模式識別的多步驟過程。網絡中的層越多，可以提取用于聚類和分類的特征越復雜。常見的Caffe，CNTK，DeepLearning4j，Keras，MXNet和TensorFlow是深度學習框架。 而Scikit-learning和Spark MLlib是機器學習框架。 Theano則跨越了這兩個類別。

本文接下來的篇幅將會重點介紹深度學習的三個框架caffe、tensorflow和keras，如果只是需要使用傳統的機器學習基礎算法使用scikit-learning和spark MLlib則更為合適。

三、深度學習框架比較

神經網絡一般包括：訓練，測試兩大階段。訓練就是把訓練數據和神經網絡模型（AlexNet、RNN等神經網絡訓練框架Caffe等）用CPU或GPU提煉出模型參數的過程。測試就是把測試數據用訓練好的模型（神經網絡模型+模型參數）運行后查看結果。而caffe，keras，tensorflow就是把訓練過程所涉及的環節數據統一抽象，形成可使用框架。

（一）Caffe

1、概念