概述

從出道起，我就一直是一名程序員。我喜歡從頭開始編寫代碼，這有助于我清楚地理解主題（或技巧）。當(dāng)我們剛開始學(xué)習(xí)數(shù)據(jù)科學(xué)時，這種方法尤為有用。

嘗試從無到有地實(shí)現(xiàn)一個神經(jīng)網(wǎng)絡(luò)，你將會明白很多有趣的事情。但是當(dāng)需要為現(xiàn)實(shí)世界的數(shù)據(jù)集構(gòu)建深度學(xué)習(xí)模型時，這還是一個不錯的主意嗎？如果你需要幾天或幾周的時間來建立起模型，這是完全不可能的。

對于那些無法訪問無限計(jì)算資源的人來說，你們已經(jīng)來到了正確的地方。

值得慶幸的是，我們現(xiàn)在已經(jīng)有了易于使用的開源深度學(xué)習(xí)框架，旨在簡化復(fù)雜和大規(guī)模深度學(xué)習(xí)模型的實(shí)現(xiàn)。使用這些神奇的框架，我們可以實(shí)現(xiàn)諸如卷積神經(jīng)網(wǎng)絡(luò)這樣復(fù)雜的模型。

在本文中，將介紹5種非常有用的深度學(xué)習(xí)框架、它們的優(yōu)點(diǎn)以及應(yīng)用。我們將對每個框架進(jìn)行比較，以了解何時何地可以使用它們。

我們還創(chuàng)建了一個非?？岬尼槍γ總€深度學(xué)習(xí)框架的信息圖表，附在在文章的末尾，為每個數(shù)據(jù)科學(xué)家所必備。

目錄

一、什么是深度學(xué)習(xí)框架？

二、TensorFlow

三、Keras

四、PyTorch

五、Caffe

六、Deeplearning4j

七、五個深度學(xué)習(xí)框架之間的對比

一、什么是深度學(xué)習(xí)框架？

讓我們用一個例子來理解這個概念，來看以下圖像集合：

在這個圖像中有不同的分類：貓，駱駝，鹿，大象等。我們的任務(wù)是將這些圖像歸到相應(yīng)的類（或類別）中。用Google搜索一下就能知道：卷積神經(jīng)網(wǎng)絡(luò)（CNNs）對于這類圖像分類任務(wù)十分有效。

我們要做的工作就是實(shí)現(xiàn)這個模型，對嗎？如果從頭開始編寫一個卷積神經(jīng)網(wǎng)絡(luò)，則需要幾天（甚至幾周）才能得到一個有效的模型，我們卻沒法等這么長的時間！

這正是深度學(xué)習(xí)框架真正改變了局面的地方。

深度學(xué)習(xí)框架是一種界面、庫或工具，它使我們在無需深入了解底層算法的細(xì)節(jié)的情況下，能夠更容易、更快速地構(gòu)建深度學(xué)習(xí)模型。深度學(xué)習(xí)框架利用預(yù)先構(gòu)建和優(yōu)化好的組件集合定義模型，為模型的實(shí)現(xiàn)提供了一種清晰而簡潔的方法。

利用恰當(dāng)?shù)目蚣軄砜焖贅?gòu)建模型，而無需編寫數(shù)百行代碼，一個良好的深度學(xué)習(xí)框架具備以下關(guān)鍵特征：

優(yōu)化的性能

易于理解和編碼

良好的社區(qū)支持

并行化的進(jìn)程，以減少計(jì)算

自動計(jì)算梯度

這五點(diǎn)也是我用來挑選五大頂級深度學(xué)習(xí)框架的標(biāo)準(zhǔn)。下面讓我們詳細(xì)研究一下它們。

二、TensorFlow

TensorFlow是由谷歌大腦團(tuán)隊(duì)的研究人員和工程師開發(fā)的，它是深度學(xué)習(xí)領(lǐng)域中最常用的軟件庫（盡管其他軟件正在迅速崛起）。

我喜歡TensorFlow的原因有兩點(diǎn)：它完全是開源的，并且有出色的社區(qū)支持。TensorFlow為大多數(shù)復(fù)雜的深度學(xué)習(xí)模型預(yù)先編寫好了代碼，比如遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)。

TensorFlow如此流行的最大原因之一是支持多種語言來創(chuàng)建深度學(xué)習(xí)模型，比如Python、C和R，并且有不錯的文檔和指南。

TensorFlow有許多組件，其中最為突出的是：

Tensorboard：幫助使用數(shù)據(jù)流圖進(jìn)行有效的數(shù)據(jù)可視化

TensorFlow：用于快速部署新算法/試驗(yàn)

TensorFlow的靈活架構(gòu)使我們能夠在一個或多個CPU（以及GPU）上部署深度學(xué)習(xí)模型。下面是一些典型的TensorFlow用例：

基于文本的應(yīng)用：語言檢測、文本摘要

圖像識別：圖像字幕、人臉識別、目標(biāo)檢測

聲音識別

時間序列分析

視頻分析

用例遠(yuǎn)遠(yuǎn)不止這些，如果你知道TensorFlow還有以上所述之外的其他應(yīng)用，我很樂意知道！可以在本文的評論部分告訴我，我們再做討論。

安裝TensorFlow也是一個非常簡單的任務(wù)。

對于CPU：

pip install tensorflow

對于啟用CUDA的GPU卡：

pip install tensorflow-gpu

通過以下綜合教程了解如何使用TensorFlow建立神經(jīng)網(wǎng)絡(luò)模型：

利用TensorFlow實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)簡介

https://www.analyticsvidhya.com/blog/2016/10/an-introduction-to-implementing-neural-networks-using-tensorflow/?utm_source=blog&utm_medium=comparison-deep-learning-framework

TensorFlow教程

https://www.tensorflow.org/tutorials

三、Keras

你習(xí)慣使用Python嗎？如果是，那么可以立即連接到Keras。這是一個開啟你的深度學(xué)習(xí)之旅的完美的框架。

Keras用Python編寫，可以在TensorFlow（以及CNTK和Theano）之上運(yùn)行。TensorFlow的接口具備挑戰(zhàn)性，因?yàn)樗且粋€低級庫，新用戶可能會很難理解某些實(shí)現(xiàn)。

而Keras是一個高層的API，它為快速實(shí)驗(yàn)而開發(fā)。因此，如果希望獲得快速結(jié)果，Keras會自動處理核心任務(wù)并生成輸出。Keras支持卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)，可以在CPU和GPU上無縫運(yùn)行。

深度學(xué)習(xí)的初學(xué)者經(jīng)常會抱怨：無法正確理解復(fù)雜的模型。如果你是這樣的用戶，Keras便是你的正確選擇！它的目標(biāo)是最小化用戶操作，并使其模型真正容易理解。

可以將Keras中的模型大致分為兩類：

1. 序列化

模型的層是按順序定義的。這意味著當(dāng)我們訓(xùn)練深度學(xué)習(xí)模型時，這些層次是按順序?qū)崿F(xiàn)的。下面是一個順序模型的示例：

from keras.models import Sequentialfrom keras.layers import Densemodel = Sequential()# we can add multiple layers to the model using .add()model.add(Dense(units=64, activation='relu', input_dim=100))model.add(Dense(units=10, activation='softmax'))

2. Keras 函數(shù)API

用于定義復(fù)雜模型，例如多輸出模型或具有共享層的模型。請查看下面的代碼來理解這一點(diǎn)：

from keras.layers import Input, Densefrom keras.models import Modelinputs = Input(shape=(100,)) # specify the input shapex = Dense(64, activation='relu')(inputs)predictions = Dense(10, activation='softmax')(x)model = Model(inputs=inputs, outputs=predictions)

Keras有多種架構(gòu)，如下所述，用于解決各種各樣的問題，其中包括我的最愛之一：圖像分類！

VGG 16

VGG 19

InceptionV 3

Mobilenet及更多

可以參考官方的Keras文檔來詳細(xì)了解框架是如何工作的。

Keras官方中文文檔

https://keras.io/zh/

僅需一行代碼即可安裝Keras：

pip install keras

對Keras感興趣？可以繼續(xù)學(xué)習(xí)以下教程，了解如何使用Keras實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)：

基于Keras的神經(jīng)網(wǎng)絡(luò)優(yōu)化

https://www.analyticsvidhya.com/blog/2016/10/tutorial-optimizing-neural-networks-using-keras-with-image-recognition-case-study/?utm_source=blog&utm_medium=comparison-deep-learning-framework

四、PyTorch

還記得我們說過TensorFlow是目前最常用的深度學(xué)習(xí)框架嗎？但是如果考慮到數(shù)據(jù)科學(xué)家和開發(fā)者們擁抱Facebook的PyTorch的速度，那它可能很快就要落伍了。

我是PyTorch的擁護(hù)者，在我所研究過的框架中，PyTorch最富靈活性。

PyTorch是Torch深度學(xué)習(xí)框架的一個接口，可用于建立深度神經(jīng)網(wǎng)絡(luò)和執(zhí)行張量計(jì)算。Torch是一個基于Lua的框架，而PyTorch則運(yùn)行在Python上。

PyTorch是一個Python包，它提供張量計(jì)算。張量是多維數(shù)組，就像numpy的ndarray一樣，它也可以在GPU上運(yùn)行。PyTorch使用動態(tài)計(jì)算圖，PyTorch的Autograd軟件包從張量生成計(jì)算圖，并自動計(jì)算梯度。

與特定功能的預(yù)定義的圖表不同，PyTorch提供了一個框架，用于在運(yùn)行時構(gòu)建計(jì)算圖形，甚至在運(yùn)行時也可以對這些圖形進(jìn)行更改。當(dāng)不知道創(chuàng)建神經(jīng)網(wǎng)絡(luò)需要多少內(nèi)存的情況下，這個功能便很有價(jià)值。

可以使用PyTorch處理各種來自深度學(xué)習(xí)的挑戰(zhàn)，包括：

影像（檢測、分類等）

文本(NLP)

增強(qiáng)學(xué)習(xí)

想知道如何在機(jī)器上安裝PyTorch，請稍等片刻。安裝步驟取決于操作系統(tǒng)、需要安裝的PyTorch包、正在使用的工具/語言、CUDA等其他一些因素。

根據(jù)此鏈接的內(nèi)容檢查PyTorch安裝步驟，準(zhǔn)備好框架之后，再檢查以下兩個資源，利用PyTorch構(gòu)建第一個神經(jīng)網(wǎng)絡(luò)：

學(xué)習(xí)如何使用PyTorch來構(gòu)建快速和準(zhǔn)確的神經(jīng)網(wǎng)絡(luò)-4個不錯的案例研究

https://www.analyticsvidhya.com/blog/2019/01/guide-pytorch-neural-networks-case-studies/https://www.analyticsvidhya.com/blog/2019/01/guide-pytorch-neural-networks-case-studies/?utm_source=blog&utm_medium=comparison-deep-learning-framework

PyTorch教程

https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html

五、Caffe

CAFE是另一個面向圖像處理領(lǐng)域的、比較流行的深度學(xué)習(xí)框架，它是由賈陽青（Yangqing Jia）在加利福尼亞伯克利大學(xué)讀博士期間開發(fā)的。同樣，它也是開源的！

首先，Caffe對遞歸網(wǎng)絡(luò)和語言建模的支持不如上述三個框架。但是Caffe最突出的地方是它的處理速度和從圖像中學(xué)習(xí)的速度。

Caffe可以每天處理超過六千萬張圖像，只需單個NVIDIA K40 GPU，其中 1毫秒/圖像用于推理，4毫秒/圖像用于學(xué)習(xí)。

它為C、Python、MATLAB等接口以及傳統(tǒng)的命令行提供了堅(jiān)實(shí)的支持。

通過Caffe Model Zoo框架可訪問用于解決深度學(xué)習(xí)問題的預(yù)訓(xùn)練網(wǎng)絡(luò)、模型和權(quán)重。這些模型可完成下述任務(wù)：

簡單的遞歸

大規(guī)模視覺分類

用于圖像相似性的SiameSE網(wǎng)絡(luò)

語音和機(jī)器人應(yīng)用

有關(guān)更多細(xì)節(jié)，您可以查看Caffe相關(guān)文檔。

Caffe安裝文檔

http://caffe.berkeleyvision.org/installation.html

Caffe文檔

http://caffe.berkeleyvision.org/

六、Deeplearning4j

我們社區(qū)中有Java程序員嗎？這是你理想的深度學(xué)習(xí)框架！Deeplearning4j是用Java實(shí)現(xiàn)的，因此與Python相比效率更高。它使用稱為ND4J的張量庫，提供了處理n維數(shù)組（也稱為張量）的能力。該框架還支持CPU和GPU。

Deeplearning4j將加載數(shù)據(jù)和訓(xùn)練算法的任務(wù)作為單獨(dú)的過程處理，這種功能分離提供了很大的靈活性。誰都喜歡這樣，尤其是在深度學(xué)習(xí)中！

Deeplearning4j也適用于不同的數(shù)據(jù)類型：

圖像

CSV

純文本等

可以使用Deeplearning4j構(gòu)建的深度學(xué)習(xí)模型有：

卷積神經(jīng)網(wǎng)絡(luò)(CNNs)

遞歸神經(jīng)網(wǎng)絡(luò)(RNNs)

長短時記憶(LSTM)等多種結(jié)構(gòu)

閱讀Deeplearning4j的安裝步驟和文檔，開始使用這個框架。

Deeplearning4j安裝步驟

https://deeplearning4j.org/docs/latest/deeplearning4j-config-gpu-cpu

Deeplearning4j文檔

https://deeplearning4j.org/docs/latest/deeplearning4j-quickstart

七、五種深度學(xué)習(xí)框架之間的對比

上面已經(jīng)討論了五個最流行的深度學(xué)習(xí)框架，每一個都獨(dú)具特性，那么數(shù)據(jù)科學(xué)家會如何做出選擇呢。

你決定用哪一種了嗎？或者你打算換一個全新的框架？不管是什么情況，了解每個框架的優(yōu)點(diǎn)和局限性非常重要。如果選對了正確的框架，當(dāng)遇到錯誤時，便不會感到驚訝了！

某些框架在處理圖像數(shù)據(jù)時工作得非常好，但無法解析文本數(shù)據(jù)；某些框架在處理圖像和文本數(shù)據(jù)時，性能很好，但是它們的內(nèi)部工作原理很難理解。

在本節(jié)中，將使用以下標(biāo)準(zhǔn)比較這五個深度學(xué)習(xí)框架：

社區(qū)支持力度

使用的語言

接口

對預(yù)訓(xùn)練的模型的支持

下表對這些框架進(jìn)行了比較：

對于選擇使用的框架來說，這是一個非常方便的對比表！

所有這些框架都是開源的，支持CUDA，并有預(yù)訓(xùn)練的模型。但是，應(yīng)該如何正確開始，應(yīng)該選擇哪個框架來構(gòu)建（初始）深度學(xué)習(xí)模型？讓我們來做詳細(xì)的討論！

TensorFlow

我們先來說說TensortFlow。TensorFlow能處理圖像以及基于序列的數(shù)據(jù)，如果你是深度學(xué)習(xí)的初學(xué)者，或者對線性代數(shù)和微積分等數(shù)學(xué)概念沒有堅(jiān)實(shí)的基礎(chǔ)，那么TensortFlow的學(xué)習(xí)曲線將會令人畏懼地陡峭。

我完全理解，對于剛起步的人來說，這可能太復(fù)雜。但我建議你不斷練習(xí)，不斷探索社區(qū)，并繼續(xù)閱讀文章以掌握TensorFlow的訣竅。一旦對這個框架有了一個很好的理解，實(shí)現(xiàn)一個深度學(xué)習(xí)模型對你來說將是易如反掌。

Keras

Keras是一個非常堅(jiān)實(shí)的框架，可以開啟深度學(xué)習(xí)之旅。如果你熟悉Python，并且沒有進(jìn)行一些高級研究或開發(fā)某種特殊的神經(jīng)網(wǎng)絡(luò)，那么Keras適合你。

Keras的重點(diǎn)更多地放在取得成果上，而不是被模型的復(fù)雜之處所困擾。因此，如果有一個與圖像分類或序列模型相關(guān)的項(xiàng)目，可以從Keras開始，很快便可以構(gòu)建出一個工作模型。

Keras也集成在TensorFlow中，因此也可以使用tf.keras.構(gòu)建模型。

Caffe

在圖像數(shù)據(jù)上構(gòu)建深度學(xué)習(xí)模型時，Caffe是不錯的選擇。但是，當(dāng)談到遞歸神經(jīng)網(wǎng)絡(luò)和語言模型時，Caffe落后于我們討論過的其他框架。Caffe的主要優(yōu)點(diǎn)是，即使沒有強(qiáng)大的機(jī)器學(xué)習(xí)或微積分知識，也可以構(gòu)建出深度學(xué)習(xí)模型。

Caffe主要用于建立和部署移動電話和其他計(jì)算受限平臺的深度學(xué)習(xí)模型。

Deeplearning4j

正如之前所述，DeepleEarning4J是Java程序員的天堂。它為CNNS、RNN和LSTMS等不同的神經(jīng)網(wǎng)絡(luò)提供了大量的支持，它在不犧牲速度的情況下可以處理大量數(shù)據(jù)。聽起來不錯，有機(jī)會通過！

后記及圖示信息圖

除了文中提及的五種深度學(xué)習(xí)框架之外，你有沒有其他的深度學(xué)習(xí)框架？很想聽聽你的想法和反饋。請?jiān)谙旅娴脑u論部分與我聯(lián)系。

記住，這些框架基本上只是幫助我們實(shí)現(xiàn)最終目標(biāo)的工具，正確地選擇它們可以減少大量的精力和時間。

最后附上資訊插圖，詳細(xì)介紹了我們所涵蓋的每個深度學(xué)習(xí)框架。下載它，打印它，并在下次構(gòu)建深度學(xué)習(xí)模型時使用它吧！