電子發燒友App
【1】導論
先來說一寫題外話...
學習神經網絡，一開始非常盲目，先是在網上搜了一大堆的資料，各種什么“一文讀懂卷積神經紋網絡”，“叫你三分鐘搭建屬于自己的神經網絡框架”，“五分鐘速讀神經網絡全解”，之類的文章層出不窮?？戳颂鄬е碌慕Y果是，學了很久都沒能真正意義上地入門。
而后自己艱辛摸索才慢慢了解了卷積神經網絡的真諦。（好官方啊哈哈哈哈哈哈）
首先最需要明確的一點就是，卷積神經網絡，也就是convolutional neural networks （簡稱CNN），現在已經被用來應用于各個領域，物體分割啦，風格轉換啦，自動上色啦blahblah，但是??！CNN真正能做的，只是起到一個特征提取器的作用！所以這些應用，都是建立在CNN對圖像進行特征提取的基礎上進行的。
這篇文章呢，我不打算和傳統介紹CNN的文章一樣先介紹生物神經元、突觸什么的，就直接從最簡單的實例講起。
廢話不多說，開始。
拿到一張圖片，要對它進行識別，最簡單的栗子是，這張圖是什么？
比如，我現在要訓練一個最簡單的CNN，用來識別一張圖片里的字母是X還是O。
我們人眼一看，很簡單嘛，明顯就是X啊，但是計算機不知道，它不明白什么是X。所以我們給這張圖片加一個標簽，也就是俗稱的Label，Label=X，就告訴了計算機這張圖代表的是X。它就記住了X的長相。
但是并不是所有的X都長這樣呀。比如說...
這四個都是X，但它們和之前那張X明顯不一樣，計算機沒見過它們，又都不認識了。
（這里可以扯出機器學習中聽起來很高冷的名詞 “?欠擬合?”）
不認識了怎么辦，當然是回憶看看是不是見過差不多的呀。這時候CNN要做的，就是如何提取內容為X的圖片的特征。
我們都知道，圖片在計算機內部以像素值的方式被存儲，也就是說兩張X在計算機看來，其實是這樣子的。
? ? ? ? ?
其中1代表白色，-1代表黑色。
如果按照每像素逐個比較肯定是不科學的，結果不對而且效率低下，因此提出其他匹配方法。
我們稱之為patch匹配。
觀察這兩張X圖，可以發現盡管像素值無法一一對應，但也存在著某些共同點。
如上圖所示，兩張圖中三個同色區域的結構完全一致！
因此，我們就考慮，要將這兩張圖聯系起來，無法進行全體像素對應，但是否能進行局部地匹配？
答案當然是肯定的。
相當于如果我要在一張照片中進行人臉定位，但是CNN不知道什么是人臉，我就告訴它：人臉上有三個特征，眼睛鼻子嘴巴是什么樣，再告訴它這三個長啥樣，只要CNN去搜索整張圖，找到了這三個特征在的地方就定位到了人臉。
同理，從標準的X圖中我們提取出三個特征（feature）
我們發現只要用這三個feature便可定位到X的某個局部。
feature在CNN中也被成為卷積核（filter），一般是3X3，或者5X5的大小。
【2】卷積運算
說了那么久終于扯到了卷積二字！
但是??！胖友們！卷積神經網絡和信號處理里面那個卷積運算！毛關系都沒有??！當初我還特意去復習了一下高數里的卷積運算！摔!
這些?。《己臀覀兊腃NN沒有關系?。。?/p>
(二稿修改：經知友提醒，此處的確說的不對，卷積神經網絡在本質和原理上還是和卷積運算有一定的聯系的，只是之前本人才疏學淺未能看出它們二者實質相關聯的地方，若有誤導之處還請各位諒解，抱歉?。?/p>
好了，下面繼續講怎么計算。四個字：對應相乘。
看下圖。
取 feature里的（1，1）元素值，再取圖像上藍色框內的（1，1）元素值，二者相乘等于1。把這個結果1填入新的圖中。
同理再繼續計算其他8個坐標處的值
9個都計算完了就會變成這樣。
接下來的工作是對右圖九個值求平均，得到一個均值，將均值填入一張新的圖中。
這張新的圖我們稱之為?feature map?（特征圖）
可能有小盆友要舉手問了，為什么藍色框要放在圖中這個位置呢？
這只是個栗子嘛。這個藍色框我們稱之為 “窗口”，窗口的特性呢，就是要會滑動。
其實最開始，它應該在起始位置。
進行卷積對應相乘運算并求得均值后，滑動窗便開始向右邊滑動。根據步長的不同選擇滑動幅度。
比如，若 步長 stride=1，就往右平移一個像素。
若步長 stride=2，就往右平移兩個像素。
就這么移動到最右邊后，返回左邊，開始第二排。同樣，若步長stride=1，向下平移一個像素；stride=2則向下平移2個像素。
好了,經過一系列卷積對應相乘，求均值運算后，我們終于把一張完整的feature map填滿了。
feature map是每一個feature從原始圖像中提取出來的“特征”。其中的值，越接近為1表示對應位置和feature的匹配越完整，越是接近-1，表示對應位置和feature的反面匹配越完整，而值接近0的表示對應位置沒有任何匹配或者說沒有什么關聯。
一個feature作用于圖片產生一張feature map，對這張X圖來說，我們用的是3個feature，因此最終產生3個 feature map。
至此，卷積運算的部分就講完啦！~
【3】非線性激活層
卷積層對原圖運算多個卷積產生一組線性激活響應，而非線性激活層是對之前的結果進行一個非線性的激活響應。
這是一個很官方的說法，不知道大家看到上面這句話是不是都覺得要看暈了。
嗯~ o(*￣▽￣*)o 其實真的沒有那么復雜啦！
本系列的文章秉承著“說人話！”的原則，著力于用最簡單通俗的語言來為大家解釋書上那些看不懂的概念。
在神經網絡中用到最多的非線性激活函數是Relu函數，它的公式定義如下：
f(x)=max(0,x)
即，保留大于等于0的值，其余所有小于0的數值直接改寫為0。
為什么要這么做呢？上面說到，卷積后產生的特征圖中的值，越靠近1表示與該特征越關聯，越靠近-1表示越不關聯，而我們進行特征提取時，為了使得數據更少，操作更方便，就直接舍棄掉那些不相關聯的數據。
如下圖所示：>=0的值不變
而<0的值一律改寫為0
得到非線性激活函數作用后 的結果：
【4】pooling池化層
卷積操作后，我們得到了一張張有著不同值的feature map，盡管數據量比原圖少了很多，但還是過于龐大（比較深度學習動不動就幾十萬張訓練圖片），因此接下來的池化操作就可以發揮作用了，它最大的目標就是減少數據量。
池化分為兩種，Max Pooling 最大池化、Average Pooling平均池化。顧名思義，最大池化就是取最大值，平均池化就是取平均值。
拿最大池化舉例：選擇池化尺寸為2x2，因為選定一個2x2的窗口，在其內選出最大值更新進新的feature map。
同樣向右依據步長滑動窗口。
最終得到池化后的feature map?？擅黠@發現數據量減少了很多。
因為最大池化保留了每一個小塊內的最大值，所以它相當于保留了這一塊最佳匹配結果（因為值越接近1表示匹配越好）。這也就意味著它不會具體關注窗口內到底是哪一個地方匹配了，而只關注是不是有某個地方匹配上了。這也就能夠看出，CNN能夠發現圖像中是否具有某種特征，而不用在意到底在哪里具有這種特征。這也就能夠幫助解決之前提到的計算機逐一像素匹配的死板做法。
到這里就介紹了CNN的基本配置---卷積層、Relu層、池化層。
在常見的幾種CNN中，這三層都是可以堆疊使用的，將前一層的輸入作為后一層的輸出。比如：
也可以自行添加更多的層以實現更為復雜的神經網絡。
而最后的全連接層、神經網絡的訓練與優化，更多內容將在下一篇文章中繼續。
審核編輯：黃飛
?
工商網監
評論