深度學習是人工智能的熱點發展方向之一，將推動我們步入控制設計和工業物聯網的新臺階。機器視覺在工業控制領域極其重要，借助這些技術，使用數據驅動部署復雜的機器和設備。

為了比競爭對手更好地服務其目標客戶，當今的嵌入式設計團隊正在尋求機器學習（ML）和深度學習（DL）等新技術，以便在有限的資源下按時向市場開發和部署復雜的機器和設備。借助這些技術，團隊可以使用數據驅動的方法構建復雜的單系統或多系統模型。 ML和DL算法不是使用基于物理學的模型來描述系統的行為，而是透過數據推斷出系統的模型。 傳統ML算法適用于處理數據量相對較小且問題的復雜度較低的情況。 但如果是像自動駕駛汽車這樣的大數據問題呢？ 解決這個挑戰需要采用DL技術。 本文介紹了這種新興技術將如何推動我們進入控制設計和工業物聯網（IIoT）應用的下一個時代。

1 ML技術在工業資產狀態監測中的應用

首先考慮機器學習（ML）技術在工業資產狀態監測中的應用。 ML有助于將基于狀態的監測應用從被動維護和預防性維護轉變為預測性維護。 這些技術常用于檢測異常行為和診斷問題，并在一定程度上預測電機、水泵和渦輪機等工業資產的剩余使用壽命。

基于ML的模型開發和部署流程如圖1所示。

圖1 基于機器學習的分析流程

看看這個工作流程是如何用來監控電機的健康狀況的。 數據是從加速度計、熱電偶和連接到電機的電流傳感器等多種類型的傳感器采集而來。 特征工程步驟通常由兩部分組成： 特征提取和特征約簡。 特征提取用于從原始數據（或波形）中導出有助于了解資產健康情況的信息。 例如，來自電機的電流信號的頻譜中嵌入了可用于檢測故障的信息，如圖2所示。頻譜中不同頻帶上的平均振幅可用作為從電流信號中提取的特征。 從多個傳感器提取的特征可能包含冗余信息。 可以使用主成分分析（PCA）等特征約簡方法來減少最終用于建立模型的特征的數量。 特征的數量減少，意味著要使用的ML模型的復雜性降低了。 減少的特征集表示為向量（或數組），并輸入到ML算法中，ML算法將用于模型創建步驟。 模型創建和驗證是一個迭代過程，在這個過程中，您可以嘗試使用幾種ML算法，并選擇最適合您應用的算法。

圖2 對電機電流信號進行特征約簡

圖 3 特征工程

無監督的ML算法（如高斯混合模型（GMM））可用于模擬電機的正常行為，并檢測電機何時開始偏離其基線。 無監督的方法不需要標記數據就可以發現數據中的隱藏模式。 無監督的技術主要用來檢測電機的異常，監督算法則用于檢測異常的原因。 在有監督的方法中，算法以輸入數據和期望輸出的組合表示。 這個數據稱為標簽數據。 算法會學習函數將輸入映射到輸出。 用于訓練ML算法的數據包含在正常和錯誤條件下提取的特征。 使用表示電機狀態的標簽可清楚地標識特征。 常用的監督ML算法包括支持向量機（SVM）、邏輯回歸和人工神經網絡。

傳統ML技術面臨的挑戰是特征提取過程。 這個過程需要專業的領域知識，而且非常容易出錯，通常是ML工作流程中的故障點。 因此現在越來越多人采用DL算法，因為它們無需使用特征工程步驟。 從傳感器采集的數據（原始測量數據）可以直接輸入到DL算法中，如下所示。

圖4 深度學習工作流程

DL算法基于人工神經網絡。 人工神經網絡學習算法受到生物神經網絡的結構和功能的啟發。 這些算法采用相互連接的計算節點（人工神經）組的形式結構，而計算節點采用層的結構形式。 第一層稱為輸入層，作為與輸入信號或數據的連接接口。 最后一層是輸出層，該層中的神經元輸出最終的預測或決定。 在輸入層和輸出層之間，有一個或多個隱藏層（圖5）。 每一層的輸出通過加權連接的方式連接到下一層的節點。 神經網絡通過修改這些權重來學習輸入和輸出之間的映射。 通過使用多個隱藏層，DL算法可以學習需要從輸入數據中提取的特征，而不需要將特征明確地輸入到學習算法中。 這就稱為特征學習。

圖5 前饋人工神經網絡

2 IIoT中應用DL需要考慮的因素

深度學習最近在IIoT應用中取得了成功，主要歸功于更強大的硬件計算能力、龐大的標記訓練數據庫、學習算法和網絡初始化的突破性進展以及開源軟件框架的可用性。

以下是使用此技術設計系統的一些主要考慮因素。

拓撲結構-深度學習是一個不斷發展的領域，目前有許多網絡拓撲已經得到應用［1］。 接下來將討論其中一些有望用于控制和監測IIoT應用的網絡。

· 完全連接的深度神經網絡通過許多隱藏層完全連接人工神經網絡（因此稱為深度神經）。 這些網絡都是出色的函數逼近器，比如，可以用于電力電子控制的應用。 如果要使用深層網絡來構建控制器，可以使用要控制的系統的仿真模型來生成訓練數據。 借此，您可以探索使用傳統方法通常難以控制的狀態（邊界/轉角條件）。

· 卷積神經網絡設計為可利用輸入圖像或語音信號等輸入信號的二維結構。 卷積網絡由一個或多個卷積層（濾波層）組成，隨后是完全連接的多層神經網絡。 這些網絡可成功檢測圖像中的缺陷以及識別對象， 現已應用到先進駕駛員輔助系統中的場景理解。

· 遞歸神經網絡（RNN）采用的是基于順序（或歷史）信息進行預測的算法。 這些網絡適用于時間序列分析。 傳統的神經網絡假定所有的輸入（和輸出）在時間或到達順序上是相互獨立的。 RNN記錄的是狀態信息，能夠存儲關于過去的信息，并使用當前已計算的信息進行下一個預測。 在IIoT應用中，RNN有助于學習歷史行為，并根據歷史行為來預測未來事件，如資產的剩余使用壽命（RUL）。 長短期記憶（LSTM）網絡非常適用于這類應用。［2］

· 深度強化學習（DRL）適用于設計在復雜動態環境中運行的自適應控制系統。 比如控制倉庫操作機器人，這些機器人必須動態適應新任務。 以強化學習為基礎的控制器通過執行任務后所獲得的獎勵來一步步完成目標。 例如，控制器接收顯示機器人手臂當前位置的攝像機圖像，并通過圖像中的信息學習如何將手臂移近目標。［3］ 基于DL的控制器可以使用機器人模擬器或通過觀察操作中的機器人來進行訓練。

圖6 用于機器人控制應用的深度強化學習

訓練 - 深度神經網絡需要大量的訓練數據，最好包括網絡要學習的所有不同狀態或條件的數據。 對于大多數應用來說，可用的數據主要來自系統的正常工作狀態，僅對其他狀態的數據進行少量的采樣。 數據增強技術可改善數據中的這一不平衡性，您可以從已有的少量樣本為基礎，通過轉換數據創建更多合成版本。 您也可以使用系統的仿真模型來創建訓練數據。 另一個挑戰是要采集訓練這些網絡所需的龐大數據非常困難。 遷移學習可以解決這個問題。 借助遷移學習，您可以以一個預先訓練的神經網絡為起點（大多數DL軟件框架提供了經過完全訓練的模型，而且可供下載），并使用應用程序中的數據對其進行微調。

硬件—訓練深度網絡對處理性能的要求非常高。 GPU已經成為訓練深度網絡的主要選擇。 由于高計算性能、大內存、高內存帶寬和多種編程工具選擇，GPU成為最受歡迎的選擇，而且幾乎成為深度網絡訓練的必需技術。 此外，FPGA是部署經過訓練的網絡的理想終端選擇。 FPGA提供了更低的延遲、更高的功效以及更高的確定性，尤其適用于在嵌入式設備上部署這些網絡，適用于與I/O進行緊密循環操作的控制系統。

軟件 - 深度學習之所以能夠快速得到應用并獲得成功的一個原因是有成熟的軟件框架。 一些常見的框架包括TensorFlow、Caffe、Keras和CNTK。［4］［5］［6］［7］ 這些框架支持Windows和Linux等不同的操作系統，以及Python和C ++等語言。 這些框架中的大多數還可支持實現最新的DL網絡或提供相關的示例， 而且還支持在GPU上學習。

3結論

深度學習是人工智能一個激動人心的新方向，有望能夠解決工業控制設計應用的下一代問題。 深度學習的一個快速入門方法是下載上面提到的開源框架，并使用教程示例動手進行操作實踐。 從與您應用程序類似的示例開始，并使用遷移學習快速運行。