人工智能的火爆，也帶旺了許多新名詞，比如“機器學習”。

與讓機器按照既定的程序執行指令的傳統工作方式不同，基于人工智能神經網絡（ANN）的機器學習，其核心是讓機器能夠在沒有人工輸入和干預的情況下自動學習和改進其操作或功能，這讓機器看上去具有了自我學習和進化的能力，表現得更為“智能”。這對于應付一些復雜、無法提前預知情況下的判斷和決策尤為關鍵，比如讓車輛在無人駕駛的狀態針對路況環境做出正確的反應。

機器學習的興起

讓機器進行“學習”的模式，也像極了人類大腦進行學習和認知的過程。首先，需要用一組數據對于ANN進行“訓練”，讓ANN具備某一類“知識”；之后，機器就可以從過去的訓練中汲取知識和經驗，在新情況出現時基于訓練有素的ANN進行“推理”，做出準確的判斷。

實際上機器學習并不是一個新概念，之所以這兩年火起來，自有其原因。從人工智能的ABC（A：算法；B：大數據；C：算力）三要素來看，算法雖然很“網紅”，但實質上突破性的進步有限，很多現在用的算法不過是將塵封多年的成果拿出來換個臉而已，而后兩者的發展才是機器學習興起的決定性作用。

過去20年間隨著數字化和互聯網的發展，人類積累了大量的數據，而前幾年大數據概念的興起和應用，更是為機器學習做了良好的鋪墊，讓人們可以獲取大量可用于機器學習“訓練”的數據。而算力方面，不斷提升的處理器技術為機器學習提供了堅固的基石，可以禁得起更復雜和更深層次的ANN的考驗。比如針對計算資源消費大戶的“訓練”階段，人們就發展出了GPU、FPGA、TPU、異構處理器等多種計算平臺，去應對算力挑戰。

機器學習所需的算力的提升，除了得益于底層硬件處理器平臺的進步，還有一個不可忽視的重要因素，就是云計算的發展。以云計算為核心的集中式的大數據處理模式，將以前分散的計算資源集中到了云端，也讓以前看來不可能完成的計算任務成為可能。所以云計算也成為整個人工智能發展的一個重要基礎性支撐技術。

圖1，機器學習催生了很多創新的人工智能應用，比如無人駕駛（圖片來源：網絡）

從云到邊緣

不過時至今日，集中式的云計算模式也遇到了挑戰。大家逐漸發現，大量的人工智能應用和機器學習場景是發生在更為靠近用戶的網絡邊緣節點端的，如果凡事都要上傳到云端進行分析判斷，然后再將指令下發到邊緣節點進行處理，這么“漫長”的數據通信鏈路會受制于網絡傳輸帶寬的影響，產生不能接受的延時，同時還有諸如安全、功耗等方面的挑戰。

這一云計算的瓶頸必然促使人們重新考慮合理配置計算資源，提供一個更為合理和高效的計算體系架構，于是“邊緣計算”應運而生了。與集中式的云計算不同，邊緣計算要做的是，不必再將數據傳到遙遠的云端進行處理，而是在邊緣側就地解決，讓邊緣端的嵌入式設備去完成實時性的數據分析和智能化處理。這實際上遵循的是一個“在正確的時間將正確的數據放在正確的位置處理”的策略，由此而形成的“云+邊緣端”的混合計算模式對于未來的物聯網架構影響深遠。

具體到基于機器學習的人工智能應用場景，在部署其計算體系時也自然會考慮到上述“從云計算向邊緣計算”的發展趨勢，合理配置計算資源，令數據處理的效能最大化。對此，目前大家普遍的共識就是：充分利用云端算力，在云端去完成ANN的“訓練”工作，而將“推理”放在網絡邊緣節點設備中進行，進而形成一個完整高效的機器學習系統。這有助于降低網絡擁塞風險，提升處理實時性，增強用戶隱私保護，甚至在無法聯網的情況下也能啟用“推理”功能。

舉個例子，比如一個人臉識別系統，可以將在云端受過“訓練”的ANN部署到本地用戶端，當攝像頭捕捉到人臉信息后，會利用本地嵌入式設備的處理器去完成“推理”工作，將其與本地數據庫中存儲的人臉信息庫進行比對，完成人臉識別的工作。這就是一個典型的“訓練在云端、推理在邊緣”的例子。

圖2，邊緣計算架構（圖片來源：網絡）

嵌入式系統上的機器學習

當然，雖然上面這種“云端一體”的計算架構看上去很美，但在實施過程中還是會面臨諸多問題。一個最直接的問題是——在網絡邊緣端工作的嵌入式設備，通常都是處于資源受限的狀態，功耗、成本、外形尺寸等方面的制約使其無法具備像云端系統那樣“奢侈”的計算能力。因此想要實現“在嵌入式系統上跑機器學習”，就需要從硬件設計到軟件部署，做出特殊化的安排。不過從另一個角度來看，這恰恰是給嵌入式系統設計帶來了新的機遇，使其雖然身處網絡“邊緣”，但實則成為了大家關注的“中心”。

在嵌入式機器學習方面，整個產業鏈已經積極行動起來了。比如作為產業鏈上游的嵌入式處理器技術供應商，ARM就宣布推出了機器學習處理器，以及神經網絡機器學習軟件ARM NN。ARM NN可以在現有神經網絡框架（如TensorFlow或Caffe）與在嵌入式Linux平臺上運行的底層硬件處理器之間實現橋接，讓開發人員方便地將機器學習框架和工具，無縫地在底層嵌入式平臺上運行。

ARM推出的ARM NN軟件實現了機器學習所需的神經網絡框架與嵌入式硬件之間的橋接（圖片來源：ARM）

而在產業鏈的另一端，互聯網巨擘和云計算提供商態度也很積極。如2017年的Google I/O年會上，Google發布了針對基于ARM的Android平臺的TensorFlow Lite；2018年3月阿里云在云棲大會·深圳峰會上，也宣布推出了首個IoT邊緣計算產品Link Edge，將自身的云計算優勢下探到網絡邊緣端，為提升人工智能的應用效率打造云、端一體的協同計算體系。

上述發端自產業鏈兩極的嘗試，最終會在某些契合點上“握手”并形成合力，成為嵌入式機器學習的推手。那時，嵌入式機器學習的“火”想必又會上升到一個更高的溫度。