本文轉自：邊緣計算社區

19位歐美頂尖學者聯合撰寫的重磅論文，由邊緣計算社區傾力翻譯完成，如有不足之處，敬請指正。本論文首發于 IEEE Internet Computing：

《Revisiting Edge AI: Opportunities and Challenges》

（重新審視邊緣人工智能：機遇與挑戰）

發表日期：2024年7-8月

期刊卷號：第28卷，第49-59頁

DOI：10.1109/MIC.2024.3383758

本文深度剖析了邊緣人工智能（Edge AI）的最新發展動態，全面探討了當前的機遇與挑戰，為產業界與學術界提供了重要的指導性洞見。

以下是翻譯全文，共計 10280 字。重新審視邊緣人工智能：機遇與挑戰

邊緣人工智能（Edge AI）是一種創新的計算范式，旨在將機器學習模型的訓練和推理移至網絡邊緣。該范式帶來了極大的潛力，可以通過諸如自動駕駛、個性化健康護理等新服務顯著改善我們的日常生活。然而，邊緣智能的實現面臨諸多挑戰，比如模型架構設計的約束、已訓練模型的安全分發與執行，以及分發模型和訓練數據所需的高網絡負載。本文總結了邊緣AI的發展關鍵節點，分析當前的挑戰，并探討將人工智能與邊緣計算結合的研究機遇。

邊緣計算的重要轉變

邊緣計算是一種重要的范式轉變，通過將數據處理更靠近數據源，正在重塑互聯網和應用的格局。這一戰略性演進有望提升效率、響應速度，并更好地保護隱私。從以云為主的解決方案起步，如今越來越多的應用正在沿著計算連續體向邊緣設備靠近。雖然過去對邊緣設備的定義有多種不同解釋，從用戶終端設備到小型本地化數據中心，但邊緣設備的總體特性是相似的：靠近用戶并在本地處理數據。

盡管近年來邊緣解決方案的普及度有所提高，但其部署速度仍然相較于云市場的增長顯得相對較慢。這可以歸因于建設和管理分布式基礎設施的高成本，以及相比于僅為云構建應用，開發邊緣應用的相對復雜性。

人工智能（AI）的興起及其對訓練數據的巨大需求，使得利用邊緣設備進行訓練和推理成為一個顯而易見的后續發展趨勢。機器學習（ML）應用對大量數據的需求，確實使得在邊緣進行數據訓練和推理相比于云為中心的方式更加高效且合理。此外，在靠近邊緣或直接在邊緣對ML模型進行訓練和推理，還為終端用戶帶來了顯著優勢，包括更好的數據隱私保護和更快的響應時間。

然而，將人工智能與邊緣計算相結合也帶來了更多挑戰，尤其是由于邊緣設備的資源限制和可用性。這些局限性在與穩健且無處不在的云基礎設施相比時顯得尤為明顯。然而，像自動駕駛這樣的應用場景，不僅需要低延遲的響應，還要求以極高的速率處理高維數據，這鮮明地展示了邊緣智能的必要性。在此類安全關鍵型應用中，哪怕是幾毫秒的延遲都至關重要，這使得獲取數據源和模型決策的最小延遲變得至關重要。同樣地，將學習和推理引入邊緣將催生新的創新型和實用型應用，例如機器人技術、沉浸式多用戶應用（增強現實）以及智能醫療保健，從而徹底變革我們的生活方式。

在探索人工智能（AI）與邊緣計算協同發展的過程中，解決邊緣計算與智能融合所帶來的獨特挑戰至關重要。盡管邊緣智能具有巨大的潛力，但其發展受到資源限制的影響，特別是在計算和存儲資源方面，這與傳統云基礎設施的能力形成了顯著對比。由于這些局限性，保護數據安全和確?？焖夙憫獣r間仍然是重大挑戰。在許多情況下，當前的邊緣計算解決方案在這些方面仍落后于純云計算。

邊緣基礎設施通常部署在物理可訪問的地點，無法受益于云計算中使用的基于邊界的保護措施。為了使邊緣計算真正成為現有純云解決方案的有力補充，未來的研究需要聚焦于邊緣智能的安全性、可用性和效率。本文不僅回顧了過去十年來邊緣人工智能的發展歷程，還對不同利益相關方的觀點進行了批判性分析，并概述了這一領域中的迫切挑戰以及令人興奮的未來研究方向。

邊緣AI的十年歷程

邊緣智能作為邊緣計算范式的演化而出現，其根源可以追溯到2000年代，主要是由云計算在處理本地設備生成的日益增長的數據方面的局限性所驅動。邊緣計算分散了數據處理，將其推向網絡邊緣的數據源。這種接近性減少了數據必須傳輸的距離，從而減少了延遲并節省了帶寬。此外，邊緣計算通過本地處理敏感數據，減輕了中央服務器的數據負載并增強了隱私保護功能。邊緣計算與云計算可以相輔相成，形成所謂的計算連續體。邊緣計算解決即時的本地化處理需求，而云計算則在大規模數據存儲和復雜計算任務中不可或缺。

邊緣AI的興起

邊緣智能是邊緣計算的進一步范式轉變，通過整合人工智能（AI）以增強網絡邊緣的處理能力。這種整合不僅進一步降低了延遲，還減輕了中央服務器的帶寬需求，同時帶來了額外優勢，例如通過聯邦學習等分布式機器學習方法提升隱私保護，以及通過本地自治和去中心化控制提高系統韌性。

邊緣智能廣泛應用于多個領域，包括智慧城市、醫療保健、自動駕駛和工業自動化，這些領域對低延遲和本地數據處理有著關鍵需求。這一趨勢因5G網絡的日益普及以及未來6G網絡所承諾的高帶寬連接能力而進一步加速，這些技術為邊緣智能應用提供了必要的高速連接。圖1展示了人工智能從云端集中式訓練和推理模式向邊緣人工智能解決方案轉變的過程，并以兩個典型用例（自動駕駛和互聯健康解決方案）說明了其中的挑戰和機遇。

圖1.展示了從云端集中式人工智能（左）向邊緣人工智能（右）的轉變，以及針對兩個典型目標應用——自動駕駛車輛和個性化醫療保健——所面臨的相關挑戰和機遇。
邊緣AI的現狀

當前的邊緣智能研究可以分為兩個主要子領域：邊緣上的AI（AI on edge）和為邊緣服務的AI（AI for edge）。前者聚焦于適應去中心化、異構性以及機會性邊緣環境的人工智能方法；后者則專注于利用這些方法為計算連續體帶來益處。

邊緣上的AI（AI on edge）得益于機器學習算法（尤其是深度學習）的進步，以及這些算法在資源受限設備上執行的優化。輕量級神經網絡的開發以及模型剪枝和量化等技術在使復雜AI模型能夠高效運行于邊緣設備上方面起到了關鍵作用。在圖1中，邊緣上的AI使得模型的訓練和推理能夠直接在邊緣進行，這可以通過邊緣設備之間的直接交互以協作形式完成，也可以利用靠近這些設備的本地邊緣服務器實現。

一個顯著的趨勢是分布式機器學習技術的興起，用于在多個邊緣設備上訓練和推理AI模型，同時保護數據隱私。例如，聯邦學習允許在無需集中數據的情況下進行協作模型訓練，這與邊緣計算的分布式特性相契合，并回應了日益增長的數據安全和隱私問題。

為了在邊緣進行大規模AI模型的推理而無需通過剪枝或量化來壓縮模型，可以將這些模型拆分為多個子模型，從而在多個可能是異構的邊緣設備上分布式協作執行。另一種方法是探索自適應計算技術，其中推理成本取決于數據的復雜性。此外，分層推理也被提出，通過利用大規模與小規模神經網絡結構之間的協作，以在基于邊緣的推理場景中平衡準確性、能效和延遲。

為邊緣服務的AI（AI for edge）在將人工智能與邊緣計算架構相結合方面取得了顯著進展，提升了邊緣設備執行復雜數據處理和決策任務的能力，同時為計算連續體中資源的智能編排鋪平了道路，如圖1所示。

事實上，除了技術進步之外，當前邊緣智能的發展趨勢還受到對能源效率和可持續性的日益關注的影響。研究人員和從業者正在積極探索減少邊緣AI系統能源消耗的方法，這對于邊緣AI的廣泛部署尤為關鍵，特別是在電力供應受限的環境中。必要的進展包括開發能源感知算法以及硬件優化等，以減少系統的能耗負擔，推動邊緣AI的可持續發展。

除了對邊緣上的AI（AI on edge）和為邊緣服務的AI（AI for edge）的特性描述外，我們還觀察到了不同的提供模式差異。許多邊緣計算的應用是多層架構的延伸，這些架構將處理任務沿著從傳感器到執行器、應用領域的協調（例如生產車間）以及云服務的連續體進行轉移。邊緣計算通過在這一連續體上合理布局處理任務，提供了應對通信負載和延遲需求的機會。因此，我們將邊緣AI視為工業應用中的一種重要現象。

誰應該關心？

隨著智能城市和工業自動化等越來越復雜和數據驅動的應用的出現，過去十年中邊緣計算和邊緣人工智能的重要性顯著提高。然而，不同的利益相關者對這些范式及其相關技術有著不同的觀點。在下文中，我們介紹了四個利益相關者的視角：社會和工業的需求由開發者轉化為解決方案，而這些解決方案受到政府設定的政策和法規的約束。理解這些利益相關者的個體視角，對于塑造未來的研究方向并促進邊緣AI的穩健發展至關重要。

圖2 提供了社會、政府、工業和開發者對邊緣AI不同挑戰的關注點概覽。該圖表被視作為一種整體趨勢的解讀。

圖2. 社會、政府、工業和開發者視角的需求。符號的深淺程度表示每個需求對相應利益相關方視角的重要性（顏色越深表示需求越高）。

社會視角（人們的日常生活）

從社會角度來看，人們對邊緣 AI 的興趣主要集中在其實際應用上，而非底層技術創新。邊緣人工智能在自動駕駛車輛和智能家居等領域的應用更容易引起關注。盡管普通用戶，特別是沒有技術背景的用戶，可能無法察覺基于云和基于邊緣執行之間的延遲差異，但應用的可訪問性及其對日常生活的影響將更加顯著，因為這將實現更豐富的交互和更復雜的應用。尤其在歐洲，隱私是一個非常重要的方面，這與邊緣計算和邊緣AI密切相關。

工業視角

從工業的角度來看，可以將邊緣 AI 的相關方分為兩類：邊緣AI的消費者和邊緣AI的提供者。

邊緣AI的消費者

對于邊緣AI的消費者而言，可靠性和保障性是決定未來是否使用邊緣智能的關鍵因素。由于云和邊緣服務提供商眾多，信任多個系統和服務的可靠運行變得困難。此外，系統故障的責任歸屬問題變得更加復雜，難以明確將故障歸因于具體的組件或服務提供商，從而限制了追責的可能性。

盡管可以通過使用諸如AWS Wavelength這樣的云邊結合提供商來緩解這一挑戰，但使用單一提供商可能會顯著影響邊緣計算的一些優勢，尤其是在系統穩健性和數據保護方面。與社會視角類似，數據保護對于工業視角也至關重要。這包括保護邊緣處理過程中的數據、確保邊緣網絡提供商的可信性，以及保護知識產權（即開發的邊緣應用和訓練的AI模型）。

邊緣AI的提供者

對于邊緣AI的提供者來說，商業案例的可行性是決定邊緣AI成功的關鍵因素。過去，電信行業已經從語音服務提供商轉型為數據服務提供商，如今，他們可能再次轉型成為計算服務提供商。特別是在移動網絡領域，電信運營商是支持將計算能力靠近用戶并為其提供低延遲AI服務的自然候選者。然而，如果需要非通用模型，這將導致用戶模型向邊緣的遷移和部署。至今，這是否是一個可行的商業案例仍不明確。

潛在應用的數量（例如輔助駕駛、老年人支持、實時翻譯服務等）非?？捎^，但需要一個合理的商業模式來證明對電信基礎設施進行此類擴展的必要性。此外，眾多云和邊緣提供商及其相互連接性使得確保消費者期望的系統可靠性變得困難。同樣，滿足消費者對數據保護和可信性的需求也是一個挑戰。

邊緣AI解決方案的提供者還可以利用邊緣AI來改進其服務，但這可能再次面臨解決方案可靠性的問題。其中一個重要方面是考慮消費者應用在邊緣上的運行，確保用于改進操作的功能不會干擾這些應用的正常運行。

政府視角

政府對邊緣AI的看法是多方面的，涵蓋了諸如執行道德和負責任的使用、保護公民隱私（呼應社會關切）、保護公司知識產權、建立必要的基礎設施、通過共同標準促進互操作性以及通過合法攔截監控數據交換等方面。不同政府的優先事項排序各不相同。值得注意的是，歐洲國家已經是隱私法規（如通用數據保護條例GDPR）和安全法規（如《歐盟網絡韌性法案》）方面走在前列，這些國家可能會更加重視邊緣AI的倫理使用以及隱私和安全的保護。最后，政府部門可以通過資金支持和政策法規推動邊緣智能的發展，從而在各自的國家內實現新的服務和應用。

開發者視角

從開發者的角度來看，編程的便捷性對于采用邊緣人工智能（Edge AI）至關重要，尤其是在創建分布式應用時。理想情況下，開發者在解決邊緣AI的常見問題（如用戶和數據的移動性、分布式協調以及同步）時應付出最小的努力。因此，為了讓開發者更容易使用邊緣AI，有必要提供一個編程框架，以簡化邊緣AI應用的開發和配置。這包括管理計算和存儲資源、自動化部署模型的水印處理、處理傳感器數據的分發，以及為量子計算和神經形態計算等新范式提供編程抽象。

總結與研究視角

研究視角結合了上述所有視角，形成了一個整體性觀點，旨在通過未來研究解決當今邊緣人工智能（Edge AI）面臨的部分問題。諸如Rausch等人和Nastic等人的多項研究已提出了針對邊緣AI的編程模型，使得訓練和推理可以以去中心化的方式進行，其中一個例子是聯邦學習范式。

雖然數據的本地化和相應的去中心化可以被視為對數據隱私的積極影響，但對邊緣設備的信任有時可能會受到限制。因此，圍繞數據隱私保護的額外挑戰仍需解決，目前已經有多種想法在被研究中。這些研究包括同態加密的應用、在硬件安全執行環境中對任務相關數據進行設備端過濾，以及確保對邊緣AI解決方案信任的相關研究。在這些主題上的研究成果可以為政府在邊緣處理系統的監管提供寶貴的參考意見。

當前研究的挑戰與機遇

邊緣人工智能（Edge AI）為在本地設備中嵌入智能提供了一種變革性的方法。然而，它也面臨著資源限制、安全與隱私、可持續性以及能源危機等方面的挑戰。同時，邊緣AI在實時數據處理、效率提升以及個性化體驗等方面帶來了顯著的機遇。

構成人工智能的算法正逐步應用于越來越多優秀的用戶服務中。多項已發表的研究分析了這種應用的實現方式及其技術潛力。這引發了一系列關于理解邊緣AI挑戰和機遇的問題，以下將重點探討當前最突出的幾個方面。

資源限制

邊緣設備的特點在于其計算和存儲資源有限。相比云端應用可以利用包括CPU、GPU，甚至現場可編程門陣列（FPGA）在內的多種計算設備，邊緣設備通常僅配備少量硬件加速器，并且這些加速器往往針對特定的應用或使用場景設計。此外，邊緣設備的計算能力、內存和存儲都受到嚴格限制，這進一步制約了在邊緣設備上進行模型訓練和推理的可能性。

這一問題在邊緣AI解決方案的應用中尤為顯著，因為機器學習模型通常依賴專用硬件，并需要大量內存和存儲支持。此外，數據交換通常是關鍵環節，但也受限于可用的網絡帶寬。因此，需要開發機制來限制交換信息的數量，不僅是與中央基礎設施之間的交換，還包括邊緣設備之間的數據交換，例如通過信息驅動的優先級排序來優化交換效率。

由于邊緣設備的推理位置并非總是預先確定的，從強大的集中式設備到資源受限的邊緣設備都有可能，因此需要多個機器學習模型來適應不同場景的需求。每種部署環境都有其獨特的限制和要求，無論是邊緣設備上的實時處理，還是在強大計算平臺上的全面分析。為此，開發者通常需要根據不同的部署場景調整和優化模型，以確保整個應用場景中的效率和有效性。需要自動化機制來支持這種適配，使得邊緣AI解決方案能夠無縫集成到各種場景中，滿足每個部署環境的特定需求和限制，同時盡可能保持最佳性能。

隱私與信任

確保可靠性、安全性、隱私性以及倫理完整性是建立邊緣AI應用和連接系統可信度的關鍵。這一點尤為重要，因為邊緣設備處理敏感數據，若發生數據泄露，后果可能十分嚴重。

建立信任的關鍵在于安全的處理與存儲機制，結合強大的加密技術和嚴格的訪問控制。盡管邊緣設備資源有限，但AI模型必須保持可靠性和準確性，同時具備抵御對抗性攻擊的能力。有時，使用硬件支持的可信執行環境被認為是一種解決方案，但這種方法在性能和集成方面也面臨一系列挑戰。此外，AI決策的透明性和可解釋性在關鍵應用中變得日益重要。遵守如GDPR（通用數據保護條例）之類的法規，確保數據隱私和安全，也是邊緣AI需要解決的關鍵問題。

可持續性與能源效率

日益增長的AI應用需求凸顯了創建高能效和可持續的邊緣AI算法的重要性。高級AI，特別是深度學習，消耗了大量能源，這對可持續發展提出了挑戰。在邊緣AI中，平衡性能與能源效率至關重要。盡管實現更高的準確性可能看起來是最終目標，但必須認識到，每一次對準確性的微小提升通常都需要顯著增加能源消耗。這種權衡在某些超高準確性并非關鍵的場景中尤為明顯。在這些情況下，為了獲取微不足道的準確性提升而分配過多的能源資源可能既低效又對環境不可持續。因此，開發者和研究人員必須謹慎評估提升準確性所需的必要性及其帶來的能源消耗。

另一個重要方面是可再生能源對能源網的重要性不斷提升。由于大多數可再生能源依賴于環境條件（例如太陽能電池需要陽光），因此在某些時候，例如在一個陽光充足且風力強勁的炎熱夏日，電力會變得充裕。在這種情況下，盡管節約能源仍是邊緣AI面臨的一個重要挑戰，但另一個關鍵挑戰是利用能量過剩時段執行一些非時間關鍵的計算（如模型訓練）。在能源過剩時進行這些計算有助于平衡能量生產高峰，并彌補大多數可再生能源波動性帶來的問題。此外，地理分布式的能源需求可以緩解某些地區（如美國北弗吉尼亞和荷蘭阿姆斯特丹）大型數據中心集中的供給問題。由于當前的能源儲存能力有限且效率低下，這種方式可以大大提高電網和邊緣設備的效率。

在關注運行期間的能源消耗的同時，部署邊緣設備的生產和生命周期也同樣是一個重要挑戰。設計更耐用、可升級和可回收的設備對改善邊緣AI解決方案的環境足跡至關重要。此外，實施鼓勵節能AI的政策以及對設備制造和處置的環境影響進行監管也是不可或缺的。

可編程性與互操作性

邊緣AI涉及多種設備，如智能手機、物聯網設備和工業機械，每種設備都有獨特的限制。由于需要在各種硬件上高效協調服務，為邊緣AI創建可編程框架是一項挑戰。開發人員需要面對設備能力的復雜性，如CPU性能、GPU可用性、內存和能耗等方面的差異。這種復雜性使得在大規模場景（如智慧城市）中部署服務成為一項重大且持續的挑戰。缺乏標準化工具進一步增加了開發難度，開發者往往需要使用不兼容的工具和平臺，從而導致開發時間延長和集成問題。

邊緣AI的可編程性挑戰因互操作性的需求而進一步加劇，即需要在多種設備和系統（如傳感器、智能手機和工業機械）上組合操作。這些設備盡管在操作系統、軟件和硬件上存在差異，也需要無縫協作。一個關鍵問題是缺乏標準化的協議和數據格式，因此開發通用標準以實現高效通信變得至關重要。將邊緣AI與現有系統集成時，往往會遇到不受支持的軟件和硬件組件帶來的問題。隨著互聯設備數量的增長，設備的可擴展性以及新設備的輕松集成變得既重要又困難。在實時處理場景（如環境監測、自動駕駛和工業4.0）中，減少互操作性造成的延遲至關重要。然而，在這種互聯環境中高效管理資源，同時考慮整個系統中的可用資源，也是需要解決的關鍵挑戰。

總之，統一的可編程框架對于高效部署邊緣AI算法至關重要，能夠確保服務協調、資源管理以及設備間的互操作性在整個系統中的有效運行。

可靠性與彈性

可靠性關注運行在邊緣計算設備上的AI系統在進行AI決策時的可靠性、安全性和穩健性。這包括確保這些系統即使在充滿挑戰或不可預測的環境中，也能始終如一地表現出色且準確。這些系統在醫療保健和工業自動化等關鍵的網絡領域中尤為重要，必須具備強大的設計和有效的故障切換策略以確保始終正常運行。開發的系統必須能夠保護數據和AI模型的完整性，抵御各種威脅，具備處理更多數據的能力，并能夠容納更多設備或覆蓋更廣的地理區域。這些系統需要具備自主檢測和解決故障的能力，并能適應不斷變化的條件和新興的威脅，從而實現可靠的運行。

除了可靠性，邊緣AI的彈性對其始終可操作性也至關重要。彈性指的是在各種條件下，系統對安全攻擊和中斷保持可靠運行的能力。邊緣設備需要對諸如極端溫度和機械沖擊等物理挑戰保持穩健，同時維護數據的完整性和安全性。即使在網絡條件較差的情況下，邊緣系統也應能夠通過替代通信技術或穩健的協議提供可靠的連接，或者在離線狀態下繼續運行，直到連接恢復。此外，這些系統需要具備容錯能力，并可能需要備份解決方案。AI模型應能夠適應不斷變化的數據模式，而無需進行大規模的重新訓練。隨著邊緣AI網絡的擴展，可擴展性和可管理性變得尤為重要，同時還需高效的資源管理以應對整個系統中變化的工作負載。

可測量性

由于云-邊緣連續體的獨特特性（如分布式的訓練和推理、共享資源）和不同邊緣AI應用及連接系統的約束條件（如資源限制、實時性需求），定義通用的性能評估指標是一項挑戰。特別是對于前文提到的那些當前難以測量和量化的挑戰而言，定義準確的衡量指標對于相關領域的研究至關重要。

此外，邊緣AI的一個重要挑戰是如何在準確性、延遲、資源使用和隱私之間平衡這些權衡。這種平衡在整個連續體中尤為復雜。盡管仿真或模擬可以預測某些場景下方法的性能，但驗證這些方法在真實環境中的有效性同樣重要。在真實場景中開發基準評估框架并結合實際使用案例，仍然是一項未解決的挑戰。這些基準必須依賴于通用的指標，以精確衡量和評估邊緣AI的獨特特性。

未來研究方向

在本節中，我們確定了一些最具前景的研究方向：將大型語言模型（LLMs）集成到邊緣AI應用中、自主車輛的低延遲推理、聚焦于社會中的能源和隱私問題、增強邊緣互操作性，以及推動邊緣AI系統的信任與安全的進步。接下來，我們將詳細闡述每個研究方向。

將大型語言模型集成到邊緣AI中

將大型語言模型（LLMs）集成到邊緣設備上的應用中代表了未來研究的一個激動人心的方向。傳統上，LLMs因推理計算需求過高而主要局限于基于云的推理。然而，在邊緣設備上運行LLMs則引入了一種全新的范式。如今，越來越多的邊緣設備配備了節能的加速器。例如，蘋果神經引擎（ANE）已被集成到iPhone中，谷歌的邊緣張量處理單元（TPU）也作為嵌入設備的子模塊提供支持。在這些邊緣加速器上運行LLMs，為這些公司提供了推理“零成本”的優勢，因為“成本”（主要指能耗）現在發生在終端用戶的設備上。這種方法可能有利于對延遲要求較低的應用程序，例如社交媒體平臺，在這些場景下即時響應并非關鍵需求。

然而，挑戰在于如何將這些計算密集型模型調整到邊緣設備的限制條件下，包括有限的處理能力和能耗效率。傳統的學習技術，例如蒸餾、神經架構搜索，以及系統技術如量化和稀疏化，都是潛在的解決方案，但它們的有效性尚未被完全驗證。評估LLMs的難度進一步增加了復雜性。因此，未來研究不僅應該專注于優化LLMs以適應邊緣環境，還可以推動定制化硬件的創新，開發滿足邊緣設備功耗要求的解決方案。邊緣計算在自主代理中的應用

自主代理對我們的社會正變得越來越重要，包括智能工廠中的自主機器人和自動駕駛車輛等。盡管首批自動駕駛汽車和自主機器人已被部署，這些代理目前僅能在持續的網絡連接、特定區域或特定條件下運行。然而，即使在今天，大量的傳感器（包括外部和車載傳感器）已經生成了海量數據，這些數據可能會壓垮傳統的互聯網基礎設施。如果這些數據能夠以低延遲共享，可以改善其他代理的行為，從而實現更高水平的自動化。

邊緣計算可以對數據進行本地處理，減少需要通過網絡傳輸的大量數據。這不僅提高了響應速度和操作效率，還支持在“網絡盲點”進行實時決策，這對于代理的可靠運行至關重要。這不僅僅是一個“可有可無”的功能，而是必不可少的。多傳感器輸入、不同時間和環境下的感知、各種天氣條件以及社會元素等因素不僅支持以邊緣為中心的解決方案，還為邊緣設備上的訓練和推理方面的研究開辟了新的途徑

聚焦社會中的能源效率與隱私

社會對能源消耗和隱私問題日益關注，這為邊緣AI提供了獨特的機遇。在邊緣設備上進行本地處理可以通過將敏感信息留在設備內來確保數據隱私，從而實現隱私保護。此外，在邊緣使用的線性功耗系統（如深度嵌入式部署中），通信成本（如Wi-Fi、藍牙等）往往高于計算成本。因此，迫切需要開展研究以開發能夠平衡通信開銷與計算效率的節能邊緣AI解決方案。這需要探索能量感知算法、可持續硬件設計，以及優化網絡協議以實現能源節約。

低功耗廣域網絡（LPWAN）是一種有前景的方向，其通過降低吞吐量來換取功耗的減少。盡管這是一種在廣泛的帕累托曲線中的設計選擇，但如何開發既能降低生產成本的通用性解決方案，同時又能針對特定應用需求進行定制化，仍然是一個尚未解決的研究問題。

增強邊緣AI的互操作性

隨著邊緣AI系統的普及，確保其可擴展性和互操作性成為一個新的且尚未充分探索的領域。一個懸而未決的問題是，不同的AI支持的邊緣設備應如何進行互相通信。除了長期存在的去中心化與中心化、星型結構與環形結構的爭論之外，一個令人振奮的研究方向是開發標準化協議和框架，以實現多樣化邊緣設備和系統的無縫集成。這包括創建通用數據格式和通信標準，以促進不同類型邊緣設備（如傳感器、可穿戴設備、智能手機、工業設備、自動駕駛車輛等）之間的高效交互，更重要的是實現設備間的自動發現。

邊緣AI的演進還帶來了與新興的非馮·諾依曼架構（如量子計算和類腦計算）實現互操作性的需求。開發能夠與傳統計算系統有效通信和協作的協議和標準至關重要。這不僅涉及數據格式和通信協議的轉換，還需要理解和協調不同非馮·諾依曼架構在處理和解釋數據方式上的根本差異。例如，類腦計算系統通過模擬人腦神經結構實現極端并行性和能效，但其基于事件驅動且處理模擬數據（脈沖）。彌合這一差距對于創建真正互聯的邊緣AI生態系統至關重要，在該生態系統中，設備能夠利用當前和未來計算范式的獨特優勢。推進邊緣AI系統的信任與安全確保邊緣AI系統的可信性和安全性至關重要，尤其是在它們逐漸成為關鍵基礎設施和個人設備的重要組成部分時。未來的研究應重點開發強大的安全協議和加密方法，以保護邊緣設備上處理的敏感數據。這包括增強邊緣AI系統抵御網絡威脅的彈性，并確保AI決策過程透明、可解釋且符合GDPR等法規標準。然而，這帶來了挑戰，因為邊緣設備有時缺乏可信環境，而可信環境對于保護隱私敏感數據至關重要。解決這些問題不僅可以提高邊緣AI系統的安全性和可靠性，還能增強公眾對其部署和使用的信任感。

結論

在本文中，我們回顧了邊緣AI解決方案的歷史和現狀，從其作為邊緣計算與AI相結合的起源，到其當前在資源受限的邊緣設備上實現去中心化推理與訓練的發展狀態。我們重點探討了當今邊緣AI所面臨的各種挑戰和研究機遇，包括相關利益相關者在邊緣AI領域的觀點。最后，我們展望了該領域研究者未來的研究方向。