精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署在邊緣設(shè)備上的輕量級模型

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-11 00:17 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計算能力放置在接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被部署在邊緣設(shè)備上,如傳感器智能手機、攝像頭等,以便在靠近數(shù)據(jù)源的地方進行智能決策和數(shù)據(jù)處理。

邊緣AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型

邊緣AI算法的工作原理涉及三個關(guān)鍵要素:終端設(shè)備、邊緣計算和人工智能算法。終端設(shè)備收集到的數(shù)據(jù)被認為是邊緣數(shù)據(jù),需要進行實時處理和分析。邊緣計算是指在距離數(shù)據(jù)源較近的地方進行計算和處理,而邊緣設(shè)備通常配備有一定的計算資源,能夠執(zhí)行一部分輕量級的AI算法和數(shù)據(jù)處理。在邊緣設(shè)備上運行的AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析,從而實現(xiàn)即時響應(yīng)。

邊緣AI算法涵蓋了多種類型,如決策樹算法,這是一種常用的分類算法,能夠根據(jù)特征屬性將數(shù)據(jù)進行劃分,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。支持向量機(SVM)算法,這是一種針對分類和回歸分析問題的算法,它通過尋找最大間隔超平面來實現(xiàn)數(shù)據(jù)的分類和預(yù)測。

神經(jīng)網(wǎng)絡(luò)算法,它模擬了人腦神經(jīng)元的工作原理,能夠處理復(fù)雜的非線性關(guān)系,因此在圖像識別、語音識別等領(lǐng)域有著廣泛的應(yīng)用。貝葉斯算法,這是一種基于貝葉斯定理的分類算法,它能夠根據(jù)先驗概率和樣本數(shù)據(jù)來計算后驗概率,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。

聚類算法,用于將數(shù)據(jù)集中的對象分成不同的組,常見的算法包括K均值算法、層次聚類算法等。回歸分析算法,用于建立變量之間的關(guān)系模型,從而進行預(yù)測和分析。

此外,還有監(jiān)督學習算法、無監(jiān)督學習算法、強化學習算法和深度學習算法等。監(jiān)督學習算法使用有標記數(shù)據(jù)集進行訓練,并通過這些數(shù)據(jù)中的輸入和輸出之間的關(guān)聯(lián)來構(gòu)建模型;無監(jiān)督學習算法則是使用無標記數(shù)據(jù)集進行訓練,通過發(fā)現(xiàn)數(shù)據(jù)之間的模式或結(jié)構(gòu)來構(gòu)建模型;強化學習算法則是通過在環(huán)境中執(zhí)行一系列操作來學習最優(yōu)策略的算法;深度學習算法則是一種基于神經(jīng)網(wǎng)絡(luò)模型的機器學習算法,通過多層次的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來模擬人腦的工作方式。
這些算法在邊緣AI中可以根據(jù)具體的應(yīng)用場景進行選擇和組合,以實現(xiàn)對數(shù)據(jù)的分析、預(yù)測和決策支持。

邊緣AI算法適合應(yīng)用于對實時性要求高、網(wǎng)絡(luò)連接有限的場景

邊緣AI算法的使用場景包括,實時性要求高的場景,例如自動駕駛汽車和無人駕駛系統(tǒng),這些系統(tǒng)需要實時處理大量的傳感器數(shù)據(jù)以進行道路分析和響應(yīng)。邊緣AI算法能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析,實現(xiàn)即時響應(yīng),滿足自動駕駛系統(tǒng)對實時性的高要求。

網(wǎng)絡(luò)連接有限的場景,在一些偏遠地區(qū)或網(wǎng)絡(luò)覆蓋不足的地方,將數(shù)據(jù)全部傳輸?shù)皆贫诉M行處理可能不太現(xiàn)實。在這些場景中,邊緣AI算法可以在本地設(shè)備上進行數(shù)據(jù)處理和分析,減少了對網(wǎng)絡(luò)連接的依賴,保證了系統(tǒng)的穩(wěn)定性和可靠性。

隱私保護要求強的場景,對于一些涉及個人隱私的數(shù)據(jù),如醫(yī)療數(shù)據(jù)、金融數(shù)據(jù)等,將數(shù)據(jù)全部傳輸?shù)皆贫丝赡艽嬖谛孤讹L險。在這些場景中,將AI算法部署在邊緣設(shè)備上可以在本地對數(shù)據(jù)進行處理和分析,保護數(shù)據(jù)的隱私性。

在實際的應(yīng)用落地方面,如智慧安防領(lǐng)域,云天勵飛通過部署在攝像頭等邊緣設(shè)備上的AI算法,實現(xiàn)了實時的人臉識別、行為分析等功能,為公安部門提供了有效的技術(shù)支持。在智能園區(qū)、智能樓宇等領(lǐng)域,云天勵飛也通過邊緣AI算法的應(yīng)用,實現(xiàn)了能源管理、環(huán)境監(jiān)測等智能化功能。

曠視科技針對邊緣設(shè)備推出多種AI解決方案,包括邊緣計算智能分析盒、AIoT操作系統(tǒng)等。來支持在邊緣設(shè)備上實時運行復(fù)雜的AI算法,實現(xiàn)數(shù)據(jù)的快速處理和分析。同時,曠視科技還提供了全方位的服務(wù),幫助用戶將算法應(yīng)用于實際場景,并推廣到市場。

還有商湯科技,通過云智能邊緣盒龍騰邊緣計算的產(chǎn)品,為智能相機提供接入和解析能力,支持車、物、非機動車、行為等多種算法融合解析,算法自由調(diào)度,具備數(shù)據(jù)邊緣匯聚、邊緣解析、邊緣自治、云邊協(xié)同的能力。此外,商湯科技還通過標準化的大模型生產(chǎn)流程,支持了超過七成的行業(yè)業(yè)務(wù),為市場提供了豐富的邊緣AI解決方案。

寫在最后

總的來說,邊緣AI算法部署在邊緣設(shè)備上,通常是經(jīng)過經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進行實時的數(shù)據(jù)處理和分析。邊緣AI算法適用于需要實時處理數(shù)據(jù)、網(wǎng)絡(luò)連接有限、隱私保護要求高的場景中,在工業(yè)制造、智能家居、城市管理、能源管理等方面都已經(jīng)得到應(yīng)用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30239

    瀏覽量

    268473
  • 邊緣AI
    +關(guān)注

    關(guān)注

    0

    文章

    90

    瀏覽量

    4958
收藏 人收藏

    評論

    相關(guān)推薦

    設(shè)備利用AI Edge Torch生成式API部署自定義大語言模型

    ,從而無縫地將新的設(shè)備端生成式 AI 模型部署邊緣設(shè)備。本文是 Google AI Edge
    的頭像 發(fā)表于 11-14 10:23 ?345次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>設(shè)備</b><b class='flag-5'>上</b>利用AI Edge Torch生成式API<b class='flag-5'>部署</b>自定義大語言<b class='flag-5'>模型</b>

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯海科技、極達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edgeBMC解決方案新品發(fā)布會”。本次活動以“邊緣計算聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育、醫(yī)療
    的頭像 發(fā)表于 08-30 12:28 ?289次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯海科技、極達科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edge BMC解決方案新品發(fā)布會”。本次活動以“邊緣計算 聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育
    發(fā)表于 08-29 14:55 ?867次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~ 開源地址:https://github.com/sipeed/TinyMaix搭建
    發(fā)表于 08-09 18:26

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    D9360國產(chǎn)開發(fā)板)的TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫方案測試。 算力測試 TinyMaix 是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機上運行輕量級深度
    發(fā)表于 08-07 18:06

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    TinyMaix是面向單片機的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即TinyML推理庫,可以讓你在任意單片機上運行輕量級深度學習模型~開源地址:https://github.com/s
    的頭像 發(fā)表于 07-05 08:02 ?1829次閱讀
    國產(chǎn)芯<b class='flag-5'>上</b>運行TinyMaxi<b class='flag-5'>輕量級</b>的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    未來輕量級深度學習技術(shù)探索

    除了輕量級架構(gòu)設(shè)計外,作者提到了可以應(yīng)用于壓縮給定架構(gòu)的各種高效算法。例如,量化方法 旨在減少數(shù)據(jù)所需的存儲空間,通常是通過用8位或16位數(shù)字代替32位浮點數(shù),甚至使用二進制值表示數(shù)據(jù)。
    發(fā)表于 04-23 15:54 ?378次閱讀
    未來<b class='flag-5'>輕量級</b>深度學習技術(shù)探索

    NVIDIA與恩智浦聯(lián)手,邊緣設(shè)備部署AI模型

    恩智浦工業(yè)及IoT邊緣高級副總裁Charles Dachs表示,人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來,融入Nvidia先進的AI培訓技術(shù)以及恩智浦工業(yè)及物聯(lián)網(wǎng)邊緣科研實力,將產(chǎn)生協(xié)同效益,讓用戶能更迅速地將自家AI
    的頭像 發(fā)表于 03-25 16:05 ?835次閱讀

    百度智能云推出全新輕量級模型

    近日舉辦的百度智能云千帆產(chǎn)品發(fā)布會上,三款全新的輕量級模型——ERNIE Speed、ERNIE Lite以及ERNIE Tiny,引起了業(yè)界的廣泛關(guān)注。相較于傳統(tǒng)的千億級別參數(shù)大模型
    的頭像 發(fā)表于 03-22 10:28 ?632次閱讀

    百度智能云發(fā)布三款輕量級模型和兩款特定場景大模型

    百度智能云千帆產(chǎn)品發(fā)布會上震撼推出了一系列創(chuàng)新產(chǎn)品,其中包括三款輕量級模型:ERNIE Speed、ERNIE Lite和ERNIE Tiny,以及兩款專為特定場景打造的ERNIE
    的頭像 發(fā)表于 03-22 10:28 ?628次閱讀

    ELF 1 開發(fā)板實現(xiàn)讀取攝像頭視頻進行目標檢測

    當前,將AI或深度學習算法(如分類、目標檢測和軌跡追蹤)部署到嵌入式設(shè)備,進而實現(xiàn)邊緣計算,正成為輕量級深度學習算法發(fā)展的一個重要趨勢。今天將與各位小伙伴分享一個實際案例:
    的頭像 發(fā)表于 01-24 10:38 ?658次閱讀
    <b class='flag-5'>在</b>ELF 1 開發(fā)板<b class='flag-5'>上</b>實現(xiàn)讀取攝像頭視頻進行目標檢測

    AI邊緣計算機應(yīng)用場景廣泛!大語言模型與數(shù)字人結(jié)合方案邊緣側(cè)落地

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)AI邊緣計算機是一種人工智能和邊緣計算技術(shù)相結(jié)合的計算機設(shè)備。它可以本地設(shè)備
    的頭像 發(fā)表于 01-16 01:11 ?4386次閱讀
    AI<b class='flag-5'>邊緣</b>計算機應(yīng)用場景廣泛!大語言<b class='flag-5'>模型</b>與數(shù)字人結(jié)合方案<b class='flag-5'>在</b><b class='flag-5'>邊緣</b>側(cè)落地

    邊緣側(cè)部署模型優(yōu)勢多!模型量化解決邊緣設(shè)備資源限制問題

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)大模型邊緣部署是將大模型部署
    的頭像 發(fā)表于 01-05 00:06 ?3394次閱讀

    【愛芯派 Pro 開發(fā)板試用體驗】人體姿態(tài)估計模型部署前期準備

    速度也只是勉強實時。為了部署端側(cè),使用較低算力的設(shè)備,我們需要進一步將其輕量化,也就是lightweight openpose項目。這個主要針對Openpose模型做一些改進,參數(shù)量
    發(fā)表于 01-01 01:04

    輕量級數(shù)據(jù)庫有哪些類型

    輕量級數(shù)據(jù)庫是指具有小巧、靈活、高效的特點,適用于小規(guī)模項目和嵌入式設(shè)備的數(shù)據(jù)庫管理系統(tǒng)。下面是對輕量級數(shù)據(jù)庫類型的詳細介紹,包括關(guān)系型數(shù)據(jù)庫、非關(guān)系型數(shù)據(jù)庫、面向?qū)ο髷?shù)據(jù)庫等等。 關(guān)系型數(shù)據(jù)庫
    的頭像 發(fā)表于 12-20 11:29 ?1199次閱讀