精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

衡量移動(dòng)設(shè)備中的AI性能

倩倩 ? 來源:新經(jīng)網(wǎng) ? 2020-07-07 15:30 ? 次閱讀

如今,人工智能已成為普遍的流行語,但大多數(shù)消費(fèi)者可能不知道它如何與日常生活息息相關(guān)。分析人員和技術(shù)新聞界中的某些人可能還會(huì)嘲笑該術(shù)語用于某些幾乎不像真正的人工智能的技術(shù)的頻率。也就是說,除了強(qiáng)大的數(shù)據(jù)中心外,還有一些平臺(tái)對(duì)于AI處理和驅(qū)動(dòng)它們的NN(神經(jīng)網(wǎng)絡(luò))來說是很自然的。其中之一是AI推理(使用AI推理信息,而不是訓(xùn)練NN)在邊緣和口袋中,使用智能手機(jī)

就像您想象的那樣,從Android到Apple的智能手機(jī)平臺(tái)差別很大,但是語音-文本翻譯和推薦器引擎(例如Google Assistant和Siri)等常見工作負(fù)載大量使用了常見的AI NN模型,在設(shè)備上執(zhí)行此操作可提高速度和延遲。

衡量移動(dòng)設(shè)備中的AI性能

隨著任何新設(shè)備的推出以及熱門新應(yīng)用的出現(xiàn),精通技術(shù)的消費(fèi)者和技術(shù)媒體成員希望能夠衡量和收集各種移動(dòng)生態(tài)系統(tǒng)中設(shè)備的相對(duì)性能。此外,目前智能手機(jī)測(cè)試和評(píng)論中的AI處理性能正在發(fā)展,因此,在主要的應(yīng)用商店中當(dāng)然會(huì)出現(xiàn)多種工具,這些工具聲稱能夠測(cè)量電話和其他移動(dòng)設(shè)備的AI性能。而且-您猜對(duì)了-這些應(yīng)用程序的創(chuàng)建肯定不盡相同。

為了解決這個(gè)問題,Marco和我深入研究了HotHardware,分析了三種主流AI基準(zhǔn)測(cè)試中各種旗艦Android手機(jī)的性能,這些基準(zhǔn)在某些情況下會(huì)產(chǎn)生截然不同的結(jié)果。

關(guān)鍵是要更好地了解實(shí)際測(cè)試的特定基準(zhǔn)度量標(biāo)準(zhǔn)。測(cè)試是否代表盡可能接近實(shí)際的工作負(fù)載?理想的基準(zhǔn)測(cè)試使用的是消費(fèi)者可能會(huì)使用的實(shí)際應(yīng)用程序,但短短的基準(zhǔn)測(cè)試可以使用流行應(yīng)用程序的相同核心軟件組件來代表實(shí)際的性能期望。在這種情況下,這意味著我們需要了解這些基準(zhǔn)測(cè)試工具要針對(duì)哪些NN進(jìn)行測(cè)試,以及要使用哪些數(shù)學(xué)精度和AI算法來處理這些工作量。

什么是AI基準(zhǔn)測(cè)試的正確標(biāo)準(zhǔn)?

使移動(dòng)設(shè)備具有良好的AI基準(zhǔn)的原因是一個(gè)相對(duì)較深的細(xì)微差別,但總之是幾乎所有的移動(dòng)NPU(神經(jīng)處理單元或?qū)S肁I引擎)都采用INT8或量化數(shù)學(xué)精度或FP16浮點(diǎn)精度,例如利用ResNet-34或Google的DeepLab-v3等流行的NN在應(yīng)用中進(jìn)行圖像分類和分割。那是貓還是狗?該相機(jī)拍攝應(yīng)采用哪種顏色平衡?這些問題是AI試圖從電話環(huán)境中推斷出答案的問題,至少在成像工作負(fù)載示例中,盡管還有很多其他問題。

當(dāng)前,INT8精度被認(rèn)為足以滿足大多數(shù)消費(fèi)類移動(dòng)應(yīng)用的需求,并且壓縮技術(shù)和高級(jí)量化技術(shù)的進(jìn)步繼續(xù)提高了移動(dòng)設(shè)備上的INT8精度,同時(shí)仍然獲得了與FP16相比更低的功耗。FP16提供更好的精度,但在關(guān)鍵的智能手機(jī)功耗預(yù)算上成本更高。

結(jié)果,大多數(shù)支持AI的移動(dòng)應(yīng)用都采用INT8來提高電源效率。但是,并非所有可用的基準(zhǔn)測(cè)試都以相同的方式權(quán)衡了移動(dòng)平臺(tái)的性能。一些應(yīng)用程序強(qiáng)調(diào)FP16的精度,即使實(shí)際上它的使用頻率不如INT8那樣高。此外,高通公司和其他公司的AI平臺(tái)SDK(軟件開發(fā)套件)針對(duì)INT 8進(jìn)行了高度優(yōu)化。因此,問題來了,就這些手機(jī)的真實(shí)AI性能而言,其中一些基準(zhǔn)測(cè)試應(yīng)用程序的各種測(cè)試結(jié)果到底意味著什么?和其他移動(dòng)設(shè)備?從HotHardware收集的分?jǐn)?shù)中可以看出,高通和華為在一些領(lǐng)先的移動(dòng)硅平臺(tái)上的排名大相徑庭。顯而易見,高通公司Snapdragon 865設(shè)備在INT8 NPU處理吞吐量方面以及在移動(dòng)應(yīng)用中可能更接近于當(dāng)前的實(shí)際AI性能方面似乎占據(jù)了領(lǐng)先地位。還值得指出的是,高通的Snapdragon移動(dòng)平臺(tái)目前還為美國(guó)絕大多數(shù)Android手機(jī)提供支持,因此該公司對(duì)生態(tài)系統(tǒng)的影響深遠(yuǎn)。

分析師從移動(dòng)AI的早期發(fā)展中汲取靈感

邊緣的人工智能和機(jī)器學(xué)習(xí)是一個(gè)瞬息萬變的領(lǐng)域,它提供的功能越來越強(qiáng)大且前景廣闊,將在許多方面豐富我們的日常生活。結(jié)果,基準(zhǔn)指標(biāo)和用于衡量它們的應(yīng)用程序也將必須隨著時(shí)間的推移而發(fā)展和變化。此外,與傳統(tǒng)的PC基準(zhǔn)一樣,新聞,技術(shù)愛好者和精明的消費(fèi)者將在未來幾天內(nèi)更加關(guān)注AI基準(zhǔn),因?yàn)锳I成為移動(dòng)體驗(yàn)和可用平臺(tái)解決方案中更為重要的組成部分市場(chǎng)。

因此,這些基準(zhǔn)應(yīng)用程序開發(fā)人員和媒體將有責(zé)任對(duì)構(gòu)成優(yōu)質(zhì)移動(dòng)AI基準(zhǔn)的精要點(diǎn)以及對(duì)您自己的個(gè)人口袋AI助手的性能進(jìn)行更真實(shí)的衡量。現(xiàn)在,如果基準(zhǔn)測(cè)試沒有采用常用的NN并切實(shí)代表INT8精度的重要性,您就不得不質(zhì)疑該測(cè)試對(duì)普通消費(fèi)者的價(jià)值。但是,這里沒有絕對(duì)值。當(dāng)前的格局正在以這種方式形成,但AI技術(shù)又以瘋狂的步伐發(fā)展,整個(gè)行業(yè)的其余部分將需要跟上發(fā)展。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 移動(dòng)設(shè)備
    +關(guān)注

    關(guān)注

    0

    文章

    492

    瀏覽量

    54650
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30146

    瀏覽量

    268421
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI性能計(jì)算平臺(tái)是什么

    AI性能計(jì)算平臺(tái)不僅是AI技術(shù)發(fā)展的基石,更是推動(dòng)AI應(yīng)用落地、加速產(chǎn)業(yè)升級(jí)的重要工具。以下,是對(duì)AI
    的頭像 發(fā)表于 11-11 09:56 ?126次閱讀

    移動(dòng)終端測(cè)試儀的技術(shù)原理和應(yīng)用場(chǎng)景

    無線信號(hào)對(duì)被測(cè)設(shè)備進(jìn)行測(cè)試,包括總?cè)蜉椛潇`敏度(TIS)、定位性能等,模擬實(shí)際使用環(huán)境的信號(hào)接收和發(fā)送情況。 GNSS測(cè)試:測(cè)試移動(dòng)終端的衛(wèi)星導(dǎo)航接收
    發(fā)表于 11-04 16:01

    移動(dòng)設(shè)備MCU的優(yōu)勢(shì)分析

    隨著科技的飛速發(fā)展,移動(dòng)設(shè)備已經(jīng)成為我們?nèi)粘I?b class='flag-5'>中不可或缺的一部分。從智能手機(jī)到智能手表,再到各種物聯(lián)網(wǎng)設(shè)備,這些設(shè)備的核心都離不開微控制器
    的頭像 發(fā)表于 11-01 13:48 ?142次閱讀

    共創(chuàng)AI+時(shí)代——2024中國(guó)移動(dòng)全球合作伙伴大會(huì)

    10月11-13日,2024中國(guó)移動(dòng)全球合作伙伴大會(huì)在廣州琶洲保利世貿(mào)博覽館拉開帷幕,為期三天的大會(huì)以“智煥新生共創(chuàng)AI+時(shí)代”為主題。RISC-V國(guó)際人才培養(yǎng)認(rèn)證中心主任蔣學(xué)剛出席參觀了本次
    的頭像 發(fā)表于 10-16 08:09 ?379次閱讀
    共創(chuàng)<b class='flag-5'>AI</b>+時(shí)代——2024<b class='flag-5'>中國(guó)移動(dòng)</b>全球合作伙伴大會(huì)

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    人工智能在科學(xué)研究的核心技術(shù),包括機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等。這些技術(shù)構(gòu)成了AI for Science的基石,使得AI能夠處理和分析復(fù)雜的數(shù)據(jù)集,從而發(fā)現(xiàn)隱藏在數(shù)據(jù)的模式和規(guī)
    發(fā)表于 10-14 09:16

    華邦電子為邊緣設(shè)備打造生成式AI性能

    在以大模型為基礎(chǔ)的云端 AI 廣泛賦能各行各業(yè)后,邊緣設(shè)備對(duì)于 AI 也釋放出巨大需求,AI 也在從云端向邊緣端加速落地,層出不窮的應(yīng)用場(chǎng)景對(duì)端側(cè)設(shè)
    的頭像 發(fā)表于 08-19 16:14 ?571次閱讀

    功放芯片中說的失真10%在實(shí)際應(yīng)用怎么衡量

    功放芯片中說的失真10%在實(shí)際應(yīng)用怎么衡量
    發(fā)表于 08-14 06:03

    NPU和AI TOPS是什么?它們有哪些性能

    在當(dāng)今快速發(fā)展的技術(shù)環(huán)境AI正在變革各行各業(yè)并推動(dòng)創(chuàng)新,理解AI性能指標(biāo)的復(fù)雜性至關(guān)重要。過去許多AI模型需要在云端運(yùn)行。當(dāng)我們走向由終
    的頭像 發(fā)表于 06-13 10:33 ?742次閱讀

    光模塊在AI智能設(shè)備的應(yīng)用及其對(duì)晶振性能指標(biāo)的要求

    光模塊(Optical Module),也稱為光收發(fā)模塊,是光通信設(shè)備的關(guān)鍵組件,主要用于光電信號(hào)的轉(zhuǎn)換。光模塊能夠?qū)㈦娦盘?hào)轉(zhuǎn)換成光信號(hào)進(jìn)行傳輸,并將接收到的光信號(hào)轉(zhuǎn)換成電信號(hào)。隨著數(shù)據(jù)中心和高性能計(jì)算(HPC)系統(tǒng)在
    的頭像 發(fā)表于 05-31 11:15 ?837次閱讀
    光模塊在<b class='flag-5'>AI</b>智能<b class='flag-5'>設(shè)備</b><b class='flag-5'>中</b>的應(yīng)用及其對(duì)晶振<b class='flag-5'>性能</b>指標(biāo)的要求

    新的Armv9 CPU技術(shù)加速AI移動(dòng)設(shè)備等領(lǐng)域的發(fā)展

    當(dāng)今移動(dòng)設(shè)備上的大多數(shù)人工智能 (AI) 工作負(fù)載均可在 Arm CPU 上運(yùn)行。
    的頭像 發(fā)表于 05-30 11:44 ?564次閱讀
    新的Armv9 CPU技術(shù)加速<b class='flag-5'>AI</b>在<b class='flag-5'>移動(dòng)</b><b class='flag-5'>設(shè)備</b>等領(lǐng)域的發(fā)展

    軟通動(dòng)力與湖北移動(dòng)達(dá)成AI智算科創(chuàng)合作

    近日,2024湖北移動(dòng)AI+成果發(fā)布暨生態(tài)大會(huì)在武漢盛大召開。此次大會(huì),中國(guó)移動(dòng)通信集團(tuán)湖北有限公司攜手業(yè)界精英,共同探索AI技術(shù)的未來發(fā)展趨勢(shì)。其中,軟通動(dòng)力受邀參加,并與湖北
    的頭像 發(fā)表于 05-22 10:49 ?548次閱讀

    risc-v多核芯片在AI方面的應(yīng)用

    在極低的能耗下實(shí)現(xiàn)高效的AI元器件的運(yùn)行。這對(duì)于需要長(zhǎng)時(shí)間運(yùn)行和依賴電池供電的AI設(shè)備來說尤為重要。 其次,RISC-V的模塊化架構(gòu)允許其不同部分以模塊化的方式串在一起,從而滿足各種不同的應(yīng)用需求。這使
    發(fā)表于 04-28 09:20

    Arm平臺(tái)賦能移動(dòng)端生成式AI

    生成式人工智能 (Generative AI) 涵蓋了當(dāng)下廣為人知,且備受關(guān)注的大語言模型 (LLM),如今也已落地邊緣側(cè)的移動(dòng)設(shè)備
    的頭像 發(fā)表于 04-26 11:09 ?765次閱讀

    NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)

    等領(lǐng)域。以下是一些具體的應(yīng)用場(chǎng)景: 1 . 智能家居:通過將 NanoEdge AI 集成到智能家居設(shè)備,可以實(shí)現(xiàn)對(duì)家庭環(huán)境的實(shí)時(shí)監(jiān)控和智能控制,如溫度調(diào)節(jié)、照明控制、安防監(jiān)控等。 2.工業(yè)自動(dòng)化
    發(fā)表于 03-12 08:09

    智慧社區(qū)建設(shè)應(yīng)用AI邊緣智能分析設(shè)備、邊緣設(shè)備可以解決哪些問題?

    “智慧社區(qū)”的建設(shè)除了可以安裝監(jiān)控?cái)z像頭、AI面部攝像機(jī)等智能設(shè)備來守護(hù)社區(qū)居民的安全,還可以引入AI邊緣智能分析設(shè)備。例如安裝布置在社區(qū)圍墻、大門口、走廊等區(qū)域的視頻監(jiān)控場(chǎng)景
    的頭像 發(fā)表于 01-15 15:05 ?522次閱讀
    智慧社區(qū)建設(shè)<b class='flag-5'>中</b>應(yīng)用<b class='flag-5'>AI</b>邊緣智能分析<b class='flag-5'>設(shè)備</b>、邊緣<b class='flag-5'>設(shè)備</b>可以解決哪些問題?