如何更好地調(diào)用麒麟芯片NPU算力
出色的AI應(yīng)用、AI體驗(yàn)的誕生，
除了算子、數(shù)據(jù)的不斷升級(jí)，
離不開(kāi)芯片底層算力的支持。
但開(kāi)發(fā)者在開(kāi)發(fā)過(guò)程中，
往往不清楚如何更好地調(diào)用麒麟芯片NPU算力，
導(dǎo)致芯片大算力被“擱置”。
HUAWEI HiAI Foundation創(chuàng)新推出Model Zoo，
為開(kāi)發(fā)者提供NPU友好模型，
幫助其設(shè)計(jì) NPU友好模型算法結(jié)構(gòu)，
更好地發(fā)揮麒麟芯片的NPU加速優(yōu)勢(shì)。
原文標(biāo)題：快速調(diào)用，自主調(diào)優(yōu)！海量NPU友好模型盡在HUAWEI HiAI Foundation Model Zoo
文章出處：【微信公眾號(hào)：華為麒麟】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
審核編輯：彭菁
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
6896瀏覽量
88832 -
AI
+關(guān)注
關(guān)注
87文章
30154瀏覽量
268423 -
麒麟芯片
+關(guān)注
關(guān)注
6文章
284瀏覽量
15515
原文標(biāo)題：快速調(diào)用，自主調(diào)優(yōu)！海量NPU友好模型盡在HUAWEI HiAI Foundation Model Zoo
文章出處：【微信號(hào)：Huawei_Kirin，微信公眾號(hào)：華為麒麟】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
40+TOPS NPU，AI PC處理器開(kāi)卷算力
的人工智能任務(wù)。同時(shí)，微軟還提出，這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片，可實(shí)現(xiàn)每秒超過(guò)40萬(wàn)億次即40+TOPS的運(yùn)算。那么也就是說(shuō)，若要符合微軟給出的AI PC的定義，NPU的算
什么是NPU芯片及其功能
在人工智能（AI）技術(shù)迅猛發(fā)展的今天，NPU芯片已經(jīng)成為推動(dòng)這一領(lǐng)域進(jìn)步的關(guān)鍵技術(shù)之一。NPU芯片，即神經(jīng)網(wǎng)絡(luò)處理單元，是一種專(zhuān)門(mén)為深度學(xué)習(xí)算法設(shè)計(jì)的硬件加速器。 一、
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書(shū)概覽
、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書(shū)中有對(duì)芯片方案商處理器的講解，理論聯(lián)系實(shí)際，使讀者能更
發(fā)表于 10-15 22:08
名單公布！【書(shū)籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
的強(qiáng)有力競(jìng)爭(zhēng)者；蘋(píng)果、Cerebras、Ampere、特斯拉等企業(yè)的加入讓這場(chǎng)“算力芯片戰(zhàn)爭(zhēng)”更加熱鬧。
CPU、GPU、NPU等芯片是推動(dòng)
發(fā)表于 09-02 10:09
迅為RK3588開(kāi)發(fā)板運(yùn)行openkylin麒麟系統(tǒng)
單元的利用率及帶寬的消耗上提升了30%。6TOPs的NPU算力，賦能各類(lèi)AI場(chǎng)景。
強(qiáng)大的視頻編解碼--8K編碼+8K解碼，多路視頻源同時(shí)解碼。支持8K@60fpsH.265/H.264/VP9/AV1
發(fā)表于 08-19 10:38
刷新AI PC NPU算力，AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS
NPU性能第一梯隊(duì)。而此次推出的Ryzen AI 9 HX 375算力進(jìn)一步提升至55 TOPS。在NPU算
實(shí)測(cè)NPU“空轉(zhuǎn)”，AI PC首個(gè)落地應(yīng)用只調(diào)用GPU？
AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上，增加NPU加強(qiáng)AI 算力。不過(guò)有意思的是，最近某品牌PC機(jī)型上的AI助手率先落地，支持云端和本地運(yùn)算兩種模式，確實(shí)能夠完成宣傳上的很多功能。然而在實(shí)測(cè)本地大模型時(shí)，卻沒(méi)有
揭秘芯片算力：為何它如此關(guān)鍵？
在數(shù)字化時(shí)代，芯片作為電子設(shè)備的核心組件，其性能直接關(guān)系到設(shè)備的運(yùn)行速度和處理能力。而芯片的算力，即其計(jì)算能力，更是衡量芯片性能的重要指標(biāo)。
NPU算力3倍，新一代酷睿Ultra Lunar Lake搶先看
在人工智能（AI）工作負(fù)載中可以提供100+ TOPS的算力，其中45 TOPS來(lái)自于NPU。 此前有報(bào)道稱，未來(lái)微軟的Copilot人工智能大模型可以在搭載英特爾處理器的PC上本地運(yùn)行，至少需要40
AMD推出銳龍8000嵌入式處理器，AI算力高達(dá)39 T
此款CPU選用4納米制程、AMD基于“Zen 4”架構(gòu)的CPU核心以及使用RDNA 3架構(gòu)GPU和XDNA架構(gòu)NPU，實(shí)現(xiàn)高達(dá)39TOPS的AI算力，其中NPU
高算力芯片：未來(lái)科技的加速器？
在數(shù)字化時(shí)代，芯片作為電子設(shè)備的核心組件，其性能直接關(guān)系到設(shè)備的運(yùn)行速度和處理能力。而芯片的算力，即其計(jì)算能力，更是衡量芯片性能的重要指標(biāo)。
深度解析華為NPU/GPU技術(shù)演進(jìn)與進(jìn)階
CPU/GPU/NPU 等等都是硬件芯片，簡(jiǎn)單來(lái)說(shuō)，晶體管既可以用來(lái)實(shí)現(xiàn)邏輯控制單元， 也可以用來(lái)實(shí)現(xiàn)運(yùn)算單元（算力）。在芯片總面積一定的情
發(fā)表于 02-19 16:52
?7633次閱讀
淺談為AI大算力而生的存算-體芯片
大模型爆火之后，存算一體獲得了更多的關(guān)注與機(jī)會(huì)，其原因之一是因?yàn)榇?b class='flag-5'>算一體芯片的裸算力相比傳統(tǒng)架構(gòu)的AI芯
發(fā)表于 12-06 15:00
?368次閱讀
大算力芯片里的HBM，你了解多少？
最近，隨著人工智能行業(yè)的高速崛起，大算力芯片業(yè)成為半導(dǎo)體行業(yè)為數(shù)不多的熱門(mén)領(lǐng)域HBM(高寬帶內(nèi)存：High-bandwidthmemory)作為大算
工商網(wǎng)監(jiān)
評(píng)論