近兩個(gè)月來(lái)，由于國(guó)際局勢(shì)導(dǎo)致海思的芯片供應(yīng)鏈出現(xiàn)問(wèn)題，海思的安防芯片缺口逐漸擴(kuò)大，從華南地區(qū)逐步擴(kuò)散至其他城市，從高端型號(hào)延伸到中低端型號(hào)，價(jià)格一路飆漲，能否有持續(xù)穩(wěn)定的貨源成為了從業(yè)者的心頭病。

算法模型迅速、高效化的工業(yè)化落地，是當(dāng)前行業(yè)的面臨的一大問(wèn)題。原本學(xué)術(shù)界與工業(yè)界就存在較大 GAP，加上 NPU 芯片的突然興起，說(shuō)是為了提高工業(yè)界的效率，事實(shí)上很多常規(guī)的的學(xué)術(shù)界模型都較難快速部署到 NPU 芯片上。本質(zhì)原因是芯片產(chǎn)品的迭代周期往往以年為計(jì)數(shù)單位，且NPU屬于低可編程性ASIC芯片，很多NPU沒(méi)有較完整的指令集，直接對(duì)寄存器進(jìn)行操作；而學(xué)術(shù)界的各種 Operator 是以季度為單位在更新，因此模型算子不支持的問(wèn)題在NPU部署場(chǎng)景預(yù)期會(huì)長(zhǎng)期存在，現(xiàn)在業(yè)界對(duì)NPU部署很多基于較為傳統(tǒng)的模型或者基于NPU可支持的操作選型模型。

為了解決AI邊緣應(yīng)用開(kāi)發(fā)部署遇到的真實(shí)問(wèn)題，OPEN AI LAB的邊緣AI推理框架Tengine團(tuán)隊(duì)今年全力投入到賦能 AI 芯片的工作中，打通從算法到AI芯片部署的環(huán)節(jié)，助力解決開(kāi)發(fā)者自行適配難、效率低、性能差的問(wèn)題。

Tengine團(tuán)隊(duì)也在今年八月開(kāi)始了對(duì)RV1109/RV1126的適配支持，目前Tengine已經(jīng)完美適配 RV1109/RV1126 芯片。Tengine 對(duì)RV1109/1126的適配做到了算子級(jí)的封裝調(diào)度，框架自動(dòng)對(duì)底層算力資源進(jìn)行調(diào)度，包括NPU、CPU用于神經(jīng)網(wǎng)絡(luò)推理以及2D圖形加速用于神經(jīng)網(wǎng)絡(luò)圖片前后處理。
責(zé)任編輯：YYX