Mobile AI Compute Engine (MACE)?是一個專為移動端異構(gòu)計算平臺優(yōu)化的神經(jīng)網(wǎng)絡(luò)計算框架。 主要從以下的角度做了專門的優(yōu)化：

• 性能

  • 代碼經(jīng)過NEON指令，OpenCL以及Hexagon HVX專門優(yōu)化，并且采用?Winograd算法來進(jìn)行卷積操作的加速。 此外，還對啟動速度進(jìn)行了專門的優(yōu)化。

• 功耗

  • 支持芯片的功耗管理，例如ARM的big.LITTLE調(diào)度，以及高通Adreno GPU功耗選項。

• 系統(tǒng)響應(yīng)

  • 支持自動拆解長時間的OpenCL計算任務(wù)，來保證UI渲染任務(wù)能夠做到較好的搶占調(diào)度， 從而保證系統(tǒng)UI的相應(yīng)和用戶體驗。

• 內(nèi)存占用

  • 通過運(yùn)用內(nèi)存依賴分析技術(shù)，以及內(nèi)存復(fù)用，減少內(nèi)存的占用。另外，保持盡量少的外部 依賴，保證代碼尺寸精簡。

• 模型加密與保護(hù)

  • 模型保護(hù)是重要設(shè)計目標(biāo)之一。支持將模型轉(zhuǎn)換成C++代碼，以及關(guān)鍵常量字符混淆，增加逆向的難度。

• 硬件支持范圍

  • 支持高通，聯(lián)發(fā)科，以及松果等系列芯片的CPU，GPU與DSP(目前僅支持Hexagon)計算加速。 同時支持在具有POSIX接口的系統(tǒng)的CPU上運(yùn)行。