精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NCNN在Core3566模組上的部署和測試

發(fā)燒電子愛好者 ? 來源:發(fā)燒電子愛好者 ? 作者:發(fā)燒電子愛好者 ? 2023-10-17 08:25 ? 次閱讀

得益于四核A55的性能,NCNN跑起來應該問題不大,本文主要介紹NCNN在Core3566 模組上的部署和測試。

一、NCNN介紹

ncnn 是一個為手機端極致優(yōu)化的高性能神經(jīng)網(wǎng)絡前向計算框架。 ncnn 從設計之初深刻考慮手機端的部署和使用。 無第三方依賴,跨平臺,手機端 cpu 的速度快于目前所有已知的開源框架。 基于 ncnn,開發(fā)者能夠?qū)?a href="http://www.nxhydt.com/v/tag/448/" target="_blank">深度學習算法輕松移植到手機端高效執(zhí)行, 開發(fā)出人工智能 APP,將 AI 帶到你的指尖。 ncnn 目前已在騰訊多款應用中使用,如:QQ,Qzone,微信,天天 P 圖等。

ncnn: NCNN是騰訊優(yōu)圖實驗室首個開源項目,是一個為手機端極致優(yōu)化的高性能神經(jīng)網(wǎng)絡前向計算框架。

二、源碼下載&編譯

(一)源碼下載

在NCNN的github(github.com/Tencent/ncnn)拉源碼。

linaro@linaro-alip:/userdata$ sudo git clone https://github.com/Tencent/ncnn.git
Cloning into 'ncnn'...
remote: Enumerating objects: 32651, done.
remote: Counting objects: 100% (5798/5798), done.
remote: Compressing objects: 100% (309/309), done.
remote: Total 32651 (delta 5637), reused 5500 (delta 5489), pack-reused 26853
Receiving objects: 100% (32651/32651), 22.79 MiB | 8.51 MiB/s, done.
Resolving deltas: 100% (27724/27724), done.
Checking out files: 100% (3285/3285), done.
linaro@linaro-alip:/userdata$

(二)源碼編譯

考慮到四核A55的能力,加上NCNN本身也支持板上直接編譯,所以就不去PC上搞交叉編譯了。

Debian包自帶gcc,所以就不需要在Core3566 模組編譯安裝了,頂多更新下。

linaro@linaro-alip:/userdata$ gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/usr/lib/gcc/aarch64-linux-gnu/8/lto-wrapper
Target: aarch64-linux-gnu
Configured with: ../src/configure -v --with-pkgversion='Debian 8.3.0-6' --with-bugurl=file:///usr/share/doc/gcc-8/README.Bugs --enable-languages=c,ada,c++,go,d,fortran,objc,obj-c++ --prefix=/usr --with-gcc-major-version-only --program-suffix=-8 --program-prefix=aarch64-linux-gnu- --enable-shared --enable-linker-build-id --libexecdir=/usr/lib --without-included-gettext --enable-threads=posix --libdir=/usr/lib --enable-nls --enable-bootstrap --enable-clocale=gnu --enable-libstdcxx-debug --enable-libstdcxx-time=yes --with-default-libstdcxx-abi=new --enable-gnu-unique-object --disable-libquadmath --disable-libquadmath-support --enable-plugin --enable-default-pie --with-system-zlib --disable-libphobos --enable-multiarch --enable-fix-cortex-a53-843419 --disable-werror --enable-checking=release --build=aarch64-linux-gnu --host=aarch64-linux-gnu --target=aarch64-linux-gnu
Thread model: posix
gcc version 8.3.0 (Debian 8.3.0-6)

按照下面步驟的順序:

cd < ncnn-root-dir >
mkdir -pbuild-aarch64-linux-gnu
cdbuild-aarch64-linux-gnu
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/aarch64-linux-gnu.toolchain.cmake ..
make -j$(nproc)

操作及l(fā)og如下:

TOP2.png


可以看出編譯還是很耗資源。

TOP.png

最終生成了可執(zhí)行程序。

linaro@linaro-alip:/userdata/ncnn/build-aarch64-linux-gnu$ file benchmark/benchncnn
benchmark/benchncnn: ELF 64-bit LSB pie executable, ARM aarch64, version 1 (SYSV), dynamically linked, interpreter /lib/ld-linux-aarch64.so.1, for GNU/Linux 3.7.0, BuildID[sha1]=16473ecd5c28b183841b2925c3d87c7cd23a060e, not stripped
linaro@linaro-alip:/userdata/ncnn/build-aarch64-linux-gnu$

三、測試

將生成的可執(zhí)行文件拷貝到原目錄的benchmark/文件夾中,因為這里面有測試需要的模型數(shù)據(jù)。

TOP3.png

執(zhí)行一下,幾個模型測試都跑個遍:

TOP4.png

得分數(shù)據(jù)還是比較能反映RK3566的實力,基本上每項都是H616得分的2倍。貼個H616的測試分數(shù),對比下。

NCNN2.png

審核編輯:湯梓紅
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    28877

    瀏覽量

    266239
  • 人工智能
    +關(guān)注

    關(guān)注

    1787

    文章

    46061

    瀏覽量

    235030
  • 源碼
    +關(guān)注

    關(guān)注

    8

    文章

    626

    瀏覽量

    28973
  • 模組
    +關(guān)注

    關(guān)注

    6

    文章

    1361

    瀏覽量

    29951
收藏 人收藏

    評論

    相關(guān)推薦

    幸狐 Core3566 模組開箱

    發(fā)燒友的快遞一直都很快,很快就拿到了,很大的一箱子。
    的頭像 發(fā)表于 09-11 09:04 ?2350次閱讀
    幸狐 <b class='flag-5'>Core3566</b> <b class='flag-5'>模組</b>開箱

    【幸狐Core3566模組試用體驗】Linux系統(tǒng)燒寫和體驗

    因為沒想到“幸狐 Core3566 模組”果然是個模組,除了一塊核心板+一個天線之外就沒了,所以只能在咸魚找了塊據(jù)說“兼容”CM4的底板。
    的頭像 發(fā)表于 09-24 09:43 ?1463次閱讀
    【幸狐<b class='flag-5'>Core3566</b><b class='flag-5'>模組</b>試用體驗】Linux系統(tǒng)燒寫和體驗

    AvaotaA1全志T527開發(fā)板上部署ncnn

    ncnn 是一個為手機端極致優(yōu)化的高性能神經(jīng)網(wǎng)絡前向計算框架。 ncnn 從設計之初深刻考慮手機端的部署和使用。 無第三方依賴,跨平臺,手機端 cpu 的速度快于目前所有已知的開源框架
    發(fā)表于 07-22 10:36

    ubuntu 安裝騰訊推理框架 ncnn 的方法記錄

    本教程詳細記錄了 ubuntu 安裝騰訊推理框架 ncnn 的方法。
    發(fā)表于 12-14 07:49

    如何在RK3308嵌入式開發(fā)板使用ncnn部署mobilenetv2_ssdlite模型呢

    如何在RK3308嵌入式開發(fā)板使用ncnn部署mobilenetv2_ssdlite模型呢?
    發(fā)表于 12-27 07:19

    【芒果派MangoPi MQ Quad】NCNNMangoPi MQ Quad部署測試

    穿透工具,找了幾個要么不免費,要么各種驗證,還是放棄吧。 得益于四核A53的性能,NCNN跑起來應該問題不大,本文主要介紹NCNNMangoPi MQ Quad
    發(fā)表于 08-03 23:25

    【幸狐 Core3566 模組試用體驗】幸狐 Core3566 模組開箱

    應用。RK809可以提供一個完整的電源管理解決方案,外部組件很少。 三、資料 因為沒想到“幸狐 Core3566 模組”果然是個模組,除了一塊核心板+一個天線之外就沒了,核心板也沒用
    發(fā)表于 09-09 18:46

    【幸狐 Core3566 模組試用體驗】Linux系統(tǒng)燒寫和體驗

    一、前傳 因為沒想到“幸狐 Core3566 模組”果然是個模組,除了一塊核心板+一個天線之外就沒了,所以只能在咸魚找了塊據(jù)說“兼容”CM4的底板。 嗯,具體如圖,帶RJ45口、H
    發(fā)表于 09-14 13:23

    【幸狐 Core3566 模組試用體驗】基于openCV的貓臉識別

    的圖片是網(wǎng)上隨便下載的。 將圖片、貓臉識別分類器還有python上傳至幸狐 Core3566 模組,并運行python腳本。 只識別出2只貓咪,看來有一只的臉不合格,要想識別出來,需要
    發(fā)表于 09-24 23:50

    【幸狐 Core3566 模組試用體驗】RK3566的CoreMark

    。 CoreMark 基準評分特點 CRC 算法具有雙重功能,鏈表元素中包含的數(shù)據(jù)執(zhí)行16位CRC,以驗證操作正確,保證操作正確并提供自我檢查機制。 為了確保編譯器不能在編譯時預先計算結(jié)果,基準
    發(fā)表于 10-06 23:48

    【幸狐 Core3566 模組試用體驗】開箱篇

    幸狐 Core3566 模組核心板主控采用Rockchip RK3566四核處理器,集成雙核心架構(gòu)GPU以及高效能NPU,最高支持0.8T算力,主頻高達1.8GHz。嵌入式3D GPU使RK3
    發(fā)表于 10-10 15:25

    【幸狐 Core3566 模組試用體驗】EMMC燒寫鏡像

    Device”就可以進行鏡像燒錄了。 MaskRom模式 如果設備進入不了 Loader 模式,此時才可以嘗試強行進入 MaskRom 模式。將Core3566斷開電源,按住核心板
    發(fā)表于 10-10 15:48

    【幸狐 Core3566 模組試用體驗】NCNNCore3566 模組部署測試

    得益于四核A55的性能,NCNN跑起來應該問題不大,本文主要介紹NCNNCore3566 模組
    發(fā)表于 10-10 20:45

    【教程】三分鐘學習NCNN算法移植

    本文是基于EASY EAI Nano移植NCNN部署庫的方法與NCNN成功運行yolov4的Demo所做的教程。
    的頭像 發(fā)表于 07-18 14:23 ?1302次閱讀
    【教程】三分鐘學習<b class='flag-5'>NCNN</b>算法移植

    NCNNMangoPi MQ Quad部署測試

    穿透工具,找了幾個要么不免費,要么各種驗證,還是放棄吧。 得益于四核A53的性能,NCNN跑起來應該問題不大,本文主要介紹NCNNMangoPi MQ Quad
    的頭像 發(fā)表于 07-22 09:10 ?1110次閱讀
    <b class='flag-5'>NCNN</b><b class='flag-5'>在</b>MangoPi MQ Quad<b class='flag-5'>上</b>的<b class='flag-5'>部署</b>和<b class='flag-5'>測試</b>