• 正文
  • 推薦器件
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

學(xué)習(xí)筆記|如何移植NCNN

2024/05/29
1883
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)領(lǐng)域,NCNN(Netural Network Computer Vision)是一個(gè)輕量級(jí)的神經(jīng)網(wǎng)絡(luò)計(jì)算框架,被廣泛應(yīng)用于各類嵌入式設(shè)備和移動(dòng)平臺(tái)。今天,讓我們一同跟隨共創(chuàng)社團(tuán)隊(duì)的步伐,揭秘他們?nèi)绾芜M(jìn)行NCNN的交叉編譯,并在ELF 1開發(fā)板上演繹實(shí)踐,以此驗(yàn)證模型推理性能。

1、從GitHub下載NCNN源碼:https://github.com/Tencent/ncnn

2、將ncnn-master.zip拷貝到開發(fā)環(huán)境的/home/elf/work目錄下并解壓:

elf@ubuntu:~/work$ unzip ncnn-master.zip

3、配置CMake:

elf@ubuntu:~/work$ cd ncnn-master/toolchains/
elf@ubuntu:~/work/ncnn-master/toolchains$ vi arm-poky-linux-gnueabi.cmake

將下面的內(nèi)容添加到arm-poky-linux-gnueabi.cmake文件中:

set(CMAKE_SYSTEM_NAME Linux)
set(CMAKE_SYSTEM_PROCESSOR arm)
set(CMAKE_C_COMPILER "arm-poky-linux-gnueabi-gcc")
set(CMAKE_CXX_COMPILER "arm-poky-linux-gnueabi-g++")
set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER)
set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY)
set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY)

set(CMAKE_C_FLAGS "-march=armv7-a -mfloat-abi=hard  --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

set(CMAKE_CXX_FLAGS "-march=armv7-a -mfloat-abi=hard --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

# cache flags
set(CMAKE_C_FLAGS "${CMAKE_C_FLAGS}" CACHE STRING "c flags")
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS}" CACHE STRING "c++ flags")

4、編譯:

elf@ubuntu:~/work/ncnn-master$ mkdir build
elf@ubuntu:~/work/ncnn-master$ cd build/
elf@ubuntu:~/work/ncnn-master/build$ . /opt/fsl-imx-x11/4.1.15-2.0.0/environment-setup-cortexa7hf-neon-poky-linux-gnueabi 
elf@ubuntu:~/work/ncnn-master/build$ cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-poky-linux-gnueabi.cmake -DNCNN_SIMPLEOCV=ON -DNCNN_BUILD_EXAMPLES=ON -DCMAKE_BUILD_TYPE=Release ..
elf@ubuntu:~/work/ncnn-master/build$ make

5、將編譯完成得到的benchmark文件夾(build目錄下)和項(xiàng)目文件夾下的benchmark文件夾打包并放到U盤里:

elf@ubuntu:~/work/ncnn-master/build$ tar cvjf benchmark.tar.bz2 benchmark/ ../benchmark/

6、將U盤插入到ELF 1開發(fā)板上,拷貝壓縮包到/home/root路徑下并解壓:

root@ELF1:~# cp /run/media/sda1/benchmark.tar.bz2 .
root@ELF1:~# tar xvf benchmark.tar.bz2

7、測(cè)試:

root@ELF1:~# cd benchmark/
root@ELF1:~/benchmark# ./benchncnn

觀察結(jié)果顯示,絕大部分模型均已成功運(yùn)行,其中所展示的數(shù)字指標(biāo)代表了各自的執(zhí)行耗時(shí)。需注意,數(shù)值越小,意味著推理過(guò)程的完成速度越快。

通過(guò)這次實(shí)踐,共創(chuàng)社不僅展示了NCNN在嵌入式設(shè)備上的靈活性與強(qiáng)大性能,還向我們揭示了深度學(xué)習(xí)嵌入式技術(shù)落地的無(wú)限可能,更激勵(lì)著每一位嵌入式探索者:無(wú)論面對(duì)何種挑戰(zhàn),只要勇于探索、精于實(shí)踐,便能在嵌入式技術(shù)的海洋中乘風(fēng)破浪,開辟出一片屬于自己的天地。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
AFBR-57B4APZ 1 Broadcom Limited Transceiver,
$69.51 查看
AFBR-5972EZ 1 Foxconn Transceiver,
$193.55 查看
SN74LVC1G14DCKRE4 1 Texas Instruments Single 1.65-V to 5.5-V inverter with Schmitt-Trigger inputs 5-SC70 -40 to 125

ECAD模型

下載ECAD模型
$0.41 查看

相關(guān)推薦