• 正文
  • 推薦器件
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

學(xué)習(xí)筆記|如何移植NCNN

2024/05/29
1944
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)領(lǐng)域,NCNN(Netural Network Computer Vision)是一個(gè)輕量級(jí)的神經(jīng)網(wǎng)絡(luò)計(jì)算框架,被廣泛應(yīng)用于各類嵌入式設(shè)備和移動(dòng)平臺(tái)。今天,讓我們一同跟隨共創(chuàng)社團(tuán)隊(duì)的步伐,揭秘他們?nèi)绾芜M(jìn)行NCNN的交叉編譯,并在ELF 1開(kāi)發(fā)板上演繹實(shí)踐,以此驗(yàn)證模型推理性能。

1、從GitHub下載NCNN源碼:https://github.com/Tencent/ncnn

2、將ncnn-master.zip拷貝到開(kāi)發(fā)環(huán)境的/home/elf/work目錄下并解壓:

elf@ubuntu:~/work$ unzip ncnn-master.zip

3、配置CMake:

elf@ubuntu:~/work$ cd ncnn-master/toolchains/
elf@ubuntu:~/work/ncnn-master/toolchains$ vi arm-poky-linux-gnueabi.cmake

將下面的內(nèi)容添加到arm-poky-linux-gnueabi.cmake文件中:

set(CMAKE_SYSTEM_NAME Linux)
set(CMAKE_SYSTEM_PROCESSOR arm)
set(CMAKE_C_COMPILER "arm-poky-linux-gnueabi-gcc")
set(CMAKE_CXX_COMPILER "arm-poky-linux-gnueabi-g++")
set(CMAKE_FIND_ROOT_PATH_MODE_PROGRAM NEVER)
set(CMAKE_FIND_ROOT_PATH_MODE_LIBRARY ONLY)
set(CMAKE_FIND_ROOT_PATH_MODE_INCLUDE ONLY)

set(CMAKE_C_FLAGS "-march=armv7-a -mfloat-abi=hard  --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

set(CMAKE_CXX_FLAGS "-march=armv7-a -mfloat-abi=hard --sysroot=/opt/fsl-imx-x11/4.1.15-2.0.0/sysroots/cortexa7hf-neon-poky-linux-gnueabi")

# cache flags
set(CMAKE_C_FLAGS "${CMAKE_C_FLAGS}" CACHE STRING "c flags")
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS}" CACHE STRING "c++ flags")

4、編譯:

elf@ubuntu:~/work/ncnn-master$ mkdir build
elf@ubuntu:~/work/ncnn-master$ cd build/
elf@ubuntu:~/work/ncnn-master/build$ . /opt/fsl-imx-x11/4.1.15-2.0.0/environment-setup-cortexa7hf-neon-poky-linux-gnueabi 
elf@ubuntu:~/work/ncnn-master/build$ cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-poky-linux-gnueabi.cmake -DNCNN_SIMPLEOCV=ON -DNCNN_BUILD_EXAMPLES=ON -DCMAKE_BUILD_TYPE=Release ..
elf@ubuntu:~/work/ncnn-master/build$ make

5、將編譯完成得到的benchmark文件夾(build目錄下)和項(xiàng)目文件夾下的benchmark文件夾打包并放到U盤(pán)里:

elf@ubuntu:~/work/ncnn-master/build$ tar cvjf benchmark.tar.bz2 benchmark/ ../benchmark/

6、將U盤(pán)插入到ELF 1開(kāi)發(fā)板上,拷貝壓縮包到/home/root路徑下并解壓:

root@ELF1:~# cp /run/media/sda1/benchmark.tar.bz2 .
root@ELF1:~# tar xvf benchmark.tar.bz2

7、測(cè)試:

root@ELF1:~# cd benchmark/
root@ELF1:~/benchmark# ./benchncnn

觀察結(jié)果顯示,絕大部分模型均已成功運(yùn)行,其中所展示的數(shù)字指標(biāo)代表了各自的執(zhí)行耗時(shí)。需注意,數(shù)值越小,意味著推理過(guò)程的完成速度越快。

通過(guò)這次實(shí)踐,共創(chuàng)社不僅展示了NCNN在嵌入式設(shè)備上的靈活性與強(qiáng)大性能,還向我們揭示了深度學(xué)習(xí)嵌入式技術(shù)落地的無(wú)限可能,更激勵(lì)著每一位嵌入式探索者:無(wú)論面對(duì)何種挑戰(zhàn),只要勇于探索、精于實(shí)踐,便能在嵌入式技術(shù)的海洋中乘風(fēng)破浪,開(kāi)辟出一片屬于自己的天地。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
HFBR-2528Z 1 Broadcom Limited Receiver, 635nm Min, 662nm Max, 10Mbps, Through Hole Mount, ROHS COMPLIANT PACKAGE
$31.15 查看
TCAN1042VDRBRQ1 1 Texas Instruments Automotive fault-protected CAN transceiver with I/O level shifting and flexible data-rate 8-SON -55 to 125

ECAD模型

下載ECAD模型
$7.05 查看
7XZ-32.768KDA-T 1 TXC Corporation Oscillator, 0.032768MHz Nom,
$1.84 查看

相關(guān)推薦