本文轉(zhuǎn)載自 OpenVINO 中文社區(qū)

OpenVINO是英特爾針對自家硬件平臺開發(fā)的一套深度學(xué)習(xí)工具庫，用于快速部署應(yīng)用和解決方案,，包含推斷庫,，模型優(yōu)化等等一系列與深度學(xué)習(xí)模型部署相關(guān)的功能。

特點(diǎn)：

1,、在邊緣啟用基于CNN的深度學(xué)習(xí)推理

2,、支持通過英特爾?Movidius?VPU在英特爾?CPU，英特爾?集成顯卡,，英特爾?神經(jīng)計算棒2和英特爾?視覺加速器設(shè)計之間進(jìn)行異構(gòu)執(zhí)行

3,、通過易于使用的計算機(jī)視覺功能庫和預(yù)先優(yōu)化的內(nèi)核加快上市時間

4、包括對計算機(jī)視覺標(biāo)準(zhǔn)（包括OpenCV *和OpenCL?）的優(yōu)化調(diào)用

5,、通俗易懂點(diǎn)說想要在intel-cpu或者嵌入式上部署深度學(xué)習(xí)模型,，可以考慮考慮openvino。

 可在如下鏈接中下載OpenVINO版工具包,；

安裝方式可參考：LabVIEW AI視覺工具包（非NI Vision）下載與安裝教程中CPU用戶的安裝 

 下載地址：英特爾? Distribution of OpenVINO? 工具套件 

1）點(diǎn)擊Dev Tools

2）選擇版本，選擇如下版本,，并DownLoad：

3）下載后,，安裝即可

4）可以選擇安裝路徑，具體安裝可以參考官方文檔：https://docs./cn/latest/openvino_docs_install_guides_installing_openvino_windows.html

 

三,、模型獲取

openvino工作流程,，和其他的部署工具都差不多，訓(xùn)練好模型,，解析成openvino專用的.xml和.bin,，隨后傳入Inference Engine中進(jìn)行推理。這里和上一篇博客一樣可以使用export.py導(dǎo)出openvino模型：python export.py --weights yolov5s.pt --include openvino

當(dāng)然這里已經(jīng)為大家轉(zhuǎn)換好了模型,，大家可以直接下載,，下載鏈接：YOLOv5 OpenVINO IR模型

四,、LabVIEW+OpenVINO調(diào)用Yolov5進(jìn)行實(shí)時物體識別

1

實(shí)現(xiàn)過程

•  dnn模塊調(diào)用IR模型（模型優(yōu)化器）

• 設(shè)置計算后臺與計算目標(biāo)設(shè)備（推理引擎加速）

• 獲取輸出端的LayerName

• 圖像預(yù)處理

• 推理

• 后處理

• 繪制檢測出的對象

2

程序源碼

 

3

識別結(jié)果  

CPU模式下，使用openvino進(jìn)行推理加速,，實(shí)時檢測推理用時僅95ms/frame,，是之前加載速度的三分之一 

注意：

1.必須安裝含openvino字眼的labview工具包

2. readNetFromModelOptimizer.vi中IR模型路徑不可以包含中文

四、附加說明：計算機(jī)環(huán)境

操作系統(tǒng)：Windows10

python：3.6及以上

LabVIEW：2018及以上 64位版本

視覺工具包：techforce_lib_opencv_cpu_openvino2021-1.0.0.61.vip

OpenVINO：2021.4.2