OpenVINO使用教程--resnet分類模型部署
- 本節內容
- 模型準備
- 推理測試
- 分析&總結
本節內容
??OpenVINO 根據AI技術類型將部署任務分成傳統模型模型部署和生成式AI模型部署,傳統模型指的是各種CNN小模型,這部分部署只需要OpenVINO包,具體安裝教程可以參考之前的章節:OpenVINO環境配置–OpenVINO安裝。通常為了效率(畢竟到了部署階段,主要的工作都是開發),需要先將模型導出,然后使用OpenVINO加載導出的IR模型并進行推理。
??下圖是從官網上截取的部署流程圖,流程圖中分上下兩部分,上面是模型導出流程,下面是推理流程。可以看到各種主流框架訓練的模型都可以直接通過OpenVINO的工具(或者API)轉成***IR(Intermediate Representation)***模型文件。
??本節主要內容是傳統分類模型ResNet的部署,ResNet模型作為經典分類模型,現在很多任務依然將其作為backbone來實現模型特征提取。
模型準備
?? 將Pytor