Banana Pi BPI-F3 進控時空 K1開發板 AI人工智能AI 部署工具使用手冊_bianbu software-CSDN博客
文章置頂了
有興趣的可以一起留言探索,非常有意思:
我最近接觸到了進迭時空研發的 Spacengine?,這是一套能在進迭時空 RISC-V 系列芯片上部署 AI 算法模型的工具。它讓模型部署變得更簡單,還能提升模型在芯片上的運行速度。下面是我了解到的主要內容:
- 工具組成:這個工具主要包含三部分。一是工具集,里面的命令都以 spine 開頭,比如 spine convert 能轉換和量化模型,spine simulate 可以在電腦(x86 平臺)上進行模型測試,spine helper 能提供各種輔助功能;二是 AI 引擎,它能把模型高效地部署到芯片上;三是示例包,里面有很多模型示例,能幫我快速熟悉和使用這款工具。
- 部署步驟:部署 AI 模型需要四個步驟。首先是模型轉換,能把不同框架的模型轉換成特定格式;然后是模型量化,能讓模型在芯片上跑得更快,而且量化操作不難,按照說明做就行;接著在電腦上進行仿真測試,看看模型效果怎么樣,這個測試結果和在芯片上運行的結果是一樣的;最后,根據前面測試的結果,在芯片上開發具體的應用程序。
- 快速開始使用:使用這個工具需要先搭建開發環境,有兩種選擇,一種是用 Docker,另一種是在本地手動配置。我覺得 Docker 更方便,按照步驟安裝好 Docker 后,下載相關鏡像,創建并進入容器就能使用了。另外,還有個 quick_start 腳本,能幫我快速熟悉整個部署流程。
- 模型操作細節:模型轉換支持好幾種常見的框架,還能對特定格式的模型做一些特殊操作。模型量化工具和轉換命令結合在一起,通過一個配置文件就能完成量化,量化完會生成新的模型文件和分析文件。仿真測試有兩種方式,而且還有一些輔助工具能幫我完成像查看模型信息、對比數據等操作。
- 在芯片上部署和開發應用:在正式把模型部署到芯片上之前,要先測試模型的性能,看看它在芯片上跑得怎么樣。部署工具的 SDK 包里有個庫,能幫我快速開發應用,里面有很多示例程序,按照說明編譯和運行就行。我還了解了一些使用過程中常見問題的解決辦法。
- 模型庫:進迭時空有個模型庫,里面有分類、檢測和姿態相關的模型,每個模型都標注了精度、運行時間和下載地址,方便我挑選。