前言：

? ? ?很多場景下面我們需要需要把我們的深度學習模型部署到Android,IOS 手機上面.

Google 通過TensorFlow Lite 提供了對應的解決方案.

---

目錄：

1. ? 端側部署優點
2. ??硬件支持
3. ? 性能
4. ? 應用案例

---

一? 端側部署優點

? 1;? 很多場景下面： 無網絡,數據無法傳到服務器側進行推理

? 2：很多場景下面：帶寬很低，傳遞到服務器推理效率低

? 3：很多場景下面：網絡延遲，無法在服務器側進行實時推理

? 4： 當把數據傳遞到往網絡側推理，會導致終端功耗增加.

? 5： 隱私要求

TFLite 應用例子：

?Google 語音識別算法

? 愛奇藝的視頻分割

?對象檢測

---

二 硬件支持

? ? android& IOS, MCU, TPU. 目前全球有40億臺設備支持TFLite

---

三? 性能

? ??實測在CPU 上面,1ms 左右能完成推理.

? ?LNet-5結構 ，輸入size(1,30)

? 下面是MobileNet 在各種硬件上面推理性能：

---

四 應用案例

?4.1 NLP 以及圖像處理都有豐富的應用案例

4.2? TFLite Model:

? ?可以通過遷移學習，即使不懂ML，也可以快速的部署自己的模型.

看介紹https://www.tensorflow.org/lite/guide?hl=zh-cn，codegen 可以直接通過命令生成

對應的JAVA 代碼，但是沒有找到對應的入口

?3: 支持android studio

---

參考：

將tflite格式的模型部署在安卓移動端詳細步驟_特立獨行の貓-華為云開發者聯盟

TensorFlow Lite | TensorFlow中文官網

https://www.youtube.com/watch?v=XlLtUsJvsBI&list=PLQY2H8rRoyvwFS5vSa9oV48AOdzfJwxXH&index=1