歡迎關注我的公眾號 [極智視界],獲取我的更多經驗分享
大家好,我是極智視界,本文分享一下 隨機初始化onnx模型權重的方法。
邀您加入我的知識星球「極智視界」,星球內有超多好玩的項目實戰源碼和資源下載,鏈接:https://t.zsxq.com/0aiNxERDq
onnx 模型一直是在算法部署中扮演重要的角色,它是銜接前端訓練框架和后端部署硬件之間的不二之選,
有的時候需要隨機初始化 onnx 模型權重,比如在對外對接、定位問題的時候,直接提供完整模型比較敏感,但又沒辦法。這個時候的做法往往是提供一個懷疑存在問題的模型片段 或者是 只提供模型結構而不提供模型權重。這里的隨機初始化 onnx 模型權重其實就是只提供模型結構而不提供模型權重,將權重進行隨機初始化后,也意味著原來的權重 "失真" 了,這樣能夠起到一定的保護作用。
考慮到大部分的模型其實都是卷積神經網絡 (這里就不考慮 Transformer、大模型啦),所以其實可以再簡單點,只對模型中卷積算子的權重和偏置做一個隨機初始化?