文章DOI: https://doi.org/10.48550/arXiv.1905.01389
作者是 Southern Methodist University 的Wei Cai 教授
A Parallel Phase Shift Deep Neural Network for Adaptive Wideband Learning
一種并行移相深度神經網絡來自適應學習寬帶頻率信號
20190514
核心思想:通過相變技術把高頻部分轉化為低頻部分,這樣便可以提高神經網絡訓練過程中網絡的收斂速度。
感覺這篇文章的信息好少,搜不到多少資料。
摘要:
PhaseDNN利用了許多DNN首先在低頻范圍內實現收斂的事實(這個可參考許志欽老師的主頁 https://ins.sjtu.edu.cn/people/xuzhiqin/,或知乎https://zhuanlan.zhihu.com/p/571517635),因此,對于更高頻率范圍,并行地構建和訓練一系列中等大小的DNN。
借助于頻域中的相移,通過對訓練數據進行簡單的相位因子乘法來實現,序列中的每個DNN將被訓練為在特定范圍內近似目標函數的較高頻率內容。
由于相移,每個DNN都達到了在低頻范圍內的收斂速度。因此,PhaseDNN系統能夠將寬帶頻率學習轉換為低頻學習,從而允許通過頻率自適應訓練對寬帶高維函數進行統一學習。數值結果表明,PhaseDNN能夠從低頻到高頻均勻地學習目標函數的信息。
具體實現過程
背景知識?
許志欽:?
深度神經網絡的頻率原則: DNN首先在低頻范圍內實現收斂?
這個可參考許志欽老師的主頁 https://ins.sjtu.edu.cn/people/xuzhiqin/,?
或知乎https://zhuanlan.zhihu.com/p/571517635?
應用
多種頻率的信號疊加的波/高頻波,使用此相移方法,把高頻轉為低頻,實現快速收斂。?
例如:多頻疊加的信號,比如可能:音頻分類、時序預測
GitHub