Transformer雖火,但在數據少、要求穩的時序預測場景中,LSTM仍是首選。尤其加上注意力機制后,更是彌補了LSTM的短板,增強了性能,實現了更精確的預測。
這種組合不僅應用場景廣泛,工業界愛,學術界也很是認可。對于論文er來說,它比純Transformer好復現,又比單LSTM容易發論文。而且最近陸續上榜了好幾篇中科院一區TOP成果,看出來很適合想發中高區的同學入場了。
不過只堆模塊肯定不行,建議多綁實際場景,從注意力結構改造、損失函數設計、非平穩性分解切入。本文整理了12篇LSTM+注意力機制+時序預測新論文,這方向資料略難找,如果需要參考建議直接拿,無償。
全部論文+開源代碼需要的同學看文末
MC-ANN: A Mixture Clustering-Based Attention Neural Network for Time Series Forecasting
方法:論文提出了一種名為MC-ANN的新型時間序列預測模型,專為水位預測設計。該模型融合LSTM抓長時規律、注意力側重極端值,借混合聚類區分正常與異常數據,提升預測準度。
創新點:
提出MC-ANN模型,結合LSTM和注意力機制,精準預測極端事件。
引入混合聚類策略,結合點式和段式高斯混合分布,精準區分正常數據與極端事件,提升預測精度。
通過實驗驗證,該模型在水位預測中表現優異,大幅降低誤差。
Non-Stationary Fuzzy Time Series Modeling and Forecasting using Deep Learning with Swarm Optimization
方法:論文提出了一種混合模型,結合模糊時間序列、粒子群優化和帶注意力機制的雙向LSTM,用于預測COVID-19病例。該模型通過優化FTS的超參數并利用注意力機制提升對非平穩時間序列的預測精度。
創新點:
提出一種結合模糊時間序列和粒子群優化的混合模型,優化FTS的超參數以處理非平穩數據。
使用帶注意力機制的Bi-LSTM預測模糊邏輯關系,提升模型對復雜時間序列的預測能力。
在五個國家的COVID-19數據上驗證模型,證明其在多波疫情數據中的有效性和準確性。
Spatio-temporal epidemic forecasting using mobility data with LSTM networks and attention mechanism
方法:論文提出了一種結合LSTM和注意力機制的深度學習模型,用于預測傳染病(如COVID-19)的時間序列數據。該模型通過整合移動性數據,顯著提升了短期和長期預測的準確性。
創新點:
提出了一種結合LSTM和注意力機制的深度學習模型,用于傳染病的短期預測。
整合移動性數據,有效捕捉時空動態,提升預測精度。
通過多指標評估,證明模型在不同地區和時間階段的魯棒性和準確性。
CNN?LSTM?Attention with?PSO optimization for?temperature and?fault prediction in?meat grinder motors
方法:論文提出了一種基于CNN-LSTM-AP的肉類研磨機電機溫度和故障預測方法。該方法利用LSTM捕捉時間序列的長期依賴關系,并結合注意力機制動態加權關鍵特征,以提升時間序列預測的準確性。
創新點:
提出CNN-LSTM-AP模型,融合CNN、LSTM和注意力機制,結合PSO優化超參數,提升預測精度。
基于馬氏距離建立PMT監測指數及預警閾值,實現電機故障的早期預警。
通過實驗驗證,該模型在預測精度和魯棒性方面優于其他常見模型。
關注下方《學姐帶你玩AI》🚀🚀🚀
回復“222”獲取全部方案+開源代碼
碼字不易,歡迎大家點贊評論收藏