經典灰狼算法+編碼器+雙向長短期記憶神經網絡，GWO-Transformer-BiLSTM多變量回歸預測，作者：機器學習之心！

效果一覽

基本介紹

代碼主要功能
該代碼實現了一個基于灰狼優化算法（GWO）的Transformer-BiLSTM混合神經網絡回歸預測模型，核心功能包括：

1. 數據預處理：導入數據、隨機打亂、劃分訓練/測試集、歸一化處理。
2. 超參數優化：使用灰狼算法自動優化學習率、批大小和L2正則化系數。
3. 混合模型構建：結合Transformer的自注意力機制和BiLSTM的序列建模能力。
4. 訓練與預測：訓練優化后的模型，并在訓練集/測試集上進行預測。
5. 性能評估：計算RMSE、R2、MAE、MAPE、MBE、MSE等評估指標。
6. 可視化分析：繪制預測對比圖、誤差分布圖及線性擬合圖。
   算法步驟
7. 初始化環境
   ? 清空變量、關閉圖窗、計時開始。
8. 數據加載與預處理
   ? 從Excel讀取數據，隨機打亂樣本順序。
   ? 按7:3比例劃分訓練集/測試集。
   ? 使用mapminmax歸一化數據到[0,1]區間。
9. 灰狼優化（GWO）超參數
   ? 優化參數：學習率(lr)、批大小(batch_size)、L2正則化系數(L2)。
   ? 搜索空間：
   ? lr ∈ [0.001, 0.1]
   ? batch_size ∈ [32, 128]
   ? L2 ∈ [0.001, 0.1]
   ? 優化目標：通過fical.m函數評估模型性能（需自定義）。
10. 構建混合模型
    ［輸入層］→［位置嵌入層］→［ADD連接層］→
    ［自注意力層（Causal Mask）］→［自注意力層］→
    ［BiLSTM層］→［ReLU］→［Dropout］→［全連接層］→［回歸層］
11. 模型訓練與預測
    ? 使用Adam優化器訓練200個Epoch。
    ? 學習率分段下降（50輪后衰減50%）。
    ? 對訓練集/測試集進行預測并反歸一化。
12. 性能評估與可視化
    ? 計算多種評估指標（R2、RMSE等）。
    ? 繪制預測對比曲線、誤差直方圖、線性擬合散點圖。
    數據集

程序設計

• 完整程序和數據下載私信博主回復經典灰狼算法+編碼器+雙向長短期記憶神經網絡，GWO-Transformer-BiLSTM多變量回歸預測，Matlab代碼實現。

.rtcContent { padding: 30px; } .lineNode {font-size: 10pt; font-family: Menlo, Monaco, Consolas, "Courier New", monospace; font-style: normal; font-weight: normal; }
warning off             % 關閉報警信息
close all               % 關閉開啟的圖窗
clear                   % 清空變量
clc                     % 清空命令行
addpath(genpath('LSSVMlabv'));
%%  導入數據
res =xlsread('data.xlsx','sheet1','A2:H104');
%%  數據分析
num_size = 0.7;                              % 訓練集占數據集比例
outdim = 1;                                  % 最后一列為輸出
num_samples = size(res, 1);                  % 樣本個數
res = res(randperm(num_samples), :);         % 打亂數據集（不希望打亂時，注釋該行）
num_train_s = round(num_size * num_samples); % 訓練集樣本個數
f_ = size(res, 2) - outdim;                  % 輸入特征維度
%%  劃分訓練集和測試集
P_train = res(1: num_train_s, 1: f_)';
T_train = res(1: num_train_s, f_ + 1: end)';
M = size(P_train, 2);
P_test = res(num_train_s + 1: end, 1: f_)';
T_test = res(num_train_s + 1: end, f_ + 1: end)';
N = size(P_test, 2);
%%  數據歸一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input);
[t_train, ps_output] = mapminmax(T_train, 0, 1);
t_test = mapminmax('apply', T_test, ps_output);
%%  轉置以適應模型
p_train = p_train'; p_test = p_test';
t_train = t_train'; t_test = t_test';

參考資料

[1] https://blog.csdn.net/kjm13182345320/article/details/128163536?spm=1001.2014.3001.5502
[2] https://blog.csdn.net/kjm13182345320/article/details/128151206?spm=1001.2014.3001.5502