區間預測 | MATLAB實現QRBiLSTM雙向長短期記憶神經網絡分位數回歸時間序列區間預測

效果一覽

基本介紹

區間預測 | MATLAB實現QRBiLSTM雙向長短期記憶神經網絡分位數回歸時間序列區間預測

QRBiLSTM是一種雙向長短期記憶(QR-LSTM)神經網絡的變體，用于分位數回歸時間序列區間預測。該模型可以預測時間序列的不同分位數的值，并且可以提供置信區間和風險評估等信息。
QR-LSTM是一種基于LSTM模型的分位數回歸方法，可以通過學習分位數回歸損失函數來預測不同分位數的值。而QRBiLSTM則是在QR-LSTM的基礎上加入了雙向傳輸的結構，可以捕捉更多的時間序列信息。

模型描述

QRBiLSTM模型的輸入包括歷史數據，輸出為分位數值和置信區間。通常情況下，可以使用訓練數據來擬合模型參數，并使用測試數據來評估模型的預測性能。
總之，QRBiLSTM是一種非常有用的時間序列預測模型，可以應用于許多領域，如金融、股票、氣象學等，可以提供更全面的時間序列預測信息，有助于提高決策的準確性。

• 下面給出QRBiLSTM模型的具體公式，其中$\text{X}$表示輸入序列，$\text{Y}$表示輸出序列，$\text{H}$表示隱藏狀態，$\text{C}$表示記憶狀態，$f_{\theta }$表示神經網絡模型，$q$表示分位數：

• 正向傳播：

$${\text{H}}_t^f,{\text{C}}_t^f=LST{M}_{\theta }({\text{X}}_t,{\text{H}}_{t?1}^f,{\text{C}}_{t?1}^f)$$

$${\text{H}}_t^b,{\text{C}}_t^b=LST{M}_{\theta }({\text{X}}_t,{\text{H}}_{t+1}^b,{\text{C}}_{t+1}^b)$$

$${\hat{Y}}_t^q=f_{\theta }([{\text{H}}_t^f,{\text{H}}_t^b])$$

$${\widehat{?}}_t^q=Y_t^q?{\hat{Y}}_t^q$$

σ ^ t q = median { ∣ ? ^ t ? τ q ∣ : τ ≤ lag } ? c α ( lag , n ) \hat{\sigma}^{q}_{t} = \text{median}\{|\hat{\epsilon}^{q}_{t-\tau}|:\tau \leq \text{lag}\} \cdot c_{\alpha}(\text{lag},n) σ^tq?=median{∣?^t?τq?∣:τ≤lag}?cα?(lag,n)

• 其中，${\text{H}}_t^f$和${\text{C}}_t^f$分別表示正向傳播的隱藏狀態和記憶狀態；${\text{H}}_t^b$和${\text{C}}_t^b$分別表示反向傳播的隱藏狀態和記憶狀態；${\hat{Y}}_t^q$表示時間$t$處分位數為$q$的預測值；$f_{\theta }$表示神經網絡模型；${\widehat{?}}_t^q$表示時間$t$處分位數為$q$的預測誤差；${\hat{\sigma }}_t^q$表示時間$t$處分位數為$q$的預測誤差的置信區間，其中$c_{\alpha }(\text{lag},n)$表示置信系數。

• QRBiLSTM模型的訓練目標是最小化分位數損失函數：

$${\text{Loss}}_{\theta }=\sum _{t=1}^T\sum _{q\in Q}{\rho }_q(|{?}_t^q|)?\frac{1}{|Q|}\sum _{q\in Q}\text{log}({\hat{\sigma }}_t^q)$$

• 其中，${\rho }_q(x)$表示分位數損失函數：

$${\rho }_q(x)=\{\begin{array}{ll}qx& x\ge 0\\ (q?1)x& x<0\end{array}$$

• QRBiLSTM模型的預測目標是預測分位數值和置信區間，即${\hat{Y}}_t^q$和${\hat{\sigma }}_t^q$。

程序設計

• 完整程序和數據獲取方式(資源處下載):MATLAB實現QRBiLSTM雙向長短期記憶神經網絡分位數回歸時間序列區間預測

% 構建模型
numFeatures = size(XTrain,1); % 輸入特征數
numHiddenUnits = 200; % 隱藏單元數
numQuantiles = 1; % 分位數數目
layers = [ ...sequenceInputLayer(numFeatures)bilstmLayer(numHiddenUnits,'OutputMode','last')dropoutLayer(0.2)fullyConnectedLayer(numQuantiles)regressionLayer];
options = trainingOptions('adam', ...'MaxEpochs',50, ...'MiniBatchSize',64, ...'GradientThreshold',1, ...'Shuffle','every-epoch', ...'Verbose',false);
net = trainNetwork(XTrain,YTrain,layers,options); % 訓練模型% 測試模型
YPred = predict(net,XTest); % 預測輸出
quantiles = [0.1,0.5,0.9]; % 分位數
for i = 1:length(quantiles)q = quantiles(i);epsilon = YTest - YPred(:,i); % 預測誤差lag = 10; % 滯后期數sigma = median(abs(epsilon(max(1,end-lag+1):end))) * 1.483; % 置信區間lb = YPred(:,i) - sigma * norminv(1-q/2,0,1); % 置信區間下限ub = YPred(:,i) + sigma * norminv(1-q/2,0,1); % 置信區間上限disp(['Quantile:',num2str(q),' MAE:',num2str(mean(abs(epsilon))),' Width:',num2str(mean(ub-lb))]);
end

參考資料

[1] https://blog.csdn.net/kjm13182345320/article/details/127931217
[2] https://blog.csdn.net/kjm13182345320/article/details/127418340