效果一览

基本介绍

1.Matlab基于CNN-BiLSTM-Attention多变量时间序列多步预测；
2.多变量时间序列数据集（负荷数据集），采用前96个时刻预测的特征和负荷数据预测未来96个时刻的负荷数据；
3.excel数据方便替换，运行环境matlab2023及以上，展示最后96个时间步的预测对比图，评价指标MAE、MAPE、RMSE、MSE、R2；
注：程序和数据放在一个文件夹。
4.程序语言为matlab，程序可出预测效果图，指标图;
5.代码特点：参数化编程、参数可方便更改、代码编程思路清晰、注释明细。

Attention（注意力机制）：注意力机制用于加强模型对序列中不同位置的重要性的关注。通过计算每个时间步的注意力权重，模型可以自动学习并关注序列中最相关的部分。

程序设计

• 完整程序和数据获取方式私信博主回复Matlab基于CNN-BiLSTM-Attention多变量时间序列多步预测。

layers0 = [ ...
    % 输入特征
    sequenceInputLayer([numFeatures,1,1],'name','input')   %输入层设置
    sequenceFoldingLayer('name','fold')         %使用序列折叠层对图像序列的时间步长进行独立的卷积运算。
    % CNN特征提取
    convolution2dLayer([3,1],16,'Stride',[1,1],'name','conv1')  %添加卷积层，64，1表示过滤器大小，10过滤器个数，Stride是垂直和水平过滤的步长
    batchNormalizationLayer('name','batchnorm1')  % BN层，用于加速训练过程，防止梯度消失或梯度爆炸
    reluLayer('name','relu1')       % ReLU激活层，用于保持输出的非线性性及修正梯度的问题
      % 池化层
    maxPooling2dLayer([2,1],'Stride',2,'Padding','same','name','maxpool')   % 第一层池化层，包括3x3大小的池化窗口，步长为1，same填充方式
    % 展开层
    sequenceUnfoldingLayer('name','unfold')       %独立的卷积运行结束后，要将序列恢复
    %平滑层
    flattenLayer('name','flatten')
    
    bilstmLayer(25,'Outputmode','last','name','hidden1') 
    selfAttentionLayer(1,2)          %创建一个单头，2个键和查询通道的自注意力层  
    dropoutLayer(0.1,'name','dropout_1')        % Dropout层，以概率为0.2丢弃输入

    fullyConnectedLayer(n_out,'name','fullconnect')   % 全连接层设置（影响输出维度）（cell层出来的输出层） %
    regressionLayer('Name','output')    ];
    
lgraph0 = layerGraph(layers0);
lgraph0 = connectLayers(lgraph0,'fold/miniBatchSize','unfold/miniBatchSize');


%% Set the hyper parameters for unet training
options0 = trainingOptions('adam', ...                 % 优化算法Adam
    'MaxEpochs', 150, ...                            % 最大训练次数
    'GradientThreshold', 1, ...                       % 梯度阈值
    'InitialLearnRate', 0.01, ...         % 初始学习率
    'LearnRateSchedule', 'piecewise', ...             % 学习率调整
    'LearnRateDropPeriod',100, ...                   % 训练100次后开始调整学习率
    'LearnRateDropFactor',0.01, ...                    % 学习率调整因子
    'L2Regularization', 0.001, ...         % 正则化参数
    'ExecutionEnvironment', 'cpu',...                 % 训练环境
    'Verbose', 1, ...                                 % 关闭优化过程
    'Plots', 'none');                    % 画出曲线

参考资料

[1] http://t.csdn.cn/pCWSp
[2] https://download.csdn.net/download/kjm13182345320/87568090?spm=1001.2014.3001.5501
[3] https://blog.csdn.net/kjm13182345320/article/details/129433463?spm=1001.2014.3001.5501