前言
在期间序列预测义务中,像 EMD(阅历模态合成)、CEEMDAN(完选汇合阅历模态合成)、VMD(变分模态合成) 等合成算法的经常使用有或者引入消息暴露,详细状况取决于这些方法的运行形式。消息暴露的关键危险在于:将未来的消息暴露给了模型,使得模型在实践运行中体现得比应有的好。
为了防止消息暴露,咱们在合成之前,首先对数据集启动划分。而后经常使用滑动窗口的方法来制造数据集标签,最后逐渐滚动合成期间序列窗口!
1 翻新模型成果:
1.1 相关实验引见:
本期基于某风电功率数据集,提出一种VMD+Informer-BiLSTM并行预测模型,在单步预测义务中预测成果优化清楚!
在设置滑动窗口值为96步的条件下,咱们对每个样本窗口值启动VMD合成,并给出了不同重量条件下的对比实验:
对比结果如下:
随着IMF重量数量的参与,可以捕捉到更多的频率消息,并且每个IMF对应不同的期间尺度,提供了更丰盛的特色用于预测模型。模型拟合分数 R2 出现回升趋向,同时有着更小的 MSE。
1.2 模型评价:
1.3 风电功率预测可视化:
咱们同时提供基于多个数据集,在多个预测义务中,启动实验和对比,并提供详细的资料、解说文档和视频解说,包含如何交流自己的数据集、参数调整教程,预测义务的交流等,代码逐行注释,参数引见详细:
●数据集:某风电场风电功率数据集、电力数据集、风速数据集等
●环境框架:python 3.9 pytorch 1.8 及其以上版本均可运转
●单步预测模型分数:测试集 0.98
●经常使用对象:论文需求、毕业设计需求者
●代码保障:代码注释详细、即拿即可跑通。
购置链接:
或点击文末,阅读原文,失掉代码!
2 模型翻新点引见
2.1 联合Informer和RNN的优点
经过将这两种模型并行经常使用,可以更好地捕捉不同期间尺度上的形式,提高预测的准确性和鲁棒性。
2.2 并行模型架构
并行经常使用Informer和BiLSTM,经过两个分支并行学习,可以使模型在不同的期间尺度上启动消息提取和解决:
这种架构能够更片面地捕捉时序数据的特色,优化模型的预测功能。
2.3 模型融合
将Informer和BiLSTM的输入拼接在一同,经过一个全衔接层融合不同模型的特色。这种融合形式使得模型能够同时应用Informer的全局消息提取才干和LSTM的部分时序相关建模才干。
2.4 高效计算
Informer的经常使用大大提高了常年间序列的计算效率,同时BiLSTM的经常使用确保了部分时序消息的充沛应用。这种组合在保障高效计算的同时,优化了预测的精度和牢靠性。
3 Informer 详解,三大翻新点
3.1 概率稠密留意力机制(ProbSparse Self-attention)
概率稠密自留意力是Informer模型中引入的一种稠密自留意力机制。其**现实是经过概率方法选用最关键的一部分留意力权重启动计算,而疏忽那些对结果影响较小的权重。这种方法能够清楚降落计算复杂度,同时坚持较高的模型功能。
3.2 多尺度特色提取-消息蒸馏
Informer的架构图并没有像Transformer一样在Encoder的左边标注来示意N个Encoder的重叠,而是一大一小两个梯形。横向看完单个Encoder(也就是架构图中左边的大梯形,是整个输入序列的主堆栈)。
Encoder的作用是Self-attention Distilling,因为ProbSparse自相关机制有很多都是用V的mean填充的,所以自然就存在冗余的attention sorce ,因此在相邻的Attention Block之间运行卷积与池化来对特色启动下采样,所以作者在设计Encoder时,驳回蒸馏的操作始终抽取重点特色,从而失掉值得重点关注的特色图。
3.3 期间编码
Informer在原始向量上不止参与了Transformer架构必备的PositionEmbedding(位置编码)还参与了与期间相关的各种编码:
在 LSTF 疑问中,捕捉远程独立性的才干须要全局消息,例如分层期间戳(周、月和年)和无法知期间戳(假期、事情)。
详细在这里参与什么样的GlobalTimeStamp还须要依据实践疑问来确认,假设计算高铁动车车站的人流量,显然“假期”的期间差就是十分关键的。假设计算公交地铁等通勤交通工具的人流量,显然“星期”可以更多的提醒能否为上班日。
4 风电功率等数据集引见
4.1 导入数据
风电功率数据集一共35040个样本,15个特色,取前6000条数据启动可视化
4.2 其它数据集引见
参考前期文章:
收费失掉 | 期间序列罕用数据集、可视化代码
4.3 数据集制造与预解决
详细引见见提供的文档!
5 基于VMD+Informer-BiLSTM的并行预测模型
5.1定义Informer-BiLSTM并行预测网络模型
5.2 设置参数,训练模型
50个epoch,MSE 为0.01283,VMD+Informer-BiLSTM并行预测成果清楚,模型能够充沛应用Informer的常年间依赖建模才干和BiLSTM的短期依赖捕捉才干征,收敛速度快,功能优越,预测精度高,适当调整模型参数,还可以进一步提高模型预测体现。
6 结果可视化和模型评价
6.1 预测结果可视化
6.2 模型评价
由预测结果可见,在VMD+Informer-BiLSTM并行预测模型下拟合成果良好,经过这种设计,可以充沛应用Informer和BiLSTM的优点,成功高效且准确的时序预测,组合预测成果清楚!
本文转载自,作者: