期间序列数据具备外在的长程和短程依赖性,对剖析运行提出了共同的应战。只管基于Transformer的模型长于捕捉长程依赖相关,但它们在噪声灵便度、计算效率和与较小数据集的适度拟合方面存在局限性。
本次的钻研人员引入了一种陈腐的期间序列轻量级自顺应网络(TSLANet),作为各种期间序列义务的通用卷积模型。详细来说,应用傅里叶剖析来增强特色示意并捕捉常年和短期相互作用,同时经过自顺应阈值来减轻噪声。此外还引入了交互式卷积块,并应用自监视学习来改良 TSLANet解码复杂期间形式的才干,并提高其在不同数据集上的鲁棒性。
综合试验标明,TSLANet在分类、预测和意外检测等各种义务中优于最先进的模型,展现了其在各种噪声水温和数据大小下的弹性和顺应性。
1.TSLNet Block
TSLANet的不同之处在于它还蕴含傅里叶变换和卷积层。傅里叶变换准许模型经过将期间序列数据合成为不同的频率重量来捕捉期间序列数据中的全局形式。而后,卷积层专一于从期间序列中提取部分特色。经过联合这些不同的技术,模型可以学习对下游义务有用的期间序列的丰盛示意。
傅里叶变换层将一维傅里叶变换运行于输入期间序列,以将其合成为其频率重量。这准许模型捕捉数据中的全局形式。这个环节会启动噪声过滤,处置终了之后,会经过逆FFT变换重构数据。Transformer编码器层接受傅里叶变换层的输入,该一层重要经常使用自留意力机制来学习。卷积层则是将一维卷积层运行于Transformer的输入,以从期间序列中提取部分特色。最后是前馈网络层,卷积特色经过齐全衔接的前馈网络,以发生最终的期间序列示意。
2.功能成果
上图为在不同数据集下面的分类结果
上图为多变量的预测,预测长度∈ {96, 192, 336, 720}.将结果取平均值。
上图为意外义务检测的结果。
本文转载自,作者: