SwinTransformer是一种通用视觉义务的Backbone而存在的模型,以代替CNN:
(1)档次化设计:
Swin Transformer引入了档次化特色示意的概念,相似于CNNs中经常出现的金字塔结构。这使得它在处置高分辨率图像时愈加高效,能够逐渐聚合消息,并以多尺度特色应答不同的视觉义务。
(2)滑动窗口机制:
Swin Transformer经过滑动窗口的模式计算留意力,使得每个窗口外部的留意力计算复杂度大幅降落。这种部分留意力机制有效地处置了ViT在高分辨率图像处置时的计算瓶颈疑问。
(3)移位窗口战略:
为了增强不同窗口间的消息交流,Swin Transformer驳回了移位窗口战略(Shifted Window)。这种战略经过在相邻层中移动窗口的位置,成功了跨窗口的消息交互,从而优化了模型的表白才干。
前言
在基于格拉姆矩阵GAF、延续小波变换CWT、短时傅里叶变换STFT+Swin Transformer窗口留意力和CNN-GAM全局留意力的轴承缺点诊断模型基础上!
再新添基于马尔可夫转换场 MTF 和递归图 RP 的时频图像处置(提供更改数据集接口,可一键交流信号数据和不同图像的变换处置,来启动与Swin-CNN-GAM模型的联合)
轴承一维缺点信号数据(十分类):
马尔可夫转换场 MTF:
递归图 RP :
格拉姆矩阵GAF变换二维图像数据
电能品质扰动信号:
马尔可夫转换场 MTF:
递归图 RP:
GAF变换二维图像数据
●数据集:经测试,模型在CWRU西储大学轴承数据集 和 哈工大航天发起机轴承数据集上体现分类准确率 均为100%!
●环境框架:python 3.9 pytorch 1.8 及其以上版本均可运转
●准确率:测试集100%
●经常使用对象:论文需求、毕业设计需求者
●代码保障:代码注释具体、即拿即可跑通。
模型翻新点还未宣布,有毕业设计或许发小论文需求的同窗必看,模块丰盛,翻新度高,功能优越!
代码配有
(1)训练可视化:
(2)原始数据 t-SNE特色可视化:
(3)模型训练后的 t-SNE特色可视化:
(4)混杂矩阵:
(5)分类标签可视化
翻新点:
(1)经过格拉姆矩阵GADF把一维时序缺点信号转化为二维图像;
(2)分支一:图像数据经过顶会模型 Swin Transformer 的窗口留意力机制提取缺点图像部分特色;
(3)分支二:同时缺点图数据像经过基于全局留意力机制 GAM-Attention 的 CNN2d 卷积池化网络;
(4)而后两个分支提取的全局空间特色和部分特色经过融合后启动自顺应平均池化,使模型能够更好地融合不同档次的特色示意,提高模型功能和泛化才干。
本文转载自,作者: