深度在线小波极限学习在旋转机械故障诊断中的应用_王椿晶.pdf

2023 年第 42 卷7 月第 7 期机 械 科 学 与 技 术Mechanical Science and Technology for Aerospace EngineeringJulyVol422023No7http:/journalsnwpueducn/收稿日期:20210622基金项目:国家自然科学基金项目(61863016)作者简介:王椿晶(1996)，硕士研究生，研究方向为人工智能，故障诊断，934039538 qqcom通信作者:王海瑞，教授，博士，wang102996 163com王椿晶，王海瑞深度在线小波极限学习在旋转机械故障诊断中的应用 J 机械科学与技术，2023，42(7):1029-1034深度在线小波极限学习在旋转机械故障诊断中的应用王椿晶，王海瑞(昆明理工大学 信息工程与自动化学院，昆明650504)摘要:由于旋转机械故障诊断模型训练时间长，容易过拟合以及传统的极限学习机只能处理批量数据，实效性差等问题。提出一种基于深度在线小波极限学习机的旋转机械故障诊断方法。将自编码器的思想引入小波极限学习机中，堆叠形成 WELM-AE，将底层的故障特征向更加抽象的高级特征转换。再采用在线极限学习机作为顶层分类器进行故障识别。实验结果验证:该算法在旋转机械故障诊断上的可行性，继承了极限学习机训练速度快的特点，相较于 BP、SVM、SAE、CNN 有更高的准确率。关键词:旋转机械;故障诊断;深度小波极限学习机自编码器;在线极限学习机中图分类号:TH17文献标志码:ADOI:1013433/jcnki1003-872820220046文章编号:1003-8728(2023)07-1029-06Application of Depth Online Wavelet Extreme LearningMachine in otating Machinery Fault DiagnosisWANG Chunjing，WANG Hairui(Faculty of Information Engineering and Automation，Kunming University of Science and Technology，Kunming 650504，China)Abstract:Due to the long training time of the rotating machinery fault diagnosis model，it is easy to overfit and thetraditional extreme learning machine can only handle batch data，and the effectiveness is poor A fault diagnosismethod for rotating machinery based on deep online wavelet extreme learning machine is proposed Introducing theidea of autoencoder into the wavelet extreme learning machine，stacking to form WELM-AE converts the underlyingfault features to more abstract and advanced features And the online extreme learning machine is used as the top-level classifier for fault identification The experimental results verify the feasibility of the method in the faultdiagnosis of rotating machinery，inheriting the characteristics of the fast training speed of the extreme learningmachine，and having a higher accuracy rate than BP，SVM，SAE and CNNKeywords:rotating machinery;fault diagnosis;deep wavelet extreme learning machine autoencoder;onlineextreme learning machine旋转机械常见于现代化工业设备中，由于旋转机械使用在高温、腐蚀、交变负载等恶劣环境中，旋转机械故障情况时有发生。旋转机械部件运行状态出现问题会造成整个机械设备的停运甚至安全事故的发生，进而造成直接经济损失。滚动轴承、齿轮箱是旋转机械的重要组成部件，它们是决定旋转机械能否安全运行的关键因素。因此对其故障诊断技术进行研究至关重要。目前由于机器学习具有高效、准确的优势在旋转机械故障诊断中获得了广泛的应用。此类方法是通过从获取的振动信号中进行特征提取再通过分类器进行故障诊断。机器学习的典型代表 ELM、BP、SVM 等。ELM 虽然学习速度快但在面对高维数据时需要进行降维处理;BP 采用梯度下降算法，易陷入局部最优;SVM 参数选择复杂，训练速度慢1。机 械 科 学 与 技 术第 42 卷http:/journalsnwpueducn/早期的机器学习模型由于是浅层结构，面对复杂分类问题时，只能提取到浅层特征，因此泛化性能相对较差。随着人工智能进一步发展，深度学习算法因有较强的特征提取能力被国内外学者应用于故障诊断中，Xia 等2 通过 CNN 的结构优势对滚动轴承和齿轮箱进行实验，相比于传统方法取得了更高的精度。Jian 等3 构建堆叠稀疏自动编器，使输入数据具有稀疏性，并加入随机噪声提高了故障识别的能力。熊景鸣等4 通过深度信念网络进行特征提取再用 PSO-SVM 进行分类，不仅缩短了诊断时间，而且提高了准确率。虽然深度学习的方法在故障诊断的应用方面诊断精度有所提高，但深度神经网络普遍存在训练时间较长的问题。深度极限学习机采用自编码的方式对 ELM 进行无监督学习，然后逐层堆栈形成深层结构5-6。它不需要反向微调使得算法训练速度更快，且可提取到更深层次的特征。小波函数在作为神经元激活函数时，它集小波变换的时频局部特性、聚焦特性的优点与神经网络的自学习、自适应、鲁棒性、容错性的优点为一体7-8，可以有效避免局部最优，加快收敛速度9，提高模型泛化能力。因此，本文尝试应用深度小波在线极限学习机对旋转机械故障进行诊断。首先将小波基作为自编码器的激活函数与 ELM 相结合，构造形成 WELM-AE学习单元。利用堆叠 WELM-AE 形成的 DWOSELM模型进一步提取更深层次的特征来提高诊断精度。能够解决深度网络训练时间长，调参困难等问题。通过对滚动轴承和齿轮箱故障进行实验，表明了该模型不仅分类精度高，而且缩短了训练时间。1深度小波在线极限学习机11在线极限学习机极限学习机与传统神经网络相比，具有训练时间短，泛化性能好等优势。但是 ELM 只能处理批量数据，而旋转机械运行在复杂环境下，一次性获取故障数据进行训练诊断会遗漏较多故障信息。在线极限学习机(OS-ELM)5，10 是对极限学习机的一种改进。不仅继承了 ELM 的优点，而且可以将数据分批次逐块加入网络中进行训练，减少了故障信息的遗漏。该算法主要包括初始化阶段和在线学习阶段。算法流程如下:1)初始化阶段:选取部分数据作为初始化训练集 N=(xi，ti)ki=1，k1，2，N0，与 ELM 相同，随机产生输入权重 j和隐含层阈值 bj，j1，2，L0，L0为隐含层节点数，从而求取初始隐含层输出矩阵 H0和输出权值向量 K=PKHTKTK，其中:Pk=(HTkHk)1(1)Tk=t1，t2，tkT(2)2)在线学习阶段:将第 k+1 组数据段进行训练，计算隐含层输出矩阵为 Hk+1和输出权值 k+1，其中:k+1=k+Pk+1HTk+1(TTk+1 Hk+1k)(3)Pk+1=Pk PkHTk+1(I+Hk+1PkHTk+1)1Hk+1Pk(4)令 k=k+1，返回在线学习阶段，不断更新参数H 和，直到学习完毕。12深度在线小波极限学习机 DWOSELM深度小波在线极限学习机是通过将小波函数、自动编码器和在线极限学习机的优点相结合构造而成。小波和神经网络的结合，一方面可以通过神经网络的优势解决大规模应用小波分析对小波基构造和储存花费大的问题;另一方面利用小波局部时频域分析能力为神经网络的网络结构规模和学习参数作为依据，从而很好地解决传统神经网络收敛慢、过学习或欠学习等一系列问题11。自动编码器12 是一种无监督的特征学习模型，自适应能力较强。而在线极限学习与梯度下降算法相比，训练速度快，实效性强。本文以 WELM-AE 为学习单元构造深度在线小波极限学习机模型，其结构如图 1 所示。图 1WELM-AE 结构图Fig 1WELM-AE structure diagramWELM-AE 由输入层、隐含层和输出层构成，将小波函数作为激活函数，继承了自动编码器输入输出相等的特点，当 dl 可实现数据维度压缩，当 dl可实现数据的稀疏表达。与传统自编码器相比，WELM-AE 首先随机生成输入权值 和偏置 b 并进行正交化，使特征之间均匀，且更加线性独立13。随后计算隐含层的输出。H=gWxi+b 12()(5)式中:1为平移因子;2为伸缩因子;g()为小波函数。隐含层输出权值为=(HTH+I/C)1HTX(6)0301第 7 期王椿晶，等:深度在线小波极限学习在旋转机械故障诊断中的应用http:/journalsnwpueducn/DWOSELM 是由 WELM-AE 堆叠形成的，顶层分类器采用 OS-ELM。因为 WELM-AE 相当于一个通用逼近器，可使输出无限接近原始输入，所以第一个 WELM-AE 输出矩阵 H1可作为第二个 WELM-AE 的输入向量(X1=H1)，依此类推。DWOSELM结构图如图 2 所示。图 2DWOSELM 结构图Fig 2DWOSELM structure diagram2DWOSELM 在旋转机械故障诊断上的应用21诊断流程本文将故障信号的时频特征作为 DWOSELM模型输入进行故障诊断，步骤如下:1)提取故障信号的时域特征统计量(均值、方差、均方根值、方根幅值、偏度、峭度、峰值、波形指标、裕度指标、峭度指标)和频域特征统计量(均方频率、重心频率、均方根频率、频率标准差)，划分训练集和测试集。2)利用提取的时频特征统计量通过堆叠的WELM-AE 进行无监督训练获取深度特征。3)利用 OS-ELM 对获取的深度特征进行训练并输出诊断结果。22诊断模型优化和参数选择模型的诊断精度和网络结构、参数选择息息相关，本节将讨论小波基函数的选择、隐含层参数的选择以及 WELM-AE 权值优化。221小波函数的选择目前，小波函数被广泛应用于神经网络中，小波函数能够改变尺度因子和位移因子，具有良好的时频局部化特性和聚焦特征14。由图 3 可以看出将小波基函数作为激活函数与常见的 sigmoid、sin 相比诊断精度较高。由于不同种类的小波函数具备不同的性质，对故障识别精度有影响。为了减少小波基选择不当对实验造成的影响，本文选用了几种常见的小波基进行试验。通过 10 次试验，由图 4 可以看出 mexihat 函数识别准确率较高，因此本文选用mexihat 函数作为 WELM-AE 的激活函数。图 3不同激活函数 10 次实验平均准确率Fig 3Average accuracy of 10 experiments withdifferent activation functions图 4不同小波函数 10 次实验平均诊断准确率Fig 4Average diagnostic accuracy of 10 experimentswith different wavelet functions1301机 械 科 学 与 技 术第 42 卷http:/journalsnwpueducn/222DWOSELM 隐含层参数选择深度学习拥有多个隐含层，网络层数选择影响特征表达，网络层数过多会丢失一些有用信息，网络层数过少会增加多余信息，适宜的网络层数可以降低数据维度，减少噪声的影响。其次，合理地选择各隐含层节点数有利于提高网络性能15。通过大量的实验，如表 1 所示，节点数相同时，2 个隐含层相对于 3 个隐含层准确率略低。节点组合为 N1=30，N2=30，N3=30，各项分类性能度量指标较好。因此本文选用 3 个隐含层，隐含层节点数为 30。表 1隐含层参数选择Tab 1Selection of hidden layer parameters隐含层参数选择准确率/%时间/sN1=10，N2=1089.173.15N1=10，N2=2089.723.62N1=10，N2=3089.724.07N1=20，N2=2093.894.20N1=20，N2=3093.614.94N1=30，N2=3095.005.80N1=30，N2=4094.446.42N1=10，N2=10，N3=1090.283.53N1=10，N2=20，N3=3090.565.45N1=20，N2=20，N3=2093.894.98N1=30，N2=30，N3=3095.286.19N1=40，N2=40，N3=4094.448.92223WELM-AE 的输入层权值优化由于 WELM-AE 继承了 ELM 的特性，输入权值和阈值是随机产生的正交随机矩阵，使得隐含层的一些节点处于无效状态，降低了算法的稳定性和分类精度。针对此问题，本文运用遗传算法(GA)、粒子群算法(PSO)、麻雀搜索算法(SSA)对输入权值和阈值进行优化，每个算法设置迭代次数为 100，种群数为 20，适应度函数为错误率的均方差。所用算法的适应度曲线如图 5 所示。图 5优化算法适应度曲线Fig 5Fitness curve of the optimization algorithm从图 5 可以看出麻雀搜素算法错误率最低，寻优速度最快，因此使用麻雀搜索算法对 WELM-AE的输入权值和阈值进行优化。3应用验证为验证本文所提方法的有效性和适用性，分别对齿轮箱故障和滚动轴承故障进行诊断，并将本文方法与浅层模型 SVM、BP、ELM 和深层模型 SAE、CNN、DELM 进行比较。31齿轮箱故障诊断应用验证311故障样本说明实验数据来自江苏千鹏诊断 QPZZ-试验平台。采样频率为 5.12 kHz，转速为 880 r/min，对齿轮箱 6 种状态进行诊断。如表 2 所示。每种工况的齿轮箱振动数据截取 200 组样本，将样本以 7 3划分为训练集和测试集。表 2齿轮箱故障类别Tab 2Gearbox fault categories运行状态类别正常1点蚀故障2点磨(大齿轮点蚀和小齿轮磨损)3断齿故障4断磨(大齿轮断齿和小齿轮磨损)5磨损故障6312诊断结果分析为了减少模型以及其他因素对实验结果的影响，通过 10 次实验进行验证，诊断结果如表 3 所示。通过表 3 可以看出，本文方法诊断精度相对于其他模型有更高的准确率。浅层模型虽然训练时间短，但表征能力有限，准确率相对较低，而像 SAE、CNN因为需要反向调参，导致训练时间过长。相较于普通的 DELM，本文方法准确率有所提高。表 3诊断结果对比Tab 3Comparison of diagnostic results模型平均准确率/%训练时间/sSVM90.730.30BP91.240.20ELM92.670.19SAE91.859.19CNN93.2917.19DELM92.592.95本文方法95.355.322301第 7 期王椿晶，等:深度在线小波极限学习在旋转机械故障诊断中的应用http:/journalsnwpueducn/准确率(Accuracy)、精准率(Precision)、召回率(ecall)3 个指标可以很好地反映出分类模型的识别效果，其表达式如下:Accuracy=(TP+TN)/(TP+FN+FP+TN)(7)Precision=TP/(TP+FP)(8)ecall=TP/(TP+FN)(9)式中:TP为正确识别为正样本;TN为正确识别为负样本;FP为错误识别为正样本;FN为错误识别为负样本。通过准确率、精准率及召回率这 3 个指标对分类效果进行评估，结果如图 6 所示，本文方法相对其他模型 3 项评价指标较高，说明该方法能够准确识别故障并且判断故障类别。图 6各模型分类评价结果Fig 6Evaluation results for each model classification为了更好的显示本文方法对故障的误判情况，引入混淆矩阵对分类结果进行定量分析。由图 7 可知，磨损故障和断磨故障区分相对困难，互相误判个数比较多。图 7诊断结果混淆矩阵Fig 7The confusion matrix of the diagnostic results32滚动轴承故障诊断应用验证321故障样本说明滚动轴承采用美国凯斯西储大学电气工程实验室采集的滚动轴承数据。试验轴承为 6205-2S JEMSKF 深沟球轴承，轴承损伤直径均为 0.177 8 mm，转速为 1 797 r/min，负载为 0，采样频率为 12 kHz。本次实验对滚动轴承 4 种状态进行实验，如表 4 所示。每种状态生成 200 个样本，将样本以 7 3 划分为训练集和测试集。表 4滚动轴承故障类别Tab 4olling bearing fault categories运行状态类别标签正常1滚动体故障2内圈故障3外圈故障4322诊断结果分析本文方法在滚动轴承故障诊断上同样也取得了良好的分类效果，各模型的分类效果评价结果如图8 所示。图 8各模型分类评价结果Fig 8Evaluation results for each model classification为了减少随机性对试验结果的影响，通过 10 次实验求出诊断的平均准确率，如表 5 所示。表 5诊断结果对比Tab 5Comparison of diagnostic results模型平均准确率/%训练时间/sSVM92.560.21BP90.730.19ELM93.670.16SAE91.856.50CNN92.7814.23DELM90.361.82本文方法96.734.74由图 9 可知，内圈故障有 5 个样本被误判为滚动体故障，1 个被误判为外圈故障，说明内圈故障相较于其他故障状态难以辨别。3301机 械 科 学 与 技 术第 42 卷http:/journalsnwpueducn/图 9诊断结果混淆矩阵Fig 9The confusion matrix of the diagnostic results4结束语本文结合小波函数、自动编码器和在线极限学习机的优点构造了深度在线小波极限学习机，为了证明该模型在旋转机械故障诊断应用效果，分别在齿轮箱和滚动轴承上进行验证，实验都取得了良好的效果。与现有的深层模型 SAE、CNN、DELM 以及浅层模型 SVM、BP、ELM 进行对比，本文使用模型具有学习速度快、诊断精度高的特点，在工程应用中有一定的参考价值。参考文献 1 张英堂，马超，尹刚，等基于多极限学习机在线集成的柴油机故障诊断方法研究 J 车用发动机，2012(6):85-89ZHANG Y T，MA C，YIN G，et al Diesel engine faultdiagnosis based on online ensemble of multiple extremelearning machine J Vehicle Engine，2012(6):85-89(in Chinese)2 XIA M，LI T，XU L，et al Fault diagnosis for rotatingmachinery using multiple sensors and convolutionalneural networks J IEEE/ASME Transactions onMechatronics，2018，23(1):101-110 3 JIAN Y F，QING X G，HE L，et al Fault diagnosis ofmotor bearing based on deep learningJ Advances inMechanical Engineering，2019，11(9):1-9 4 熊景鸣，潘林，朱昇，等DBN 与 PSO-SVM 的滚动轴承故障诊断 J 机械科学与技术，2019，38(11):1726-1731XIONG J M，PAN L，ZHU S，et al Bearing faultdiagnosis based on deep belief networks and particleswarmoptimizationsupportvectormachine J MechanicalScienceandTechnologyforAerospaceEngineering，2019，38(11):1726-1731(in Chinese)5 CAMBIA E，HUANG G B，KASUN L L C，et alExtreme learning machines trends controversies J IEEE Intelligent Systems，2013，28(6):30-59 6 TANG J X，DENG C W，HUANG G B Extreme learningmachine for multilayer perceptron J IEEE Transactions onNeural Networks and Learning Systems，2016，27(4):809-821 7 蔡念，胡匡祜，李淑宇，等小波神经网络及其应用 J 中国体视学与图像分析，2001，6(4):239-245CAI N，HU K H，LI S Y，et al Wavelet neural networkand its application J Chinese Journal of Stereology andImage Analysis，2001，6(4):239-245(in Chinese)8 俞阿龙基于遗传小波神经网络的机器人腕力传感器动态建模研究 J 物理学报，2008，57(6):3385-3390YU A L esearch on the dynamic modeling based ongenetic wavelet neural network for the robot wrist forcesensor J Acta Physica Sinica，2008，57(6):3385-3390(in Chinese)9 缪志强，王耀南基于径向小波神经网络的混沌系统鲁棒自适应反演控制 J 物理学报，2012，61(3):030503MIAO Z Q，WANG Y N obust adaptive radial waveletneuralnetworkcontrolforchaoticsystemsusingbackstepping designJ Acta Physica Sinica，2012，61(3):030503(in Chinese)10 LIANG N Y，HUANG G B，SAATCHANDAN P，et alA fast and accurate online sequential learning algorithmfor feedforward networksJ IEEE Transactions onNeural Networks，2006，17(6):1411-1423 11 陈哲，冯天瑾小波分析与神经网络结合的研究进展 J 电子科学学刊，2000，22(3):496-504CHEN Z，FENG T J esearch advances on combinatinof wavelet analysis and neural networksJ Journal ofElectronics，2000，22(3):496-504(in Chinese)12 HINTON G E，ZEMEL S Autoencoders，Minimumdescription length and Helmholtz free energyC/Proceedings of the 6th International Conference onNeural Information Processing Systems Denver:MorganKaufmann Publishers Inc，1993:3-10 13 谢群辉，田青权重随机正交化的极速非线性判别分析网络 J 计算机技术与发展，2018，28(1):23-27XIE Q H，TIAN Q Nonlinear discriminant analysisnetworks with random and orthogonalized input weights J Computer Technology and Development，2018，28(1):23-27(in Chinese)14 WANG C，PEDYCZ W，YANG J B，et al Waveletframe-based fuzzy C-means clustering for segmentingimagesongraphs J IEEETransactionsonCybernetics，2020，50(9):3938-3949 15 于惠鸣，张智晟，龚文杰，等基于深度递归神经网络的电力系统短期负荷预测模型 J 电力系统及其自动化学报，2019，31(1):112-116YU H M，ZHANG Z S，GONG W J，et al Short-termload forecasting model of power system based on deeprecurrent neural networkJ Proceedings of the CSU-EPSA，2019，31(1):112-116(in Chinese)4301