移动扫码阅读
电牵引采煤机作为煤矿综采工作面的主要机电设备,为实现煤矿智能化、无人化、安全高效生产的重要保障,采煤机故障的发生可能会导致停产,甚至引发严重的矿井事故,因此煤矿综采设备运行状态监测以及关键部位的故障诊断与预警对于煤矿安全生产发展至关重要。
随着工业大数据的出现,机器学习逐渐成为采煤机故障诊断研究的热点,减少设备因故障而停机检修的发生[1]。辽宁工程技术大学刘旭南等[2]将小波包分解和神经网络相结合,能够有效诊断采煤机截割部的故障类型。刘冲[3]提出了一种基于优化支持向量机的采煤机故障诊断新方法,有效地实现了对采煤机特征参数的提取。中国矿业大学任众[4]运用粒子群算法对支持向量机的相关参数进行优化,对采煤机截割部行星轮减速器故障进行实时自动地诊断。中国矿业大学杨健健等[5]将粒子群算法和BP神经网络结合对掘进机截割部进行故障诊断。由于浅层网络模型自学习、特征自提取能力弱,以至于其具有故障识别精度低、泛化能力弱等特点[6]。
相反,基于深度学习的故障诊断方法能够进行故障模式的自动识别与分类,具有较高的故障模式识别精度及效率。辽宁工程技术大学毛君等[7]为了准确诊断采煤机截割部减速器故障,提取多个特征在深度自编码网络下学习并训练进行准确诊断。西安交通大学JIA等[8]提出了基于深度卷积神经网络的智能诊断方法,避免了因传统方法依赖于专家经验和专门知识导致的缺陷,并获得了滚动轴承和行星齿轮箱的分类结果。清华大学LU等[9]利用深度学习对标准轴承数据集的频域数据进行计算,并对结果进行可视化,得到的较好的分类准确率。解放军理工大学袁建虎等[10]通过连续小波变换,将获得的时频图输入到卷积神经网络的分类器模型中进行滚动轴承智能故障识别。海军工程大学李俊等[11]在大数据下提取振动信号峭度指标并通过卷积神经网络完成故障分类。上述深层模型在具有足够多标签数据样本下取得了良好的故障分类效果。正常服役采煤机监测数据中故障数据少,不足以训练好深层模型,因此并不适用于变工况下非线性、非平稳信号的故障识别。
为解决上述问题,迁移学习受到机器学习领域的广泛关注[12-14],迁移学习能够运用先前学习的知识和技巧完成新任务。南京航空航天大学张振良等[15]基于样本迁移对发动机轴承进行故障预测。哈尔滨理工大学康守强等[16]在滚动轴承故障诊断方法引入迁移学习,提升诊断性能。西安交通大学雷亚国等[17]基于深度残差网络,提取迁移故障特征,通过施加领域适配正则项约束形成深度迁移诊断模型,并运用实验室滚动轴承与机车轴承进行迁移诊断试验,试验结果验证了该方法具有更高的准确率。南京航空航天大学钱伟伟[18]基于深度迁移学习网络对旋转机械进行故障诊断,取得了良好效果。沈阳工业大学于洋等[19]将长短时记忆网络与迁移学习相结合判别滚动轴承故障声发射信号。
然而上述研究均为同一机械设备在不同工况间进行迁移诊断,且数据充足。本文针对采煤机传动系统滚动轴承提出基于深度迁移学习的故障诊断方法,经过时频变换将结果作为模型的输入图像数据集,然后构建预训练模型并将其网络参数迁移至采煤机摇臂传动系统智能故障诊断模型中,将参数进行微调,实现模型的优化与权值更新,进而获得最终的迁移故障诊断模型,实现少量样本下的采煤机智能故障诊断。
在深度学习中,需要数据量足够大的训练集与测试集数据,且分布相同,这就造成训练过程需要消耗大量的时间。迁移学习是针对2组数据相似但分布不同的数据,在模型上进行故障知识迁移来实现故障诊断精度的提高。领域D可以表示为{X, P(x)},其中,X为特征空间,P(x)为X的边缘分布,x={x1,x2,…,xn}∈X。一个任务包括标签空间Y和一个目标预测函数f(x),即:T={Y,f(x)},其中,f(x)=P(Y|X),通过训练样本获取目标预测函数 [17,20-21]。
迁移学习主要是将源领域Ds与目标任务Ts的知识进行迁移,提高目标函数的学习能力。所提出的智能故障诊断方法,在源领域为Ds的基础上训练函数为fd(x)的模型,当目标领域Tt仅有小数据量样本时也能够完成训练。
现有煤矿井下设备运行过程中产生的振动信号呈现非线性、非平稳性等特点,而源域信号和目标域信号都是通过旋转机械传动系统获取的振动信号,其两者之间的数据存在较大差异,但仍存在一定的数据分布相似性。基于此,研究了在深度迁移学习基础上的采煤机摇臂部滚动轴承故障诊断方法,如图1所示,模型(VGG-16)经过预训练后,将其网络参数迁移到模型中,运用参数微调对权值进行更新,经过多次迭代训练使模型最优化,得到基于迁移学习的采煤机摇臂部滚动轴承故障诊断模型。
图1 基于深度迁移学习的故障诊断方法流程
Fig.1 Flow chart of fault diagnosis method based on deep transfer learning
利用在大型自然图像数据集(Imagenet)下进行预训练的网络模型,根据目标域数据对该网络模型进行参数微调,通过更新高层网络参数并保留低层网络参数不变来适用不同领域的数据,高层网络特征根据自身的抽象特性反映数据的特有信息[22]。图2为预训练网络模型参数微调示意。
图2 预训练网络模型参数微调示意
Fig.2 Fine tuning of parameters of pre-training network model
在运用卷积神经网络进行图像识别时,通常采用离散卷积运算进行计算,卷积运算如下:
(1)
式中:x(t)为输入图像;*为卷积操作;h(t)为核函数,其输出为特征映射。
运用二维卷积核K(m,n)处理二维输入图像I(i,j),其卷积运算如下:
K(i-m,j-n)
(2)
式中,m和n为卷积核的尺寸。
卷积运算具有可交换性:
(3)
偏置和权重作为卷积层的重要参数,其公式为
(4)
其中:为第l卷积层输出的第j个特征图;f(x)为激活函数;Mj为输入特征图的一个选择;为卷积核的权值矩阵;对于每一个输出图都会给定一个偏置b[23]。
选取ReLU函数作为激活函数对卷积输出进行激活,防止出现“梯度弥散”问题[24]:
(5)
式中,f为ReLU激活函数。
为提高模型的泛化能力,降低计算量,在卷积层后添加最大池化层:
(6)
式中,down(x)为池化函数,每一个输出图相对应地给定
故障特征分类由softmax函数通过映射softmax值的大小实现,因此,第j个特征xj的softmax值为:
(7)
其中,0<p(j)<1且
为使模型更好地适应目标域数据,计算输出和真实标签值的交叉熵,并将其作为模型误差[25],通过Adam算法进行权值更新最小化损失函数。
以含c个样本数的样本I(c)为研究对象,求取样本标签值qc与实际标签值pc的交叉熵,即损失函数L:
(8)
对第l全连接层第i个神经元的权值偏置求偏导:
(9)
(10)
其中,第l全连接层第i个神经元输入的偏导为
(11)
(12)
第l全连接层第i个神经元输出的偏导为
(13)
对第l卷积层第t卷积核及其偏置求偏导:
(14)
(15)
其中,卷积的ReLU激活函数输入的偏导为
(16)
第4、5池化层第t个输入特征图 偏导为
(17)
其中,(im,jm)为正向池化区特征值的最大特征点[24]。若令:
(18)
则对池化层输出的偏导为
(19)
若令:权值梯度则更新后梯度g的有偏一阶矩估算s、二阶矩估计r:
s=ρ1s+(1-ρ1)g,r=ρ2s+(1-ρ2)g⊙g
(20)
修正后的一阶矩s、二阶矩r的偏差分别为
(21)
更新后的权值θ为
(22)
其中,ε为学习步长;ρ1、ρ2为矩估计的指数衰减速率;δ为小常数,被用来稳定数值 [24]。
轴承是旋转机械传动系统中的关键部件,其运行状态对保障设备安全运行起着重要的作用。实际工况下采煤机摇臂部传动系统中的滚动轴承监测数据具有非线性、非平稳性等特点,且可用典型故障数据少,难以达到较高的诊断精度。考虑采煤机摇臂部传统系统“两级直齿两级行星减速”的传动特点,为验证本文提出的深度迁移学习算法有效性,实测数据采用具有相同结构的传统系统的试验平台,并设变转频模拟采煤机振动信号的非线性、非平稳性特点。
深度迁移学习算法验证以Case Western Reserve University标准滚动轴承数据集作为训练集,辅助训练迁移模型,将Spectra Quest公司的DDS平台实测的故障滚动轴承数据作为测试集。
采用的试验数据分为数据集A和数据集B,数据详细信息见表1。
表1 试验样本数据信息
Table 1 Experimental sample data information
滚动轴承数据集轴承型号健康状态数据样本量训练数据集ASKF6205正常内圈故障外圈故障滚动体故障3 000测试数据集BER-16 K正常内圈故障外圈故障滚动体故障1 000
数据集A为由Case Western Reserve University通过如图3a所示的测试平台得到的滚动轴承测试数据。该测试平台由感应电机,一个转矩传感器/编码器、加载电机以及控制电子设备所组成[26]。试验选取驱动端滚动轴承,并在其径向加载径向载荷4.02 N·m,采样频率设置为12 kHz,转速设置为1 772 r/min,获取正常状态、内圈故障、外圈故障及滚动体故障等4种轴承状态数据作为试验数据,同时选取故障直径分别为1.778、0.356、0.533 mm的数据作为补充数据集。样本数据为3 000个,包括正常状态300个,剩余数据由各故障数据样本均匀分配,最终构成本文使用的训练数据集[26]。
数据集B为由Spectra Quest公司通过DDS测试平台收集的数据,该测试平台由变速驱动电机、行星齿轮箱、平行轴齿轮箱、轴承径向负载、磁力制动器组成[26],如图3b所示。由于采煤机在变工况下的振动信号存在非线性、非平稳性的特点,为模拟采煤机在井下的运行状态,选取该平台平行轴齿轮箱中的第2级传动轴,并在输出端的轴承上沿径向加载4种载荷0,4.02,8.04,12.06 N·m,设置转频为20、25、30 Hz,采样频率为10.24 kHz,与数据集A设置相同的4种状态[26],4种状态测试数据集分别选择样本数为100、300、300、300个。
图3 数据集试验平台
Fig.3 Data set experimental platform
为验证本文提出方法,试验数据集A为源域数据,试验数据集B为目标域数据,完成从数据集A迁移至数据集B的故障诊断,且设定数据集B在任务中无健康标记数据。
对该数据集进行预处理,使用连续小波变换将一维原始信号转换成二维时频分布图像,如图4所示。
图4 图像数据集
Fig.4 Image dataset
迁移诊断模型的主要参数迭代次数设置为30,批次大小设置为8,步长设置为300,Dropout设置为0.1。为防止过拟合情况出现,在全连接层使用Dropout。为验证提出方法的迁移诊断有效性,将对比分析提出方法(TDCNN)与不采用迁移学习的完全重新训练的方法(DCNN)的诊断结果。
诊断结果如图5所示,提出方法的平均诊断率为99.586 2%;而DCNN方法的平均诊断率仅为31.083 6%。与传统的从头开始训练的深层卷积网络相比,TDCNN方法在第2次迭代训练时就已经达到较高的分类准确率,且保持稳定的结果,而DCNN方法存在无法收敛的现象,在第2次迭代训练后始终无法提升准确率,且无法识别故障数据。因此,TDCNN方法在保证网络结构深度的前提下能够快速收敛,缩短训练时间,能够学习到更深层次的图像特征并更好地分类,进而实现高精度诊断[27]。
图5 TDCNN与DCNN方法故障分类结果
Fig.5 Fault classification results of TDCNN and DCNN methods
为直观地表达出所提出方法的特征提取效果,将目标域数据B的特征值通过t-SNE(t分布随机近邻嵌入)算法映射到二维空间中,进而运用散点图将其特征进行可视化,如图6所示。由图6可得出本文提出的方法能够有效地进行故障特征分类,并且具有较高的提取精度。
图6 TDCNN方法样本特征可视化
Fig.6 Sample feature visualization of TDCNN method
1)针对煤矿井下采煤机摇臂传动系统的有效数据少、有标签数据不足等问题,研究了基于深度迁移学习的采煤机摇臂部传动系统故障诊断方法,并对传动系统中的关键零部件滚动轴承进行了对比试验并将迁移结果可视化。
2)较于未采用迁移学习的传统训练方法,迁移学习方法能够将不同设备的状态监测数据进行故障诊断知识迁移,实现较高的诊断精度,表明了该方法的可行性。
3)下一步研究将针对已采集到的多种机型采煤机摇臂部传动系统基线数据,发掘迁移学习在有效数据少情况下的优势,为实现煤矿机电装备健康状态监测自动化与智能化奠定基础。
[1] 雷亚国,贾 峰,孔德同,等.大数据下机械智能故障诊断的机遇与挑战[J].机械工程学报,2018,54(5):94-104.
LEI Yaguo,JIA Feng,KONG Detong,et al. Opportunities and challenges of mechanical intelligent fault diagnosis under big data [J]. Journal of Mechanical Engineering,2018,54(5):94-104.
[2] 刘旭南,赵丽娟,付东波,等.采煤机截割部传动系统故障信号小波包分解方法研究[J].振动与冲击,2019,38(14):169-175,253.
LIU Xunan,ZHAO Lijuan,FU Dongbo,et al. Research on wavelet packet decomposition method for fault signal of shearer cutting transmission system [J]. Vibration and Impact,2019,38(14):169-175,253.
[3] 刘 冲.基于优化支持向量机的采煤机故障诊断技术[J].山东农业大学学报(自然科学版),2015,46(1):132-135.
LIU Chong. Fault diagnosis technology of shearer based on optimized support vector machine [J]. Journal of Shandong AgriculturalUniversity(Natural Science Edition),2015,46(1):132-135.
[4] 任 众,张铁山.粒子群优化的支持向量机在截割部行星齿轮减速器故障诊断中的应用[J].机械强度,2018,40(6):1293-1296.
REN Zhong,ZHANG Tieshan. Application of support vector machine based on particle swarm optimization in fault diagnosis of planetary gear reducer in cutting part [J]. Mechanical Strength,2018,40(6):1293-1296.
[5] 杨健健,唐至威,王子瑞,等.基于PSO-BP神经网络的掘进机截割部故障诊断[J].煤炭科学技术,2017,45(10):129-134.
YANG Jianjian,TANG Zhiwei,WANG Zirui,et al. Fault diagnosis on cutting unit of mine roadheader based on PSO-BP neural network [J]. Coal Science and Technology,2017,45(10):129-134.
[6] 张安安.基于CNN图像分类的轴承多状态识别[D].太原:中北大学,2019.
ZHANG An’an. Bearing multi-state recognition based on CNN image classification[D]. Taiyuan:Zhongbei University,2019.
[7] 毛 君,郭 浩,陈洪月.基于深度自编码网络的采煤机截割部减速器故障诊断[J].煤炭科学技术,2019,47(11):123-128.
MAO Jun,GUO Hao,CHENHongyue.Fault diagnosis of shearer cutting unit reducer based on deep auto-encoder network [J]. Coal Science and Technology,2019,47(11):123-128.
[8] JIA F,LEI Y,LIN J,et al. Deep neural networks:A promising tool for fault characteristic mining and intelligent diagnosis of rotating machinery with massive data[J]. Mechanical Systems and Signal Processing,2016,72-73:303-315.
[9] LU W,WANG X,YANG C,et al. A novel feature extraction method using deep neural network for rolling bearing fault diagnosis[C]// Control & Decision Conference,2015.
[10] 袁建虎,韩 涛,唐 建,等.基于小波时频图和CNN的滚动轴承智能故障诊断方法[J].机械设计与研究,2017,33(2):93-97.
YUAN Jianhu,HAN Tao,TANG Jian,et al. Intelligent fault diagnosis method for rolling bearing based on wavelet time- frequency graph and CNN [J]. Mechanical Design and Research,2017,33(2):93-97.
[11] 李 俊,刘永葆,余又红.卷积神经网络和峭度在轴承故障诊断中的应用[J].航空动力学报,2019,34(11):2423-2431.
LI Jun,LIU Yongbao,YU Youhong. Convolutional neural network and kurtosis in bearing fault diagnosis [J]. Journal of Aeronautical Dynamics,2019,34(11):2423-2431.
[12] 康守强,邹佳悦,王玉静,等.基于无监督特征对齐的变负载下滚动轴承故障诊断方法[J].中国电机工程学报:2020,40(1):274-281,393.
KANG Shouqiang,ZOU Jiayue,WANG Yujing,et al. Fault diagnosis method for rolling bearing under variable load based on unsupervised feature alignment [J]. Chinese Journal of Electrical Engineering,2020,40(1):274-281,393.
[13] 刘 瑾,季顺平.基于深度学习的航空遥感影像密集匹配[J].测绘学报,2019,48(9):1141-1150.
LIU Jin,JI Shunping. Airborne remote sensing image dense matching based on deep learning [J]. Journal of Mapping,2019,48(9):1141-1150.
[14] 宋 鹏,郑文明,赵 力.基于子空间学习和特征选择融合的语音情感识别[J].清华大学学报(自然科学版),2018,58(4):347-351.
SONG Peng,ZHENG Wenming,ZHAO Li. Speech emotion recognition based on subspace learning and feature selection fusion [J]. Journal of Tsinghua University(Natural Science Edition),2018,58(4):347-351.
[15] 张振良,刘君强,黄 亮,等.基于半监督迁移学习的轴承故障诊断方法[J].北京航空航天大学学报,2019,45(11):2291-2300.
ZHANG Zhenliang,LIU Junqiang,HUANG Liang,et al. Bearing fault diagnosis method based on semi-supervised transfer learning [J]. Journal of Beijing University of Aeronautics and Astronautics,2019,45(11):2291-2300.
[16] LI W,DUAN L,XU D,et al. Learning with augmented features for supervised and semi-supervised heterogeneous domain adaptation[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2014,36(6):1134-1148.
[17] 雷亚国,杨 彬,杜兆钧,等.大数据下机械装备故障的深度迁移诊断方法[J].机械工程学报,2019,55(7):1-8.
LEI Yaguo,YANG Bin,DU Zhaojun,et al. Deep migration diagnosis method for mechanical equipment failure under big data [J]. Journal of Mechanical Engineering,2019,55(7):1-8.
[18] WEI Q,SHUN Li,JIN W,et al. A new deep transfer learning network for fault diagnosis of rotating machine under variable working conditions[C]// prognostics and system health management conference. IEEE,2018.
[19] 于 洋,何 明,刘 博,等.基于TL-LSTM的轴承故障声发射信号识别研究[J].仪器仪表学报,2019,40(5):51-59.
YU Yang,HE Ming,LIU Bo,et al. Research on bearing fault acoustic emission signal recognition based on TL-LSTM [J]. Journal of Instruments,2019,40(5):51-59.
[20] 周永章,陈 烁,张 旗,等.大数据与数学地球科学研究进展:大数据与数学地球科学专题代序[J].岩石学报,2018,34(2):255-263.
ZHOU Yongzhang,CHEN Shuo,ZHANG Qi,et al. Research progress of big data and mathematical earth science-program of big data and mathematical earth science[J]. ACTA PETROLOGICA SINICA,2018,34(2):255-263.
[21] 张雪芹,陈嘉豪,诸葛晶晶,等.基于深度学习的快速植物图像识别[J].华东理工大学学报(自然科学版),2018,44(6):887-895.
ZHANG Xueqin,CHEN Jiahao,ZHUGE Jingjing,et al. Fast plant image recognition based on deep learning[J]. Journal of East China University of Technology(Natural Science Edition),2018,44(6):887-895.
[22] 邵思羽.基于深度学习的旋转机械故障诊断方法研究[D].南京:东南大学,2019.
SHAO Siyu. Research on fault diagnosis method of rotating machinery based on deep learning [D]. Nanjing:Southeast University,2019.
[23] 洪礼聪.基于时频图像和卷积神经网络的尾水管涡带状态识别[D].武汉:武汉大学,2018.
HONG Licong. Vortex band state identification of draft tube based on time-frequency image and convolutional neural network [D]. Wuhan:Wuhan University,2018.
[24] 赵小强,张青青.改进Alexnet的滚动轴承变工况故障诊断方法[J].振动·测试与诊断,2020,40(3):472-480,623.
ZHAO Xiaoqiang,ZHANG Qingqing. Improved Alexnet rolling bearing variable condition fault diagnosis method [J]. Vibration. Test & Diagnosis,2020,40(3):472-480,623.
[25] 毛潇锋.基于对抗学习的深度视觉域适应方法研究[D].哈尔滨:哈尔滨工程大学,2019.
MAO Xiaofeng. Research on deep visual domain adaptation method based on adversarial learning[D]. Harbin :Harbin Engineering University,2019.
[26] 潘格格.基于深度迁移学习的采煤机摇臂传动系统故障诊断研究[D].西安:西安科技大学,2020.
PAN Gege. Research on fault diagnosis of shearer rocker arm transmission system based on deep transfer learning [D]. Xi’an:Xi’an University of Science and Technology,2020.
[27] 李宗博,焦在滨,何安阳.基于卷积神经网络特征迁移策略的变压器智能保护方法[J].中国电机工程学报,2021,41(15):5201-5212.
LI Zongbo,JIAO Bin,HE Anyang. Intelligent transformer protection method based on feature transfer strategy of convolutional neural network[J]. Journal of China Electric Machinery Engineering,2021,41(15):5201-5212.