基于深度学习的带钢焊缝杯突试验结果分类.pdf
《基于深度学习的带钢焊缝杯突试验结果分类.pdf》由会员分享,可在线阅读,更多相关《基于深度学习的带钢焊缝杯突试验结果分类.pdf(4页珍藏版)》请在咨信网上搜索。
1、2024 年第 1 期总 第 269 期冶 金 动 力METALLURGICAL POWER基于深度学习的带钢焊缝杯突试验结果分类张勇(马鞍山钢铁股份有限公司,安徽马鞍山 243000)【摘要】为了实现对带钢焊缝月牙边杯突试验结果的自动分类,设计了一种基于轻量级网络的分类方法,首先采用数据增强扩充数据集样本数量,接着引入Grad-CAM算法对试验模型的中间层以热力图的形式进行可视化,最后结合MobileNet V3网络可视化中间层设计了冻结特征提取部分的迁移学习训练方法,并对比测试了4种轻量型网络,试验结果表明基于迁移学习的MobileNet V3网络具有较好的缺陷分类能力。【关键词】杯突试验
2、;MobileNet V3;Grad-CAM;迁移学习【中图分类号】TP27 【文献标志码】B【文章编号】1006-6764(2024)01-0082-04 【开放科学(资源服务)标识码(OSID)】Classification of Cupping Test Results for Strip Welds Based on Deep LearningZHANG Yong(Maanshan Iron and Steel Co.,Ltd.,Maanshan,Anhui 243000,China)【Abstract】In order to realize the automatic classif
3、ication of the cupping test results of crescent edge of strip weld,a classification method based on lightweight network is designed.Firstly,data enhancement is used to expand the number of samples in the dataset,then the Grad-CAM algorithm is introduced to visualize the intermediate layer of the tes
4、t model in the form of heat maps.Finally,a migration learning training method for the freezing feature extraction part is designed in conjunction with the visualization of the intermediate layer of the MobileNet V3 network,and the four types of lightweight networks are tested in comparison,the exper
5、imental results show that the MobileNet V3 network based on migration learning has a better ability to classify the defects.【Keywords】cupping test;MobileNet V3;Grad-CAM;transfer learning前言随着机器视觉技术的快速发展,可以通过搭建深度神经网络不断进行迭代学习,使机器能够替代人工完成高精度要求的检测任务,提高检测的准确性和安全性。采用轻量化深度学习网络可以对带钢焊缝月牙边杯突试验结果进行分类,采用迁移学习的思路进
6、行训练并使用Grad-CAM对训练好的模型进行可视化分析1-3。1 算法分析1.1 Grad-CAM算法为了弥补 CAM 算法的局限性,Grad-CAM 算法4改变了获取特征层对应通道权重的方法,Grad-CAM算法的核心是将没有经过激活函数的各类别的预测得分通过反向传播的梯度信息来计算特征层对应的权重w1,w2,wn。网络首先需要通过正向传播参数获取合格类别的预测值,接着针对求得的预测值进行反向传播得到对应特征层的梯度信息,最后计算梯度信息各通道的均值,其类似于CAM算法中使用全局平均池化求取的权重,定义如式(1)所示。tk=1Zi=1c1j=1c2ytAkij(1)式中:c1和c2分别代表
7、特征层 A 中特征图的宽和高;Z特征图的大小,其值为c1与c2的乘积;yt类别为Ture时的未激活预测置信度;Akij特征层 A 中第 k 张特征图,第 i 行 j 列的的值;tk特征层 A 中第 k张特征图的权重,该值为 图1中的wt1,wt2,wtn。将求得的权重与特征层A进行加权求和后使用ReLU激活函数对这个合并的特征层进行处理后即可输出激活热力图。Grad-CAM 模型示意图见图 1,定义如式(2)所示。LtGrad-CAM=ReLU(ktkAk)(2)式中:Ak特征层A的第k张特征图;LtGrad-CAMGrad-CAM 算 法 获 取 的 激 活 热力图。1.2 MobileNe
8、t V3为更好地使用轻量级网络,MobileNet V35-6网络通过改进基础模块提高模型的精度,精简耗时较多但作用不大的结构,提高模型的速度,重新设计非线性的且易于量化的激活函数。MobileNet V3网络均为先升维获取高维特征后再对特征图进行降维。具体实现为针对DW卷积后的特征图,先使用一个均值池化求得所有通道的均值,接着通过一个全连接层和一个标准ReLU激活函数,将通道数降到输入的1/4,然后再通过一个全连接层和一个Hard Sigmoid(Hsig)激活函数将通道升到与输入特征图相同并输出对应特征图的权重,最后将该权重与输入的特征图相乘获取特征更明显的数据。Sigmoid(Ssig)
9、激活函数和 Hard Sigmoid(Hsig)激活函数的定义如式(3)所示。其中Ssig激活函数计算困难且求导复杂,Hsig激活函数相较而言更容易量化数据。Ssig(x)=11+e-xHsig(x)=ReLU6(x+3)6=min(max(x+3,0),6)6(3)Swish(Sswi)激活函数的定义如式(4)所示,对于较深的神经网络而言,使用Sswi激活函数可以在一定程度上提高模型的精度。但由于其是由Sswi激活组成,存在大量的计算,这使得Sswi激活函数不适合使用到轻量型网络之中。为了解决这一问题,使用函数曲线近乎重合但易于计算的 Hard Swish(Hswi)激活函数进行替换,其定义
10、如式(5)所示,其中x为输入神经元。Sswi(x)=x Ssig(x)=x1+e-x(4)Hswi(x)=x Hsig(x)=x min(max(x+3,0),6)6 (5)MobileNet V3网络通过精简头尾部分减少了一定的计算量,头部减少了第一个卷积核的数目。尾部将先升维再池化改为了先池化为11的特征图再卷积升维,这一操作能够通过减少连接参数的方式减少计算量。1.3 抑制过拟合试验采集了200份数据样本,在经过数据扩充之后为2 400份,其中不合格的样本在扩充前仅为25份,数据集使用轻量型的模型从头部开始训练会过拟合。为了解决这一问题,在使用迁移学习的基础上冻结训练好的特征提取部分参数
11、7,仅训练模型最后的分类层,并通过L2正则化(Weight Decay)和随机失活(Dropout)在一定程度上解决过拟合问题。图1 Grad-CAM模型示意图822024 年第 1 期总 第 269 期冶 金 动 力METALLURGICAL POWERyt类别为Ture时的未激活预测置信度;Akij特征层 A 中第 k 张特征图,第 i 行 j 列的的值;tk特征层 A 中第 k张特征图的权重,该值为 图1中的wt1,wt2,wtn。将求得的权重与特征层A进行加权求和后使用ReLU激活函数对这个合并的特征层进行处理后即可输出激活热力图。Grad-CAM 模型示意图见图 1,定义如式(2)所
12、示。LtGrad-CAM=ReLU(ktkAk)(2)式中:Ak特征层A的第k张特征图;LtGrad-CAMGrad-CAM 算 法 获 取 的 激 活 热力图。1.2 MobileNet V3为更好地使用轻量级网络,MobileNet V35-6网络通过改进基础模块提高模型的精度,精简耗时较多但作用不大的结构,提高模型的速度,重新设计非线性的且易于量化的激活函数。MobileNet V3网络均为先升维获取高维特征后再对特征图进行降维。具体实现为针对DW卷积后的特征图,先使用一个均值池化求得所有通道的均值,接着通过一个全连接层和一个标准ReLU激活函数,将通道数降到输入的1/4,然后再通过一个
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 深度 学习 带钢 焊缝 试验 结果 分类
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。