![点击分享此内容可以赚币 分享](/master/images/share_but.png)
基于知识蒸馏KD压力容器焊...数特征点提取实时性提升方法_廖普.pdf
《基于知识蒸馏KD压力容器焊...数特征点提取实时性提升方法_廖普.pdf》由会员分享,可在线阅读,更多相关《基于知识蒸馏KD压力容器焊...数特征点提取实时性提升方法_廖普.pdf(6页珍藏版)》请在咨信网上搜索。
1、第 44 卷第 3 期2023 年 3 月激光杂志LASE JOUNALVol.44,No.3March,2023http /www laserjournal cn收稿日期:20221113基金项目:国家市场监督管理总局科技计划项目(No 2019MK143)作者简介:廖普(1993),男,博士研究生,主要从事人工智能与精密检测技术研究。Email:liaopu93 foxmail com通讯作者:刘桂雄(1968),男,教授,博导,主要从事智能检测与装备研究。Email:megxliu scut edu cn基于知识蒸馏 KD 压力容器焊缝参数特征点提取实时性提升方法廖普1,刘桂雄1,杨宁祥
2、21华南理工大学机械与汽车工程学院,广州510640;2广东省特种设备检测研究院珠海检测院,广东 珠海519000摘要:压力容器对接纵焊缝是重要受力部位,对其测量是焊接质量评估的重要环节,从焊缝激光线中提取焊缝参数测量特征点是视觉焊缝测量重要内容。针对深度学习的焊缝图像参数特征点提取网络,其复杂骨干网络在模型部署、模型训练、模型正向传播时间成本而带来检测实时性限制问题,研究基于深度学习的压力容器焊缝图像特征点提取网络、焊缝参数特征点提取的相邻阶段数据融合 KD 模型的实时性提升方法,并以压力容器焊缝实验对象进行验证。结果表明,知识蒸馏 KD 训练后学生模型特征点提取精度有明显提升,且部署时间、
3、单张图片提取时间分别减少 70.8%、79.7%。关键词:压力容器;焊缝表面参数;深度学习;模型压缩。中图分类号:TN911.73文献标识码:Adoi:10.14016/j cnki jgzz.2023.03.069Extraction of parameter feature points of KD pressure vessel welds based onknowledge distillation realtime improvement methodLIAO Pu1,LIU Guixiong1,YANG Ningxiang21School of Mechanical and Aut
4、omotive Engineering,South China University of Technology,Guangzhou 510640,China;2Guangdong institute of Special Equipment Inspection and esearch,Zhuhai Guangdong 519000,ChinaAbstract:The pressure vessel butt longitudinal weld is an important force part,and its measurement is an impor-tant part of th
5、e weld quality assessment,and the extracting of weld parameter measurement feature points from the weldlaser line is an important content of visual weld measurement This paper addresses the deep learning weld image pa-rameter feature point extraction network with complex backbone network in model de
6、ployment,model training,modelforward propagation time cost and bring detection realtime limitation problem The realtime enhancement methods ofthe pressure vessel weld image feature point extraction network based on deep learning and the adjacent stage data fu-sion knowledge distillation(KD)model for
7、 weld parameter feature point extraction are investigated and validated withpressure vessel weld experimental objects The results show that the student model feature point extraction accuracy issignificantly improved after knowledge distillation KD training,and the deployment time and single image e
8、xtractiontime are reduced by 70.8%and 79.7%,respectivelyKey words:pressure vessel;weld surface parameters;deep learning;model compression1引言压力容器对接纵焊缝是重要受力部位,国家标准GB1502011 规定的焊缝宽度、余高、咬边、错边量、棱角度等参数的焊缝三维形态参数直接反映焊接位置处应力集中程度,对其测量是焊接质量评估的重要环节1,目前人工使用放大镜、焊缝检验尺、棱角度尺等http /www laserjournal cn工具完成的检测方法,存在精度低、
9、效率低、劳动强度大等问题。鉴于机器视觉检测方法具有非接触性、快速好的特点,在焊接过程或焊后焊缝参数检测领域已有不同程度研究与应用,其中主动视觉焊缝检测方法通常将结构激光打在焊缝表面,焊缝表面激光线呈现特定形状后成像,曲线形状中焊缝表面参数信息反映为曲线特征点,从焊缝激光线中提取焊缝参数测量特征点是视觉焊缝测量重要内容23。近几年,深度学习在图像特征点提取领域发展迅速,文献 4谷歌(2014)提出 DeepPose 网络结构用于图像特征点提取,网络前端采用深度卷积网络提取多尺度图像特征信息,后端卷积层多尺度特征输出与全连接层(FullyConnected Layers,FC)相连,通过 FC 层
10、回归分析,完成特征点在图像坐标系中坐标提取,且受限于当时CNN 网络特征提取性能,DeepPose 准确度较低;文献 5 旷视科技(2018)提出包括 GlobalNet、efineNet 两部分的级联金字塔网络(Cascaded Pyramid Network,CPN),其中采用金字塔 CNN 结构的 GlobalNet 提取图像多尺度特征,efineNet 舍弃 DeepPose 中参数复杂且低效率 FC 层,而采用反卷积层与均值池化层结构的回归方法,可单次高效提取多个特征点,但输入图像尺度、特征点提取精度还有待提高;文献 6 微软公司 Bin X 等(2018)研究基于反卷积结构特征点提
11、取网络 Simple Baselines,网络前端为 CNN、后端为三层连续反卷积,特征点提取精度与 CPN 一致,网络计算复杂度又降低。特征点提取精度较好深度模型空间结构较大,模型训练、正向传播运算耗时又较长,可利用深度网络结构、卷积层尺度与权重的冗余性精简模型,在达到相同输出精度前提下,得到轻量化卷积核与网络结构 即深度学习模型轻量化,较好解决过量网络参数导致计算时间长、模型过拟合等问题。基于知识蒸馏(Knowledge Distillation,KD)加速方法是深度学习模型轻量化研究热点之一7,其目标是将通过压缩后模型(学生模型)特征点提取精度达到压缩前模型(教师模型)精度水平8。如文献
12、 9谷歌公司(2015)引入 KD 压缩框架,将教师模型集合压缩成具有类似深度学生模型,令教师网络损失函数、学生网络损失函数分别为 LS、LT,调整因子为,KD 训练目标函数 LKD=LS+(1)LT,KD 模型简单,在多种图像分类任务中展示出较好效果;西班牙 Ad-riana omero 等(2015)研究 Hint 预训练 KD 加速方法,经过两步训练的学生网络比教师网络准确度还提高 1%10;香港中文大学 Chen P 等(2021)将教师模型与学生模型的中间卷积层输出相似性为 KD 函数,在不同深度模型取得较好应用性能11。KD 加速方法重点在于研究教师模型、学生模型之间特征表达设计,
13、在焊缝图像参数特征点提取网络与基于 KD 加速方法基础上,研究基于 KD 的压力容器焊缝参数特征点提取实时性提升方法,包括基于深度学习的压力容器焊缝图像特征点提取网络、焊缝参数特征点提取的相邻阶段数据融合 KD 模型等,可在较少损失模型输出精度前提下,压缩深度模型参数量。2基于深度学习的压力容器焊缝图像特征点提取网络图 1 为作者所提出发表在文献 12 压力容器焊缝参数特征点提取网络 EDEnet 网络,网络输入为焊缝轮廓曲线图像 Gweld,网络输出为参数特征点像素坐标信息,其中编码器采用与 DeepLabCut 网络13 相似CNNs 骨干网络(VGG14、esNet15 等),拓展能力强
14、;解码器采用 Simple Baselines 网络(多层反卷积)和DeepLabCut 网络(多分支输出)相似的二分支 3 层反卷积结构,提高泛化能力质量及减少网络训练难度。其中一个 EDEnet 分支(即 EDEnet I)完成特征点粗略区域估算,一个 EDEnet 分支(即 EDEnet II)完成特征点坐标信息修正。图 1压力容器焊缝参数特征点提取网络 EDEnet 网络07廖普,等:基于知识蒸馏 KD 压力容器焊缝参数特征点提取实时性提升方法http /www laserjournal cn考虑到 EDEnet 网络输出特征点应该是激光轮廓曲线上点,可采用如下校正方法提升特征点提取准
15、确度。设网络输出焊缝特征点坐标为(xout,yout),激光轮廓线上任一点坐标为(x,y),校正后激光线上焊缝特征点坐标为(xadj,yadj),那么校正提升公式如下:(xadj,yadj)=argmin(xoutx)2+(youty)2(1)3焊缝参数特征点提取的相邻阶段数据融合 KD 模型图 2 为焊缝参数特征点提取的相邻阶段数据融合 KD 模型,KD 分别选取结构较复杂骨干为 es-net152 的 EDEnet 网络、结构较简单骨干为 esnet50的 EDEnet 网络作为知识蒸馏 KD 的教师模型、学生模型,以二者模型输出特征图逼近程度为训练目标,使得学生模型输出特征点提取精度接近
16、教师模型完成提取实时性能提升。将 EDEnet 反卷积输出部分进一步细分 EDEnet I 输出特征图 Ft4、Fs4,EDEnet II 输出特征图 Ft5、Fs5,其中 esnet 某一阶段输出特征图仅与后一阶段输出特征图数据融合,如由 Fs1与 Fs2数据融合得到FASF1,Fs2与 Fs3数据融合得到 FASF2。图 2焊缝参数特征点提取的相邻阶段数据融合 KD 模型下面重点研究相邻阶段数据融合结构的焊缝参数特征点提取 KD 模型的相邻阶段特征图数据融合算法以及推导损失函数。3.1相邻阶段特征图数据融合算法图 3 为相邻阶段数据融合方法(Adjacent stagedata fusio
17、n,ASF)实现原理框图。图中第 i 阶段学生模型特征图输出 Fsinsicsihsiwsi与第 i+1 阶段学生模型特征图输出 Fsi+1nsi+1csi+1hsi+1wsi+1作为融合数据输入;由 esnet 骨干结构可知,相邻阶段输出 Fsi、Fsi+1维度相差一倍,即 hsi=2 hsi+1,wsi=2 wsi+1,为向下取整算法;Fsi+1经反卷积上采样后输出特征图通道数与 Fsi一致,Fsi与 Fsi+1反卷积输出经过多次通道叠加与矩阵加法后输出信息融合特征图 FASFi。图 3相邻阶段数据融合方法 ASF 实现原理框图令 CON(x,y,c)表示卷积核 Ker=xx、Str=y,
18、输入特征图 c 的卷积计算;CONT(x,y,c)表示反卷积核Ker=xx、Str=y,输入特征图 c 的反卷积计算;CAT(x,y)表示特征图 x、y 通道叠加计算,那么相邻阶段数据融合方法 ASF 融合过程用公式表示为17廖普,等:基于知识蒸馏 KD 压力容器焊缝参数特征点提取实时性提升方法http /www laserjournal cnFCAT1i=CAT(Fsi,CONT(2,2,Fsi+1)FCAT2i=CAT(CONT(2,2,Fsi+1),CONT(1,1,FCAT1i)FCAT3i=CAT(Fsi,CONT(1,1,FCAT1i)FASFi=FCAT2i+FCAT3i(2)3
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 知识 蒸馏 KD 压力容器 特征 提取 实时 提升 方法 廖普
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。