基于完全残差的双分支去雨网络.pdf
《基于完全残差的双分支去雨网络.pdf》由会员分享,可在线阅读,更多相关《基于完全残差的双分支去雨网络.pdf(7页珍藏版)》请在咨信网上搜索。
1、收稿日期:2022-12-06摇 摇 摇 摇 摇 摇 修回日期:2023-04-07基金项目:国家自然科学基金资助项目(61373109)作者简介:宋摇 浩(1998-),男,硕士研究生,通信作者,研究方向为机器学习、深度学习、图像处理;张摇 鸿(1979-),女,教授,博导,博士,CCF会员(47374M),研究方向为跨模态检索、机器学习、数据挖掘。基于完全残差的双分支去雨网络宋摇 浩1,2*,张摇 鸿1,2(1.武汉科技大学 计算机科学与技术学院,湖北 武汉 430065;2.智能信息处理与实时工业系统湖北省重点实验室(武汉科技大学),湖北 武汉 430065)摘摇 要:针对使用深度学习的
2、单幅图像去雨算法会导致细节信息丢失的问题,提出了一个双分支去雨网络,包括雨痕提取分支和细节恢复分支,通过补全细节使去雨图像更接近真实图像。雨痕提取分支的目的是完全提取出雨纹,通过构造特征金字塔来多尺度地学习雨纹信息,并在其中引入执行了全部身份映射的完全残差块来加强特征的重用和传播。为充分利用上下文信息,采用可变形卷积在动态扩大感受野的同时避免了网格伪影的产生,最后输入雨图去除雨痕便得到了初步去雨图。细节恢复分支需要产生细节特征图反馈给初步去雨图像来找回丢失的细节,使用轻量级的完全残差块捕捉特征信息,并用跳跃连接来连接完全残差块提供长距离的信息补偿。实验结果表明,该网络在合成数据集 Rain10
3、0H 中比较RESCAN、SPANet 和 JDNet 等主流去雨方法,在 PSNR 和 SSIM 指标上分别至少提高了 0.09 dB 和 0.02,在真实数据集和自制数据集中的去雨效果和细节保留程度均优于对比方法。关键词:卷积神经网络;单幅图像去雨;多尺度学习;完全残差;可变形卷积中图分类号:TP391.41摇 摇 摇 摇 摇 文献标识码:A摇 摇摇摇 摇 摇 文章编号:1673-629X(2023)11-0057-07doi:10.3969/j.issn.1673-629X.2023.11.009A Dual-branch De-raining Network Based on Full
4、y ResidualSONG Hao1,2*,ZHANG Hong1,2(1.School of Computer Science and Technology,Wuhan University of Science and Technology,Wuhan 430065,China;2.Hubei Province Key Laboratory of Intelligent Information Processing and Real-time Industrial System(Wuhan University of Science and Technology),Wuhan 43006
5、5,China)Abstract:Aiming at the problem that the single image de-raining algorithm using deep learning will lead to the loss of detailedinformation,a dual-branch de-raining network was proposed,including a rain streaks extraction branch and a detail recovery branch,which makes the de-raining image cl
6、oser to the real image by completing the details.The purpose of the rain streaks extraction branch isto completely extract the rain streaks.A feature pyramid was constructed to learn the rain streaks information at multi-scale,andintroduce a fully residual block that performs all identity mapping in
7、 it to enhance feature re-usage and propagation.In order to take fulladvantage of context information,deformable convolution was used to dynamically expand the receptive field while avoiding thegeneration of grid artifacts,at the end input rain image take out rain streaks to obtain a preliminary de-
8、raining image.The detail recoverybranch needs to generate a detail feature map to feed back to the preliminary de-raining image to retrieve the lost details,so a lightweightfully residual block was used to capture feature information,and a skip connections was used to connect the fully residual bloc
9、ks toprovide long-distance information compensation.The experimental results show that the network improves the PSNR and SSIMindicators at least 0.09 dB and 0.02 respectively compared with the populous de-raining methods such as RESCAN,SPANet and JDNetin the synthetic dataset Rain100H,and the de-rai
10、ning effect and the degree of detail retention are better than the comparison methods inboth the real dataset and the self-made dataset.Key words:convolutional neural network;single image de-raining;multi-scale learning;fully residual;deformable convolution0摇 引摇 言计算机视觉技术已经渗透到了人类的日常生活和工业生产中,以户外图像为基础的
11、视觉系统已经在无人机勘察、无人汽车自动驾驶、智能安防目标检测等诸多领域得到了实际的应用,而现有的视觉处理算法都是建立在输入图像是清晰可靠的基础上的,如果图片第 33 卷摇 第 11 期2023 年 11 月摇 摇 摇 摇 摇 摇 摇 摇 摇 摇计 算 机 技 术 与 发 展COMPUTER TECHNOLOGY AND DEVELOPMENT摇 摇 摇 摇 摇 摇 摇 摇 摇 摇Vol.33摇 No.11Nov.摇 2023的分辨率或者可见度较低,对后续目标检测1、语义分割2和图像分类3任务的判定结果和准确度会产生较大影响。雨天图像会导致图像内容模糊不清,因此,去雨常被一些后续的视觉处理任务1
12、-3当作必要的预处理步骤。去雨任务的对象有视频和图像两种类型。对于视频去雨,利用视频的时序特性,使用帧间冗余信息能较为容易地识别和去除雨纹4-5,故而该文的重点是对更具有挑战性的单幅图像进行雨纹移除。单幅图像去雨方法分为传统的基于先验信息的去雨方法和近来的基于深度学习思想的去雨方法。由于缺乏序列信息,在早期单幅图像。通常使用一些先验因素通过建模和分解来去除雨水。Li 等人6提出了层间先验(LP),利用雨纹的低秩属性将雨图分为降雨层和背景层,并通过高斯混合模型对两层建模,该先验对于去除多方向多尺度的雨纹有很好的效果。Luo 等人7为了不混淆雨线层和背景层,提出了一个可以分离两者的判别稀疏编码框架
13、(DSC),最终得到的去雨图像保留了清晰的纹理细节。Kang 等人8提出一个图像的分解方法,采用双向滤波器将降雨图像分解为高频层和低频层,利用字典学习去除高频层中的雨条纹。肖进胜等人9提出了基于景深和稀疏编码的图像去雨算法来解决图像分解算法中低频部分存在的雨痕残留和边缘丢失,以及高频部分的背景误判问题。基于先验知识的去雨方法虽然在一定程度上提升了户外图像去雨方法的效果,但针对大而密集的雨图往往表现的不尽人意,且测试的时间较长,无法满足实时检测任务的需求。最近使用深度学习的图像去雨方法取得了阶段性的进步。Fu 等人10首先将深度学习用于图像去雨领域,把降雨图像分解为高频和低频部分来提取出雨条纹。
14、Yang 等人11提出了一个递归的雨痕检测和清除网络用于联合检测和去除雨条纹。Li等人12设计了一种上下文聚合网络来多阶段地去除雨水。Zhang 等人13构建了一个基于条件生成对抗网络的去雨方法,通过在生成器和鉴别器中引入一个新的精炼损失函数和改进架构来得到更高的视觉质量。张焱等人14提出了一种基于通道注意力和门控循环单元的图像去雨算法(RMUN)来去除雨线。Wang 等人15提出将循环尺度引导网络用于单幅图像去雨,为了探索不同尺度之间的相关性,开发了两种类型的尺度引导块来实现大小尺度之间的相互转换。杨浩等人16提出了一个基于多阶段双残差网络的图像去雨模型,使用多阶段网络逐步去除雨线。刘文进等
15、人17提出了一个端到端的融合残差与注意力机制的去雨网络,将通道注意力与像素注意力串联后再与多尺度融合的空间注意力并行,构成了多注意力模块,然后将多注意力模块以残差块18的方式联合卷积层构成注意力残差块。基于 CNN 的去雨方法主要是设计各类深度网络将输入的雨图转换为雨痕图,然后在原始雨图中抽离出雨痕就可以得到去雨图像,但由于原始雨图中背景图层的细节与雨痕的纹理、方向和大小存在不少相似之处,去雨过程中容易将背景识别为雨痕去除而导致图像的退化,如图像细节损失、光晕伪影、颜色失真等。因此,该文提出了一种基于完全残差的双分支去雨网络来解决该难题。该网络有两条分支分别用于生成雨痕和恢复细节,雨痕提取分支
16、采用了完全残差多尺度聚合块联合可变形卷积块19生成雨痕。细节恢复分支间使用了完全残差块生成细节特征图,然后用特征图结合初步去雨图以生成最终的去雨图像。概括地来说,主要工作包括 3 个方面:(1)提出了一个双分支去雨网络模型,相比于大部分去雨模型仅关注雨痕信息的提取,该文添加了一条细节恢复分支用于恢复去雨后的图像细节信息,弥补由于雨痕提取带来的细节丢失。(2)提出了一种残差块的改进结构完全残差块来用于两条分支,通过执行更多路径的特征映射来加强特征的重用,在雨痕提取分支中,完全残差块以特征金字塔的方式引入组合成完全残差多尺度聚合块,重点关注深度网络中不同尺寸下对雨纹的语义特征提取和特征重用。(3)
17、针对使用固定卷积核会限制感受野大小的问题,在雨痕提取分支中引入了可变形卷积块使网络动态地扩充感受野,以融合更多的空间结构化信息。1摇 基于完全残差的双分支去雨网络本节首先引入完全残差块的结构,然后详细介绍双分支去雨网络的整体框架及各模块的构成。双分支去雨网络的整体框架结构如图 1 所示。图 1摇 双分支去雨网络整体框架结构1.1摇 完全残差块近年来学者们提出了不同形式的网络来对卷积进行优化,相比于图 2(a)的直接网络,图 2(b)的残差块18通过执行身份映射来重新利用特征,解决了随深85摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 计算机技术与发展摇 摇
18、 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 第 33 卷度的增加产生的网格退化问题和梯度消失问题,并成功应用在了图像恢复领域20。为了进一步减少去雨过程中特征信息在传递过程中造成的损失,该文尝试通过执行更多路径的特征映射来加强特征的重用,如图 2(c)所示,相比于残差块在两个或者三个卷积块间使用一条直接映射进行信息传递,该文在每个卷积间都执行特征映射,在延续残差块优点的基础上,进一步加强了特征的重用。图 2摇 完全残差与其他卷积方式的比较1.2摇 雨痕提取分支由于雨痕比背景简单,通常用提取雨痕的方式来对图像去雨。雨痕提取分支可以根据输入的雨图提取出相应的雨痕信息,由提取出
19、的雨痕信息结合原始雨图便能得到背景图像,这一过程可公式化为:B=O-R(1)其中,O 为输入的雨天图像,R 为雨痕图像,B 为去雨后的背景图像。为了充分利用不同层次的特征,该文采用密集连接21来连接由完全残差多尺度聚合块和可变形卷积块组合成的单元块,以级联的方法组合单元块,这样做可以加强单元块之间特征的传递,同时减少了参数量,使网络易于训练。1.2.1摇 完全残差多尺度聚合块多尺度信息有利于提升图像去雨能力22,通过自顶向下的路径将神经网络的低分辨率和高分辨率分别构建成特征金字塔是利用多尺度信息的一个重要手段。Fu 等23采用一组并行子网络分别估计特定金字塔尺度空间中的雨信息,但是它忽略了金字
20、塔层间的相关信息。Zheng 等24使用高层特征来帮助表示相邻的金字塔层,通过迭代去除雨纹,然而,这也丢失了一部分有用的底层信息和尺度特征。与上述两种方法不同,如图 3 所示,该文提出的完全残差多尺度聚合块使用完全残差块充分学习每个尺度的特征,最后将不同的特征融合后输出,形成了连续多尺度的深度学习网络。首先,使用不同卷积核和步长的池化操作来对输入特征进行下采样:Dk=Poolingk(F)(2)其中,k=1,2,K,F 为完全残差多尺度聚合块的输入特征,Poolingk表示卷积核为2k-1伊2k-1、步长为2k-1伊2k-1的最大池化操作,Dk表示在特征金字塔第 k层中经下采样后的尺度特征图。
21、经过池化后的特征图随后输入到完全残差块中来充分学习雨痕信息,由图2(c)中完全残差块的结构可得:图 3摇 完全残差多尺度聚合块FRk=Dk+LR(Conv1(Dk)+LR(Conv2(Dk+LR(Conv1(Dk)(3)其中,FRk为特征金字塔第 k 层中完全残差块的输出,LR 为非线性激活函数 LeakyRelu,Conv1 和 Conv2 为具有 C 通道的 3 3 卷积。完全残差多尺度聚合块的最终输出为各层的输出经上采样后合并然后通过一个1伊1 卷积将通道数置为 C:FRMA=Conv1伊1(ConcatU1(FR1),U2(FR2),Uk(FRk)(4)其中,FRMA 为完全残差多尺度
22、聚合块的输出特征,Uk表示用双线性插值法对 FRk实施2k-1伊 的上采样操作,Concat 指的是对上采样后的特征进行串联。1.2.2摇 可变形卷积块卷积神经网络由于其结构固定,对几何变换进行建模时会受到一些限制,如卷积核只能以固定顺序对特征图采样、池化层只能按固定比率降低分辨率,这些限制会导致感受野大小固定、池化后信息丢失等问题25,虽然可以引入扩张卷积(dilated convolution)来扩大感受野,但这可能会导致网络伪影破坏图像的纹理。动态地扩大感受野能充分利用特征空间的结构化信息,由此引入了可变形卷积来扩展具有自适应形状的感受野,并提高了模型的转换能力,以便更好地进行图像去雨。
23、在普通卷积过程中,卷积核在输入特征图 x 上采样,将采样值和对应权重 w 相乘再求和。对输出特征图 y 上的每个位置 p0有:y(p0)=移pn沂Rw(pn)誗x(p0+pn)(5)其中,R=(-1,-1),(-1,0),(0,1),(1,1)表示一个卷积核为 3伊3,扩张(dilation)为 1 的网格的感受野,pn列举了在网格 R 中的位置。在可变形卷积过程中,网格 R 增加了偏移量 驻pn|n=1,2,N,N=|R|,即在卷积的基础上对每一个采样点增加一个偏移量,公式(5)变为:95摇 第 11 期摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 宋摇 浩等:基于完全残差的双分支去雨网络
24、y(p0)=移pn沂Rw(pn)誗x(p0+pn+驻pn)(6)图 4 给出了可变形卷积块的原理示意图。可以看到,可变形卷积块会对卷积前的图片像素重新整合,变相地实现了卷积核的扩张,使卷积位置聚集在雨痕的周围。其中偏移量感受野是通过一个额外卷积层学习到的,对于一张输入特征图,每个点都需要一个偏移量(可分为 x 轴和 y 轴上的偏移量),所以偏移量感受野的长宽与输入的特征图的长宽相同,但通道数是输入特征图的两倍(存在 x,y 两个方向的偏置量)。图 4摇 可变形卷积原理1.3摇 细节恢复分支雨纹和图像细节有着相似的结构,且缺乏一个语义信息来区别二者,这导致使用深度模型去雨时会因为将图像细节识别为
25、雨纹去除而造成细节的丢失,恢复图像的细节对于提升去雨的质量至关重要,细节恢复分支旨在通过一个附加的网络将去雨后丢失的细节返回到图像当中。对细节的提取重点是要求网络对输入特征充分的利用和参数是轻量级的,完全残差块在延续残差块优点的基础上加强了对特征的重用,且其花费的参数代价极少,十分适用于细节恢复。由雨痕提取分支提取出的雨痕图像 R 根据公式(1)得到初步去雨图像 B,将原始雨图 O 联合初步去雨图像 B 输入到细节恢复分支中,通过一个 3伊3 卷积将输入图像转化为特征图,经过 L 个完全残差块提取特征后,用两个 3伊3 卷积从特征图中恢复 RGB 通道,中间使用跳跃连接(skip connec
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 完全 分支 网络
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。