基于改进ShuffleNet V2的轻量级防风药材道地性智能识别.pdf
《基于改进ShuffleNet V2的轻量级防风药材道地性智能识别.pdf》由会员分享,可在线阅读,更多相关《基于改进ShuffleNet V2的轻量级防风药材道地性智能识别.pdf(11页珍藏版)》请在咨信网上搜索。
1、2023 年 6 月 第 5 卷 第 2 期Jun.2023 Vol.5,No.2智慧农业(中英文)Smart Agriculture基于改进ShuffleNet V2的轻量级防风药材道地性智能识别赵毓1,任艺平2,朴欣茹1,郑丹阳1,李东明1,3*(1.吉林农业大学 信息技术学院,吉林长春 130118;2.吉林农业大学 生命科学学院,吉林长春 130118;3.无锡学院 物联网工程学院,江苏无锡 214063)摘要:目的目的/意义意义目前,对于防风药材产地和品质的鉴别方法主要是根据其物理或化学特征,其方法需对中药材进行分离提取,存在耗时长,费用高,专业性强,技术难度大等问题,不利于推广应用
2、。随着深度学习的不断发展,其无需人工提取特征、分类精度高等优点被广泛应用在中药材的识别之中。方法方法针对大多数卷积神经网络模型在识别防风药材时计算量大、精度低的问题,本研究提出了一种改进的ShuffleNet V2的轻量级防风道地性识别模型。在不降低网络性能的情况下调整模型架构,减少模型参数量和计算量,用沙漏残差网络(Hourglass Residual Network)代替传统残差网络,同时引入SE(Squeeze-and-Excitation)注意力机制,把具有附加信道注意力的沙漏残差网络嵌入到ShuffleNet V2中,使用SiLU激活函数替换 ReLU 激活函数,丰富局部特征学习,从
3、而提出轻量化的中药防风道地性识别模型 Shuffle-Hourglass SE。为了验证本文所提出模型的有效性,选用 VGG16、MobileNet V2、ShuffleNet V2和SqueezeNet V2四种经典网络模型进行对比实验。结果和讨论结果和讨论结果表明,本研究提出的模型Shuffle-Hourglass SE获得了最佳性能。在测试集上取得95.32%的准确率、95.28%的召回率,F1分数达到95.27%,测试时间、模型大小为246.34 ms和3.23 M,不仅在传统CNN网络中是最优的,在轻量级网络中也具有较大优势。结论结论本研究所提出的模型在保持较高识别精度的同时占用较少
4、的储存空间,有助于在未来的低性能终端上实现防风道地性的实时诊断。关键词:防风;道地性识别;ShuffleNet V2;SE注意力机制;沙漏残差网络;中药材;轻量级模型中图分类号:R282.5;TP391.4 文献标志码:A 文章编号:SA202304003引用格式:赵毓,任艺平,朴欣茹,郑丹阳,李东明.基于改进ShuffleNet V2的轻量级防风药材道地性智能识别J.智慧农业(中英文),2023,5(2):104-114.DOI:10.12133/j.smartag.SA202304003ZHAO Yu,REN Yiping,PIAO Xinru,ZHENG Danyang,LI Dongm
5、ing.Lightweight intelligent recognition of Saposhnikovia Divaricata(Turcz.)Schischk originality based on improved ShuffleNet V2J.Smart Agriculture,2023,5(2):104-114.DOI:10.12133/j.smartag.SA202304003(in Chinese with English abstract)1 引 言中药材对人体疾病的预防及控制具有重要的作用。防 风(Saposhnikovia divaricata(Turcz.)Schi
6、schk)是伞形科植物防风未抽薹的干燥根,微甘、味辛、性温,是中国东北地区具有解表祛风、止痉和胜湿之功效的著名道地药材,其道地产区位于内蒙古、吉林、辽宁和黑龙江四省交界处。目前,对于防风药材产地和品质的鉴别方法主要是根据其物理或化学特征1,但是无法对防风药材的道地性2质量优劣进行准确衡量。目前已有相关研究对药材道地性进行建模识别。张冬月等3采用PEN3电子鼻系统对不同产地通关藤及其混淆品气味进行定量表征,建立真伪品及道地性识别模型,并采用判别因子分析验证模型的准确性,可达90%以上。刘飞等4利用傅里叶变换红外光谱结合判别分析对三七的道地性及产地收稿日期:2023-04-07基金项目:吉林省科技
7、厅重点研发项目(20210204050YY);吉林省教育厅科研项目(JJKH20210747KJ);吉林省环保厅项目(202107);吉林省生态环境厅科研项目(吉环科字第2021-07号);通辽市科技局重点研发项目(TLCXYD202103)作者简介:赵 毓,研究方向为计算机视觉、图像处理。E-mail:*通信作者:李东明,博士,教授,研究方向为计算机视觉,图像处理及光学检测等。E-mail:赵毓等:基于改进ShuffleNet V2的轻量级防风药材道地性智能识别Vol.5,No.2进行鉴别研究,测试了11个县13个种植点的136株三七主根样品的红外光谱,预测正确率为 76.5%。Zhang等
8、5通过化学计量学方法,对不同产地的药材进行分类、区分和建模,最终实现产地追溯的目的。上述现代技术虽然解决了传统辨状论质的主观性强的问题,使鉴别数据化、客观化,在中药的道地性区分上有较好的应用前景,但其方法需对中药材进行分离提取,存在耗时长、费用高、专业性强、技术难度大等问题,不利于推广应用。深度学习算法的出现大大提高了传统识别任务中的识别率,尤其是深度学习领域中的卷积神经网络(Convolutional Neural Networks,CNN),正在迅速成为图像识别的首选方法。人们提出对基于CNN模型进行各种修改,从而实现高精度和高速度处理视觉任务6-9。随着基于 CNN模型的发展,研 究 人
9、 员 提 出 了 一 系 列 优 秀 的 网 络,包 括AlexNet 10、VGGNet 11、GoogLeNet 12、ResNet 13 和DenseNet14等,并逐渐应用于植物病害严重程度识别的研究。随着深度学习的不断发展,其无需人工提取特征、分类精度高等优点被广泛应用在不同领域,同时不断有研究将深度学习引入中药材的识别之中,其中中药材的种类和其质量的识别是重中之重。赵潇潇15利用CNN对不同产地的枸杞外观图像进行特征提取,最终实现枸杞道地性在线识别,准确率可达96%。李东明等16将协调注意力模型与残差模块进行融合,在迁移学习和数据扩充方式下新模型对中药材图像的识别准确率可达 97.
10、23%。Lyu等17收集了 100种常见中药的图像,用目前主流的目标检测模型,结果显示YOLOv5模型在识别各种TCM(Traditional Chinese Medicine)方面有明显的优势,平均准确率为 94.33%。Xing 等18采用PyTorch 和 Keras 框架,手工构建了一个 DenseNet模型,用于识别各种中药,结合转移学习的思想,最高识别率可以达到97.5%。但是,大多数CNN由于自身深度且复杂的网络结构而具有较大的参数量和计算量,使得模型依赖于计算机能力强大的GPU难以应用于硬件资源有限的便携式设备,不利于实施中药材道地性的便捷识别。为了使CNN应用于移动端和嵌入式
11、设备,一些研究人员提出了轻量化神经网络,例如 Xception19、MobileNet20、MobileNet V221和 ShuffleNet V222等。轻量化网络参数量较小、对内存要求较低,它们在速度和准确性之间实现了良好的平衡,适用于内存资源受限的移动端设备,目前,基于轻量化网络的识别已逐渐成为一个研究热点。刘雪纯等23对 MobileNet V2的预训练模型参数进行多次微调,实现了12类中药材图片识别,最终在验证集上精度可达93%,训练时间上也比普通卷积神经网络节省了2倍以上。本研究针对中药材防风同物种空间形态和颜色纹理特征较为复杂,区分度较低等问题,提出一种附加信道注意力的沙漏残差
12、网络用于防风道地性识别,改进后的模型可以在保证高分类精度的同时减少对内存空间的占用,可以有效地应用于不同性能的硬件平台,为进一步开发低成本的基于终端的防风道地性自动识别系统提供技术和方法。2 研究方法2.1 深度可分离卷积为了加快网络的计算速度并减少计算量,MobileNet网络提出了深度可分离卷积。传统的卷积使用NN卷积核通过卷积运算,深度可分离卷积分为深度卷积和逐点卷积24,相当于使用通道数为1的卷积核对输入特征的每个通道执行单独的卷积运算。输入图像大小为HW,H代表特征图的高度,W代表其宽度,N是输入通道的数量,卷积核的大小用KK表示,M和N分别表示卷积核和输出特征映射通道的数量,计算成
13、本和深度卷积参数数量分别为HWMN和MN。如公式(1)所示,深度可分离卷积计算成本与标准卷积计算成本的比率为:HWNK2+HWMNHWNK2M=1M+1K2(1)在ShuffleNet V2中,M比K2大得多,并且深度卷积内核大小 K通常为 3,因此与标准卷积相比,计算成本和参数数量均可以显著降低到1/81/9。2.2 模型网络结构调整为了在不影响模型性能的基础上,尽可能减少参数以及计算量的消耗,在本研究中,ShuffleNet 105Vol.5,No.2智慧农业(中英文)Smart AgricultureV2 中 Stage2、Stage3 和 Stage4 的堆叠个数都降为1个。在网络初始
14、33常规卷积之后,使用channel数为24、卷积核大小为33,步长为2的深度可分离卷积,以提出更加有效且丰富的特征,ShuffleNet V2 网络结构如图 1 所示,改进后网络模型Shuffle-Hourglass SE的内部参数如表1所示,表中阶段2,阶段3,阶段4均由基本单元和下采样单元两部分组成,步长为2时,表示使用下采样单元缩小输出的尺寸,步长为1时,使用基本单元特征提取,此时不进行下采样操作。2.3 附加信道注意力的沙漏残差网络ShuffleNet22、MobileNet21、Xception19、ResNet13 等利用信道混洗和深度可分离卷积来优化ResNet的残差结构,既保
15、证了网络的准确性,又提高了模型的运算效率。与倒残差模块不同,沙漏残差网络可以从高维特征获取到更多的信息,并解决shortcut连接所带来的梯度问题。使用深度卷积,然后利用批量标准化和激活函数将输入特征图分为两批X1和X2,X2通过深度可分离卷积、两次11卷积、再进行深度可分离卷积,然后利用批量标准化、Sigmoid激活函数25和X1和X2与深度和非深度特征融合,最后使用信道混洗26 来混合深度和非深层特征。在特征向量中加入了激活函数和线性映射,增加了更多的非线性条件,可以更好地拟合通道之间的复杂相关性,最后,将计算出的通道特征与原始特征图相乘,得到通道保持的输出。挤压和激励结构SE(Squee
16、ze-and-Excitation)模块的结构如图 2所示。首先,具有通道总数 C 和大小HW 的特征图 U 通过全局池Fsq被平坦化为(1,1,C)的特征向量,如公式(2)所示。Zc=Fsq(uc)=1H Wi=1Hj=1Wuc(i,j)(2)其中,Fsq为压缩操作;uc是特征图U被平坦化为(1,1,C);Zc为关注的通道数。将SE通道注意力27模块插入沙漏残差网络的深度可分离卷积后,对深度可分离卷积的输出进行图 1 ShuffleNet V2网络结构Fig.1 Network architecture of ShuffleNet V2表 1 Shuffle-Hourglass SE模型内部
17、参数Table 1 Internal parameters of Shuffle-Hourglass SE model结构层输入卷积1深度可分卷积2阶段2阶段3阶段4卷积5平均池化全连接输出尺寸2242241121125656282828281414141477777711卷积核大小333377步长222121211重复数/次111111111输出通道24242444889762048吉林/内蒙古/甘肃/黑龙江/河北106赵毓等:基于改进ShuffleNet V2的轻量级防风药材道地性智能识别Vol.5,No.2通道维度的特征提取,附加信道注意力的沙漏残差网络结构模型如图 3 所示,通道混洗过
18、程如图 4所示。2.4 SiLU激活函数不同产地的防风间存在数据不平衡问题,图片数量较少的类别在训练过程中容易出现过拟合现象,ShuffleNet V2 中的 ReLU 激活函数,通过引入 ReLU 输入的稀疏性,可以减少 ReLU 输入的不必要负值,可以提高训练网络的泛化能力,如公式(3)所示。f(x)=max(0,x)(3)其中,x为激活函数的输入;max()为求最大值函数。SiLU激活函数28 在保留ReLU激活函数优点的同时,可以更好地解决神经元坏死问题,函数表达式如公式(4)所示。ReLU和SiLU函数对比图像如图5所示,与ReLU不同,SiLU是平滑的、非单调的,将SiLU激活函数
19、替换 ShuffleNet V2 下采图 2 挤压和激励块结构(SE模块)Fig.2 Structure of extrusion and excitation block(SE module)图3 附加信道注意力的沙漏残差网络Fig.3 Hourglass residual network with additional channel attention图 4 通道混洗过程Fig.4 Channel mixing process107Vol.5,No.2智慧农业(中英文)Smart Agriculture样单元和基本单元中的 ReLU激活函数,可以提高模型的整体性能。f(x)=x1+ex
20、(4)2.5 ShuffleNet V2网络结构改进研究发现,反向残差块是由中间扩展层编码的特征图首先投影到低维特征图,存在信道压缩而无法保留足够的有用信息的问题,沙漏残差块主分支中的第一个和最后一个卷积层是保留通道的空间深度卷积层,可以从高维特征获取到更多的信息。经借鉴沙漏残差重要思想,本研究将改进的残差模块引进到ShuffleNet V2中,用沙漏残差网络代替倒残差网络,将SE通道注意力模块插入沙漏残差网络的深度可分离卷积后,把具有附加信道注意力的沙漏残差网络嵌入 ShuffleNet V2中,SE注意力通过控制通道比例的大小来增强重要特征,削弱不重要特征,使提取的特征更有方向性。用 Si
21、LU 替换ShuffleNet V2下采样单元和基本单元中的ReLU激活函数,可以增强模型的泛化能力,同时在不降低网络性能的情况下调整模型架构,减少模型参数量和计算量。本研究提出的改进的ShuffleNet V2网络结构ShuffleNet-Hourglass SE模型如图6所示。3 试验及结果分析 3.1 数据集来源及预处理本研究所用防风样品由吉林农业大学中药材学院实验室提供,均为主要产区的正品样本,包括来自黑龙江、吉林、河北、甘肃、内蒙古5个产地共计1000余份。在室内白日光下使用手机拍摄获取5个产地的防风药材图像共5234幅,充分考虑了不同防风的地域分布差异。利用随机翻转、随机裁剪、亮度
22、和对比度增强等处理,将数据集扩充至10,120幅防风图像,增强数据样本,部分数据集图像如图7所示。将整个数据集的80%作为训练集,另外20%作为测试集,数据集划分如表2所示。3.2 试验设置为了保证迭代效率并提高模型的稳定性和可推广性,每幅输入图像像素大小被固定为224224,优化器使用Adam,批次大小设置为32,学习率初始化为 0.001,迭代次数为 50次,试验在 Linux操作系统上进行,CPU型号为Intel(R)Core(TM)i7-10900K,RAM 为 32 GB 的 DDR4,CUDA 版本为11.4,并构建基于Python 3.9编程语言的Pytorch深度学习框架。3.
23、3 模型评估标准通过召回率(Recall)、精确率(Precision)、准确率(Accuracy)、F1分数(F1 score)等相关参数进行网络性能评估,其相关计算如公式(5)(8)所示,并且把模型参数量和模型在单幅防风图片 识 别 上 的 平 均 时 间 作 为 模 型 复 杂 度 的 对 比指标29。Accuracy=TP+TNTP+TN+FP+TN 100%(5)Precision=TPTP+FP 100%(6)Recall=TPTP+FP 100%(7)F1=2PrecisionRecallPrecision+Recall100%(8)其中,TP 为网络识别正确的正样本的数量;TN
24、为网络错误识别的负样本数量;FP为网络错误识别的正样本数量。3.4 实验结果与分析3.4.1不同模型性能对比实验为了评价本研究所提出模型的有效性,选择VGG16、MobileNet V2、ShuffleNet V2和SqueezeNet V2四种模型与本模型30进行对比实验。为保证对比合理性,五种模型均使用本文所提出的数据集,图 5 SiLU和ReLU函数对比图像Fig.5 SiLU and ReLU functions compare image108赵毓等:基于改进ShuffleNet V2的轻量级防风药材道地性智能识别Vol.5,No.2并在相同的参数下进行训练,最后通过在测试集和训练集
25、损失值、准确率、召回率、F1分数作为模型性能的评价指标,实验结果如图8和图9所示。从图8和图9可以看出,本研究所提出的Shuffle-Hourglass SE模型实现了更低的损失值和更高的图 6 ShuffleNet-Hourglass SE防风识别模型Fig.6 Saposhnikovia divaricata(Turcz.)Schischk identification model ShuffleNet-Hourglass SE 图 7 防风的部分数据集图像Fig.7 Selected images of the dataset for Saposhnikovia divaricata(T
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于改进ShuffleNet V2的轻量级防风药材道地性智能识别 基于 改进 ShuffleNet V2 轻量级 防风 药材 道地 智能 识别
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。