基于ELM-AE和BP算法的极限学习机特征表示方法.pdf
《基于ELM-AE和BP算法的极限学习机特征表示方法.pdf》由会员分享,可在线阅读,更多相关《基于ELM-AE和BP算法的极限学习机特征表示方法.pdf(5页珍藏版)》请在咨信网上搜索。
1、第 卷第 期 年 月北京信息科技大学学报(自然科学版)()文 章 编 号:():基于 和 算法的极限学习机特征表示方法苗军,刘晓,常艺茹,乔元华(北京信息科技大学 网络文化与数字传播北京市重点实验室,北京 ;北京工业大学 应用数理学院,北京 )摘要:基于极限学习机自编码器(,)和误差反向传播(,)算法,针对 提出了一种改进的特征表示方法。首先,使用 以无监督的方式学习紧凑的特征表示,即 输出权重;其次,利用 输出权重来初始化 神经网络的输入权重,然后对 网络进行监督训练;最后,用微调的 网络输入权重初始化 的输入权重参数。在 数据集上的实验结果表明,采用 算法对 学习的参数进行约束,可以得到更
2、紧凑且具有判别性的特征表示,有助于提高 的性能。关键词:极限学习机自编码器;误差反向传播;极限学习机中图分类号:文献标志码:,(,;,):()()(),:();收稿日期:基金项目:北京市自然科学基金项目();天津市安监物联网技术企业重点实验室研究项目();贵州省科技计划项目()作者简介:第一作者 通信作者:苗军,男,博士,副教授。引言单隐 层 前 馈 神 经 网 络(,)是一个简单的三层网络结构,由输入层、隐藏层和输出层组成。具有泛逼近性,可以逼近复杂的非线性函数,也可以对经典参数化技术难以处理的自然和人工合成数据进行建模,因此在许多领域得到了广泛的应用。极限学习机(,)是一种 学习算法,因其
3、学习速度快、泛化能力强,被广泛应用于发动机转速控制 、识别 、蛋白质交互预测 、故障诊断 、图像编码 、自动降噪 和储能系统选址 等领域。在训练阶段,首先用随机值初始化其三层北京信息科技大学学报(自然科学版)第 卷全连接网络的参数,然后使用最小二乘法解析计算网络输出权重,且不对输入权重修改和学习,使之始终保持随机初始化值。在测试或运算阶段,首先通过 非线性激活函数获得隐藏层的响应,然后该响应由隐藏层映射到输出层,后面这一层映射可视为一个线性系统 。因此,的本质是求解线性系统,即在最大程度地减少训练误差的同时确定输出权重 。为了达到理想的性能,通常需要有大量的隐藏节点,这增加了计算成本,容易导致
4、训练后的模型过拟合。有 种方法可以有效地减少隐藏节点的数量:)基于在线增量式,例如进化 ;)基于剪枝的方法,例如最优剪枝 (,)。此外,针对随机生成的参数缺乏紧凑性,等 使用基于梯度的方法对 中输入层到隐藏层的参数进行更新,在少量隐藏节点上实现更好的性能。等 利用极限学习机自编码器(,)学习特征表示,有助于对深层 的输入权重进行初始化。等 提出了约束 (,),并将输入权值约束作为训练数据中类间样本的一组差分向量。等 所选的输入层权重是随机的,但偏向训练数据样本,该方法称为计算输入权重 (,)。等 提出了形状化输入权重,并结合了不同的参数初始化方法来探索紧凑性。本文 重 点 研 究 了 基 于
5、误 差 反 向 传 播(,)和自编码器(,)进行 参数初始化的方法,在文献 的基础上,提出一种新的学习训练方法,不仅获得了更紧凑的参数,而且以更少的隐藏节点和时间获得了更好的性能。极限学习机 是一个三层全连接网络。在 中,输入层和隐藏层之间的权值参数是随机生成的,而隐藏层和输出层之间的权重值通过最小二乘法获得的解析表达式进行求解。也就是说,在 中唯一需要学习的就是输出权重,且学习过程不需要迭代计算权重,因此具有高效的学习效率。对于一个输入样本 ,输出单元的响应值所组成的输出向量由下式定义:()()()式中:为隐藏层节点个数;为第 个隐单元指向所有输出单元的连接权向量;,为输出权重;()(),(
6、),()为输入样本 在隐藏层上的响应向量,可以看作是 的特征空间,其中第 个隐单元对于输入样本 的响应值为()(),()式中:为输入层所有输入单元指向第 个隐单元的连接权向量;为第 个隐单元的偏置或门限阈值;为隐单元的激活函数,通常取 函数。在 中 和 的值在模型训练开始前经随机初始化后就始终保持不变,测试阶段也采用相同的值。个输入样本、在隐藏层上的 个响应 向 量 组 成 了 一 个 隐 藏 层 响 应 矩 阵 (),(),()。同理,个输入样本在输出层上的 个输出向量组成了一个输出矩阵 (),(),(),因 此 有 如 下等式:()在监督学习的情形下,直接令输出矩阵等于由 个样本的标签向量
7、 ()、()、()所 组 成 的 标 签 矩 阵,(),(),(),即 ,则得到:()这样输出权重 能够由下式来计算:()式中:为关于矩阵 的 广义逆矩阵 。的训练算法如下 :步骤:随机分配输入权重 和偏置,。步骤 :计算 个样本的隐藏层响应矩阵:()()()()步骤 :通过式()求解输出权重 。基于 的自编码器当设置极限学习机 的期望输出 时,即将式()中的期望输出矩阵 换成输入样本矩阵时,就得到了如下公式:()式()意味着让 的输出 以无监督的方式第 期苗军等:基于 和 算法的极限学习机特征表示方法重构输入数据 ,即通过重建输入样本来学习样本的无监督重构特征表示 ,那么 经过学习训练后的输
8、出权重 可以看作是原始输入数据 的特征重构矩阵。此时的 称之为基于极限学习机的自编码器()。把 的输出权重 用 表示,由式()可得到求解公式:()由于 ,所以 的输入层和输出层的单元数目相同。权重微调的 如 节所述,的输入权重 在用随机值初始化后始终保持不变,在学习训练的过程中不对其进行更新。这样虽然能节省 学习训练的时间,但由于输入权重是随机值,使得 在测试时并不能取得很好的效果。主要原因是随机确定从输入层到隐藏层的连接权重,导致 的特征表示不紧凑,即指在随机映射的过程中,输入向量通过映射到隐层空间所得到的隐单元响应值 ()在特征映射方向的确定上具有随机性。在 中,通过非监督方式可以对输入样
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 ELM AE BP 算法 极限 学习机 特征 表示 方法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。