神经网络讲义-(2)ppt课件.ppt
《神经网络讲义-(2)ppt课件.ppt》由会员分享,可在线阅读,更多相关《神经网络讲义-(2)ppt课件.ppt(47页珍藏版)》请在咨信网上搜索。
1、人工神经网络及其应用第3讲感知机及BP网络何建华电信系,华中科技大学2003年2月25日1.一、内容回顾二、感知机三、自适应线性元件四、内容小结内容安排2024/5/27 周一2.生物神经元人工神经网络结构神经网络基本学习算法一、内容回顾 2024/5/27 周一3.生物神经元生物神经元模型突触信息处理信息传递功能与特点人工神经网络结构神经网络基本学习算法一、内容回顾2024/5/27 周一4.生物神经元模型一、内容回顾2024/5/27 周一5.生物神经元人工神经网络结构人工神经网络人工神经元模型常见响应函数人工神经网络典型结构神经网络基本学习算法一、内容回顾2024/5/27 周一6.生物
2、神经元人工神经网络结构神经网络基本学习算法权值确定Hebb学习规则误差校正学习规则相近(无教师)学习规则一、内容回顾2024/5/27 周一7.Hebb学习规则Donall Hebb根据生理学中条件反射机理,于1949年提出的神经元连接强度变化的规则如果两个神经元同时兴奋(即同时被激活),则它们之间的突触连接加强 a为学习速率,Vi,Vj为神经元i和j的输出Hebb学习规则是人工神经网络学习的基本规则,几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形 2024/5/27 周一8.误差校正规则用已知样本作为教师对网络进行学习学习规则可由二次误差函数的梯度法导出误差校正学习规则实际上是一
3、种梯度方法不能保证得到全局最优解要求大量训练样本,收敛速度慢对样本地表示次序变化比较敏感2024/5/27 周一9.无教师学习规则这类学习不在于寻找一个特殊映射的表示,而是将事件空间分类为输入活动区域,并有选择地对这些区域响应,从而调整参数一反映观察事件的分部输入可以为连续值,对噪声有较强抗干扰能力对较少输入样本,结果可能要依赖于输入序列在ART、Kohonen等自组织竞争型网络中采用2024/5/27 周一10.2.1 感知机简介2.2 神经元模型2.3 网络结构2.4 功能解释2.5 学习和训练2.6 局限性二、感知机2024/5/27 周一11.感知器由美国计算机科学家罗森布拉特(F.R
4、oseblatt)于1957年提出收敛定理F.Roseblatt证明,如果两类模式是线性可分的(指存在一个超平面将它们分开),则算法一定收敛感知器特别适用于简单的模式分类问题,也可用于基于模式分类的学习控制中 本讲中感知器特指单层感知器2.1 感知机简介2024/5/27 周一12.2.2 神经元模型2024/5/27 周一13.2.3 网络结构ni 第i个神经元加权输入和ai第i个神经元输出,i1,2,s2024/5/27 周一14.2.4 功能解释感知器的基本功能是将输入矢量转化成0或1的输出根据输出值通过测试加权输入和值落在阈值函数的左右对输入数据进行分类2024/5/27 周一15.2
5、.4 功能解释这一功能可以通过在输人矢量空间里的作图来加以解释以输入矢量r2为例对选定的权值w1、w2和b,可以在以p1和p2分别作为横、纵坐标的输入平面内画出W*P+bw1 p1十w2 p2十b0的轨迹它是一条直线,此直线上及其线以上部分的所有p1、p2值均使w1 p1十w2 p2十b0,这些点通过由w1、w2和b构成的感知器的输出为1;该直线以下部分的点通过感知器的输出为02024/5/27 周一16.2.4 功能解释2024/5/27 周一17.当采用感知器对不同的输入矢量进行期望输出为0或1的分类时,其问题可转化为对已知输入矢量在输入空间形成的不同点的位置,设计感知器的权值W和b感知器
6、权值参数设计目的,就是根据学习法则设计一条W*P+b0的轨迹,使其对输入矢量能够达到所期望的划分2.5 网络学习与训练2024/5/27 周一18.学习规则用来计算新的权值矩阵W及新的偏差B的算法权值的变化量等于输入矢量假定输入矢量P,输出矢量A,目标矢量为T的感知器网络2.5 网络学习与训练2024/5/27 周一19.如果第i个神经元的输出是正确的,即aiti,那么与第i个神经元联接的权值wij和偏差值bi保持不变 如果第i个神经元的输出是0,但期望输出为1,即有ai0,而ti1,此时权值修正算法为:新的权值wij为旧的权值wij加上输人矢量pj;新的偏差bi为旧偏差bi加上1 如果第i个
7、神经元的输出为1,但期望输出为0,即有ai1,而ti0,此时权值修正算法,新的权值wij等于旧的权值wij减去输入矢量pj;新的偏差bi为旧偏差bi减去12.5 网络学习与训练2024/5/27 周一20.上述用来修正感知器权值的学习算法在MATLAB神经网络工具箱中已编成了子程序,成为一个名为1earnp.m的函数。只要直接调用此函数,即可立即获得权值的修正量。此函数所需要的输人变量为:输入、输出矢量和目标矢量(P、A和T)调用命令为:dW,dBlearnp(P,A,T)2.5 网络学习与训练2024/5/27 周一21.训练思想在输入矢量P的作用下,计算网络的实际输出A,并与相应的目标矢量
8、T进行比较,检查A是否等于T,然后用比较后的误差量,根据学习规则进行权值和偏差的调整重新计算网络在新权值作用下的输入,重复权值调整过程,直到网络的输出A等于目标矢量T或训练次数达到事先设置的最大值时训练结束2.5 网络学习与训练2024/5/27 周一22.训练算法对于所要解决的问题,确定输入矢量P,目标矢量T,并确定各矢量的维数及神经元数目:r,s和q;(1)参数初始化a)赋给权矢量w在(l,1)的随机非零初始值;b)给出最大训练循环次数max_epoch;(2)初始化网络表达式。根据输人矢量P以及最新权矢量W,计算网络输出矢量A;(3)检查过程。检查输出矢量A与目标矢量T是否相同。如果是,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 神经网络 讲义 ppt 课件
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【w****g】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【w****g】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。