信道失真率函数.pptx
《信道失真率函数.pptx》由会员分享,可在线阅读,更多相关《信道失真率函数.pptx(53页珍藏版)》请在咨信网上搜索。
1、第四章信息率失真函数4.1基本概念基本概念4.2离散信源的信息率失真函数离散信源的信息率失真函数4.3连续连续信源的信息率失真函数信源的信息率失真函数4.4保真度准则下的信源编码定理保真度准则下的信源编码定理24.1基本概念4.1.1失真函数与平均失真度失真函数与平均失真度4.1.2信息率失真函数的定义信息率失真函数的定义4.1.3信息率失真函数的性质信息率失真函数的性质率失真函数的定义域率失真函数的定义域率失真函数对允许平均失真度的下凸性率失真函数对允许平均失真度的下凸性率失真函数的单调递减和连续性率失真函数的单调递减和连续性3引入限失真的必要性失真在传输中是不可避免的失真在传输中是不可避免
2、的连连续续信信源源的的绝绝对对熵熵为为无无限限大大,若若要要无无失失真真地地进进行行传传输输,则则要要求求信信息息传传输输率率也也为为无无限限大大,然然而而现现实实世世界界中中信信道道带带宽宽总总是是有有限限的的,信信道道容容量量总总有有一一定定限限度度,因因此此不不可可能实现完全无失真的信源信息的传输能实现完全无失真的信源信息的传输另另一一方方面面,从从无无失失真真信信源源编编码码考考虑虑,由由于于要要求求码码字字包包含含的的信信息息量量不不小小于于信信源源的的熵熵,所所以以对对于于连连续续信信源源,要要用用无无限限多多个个比比特特才才能能完完全全无无失失真真地地来来描描述述,这这是是不不现
3、现实的实的即即使使是是离离散散信信源源,若若要要处处理理的的信信息息量量很很大大,采采用用无无失失真真编编码码将将使使得得信信息息的的存存储储和和传传输输成成本本非非常常高高,而而且且在在很多场合,过高的信息传输率是不必要的很多场合,过高的信息传输率是不必要的4引入限失真的必要性(续)信信宿宿只只具具有有有有限限的的的的分分辨辨能能力力与与灵灵敏敏度度,超超过过分分辨辨能能力力与灵敏度的信息传送过程是毫无意义的与灵敏度的信息传送过程是毫无意义的例例1:由由于于人人耳耳能能够够接接收收的的带带宽宽和和分分辨辨率率是是有有限限的的,因因此此对对数数字字音音频频传传输输的的时时候候,就就允允许许有有
4、一一定定的的失失真真,并且对欣赏音乐没有太大的影响并且对欣赏音乐没有太大的影响例例2:对对于于数数字字电电视视,由由于于人人的的视视觉觉系系统统的的分分辨辨率率有有限限,并并且且对对低低频频比比较较敏敏感感,对对高高频频不不太太敏敏感感,因因此此也也可以损失部分高频分量可以损失部分高频分量例例3:放放映映电电影影,理理论论上上要要完完全全无无失失真真地地表表现现出出一一个个连连续续动动作作,需需要要用用无无穷穷多多个个静静态态画画面面连连续续放放映映,但但利利用用人人眼眼的的“视视觉觉暂暂留留性性”,只只要要每每秒秒钟钟连连续续放放映映24幅幅静态画面,就几乎让观众感觉不到失真的存在静态画面,
5、就几乎让观众感觉不到失真的存在5引入限失真的必要性(续)如如果果允允许许信信息息有有某某些些失失真真,就就可可以以大大大大降降低低信信息息传传输输速速率率,从从而降低通信成本而降低通信成本应用种类 象素数/行 行数/帧 信息传输率(码率)bps压缩前压缩后HDTV19201080 1.18 G2025 M普通电视普通电视 720480167 M 48 M会议电视会议电视 352288 36.5 M 1.52 M电视电话电视电话128112 5.2 M 56 K在在允允许许一一定定程程度度失失真真的的条条件件下下,怎怎样样用用尽尽可可能能少少的的码码符符号号来来表表达达信信源源的的信信息息,也也
6、就就是是信信源源熵熵所所能能压压缩缩的的极极限限或或者者说说编编码码后后信信息传输率压缩的极限值是多少?息传输率压缩的极限值是多少?保真度准则下的离散信源编码定理:在在允允许许一一定定失失真真度度 D 的的情情况况下下,信信源源输输出出的的信信息息传传输输率率可可压压缩缩到到极极限限值值信信息息率率失失真真函数函数 R(D)6失真函数由由于于本本章章学学习习内内容容只只涉涉及及信信源源编编码码问问题题,因因此此可可以以把把从从信信源源编编码码器器到到信信源源译译码码器器之之间间的的所所有有部部件件合合在在一一起起等等效效为为一一个个有有噪噪声声的试验信道的试验信道试验信道试验信道信源信源信源信
7、源译码器译码器信源信源编码器编码器无无损损无无噪噪信信道道信宿信宿7对每一对对每一对(xi,yj),指定一个,指定一个非负的函数的函数失真函数(续)称称为为单单个个符符号号的的失真度或或失真函数,表表示示离离散散信信源源发发出出一一个个符号符号 xi 而在接收端再现成而在接收端再现成 yj 所引起的误差和失真。所引起的误差和失真。上述非负的失真函数共有上述非负的失真函数共有 n m 个,可以整体表示成个,可以整体表示成失真矩阵由由于于信信源源发发出出的的符符号号 X 和和信信宿宿收收到到(再再现现)的的符符号号 Y 均均是是随随机机变变量量,因因此此单单个个符符号号的的失失真真函函数数 d(x
8、i,yj)也也是是随随机机变变量量(的的一一次次实现实现)8常用的失真函数失失真真函函数数是是根根据据人人们们的的实实际际需需要要和和失失真真引引起起的的损损失失、风风险险、主主观感觉上的差别等因素人为规定的,可以有多种形式观感觉上的差别等因素人为规定的,可以有多种形式平方误差失真函数平方误差失真函数 绝对误差失真函数绝对误差失真函数 相对误差失真函数相对误差失真函数 误码失真函数误码失真函数 平平方方失失真真和和绝绝对对失失真真只只与与(yj-xi)有有关关,而而不不是是分分别别与与 xi,yj 有有关关,在在数数学学处处理理上上比比较较方方便便;相相对对失失真真与与主主观观特特性性比比较较
9、匹匹配配,因因为为主主观观感感觉觉往往往往与与客客观观量量的的相相对对数数成成正正比比,但但其其数数学学处处理理比比较困难较困难误误码码失失真真函函数数表表明明,只只要要发发送送符符号号与与接接收收符符号号不不同同,由由此此引引起起的的失失真真都都相相同同(为为常常数数 a a )。若若常常数数值值为为 1,则则称称为为汉明失真适用于适用于连续信源连续信源适用于离散信源适用于离散信源9平均失真度由由于于单单个个符符号号的的失失真真函函数数 d(xi,yj)是是随随机机变变量量(的的一一次次实实现现),它它只只能能表表示示两两个个特特定定的的具具体体符符号号 xi,yj 之之间间的的失失真真,无
10、无法法从从整整体上描述信道平均每传递一个符号所引起失真大小体上描述信道平均每传递一个符号所引起失真大小定定义义平均失真度为为失失真真函函数数的的数数学学期期望望,即即 d(xi,yj)在在 X 和和 Y的联合概率空间的联合概率空间 P(XY)中的统计平均值中的统计平均值平均失真度平均失真度 与信源统计特性与信源统计特性 、信道统计特性、信道统计特性 和和规规定定的的失失真真度度 有有关关;如如果果信信源源和和失失真真度度给给定定以以后后,就只是信道统计特性的函数就只是信道统计特性的函数如如果果规规定定平平均均失失真真度度不不超超过过某某一一允允许许失失真真的的上上界界 D(最最大大允允许许平均
11、失真度,简称平均失真度,简称允许平均失真度),则称:,则称:为为保真度准则满满足足保保真真度度准准则则的的限限定定条条件件下下,求求信信息息传传输输率率的的最最小小值值10符号序列的失真度若若信信源源是是单单符符号号离离散散无无记记忆忆信信源源的的 N 次次扩扩展展,其其限限失失真真编编码码可可视视为为 N 长长随随机机序序列列 经经由由单单符符号号离离散散无无记记忆忆信信道的道的 N 次扩散信道,再现为次扩散信道,再现为 N 长的随机序列长的随机序列 N 长输入符号序列长输入符号序列 与与 N 长长输出符号序列输出符号序列 间的失真函数:间的失真函数:由于由于 N 次扩展信源和次扩展信源和
12、N 次扩展信道都是无记忆的,因此:次扩展信道都是无记忆的,因此:11符号序列的平均失真度符号序列的平均失真度:符号序列的平均失真度:符号序列的保真度准则:符号序列的保真度准则:为为同同一一单单符符号号离离散散无无记记忆忆信信源源 X 在在 N 个个不不同同时时刻刻通通过过同同一一单单符符号号离离散散无无记记忆忆信信道道所所造造成成的的平平均均失失真真度度,因因此此都都等等于于单单符符号号离离散散无无记记忆忆信信源源 X 通通过过单符号离散无记忆信道所造成的平均失真度,即:单符号离散无记忆信道所造成的平均失真度,即:124.1.2信息率失真函数的定义在在单单符符号号信信源源已已知知并并规规定定了
13、了单单符符号号失失真真度度后后,并并非非所所有有的的信信道道都都能能满满足足保保真真度度准准则则 ;凡凡满满足足保保真真度度准准则则的的信信道道称称为为 D 失真许可试验信道,所有的,所有的 D 失真许可试验信道构成集合:失真许可试验信道构成集合:对对于于离离散散无无记记忆忆 N 次次扩扩展展信信源源和和 N 次次扩扩展展信信道道,相相应应的的 D 失失真许可试验信道为:真许可试验信道为:对对于于固固定定的的信信源源分分布布,平平均均互互信信息息是是信信道道转转移移概概率率的的下下凸凸函函数数,也也就就是是说说,存存在在一一个个信信道道使使给给定定的的信信源源经经过过此此信信道道传传输输时时,
14、信信道的平均互信息达到最小道的平均互信息达到最小信信源源限限失失真真编编码码后后的的信信息息传传输输率率 R 就就是是通通过过试试验验信信道道的的平平均均互互信信息息 I(X;Y),为为了了便便于于传传送送和和处处理理,人人们们总总是是希希望望将将信信息息传传输率输率 R 压缩到最小压缩到最小13信息率失真函数的定义(续)给给定定信信源源和和失失真真度度后后,在在所所有有的的 D 失失真真许许可可试试验验信信道道中中,寻寻找找一一个个信信道道使使得得从从输输入入端端传传送送过过来来的的信信息息量量最最小小。这这个个最最小小的的平平均互信息称为均互信息称为信息率失真函数 R(D),简称,简称率失
15、真函数:在在研研究究 R(D)时时,计计算算 I(X;Y)所所用用的的条条件件概概率率并并没没有有实实际际信信道道的的含含义义,只只是是为为了了求求平平均均互互信信息息的的最最小小值值而而引引用用的的、假假想想的的可可变变试试验验信信道道的的信信道道特特性性。实实际际上上这这些些信信道道反反映映的的仅仅是是不不同同的的限限失真信源编码,或称失真信源编码,或称信源压缩R(D)是是在在限限定定允允许许平平均均失失真真为为 D 时时信信源源最最小小信信息息传传输输率率;可可以以通通过过改改变变试试验验信信道道特特性性来来达达到到,实实质质上上是是选选择择一一种种限限失失真真信信源源编编码码方方式式使
16、使试试验验信信道道的的信信息息传传输输率率为为最最小小,即即在在满满足足保保真真度度准则下,使信源的压缩率达到最高准则下,使信源的压缩率达到最高14率失真函数的定义域(D 的下界)允许失真度允许失真度 D 是平均失真度的上限,而是平均失真度的上限,而 是非负函数是非负函数 的的数数学学期期望望,因因此此 D 的的下下界界至至多多为为 0,对对应应于于无无失失真真的的情情况况,此时信息传输率应等于信源输出的信息熵,即此时信息传输率应等于信源输出的信息熵,即 D 能能否否达达到到下下界界 0,与与单单个个符符号号的的失失真真函函数数有有关关;在在给给定定的的失失真真矩矩阵阵中中,对对每每一一个个
17、xi,找找一一个个 yj 与与之之对对应应,使使 d(xi,yj)最最小小,不不同同的的 xi 对对应应的的最最小小 d(xi,yj)也也不不相相同同。相相当当于于在在失失真真矩矩阵阵的的每每一一行行找找一一个个最最小小的的 d(xi,yj),然然后后对对各各行行不不同同的的 d(xi,yj)求求统统计平均值,就是信源平均失真度上限的下界计平均值,就是信源平均失真度上限的下界 显显然然,如如果果失失真真矩矩阵阵的的每每一一行行至至少少有有一一个个 0 元元素素,信信源源平平均均失失真度上限真度上限 D 的下界才能取到的下界才能取到 015率失真函数的定义域(D 的上界)R(D)是是在在一一定定
18、约约束束条条件件下下平平均均互互信信息息 I(X;Y)的的最最小小值值,由由于于I(X;Y)是非负的,其下界为至多为是非负的,其下界为至多为 0如如果果不不允允许许失失真真,平平均均传传送送一一个个信信源源符符号号所所需需的的信信息息传传输输率率最最大大,R(D)可可以以达达到到信信源源熵熵;反反之之如如果果允允许许一一定定的的失失真真,则则信信息息传传输输率率可可以以小小一一些些;或或者者说说信信息息传传输输率率越越小小,容容忍忍的的平平均均失失真度越大真度越大显显然然,当当 R(D)达达到到下下界界 0 时时,允允许许的的平平均均失失真真度度最最大大,由由于于满满足足 R(D)=0 的的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 信道 失真 函数
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【天****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【天****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。