第四章古典线性回归模型.doc
《第四章古典线性回归模型.doc》由会员分享,可在线阅读,更多相关《第四章古典线性回归模型.doc(18页珍藏版)》请在咨信网上搜索。
1、上课材料之五第四章 古典线性回归模型在引论中,我们推出了满足凯恩斯条件的消费函数与收入有关的一个最普通模型:C=+X+,其中0,01是一个随机扰动。这是一个标准的古典线性回归模型。假如我们得到如下例1的数据例1 可支配个人收入和个人消费支出年份可支配收入个人消费1970751。6672。11971779.2696.81972810.3737。11973864.7767.91974857.5762.81975847。9779。41976906。8823。11977942.9864.31978988.8903。219791015.7927。6来源:数据来自总统经济报告,美国政府印刷局,华盛顿特区,
2、1984.(收入和支出全为1972年的十亿美元)一、线性回归模型及其假定一般地,被估计模型具有如下形式:yi=+xi+i,i=1,n,其中y是因变量或称为被解释变量,x是自变量或称为解释变量,i标志n个样本观测值中的一个.这个形式一般被称作y对x的总体线性回归模型。在此背景下,y称为被回归量,x称为回归量。构成古典线性回归模型的一组基本假设为:1。 函数形式:yi=+xi+i,i=1,,n,2. 干扰项的零均值:对所有i,有:Ei=0。3。 同方差性:对所有i,有:Vari=2,且是一个常数。4。 无自相关:对所有ij,则Covi,j=0。5。 回归量和干扰项的非相关:对所有i和j有Covxi
3、,j=0。6. 正态性:对所有i,i满足正态分布N(0,)。模型假定的几点说明:1、函数形式及其线性模型的转换具有一般形式对任何形式的g(x)都符合我们关于线性模型的定义。例 一个常用的函数形式是对数线性模型:。取对数得:。()这被称作不变弹性形式。在这个方程中,y对于x的变化的弹性是,它不随x而变化。与之相反,线性模型的弹性是:。对数线性模型通常用来估计需求函数和生产函数。尽管线性模型具有巨大的灵活性,但在实际中存在着大量的非线性模型的形式。例如,任何变换也不能将和(01)转化为线性回归模型.2、回归量对于回归量即解释变量我们有两种处理方法,第一种将X设定为非随机变量,第二种方法将X设定为随
4、机变量.1)当X为非随机变量xi的值在yi的概率分布中是已知的常数。这条假定暗示yi的每一个值都是一个概率分布的观察值,这个概率分布具有均值和方差。此外,有必要假定,对n1是一个有限正数,这个假定被称作识别条件,若xi没有任何变化,我们所有的观测值将落在一条垂直线上,我们的观测数据将不允许我们作出关于回归+x的任何推断.这个识别条件等同于子样的极差max(X1,Xn)min(X1,,Xn)0。2)当X为随机变量若x被当作一个随机变量,则假定1成为一个对y和x的联合分布的陈述。我们就用条件期望和方差来处理。3、随机干扰项1)如果干扰项不是零均值,即Ei=,对所有的i,则+x+i等同于(+)+x+
5、(i),令=+及i=i可得到模型,此模型满足我们原始模型的要求。2)观测值中的随机部分假定是不相关的:Eij=0 对所有i不等于j。这被称为非自相关.二、最小二乘法1 最小二乘系数总体回归是Eyi|xi= +xi,而我们对Eyi|xi的估计记作。和第i的数据点相联系的干扰项是对a和b的任何值,我们用残差来估计i,从这些定义可知: 。对任何一对值a和b,残差平方和是:最小二乘法系数就是使这个拟合标准达到最小的a和b的值.最小化的一阶条件是 和 将上两式展开合并同类项后得到正规方程组 (1) (2)(1)式暗示,而(2)式暗示为了得到解,我们首先用n除(1)结果是最小二乘回归线通过均值点。现在分离
6、a: (3)有了a后,我们可以求解(2)得到b。首先,。将此和(3)代入(2)并重新安排各项。或最小的残差平方和,对a和b的二阶微商矩阵是 .我们必须表明这是一个正定矩阵,两个对角元素永远为正,所以仅需证明行列式为正,行列式为,所以行列式为由识别条件得知这是一个正值。这样a和b是平方和的最小化因子。2 回归拟合的评价1)回归量x是非随机变量总变差是离差的平方和: 第二个等式成立是因为我们将其写作总平方和=回归平方和+残差平方和或SST=SSR+SSE。我们利用下式得到一个关于回归直线对数据拟合程度的度量为了方便计算与分析,约定和 x和y间的样本相关系数是。利用我们得到,这表明回归的斜率和x、y
7、间的相关系数具有相同的符号,而且 .这进一步证明了我们利用R2作为回归模型拟合优劣指标的正确性。3 方差分析表进一步研究回归平方和SSR与残差平方和SSE,我们可以得到下面三个结论:a)在=0的假设条件下,回归平方和服从自由度为1的卡方分布x2(1)(为什么?);b)残差平方和服从自由度为n-2的卡方分布x2(n2);c)在=0的假设条件下,服从F(1,n2)分布。现在我们来证明这三个结论.证明:a),其中,易知,。可以验证是幂等矩阵。在=0的假设条件下,才服从自由度为1的卡方分布x2(1)(为什么?)b)因为所以易验证也是幂等矩阵最后一个等式成立是因为。所以,从而。此结论成立不需要=0的假设
8、条件下,为什么?c)因为所以SSR与SSE是相互独立的统计量。从而,在=0的假设条件下,服从F(1,n2)分布,所以,可以用来作模型的整体检验的统计量。概括这些计算的一个方便的途径是方差分析表,可总结在方差分析表1中。表1 方差分析表变差来源变差自由度均方回归SSR=b2Sxx1残差n2总SST=Syyn12)回归量X是随机变量我们要利用方差分解公式 =我们将它应用到子样空间里来,即 所以,两边去掉1/n后得到: 我们得到了和把X当成非随机变量时同样的结果,因此,方差分析表也是一样的。考虑消费函数的例子,这里C是消费而X是收入,我们得到总平方和的各个部分为总平方和=64,972。12回归平方和
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第四 古典 线性 回归 模型
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【精****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【精****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。