高维面板数据降维与变量选择方法研究.doc
《高维面板数据降维与变量选择方法研究.doc》由会员分享,可在线阅读,更多相关《高维面板数据降维与变量选择方法研究.doc(21页珍藏版)》请在咨信网上搜索。
1、高维面板数据降维与变量选择方法研究张波 方国斌2012-12-14 14:35:56来源:统计与信息论坛(西安)2012年6期第2128页内容提要:从介绍高维面板数据的一般特征入手,在总结高维面板数据在实际应用中所表现出的各种不同类型及其研究理论与方法的同时,主要介绍高维面板数据因子模型和混合效应模型;对混合效应模型随机效应和边际效应中的高维协方差矩阵以及经济数据中出现的多指标大维数据的研究进展进行述评;针对高维面板数据未来的发展方向、理论与应用中尚待解决的一些关键问题进行分析与展望。关键词:高维 面板数据 降维 变量选择作者简介:张波,中国人民大学统计学院(北京100872);方国斌,中国人
2、民大学统计学院,安徽财经大学统计与应用数学学院(安徽蚌埠233030)。一、引言在社会现象观测和科学实验过程中经常会产生面板数据。这类数据通过对多个个体在不同时间点上进行重复测度,得到每个个体在不同样本点上的多重观测值,形成时间序列和横截面相结合的数据,也就是所谓的“面板数据”。由于应用背景的不同,面板数据有时也称作纵向数据(longitudinal data)。面板数据广泛产生于经济学、管理学、生物学、心理学、健康科学等诸多领域。随着信息技术的高速发展,数据采集、存储和处理能力不断提高,所谓的高维数据分析问题不断涌现。对于多元统计分析而言,高维问题一般指如下两种情形:一种是变量个数p较大而样
3、本量n相对较小,例如药物试验中有成千上万个观测指标而可用于实验观测的病人个数较少;另一种是变量个数户不大但是样本个数n较多,例如一项全国调查牵涉到大量的调查对象,而观测指标个数相对较少。面板数据高维问题较多元(时序)高维问题更为复杂,因为面板数据至少包括两个维度:时间和横截面。在实际应用中,不同个体在不同时间进行观测时可以获得多个指标值。为了以下论述的方便,用p表示指标个数,T表示观测期长度,N表示个体(individual)或主题(subject)个数。数理统计中所提到的高维(大维)问题,通常是指个体数N、时期长度T或指标个数p这三个变量中的一个或多个可以趋向于无穷。具体应用中,只要N、T和
4、p中有一个或多个大于某个给定的临界值,都称为高维问题。本文主要研究两种基本类型的高维面板问题:一类为面板数据分析中解释变量个数p非常多,超过个体数N和时期数T,比如零售商业网点成千上万种商品扫描数据,央行和国家统计部门得到的多个指标在不同个体宏观经济观测数据等;另一类是混合效应模型中随机效应和固定效应设定时方差协方差矩阵所需确定的参数个数较多,某些参数的值趋向于零,要对方差协方差矩阵进行变量选择,此时针对固定效应和随机效应可以采用不同的变量选择策略。二、高维面板数据因子模型大型数据集构成的社会经济面板的特点是具有成百上千个观测指标,也就是具有所谓的高维特征。由于这种特征的存在,采用经典统计计量
5、分析方法很难进行处理。因子模型(factor model)不仅可以有效降低数据的维度,而且可以充分体现面板数据内部的序列相依性和截面相依性,因此可以针对不同的应用领域建立相应的因子模型对高维面板数据进行分析。例如构建套利定价模型时,将多个证券的投资组合用公因子表示,进行收益率预测;研究经济周期变动,尤其是重大事件对经济发展影响时,将各经济体的产出指标用几个公因子表示,用因子模型分析各经济体同步变动情况以及重大事件对各经济体的冲击大小,等等。面板数据因子模型是对解释变量或者误差成分项进行因子分解后所建立的模型。实际应用中,当模型中解释变量的个数较多,例如p大于N,就可以对解释变量进行因子分解,用
6、少数几个公因子和与之对应的因子载荷表示大量解释变量,从而起到降维的效果。对误差成分进行因子分解主要是为了体现个体或时间的共同趋势和交互效应,其中因子分解的方法一般采用多元统计分析中的主成分法,为了进一步研究的需要,有时候还要采用极大似然法或者回归法计算因子得分,并将因子得分代入模型进行估计。因子模型中采用较广泛的是动态因子模型(dynamic factor model),这主要是因为动态因子模型能够较好体现变量前后时期之间的相关性,便于进行外推预测,体现序列的内在结构。面板数据动态因子模型的一般形式如下:动态因子模型在对解释变量(协变量)进行降维的同时,尽可能用较少公因子体现解释变量的大部分信
7、息。对于社会经济现象中大量存在的高维面板数据而言,动态因子模型提供了高维问题降维的一种思路。相比较其他统计建模方法而言,动态因子模型充分考虑到横截面相关和序列相关对面板数据建模的影响,正确揭示了面板数据内部相依特征,能够更加合理地解释某些社会经济现象的变化规律。在动态因子模型估计和检验过程中,通过对统计量的渐近性和协方差矩阵的结构特征进行研究,推动了诸如随机矩阵理论、谱分解理论、高维变量选择等理论的进一步发展。近年来,动态因子模型已逐渐运用于大型宏观数据集的分析中。研究者分别从动态因子模型形式的设定、协方差结构和潜在因子的估计等方面进行了理论探讨,同时相关的应用研究也正在逐步展开。(一)动态因
8、子模型的设定和估计高维面板数据集普遍存在序列相关和(弱)截面相关,Stock和Watson提出在因子模型中加入观测变量的滞后项进行前向预测,从而充分考虑时间序列的相关性(动态性)1。他们在时齐因子模型的基础上采用时变因子载荷刻画序列和截面相依。在对美国联邦储备委员会工业产品指数的预测中,该模型与自回归模型(AR)和向量自回归模型(VAR)相比预测误差(MSE)相对较小。Stock和Watson进一步将VAR和动态因子模型相结合,运用这种近似因子模型研究货币政策冲击对宏观经济的影响,讨论动态因子个数估计和VAR基础上的因子约束检验问题2;Pesaran和Chudik在无限维向量自回归模型中采用动
9、态因子,以体现具有显著效果的某个变量或截面单元对当期和滞后期其他变量的影响3;Song、Hrdle、Ritov考虑到时间序列中往往存在非平稳性和可能的周期性,提出了一种两步估计方法4:第一步,采用分组LASSO(最小绝对收缩和选择算子)类型的技术选择时间基函数,运用平滑函数主成分分析选择空间基函数;第二步,运用动态因子模型获得一个去除趋势(又称退势)的低维随机过程,并将这种广义动态半参数因子模型应用于气温、核磁共振和隐含波动面数据的分析中。动态因子载荷的估计也得到了进一步的研究。Forni等人提出了一种两阶段“广义主成分”估计方法,第一步估计公共成分的协方差,第二步确定主成分分析的权重,这种分
10、析放宽了对特性因子的结构约束5;Deistler和Zinner讨论了广义线性动态因子模型的结构特征,包括可识别性,模型估计等一系列问题6;因子载荷阵用随机游走表示显然缺乏实际证据,Banerjee和Marcellino研究表明运用因子载荷中的时间变动进行预测效果较差,尤其是小样本情形7;传统的假设要求特性因子的结构为对角矩阵,然而由于因子载荷中可能存在结构突变,这一条件很难得到满足,Breitung和Eickmeier提出构造LR、LM和Wald统计量对静态和动态因子模型结构突变进行检验,并将其运用于美国和欧元区国家经济增长模式转变的研究8。因子个数的选择是因子分析必须考虑的问题之一。在高维动
11、态因子模型中,因子个数的选择可以不依赖于复杂的协方差矩阵;Bai和Ng提出了高维面板数据选择因子个数的一种准则,这种准则考虑由因子模型的类型来决定因子个数,而不是采用数据驱动的方法9;Hallin和Liska运用谱密度矩阵的特征值识别广义动态因子模型的因子个数10;动态因子模型不仅要确定因子个数,还要确定解释变量的滞后阶数,Harding和Nair对传统的碎石图(scree plot)方法予以了推广,并运用随机矩阵理论和Stieltjes变换对特征值的分布进行分析,得出了基于矩的因子个数和滞后阶数的一致估计方法11。高维面板数据分析中,因子个数的多少决定了最终维数的大小,同时也决定了因子模型解
12、释能力的大小。在尽量减少原有信息损失的同时,选择合理的公因子个数将是一个长期讨论的问题。(二)因子载荷阵协方差结构和潜在因子估计在金融学的套利定价理论中,多因子模型可以用于减少维度和估计协方差矩阵。好的协方差矩阵估计量可以避免过度放大估计误差,协方差矩阵的最小和最大特征值对应于证券投资组合的极小和极大的方差,协方差矩阵的特征向量可用于优化投资组合。应用因子模型的协方差矩阵在进行证券投资组合选择时,所包含的统计含义和实际意义比较明显,而估计高维协方差矩阵则相对比较困难,Fan、Fan、Lv研究了高维因子模型的维数对协方差矩阵估计的影响,并通过对样本协方差矩阵估计和基于因子模型估计进行比较,得出了
13、协方差矩阵的逆矩阵更有利于揭示因子结构的结论12;由于投资组合的优化配置和投资组合方差的减少都与协方差矩阵的逆矩阵有关,因此在优化投资组合配置中研究因子结构具有重要意义,但其风险评价效果欠佳,Hautsch和Kyj基于已实现协方差多重标度谱分解(Multi-scale spetral decomposition)分析高维动态协方差,将该原理运用于标准普尔500股票全局最小方差(GMV)投资组合的构建,检验基于协方差矩阵的投资组合样本外预测的效果13。协方差矩阵结构的研究目前主要运用于投资组合的构建,已有研究主要从协方差矩阵的特征根和特征向量以及协方差矩阵的逆矩阵出发,而对于高维情形,协方差矩阵
14、的估计受维度影响。潜在因子(latent factor),又称隐性因子或公因子,潜在因子的估计主要是指因子载荷矩阵的估计。一般通过对解释变量(协变量)的NN阶非负定矩阵的特征分析进行因子载荷矩阵和因子过程的估计。解释变量的个数(N)和时期长度(T)之间长度往往不一致,对于高维数据而言,如果NT,可以采用Bai提出的最小二乘法进行潜在因子的估计14;对于合适的变量个数N和非平稳因子估计,Pan和Yao通过求解几个非线性规划问题来解决15;Lam,Yao、Bathia研究表明:当所有因子都比较强大并且因子载荷矩阵每一列的范数都是N的1/2次方阶数时,因子载荷矩阵估计的弱一致范数与N的收敛比率独立,
15、并运用这种估计方法进行了三支股票的隐含波动面建模分析16。潜在因子的估计主要基于因子载荷矩阵的分析。由于潜在因子既代表解释变量的共同行为,又是因子模型分析基础,高维数据分析中潜在因子的估计方法将决定协方差矩阵结构特征的刻画。三、高维面板数据内部相依性的刻画面板数据内部相依包括序列相依和截面相依。高维面板数据分析中,横截面相依对模型的估计和检验影响较大。近年来,截面相依的处理逐渐得到重视,包括相依类型刻画和度量等。由于序列相依和横截面相依经常同时出现,所以在讨论横截面相关时通常也会考虑序列相依。在空间相依存在的情况下,也就是存在个体的异质性,处理这种相依性的一般方法就是进行空间加权和引入空间滞后
16、算子建立空间滞后模型。假设对如下简单的混合回归模型进行估计:y=X+(3)其中y是NT1向量,X是NTK矩阵,是K1向量,是NT1向量。在考虑横截面相依的条件下,各个个体的相依关系通过空间加权矩阵来表示。按照相依结构的不同,空间相依又可以分成两类:第一类是解释变量的个体相依,称之为空间滞后模型;第二类是误差项的空间相依,称之为空间误差模型。(一)空间权重的设定空间权重的设定是空间经济学中的一个重要问题,一般空间权重都是预先设定的。计量经济分析中,空间权重可采用经济距离表示,也可采用分块权重(block weights),例如将中国一个省内的多个地区各看做一个分块。Anselin提出一种空间滞后
17、模型,或称混合空间自回归模型17,其特点是在模型的右端项设置一个空间滞后解释变量,虽然这种方法针对的是截面情形,但是通过堆栈(stacked)的方法很容易运用于面板建模,即用如下模型:空间滞后模型在一些社会或空间交互效应的文献中得到应用。Brueckner分别将其运用于空间反应函数(spatial reaction function)和社会乘子(social multiplier)的参数估计当中18;Anselin进一步提出所谓的空间乘子(spatial multiplier),并将其用于空间体系中设定被解释变量为解释变量和随机误差项的函数19。(二)空间误差模型与空间滞后模型相比,空间误差模
18、型并不要求建立一个空间交互作用的理论模型,而是考虑非球形误差项协方差矩阵。空间误差模型除了直接表示协方差结构以外,还可以采用空间误差过程、空间误差成分和公因子(common factors,或称共同因子)模型,其中公因子模型是当前正在发展的一种主流方法,尤其适用于高维面板数据的分析。空间误差模型使用加权矩阵来表示相对位置和近邻程度,模型中相邻关系的设定不同于协方差矩阵的空间相依范围的设定。通过对模型误差项结构的分析,Anselin、Bera和Anselin提出了两种常用的空间误差模型:空间自回归(SAR)模型和空间移动平均(SMA)模型。这两种模型分别运用于讨论误差项存在横截面误差自相关和共同
19、变动情形19-20。空间误差成分模型(SEC)由Kelejian和Robinson提出,与SAR和SMA不同,SEC的误差项被分解成局部效应(local effect)和溢出效应(spillover effect)两部分21。在异质性面板的误差成分模型中,时间成分被表示成不可观测的共同效应或因子(factor),它包含了所有的横截面单元。与标准的误差成分不同的是,每一个横截面单元在这个因子上有不同的因子载荷。最简单的形式是所谓的单因子结构,这时误差项可以表示为:四、高维面板数据混合效应模型的变量选择(一)面板数据混合效应模型混合效应模型是面板数据研究中最重要的模型之一,该类模型的研究已比较充分
20、22。此类模型包括线性和非线性参数混合效应模型、半(非)参数混合效应模型、广义线性混合效应模型。线性和非线性参数混合效应模型是两种参数混合效应模型,从贝叶斯的角度看,这两种模型分别是分层线性和非线性模型。线性混合效应模型是指响应(被解释)变量和协变量(解释变量)为线性关系,线性混合效应模型(LME)一般可表示为:非线性混合效应模型(NLME)中响应变量和协变量是非线性形式,模型中非线性函数已知,只有非参数是未知的。分层非线性模型或NLME模型的一般形式可表示为2260-61:面板研究中,通常认为来自不同个体的数据相互独立,而来自同一个体的数据是相关的,这种相关可能是由于个体问的异质性,也可能是
21、由于测度误差的序列相关所致,而忽略这些相关性可能导致估计结果并非有效。面板分析的核心问题就是选择合适的模型和正确估计方差协方差成分的方法,这也是面板数据分析与其他类型的数据分析都面临的主要问题。选择线性模型还是选择非线性模型,主要根据响应变量和协变量之间的关系,并需要根据不同的应用背景以及图形的直观解释,如果假定响应变量和协变量之间没有任何非线性关系,就可以采用非参数方法进行研究。在估计混合效应模型随机效应和固定效应方差协方差成分的时候,由于待估参数较多,所以有时需要进行变量选择,相对而言固定效应变量选择比较直观,随机效应变量选择难度稍大,因为其方差结构较为复杂。Chen和Dunson提出了采
22、用分层贝叶斯模型识别0方差的随机效应,通过再参数化混合模型使得随机效应分布的协方差参数函数与回归系数结合成标准正态潜变量,以选择随机效应方差的混合先验进行多个随机效应的变量选择23;Vaida和Blanehard提出了采用条件赤池信息准则(cAIC)对混合效应模型进行变量选择的方法24;显著的随机效应选择依赖于协方差选择策略,Dziak等人对纵向数据的变量选择方法进行了综述25。(二)高维面板混合效应模型的变量选择面板数据分析中经常存在很多变量,这些潜在的预测子(potential predictors)个数可能很大,尤其是为了减少可能的建模偏差而引入非线性项和协变量的交互效应时。事实上通常在
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 面板 数据 变量 选择 方法 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【丰****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【丰****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。