时间序列分析-第二章-自回归模型教学内容.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,时间序列分析-第二章 自回归模型,（,4,）,对多项式,（,5),对多项式 的乘积,有,(6),对时间序列 ，,多项式 和随机变量,U,V,W,有,二,.,常系数齐次线性差分方程,给定,p,个实数,我们称,为,p,阶齐次常系数线性差分方程，简称齐次差分方程。,满足上式方程的实数列称为它的解，,满足上式的实值（或复值）时间序列也成为它的解。,上式的解可以由,p,个初值逐次递推得到,若初值是随机变量则递推得到的是时间序列。,用推移算子把差分方程写成,称为差分方程的特征多项式。,解有线性性质：和,Y t,是解，则 也是解。,差分方程的基础解：设多项式,A(z),是,k,个互不相同的零点 ，,其中,z j,是,r(j),重零点。,可以证明对每个,z j,有,证明,:,设,A(z),有分解,则有,齐次线性差分方程的通解,定理,1.1,设,A(z),是,k,个互不相同的零点 其中,z j,是,r(j),重零点。则,是（,1.2,）的,p,个解，而且（,1.2),的任何解都可以写成,这,p,个解的线性组合,（,1.7,）,其中的随机变量 可以由 的初值唯一决定，（,1.7,）称为,齐次线性差分方程（,1.2,）的通解。,差分方程（,1.2,）的实值解可以表示为,可以由初始值唯一决定。,通解的收敛性,如果差分方程的,特征多项式,A(Z),的根都在单位圆外：,取,于是方程的任意解满足 称,Xt,以负指数阶收敛到,0.,通解不收敛的情形,如果特征多项式有单位根，则方程有一个周期解,如果单位圆内有根，则方程有一个爆炸解,非齐次线性差分方程及其通解,设,Yt,为实值时间序列,（,1.10,）,满足（,1.10,）的时间序列称为（,1.10,）的解。,如果有（,1.10,）的某个解，则通解可以写成,2.2,自回归模型及其平稳性,例子：,单摆的,120,个观测值,(a=-0.35),单摆的,120,个观测值,(a=-0.85),：,单摆的,10000,个观测值,(a=1),：,单摆的,120,个观测值,(a=-1.25),：,模型,定义,2.1,（模型）如果 是白噪声,WN(0,，,),实数,使得多项式,A(z),的零点都在单位圆外,则称,P,阶差分方程,是一个,p,阶自回归模型，简称为 模型,满足 模型,(2.5),的平稳时间序列称为（,2.5,）的平稳解或,序列,称 为 模型的自回归系数。,称条件（,2.4,）是稳定性条件或最小相位条件。,A,（,z,）称为模型（,2.5,）的特征多项式。,的平稳解,设多项式,A(Z),的互异根是,取,从而有泰勒级数,令,如果,Xt,是（,2.6,）的平稳解，则,由此可见平稳解如果存在必然为,称为平稳序列的,Wold,系数。,Wold,系数的推导,AR(p),的,平稳解及通解定理,定理,2.1,（,1,）由（,2.9,）定义的时间序列是,AR(p),模型,（,2.5,）的唯一平稳解。,（,2,）,AR(p),的模型的通解有如下的形式,引理,2,设实系数多项式 且满足最想相位条件,则存在,0,使得,定理,2.1,的证明,通解与平稳解的关系,AR(,),的通解,Yt,与平稳解有如下关系,可以用此事实作为模拟产生,AR(,),序列的理论基础。,AR,序列的模拟,取,迭代得到,取,n0,取,50,即可，但特征根接近单位圆是要取大的,n0,AR(p),模拟,(AR(4),2.3,AR(,),序列的谱密度和,Yule-Walker,方程,AR(,),序列的谱密度,由线性平稳列的谱密度公式得到平稳解的谱密度,如果,A(Z),有靠近单位圆的根,则 会接近于零，造成谱密,度在 处有一个峰值。,即 为复指数衰减。,Xt,序列前后的相关减少很快，称为时间序列的短记忆性。,自协方差函数,因为,AR(,),的平稳解为,由线性平稳性质知道,Xt,为零均值，自协方差函数为,谱密度的自协方差函数,谱函数的定义是满足,是非负可积函数。,利用公式计算,定理,3.1,如果平稳序列,Xt,的自协方差函数,k,绝对可和：,则,Xt,有谱函数,（,3.4,）,由于谱函数是实值函数，所以（,3.4,）还可以写成,推论,3.2 AR(,）的平稳解序列,Xt,有谱密度,Yule-Walker,方程,对,np,把 的递推时写成矩阵形式的,定义,Xt,的自协方差矩阵,在上式中两边同时乘上,Xt-1,后取得数学期望，利用,Xt,与未来输入的不相关性有,对 有,于是可以写成,AR(,）序列的自协方差函数,Y,ule-Walker,方程,定理,3.3,（,Y,ule-Walker,方程）,AR(,）序列的自协方差函数满足,自协方差函数的周期性,对,k0,定义,推论,3.4,AR(,）序列的自协方差函数 满足和,AR(,）模型,相应的差分方程,证明：,例子：,AR(,4,）模型,1,周期为,2/(/3)=6,和,2/(2/3)=3,AR(,4,）模型,2,AR(,4,）模型,3,AR(4),模型,1,的谱密度,AR(4),模型,1,、,2,、,3,的谱密度,自协方差函数的正定性,AR(,）平稳解唯一故自协方差函数自回归系数和白噪声唯一决定。,反之，若 正定，则根据,Yule-Walker,方程可以从,解出,AR(,）模型的自回归系数和白噪声的方差,其中,许多自协方差矩阵是正定的，特别,AR(,）序列的自协方差矩阵总是正定的。,定理,3.5,设 是平稳序列,Xt,的,n,阶自协方差矩阵，。,（,1,）如果,Xt,的谱密度 存在，则对 正定；,(2),如果 ，则对 正定。,证明：（,1,）对 至多有,n-1,个零点。,，于是,推论,3.6,线性平稳序列的自协方差矩阵总是正定的。,定理,3.7,设离散谱序列,Xt,在第一章的定义，如果它的谱函数,恰有,n,个跳跃点，则 正定，退化。如果 有无穷,个跳跃点，则对任何 正定。,时间序列的可完全预测性,对于方差有限的随机变量 ，如果有不全为零的,常数,使得,则称随机变量 是线性相关的，否则是线性无关的。,线性相关时，存在常数,b0,使得 成立。,Yn,可由 线性表示,称,Yn,可以由 完全线性预测。,定义,4.1,设 和 分别是平稳序列 的自协方差函数和,n,阶自协方,矩阵，由（,3.8,）定义，方程组,称为 的,n,阶,Yule-Walker,方程，其中的,称为 的,n,阶,Yule-Walker,系数。,下面的定理说明对于一般的平稳序列，,p,阶,Yule-Walker,系数,是否满足最小相位条件。,2.4,平稳序列的偏相关系数和,Levinson,递推公式,定理,4.1,如果实数 使得,正定，则有定义,4.1,定定义的,Yule-Walker,系数满足最小相位,条件,最优线性预测,设 是随机变量。考虑估计问题,称 为,Y,关于 的最优线性估计。,是,Y,关于 上的投影。,为了更快的计算,Yule-Walker,系数，通常采用下面的递推公式。,定理,4.2,（,Levinson,递推公式）如果 正定，对 有,偏相关系数,定义,4.1,如果 正定，称 为 或 的,n,接偏相关系数。,设,Xt,是,AR(,）序列。其自协方差函数正定。,由,Yule-Walker,方程知其,n,阶,Y-W,系数为,其偏相关系数满足,称为偏相关系数,P,步截尾。,反之，如果一个零均值平均列偏相关系数,p,步截尾，则它必是,AR(,）序列。,偏相关截尾隐含要求自协方差列正定。,下面一个定理告诉我们这个平稳序列一定是,AR(,）序列。,定理,4.3,零均值平稳序列,Xt,是,AR(,）序列的充分必要条件是，,它的偏相关系数,p,步截尾。,证明只要证明充分性。记,令 ，只要证明 是白噪声。,最小相位由定理,4.1,给出。,5.1,AR(1),序列举例,例：对,|a|1,AR(1),模型，,有平稳解,自协方差函数,自相关系数,谱密度,上面是,a=0.85,和,a=-0.85,时,80,个数据的观测图，从图中我,们可以看到,AR(1),表现的特征。,此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢,