1、一、一、自回归模型的定义自回归模型的定义二、二、中心化模型中心化模型三、三、平稳平稳AR(p)模型的平稳解模型的平稳解1PPT课件四、四、自回归模型的阶自回归模型的阶数的估计数的估计五、五、自回归模型自回归模型的参数的估计的参数的估计六、六、自回归自回归模型的检模型的检验验七、七、自回归自回归模型的模型的预报预报2PPT课件 时间序列分析最重要的应用是分析和表征观时间序列分析最重要的应用是分析和表征观察值之间的相互依赖性与相关性，若对这种相察值之间的相互依赖性与相关性，若对这种相关性进行量化处理，那么就可以方便地从系统关性进行量化处理，那么就可以方便地从系统的过去值预测将来的值。的过去值预测将
2、来的值。在数理统计中讨论的数据的线性回归模在数理统计中讨论的数据的线性回归模型型,很好地表示了因变量很好地表示了因变量yt的观察值对自变量的观察值对自变量观测值观测值xt1,xt2,xtp的相关性，解决了他们之的相关性，解决了他们之间的相关性问题，但是，对一组随机观测数间的相关性问题，但是，对一组随机观测数据，即一个时间序列内部的相关关系它却描据，即一个时间序列内部的相关关系它却描述不出来。即它不能描述数据内部之间的相述不出来。即它不能描述数据内部之间的相互依赖关系。互依赖关系。3PPT课件 另一方面，某些随机过程与另一些另一方面，某些随机过程与另一些变量取值之间的随机关系，往往根本无变量取值
3、之间的随机关系，往往根本无法用任何函数关系式来描述，这时就需法用任何函数关系式来描述，这时就需要采用这个时间序列本身的观测数据之要采用这个时间序列本身的观测数据之间的依赖关系来揭示这个时序的规律性。间的依赖关系来揭示这个时序的规律性。4PPT课件一、自回归模型的定义一、自回归模型的定义定义定义2.1 设设xt,t=0,1,2,为时间序列，为时间序列，白噪声序列为白噪声序列为t,t=0,1,2,，且对任，且对任意的意的 s1,所以这是平所以这是平稳的稳的AR(1)模型。模型。8PPT课件例例1.3 如果时间序列如果时间序列xt满足满足,1,02521txxxtttt试问此试问此xt是否为平稳的序
4、列模型。是否为平稳的序列模型。解：由于其自回归系数多项式为解：由于其自回归系数多项式为2251)(uuu1()(1)(12)02uuu的根为的根为u1=21与与u2=1/21,故知其根不故知其根不都在单位圆外，所以这是非平稳的都在单位圆外，所以这是非平稳的AR(2)序序列模型。列模型。9PPT课件 自回归模型是描述系统内部的回归关系，自回归模型是描述系统内部的回归关系，故称为自回归，与通常的线性回归性质是不故称为自回归，与通常的线性回归性质是不一样的。一样的。10PPT课件二、中心化二、中心化 AR(p)模型模型设设xt为平稳序列，且有为平稳序列，且有tptptttxxxx22110则对上式两
5、端同取数学期望，即得则对上式两端同取数学期望，即得tptptttEExExExEx22110由于由于xt为平稳序列，故为平稳序列，故 0 ttEEx且，常数11PPT课件)(210p即得即得0210p1210)1(p因此得ttxw此时若令tptptttwwww2211则可得一个均值为则可得一个均值为0的新序列：的新序列：此时此时wt 称为称为xt 的的平稳中心化序列平稳中心化序列。12PPT课件以后一般均讨论中心化的平稳模以后一般均讨论中心化的平稳模型或序列型或序列:tptptttxxxx22110,;0 0,tsttExtsEExt且，其中13PPT课件三、平稳模型的平稳解三、平稳模型的平稳
6、解设平稳设平稳AR(p)模型为模型为tptptttxxxx2211式中式中t为白噪声序列，为白噪声序列，0 0kExktt且 系数系数1，2，p 满足平稳条件：系满足平稳条件：系数数 多项式多项式(u)=0的根都在单位圆外。的根都在单位圆外。14PPT课件1 后移算子后移算子若算子若算子B满足等式满足等式:1ttxBx则称则称B为后移算子为后移算子,即即B作用作用xt 后使其转化为后使其转化为xt-1类似的类似的 212)()(ttttxxBBxBxB,2,1,0kxxBkttk于是于是,AR(p)模型可以表示为模型可以表示为ttpptttxBxBBxx22115PPT课件ttppxBBB)(
7、221ttxB)(即得一差分方程即得一差分方程:其中其中(B)(B)为后移算子多项式为后移算子多项式,即称为自回即称为自回归算子归算子:ppBBBB2211)(16PPT课件 易见，滤波器成为一个对时间序列进行易见，滤波器成为一个对时间序列进行变换的实体，变换前的序列称为输入，经滤波变换的实体，变换前的序列称为输入，经滤波器变换的得到的序列称为输出。器变换的得到的序列称为输出。自回归滤波器自回归滤波器xtt t 差分方程式可用框图表示差分方程式可用框图表示:设想有一个设想有一个滤波器，输入的是某种平稳序列，而输出的滤波器，输入的是某种平稳序列，而输出的则是白噪声序列，即则是白噪声序列，即17P
8、PT课件2 AR(p)序列的平稳域与允许域序列的平稳域与允许域 定义定义2.2 AR(p)序列的平稳域为其系数取值序列的平稳域为其系数取值的集合：的集合：0)(),(21的根在单位圆外up其允许域为其自相关函数的前其允许域为其自相关函数的前p个值的集合个值的集合:)(,),2(),1(11在平稳域内ppppdRbp其中矩阵其中矩阵p p与与Rp,向量向量、b与与d分别为：分别为：18PPT课件)0()2()1()2()0()1()1()1()0(xxxxxxxxxpCpCpCpCCCpCCC)(,),2(),1(pCCCbxxxp),(21p)0(/)0(/xppxppCbdCR19PPT课件
9、1|故其允许域为tttxx1/101uu的解为因为系数多项式1|所以其平稳域为)0(/)1(1CC）（)()1(111tttttxExxExC)(111oCExxExtttt例如一阶自回归模型例如一阶自回归模型AR(1)：20PPT课件ppppbb意味着1注注:)()2()1()0()2()1()2()0()1()1()1()0(21pCCCCpCpCpCCCpCCCxxxpxxxxxxxxx实际上由平稳实际上由平稳AR(p)模型模型:ttptpttxxxx221121PPT课件即得：在其两端同乘以1txttttpttpttttxxxxxxxxx111212111再对两端取数学期望再对两端取数
10、学期望,并由性质并由性质:0 0,2,1),1()(1kExiiCxxEkttxitt且)1()1()1()0(21xpxxxCpCCC22PPT课件)1()1()1()0(21xpxxxCpCCC类似的类似的,在平稳在平稳AR(p)模型两端分别同乘以模型两端分别同乘以即得：,32ptttxxxttttpttpttttxxxxxxxxx22222212123PPT课件ttttpttpttttxxxxxxxxx333232131tptttptptptpttptxxxxxxxxx12211再对两端取数学期望再对两端取数学期望,并由上述性质可得并由上述性质可得:)2()2()0()1(21xpxxx
11、CpCCC)3()3()1()2(21xpxxxCpCCC24PPT课件)()0()2()1(21pCCpCpCxpxxx)()3()2()0()2()1()3()1()2()2()0()1(21pCCCCpCpCpCCCpCCCxxxpxxxxxxxxx其次其次,由于自相关系数等于由于自相关系数等于:)0()()0()0()()()()()(xxxxxxxittCiCCCiCitDtDxxEi25PPT课件意味着：ppdR)0()2()1()2()0()1()1()1()0()0(/ppppCRxpp)()2()1()0()2()1()2()0()1()1()1()0(21pppppp26P
12、PT课件3 AR(1)序列平稳解与自相关函数序列平稳解与自相关函数tttxxAR1)1(序列若对进行反复的迭代运算，则对任何自然数进行反复的迭代运算，则对任何自然数n，有，有 ttttttxxx)(121tttx122ttttx12233ttntnntnntnx1211127PPT课件10nkktkntntxx于是对于平稳时间序列，如果有于是对于平稳时间序列，如果有|0时时,其自相关函数：其自相关函数：30PPT课件)(),(kttxxxEkttR00llktliitiE00illktitliE00iklktitliE022ikiikl31PPT课件类似的类似的,当当k0时时,其自相关函数为其
13、自相关函数为0|22|)()(),(kkiktkktkttxxxExxEkttR02|2kik2|22|2111kk2|22|211),(),(kkxxkttRkttC于是2222111kk32PPT课件特别地，特别地，AR(1)序列的方差函数为序列的方差函数为221)(tDx其自相关系数为其自相关系数为|)()(),()(kxxxktDtDkttCk 因为因为|10时，其自相关函数为时，其自相关函数为)(),(kttxxxEkttR00llktliitiE39PPT课件00)(illktitliE)(02kRxikii)()(),(0|ktkktkttxxxExxEkttRk 时，当)(0|
14、2kRxikii综述为综述为 0|2),(ikiixkttR用上式求得用上式求得AR(2)序列的自相关函数是比较困难的，序列的自相关函数是比较困难的，在实际中常采用另一种简便有效的方法在实际中常采用另一种简便有效的方法:40PPT课件 设设h0，因，因t与与xt互不相关，故用互不相关，故用xt-h乘以乘以AR(2)模型等式两端，再取数学期望，即得模型等式两端，再取数学期望，即得thtthtthtthtxxxxxxx2211thtthtthtthtExxExxExxxE2211)()2()1()(21hRhRhRxxx上述递推式称为上述递推式称为AR(2)序列的序列的Yule-Walker方方程
15、。程。利用利用Yule-Walker方程求方程求AR(2)序列的自序列的自相关函数方法即称为尤尔相关函数方法即称为尤尔-沃克法沃克法.41PPT课件注注：由于此处均值函数为：由于此处均值函数为0，其自相关函数与，其自相关函数与自协方差函数相等，为分析简单起见，我们将自协方差函数相等，为分析简单起见，我们将自相关函数作为自协方差函数，即表示为自相关函数作为自协方差函数，即表示为kttxxExkC)(而将自相关系数而将自相关系数:)0()()(xxCkCk 称为自相关函数。称为自相关函数。因此，由因此，由Yule-Walker方程可得方程可得)2()1()(21kkk42PPT课件其初值为其初值为
16、211)1(,1)0()1()1(注意)1()0()1()0()1(2121故有112)0()1()1(下面分三种情况讨论在上述给定初始条件下面分三种情况讨论在上述给定初始条件下下,自相关函数的差分方程的解自相关函数的差分方程的解:的解为时有两不相等实根若2122101)()1uuuuukkuuk2211)(43PPT课件再根据初值条件再根据初值条件,自回归系数方程的根与系自回归系数方程的根与系数的关系得数的关系得)1)()1()()(21212211111221221uuuuuuuuuuuu)1)()1()()(21122121221111112uuuuuuuuuuuu)1)()1()1()
17、(211212211122uuuuuuuukkk即得即得44PPT课件)0()1)()1()1()(211212211122xkkxCuuuuuuuukR 由上式可看出，当自回归系数方程的根的两由上式可看出，当自回归系数方程的根的两实根都在单位圆外部时，实根都在单位圆外部时，(k)随随k的增大，向的增大，向零衰减，若两实根中至少有一个在单位圆内部零衰减，若两实根中至少有一个在单位圆内部时，则时，则(k)发散。发散。的根为而方程01)(221uuu2221124u45PPT课件AR(2)序列的平稳域序列的平稳域:1 ,1 ,11 :),(1212221平稳域图形见下图：平稳域图形见下图：221-
18、20 1-1-11满足条件的集合为与，则，要求21211|1|uu46PPT课件的解为时有两相等实根若uuuu01)()2221huhh)()(21再根据初值条件再根据初值条件,自回归系数方程的根与系数的自回归系数方程的根与系数的关系得关系得22221111)/11(/2,1uuuuukukuuk)111()(22即得47PPT课件的解为时，有两共轭复根若2122101)()3uuuuu)0(sinsin)1(cos)1(cos)(22hkrrkrkhireuuu1121,并记其中（3）AR(2)序列的允许域序列的允许域平稳域),(,11),(212121112148PPT课件允许域允许域图形
19、如下图所示图形如下图所示 21-10 112 ,1|,1|),(2212121即49PPT课件5.一般一般AR(p)序列的平稳解与自相关函数序列的平稳解与自相关函数（1）AR(p)模型的平稳解模型的平稳解定理定理2.1.1 设设AR(p)序列的系数多项式序列的系数多项式 ppuuuu2211)(的所有根均在单位圆外部，即满足平稳条件，的所有根均在单位圆外部，即满足平稳条件，且且p p00。若存在实数列。若存在实数列j,j=0,1,2,满足满足p阶齐次线性差分方程：阶齐次线性差分方程：pjBj 0)(50PPT课件及初值条件及初值条件:00010132211021120110pppp51PPT课
20、件则均方极限存在则均方极限存在 0kktktx 且几乎必然对一切且几乎必然对一切 t=0,1,2,，此式为，此式为AR(p)模型的平稳解。模型的平稳解。（2）AR(p)模型的自相关函数模型的自相关函数定理定理2.1.2 设设xt 是是AR(p)序列，其自回归算序列，其自回归算子的所有根都在单位圆外部，则其自协方差函子的所有根都在单位圆外部，则其自协方差函数数C(k)满足满足p阶齐次差分方程阶齐次差分方程Yule-Walker方程：方程：52PPT课件pkkCB 0)()(及初值条件及初值条件0)()3()2()1(0)1()1()0()1()()2()1()0(2121221pCpCpCpCp
21、CCCCpCCCCppp53PPT课件 若在上式两端同除以若在上式两端同除以C(0)=Dx,即得自相即得自相关函数满足的关函数满足的Yule-Walker方程，即方程，即pkkB 0)()(及初始条件及初始条件0)1()3()2()1(0)1()1()0()1()0(/)()2()1()0(2121221pppppppCp54PPT课件 时间序列的自相关函数刻划了随机时间序列的自相关函数刻划了随机序列各时刻间的线性相关程度。实际中常序列各时刻间的线性相关程度。实际中常用自相关函数的图形用自相关函数的图形相关图来分析、相关图来分析、反映时间序列各时刻间的线性相关性。反映时间序列各时刻间的线性相关
22、性。55PPT课件 6.AR(p)序列偏相关函数序列偏相关函数 对于任意平稳序列，若其自协方差函数对于任意平稳序列，若其自协方差函数C(k)满足以下条件，即对任意满足以下条件，即对任意k1,1i,jk，k k为为正定矩阵正定矩阵:)()0()3()2()1()2()1()0()1()1()2()1()0(jiCCkCkCkCkCCCCkCCCCk56PPT课件)(,),2(),1(kCCCbk记 2,1 )(1kbkkk再将向量的分量记为再将向量的分量记为),()(21kkkkk100且记 2,1 ,kkk则称称为上述平稳序列的称为上述平稳序列的偏相关函数偏相关函数。kk简记为57PPT课件
23、可以利用以下递推公式计算可以利用以下递推公式计算偏相关函数偏相关函数：kjjCCjkCkCCCkjkkkkjkjkkjjkjkkjkk ,2 ,1 )()0()()1()1()0(/)1(11 11111 111 一般来说，偏相关函数的意义由下述定一般来说，偏相关函数的意义由下述定理给出理给出:58PPT课件定理定理2.1.3 对于零均值的平稳序列对于零均值的平稳序列xt而言，以而言，以下两条是相互等价的；下两条是相互等价的；（1）xt满足平稳序列满足平稳序列AR(p)模型；模型；（2）xt的偏相关函数列满足条件的偏相关函数列满足条件 0kkpk 此定理表明偏相关函数列的截尾性质是此定理表明偏
24、相关函数列的截尾性质是平稳自回归序列独有的特征。利用此定理，平稳自回归序列独有的特征。利用此定理，可以通过检查可以通过检查xt的偏相关函数列的的偏相关函数列的p 阶截尾性阶截尾性质来识别质来识别AR(p)模型模型。59PPT课件四、四、自回归模型的阶自回归模型的阶数的估计数的估计1、利用偏相关函数的截尾性质确定阶数、利用偏相关函数的截尾性质确定阶数 因为因为AR(p)的偏相关函数在的偏相关函数在p后截尾，所后截尾，所以利用样本自相关函数与尤尔以利用样本自相关函数与尤尔-沃克方程递推沃克方程递推求得偏相关函数的值，或用软件求出：求得偏相关函数的值，或用软件求出：)()2()1(1)2()1()2
25、(1)1()1()1(121kkkkkkkkk60PPT课件kjjjkkkjkkkkjkjkkjjkjkkjkk ,2 ,1 )(1)1()1()1(11 1111 111递推求得偏相关函数的值：递推求得偏相关函数的值：61PPT课件 从序列的自相关与偏样本偏相关函数值从序列的自相关与偏样本偏相关函数值列表观察列表观察:如果样本偏相关函数值在如果样本偏相关函数值在p以后截尾以后截尾;而样本偏相关函数值明显拖尾而样本偏相关函数值明显拖尾,则可认定序列则可认定序列为为 AR(p)模型模型.62PPT课件例如：序列的自相关与偏样本偏相关函数值例如：序列的自相关与偏样本偏相关函数值如下如下:63PPT课件样本偏相关函数值折线图样本偏相关函数值折线图可认为样本偏相关函数值在可认为样本偏相关函数值在p=2以后截尾以后截尾,即即在在p=2以后样本偏相关函数值波动幅度很小以后样本偏相关函数值波动幅度很小.64PPT课件样本自相关函数值折线图样本自相关函数值折线图:可认为样本自相关函数值单调下降可认为样本自相关函数值单调下降,有拖尾趋有拖尾趋势势,故此模型可取为故此模型可取为AR(2).65PPT课件
