第一章 平稳时间序列模型及其特征
节第一 模型类型及其表示
一、自回归模型(AR)
由于经济系统惯性的作用,经济时间序列往往存在着前后依存关系。最简单的一种前后依存关系就是变量当前的取值主要与其前一时期的取值状况有关。用数学模型来描述这种关系就是如下的一阶自回归模型,
Xt=φXt-1+εt (2.1.1)
常记作 AR(1)。其中{Xt}为零均值(即已中心化处理)平稳序列,
φ为Xt对Xt-1的依赖程度,εt为随机扰动项序列(外部冲击)。
如果 Xt 与过去时期直到 Xt-p 的取值相关,则需要使用包含 Xt-
1,……Xt-p在内的p阶自回归模型来加以刻画。P阶自回归模型的一般形式为,
Xt=φ1 Xt-1+φ2 Xt-2+…+φp Xt-p+εt (2.1.2)
为了简便运算和行文方便,我们引入滞后算子来简记模型。设B
为滞后算子,即BXt=Xt-1,则B(Bk-1Xt)=BkXt=Xt-k B(C)=C(C为常数)。
利用这些记号,( 2.1.2)式可化为,
Xt=φ1BXt+φ2B2Xt+φ3B3Xt+……+φpBpXt+εt
从而有,
(1-φ1B-φ2B2-……-φpBp)Xt=εt
记算子多项式φ(B)=(1-φ1B-φ2B2-……-φpBP),则模型可以表
PDF created with pdfFactory trial version www.pdffactory.com
示成
φ(B)Xt=εt (2.1.3)
例如,二阶自回归模型 Xt=0.7Xt-1+0.3Xt-2+0.3Xt-3+εt 可写成
(1-0.7B-0.3B2)Xt=εt
二、滑动平均模型(MA)
有时,序列Xt的记忆是关于过去外部冲击值的记忆,在这种情况下,Xt可以表示成过去冲击值和现在冲击值的线性组合,即
Xt=εt-θ1εt-1-θ2εt-2-……-θqεt-q (2.1.4)
此模型常称为序列Xt的滑动平均模型,记为MA(q),其中q为滑动平均的阶数,θ1,θ2…θq为滑动平均的权数。相应的序列Xt称为滑动平均序列。
使用滞后算子记号,( 2.1.4)可写成
Xt=(1-θ1B-θ2B2-……- θqBq)qt=θ(B)εt (2.1.5)
三、自回归滑动平均模型
如果序列{Xt}的当前值不仅与自身的过去值有关,而且还与其以前进入系统的外部冲击存在一定依存关系,则在用模型刻画这种动态特征时,模型中既包括自身的滞后项,也包括过去的外部冲击,这种模型叫做自回归滑动平均模型,其一般结构为,
Xt=φ1Xt-1+φ2Xt-2+……+φpXt-p+εt-θ1εt-1-θ2εt-2-……-θqεt-q
(2.1.6)
简记为ARMA(p,q)。利用滞后算子,此模型可写为
φ(B)Xt=θ(B)εt (2.1.7)
PDF created with pdfFactory trial version www.pdffactory.com
节第二 线性时间序列模型的平稳性、可逆性和传递性
首先介绍两个概念。
① 序列的传递形式:设{Yt}为随机序列,{εt}为白噪声,若{Yt}
可表示为,
Yt=εt+G1εt-1+G2εt-2+……+Gkεt-k+……=G(B) εt
且 ∞<∑∞
1
kG,则称{Yt}具有传递形式,此时{Yt}是平稳的。系数{Gk}称为格林函数。它描述了系统对过去冲击的动态记忆性强度。
② 序列的逆转形式:若{Yt}可表示为,
εt= Yt-π1 Yt-1-π2 Yt-2-……-πk Yt-k-……=π(B) Yt
且 ∞<∑∞
1
kp,则称{Yt}具有逆转形式(或可逆形式)。
一,MA模型
1,MA模型本身就是传递形式。
2,MA(q)总是平稳的(由上一章的例),MA(∞)在系数级数绝对收敛的条件下平稳。
3,MA(q)模型的可逆性条件。
先以MA(1)(Yt=εt-θ1εt-1)为例进行分析。
MA(1)的可逆性条件为,11 <q 。如果引入滞后算子表示MA(1),
PDF created with pdfFactory trial version www.pdffactory.com
则Yt=(1-θ1B)εt,可逆条件 11 <q 等价于θ(B)=1-θ1B=0的根全在单位圆外。
对于一般的MA(q)模型,利用滞后算子表示有,
Yt=(1-θ1B-θ2B2-……- θqBq)εt = θ(B)εt
其可逆的充要条件是:θ(B) =0 的根全在单位圆外(证明见
Box-Jenkins,P79)。
在可逆的 情况下,服从 MA(q)模型的序列可以表示成无穷阶的AR
模型,
θ-1(B)Yt=εt
MA(q)的可逆域:使θ(B) =0的根全在单位圆之外的系数向量(θ
1,θ 2,……,θq)所形成的集合。
例:求MA(2)的可逆域。
解:由 2211= ttttY eqeqe,其特征方程为,
01)( 221 == BBB qqq
该方程的两个根为,
2
2
2
11
1 2
4
q
qqql +=
2
2
2
11
2 2
4
q
qqql ++?=
由二次方程根与系数的关系,有
2
1
21
2
21,
1
q
qll
qll?=+?=
当MA(2)平稳时,根的模 21 ll 与 都必须大于1,因此必有,
PDF created with pdfFactory trial version www.pdffactory.com
11
21
2 <= llq
由根与系数的关系,可以推出如下式子,
)11)(11(1
21
12 llqq=+
)11)(11(1
21
12 llqq ++?=?
由于 21 qq,是实数,21 ll 与 必同为实数或共轭复数。又因为 1>il,
因此
011 >
il
m

=± 12 qq 1)11)(11(1
21
<? ll mm
反之,如果 12 <q,且 112 <±qq 。那么从 11
21
2 <= llq 可以推出至少有一个 1>il,例如,假设 11 >l,则根据 1)11)(11(1
21
<? ll mm 可推出
0)11)(11(
21
>ll mm,由 011
1
>lm 可以推出 011
2
>lm,从而 12 >l 。因此,
01)( 221 == BBB qqq 的根在单位圆之外。(平稳域为一三角形)。
二,AR模型
1,AR(P)模型本身就是一种逆转形式。
2,平稳性。
先以AR(1)( Yt=j 1Yt-1+εt),进行分析。
PDF created with pdfFactory trial version www.pdffactory.com
AR(1)平稳的条件为 11 <j,它等价于j (B)=1-j 1B=0的根在单位圆外。
3、在平稳的情况下,AR(1)有传递形式,
(1-j 1B)Yt=εt jt
j
j
tt BY?

=
∑=?= ejej
0
1
11
1
一般地,对于 AR(P)模型:j (B) Yt=εt,序列{Yt}平稳的充要条件是:j (B)=0的根全在单位圆外。此时,Yt有传递形式:Yt=j -1(B)
εt
AR(P)的平稳域:使j (B)=0的根全在单位圆外的AR系数向量( j 1,
j 2,……,j p,)的全体形成的集合。
练习:求AR(1)与AR(2)的平稳域。
三、ARMA(p,q)模型
1,平稳性与传递形式
首先考察ARMA(1,1)的平稳性,Yt–φ1Yt-1=εt–θ1εt-1
Yt平稳 ︱φ1︱<1 (与AR(1)的平稳域相同)
此结论表明,ARMA(1,1)序列的平稳性仅与自回归系数有关,
而与滑动平均系数无关。而且平稳条件与AR(1)的平稳条件相同。
在平稳的条件下,Yt有上述形式的传递形式。
一般地,服从 ARMA(p,q)模型的序列 Yt 平稳的充要条件是:
φ(B)=0的根全在单位圆外。在平稳的条件下,Yt有传递形式 Yt=
φ-1(B)θ(B)εt
PDF created with pdfFactory trial version www.pdffactory.com
2,可逆性
对于ARMA(1,1),假定可逆形式为
εt=π(B)Yt=(1–π1B–π2B2–…–πk B k –…)Yt
代入ARMA(1,1)的滞后算子表示形式,采用类似前面的方法,
比较同次幂系数可得
εt= Yt–(φ1–θ1)Yt-1–θ1(φ1–θ1)Yt-2–…–θ1 k-1(φ1–
θ1)Yt- k –…
根据前面的定义(可逆性定义),应有 ︱θ 1 ︱<1。
因此,ARMA(1,1)可逆的条件是︱θ1︱<1,它仅与滑动系数有关,而与自回归系数无关。而且可逆条件与 MA(1)的可逆条件相同。
一般地,服从ARMA(p,q)模型的序列Yt,其具有可逆性的条件是,θ(B)=0 的根全在单位圆外。在可逆的条件下,Yt的逆转形式为 εt=θ-1(B)φ(B)Yt
3,传递性与可逆性的重要意义
PDF created with pdfFactory trial version www.pdffactory.com
第三节 线性时间序列模型的自相关函数与偏自相关函数
一,自相关函数
1,MA(q)模型的自相关函数
设{Yt}服从,
Yt=θ(B)εt =εt–θ1εt-1–…–θqεt-q= –∑
=
q
j 0
θjεt-j,θ0= –1
则{Yt}的s阶自协方差函数为,
γs =∑
=
q
j 0
θjθs+jσ2
= σ2(θ0θs+θ1θs+1+…+θq-sθq) (s≤q) (θ0= -1 )
0 (s>q)
由上式,有γ0=σ2(1+θ12+…+θq2)
故{Yt}的自相关函数(ACF)为,
ρs=γs/γ0
=
qs
qs
s
q
qsqss
>
≤≤
=

+++
++++ 1 0
,
,
,
0
1
1
22
1
11
qq
qqqqq
L
L
上式表明,MA(q)模型的记忆仅有 q 个时段,Yt的自协方差函数或自相关函数(ACF)q步截尾。这是 MA(q)模型的典型特征。
MA(q)的典型特征:ρs 在q步截尾。
2,AR(p)模型的自相关函数
首先考察AR(1) (Yt=φ1Yt-1+εt )的自相关函数的特征。
Yt的自协方差函数为,
γs=Cov(Yt,Yt+s) =φ1γs-1
PDF created with pdfFactory trial version www.pdffactory.com
从而 γs=φ1γs-1=φ12υs-2=…=φ1sγ0
自相关函数(ACF)为,
ρs=γs/γ0=φ1s
当︱φ1︱<1,ρs—>0,即自相关函数ρs随s的增大而衰减至零。这种现象称为拖尾性。
对于一般的AR(p),序列的自相关函数的特征分析如下,
设 Yt=φ1Yt-1+φ2Yt-2+…+φpYt-p+εt=φ(B) Yt+εt
则自协方差函数,
γs=φ1γs-1+φ2γs-2+…+φpγs-p
这是一个关于{ sg }的线性差分方程。
上式两边同除γ0,得关于自相关函数(ACF)的线性差分方程。
ρs=φ1ρs-1+φ2ρs-2+…+φpρs-p
在AR(p)平稳的条件下,φ( B )=0有p个在单位圆外的根а1、а2,…,
аp 。根据线性差分方程解的有关理论,自相关函数(ACF)服从的线性差分方程φ(B)ρs=0的通解为,
ρs=c1а1-s+ c2а2-s +…+ cpаp-s
由于︱аj︱>1,因此ρs将按指数衰减(实根情形)或正弦振荡衰减(复根情形)。这种特性称为AR(p)的拖尾性。
AR(p)的典型特征是:ρs拖尾(衰减)
3、ARMA(p,q)的自相关函数
设ARMA(p,q)的形式为,
Yt=φ1Yt-1+φ2Yt-2+…+φpYt-p+εt–θ1εt-1–…–θqεt-q
PDF created with pdfFactory trial version www.pdffactory.com
则Yt的s阶自协方差函数为,
γs =φ1γs-1+φ2γs-2+…+φpγs-p+E(Ytεt+S) –θ1E(Ytεt+S-1) –…–θ
qE(Ytεt+S-q)
①当 0≤s≤q 时,εt+S,εt+S-1,…,εt+S-q中有一部分位于 t
时刻以前(t+ s-i≤t s-i≤0),Y t 与这一部分外部冲击有关,从而γs除了受自回归系数的影响外,还受一部分滑动平均系数的影响。
②当s>q时,s-q>0,t+s-q>t,从而εt+S,εt+S-1,…,εt+S-q
全在 t 时刻以后,由于 Yt与未来的外部冲击不相关,因此 γs中后面的项全为零。
γs=φ1γs-1+φ2γs-2+…+φpγs-p
它只同自回归系数有关。
两边同除γ0,得ρs=φ1ρs-1+φ2ρs-2+…+φpρs-p (s>q)
即ARMA(p,q)的自相关函数(ACF)在 s>q时,与 AR(p)
的自相关函数所满足的线性差分方程完全相同。
借用前面关于AR(p)的自相关函数特征的讨论可知,ARMA
(p,q)的自相关函数(ACF)在 q 以后随s的增长按指数衰减或以正弦振荡衰减,即仍体现出拖尾特征。
二,偏自相关函数
设{Yt}是一随机序列,所谓 Yt的 s阶偏自相关系数,是指扣出中间s-1个项的影响之后,Yt与Yt+s的相关系数。为了考察偏自相关函数的特性,我们分析如下,
PDF created with pdfFactory trial version www.pdffactory.com
设{Yt}是一零均值平稳序列,我们设想用Yt-1,Yt-2,…,Yt- s
的s阶自回归模型去拟和Yt,即建立如下模型,
Yt=φs1Yt-1+φs2Yt-2+…+φssYt-s+ et
其中et为误差项。
估计模型的常用方法是最小二乘法,即选择φs1,φs2,…,φss
使模型的残差方差Q=E(Yt-∑
=
s
j 1
φSj Yt- j )2=Eet2达到最小。根据极值条件应有,
Q∕?φSj =0 (j=1,2,…,s)
据此,可推出φs1,φs2,…,φss所满足的方程为
=

ssss
s
s
ss
s
s
r
r
r
j
j
j
rr
rr
rr
MM
L
LLLL
L
L
2
1
2
1
21
21
11
1
1
1
其中ρk (k=1,…,s)为Yt的k阶自相关系数。此方程组称为
Yule-Walker方程。
可以证明,φSS是在给定Yt-1,Yt-2,…,Yt-s+1的条件下,Yt和
Yt- s之间的条件相关系数,即偏相关系数。{φSS}就为{Yt}的偏相关函数。
要考察{Yt}服从自回归过程的情况下偏自相关函数的特征,就需要由 Yule-Walker 方程解出φSS的表达式,然后进行分析。由于求解过程比较复杂。在此我们通过另外一条途径考察φss的特性。
假定{Yt}的真实过程为AR(p)( p 阶自回归),我们用s(s>p)
阶自回归过程去逼近,则模型的残差方差为
PDF created with pdfFactory trial version www.pdffactory.com
Q=E[(Yt-∑
=
s
j 1
φSj Yt- j )2]
=E[(∑
=
p
j 1
(φj -φSj) Yt-j+εt- ∑
+=
s
pj 1
φSj Yt- j )2]
=E[(∑
=
p
j 1
(φj -φSj) Yt-j- ∑
+=
s
pj 1
φSj Yt- j )2]+ σ2
≥σ2
则当且仅当
φj 1≤j≤p
φSj=
0 p<j≤s
时,Q达到最小值。
上式表明,当s>p时,φSS=0,即φpp=φp是AR(p)模型偏自相关函数{φSS,s>1}中不为零的最后一项。这种偏自相关 p步截尾是 AR(p)的典型特征。
对于AR(p)和 ARMA(p,q)模型,在可逆的条件下,有逆转形式εt=θ-1(B)φ(B)Yt
这是一个无穷阶的 AR 模型,根据前面的讨论知,{ Y t }的偏自相关函数不会出现截尾现象,而是无限延伸的。( AR(p)是 p 阶截尾的,AR(–∞)不会截尾)可以证明,其偏自相关函数呈指数衰减或正弦波衰减。
至此,我们已完全分析了各种线性时间序列模型的特征。
PDF created with pdfFactory trial version www.pdffactory.com