第三章 线性时间序列模型的识别、估计与检验
第一节 模型的识别
一,ρs与φSS的估计
设 Y1，Y2，…，YN是序列｛Yt｝的一段观测资料，N 为样本长度。
①样本均值为,
∑
=
=
N
t
tYN
IY
1
它是总体均值函数EYt的估计。
②样本自协方差,
( )( )YYYYNC st
SN
t
ts= +
=
∑
1
1
它是总体自协方差 sg 的估计。
③样本自相关系数,
0
CCss =r
它是总体自相关系数 sr 的估计。
④样本偏自相关系数 ssj
根据样本自相关系数，利用 Yule-Walker 方程，可直接解出偏自相关函数（计算机软件采用迭代方法求解）。
二、性质及识别
（1）对于MA（q）模型，可以证明（BOX，P216）样本自相关函数 sr? 具有如下分布,
PDF created with pdfFactory trial version www.pdffactory.com




+→? ∑
=
q
t
tss NN
1
2211,? rrr 渐进
由于s>q时,sr =0，因此,




+→? ∑
=
q
t
ts NN
1
2211,0? rr 渐进 （s>q时）
从而


+< ∑
=
2/1
1
2211?
q
t
ts NP rr ≈68.3%


+< ∑
=
2/1
1
2212?
q
t
ts NP rr ≈95.5%
记 sr? 的标准误：SE（q）?= SE( sr? )=
2/1
1
2211


+ ∑
=
q
t
tN r
在实际应用中，取 m=N/10(或 N ),寻找 q=q*,当
mqqq +++ rrr?,,?,? 21 L 中满足关系式
sr? ≤2SE（q）
的个数占 m 个的 95.5%时，可判定 sr? 在 q*步后截尾，从而序列服从
MA（q）。
（ 2 ）对于AR（p）模型，可以证明样本偏自相关函数 ssj? 具有如下分布,
ssj

→?
NN ss
1,j渐进
由于当s>p时,SSj =0，故
ssj?
渐进~ N(0,1/N) （s>p）
在实际应用中，类似于MA（q）模型，可根据
PDF created with pdfFactory trial version www.pdffactory.com
)2?( NP ss <j =95.5%（由两倍标准误来判断截尾性）
来判断序列是否服从某个AR（p）模型。
（3）对于ARMA（p,q）模型，由于ρs和φSS是拖尾的，因此 sr?
与 ssj? 也会出现拖尾特性。但ARMA（p,q）模型的阶数p,q不可能象
AR 和MA模型的识别那样有明显的识别法则。一般只能从低阶到高阶进行探试。
节第二 模型估计
经过对序列的初识别后，就可对所选模型进行参数估计。
一、AR（p）模型参数的矩估计
假定序列Yt经过识别，确定为p阶的AR（p）模型，即Yt满足
Yt= tppYYY ejjj ++++ L2211
pjjj,,,21 L 为未知参数。我们的目的是估计 pjjj,,,21 L 。
根据Yule-Walker方程，有


=





pppp
p
p
r
r
r
j
j
j
rr
rr
rr
MM
L
LLLL
L
L
2
1
2
1
21
21
11
1
1
1
用样本自相关函数代替总体自相关函数，可以得到参数
pjjj,,,21 L 的估计,
PDF created with pdfFactory trial version www.pdffactory.com




=




ppp
pp
p
p r
r
r
rr
rr
rr
j
j
j
1
1?
1
2
1
21
21
11
2
1
L
L
LLLL
L
L
L
此外，也可使用OLS或ML估计方法来估计参数。
二、MA（q）模型的参数估计
对于MA（q）模型
Yt =εt–θ1εt-1–…–θqεt-q
由上一章的结论知，Yt的自协方差函数满足,
)1( 22120 qqqsg +++= L
)( 112 qsqsss qqqqqsg?+ +++?= L
用 sg? 代替 sg,得到参数θ1，θ2，…θq，σ2所满足的非线性方程组。可直接求解，也可用迭代方法求解出,221?,?,,?,? sqqq qL
三、ARMA（p,q）模型的参数估计
①由上一章关于 ARMA（p,q）模型的自相关函数所满足的
Yule-Walker方程，有
当s>q时
ρs=φ1ρs-1+φ2ρs-2+…+φpρs-p
取s = q+1，q+2，…，q+ p 可得到线性方程组,
PDF created with pdfFactory trial version www.pdffactory.com


=




+
+
+
++
+
+
pq
q
q
pqpqpq
pqqq
pqqq
r
r
r
j
j
j
rrr
rrr
rrr
MM
L
LLLL
L
L
2
1
2
1
21
21
11
用 sr? 代替ρs，可解出 pjjj?,,?,? 21 L 。
②令
ptpttt yyyy= jj
~
11 L
则 ty~ 的自协方差函数可以由 ty 的自协方差函数 sg 表示,
)()~~(~
0,
jstitj
p
ji
istts yyEyyE
=
∑== jjg
= sij
p
ji
ji +?
=
∑ gjj
0,

③将 ty~近似看成MA（q）模型,
ty~ =εt–θ1εt-1–…–θqεt-q
由于 ty~的自协方差函数g?~ 已知，故由 MA（q）模型参数估计方法可得θ1，θ2，…，θq的估计值。
sijj
p
ji
is +?
=
∑= gjjg~
0,
PDF created with pdfFactory trial version www.pdffactory.com
节第三 模型的检验
1、平稳性检验
2、模型的残差分析检验
若近似模型为AR（p），则残差为,
),,2,1( 2211 Npptyyyyyye ptptttttt LL ++==?= jjj
若近似模型为ARMA（p,q）,则 由 递推关系式,
qtqtptpttt eeyyye +++= qqjj 1111 LL
取 et=0（t≤q）,依 次 算出ep+1,ep+2,…,eN，得到｛et｝。
求 残 差序列｛et｝的样本自协方差函数和样本自相关函数,
∑?
=
+=
sN
t
stts eeNe
1
1)(?g
)(?
)(?)(?
0 e
ee s
s g
gr =
原假设H0：ρ1（e）=ρ2（e）=…=ρm（e）=0
可以证明，当 N—>∞时，在原假设成立的情况下，统计量 )(? eN sr 渐近于标准正态分布，即在大样本下,)(? esr 近似～ )1,0( NN 。而且也可以证明，m维随机向量有如下渐近分布,
))(?,),(?),(?( 21 eNeNeN mrrr L 渐近~ Nm(0,Im)
为此，构造统计量
Qm= 22221 ))(?())(?())(?( eNeNeN mrrr +++ L
= )(?
1
2 eN
m
s
s∑
=
r ～ )(2 km?c
PDF created with pdfFactory trial version www.pdffactory.com
其中，k 为拟合模型中参数个数。该检验法是 Box 与 Pierce 于 1970
年提出的。
在给定显著性水平a下，查 )(2 km?ac,
若 Qm> )(2 km?ac,则拒绝H0，｛ e t ｝ 不是 白噪声序列。
若 Qm< )(2 km?ac,则接受H0，｛ e t ｝是白噪声序列。
为了改善上述Q统计量在样本不够长的条件下的精度，Ljung和
Box于1978年对上述Q统计量进行了修正，得到另一形式的Q检验统计量：（ Box&Jenkins P364）
Q（H）=N（N+2） )(?1 2
1
esN s
H
s
r∑
=?
可以证明，在原假设 H0：ρ1（e）=ρ2（e）=…=ρH（e）=0下,
Q（H）近似～ )(2 kH?c
其中k为拟合模型中参数个数。Q（H）的使用法则同前。
在一般时间序列软件中，都使用Q（H）统计量对残差序列是否为白噪声进行检验。
例1：时间序列分析，杜，P12。
3、模型过拟合检验
当拟合模型建立之后，模型是否包含过多的参数（参数冗余），
需要进行评价，即进行过拟合检验。
4、模型定阶
拟合模型的残差方差是反映模型好坏的一个重要标志。
阶数增加 残方差减少，但自由度损失，而且残方差减少速度越来越不显著。
PDF created with pdfFactory trial version www.pdffactory.com
标准：较少的参数个数使 2?s 减少到适当程度。
判定准则
AIC（k）=N ㏒ 2?s +2k （ k为模型中参数个数）
AIC 不是能给出模型阶的拟合估计，修正如下,
BIC(k)= N ㏒ 2?s + k㏒N
PDF created with pdfFactory trial version www.pdffactory.com