1
上次课重要内容,
引入和剔除变量的选择 — 方差贡献的计算逐步回归效果的检验非线性回归模型门限回归模型,思路、门限变元的选取
AIC准则本次课主要内容:
时间序列分析:
线性自回归模型
AR( P) 模型及参数的确定非平稳序列的处理、个例分析
2
第五章 自回归模型基本思想:
把水文要素随时间的变化作为一个随机过程来研究,分析水文要素前后期演变情况的统计规律,应用这一规律由 前期水文要素 的数值作出 后期要素 的预报。
一个随机过程 离散化 后得到一个水文时间序列。
3
第一节 随机时间序列的 概念
一、随机过程和时间序列
1.随机过程,P129 有无数个时间序列组成。
2.时间序列,随机过程的一个样本(现实)。或 P127
(1)确定性时间序列
(2)非确定性时间序列 -随机时间序列 (定义 P129)
二、平稳时间序列( 平稳随机过程中的一个现实或样本)
平稳随机过程 P130
一个随机过程,如果它的 数学期望,方差 不随时间变化,相关函数只是 时间间隔 的函数而与时间无关。称其为一个广义平稳过程或弱平稳过程。
4
平稳过程的特点:
)(),(),(
)(
)
1121
22
RttRttR
t
t
相关函数方差
(数学期望
5
1、各态历经的平稳随机过程 p130
一个随机过程的统计特征,如果可用时间平均代替总体平均,则称之。
平稳时间序列:
是各太历经的平稳随机过程中的一个样本 p130
2、非各态历经的平稳随机过程
6
第二节 线性平稳自回归模型一、模型简介设有一 中心化 的水文平稳序列
t时刻的要素与前期要素之间满足下列关系 ( 5-8)
其中,为 t时刻要素的估计值(预报值)
为自身前 1个时间间隔到前 p个时间间隔的要素值。
为自回归系数
''2'1',,,,,,,},{ nt XXXX
t
p
i
ititptpttt aXaXXXX
1
'''
22
'
11
',,,,,,
tX?
pttt XXX,,,,,,,2,1
p,.,,,,,,,21
7
为误差序列,其含义不同又可以分为三种模型:
1,ARMA(p,q)模型 ( p阶自回归 q阶移动平均模型)
包括三部分:与以往的观测值 有关
与上步误差有关
与上两步不相关的误差有关
模型,P139 ( 5-9)
其中:
θ为模型系数,p为自回归阶数,q移动平均阶数。
ta
tX?
qtqttt
ptpttt
aaaa
XXXX
.,,,,,
.,,,,,
2211
''
22
'
11
'
ta
8
2.AR( p) 模型( p阶纯自回归模型)
满足条件:
零均值
白色噪音序列 方差为 1
前步误差与后步误差无关
白色噪音过程 表示不含有任何规律性波动纯随机过程。
我们知道白光是由各色波长颜色的光所共同组成的,
白噪音就是由强度相同的各种频率振动共同组成的随机序列。
模型:
( 5-8)
ta
t
p
i
iti
tptpttt
aX
aXXXX
1
'
''
22
'
11
',.....
9
3,MA(q)模型( q阶滑动平均模型)
当 的随机序列与 的线性组合满足:
则为 MA(q)模型
注意:三模型必须满足平稳、正态、零均值的条件。
tatX?
qtqtttt aaaaX,,,,,,2211'
10
二,AR( p) 模型参数的确定
1.关于 的估计值 bi的线性方程组 P87
对
进行数学期望运算,归纳整理,得到以下方程组:
tptpttt aXXXX
''
22
'
11
',....,
i?
11
总体自相关函数在实际工作中,我们是以样本函数 x(t)来分析的,用样本函数计算得到的 r(?)作为相关函数
(?)的估计值代入方程组。得到自回归系数的估计值 bi满足如下方程组:
i?
)125........(
)()0(......)2()1(
...............................................................
)2()2(......)0()1(
)1()1(......)1()0(
21
21
21
ppp
p
p
p
p
p
) (
12
根据其系数矩阵的特点,采用 递推求解 。
1 4 2.,,,,,,,,
)()0(.,,,,,)2()1(
.,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,
)2()2(.,,,,,)0()1(
)1()1(.,,,,,)1()0(
21
21
21
p
prrbprbprb
rprbrbrb
rprbrbrb
p
p
p
13
2.yule-walker递推公式 p143(5-14)
bkk称为偏相关系数,它的概率意义是在给定
的条件下,X’t与
X’t-k的条件相关系数。
),.,,,,,2,1(
1
1,1,1,,1
1
,
1
1,1
1,1
kj
bbbb
rb
rbr
b
jkkkkjkjk
k
j
jjk
k
j
jkjkk
kk
' 1' 2' 1,,,,,,, kttt XXX
14
3.Bury递推公式 P144( 5-15)
15
三、模型阶数的识别
三种识别模式:
1、经验
P=( 1/ 4— 1/ 10) n
16
2,FPE( 最终预备误差)准则
k为 阶数,n为样本数,为 k阶预报误差方差。
是 k的减函数。
而 是 k的增函数。
当 k>k0时,( FPE) k减到最小值。因此取模型
阶数为 k0。
21)1)(1()(
kn n
k
n
kF P E
1)1)(1(
n
k
n
k
2k?
2k?
17
3,AIC准则
与 FPE准则相似,是 p的减函数,而 是随着 p的增加而增加。取 MinAIC( p) 的 p作为模型阶数的估计。
n
p
n
p
n
p
pF P EpA I C
p
p
2
ln
ln)1)(1l n ()(ln)(
2
21
2pin? np2
18
四、平稳性检验
1,t检验 (参数检验) P135
要求序列满足正态分布
若有一序列:
分成两个互不重叠的子序列:
mnn xxxxx,,,,,,.,,,,,,1,2,1?
nxxx,,,,,,2,1
mnn xxx,,,,,,2,1
19
通过分别计算它们的均值 和方差
检验:
公式,P136( 5-7)
步骤,P136
21,xx 2212,
21 xx?
20
2.轮次(游程)检验
优点:不必假定研究对象服从何种分布
轮次(游程)的概念,p136
1 2 3 4 5 6
步骤:根据资料计算平均值,确定游程。
查表( P137) 确定游程的接受区间
比较,实际游程在给定区间内,是,序列平稳。
否,则不平稳
2;21;
NN rr?
21
++---+--+++++--+--++-+
游程,11
N=n/2=22/2=11
025.0205.02
975.0205.0121
05.0
)2;;21( r?
)16;11;7(
22
第三节非平稳序列的处理
一、类型 P157
二、处理非平稳序列的三种方法
1.加法模型
= 趋势函数 +周期函数 +平稳序列 +噪音项
趋势函数、周期函数的识别与提取 P98-104
常用距平法取消除趋势函数与明显的周期函数
2.乘法模型
3.混合模型
)()()()()( tttptftX
)()()()( ttptftX
23
自回归 AR( P) 模型预报实例
叶尔羌河卡群站 1954— 1973年 20年的年平均资料表 5-
2),作 1974年年平均流量的预报。
一、建立自回归 AR( P) 预报模型
例中 P=5,可根据 AIC准则函数确定。
二、求
1.计算年平均流量距平值计算结果见表 5-2第 3列
2.计算各阶自相关函数
与方差
' 55' 44' 33' 22' 11' tttttt QbQbQbQbQbQ
ib
QQQ tt'
)5(),4(),3(),2(),1(),0( rrrrrr
2Q?
24
相关函数:
p132
方差:
P132
求和号内计算在 4列
计算结果在最后 1行
求和号内计算在 6列
计算结果在最后 1行
2
1
''1
)(
x
n
t
tt xxn
r
n
t
tx Qn
1
2'2 1?
1
1
)0( 21
''
x
n
t
tt QQn
r
2
1
1
'
1
'
1
1
)1(
x
n
t
tt xxn
r
25
求和号内计算在 8列
计算结果在最后 1行
求和号内计算在 10列
计算结果在最后 1行
求和号内计算在 12列
计算结果在最后 1行
求和号内计算在最后列
计算结果在最后 1行
2
2
1
'
2
'
2
1
)2(
x
n
t
tt xxn
r
2
3
1
'
3
'
3
1
)3(
x
n
t
tt xxn
r
2
4
1
'
4
'
4
1
)4(
x
n
t
tt xxn
r
2
5
1
'
5
'
5
1
)5(
x
n
t
tt xxn
r
26
3.用递推公式解出自回归系数( P90)
三、列出预报方程
四、预报
上次课重要内容,
引入和剔除变量的选择 — 方差贡献的计算逐步回归效果的检验非线性回归模型门限回归模型,思路、门限变元的选取
AIC准则本次课主要内容:
时间序列分析:
线性自回归模型
AR( P) 模型及参数的确定非平稳序列的处理、个例分析
2
第五章 自回归模型基本思想:
把水文要素随时间的变化作为一个随机过程来研究,分析水文要素前后期演变情况的统计规律,应用这一规律由 前期水文要素 的数值作出 后期要素 的预报。
一个随机过程 离散化 后得到一个水文时间序列。
3
第一节 随机时间序列的 概念
一、随机过程和时间序列
1.随机过程,P129 有无数个时间序列组成。
2.时间序列,随机过程的一个样本(现实)。或 P127
(1)确定性时间序列
(2)非确定性时间序列 -随机时间序列 (定义 P129)
二、平稳时间序列( 平稳随机过程中的一个现实或样本)
平稳随机过程 P130
一个随机过程,如果它的 数学期望,方差 不随时间变化,相关函数只是 时间间隔 的函数而与时间无关。称其为一个广义平稳过程或弱平稳过程。
4
平稳过程的特点:
)(),(),(
)(
)
1121
22
RttRttR
t
t
相关函数方差
(数学期望
5
1、各态历经的平稳随机过程 p130
一个随机过程的统计特征,如果可用时间平均代替总体平均,则称之。
平稳时间序列:
是各太历经的平稳随机过程中的一个样本 p130
2、非各态历经的平稳随机过程
6
第二节 线性平稳自回归模型一、模型简介设有一 中心化 的水文平稳序列
t时刻的要素与前期要素之间满足下列关系 ( 5-8)
其中,为 t时刻要素的估计值(预报值)
为自身前 1个时间间隔到前 p个时间间隔的要素值。
为自回归系数
''2'1',,,,,,,},{ nt XXXX
t
p
i
ititptpttt aXaXXXX
1
'''
22
'
11
',,,,,,
tX?
pttt XXX,,,,,,,2,1
p,.,,,,,,,21
7
为误差序列,其含义不同又可以分为三种模型:
1,ARMA(p,q)模型 ( p阶自回归 q阶移动平均模型)
包括三部分:与以往的观测值 有关
与上步误差有关
与上两步不相关的误差有关
模型,P139 ( 5-9)
其中:
θ为模型系数,p为自回归阶数,q移动平均阶数。
ta
tX?
qtqttt
ptpttt
aaaa
XXXX
.,,,,,
.,,,,,
2211
''
22
'
11
'
ta
8
2.AR( p) 模型( p阶纯自回归模型)
满足条件:
零均值
白色噪音序列 方差为 1
前步误差与后步误差无关
白色噪音过程 表示不含有任何规律性波动纯随机过程。
我们知道白光是由各色波长颜色的光所共同组成的,
白噪音就是由强度相同的各种频率振动共同组成的随机序列。
模型:
( 5-8)
ta
t
p
i
iti
tptpttt
aX
aXXXX
1
'
''
22
'
11
',.....
9
3,MA(q)模型( q阶滑动平均模型)
当 的随机序列与 的线性组合满足:
则为 MA(q)模型
注意:三模型必须满足平稳、正态、零均值的条件。
tatX?
qtqtttt aaaaX,,,,,,2211'
10
二,AR( p) 模型参数的确定
1.关于 的估计值 bi的线性方程组 P87
对
进行数学期望运算,归纳整理,得到以下方程组:
tptpttt aXXXX
''
22
'
11
',....,
i?
11
总体自相关函数在实际工作中,我们是以样本函数 x(t)来分析的,用样本函数计算得到的 r(?)作为相关函数
(?)的估计值代入方程组。得到自回归系数的估计值 bi满足如下方程组:
i?
)125........(
)()0(......)2()1(
...............................................................
)2()2(......)0()1(
)1()1(......)1()0(
21
21
21
ppp
p
p
p
p
p
) (
12
根据其系数矩阵的特点,采用 递推求解 。
1 4 2.,,,,,,,,
)()0(.,,,,,)2()1(
.,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,.,,,,,,,,,
)2()2(.,,,,,)0()1(
)1()1(.,,,,,)1()0(
21
21
21
p
prrbprbprb
rprbrbrb
rprbrbrb
p
p
p
13
2.yule-walker递推公式 p143(5-14)
bkk称为偏相关系数,它的概率意义是在给定
的条件下,X’t与
X’t-k的条件相关系数。
),.,,,,,2,1(
1
1,1,1,,1
1
,
1
1,1
1,1
kj
bbbb
rb
rbr
b
jkkkkjkjk
k
j
jjk
k
j
jkjkk
kk
' 1' 2' 1,,,,,,, kttt XXX
14
3.Bury递推公式 P144( 5-15)
15
三、模型阶数的识别
三种识别模式:
1、经验
P=( 1/ 4— 1/ 10) n
16
2,FPE( 最终预备误差)准则
k为 阶数,n为样本数,为 k阶预报误差方差。
是 k的减函数。
而 是 k的增函数。
当 k>k0时,( FPE) k减到最小值。因此取模型
阶数为 k0。
21)1)(1()(
kn n
k
n
kF P E
1)1)(1(
n
k
n
k
2k?
2k?
17
3,AIC准则
与 FPE准则相似,是 p的减函数,而 是随着 p的增加而增加。取 MinAIC( p) 的 p作为模型阶数的估计。
n
p
n
p
n
p
pF P EpA I C
p
p
2
ln
ln)1)(1l n ()(ln)(
2
21
2pin? np2
18
四、平稳性检验
1,t检验 (参数检验) P135
要求序列满足正态分布
若有一序列:
分成两个互不重叠的子序列:
mnn xxxxx,,,,,,.,,,,,,1,2,1?
nxxx,,,,,,2,1
mnn xxx,,,,,,2,1
19
通过分别计算它们的均值 和方差
检验:
公式,P136( 5-7)
步骤,P136
21,xx 2212,
21 xx?
20
2.轮次(游程)检验
优点:不必假定研究对象服从何种分布
轮次(游程)的概念,p136
1 2 3 4 5 6
步骤:根据资料计算平均值,确定游程。
查表( P137) 确定游程的接受区间
比较,实际游程在给定区间内,是,序列平稳。
否,则不平稳
2;21;
NN rr?
21
++---+--+++++--+--++-+
游程,11
N=n/2=22/2=11
025.0205.02
975.0205.0121
05.0
)2;;21( r?
)16;11;7(
22
第三节非平稳序列的处理
一、类型 P157
二、处理非平稳序列的三种方法
1.加法模型
= 趋势函数 +周期函数 +平稳序列 +噪音项
趋势函数、周期函数的识别与提取 P98-104
常用距平法取消除趋势函数与明显的周期函数
2.乘法模型
3.混合模型
)()()()()( tttptftX
)()()()( ttptftX
23
自回归 AR( P) 模型预报实例
叶尔羌河卡群站 1954— 1973年 20年的年平均资料表 5-
2),作 1974年年平均流量的预报。
一、建立自回归 AR( P) 预报模型
例中 P=5,可根据 AIC准则函数确定。
二、求
1.计算年平均流量距平值计算结果见表 5-2第 3列
2.计算各阶自相关函数
与方差
' 55' 44' 33' 22' 11' tttttt QbQbQbQbQbQ
ib
QQQ tt'
)5(),4(),3(),2(),1(),0( rrrrrr
2Q?
24
相关函数:
p132
方差:
P132
求和号内计算在 4列
计算结果在最后 1行
求和号内计算在 6列
计算结果在最后 1行
2
1
''1
)(
x
n
t
tt xxn
r
n
t
tx Qn
1
2'2 1?
1
1
)0( 21
''
x
n
t
tt QQn
r
2
1
1
'
1
'
1
1
)1(
x
n
t
tt xxn
r
25
求和号内计算在 8列
计算结果在最后 1行
求和号内计算在 10列
计算结果在最后 1行
求和号内计算在 12列
计算结果在最后 1行
求和号内计算在最后列
计算结果在最后 1行
2
2
1
'
2
'
2
1
)2(
x
n
t
tt xxn
r
2
3
1
'
3
'
3
1
)3(
x
n
t
tt xxn
r
2
4
1
'
4
'
4
1
)4(
x
n
t
tt xxn
r
2
5
1
'
5
'
5
1
)5(
x
n
t
tt xxn
r
26
3.用递推公式解出自回归系数( P90)
三、列出预报方程
四、预报