第二章 随机过程的一般概念
2.1 随机过程的基本概念和例子
定义 2.1.1:设(P,,F )?为概率空间,T是某参数集,若对每一个,
是该概率空间上的随机变量,则称为随机过程 (Stochastic Process)。
Tt∈ ),( wtX
), wt(X
随机过程就是定义在同一概率空间上的一族随机变量。随机过程可
以看成定义在
),( wtX
?×T上的二元函数,固定?∈
0
w,即对于一个特定的随机试验,
称为样本路径 (Sample Path),或实现 (realization),这是通常所观测到的
过程;另一方面,固定,是一个随机变量,按某个概率分布随机
取值。
),(
0
wtX
Tt ∈
0
),(
0
wtX
抽象一点:令,即
∏
∈
=
Tt
T
RR
T
R中的元素为),( TtxX
tt
∈= ,为其Borel
域(插乘
)(
T
RB
σ域),随机过程实质上是( )F,?到( ))(,
TT
RR B上的一个可测映射,在
( ))(,
TT
RR B上诱导出一个概率测度:
T
P
( )BXPBPRB
TT
T
∈=∈? )(),(B。
一般代表的是时间。根据参数集T的性质,随机过程可以分为两大类: t
1) 为可数集,如T { }L,2,1,0=T或{ }LL,1,0,1,?=T,称为离散参数随机
过程,也称为随机序列;
2) 为不可数集,如T { }0≥= ttT或{ }∞<<∞?= ttT,称为连续参数随机
过程。
随机过程的取值称为过程所处的状态 (State),所有状态的全体称
为状态空间 (State Space)。通常以表示随机过程的状态空间。根据状态空间的
特征,一般把随机过程分为两大类:
TttX ∈),(
S
1) 离散状态,即取一些离散的值; )(tX
2) 连续状态,即的取值范围是连续的。 )(tX
1
离散参数离散状态随机过程: Markov 链
连续参数离散状态随机过程: Poisson 过程
离散参数连续状态随机过程: *Markov序列
连续参数连续状态随机过程: Gauss 过程,Brown运动
例2.1.1:一醉汉在路上行走,以的概率向前迈一步,以q的概率向后迈一步,
以
p
r的概率在原地不动,1=++ rqp,选定某个初始时刻,若以记它在时
刻的位置,则就是直线上的随机游动 (Random Walk)。
)(nX n
)(nX
例2.1.2:到达总机交换台的电话呼叫次数可以看成为一个Poisson 过程。
例2.1.3:研究某一物种数量,由于环境等一些因素的影响导致物种出生和死亡
的是随机变化的,若以表示在时刻时物种总数量,为生灭过程
(Birth and Death Process)(满足一定假设)。
)(tX 0≥t )(tX
例2.1.4:英国植物学家Brown注意到漂浮在液面上的微小粒子不断进行无规则
运动,这种运动是分子大量随机碰撞的结果,称为Brown运动,以表
示粒子在平面上的位置,则它是平面上的Brown运动。
())(),( tYtX
2.2:有限维分布和数字特征
定义 2.2.1:对Nn∈?,Tttt
n
∈?L,,
21
,n维随机向量( ))(),(),(
21 n
tXtXtXL的
联合分布函数
()( )
nnnn
xtXxtXxtXPtttxxxF <<<= )(,)(,)(,,;,,
22112121
LLL
称为随机过程 的 维有限维分布。称 )(tX n
( ){}TtttNntttxxxF
nnn
∈?∈?LLL,,,,,;,,
212121
为随机过程 的有限维分布函数簇。 )(tX
有限维分布函数簇显然满足如下两个性质:
1.(对称性)设为的任意排列,
n
iiiL,,
21
nL,2,1 Tttt
n
∈?L,,
21
,则
()( )
nn
iiiiiinn
tttxxxFtttxxxFKKLL,,;,,,,;,,
2121
2121
=
2. 设,nm< Tttttt
nmm
∈?
+
LL,,,,
121
,则
()( )
mmnm
tttxxxFtttxxxFLLLLL,,;,,,,;,,,
21212121
=∞∞
2
满足性质1,2称为是相容的 (consistent)。
抽象一点:对Nn∈?,Tttt
n
∈?L,,
21
,n维随机向量( ))(),(),(
21 n
tXtXtXL诱
导出( ))(,
nn
RR B上的一个概率测度,该概率测度可以由下面定义唯一决
定:
n
ttt
P
L
21
,
()
nnttt
n
nn
BtXBtXBtXPBP
RBBBBRBBB
n
∈∈∈=
∈××=∈?
)()(,)()(
)(),(,
2211,
2121
21
L
LL
L
BB
此概率测度所确定的分布满足两条性质:
1.(对称性)设为的任意排列,
n
iiiL,,
21
nL,2,1 )(,,
21
RBBB
n
B∈?L,则
)()(
21,
21121
21
ntttiiittt
BBBPBBBP
nn
n
iii
××=××LL
LL
2. 设,,则 nm< )(,,
21
RBBB
m
B∈?L
)()(
21,21,
2121
mtttmttt
BBBPRRBBBP
mn
××=××××LLL
LL
性质1,2称为是相容的。
Kolmogorov 相容性定理:概率测度簇 TtttNn
n
∈?∈?L,,,
21
, (为
n
ttt
P
L
21
,
( ))(,
nn
RR B 上 的概率测度 )确定的分 布簇恰 为某个随机过程的有限 维分布簇当且仅
当其满足相容性条件。
定义 2.2.2:随机过程,称 TttX ∈),(
)()( tEXt =μ为均值函数,
[] )()()()()(
222
ttEXttXEtD μμ ?=?=为方差函数,
对任意,Tts ∈, )()(),( tXsEXtsR =为(自)相关函数,
[][] )()()()()()()()(),( tstXsEXttXssXEts μμμμ ?=??=Γ为(自)协方差函数。
若为复值的随机过程,方差函数定义为)(tX
2
)()()( ttXEtD μ?=,相应的
(自)相关函数,(自)协方差函数分别定义为,
。
_______
)()(),( tXsEXtsR =
[]
_______________________________
)()()()()()()()(),( tstXsEXttXssXEts μμμμ ?=
?
?
?
?
?
?
??=Γ
3
例2.2.1:设有正弦波过程)cos()( θ+= wtAtX,其中为常数,wA, θ为],[ ππ?上
的均匀分布的随机变量,其均值函数为0)( =tμ,协方差函数为
)(cos
2
),(
2
tsw
A
ts ?=Γ。
例2.2.2:设复值随机过程,其中
∑
=
=
N
k
tjw
k
k
etX
1
)( η
k
η彼此独立服从分布,
其均值函数为
),0(
2
k
N σ
0)( =tμ,协方差函数为。
∑
=
?
=Γ
N
k
tsjw
k
k
ets
1
)(2
),( σ
4