45
龚光鲁,钱敏平著 应用随机过程教程及其在 算法与智能计算中的应用
清华大学出版社,2003
第 3 章 随机过程的一般概念与独立增量过程
1,一般概念
1,1 随机过程与有限维分布族
定义 3,1 设 T 为 ),或 ( ∞∞?∞),0[ 或 dR,依赖参数 t( ∈t T ) 的 一族随机变量
( 或随机向量 ) }{ tx 通称为 随机过程,t 称为时间,当 T 为整数集或正整数集时,则一般称为 随机序列,而当 T 为二维 ( 或更一般地,d 维 ) 整数格点时,则称为随机场,
更明确地,随机过程 tx 应该写成 ),t)(t wxwx (或,这里的 w 代表做一次完整的试验,
或者说,是一个基本事件,当 w 取固定的值,例如 0w 时,)( 0wxt 是 t 的函数,称为随机过程的一个 轨道 或一个,现实,,这个现实是由 0w 导致的,
定义 3,2 随机过程或随机序列的概率特性,由它在任意有限个时刻 },,{ 1 ntt L 上
),,(
nt tt
xx L 的分布 (称为 有限维分布族 ) 所确定,有限维分布族即,
},,,,,,:),,(),,({ 1111,,11 nnnttntt xxTttnxxPxxF nn LLLLL?∈≤≤=
xx,
定义 3,3 有限维分布都是 Gauss 分布的随机过程或随机序列,称为 Gauss 过程 或
Gauss 序列,对于 Gauss 过程 (或序列 ) }:{ Ttt ∈x,记 ),(),(,)( stt CovstEtm xxsx ==,分别称为 期望函数 与 协方差函数,),( sts 是非负定 对称函数,即
Ttsstts ∈=,),,(),( ss,矩阵 njiji tt ≤,),((s 为非负定矩阵 ( Tttn n ∈,,,1 L ),
于是 }:{ Ttt ∈x 的 Gauss 性就等价于,对任意有限个时刻 },,{ 1 ntt L,),,(
nt tt
xx L 的矩母函数为
∑=
≤
+++
nji
jijinn zzttztmztm
n ezzM
,
11 ),(2
1)()(
1 ),,(
sL
L,(3,1)
有时人们也用 )()(),()(),( smtmstEstR st +σ=ξξ=?,称其为 相关函数,可见 Gauss 过程的有限维分布族由期望函数与相关函数完全地确定了,
d 维随机过程 tx 是依赖于参数 t 的 d 维随机向量族,其它概念与随机过程类似,
1,2 独立增量过程
定义 3,4 称随机过程 }0:{ ≥ttx 为 独立增量过程,如果对于
46
,0,10 ntttn <<<≤ L 起始随机变量及其后的增量
1010
,,,
nn ttttt
xxxxx L 是相互独立的随机变量组,独立增量过程称为 时齐的,如果 sts xx?+ 的分布不依赖于 s,
时间离散的独立增量过程,就是独立随机变量 的部分 和,而时齐的独立增量过程则是独立同分布随机变量 部分 和的时间连续情形,
记随机过程 tx 的特征函数为 tiaEeta x=Φ ),(,那么我们有
命题 3,5 若 00 =ξ,则独立增量过程 tx 为时齐的必要充分条件为,其特征函数有可乘性,即
),(),(),( satasta ΦΦ=+Φ,(3,2)
证明,必要性显然,我们证明充分性,由独立增量性,我们有 下面的命题
),(
),(),(),(
)()( saEeEeEeEe
stasata
stssststs iaiaiaia Φ===
+Φ=ΦΦ
+++ xxxxxx,
由此得到
tsts iaia EetaEe xxx =Φ=?+ ),()(,
这正说 明了过程的时齐性,
独立增量过程具有以下的 Markov 性,对于 mm xxxytsss,,,,,,11 LL?>>>? 有
),,,|( 1
1 msssts
xxxyP
m
===≤+ xxxx L = )|( xyP sts =≤+ xx,(3,3)
这个等式的推导将在本章第 3 节中在特殊情形 (增量具有分布密度的情形 )中 给出,等式
( 3,3 ) 有非常明确的概率含义,它说明了由这个随机过程所描写的随机现象具有以下特点,在已知 msss xxx
m
=== xxx,,,1
1
L 条件下,随机变量 ts+x 的条件分布函数只与 xs =x
有关,而与随机向量 ),,(
1 mss
xx L 的取值无关,如果把 s 看成,现在,,xs =x 看成现在的取值,把 ts + 看成,将来,,小于 s 的时刻看成,过去,,那么这正是表达了,对于独立增量过程,
在已知过去与现在的条件下,将来的条件分 布只与现在的取值有关,而与过去的取值无关,
这种 " 忘记过去,的性质,称为 无后效性 或 Markov 性,
时齐的独立增量过程 tx 具有非常特殊形式的特征函数,)(),( lylxly ti eEe t?=? 使,
类似地,人们常遇到 d 维独立增量过程,
2 Poisson 过程与复合 Poisson 过程
2.1 事故申报次数的概率模型与 Poisson 过程
例 3,6 ( 保险公司理赔次数 ) 设在时间间隔 ],0( t 中某保险公司收到的某类保险的理赔次数为 tN,那么它 是 一个只取非负整值的随机过程,从长期经验的积累,人们概括出以下
47
的初步近似性质,
(1) 在不同的时间区段内的理 赔次数 是彼此独立的随机变量 ;
(2) 在同样长的时间区段内的理 赔次数 的概率规律是一样的 ;
(3) 00 =N,在有限时间区段内理 赔次数 是有限的,而且在非常短的时间区段 h 内的理 赔次数 超过 2 的概率是 h 的高价无穷小 o(h ),
(1),(2) 说明了 tN 是时齐的独立增量过程,而 性质 (3) 称为 普通性,
我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布,令
)()( iNPtp ti ==,我们有
)0,0()0()(0 =?====+ ++ tsttst NNNPNPstp
)()()0()0( 00 sptpNNPNP tstt ==?== +,
解这个函数方程,可知存在 0>l,使 tetp l?=)(0,再则,由 性质 (3) 有
)()2( hoNNP tht =≥?+,
利用时齐性及独立增量性,由全概率公式我们得到
)1()(1 +==+ ++ kNPhtp htk
)()0,1()1,( hoNNkNPNNkNP thttthtt +=?+=+=?== ++
)()()()()( 011 hohptphptp kk ++= +
)()())()(1)(( 10 hoetphohptp hkk ++=?+ l
)()()1)(( 1 hoetpetp hkhk ++?=?+? ll,
于是
h
etp
h
etp
h
tphtp h
k
h
k
kk 1)(1)()()(
1
11?+?=?+
+
++
ll
,
令 0→h,便得无穷常微分方程组,
)()()(' 11 tptptp kkk ++?λλ= ( 3,4 )
显见,对于 1≥k 还应该满足初值条件,
1)0(,0)0( 0 == ppk,
下面我们用矩母函数方法来推导 )(tpk 的明显表达式,令
∑∞
=
==
0
)(),(
k
k
kzN tpzEzztM t,
48
那么
∑∑ ∞
=
+
+
∞
=
+
+?+?=+=?
0
1
1
0
1
10 ))()(()(')('
),(
k
k
kk
t
k
k
k ztptpeztptpt
ztM ll l
),()1())(),((),()( 00 ztMztpztMztzMtp?=+?= llll,
实质上这是一个 以 z 为参数的关于自变量 t 的常系数常微分方程,且满足初始条件
1)0(),0( 0 == pzM,易见 此 方程的解为
∑∞
=
==
0
)1(
!
)(),(
k
kt
k
tz ze
k
teztM ll l,
按矩母函数的定义,由此得到表达式
t
k
k ek
ttp ll?=
!
)()(,
也就是说 tt PoissonN l~,随机过程 tN 称为 Poisson 过程,
由 Poisson 分布的性质推出,tNVarEN tt?λ== )(,由此我们便得到参数 l 的概率含义,tNVartEN tt )(==l,即 l 是单位时间的平均理赔次数,称为此 Poisson 过程的强度,
同时它也代表单位时间理 赔次数 的方差,
[注 1] 方程 (3,4 )也可以用数学归纳法通过常微分方程中的常数变异法直接求解,
[注 2] Poisson 过程是用以描写一切,罕见事件,发生的概率规律的数学模型,
定义 3,7 时齐的独立增量过程 tN 称为强度为 l 的 Poisson 过程,如果它满足
tt PoissonNN l~,00 =,
Poisson 过程的联合分布为
)()()(),,(,,1121111
11211
===<<<
mmnnnnnmttmm
ttpttptpnNnNPnntt
mmm
LLLL
2,2 Poisson 过程与 指数流的关系
把理赔时刻看成随机到达的,点,,那么随着时间的发展,就出现一系列随机的点,记这些时刻为 ∞→<<<< LL mtt 10,即 kt 为第 k 个理赔发生的时刻,这个概念可以抽象为下述定义
定义 3,8 如果随机序列 }{ kt 满足,∞→<<<<= LL mttt 100,则称之为一个 事件流,简称为 流,记 1= kkkT tt,如果 lexp~kT,而且 }{ kT 独立同分布,那么,
我们称这个事件流 ∞→<<<<= LL mttt 100 为 强度为 l 的指数流,又由于随机序列
49
}{ kT 与随机序列 ){ nt 唯一地相互确定,所以,有时我们也称 }{ kT 为指数流,
对于指数流 ){ kt 而言,在时间段 ],0( t 中出现的 kτ 的个数,记为 }:sup{ tkN kt ≤τ=,
是一个 Poisson 过程,tN 称为 指数流的计数过程,我们把这写成一般的结论,
定理 3,9 对于取非负整值的随机过程 tN,令 }:inf{ kNt tk ==t (它等价于
}:sup{ tkN kt ≤= t ),那么下面诸事实彼此等价,
(1) }{ kt 是强度为 l 的指数流 ;
(2) ),,(,1 nn tt L? 的分布密度为 (记号 AI 表示 A的示性函数 )
}0{1 1),,( n
n
ss
sn
n Iessg <<<
λ=
LL ; (3,4)
(3) tN 是强度为 l 的 Poisson 过程,
证明 首先注意 }{}{ tkN kt ≤=≥ t,
(1)? (2) 只要注意
∫ ∫
≤++
≤+
≤
>
++?=≤≤
nn
n
n
stt
stt
st
tt
n
ttn
nn dtdtessP
L
L
L
L LLL
1
221
11
1
1
0,,
1
)(
11 ),,(
lltt ∫ ∫
≤
≤
≤
>>>
=
nn
n
n
sy
sy
sy
yy
n
yn dydye
L
L
LL
22
11
1 0
1
ll
∫ ∫
≤
≤
≤
<<<
=
nn
n
n
sy
sy
sy
nyy
yn dydyIe
L
L LL
22
11
1 10
ll,
而 (2)? (1) 得自 }{ nt 与 }{ kT 是一一对应的,
(2)? (3) 先求 )(,nkk ≤τ 的密度 (记成 )(ug k ),由 (2)用归纳法可得
)(ug k ∫ ∫ +?<<<<<<<?
+?
= nkkssusssn dsdsdsdsIe
nkk
n LLL
LL 1110 111
ll
0
1
)!1( >
λ?
λ= u
k
uk I
k
ue ( ),( λΓ k 分布 ),(3,5)
再则,由 (2)推出
),( kmNmNP sts +≥= + )( 1 tssP kmmm +≤<<<≤= ++ ttt L
∫ ∫
+≤<<<
≤
+<<<
+
++
+
+=
tssss
ss
kmss
skm
kmm
m
km
km dsdsIe
L
L LL
1
1 10
ll,
50
采用变量替换 kmlmlm yuklssy +++ =≤?= ),(,后,可以很容易地算出右方的积分为
∫?
t
k
s
m
m duuge
m
s
0
)(! ll,即 我们得到了
),( kmNmNP sts +≥= + ∫?=
t
k
s
m
m duuge
m
s
0
)(! ll,
进而有
)( kNNP sts ≥?+ ∑
∞
=
+ +≥==
0
),(
m
tss kmNmNP
∫∑ λ?
∞
=
λ=
t
k
s
m
m
m
duugems
00
)(! ∫=
t
k duug
0
)(,
并且
)( kNNP sts =?+ )( kNNP sts ≥?= + )1( +≥ + kNNP sts ∫ +?=
t
kk duugug
0
1 ))()((
∫ λ?
+
λ?
λ
λ=
t
u
kk
u
kk
duekuek u
0
11
]!)!1({ t
k
tu
kk
ekteku λ?λλ=λ= !)(]![ 0,
特别地还有 )( kNP t = )( 0 kNNP t =?= t
k
ekt λλ= !)(,由此可见
),( kNNmNP ssts ≥?= + ),( kmNmNP sts +≥== + ∫λ?λ=
t
k
s
m
m duuge
m
s
0
)(!
)( kNP t == )( kNNP sts ≥?+,
作为推论,我们得到 ),( kNNmNP ssts =?= + )( kNP t == )( kNNP sts =?+,这说明了
sN 与 sts NN?+,的独立性,利用类似的推理,对于 nttn <<< L10,,可得
),,,(
11 1 ntstsstss
mNNmNNmNP
nn
=?=?=
+++
L
)()()(
11 1 ntstsstss
mNNPmNNPmNP
nn
=?=?==
+++
L
s
m
ems λλ= !)( 1
1
!
)(
1
1 t
m
emt λλ )(1 1! ))((λλ nn
n
tt
n
m
nn e
m
ttL,
这就证明了随机过程 tx 的独立增量性与 Poisson 性,
(3)? (2)的证明
51
对于 nssn <<< L10,,取充分小的 )0),(max(,,011 =?<?≤ ssshh iininL
),,( 1111 nnnn hsshssP +<<+<< tt L
)1,,0,1,0(
1121111
=?=?=?== +++
nnn ththssshss
NNNNNNNP L
)1()0()1()0(
11211
=====
nhhsshs
NPNPNPNP L
)( 1)(1 211211 nhnshsshs hhoeheeehe n LL +?λλ?= λ?λλ?λ?λ?
)( 11 nsnn hhoehh n LL +λ= λ?,
除以 nhh L1 后,令 0,,1 →nhh L,便得到 ),,( 1 ntt L 在约束条件 nss <<< L10 下的分布密度为 nsne λ?λ,(2)得以证明,
定理 3,10 (Poisson 过程的随机分流定理 )
设 tN 为强度为 l 的 Poisson 过程,如果把其相应的指数流看成顾客流,用与此指数流相互独立的概率 p,把每个到达的顾客,归入第一类,而以概率 p?1 把他归入第二类,对
2,1=i,记 )(itN 为 t 前到达的第 i 类顾客数,那么 }0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 分别为强度
lp 与 l)1( p? 的 Poisson 过程,而且这两个过程相互独立,(这个性质称为 Poisson 过程的 随机分流定理,也称为 Poisson 过程在随机选取下的不变性 ),
证明 由 tN 是独立增量过程及归类的机制,可知 )(itN 都是独立增量过程,而且
)()2( )()( hoNNP itiht =≥?+,
=+
=+?==?
+ )2(),()1(
)1(),()1( )()(
ihohp
ihohpNNP i
t
i
ht l
l,
所以它们都是 Poisson 过程,下面我们先证明它们在同一个时刻的独立性,由于
mnn
mnttt ppCmnNmNnNP )1()|,(
)2()1(?=+===
+,
我们有
)!(
)()1(),( )2()1(
mn
teppCmNnNP mntmnn
mntt +
λ=== +λ?
+
λ= λ? ! )( n tpe
n
p
!
))1(()1(
m
tpe mp?λ?λ )()( )2()1( mNPnNP
tt ===,
这就证明了在固定的时刻 t,)1(tN 与 )2(tN 独立,我们用类似而较为冗长的叙述,可以证明对于任意 mn,,及 mn sstt,,;,,11 LL,随机向量 ),,( )1()1(
1 ntt NN L 与 ),,(
)2()2(
1 mss NN L 的
52
独立性,这就是说,随机过程 }0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 是独立的,
[ 注 ] 指数流与 Poisson 过程的离散时间版本
令 kT 为独立同分布的几何分布随机序列,又 kk TT ++= L1t,){}{ nkN kn =τ==,
记参数 ),( pk 的负二项分布为 );( pkNB,即
kknk
n ppCnpkNBP
== )1());((
1
1,
由简单的概率计算可 得到 );(~ pkNBkt,从而 ));(()( npkNBPkNP n ===,此处的 nN
正是 起 到 " 离散时间的 Poisson 过程 " 的作用,即它就是 " 离散时间情形的 Poisson 过程 ",我们把它列表对比如下,
kT流的间隔 流的到达时刻 kt 计数过程 tN,或 nN
连续型,指数流 指 数分布 λExp ),( lkΓ 分布 Poisson tλ
离散型,几何流 几何分布 负二项 );( pkNB ));(()( npkNBPkNP n ===
2,3 与指数流有关的一些随机变量与分布
定理 3,11 若 tN 为 Poisson 过程,则在 nNt = 的条件下,),,( 1 ntt L 的条件分布密度为
tssnn nIt
nssf
≤<<<= LL 101
!),,(,(3,6)
也就是说,如果 nhh,,1 L 独立且服从 U[0,t],而 )()1(,,nhh L 为 nhh,,1 L 按次序大小重新排列而得的顺序随机变量,)()1( nhh ≤≤L,那么在 nNt = 的条件下,),,( 1 ntt L 的分布密度与 ),,( )()1( nhh L 的分布密度相同,
[注 ] 把上面的证明倒回去,就可以发现此定理的结论反过来也是对的,即,如果一个取非负整值的跃度为 1 的非降随机过程 tN,满足,tt PoissonN l~,且在 nNt = 的条件下,),,( 1 ntt L 的条件分布密度为 tssnn
n
Itnssf ≤<<<= LL
101
!),,(,其中
nt 为 tN 的第 n 次跳跃时刻,那么 tN 是 Poisson 过程,
我们还有下述相关的结论,
(1) 在 nNt = 的条件下,nt 的条件分布密度为
)()( ],0[
1
sItnssg tn
n
n
= (3,7 )
(2) )(!)(),( ],0[ sIensnNsP tt
n
tn
λ?λ==≤τ (3,8 )
证明 对于 nssn <<< L10,,取充分小的 )0),(max(,,011 =?<?≤ ssshh iininL,
53
就有
)|,,( 1111 nNhsshssP tnnnn =+<<+<< tt L
)(
),,,( 1111
nNP
nNhsshssP
t
tnnnn
=
=+<<+<<= tt L
t
n
hsthhsshs
ent
NPNPNPNPNP
nnn
ll?
======
!
)(
)0()1()0()1()0(
11211
L
t
n
n
hsth
n
hsshs
ent
hhoeeheehe nnn
λ?
λλλλ?λ?
λ
+λλ?=
!
)(
)( 1)()(1 11211 LL
)0,,(,! 1 →→ nn hhtn L
定理 3,12 若 nkts ≤≤,,则在 nNt = 条件下,sN 的条件分布与二项分布
),( tsnB 相同,而 kt 的条件分布则是
∑
=
==≤
n
kj
jnj
j
ntk t
s
t
snNsP C 1)|(t (3,9 )
证明
)|( nNsP tk =≤t )(
),,( 1
nNP
nNssP
t
tjj
n
kj
=
=>≤
=
+
=
∑ tt
∑
∑
=
=?=
==
=
n
kj
jnjj
n
t
n
n
kj
sts
t
s
t
s
ent
jnN-N,jNP
C )1()(
!
)(
)(
ll
,
推论 3,13 1)|(,,+==≤≤ nktnNEnkts tkt则若,
证明 用次序统计量的结果,独立同分布的 ],0[ tU 的随机变量,按小至大的第 k 个次序随机变量的期望为 1+nkt,
推论 3,14 t teE
t
Nt?λ
λ+?=τ λ? 1
证明 ∑
∞
=
====
0
)()|()]|([
n
ttntNN nNPnNENEEE tt ttt
54
∑∑
∞
=
λ?
+∞
=
λ?
+
λ
λ?+=
λ
+= 0
1
0 )!1(
)(1]1)1[(
!
)(
1 n
t
n
n
t
n
en tnentnnt
λ?λ+?=λλ=
λ?
λ?λ
λ? te
etee
t
tt
t 1
)]1([(,
下面给出 当前所用部件的寿命分布
把 kT 解释成某工作线上第 k 次被更新的部件的寿命,假定它们都服从分布 lexp,那么它们所对应的计数过程 tN 就是 Poisson 过程,考虑当前时刻 t 所用的部件 (注意当前时刻 t 所用的部件不是第 tN 个,而是 tN +1 个,因为更新了 tN 次后,起用的应该是第 1+tN 个部件 ) 的寿命 1+
tN
T,这里 1+
tN
T 的随机性,不仅来自固定的部件的寿命,而且还来自 tN 的随机性,所以不 应 该认为它服从指数分布,以下我们推导它的分布,
因为 1++<≤
ttt NNN
Tt tt,所以 sT
tN
≤+1 就等价于 sTt
tt NN
≤<? +1t,于是,
(1) 当 ts < 时,由 sT
tN
≤+1,我们有 1≥tN 且 tst
tN
<≤? t,利用 nNt = 与 1+nT 之间的独立性及 nt 与 1+nT 的独立性,由 (3,7 )式所 给出对 条件密度函数 )(ug n 导致
]),|)()([(
),()(
),[1],[
11
ttttN
tttt
NtNtstNst
NNNN
NITIEE
tstsTtPsTP
tt
tt
t?+?
++
=
<≤?≤<?=≤
∑∫∞
=
λ?
+τ?
λ=τ=τ=
1
),[1],[ !
)()(),|)()([
n
t
n
nNtntstnst en
tduugunNITIE
tn
∑∫
∞
=?
λ?
λλλ?=
1
1
)(
!
)()(
n
t
st
t
n
n
n
sut e
n
tdu
t
nuee
∫
λ?λ?λλ? λ=?λ?= t
st
sssut seeduee 1)( )(,
(2) 当 ts ≥ 时,我们有 t
tN
≤≤ t0,并注意用 00 =t,类似地得到
]),|)()([(
)0,()(
),0[1],[
11
ttttN
tttt
NtNtNst
NNNN
NITIEE
tsTtPsTP
tt
tt
t +?
++
=
<≤≤<?=≤
)0,(!)()( 1
1 0
1
)( =≤<+?λ?= ∑∫
∞
=
λ?
λλ?
t
n
t tn
n
n
sut NsTtPe
n
tdu
t
nuee
∫ λ?λ?λ?λ?λλλ?=?+?λ?= t ssstsut eteeeduee
0
)( 1)()(,
综合 (1)与 (2),我们得到
55
命题 3,15 当前时刻 t 所用的部件的寿命 1+
tN
T 的概率分布密度函数为
)()1()()1()( ),[),0[
1
sIetsIessp tstsT
tN ∞
λ?λλ+λ+?λ+λ=
+
,
例 3,16 设第 k 个乘客到达公共汽车站的时刻 kt,服从指数流,则在 ],0[ t 中所有乘客等待时间的和的数学期望为
})|)(({))((
11
∑∑
==
=?
tt N
k
tk
N
k
k NtEEtE tt
∑ ∑∞
= =
=?==
0 1
)|)(()(
n
n
k
tkt nNtEnNP t
∑ ∑∞
= =
=?==
0 1
))|()((
n
n
k
tkt nNEntnNP t,
由定理 3,11 可知上式右方第二项等于 n 个独立的 ],0[ tU 随机变量和的期望,其值应为 2nt,于是
))((
1
∑
=
tN
k
ktE t )2(!
)(
0
∑∞
=
=
n
t
n nt
ntent ll 2
2tl
=,
2,4 常见的推广
1,非时齐的 Poisson 过程
对于独立增量 过程 tN,如果存在可积正函数 )(tl 使
duu
st t
s
NN
)(
exp~
l∫
,那么 tN 就称为 强度函数为 )(tl 的 非时齐 Poisson 过程,而 Poisson 过程的强度函数为常数,
定理 3,1 0 ’ (时齐 Poisson 过程的 非齐次分流定理 )
设 tN 为强度为 l 的 Poisson 过程,把其相应的指数流看成顾客流,对任意时刻 s,如有顾客到达,则以与此指数流相独立的概率 )(sp )1)(0( << sp,确定该顾客归入第一类,而以概率 )(1 sp? 确定该顾客归入第二类,记 )(itN 为 t 前到达的第 i 类顾客数,那么
}0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 分别为强度 ∫
t
dssp
0
)(l 与 ∫?
t
dssp
0
))(1(l 的非时齐 Poisson 过程,而且相互独立,
(证明与 Poisson 过程的分流定理相仿,只要注意
=+
=+?==?
+ )2(),())(1(
)1(),()()1( )()(
ihohtp
ihohtpNNP i
t
i
ht l
l ),
56
( 这个定理还可以推广到分成多个类的情形 ),
2,带随机调制的 Poisson 过程 ( 二重 Poisson 过程 )
设 }{ tV 为随机过程,若 在 }{ tV 已知 的 条件下,非负整值随机过程 tN 为强度为 ( )tVl 的 非时齐
Poisson 过程,则 tN 称为 带随机调制 }{ tV 的 Poisson 过程,也 称 为 二重 Poisson 过程,而 更常见的是带随机线性自调制 tN?l 的 Poisson 过程,也称为 ( 0 - 记忆 ) 自激点 过程 ( 参见第 17 章第 5 节 ),
非负随机变量也 常 称为 一个 随机时间,随机时间 t 称为 }{ tV - 可知的,如果对于任意 t,事件 }{ t≤t
可由过程 }{ tV 在 t 的信 息,}:{ tss ≤V 所决定,}{ tV - 可知的随机时间又称为 }{ tV - 停时,对于带随机调制 }{ tV 的 Poisson 过程 tN,假定 它所决定的流为 { }nt,则 nt 们 也 都是 }{ tV - 可 知的,也就是说,
它们都是 }{ tV - 停时,
3 二 维 Poisson 过程
设有两类不同的,事故,,事故 I 及事故 II,记 [0,t]内发生事故 I 及事故 II 的次数分别为
),( )2()1( ttt NNN =,并设它们满足,
(1) 在不同的时间区段内事故申报数是独立的 ;
(2) 在同样长的时间区段内事故申报数的联合概率规律是一样的 ;
(3) )0,0(0 =N,又假定在有限时间区段内,两种事故申报数是有限的,而且在非常短
的时间区段 t? 内任意一种事故申报数超过 2 的概率相对于 t? 为高价无穷小 o( t? ) (即
)()22( )2()1( toNNP tt?=≥≥ 或,,)0,1( 1)2()1( tNNP tt?λ===
tNNP tt?λ=== 2)2()1( )1,0(,tNNP tt?=== m)1,1( )2()1( ),
仿照 Poisson 过程情形,我们可以推导得 tN 的矩母函数为
)1()1()1( 212211)2(2)1(1+ = zzzzNzNz eEe tt mll,
由它的展开式就可以得到 tN 的各种概率分布,
2,5 复合 Poisson 过程
设 }{ nh 为独立同分布序列,而 tN 是一个与它独立的强度为 l 的 Poisson 过程,我们称随机过程
tNt
hhhV +++= L21 为 (强度为 l 的 ) 复合 Poisson 过程,
tV 的 特征函数为
)( 1),( stNst iaia EeEesta ++ ++==+ hhVF L
57
)(
0
)()(
0 !
))((}()|( 11 st
n
n
ia
stst
ia
n
en stEenNPnNeE nn +?
∞
=
++
++
++
∞
=
∑∑ +==== lhhhh lLL
∑∞
=
+?+=
0
)(
!
)(( 1
n
st
nia
en stEe l
hl
))(1( 1 stEeiae +?= hl
由此可以看出
),(),(),(,),( )1( 1 satastaeta tEeia ΦΦ=+Φ=Φ?hl,
下面我们来验证它是时齐的独立增量性,为了突出其实质,我们只看最简单的情形,即验证 sstt VVV?+,相互独立,对于任意有界函数 gf,我们有
)()(
)()(
)]()()][()([
)()()()(
)()()()(
),()]()([
),(),|)]()(([
)]()([)]()([
11
0 0
11
0 0
11
0 0
11
0 0
11
0 0
11
11
st
NN
k k
sltl
l k
stkl
k l
stklll
k
tstt
l
klll
k
stt
l
sttklll
NNNtstt
EgEf
EgEf
kNPEglNPEf
kNPlNPEgEf
kNPlNPEgEf
kNNlNPgfE
klNlNPklNlNgfE
gfEgfE
st
sttt
VV
hhhh
hhhh
hhhh
hhhh
hhhh
hhhh
hhhhVVV
=
++++=
=++=++=
==++++=
==++++=
=?=++++=
+==+==++++=
++++=?
∑ ∑
∑ ∑
∑∑
∑∑
∑∑
∞
=
∞
=
∞
∞=
∞
=
∞
=
∞
=
++
∞
=
+
∞
=
++
∞
=
+
∞
=
+++
++ +
LL
LL
LL
LL
LL
LL
LL
由 gf,的任意性可见 tstt VVV?+,是相互独立的,而且 tsts VVV?+与 同分布,完全类似可以证明对于
101
,,,0 0
<<=
nn ttttn
tt VVVV LL 也是相互独立的,综上可知,复合
Poisson 过程是时齐的独立增量过程,因而它也是时齐的 Markov 过程,在实际应用中,时段
],0( t 内,保险公司对某项保险支付的累计理赔金额,设备故障所需的累计维修费,自然灾害所造成的累计损失,股票市场的累计价格变动等等,都可以用复合 Poisson 过程来近似地描述,
3 B rown 运动 ( Wiener 过程 ) 及其函数
3,1 历史背景与物理模型
1827 年英国生物学家 Brown 在显微镜下,观测悬浮在液面上的花粉,发现花粉微粒作着高度不规则的运动,以后其他科学家发现了更多的类似现象,如空气中的烟雾的扩散等,
但是一直找不出理想的模型来刻画此类现象,至 19 世纪末,人们才搞清楚这种奇怪的现象是由于花粉 ( 烟尘微粒 ) 受到大量液体 ( 空气 ) 分子的无规则碰撞 而造成的,
1905年 Einstein 首次对此类现象作了理论上的量化分析,他假定浸没在某种介质中的粒
58
子连续不断地受到周围介质中的分子的冲击,从物理的角度解释了这种现象,
以后,Ornstein 和 Uhlenbeck 等在物理上又进一步完善了这个想法,
在数学上严格地描述 Brown 发现的这种无规则运动,并把它纳入随机过程框架的是
Wiener,他自 1918 年起系统地用随机过程来建立这种运动的数学模型,这个随机过程也因此被称为 Wiener 过程,又因为 Wiener 过程的背景源起于 Brown 的研究,所以也称 为 Brown
运动,实际上,早在 Einstein 提出理论解释之前,法国数学家 Bachellier 于 1900 年在研究债券市场时,就已经用类似的想法得到了 Brown 运动的直观模型,只是他的结果在经过半个世纪多以后才被人们重新发现,
至今,对于作为数学模型的 Brown 运动的理论研究,已经非常完善 。 Brown 运动与
Poisson 过程一起,可以说是随机过程的两大基石,Brown 运动的应用十分宽广,几乎遍及自然科学和人文科学的所有领域,有些 Nobel 经济学奖获得者的工作,是以 Brown 运动理论作为基础的,
物理 模型的建立
按照 Einstein 的分析,Brown 运动表达了一个作随机运动的粒子在时间 [0,t]上的位移
}0:{ tsBs ≤≤,不妨设 00 =B,Einstein 认为该粒子运动应满足以下的性质,
( 1) 粒子位移的各分量都相互独立,所以,我们不妨只考虑其一个分量,仍记之为
}0,{ ≥tBt,且假定这个分量是时齐的独立增量过程 ;
( 2) 运动的统计规律对空间是对称的,从而 0=tEB ;
( 3) 对固定的 t>0,tB 是一连续型随机变量,假定 2)()( hht BBEtg?= +D 存在,而且
是 t 的连续函数,
下面对于固定的 t,我们来推导 tB 的分布密度的表达式,记 tB 的分布密度为 ),( xtp,
那么,由性质 ( 2) 及 00 =B 可知
∫
∞
∞?
== dxxtpxBEtg t ),()()( 22,
再由 (3)得到
2
0
2 )()()( BBBBEBEstg
ttstst?+?==+ ++
)()()()( 202 tgsgBBEBBE ttst +=?+?= +,
又因为 )(tg 是 t 的连续函数,所以 )(tg 一定是 t 的齐次线性函数,即
Dttg =)(
(D 是一待定常数,它是单位时间内粒子平方位移的均值,称之为扩散常数,在分子运动学中,可知 NfRTD =,其中 R 是由分子的特性所决定的一个普适常数,T 是绝对温度,N 是
59
Avogadro 常数,f 是摩擦系数 ),在数学中为了方便常常简单地假定 1=D,于是我们得到
tBVar t =)(
记 tB 的特征函数为 )(),( ∞<<?∞= llj l tBiEet 。 那么,利用条件 ( 1) 和 ( 3),
我们可得
tst BiBi EeEetst λλ?=λλ+? +),(),(
)1(),(
)1()()1()(
))1(())1((
)()()(
)()()(
00
0
=
=?=
=?=
+
++
s
sttstt
tstttstt
Bi
BBiBiBBiBBi
BBiBBiBBiBi
eEt
eEeEeEeE
eeEeeE
l
llll
llll
lj
( E,1)
由 Taylor 展开式 )(21 2
2
xoxixeix +?+=,我们有 (严格一些还需假定 )|B|E 3t ∞<
)(2)1( 22
2
sss
Bi EBoEBEBieE s +=? lll )(
2
1 2 sos +?= l,
对 ( E,1) 式两端除以 s,并令 0→s 便得
),(21),( 2 ljllj ttt?=,
这是关于 t 的一个常微分方程,解这个方程可得
tet 221),0(),( lljlj?=,
再注意到 1)(),0( 0 == BieE llj,就得到
∫
∞
∞?
== dxt
eeet txxit
plj
ll
2),(
2
2
2
2
1
(E,2)
从 ( E,2 ) 可以看出 tet 221),( llj?= 恰是正态分布 ).0( tN 的特征函数,因此
sstt BBB?+,~ ).0( tN ( 注意特征函数与分布之间的对应是双射 ),另外,显见有
|||| 2 stBBE st?=?,
3,2 Brown 运动 (数学模型 )
定义 3,17 时齐的独立 `增量过程 tB 称为 Brown 运动,如果它满足
( 1 ) ),0(~,tNBBs sst + ;
( 2 ) 对于固定的 w (基本事件 ),轨道 )(wtB 是 t 的连续函数 (称为 轨道连续的随机过程 ),
一般地 Brown 运动也可以对初值 0B 不加什么限制,也就是说,它可以是任何随机变量,
60
定义 3,18 在 xB =0 的条件下,tB 的条件分布密度 )|( 0 xByp
tB
=,称为 Brown
运动的 转移密度,我们把它改记为 ),,( yxtb,于是有,在 xB =0 的条件下,
),0(~ tNxBt?,因而
t
xy
etyxtb 2
)( 2
2
1),,(
= p,(3,10)
推论 3,19 Brown 运动对于不同的 t 对应的转移密度族满足以下的关系
∫=+ duyusbuxtbyxstb ),,(),,(),,( (3,11)
这个关系实际上是转移密度的全概率公式,称为 Chapman - Kolmogorov 方程,
因为 Brown 是独立增量过程,所以它有 Markov 性质 (无后效性质 ),即对
tssssm +<<<<≤ 10 L,在 msss xBxBxB
m
===,,,1
1
L 的条件下,tsB + 的条件密度
),,,|( 1
1 msssB
xBxBxByp
mts
===
+
L )|( 0 xByp
tB
== ),,( yxtb=,(3.12)
即是 Brown的转移密度,具有 Markov 性质的随机过程称为 Markov 过程,Brown运动的转移函数是与时刻 s 无关的,所以称为 时齐的 Markov 过程,Markov 过程相当于动力系统的随机版本,动力系统是在已知现在的条件下,过去对于将来会发生什么是不起影响的,而
Markov 过程是在已知现在的条件下,过去对于将来会发生什么的概率规律不起影响,Markov 过程的时齐性对应于确定性的定常的动力系统,
[警告 ],现在的取值,只能是 xBs =,而不能是 ABs ∈ 。
Brown 运动的联合分布密度 设 0B 的分布密度为 )( 0xj,那么由独立增量性,对于
),,,(,0
101 nttn
BBBtt LL <<< 的联合分布函数为
),,,( 100
1 ntt
xBxBxBP
n
≤≤≤ L
∫ ∫ ∫
∞? ∞? ∞?
=
0 1
0111010 ),,(),,()(
x x x
nnnnn
n
dxdxxxttbxxtbx LLL j,
所以,对于 ),,,(,0
101 nttn
BBBtt LL <<< 的联合密度是初始密度与各个时刻间的转移密度的乘积,即
),,(),,()( 111010 nnnn xxttbxxtbxLj,(3.13)
3,3 Brown 运动的简单性质
本段中将给出 Brown 运动的一些最简单的分布性质与轨道性质,不妨假定 00 =B,
Brown 运动是一个 Gauss 过程,因此它的分布特性由其均值向量和协方差矩阵完全确定,由 0=tEB 及 Brown 运动的独立增量性可知,当 ts ≤ 时有
61
),(),( stssts BBBBCovBBCov?+= sBBBCovBBCov stsss =?+= ),(),( 。
对称地,当 t>s 时,tBBCov ts =),(,从而,我们有
),( ts BBCov = ),min()( tstsBBE ts?=∧= 。 ( 3。 14)
容易验证 Brown 运动具有如下的平移不变性和尺度不变性,
( 1) 平移不变性,若 }0,{ ≥tBt 为 Brown 运动,则 }0,{ ≥?+ tBB aat ( a 为常数 ) 也
是 Brown 运动 ;
( 2) 尺度不变性,若 }0,{ ≥tBt 为 Brown 运动,则 }0,{ ≥tcBct ( c 为正常数 ) 也是
Brown 运动,
此外,Brown 运动还有如下的重要的轨道 性质,由 Brown 运动 }0,{ ≥tBt 的定义,它的 轨道是连续的,可是这些轨道 却都是处处都不可微的函数,后一个性质的物理实质在于,
粒子在每一瞬间都会受到介质中的分子的碰撞,碰撞后的粒子改变运动方向,因而没有速度,
从数学的角度看,由于 ),0(~ hNBB tht?+,故而对任意给定的大的正数 M 有
1)](1[2)|(| 0?→=≥? →+ htht hMMh BBP F,
其中 ∫
∞?
=Φ x t dtex 2
2
2
1)(
p 是 )1,0(N 的分布函数,粗略地说,Brown 运动在任一点 t 处存在有限导数 ( 此时差商
h
BB tht?+ 必然有限 ) 的概率为 0,
经过严格概率论的进一步分析,还可以知道,Brown 运动 在 几乎每条轨道上的任意一点处,其导数均不存在,
3,4 Brown 运动的反射原理及首达性质
Brown 运动的反射原理 Brown 运动具有,镜面反射对称性,,称为 Brown 运动的反射原理,它可以直观地叙述为
),],0[(),],0[( xBxtBrownPxBxtBrownP tt ≥=≤ 且到过运动在且到过运动在,
( 3。 15) ’
设想在 x 处放上一个镜子,则 ( 3,15 ) 的含义为,Brown 运动的概率关于此镜子具有对称性,这个等式的证明需要较多的知识,在本书中我们不予给出,,注意到 ( 3,15 ) 右方就是 )( xBP t ≥,如果记
stst BB ≤
= max*
,
那么 ( 3,15 ) 可以用准确的数学语言叙述如下
定理 3,20 (Brown 的反射原理 )
62
)(),( * xBPxBxBP ttt ≥=≤≥,( 3。 15)
Brown 运动的首达性质 在应用中常会遇到 Brown 运动 首达 a 的时刻 (记为 aT ),即
}:0min{ aBtT ta =>=?,
显见 aT 是一随机变量,而 反射原理可以在直观上理解为,
当 xTt > 时,)( xx TtT BBB 与 )( xx TtT BBB?+ 同分布,即 tT BB
x
2 与 tB 同分布,
由此可以设想,在时刻 aT 以后对 Brown 运动接上 tT BB
a
2,是否也能是一个 ( 是另一个 !) Brown
运动呢? 概率论理论证明了这个猜测是正确的,即 对于任意 0≥t,如下定义的随机过程
≥?
<=
≥?
<=?∨
)(2
)(
)(2
)(
at
at
atT
at
t TtBa
TtB
TtBB
TtBB
a
与 tB 同分布 ( 指一切有限维分布都相同 ),也就是说
∨
tB 也是一个 Brown 运动 。 经过更细致的分析,还可以导出下述定理
定理 3,21 随机过程 ),( ta BT 与随机过程 ),( ta BT ∨ 具有相同的有限维分布族,
应用反射原理可以得到 aT 的分布,
定理 3,22 若 00 =B,则 Brown 运动 }0,{ ≥tBt 首达 )0(>a 的首达时 aT 的分布函数的表达式为
))(1(22)( 2
2
t
adxetTP
t
a
x
a Φ?==≤ ∫
∞?
p,
因此,其密度函数为
)(
2
)( ),0[2
3
2
tIe
t
atf ta
Ta ∞
pi
=,
证明 注意由 Brown 运动的连续性知 }{}{ * aBtT ta ≥=≤,应用反射原理,我们有
)(),()()( ** aBPaBaBPaBPtTP tttta >+≤≥=≥=≤
dxe
t
aBP
a
t
x
t ∫
∞?
pi
=≥= 2
2
2
2)(2 ))(1(2
t
aΦ?=,
[注 1 ] 当 a<0 时,由 00 =B 及对称性可知,aT 的分布与 aT? 的分布相同 。 因此,对任意实数 a,有
63
))||(1(22)(
||
2
2
t
adxetTP
t
a
x
a Φ?==≤ ∫
∞?
p,
[注 2 ] 分布密度为
)())(2exp(2)( ),0[
2
23 xIx
mx
mxxp ∞
= l
p
l
的分布称为 逆正态分布 (逆 Gauss 分 布,反正态分布 ),于是 Brown 的首达时分布相当于 参数
∞==λ ma,2 的逆正态分布,
推论 3,23 aT 几乎处处有限,即 1)( =∞<aTP
证明 我们有
12)(lim)(
0
2
2
==≤=∞< ∫
∞?
∞→
dxetTPTP
x
ata p,?
它的概率意义为,无论 a 多大,Brown 运动总是以概率 1 在有限时间内到达 a 。
推论 3,24 +∞=aET
证明 利用 aT 的密度函数得到
+∞==== ∫∫∫
∞?∞?∞
0
2
0
2
30
22
22)( dtet
adte
t
tadtttfET tata
Ta a pp,?
此推论表明,虽然 Brown 运动几乎所有的轨道首次到达 a 的时间有限,但是对于所有的轨道到达 a 点的平均时间却是无穷大,
有关的另一个使人感兴趣的随机变量是 Brown 运动在 ],0[ t 中达到的最大值
stst BB ≤≤= 0
* max,当 0≥a 时我们有
)()max(
0
tTPaBP as
ts
≤=≥
≤≤
= ))(1(22 2
2
t
adxe
t
a
x
Φ?=∫
∞?
p,
因此得到下面的推论
推论 3,25 s
ts
B
≤≤0
max 的密度函数为
0,22)( 2max
2
≥=? aetaf t
a
p,
定理 3,26 (Brown 运动的的反正弦律 ) 设 tB 为 Brown 运动,00 =B,ts <<0,则
64
t
stsuBP
u arcsin
2)),(:0(
p=∈?≠,
证明纲要 将待求概率的事件的对立事件记为 A,即 }0),({ =∈?= uBtsuA 使,由推广的全概率公式推出
)|()( aBAPAP s == ∫ dses
s
2
2
2
1?
p
对于 0>a,利用 Brown 运动的时齐性,空间平移不变性 (参见习题 3 的 23 题 )和对称性,对于 Brown 运动首达 0 的 0t,由 Brown 运动的性 质,我们有
=?= )|( aBAP s )|( aBAP s = )|0(min aBBP sutus =≤= <<
)|0(min 00 aBBP ustu =≤=?<< )0|(max 00 =≥=?<< BaBP ustu
)|( 0 aBstP a =?≤= t dveva v
sst
22
3
0
2
2
∫=
p,
于是
∫=)( AP dveva v
sst
22
3
0
2
2
∫
p dses
s
2
2
2
1?
p
L= 经过化简后 )(
1
0 suu
du
s
st
+= ∫
pL = (令
2svu = )
s
stanarct?==
p
2L
t
sarccos2
p=,
(因为如果记 s
stanarct?=J
,那么 J2ants st =?,于是 t
s
s
st =?+= 1
1cosJ
),
所以
t
sAPtsuBP
u arccos
21)(1)),(:0(
p?=?=∈?≠ t
sarcsin2
p=,?
Levy 曾在 20 世纪 40 年代,对 Brown 运动作了奠基性的研究,此后 Brown 运动的研究始终十分活跃,方兴未艾,至今还不断地推陈出新,Brown 运动还有许多非常有趣的性质,在本书中不宜涉及更多,
3,5 与 Brown 运动有关的几个简单随机过程
吸附 Brown 运动与吸收 Brown 运动
设,0>a aT 为 Brown 运动 tB 首达 a 的时刻,令
≥
<=
)(
)()(
a
ata
t Tta
TtBB
,称为 在 a 吸附的 吸附
65
Brown 运动 。 它的分布函数是既有离散部分又有连续部分的混合分布,下面我们来推导这个分布函数,用
),( ta BT 与 ),( ta BT ∨ 有相同的联合分布,在 ax < 时得到
),()(),()( **)( aBxBPxBPaBxBPxBP tttttat ≥≤?≤=<≤=≤
),()( tTxBPxBP att ≤≤?≤= ),()( tTxBPxBP att ≤≤?≤= ∨
),2()( tTxBaPxBP att ≤≤≤=,
再注意到 ){}2{ tTxBa at ≤?≤?,因此在 ax < 时有
)2()()2()()( )( xaBPxBPxBaPxBPxBP ttttat?≥?≤=≤≤=≤
)2()2()( xBaxPaxBPxBP ttt ≤<?=?≤?≤= 。
另一方面我们还有 )()( )( tTPaBP aat ≤== )(2 aBP t ≥=,两者统一起来就有
定理 3,27
≥
<≤<?=≤
)(1
)()2()( )(
ax
axxBaxPxBP ta
t,
即吸附 Brown 运动 )(atB 的分布函数在 ax = 处不连续,它有一个跳跃量 )(2 aBP t ≥,
[ 注 1 ] Brown 运动在首达 a 以前的部分 }:{ at TtB <,称为 在 a 点吸收的吸收 Brown 运动,确切地说,吸收 Brown 运动不是一个 " 完整的 " 随机过程,它在 aTt ≥ 后就消失了,把吸收 Brown 运动与吸附 Brown 运动 )(atB 进行比较,就得到 在 a 点吸收的吸收 Brown 运动取值的概率规律为
)(),2(),( axxBaxPTtxBP tat <≤<?=<≤,
[ 注 2 ] 设 0,0 00 => Bx,通常把 tt Bx +=? 0x 称为 " 从 0x 出发的 Brown 运动 ",易见 它的转移密度为 ),,(),,( 00 xyxxtbyxtp=,且 tξ 首达 0 的时刻正是 tB 首达 0x? 的时刻,记
tx 首达 0 点的时刻为 0T,那么 tx 在到达 0 点以前的部分,称为 在 0 点吸收的吸收 Brown 运动,
0 点反射的反射 Brown 运动
||)( trt BB?= 称为 ( 在 0 点反射的 ) 反射 Brown 运动 。 我们有
p
tBE
t
2|| =,tBVar
t )
21(||
p?=,
积分 Brown 运动
66
∫
=ξ t
st dsB0 称为积分 Brown 运动,它不再具有 Markov 性,但是不难证明,二元随机过程 ),(
0
ts
t
BdsB∫ 却是 Markov 过程,
3,6 漂移 Brown 运动
定义 3,28 tBtt?+= mx 称为具有常数漂移 m 的 漂移 Brown 运动,这是 Brown
运动加上一个线性趋势项,于是 ( 以下诸叙述请读者补出证明 )
(1) 漂移 Brown 的转移密度,即条件分布密度 )|( xyp s
ts
=
+
xx,是
),,(),,( tyxtbyxtp m?=,
(2) 漂移 Brown 运动是时齐的 Markov 过程,即它满足
),,,|( 1
1 msss
xxxyp
mts
===
+
xxxx L )|( 0 xyp
t
== xx,
(3),对于 ntt <<< L10 而言,随机变量组 ),,,(
10 ntt
xxx L 的联合密度是初始密度
)( 0xj 与各个时刻间的转移密度的乘积,即
))(,,(),,()( 11111010 nnnnnn ttxxttbtxxtbx mmj L,(3,14)
漂移 Brown 运动可以作如下的随机模拟,
设 }{ kX 独立同分布,
ppX k 1
11~ 。 定义 )(
][1 ttt
XXxX
++?= L,则
)12]([=? pttxEX t,])12(1][[)()( 22=? pttxXVar t 。
对于充分小的数 0h >,如果取 hxht =?=?,,并且对于给定的常数 m,选取 p 使
hp m=?12 ( 即 )1(21 += hp m ),那么当 0→h 时,tEX t?→? m,
tXVar t →? )(,由中心极限定理可得?tX 的近似分布为 ),( ttN?m,进一步用多维的中心极限定理,可以证明?tX 的所有的有限维分布,都收敛于漂移 Brown 运动的相应的有限维分布 ( 在较为深入的随机过程理论课程中,还可以证明,在 0→h 时,?tX 作为随机过程整体在某种意义下的极限为漂移 Brown 运动 ),
特别地,取 0=m,21=p,则相应的极限就是 Brown 运动,
3,7 几何 Brown 运动
定义 3,29 对数为漂移 Brown 运动的随机过程,称为几何 Brown 运动,即
tB
t
te mx += 称为几何 Brown 运动,有些文献上也称 )0(,>= + sx ms tB
t
te 为 几何 Brown 运动,
67
几何 Brown运动不是独立增量过程,但是,由于指数函数是严格增函数,所以它仍是 Markov
过程,(易见,若 tx 是 Markov 过程,f 为严格单调函数,则 )( tt f xV?= 也是 Markov 过程 ),
在金融证券中,最简单的变量如股票价格,外汇汇率,股票指数价格,期货价格等等,
都是随机过程,在金融中统称为 标的变量 (underlying variable),大量实证表明,用几何
Brown 运动作为这种标的随机过程的粗近似,能提供明显的参考作用,在金融中的几何
Brown 运动常显现为
)0(,)2(
2
>σ=
σ?μ+σ tB
t
teS,
以此作为数学模型,称为 Black - Scholes 模型,参数 m 称为此标的变量的 收益率 。 我们将证明,在无套利的市场中确定与标的变量有关的金融产品的合理定价时,m 应该取为银行的无风险利率 r,这样的模型 )0(,)2(
2
>σ=
σ?+σ trB
t
teS 称为 风险中性的 Black - Scholes 模型,这时参数 s 就成为唯一的能起作用的模型参数,称为 波动率 (volatility),它代表市场的随机波动,在应用中就需要利用实际数据资料来估计波动率 s,
假定标的变量在 [0,T] 区间按步长 t? 的采样为,),0( tNTNnS tn?=≤≤?,那么,
)0(,ln
)1(
>≥
nN
S
S
tn
tn 相互独立,而且与 trB
t?
σ?+σ
)2(
2
具有相同的分布,即其分布为
),)2(( 2
2
ttrN ss,于是 2s 的估计可取为
∑
=
=
N
n
T
tn
tn
S
S
NS
S
Nt 1
2
0)1(
^
2 )ln1(ln
)1(
1s,(3,15)
4,简单随机徘徊
通常的教科书中,常把简单随机徘徊常放在 Brown 运动之前,用简单随机徘徊作为
Brown 运动的近似,然而 在本书中,我们考虑到连续情形比离散情形更易于处理,所以把简单随机徘徊放在 Brown 运动后面,
4,1,双侧吸收壁的吸收概率
假定两人参加博弈,开始时甲有资本 a元,乙有资本 b元,每次 1 元,直至其中一人输光就停止,不容许借贷,求甲输光的概率 ap 和乙输光的概率 bq,
此问题可用两端带有吸收壁的随机徘徊来描述,假定质点在每隔一个单位时间以概率
p和 q分别向右和向左移动一个单位距离,且每次移动之间是相互独立的,再假定质点在开始时刻 t=0时位于 )0( bann +≤≤,且在 0及 ba + 处各设一个吸收壁,即质点一旦到达 0或
ba +,就永远停在该处,我们来求质点最终在 0被吸收的概率 np,由定义显然有
0,10 == +bapp,我们分析在 n 处的质点要被 0吸收,总共只有两种可能,即先向右移动一格而最后被 0吸收,或先向左移动一格而最后被 0吸 收,用全概率公式就得到差分方程
68
11?+ += nnn qpppp,
它等价于 )()( 11?+?=? nnnn ppqppp,即
)( 11?+?=? nnnn pppqpp,
下面分两种情形分别考虑,
( 1 ) qp = 情形,这时 =?+ nn pp 1 常数,记为 c,于是 ncppn += 0 nc+= 1,再由 cbap ba )(10 ++== + 得到 bac +?= 1,故而 ba npn +?= 1,所以 a 出发而在 0被吸收的概率为 ba bba apa +=+?= 1,同理可得 ba aqb +=,
( 2 ) qp ≠ 情形,由 p0=1得到
),1()( 11?=?+ ppqpp nnn
于是
p
q
p
q
p
q
pppqpppp
ban
ba
nk
n
ba
nk
kknba
=?=?=?
+
+
=
+
=
++ ∑∑
1
)()(
)1()1()()( 1
1
1
1
1,
再由 pa+b=0推出
p
q
p
q
p
q
pp
ban
n
=
+
1
)()(
)1( 1,
又由于 p0=1,便得
p
q
p
q
p
ba
=
+
1
)(1
)1(1 1,
最后得到
ba
ban
n
p
q
p
q
p
q
p
+
+
=
)(1
)()(
。
因此
ba
b
ba
baa
a
q
p
q
p
p
q
p
q
p
q
p
++
+
=
=
)(1
)(1
)(1
)()(
,
用同样的方法可得
69
ba
a
ab
p
q
p
q
pq
+?
=?=
)(1
)(1
1,
4,2 随机徘徊的对称原理
定理 3,30 (随机徘徊的对称原理 ) 设 nS 为随机徘徊,nn XXS ++= L1,kX
独立同分布,那么我们有 ( 注意,正反方向的起始分别为 0 与 nS )
]),[),(,(]),[),(,0( baSniSSPbaSniSP nnini ∈<<=∈<>,(3,16)
证明 记 nXX,,1 L 的逆向排列为
^^
1,,nXX L,即 )(1
^ nkXX
knk ≤= +?
,于是
^^
1
^
nn XXS ++=
L
也是简单随机徘徊,而且有
inninnii SSXXXXS?+=++=++= 1
^^
1
^ LL
,nn SS =^,
由此就得到
]),[,,(]),[,,0(]),[,,0( ^^ baSniSSPbaSniSPbaSniSP ninnini ∈<>=∈<>=∈<>,
4,2 随机徘徊的首达时刻
引理 3,31 在满足 )(,2,1 nixmxx in ≤<=++L 的整数解 (可以取负值 )
nxx,,1 L 的 n 个循环排列中,恰有 m 个循环排列满足,部分和的前 1?n 个都小于 m,(即,
满足条件
,)(,
1
npmxx
pii
<<++L,
的循环排列,
nii
xx,,
1
L 只有 m 个 ),
证明 首先注意到,因为总和为 m,所以满足条件要求的解 ),,( 1 nxx L 必须有 1=nx,再则,
nxx,,1 L 的部分和共 n 个,把它们的最大值记为 M,假定其中第 l个部分和是达到 M 的那些部分和中的第一个,那么也必定有 1=lx (否则有 1<lx,于是前面的部分和中就必有达到 M 者,这就出现了矛盾 ),从而由 )(,2,1 nixmxx in ≤<=++L 的解得到的 ),,,,,( 121 lnll xxxxx LL++ 就是满足上述要求的一个循环排列,
往证这样的循环排列一共只有 m 个,为了叙述简单,下面不妨假定这个循环排列就是 ),,( 1 nxx L 自己,
对于 mj,,1 L=,记 }:min{ 1 jxxkp kj =++= L,它是部分和首达 j 的时刻,由假定可知
70
npm =,可见和数 nxx ++L1 达到 m 是由分别达到累计和为 1 的 m 段 ),,,{
121 +++ iii ppp
xxx L 逐步实现的 ))1,,1,0,0,(,1( 01
1
==<?< +
+=
∑ nippsx ii
s
pj
j
i
i
L,因此,除 ),,( 1 nxx L 自己外,只有以 1+
jp
x 开始的排列且当 11?≤≤ mj 时,才满足我们的要求,引理证毕,
定理 3,32 (Dwass – Dinges 定理 ) 设 nS 为从 x 出发的随机徘徊
nn XXxS +++= L1,其中 iX 独立同分布,且取值于 },2,1,0,1{ L,xS =0 (整数 ),
那么,在 xm > 时有
)()),(,( mSPn xmmSnimSP nni =?==<<,(3,17 )
证明 不妨假定 0=x ( 否则可用 xm? 代替 m ),把 ),,( 1 nXX L 的 n 个循环排列的联合 )},,,(,),,,,(),,,{( 11121?nnnn XXXXXXXX LLLL 所出现的一切可能放在一起,作为样本空间,由独立同分布性可知其中 n 部分的任意一部分内所有随机 变量的和都是具有相等概率的,我们可以把它们看成为,广义的,基本事件,于是我们可以用推广的古典计算方法来计算条件概率 )|)(,( mSnimSP ni =<<,再由引理 3,31 可知,在上面的,广义的,基本事件中,有利于我们要算的 (条件 )概率的恰有 m 个,因此,这个 (条件 )概率应为
n
m,这就是我们要证明的结论,
4,3 简单随机徘徊与首达时
若 nS 为简单 随机徘徊 nn XXS ++= L1,其中
pqX i
11~,且相互独立 。 那么利用 Dwass-Dinges 定理得到,对于 nS 首达 1 的时刻 1T 有
nnn
nn qpCnSPnnTP
1
2121 1
1)1(
12
1)12( +
+ +==+=+=,(3,18)
于是 1T 的矩母函数 (注意此时可能有 1)( 1 <∞<TP,所以此时矩母函数在 1 处的值就会小于 1) 为 )(1 pqzpA,其中 ( 1T 只可能取奇数 )
nn
n
n
zCnzA 2
0
1 1
1)(
+= ∑
∞
=
n
n
znn n )!1(! )!2(
0 +
= ∑
∞
=
,
注意到 )(21 1 zzA? 的展开式中 nz 的系数为
71
!
))1(21()221)(121(21
)4(! 13)52)(32(22!)!1( ))!1(2(2 1 n
n
n
nn
nn
n nn==
LL
把它与广义 Newton 展开式
n
n
yn ny ! ))1(()1()1(
0
=+ ∑∞
=
aaaa L
对照,便得到
2
1
1 )41()(21 zzzA?=?,
即 )(1 zA 有显式表示
z
zzA
2
411)(
1
=,(3,18)
从而得到
q
qppqpATP
2
||1)()(
11
==∞<
<
≥
= )(
)(1
qpqp
qp
,(3,19)
== )('11 pqpAET
≤∞
>?
)(
)(1
qp
qpqp
,(3,20)
进一步记首达 m 的时刻为 mT,同样用 Dwass-Dinges 定理可得到
nmnn
mnmnm qpCmnmSPmn
mmnTP +
++ +==+=+= 122
1)(
2)2(,(3,21)
再注意简单随机徘徊 nS 从 k 到 1+k 的转移规律与从 0 到 1 是一样的,由 Markov 性便得到下面的定理
定理 3,33
<
≥
=∞< )()(
)(1
)( qp
q
p
qp
TP mm,(3,22)
≤∞
>?=
)(
)(
qp
qpqpmET
m,( 3,23)
习题 3
1,设 }0),({ ≥ttN 服从强度为 l 的 Poisson 过程,ts <,求 )|(),|( stts NNENNE 以及协方差
72
函数 ))(),(( stNtNCov +,
2,设 tN 是 Poisson 过程,,0 ts ≤≤ 证明 1}{ =≤ ts NNP,且 0}{lim =>?→ estst NNP,
3,设 tN 为 Poisson 过程,tss m <<<L1,证明在 nNt = 的条件下,),,(
1 mss
NN L 的条件联合
分布为多项分布,
4,假定海浪引起的多次冲击形成一个参数为 l 的指数流 }{ kt,第 k 次冲击对某个设备造成的瞬时随机损失为 kD,设,{ }1,≥kDk 为独立同分布,且与 }{ kt 独立,于是海浪在 t 时刻对设备造成的总损失为
=tx ∑
=
t k
N
k
t
k eD
1
)( ta,其中
tN 是 }{ kt 的 计数过程,求 )(,tt VarE xx,
5,设正随机变量 Λ 具有密度 )(lg,已知在 l=Λ 的条件下,随机过程 tN 的条件分布是强度为 l 的
Poisson 分布,求 ),,(
1 ntt
NN L 的 (联合 )分布,证明 tN 不是独立增量过程,而是平稳增量过程,即
stst NNX?= +
的分布与 s 无关,而且 ),,(
1 tttt n
XX ++ L 的分布不依赖 t,
6,设某商场在下午 1 点到 4 点到达的顾客数 X 服从平均速率为每分钟 60 人的 Poisson 过程,而到商场的
人所消费的钱 )25,30(~ Bih,假设 ih 相互独立且与 X 独立,求商场在 该时间段内的平均营业额与营业额的误差,
7,设 )(,miX i ≤ 们相互独立,服从参数为 )(,mii ≤l 的 Poisson 分布,求在 nXX m =++L1 的
条件下,),,( 1 mXX L 的条件分布,
8,设三个机器人甲,乙,丙在时刻 0=t 开始工作,它们正常工作的时间是相互独立的随机变量,设时刻 t
待修理的机器 人在 ),( htt + 修好能正常工作的概率都是 )(hoh +?l,
(1) 求在时刻其中至少一个待修理的概率,(2) 求正好按甲,乙 丙的次序并且三个全坏的概率,
9,设 }{ nt 为指数流,其计数过程为 Poisson 过程 tN,求在 1=tN 的条件下,),( 21 tt 的条件密度,
10,一个从底层上升的电梯,设 iN 为在第 i 层进入电梯的人数,它们是相互独立的,且
i
PoissonNi l~,由第 i 层进入电梯的每个人独立地以概率 ijp 在第 j 层离开电梯 ( 1=∑
>ij
ijp ),记 jX
为在第 j 层离开电梯的人数,求 jEX 及 ),( kj XX 的分布,( 注,令 ijN 为从第 i 层进入电梯,并在
第 j 层离开电梯的人数,由分流定理它们相互独立,而且有 jjjj NNX,11?++= L ),
11,设 )(itN )2,1( =i 是相互独立强度为 il 的 Poisson 过程,分别对应于指数流 }{ )(int,求
73
(1)
)1(
)2(
tN
t 及 )2(
1tN 的分布 ; (2) )|{
)2()1()1(
1 tt NNE +t,
12,设 )(itN )2,1( =i 是相互独立强度为 il 的 Poisson 过程,求证 )2()1( tt NN? 不是 Poisson 过程,而是复
合 Poisson 过程,并求它的特征函数,
13,若 tNt )1(0?= xx,其中 }{ tN 为与 0x 独立的 Poisson 过程,而
2
1
2
1
11
~0x,
(1) 求 tx 的协方差函数 ; (2) 求 ),( st xx 的特征函数 ;
14,设随机变量 mt exp~,且与强度为 l 的 Poisson 过程 }0:{ ≥tNt 独立,证明 tN 服从参数为
ml
m
+ 的几何分布,
1 5,设 )2,1}(1:{ )( =≥ inint 是两个参数分别为 il 的相互独立的指数流,其对应的计数过程分别为
Poisson 过程 )(itN,证明 )2()2( )1()1(
1 nn
NN tt?
+
服从参数为
21
2
ll
l
+ 的几何分布,
16,某设备由 BA,两部件构成,可能发生三类故障,在 ],0( t 中发生第 i 类 ( 3,2,1=i ) 故障的次数为参数是 il 的 Poisson 过程,且相互独立,在第一类故障时 A不 正常,在第二类故障时 B 不 正常,而在第三类故障时 BA,都不正常,设 BA,的寿命分别为 hx,,求证 hx,均为指数分布,),( hx 服从二维指数分布,)}(exp{),( 321 stststP ∨=>> lllhx,
17,设 )(ktN 为一列相互独立的强度为 kl 的 Poisson 过程,∑∞= ∞<= 1k kll,求证 ∑∞== 1 )(k ktt kNN
是复合 Poisson 过程,
18,若 tN 为均值为 )(tL 的非时齐 Poisson 过程,)(1 t?L 为 )(tL 的反函数,问 )(1 tN?L 是什么过程?
19,若 tN 为均值为 )(tL 的非时齐 Poisson 过程,设 nXX,,1 L 为 n 个取值在 ],0[ t 上,且是分布函数为 )( )()( tssF LL= 的独立同分布随机变量,证明在 nNt = 的条件下,该非时齐 Poisson 过程的各个事故发生的时刻与 )()1(,,nXX L 同分布,
* 20 ],0[ t 中进入某 医院住院部的病人数为均值为 )(tL 的非时齐 Poisson 过程,设病人的住院时间独立
同分布,具有分布密度 )(tf,且与此非时齐 Poisson 过程独立,记 )(th 为时刻 t 住院的人数,求它的期
74
望与方差,
21,设 tB 为 Brown 运动,分别求 (1) tBtt?+= msx,(2) )1(,)1(
1
<?=
tBt
t
tth,(3) te
t
t Be b
bV
2
=
的协方差函数,
22,设 tus <<,tB 为 Brown 运动,求
)|( ts BBE,)|( st BBE ),|( ust BBBE,),|( tus BBBE,),|( tsu BBBE,
23,证明 Brown 运动有空间平移不变性,
)|()|( zxBzABPxBABP sstsst +=+∈==∈ ++,
其中 }:{ AyzyzA ∈+=+,
24,设 0<a,对于 Brown 运动 )0( 0 =BBt,给出在 a 点的反射原理及吸附的 Brown 运动的概率规律,
25,对于 10 << t,证明在条件 010 == BB 条件下,tB 的条件分布密度为 ))1(,0( ttN?,再对
bBaB == 10,的情形推广这个结果,
26,令 )(),0[1 tItBX
t
t ∞=,,0 321 ttt <<< 问 1tX 与 23 tt XX? 是否独立?
27,1210 +<<<≤? nttt L,求条件分布 })(,,)(|)({ 111 nnn xtBxtBxtBP ==≤+ L 和
})(,,)(|)({ 11221 ++ ==≤ nn xtBxtBxtBP L 的密度,并由此再求相应的条件期望和条件方差,
28,求 1tBBtt?=x 及
1
)1(
+
+=
t
tt t xh 的分布,再对 10 <<< ts 求 sx 与 tx 的协方差函数与
相关系数
29,分别 求 || tB,*tB,stst BB ≤= min* 及 ttt BBD?= * 的密度,求证
( )txDxBP tt 2exp}0|{ 2*?==>,
30,记 ∑ = +?= n
nn
k kkn BBS
2
1
2
22
1 )(,求,2ES ),|( 23 SSE nESSSE ),|( 32,并证明
)1()|( 211 +=+ nnn SSSE,11 )|( ++ = nnn SSSE,
31,对于强度为的 l Poisson 过程 tN,证明 ).( ∞→?→? ntN pt l
32,设有 n 个寿命分布均为 lExp 的元件同时使用,元件坏了既不修理,也不更新 。 记第 k 个故障发生的
时刻为 kt )nk( ≤,)(S kk
def
k 001 =?=? ttt,
75
( 1 ) 求 ),,( ntt L1 的联合密度 ; ( 2 ) 证明 nS,,S L1 独立,且 l)kn(k Exp~S 1+? 。
33,对于强度函数为 )t(l 的非时齐的 Poisson 过程 tN,令 }kN:tinf{ tk ==t,
)(S kk
def
k 001 =?=? ttt 。
( 1) 求 ),,( ntt L1 的联合密度 ; ( 2 ) 求 )S,,S( nL1 的联合密度 。
龚光鲁,钱敏平著 应用随机过程教程及其在 算法与智能计算中的应用
清华大学出版社,2003
第 3 章 随机过程的一般概念与独立增量过程
1,一般概念
1,1 随机过程与有限维分布族
定义 3,1 设 T 为 ),或 ( ∞∞?∞),0[ 或 dR,依赖参数 t( ∈t T ) 的 一族随机变量
( 或随机向量 ) }{ tx 通称为 随机过程,t 称为时间,当 T 为整数集或正整数集时,则一般称为 随机序列,而当 T 为二维 ( 或更一般地,d 维 ) 整数格点时,则称为随机场,
更明确地,随机过程 tx 应该写成 ),t)(t wxwx (或,这里的 w 代表做一次完整的试验,
或者说,是一个基本事件,当 w 取固定的值,例如 0w 时,)( 0wxt 是 t 的函数,称为随机过程的一个 轨道 或一个,现实,,这个现实是由 0w 导致的,
定义 3,2 随机过程或随机序列的概率特性,由它在任意有限个时刻 },,{ 1 ntt L 上
),,(
nt tt
xx L 的分布 (称为 有限维分布族 ) 所确定,有限维分布族即,
},,,,,,:),,(),,({ 1111,,11 nnnttntt xxTttnxxPxxF nn LLLLL?∈≤≤=
xx,
定义 3,3 有限维分布都是 Gauss 分布的随机过程或随机序列,称为 Gauss 过程 或
Gauss 序列,对于 Gauss 过程 (或序列 ) }:{ Ttt ∈x,记 ),(),(,)( stt CovstEtm xxsx ==,分别称为 期望函数 与 协方差函数,),( sts 是非负定 对称函数,即
Ttsstts ∈=,),,(),( ss,矩阵 njiji tt ≤,),((s 为非负定矩阵 ( Tttn n ∈,,,1 L ),
于是 }:{ Ttt ∈x 的 Gauss 性就等价于,对任意有限个时刻 },,{ 1 ntt L,),,(
nt tt
xx L 的矩母函数为
∑=
≤
+++
nji
jijinn zzttztmztm
n ezzM
,
11 ),(2
1)()(
1 ),,(
sL
L,(3,1)
有时人们也用 )()(),()(),( smtmstEstR st +σ=ξξ=?,称其为 相关函数,可见 Gauss 过程的有限维分布族由期望函数与相关函数完全地确定了,
d 维随机过程 tx 是依赖于参数 t 的 d 维随机向量族,其它概念与随机过程类似,
1,2 独立增量过程
定义 3,4 称随机过程 }0:{ ≥ttx 为 独立增量过程,如果对于
46
,0,10 ntttn <<<≤ L 起始随机变量及其后的增量
1010
,,,
nn ttttt
xxxxx L 是相互独立的随机变量组,独立增量过程称为 时齐的,如果 sts xx?+ 的分布不依赖于 s,
时间离散的独立增量过程,就是独立随机变量 的部分 和,而时齐的独立增量过程则是独立同分布随机变量 部分 和的时间连续情形,
记随机过程 tx 的特征函数为 tiaEeta x=Φ ),(,那么我们有
命题 3,5 若 00 =ξ,则独立增量过程 tx 为时齐的必要充分条件为,其特征函数有可乘性,即
),(),(),( satasta ΦΦ=+Φ,(3,2)
证明,必要性显然,我们证明充分性,由独立增量性,我们有 下面的命题
),(
),(),(),(
)()( saEeEeEeEe
stasata
stssststs iaiaiaia Φ===
+Φ=ΦΦ
+++ xxxxxx,
由此得到
tsts iaia EetaEe xxx =Φ=?+ ),()(,
这正说 明了过程的时齐性,
独立增量过程具有以下的 Markov 性,对于 mm xxxytsss,,,,,,11 LL?>>>? 有
),,,|( 1
1 msssts
xxxyP
m
===≤+ xxxx L = )|( xyP sts =≤+ xx,(3,3)
这个等式的推导将在本章第 3 节中在特殊情形 (增量具有分布密度的情形 )中 给出,等式
( 3,3 ) 有非常明确的概率含义,它说明了由这个随机过程所描写的随机现象具有以下特点,在已知 msss xxx
m
=== xxx,,,1
1
L 条件下,随机变量 ts+x 的条件分布函数只与 xs =x
有关,而与随机向量 ),,(
1 mss
xx L 的取值无关,如果把 s 看成,现在,,xs =x 看成现在的取值,把 ts + 看成,将来,,小于 s 的时刻看成,过去,,那么这正是表达了,对于独立增量过程,
在已知过去与现在的条件下,将来的条件分 布只与现在的取值有关,而与过去的取值无关,
这种 " 忘记过去,的性质,称为 无后效性 或 Markov 性,
时齐的独立增量过程 tx 具有非常特殊形式的特征函数,)(),( lylxly ti eEe t?=? 使,
类似地,人们常遇到 d 维独立增量过程,
2 Poisson 过程与复合 Poisson 过程
2.1 事故申报次数的概率模型与 Poisson 过程
例 3,6 ( 保险公司理赔次数 ) 设在时间间隔 ],0( t 中某保险公司收到的某类保险的理赔次数为 tN,那么它 是 一个只取非负整值的随机过程,从长期经验的积累,人们概括出以下
47
的初步近似性质,
(1) 在不同的时间区段内的理 赔次数 是彼此独立的随机变量 ;
(2) 在同样长的时间区段内的理 赔次数 的概率规律是一样的 ;
(3) 00 =N,在有限时间区段内理 赔次数 是有限的,而且在非常短的时间区段 h 内的理 赔次数 超过 2 的概率是 h 的高价无穷小 o(h ),
(1),(2) 说明了 tN 是时齐的独立增量过程,而 性质 (3) 称为 普通性,
我们来推导满足普通性的非负整值的时齐独立增量过程的概率分布,令
)()( iNPtp ti ==,我们有
)0,0()0()(0 =?====+ ++ tsttst NNNPNPstp
)()()0()0( 00 sptpNNPNP tstt ==?== +,
解这个函数方程,可知存在 0>l,使 tetp l?=)(0,再则,由 性质 (3) 有
)()2( hoNNP tht =≥?+,
利用时齐性及独立增量性,由全概率公式我们得到
)1()(1 +==+ ++ kNPhtp htk
)()0,1()1,( hoNNkNPNNkNP thttthtt +=?+=+=?== ++
)()()()()( 011 hohptphptp kk ++= +
)()())()(1)(( 10 hoetphohptp hkk ++=?+ l
)()()1)(( 1 hoetpetp hkhk ++?=?+? ll,
于是
h
etp
h
etp
h
tphtp h
k
h
k
kk 1)(1)()()(
1
11?+?=?+
+
++
ll
,
令 0→h,便得无穷常微分方程组,
)()()(' 11 tptptp kkk ++?λλ= ( 3,4 )
显见,对于 1≥k 还应该满足初值条件,
1)0(,0)0( 0 == ppk,
下面我们用矩母函数方法来推导 )(tpk 的明显表达式,令
∑∞
=
==
0
)(),(
k
k
kzN tpzEzztM t,
48
那么
∑∑ ∞
=
+
+
∞
=
+
+?+?=+=?
0
1
1
0
1
10 ))()(()(')('
),(
k
k
kk
t
k
k
k ztptpeztptpt
ztM ll l
),()1())(),((),()( 00 ztMztpztMztzMtp?=+?= llll,
实质上这是一个 以 z 为参数的关于自变量 t 的常系数常微分方程,且满足初始条件
1)0(),0( 0 == pzM,易见 此 方程的解为
∑∞
=
==
0
)1(
!
)(),(
k
kt
k
tz ze
k
teztM ll l,
按矩母函数的定义,由此得到表达式
t
k
k ek
ttp ll?=
!
)()(,
也就是说 tt PoissonN l~,随机过程 tN 称为 Poisson 过程,
由 Poisson 分布的性质推出,tNVarEN tt?λ== )(,由此我们便得到参数 l 的概率含义,tNVartEN tt )(==l,即 l 是单位时间的平均理赔次数,称为此 Poisson 过程的强度,
同时它也代表单位时间理 赔次数 的方差,
[注 1] 方程 (3,4 )也可以用数学归纳法通过常微分方程中的常数变异法直接求解,
[注 2] Poisson 过程是用以描写一切,罕见事件,发生的概率规律的数学模型,
定义 3,7 时齐的独立增量过程 tN 称为强度为 l 的 Poisson 过程,如果它满足
tt PoissonNN l~,00 =,
Poisson 过程的联合分布为
)()()(),,(,,1121111
11211
===<<<
mmnnnnnmttmm
ttpttptpnNnNPnntt
mmm
LLLL
2,2 Poisson 过程与 指数流的关系
把理赔时刻看成随机到达的,点,,那么随着时间的发展,就出现一系列随机的点,记这些时刻为 ∞→<<<< LL mtt 10,即 kt 为第 k 个理赔发生的时刻,这个概念可以抽象为下述定义
定义 3,8 如果随机序列 }{ kt 满足,∞→<<<<= LL mttt 100,则称之为一个 事件流,简称为 流,记 1= kkkT tt,如果 lexp~kT,而且 }{ kT 独立同分布,那么,
我们称这个事件流 ∞→<<<<= LL mttt 100 为 强度为 l 的指数流,又由于随机序列
49
}{ kT 与随机序列 ){ nt 唯一地相互确定,所以,有时我们也称 }{ kT 为指数流,
对于指数流 ){ kt 而言,在时间段 ],0( t 中出现的 kτ 的个数,记为 }:sup{ tkN kt ≤τ=,
是一个 Poisson 过程,tN 称为 指数流的计数过程,我们把这写成一般的结论,
定理 3,9 对于取非负整值的随机过程 tN,令 }:inf{ kNt tk ==t (它等价于
}:sup{ tkN kt ≤= t ),那么下面诸事实彼此等价,
(1) }{ kt 是强度为 l 的指数流 ;
(2) ),,(,1 nn tt L? 的分布密度为 (记号 AI 表示 A的示性函数 )
}0{1 1),,( n
n
ss
sn
n Iessg <<<
λ=
LL ; (3,4)
(3) tN 是强度为 l 的 Poisson 过程,
证明 首先注意 }{}{ tkN kt ≤=≥ t,
(1)? (2) 只要注意
∫ ∫
≤++
≤+
≤
>
++?=≤≤
nn
n
n
stt
stt
st
tt
n
ttn
nn dtdtessP
L
L
L
L LLL
1
221
11
1
1
0,,
1
)(
11 ),,(
lltt ∫ ∫
≤
≤
≤
>>>
=
nn
n
n
sy
sy
sy
yy
n
yn dydye
L
L
LL
22
11
1 0
1
ll
∫ ∫
≤
≤
≤
<<<
=
nn
n
n
sy
sy
sy
nyy
yn dydyIe
L
L LL
22
11
1 10
ll,
而 (2)? (1) 得自 }{ nt 与 }{ kT 是一一对应的,
(2)? (3) 先求 )(,nkk ≤τ 的密度 (记成 )(ug k ),由 (2)用归纳法可得
)(ug k ∫ ∫ +?<<<<<<<?
+?
= nkkssusssn dsdsdsdsIe
nkk
n LLL
LL 1110 111
ll
0
1
)!1( >
λ?
λ= u
k
uk I
k
ue ( ),( λΓ k 分布 ),(3,5)
再则,由 (2)推出
),( kmNmNP sts +≥= + )( 1 tssP kmmm +≤<<<≤= ++ ttt L
∫ ∫
+≤<<<
≤
+<<<
+
++
+
+=
tssss
ss
kmss
skm
kmm
m
km
km dsdsIe
L
L LL
1
1 10
ll,
50
采用变量替换 kmlmlm yuklssy +++ =≤?= ),(,后,可以很容易地算出右方的积分为
∫?
t
k
s
m
m duuge
m
s
0
)(! ll,即 我们得到了
),( kmNmNP sts +≥= + ∫?=
t
k
s
m
m duuge
m
s
0
)(! ll,
进而有
)( kNNP sts ≥?+ ∑
∞
=
+ +≥==
0
),(
m
tss kmNmNP
∫∑ λ?
∞
=
λ=
t
k
s
m
m
m
duugems
00
)(! ∫=
t
k duug
0
)(,
并且
)( kNNP sts =?+ )( kNNP sts ≥?= + )1( +≥ + kNNP sts ∫ +?=
t
kk duugug
0
1 ))()((
∫ λ?
+
λ?
λ
λ=
t
u
kk
u
kk
duekuek u
0
11
]!)!1({ t
k
tu
kk
ekteku λ?λλ=λ= !)(]![ 0,
特别地还有 )( kNP t = )( 0 kNNP t =?= t
k
ekt λλ= !)(,由此可见
),( kNNmNP ssts ≥?= + ),( kmNmNP sts +≥== + ∫λ?λ=
t
k
s
m
m duuge
m
s
0
)(!
)( kNP t == )( kNNP sts ≥?+,
作为推论,我们得到 ),( kNNmNP ssts =?= + )( kNP t == )( kNNP sts =?+,这说明了
sN 与 sts NN?+,的独立性,利用类似的推理,对于 nttn <<< L10,,可得
),,,(
11 1 ntstsstss
mNNmNNmNP
nn
=?=?=
+++
L
)()()(
11 1 ntstsstss
mNNPmNNPmNP
nn
=?=?==
+++
L
s
m
ems λλ= !)( 1
1
!
)(
1
1 t
m
emt λλ )(1 1! ))((λλ nn
n
tt
n
m
nn e
m
ttL,
这就证明了随机过程 tx 的独立增量性与 Poisson 性,
(3)? (2)的证明
51
对于 nssn <<< L10,,取充分小的 )0),(max(,,011 =?<?≤ ssshh iininL
),,( 1111 nnnn hsshssP +<<+<< tt L
)1,,0,1,0(
1121111
=?=?=?== +++
nnn ththssshss
NNNNNNNP L
)1()0()1()0(
11211
=====
nhhsshs
NPNPNPNP L
)( 1)(1 211211 nhnshsshs hhoeheeehe n LL +?λλ?= λ?λλ?λ?λ?
)( 11 nsnn hhoehh n LL +λ= λ?,
除以 nhh L1 后,令 0,,1 →nhh L,便得到 ),,( 1 ntt L 在约束条件 nss <<< L10 下的分布密度为 nsne λ?λ,(2)得以证明,
定理 3,10 (Poisson 过程的随机分流定理 )
设 tN 为强度为 l 的 Poisson 过程,如果把其相应的指数流看成顾客流,用与此指数流相互独立的概率 p,把每个到达的顾客,归入第一类,而以概率 p?1 把他归入第二类,对
2,1=i,记 )(itN 为 t 前到达的第 i 类顾客数,那么 }0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 分别为强度
lp 与 l)1( p? 的 Poisson 过程,而且这两个过程相互独立,(这个性质称为 Poisson 过程的 随机分流定理,也称为 Poisson 过程在随机选取下的不变性 ),
证明 由 tN 是独立增量过程及归类的机制,可知 )(itN 都是独立增量过程,而且
)()2( )()( hoNNP itiht =≥?+,
=+
=+?==?
+ )2(),()1(
)1(),()1( )()(
ihohp
ihohpNNP i
t
i
ht l
l,
所以它们都是 Poisson 过程,下面我们先证明它们在同一个时刻的独立性,由于
mnn
mnttt ppCmnNmNnNP )1()|,(
)2()1(?=+===
+,
我们有
)!(
)()1(),( )2()1(
mn
teppCmNnNP mntmnn
mntt +
λ=== +λ?
+
λ= λ? ! )( n tpe
n
p
!
))1(()1(
m
tpe mp?λ?λ )()( )2()1( mNPnNP
tt ===,
这就证明了在固定的时刻 t,)1(tN 与 )2(tN 独立,我们用类似而较为冗长的叙述,可以证明对于任意 mn,,及 mn sstt,,;,,11 LL,随机向量 ),,( )1()1(
1 ntt NN L 与 ),,(
)2()2(
1 mss NN L 的
52
独立性,这就是说,随机过程 }0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 是独立的,
[ 注 ] 指数流与 Poisson 过程的离散时间版本
令 kT 为独立同分布的几何分布随机序列,又 kk TT ++= L1t,){}{ nkN kn =τ==,
记参数 ),( pk 的负二项分布为 );( pkNB,即
kknk
n ppCnpkNBP
== )1());((
1
1,
由简单的概率计算可 得到 );(~ pkNBkt,从而 ));(()( npkNBPkNP n ===,此处的 nN
正是 起 到 " 离散时间的 Poisson 过程 " 的作用,即它就是 " 离散时间情形的 Poisson 过程 ",我们把它列表对比如下,
kT流的间隔 流的到达时刻 kt 计数过程 tN,或 nN
连续型,指数流 指 数分布 λExp ),( lkΓ 分布 Poisson tλ
离散型,几何流 几何分布 负二项 );( pkNB ));(()( npkNBPkNP n ===
2,3 与指数流有关的一些随机变量与分布
定理 3,11 若 tN 为 Poisson 过程,则在 nNt = 的条件下,),,( 1 ntt L 的条件分布密度为
tssnn nIt
nssf
≤<<<= LL 101
!),,(,(3,6)
也就是说,如果 nhh,,1 L 独立且服从 U[0,t],而 )()1(,,nhh L 为 nhh,,1 L 按次序大小重新排列而得的顺序随机变量,)()1( nhh ≤≤L,那么在 nNt = 的条件下,),,( 1 ntt L 的分布密度与 ),,( )()1( nhh L 的分布密度相同,
[注 ] 把上面的证明倒回去,就可以发现此定理的结论反过来也是对的,即,如果一个取非负整值的跃度为 1 的非降随机过程 tN,满足,tt PoissonN l~,且在 nNt = 的条件下,),,( 1 ntt L 的条件分布密度为 tssnn
n
Itnssf ≤<<<= LL
101
!),,(,其中
nt 为 tN 的第 n 次跳跃时刻,那么 tN 是 Poisson 过程,
我们还有下述相关的结论,
(1) 在 nNt = 的条件下,nt 的条件分布密度为
)()( ],0[
1
sItnssg tn
n
n
= (3,7 )
(2) )(!)(),( ],0[ sIensnNsP tt
n
tn
λ?λ==≤τ (3,8 )
证明 对于 nssn <<< L10,,取充分小的 )0),(max(,,011 =?<?≤ ssshh iininL,
53
就有
)|,,( 1111 nNhsshssP tnnnn =+<<+<< tt L
)(
),,,( 1111
nNP
nNhsshssP
t
tnnnn
=
=+<<+<<= tt L
t
n
hsthhsshs
ent
NPNPNPNPNP
nnn
ll?
======
!
)(
)0()1()0()1()0(
11211
L
t
n
n
hsth
n
hsshs
ent
hhoeeheehe nnn
λ?
λλλλ?λ?
λ
+λλ?=
!
)(
)( 1)()(1 11211 LL
)0,,(,! 1 →→ nn hhtn L
定理 3,12 若 nkts ≤≤,,则在 nNt = 条件下,sN 的条件分布与二项分布
),( tsnB 相同,而 kt 的条件分布则是
∑
=
==≤
n
kj
jnj
j
ntk t
s
t
snNsP C 1)|(t (3,9 )
证明
)|( nNsP tk =≤t )(
),,( 1
nNP
nNssP
t
tjj
n
kj
=
=>≤
=
+
=
∑ tt
∑
∑
=
=?=
==
=
n
kj
jnjj
n
t
n
n
kj
sts
t
s
t
s
ent
jnN-N,jNP
C )1()(
!
)(
)(
ll
,
推论 3,13 1)|(,,+==≤≤ nktnNEnkts tkt则若,
证明 用次序统计量的结果,独立同分布的 ],0[ tU 的随机变量,按小至大的第 k 个次序随机变量的期望为 1+nkt,
推论 3,14 t teE
t
Nt?λ
λ+?=τ λ? 1
证明 ∑
∞
=
====
0
)()|()]|([
n
ttntNN nNPnNENEEE tt ttt
54
∑∑
∞
=
λ?
+∞
=
λ?
+
λ
λ?+=
λ
+= 0
1
0 )!1(
)(1]1)1[(
!
)(
1 n
t
n
n
t
n
en tnentnnt
λ?λ+?=λλ=
λ?
λ?λ
λ? te
etee
t
tt
t 1
)]1([(,
下面给出 当前所用部件的寿命分布
把 kT 解释成某工作线上第 k 次被更新的部件的寿命,假定它们都服从分布 lexp,那么它们所对应的计数过程 tN 就是 Poisson 过程,考虑当前时刻 t 所用的部件 (注意当前时刻 t 所用的部件不是第 tN 个,而是 tN +1 个,因为更新了 tN 次后,起用的应该是第 1+tN 个部件 ) 的寿命 1+
tN
T,这里 1+
tN
T 的随机性,不仅来自固定的部件的寿命,而且还来自 tN 的随机性,所以不 应 该认为它服从指数分布,以下我们推导它的分布,
因为 1++<≤
ttt NNN
Tt tt,所以 sT
tN
≤+1 就等价于 sTt
tt NN
≤<? +1t,于是,
(1) 当 ts < 时,由 sT
tN
≤+1,我们有 1≥tN 且 tst
tN
<≤? t,利用 nNt = 与 1+nT 之间的独立性及 nt 与 1+nT 的独立性,由 (3,7 )式所 给出对 条件密度函数 )(ug n 导致
]),|)()([(
),()(
),[1],[
11
ttttN
tttt
NtNtstNst
NNNN
NITIEE
tstsTtPsTP
tt
tt
t?+?
++
=
<≤?≤<?=≤
∑∫∞
=
λ?
+τ?
λ=τ=τ=
1
),[1],[ !
)()(),|)()([
n
t
n
nNtntstnst en
tduugunNITIE
tn
∑∫
∞
=?
λ?
λλλ?=
1
1
)(
!
)()(
n
t
st
t
n
n
n
sut e
n
tdu
t
nuee
∫
λ?λ?λλ? λ=?λ?= t
st
sssut seeduee 1)( )(,
(2) 当 ts ≥ 时,我们有 t
tN
≤≤ t0,并注意用 00 =t,类似地得到
]),|)()([(
)0,()(
),0[1],[
11
ttttN
tttt
NtNtNst
NNNN
NITIEE
tsTtPsTP
tt
tt
t +?
++
=
<≤≤<?=≤
)0,(!)()( 1
1 0
1
)( =≤<+?λ?= ∑∫
∞
=
λ?
λλ?
t
n
t tn
n
n
sut NsTtPe
n
tdu
t
nuee
∫ λ?λ?λ?λ?λλλ?=?+?λ?= t ssstsut eteeeduee
0
)( 1)()(,
综合 (1)与 (2),我们得到
55
命题 3,15 当前时刻 t 所用的部件的寿命 1+
tN
T 的概率分布密度函数为
)()1()()1()( ),[),0[
1
sIetsIessp tstsT
tN ∞
λ?λλ+λ+?λ+λ=
+
,
例 3,16 设第 k 个乘客到达公共汽车站的时刻 kt,服从指数流,则在 ],0[ t 中所有乘客等待时间的和的数学期望为
})|)(({))((
11
∑∑
==
=?
tt N
k
tk
N
k
k NtEEtE tt
∑ ∑∞
= =
=?==
0 1
)|)(()(
n
n
k
tkt nNtEnNP t
∑ ∑∞
= =
=?==
0 1
))|()((
n
n
k
tkt nNEntnNP t,
由定理 3,11 可知上式右方第二项等于 n 个独立的 ],0[ tU 随机变量和的期望,其值应为 2nt,于是
))((
1
∑
=
tN
k
ktE t )2(!
)(
0
∑∞
=
=
n
t
n nt
ntent ll 2
2tl
=,
2,4 常见的推广
1,非时齐的 Poisson 过程
对于独立增量 过程 tN,如果存在可积正函数 )(tl 使
duu
st t
s
NN
)(
exp~
l∫
,那么 tN 就称为 强度函数为 )(tl 的 非时齐 Poisson 过程,而 Poisson 过程的强度函数为常数,
定理 3,1 0 ’ (时齐 Poisson 过程的 非齐次分流定理 )
设 tN 为强度为 l 的 Poisson 过程,把其相应的指数流看成顾客流,对任意时刻 s,如有顾客到达,则以与此指数流相独立的概率 )(sp )1)(0( << sp,确定该顾客归入第一类,而以概率 )(1 sp? 确定该顾客归入第二类,记 )(itN 为 t 前到达的第 i 类顾客数,那么
}0:{ )1( ≥tNt 与 }0:{ )2( ≥tNt 分别为强度 ∫
t
dssp
0
)(l 与 ∫?
t
dssp
0
))(1(l 的非时齐 Poisson 过程,而且相互独立,
(证明与 Poisson 过程的分流定理相仿,只要注意
=+
=+?==?
+ )2(),())(1(
)1(),()()1( )()(
ihohtp
ihohtpNNP i
t
i
ht l
l ),
56
( 这个定理还可以推广到分成多个类的情形 ),
2,带随机调制的 Poisson 过程 ( 二重 Poisson 过程 )
设 }{ tV 为随机过程,若 在 }{ tV 已知 的 条件下,非负整值随机过程 tN 为强度为 ( )tVl 的 非时齐
Poisson 过程,则 tN 称为 带随机调制 }{ tV 的 Poisson 过程,也 称 为 二重 Poisson 过程,而 更常见的是带随机线性自调制 tN?l 的 Poisson 过程,也称为 ( 0 - 记忆 ) 自激点 过程 ( 参见第 17 章第 5 节 ),
非负随机变量也 常 称为 一个 随机时间,随机时间 t 称为 }{ tV - 可知的,如果对于任意 t,事件 }{ t≤t
可由过程 }{ tV 在 t 的信 息,}:{ tss ≤V 所决定,}{ tV - 可知的随机时间又称为 }{ tV - 停时,对于带随机调制 }{ tV 的 Poisson 过程 tN,假定 它所决定的流为 { }nt,则 nt 们 也 都是 }{ tV - 可 知的,也就是说,
它们都是 }{ tV - 停时,
3 二 维 Poisson 过程
设有两类不同的,事故,,事故 I 及事故 II,记 [0,t]内发生事故 I 及事故 II 的次数分别为
),( )2()1( ttt NNN =,并设它们满足,
(1) 在不同的时间区段内事故申报数是独立的 ;
(2) 在同样长的时间区段内事故申报数的联合概率规律是一样的 ;
(3) )0,0(0 =N,又假定在有限时间区段内,两种事故申报数是有限的,而且在非常短
的时间区段 t? 内任意一种事故申报数超过 2 的概率相对于 t? 为高价无穷小 o( t? ) (即
)()22( )2()1( toNNP tt?=≥≥ 或,,)0,1( 1)2()1( tNNP tt?λ===
tNNP tt?λ=== 2)2()1( )1,0(,tNNP tt?=== m)1,1( )2()1( ),
仿照 Poisson 过程情形,我们可以推导得 tN 的矩母函数为
)1()1()1( 212211)2(2)1(1+ = zzzzNzNz eEe tt mll,
由它的展开式就可以得到 tN 的各种概率分布,
2,5 复合 Poisson 过程
设 }{ nh 为独立同分布序列,而 tN 是一个与它独立的强度为 l 的 Poisson 过程,我们称随机过程
tNt
hhhV +++= L21 为 (强度为 l 的 ) 复合 Poisson 过程,
tV 的 特征函数为
)( 1),( stNst iaia EeEesta ++ ++==+ hhVF L
57
)(
0
)()(
0 !
))((}()|( 11 st
n
n
ia
stst
ia
n
en stEenNPnNeE nn +?
∞
=
++
++
++
∞
=
∑∑ +==== lhhhh lLL
∑∞
=
+?+=
0
)(
!
)(( 1
n
st
nia
en stEe l
hl
))(1( 1 stEeiae +?= hl
由此可以看出
),(),(),(,),( )1( 1 satastaeta tEeia ΦΦ=+Φ=Φ?hl,
下面我们来验证它是时齐的独立增量性,为了突出其实质,我们只看最简单的情形,即验证 sstt VVV?+,相互独立,对于任意有界函数 gf,我们有
)()(
)()(
)]()()][()([
)()()()(
)()()()(
),()]()([
),(),|)]()(([
)]()([)]()([
11
0 0
11
0 0
11
0 0
11
0 0
11
0 0
11
11
st
NN
k k
sltl
l k
stkl
k l
stklll
k
tstt
l
klll
k
stt
l
sttklll
NNNtstt
EgEf
EgEf
kNPEglNPEf
kNPlNPEgEf
kNPlNPEgEf
kNNlNPgfE
klNlNPklNlNgfE
gfEgfE
st
sttt
VV
hhhh
hhhh
hhhh
hhhh
hhhh
hhhh
hhhhVVV
=
++++=
=++=++=
==++++=
==++++=
=?=++++=
+==+==++++=
++++=?
∑ ∑
∑ ∑
∑∑
∑∑
∑∑
∞
=
∞
=
∞
∞=
∞
=
∞
=
∞
=
++
∞
=
+
∞
=
++
∞
=
+
∞
=
+++
++ +
LL
LL
LL
LL
LL
LL
LL
由 gf,的任意性可见 tstt VVV?+,是相互独立的,而且 tsts VVV?+与 同分布,完全类似可以证明对于
101
,,,0 0
<<=
nn ttttn
tt VVVV LL 也是相互独立的,综上可知,复合
Poisson 过程是时齐的独立增量过程,因而它也是时齐的 Markov 过程,在实际应用中,时段
],0( t 内,保险公司对某项保险支付的累计理赔金额,设备故障所需的累计维修费,自然灾害所造成的累计损失,股票市场的累计价格变动等等,都可以用复合 Poisson 过程来近似地描述,
3 B rown 运动 ( Wiener 过程 ) 及其函数
3,1 历史背景与物理模型
1827 年英国生物学家 Brown 在显微镜下,观测悬浮在液面上的花粉,发现花粉微粒作着高度不规则的运动,以后其他科学家发现了更多的类似现象,如空气中的烟雾的扩散等,
但是一直找不出理想的模型来刻画此类现象,至 19 世纪末,人们才搞清楚这种奇怪的现象是由于花粉 ( 烟尘微粒 ) 受到大量液体 ( 空气 ) 分子的无规则碰撞 而造成的,
1905年 Einstein 首次对此类现象作了理论上的量化分析,他假定浸没在某种介质中的粒
58
子连续不断地受到周围介质中的分子的冲击,从物理的角度解释了这种现象,
以后,Ornstein 和 Uhlenbeck 等在物理上又进一步完善了这个想法,
在数学上严格地描述 Brown 发现的这种无规则运动,并把它纳入随机过程框架的是
Wiener,他自 1918 年起系统地用随机过程来建立这种运动的数学模型,这个随机过程也因此被称为 Wiener 过程,又因为 Wiener 过程的背景源起于 Brown 的研究,所以也称 为 Brown
运动,实际上,早在 Einstein 提出理论解释之前,法国数学家 Bachellier 于 1900 年在研究债券市场时,就已经用类似的想法得到了 Brown 运动的直观模型,只是他的结果在经过半个世纪多以后才被人们重新发现,
至今,对于作为数学模型的 Brown 运动的理论研究,已经非常完善 。 Brown 运动与
Poisson 过程一起,可以说是随机过程的两大基石,Brown 运动的应用十分宽广,几乎遍及自然科学和人文科学的所有领域,有些 Nobel 经济学奖获得者的工作,是以 Brown 运动理论作为基础的,
物理 模型的建立
按照 Einstein 的分析,Brown 运动表达了一个作随机运动的粒子在时间 [0,t]上的位移
}0:{ tsBs ≤≤,不妨设 00 =B,Einstein 认为该粒子运动应满足以下的性质,
( 1) 粒子位移的各分量都相互独立,所以,我们不妨只考虑其一个分量,仍记之为
}0,{ ≥tBt,且假定这个分量是时齐的独立增量过程 ;
( 2) 运动的统计规律对空间是对称的,从而 0=tEB ;
( 3) 对固定的 t>0,tB 是一连续型随机变量,假定 2)()( hht BBEtg?= +D 存在,而且
是 t 的连续函数,
下面对于固定的 t,我们来推导 tB 的分布密度的表达式,记 tB 的分布密度为 ),( xtp,
那么,由性质 ( 2) 及 00 =B 可知
∫
∞
∞?
== dxxtpxBEtg t ),()()( 22,
再由 (3)得到
2
0
2 )()()( BBBBEBEstg
ttstst?+?==+ ++
)()()()( 202 tgsgBBEBBE ttst +=?+?= +,
又因为 )(tg 是 t 的连续函数,所以 )(tg 一定是 t 的齐次线性函数,即
Dttg =)(
(D 是一待定常数,它是单位时间内粒子平方位移的均值,称之为扩散常数,在分子运动学中,可知 NfRTD =,其中 R 是由分子的特性所决定的一个普适常数,T 是绝对温度,N 是
59
Avogadro 常数,f 是摩擦系数 ),在数学中为了方便常常简单地假定 1=D,于是我们得到
tBVar t =)(
记 tB 的特征函数为 )(),( ∞<<?∞= llj l tBiEet 。 那么,利用条件 ( 1) 和 ( 3),
我们可得
tst BiBi EeEetst λλ?=λλ+? +),(),(
)1(),(
)1()()1()(
))1(())1((
)()()(
)()()(
00
0
=
=?=
=?=
+
++
s
sttstt
tstttstt
Bi
BBiBiBBiBBi
BBiBBiBBiBi
eEt
eEeEeEeE
eeEeeE
l
llll
llll
lj
( E,1)
由 Taylor 展开式 )(21 2
2
xoxixeix +?+=,我们有 (严格一些还需假定 )|B|E 3t ∞<
)(2)1( 22
2
sss
Bi EBoEBEBieE s +=? lll )(
2
1 2 sos +?= l,
对 ( E,1) 式两端除以 s,并令 0→s 便得
),(21),( 2 ljllj ttt?=,
这是关于 t 的一个常微分方程,解这个方程可得
tet 221),0(),( lljlj?=,
再注意到 1)(),0( 0 == BieE llj,就得到
∫
∞
∞?
== dxt
eeet txxit
plj
ll
2),(
2
2
2
2
1
(E,2)
从 ( E,2 ) 可以看出 tet 221),( llj?= 恰是正态分布 ).0( tN 的特征函数,因此
sstt BBB?+,~ ).0( tN ( 注意特征函数与分布之间的对应是双射 ),另外,显见有
|||| 2 stBBE st?=?,
3,2 Brown 运动 (数学模型 )
定义 3,17 时齐的独立 `增量过程 tB 称为 Brown 运动,如果它满足
( 1 ) ),0(~,tNBBs sst + ;
( 2 ) 对于固定的 w (基本事件 ),轨道 )(wtB 是 t 的连续函数 (称为 轨道连续的随机过程 ),
一般地 Brown 运动也可以对初值 0B 不加什么限制,也就是说,它可以是任何随机变量,
60
定义 3,18 在 xB =0 的条件下,tB 的条件分布密度 )|( 0 xByp
tB
=,称为 Brown
运动的 转移密度,我们把它改记为 ),,( yxtb,于是有,在 xB =0 的条件下,
),0(~ tNxBt?,因而
t
xy
etyxtb 2
)( 2
2
1),,(
= p,(3,10)
推论 3,19 Brown 运动对于不同的 t 对应的转移密度族满足以下的关系
∫=+ duyusbuxtbyxstb ),,(),,(),,( (3,11)
这个关系实际上是转移密度的全概率公式,称为 Chapman - Kolmogorov 方程,
因为 Brown 是独立增量过程,所以它有 Markov 性质 (无后效性质 ),即对
tssssm +<<<<≤ 10 L,在 msss xBxBxB
m
===,,,1
1
L 的条件下,tsB + 的条件密度
),,,|( 1
1 msssB
xBxBxByp
mts
===
+
L )|( 0 xByp
tB
== ),,( yxtb=,(3.12)
即是 Brown的转移密度,具有 Markov 性质的随机过程称为 Markov 过程,Brown运动的转移函数是与时刻 s 无关的,所以称为 时齐的 Markov 过程,Markov 过程相当于动力系统的随机版本,动力系统是在已知现在的条件下,过去对于将来会发生什么是不起影响的,而
Markov 过程是在已知现在的条件下,过去对于将来会发生什么的概率规律不起影响,Markov 过程的时齐性对应于确定性的定常的动力系统,
[警告 ],现在的取值,只能是 xBs =,而不能是 ABs ∈ 。
Brown 运动的联合分布密度 设 0B 的分布密度为 )( 0xj,那么由独立增量性,对于
),,,(,0
101 nttn
BBBtt LL <<< 的联合分布函数为
),,,( 100
1 ntt
xBxBxBP
n
≤≤≤ L
∫ ∫ ∫
∞? ∞? ∞?
=
0 1
0111010 ),,(),,()(
x x x
nnnnn
n
dxdxxxttbxxtbx LLL j,
所以,对于 ),,,(,0
101 nttn
BBBtt LL <<< 的联合密度是初始密度与各个时刻间的转移密度的乘积,即
),,(),,()( 111010 nnnn xxttbxxtbxLj,(3.13)
3,3 Brown 运动的简单性质
本段中将给出 Brown 运动的一些最简单的分布性质与轨道性质,不妨假定 00 =B,
Brown 运动是一个 Gauss 过程,因此它的分布特性由其均值向量和协方差矩阵完全确定,由 0=tEB 及 Brown 运动的独立增量性可知,当 ts ≤ 时有
61
),(),( stssts BBBBCovBBCov?+= sBBBCovBBCov stsss =?+= ),(),( 。
对称地,当 t>s 时,tBBCov ts =),(,从而,我们有
),( ts BBCov = ),min()( tstsBBE ts?=∧= 。 ( 3。 14)
容易验证 Brown 运动具有如下的平移不变性和尺度不变性,
( 1) 平移不变性,若 }0,{ ≥tBt 为 Brown 运动,则 }0,{ ≥?+ tBB aat ( a 为常数 ) 也
是 Brown 运动 ;
( 2) 尺度不变性,若 }0,{ ≥tBt 为 Brown 运动,则 }0,{ ≥tcBct ( c 为正常数 ) 也是
Brown 运动,
此外,Brown 运动还有如下的重要的轨道 性质,由 Brown 运动 }0,{ ≥tBt 的定义,它的 轨道是连续的,可是这些轨道 却都是处处都不可微的函数,后一个性质的物理实质在于,
粒子在每一瞬间都会受到介质中的分子的碰撞,碰撞后的粒子改变运动方向,因而没有速度,
从数学的角度看,由于 ),0(~ hNBB tht?+,故而对任意给定的大的正数 M 有
1)](1[2)|(| 0?→=≥? →+ htht hMMh BBP F,
其中 ∫
∞?
=Φ x t dtex 2
2
2
1)(
p 是 )1,0(N 的分布函数,粗略地说,Brown 运动在任一点 t 处存在有限导数 ( 此时差商
h
BB tht?+ 必然有限 ) 的概率为 0,
经过严格概率论的进一步分析,还可以知道,Brown 运动 在 几乎每条轨道上的任意一点处,其导数均不存在,
3,4 Brown 运动的反射原理及首达性质
Brown 运动的反射原理 Brown 运动具有,镜面反射对称性,,称为 Brown 运动的反射原理,它可以直观地叙述为
),],0[(),],0[( xBxtBrownPxBxtBrownP tt ≥=≤ 且到过运动在且到过运动在,
( 3。 15) ’
设想在 x 处放上一个镜子,则 ( 3,15 ) 的含义为,Brown 运动的概率关于此镜子具有对称性,这个等式的证明需要较多的知识,在本书中我们不予给出,,注意到 ( 3,15 ) 右方就是 )( xBP t ≥,如果记
stst BB ≤
= max*
,
那么 ( 3,15 ) 可以用准确的数学语言叙述如下
定理 3,20 (Brown 的反射原理 )
62
)(),( * xBPxBxBP ttt ≥=≤≥,( 3。 15)
Brown 运动的首达性质 在应用中常会遇到 Brown 运动 首达 a 的时刻 (记为 aT ),即
}:0min{ aBtT ta =>=?,
显见 aT 是一随机变量,而 反射原理可以在直观上理解为,
当 xTt > 时,)( xx TtT BBB 与 )( xx TtT BBB?+ 同分布,即 tT BB
x
2 与 tB 同分布,
由此可以设想,在时刻 aT 以后对 Brown 运动接上 tT BB
a
2,是否也能是一个 ( 是另一个 !) Brown
运动呢? 概率论理论证明了这个猜测是正确的,即 对于任意 0≥t,如下定义的随机过程
≥?
<=
≥?
<=?∨
)(2
)(
)(2
)(
at
at
atT
at
t TtBa
TtB
TtBB
TtBB
a
与 tB 同分布 ( 指一切有限维分布都相同 ),也就是说
∨
tB 也是一个 Brown 运动 。 经过更细致的分析,还可以导出下述定理
定理 3,21 随机过程 ),( ta BT 与随机过程 ),( ta BT ∨ 具有相同的有限维分布族,
应用反射原理可以得到 aT 的分布,
定理 3,22 若 00 =B,则 Brown 运动 }0,{ ≥tBt 首达 )0(>a 的首达时 aT 的分布函数的表达式为
))(1(22)( 2
2
t
adxetTP
t
a
x
a Φ?==≤ ∫
∞?
p,
因此,其密度函数为
)(
2
)( ),0[2
3
2
tIe
t
atf ta
Ta ∞
pi
=,
证明 注意由 Brown 运动的连续性知 }{}{ * aBtT ta ≥=≤,应用反射原理,我们有
)(),()()( ** aBPaBaBPaBPtTP tttta >+≤≥=≥=≤
dxe
t
aBP
a
t
x
t ∫
∞?
pi
=≥= 2
2
2
2)(2 ))(1(2
t
aΦ?=,
[注 1 ] 当 a<0 时,由 00 =B 及对称性可知,aT 的分布与 aT? 的分布相同 。 因此,对任意实数 a,有
63
))||(1(22)(
||
2
2
t
adxetTP
t
a
x
a Φ?==≤ ∫
∞?
p,
[注 2 ] 分布密度为
)())(2exp(2)( ),0[
2
23 xIx
mx
mxxp ∞
= l
p
l
的分布称为 逆正态分布 (逆 Gauss 分 布,反正态分布 ),于是 Brown 的首达时分布相当于 参数
∞==λ ma,2 的逆正态分布,
推论 3,23 aT 几乎处处有限,即 1)( =∞<aTP
证明 我们有
12)(lim)(
0
2
2
==≤=∞< ∫
∞?
∞→
dxetTPTP
x
ata p,?
它的概率意义为,无论 a 多大,Brown 运动总是以概率 1 在有限时间内到达 a 。
推论 3,24 +∞=aET
证明 利用 aT 的密度函数得到
+∞==== ∫∫∫
∞?∞?∞
0
2
0
2
30
22
22)( dtet
adte
t
tadtttfET tata
Ta a pp,?
此推论表明,虽然 Brown 运动几乎所有的轨道首次到达 a 的时间有限,但是对于所有的轨道到达 a 点的平均时间却是无穷大,
有关的另一个使人感兴趣的随机变量是 Brown 运动在 ],0[ t 中达到的最大值
stst BB ≤≤= 0
* max,当 0≥a 时我们有
)()max(
0
tTPaBP as
ts
≤=≥
≤≤
= ))(1(22 2
2
t
adxe
t
a
x
Φ?=∫
∞?
p,
因此得到下面的推论
推论 3,25 s
ts
B
≤≤0
max 的密度函数为
0,22)( 2max
2
≥=? aetaf t
a
p,
定理 3,26 (Brown 运动的的反正弦律 ) 设 tB 为 Brown 运动,00 =B,ts <<0,则
64
t
stsuBP
u arcsin
2)),(:0(
p=∈?≠,
证明纲要 将待求概率的事件的对立事件记为 A,即 }0),({ =∈?= uBtsuA 使,由推广的全概率公式推出
)|()( aBAPAP s == ∫ dses
s
2
2
2
1?
p
对于 0>a,利用 Brown 运动的时齐性,空间平移不变性 (参见习题 3 的 23 题 )和对称性,对于 Brown 运动首达 0 的 0t,由 Brown 运动的性 质,我们有
=?= )|( aBAP s )|( aBAP s = )|0(min aBBP sutus =≤= <<
)|0(min 00 aBBP ustu =≤=?<< )0|(max 00 =≥=?<< BaBP ustu
)|( 0 aBstP a =?≤= t dveva v
sst
22
3
0
2
2
∫=
p,
于是
∫=)( AP dveva v
sst
22
3
0
2
2
∫
p dses
s
2
2
2
1?
p
L= 经过化简后 )(
1
0 suu
du
s
st
+= ∫
pL = (令
2svu = )
s
stanarct?==
p
2L
t
sarccos2
p=,
(因为如果记 s
stanarct?=J
,那么 J2ants st =?,于是 t
s
s
st =?+= 1
1cosJ
),
所以
t
sAPtsuBP
u arccos
21)(1)),(:0(
p?=?=∈?≠ t
sarcsin2
p=,?
Levy 曾在 20 世纪 40 年代,对 Brown 运动作了奠基性的研究,此后 Brown 运动的研究始终十分活跃,方兴未艾,至今还不断地推陈出新,Brown 运动还有许多非常有趣的性质,在本书中不宜涉及更多,
3,5 与 Brown 运动有关的几个简单随机过程
吸附 Brown 运动与吸收 Brown 运动
设,0>a aT 为 Brown 运动 tB 首达 a 的时刻,令
≥
<=
)(
)()(
a
ata
t Tta
TtBB
,称为 在 a 吸附的 吸附
65
Brown 运动 。 它的分布函数是既有离散部分又有连续部分的混合分布,下面我们来推导这个分布函数,用
),( ta BT 与 ),( ta BT ∨ 有相同的联合分布,在 ax < 时得到
),()(),()( **)( aBxBPxBPaBxBPxBP tttttat ≥≤?≤=<≤=≤
),()( tTxBPxBP att ≤≤?≤= ),()( tTxBPxBP att ≤≤?≤= ∨
),2()( tTxBaPxBP att ≤≤≤=,
再注意到 ){}2{ tTxBa at ≤?≤?,因此在 ax < 时有
)2()()2()()( )( xaBPxBPxBaPxBPxBP ttttat?≥?≤=≤≤=≤
)2()2()( xBaxPaxBPxBP ttt ≤<?=?≤?≤= 。
另一方面我们还有 )()( )( tTPaBP aat ≤== )(2 aBP t ≥=,两者统一起来就有
定理 3,27
≥
<≤<?=≤
)(1
)()2()( )(
ax
axxBaxPxBP ta
t,
即吸附 Brown 运动 )(atB 的分布函数在 ax = 处不连续,它有一个跳跃量 )(2 aBP t ≥,
[ 注 1 ] Brown 运动在首达 a 以前的部分 }:{ at TtB <,称为 在 a 点吸收的吸收 Brown 运动,确切地说,吸收 Brown 运动不是一个 " 完整的 " 随机过程,它在 aTt ≥ 后就消失了,把吸收 Brown 运动与吸附 Brown 运动 )(atB 进行比较,就得到 在 a 点吸收的吸收 Brown 运动取值的概率规律为
)(),2(),( axxBaxPTtxBP tat <≤<?=<≤,
[ 注 2 ] 设 0,0 00 => Bx,通常把 tt Bx +=? 0x 称为 " 从 0x 出发的 Brown 运动 ",易见 它的转移密度为 ),,(),,( 00 xyxxtbyxtp=,且 tξ 首达 0 的时刻正是 tB 首达 0x? 的时刻,记
tx 首达 0 点的时刻为 0T,那么 tx 在到达 0 点以前的部分,称为 在 0 点吸收的吸收 Brown 运动,
0 点反射的反射 Brown 运动
||)( trt BB?= 称为 ( 在 0 点反射的 ) 反射 Brown 运动 。 我们有
p
tBE
t
2|| =,tBVar
t )
21(||
p?=,
积分 Brown 运动
66
∫
=ξ t
st dsB0 称为积分 Brown 运动,它不再具有 Markov 性,但是不难证明,二元随机过程 ),(
0
ts
t
BdsB∫ 却是 Markov 过程,
3,6 漂移 Brown 运动
定义 3,28 tBtt?+= mx 称为具有常数漂移 m 的 漂移 Brown 运动,这是 Brown
运动加上一个线性趋势项,于是 ( 以下诸叙述请读者补出证明 )
(1) 漂移 Brown 的转移密度,即条件分布密度 )|( xyp s
ts
=
+
xx,是
),,(),,( tyxtbyxtp m?=,
(2) 漂移 Brown 运动是时齐的 Markov 过程,即它满足
),,,|( 1
1 msss
xxxyp
mts
===
+
xxxx L )|( 0 xyp
t
== xx,
(3),对于 ntt <<< L10 而言,随机变量组 ),,,(
10 ntt
xxx L 的联合密度是初始密度
)( 0xj 与各个时刻间的转移密度的乘积,即
))(,,(),,()( 11111010 nnnnnn ttxxttbtxxtbx mmj L,(3,14)
漂移 Brown 运动可以作如下的随机模拟,
设 }{ kX 独立同分布,
ppX k 1
11~ 。 定义 )(
][1 ttt
XXxX
++?= L,则
)12]([=? pttxEX t,])12(1][[)()( 22=? pttxXVar t 。
对于充分小的数 0h >,如果取 hxht =?=?,,并且对于给定的常数 m,选取 p 使
hp m=?12 ( 即 )1(21 += hp m ),那么当 0→h 时,tEX t?→? m,
tXVar t →? )(,由中心极限定理可得?tX 的近似分布为 ),( ttN?m,进一步用多维的中心极限定理,可以证明?tX 的所有的有限维分布,都收敛于漂移 Brown 运动的相应的有限维分布 ( 在较为深入的随机过程理论课程中,还可以证明,在 0→h 时,?tX 作为随机过程整体在某种意义下的极限为漂移 Brown 运动 ),
特别地,取 0=m,21=p,则相应的极限就是 Brown 运动,
3,7 几何 Brown 运动
定义 3,29 对数为漂移 Brown 运动的随机过程,称为几何 Brown 运动,即
tB
t
te mx += 称为几何 Brown 运动,有些文献上也称 )0(,>= + sx ms tB
t
te 为 几何 Brown 运动,
67
几何 Brown运动不是独立增量过程,但是,由于指数函数是严格增函数,所以它仍是 Markov
过程,(易见,若 tx 是 Markov 过程,f 为严格单调函数,则 )( tt f xV?= 也是 Markov 过程 ),
在金融证券中,最简单的变量如股票价格,外汇汇率,股票指数价格,期货价格等等,
都是随机过程,在金融中统称为 标的变量 (underlying variable),大量实证表明,用几何
Brown 运动作为这种标的随机过程的粗近似,能提供明显的参考作用,在金融中的几何
Brown 运动常显现为
)0(,)2(
2
>σ=
σ?μ+σ tB
t
teS,
以此作为数学模型,称为 Black - Scholes 模型,参数 m 称为此标的变量的 收益率 。 我们将证明,在无套利的市场中确定与标的变量有关的金融产品的合理定价时,m 应该取为银行的无风险利率 r,这样的模型 )0(,)2(
2
>σ=
σ?+σ trB
t
teS 称为 风险中性的 Black - Scholes 模型,这时参数 s 就成为唯一的能起作用的模型参数,称为 波动率 (volatility),它代表市场的随机波动,在应用中就需要利用实际数据资料来估计波动率 s,
假定标的变量在 [0,T] 区间按步长 t? 的采样为,),0( tNTNnS tn?=≤≤?,那么,
)0(,ln
)1(
>≥
nN
S
S
tn
tn 相互独立,而且与 trB
t?
σ?+σ
)2(
2
具有相同的分布,即其分布为
),)2(( 2
2
ttrN ss,于是 2s 的估计可取为
∑
=
=
N
n
T
tn
tn
S
S
NS
S
Nt 1
2
0)1(
^
2 )ln1(ln
)1(
1s,(3,15)
4,简单随机徘徊
通常的教科书中,常把简单随机徘徊常放在 Brown 运动之前,用简单随机徘徊作为
Brown 运动的近似,然而 在本书中,我们考虑到连续情形比离散情形更易于处理,所以把简单随机徘徊放在 Brown 运动后面,
4,1,双侧吸收壁的吸收概率
假定两人参加博弈,开始时甲有资本 a元,乙有资本 b元,每次 1 元,直至其中一人输光就停止,不容许借贷,求甲输光的概率 ap 和乙输光的概率 bq,
此问题可用两端带有吸收壁的随机徘徊来描述,假定质点在每隔一个单位时间以概率
p和 q分别向右和向左移动一个单位距离,且每次移动之间是相互独立的,再假定质点在开始时刻 t=0时位于 )0( bann +≤≤,且在 0及 ba + 处各设一个吸收壁,即质点一旦到达 0或
ba +,就永远停在该处,我们来求质点最终在 0被吸收的概率 np,由定义显然有
0,10 == +bapp,我们分析在 n 处的质点要被 0吸收,总共只有两种可能,即先向右移动一格而最后被 0吸收,或先向左移动一格而最后被 0吸 收,用全概率公式就得到差分方程
68
11?+ += nnn qpppp,
它等价于 )()( 11?+?=? nnnn ppqppp,即
)( 11?+?=? nnnn pppqpp,
下面分两种情形分别考虑,
( 1 ) qp = 情形,这时 =?+ nn pp 1 常数,记为 c,于是 ncppn += 0 nc+= 1,再由 cbap ba )(10 ++== + 得到 bac +?= 1,故而 ba npn +?= 1,所以 a 出发而在 0被吸收的概率为 ba bba apa +=+?= 1,同理可得 ba aqb +=,
( 2 ) qp ≠ 情形,由 p0=1得到
),1()( 11?=?+ ppqpp nnn
于是
p
q
p
q
p
q
pppqpppp
ban
ba
nk
n
ba
nk
kknba
=?=?=?
+
+
=
+
=
++ ∑∑
1
)()(
)1()1()()( 1
1
1
1
1,
再由 pa+b=0推出
p
q
p
q
p
q
pp
ban
n
=
+
1
)()(
)1( 1,
又由于 p0=1,便得
p
q
p
q
p
ba
=
+
1
)(1
)1(1 1,
最后得到
ba
ban
n
p
q
p
q
p
q
p
+
+
=
)(1
)()(
。
因此
ba
b
ba
baa
a
q
p
q
p
p
q
p
q
p
q
p
++
+
=
=
)(1
)(1
)(1
)()(
,
用同样的方法可得
69
ba
a
ab
p
q
p
q
pq
+?
=?=
)(1
)(1
1,
4,2 随机徘徊的对称原理
定理 3,30 (随机徘徊的对称原理 ) 设 nS 为随机徘徊,nn XXS ++= L1,kX
独立同分布,那么我们有 ( 注意,正反方向的起始分别为 0 与 nS )
]),[),(,(]),[),(,0( baSniSSPbaSniSP nnini ∈<<=∈<>,(3,16)
证明 记 nXX,,1 L 的逆向排列为
^^
1,,nXX L,即 )(1
^ nkXX
knk ≤= +?
,于是
^^
1
^
nn XXS ++=
L
也是简单随机徘徊,而且有
inninnii SSXXXXS?+=++=++= 1
^^
1
^ LL
,nn SS =^,
由此就得到
]),[,,(]),[,,0(]),[,,0( ^^ baSniSSPbaSniSPbaSniSP ninnini ∈<>=∈<>=∈<>,
4,2 随机徘徊的首达时刻
引理 3,31 在满足 )(,2,1 nixmxx in ≤<=++L 的整数解 (可以取负值 )
nxx,,1 L 的 n 个循环排列中,恰有 m 个循环排列满足,部分和的前 1?n 个都小于 m,(即,
满足条件
,)(,
1
npmxx
pii
<<++L,
的循环排列,
nii
xx,,
1
L 只有 m 个 ),
证明 首先注意到,因为总和为 m,所以满足条件要求的解 ),,( 1 nxx L 必须有 1=nx,再则,
nxx,,1 L 的部分和共 n 个,把它们的最大值记为 M,假定其中第 l个部分和是达到 M 的那些部分和中的第一个,那么也必定有 1=lx (否则有 1<lx,于是前面的部分和中就必有达到 M 者,这就出现了矛盾 ),从而由 )(,2,1 nixmxx in ≤<=++L 的解得到的 ),,,,,( 121 lnll xxxxx LL++ 就是满足上述要求的一个循环排列,
往证这样的循环排列一共只有 m 个,为了叙述简单,下面不妨假定这个循环排列就是 ),,( 1 nxx L 自己,
对于 mj,,1 L=,记 }:min{ 1 jxxkp kj =++= L,它是部分和首达 j 的时刻,由假定可知
70
npm =,可见和数 nxx ++L1 达到 m 是由分别达到累计和为 1 的 m 段 ),,,{
121 +++ iii ppp
xxx L 逐步实现的 ))1,,1,0,0,(,1( 01
1
==<?< +
+=
∑ nippsx ii
s
pj
j
i
i
L,因此,除 ),,( 1 nxx L 自己外,只有以 1+
jp
x 开始的排列且当 11?≤≤ mj 时,才满足我们的要求,引理证毕,
定理 3,32 (Dwass – Dinges 定理 ) 设 nS 为从 x 出发的随机徘徊
nn XXxS +++= L1,其中 iX 独立同分布,且取值于 },2,1,0,1{ L,xS =0 (整数 ),
那么,在 xm > 时有
)()),(,( mSPn xmmSnimSP nni =?==<<,(3,17 )
证明 不妨假定 0=x ( 否则可用 xm? 代替 m ),把 ),,( 1 nXX L 的 n 个循环排列的联合 )},,,(,),,,,(),,,{( 11121?nnnn XXXXXXXX LLLL 所出现的一切可能放在一起,作为样本空间,由独立同分布性可知其中 n 部分的任意一部分内所有随机 变量的和都是具有相等概率的,我们可以把它们看成为,广义的,基本事件,于是我们可以用推广的古典计算方法来计算条件概率 )|)(,( mSnimSP ni =<<,再由引理 3,31 可知,在上面的,广义的,基本事件中,有利于我们要算的 (条件 )概率的恰有 m 个,因此,这个 (条件 )概率应为
n
m,这就是我们要证明的结论,
4,3 简单随机徘徊与首达时
若 nS 为简单 随机徘徊 nn XXS ++= L1,其中
pqX i
11~,且相互独立 。 那么利用 Dwass-Dinges 定理得到,对于 nS 首达 1 的时刻 1T 有
nnn
nn qpCnSPnnTP
1
2121 1
1)1(
12
1)12( +
+ +==+=+=,(3,18)
于是 1T 的矩母函数 (注意此时可能有 1)( 1 <∞<TP,所以此时矩母函数在 1 处的值就会小于 1) 为 )(1 pqzpA,其中 ( 1T 只可能取奇数 )
nn
n
n
zCnzA 2
0
1 1
1)(
+= ∑
∞
=
n
n
znn n )!1(! )!2(
0 +
= ∑
∞
=
,
注意到 )(21 1 zzA? 的展开式中 nz 的系数为
71
!
))1(21()221)(121(21
)4(! 13)52)(32(22!)!1( ))!1(2(2 1 n
n
n
nn
nn
n nn==
LL
把它与广义 Newton 展开式
n
n
yn ny ! ))1(()1()1(
0
=+ ∑∞
=
aaaa L
对照,便得到
2
1
1 )41()(21 zzzA?=?,
即 )(1 zA 有显式表示
z
zzA
2
411)(
1
=,(3,18)
从而得到
q
qppqpATP
2
||1)()(
11
==∞<
<
≥
= )(
)(1
qpqp
qp
,(3,19)
== )('11 pqpAET
≤∞
>?
)(
)(1
qp
qpqp
,(3,20)
进一步记首达 m 的时刻为 mT,同样用 Dwass-Dinges 定理可得到
nmnn
mnmnm qpCmnmSPmn
mmnTP +
++ +==+=+= 122
1)(
2)2(,(3,21)
再注意简单随机徘徊 nS 从 k 到 1+k 的转移规律与从 0 到 1 是一样的,由 Markov 性便得到下面的定理
定理 3,33
<
≥
=∞< )()(
)(1
)( qp
q
p
qp
TP mm,(3,22)
≤∞
>?=
)(
)(
qp
qpqpmET
m,( 3,23)
习题 3
1,设 }0),({ ≥ttN 服从强度为 l 的 Poisson 过程,ts <,求 )|(),|( stts NNENNE 以及协方差
72
函数 ))(),(( stNtNCov +,
2,设 tN 是 Poisson 过程,,0 ts ≤≤ 证明 1}{ =≤ ts NNP,且 0}{lim =>?→ estst NNP,
3,设 tN 为 Poisson 过程,tss m <<<L1,证明在 nNt = 的条件下,),,(
1 mss
NN L 的条件联合
分布为多项分布,
4,假定海浪引起的多次冲击形成一个参数为 l 的指数流 }{ kt,第 k 次冲击对某个设备造成的瞬时随机损失为 kD,设,{ }1,≥kDk 为独立同分布,且与 }{ kt 独立,于是海浪在 t 时刻对设备造成的总损失为
=tx ∑
=
t k
N
k
t
k eD
1
)( ta,其中
tN 是 }{ kt 的 计数过程,求 )(,tt VarE xx,
5,设正随机变量 Λ 具有密度 )(lg,已知在 l=Λ 的条件下,随机过程 tN 的条件分布是强度为 l 的
Poisson 分布,求 ),,(
1 ntt
NN L 的 (联合 )分布,证明 tN 不是独立增量过程,而是平稳增量过程,即
stst NNX?= +
的分布与 s 无关,而且 ),,(
1 tttt n
XX ++ L 的分布不依赖 t,
6,设某商场在下午 1 点到 4 点到达的顾客数 X 服从平均速率为每分钟 60 人的 Poisson 过程,而到商场的
人所消费的钱 )25,30(~ Bih,假设 ih 相互独立且与 X 独立,求商场在 该时间段内的平均营业额与营业额的误差,
7,设 )(,miX i ≤ 们相互独立,服从参数为 )(,mii ≤l 的 Poisson 分布,求在 nXX m =++L1 的
条件下,),,( 1 mXX L 的条件分布,
8,设三个机器人甲,乙,丙在时刻 0=t 开始工作,它们正常工作的时间是相互独立的随机变量,设时刻 t
待修理的机器 人在 ),( htt + 修好能正常工作的概率都是 )(hoh +?l,
(1) 求在时刻其中至少一个待修理的概率,(2) 求正好按甲,乙 丙的次序并且三个全坏的概率,
9,设 }{ nt 为指数流,其计数过程为 Poisson 过程 tN,求在 1=tN 的条件下,),( 21 tt 的条件密度,
10,一个从底层上升的电梯,设 iN 为在第 i 层进入电梯的人数,它们是相互独立的,且
i
PoissonNi l~,由第 i 层进入电梯的每个人独立地以概率 ijp 在第 j 层离开电梯 ( 1=∑
>ij
ijp ),记 jX
为在第 j 层离开电梯的人数,求 jEX 及 ),( kj XX 的分布,( 注,令 ijN 为从第 i 层进入电梯,并在
第 j 层离开电梯的人数,由分流定理它们相互独立,而且有 jjjj NNX,11?++= L ),
11,设 )(itN )2,1( =i 是相互独立强度为 il 的 Poisson 过程,分别对应于指数流 }{ )(int,求
73
(1)
)1(
)2(
tN
t 及 )2(
1tN 的分布 ; (2) )|{
)2()1()1(
1 tt NNE +t,
12,设 )(itN )2,1( =i 是相互独立强度为 il 的 Poisson 过程,求证 )2()1( tt NN? 不是 Poisson 过程,而是复
合 Poisson 过程,并求它的特征函数,
13,若 tNt )1(0?= xx,其中 }{ tN 为与 0x 独立的 Poisson 过程,而
2
1
2
1
11
~0x,
(1) 求 tx 的协方差函数 ; (2) 求 ),( st xx 的特征函数 ;
14,设随机变量 mt exp~,且与强度为 l 的 Poisson 过程 }0:{ ≥tNt 独立,证明 tN 服从参数为
ml
m
+ 的几何分布,
1 5,设 )2,1}(1:{ )( =≥ inint 是两个参数分别为 il 的相互独立的指数流,其对应的计数过程分别为
Poisson 过程 )(itN,证明 )2()2( )1()1(
1 nn
NN tt?
+
服从参数为
21
2
ll
l
+ 的几何分布,
16,某设备由 BA,两部件构成,可能发生三类故障,在 ],0( t 中发生第 i 类 ( 3,2,1=i ) 故障的次数为参数是 il 的 Poisson 过程,且相互独立,在第一类故障时 A不 正常,在第二类故障时 B 不 正常,而在第三类故障时 BA,都不正常,设 BA,的寿命分别为 hx,,求证 hx,均为指数分布,),( hx 服从二维指数分布,)}(exp{),( 321 stststP ∨=>> lllhx,
17,设 )(ktN 为一列相互独立的强度为 kl 的 Poisson 过程,∑∞= ∞<= 1k kll,求证 ∑∞== 1 )(k ktt kNN
是复合 Poisson 过程,
18,若 tN 为均值为 )(tL 的非时齐 Poisson 过程,)(1 t?L 为 )(tL 的反函数,问 )(1 tN?L 是什么过程?
19,若 tN 为均值为 )(tL 的非时齐 Poisson 过程,设 nXX,,1 L 为 n 个取值在 ],0[ t 上,且是分布函数为 )( )()( tssF LL= 的独立同分布随机变量,证明在 nNt = 的条件下,该非时齐 Poisson 过程的各个事故发生的时刻与 )()1(,,nXX L 同分布,
* 20 ],0[ t 中进入某 医院住院部的病人数为均值为 )(tL 的非时齐 Poisson 过程,设病人的住院时间独立
同分布,具有分布密度 )(tf,且与此非时齐 Poisson 过程独立,记 )(th 为时刻 t 住院的人数,求它的期
74
望与方差,
21,设 tB 为 Brown 运动,分别求 (1) tBtt?+= msx,(2) )1(,)1(
1
<?=
tBt
t
tth,(3) te
t
t Be b
bV
2
=
的协方差函数,
22,设 tus <<,tB 为 Brown 运动,求
)|( ts BBE,)|( st BBE ),|( ust BBBE,),|( tus BBBE,),|( tsu BBBE,
23,证明 Brown 运动有空间平移不变性,
)|()|( zxBzABPxBABP sstsst +=+∈==∈ ++,
其中 }:{ AyzyzA ∈+=+,
24,设 0<a,对于 Brown 运动 )0( 0 =BBt,给出在 a 点的反射原理及吸附的 Brown 运动的概率规律,
25,对于 10 << t,证明在条件 010 == BB 条件下,tB 的条件分布密度为 ))1(,0( ttN?,再对
bBaB == 10,的情形推广这个结果,
26,令 )(),0[1 tItBX
t
t ∞=,,0 321 ttt <<< 问 1tX 与 23 tt XX? 是否独立?
27,1210 +<<<≤? nttt L,求条件分布 })(,,)(|)({ 111 nnn xtBxtBxtBP ==≤+ L 和
})(,,)(|)({ 11221 ++ ==≤ nn xtBxtBxtBP L 的密度,并由此再求相应的条件期望和条件方差,
28,求 1tBBtt?=x 及
1
)1(
+
+=
t
tt t xh 的分布,再对 10 <<< ts 求 sx 与 tx 的协方差函数与
相关系数
29,分别 求 || tB,*tB,stst BB ≤= min* 及 ttt BBD?= * 的密度,求证
( )txDxBP tt 2exp}0|{ 2*?==>,
30,记 ∑ = +?= n
nn
k kkn BBS
2
1
2
22
1 )(,求,2ES ),|( 23 SSE nESSSE ),|( 32,并证明
)1()|( 211 +=+ nnn SSSE,11 )|( ++ = nnn SSSE,
31,对于强度为的 l Poisson 过程 tN,证明 ).( ∞→?→? ntN pt l
32,设有 n 个寿命分布均为 lExp 的元件同时使用,元件坏了既不修理,也不更新 。 记第 k 个故障发生的
时刻为 kt )nk( ≤,)(S kk
def
k 001 =?=? ttt,
75
( 1 ) 求 ),,( ntt L1 的联合密度 ; ( 2 ) 证明 nS,,S L1 独立,且 l)kn(k Exp~S 1+? 。
33,对于强度函数为 )t(l 的非时齐的 Poisson 过程 tN,令 }kN:tinf{ tk ==t,
)(S kk
def
k 001 =?=? ttt 。
( 1) 求 ),,( ntt L1 的联合密度 ; ( 2 ) 求 )S,,S( nL1 的联合密度 。