应用随机过程清华大学数学科学系林元烈 主讲教材：,应用随机过程,（第三次印刷）
林元烈，清华大学出版社
2009-7-25 应用随机过程讲义 第一讲 2
学习要求
不仅是掌握知识，更重要的是掌握思想
学会把抽象的概率和实际模型结合起来
2009-7-25 应用随机过程讲义 第一讲 3
学习重点
1,用随机变量表示事件及其分解 —— 基本理论
2,全概率公式 —— 基本技巧
3,数学期望和条件数学期望 —— 基本概念
2009-7-25 应用随机过程讲义 第一讲 4
第一讲
2009-7-25 应用随机过程讲义 第一讲 5
随机事件与概率随机试验
2009-7-25 应用随机过程讲义 第一讲 6
要点：
在相同条件下，试验可重复进行；
试验的一切结果是预先可以明确的，但每次试验前无法预先断言究竟会出现哪个结果。
2009-7-25 应用随机过程讲义 第一讲 7
样本点对于随机试验 E,以 ω表示它的一个可能出现的试验结果，称 ω为 E的一个样本点。
样本空间样本点的全体称为样本空间，用 Ω表示。
Ω ＝ {ω}
2009-7-25 应用随机过程讲义 第一讲 8
随机事件粗略地说，样本空间 Ω的子集就是随机事件，
用大写英文字母 A,B,C等来表示。
事件的关系与运算
2009-7-25 应用随机过程讲义 第一讲 9
n
n
n
n
nn
n
n
n
n
nn
AA
AA
AA
AA
nA
lim
,
lim
,
}1,{
1
1
1
1
称之为单调不增序列。若称之为单调不减序列。若
事件序列
2009-7-25 应用随机过程讲义 第一讲 10
.l i ml i ml i m
l i ml i m
i n fl i ml i m)(
s u pl i ml i m)(
1
1
n
n
n
n
n
n
n
n
n
n
n
n
n
n
k
nkn
n
n
n
n
k
nkn
AAA
AA
AAA
AAA
则定义
，如果
2009-7-25 应用随机过程讲义 第一讲 11
AI
AI
A
A
I
A
A
A
}0)(:{
}1)(:{
,0
,1
)(
事件事件示性函数是最简单的随机变量用随机变量来表示事件
2009-7-25 应用随机过程讲义 第一讲 12
，
－则若取上端取下端
－
)()(
)()(
)()()(,
)()()(
)()()(
,),m a x (
,),m i n (
BA
BA
BABA
BABA
BABA
IIBA
IIBA
IIIBA
III
III
baba
baba
用示性函数的关系及运算来表示相关事件的关系及运算
2009-7-25 应用随机过程讲义 第一讲 13
公理化定义是最简单的集类。
称为集类。
的集合的子集作为元素构成的粗略地说，由
},{
集类
2009-7-25 应用随机过程讲义 第一讲 14
2009-7-25 应用随机过程讲义 第一讲 15
概率
2009-7-25 应用随机过程讲义 第一讲 16
：事件的概率的元素，事件：
概率：完全可加的集函数，
代数：集类，
：集合，样本空间
)(
),,(
AP
A
P
P
概率空间
2009-7-25 应用随机过程讲义 第一讲 17
隐含了等可能条件点集的面积点集的面积几何概型隐含了等可能条件中的样本点数目中的样本点数目古典概型
A
AP
AA
AP
A
)(
.2
)(
)(
)(
.1
2009-7-25 应用随机过程讲义 第一讲 18
概率是满足
1) 非负性；
2) 归一性；
3) 可列可加性；
的集函数。
可测集粗略地说，可以定义长度（面积、体积）的点集即为可测集；反之称为不可测集。
2009-7-25 应用随机过程讲义 第一讲 19
概率的性质
1.
2,
3,有限可加性
0)(P
)(1)( APAP
n
k
k
n
k
k
n
APAP
jiAAAAA
11
21
)()(
),(,,...,则＝且若
由概率非负性即得
，＝显然有,)()(...
1
k
PP
即得及完全（可列）可加性由 0)(P
2009-7-25 应用随机过程讲义 第一讲 20
)()()(
)()()\(
,
BPAPBAP
AB
ABPAPBAP
BA
若
)()()()( ABPBPAPBAP
4.
5,
6,)()(,BPAPBA 则若
2009-7-25 应用随机过程讲义 第一讲 21
7.
8,可列次可加性
9,概率连续性
)...()1(...
)()()()(
,2,1,
21
1
1111
n
n
nji
kji
nji
ji
n
k
k
n
k
k
k
AAAP
AAAPAAPAPAP
nnkA
11
)()(
k
k
k
k APAP?
)(lim)lim(
}1,{
nnnn
n
APAP
nA
为单调事件序列，则若
2009-7-25 应用随机过程讲义 第一讲 22
这部分的详细讨论可以参见
,随机数学引论,
林元烈，清华大学出版社
2009-7-25 应用随机过程讲义 第一讲 23
Buffon试验：最早用随机试验的方法求某个未知的数。
测度,满足非负性、可列可加性的集函数。
2009-7-25 应用随机过程讲义 第一讲 24
.
.
)(
},,],,{[
可测集为一维，称代数一维称为代数生成的则由设集类
B o r e l
B o r e l
baRbaba
2009-7-25 应用随机过程讲义 第一讲 25
实际上，设集类以上集类和?生成相同的 σ-代数,都是上面提到的 一维 Borelσ-代数，即
}:{
},,),,{(},,,),,{(
},,,],,{(},,,),,{[
5
21213
21
中开集为＝
为有理数＝＝
＝＝
RGG
rrrrbaRbaba
baRbababaRbaba
)51(),()( kk
2009-7-25 应用随机过程讲义 第一讲 26
直观地说,中包含一切开区间，闭区间，
半开半闭区间，半闭半开区间，单个实数，以及由它们经可列次并交运算而得出的集类。
)(
2009-7-25 应用随机过程讲义 第一讲 27
2009-7-25 应用随机过程讲义 第一讲 28
2009-7-25 应用随机过程讲义 第一讲 29
)|()()|()()(
)()|(
)(
)(
)|(
,
ABPAPBAPBPABP
APAP
BP
ABP
BAP
BA
件概率相同。条件概率的性质与无条
条件概率
2009-7-25 应用随机过程讲义 第一讲 30
k
kk
k
klk
k
k
kk
CBAPCBPCAP
BAlkBB
kBBAPBPAP
)|()|()|(
,
}1,{)|()()(
，
Φ
全概率公式
2009-7-25 应用随机过程讲义 第一讲 31
事件的独立性独立独立
BA
APBAPBAP
BPAPABP
BA
,
)()|()|(
)()()(
,
2009-7-25 应用随机过程讲义 第一讲 32
)()()()(
)()()(
)()()(
)()()(
,,,
CPBPAPABCP
CPBPBCP
CPAPACP
BPAPABP
CBA 等式相互独立，要满足四个三个事件几个事件的独立性
2009-7-25 应用随机过程讲义 第一讲 33
.\,
.,
,,),(),,(
.,,;,,;,,;,,;,,;,,;,,;,,
21
221121
独立均与和例如，
独立则任取记独立独立独立独立独立独立独立独立下列命题等价：
CBABAAB
AA
AACBA
CBACBACBACBA
CBACBACBACBA
2009-7-25 应用随机过程讲义 第一讲 34
独立。和则设独立，若
21
11211
21
21
),,...(),,...,(
)(),,,()()...(
,...1
,...,
2121
BB
AABAAAB
APAPAPAAAP
niii
AAA
nmm
iiiiii
k
n
kk
2009-7-25 应用随机过程讲义 第一讲 35
).()(
,
0)|(,05.0)|(,6.0)(
,98.0)|(,8.0)|(,6.0)(
)31(
1
321321
213121
213121
BPAP
BBBBAAAA
BBBPBBPBP
AAAPAAPAP
kk
BA
kk
和求：
，令
。已知次试验成功，甲乙两人第为，验，记：甲乙两人各做三次试例
2009-7-25 应用随机过程讲义 第一讲 36
62.0005.04.06.0)(
9 9 8 4.098.02.04.08.04.06.0
)|()(
)|()()()(
21321
1211
321211
BP
AAAPAAP
AAPAPAPAP
AAAAAAA
（互不相容）解：
比较甲乙两人的结果，从以上结果可以得到什么结论
？
2009-7-25 应用随机过程讲义 第一讲 37
机遇偏爱有心人！
2009-7-25 应用随机过程讲义 第一讲 38
功的概率。
，求至少有一次成，若概率为次成功次独立重复试验，设每：进行例
40002.0
2
n
n
.9997.0)98.0(1)( 400AP
一次成功的概率只有 2％，是典型的小概率事件；
但重复次数足够多，如 n=400，
至少一次成功就是大概率事件！
2009-7-25 应用随机过程讲义 第一讲 39
只要功夫深，铁杵磨成针！
2009-7-25 应用随机过程讲义 第一讲 40
随机变量定义解释可测性要求。
保证了概率定义的是可测映射；
})(:{,
),(),(:)(
aXRa
RX
2009-7-25 应用随机过程讲义 第一讲 41
离散型随机变量的示性函数表示法这说明对于任一 d.v.r.，总可以分解为互不交的事件的示性函数的迭加。
,)()(
),:(
,),(,...
1k
Bk
kk
k
k
IxX
XxXB
NkxXPXvrd
可以表示为则设事件若其分布律为：
2009-7-25 应用随机过程讲义 第一讲 42
随机变量等价定义分布函数
2009-7-25 应用随机过程讲义 第一讲 43
连续型随机变量的概率密度函数微元法求概率密度函数
2009-7-25 应用随机过程讲义 第一讲 44
二维随机变量的分布函数
二维 Borel-σ代数
由平面上矩形的全体生成的 σ－代数
}2,1,:],[],{[ 2211 ibababa ii
2009-7-25 应用随机过程讲义 第一讲 45
联合密度函数亦可用微元法求
2009-7-25 应用随机过程讲义 第一讲 46
常用随机变量的分布（列出,期望方差）
两点分布 正态分布二项分布 指数分布
Poisson分布 均匀分布几何分布二维正态分布
2009-7-25 应用随机过程讲义 第一讲 47
两点分布若 r.v.X只取 1和 0两个值，且则称 r.v.X服从参数为 p的两点分布。
简记为,X~B(1,p).即
A
AIXA
A?
0
1)()(,
)10(,1)0(,)1( ppXPpXP
EX=p,DX=p(1-p)
2009-7-25 应用随机过程讲义 第一讲 48
EX=np,DX=np(1-p)
EX=1/p,DX=(1-p)/p2
2009-7-25 应用随机过程讲义 第一讲 49
EX=λ,DX=λ
EX=(a+b)/2,DX=(b-a)2/12
2009-7-25 应用随机过程讲义 第一讲 50
EX=1/λ,DX=1/λ2
EX=μ,DX=σ2
2009-7-25 应用随机过程讲义 第一讲 51
二维正态分布的优良性质
X,Y相互独立 X,Y不相关?
随机变量的数字特征及条件数学期望
2009-7-25 应用随机过程讲义 第一讲 53
数学期望（复习）
,加权平均,
为了引出一般随机变量的定义，我们先介绍 R-S积分的概念。
dxxxf
xXPx
EX
X
kk
)(
)(?
k
kk Px
dxxfx X )(||
2009-7-25 应用随机过程讲义 第一讲 54
黎曼－斯蒂尔吉斯积分
2009-7-25 应用随机过程讲义 第一讲 55
任分任取求和取极限
2009-7-25 应用随机过程讲义 第一讲 56
2009-7-25 应用随机过程讲义 第一讲 57
在定义了 R-S积分之后，我们可以将所有随机变量的数学期望形式进行统一。
)( xXx d PEX
dxxfxgxdFxgxfxF )()()()(),()(' 则若
2009-7-25 应用随机过程讲义 第一讲 58
2009-7-25 应用随机过程讲义 第一讲 59
数学期望的性质（ E|Xi|<∞）
2009-7-25 应用随机过程讲义 第一讲 60
不独立反之，
独立
YXYEXEXYE
YEXEXYEYX
,)()()(
)()()(,
1
1 10
)(
)()1()(
k
k
k
ik
kXP
kXPkXkPEX
X 取值非负整数交换求和顺序
2009-7-25 应用随机过程讲义 第一讲 61
0
0 00
)(
)()()(
0
dxxXP
xXdPdyxXx d PEX
X
x
若同理，对连续型随机变量有相似的结论成立
2009-7-25 应用随机过程讲义 第一讲 62
2009-7-25 应用随机过程讲义 第一讲 63
2009-7-25 应用随机过程讲义 第一讲 64
2009-7-25 应用随机过程讲义 第一讲 65
2009-7-25 应用随机过程讲义 第一讲 66
Chebyshev不等式
)1(
||
)|(|
)|(|
,0
2
p
EXXE
EXXP
DX
EXXP
p
p
2009-7-25 应用随机过程讲义 第一讲 67
条件数学期望
)( Ni?
2009-7-25 应用随机过程讲义 第一讲 68
2009-7-25 应用随机过程讲义 第一讲 69
2009-7-25 应用随机过程讲义 第一讲 70
用示性函数的线性组合表示离散型随机变量
（见前面“随机变量”部分 ）
2009-7-25 应用随机过程讲义 第一讲 71
例,
)()|()()|(
)0|()1|()|(
)|()1|0(0)1|1(1
)1|(
)()0(0)1(1)(
,,,
)0()1(
B
B
IBAIBABA
BABA
BA
AAA
BA
IBAPIBAP
IIIEIIIEIIE
BAPIIPIIP
IIE
APIPIPIE
BAIYIX
BB
，随机变量?
将概率运算纳入求期望运算的范畴
2009-7-25 应用随机过程讲义 第一讲 72
理解
E(X|Y)是 ω 的函数，也是 Y(ω)的函数，即 Y(ω) 取值不同,E(X|Y)也取相应的值；
当 Y是离散型随机变量时,E(X|Y)也是离散型随机变量。
2009-7-25 应用随机过程讲义 第一讲 73
2009-7-25 应用随机过程讲义 第一讲 74
推广至一般随机变量
2009-7-25 应用随机过程讲义 第一讲 75
将 x替换成 X
2009-7-25 应用随机过程讲义 第一讲 76
求条件数学期望的一般步骤
先写出固定条件 (如 Y=yj)的情况下 X的条件分布律或条件密度函数；
根据条件数学期望的定义，通过求和或积分得到条件下的数学期望；
将条件 (Y=yj)替换成一般情况下的随机变量
(Y)
2009-7-25 应用随机过程讲义 第一讲 77
条件数学期望的性质设 E(Y),E(Xi|Y),E(h(Y)),E{g(X)h(Y)}存在，则
(重要 !) 全期望公式
2009-7-25 应用随机过程讲义 第一讲 78
2009-7-25 应用随机过程讲义 第一讲 79
j
jj
j
yYjA
j
yYjA
AA
jjA
BPBAP
IEyYIEIyYIEE
YIEEIE
AP
yYBvrdYIX
jj
)()|(
)()|(])|([
)]|([)(
)(
})(:{.,..,事件为令将全概率公式纳入全期望公式的范畴
2009-7-25 应用随机过程讲义 第一讲 80
重要结论,E(X|Y)=E(E(X|Y,Z)|Y)=E[E(X|Y)|Y,Z]
以示性函数为例，验证上面的结论
CBCBACBCBA
CBCBABCCBA
CBA
IIIIEIIIIE
IIIIEIIIIE
IIIE
)0,1|()0,0|(
)1,0|()1,1|(
),|(
CBCB
CBBC
ICBAPICBAP
ICBAPIBCAP
)|()|(
)|()|(
2009-7-25 应用随机过程讲义 第一讲 81
B
B
IBCAPBACP
IBCAPBACP
)]|()|([
)]|()|([
B
B
BCBA
IBCBPCBAPBCBPCBAP
IBCBPCBAPBBCPBCAP
IIIIEE
)]|()|()|()|([
)]|()|()|()|([
]|),|([
同理可验证另一个等号
)|(
)|()|(
BA
BB
IIE
IBAPIBAP
2009-7-25 应用随机过程讲义 第一讲 82
例,
).,|(),|(
),0|()|(
.,0,0
1,0)1(,0)1(
...}1,{
211002100
2323
1
000
YYXEXXE
XXEXXE
YXXXY
qpqYPpYP
diinY
n
k
kn
nn
n
的示性函数表示式及求令随机变量序列
2009-7-25 应用随机过程讲义 第一讲 83
)2()0()2(
232
232232
23
222
)2()()2(
)(
)|()|(
)|(
XXX
IqpIqpIqp
qpXEYX
XYEXXYXE
XXE 由 X2和 Y3独立用示性函数表示 X2
2009-7-25 应用随机过程讲义 第一讲 84
)(98),|(
)(98)|()|(
2121100
22
100
3
22100
qpYYYYXE
qpXXYXEXXE
K
k
)(
2
2
)0|2(2)0|0(0
)0|()0|(
)0|(
2
2
32222
322232
23
qp
pqp
p
EYXXPXXP
EYXXEXYXE
XXE
2009-7-25 应用随机过程讲义 第一讲 85
推广：条件为两个随机变量 E(X|Y,Z)
如,男 南女 北仍然以离散情况下的情形为例：
先求出 E(X|Y=yj,Z=zk )＝ g(yj,zk)，依次可写出
E(X|Y,Z)的分布律。
1
0Y
g(yj,zk)是关于 yj,zk的二元函数
1
0Z
林元烈，清华大学出版社
2009-7-25 应用随机过程讲义 第一讲 2
学习要求
不仅是掌握知识，更重要的是掌握思想
学会把抽象的概率和实际模型结合起来
2009-7-25 应用随机过程讲义 第一讲 3
学习重点
1,用随机变量表示事件及其分解 —— 基本理论
2,全概率公式 —— 基本技巧
3,数学期望和条件数学期望 —— 基本概念
2009-7-25 应用随机过程讲义 第一讲 4
第一讲
2009-7-25 应用随机过程讲义 第一讲 5
随机事件与概率随机试验
2009-7-25 应用随机过程讲义 第一讲 6
要点：
在相同条件下，试验可重复进行；
试验的一切结果是预先可以明确的，但每次试验前无法预先断言究竟会出现哪个结果。
2009-7-25 应用随机过程讲义 第一讲 7
样本点对于随机试验 E,以 ω表示它的一个可能出现的试验结果，称 ω为 E的一个样本点。
样本空间样本点的全体称为样本空间，用 Ω表示。
Ω ＝ {ω}
2009-7-25 应用随机过程讲义 第一讲 8
随机事件粗略地说，样本空间 Ω的子集就是随机事件，
用大写英文字母 A,B,C等来表示。
事件的关系与运算
2009-7-25 应用随机过程讲义 第一讲 9
n
n
n
n
nn
n
n
n
n
nn
AA
AA
AA
AA
nA
lim
,
lim
,
}1,{
1
1
1
1
称之为单调不增序列。若称之为单调不减序列。若
事件序列
2009-7-25 应用随机过程讲义 第一讲 10
.l i ml i ml i m
l i ml i m
i n fl i ml i m)(
s u pl i ml i m)(
1
1
n
n
n
n
n
n
n
n
n
n
n
n
n
n
k
nkn
n
n
n
n
k
nkn
AAA
AA
AAA
AAA
则定义
，如果
2009-7-25 应用随机过程讲义 第一讲 11
AI
AI
A
A
I
A
A
A
}0)(:{
}1)(:{
,0
,1
)(
事件事件示性函数是最简单的随机变量用随机变量来表示事件
2009-7-25 应用随机过程讲义 第一讲 12
，
－则若取上端取下端
－
)()(
)()(
)()()(,
)()()(
)()()(
,),m a x (
,),m i n (
BA
BA
BABA
BABA
BABA
IIBA
IIBA
IIIBA
III
III
baba
baba
用示性函数的关系及运算来表示相关事件的关系及运算
2009-7-25 应用随机过程讲义 第一讲 13
公理化定义是最简单的集类。
称为集类。
的集合的子集作为元素构成的粗略地说，由
},{
集类
2009-7-25 应用随机过程讲义 第一讲 14
2009-7-25 应用随机过程讲义 第一讲 15
概率
2009-7-25 应用随机过程讲义 第一讲 16
：事件的概率的元素，事件：
概率：完全可加的集函数，
代数：集类，
：集合，样本空间
)(
),,(
AP
A
P
P
概率空间
2009-7-25 应用随机过程讲义 第一讲 17
隐含了等可能条件点集的面积点集的面积几何概型隐含了等可能条件中的样本点数目中的样本点数目古典概型
A
AP
AA
AP
A
)(
.2
)(
)(
)(
.1
2009-7-25 应用随机过程讲义 第一讲 18
概率是满足
1) 非负性；
2) 归一性；
3) 可列可加性；
的集函数。
可测集粗略地说，可以定义长度（面积、体积）的点集即为可测集；反之称为不可测集。
2009-7-25 应用随机过程讲义 第一讲 19
概率的性质
1.
2,
3,有限可加性
0)(P
)(1)( APAP
n
k
k
n
k
k
n
APAP
jiAAAAA
11
21
)()(
),(,,...,则＝且若
由概率非负性即得
，＝显然有,)()(...
1
k
PP
即得及完全（可列）可加性由 0)(P
2009-7-25 应用随机过程讲义 第一讲 20
)()()(
)()()\(
,
BPAPBAP
AB
ABPAPBAP
BA
若
)()()()( ABPBPAPBAP
4.
5,
6,)()(,BPAPBA 则若
2009-7-25 应用随机过程讲义 第一讲 21
7.
8,可列次可加性
9,概率连续性
)...()1(...
)()()()(
,2,1,
21
1
1111
n
n
nji
kji
nji
ji
n
k
k
n
k
k
k
AAAP
AAAPAAPAPAP
nnkA
11
)()(
k
k
k
k APAP?
)(lim)lim(
}1,{
nnnn
n
APAP
nA
为单调事件序列，则若
2009-7-25 应用随机过程讲义 第一讲 22
这部分的详细讨论可以参见
,随机数学引论,
林元烈，清华大学出版社
2009-7-25 应用随机过程讲义 第一讲 23
Buffon试验：最早用随机试验的方法求某个未知的数。
测度,满足非负性、可列可加性的集函数。
2009-7-25 应用随机过程讲义 第一讲 24
.
.
)(
},,],,{[
可测集为一维，称代数一维称为代数生成的则由设集类
B o r e l
B o r e l
baRbaba
2009-7-25 应用随机过程讲义 第一讲 25
实际上，设集类以上集类和?生成相同的 σ-代数,都是上面提到的 一维 Borelσ-代数，即
}:{
},,),,{(},,,),,{(
},,,],,{(},,,),,{[
5
21213
21
中开集为＝
为有理数＝＝
＝＝
RGG
rrrrbaRbaba
baRbababaRbaba
)51(),()( kk
2009-7-25 应用随机过程讲义 第一讲 26
直观地说,中包含一切开区间，闭区间，
半开半闭区间，半闭半开区间，单个实数，以及由它们经可列次并交运算而得出的集类。
)(
2009-7-25 应用随机过程讲义 第一讲 27
2009-7-25 应用随机过程讲义 第一讲 28
2009-7-25 应用随机过程讲义 第一讲 29
)|()()|()()(
)()|(
)(
)(
)|(
,
ABPAPBAPBPABP
APAP
BP
ABP
BAP
BA
件概率相同。条件概率的性质与无条
条件概率
2009-7-25 应用随机过程讲义 第一讲 30
k
kk
k
klk
k
k
kk
CBAPCBPCAP
BAlkBB
kBBAPBPAP
)|()|()|(
,
}1,{)|()()(
，
Φ
全概率公式
2009-7-25 应用随机过程讲义 第一讲 31
事件的独立性独立独立
BA
APBAPBAP
BPAPABP
BA
,
)()|()|(
)()()(
,
2009-7-25 应用随机过程讲义 第一讲 32
)()()()(
)()()(
)()()(
)()()(
,,,
CPBPAPABCP
CPBPBCP
CPAPACP
BPAPABP
CBA 等式相互独立，要满足四个三个事件几个事件的独立性
2009-7-25 应用随机过程讲义 第一讲 33
.\,
.,
,,),(),,(
.,,;,,;,,;,,;,,;,,;,,;,,
21
221121
独立均与和例如，
独立则任取记独立独立独立独立独立独立独立独立下列命题等价：
CBABAAB
AA
AACBA
CBACBACBACBA
CBACBACBACBA
2009-7-25 应用随机过程讲义 第一讲 34
独立。和则设独立，若
21
11211
21
21
),,...(),,...,(
)(),,,()()...(
,...1
,...,
2121
BB
AABAAAB
APAPAPAAAP
niii
AAA
nmm
iiiiii
k
n
kk
2009-7-25 应用随机过程讲义 第一讲 35
).()(
,
0)|(,05.0)|(,6.0)(
,98.0)|(,8.0)|(,6.0)(
)31(
1
321321
213121
213121
BPAP
BBBBAAAA
BBBPBBPBP
AAAPAAPAP
kk
BA
kk
和求：
，令
。已知次试验成功，甲乙两人第为，验，记：甲乙两人各做三次试例
2009-7-25 应用随机过程讲义 第一讲 36
62.0005.04.06.0)(
9 9 8 4.098.02.04.08.04.06.0
)|()(
)|()()()(
21321
1211
321211
BP
AAAPAAP
AAPAPAPAP
AAAAAAA
（互不相容）解：
比较甲乙两人的结果，从以上结果可以得到什么结论
？
2009-7-25 应用随机过程讲义 第一讲 37
机遇偏爱有心人！
2009-7-25 应用随机过程讲义 第一讲 38
功的概率。
，求至少有一次成，若概率为次成功次独立重复试验，设每：进行例
40002.0
2
n
n
.9997.0)98.0(1)( 400AP
一次成功的概率只有 2％，是典型的小概率事件；
但重复次数足够多，如 n=400，
至少一次成功就是大概率事件！
2009-7-25 应用随机过程讲义 第一讲 39
只要功夫深，铁杵磨成针！
2009-7-25 应用随机过程讲义 第一讲 40
随机变量定义解释可测性要求。
保证了概率定义的是可测映射；
})(:{,
),(),(:)(
aXRa
RX
2009-7-25 应用随机过程讲义 第一讲 41
离散型随机变量的示性函数表示法这说明对于任一 d.v.r.，总可以分解为互不交的事件的示性函数的迭加。
,)()(
),:(
,),(,...
1k
Bk
kk
k
k
IxX
XxXB
NkxXPXvrd
可以表示为则设事件若其分布律为：
2009-7-25 应用随机过程讲义 第一讲 42
随机变量等价定义分布函数
2009-7-25 应用随机过程讲义 第一讲 43
连续型随机变量的概率密度函数微元法求概率密度函数
2009-7-25 应用随机过程讲义 第一讲 44
二维随机变量的分布函数
二维 Borel-σ代数
由平面上矩形的全体生成的 σ－代数
}2,1,:],[],{[ 2211 ibababa ii
2009-7-25 应用随机过程讲义 第一讲 45
联合密度函数亦可用微元法求
2009-7-25 应用随机过程讲义 第一讲 46
常用随机变量的分布（列出,期望方差）
两点分布 正态分布二项分布 指数分布
Poisson分布 均匀分布几何分布二维正态分布
2009-7-25 应用随机过程讲义 第一讲 47
两点分布若 r.v.X只取 1和 0两个值，且则称 r.v.X服从参数为 p的两点分布。
简记为,X~B(1,p).即
A
AIXA
A?
0
1)()(,
)10(,1)0(,)1( ppXPpXP
EX=p,DX=p(1-p)
2009-7-25 应用随机过程讲义 第一讲 48
EX=np,DX=np(1-p)
EX=1/p,DX=(1-p)/p2
2009-7-25 应用随机过程讲义 第一讲 49
EX=λ,DX=λ
EX=(a+b)/2,DX=(b-a)2/12
2009-7-25 应用随机过程讲义 第一讲 50
EX=1/λ,DX=1/λ2
EX=μ,DX=σ2
2009-7-25 应用随机过程讲义 第一讲 51
二维正态分布的优良性质
X,Y相互独立 X,Y不相关?
随机变量的数字特征及条件数学期望
2009-7-25 应用随机过程讲义 第一讲 53
数学期望（复习）
,加权平均,
为了引出一般随机变量的定义，我们先介绍 R-S积分的概念。
dxxxf
xXPx
EX
X
kk
)(
)(?
k
kk Px
dxxfx X )(||
2009-7-25 应用随机过程讲义 第一讲 54
黎曼－斯蒂尔吉斯积分
2009-7-25 应用随机过程讲义 第一讲 55
任分任取求和取极限
2009-7-25 应用随机过程讲义 第一讲 56
2009-7-25 应用随机过程讲义 第一讲 57
在定义了 R-S积分之后，我们可以将所有随机变量的数学期望形式进行统一。
)( xXx d PEX
dxxfxgxdFxgxfxF )()()()(),()(' 则若
2009-7-25 应用随机过程讲义 第一讲 58
2009-7-25 应用随机过程讲义 第一讲 59
数学期望的性质（ E|Xi|<∞）
2009-7-25 应用随机过程讲义 第一讲 60
不独立反之，
独立
YXYEXEXYE
YEXEXYEYX
,)()()(
)()()(,
1
1 10
)(
)()1()(
k
k
k
ik
kXP
kXPkXkPEX
X 取值非负整数交换求和顺序
2009-7-25 应用随机过程讲义 第一讲 61
0
0 00
)(
)()()(
0
dxxXP
xXdPdyxXx d PEX
X
x
若同理，对连续型随机变量有相似的结论成立
2009-7-25 应用随机过程讲义 第一讲 62
2009-7-25 应用随机过程讲义 第一讲 63
2009-7-25 应用随机过程讲义 第一讲 64
2009-7-25 应用随机过程讲义 第一讲 65
2009-7-25 应用随机过程讲义 第一讲 66
Chebyshev不等式
)1(
||
)|(|
)|(|
,0
2
p
EXXE
EXXP
DX
EXXP
p
p
2009-7-25 应用随机过程讲义 第一讲 67
条件数学期望
)( Ni?
2009-7-25 应用随机过程讲义 第一讲 68
2009-7-25 应用随机过程讲义 第一讲 69
2009-7-25 应用随机过程讲义 第一讲 70
用示性函数的线性组合表示离散型随机变量
（见前面“随机变量”部分 ）
2009-7-25 应用随机过程讲义 第一讲 71
例,
)()|()()|(
)0|()1|()|(
)|()1|0(0)1|1(1
)1|(
)()0(0)1(1)(
,,,
)0()1(
B
B
IBAIBABA
BABA
BA
AAA
BA
IBAPIBAP
IIIEIIIEIIE
BAPIIPIIP
IIE
APIPIPIE
BAIYIX
BB
，随机变量?
将概率运算纳入求期望运算的范畴
2009-7-25 应用随机过程讲义 第一讲 72
理解
E(X|Y)是 ω 的函数，也是 Y(ω)的函数，即 Y(ω) 取值不同,E(X|Y)也取相应的值；
当 Y是离散型随机变量时,E(X|Y)也是离散型随机变量。
2009-7-25 应用随机过程讲义 第一讲 73
2009-7-25 应用随机过程讲义 第一讲 74
推广至一般随机变量
2009-7-25 应用随机过程讲义 第一讲 75
将 x替换成 X
2009-7-25 应用随机过程讲义 第一讲 76
求条件数学期望的一般步骤
先写出固定条件 (如 Y=yj)的情况下 X的条件分布律或条件密度函数；
根据条件数学期望的定义，通过求和或积分得到条件下的数学期望；
将条件 (Y=yj)替换成一般情况下的随机变量
(Y)
2009-7-25 应用随机过程讲义 第一讲 77
条件数学期望的性质设 E(Y),E(Xi|Y),E(h(Y)),E{g(X)h(Y)}存在，则
(重要 !) 全期望公式
2009-7-25 应用随机过程讲义 第一讲 78
2009-7-25 应用随机过程讲义 第一讲 79
j
jj
j
yYjA
j
yYjA
AA
jjA
BPBAP
IEyYIEIyYIEE
YIEEIE
AP
yYBvrdYIX
jj
)()|(
)()|(])|([
)]|([)(
)(
})(:{.,..,事件为令将全概率公式纳入全期望公式的范畴
2009-7-25 应用随机过程讲义 第一讲 80
重要结论,E(X|Y)=E(E(X|Y,Z)|Y)=E[E(X|Y)|Y,Z]
以示性函数为例，验证上面的结论
CBCBACBCBA
CBCBABCCBA
CBA
IIIIEIIIIE
IIIIEIIIIE
IIIE
)0,1|()0,0|(
)1,0|()1,1|(
),|(
CBCB
CBBC
ICBAPICBAP
ICBAPIBCAP
)|()|(
)|()|(
2009-7-25 应用随机过程讲义 第一讲 81
B
B
IBCAPBACP
IBCAPBACP
)]|()|([
)]|()|([
B
B
BCBA
IBCBPCBAPBCBPCBAP
IBCBPCBAPBBCPBCAP
IIIIEE
)]|()|()|()|([
)]|()|()|()|([
]|),|([
同理可验证另一个等号
)|(
)|()|(
BA
BB
IIE
IBAPIBAP
2009-7-25 应用随机过程讲义 第一讲 82
例,
).,|(),|(
),0|()|(
.,0,0
1,0)1(,0)1(
...}1,{
211002100
2323
1
000
YYXEXXE
XXEXXE
YXXXY
qpqYPpYP
diinY
n
k
kn
nn
n
的示性函数表示式及求令随机变量序列
2009-7-25 应用随机过程讲义 第一讲 83
)2()0()2(
232
232232
23
222
)2()()2(
)(
)|()|(
)|(
XXX
IqpIqpIqp
qpXEYX
XYEXXYXE
XXE 由 X2和 Y3独立用示性函数表示 X2
2009-7-25 应用随机过程讲义 第一讲 84
)(98),|(
)(98)|()|(
2121100
22
100
3
22100
qpYYYYXE
qpXXYXEXXE
K
k
)(
2
2
)0|2(2)0|0(0
)0|()0|(
)0|(
2
2
32222
322232
23
qp
pqp
p
EYXXPXXP
EYXXEXYXE
XXE
2009-7-25 应用随机过程讲义 第一讲 85
推广：条件为两个随机变量 E(X|Y,Z)
如,男 南女 北仍然以离散情况下的情形为例：
先求出 E(X|Y=yj,Z=zk )＝ g(yj,zk)，依次可写出
E(X|Y,Z)的分布律。
1
0Y
g(yj,zk)是关于 yj,zk的二元函数
1
0Z
