上一页 下一页湘潭大学数学与计算科学学院 1
第一章 基础知识
§ 1.1 多维随机变量及其分布
一 随机向量的概念
多维随机变量也就是多个随机取值的变量,
也称为 随机向量 。
定义 如果随机变量 1,,nXX K 定义在同一概率空间
(,,)P?? 上,则称
X =( 1,,nXX K )
构成一个 n 维随机向量,称之为 n 维随机变量 。
上一页 下一页湘潭大学数学与计算科学学院 2
定义 设
12,,nx x xL
为实数,称 n 元函数
1 2 1 1 2 2(,,) {,,,}n n nF x x x P X x X x X x? ? ? ?LL
为随机向量
1(,,)nX X X? K
的 联合分布函数 。
n元分布函数具有以下性质:
⑴、对任一 ix 是单调不减的;
⑵、对任一 ix 是右连续的;

1
12(,,,) (,,,) 1 ;l i m
n
n
x
x
F F x x x
?? ?
?? ?
? ? ? ? ? ? ? ?
L
LL
1 1 1 1(,,,,,,) l i m (,,) 0,ii i n nxF x x x x F x x?? ? ? ?? ? ? ?L L L
上一页 下一页湘潭大学数学与计算科学学院 3
对 n 元离散随机变量还有其联合概率分布
1 1 2 2(,,,).nnP X x X x X x? ? ?L 而对 n 元连续随机变量
则存在非负可积函数 12(,,,)nf x x xL,使得
1
1 2 1 2 1 2(,,) (,,,),
nxx
n n nF x x x f y y y d y d y d y? ? ? ?? ??L L L L
这里的 12(,,,)nf x x xL 称为联合密度函数,满足条件,
12
1 2 1 2
(,,,) 0,
(,,,) 1,
n
nn
f x x x
f x x x d x d x d x
? ? ? ?
? ? ? ?
?
???
L
L L L
上一页 下一页湘潭大学数学与计算科学学院 4
例 1 多项分布 12(,,,,)mM n p p pL
做 n 次重复独立试验,每次试验的结果为
12,,,,( ),1,2,,.m i iA A A P A p i m??LL

1
1,0.
m
ii
i
pp
?
???
若记 iX 表示在 n 次试验中 iA 出现的次数,则 m 维随机
变量 12(,,,)mX X XL 的概率分布为
12
1 1 2 2 1 2
12
!(,,,),
! ! !
mnnn
m m m
m
nP X n X n X n p p p
n n n? ? ? ?LL L
这里
1
0,.
m
ii
i
n n n
?
?? ?
上一页 下一页湘潭大学数学与计算科学学院 5
例 2 设 () ij??? 为 n 阶正定对称矩阵,? 表示 ? 的行列
式的值,12(,,,)n? ? ? ?? L 为任意向量,则有密度函数
定义的分布称为 n 元正态分布,简记为 (,),N ? ?
1
12 1
2 2
11
(,,,) e x p { ( ) ( ) }
2
( 2 )
T
n nf x x x x x??
?
?? ? ? ? ?
?
L
上一页 下一页湘潭大学数学与计算科学学院 6
二,边缘分布
设 12(,,)nF x x xL 为 n 元分布函数,任意保留 k ( 0 )kn??
个,ix 例如 12,,kx x xK,而令其它的 jx 都趋向于 ??,即
1
1 2 1 2(,,,,,) (,,,)l i m
k
n
kn
x
x
F x x x F x x x
? ? ? ?
? ? ?
? ? ? ? ?
L
L L L
显然,12(,,,,,)kF x x x ? ? ? ?LL 是一 k 元分布函
数,称为 12(,,)nF x x xL 的 k 元 边缘分布函数 。
上一页 下一页湘潭大学数学与计算科学学院 7
如果 12(,,)nF x x xL 是连续型的,即有密度函数
12(,,,)nf x x xL,则 12
(,,,,,)kF x x x ? ? ? ?LL 也是连续型
的,其密度函数为
1,2,,1 2 1 2 1 2(,,,) (,,,)k k n k k nf x x x f x x x d x d x d x
? ? ? ?
??? ? ? ?? ??L L L L L
如果 12(,,)nF x x xL 是 离 散 型 的, 则
12(,,,,,)kF x x x ? ? ? ?LL 也是离散型的,其边缘
概率分布为
1,,
1 1 2 2 1 1 2 2(,,,) (,,,),
kn
k k n n
xx
P X x X x X x P X x X x X x
?
? ? ? ? ? ? ??
L
LL
上一页 下一页湘潭大学数学与计算科学学院 8
注,边缘分布函数由联合分布函数惟一确定;反之不然,即
不同的分布函数可能有相同的边缘分布函数。
例 设有两个二元分布函数 F(x,y)和 G(x,y),密度函数分别为
,0 1,0 1,
(,)
0,;
x y x y
f x y
? ? ? ? ??
? ?
?
如 果
其 他
11
( ) ( ),0 1,0 1,
(,) 22
0,;
x y x y
g x y
? ? ? ? ? ? ?
?
? ?
??
如 果
其 他
显然,F(x,y)和 G(x,y)不恒等。但它们的边缘密度函数分别为
上一页 下一页湘潭大学数学与计算科学学院 9
1
0
1( ) (,) ( ),0 1 ;
2Xf x f x y d y x y d y x x
??
??
? ? ? ? ? ? ???
1
0
1 1 1( ) (,) ( ) ( ),0 1 ;
2 2 2Xg x g x y d y x y d y x x
??
??
? ? ? ? ? ? ? ???
所以 ( ) ( ),XXf x g x? 同理可知 ( ) ( ),YYf y g y?
上一页 下一页湘潭大学数学与计算科学学院 10
三, 随机变量的独立性
定义 设 1,,nXX K 为 n 个随机变量,如果对任意实数
12
,,
n
x x xL 成立
1 1 2 2 1 1 2 2
{,,,} { } { } { },
n n n n
P X x X x X x P X x P X x P X x? ? ? ? ? ? ?LL
则称 1,,nXX K 是 相互独立的 。
如果 iX 的分布函数为 ( ),iFx 它们的联合分布函数为
12(,,)nF x x xL,则相互独立性等价于对一切 12,,nx x xL,
成立
1 2 1 1 2 2(,,) ( ) ( ) ( ),n n nF x x x F x F x F x?LL
上一页 下一页湘潭大学数学与计算科学学院 11
注意,在独立条件下, 由随机变量的边缘分布可惟一确
定其联合分布函数 。 对离散型随机变量,其相互独立性等价于对任何一
组可能取的值( 12,,nx x xL ),成立
1 1 2 2 1 1 2 2{,,,} { } { } { },n n n nP X x X x X x P X x P X x P X x? ? ? ? ? ? ?LL
对连续随机变量 1,,nXX K 相互独立的充要条件是
1 2 1 1 2 2(,,,) ( ) ( ) ( ),n n nf x x x f x f x f x?LL
即联合分布密度函数等于边缘分布密度函数之积。
上一页 下一页湘潭大学数学与计算科学学院 12
随机变量 1,,nXX K 两两独立的 充要条件 是对任意的
i
X 和
j
X 都是独立的,即对任意的,ij? 都有
,
(,) ( ) ( ),
i j i j i i j j
F x x F x F x?
其中,
(,)
i j i j
F x x
为( iX,j
X
) 的分布函数。
显然, 相互独立性可推得两两独立性, 反之不然 。
上一页 下一页湘潭大学数学与计算科学学院 13
四, 条件分布与条件数学期望
设已给二维随机变量 ( X,Y ),对任意给定 C,如果 { } 0,P X C??
可考虑有 y ?? 的函数
{,}{ },
{}
P Y y X CP Y y X C
P X C
??? ? ?
?显然,{}P Y y X C?? 是一维分布函数,我们称为条件
XC ? 下,Y 的条件分布函数 。
设 (X,Y)为离散的,其联合概率分布为
(,),,1,2,.i j i jP X x Y y p i j? ? ? ? L

上一页 下一页湘潭大学数学与计算科学学院 14
.
1
{ },ij ijji n
i
ij
j
pp
P Y y X x
p p
?
? ? ? ?
?
:
1
{ },
j
ij
j y y
i n
ij
j
p
P Y y X x
p
?
?
? ? ?
?
?
设 (X,Y)为连续随机变量,联合密度函数为 f(x,y),如果
在定点 x,X的边缘密度
( ) (,) 0,Xf x f x y d y???????
上一页 下一页湘潭大学数学与计算科学学院 15
定义
(,)
{}
()
y
X
f x z d z
P Y y X x
fx
??? ? ? ?
为给定 Xx ? 条件下,Y 的条件分布函数,
一般记为 ( ),
YXF y x
称 y 的函数
(,)
()
()
X
f x y
f y x
fx
?
为给定 Xx ? 条件下,Y 的 条件密度函数,
显然有
( ) ( ),yYXF y x f z x d z
??
? ?
上一页 下一页湘潭大学数学与计算科学学院 16
同理可得
(,)()
()Y
f x yf x y
fy?
也可写成
(,) ( ) ( ) ( ) ( ),XYf x y f x f y x f y f x y??
由上式可得
( ) ( )
( ),
( ) ( )
X
X
f x f y x
f x y
f x f y x d x
??
??
?
?
这就是 Bayes公式 的密度函数形式。
上一页 下一页湘潭大学数学与计算科学学院 17
定义 条件分布的数学期望称为 条件数学期望,
它可用条件分布计算得
( ),
( | )
( ),
ii
i
x P X x Y y
E X y
x f x y dx
??
??
? ??
?
? ?
?
?
?
?
条件数学期望 ()E X y 与 E ( X ) 的 区别,
E ( X ) 只有一个,而 ()E X y 有许多个,当 Y 取不同值时,
()E X y 的值一般也是不同的,也就是说 ()E X y 是 y 的函数,
此函数刻画的是 X 的条件数学期望随 Y 的取值 y 的变化
规律。而 ( | )E X Y 则为一随机变量,取值为
()E X y
的概率为
( ),P Y y?
上一页 下一页湘潭大学数学与计算科学学院 18
例 X表示中国成年人的身高,则 E(X)表示中国成年
人的平均身高,
如果 Y 表示中国成年人的足长,则
()E X y 表示足长为 y 的中国成年人的平均身高,
我国公安部研究得
()E X y =6, 8 7 6 y,
条件数学期望是条件分布的数学期望,故 具有数学期望
的一切性质,如
( 1) ( 线性性 )
11
( ) ( ) ;
nn
i i i i
ii
E a X y a E X y
??
???
上一页 下一页湘潭大学数学与计算科学学院 19
(2) 对任意函数 g ( X ),有
1
( ) ( | ),
( ( ) | )
n
ii
i
g x P X x Y y
E g X y ?
??
??
?
??
?
? ?
?
?
?
?
离 散 情 形
g(x)f(x|y)dx,
( 3 ) [ ( | ) ] ( ),E E X Y E X?
证明 仅对连续场合证明 (3),设 (X,Y)的联合密度函数
为 f(x,y),则
( ) (,)E X x f x y d x d y? ? ? ?? ? ? ?? ??
上一页 下一页湘潭大学数学与计算科学学院 20
( ) ( | )Yx f y f x y d x d y? ? ? ?
? ? ? ?
? ??
{ ( | ) } ( )Yx f x y d x f y d y? ? ? ?? ? ? ?? ??
( | ) ( )YE X y f y d y????? ?
[ ( | ) ],E E X Y?
上一页 下一页湘潭大学数学与计算科学学院 21
例 设走进某百货商店的顾客是均值为 35000的随机变
量, 顾客在商店消费的钱数是相互独立, 均值为 52元
的随机变量, 并且任一顾客所消费的钱数与进入该商
店的总人数也相互独立, 问该商店一天的平均营业额
为多少?
解 令 N 表示进入该商店的总人数,iX 表示第 i 个顾客
的消费额,则该商店一天的营业额为
1
N
i
i
X
?
? 。
由于
11
( ) [ ( | ) ],
NN
ii
ii
E X E E X N
??
???
上一页 下一页湘潭大学数学与计算科学学院 22
其中,
1
1 1 1
( | ) ( | ) ( ) ( ),
N n n
iii
i i i
E X N n E X N n E X n E X
? ? ?
? ? ? ? ?? ? ?
上式第二个等号成立是因为各 iX 与 N 独立,从而条件
期望就是无条件期望。
所以
1
1
( | ) ( ),
N
i
i
E X N N E X
?
??
从而
11
1
( ) [ ( ) ] ( ) ( ),
N
i
i
E X E N E X E N E X
?
???
现已知 1( ) 3 5 0 0 0,( ) 5 2,E N E X?? 所以该商店一天的平均营
业额为 350 00 52 182?? 万 元 。
上一页 下一页湘潭大学数学与计算科学学院 23
五、多维随机变量的数字特征
设已给 n 维随机变量
1(,,),nX X X? K
如果
( 1,2,,)iE X i n? L 都 存 在, 称 n 维向量
1(,,)nE X E XK
为 X 的数学期望,并记为
1(,,),nE X E X E X? K
如果
( )( ),,1,2,,.
i j i i j j
E X E X X E X i j n? ? ? ? ? L
存在,则称 ij? 为 ijXX 与 的 协方差,而 n 阶矩阵
上一页 下一页湘潭大学数学与计算科学学院 24
11 12 1
21 22 2
12
,
n
n
n n nn
? ? ?
? ? ?
? ? ?
??
??
??
??
??
??
??
L
L
M M M M
L
则称为 X 的 协方差阵,其行列式记为
( de t ),?? 或
注意,
( ).ii iDX? ?
矩阵 ? 具有以下性质,
上一页 下一页湘潭大学数学与计算科学学院 25
1,对称性,i j j i?? ? (对一切,1,2,,i j n? L );
2,非负定性:对任意实数 1,,nyy K,有
1
0.
n
i j i j
i
yy?
?
??
对 其 中 任 意 两 个 随 机 变 量
iX

jX
,设
0,0,
i i i j j j
D X D X?? ? ? ? ?称
c o v (,)
i j i j
ij
i i j j i j
XX
r
D X D X
?
??
??

iX

jX
的 相关系数,
上一页 下一页湘潭大学数学与计算科学学院 26
而 n 阶矩阵
1 2 1
2 1 2
12
1
1
1
n
n
nn
rr
rr
R
rr
??
??
??
?
??
??
??
L
L
M M M M
L
称为 X 的 相关系数阵 。
由柯西不等式得
.ij ii jj? ? ??
上一页 下一页湘潭大学数学与计算科学学院 27
相关系数的性质有:
1, 1 (,1,2,,) ;ijr i j n?? L
2,如果 iX 与 jX 独立,则 0,ijr ? 即 iX 与 jX 不相关。
3, 1
ijr ?
的充要条件是:
iX

jX
以概率 1 线性相关,
即存在常数 ( 0 ),,ab ? 使得;ijX a X b??
性质 3 对于服从二维正态分布的随机变量 12,,XX 它
们的 独立性与不相关性等价 。