1
概率论与数理统计第 8讲本文件可从网址
http://math.vip.sina.com
上下载
(单击 ppt讲义后选择 '工程数学 1'子目录 )
2
例 1 设随机变量 X具有数学期望 E(X)=m,方差
D(X)=?2?0,记 X *=(X-m)/?,
.1,0
.1])[(
1
)]([)()(
*
2
2
2
2
2
2*2**
方差为的数学期望为即
m
m
m
-
-?
-
-?
X
X
XE
X
EXEXEXD;0])([1)(1)( *?-?-? m?m? XEXEXE则称 X *为 X的 标准化变量,
3
例 2 设随机变量 X具有 (0-1)分布,其分布律为
P{X=0}=1-p,P{X=1}=p.
求 D(X).
解 E(X)=0?(1-p)+1?p=p,
E(X2)=02?(1-p)+12?p=p.
由 (2.4)式
D(X)=E(X2)-[E(X)]2=p-p2=p(1-p).
4
例 3 设 X~p(l),求 D(X).
解 X的分布律为
.0,,2,1,0,!e}{
-
ll
l
kkkXP
k
l
l
ll
l ll
-
-
-
-
-
2
2
2
0 )!2(
e
!
e
)1(
k
k
k
k
kk
kk
上节例 6已算得 E(X)=l,而
E(X2)=E[X(X-1)+X]=E[X(X-1)]+E(X)
=l2e-lel+l=l2+l.
所以 D(X)=E(X2)-[E(X)]2=l.
5
例 4 设 X~U(a,b),求 D(X).
解 X的概率密度为
12
)(
2
d
1
)]([)()(
.
2
)(7
.,0
.,
1
)(
2
2
2
22
abba
x
ab
x
XEXEXD
ba
XE
bxa
ab
xf
b
a
-


-
-
-?

-
方差为已算得上节例其它
6
例 5 设随机变量 X服从指数分布,其概率密度为

-
.0,0
,0,e
1
)(
/
x
xxf x?
,dee
de
1
d)()(
0
/
0
/
0
/
|?

-?


-
-
-
-
xx
xxxxxfXE
xx
x
其中?>0,求 E(X),D(X).

7
于是 D(X)=E(X2)-[E(X)]2=2? 2-? 2=? 2.
即有 E(X)=?,D(X)=? 2.
,2de2e
de
1
d)()(
2
0
/
0
/2
0
/222
|?

-?


-
-
-
-
xxx
xxxxfxXE
xx
x
8
方差的几个重要性质
(1) 设 C是常数,则 D(C)=0.
(2) 设 X是随机变量,C是常数,D(CX)=C2D(X).
(3) 对任意两个随机变量 X,Y,
D(X+Y)=D(X)+D(Y)
+2E{[X-E(X)][Y-E(Y)]} (2.5)
特别,若 X,Y相互独立,则
D(X+Y)=D(X)+D(Y) (2.6)
(4) D(X)=0的充要条件是 X以概率 1取常数 C,
P{X=C}=1.
9
证 (4)证略,下面证明 (1),(2),(3)
(1) D(C)=E{[C-E(C)]2}=0
(2) D(CX)=E{[CX-E(CX)]2}=C2E{[X-E(X)]2}
=C2D(X).
(3) D(X+Y)=E{[(X+Y)-E(X+Y)]2}
=E{[X-E(X)]2}+E{[Y-E(Y)]2}
+2E{[X-E(X)][Y-E(Y)]}
=D(X)+D(Y)+2E{[X-E(X)][Y-E(Y)]}.
如 X,Y相互独立,则 X-E(X)与 Y-E(Y)也相互独立,则 E{[X-E(X)][Y-E(Y)]}
=E[X-E(X)]E[Y-E(Y)]=0
10
例 6 设 X~b(n,p)求 E(X),D(X).
解 由二项分布的定义知,随机变量 X是 n重伯努利试验中事件 A发生的次数,且在每次试验中 A发生的概率为 p,引入随机变量,
.,2,1
,,0
,,1 nk
kA
kAX
k

次试验不发生在第次试验发生在第易知 X=X1+X2+...+Xn,(2.7)
由于 Xk只依赖于第 k次试验,而各次试验相互独立,于是 X1,X2,...,Xn相互独立,
11
又知 Xk,k=1,2,...,n服从同一 (0-1)分布,
ppp
X
k
k
-1
10
.)()(
11
npXEXEXE
n
k
k
n
k
k


(2.7)表明以 n,p为参数的二项分布变量,可分解为 n个相互独立且都服从以 p为参数的 (0-1)
分布的随机变量之和,
由 例 2知 E(Xk)=p,D(Xk)=p(1-p),k=1,2,...,n,则
12
又由于 X1,X2,...,Xn相互独立,得
).1()()(
11
pnpXDXDXD
n
k
k
n
k
k -


即 E(X)=np,D(X)=np(1-p)
13
例 7 设 X~N(m,? 2),求 E(X),D(X).
解 先求标准正态变量
m-? XZ
0e
π2
1
d
π2
1
)(
,e
π2
1
)(
|
2/2/
2/
22
2
-

-
-
-
-
-
tt
t
tteZE
t
于是
的数学期望和方差,Z的概率密度为
14
因 X=m+?Z,即得
E(X)=E(m+?Z)=m,
D(X)=D(m+?Z)=E{[m+?Z-E(m+?Z)]2}
=E(?2Z2)=?2E(Z2)=?2D(Z)=?2.
这就是说,正态分布的概率密度中的两个参数
m和?分别就是数学期望和方差,
.1d
π2
1
e
π2
1
de
π2
1
)()(
2/2/
2/22
22
2
|
-

-
-
-
-
-
-
tet
ttZEZD
tt
t
15
若 Xi~N(mi,?i2),i=1,2,...,n,且它们相互独立,则它们的线性组合,C1X1+C2X2+...+CnXn
(C1,C2,...,Cn)是不全为 0的常数 )仍然服从正态分布,于是由数学期望和方差的性质知道,
)8.2(
.,~
1
22
1
2211


n
i
ii
n
i
iinn
CCNXCXCXC?m?
这是一个重要结果,
16
例如,若 X~N(1,3),Y~N(2,4)且 X,Y相互独立,则
Z=2X-3Y也服从正态分布,而
E(Z)=2?1-3?2?-4,
D(Z)=22?3+32?4=48.
故有 Z~N(-4,48).
17
例 8 设活塞的直径 (以 cm计 )X~N(22.40,0.032),
气缸的直径 Y~N(22.50,0.042),X,Y相互独立,
任取一只活塞,任取一只气缸,求活塞能装入气缸的概率,
解 按题意须求 P{X<Y}=P{X-Y<0},由于
X-Y~N(-0.10,0.0025),
故有 P{X<Y}=P{X-Y<0}
.9 77 2.0)2(
05.0
10.0
0 02 5.0
)10.0(0
0 02 5.0
)10.0()(

--
---

YX
P
18
定理 设随机变量 X具有数学期望 E(X)=m,方差
D(X)=?2,则对于任意正数 e,不等式
)9.2(}|{| 2
2
e
em-XP
成立,
这一不等式称为 切比雪夫不等式,
f(x)
m-e m?em x
19
证 只就连续型随机变量的情况来证明,设 X的概率密度为 f(x),则有
.d)()(
1
d)(
||
d)(}|{|
2
2
2
2
||
2
2
||
e
m
e
e
m
em
em
em
-?
-
-
-
-
-
xxfx
xxf
x
xxfXP
x
x
)10.2(1}|{| 2
2
e
em --XP
此不等式也可写为,
20
这个不等式给出了,在随机变量 X的分布未知的情况下事件 {|X-m|<e}的概率的下限估计,例如,在 (2.10)式中分别取 e=3?,4?得到
P{|X-m|<3?}?0.8889,
P{|X-m|<4?}?0.9375.
在书末附表 1中列出了多种常用的随机变量的数学期望和方差,供读者查用,
21
§ 3 协方差及相关函数
22
定义 量 E{[X-E(X)][Y-E(Y)]}称为随机变量 X
与 Y的 协方差,记为 Cov(X,Y),即
Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}.
)()(
),(
YDXD
YXC o v
XY而称为随机变量 X与 Y的相关系数,
XY是一个无量纲的量,
由定义,知
Cov[X,Y]=Cov[Y,X],Cov[X,X]=D(X).
23
由上述定义及 (2.5)式知道,对于任意两个随机变量 X 和 Y,下列等式成立,
D(X+Y)=D(X)+D(Y)+2Cov(X,Y),(3.1)
将 Cov(X,Y)的定义式展开,易得
Cov(X,Y)=E(XY)-E(X)E(Y) (3.2)
常利用这一式子计算协方差,
协方差具有下述性质,
(1) Cov(aX,bY)=abCov(X,Y),a,b是常数,
(2) Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y).
24
考虑以 X的线性函数 aX+b来近似表示 Y,希望
e=E{[Y-(aX+b)]2} (3.3)
最小,则将 e看作是 a和 b的函数求最小值,不难证明当 a=a0,b=b0时 e取到最小值,其中
.)( ),Co v ()()(,)( ),Co v ( 00 XD YXXEYEaXD YXb -
)4.3().()1(
})]({[})]({[m i n
2
2
00
2
,
YD
XbaYEbXaYE
XY
ba
-?
--
将 a0,b0代入 (3.3)得
25
定理 (1) |?XY|?1.
(2) |?XY |=1的充要条件是,存在常数 a,b使
P{Y=a+bX}=1.
XY是一个可以用来表征 X,Y之间线性关系紧密程度的量,当 |?XY |较大时,通常说 X,Y线性相关的程度较好 ; 当 |?XY |较小时,说 X,Y线性相关的程度较差,
当?XY =0时,称 X和 Y不相关,
如 X,Y相互独立,则必不相关,但 X,Y不相关,却不一定相互独立,
26
设 (X,Y)服从二维正态分布,它的概率密度为
,
)())((
2
)(
)1(2
1
e x p
1π2
1
),(
2
2
2
2
21
21
2
1
2
1
2
2
21
-
--
-
-
-
-
-
m

mm
m

yyx
x
yxf
则可以证明 X,Y的相关系数?XY正好就是?,即
XY=?,而且服从二维正态分布的随机变量 X,Y
相互独立的充分必要条件是此相关系数为 0.
27
§ 4 矩,协方差矩阵
28
定义 设 X和 Y是随机变量,若
E(Xk),k=1,2,...
存在,称它为 X的 k阶原点矩,简称 k阶矩,
若 E{[X-E(X)]k},k=1,2,...
存在,称它为 X的 k阶中心矩,
若 E(XkYl),k,l=1,2,...
存在,称它为 X和 Y的 k+l阶混合矩,
若 E{[X-E(X)]k[Y-E(Y)]l},k,l=1,2,...
存在,称它为 X和 Y的 k+l阶混合中心矩,
因此,E(X)是 X的一阶原点矩,D(X)是 X的二阶中心矩,Cov(X,Y)是 X和 Y的二阶混合中心矩,
29
二维随机变量 (X1,X2)有四个二阶中心矩 (设它们都存在 ),分别记为
c11=E{[X1-E(X1)]2},
c12=E{[X1-E(X1)][X2-E(X2)]},
c21=E{[X2-E(X2)][X1-E(X1)]},
c22=E{[X2-E(X2)]2}.
将它们排成矩阵的形式,


2221
1211
cc
cc
这个矩阵称为随机变量 (X1,X2)的 协方差矩阵,
30
设 n维随机变量 (X1,X2,...,Xn)的二阶混合中心矩
cij=Cov(Xi,Xj)=E{[Xi-E(Xi)][Xj-E(Xj)]},
i,j=1,2,...,n
都存在,则称矩阵
nnnn
n
n
ccc
ccc
ccc
C

21
22221
11211
为 n维随机变量 (X1,X2,...,Xn)的协方差矩阵,易知此矩阵是一个对称矩阵,
31
二维正态随机变量 (X1,X2)的概率密度为
.
)())((
2
)(
)1(2
1
e x p
1(2
1
),(
2
2
2
22
21
2211
2
1
2
11
2
2
21
21
-
--
-
-
-
-
-
m

mm
m
p?
xxx
x
xxf






2
1
2
1,
m
m
μX
x
x
现要将上式用矩阵形式表示,引入下面列矩阵,
32
(X1,X2)的协方差矩阵为



2
221
21
2
1
2221
1211


cc
cc
C
-
-
- 2
121
21
2
21
d e t
1


C
C
它的行列式 det C=?12?22(1-?2),C的逆阵为
33
可以证明
.
)())((
2
)(
1
1
)(
d e t
1
)()'(
2
2
2
22
21
2211
2
1
2
11
2
22
11
2
121
21
2
2
2211
1
-
--
-
-
-
-
-
-
-
--?
--
-
m

mm
m
m
m


mm
mm
xxxx
x
x
xx
C
XCX


---? - )()'(
2
1e x p
)( d e t)2(
1),( 1
2/12/221 μXμX CCxxf p
于是 (X1,X2)的概率密度可写成
34
引入列矩阵
)(
)(
)(
2
1
2
1
2
1
nnn
XE
XE
XE
x
x
x

m
m
m
μX 和
---?
-
)()'(
2
1
e x p
)( de t)2(
1
),,,(
1
2/12/
21
μXμX C
C
xxxf
n
n
p
n维正态随机变量 (X1,X2,...,Xn)的概率密度为
35
n维正态随机变量有四条重要性质,
(1)n维正态变量 (X1,X2,...,Xn)的每一个分量 Xi,
i=1,2,...,n都是正态变量 ; 反之,若 X1,X2,...,Xn都是正态变量,且相互独立,则 (X1,X2,...,Xn)是 n维正态变量,
(2)n维随机变量 (X1,X2,...,Xn)服从 n维正态分布的充要条件是 X1,X2,...,Xn的任意线性组合,
l1X1+l2X2+...+lnXn
服从一维正态分布 (其中 l1,l2,...,ln)不全为零,
36
(3) 若 (X1,X2,...,Xn)服从 n维正态分布,设
Y1,Y2,...,Yk是 X1,X2,...,Xn的线性函数,则
Y1,Y2,...,Yk也服从多维正态分布,
这一性质称为正态变量的线性变换不变性,
(4) 设 (X1,X2,...,Xn)服从 n维正态分布,则
"X1,X2,...,Xn相互独立 "与 "X1,X2,...,Xn两两不相关 "是等价的,
n维正态分布在随机过程和数理统计中常会遇到,
37
作业 第四章习题第 142页第 28,31,32题
38
请提问