大数定律电子科技大学在实际应用中，常遇到如下问题：
1,现实中为什么大量随机变量服从正态分布？依据什么来断定一个随机变量服从正态分布？
2.,频率的稳定性,到底是什么意思？在实际应用中有什么作用？
3.在计算机上如何模拟现实研究对象？根据什么来认定这种模拟是正确的？ ……
极限理论大数定律电子科技大学概率为 1 收敛依概率收敛依分布收敛强大数定律弱大数定律中心极限定理大数定律电子科技大学
§ 4.4 大数定律切比雪夫不等式切比雪夫大数定 律伯努里大数定律 小概率事件原理辛钦大数定律一,弱大数定律泊松大数定 律大数定律电子科技大学
1 切比雪夫 (Chebyshev)不等式设随机变量 ξ的数学期望 E(ξ) 和方差
D(ξ )都存在,则对于任意的 e > 0,有
2
)( } |)({|
e
e DEP
,)(1 } |)({| 2
e
e DEP或者重复试验次数估计概率估计
2 大数定律的定义大数定律电子科技大学设 ξn,n=1,2… 是一个随机变量序列，其数学期望都存在，若对于任意的 ε＞ 0，有
1}|)(11{|lim
11
e
n
i
i
n
i
in EnnP
称随机变量序列 {ξn}服从大数定律,
服从大数定律的概率意义,{ξk},k=1,2… 的前 n 项算术平均将紧密地聚集在其数学期望的附近,
思考 能否说
.)(11
11
”依概率收敛于,
n
i
i
n
i
i Enn
大数定律电子科技大学
3 切比雪夫大数定律设 ξk,k=1,2… 是相互独立的随机变量序列,
其数学期望和方差都存在，且存在常数 C,
使得
D(ξn ) < C,k = 1,2,…
则随机变量序列 {ξk},k=1,2… 服从大数定律,
证
n
i
i
n
i
i EnnE
11
)(1]1[
利用切比雪夫不等式证明,
大数定律电子科技大学
n
C
n
nCD
nn
D
n
i
i
n
i
i
2
1
2
1
)(1]1[
由切比雪夫不等式，对于任意的 e＞ 0,有
}|)(11{|1
11
e
n
i
i
n
i
i EnnP
).(,11 2
e
nas
n
C
2
1
)
1
(
1
e
n
i
inD
大数定律电子科技大学则 {ξk},k=1,2… 服从大数定律，即对任意的 e >0,
有
11P{
1
}|
n
|lim
n
k
kn e
注 为在实际应用中用将大量重复测量值的算术平均值作为精确值的估计提供了理论依据,
推论 设 ξ k,k=1,2… 是相互独立且同分布的随机变量序列,且 E(ξk )=?,D(ξk )=s2,k= 1,2,…
大数定律电子科技大学
4 泊松大数定律设 ξk,k=1,2… 是相互独立的随机变量序列,
.1}0{,}1{ nnnnn qpPpP
则随机变量序列 {ξk},k=1,2… 服从大数定律,
分析 根据切比雪夫大数定理仅需证明存在常数 C，使
D(ξn ) < C,k = 1,2,…
,2,1,
4
1)1()( kppD
nnn?有大数定律电子科技大学
5 贝努里 (Bernulli)大数定律作为泊松定理的推论贝努里大数定律成立：
设 ξk,k=1,2… 是相互独立同分布的随机变量序列,.1}0{,}1{ qpPpP
nn
随机变量序列 {ξk},k=1,2… 服从大数定律,
贝努里大数定律的 另一种描述,
设 是 n次重复独立试验中事件 A发生的频率，
n
m
p是事件 A在每次试验中发生的概率,则对任意大数定律电子科技大学
1}||P{lim
,0
e
e
p
n
m
n
有的注 此定理以严格的数学形式描述了频率的稳定性,
6,小概率实际推断事件原理概率很小的事件，在一次试验中几乎是不可能发生的，从而在实际中可看成不可能事件,
大数定律电子科技大学切比雪夫大数定律中的条件有：
数学期望和方差都存在，方差数列有界,
7,辛钦大数定律设 ξk,k=1,2… 是相互独立同分布的随机变量序列,若 ξk的数学期望存在，则 {ξk}服从大数定律,
根据 切比雪夫不等式证明大数定律电子科技大学证 设 E(ξk) = a,ξk的特征函数为,因
ξk,k=1,2… 相互独立同分布，故
)(t?
n
i
in
1
1? 的特征函数为,)]1([ n
n?
根据特征函数与矩的关系
jajE k )()0(
)(t? 在 t=0的附近展开马克劳林级数为
)(1)( toj a tt
大数定律电子科技大学
nn
n
toj a t
nn
t )](11[)]([
且
j a tn
n
e
n
t?
)]([l i m?
单点分布随机变量 ξ的特征函数根据特征函数的连续性定理知
nasa
n
Wn
i
i,
1
1
从而
nasa
n
pn
i
i,
1
1
见 P292-18题大数定律电子科技大学对任意的 ε＞ 0，有
1}|1{|lim
1
e? a
n
P
n
i
in
二,强大数定律简介是基于几乎处处收敛性的定律,
注 得到结论：设 C 是常数，则
CC PW nn
大数定律电子科技大学
0
..
)(
sa
E nn
称 {ξn}服从强大数定律,
定义 4.4.4设 ξn,n=1,2… 是一随机变量序列，
其数学期望都存在，令,若?
n
k
kn n
1
1
注 因概率为 1收敛 一定依概率收敛，故随机变量序列满足强大数定理，就一定满足弱大数定理,
大数定律电子科技大学定理 4.4.5 博雷尔强大数定律设 ξk,k=1,2… 是相互独立同分布的随机变量序列,.1}0{,}1{ qpPpP
nn
则 {ξk},k=1,2… 服从强大数定律,
注 从另一个角度解释了事件频率“稳定于”概率的含义,
定理 4.4.6 科尔莫哥洛夫判别法设 ξk,k=1,2… 是相互独立随机变量序列,
若大数定律电子科技大学
1
2
)(
n
n
n
D?
则 {ξk},k=1,2… 服从强大数定律,
定理 4.4.7 （ 科尔莫哥洛夫）
设 ξk,k=1,2… 是相互独立同分布的随机变量序列,若,则 {ξk},k=1,2… 服从强大数定律,
nE?
本节内容是统计学的理论基础！！！
条件判别例大数定律电子科技大学例 1 设随机变量 X1,X2,··,X10相互独立并且服从相同的分布,已知它们的数学期望等于 0,
方差等于 1,Y = X1+ X2+ ·· + X10,请估算概率
P{?10<Y< 10 } 之值。
解,E(Y) = 0,D(Y) = 10,因此
P{?10<Y<10}=P{|Y |<10 }=P{|Y－ E(Y)|<10 }
由切比雪夫不等式,有
P{－ 10<Y<10}≥1－ 10102 = 0.9?
大数定律电子科技大学例 2 将一枚均匀硬币连续抛 n 次,试用切比雪夫不等式求出 n,使下式成立,
99.0}01.0|)()({| APAfP n
其中 A ={ 出现正面 }
解 有 P( A )=1/2，令
),2,1(
,,0;,1
ni
i
i
否则次出现正面第
从而有为所以出现正面的总次数,
1
n
i
i?
大数定律电子科技大学
n
i
in nAf
1
1)(?;
2
1)(1)]([
1
E
n
AfE
n
i
in?而且
nn
D
n
AfD
n
i
in,4
1
2
1
2
11)(1)]([
1
2
由切比雪夫不等式可得
}01.0|211{|}01.0|)()({|
1
n
i
in nPAPAfP?
大数定律电子科技大学
n
AfD n
401.0
11
01.0
)]([1
22
99.0?
)(0 0 0,2 5 0
01.0
14
3 次从而有 nn
大数定律电子科技大学例 3 设随机变量序列相互独立且
.
2
1
,
2
1
,
概率为；概率为
k
k
k
证明 当 λ<1/2时服从大数定理,
证
,2,1,02121)( kkkE k
1,当 λ= 0,D(ξ)= 1,
01lim)(1lim)(1lim
1
2
1
2
nDnDn n
n
k
kn
n
k
kn
大数定律电子科技大学根据马尔科夫定理,{ξk}服从弱大数定理,
2,当 λ< 0时，因
,1)(21)()( 2222 kkkED kk
01lim)(1lim)(1lim
1
2
1
2
nDnDn n
n
k
kn
n
k
kn
则 {ξk}服从弱大数定理,
1 1 1
22222
11
k n n
k
kkk
)(D
又因满足科尔莫哥洛夫判别条件：
大数定律电子科技大学
3,当 0 <λ<1/2时, 2)( kD
k?
120210因
122,0 使存在故
1 1 1
1222
11)(
n n n
k
kkk
D
满足科尔莫哥洛夫判别条件,{ξk} 服从强大数定理，也服从弱大数定理,
{ξk}又服从强大数定理,
1,现实中为什么大量随机变量服从正态分布？依据什么来断定一个随机变量服从正态分布？
2.,频率的稳定性,到底是什么意思？在实际应用中有什么作用？
3.在计算机上如何模拟现实研究对象？根据什么来认定这种模拟是正确的？ ……
极限理论大数定律电子科技大学概率为 1 收敛依概率收敛依分布收敛强大数定律弱大数定律中心极限定理大数定律电子科技大学
§ 4.4 大数定律切比雪夫不等式切比雪夫大数定 律伯努里大数定律 小概率事件原理辛钦大数定律一,弱大数定律泊松大数定 律大数定律电子科技大学
1 切比雪夫 (Chebyshev)不等式设随机变量 ξ的数学期望 E(ξ) 和方差
D(ξ )都存在,则对于任意的 e > 0,有
2
)( } |)({|
e
e DEP
,)(1 } |)({| 2
e
e DEP或者重复试验次数估计概率估计
2 大数定律的定义大数定律电子科技大学设 ξn,n=1,2… 是一个随机变量序列，其数学期望都存在，若对于任意的 ε＞ 0，有
1}|)(11{|lim
11
e
n
i
i
n
i
in EnnP
称随机变量序列 {ξn}服从大数定律,
服从大数定律的概率意义,{ξk},k=1,2… 的前 n 项算术平均将紧密地聚集在其数学期望的附近,
思考 能否说
.)(11
11
”依概率收敛于,
n
i
i
n
i
i Enn
大数定律电子科技大学
3 切比雪夫大数定律设 ξk,k=1,2… 是相互独立的随机变量序列,
其数学期望和方差都存在，且存在常数 C,
使得
D(ξn ) < C,k = 1,2,…
则随机变量序列 {ξk},k=1,2… 服从大数定律,
证
n
i
i
n
i
i EnnE
11
)(1]1[
利用切比雪夫不等式证明,
大数定律电子科技大学
n
C
n
nCD
nn
D
n
i
i
n
i
i
2
1
2
1
)(1]1[
由切比雪夫不等式，对于任意的 e＞ 0,有
}|)(11{|1
11
e
n
i
i
n
i
i EnnP
).(,11 2
e
nas
n
C
2
1
)
1
(
1
e
n
i
inD
大数定律电子科技大学则 {ξk},k=1,2… 服从大数定律，即对任意的 e >0,
有
11P{
1
}|
n
|lim
n
k
kn e
注 为在实际应用中用将大量重复测量值的算术平均值作为精确值的估计提供了理论依据,
推论 设 ξ k,k=1,2… 是相互独立且同分布的随机变量序列,且 E(ξk )=?,D(ξk )=s2,k= 1,2,…
大数定律电子科技大学
4 泊松大数定律设 ξk,k=1,2… 是相互独立的随机变量序列,
.1}0{,}1{ nnnnn qpPpP
则随机变量序列 {ξk},k=1,2… 服从大数定律,
分析 根据切比雪夫大数定理仅需证明存在常数 C，使
D(ξn ) < C,k = 1,2,…
,2,1,
4
1)1()( kppD
nnn?有大数定律电子科技大学
5 贝努里 (Bernulli)大数定律作为泊松定理的推论贝努里大数定律成立：
设 ξk,k=1,2… 是相互独立同分布的随机变量序列,.1}0{,}1{ qpPpP
nn
随机变量序列 {ξk},k=1,2… 服从大数定律,
贝努里大数定律的 另一种描述,
设 是 n次重复独立试验中事件 A发生的频率，
n
m
p是事件 A在每次试验中发生的概率,则对任意大数定律电子科技大学
1}||P{lim
,0
e
e
p
n
m
n
有的注 此定理以严格的数学形式描述了频率的稳定性,
6,小概率实际推断事件原理概率很小的事件，在一次试验中几乎是不可能发生的，从而在实际中可看成不可能事件,
大数定律电子科技大学切比雪夫大数定律中的条件有：
数学期望和方差都存在，方差数列有界,
7,辛钦大数定律设 ξk,k=1,2… 是相互独立同分布的随机变量序列,若 ξk的数学期望存在，则 {ξk}服从大数定律,
根据 切比雪夫不等式证明大数定律电子科技大学证 设 E(ξk) = a,ξk的特征函数为,因
ξk,k=1,2… 相互独立同分布，故
)(t?
n
i
in
1
1? 的特征函数为,)]1([ n
n?
根据特征函数与矩的关系
jajE k )()0(
)(t? 在 t=0的附近展开马克劳林级数为
)(1)( toj a tt
大数定律电子科技大学
nn
n
toj a t
nn
t )](11[)]([
且
j a tn
n
e
n
t?
)]([l i m?
单点分布随机变量 ξ的特征函数根据特征函数的连续性定理知
nasa
n
Wn
i
i,
1
1
从而
nasa
n
pn
i
i,
1
1
见 P292-18题大数定律电子科技大学对任意的 ε＞ 0，有
1}|1{|lim
1
e? a
n
P
n
i
in
二,强大数定律简介是基于几乎处处收敛性的定律,
注 得到结论：设 C 是常数，则
CC PW nn
大数定律电子科技大学
0
..
)(
sa
E nn
称 {ξn}服从强大数定律,
定义 4.4.4设 ξn,n=1,2… 是一随机变量序列，
其数学期望都存在，令,若?
n
k
kn n
1
1
注 因概率为 1收敛 一定依概率收敛，故随机变量序列满足强大数定理，就一定满足弱大数定理,
大数定律电子科技大学定理 4.4.5 博雷尔强大数定律设 ξk,k=1,2… 是相互独立同分布的随机变量序列,.1}0{,}1{ qpPpP
nn
则 {ξk},k=1,2… 服从强大数定律,
注 从另一个角度解释了事件频率“稳定于”概率的含义,
定理 4.4.6 科尔莫哥洛夫判别法设 ξk,k=1,2… 是相互独立随机变量序列,
若大数定律电子科技大学
1
2
)(
n
n
n
D?
则 {ξk},k=1,2… 服从强大数定律,
定理 4.4.7 （ 科尔莫哥洛夫）
设 ξk,k=1,2… 是相互独立同分布的随机变量序列,若,则 {ξk},k=1,2… 服从强大数定律,
nE?
本节内容是统计学的理论基础！！！
条件判别例大数定律电子科技大学例 1 设随机变量 X1,X2,··,X10相互独立并且服从相同的分布,已知它们的数学期望等于 0,
方差等于 1,Y = X1+ X2+ ·· + X10,请估算概率
P{?10<Y< 10 } 之值。
解,E(Y) = 0,D(Y) = 10,因此
P{?10<Y<10}=P{|Y |<10 }=P{|Y－ E(Y)|<10 }
由切比雪夫不等式,有
P{－ 10<Y<10}≥1－ 10102 = 0.9?
大数定律电子科技大学例 2 将一枚均匀硬币连续抛 n 次,试用切比雪夫不等式求出 n,使下式成立,
99.0}01.0|)()({| APAfP n
其中 A ={ 出现正面 }
解 有 P( A )=1/2，令
),2,1(
,,0;,1
ni
i
i
否则次出现正面第
从而有为所以出现正面的总次数,
1
n
i
i?
大数定律电子科技大学
n
i
in nAf
1
1)(?;
2
1)(1)]([
1
E
n
AfE
n
i
in?而且
nn
D
n
AfD
n
i
in,4
1
2
1
2
11)(1)]([
1
2
由切比雪夫不等式可得
}01.0|211{|}01.0|)()({|
1
n
i
in nPAPAfP?
大数定律电子科技大学
n
AfD n
401.0
11
01.0
)]([1
22
99.0?
)(0 0 0,2 5 0
01.0
14
3 次从而有 nn
大数定律电子科技大学例 3 设随机变量序列相互独立且
.
2
1
,
2
1
,
概率为；概率为
k
k
k
证明 当 λ<1/2时服从大数定理,
证
,2,1,02121)( kkkE k
1,当 λ= 0,D(ξ)= 1,
01lim)(1lim)(1lim
1
2
1
2
nDnDn n
n
k
kn
n
k
kn
大数定律电子科技大学根据马尔科夫定理,{ξk}服从弱大数定理,
2,当 λ< 0时，因
,1)(21)()( 2222 kkkED kk
01lim)(1lim)(1lim
1
2
1
2
nDnDn n
n
k
kn
n
k
kn
则 {ξk}服从弱大数定理,
1 1 1
22222
11
k n n
k
kkk
)(D
又因满足科尔莫哥洛夫判别条件：
大数定律电子科技大学
3,当 0 <λ<1/2时, 2)( kD
k?
120210因
122,0 使存在故
1 1 1
1222
11)(
n n n
k
kkk
D
满足科尔莫哥洛夫判别条件,{ξk} 服从强大数定理，也服从弱大数定理,
{ξk}又服从强大数定理,
