第五章 大数定律和
中心极限定理
第一节 大 数 定 律
湖南商学院信息系
数学教研室
概率论与数理统计是研究随机现象统计
规律性的学科, 随机现象的规律性只有在相
同的条件下进行大量重复试验时才会呈现出
来, 也就是说,要从随机现象中去寻求必然
的法则,应该研究大量随机现象,
研究大量的随机现象,常常采用极限
形式,由此导致对极限定理进行研究, 极
限定理的内容很广泛,其中最重要的有两
种,
与大数定律 中心极限定理
下面我们先介绍大数定律
大量的随机现象中平均结果的稳定性
大数定律的客观背景
大量抛掷硬币
正面出现频率 字母使用频率生产过程中的 废品率
……
几个常见的大数定律
定理 1( 切比雪夫大数定律)
? ?
? ???
???
n
i
n
i
iin XEnXnP
1 1
1}|)(11{|lim ?
设 X1,X2,… 是相互独立的随
机变量序列,它们都有有限的方差,
并且方差有共同的上界,即 Var(Xi)
≤K,i=1,2,…,
切比雪夫
则对任意的 ε>0,
切比雪夫大数定律表明,独立随机变
量序列 {Xn},如果方差有共同的上界,则
?
?
n
i
iXn
1
1 与其数学期望 ?
?
n
i
iXEn
1
)(1 偏差很小的
概率接近于 1,
?
?
n
i
iXn
1
1
随机的了,取值接近于其数学期望的概率接
近于 1.
即当 n充分大时,差不多不再是
切比雪夫大数定律给出了
平均值稳定性的科学描述
证明切比雪夫大数定律主要的数学
工具是切比雪夫不等式,
设随机变量 X有期望 E(X)和方差,
则对于任给 >0,
2?
?
2
2
1}|)({|
?
?? ???? XEXP
作为切比雪夫大数定律的特殊情况,
有下面的定理,
1}|1{|lim
1
????
?
??
??
n
i
in XnP
定理 2( 独立同分布下的大数定律 )
设 X1,X2,… 是独立同分布的随机变量
序列,且 E(Xi)=, Var(Xi)=, i=1,2,…,
则对任给 >0,
2??
?
下面给出的贝努里大数定律,
是定理 2的一种特例,
贝努里
设 Sn是 n重贝努里试验中事件 A发
生的次数,p是事件 A发生的概率,
?
?
??
否则,
发生次试验如第,
0
1 AiX
i
引入 i=1,2,…,n
则 ?
?
?
n
i
in XS
1
?
?
?
n
i
i
n X
nn
S
1
1 是事件 A发生的频率
于是有下面的定理:
设 Sn是 n重贝努里试验中事件 A发生的
次数,p是事件 A发生的概率,则对任给的
ε> 0,
定理 3( 贝努里大数定律 )
1}|{|lim ???
??
?p
n
SP n
n
或
0}|{|lim ???
??
?p
n
SP n
n
贝努里
贝努里大数定律表明,当重复试验次数
n充分大时,事件 A发生的频率 Sn/n与事件 A
的概率 p有较大偏差的概率很小,
贝努里大数定律提供了通过试验来确
定事件概率的方法,
0}|{|lim ???
??
?p
n
SP n
n
任给 ε>0,
贝努里大数定律请看演示
下面给出的独立同分布下的大数定
律,不要求随机变量的方差存在,
设随机变量序列 X1,X2,… 独立同
分布,具有有限的数学期 E(Xi)=μ,
i=1,2,…, 则对任给 ε>0,
定理 3( 辛钦大数定律 )
1}|1{|lim
1
????
???
??
n
i
in XnP
辛钦大数定律
辛钦
请看演示
例如要估计某地区的平均亩产量,要
收割某些有代表性的地块,例如 n 块, 计
算其平均亩产量,则当 n 较大时,可用它
作为整个地区平均亩产量的一个估计,
这一讲我们介绍了大数定律
大数定律以严格的数学形式表达了随
机现象最根本的性质之一:
它是随机现象统计规律的具体表现,
大数定律在理论和实际中都有广泛的应用,
平均结果的稳定性
休息片刻继续下一讲
中心极限定理
第一节 大 数 定 律
湖南商学院信息系
数学教研室
概率论与数理统计是研究随机现象统计
规律性的学科, 随机现象的规律性只有在相
同的条件下进行大量重复试验时才会呈现出
来, 也就是说,要从随机现象中去寻求必然
的法则,应该研究大量随机现象,
研究大量的随机现象,常常采用极限
形式,由此导致对极限定理进行研究, 极
限定理的内容很广泛,其中最重要的有两
种,
与大数定律 中心极限定理
下面我们先介绍大数定律
大量的随机现象中平均结果的稳定性
大数定律的客观背景
大量抛掷硬币
正面出现频率 字母使用频率生产过程中的 废品率
……
几个常见的大数定律
定理 1( 切比雪夫大数定律)
? ?
? ???
???
n
i
n
i
iin XEnXnP
1 1
1}|)(11{|lim ?
设 X1,X2,… 是相互独立的随
机变量序列,它们都有有限的方差,
并且方差有共同的上界,即 Var(Xi)
≤K,i=1,2,…,
切比雪夫
则对任意的 ε>0,
切比雪夫大数定律表明,独立随机变
量序列 {Xn},如果方差有共同的上界,则
?
?
n
i
iXn
1
1 与其数学期望 ?
?
n
i
iXEn
1
)(1 偏差很小的
概率接近于 1,
?
?
n
i
iXn
1
1
随机的了,取值接近于其数学期望的概率接
近于 1.
即当 n充分大时,差不多不再是
切比雪夫大数定律给出了
平均值稳定性的科学描述
证明切比雪夫大数定律主要的数学
工具是切比雪夫不等式,
设随机变量 X有期望 E(X)和方差,
则对于任给 >0,
2?
?
2
2
1}|)({|
?
?? ???? XEXP
作为切比雪夫大数定律的特殊情况,
有下面的定理,
1}|1{|lim
1
????
?
??
??
n
i
in XnP
定理 2( 独立同分布下的大数定律 )
设 X1,X2,… 是独立同分布的随机变量
序列,且 E(Xi)=, Var(Xi)=, i=1,2,…,
则对任给 >0,
2??
?
下面给出的贝努里大数定律,
是定理 2的一种特例,
贝努里
设 Sn是 n重贝努里试验中事件 A发
生的次数,p是事件 A发生的概率,
?
?
??
否则,
发生次试验如第,
0
1 AiX
i
引入 i=1,2,…,n
则 ?
?
?
n
i
in XS
1
?
?
?
n
i
i
n X
nn
S
1
1 是事件 A发生的频率
于是有下面的定理:
设 Sn是 n重贝努里试验中事件 A发生的
次数,p是事件 A发生的概率,则对任给的
ε> 0,
定理 3( 贝努里大数定律 )
1}|{|lim ???
??
?p
n
SP n
n
或
0}|{|lim ???
??
?p
n
SP n
n
贝努里
贝努里大数定律表明,当重复试验次数
n充分大时,事件 A发生的频率 Sn/n与事件 A
的概率 p有较大偏差的概率很小,
贝努里大数定律提供了通过试验来确
定事件概率的方法,
0}|{|lim ???
??
?p
n
SP n
n
任给 ε>0,
贝努里大数定律请看演示
下面给出的独立同分布下的大数定
律,不要求随机变量的方差存在,
设随机变量序列 X1,X2,… 独立同
分布,具有有限的数学期 E(Xi)=μ,
i=1,2,…, 则对任给 ε>0,
定理 3( 辛钦大数定律 )
1}|1{|lim
1
????
???
??
n
i
in XnP
辛钦大数定律
辛钦
请看演示
例如要估计某地区的平均亩产量,要
收割某些有代表性的地块,例如 n 块, 计
算其平均亩产量,则当 n 较大时,可用它
作为整个地区平均亩产量的一个估计,
这一讲我们介绍了大数定律
大数定律以严格的数学形式表达了随
机现象最根本的性质之一:
它是随机现象统计规律的具体表现,
大数定律在理论和实际中都有广泛的应用,
平均结果的稳定性
休息片刻继续下一讲