第五章 大数定律和中心极限定理
大数定律和中心极限定理是概率论的重要基本理
论，它们揭示了随机现象的重要统计规律，在概率
论与数理统计的理论研究和实际应用中都具有重要
的意义。本章将介绍这方面的主要内容。
§ 5.1 大数定律
迄今为止,人们已发现很多 大数定律 (laws of large numbers)
所谓大数定律，简单地说，就是大量数目的随机变量所呈现
出的规律，这种规律一般用随机变量序列的某种收敛性来刻
画。本章仅介绍几个最基本的大数定律。下面，先介绍一个
重要的不等式。
一、切比雪夫（ Chebyshev）不等式
对于任一随机变量 X,若 EX与 DX均存在,则对任意 ε＞ 0,
恒有
,(5-1)2} || { ?? DXEXXP ???
证明 我们仅给出 X为连续型随机变量情形下的证明。设
为连续型随机变量 X的密度函数，则有
?
（ 5-1）式的等价形式为
,(5-2)
)(xf
} || { ??? EXXP
?
??
?
?
d)(
EXx
xxf
?
??
??
? ?
2
2
d)(||
EXx
xxfEXx
? ???? ?? 2
2
d)(|| xxfEXx ?
DX21??
} || { ??? EXXP
21 ?
DX??
切比雪夫不等式说明,DX越小，则
越小,越大,也就是说，随机变量 X取值
基本上集中在 EX附近，这进一步说明了方差的意义。
同时当 EX和 DX已知时，切比雪夫不等式给出了概率
的一个上界，该上界并不涉及随机变 X
的具体概率分布，而只与其方差 DX和 ε有关，因此，
切比雪夫不等式在理论和实际中都有相当广泛的应
用。需要指出的是，虽然切比雪夫不等式应用广泛，
但在一个具体问题中，由它给出的概率上界通常比较
保守。
} || { ??? EXXP
} || { ??? EXXP
} || { ??? EXXP
二、大数定律
在叙述大数定律之前，首先介绍两个基本概念。
定义 5.1 设 为一个随机变量序列，记为
，若对任何 n≥2，随机变量 都相互独立
，则称 是 相互独立的随机变量序列 。
定义 5.2 设 为一随机变量序列,X为一随机变量
或常数，若对任意 ε＞ 0，有
则称 依概率收敛于 X,记为 或,,
下面是一个带普遍性结果的大数定律。
??,,,,21 nXXX
}{ nX nXXX,,,21 ?
}{ nX
}{ nX
1}{lim ????? ?XXP nn
? ?nX XX Pn ? ?? 0? ??? Pn XX ??n
定理 5.1 （切比雪夫大数定律）设 是相互独立的随机变
量序列，并且 和 均存在，,同时，存在常数 C，使
则对任意的 ε＞ 0，有
（ 5-3）
即,,
证明 因 为独立随机变量序列，故
.
根据切比雪夫不等式可得
,
}{ nX
iEX iDX
?,2,1?i
?,2,1,?? iCDX i
111lim
1 1
?
??
?
??
? ??? ?
? ???
?
n
i
n
i
iin EXnXnP
)( 011
11
??? ??? ??
??
nEXnXn P
n
i
i
n
i
i
}{ nX
n
CDX
nXnD
n
i
i
n
i
i ????
??
?
? ??
?? 1
2
1
11
??
???
??
??? ??
?
??
?
???
??
?
??
? ?? ? ?? ?
? ?? ?
??
n
i
n
i
ii
n
i
n
i
ii XnEXnPEXnXnP
1 11 1
1111
所以
利用计算极限的夹逼准则可知，（ 5-3）式成立。 ?
本结果由俄国数学家切比雪夫于 1866年证明，是关于大数
定律的普遍结果，许多大数定律的古典结果都是它的特例。
推论 1 设 是独立同分布的随机变量序列，且
则对任意 ε＞ 0，有
,（ 5-4）
22
1 1
1
1
?? n
C
X
n
D
n
i
i
??
?
?
??
?
?
??
?
?
1111
1 1
2 ???
?
?
?
? ???? ? ?
? ?
?
?
n
i
n
i
ii EXnXnPn
C
}{ nX
?,2,1,,2 ??? iDXEX ii ??
11lim
1
?
?
?
?
?
?
?
???
???
??
n
i
in XnP
证明 只需将 代入（ 5-3）即证（ 5-4）, ?
推论 1使我们关于算术平均值的法则有了理论上的依据。如
我们要测量某段距离，在相同条件下重复进行 n次，得 n个测
量值,它们可以看成是 n个相互独立的随机变量,
具有相同的分布、相同的数学期望 μ和方差,由推论 1的大
数定律知，只要 n充分大，则以接近于 1的概率保证
这便是在 n较大情况下反映出的客观规律,故称为“大数”定律。
比推论 1条件更宽的一个大数定律是 辛钦 （ Khintchine） 大
数定律,它不需要推论 1条件中“方差 存在”的限制，而在
其它条件不变的情况下，仍有（ 5-4）式的结论。
??
??
?? n
i
n
i
i nEXn
11
11 ??
nXXX,,,21 ?
2?
?
?
? n
i
iXn
1
1?
iDX
推论 2（贝努利大数定律）设事件 A发生的概率为 p，在 n重
贝努利试验中 A发生的频率为,则对任意的 ε＞ 0，有
,（ 5-5）
即,.
证明 首先引入一随机变量序列,对每个 Xi取值如下：
则,, 从而，,,.
将 一并代入（ 5-4）式便得（ 5-5）式, ?
这是历史上最早的大数定律，是贝努利在 1713年建立的。
概率论的研究到现在约有 300多年的历史，最终以事件的频率
稳定值来定义其概率。作为概率这门学科的基础，其“定义”
nf
1} |{|lim ????? ?pfP nn
??? ?? npf Pn,
}{ nX
?
?
??
1
0
发生次试验中第
不发生次试验中第
Ai
AiX
i
ni,,2,1 ??
),1(~ pBX i ni,,2,1 ?? pEX i ? )1( ppDX i ?? ni,,2,1 ??
n
n
i
i fXn ??
? 1
1
的合理性这一悬而未决的带根本性的问题,由贝努利于 1713年发
表的这个“大数定律”给予了解决，被称为概率论的第一篇论
文,
为概率论的公理化体系奠定了理论基础。之所以被成为“定
律”,
是这一规律表述了一种全人类多年的集体经验因此,对尔后的
类似定理统称为大数“定律”。
在大数定律中，由 可知，对充分大的
n，有, 或,根据实际
推断原理,概率论中把这两类特别的随机事件实际上当作非随机
事件来处理的,也就不能引起人们的重视,但贝努利正是通过对这
种所谓“非随机事件”的研究,以严谨的极限形式,揭示了这种接
近
于 1(或 0)事件的规律,由此解决了概率论与数理统计的一系列问
题,这对学习和研究者来讲是一个很大的启发,
111lim
1 1
?
??
?
??
? ??? ?
? ???
?n
i
n
i
iin EXnXnP
111
1 1
??????? ??? ?
? ?
?n
i
n
i
ii EXnXnP 0
11
1 1
??????? ??? ?
? ?
?n
i
n
i
ii EXnXnP