第五章大数定理及中心极限定理一、切比谢夫定理第一节机动 目录 上页 下页 返回 结束二、贝努里大数定律三,辛钦大数定律大数定理第 五 章例 1,掷一颗均匀的正六面体的骰子,出现么点的概率是一,大数定理的概念得很大。但是在掷的次数很多时,出现么点的频率接近 1/6
几乎是必然的。
例 2,测量一个长度 a,一次测量的结果不见得就等于 a,
量了若干次,其算术平均值仍不见得等于 a,但当测量的次数费马 目录 上页 下页 返回 结束
1/6。在掷的次数比较少时,出现么点的频率可能与 1/6相差很多时,算术平均值接近于 a几乎是必然的。
这两个例子说明,在大量随机现象中,不仅看到了 随机事件频率的稳定性,而且还看到 平均结果的稳定性 。即无论个别随机现象的结果如何,或者它们在进行过程中的个别特征如何,大量随机现象的平均结果实际上与每一个别随机现象的特征无关,并且几乎不再是随机的了。
大数定律以确切的数学形式表达了这种规律性,并论证了它成立的条件,即从理论上阐述了这种大量的 ﹑ 在一定条件下的 ﹑ 重复的随机现象呈现的规律性即稳定性。由于大数定理的作用,
大量随机因素的总体作用必然导致某种不依赖个别随机事件的结果.
机动 目录 上页 下页 返回 结束二、大数定理一个随机变量离差平方的数学期望就是它的方差,而方差又是用来描述随机变量取值的分散程度的.下面研究随机变量定理,设随机变量 X有期望值 E(X)及方差 V(X),则任给 ε>0,
有 (切比雪夫不等式)
的离差与方差之间的关系式.
机动 目录 上页 下页 返回 结束证明,就连续型随机变量证明。
例 3:设 X是掷一颗骰子所出现的点数,若给定 ε=1,2,实际这个不等式给出了,在随机变量 X的分布未知的情况下
}{X 概率的下限的估计。
,并验证切比谢夫不等式成立,
故满足切比雪夫不等式,
机动 目录 上页 下页 返回 结束事件计算解,因为X的概率函数是 P{X=k}=1/6 (k=1,2,…,6)
所以 E(X)=7/2 V(X)=35/12
定理一(切比谢夫定理的特殊情况) 如果随机变量 X1,X2,…
是相互独立并且具有相同的数学期望和方差:
作前n个随机变量的算术平均?
n
k
kXnX
1
1
则对任意正数 ε,有
),2,1()(,)( 2 kXVXE kk
解释,上式表明,当 n→∞ 时事件的概率趋于 1,即对于任意正数 ε,当 n 充分大时,不等式 (事件 )
成立的概率很大 。
证明,由于
nnnXVnXnV
n
k
k
n
k
k
2
2
2
1
2
1
1)(11
由切比雪夫不等式可得在上式中令 n→∞,并注意到概率不能大于 1,即得
11lim
1
n
k
kn XnP
定理一表明,当n很大时,随机变量 X1,X2,…,X n的算术平均
n
k
kXnX
1
1 接近于数学期望 E(X1)=E(X2)= …=E(X n)=μ
这种接近是在概率意义下的接近.通俗地说,在定理的条件下,
n 个随机变量的算术平均,当无限增加时将几乎变成常数,
设 Y1,Y2,…,Y n,… 是一个随机变量序列,a
1}{limaYP nn
是一个常数.若对于任意正数 ε,有则称序列 Y1,Y2,…,Y n,… 依概率收敛于 a,记为依概率收敛的序列还有以下性质:
设又设函数 g( x,y ) 在点 (a,b) 连续,则机动 目录 上页 下页 返回 结束这样,上述定理一又可叙述为:
定理一,如果随机变量 X1,X2,… 是相互独立并且具有相同的数学期望和方差:
),2,1()(,)( 2 kXVXE kk
则序列依概率收敛于,即定理二 (贝努里大数定律 ),在独立试验中,当试验次数 n无限依概率收敛于它的概率 P(A)。
增加时,事件 A的频率 X/n (X是 n次试验中事件 A发生的次数 ),
即对任意 ε>0,有
1lim?
p
n
XP
n
其中,X1,X2,…,Xn 相互独立,且都服从以 p 为参数的 (0-1)
分布,因而由定理一即得证,因为
1)(1lim 21?
pXXX
n
P n
n
拉氏 目录 上页 下页 返回 结束
,,),(~ 21 nXXXXpnBX且有在实际中概率很小的随机事件在个别试验中几乎是不可能原理或 实际推断原理 )。它在实际中有着广泛的应用。至于“
小概率”小到什么程度才能看作实际上不可能发生,则要视具体问题的要求和性质而定。从实际推断原理容易得到下面的重要结论,如果随机事件的概率很接近于 1,则可以认为在个别试验中这事件几乎一定发生。
贝努里大数定理表明事件发生的频率 X/n依概率收敛于发生的。因此,人们常常忽略了那些概率很小的事件发生的可能性。这个原理叫作小概率事件的实际不可能性原理 (简称小概率机动 目录 上页 下页 返回 结束事件发生的概率 p。这个定理以严格的数学形式表达了频率的稳定性。就是说当 n很大时,事件发生的频率与概率有较大的偏差的可能性很小。由实际推断原理,在实际应用中,当试验次数很大时,便可以用事件发生的频率来代替事件发生的概率。
定理三 (辛钦大数定律 ),如果 X1,X2,… 是相互独立并且具有相同分布的随机变量,有 E(Xi)=μ(i=1,2,…),则对任意给定的 ε>0,有这使算术平均值的法则有了理论根据。假使要测量某一物理量 μ,在不变的条件下重复测量 n次,得到的观测值 x1,x2,…,x n
是不完全相同的,这些结果可以看作是服从同一分布并且期望值为 μ的 n个相互独立的随机变量 X1,X2,…,X n 的试验数值。
由定律可知,当 n充分大时,取作为 a的近似值,可以认为发生的误差是很小的。
即对于同一随机变量 X进行 n次独立观察,则所有观察结果的算术平均数依概率收敛于随机变量的期望值。
第二节 第 五 章中心极限定理在客观实际中有许多随机变量,它们是由大量的相互独立的随机因素的综合影响所形成的。而其中每一个别因素在总的影响中所起的作用都是微小的。这种随机变量往往近似地服从正态分布。
这种现象就是中心极限定理的客观背景。
定理四 (独立同分布的中心极限定理 ),设随机变量 X1,X2,
…,X n,… 相互独立,服从同一分布,且具有数学期望和方差:
的标准化变量;
的分布函数 Fn(x) 对于任意 x 满足
x t dte 2/221?
).(x
机动 目录 上页 下页 返回 结束
E(Xk)=μ,V(Xk)=σ2>0 (k=1,2,…),则随机变量之和这就是说,均值为 μ,方差为 σ 2>0的独立同分布的随机变量 X1,X2,…,Xn 之和 X1+X2+… Xn 的标准化变量,
在一般情况下,很难求 n个随机变量之和 X1+X2+… Xn
分布。这样,就可以利用正态分布对 X1+X2+… Xn 作理论分析或作实际计算。
的分布函数,上式表明,可以通过 Φ (x) 给出其近似的机动 目录 上页 下页 返回 结束当 n充分大时,有在上式左端的分子和分母同除以 n,结果可写成:
当 n充分大时,
)1,0(~
/
N
n
X
这是独立同分布中心极限定理的另一个形式。这就是说均值为 μ,方差为 σ 2>0的独立同分布的随机变量 X1,X2,…,Xn
的算术平均?
n
k
kXnX
1
1 当 n充分大时近似地服从均值为 μ,
方差为 σ 2/n的正态分布。这一结果是数理统计中大样本统计推断的基础。
定理五 (Moivre— LapLace定理 ),设随机变量这个定理是定理四的特例,它表明,正态分布则对任意 x,有
).(x
服从参数为 n,p( 0 < p < 1 ) 的二项分布,
是二项分布的极限分布。当 n充分大时,可以柯西 目录 上页 下页 返回 结束利用上式计算二项分布的概率。
例 4,一加法器同时收到 20个躁声电压 Vk(k=1,2,…,20),
设它们是相互独立的随机变量,且都在区间 (0,10)上服从解,易知 E(Vk)=5,V(Vk)=100/12 (k=1,2,…,20),
由中心极限定理,随机变量均匀分布。记 V=V1+V2+… +V20,求 P{V>105}的近似值,
2012/1 0 0
520
20
1
k
kV
Z
20)12/10(
520
V
机动 目录 上页 下页 返回 结束近似服从正态分布 N(0,1),于是
387.0
20)12/10(
1001 VP
3 8 7.0
20)12/10(
1 0 0VP
)387.0(1
dte t 2/387.0 2211?
348.0?
348.0}105{VP即有机动 目录 上页 下页 返回 结束例 5,一船舶在某海区航行,已知每遭受一次波浪的冲
90000,,1,0,3231}{
90000
90000
kCkXP kkk
纵摇角大于 30的概率为p =1/3,若船舶遭受 90000次波浪冲击,
问其中有 29500~ 30500次纵摇角度大于 30 的概率是多少?
解,将船舶每次遭受一次波浪冲击看作是一次试验,并假设布律为所求的概率为
30500
29500
90000
90000 3
2
3
1}3 0 5 0 02 9 5 0 0{
k
kk
kCXP
要直接计算是麻烦的,我们利用定理五来求它的近似值。
即有机动 目录 上页 下页 返回 结束各次试验是独立的。在 90000次波浪冲击中纵摇角度 大于 30的次数记为 X,则 X是一个随机变量,且有 X~B(90000,1/3),其分
}3050029500{ XP
即有其中,3/1,9 0 0 0 0 pn
)1(
3 0 50 0
)1()1(
2 9 50 0
pnp
np
pnp
npX
pnp
npP
机动 目录 上页 下页 返回 结束综上所述,不论随机变量 X服从什么分布,
当 n充分大时,大数定理表明,它们的均数稳定地在数学期望周围变动 ;中心极限定理则表明均数 在数学期望周围按正态分布规律分布,这再次提示在随机变量一切可能的分布中,正态分布占有特殊重要的地位,
几乎是必然的。
例 2,测量一个长度 a,一次测量的结果不见得就等于 a,
量了若干次,其算术平均值仍不见得等于 a,但当测量的次数费马 目录 上页 下页 返回 结束
1/6。在掷的次数比较少时,出现么点的频率可能与 1/6相差很多时,算术平均值接近于 a几乎是必然的。
这两个例子说明,在大量随机现象中,不仅看到了 随机事件频率的稳定性,而且还看到 平均结果的稳定性 。即无论个别随机现象的结果如何,或者它们在进行过程中的个别特征如何,大量随机现象的平均结果实际上与每一个别随机现象的特征无关,并且几乎不再是随机的了。
大数定律以确切的数学形式表达了这种规律性,并论证了它成立的条件,即从理论上阐述了这种大量的 ﹑ 在一定条件下的 ﹑ 重复的随机现象呈现的规律性即稳定性。由于大数定理的作用,
大量随机因素的总体作用必然导致某种不依赖个别随机事件的结果.
机动 目录 上页 下页 返回 结束二、大数定理一个随机变量离差平方的数学期望就是它的方差,而方差又是用来描述随机变量取值的分散程度的.下面研究随机变量定理,设随机变量 X有期望值 E(X)及方差 V(X),则任给 ε>0,
有 (切比雪夫不等式)
的离差与方差之间的关系式.
机动 目录 上页 下页 返回 结束证明,就连续型随机变量证明。
例 3:设 X是掷一颗骰子所出现的点数,若给定 ε=1,2,实际这个不等式给出了,在随机变量 X的分布未知的情况下
}{X 概率的下限的估计。
,并验证切比谢夫不等式成立,
故满足切比雪夫不等式,
机动 目录 上页 下页 返回 结束事件计算解,因为X的概率函数是 P{X=k}=1/6 (k=1,2,…,6)
所以 E(X)=7/2 V(X)=35/12
定理一(切比谢夫定理的特殊情况) 如果随机变量 X1,X2,…
是相互独立并且具有相同的数学期望和方差:
作前n个随机变量的算术平均?
n
k
kXnX
1
1
则对任意正数 ε,有
),2,1()(,)( 2 kXVXE kk
解释,上式表明,当 n→∞ 时事件的概率趋于 1,即对于任意正数 ε,当 n 充分大时,不等式 (事件 )
成立的概率很大 。
证明,由于
nnnXVnXnV
n
k
k
n
k
k
2
2
2
1
2
1
1)(11
由切比雪夫不等式可得在上式中令 n→∞,并注意到概率不能大于 1,即得
11lim
1
n
k
kn XnP
定理一表明,当n很大时,随机变量 X1,X2,…,X n的算术平均
n
k
kXnX
1
1 接近于数学期望 E(X1)=E(X2)= …=E(X n)=μ
这种接近是在概率意义下的接近.通俗地说,在定理的条件下,
n 个随机变量的算术平均,当无限增加时将几乎变成常数,
设 Y1,Y2,…,Y n,… 是一个随机变量序列,a
1}{limaYP nn
是一个常数.若对于任意正数 ε,有则称序列 Y1,Y2,…,Y n,… 依概率收敛于 a,记为依概率收敛的序列还有以下性质:
设又设函数 g( x,y ) 在点 (a,b) 连续,则机动 目录 上页 下页 返回 结束这样,上述定理一又可叙述为:
定理一,如果随机变量 X1,X2,… 是相互独立并且具有相同的数学期望和方差:
),2,1()(,)( 2 kXVXE kk
则序列依概率收敛于,即定理二 (贝努里大数定律 ),在独立试验中,当试验次数 n无限依概率收敛于它的概率 P(A)。
增加时,事件 A的频率 X/n (X是 n次试验中事件 A发生的次数 ),
即对任意 ε>0,有
1lim?
p
n
XP
n
其中,X1,X2,…,Xn 相互独立,且都服从以 p 为参数的 (0-1)
分布,因而由定理一即得证,因为
1)(1lim 21?
pXXX
n
P n
n
拉氏 目录 上页 下页 返回 结束
,,),(~ 21 nXXXXpnBX且有在实际中概率很小的随机事件在个别试验中几乎是不可能原理或 实际推断原理 )。它在实际中有着广泛的应用。至于“
小概率”小到什么程度才能看作实际上不可能发生,则要视具体问题的要求和性质而定。从实际推断原理容易得到下面的重要结论,如果随机事件的概率很接近于 1,则可以认为在个别试验中这事件几乎一定发生。
贝努里大数定理表明事件发生的频率 X/n依概率收敛于发生的。因此,人们常常忽略了那些概率很小的事件发生的可能性。这个原理叫作小概率事件的实际不可能性原理 (简称小概率机动 目录 上页 下页 返回 结束事件发生的概率 p。这个定理以严格的数学形式表达了频率的稳定性。就是说当 n很大时,事件发生的频率与概率有较大的偏差的可能性很小。由实际推断原理,在实际应用中,当试验次数很大时,便可以用事件发生的频率来代替事件发生的概率。
定理三 (辛钦大数定律 ),如果 X1,X2,… 是相互独立并且具有相同分布的随机变量,有 E(Xi)=μ(i=1,2,…),则对任意给定的 ε>0,有这使算术平均值的法则有了理论根据。假使要测量某一物理量 μ,在不变的条件下重复测量 n次,得到的观测值 x1,x2,…,x n
是不完全相同的,这些结果可以看作是服从同一分布并且期望值为 μ的 n个相互独立的随机变量 X1,X2,…,X n 的试验数值。
由定律可知,当 n充分大时,取作为 a的近似值,可以认为发生的误差是很小的。
即对于同一随机变量 X进行 n次独立观察,则所有观察结果的算术平均数依概率收敛于随机变量的期望值。
第二节 第 五 章中心极限定理在客观实际中有许多随机变量,它们是由大量的相互独立的随机因素的综合影响所形成的。而其中每一个别因素在总的影响中所起的作用都是微小的。这种随机变量往往近似地服从正态分布。
这种现象就是中心极限定理的客观背景。
定理四 (独立同分布的中心极限定理 ),设随机变量 X1,X2,
…,X n,… 相互独立,服从同一分布,且具有数学期望和方差:
的标准化变量;
的分布函数 Fn(x) 对于任意 x 满足
x t dte 2/221?
).(x
机动 目录 上页 下页 返回 结束
E(Xk)=μ,V(Xk)=σ2>0 (k=1,2,…),则随机变量之和这就是说,均值为 μ,方差为 σ 2>0的独立同分布的随机变量 X1,X2,…,Xn 之和 X1+X2+… Xn 的标准化变量,
在一般情况下,很难求 n个随机变量之和 X1+X2+… Xn
分布。这样,就可以利用正态分布对 X1+X2+… Xn 作理论分析或作实际计算。
的分布函数,上式表明,可以通过 Φ (x) 给出其近似的机动 目录 上页 下页 返回 结束当 n充分大时,有在上式左端的分子和分母同除以 n,结果可写成:
当 n充分大时,
)1,0(~
/
N
n
X
这是独立同分布中心极限定理的另一个形式。这就是说均值为 μ,方差为 σ 2>0的独立同分布的随机变量 X1,X2,…,Xn
的算术平均?
n
k
kXnX
1
1 当 n充分大时近似地服从均值为 μ,
方差为 σ 2/n的正态分布。这一结果是数理统计中大样本统计推断的基础。
定理五 (Moivre— LapLace定理 ),设随机变量这个定理是定理四的特例,它表明,正态分布则对任意 x,有
).(x
服从参数为 n,p( 0 < p < 1 ) 的二项分布,
是二项分布的极限分布。当 n充分大时,可以柯西 目录 上页 下页 返回 结束利用上式计算二项分布的概率。
例 4,一加法器同时收到 20个躁声电压 Vk(k=1,2,…,20),
设它们是相互独立的随机变量,且都在区间 (0,10)上服从解,易知 E(Vk)=5,V(Vk)=100/12 (k=1,2,…,20),
由中心极限定理,随机变量均匀分布。记 V=V1+V2+… +V20,求 P{V>105}的近似值,
2012/1 0 0
520
20
1
k
kV
Z
20)12/10(
520
V
机动 目录 上页 下页 返回 结束近似服从正态分布 N(0,1),于是
387.0
20)12/10(
1001 VP
3 8 7.0
20)12/10(
1 0 0VP
)387.0(1
dte t 2/387.0 2211?
348.0?
348.0}105{VP即有机动 目录 上页 下页 返回 结束例 5,一船舶在某海区航行,已知每遭受一次波浪的冲
90000,,1,0,3231}{
90000
90000
kCkXP kkk
纵摇角大于 30的概率为p =1/3,若船舶遭受 90000次波浪冲击,
问其中有 29500~ 30500次纵摇角度大于 30 的概率是多少?
解,将船舶每次遭受一次波浪冲击看作是一次试验,并假设布律为所求的概率为
30500
29500
90000
90000 3
2
3
1}3 0 5 0 02 9 5 0 0{
k
kk
kCXP
要直接计算是麻烦的,我们利用定理五来求它的近似值。
即有机动 目录 上页 下页 返回 结束各次试验是独立的。在 90000次波浪冲击中纵摇角度 大于 30的次数记为 X,则 X是一个随机变量,且有 X~B(90000,1/3),其分
}3050029500{ XP
即有其中,3/1,9 0 0 0 0 pn
)1(
3 0 50 0
)1()1(
2 9 50 0
pnp
np
pnp
npX
pnp
npP
机动 目录 上页 下页 返回 结束综上所述,不论随机变量 X服从什么分布,
当 n充分大时,大数定理表明,它们的均数稳定地在数学期望周围变动 ;中心极限定理则表明均数 在数学期望周围按正态分布规律分布,这再次提示在随机变量一切可能的分布中,正态分布占有特殊重要的地位,