第六章 参 数 估 计
一、教学要求
1.理解点 估计的概念。
2.掌握矩 估计法 (一阶、二阶 )和极大似然估计法。
3.了解估 计量的评选标准 (无偏性、有效性、一致性 )。
4.理解区 间估计的概念。
5.会求单 个正态总体的均值和方差的置信区间。
6.会求两 个正态总体的均值差和方差比的置信区间。
本章重点,未知参数的矩估计,极大似然估计及正态总体未知参数的区间估计。
二、教学内容
§ 6.1 参数 的点估计
6.1.1 问题 的提出
在实际问题中经常遇到随机变量 X (即总体 X)的分布函数 ( )
mj
xF θθθ,...,,;
21
的形式已知,但其中的参数 ( )mi
i
,...,2,1=θ 未知的情形。 当得 到了 X 的一 个样本值 ()后,
希望利用样本值来估计 X 分布中的未知参数值;或者 X 的分布函数形式未知,利用样本值估计 X 的某 些数字特征。这类问题称为参数的点估计问题。
n
xxx,...,,
21
6.1.2 矩估 计法
矩估计法是由英国统计学家皮尔逊 ( K,Pearson) 在 1894 年提 出的求参数点估计的方法。
由大数定律 知道,样本 矩依概率收 敛于总体矩,这就是说 只要样本容 量 n 取得充分大时,
用样本矩作为总体矩的估计可以达到任意精确的程度。 根据这一原理,矩估计法的基本思想是用样本的 k 阶原点矩

=
=
n
i
k
ik
X
n
A
1
1
去估计总体 X 的 k 阶原点矩 ( )
k
XE ;用样本的 k 阶中心矩 (
k
n
i
ik
xx
n
B

=
=
1
1
)去估计总体 X 的 k 阶中心矩 ( )( )
k
k
XEXE?,并由此得到未知参数的估计量
设总体 X 的分布函数为 ()
m
xF θθθ,...,,;
21
,,...,,
21
θθ
m
θ 是 m 个待 估计的未知参数。
设 (
mm
XE= )α 存在,对任意 ()mkk,...,2,1,=
() ( )

+∞
∞?
==
m
k
kk
xdFxXE θθθα,...,;
2,1
( )
mk
θθθα,...,,
21
=
现用样本矩作为总体矩的估计,即令
( )

=
=
n
i
mk
k
i
X
n
1
21
,...,
,
1
θθθα ( )mk,...,2,1=
这便得到含 m 个参数 的 m 个方程组,解该方程组得
m
θθθ
,...,
,
21
()
nkk
XXX,...,,

21
θθ = ( )mk,...,2,1=
1
以 作为参数
k
θ
k
θ 的估计量,并称 θ
未 知 参 数
k

k
θ 的 矩 估 计 量,这种求估计量的方 法称为矩估计法。
例 6.1 已 知某电话局在单位时间内收到用户呼唤次数这个总体 X 服从泊松分布 )(λP,即
X 的分布律
λ
λ
== e
k
kXP
k
!
}{ ),2,1,0("=k
的形式已知,但参数 λ 未知,今获得一个样本值,要求估计),,,(
21 n
xxx")(XE=λ 的值,即要求估计在单位时间内平均收到的呼唤次数,进而可以确定在单位时间内收到 k 次呼唤的概率,
例 6.2 已知 某种灯泡的寿命,即),(~
2
σμNX X 的分布密度
2
2
2
)(
2
2
1
),;(
σ
μ
σπ
σμ
=
x
exp )( +∞<<?∞ x
的形式已知,但参数 未知,获得一个样本值 后,要求估计
2
,σμ ),,,(
21 n
xxx"
)(XE=μ,的值,即要求 估计灯泡的平均寿命和寿命的长度的差异程度,进而可以确定灯泡寿命 X 落在任何一个区间内的概率,
)(
2
XD=σ
例 6.3 考 虑某厂生产的一批电子元件的寿命这个总体 X ;虽然不知道 X 的分布形式,但要求根据样本值 估计元件的平均寿命和元件寿命的差异程度,即估计总体 X 的均值 和方差
),,,(
21 n
xxx"
)(XE )(XD,
X 服从泊松分布 )(λP,求参数 λ例 6.4 设总 体 的估计量,
解 设 是总体
n
XXX",,
21
X 的一个样本,由于 λ=)(XE,可得
XX
n
i
in
==

=1
1?
λ
例 6.5 求总 体 X 的均值 μ 和方差 的矩估计,
解 设 是总体
2
σ
n
XXX",,
21
X 的一个样本,由于
+=+=
=
2222
))(()()(
)(
μσ
μ
XEXDXE
XE
2
+=
=

=
n
i
i
X
n
X
1
222
1
μσ
μ
解得 μ 和 的矩估计量为
2
σ
X=μ?
2
1
2
22
1
n
n
i
i
SXX
n
=?=

=
σ
由此可见,无论总体服从什么分布,样本均值 X 和样本方差 分别是总体均值
2
n
S μ 和总体方差 的矩估计量,特别对正态总体,
2
σ ),(~
2
σμNX μ 和 的矩估计分别为
2
σ
22
,?
n
SX == σμ,
例 6.6 设总 体 X 服从区间 [
21
,θθ ]上的均匀 分布,求参数
21
,θθ 的矩估计量,
解 设 是总体
n
XXX",,
21
X 的样本,容易求得
=
+
=
12
)(
)(
2
)(
2
12
21
θθ
θθ
XD
XE
故令
=
+
=
12
)

(
2

2
122
21
θθ
θθ
n
S
X
解得
1
θ 和
2
θ 的矩估计量为
n
SX 3
1

n
SX 3
2
+=θ
例 6.7 设总 体 X 的分布密度为
θ
θ
θ
x
exp
=
2
1
);( )0,( >+∞<<?∞ θx
),,(
21 n
XXX"为总体 X 的样本,求参数 θ 的矩估计量,
3
解 由于 );( θxp 只含有一个未知参数 θ,一般只需求出 便能得到)(XE θ 的矩估计量,但是
0
2
1
);()( =?==
∫∫
∞+
∞?
∞+
∞?
dxexdxxxpXE
x
θ
θ
θ
即 不含有)(XE θ,故不能由此得到 θ 的矩估计量,为此,求
===
+∞
∞?
+∞
∞?
∫∫
dxexdxxpxXE
x
θ
θ
θ
||
2
1
222
);()(
2
0
2
1

θ
θ
=
+∞

dxex
x
故令
2
1
2
1?
2θ=

=
n
i
in
X,于 是解得 θ 的矩估计量为

=
=
n
i
in
X
1
2
2
1?
θ
本例 θ 的矩估计量也可以这样求得
===
+∞
∞?
+∞
∞?
∫∫
dxexdxxpXXE
x
θ
θ
θ
||
2
1
||);(||
θ
θ
θ
=

+∞
0
1
x
xe
故令 θ
||
1
1
=

=
n
i
in
X
即 θ 的矩估计量为
||
1
1

=
=
n
i
in

该例表明参数的矩估计量不唯一,
6.1.3 最大 似然估计
1,似然函数
设总体 X 的分 布律为 ( ) ( )()( )θθ ;; xpxpxXP 或分布密度为==,其中
(
m
)θθθθ,...,,
21
= 是未 知参 数,( )
n
XXX,...,,
21
是总 体 X 的一 个样 本,则样本
( )
n
XXX,..,,
,21
的分布 律 ( )或分布密度 为,当给 定样 本值(

=
n
i
i
xp
1;θ) ( )
n
xxx,...,,
21
后,
它只是参数 θ 的函数,记为 ()θL,即
() ( )

=
=
n
i
i
xpL
1;θθ
4
则称 ()θL 为似然函数。似然函数实质上是样本的分布律或分布密度。
2,最大似然估计法
最大似然估计法,是建立在最大似然原理的基础上的求点估计量的方法。 最大似然原理的直观想法是,在试验中概率最大的事件最有可能出现。 因此,一个试验如有若干个可能的结果 若在一次试验中,结果,...,,,CBA A出现,则一般以为 A出现的概率 最大。下面 通过实例来介绍最大似然原理。
一般地,设总体 X 的分布律为 }{ ( )θ;xpxXP ==,其 中 ( )
m
θθθθ,...,,
21
= 是未知参数。 又设 是样本的一个观测值,那么。 样本(
n
xxx,...,,
21
) ( )
n
XXX,...,,
21
取值的概率为
()
n
xxx,...,,
21
{}{}θθ LxpxXPxXxXxXP
n
i
i
n
i
inn
=======
∏∏
== 11
2211;,...,,()(
既然在一次 试验中得到 样本值 ( )
n
xxx,...,,
21
,那 么,样本取 该样本值的 概率应较 大,
所以就应选取使这一概率达到最大的参数值作为未知参数的估计值,也就是选取使似然函数
( 6.1) () ( )

=
=
n
i
i
xpL
1;θθ
在 ( )
mmii
θθθθθθθ
...,

,...,
,

212
,,处达到最大值,则称= 分别为
m
θθθ,...,,
21
的最大似然估计值。
需要注意的是,最大似然估计值 依赖于样本值,即 θ
i
( )
nii
xxx,...,,

21
θθ = ( )mi,..,2,1=
若将上式中样本值 ( 替换成样本)
n
xxx,...,,
21
( )
n
XXX,...,
2,1
,所得的则称为参数()
nii
XXX,..,,

,21
θθ =
i
θ 的最大似然估计量。
由于
() ( )

=
=
n
i
i
xpL
1
,lnln θθ
而 ()θLln 与 ()θL 有相同的最大值点,因此,为最大似然估计的必要条件为 θ
5
()
0
ln
=
=θθ
θ
θ
i
L
( )mi,...,2,1=
称它为似然方程,其中 ()
m
θθθθ,...,,
21
= 。
求最大似然估计量的一般步骤为,
( 1) 求似然函数 ()θL ;
( 2) 一般地,求出 ()θLln 及似然方程
( )
0
ln
=
=θθ
θ
θ
i
L
( )mi,...,2,1=
( 3) 解似然方程得到最大似然估计值
( )
mii
xxx,...,,

21
θθ = ( )mi,...,2,1=
( 4) 最后得到最大似然估计量
( )
mii
XXX,...,,

21
θθ = ( )mi,...,2,1=
例 6.8 假定 一个盒中黑球和白球两种球的数目之比为 3,1,但不知哪种球多,表示从盒中任取一球是黑球的概率,那么 =1/4或 3/4.现在有效 回地从盒中抽 3个球,试 根据样本中的黑球数
p
p
X 来估计参数 p,
解 由概率论 知 随机变量 即
,),3(~ pBX,
xxx
ppCxXP
==
3
3
)1(}{ )3,2,1,0( =x
p 只需在 p =1/4 和 p =3/4 两者 之间作出选择,为此,先计 算这两种情况下 X 由于估计 的分
布 律,
X 0 1 2 3
p =1/4 时 的值 }{ xXP =
27/64 27/64 9/64 1/64
p =3/4 时 }{ xXP = 的值
1/64 9/6 27/64
4 27/64
本中黑球数 那么应估计 p =1/4 时,64/270{XP 大 如果样 为 1/4,因为当 ==
于当 =3/4 时
0=X,p }
p 64/1}0{ ==XP,因此,应当认为,具有 0=X 的样本来自 =1/4 的总体的可能性要比来自
p
)4/1,3(B p =3/4的总体 的可能性要大,同理可得)4/3,3(B,p 的估计量为
6
= 3,2x
X 服从泊松分布 )(λP,其中 λ 为未知参数,试求参数 λ
1
x
p 有 =1/ 可 作 为值的选择 时,我们选择使概率
p?
xX = }{ xXP = 大的 的估计值,
例 6.9 设总 体
p? 作为 p
=
=
4
3
1,0
4
p
数 该例从 参数估计的角度来看,总 体 分 布 中 的 参 4 或 p? =3/4 两种 估 计
),,(
21 n
XXX"),...,,(
21 n
xxx )(~ λPX,
,当给定样本
λ
λ
== e
k
xXP
k
!
)(
的最大似然估计量,
解 设样本 的一个观测值为,由于总 体 故有
.1) 似然函数为
由式( 6


=
=

==
=
n
i
n
n
i
i
x
i
x
e
x
e
x
L
n
i
i
i
1
1
!
!
)(
1
λλ
λλ
λ
取对数
0

由似然方程( 6.2),有
λλλ nxxL
n
i
i
n
i
i
=
∏∑
== 11
!lnln)()(ln
1
|
)(ln
=

nx
Ld
n
i
λ
λ
1
=?
=
=
d

λ
λλ

i
所以 计 量 λ
= X
),,( X 的样本,其观测值为 记为 由于总体 即
),...,,(
21 n
xxx,),(
2
σμθ =,
),(~
2
σμNX,X
xx
n
n
i
==

=1
1
λ
的 最 大 似 然 估 为例 6.10 求参数 的最大似然估计量,
解 设
n
XXX 是总体总体
2
2
2
)(
2
1
);(
σ
μ
σπ
θ
=
x
exp
则似然函数为
),(~
2
σμNX,
2
,σμ
21
"
的分布密度为
7

=
=
n
i
x
eL
1
2
)(
2
2
2
1
)(
σ
μ
σπ
θ =

=

n
i
i
x
n
e
1
2
2
2
1
)(
2
)2(
1
μ
σ
σπ

=
=
n
i
i
x
nn
L
1
2
2
2
)(
2
1
ln
2
)2ln(
2
)(ln μ
σ
σπθ
似然方程为
0)?(
1
|
)(ln?
1
2
2
=?=

=
=
=
n
i
i
x
L
μ
μ
θ
σσ
μμ
2
σ
,
1
1
xx
n
n
i
i
==

=
μ
2
1
0)?(
2
1
2
|
)(ln
1
2
42
2
22
=
=
i
σ
σσ
μμ
22
,
=?+?=

=
n
i
x
nL
μ
σσ
θ
解似然方程得
X 服从区间 [0,θ ]上的均匀分布,试求参数 θ
22
)(
1
n
xx?=

21 n
X 的样本,其观测值为由于
),...,,(
21 n
xxx,
n
i
i
S
n
=
=
σ
所求的最大似然估计量为? X=μ
2
2
1
1
θ
=

=
n
i
i
X
n
n
S=σ
例 6.11 设总 体 矩估计量和最大似然估计量,
解 设 ),,( XXX"是总体
θ 的矩估计量为 XX
n
n
i
i
2
2
1
==

=
θ
)(XE
X 的分布密度为
≤≤
=
其他0
0
1
);(
θ
θ
θ
x
xp
θ
=
即又总体
则似然函数为
其他0
1
i
ni
x
≤≤
=
1
maxθ 时 L( )(θL )达到最大,故 θ
≤≤
==

=
,,,0
1
);()(
21
θ
θ
θθ
n
n
i
i
xxx
xpL
"
≥+<≤
= ≤≤≤≤
其他0
0min,max
1
11
i
ni
i
ni
n
xx θθ
θ
由上式可见,当 的最大似然估计量为
)(
1
max
ni
ni
Xx ==
≤≤
θ
8