上一页 下一页湘潭大学数学与计算科学学院 1
§ 3.3 最小方差无偏估计
最小方差无偏估计和有效估计是在某种意义下的最
优估计，两者既有区别又有密切的关系。如果求出
参数 ? 的一个估计量 ??,判别其是否为最小方差无偏
估计或有效估计，显然具有重要的意义。倘若能直
接求出参数 ? 的最小方差无偏估计或有效估计，则
将更加令人满意，本节将研究这些问题。
上一页 下一页湘潭大学数学与计算科学学院 2
一、最小方差无偏估计
由定义 3.4知，最小方差无偏估计（ MVUE）是在
无偏估计类中，使均方误差达到最小的估计量，即在
均方误差最小意义下的最优估计。它是在应用中，人
们希望寻求的一种估计量。
定理 3,7 设 )(? X? 是 ? 的一个无偏估计,??? ?D,若
对任何满足条件,??? )(,0)( XDLXEL 的统计量 )( XL,
有
0)](?)([ ?XXLE ?,
则 )(
? X?
是 ? 的 MVUE 。共中 ),,,(
21 n
XXXX ?? 。
上一页 下一页湘潭大学数学与计算科学学院 3
证明 设 )(? 1 X? 是 ? 的 任 一 无 偏 估 计, 记
)(?)(?)( 1 XXXL ?? ??,则 )( XL 为 0 的无偏估计，由于 ? ?
)](?)(?) ] [()([2
)(?)( )](?)([)(?
1
XEXXELXLE
XDXDLXXLDXD
??
???
???
????
)(?)(?)( XDXDXDL ?? ???,
故 )(? X? 是 ? 的 M V U E 。
上一页 下一页湘潭大学数学与计算科学学院 4
上一页 下一页湘潭大学数学与计算科学学院 5
例 3,1 9 设 ),,,(
21 n
XXXX ?? 是来自正态总体
),(
2
??N 的一个样本，已知 X 和
2
?
n
S 分别是 ? 和
2
? 的无偏
估计，证明 X 和
2
?
n
S 分别是 ? 和
2
? 的 M V U E 。
证明 设 )( XL 满足 0)( ?XEL,则有
? ? ? ??????? ???
?
0)(2 1e x p
1
2
2 dxxL
n
i
i ??? 。 （ 3, 1 5 ）
上式关于 ? 求导，得
? ? ?? ???
?
?
?
?
??
??
0)(
2
1
e x p)(
1
2
2
1
dxxxL
n
i
i
n
i
i
?
?
?,
上一页 下一页湘潭大学数学与计算科学学院 6
故有
? ? 0)( ?XXLE,
所以 X 是 ? 的 M V U E 。
式（ 3, 1 5 ）关于 ? 求二阶导数，得
? ? ?? ??????? ??
??
0)(2 1e x p)(
1
2
2
2
1
dxxxL
n
i
i
n
i
i ??? 式（ 3.15 ）关于 2? 求导，得
? ? ?? ???
?
?
?
?
???
??
0)(
2
1
e x p)(
1
2
2
2
1
dxxxL
n
i
i
n
i
i
?
?
?? 。
上一页 下一页湘潭大学数学与计算科学学院 7
利用 2
1
2
1
2 )()()( ?? ????? ??
??
xnxxx
n
i
i
n
i
i,可得
? ? ?? ??????? ???
??
0)(
2
1ex p)(
1
2
2
2
1
dxxxxL
n
i
i
n
i
i ???,
故有
? ? 0)( 2 ??nSXLE
所以 2?nS 是 2? 的 M V U E 。
上一页 下一页湘潭大学数学与计算科学学院 8
定理 3.7给出了最小方差无偏估计的一种判别方法，
但由上例可见，该判别法使用并不方便，而且还只是一
个充分条件。为了寻求更好的方法，需要借助充分统计
量甚至充分完备统计量的概念。
定理 3.8 设总体 X 的分布函数为 ???? ),;( xF 是未
知参数,),,(
21 n
XXX ? 是来自总体 X 的一个样本。 如果
),,(
21 n
XXXTT ?? 是 ? 的充分统计量,?
?
是 ? 的任一无
偏估计，记
)|
?
(
?
TE ??
?
?
，则有
?? ?
?
?
E,对一切 ???, （ 3.16 ）
??
??
DD ?
?
，对一切 ???, （ 3.17 ）
即
?
?
?
是
?
的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 9
由于 )|
?
(
?
TE ?? ?
?
仍然是充分统计量且作为 ? 的估计量，
可称之为 充分估计量,上述定理表明，要寻找 ? 的最小方
差无偏估计，无需在无偏的充分估计量类中寻找就足 够
了。 假若 ? 的充分无偏估计量是惟一的，则这个充分无偏
估计量就一定是最小方差无偏估计量。那么，在什么情况
下，它才是惟一的呢？显然，如果它又是完备统计量，便
可保证其惟一性。
上一页 下一页湘潭大学数学与计算科学学院 10
定理 3.9 设总体 X 的分布函数为,),;( ????xF
),,,(
21 n
XXX ? 为其样本，若 ),,(
21 n
XXXTT ?? 是? 的
充分完备统计量,?
?
为 ? 的一个无偏估计，则
)|?(? TE ??
?
?
（ 3.18 ）
为 ? 的惟一的最小方差无偏估计。
证明 设 1?? 和 2?? 是 ? 的任意两个无偏估计，由定理 3, 7
知,)|?( 1 TE ? 和 )|?( 2 TE ? 也是 ? 的无偏估计,
即对一切 ???,有
??? ?)]|?([ 1 TEE, ??? ?)]|?([ 2 TEE （ 3.19 ）
上一页 下一页湘潭大学数学与计算科学学院 11
且 11 ?)]|?([ ?? ?? DTED ?,
22 ?)]|?([ ?? ?? DTED ? 。
由式（ 3.19 ）得
0)]|?()|?([ 21 ?? TETEE ???,对一切 ??? 。
由于 T 是完备统计量，由定义 2, 5 得
1))|?()|?(( 21 ?? TETEP ???,对一切 ???,
即 ? 的充分偏估计是惟一的。再由定理 3,7 知，
? ?TE |?? 1* ?? ? 是 ? 的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 12
注意, 定理 3,9 提供了一种寻求 ? 的最小方差无偏估
计量的方法，即先找到 ? 的一个充分完备统计量
12
(,,,)
n
T T X X X? L 和一个无偏估计
?
?
，再求条件数学期
望
?
( | )ET ?
即可。 例如，对泊松总体
()P ?
，由例 2.9
SX
是参数 ? 的充分完备统计量且又是
?
的一个无偏估
计，所以
( | )E X X X?
是
?
的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 13
例 3,2 0 设总体
22
12
~ (,),(,),(,,,)
n
X N X X X? ? ? ? ?? L 为其
样本，由例 2,10,
2
(,)
n
T X S? 是
2
(,)? ? ?? 的充分完备
统计量，又
2
,
n
XS
?
分别为 ? 和
2
? 的无偏估计，于是，
由定理 3,8
? ( | )E X T X? ??
,
22
2?
( | )
nn
E S T S?
??
??
。
分别是 ? 和
2
? 惟一的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 14
例 3,2 1 设 12(,,,)nX X XL 是来自总体 X 服从区间 ( 0,)?
上均匀分布的一个样本。 求 ? 的最小方差无偏估计。
解 样本的联合分布为
12
1
1
1
,0,,,,
( ) ( )
0,,
n
n
n
ii
i
x x x
L f x
?
? ??
?
?
???
?? ?
?
?
?
?
L
其 他
( 1 ) ( )
( 0,) ( )
1
,0
( ),
0,,
n n
n
xx
Ix ?
?
?? ?
?
? ? ??
???
?? 其 他
上一页 下一页湘潭大学数学与计算科学学院 15
其中 ( 1 )x, () nx 为最小、最大次序统计量的取值,( 0,) ()Ix ? 为
示性函数，即
( 0,)
1 0
()
0,
x
Ix
?
????
? ?
? 其 他
由因子分解定理 2,3 知,() nX 是 ? 的充分统计量。 其分布
密度为
()
1
,0< <,
()
0,.
n
n
n
X
n
xx
fx
?
?
??
?
? ?
?
? 其 他
上一页 下一页湘潭大学数学与计算科学学院 16
易验证该分布族是完备的，因而 ()nX 是 ? 的充分完
备统计量。
又因
()
0
,
1
n
n n
nn
E X x d x
n
?
?
?
??
??
即 ()
1
n
n X
n
?
是 ? 的一个无偏估计，故由定理 3,8,
( ) ( ) ( )
11
|n n n
nn
E X X X
nn
????
???
??
是 ? 的最小方差无偏估计。
§ 3.3 最小方差无偏估计
最小方差无偏估计和有效估计是在某种意义下的最
优估计，两者既有区别又有密切的关系。如果求出
参数 ? 的一个估计量 ??,判别其是否为最小方差无偏
估计或有效估计，显然具有重要的意义。倘若能直
接求出参数 ? 的最小方差无偏估计或有效估计，则
将更加令人满意，本节将研究这些问题。
上一页 下一页湘潭大学数学与计算科学学院 2
一、最小方差无偏估计
由定义 3.4知，最小方差无偏估计（ MVUE）是在
无偏估计类中，使均方误差达到最小的估计量，即在
均方误差最小意义下的最优估计。它是在应用中，人
们希望寻求的一种估计量。
定理 3,7 设 )(? X? 是 ? 的一个无偏估计,??? ?D,若
对任何满足条件,??? )(,0)( XDLXEL 的统计量 )( XL,
有
0)](?)([ ?XXLE ?,
则 )(
? X?
是 ? 的 MVUE 。共中 ),,,(
21 n
XXXX ?? 。
上一页 下一页湘潭大学数学与计算科学学院 3
证明 设 )(? 1 X? 是 ? 的 任 一 无 偏 估 计, 记
)(?)(?)( 1 XXXL ?? ??,则 )( XL 为 0 的无偏估计，由于 ? ?
)](?)(?) ] [()([2
)(?)( )](?)([)(?
1
XEXXELXLE
XDXDLXXLDXD
??
???
???
????
)(?)(?)( XDXDXDL ?? ???,
故 )(? X? 是 ? 的 M V U E 。
上一页 下一页湘潭大学数学与计算科学学院 4
上一页 下一页湘潭大学数学与计算科学学院 5
例 3,1 9 设 ),,,(
21 n
XXXX ?? 是来自正态总体
),(
2
??N 的一个样本，已知 X 和
2
?
n
S 分别是 ? 和
2
? 的无偏
估计，证明 X 和
2
?
n
S 分别是 ? 和
2
? 的 M V U E 。
证明 设 )( XL 满足 0)( ?XEL,则有
? ? ? ??????? ???
?
0)(2 1e x p
1
2
2 dxxL
n
i
i ??? 。 （ 3, 1 5 ）
上式关于 ? 求导，得
? ? ?? ???
?
?
?
?
??
??
0)(
2
1
e x p)(
1
2
2
1
dxxxL
n
i
i
n
i
i
?
?
?,
上一页 下一页湘潭大学数学与计算科学学院 6
故有
? ? 0)( ?XXLE,
所以 X 是 ? 的 M V U E 。
式（ 3, 1 5 ）关于 ? 求二阶导数，得
? ? ?? ??????? ??
??
0)(2 1e x p)(
1
2
2
2
1
dxxxL
n
i
i
n
i
i ??? 式（ 3.15 ）关于 2? 求导，得
? ? ?? ???
?
?
?
?
???
??
0)(
2
1
e x p)(
1
2
2
2
1
dxxxL
n
i
i
n
i
i
?
?
?? 。
上一页 下一页湘潭大学数学与计算科学学院 7
利用 2
1
2
1
2 )()()( ?? ????? ??
??
xnxxx
n
i
i
n
i
i,可得
? ? ?? ??????? ???
??
0)(
2
1ex p)(
1
2
2
2
1
dxxxxL
n
i
i
n
i
i ???,
故有
? ? 0)( 2 ??nSXLE
所以 2?nS 是 2? 的 M V U E 。
上一页 下一页湘潭大学数学与计算科学学院 8
定理 3.7给出了最小方差无偏估计的一种判别方法，
但由上例可见，该判别法使用并不方便，而且还只是一
个充分条件。为了寻求更好的方法，需要借助充分统计
量甚至充分完备统计量的概念。
定理 3.8 设总体 X 的分布函数为 ???? ),;( xF 是未
知参数,),,(
21 n
XXX ? 是来自总体 X 的一个样本。 如果
),,(
21 n
XXXTT ?? 是 ? 的充分统计量,?
?
是 ? 的任一无
偏估计，记
)|
?
(
?
TE ??
?
?
，则有
?? ?
?
?
E,对一切 ???, （ 3.16 ）
??
??
DD ?
?
，对一切 ???, （ 3.17 ）
即
?
?
?
是
?
的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 9
由于 )|
?
(
?
TE ?? ?
?
仍然是充分统计量且作为 ? 的估计量，
可称之为 充分估计量,上述定理表明，要寻找 ? 的最小方
差无偏估计，无需在无偏的充分估计量类中寻找就足 够
了。 假若 ? 的充分无偏估计量是惟一的，则这个充分无偏
估计量就一定是最小方差无偏估计量。那么，在什么情况
下，它才是惟一的呢？显然，如果它又是完备统计量，便
可保证其惟一性。
上一页 下一页湘潭大学数学与计算科学学院 10
定理 3.9 设总体 X 的分布函数为,),;( ????xF
),,,(
21 n
XXX ? 为其样本，若 ),,(
21 n
XXXTT ?? 是? 的
充分完备统计量,?
?
为 ? 的一个无偏估计，则
)|?(? TE ??
?
?
（ 3.18 ）
为 ? 的惟一的最小方差无偏估计。
证明 设 1?? 和 2?? 是 ? 的任意两个无偏估计，由定理 3, 7
知,)|?( 1 TE ? 和 )|?( 2 TE ? 也是 ? 的无偏估计,
即对一切 ???,有
??? ?)]|?([ 1 TEE, ??? ?)]|?([ 2 TEE （ 3.19 ）
上一页 下一页湘潭大学数学与计算科学学院 11
且 11 ?)]|?([ ?? ?? DTED ?,
22 ?)]|?([ ?? ?? DTED ? 。
由式（ 3.19 ）得
0)]|?()|?([ 21 ?? TETEE ???,对一切 ??? 。
由于 T 是完备统计量，由定义 2, 5 得
1))|?()|?(( 21 ?? TETEP ???,对一切 ???,
即 ? 的充分偏估计是惟一的。再由定理 3,7 知，
? ?TE |?? 1* ?? ? 是 ? 的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 12
注意, 定理 3,9 提供了一种寻求 ? 的最小方差无偏估
计量的方法，即先找到 ? 的一个充分完备统计量
12
(,,,)
n
T T X X X? L 和一个无偏估计
?
?
，再求条件数学期
望
?
( | )ET ?
即可。 例如，对泊松总体
()P ?
，由例 2.9
SX
是参数 ? 的充分完备统计量且又是
?
的一个无偏估
计，所以
( | )E X X X?
是
?
的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 13
例 3,2 0 设总体
22
12
~ (,),(,),(,,,)
n
X N X X X? ? ? ? ?? L 为其
样本，由例 2,10,
2
(,)
n
T X S? 是
2
(,)? ? ?? 的充分完备
统计量，又
2
,
n
XS
?
分别为 ? 和
2
? 的无偏估计，于是，
由定理 3,8
? ( | )E X T X? ??
,
22
2?
( | )
nn
E S T S?
??
??
。
分别是 ? 和
2
? 惟一的最小方差无偏估计。
上一页 下一页湘潭大学数学与计算科学学院 14
例 3,2 1 设 12(,,,)nX X XL 是来自总体 X 服从区间 ( 0,)?
上均匀分布的一个样本。 求 ? 的最小方差无偏估计。
解 样本的联合分布为
12
1
1
1
,0,,,,
( ) ( )
0,,
n
n
n
ii
i
x x x
L f x
?
? ??
?
?
???
?? ?
?
?
?
?
L
其 他
( 1 ) ( )
( 0,) ( )
1
,0
( ),
0,,
n n
n
xx
Ix ?
?
?? ?
?
? ? ??
???
?? 其 他
上一页 下一页湘潭大学数学与计算科学学院 15
其中 ( 1 )x, () nx 为最小、最大次序统计量的取值,( 0,) ()Ix ? 为
示性函数，即
( 0,)
1 0
()
0,
x
Ix
?
????
? ?
? 其 他
由因子分解定理 2,3 知,() nX 是 ? 的充分统计量。 其分布
密度为
()
1
,0< <,
()
0,.
n
n
n
X
n
xx
fx
?
?
??
?
? ?
?
? 其 他
上一页 下一页湘潭大学数学与计算科学学院 16
易验证该分布族是完备的，因而 ()nX 是 ? 的充分完
备统计量。
又因
()
0
,
1
n
n n
nn
E X x d x
n
?
?
?
??
??
即 ()
1
n
n X
n
?
是 ? 的一个无偏估计，故由定理 3,8,
( ) ( ) ( )
11
|n n n
nn
E X X X
nn
????
???
??
是 ? 的最小方差无偏估计。
