Ch7-46
§ 7.2 点估计的评价标准
对于同一个未知参数,不同的方法得
到的估计量可能不同,于是提出问题
应该选用哪一种估计量?
用何标准来评价一个估计量的好坏?
常用
标准
(1) 无偏性
(3) 一致性
(2) 有效性
Ch7-47
?? ?)?(E
定义 设 ),,,(
21 nXXX ?
是总体 X 的样本
是 总体 参数 ?的估计量 ),,,(? 21 nXXX ?? ?? ?
则称 ?? 是 ? 的无偏估计量,
存在,)?(?E Θ?? 都有且对于任意
无偏性
Ch7-48
),,,( 21 nXXX ? 是总体 X 的样本,
证明, 不论 X 服从什么分布,?
?
?
n
i
k
ik XnA
1
1
是 k? 的无偏估计量,
证
??
??
??
n
i
k
i
n
i
k
ik XEnXnEAE
11
)(1)1()(
例 1 设总体 X 的 k 阶矩 )( k
k XE?? 存在
因而 niXE
k
k
i,,2,1)( ??? ?
由于
kknn ?? ????
1
Ch7-49
特别地
样本二阶原点矩 ?
?
?
n
i
iXnA
1
2
2
1 是总体
是总体期望 E( X ) 的X样本均值
无偏估计量
的无偏 )( 2
2 XE??
二阶原点矩
估计量
Ch7-50
例 2 设总体 X 的期望 与方差存在,X 的
),,,( 21 nXXX ?样本为 (n > 1),
(1) 不是 D( X )的无偏估量 ; ?
?
??
n
i
in XXnS
1
22 )(1
(2) 是 D( X ) 的无偏估计量, ?
?
?
?
?
n
i
i XXnS
1
22 )(
1
1
证 2
1
2
1
2 1)(1 XX
n
XX
n
n
i
i
n
i
i ??? ??
??
前已证
证明
2)()(,)()( ?? ???? XDXDXEXE ii
nXDXEXE
2
)(,)()( ?? ???
Ch7-51
)()(1)(1 2
1
2
1
2 XEXE
n
XX
n
E
n
i
i
n
i
i ????
??
?
? ? ??
??
因而
)()( 2
2
22 ???? ????
n
221 ?? ???
n
n
2
1
2)(
1
1
???
?
?
?
?
?
?
? ??
n
i
i XXnE
故 证毕,
Ch7-52
例 3 设 ),,,(
21 mXXX ? 是总体 X 的一个样本,
X~B(n,p) n > 1,求 p 2 的无偏估计量,
解 由于样本矩是总体矩的无偏估计量
以及数学期望的线性性质,只要将未知
参数表示成总体矩的线性函数,然后用样
本矩作为总体矩的估计量,这样得到的未
知参数的估计量即为无偏估计量,
npXEX ?? )(令
)1()()(1 22
1
2 pnpnpXEX
m
m
i
i ?????
?
Ch7-53
?
?
??
?
? ?
?
? ?
?
?
XX
mnn
p
m
i
i
1
2
2
2 11
因此,p 2 的无偏估计量为
)1(
)1(
1
1
?
?
?
?
?
nn
XX
m
m
i
ii
故 XX
m
pnn
m
i
i ??? ?
? 1
222 1)(
Ch7-54例 4 设总体 X 的密度函数为
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
0?? 为常数
),,,( 21 nXXX ? 为 X 的一个样本
证明 X 与 },,,m in { 21 nXXXn ?都是 ? 的无偏
估计量
证 ?? ???
??
?
? )(1~ XEEX
故 ??? )()( XEXE
是 ? 的无偏估计量,X
Ch7-55
},,,m in { 21 nXXXZ ??令
??
?
?
?
?
?
? ?
0
00
)(
ze
n
z
zf nzZ
?
?
即 nZE
nEZ ?
? ???
??
?
? )(~
??
?
?
?
??
?
? ?
01
00
ze
z
nz
?
??)( nZE
故 n Z 是 ? 的无偏估计量,
)()()(1 21 zXPzXPzXP n ????? ?
?
?
????
n
i
i zXP
1
))(1(1
),,,(1)( 21 zXzXzXPzF nZ ????? ?
Ch7-56
),,,(? 2111 nXXX ??? ?
都是总体参数 ?的无偏估计量,且
)?()?( 21 ?? DD ?
则称 比 更有效,
1?? 2
??
定义 设
有效性
),,,(? 2122 nXXX ??? ?
Ch7-57
所以,X 比 },,,m in {
21 nXXXn ?更有效,
是 ?的无偏估计量,问哪个估计量更有效?
X },,,m in { 21 nXXXn ?由例 4可知,与 都
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
0?? 为常数
例 5 设总体 X 的密度函数为
221 }),,,m in {( ??nXXXnD ?nXD
2
)( ??解,
Ch7-58
例 6 设总体 X,且 E( X )=?,D( X )=? 2
),,,( 21 nXXX ? 为总体 X 的一个样本
证明
i
n
i
i Xc?
?
?
1
1??
是 ? 的无偏估计量
(2) 证明 X??? 比
i
n
i
i Xc?
?
?
1
1??
更有效
证 (1) ??? ??? ??
??
n
i
ii
n
i
i cXEcE
11
1 )()?(
.1
1
??
?
n
i
ic,,,2,1
1 ni
n
c i ???(1) 设常数
Ch7-59
(2) ??
??
??
n
i
ii
n
i
i cXDcD
1
22
1
2
1 )()?( ??
? ? ?
? ? ? ? ?
? ? ?
?
? ?
?
? ?
n j i
j i
n
i
i
n
i
ic c c c
1 1
2
2
1
2 1而
n
c
n
i
i
1
1
2 ??
? )?(
1)?(
1
2 ??? D
n
D ??
???
?????
????
n
i
i
nji
ji
n
i
i cnccc
1
2
1
22
1
2 )(
结论 算术均值比加权均值更有效,
Ch7-60
例如 X ~ N( ?,? 2 ),( X 1,X 2 ) 是一样本,
213
212
211
2
1
2
1
?
4
3
4
1
?
3
1
3
2
?
XX
XX
XX
??
??
??
?
?
?
都是 ?的 无偏估计量
由例 6(2) 知
3??
最有效,
Ch7-61
罗 — 克拉美 ( Rao – Cramer) 不等式
若 ?? 是参数 ? 的无偏估计量,则
)(
),(ln
1
)?( 0
2
?
?
?
? D
XpnE
D ?
?
?
?
?
?
?
?
?
?
其中 p ( x,? ) 是 总体 X 的概率分布或密
度函数,称 为方差的下界,)(0 ?D
)()?( 0 ?? DD ?当 时,称 为达到方差下界的
无偏估计量,此时称 为最有效的估计量,
简称有效估计量,
??
??
Ch7-62例 7 设总体 X 的密度函数为
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
),,,( 21 nxxx ? 为 X 的一个样本值,
求 ?的 极大似然估计量,并判断它是否达到
方差下界的无偏估计量,
0?? 为常数
解 由似然函数
?
?
?
?
?
??
n
i
ix
n
eL
11
)(
?
??
?
??? ?
n
i
ix
nL 1ln)(ln
Ch7-63
2
1)(ln
d
d
??
?
?
?
??? ?
n
i
ixn
L0令?
xx
n
n
i
i ???
? 1
1??
?的极大似然估计量为
XX
n
n
i
i ???
? 1
1??
它是 ?的无偏估计量,
n
X
n
DD
n
i
i
2
1
)1()?( ?? ?? ?
?
Ch7-64
而 ???
xxf ??? ln),(ln
故 是达到方差下界的无偏估计量,X
2
2
2 1
),(ln ?
?
?
??
? ???
??
?
??
?
?
?
??
?
?
xxf
2
2
2 1
),(ln ?
?
?
??
? ???
??
?
??
?
?
?
??
?
?
XEXfE
2
1
?? n
XfnE
2
2
),(ln
1 ?
?
?
?
??
?
??
?
?
?
)( XD?
Ch7-65
0))?(lim ???
??
???P
n
定义 设 是总体参数 ? ),,,(??
21 nXXX ??? ?
则称 ?? 是总体参数 ?的一致 (或相合 )估计量,
的估计量, 若对于任意的 ???,当 n??时,
一致性
?? 依概率收敛于 ?,即,0?? ?
一致性估计量仅在样本容量
n 足够大时,才显示其优越性,
Ch7-66
关于一致性的两个常用结论
1,样本 k 阶矩是总体 k
阶矩的一致性估计量,
是 ? 的一致估计量,??
由大数定律证明
用切贝雪夫不
等式证明
矩法得到的估计量一般为一致估计量
在一定条件下,极大似然估计具有一致性
2,设 是 ? 的无偏估计
量,且,则 0)?(lim ?
?? ?Dn
??
Ch7-67
例 8
?
?
?
?
?
?
?
?
?
00
,0
1
);(~
x
xe
xfX
x
?
??
0?? 为常数
则 是 ? 的无偏、有效、一致估计量,X
证 由例 7 知 是 ? 的无偏、有效估计量,X
?
??
)(lim XD
n
0lim
2
?
?? nn
?
所以 是 ? 的一致估计量,证毕,X
Ch7-68
作业 P.231 习题七
15 16
18 20
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
Ch7-69
某水产养殖场两年前在人工湖中
混养了黑, 白两种鱼, 现在需要对黑
白鱼数目的比例进行估计,
提示,分别用矩法与极大似然估计法
解决此问题,
如何估计湖中黑、白鱼的比例
第 13周 问 题
Ch7-70
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||解
注意到 XX
i ?
是 X1,X2,…,Xn 的线性函数,
? ?nii XXnXX
n
XX ???????? ?? )1(1 21
,0)( ?? XXE i 21)( ?nnXXD i ???
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
Ch7-71 ?
?
?
?
?
? ?? 21,0~ ?
n
nNXX
i
dze
n
n
zXXE n
n
z
i
2
2
1
2
1
2
1
|||)(|
?
??
?
?
??
??? ?
??
dze
n
n
z n
n
z
2
2
1
2
0 1
2
1
2
?
??
?
?
??
?
?
?
?
? n
n 1
2
2 ??
Ch7-72
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||
故
?
? n
nkn 1
2
2 ??
?
令
?
)1(2 ?
?
nn
k
?
Ch7-73
§ 7.2 点估计的评价标准
对于同一个未知参数,不同的方法得
到的估计量可能不同,于是提出问题
应该选用哪一种估计量?
用何标准来评价一个估计量的好坏?
常用
标准
(1) 无偏性
(3) 一致性
(2) 有效性
Ch7-47
?? ?)?(E
定义 设 ),,,(
21 nXXX ?
是总体 X 的样本
是 总体 参数 ?的估计量 ),,,(? 21 nXXX ?? ?? ?
则称 ?? 是 ? 的无偏估计量,
存在,)?(?E Θ?? 都有且对于任意
无偏性
Ch7-48
),,,( 21 nXXX ? 是总体 X 的样本,
证明, 不论 X 服从什么分布,?
?
?
n
i
k
ik XnA
1
1
是 k? 的无偏估计量,
证
??
??
??
n
i
k
i
n
i
k
ik XEnXnEAE
11
)(1)1()(
例 1 设总体 X 的 k 阶矩 )( k
k XE?? 存在
因而 niXE
k
k
i,,2,1)( ??? ?
由于
kknn ?? ????
1
Ch7-49
特别地
样本二阶原点矩 ?
?
?
n
i
iXnA
1
2
2
1 是总体
是总体期望 E( X ) 的X样本均值
无偏估计量
的无偏 )( 2
2 XE??
二阶原点矩
估计量
Ch7-50
例 2 设总体 X 的期望 与方差存在,X 的
),,,( 21 nXXX ?样本为 (n > 1),
(1) 不是 D( X )的无偏估量 ; ?
?
??
n
i
in XXnS
1
22 )(1
(2) 是 D( X ) 的无偏估计量, ?
?
?
?
?
n
i
i XXnS
1
22 )(
1
1
证 2
1
2
1
2 1)(1 XX
n
XX
n
n
i
i
n
i
i ??? ??
??
前已证
证明
2)()(,)()( ?? ???? XDXDXEXE ii
nXDXEXE
2
)(,)()( ?? ???
Ch7-51
)()(1)(1 2
1
2
1
2 XEXE
n
XX
n
E
n
i
i
n
i
i ????
??
?
? ? ??
??
因而
)()( 2
2
22 ???? ????
n
221 ?? ???
n
n
2
1
2)(
1
1
???
?
?
?
?
?
?
? ??
n
i
i XXnE
故 证毕,
Ch7-52
例 3 设 ),,,(
21 mXXX ? 是总体 X 的一个样本,
X~B(n,p) n > 1,求 p 2 的无偏估计量,
解 由于样本矩是总体矩的无偏估计量
以及数学期望的线性性质,只要将未知
参数表示成总体矩的线性函数,然后用样
本矩作为总体矩的估计量,这样得到的未
知参数的估计量即为无偏估计量,
npXEX ?? )(令
)1()()(1 22
1
2 pnpnpXEX
m
m
i
i ?????
?
Ch7-53
?
?
??
?
? ?
?
? ?
?
?
XX
mnn
p
m
i
i
1
2
2
2 11
因此,p 2 的无偏估计量为
)1(
)1(
1
1
?
?
?
?
?
nn
XX
m
m
i
ii
故 XX
m
pnn
m
i
i ??? ?
? 1
222 1)(
Ch7-54例 4 设总体 X 的密度函数为
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
0?? 为常数
),,,( 21 nXXX ? 为 X 的一个样本
证明 X 与 },,,m in { 21 nXXXn ?都是 ? 的无偏
估计量
证 ?? ???
??
?
? )(1~ XEEX
故 ??? )()( XEXE
是 ? 的无偏估计量,X
Ch7-55
},,,m in { 21 nXXXZ ??令
??
?
?
?
?
?
? ?
0
00
)(
ze
n
z
zf nzZ
?
?
即 nZE
nEZ ?
? ???
??
?
? )(~
??
?
?
?
??
?
? ?
01
00
ze
z
nz
?
??)( nZE
故 n Z 是 ? 的无偏估计量,
)()()(1 21 zXPzXPzXP n ????? ?
?
?
????
n
i
i zXP
1
))(1(1
),,,(1)( 21 zXzXzXPzF nZ ????? ?
Ch7-56
),,,(? 2111 nXXX ??? ?
都是总体参数 ?的无偏估计量,且
)?()?( 21 ?? DD ?
则称 比 更有效,
1?? 2
??
定义 设
有效性
),,,(? 2122 nXXX ??? ?
Ch7-57
所以,X 比 },,,m in {
21 nXXXn ?更有效,
是 ?的无偏估计量,问哪个估计量更有效?
X },,,m in { 21 nXXXn ?由例 4可知,与 都
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
0?? 为常数
例 5 设总体 X 的密度函数为
221 }),,,m in {( ??nXXXnD ?nXD
2
)( ??解,
Ch7-58
例 6 设总体 X,且 E( X )=?,D( X )=? 2
),,,( 21 nXXX ? 为总体 X 的一个样本
证明
i
n
i
i Xc?
?
?
1
1??
是 ? 的无偏估计量
(2) 证明 X??? 比
i
n
i
i Xc?
?
?
1
1??
更有效
证 (1) ??? ??? ??
??
n
i
ii
n
i
i cXEcE
11
1 )()?(
.1
1
??
?
n
i
ic,,,2,1
1 ni
n
c i ???(1) 设常数
Ch7-59
(2) ??
??
??
n
i
ii
n
i
i cXDcD
1
22
1
2
1 )()?( ??
? ? ?
? ? ? ? ?
? ? ?
?
? ?
?
? ?
n j i
j i
n
i
i
n
i
ic c c c
1 1
2
2
1
2 1而
n
c
n
i
i
1
1
2 ??
? )?(
1)?(
1
2 ??? D
n
D ??
???
?????
????
n
i
i
nji
ji
n
i
i cnccc
1
2
1
22
1
2 )(
结论 算术均值比加权均值更有效,
Ch7-60
例如 X ~ N( ?,? 2 ),( X 1,X 2 ) 是一样本,
213
212
211
2
1
2
1
?
4
3
4
1
?
3
1
3
2
?
XX
XX
XX
??
??
??
?
?
?
都是 ?的 无偏估计量
由例 6(2) 知
3??
最有效,
Ch7-61
罗 — 克拉美 ( Rao – Cramer) 不等式
若 ?? 是参数 ? 的无偏估计量,则
)(
),(ln
1
)?( 0
2
?
?
?
? D
XpnE
D ?
?
?
?
?
?
?
?
?
?
其中 p ( x,? ) 是 总体 X 的概率分布或密
度函数,称 为方差的下界,)(0 ?D
)()?( 0 ?? DD ?当 时,称 为达到方差下界的
无偏估计量,此时称 为最有效的估计量,
简称有效估计量,
??
??
Ch7-62例 7 设总体 X 的密度函数为
?
?
?
?
?
?
?
?
?
00
,0
1
);(
x
xe
xf
x
?
??
),,,( 21 nxxx ? 为 X 的一个样本值,
求 ?的 极大似然估计量,并判断它是否达到
方差下界的无偏估计量,
0?? 为常数
解 由似然函数
?
?
?
?
?
??
n
i
ix
n
eL
11
)(
?
??
?
??? ?
n
i
ix
nL 1ln)(ln
Ch7-63
2
1)(ln
d
d
??
?
?
?
??? ?
n
i
ixn
L0令?
xx
n
n
i
i ???
? 1
1??
?的极大似然估计量为
XX
n
n
i
i ???
? 1
1??
它是 ?的无偏估计量,
n
X
n
DD
n
i
i
2
1
)1()?( ?? ?? ?
?
Ch7-64
而 ???
xxf ??? ln),(ln
故 是达到方差下界的无偏估计量,X
2
2
2 1
),(ln ?
?
?
??
? ???
??
?
??
?
?
?
??
?
?
xxf
2
2
2 1
),(ln ?
?
?
??
? ???
??
?
??
?
?
?
??
?
?
XEXfE
2
1
?? n
XfnE
2
2
),(ln
1 ?
?
?
?
??
?
??
?
?
?
)( XD?
Ch7-65
0))?(lim ???
??
???P
n
定义 设 是总体参数 ? ),,,(??
21 nXXX ??? ?
则称 ?? 是总体参数 ?的一致 (或相合 )估计量,
的估计量, 若对于任意的 ???,当 n??时,
一致性
?? 依概率收敛于 ?,即,0?? ?
一致性估计量仅在样本容量
n 足够大时,才显示其优越性,
Ch7-66
关于一致性的两个常用结论
1,样本 k 阶矩是总体 k
阶矩的一致性估计量,
是 ? 的一致估计量,??
由大数定律证明
用切贝雪夫不
等式证明
矩法得到的估计量一般为一致估计量
在一定条件下,极大似然估计具有一致性
2,设 是 ? 的无偏估计
量,且,则 0)?(lim ?
?? ?Dn
??
Ch7-67
例 8
?
?
?
?
?
?
?
?
?
00
,0
1
);(~
x
xe
xfX
x
?
??
0?? 为常数
则 是 ? 的无偏、有效、一致估计量,X
证 由例 7 知 是 ? 的无偏、有效估计量,X
?
??
)(lim XD
n
0lim
2
?
?? nn
?
所以 是 ? 的一致估计量,证毕,X
Ch7-68
作业 P.231 习题七
15 16
18 20
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
Ch7-69
某水产养殖场两年前在人工湖中
混养了黑, 白两种鱼, 现在需要对黑
白鱼数目的比例进行估计,
提示,分别用矩法与极大似然估计法
解决此问题,
如何估计湖中黑、白鱼的比例
第 13周 问 题
Ch7-70
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||解
注意到 XX
i ?
是 X1,X2,…,Xn 的线性函数,
? ?nii XXnXX
n
XX ???????? ?? )1(1 21
,0)( ?? XXE i 21)( ?nnXXD i ???
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
Ch7-71 ?
?
?
?
?
? ?? 21,0~ ?
n
nNXX
i
dze
n
n
zXXE n
n
z
i
2
2
1
2
1
2
1
|||)(|
?
??
?
?
??
??? ?
??
dze
n
n
z n
n
z
2
2
1
2
0 1
2
1
2
?
??
?
?
??
?
?
?
?
? n
n 1
2
2 ??
Ch7-72
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||
故
?
? n
nkn 1
2
2 ??
?
令
?
)1(2 ?
?
nn
k
?
Ch7-73