§ 7.2 估计量的评价标准
上一节我们看到,对于总体 X的同一个
未知参数,由于采用的估计方法不同,可
能会产生多个不同的估计量.这就提出一
个问题,当总体的一个参数存在不同的估
计量时,究竟采用哪一个好呢?或者说怎
样评价一个估计量的统计性能呢?下面给
出几个常用的评价准则.
一.无偏性
对于待估参数,不同的样本值就会得到不同
的估计值.这样,要确定一个估计量的好坏,就
不能仅仅依据某次抽样的结果来衡量,而必须由
大量抽样的结果来衡量.对此,一个自然而基本
的衡量标准是要求估计量无系统偏差.也就是说,
尽管在一次抽样中得到的估计值不一定恰好等于
待估参数的真值,但在大量重复抽样时,所得到
的估计值平均起来应与待估参数的真值相同.换
句话说,我们希望估计量的均值(数学期望)应
等于未知参数的真值,这就是所谓 无偏性
(Unbiasedness)的要求.
定义 7.1 设是来自总体 X的一个样本,? ?nXXX,,,?? 21 ??? ?
是总体参数 的一个估计量,若
( 7-7)
则称 是 的 无偏估计量 (Unbiased
Estimator).
一个估计量如果不是无偏的就称它是
有偏估计量, 称为估计量 的 偏差,
无偏估计的实际意义就是无系统偏差.估
计量是否无偏是评价估计量好坏的一个重
要标准.
若,但有,则称 是
的 渐近无偏估计,
?
?? ??E
?? ?
?? ??E ??
?? ??E
?? ?
??
?lim E
n
?? ?
二.有效性
比较两个无偏估计量优劣的一个重要
标准就是观察它们哪一个取值更集中于待
估参数的真值附近,即哪一个估计量的方
差更小,这就是下面给出的 有效性
(Effectiveness)概念.
定义 7.2 设 与 都是总
体参数 的无偏估计,若 ( 7-8)
则称 比 更有效,
? ?nXXX,,,?? 2111 ??? ? ? ?nXXX,,,?? 2122 ??? ?
? ? ? ? ?21 ?? ?? DD ?
1?? 2??
三,相合性
在 的所有无偏估计量中,如果存在
一个估计量,它的方差最小,则此估计
量应当最好,并称此估计量 为 的 最
小方差无偏估计,也称其为 最有效的,可
以证明,对于正态总体, 是
的最小方差无偏估计.有效性的意义是,
用 估计 时,除无系统偏差外,还
需考虑估计的精度.
?
0??
0?? ?
? ?2,??N
2,SX 2,??
??
?
估计量 的无偏性和有效性都是在样
本容量 n固定的情况下讨论的.由于估计量
和样本容量 n有关,我们自然希望当 n很大
时,一次抽样得出的的 值能以很大的概
率充分接近被估参数,这就提出了 相合
性 (Consistency)(一致性)的要求.
定义 7.3 设 是总体参数 的估计
量,如果对任意 都有
( 7-9)
则称 是 的 相合估计量 (或 一致估计量 )
??
??
??
?
),,,(?? 21 nXXX ??? ? ?
0??
? ? 1?lim ?????? ???Pn
?? ?
由第五章定义 5.2及( 7-9)知,是
的相合估计就意味着 依概率收敛于,
根据大数定律,无论总体 X服从什么分布,
只要其 k阶原点矩 存在,则对任意
都有
所以样本的 k阶原点矩 始终是总
体 k阶原点矩 的相合估计, 进一步地,可
以证明:只要相应的总体矩存在,矩估计
必定是相合估计.特别地,总是
的相合估计,样本方差 和样本的二阶中
??
??
?
?
kk EX?? 0??
11lim
1
?
??
?
??
? ???
???
?
n
i
kk
in EXXnP
?
?
?
n
i
k
ik XnA
1
1
k?
X??? EX??
2S
心矩 都是总体方差 的相合估计,
和 又都是 的相合估计.
由相合性定义可以看出,若 是 的
相合估计,当样本容量很大时,一次抽样
得到的 值便可作为 的较好近似值.
2
nS
2? S
nS ?
??
??
?
?