第七章习题课
极大似然估计具有不变性,矩估计问题 1
是否也具有?
否,答
例如 X 服从反射正态分布,其 p.d.f.为
?
?
?
?
?
?
?
?
?
00
0
12
)(
2
2
2
x
xe
xf
x
?
??
现用矩法分别对 和 作估计? 2?
设( X1,X2,…,Xn ) 为总体的样本
7-37
2)/21()( ????XD
由矩法,令
?
?
????
n
i
iXnXEXDXE
1
2222 1)()()( ?
XXE ?? ??/2)(
?
?
?
?
n
i
iXn
1
22 1?
X2/? ?? ?
22 )?(?? ??
?
所以 矩估计 不具有不变性
分别得 矩
估计量为
,/2)( ???XE,)( 22 ??XE
问题 2 似然方程的解都是极大似然估计吗?
不尽然,答
例如 X 服从柯西 (Cauchy)分布,其 p.d.f.为
])(1[
1);(
2??? ??? xxf
????? x
1?n当 时,似然函数为
])(1[
1)(
2
1 ??
?
??
?
x
L
7-38
])(1l n [ln)(ln 21 ??? ????? xL
2?n当 时,似然函数为
此时,对数似然方程为
0
)(1
)(2ln
2
1
1 ?
??
??
?
?
? x
x
d
Ld
1? X??
故 是 极大似然估计,?
])(1][)(1[
1)(
2
2
2
1
2 ???? ????? xxL
(1)
7-38
要使 达到最大,只要 (1)的分母最小)(?L
令 ])(1][)(1[)( 2
2
2
1 ??? ????? xxf
由 ?????? )2(2)( 21 ?? xxf
0]1)([ 21212 ?????? xxxx ??
解得三个解,2/)(
211 XX ???
2/]4)()[( 221213,2 ????? XXXX?
(2)
通过 的正负可判得,)( ?f ??
7-38
而无论发生何种情况,似然方程 (2)
极大似然估计;
当 为 的极大似然估计时,
1? ?
反之,当 为 的极大似
3,2? ?
然估计时,不是 的极大似然估计,
1? ?
3,2? ?
不是 的
的三个解不全是 的极大似然估计,?
7-16 ~ (,)X B n ?
令
2 2 2? //X n X n??? ? ? ?
()X E X n ???
22[ ( ) ( ) ] /D X E X n??
2 2 2 2 2( ) ( / ) ( ) /E E X n E X n? ??
? 2 2 2/.Xn? 的无偏估计量为
解一
./])(/)1([ 222 ???? ???? nnnn
?
~ (,)X B n ?令
?
解二 XnXE
i ?? ?)(
?
?
??
n
i
ii XEXDn
1
2 )]()([1
??
??
??
?
?
?
?
? n
i
i
n
i
i XEnXnE
1
2
1
2 )(11
2)()1( ??? nn ???
2)1( ???? nnX
)1(
)(
?
2
`1
2
2
?
?
?
?
?
nn
XX
n
i
ii
?
样本 容量为
何与分布的
参数 n 相同?
为 的无偏估计,2?
正确解 ~ (,)X B n ? 令
?
,)( XnXE i ?? ?
?
?
??
m
i
ii XEXDm
1
2 )]()([1
??
??
??
?
?
?
?
? m
i
i
m
i
i XEmXmE
1
2
1
2 )(11
2)()1( ??? nn ???
2)1( ???? nnX
)1(
)(
? `1
2
2
?
?
?
?
?
nmn
XX
m
i
ii
? 为 的无偏估计,2?
7-18
0)(
1
1
lim 2
1
2 ?
?
?
?
?
?
?
???
?
? ?
?
??
????
n
i
i
n n
P
? ??? ??
??
22lim SP
n
?
? 2S 2?是 的一致估计,
死套定义
等于没证!
,)1(~
)1( 2
2
2
2 ??? nSn ?
?
? )1(2)( 2 ?? nD ?
.
1
2
)1(
)1(2
1
)(
4
2
4
2
2
2
?
?
?
?
???
?
?
??
?
?
?
?
?
nn
n
n
DSD
??
?
?
证明
预备
工作
证一 由切贝雪夫不等式22 )( ??SE
)(0 22 ?? ??? SP
))(( 22 ???? SESP
)(0
)1(
2)(
2
4
2
2
???
?
?? n
n
SD
?
?
?
由极限的夹逼定理
? ? 0lim 22 ???
??
??SP
n
? 2S 2?是 的一致估计,
证二 22 )( ??SE ?
2S 2?是 的无偏估计,
)(lim 2SD
n ??
,0
1
2
lim
4
?
?
?
?? nn
?
由教材 P,219 例 14 结论得证,
7-20证,)( ??XE
?
22
2)(
2
1
),( ?
?
??
?
??
?
x
exf
22 2/)(ln2lnln ???? ????? xf
X ?是 的无偏估计,
? ? 24 2 1)(2ln ][ ?? ?? ?? ??? Xf EE
? ? )(/]/[1)( 22ln0 XDnnED f ??? ?? ?? ?
X ?是 的有效估计量,
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||解
注意到 XX
i ?
是 X1,X2,…,Xn 的线性函数,
? ?nii XXnXX
n
XX ???????? ?? )1(1 21
,0)( ?? XXE i 21)( ?nnXXD i ???
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
21~ 0,
i
n
X X N
n
?
???
? ??
??
dze
n
n
zXXE n
n
z
i
2
2
1
2
1
2
1
|||)(|
?
??
?
?
??
??? ?
??
dze
n
n
z n
n
z
2
2
1
2
0 1
2
1
2
?
??
?
?
??
?
?
?
?
? n
n 1
2
2 ??
11
| | | |
nn
ii
ii
E k X X k E X X
??
? ? ? ?
? ? ?? ? ? ?
? ? ? ?
??
故
?
? n
nkn 1
2
2 ??
?
令
?
)1(2 ?
?
nn
k
?
注 不少同学这样做却给打了,,
极大似然估计具有不变性,矩估计问题 1
是否也具有?
否,答
例如 X 服从反射正态分布,其 p.d.f.为
?
?
?
?
?
?
?
?
?
00
0
12
)(
2
2
2
x
xe
xf
x
?
??
现用矩法分别对 和 作估计? 2?
设( X1,X2,…,Xn ) 为总体的样本
7-37
2)/21()( ????XD
由矩法,令
?
?
????
n
i
iXnXEXDXE
1
2222 1)()()( ?
XXE ?? ??/2)(
?
?
?
?
n
i
iXn
1
22 1?
X2/? ?? ?
22 )?(?? ??
?
所以 矩估计 不具有不变性
分别得 矩
估计量为
,/2)( ???XE,)( 22 ??XE
问题 2 似然方程的解都是极大似然估计吗?
不尽然,答
例如 X 服从柯西 (Cauchy)分布,其 p.d.f.为
])(1[
1);(
2??? ??? xxf
????? x
1?n当 时,似然函数为
])(1[
1)(
2
1 ??
?
??
?
x
L
7-38
])(1l n [ln)(ln 21 ??? ????? xL
2?n当 时,似然函数为
此时,对数似然方程为
0
)(1
)(2ln
2
1
1 ?
??
??
?
?
? x
x
d
Ld
1? X??
故 是 极大似然估计,?
])(1][)(1[
1)(
2
2
2
1
2 ???? ????? xxL
(1)
7-38
要使 达到最大,只要 (1)的分母最小)(?L
令 ])(1][)(1[)( 2
2
2
1 ??? ????? xxf
由 ?????? )2(2)( 21 ?? xxf
0]1)([ 21212 ?????? xxxx ??
解得三个解,2/)(
211 XX ???
2/]4)()[( 221213,2 ????? XXXX?
(2)
通过 的正负可判得,)( ?f ??
7-38
而无论发生何种情况,似然方程 (2)
极大似然估计;
当 为 的极大似然估计时,
1? ?
反之,当 为 的极大似
3,2? ?
然估计时,不是 的极大似然估计,
1? ?
3,2? ?
不是 的
的三个解不全是 的极大似然估计,?
7-16 ~ (,)X B n ?
令
2 2 2? //X n X n??? ? ? ?
()X E X n ???
22[ ( ) ( ) ] /D X E X n??
2 2 2 2 2( ) ( / ) ( ) /E E X n E X n? ??
? 2 2 2/.Xn? 的无偏估计量为
解一
./])(/)1([ 222 ???? ???? nnnn
?
~ (,)X B n ?令
?
解二 XnXE
i ?? ?)(
?
?
??
n
i
ii XEXDn
1
2 )]()([1
??
??
??
?
?
?
?
? n
i
i
n
i
i XEnXnE
1
2
1
2 )(11
2)()1( ??? nn ???
2)1( ???? nnX
)1(
)(
?
2
`1
2
2
?
?
?
?
?
nn
XX
n
i
ii
?
样本 容量为
何与分布的
参数 n 相同?
为 的无偏估计,2?
正确解 ~ (,)X B n ? 令
?
,)( XnXE i ?? ?
?
?
??
m
i
ii XEXDm
1
2 )]()([1
??
??
??
?
?
?
?
? m
i
i
m
i
i XEmXmE
1
2
1
2 )(11
2)()1( ??? nn ???
2)1( ???? nnX
)1(
)(
? `1
2
2
?
?
?
?
?
nmn
XX
m
i
ii
? 为 的无偏估计,2?
7-18
0)(
1
1
lim 2
1
2 ?
?
?
?
?
?
?
???
?
? ?
?
??
????
n
i
i
n n
P
? ??? ??
??
22lim SP
n
?
? 2S 2?是 的一致估计,
死套定义
等于没证!
,)1(~
)1( 2
2
2
2 ??? nSn ?
?
? )1(2)( 2 ?? nD ?
.
1
2
)1(
)1(2
1
)(
4
2
4
2
2
2
?
?
?
?
???
?
?
??
?
?
?
?
?
nn
n
n
DSD
??
?
?
证明
预备
工作
证一 由切贝雪夫不等式22 )( ??SE
)(0 22 ?? ??? SP
))(( 22 ???? SESP
)(0
)1(
2)(
2
4
2
2
???
?
?? n
n
SD
?
?
?
由极限的夹逼定理
? ? 0lim 22 ???
??
??SP
n
? 2S 2?是 的一致估计,
证二 22 )( ??SE ?
2S 2?是 的无偏估计,
)(lim 2SD
n ??
,0
1
2
lim
4
?
?
?
?? nn
?
由教材 P,219 例 14 结论得证,
7-20证,)( ??XE
?
22
2)(
2
1
),( ?
?
??
?
??
?
x
exf
22 2/)(ln2lnln ???? ????? xf
X ?是 的无偏估计,
? ? 24 2 1)(2ln ][ ?? ?? ?? ??? Xf EE
? ? )(/]/[1)( 22ln0 XDnnED f ??? ?? ?? ?
X ?是 的有效估计量,
?
?
?
?
?
? ??
?
?
?
?
?
? ? ??
??
n
i
i
n
i
i XXEkXXkE
11
||||解
注意到 XX
i ?
是 X1,X2,…,Xn 的线性函数,
? ?nii XXnXX
n
XX ???????? ?? )1(1 21
,0)( ?? XXE i 21)( ?nnXXD i ???
补充题 设总体 X ~ N (?,? 2),
),,,( 21 nXXX ? 为 X 的一个样本,常数 k 取
何值可使 ?
?
?
n
i
i XXk
1
|| 为 ?的无偏估计量
21~ 0,
i
n
X X N
n
?
???
? ??
??
dze
n
n
zXXE n
n
z
i
2
2
1
2
1
2
1
|||)(|
?
??
?
?
??
??? ?
??
dze
n
n
z n
n
z
2
2
1
2
0 1
2
1
2
?
??
?
?
??
?
?
?
?
? n
n 1
2
2 ??
11
| | | |
nn
ii
ii
E k X X k E X X
??
? ? ? ?
? ? ?? ? ? ?
? ? ? ?
??
故
?
? n
nkn 1
2
2 ??
?
令
?
)1(2 ?
?
nn
k
?
注 不少同学这样做却给打了,,