第七章 参数估计
§ 1 点估计§ 1 点估计
是待估参数。的形式为已知,的分布函数设总体 ?? );( xFX
是相应的样本值。的一个样本,是 nn xxXXX ?? 11
点估计问题:
。来估计未知参数
,用它的观察值构造一个适当的统计量
??
?
),,(?
),,(
1
1
n
n
xx
XX
?
?
。估计值为;称估计量的为我们称
?
??? ),,(?),,( 11 nn xxXX ??
返回主目录
第七章 参数估计
§ 1 点估计1,矩估计法
),,,;(}{
),,,;(
1
1
k
k
xPxXPX
xfX
??
??
?
?
??分布列为为离散型随机变量,其
概率密度为为连续型随机变量,其设
的样本。为来自,是待估参数其中 XXX nk,,,,,11 ?? ??
存在。设,,,2,1,klEX ll ??? ?
?
?
?
n
i
l
il XnA
1
1则
klA ll,,1,??? ?令
。,,从中解出方程组的解
的联立方程组,,,个未知参数这里是包含
k
kk
??
??
??
1
1
?
?
。矩估计法估计量的方法称为
的估计量,这种求,,分别作为,,用 kk ???? ?? 11 ?? 返回主目录
第七章 参数估计
这种估计量称为 矩估计量 ;矩估计量的观察值
称为 矩估计值 。
例 1 设某炸药厂一天中发生着火现象的次数 X服从
(用矩法)。试估计参数
未知,有以下样本值;的泊松分布,参数为
?
??
? ? 2 5 012622549075
6543210
knk
k
次着火天数发生
着火的次数
?
?
????
n
i
i XXnAEX
1
11
1
??解:
22.1)16901750(
250
1
?
,
?????????
?
?x
X
?
?


返回主目录
第七章 参数估计
§ 1 点估计
。估计值所以 22.1?,?? ??X
样本;
是一个未知;设总体例 nXXbabaUX,,,],,[~.2 1 ?
的矩估计量。求,ba,
,21 baEX ????解:
?
?
??
? n
i
iXnA
ba
1
1
1
2

?
?
??
?
?
? n
i
iXnA
baab
1
2
2
22 1
4
)(
12
)(
4
)(
12
)()( 2222
2
baabEXDXEX ????????
返回主目录
第七章 参数估计
§ 1 点估计
)(12,2 2121 AAabAba ?????即
?
?
?
?
??????
??????
n
i
i
n
i
i
XX
n
XAAAb
XX
n
XAAAa
1
22
121
1
22
122
)(
3
)(3?
)(
3
)(3?解得:
返回主目录
第七章 参数估计
是一个样本;未知,又设,但
都存在,且,方差的均值设总体例
nXX
X
,,
,0.3
1
2
2
???
??? ?
的矩估计量。求,2,??
2222
2
1
)(
,
???
??
?????
??
EXDXEX
EX解:
,,2211 AA ?? ??令
,,2221 AA ??? ???即
,? 1 XA ???所以
2
1
2
1
22
12
2 )(11? XX
n
XX
n
AA
n
i
i
n
i
i ?????? ??
??
? 返回主目录
第七章 参数估计
§ 1 点估计
未知;特别,若 22,),,N(~X ????
?
?
???
n
i
i XXnX
1
22 )(1?,? ??则
2,极大似然估计法
可能取值的范围。是为待估参数,的形式为已知,
属离散型,其分布律若总体
??
??
?
???? ),;(}{).1( xpxXPX
的联合分布律:的样本;则是来自设 nn XXXXX,,,,11 ??
?
?
n
i
ixp
1
);( ?
的一个样本值;是又设 nn XXxx,,,,11 ??
发生的概率为:事件
的概率,亦即取易知样本
},,{
,,,,
11
11
nn
nn
xXxX
xxXX
?? ?
?? 返回主目录
第七章 参数估计
§ 1 点估计
)1.1(.,);();,,()(
1
1 ???? ?
?
????
n
i
in xpxxLL ?
。似然函数称为样本的的函数。它是 )( ?? L
使得:即取
的估计值,,作为达到最大的参数
挑选使概率定由极大似然估计法:固
?
???
?
?);,,(;,,
1
1
n
n
xxL
xx
?
?
)2.1();,,(m a x)?;,,( 11 ?? ? nn xxLxxL ?? ???
。极大似然估计值的称其为参数
有关,记为与
?
?? );,,(?,,? 11 nn xxxx ??
。极大似然估计量的称为参数 ?? ),,(? 1 nXX ?
第七章 参数估计
§ 1 点估计;
),;().2(
为待估参数的形式已知,
属连续型,其概率密度若总体
?
?? ??xfX
的联合密度:则 nXX,,1 ?
?
?
n
i
ixf
1
);( ?
似为:维立方体)内的概率近的
的邻域(边长分别为落在机点
的一个样本值,则随是相应设
ndxdx
xxXX
XXxx
n
nn
nn
,,
),,(),,(
,,,,
1
11
11
?
??
??
)3.1( );(
1
i
n
i
i dxxf?
?
?
取到最大值。,使概率的估计值我们取 )3.1(???
第七章 参数估计
§ 1 点估计
而变,故只需考虑:不随但 ??
i
idx
)4.1(,);();,,()(
1
1 ?
?
??
n
i
in xfxxLL ??? ?
。似然函数称为样本的的最大值,这里 )( ?L
);,,(m a x)?;,,( 11 ??
? nn
xxLxxL ??
??
?若
。极大似然估计值的为则称 ?? ),,(? 1 nxx ?
。极大似然估计量的为称 ?? ),,(? 1 nXX ?
.0
)(
);(),;(
?
?
?
????
d
dL
xfxp 可由下式求得:可微,故关于一般,
返回主目录
第七章 参数估计
( 1, 5 ),0)(ln
)(ln)(
??
?
?
????
L
d
d
LL
也可从下述方程解得:大似然估计
的极处取到极值,因此在同一与又因
个参数,若母体的分布中包含多
.,,1,0ln.,,1,0 kiLkiL
ii
?? ??
?
???
?
?
??
或即可令
的极大似然估计值。个方程组求得解 kk ??,,1 ?
§ 1 点估计
返回主目录
第七章 参数估计
的一个样本,是来自设例 XXXpBX n,,);,1(~.4 1 ?
试求参数 p的极大似然估计量。
的分布律为:是一个样本值。解:设 Xxx n,,1 ?;1,0,)1(}{ 1 ???? ? xppxXP xx
故似然函数为
,)1()1()( 111
1
??
??
?
?
?
???? ?
n
i
i
n
i
i
ii
xnx
xx
n
i
pppppL
).1l n ()(ln)()(ln
11
pxnpxpL
n
i
i
n
i
i ???? ??
??

.0
1
)(ln 11 ?
?
?
??
??
??
p
xn
p
x
pL
dp
d
n
i
i
n
i
i
令 返回主目录
第七章 参数估计
§ 1 点估计
xx
p
n
i
i ?? ?
? 1
n
1
p?
的极大似然估计值解得
XX
p
n
i
i ?? ?
? 1
n
1
p?
的极大似然估计量为
-------它与矩估计量是相同的。
返回主目录
第七章 参数估计
的一个样本值,是来自
为未知参数,设例
X
xxNX n,,,);,(~.5 122 ?????
的极大似然估计量。求,2,??
的概率密度为:解,X
})(
2
1e x p {
2
1),;( 2
2
2 ?
???
?? ??? xxf
似然函数为:
?
?
???
n
i
ixL
1
2
2
2 })(
2
1e x p {
2
1),( ?
???
??
?
?
?????
n
i
ix
nnL
1
2
2 )(2
1)l n (
2
)2l n (
2
ln ?
?
??
返回主目录
第七章 参数估计
?
?
?
?
?
?
?
???
??
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
0)(
)2(
1
2
n
-
0][
1
0
ln
0
ln
2
1
222
1
2
2 ?
??
?
?
?
?
n
i
i
n
i
i
x
nx
L
L
即:令
?
?
?
?
??
??
n
i
i
n
i
i
XX
n
xx
n
1
22
1
)(
1
?
1
?
?
?解得:
§ 1 点估计
返回主目录
第七章 参数估计
是一个样本值,未知,设例 nxxbabaUX,,,];,[~.6 1 ?
的极大似然估计量。求,ba,
),,,m a x (),,,m i n ( 1)(1)1( nnn xxxxxx ?? ??解:设
X的概率密度为:
??
?
?
?
??
??
其它,0;,
1
),;(
bxa
abbaxf
,,,,,)()1(1 bxxabxxa nn ???? 等价于因为 ?
?
?
?
?
?
??
??
其它,0;,,
)(
1
),(
)()1( nn xbxa
abbaL
返回主目录
第七章 参数估计
§ 1 点估计
有的任意对于满足 baxbxa n,,)()1( ??
n
n
n xxabbaL )(
1
)(
1),(
)1()( ?
?
?
?
nnn xxxbxabaL )(,),( )1()()()1( ??? 时,取最大值在即:
的极大似然估计值为:故 ba,
,m ax?,m i n? )()1( ini xxbxxa ????
的极大似然估计量为:故 ba,
,m a x?,m i n? ii XbXa ??
返回主目录
第七章 参数估计
的极大似然估计。是则
的极大似然估计;是
具有单值反函数,的函数设性质:
)()?(?
?
),(
??
??
???
uuu
uu
?
???
的极大似然估计是例,?? ?
?
??
n
i
i XXn
1
22 )(1
)0(,)( 2222 ???? uuuu ??? 有单值反函数
的极大似然估计是

?
??
)(
1
??
1
22
?
?
???
n
i
i XX
n
返回主目录
第七章 参数估计
§ 2 估计标准§ 2 估计量的标准
.?
),,(??.1 1
??
??
?
?
E
XX n

的数学期望存在,无偏性:若 ?
的无偏估计量。是则称 ?? ?
).?D()?D(
),,(??),,(??.2
21
122111
???
????
?
??
的无偏估计量;若都是
,有效性:若 nn XXXX ??
有效。较则称 21 ?? ??
.?
),,(??.3 11
???
???
? ???? ????
?
p
n
n
XX
时,当若对于任意
的估计量为参数一致性:若 ?
的一致估计。是则称 ???
返回主目录
第七章 参数估计
§ 3 区间估计§ 3 区间估计
区间估计要求根据样本给出未知参数的一个范围,
并保证真参数以指定的较大概率属于这个范围。
1,置信区间与置信度
使得:找出统计量;对于样本含一待估参数定义:设总体
,),2,1)(,,(
,,,
211
1
????
?
??? ixx
xxX
nii
n
?
?
)10(,1}{ 21 ?????? ?????P
。置信度为该区间的,置信区间的为,称区间 ???? ?1][ 21
的可能性。表示该区间不包含真值的可靠程度。值
给出该区间含真是一个随机区间;,区间
???
??? ?1][ 21
返回主目录
第七章 参数估计
个左右。真值的有个左右,不包含真值的有
个区间中包含次,则在得到的这时重复抽样
,即置信度为例如:若
595
1 0 01 0 0
%.951%5
??
?? ???
通常,采用 95%的置信度,有时也取 99%或 90%
2,均值的区间估计
。,的置信区间下,来确定在置信度
的一个样本。为总体设
][1
),(~,,
21
2
1
????
??
?
NXxx n?
(1),已知方差,估计均值
。点估计,又知道
的一个是,且知道设已知方差
)1,0(~
/
1
0
1
2
0
2
N
n
x
u
x
n
x
n
i
i
?
?
???
?
?
?? ?
?
§ 3 区间估计
返回主目录
第七章 参数估计
.1}{
:
1
21
21
???
??
?
????
?
uP
,使得,值
临界,查正态分布表,找出对于给定的置信度
??
??
??
-1}|u P { |
],,[
21
??
? 使:称区间;通常我们取对,由此可找出无穷多组
即:
??
?
?? -1}-x P { -
0
???
n
§ 3 区间估计
返回主目录
第七章 参数估计
,得:找出查正态分布表 ???,2/1)( ???
?
?
?? ??
0
)-x(- n
,可知:由由正态分布表的构造,?? ??? 1}|{| tP
]x,-x[ 00
nn
???? ?
推得,随机区间:
。的概率包含它以 ???1
返回主目录
第七章 参数估计
§ 3 区间估计
例 6,已知幼儿身高服从正态分布,现从 5~6岁的幼
儿中随机地抽查了 9人,其高度分别为:
115,120,131,115,109,115,115,105,110cm;;,置信度为假设标准差 %9570 ??
的置信区间。试求总体均值 ?
由样本值算得:解:已知,05.0,9,70 ??? ?? n
.1 1 5)1 1 01 2 01 1 5(91 ????? ?x
,由此得置信区间:查正态分布表得临界值 96.1??
? ?
? ?57.1 1 9,43.1 1 0
9/796.11 1 5,9/796.11 1 5
?
???? 返回主目录
第七章 参数估计
(2),未知方差,估计均值
?
?
?
?
?
n
i
i xx
n
1
22
2
)(
1
1
S
,这时可用样本方差:由于未知方差 ?
nS
x
/
t ???而选取样本函数:
则随机变量 t服从 n-1个自由度的 t分布。
§ 3 区间估计
,使得:与分布表,得临界值,查对于给定的 211 ??? t?
,??? ???? 1}{ 21 tP

使得:我们仍然取成对称区间
??
??
???
?
1}|{|
],,[
tP 返回主目录
第七章 参数估计
.),,1( ?? 找出分布表查 ?ntt
??? ??
nS /
-x-
其中,n是样本容量,n-1是表中自由度;由此得:
,可知:
与分布表的构造,比较由
??
??
???
??
1}|{|
}|{|
tP
tPt
,即 ???? ?????? 1}
/
{
nS
xP
§ 3 区间估计
返回主目录
第七章 参数估计
§ 3 区间估计
]x,-x[
n
S
n
S ?? ?
推得,随机区间:
。的概率包含它以 ???1
例 7,用仪器测量温度,重复测量 7次,测得温度分
别为,115,120,131,115,109,115,115,105,110cm;
设温度
。),(~ 2??NX
在范围。时,试求温度的真值所在置信度为 %95
是测量值。是温度的真值,解:设 X?
由样本值算得:已知,05.0,7 ?? ?n
.29.1,8.1 1 2 2 ?? Sx 返回主目录
第七章 参数估计
§ 3 区间估计
。由此得置信区间:得临界值查 447.2)05.0,6( ??t
? ?85.113,75.111
7
29.1
447.28.112,
7
29.1
447.28.112
?
?
?
?
?
?
?
?
?
??
3,方差的区间估计
的一个样本。为总体设 ),(~,,21 ??NXxx n?
的一个点估计是我们知道 2
1
22 )(
1
1 ??
?
?
?
?
n
i
i xxnS
分布。自由度的
个服从并且知道样本函数:
2
2
2
1
)1(
?
?
? ?
?
? n
Sn
返回主目录
第七章 参数估计
,使得:与分布表,得临界值,查对于给定的 2121 ?????
,???? ???? 1}{ 21P
,即

用使概率对称的区间:分布无对称性,我们采由于
??
?
?
?????
?
???
?
?
????
1}
)1(
{
2/}{}{
22
2
1
21
2
Sn
P
PP
,可知:
与分布表的构造,比较由
????
????
????
??
1}{
}{
21
22
P
P
§ 3 区间估计
返回主目录
第七章 参数估计
。找出布表
分而查找出分布表查
1
2
2
2
,
)2/,1(,.,)2/,1(
?
????? ?? nn
其中,n是样本容量,n-1是表中自由度;由此得:
§ 3 区间估计
22
2
1
)1(- ?
?
? ??? Sn
返回主目录
第七章 参数估计
§ 3 区间估计
1
2
2
2
2 )1()1(
?
?
?
SnSn ????推得:
这就是说,随机区间:
,而随机区间的概率包含以 21 ???
?
?
?
?
?
? ??
1
2
2
2 )1(
,)1(
??
SnSn
?
?
?
?
?
?
?
? ??
SnSn
12
1,1
??
.1 ?? 的概率包含以 ? 返回主目录
第七章 参数估计
例 8,设某机床加工的零件长度,),(~ 2??NX
今抽查 16个零件,测得长度(单位,mm)如下:
12.15,12.12,12.01,12.08,
12.09,12.16,12.03,12.01,
12.06,12.13,12.07,12.11,
12.08,12.01,12.03,12.06,
在置信度为 95%时,试求总体方差 的置信区间。2?
由样本值算得:解:已知,05.0,16 ?? ?n
.0 0 2 4 4.02 ?S
由此得置信区间:
得查得查,5.27)025.0,15(;26.6)975.0,15( 2212 ?? ????
? ?0058.0,0013.026.6 00244.015,5.27 00244.015 ??
?
?
??
? ??
返回主目录
1 给出了点估计的概念,要掌握矩估计法、极大似
然估计法。
2 了解估计量的评选标准(无偏性、有效性、一致
性)。
作业:
第七章 小 结
返回主目录
.7,6,3,2,1183P