数理统计第一节 参数的点估计点估计概念求估计量的方法课堂练习小结 布置作业数理统计引言上一讲，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，
介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理,它们是进一步学习统计推断的基础,
数理统计总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质,
随机抽样数理统计现在我们来介绍一类重要的统计推断问题参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数,
参数估计估计废品率估计新生儿的体重估计湖中鱼数
…
…
估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数,
数理统计这类问题称为 参数估计,
参数估计问题的一般提法
X1,X2,…,X n
要依据该样本对参数? 作出估计,或估计?
的某个已知函数,)(?g
现从该总体抽样，得样本设有一个统计总体,总体的分布函数 为
F( x,),其中 为未知参数 ( 可以是向量 ),
数理统计参数估计点估计区间估计
数理统计
)1.0,( 2?N（假定身高服从正态分布 ）
设这 5个数是,
1.65 1.67 1.68 1.78 1.69
估计 为 1.68,这是 点估计,
这是 区间估计,估计? 在区间 [1.57,1.84] 内，
例如我们要估计某队男生的平均身高,
现从该总体选取容量为 5的样本，我们的任务是要根据选出的样本（ 5个数）求出总体均值的估计,而全部信息就由这 5个数组成,
数理统计一、点估计概念随机抽查 100个婴儿,
…
得 100个体重数据
10,7,6,6.5,5,5.2,…
呢据此,我们应如何估计 和而全部信息就由这 100个数组成,
例 1 已知某地区新生婴儿的体重,2~,XN μ σ
(,)μ σ未知数理统计为估计,
我们需要构造出适当的样本的函数 T(X1,X2,… Xn),
每当有了样本，就代入该函数中算出一个值，用来作为 的估计值,?
把样本值代入 T(X1,X2,… Xn)中，
估计值,
T(X1,X2,… Xn) 称为参数? 的 点估计量,
得到 的一个 点数理统计我们知道,若,
由大数定律,
1}|1{|lim
1
n
i
in XnP
自然想到把样本体重的平均值作为总体平均体重的一个估计,
,1
1
n
i
iXnX?
n
i
i XXnS
1
22 )(
1
1
样本体重的平均值
2~,XN μ σ()EX μ?则,
用样本体重的均值 估计,X μ
类似地，用样本体重的方差 估计,22S σ
数理统计使用什么样的统计量去估计？
可以用样本均值 ;
也可以用样本中位数 ;
还可以用别的统计量,
问题是,
数理统计二、寻求估计量的方法
1,矩估计法
2,极大似然法
3,最小二乘法
4,贝叶斯方法 ……
这里我们主要介绍前面两种方法,
数理统计
1,矩估计法矩估计法是英国统计学家 K.皮尔逊最早提出来的,由辛钦定理,
若总体 的数学期望 有限,EX μ?X 则有
1
1 n
i
i
XXn
()P EX μ
1
1 n k
ki
i
AXn
( ) ( 1,2,)P k kEX μ k
12(,,,)kg A A A 12(,,,)P kg μ μ μ
其中 为连续函数,g
数理统计这表明,当样本容量很大时,在统计上,可以用用样本矩去估计总体矩,这一事实导出矩估计法,
定义 用样本原点矩估计相应的总体原点矩,又用样本原点矩的连续函数估计相应的总体原点矩的连续函数,这种参数点估计法称为 矩估计法,
理论依据,大数定律矩估计法的具体做法如下设总体的分布函数中含有 k个未知参数,
那么它的前 k阶矩,一般
12,,,kθ θ θ
12,,,kμ μ μ
数理统计都是这 k 个参数的函数,记为：
i=1,2,…,k
从这 k 个方程中解出
j=1,2,…,k
j=1,2,…,k
12(,,,)i i kμ μ θ θ θ?
12(,,,)j j kθ θ μ μ μ?
那么用诸 的估计量 Ai 分别代替上式中的诸,iμiμ
12? (,,,)j j kθ θ A A A?
jθ即可得诸 的 矩估计量,
矩估计量的观察值称为 矩估计值,
数理统计例 2 设总体 X 在 [ a,b ] 上服从均匀分布,
a,b 未知,是来自 X 的样本,试求 a,b
的矩估计量,
1,,nXX
解1μ EX? 2ab
22μ EX?
2()
12
ba
2( ) [ ( ) ]D X E X
2()
4
ab
数理统计即 1
2
21
2
12 ( )
ab μ
ba μ μ
解得于是 a,b 的矩估计量为
21 2 13 ( )a μ μ μ
21 2 13 ( )b μ μ μ
2
1
3 ( ),n
i
i
a X X Xn
2
1
3 ()n
i
i
b X Xn
样本矩总体矩数理统计解1μ EX?
22μ EX? 2( ) [ ( ) ]D X E X
例 3 设总体 X 的均值 和方差 都存在,未知,是来自 X 的样本,试求 的矩估计量,
1,,nXX
μ 2 ( 0)σ?
2,μ σ
2,μ σ
μ?
22σ μ
数理统计解得
1μ AX
1μ μ?
2221σ μ μ
于是 的矩估计量为2,μ σ
2 2 2 2
21
1
1 n
i
i
σ A A X Xn
2
1
1 ()n
i
i
XXn
样本矩总体矩数理统计矩法的优点 是简单易行,并不需要事先知道总体是什么分布,
缺点 是,当总体类型已知时,没有充分利用分布提供的信息,一般场合下,矩估计量不具有唯一性,
其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性,
数理统计稍事休息数理统计
2,最大似然法它是在总体类型已知条件下使用的一种参数估计方法,
它首先是由德国数学家 高斯 在
1821年提出的,
Gauss
Fisher
然而,这个方法常归功于英国统计学家 费歇,
费歇 在 1922年重新发现了这一方法，并首先研究了这种方法的一些性质,
数理统计最大似然法的基本思想先看一个简单例子：
一只野兔从前方窜过,
是谁打中的呢？
某位同学与一位猎人一起外出打猎,
如果要你推测，
你会如何想呢?
只听一声枪响，野兔应声倒下,
数理统计你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率,看来这一枪是猎人射中的,
这个例子所作的推断已经体现了极大似然法的基本思想,
数理统计最大似然估计原理：
当给定样本 X1,X2,… Xn时，定义 似然函数 为：
设 X1,X2,… Xn是取自总体 X的一个样本，样本的联合密度 (连续型）或联合分布律 (离散型 )为 f
(x1,x2,…,xn ; ),
)(?L f (x1,x2,…,xn; )?
这里 x1,x2,…,xn 是样本的观察值,
数理统计似然函数：
)(m a x)?(
LL?
最大似然估计法 就是用使 达到最大值的去估计,
)(?L
称 为 的 最大似然估计值,
看作参数 的函数，它可作为 将以多大可能产生样本值 x1,x2,…,xn 的一种度量,
)(?L
)(?L f (x1,x2,…,xn; )?
而相应的 统计量称为 的 最大似然估计量,1(,,)nθ XXθ
数理统计两点说明：
1、求似然函数 L( ) 的最大值点，可以应用微积分中的技巧。由于 ln(x)是 x 的增函数,lnL( )
与 L( )在 的同一值处达到它的最大值，假定是一实数，且 lnL( )是 的一个可微函数。通过求解方程：
可以得到 的 MLE,?
0)(ln?
d
Ld
若 是向量，上述方程必须用方程组代替,
2、用上述求导方法求参数的 MLE有时行不通，这时要用最大似然原则来求,
数理统计下面举例说明如何求最大似然估计
L(p)= f (x1,x2,…,xn; p )
例 5 设 X1,X2,… Xn是取自总体 X~B(1,p) 的一个样本，求参数 p的最大似然估计量,
n
i
xx ii pp
1
1)1(
解,似然函数 为,
pp
X i
1
10~
数理统计
)1ln ()()ln ()(ln
11
pxnpxpL
n
i
i
n
i
i
对数似然函数 为：
n
i
i
n
i
i xnx pppL
11 )1()(
n
i
i
n
i
i xnx
pp 11 )1(
数理统计对 p求导并令其为 0，
)(
1
11)(ln
11
n
i
i
n
i
i xnpxpdp
pLd =0
得
xx
n
p
n
i
i
1
1?
即为 p 的 最大似然估计值,
从而 p 的 最大似然估计量 为
1
1
1? (,,) n
ni
i
p X X X Xn
数理统计
(4) 在最大值点的表达式中,用样本值代入就得参数的 最大似然估计值,
求最大似然估计 (MLE)的一般步骤是：
(1) 由总体分布导出样本的联合分布率 (或联合密度 );
(2) 把样本联合分布率 ( 或联合密度 ) 中自变量看成已知常数,而把参数 看作自变量,得到 似然函数 L( );?
(3) 求似然函数 L( ) 的最大值点 (常常转化为求 ln L( )的最大值点 ),即 的 MLE;
数理统计例 6 设总体 X ~N( ),未知,
是来自 X 的样本值,试求 的最大似然估计量,
1,,nxx2,μ σ2,μ σ
2,μ σ
似然函数为解 X 的概率密度为
xexf
x
,
2
1)( 2
2
2
)(
2
22
()
2
1
1(,)
2
ix μn
σ
i
L μ σ e
π σ
数理统计 2
22
()
2
1
1(,)
2
ix μn
σ
i
L μ σ e
π σ
2
2 2 2 2
1
1( 2 ) ( ) e x p [ ( ) ]
2
n
nn
i
i
π σ x μσ
于是
2
22
1
1l n ( 2 ) l n ( )
2 2 2
n
i
i
nnLn L π σ x μ
σ
令
2 1
1 ( ) 0n
i
i
L nL x n μμ σ
2 2 2
2
2
1
1 ( ) 0
2 2 ( )
n
i
i
nL nL x μ
σ σ σ?
数理统计
1
1 n
i
i
μ xxn
22
1
1 ()n
i
i
σ xxn
解得的最大似然估计量 为2,μ σ
,μ X? 22
1
1 ()n
i
i
σ XXn
数理统计解：似然函数为例 7 设 X1,X2,… Xn是取自总体 X的一个样本为未知参数其它
,
,0
,
1
)(~
)(
xe
xfX
x
其中 >0,求 的最大似然估计,,
其它
，
,0
1
),(
1
)(
n
i
i
x xe
L
i?
i=1,2,…,n
数理统计
其它,0
m in,
1
1
)(
1
i
x
n
xe
n
i
i
对数似然函数为
n
i
ixnL
1
)(1ln),(ln?
解：似然函数为
其它
，
,0
1
),(
1
)(
n
i
i
x xe
L
i?
i=1,2,…,n
数理统计
n
i
ixn
1
1
nL?
),(ln =0 (2)
由 (1)得
n
i
ix
nL
1
2 )(
1),(ln?
=0 (1)
对 分别求偏导并令其为 0,,
对数似然函数为
n
i
ixnL
1
)(1ln),(ln?
用求导方法无法最终确定用最大似然原则来求,
、,?
数理统计
ini x 1
* m in?
对,0),(,m in Lx
i
是故使 达到最大的 即 的 MLE ),(L?,?
n
i
ixn
1
** 1
于是取其它值时,.0),(L?
即 为 的 MLE,**,,
且是 的增函数?
其它,0
m in,
1
),(
1
)(
1
i
x
n
xeL
n
i
i
数理统计第二次捕出的有记号的鱼数 X是 r.v,X具有超几何分布：
,}{
S
N
kS
rN
k
r
kXP
为了估计湖中的鱼数 N，第一次捕上 r 条鱼,
做上记号后放回,隔一段时间后,再捕出 S 条鱼,
结果发现这 S条鱼中有 k条标有记号,根据这个信息，
如何估计湖中的鱼数呢？
最后，我们用最大似然法估计湖中的鱼数
),m in (0 rSk
数理统计应取使 L(N;k)达到最大的 N,作为 N的极大似然估计,
但用对 N求导的方法相当困难,我们考虑比值,
)1;(
);(
NkXP
NkXP
把上式右端看作 N 的函数，记作 L( N ; k),
S
N
kS
rN
k
rkXP }{
)(
))((
kSrNN
rNSN
经过简单的计算知，这个比值大于或小于 1，
k
SrN? 或
k
SrN? 而定,由数理统计
)1;(
);(
NkXP
NkXP
)(
))((
kSrNN
rNSN
经过简单的计算知，这个比值大于或小于 1，
k
SrN? 或
k
SrN? 而定,由这就是说，当 N增大时，序列 P(X=k;N)先是上升而后下降 ; 当 N为小于 的最大整数时,达到最大值,故 N的极大似然估计为
].[? kSrN?
k
Sr
数理统计三,课堂练习例 1 设总体 X的概率密度为
其它,0
10,)1(
)(
xx
xf
其中 是未知参数,
X1,X2,…,Xn 是取自 X 的样本,1α?
求参数 的矩估计,
数理统计解样本矩总体矩解得
1
1
21
1
μα
μ
的矩估计量为?故
21?
1
Xα
X
1μ EX? 10 ( 1 ) αx α x dx
1 1
0( 1 )
αα x dx1
2
α
α
数理统计解 由密度函数知例 2 设 X1,X2,… Xn是取自总体 X 的一个样本为未知参数其它
,
,0
,
1
)(~
)(
xe
xfX
x
其中 > 0,求 的矩估计,?,
X 具有均值为 的指数分布?
即
E(X- ) =
2?D(X- )=
E(X)=
2?D(X)=
故数理统计解得
X
n
i
i XXn
1
2)(1
n
i
i XXn
1
2)(1
也就是 E(X)=
2?D(X)=
()θ DX?
( ) ( )μ E X D X
的矩估计量为于是,θμ
数理统计解 似然函数 为
n
i
ixL
1
1)( 1
1
)(?
n
i
i
n x
)10( ix
对数似然函数为
n
i
ixnL
1
ln)1(ln)(ln
ni1
例 3 设 X1,X2,… Xn是取自总体 X的一个样本
其它,0
10,)(~ 1 xxxfX
求 的最大似然估计值,?
其中 >0,
数理统计
n
i
ix
n
d
Ld
1
ln)(ln
求导并令其为 0
=0
从中解得
1
ln
n
i
i
θ nx
即为 的 最大似然估计值,?
对数似然函数为
n
i
ixnL
1
ln)1(ln)(ln
数理统计这一讲，我们介绍了参数点估计,给出了寻求估计量最常用的矩法和极大似然法,
参数点估计是用一个确定的值去估计未知的参数,看来似乎精确,实际上把握不大,
四、小结数理统计五、布置作业概率论与数理统计标准化作业 (六 )
介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理,它们是进一步学习统计推断的基础,
数理统计总体样本统计量描述作出推断研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质,
随机抽样数理统计现在我们来介绍一类重要的统计推断问题参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数,
参数估计估计废品率估计新生儿的体重估计湖中鱼数
…
…
估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数,
数理统计这类问题称为 参数估计,
参数估计问题的一般提法
X1,X2,…,X n
要依据该样本对参数? 作出估计,或估计?
的某个已知函数,)(?g
现从该总体抽样，得样本设有一个统计总体,总体的分布函数 为
F( x,),其中 为未知参数 ( 可以是向量 ),
数理统计参数估计点估计区间估计
数理统计
)1.0,( 2?N（假定身高服从正态分布 ）
设这 5个数是,
1.65 1.67 1.68 1.78 1.69
估计 为 1.68,这是 点估计,
这是 区间估计,估计? 在区间 [1.57,1.84] 内，
例如我们要估计某队男生的平均身高,
现从该总体选取容量为 5的样本，我们的任务是要根据选出的样本（ 5个数）求出总体均值的估计,而全部信息就由这 5个数组成,
数理统计一、点估计概念随机抽查 100个婴儿,
…
得 100个体重数据
10,7,6,6.5,5,5.2,…
呢据此,我们应如何估计 和而全部信息就由这 100个数组成,
例 1 已知某地区新生婴儿的体重,2~,XN μ σ
(,)μ σ未知数理统计为估计,
我们需要构造出适当的样本的函数 T(X1,X2,… Xn),
每当有了样本，就代入该函数中算出一个值，用来作为 的估计值,?
把样本值代入 T(X1,X2,… Xn)中，
估计值,
T(X1,X2,… Xn) 称为参数? 的 点估计量,
得到 的一个 点数理统计我们知道,若,
由大数定律,
1}|1{|lim
1
n
i
in XnP
自然想到把样本体重的平均值作为总体平均体重的一个估计,
,1
1
n
i
iXnX?
n
i
i XXnS
1
22 )(
1
1
样本体重的平均值
2~,XN μ σ()EX μ?则,
用样本体重的均值 估计,X μ
类似地，用样本体重的方差 估计,22S σ
数理统计使用什么样的统计量去估计？
可以用样本均值 ;
也可以用样本中位数 ;
还可以用别的统计量,
问题是,
数理统计二、寻求估计量的方法
1,矩估计法
2,极大似然法
3,最小二乘法
4,贝叶斯方法 ……
这里我们主要介绍前面两种方法,
数理统计
1,矩估计法矩估计法是英国统计学家 K.皮尔逊最早提出来的,由辛钦定理,
若总体 的数学期望 有限,EX μ?X 则有
1
1 n
i
i
XXn
()P EX μ
1
1 n k
ki
i
AXn
( ) ( 1,2,)P k kEX μ k
12(,,,)kg A A A 12(,,,)P kg μ μ μ
其中 为连续函数,g
数理统计这表明,当样本容量很大时,在统计上,可以用用样本矩去估计总体矩,这一事实导出矩估计法,
定义 用样本原点矩估计相应的总体原点矩,又用样本原点矩的连续函数估计相应的总体原点矩的连续函数,这种参数点估计法称为 矩估计法,
理论依据,大数定律矩估计法的具体做法如下设总体的分布函数中含有 k个未知参数,
那么它的前 k阶矩,一般
12,,,kθ θ θ
12,,,kμ μ μ
数理统计都是这 k 个参数的函数,记为：
i=1,2,…,k
从这 k 个方程中解出
j=1,2,…,k
j=1,2,…,k
12(,,,)i i kμ μ θ θ θ?
12(,,,)j j kθ θ μ μ μ?
那么用诸 的估计量 Ai 分别代替上式中的诸,iμiμ
12? (,,,)j j kθ θ A A A?
jθ即可得诸 的 矩估计量,
矩估计量的观察值称为 矩估计值,
数理统计例 2 设总体 X 在 [ a,b ] 上服从均匀分布,
a,b 未知,是来自 X 的样本,试求 a,b
的矩估计量,
1,,nXX
解1μ EX? 2ab
22μ EX?
2()
12
ba
2( ) [ ( ) ]D X E X
2()
4
ab
数理统计即 1
2
21
2
12 ( )
ab μ
ba μ μ
解得于是 a,b 的矩估计量为
21 2 13 ( )a μ μ μ
21 2 13 ( )b μ μ μ
2
1
3 ( ),n
i
i
a X X Xn
2
1
3 ()n
i
i
b X Xn
样本矩总体矩数理统计解1μ EX?
22μ EX? 2( ) [ ( ) ]D X E X
例 3 设总体 X 的均值 和方差 都存在,未知,是来自 X 的样本,试求 的矩估计量,
1,,nXX
μ 2 ( 0)σ?
2,μ σ
2,μ σ
μ?
22σ μ
数理统计解得
1μ AX
1μ μ?
2221σ μ μ
于是 的矩估计量为2,μ σ
2 2 2 2
21
1
1 n
i
i
σ A A X Xn
2
1
1 ()n
i
i
XXn
样本矩总体矩数理统计矩法的优点 是简单易行,并不需要事先知道总体是什么分布,
缺点 是,当总体类型已知时,没有充分利用分布提供的信息,一般场合下,矩估计量不具有唯一性,
其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性,
数理统计稍事休息数理统计
2,最大似然法它是在总体类型已知条件下使用的一种参数估计方法,
它首先是由德国数学家 高斯 在
1821年提出的,
Gauss
Fisher
然而,这个方法常归功于英国统计学家 费歇,
费歇 在 1922年重新发现了这一方法，并首先研究了这种方法的一些性质,
数理统计最大似然法的基本思想先看一个简单例子：
一只野兔从前方窜过,
是谁打中的呢？
某位同学与一位猎人一起外出打猎,
如果要你推测，
你会如何想呢?
只听一声枪响，野兔应声倒下,
数理统计你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率,看来这一枪是猎人射中的,
这个例子所作的推断已经体现了极大似然法的基本思想,
数理统计最大似然估计原理：
当给定样本 X1,X2,… Xn时，定义 似然函数 为：
设 X1,X2,… Xn是取自总体 X的一个样本，样本的联合密度 (连续型）或联合分布律 (离散型 )为 f
(x1,x2,…,xn ; ),
)(?L f (x1,x2,…,xn; )?
这里 x1,x2,…,xn 是样本的观察值,
数理统计似然函数：
)(m a x)?(
LL?
最大似然估计法 就是用使 达到最大值的去估计,
)(?L
称 为 的 最大似然估计值,
看作参数 的函数，它可作为 将以多大可能产生样本值 x1,x2,…,xn 的一种度量,
)(?L
)(?L f (x1,x2,…,xn; )?
而相应的 统计量称为 的 最大似然估计量,1(,,)nθ XXθ
数理统计两点说明：
1、求似然函数 L( ) 的最大值点，可以应用微积分中的技巧。由于 ln(x)是 x 的增函数,lnL( )
与 L( )在 的同一值处达到它的最大值，假定是一实数，且 lnL( )是 的一个可微函数。通过求解方程：
可以得到 的 MLE,?
0)(ln?
d
Ld
若 是向量，上述方程必须用方程组代替,
2、用上述求导方法求参数的 MLE有时行不通，这时要用最大似然原则来求,
数理统计下面举例说明如何求最大似然估计
L(p)= f (x1,x2,…,xn; p )
例 5 设 X1,X2,… Xn是取自总体 X~B(1,p) 的一个样本，求参数 p的最大似然估计量,
n
i
xx ii pp
1
1)1(
解,似然函数 为,
pp
X i
1
10~
数理统计
)1ln ()()ln ()(ln
11
pxnpxpL
n
i
i
n
i
i
对数似然函数 为：
n
i
i
n
i
i xnx pppL
11 )1()(
n
i
i
n
i
i xnx
pp 11 )1(
数理统计对 p求导并令其为 0，
)(
1
11)(ln
11
n
i
i
n
i
i xnpxpdp
pLd =0
得
xx
n
p
n
i
i
1
1?
即为 p 的 最大似然估计值,
从而 p 的 最大似然估计量 为
1
1
1? (,,) n
ni
i
p X X X Xn
数理统计
(4) 在最大值点的表达式中,用样本值代入就得参数的 最大似然估计值,
求最大似然估计 (MLE)的一般步骤是：
(1) 由总体分布导出样本的联合分布率 (或联合密度 );
(2) 把样本联合分布率 ( 或联合密度 ) 中自变量看成已知常数,而把参数 看作自变量,得到 似然函数 L( );?
(3) 求似然函数 L( ) 的最大值点 (常常转化为求 ln L( )的最大值点 ),即 的 MLE;
数理统计例 6 设总体 X ~N( ),未知,
是来自 X 的样本值,试求 的最大似然估计量,
1,,nxx2,μ σ2,μ σ
2,μ σ
似然函数为解 X 的概率密度为
xexf
x
,
2
1)( 2
2
2
)(
2
22
()
2
1
1(,)
2
ix μn
σ
i
L μ σ e
π σ
数理统计 2
22
()
2
1
1(,)
2
ix μn
σ
i
L μ σ e
π σ
2
2 2 2 2
1
1( 2 ) ( ) e x p [ ( ) ]
2
n
nn
i
i
π σ x μσ
于是
2
22
1
1l n ( 2 ) l n ( )
2 2 2
n
i
i
nnLn L π σ x μ
σ
令
2 1
1 ( ) 0n
i
i
L nL x n μμ σ
2 2 2
2
2
1
1 ( ) 0
2 2 ( )
n
i
i
nL nL x μ
σ σ σ?
数理统计
1
1 n
i
i
μ xxn
22
1
1 ()n
i
i
σ xxn
解得的最大似然估计量 为2,μ σ
,μ X? 22
1
1 ()n
i
i
σ XXn
数理统计解：似然函数为例 7 设 X1,X2,… Xn是取自总体 X的一个样本为未知参数其它
,
,0
,
1
)(~
)(
xe
xfX
x
其中 >0,求 的最大似然估计,,
其它
，
,0
1
),(
1
)(
n
i
i
x xe
L
i?
i=1,2,…,n
数理统计
其它,0
m in,
1
1
)(
1
i
x
n
xe
n
i
i
对数似然函数为
n
i
ixnL
1
)(1ln),(ln?
解：似然函数为
其它
，
,0
1
),(
1
)(
n
i
i
x xe
L
i?
i=1,2,…,n
数理统计
n
i
ixn
1
1
nL?
),(ln =0 (2)
由 (1)得
n
i
ix
nL
1
2 )(
1),(ln?
=0 (1)
对 分别求偏导并令其为 0,,
对数似然函数为
n
i
ixnL
1
)(1ln),(ln?
用求导方法无法最终确定用最大似然原则来求,
、,?
数理统计
ini x 1
* m in?
对,0),(,m in Lx
i
是故使 达到最大的 即 的 MLE ),(L?,?
n
i
ixn
1
** 1
于是取其它值时,.0),(L?
即 为 的 MLE,**,,
且是 的增函数?
其它,0
m in,
1
),(
1
)(
1
i
x
n
xeL
n
i
i
数理统计第二次捕出的有记号的鱼数 X是 r.v,X具有超几何分布：
,}{
S
N
kS
rN
k
r
kXP
为了估计湖中的鱼数 N，第一次捕上 r 条鱼,
做上记号后放回,隔一段时间后,再捕出 S 条鱼,
结果发现这 S条鱼中有 k条标有记号,根据这个信息，
如何估计湖中的鱼数呢？
最后，我们用最大似然法估计湖中的鱼数
),m in (0 rSk
数理统计应取使 L(N;k)达到最大的 N,作为 N的极大似然估计,
但用对 N求导的方法相当困难,我们考虑比值,
)1;(
);(
NkXP
NkXP
把上式右端看作 N 的函数，记作 L( N ; k),
S
N
kS
rN
k
rkXP }{
)(
))((
kSrNN
rNSN
经过简单的计算知，这个比值大于或小于 1，
k
SrN? 或
k
SrN? 而定,由数理统计
)1;(
);(
NkXP
NkXP
)(
))((
kSrNN
rNSN
经过简单的计算知，这个比值大于或小于 1，
k
SrN? 或
k
SrN? 而定,由这就是说，当 N增大时，序列 P(X=k;N)先是上升而后下降 ; 当 N为小于 的最大整数时,达到最大值,故 N的极大似然估计为
].[? kSrN?
k
Sr
数理统计三,课堂练习例 1 设总体 X的概率密度为
其它,0
10,)1(
)(
xx
xf
其中 是未知参数,
X1,X2,…,Xn 是取自 X 的样本,1α?
求参数 的矩估计,
数理统计解样本矩总体矩解得
1
1
21
1
μα
μ
的矩估计量为?故
21?
1
Xα
X
1μ EX? 10 ( 1 ) αx α x dx
1 1
0( 1 )
αα x dx1
2
α
α
数理统计解 由密度函数知例 2 设 X1,X2,… Xn是取自总体 X 的一个样本为未知参数其它
,
,0
,
1
)(~
)(
xe
xfX
x
其中 > 0,求 的矩估计,?,
X 具有均值为 的指数分布?
即
E(X- ) =
2?D(X- )=
E(X)=
2?D(X)=
故数理统计解得
X
n
i
i XXn
1
2)(1
n
i
i XXn
1
2)(1
也就是 E(X)=
2?D(X)=
()θ DX?
( ) ( )μ E X D X
的矩估计量为于是,θμ
数理统计解 似然函数 为
n
i
ixL
1
1)( 1
1
)(?
n
i
i
n x
)10( ix
对数似然函数为
n
i
ixnL
1
ln)1(ln)(ln
ni1
例 3 设 X1,X2,… Xn是取自总体 X的一个样本
其它,0
10,)(~ 1 xxxfX
求 的最大似然估计值,?
其中 >0,
数理统计
n
i
ix
n
d
Ld
1
ln)(ln
求导并令其为 0
=0
从中解得
1
ln
n
i
i
θ nx
即为 的 最大似然估计值,?
对数似然函数为
n
i
ixnL
1
ln)1(ln)(ln
数理统计这一讲，我们介绍了参数点估计,给出了寻求估计量最常用的矩法和极大似然法,
参数点估计是用一个确定的值去估计未知的参数,看来似乎精确,实际上把握不大,
四、小结数理统计五、布置作业概率论与数理统计标准化作业 (六 )
