点估计 教学基本要求 理解参数的点估计的概念，掌握矩估计法（一阶，二阶）与 极大似然值估计法 了解估计量的无偏性，有效性，一致性 了解估计的概念，会求单个正态总体的均值与方差的置信区间会求两个正态总体的均值及方差比的置信区间 教学重点和难点 点矩估计中的矩估计法 极大似然估计法 估计量的性质 置信区间 §6.1 矩法估计 参数估计： 根据已知信息（样本的观侧值），对母体的分布（概率函数）中未知的参数做出推断 即 从一簇概率函数{，θ∈参数空间Θ}中选定一个分布 构造一个统计量 作为参数θ的一个估计量 则是的点估计值 ，若{，（）Θ} 则 需构造k个估计量 得到关于的方程组 ，解出估计值 二．矩法估计：用子样的经验分布和子样矩去替换总体的分布和总体矩的原则。 设（ξ1，ξ2，…ξn）取自总体的一个样本，如果未知参数θ=h(u1,u2, …um).则=（1，2，…，n）为θ的矩估计量。 矩阵估计的基本步骤： ①如待估参数只有一个θ，先求总体ξ的一阶矩阵Eξ，若Eξ中不含有θ，再求Eξ2…直到式中含θ为止，即Eξ=g(θ). ②解出θ=h（Eξ）。 ③替换= h（）。 如待估参数有θ1，θ2。此时Eξ= g1（θ1，θ2），Eξ= g2（θ1，θ2）。 解出θ1=h1(Eξ,Eξ2), θ2=h2(Eξ,Eξ2). 求团体均值Eξ与 Dξ的矩阵计。 设团体ξ服从Γ分布，其密度函数。 F(x,p,b)= 求，。 三．估计量的优良性。 一致性：=（ξ1，ξ2，…ξn）为参数的估计量。若,当样本容量n时，。即. 验证若，则是的一致估计量。 证法一：p= 又=E（）=E=D 故=0  即 无偏估计。 设（ξ1，ξ2，…ξn）是母体ξ的概率函数的未知参数 的一个估值。若E（）=。则称为的无偏估计，否则为有偏的。 E（E）=E。E（）=E（）= n。则为的渐近无偏估计。 P 例6.3 例6.4  §6.2 极大似然估值 一 引入：例如产品抽样问题。ξ=1表示不合格，ξ=0表示合格。 f 0<p<1为不合格品率。 子样（ξ1，ξ2，…ξn）的联合分布。 p（ξ1=x，ξ2=x，…ξn=x）=p…p=p.其中或1。 多个参数 Def3.似然函数L（）=.为关于样本值的似然函数，记为I(),它是观测到（）时出现何种的一个量度。 Def4 使I()达到最大值时的点（），，称为参数的极大似然估计值。相应的估计值。 极大似然估计量L（）=。 Def1.单个未知参数。 L（）=。称为样本的似然函数。（关于样本值的似然函数）。 Def2.设（ξ1，ξ2，…ξn）是来自总体ξ的一个样本。 如果使L（）=. 例P例6.6 f(x,)=  解：子样（ξ1，ξ2，…ξn）的似然函数。 L（）= 0〈x L（）关于单调递减。且同时成立（I=1,2,…n）. 可见当此时不小于。 为的极大似然函数估计量。 相应（最大次序统计量）为极大似然估计量。 注：不是的无偏估计。 二．极大似然估计的性质（不变性） Th1 为f（x，）中参数的极大估计，并且函数u=u（）具有单值反函数则是u（）的极大似然估计，这是H的值域。 证： =L（） u（）的单值反函数（u） L（ ）=L（） L（）=L（） 若固体--N（u，）。求的极大似然估计 解：为的极大 似然估计  =u=有单值反函数  P=lnX——N（u，），求EX，DX的极大似然估计。 证：Z---N（u，）=，=Sn为u，的 极大似然估计 又 EX=dx=e  Th2。（渐近正态性）Dague定理 =0的解存在：当n时，（为的未知真值） 且F（x）N（） 的密度函数 =   == 但是的无偏估计。 可见 和均为参数的无偏估计，即 参数的 无偏估计不唯一。 事实上，若为的无偏估计，对于任何且  均为的无偏估计。  例6，7 若  k=0,1,2…求的极大似然估计。 解：似然函数 取对数 对参数求导 为极大似然估计值。 为极大似然估计量。  例6，8 ~  . 解：正态分布的似然函数  =  令 解方程组得 可见  为极大似然估计量。 例3： x~b(1,p) 未知参数H= 由容量为1样本求p的极大似然估计量。 。 = 有唯一解x,但x=0或1，不在内，因而x不能作为p的极大似然估计，此时只能用定义。 当x=0时    为极大似然估计值； 当x=1时    为极大似然估计值。 又如：  求 的极大似然估计。 解： 样本的极大似然函数  当时有  令 由方程（1）知  但无法求出 但在恒定时，要使最大，只须最大。 又 只能在中取，且  。  为极大似然估计量。 §6.3 Rao---Cramer不等式 一 有效性 Th3 若参数的两个无偏估计和，它们的方差对一切H有 D（），则称估计比估计有效。 例1 若分布均匀U[0，]；=2为的无偏， 为的渐进无偏  =为无偏。 D（）=D（2）=4D= E（）=dy= D（）=[]= D（）== 当n2时 比有效。 证明样本的一切线性组合中，是EX=u的无偏估计中有效的估计量 证明：令=为u的无偏估计 欲使 E（）=u， 则  D== 由Schwarz不等式知（ ） 令x=a  有 n  所以  较 有效 方法二 利用一元函数（或多元函数）求极值方法 例 设有K台仪器，利用第i台仪器测量时，测定值总体的标准差为（I=1，2，3，，，，，，） 用这些仪器独立地对某一物体量 各观察一次，分别得设仪器无偏差（即EX=） 问a应取何值时，使=估计时，为无偏的，且D（）最小。 解：由 E（）=可知 时（2）D（）= 令 g（a，a，，，，，，a）=a+，，，+a 归结为求多元函数g（a。。。。。。a） 在  条件下的最小值，作Lagrange函数L（a。。。。。。a，）=g（a。。。。。。a）=） 令 令 则 当a=时 为有效估计， 二 Rao---Cramer不等式， 设 为取自具有概率函数f（x，），H=的母体的子样，又是g（）的一个无偏估计，满足正则条件： 集合S=与无关 g（）与 存在且对一切  .x,x,…x) =[ (3) 令 等式成立条件为：不倚赖于 但可能依赖于的常数k 使 证：或，不等式显然成立， ，（的无偏性） 由正则条件（1），（2）知 ， 由于为的密度函数，  而 且有  ()  =,  由Schwarz 不等式知： 定义随机变量：， 则    2。计算信息 Th1.若 则  = = = 例1.  0<p<1 为有效估计；     3 ．有效估计： 若为的一个无偏估计,且，则 为的有效估计 4 . 有效率:  注: ① 为有效的 ②若的有效率分别为 则较  有效. 5 .渐近有效估计:  §6.4 充分统计量 1 .导入： 为不等式中等号成立条件; 两边对 积分得: 即 其中 以  2 .充分统计量:  是取自概率函数的母体的子 是一个统计量,有概率函数若  当 取一固定值时,  发生下的条件概率函数 不依赖于 设母体 有密度函数  证明： 是充分统计量 证明：的密度函数. 当   当 时 上式不依赖，且的 值域也不依赖于，是 充分统计量 例2，  取得子样 问为的充分统计量吗？ 解 ：当时，有，而的概函数    可见不是的 充分统计量 判断方法二.充分统计量的判断 TH6.2 Neyman 因子分解定理 设为取自具有概率函数 的母体一个子样 则 统计量一个 充分统计量两个 非负函数使且当取一定值时 函数不依赖 证明 ：若是的一个充分统计量， 设其概率 函数为，则 由定义知 且 在取一定值时 不依赖于 令连续 型随机变量 且 与均为连续函数 补充个连续函数 且 均连续，使点（到（为一一变换 其逆变换 …… Jacoo行列式为[J]  由条件可知：的联合 概率密度   的边际密度函数为：  由于与均不依赖于参数，且非负的。令 当时，有； 当时，， 在取一定值时，与均不依赖于从而在下的条件的条件密度不依赖于。 例6.18 设是取自总体的一个子样，，则子样均值是的一个充分统计量.   . 前一个因子是关于的函数，且依赖于.后一个因子不依赖于.可见是的一个充分统计量. 例6.19.  证明： 是一个充分统计量.    是关于的充分统计量. 判别方法三：单参考指数族分布：分布函数族 若存在定义上的实值函数，在（a,b）上的实值函数，使得： 例6.20, 分布族是指数族分布. ， 此时， 例6.21.二项分布族是指数族分布. 解    此时    可见二项分布簇是指数分布是 TH6.3 设随机变量具有单参数的指数簇分布;是取值总体的子样;则 统计量是的一个充分量 证明：  在为正的点上，  由因子分解定理知：的充分量 Corl1：是正态母体中方差的充分统计量，从而为有效值。 Corl2：是二项分布的充分量。 TH6.4 若母体的概率函数为取自母体的子样，若未知参数有一个充分量存在，则似然方程的解一定是的函数 证明：由的充分性可知，似然方程  的解一定是y的函数. §6.5 Rao-Backwell定理和一致最小方差无偏估计 解决问题。 对于不满足正规条件的无偏估计不一定能够达到R-C不等式的下界. ①．知道一个元偏估计，构造一个方差更小的无偏估计 现解决： ② 方差所有无偏类中达到最小的条件. TH 6.5：Rao-Backwell定理：设两个随机变量.和；设条件下的条件期望 则，. 证明：设分别为和的联合密度函数两个边缘密度和条件下的条件密度.          即 . 等号成立.即 注 ：Rao-Backwell定理的直观解释. 如 ：  其中：     TH6.6 子样取自母体 ，的概率函数设是的一个充分统计量不仅是的函数且则是的充分统计量函数且  证明：是的一个充分统计量，在条件下仅是的函数与无关，是一个统计量 由Rao-Backwell定理知：是的一个无偏估计   注：上述定理给出一个寻求最小方差的无偏估计方法。 是一个充分统计量 在的函数如中，找的无偏估计  二 一致最小方差无偏估计：（UMVUE） 若是的一个无偏估计，，且对一切(h)和 任何一个无偏估计的方差不大于：即则称UMVUE cor：设的一个充分统计量，的唯一一个可以表示为的函数的无偏估计，则的一个一致最小方差的无偏估计。 证：无偏估计，则的一个无偏估计，且 由的唯一性知可见是的UMVUE 例  是一个充分统计量 其概率分布：  设与仅是的函数，且为的任意两个无偏估计。 令，只是的函数。  又知 可见 从而 ，， 故以概率1成立。 从而以概率1成立。 是的一个无偏估计，又是的函数，且是唯一的 ，故为的UMVUE。