上一页 下一页湘潭大学数学与计算科学学院 1
§ 4.3 minimax估计
大家知道,风险函数 提供了一个衡量决策函数
好坏的尺度,我们自然希望选取一个决策函数,使
得它的风险尽可能的小。
定义 4,10 给定一个统计决策问题,设
*
D 是由全体决策
函 数 组 成 的 类, 如 果 存 在 一 个 决 策 函 数
* * *
1
(,,),
n
d d x x d?? L
*
D
,使得对
*
D
中任意一个决策函数
1
(,,)
n
d x xL
,总有
**
m a x (,) m a x (,),R d R d d D??
??
? ? ?
,( 4.12 )
则称
*
d
为这个统计决策问 题的 最小最大( mi nimax )决策
函数 。(在这里我们假定
R
关于
?
的最大值能达到,如果
最大值达不到,可能理解为上确界。)
上一页 下一页湘潭大学数学与计算科学学院 2
由定义可见,我们是以最大风险的大小作为衡量
决策函数好坏的准则。因此,使最大风险达到最小的
决策函数是考虑到最不利的情况,要求最不利的情况
尽可能地好。也就是人们常说的从最坏处着想,争取
最好的结果。它是一种出于 稳妥 的考虑,也是一种 偏
于保守 的考虑。
如果我们讨论的问题是一个估计问题,则称满
足式( 4,1 2 )的决策函数
*
1(,,)nd X XL 为 ? 的最小
最大( m i ni m ax )估计量。
上一页 下一页湘潭大学数学与计算科学学院 3
寻求最小最大决策函数的一般步骤,
1,对 *D 中每个决策函数 1(,,)nd x xL,求出其风险函数在 ?
上的最大风险值 m a x (,)Rd? ??? ;
2.在所有最大风险值中选取相对最小值,此值对应的决
策函数便是最小最大决策函数。
例 4,17 地质学家要根据某地区的地层结构来判断该地是
否蕴藏石油,地层结构总是 0, 1 两种状态之一,记该地无
油为 0?,记该地有油为 1
?
,已知它们的分布规律如表 4.2 所
示(其中 x 表示地层结构的状态,? 表示石油的状态)
上一页 下一页湘潭大学数学与计算科学学院 4
表 4,2 地层结构分布规律表
x
?
0
1
0
? (无油) 0,6 0,4
1
? (有油) 0,3 0,7
它表示如果该地区蕴藏石油,那么地层结构呈现状
态 0的概率为 0.3,呈现状态为 1的概率为 0.7,如果该地
区不蕴藏石油,那么地层结构呈现状态 0的概率为 0.6,
呈现状态 1的概率为 0.4,土地所有者希望根据地质学家
对地层结构的分析来决定自己投资钻探石油,还是出
卖土地所有权或者在该地区开辟旅游点,
上一页 下一页湘潭大学数学与计算科学学院 5
分别记这三种决策为 1 2 3,,a a a,于是决策空间
? ?1 2 3,,a a a?,土地所有者权衡利弊之后取损失函数
(,)La ? 为表 4,3 所示。
表 4.3 损失函数 (,)La ? 取值表
a
(,)La ?
?
1
a
2
a
3
a
0
?
(无油) 12 1 6
1
? (有油) 0 10 5
假如我们仅取一个观察 1X (样本大小为 1 )。
上一页 下一页湘潭大学数学与计算科学学院 6
如果土地所有者打算采用决策函数
11
11
21
,1,
()
,0,
ax
dx
ax
??
? ?
??
那么风险函数 1(,)Rd ? 在 0?? ? 处的值为
000 1 0 1 1 0 2 1(,) (,) ( 1 ) (,) ( 0 )R d L a P X L a P X??? ? ?? ? ? ?
1 2 0,4 1 0,6 5,4? ? ? ? ?
在 1??? 处的值为
111 1 1 1 1 1 2 1(,) (,) ( 1 ) (,) ( 0 )R d L a P X L a P X??? ? ?? ? ? ?
0 0, 7 1 0 0, 3 3? ? ? ? ?
上一页 下一页湘潭大学数学与计算科学学院 7
如果土地所有者打算采用决策函数
11
21
31
,1,()
,0,
axdX
ax
???
? ??
则风险函数 2(,)Rd ? 在 0?? ? 处的值为
000 2 0 1 1 0 3 1(,) (,) ( 1 ) (,) ( 0 )R d L a P X L a P X??? ? ?? ? ? ?
1 2 0, 4 6 0, 6 8, 4? ? ? ? ?
风险函数 2(,)Rd ?,在 1?? ? 处的值为
111 2 1 1 1 1 3 1(,) (,) ( 1 ) (,) ( 0 )R d L a P X L a P X??? ? ?? ? ? ?
0 0, 7 5 0, 3 1, 5? ? ? ? ?
上一页 下一页湘潭大学数学与计算科学学院 8
在本例中,可供土地所有者选择的决策函数共有
九个,将它们列于表 4.4。
表 4.4 决策函数表
1
x
11
()dx
21
()dx
31
()dx
41
()dx
51
()dx
61
()dx
71
()dx
81
()dx
91
()dx
0 1
a
1
a
1
a
2
a
2
a
2
a
3
a
3
a
3
a
1 1
a
2
a
3
a
1
a
2
a
3
a
1
a
2
a
3
a
我们在上面已经计算出决策函数 41 ()dx 与 71 ()dx 的风险函
数,现把这九个决策函数的风险函数及其最大值列成下
表(表 4,5 )
上一页 下一页湘潭大学数学与计算科学学院 9
表 4.5 风险函数及最大值表
1
()
i
dx
1
d
2
d
3
d
4
d
5
d
6
d
7
d
8
d
9
d
0
(,)
i
Rd ?
12 7, 6 9, 6 5, 4 1 3 8, 4 4 6
1
(,)
i
Rd ?
0 7 3, 5 3 10 6, 5 1, 5 8, 5 5
m a x (,)
i
Rd
?
?
??
12 7, 6 9, 6 5, 4 10 6, 5 8, 4 8, 5 6
如果土地所有者希望使得承担可能产生的最大风险尽量
小,那么应当采用决策函数 41 ()dx 。由定义知 41 ()dx 是这个
统计决策问题 m i ni m ax 决策函数。
上一页 下一页湘潭大学数学与计算科学学院 10
下面介绍 如何借用贝叶斯方法来求最小最大决策函数 。
当然,使用贝叶斯方法必须预先引进未知参数 ? 的先验
分布。但是,这里仅仅是借用这个先验分布以得到
m in im ax 决策函数而已。
定理 4.8 给定一个统计决策问题,如果存在某个先验分
布,使得在这个先验分布下的贝叶斯决策函数 1(,,)Bnd x xL
的风险函数是一个常数,那么 1(,,)Bnd x xL 必定是这个统计
决策的一个 m in im ax 决策函数。
上一页 下一页湘潭大学数学与计算科学学院 11
上一页 下一页湘潭大学数学与计算科学学院 12
证明 记 ( ) m a x (,)MR d R d? ????,且设 1(,,)Bnd x xL 的风险函数为
(,),BR d C??? ? ? ?它的贝叶斯风险
()BBR d C? 。假定 1(,,)Bnd x xL 不是 m i n i m a x 决
策函数,
那么必定存在一个决策函数 1(,,)nd x xL,使得
( ) ( ) m a x (,)M M B BR d R d R d C? ???? ? ?
于是,1(,,)nd x xL 的风险函数
(,) ( ),MR d R d C??? ? ? ? ?
对上式两边在给定的先验分布下求期望,得到
( ) [ (,) ] ( )B B BR d E R d C R d?? ? ?
上一页 下一页湘潭大学数学与计算科学学院 13
这表明 1(,,)Bnd x xL 不可能是这个先验分布下的贝叶
斯决策函数,从而产生了矛盾。
因此,1(,,)Bnd x xL 必定是一个 minimax 决策函数。
对于上述定理,若给定的统计决策问题为参数的点估
计,且定理的条件满足,则相应的决策函数
1
(,,)
Bn
d x xL 必为参数的 m i n i m a x 估计量。