约束极值问题的最优性条件
约束极值问题一,
最优性条件二,
约束极值问题一,
?
?
?
??
??
ljxg
mixh
ts
xf
j
i
,,2,10)(
,,2,10)(
..
)(m i n
?
?
,}0)(,0)(|{ ??? xgxhxQ令 为此约束极值问题称 Q
,))(,,)(,)(()(
,))(,,)(,)(()(
21
21
T
l
T
m
xgxgxgxg
xhxhxhxh
?
?
?
?记
约束极值问题可记为则
?
?
?
?
?
0)(
0)(
..
)(m i n
xg
xh
ts
xf
的可行域。
??
?
??
???
0)(
0)(0)(
xh
xhxh
i
i
i?
约束极值问题也可记为?
0)(..
)(m in
?xgts
xf
最优性条件二,
一个可行方向。
处的为则称有使得对任意的
,实数为一个向量。如果存在,设可行方向:
00
0
,],0[
0
xdQdx
dQx
???
??
???
?
0)(1 ?xg
0)(2 ?xg
0x
1x
1d
1d
2d
2d
可行方向和积极约束.1
0)(..
)(m in
?xgts
xf )1(
。可行域为 }0)(|{ ?? xgxQ
处的积极约束。是点则称
,如果对于不等式约束设点积极约束:
xxgxg
xgQx
ii
i
0)(,0)(
0)(,
??
??
约束指标集。
处的积极为点称记 xxIlixgixI i )(,}1,0)(|{)( ????
指标集。
的积极约束,求点令。
设例
xxxxg
xxxgxxxg
T)
2
2
,
2
2
(0)(
,01)(,02)(
13
2
2
2
12
2
121
???
???????
解:,0)2 2(22 2)( 21 ????xg?
,0)2 2()2 2(1)( 222 ????xg
。022)(3 ??xg
。}2,1{)( ?? xI
1x
2x
O
0)(1 ?xg0)(2 ?xg
0)(3 ?xg x
是可行方向?如何判断一个向量是否
可行方向。
的是点则有,如果对任意的向量
。给定的积极约束指标集为记点给定点定理
xddxgxIid
xIxQx
T
i,0)()(
)(,1
???
?
:证明 有则对任意的。令,)(0,' xIitdtxx ????
)||||()()()'( 2tdodxgtxgxg Tiii ????
)||||()( 2tdodxgt Ti ???
0?
为可行方向。即 dQx,'??
行下降方向。
处的可为点的下降方向,则称的可行方向,又是该点
处既是点,如果给定向量,设点可行下降方向:
xd
xddQx ?
处的可行下降方向。是点则向量
满足,如果向量
。给定的积极约束指标集为记点给定点定理
xd
dxf
xIidxg
dd
xIxQx
T
T
i
?
?
?
??
???
?
0)(
)(0)(
)(,2
处没有可行下降方向。点
)的局部极小点,则在是约束极值问题(续。如果
处连在点处可微,在点
和是其积极约束指标集。,设定理
*
1*
*)*)(()(*)*)((
)()(*)(*3
x
x
xxIixgxxIi
xgxfxIQx
i
i
??
?
极值点的必要条件:
塔克条件)条件(库恩 ?? TK.2
是其积极约束指标集。
)的局部极小点,是约束极值问题(设点
*)(
1*
xI
x
分析:
。
,使下式成立可知,不存在向量则由定理
?
?
?
??
???
0)(
)(0)(
2
dxf
xIidxg
d
T
T
i
为积极约束。设中只有一个指标,不妨如果 )(*)()1( 1 xgxI
成立。
使得则不存在向量
?
?
?
??
??
0*)(
0*)(
1 dxg
dxf
d
T
T
0)(1 ?xg
*x
*)(1 xg?
*)( xf??
。则有 0,*)(*)( 1 ???? ?? xgxf
。即 0*)(*)( 1 ???? xgxf ?
线性无关。和并设
为积极约束。和中有两个指标,不妨设如果
*)(*)(
)()(*)()2(
21
21
xgxg
xgxgxI
??
0)(1 ?xg
0)(2 ?xg
*x
*)(1 xg?*)(2 xg?
*)( xf??
。使得,存在 *)(*)(*)(,0 221121 xgxgxf ??????? ????
。0*)(*)(*)( 2211 ??????? xgxgxf ??
线性无关。设一般情况,}*)(|*)({)3( xIixg i ??
使得则存在非负实数 ),*)(( xIii ??
0*)(*)( *)( ???? ?? xIi ii xgxf ?
式可改写为)2(
)2(
?
?
?
?
?
?
?
??
??
???? ?
?
li
lixg
xgxf
i
ii
l
i
ii
,,2,1,0
,,2,1,0*)(
0*)(*)(
1
?
?
?
?
?
)3(
??
?
??
??
li
lixg
i
ii
,,2,1,0
,,2,1,0*)(
?
?
?
? ?
??
?
??
??;0*)(,0;0*)(,
xg
xg
ii
ii
?
?
使其满足一组实数的局部极小点,则存在
)是约束极值问题(线性无关。若
处连续在点处可微,点
在和,设条件)定理
i
i
i
i
xxIixg
xxIixgx
xIixgxfQxTK
?
1*}*)(|*)({
,*)*)(()(*
)*)(()()(*(4
??
?
???
?
?
?
?
?
?
?
??
??
???? ?
?
li
lixg
xgxf
i
ii
l
i
ii
,,2,1,0
,,2,1,0*)(
0*)(*)(
1
?
?
?
?
?
)(?
点。称为
式的点塔克条件),满足条件(库恩式称为
TK
TK
?
???? )()(
?
?
?
?
?
0)(
0)(
..
)(m i n
xg
xh
ts
xf 问题对于有等式约束的极值)4(
条件可写为TK ?
?
?
?
?
?
?
?
??
??
?????? ??
??
li
lixg
xgxhuxf
i
ii
l
i
ii
m
j
jj
,,2,1,0
,,2,1,0*)(
0*)(*)(*)(
11
?
?
?
?
?
)(??
点的计算TK ?.3
求约束极值问题例
?
?
?
?
?
?
?
??
?????
0
0
4
..
866)(m i n
2
1
21
21
2
2
2
1
x
x
xx
ts
xxxxxf
。点的 TK ?
解,。Txxxf ]3,3[2)( 21 ????
211 4)( xxxg ???? Txg ]1,1[)(1 ?????
。Txgxxg ]0,1[)(,)( 212 ???
。Txgxxg ]1,0[)(,)( 323 ???
条件得由 TK ?
010011133 321
2
1 ??
?
?
??
??
??
?
??
??
??
?
??
?
?
??
??
?
??
?
?
? ???
x
x
条件及约束条件得由 TK ?
?
?
?
?
?
?
?
?
?
?
?
?
??
?
?
???
???
???
0,,,,
4
0
0
0)4(
3
3
21321
21
23
12
211
312
211
xx
xx
x
x
xx
x
x
???
?
?
?
??
??
以下分情况讨论:
:0)1( 21 ?? xx若
。可得由 00)4( 1211 ???? ?? xx
321 ??? ?? 32 ??? ?
矛盾。这与 02 ??
:0,0)2( 21 ?? xx若
03 ???
??
?
??
???
3
3
21
12
??
?x 0
22 ??? ?x 022 ???? x?
矛盾。这与 02 ??
:0,0)3( 21 ?? xx若
02 ???
??
?
??
???
3
3
31
11
??
?x 0
31 ??? ?x 013 ???? x?
矛盾。这与 03 ??
:0,0)4( 21 ?? xx若
032 ??? ??
??
?
??
???
3
3
12
11
?
?
x
x
21 xx ??
421 ?? xx若 01 ?? ? 321 ??? xx
4621 ???? xx 矛盾。?
421 ??? xx 221 ??? xx 11? ?
点。为 TKT ?? ]2,2[
其它最优性条件.4
,使得的非负实数
在一组不全为零)的局部极小点,则存约束极值问题(
是若。处连续在点处可微,在点
和,设条件)定理
i
i
i
xxxIixgx
xIixgxfQxJ o hnFr i t z
?
1
**)*)(()(*
)*)(()()(*(5
?
??
0*)(*)( *)(0 ???? ?? xIi ii xgxf ??
约束极值问题一,
最优性条件二,
约束极值问题一,
?
?
?
??
??
ljxg
mixh
ts
xf
j
i
,,2,10)(
,,2,10)(
..
)(m i n
?
?
,}0)(,0)(|{ ??? xgxhxQ令 为此约束极值问题称 Q
,))(,,)(,)(()(
,))(,,)(,)(()(
21
21
T
l
T
m
xgxgxgxg
xhxhxhxh
?
?
?
?记
约束极值问题可记为则
?
?
?
?
?
0)(
0)(
..
)(m i n
xg
xh
ts
xf
的可行域。
??
?
??
???
0)(
0)(0)(
xh
xhxh
i
i
i?
约束极值问题也可记为?
0)(..
)(m in
?xgts
xf
最优性条件二,
一个可行方向。
处的为则称有使得对任意的
,实数为一个向量。如果存在,设可行方向:
00
0
,],0[
0
xdQdx
dQx
???
??
???
?
0)(1 ?xg
0)(2 ?xg
0x
1x
1d
1d
2d
2d
可行方向和积极约束.1
0)(..
)(m in
?xgts
xf )1(
。可行域为 }0)(|{ ?? xgxQ
处的积极约束。是点则称
,如果对于不等式约束设点积极约束:
xxgxg
xgQx
ii
i
0)(,0)(
0)(,
??
??
约束指标集。
处的积极为点称记 xxIlixgixI i )(,}1,0)(|{)( ????
指标集。
的积极约束,求点令。
设例
xxxxg
xxxgxxxg
T)
2
2
,
2
2
(0)(
,01)(,02)(
13
2
2
2
12
2
121
???
???????
解:,0)2 2(22 2)( 21 ????xg?
,0)2 2()2 2(1)( 222 ????xg
。022)(3 ??xg
。}2,1{)( ?? xI
1x
2x
O
0)(1 ?xg0)(2 ?xg
0)(3 ?xg x
是可行方向?如何判断一个向量是否
可行方向。
的是点则有,如果对任意的向量
。给定的积极约束指标集为记点给定点定理
xddxgxIid
xIxQx
T
i,0)()(
)(,1
???
?
:证明 有则对任意的。令,)(0,' xIitdtxx ????
)||||()()()'( 2tdodxgtxgxg Tiii ????
)||||()( 2tdodxgt Ti ???
0?
为可行方向。即 dQx,'??
行下降方向。
处的可为点的下降方向,则称的可行方向,又是该点
处既是点,如果给定向量,设点可行下降方向:
xd
xddQx ?
处的可行下降方向。是点则向量
满足,如果向量
。给定的积极约束指标集为记点给定点定理
xd
dxf
xIidxg
dd
xIxQx
T
T
i
?
?
?
??
???
?
0)(
)(0)(
)(,2
处没有可行下降方向。点
)的局部极小点,则在是约束极值问题(续。如果
处连在点处可微,在点
和是其积极约束指标集。,设定理
*
1*
*)*)(()(*)*)((
)()(*)(*3
x
x
xxIixgxxIi
xgxfxIQx
i
i
??
?
极值点的必要条件:
塔克条件)条件(库恩 ?? TK.2
是其积极约束指标集。
)的局部极小点,是约束极值问题(设点
*)(
1*
xI
x
分析:
。
,使下式成立可知,不存在向量则由定理
?
?
?
??
???
0)(
)(0)(
2
dxf
xIidxg
d
T
T
i
为积极约束。设中只有一个指标,不妨如果 )(*)()1( 1 xgxI
成立。
使得则不存在向量
?
?
?
??
??
0*)(
0*)(
1 dxg
dxf
d
T
T
0)(1 ?xg
*x
*)(1 xg?
*)( xf??
。则有 0,*)(*)( 1 ???? ?? xgxf
。即 0*)(*)( 1 ???? xgxf ?
线性无关。和并设
为积极约束。和中有两个指标,不妨设如果
*)(*)(
)()(*)()2(
21
21
xgxg
xgxgxI
??
0)(1 ?xg
0)(2 ?xg
*x
*)(1 xg?*)(2 xg?
*)( xf??
。使得,存在 *)(*)(*)(,0 221121 xgxgxf ??????? ????
。0*)(*)(*)( 2211 ??????? xgxgxf ??
线性无关。设一般情况,}*)(|*)({)3( xIixg i ??
使得则存在非负实数 ),*)(( xIii ??
0*)(*)( *)( ???? ?? xIi ii xgxf ?
式可改写为)2(
)2(
?
?
?
?
?
?
?
??
??
???? ?
?
li
lixg
xgxf
i
ii
l
i
ii
,,2,1,0
,,2,1,0*)(
0*)(*)(
1
?
?
?
?
?
)3(
??
?
??
??
li
lixg
i
ii
,,2,1,0
,,2,1,0*)(
?
?
?
? ?
??
?
??
??;0*)(,0;0*)(,
xg
xg
ii
ii
?
?
使其满足一组实数的局部极小点,则存在
)是约束极值问题(线性无关。若
处连续在点处可微,点
在和,设条件)定理
i
i
i
i
xxIixg
xxIixgx
xIixgxfQxTK
?
1*}*)(|*)({
,*)*)(()(*
)*)(()()(*(4
??
?
???
?
?
?
?
?
?
?
??
??
???? ?
?
li
lixg
xgxf
i
ii
l
i
ii
,,2,1,0
,,2,1,0*)(
0*)(*)(
1
?
?
?
?
?
)(?
点。称为
式的点塔克条件),满足条件(库恩式称为
TK
TK
?
???? )()(
?
?
?
?
?
0)(
0)(
..
)(m i n
xg
xh
ts
xf 问题对于有等式约束的极值)4(
条件可写为TK ?
?
?
?
?
?
?
?
??
??
?????? ??
??
li
lixg
xgxhuxf
i
ii
l
i
ii
m
j
jj
,,2,1,0
,,2,1,0*)(
0*)(*)(*)(
11
?
?
?
?
?
)(??
点的计算TK ?.3
求约束极值问题例
?
?
?
?
?
?
?
??
?????
0
0
4
..
866)(m i n
2
1
21
21
2
2
2
1
x
x
xx
ts
xxxxxf
。点的 TK ?
解,。Txxxf ]3,3[2)( 21 ????
211 4)( xxxg ???? Txg ]1,1[)(1 ?????
。Txgxxg ]0,1[)(,)( 212 ???
。Txgxxg ]1,0[)(,)( 323 ???
条件得由 TK ?
010011133 321
2
1 ??
?
?
??
??
??
?
??
??
??
?
??
?
?
??
??
?
??
?
?
? ???
x
x
条件及约束条件得由 TK ?
?
?
?
?
?
?
?
?
?
?
?
?
??
?
?
???
???
???
0,,,,
4
0
0
0)4(
3
3
21321
21
23
12
211
312
211
xx
xx
x
x
xx
x
x
???
?
?
?
??
??
以下分情况讨论:
:0)1( 21 ?? xx若
。可得由 00)4( 1211 ???? ?? xx
321 ??? ?? 32 ??? ?
矛盾。这与 02 ??
:0,0)2( 21 ?? xx若
03 ???
??
?
??
???
3
3
21
12
??
?x 0
22 ??? ?x 022 ???? x?
矛盾。这与 02 ??
:0,0)3( 21 ?? xx若
02 ???
??
?
??
???
3
3
31
11
??
?x 0
31 ??? ?x 013 ???? x?
矛盾。这与 03 ??
:0,0)4( 21 ?? xx若
032 ??? ??
??
?
??
???
3
3
12
11
?
?
x
x
21 xx ??
421 ?? xx若 01 ?? ? 321 ??? xx
4621 ???? xx 矛盾。?
421 ??? xx 221 ??? xx 11? ?
点。为 TKT ?? ]2,2[
其它最优性条件.4
,使得的非负实数
在一组不全为零)的局部极小点,则存约束极值问题(
是若。处连续在点处可微,在点
和,设条件)定理
i
i
i
xxxIixgx
xIixgxfQxJ o hnFr i t z
?
1
**)*)(()(*
)*)(()()(*(5
?
??
0*)(*)( *)(0 ???? ?? xIi ii xgxf ??