§ 5 矩阵的奇异值分解定理 1 则有设,nmrCA
)()()()1( HH AAr a n kAAr a n kAr a n k
证的特征值均为非负实数,HH AAAA)2(
.)3( 的非零特征值相同,HH AAAA
rAAr a n k H?)(设 的解空间0?AxA H
Xrn 维,记为为? Xx?1设 11 AxAx HH 0?
0)( 1111 AxAxAxAx HHH
01?Ax )()( AAr a n kAr a n k H?
)()( AAr a n kAr a n k H?
AA H)2( ),(0 AA?
),( AA H? ),( ),(
0
的特征值为设 AA H)3(
0121 nrr
的特征值为HAA
1 2 1 0r r m
iiiH AA )()( iHiH AAAAAA
iiiH AAAA)(
的非零特征值也是 Hi AA?
:同理可证的非零特征值也是的非零特征值 AAAA HH
一组基的特征子空间是设?VAAyy Hp,,1?
02211 pp AykAykAyk?
02211 pHpHH AyAkAyAkAyAk?
0)( 2211 pp ykykyk
02211 pp ykykyk?
全为零pkkk,,,21?
线性无关pAyAyAy,,,21?
的的维数不大于的特征子空间 HH AAVAA?
的维数特征子空间?V
同理可证,的维数的特征子空间?VAA H
的维数特征子空间不大于?VAA H
,复度相同的非零特征值的代数重与 HH AAAA
定义 1 的特征值为设 AACA Hnmr,
0121 nrr
.),,2,1( 的正奇异值为则称 Ariii
定义 2 如果存在酉矩阵、设,nmCBA
使得和,nnmm CVCU
U B VA?
.酉等价与则称 BA
定理 2 有相同正与酉等价,则与若 BABA
.奇异值证 酉等价与 BA U B VA? HAA
HUB VUB V )(? HHH UBU B VV? HH UU BB?
HH BBAA ~,有相同正奇异值与 BA
定理 3 个正的是设 rACA rnm
r,,,,21?
,nnmm CVCU 和
V
D
UA?
00
0
奇异值,则存在酉矩阵使得
12,(,,,),rD d ia g其中证 阶正规矩阵为 nAA H HH AVVA
00
0DD H )0,,0,,,,( 22
221 rd i a g
nrn
rn
nr
r CVCVV
V
V
)(21
2
1,,
HHHH
HHHH
AVAVAVAV
AVAVAVAV
2212
2111
00
0DD H
HH AVAV 22 HHH AVAV 22 )(? 0?
02?HAV
0,2211 HHHHH AVAVDDAVAV
HHH AVDU 111 )( mrC
H
H
H
U
UU
2
1 12 UU H 0? 112 DAVU HH
)1(012?HH AVU
HH AVU 11 HHH AVAVD 111)( DDD HH 1)(
)2(11 DAVU HH?
02?HAV )3(02221 HHHH AVUAVU
HH AVUHHH
H
VVA
U
U
21
2
1
HHHH
HHHH
AVUAVU
AVUAVU
2212
2111
00
0D
例,
002
001
的奇异值分解求矩阵
A
的特征值及特征向量一、求 AA H
000
000
005
002
001
00
00
21
AA H
5;0,0,5 1221
0)( xAAE Hi?
1
0
0
0
1
0
0
0
1
121
:二、构造酉矩阵 V
1
2
1 0 0
0 1 0
0 0 1
V
V
V
100
010
,001 21 VV
其中,
:U三、构造酉矩阵
HHH AVDU 111 )(.1
00
00
21
001
5
1
5
2
5
1
扩充成酉矩阵将 HU 1.2
01?xU H?
5
1
5
2
2
HU
5
1
5
2
5
2
5
1
U
四、结论:
100
010
001
000
005
5
1
5
2
5
2
5
1
A
定义 )s in( c o s iz
一阶复矩阵的极分解定理 4 与两个,则必存在酉矩阵设 UCA nn
n
,使得、矩阵正定 21H e r m i t e HH
21 UHUHA
.的而且这种分解式是唯一证 nnnCA 正定AA H 0?
i? 0?i?故
11 DVUA? 1111 VUDUU H? UH 1?
同理 11 DVUA? 1111 DVVVU H? 2UH?
唯一性,212111 UHUHA HUUHH 121211?
HHHH 1111211? HHH UUHUUH )( 12121212?
HHH HUUUUH 12211212? HHH 1212? 212H?
1211 HH? 21 UU?
推论 1 QRA nnn 阵,则必存在唯一正交矩设
,使得、两个正定实对称矩阵 21 HH
21 QHQHA
推论 2,
21 UUCA nnn,,则必存在酉矩阵设
使得
),,,( 2112 nd i a gAUU
.021 个正奇异值的是其中 nAn
nnnCA证 UHA? 2HA A H?
Hn Ud i a gUH 1211 ),,,(
Hn Ud i a gUUA 1211 ),,,( 12 UUU H?
HnH Ud i a gUA 1212 ),,,(
),,,( 2112 nd i a gAUU
定理 5 与两个,则必存在酉矩阵设 UCA nn
,使得、矩阵半正定 21H e r m i t e HH
21 UHUHA
.2221 AAHAAH HH,并且证
11 00
0
V
D
UA r?
nn
CA
1111 00
0
VUU
D
UA Hr?
UH
1?
2UH?同理 1111 00
0
V
D
VVUA rH?
Hr UDUH
111 00
0
HrHr UDUUDUH
1111
2
1 00
0
00
0
Hrr UDDUH
11
2
1 00
0
00
0
HrHr UDVVDUH
1111
2
1 00
0
00
0
HAA?
)()()()1( HH AAr a n kAAr a n kAr a n k
证的特征值均为非负实数,HH AAAA)2(
.)3( 的非零特征值相同,HH AAAA
rAAr a n k H?)(设 的解空间0?AxA H
Xrn 维,记为为? Xx?1设 11 AxAx HH 0?
0)( 1111 AxAxAxAx HHH
01?Ax )()( AAr a n kAr a n k H?
)()( AAr a n kAr a n k H?
AA H)2( ),(0 AA?
),( AA H? ),( ),(
0
的特征值为设 AA H)3(
0121 nrr
的特征值为HAA
1 2 1 0r r m
iiiH AA )()( iHiH AAAAAA
iiiH AAAA)(
的非零特征值也是 Hi AA?
:同理可证的非零特征值也是的非零特征值 AAAA HH
一组基的特征子空间是设?VAAyy Hp,,1?
02211 pp AykAykAyk?
02211 pHpHH AyAkAyAkAyAk?
0)( 2211 pp ykykyk
02211 pp ykykyk?
全为零pkkk,,,21?
线性无关pAyAyAy,,,21?
的的维数不大于的特征子空间 HH AAVAA?
的维数特征子空间?V
同理可证,的维数的特征子空间?VAA H
的维数特征子空间不大于?VAA H
,复度相同的非零特征值的代数重与 HH AAAA
定义 1 的特征值为设 AACA Hnmr,
0121 nrr
.),,2,1( 的正奇异值为则称 Ariii
定义 2 如果存在酉矩阵、设,nmCBA
使得和,nnmm CVCU
U B VA?
.酉等价与则称 BA
定理 2 有相同正与酉等价,则与若 BABA
.奇异值证 酉等价与 BA U B VA? HAA
HUB VUB V )(? HHH UBU B VV? HH UU BB?
HH BBAA ~,有相同正奇异值与 BA
定理 3 个正的是设 rACA rnm
r,,,,21?
,nnmm CVCU 和
V
D
UA?
00
0
奇异值,则存在酉矩阵使得
12,(,,,),rD d ia g其中证 阶正规矩阵为 nAA H HH AVVA
00
0DD H )0,,0,,,,( 22
221 rd i a g
nrn
rn
nr
r CVCVV
V
V
)(21
2
1,,
HHHH
HHHH
AVAVAVAV
AVAVAVAV
2212
2111
00
0DD H
HH AVAV 22 HHH AVAV 22 )(? 0?
02?HAV
0,2211 HHHHH AVAVDDAVAV
HHH AVDU 111 )( mrC
H
H
H
U
UU
2
1 12 UU H 0? 112 DAVU HH
)1(012?HH AVU
HH AVU 11 HHH AVAVD 111)( DDD HH 1)(
)2(11 DAVU HH?
02?HAV )3(02221 HHHH AVUAVU
HH AVUHHH
H
VVA
U
U
21
2
1
HHHH
HHHH
AVUAVU
AVUAVU
2212
2111
00
0D
例,
002
001
的奇异值分解求矩阵
A
的特征值及特征向量一、求 AA H
000
000
005
002
001
00
00
21
AA H
5;0,0,5 1221
0)( xAAE Hi?
1
0
0
0
1
0
0
0
1
121
:二、构造酉矩阵 V
1
2
1 0 0
0 1 0
0 0 1
V
V
V
100
010
,001 21 VV
其中,
:U三、构造酉矩阵
HHH AVDU 111 )(.1
00
00
21
001
5
1
5
2
5
1
扩充成酉矩阵将 HU 1.2
01?xU H?
5
1
5
2
2
HU
5
1
5
2
5
2
5
1
U
四、结论:
100
010
001
000
005
5
1
5
2
5
2
5
1
A
定义 )s in( c o s iz
一阶复矩阵的极分解定理 4 与两个,则必存在酉矩阵设 UCA nn
n
,使得、矩阵正定 21H e r m i t e HH
21 UHUHA
.的而且这种分解式是唯一证 nnnCA 正定AA H 0?
i? 0?i?故
11 DVUA? 1111 VUDUU H? UH 1?
同理 11 DVUA? 1111 DVVVU H? 2UH?
唯一性,212111 UHUHA HUUHH 121211?
HHHH 1111211? HHH UUHUUH )( 12121212?
HHH HUUUUH 12211212? HHH 1212? 212H?
1211 HH? 21 UU?
推论 1 QRA nnn 阵,则必存在唯一正交矩设
,使得、两个正定实对称矩阵 21 HH
21 QHQHA
推论 2,
21 UUCA nnn,,则必存在酉矩阵设
使得
),,,( 2112 nd i a gAUU
.021 个正奇异值的是其中 nAn
nnnCA证 UHA? 2HA A H?
Hn Ud i a gUH 1211 ),,,(
Hn Ud i a gUUA 1211 ),,,( 12 UUU H?
HnH Ud i a gUA 1212 ),,,(
),,,( 2112 nd i a gAUU
定理 5 与两个,则必存在酉矩阵设 UCA nn
,使得、矩阵半正定 21H e r m i t e HH
21 UHUHA
.2221 AAHAAH HH,并且证
11 00
0
V
D
UA r?
nn
CA
1111 00
0
VUU
D
UA Hr?
UH
1?
2UH?同理 1111 00
0
V
D
VVUA rH?
Hr UDUH
111 00
0
HrHr UDUUDUH
1111
2
1 00
0
00
0
Hrr UDDUH
11
2
1 00
0
00
0
HrHr UDVVDUH
1111
2
1 00
0
00
0
HAA?