第五章 向量与矩阵的范数定义,设 是实数域 (或复数域 )上的 维线性空间,对于 中的任意一个向量按照某一确定法则对应着一个实数,这个实数称为 的 范数,记为,并且要求范数满足下列运算条件:
( 1)非负性:当 只有且仅有当
( 2) 齐次性,为任意数。
V R
n V
C
0,0
0,0
,k k k
( 3) 三角不等式:对于 中的任意两个向量 都有例,在 维线性空间 中,对于任意的向量 定义
V
,

n nC
12(,,,)
n
na a a C
1
1
1
2
2
2
1
1
( 1 )
( 2 ) ( )
( 3 ) m a x
n
i
i
n
i
i
i
in
a
a
a

证明:
都是 上的范数,并且还有引理( Hoider不等式),设
nC
12,,
'
1
'
2 1 2
'
2
( 1 )
( 2 )
( 3 )
n
n
n








1 2 1 2,,,,,,,TT nnna a a b b b C
则其中 且 。
引理( Minkowski不等式),设则
11
1 1 1
( ) ( )
n n n
pqpq
i i i i
i i i
a b a b


1,1pq 11 1
pq
1 2 1 2,,,,,,,TT nnna a a b b b C
1 1 1
1 1 1
( ) ( ) ( )
n n n
p p pp p p
i i i i
i i i
a b a b


其中实数 。
几种常用的范数定义,设向量,对任意的数,称为向量 的 范数 。
常用的 范数:
( 1) 1-范数
p?
12,,,Tna a a
1p?
1
1
()
n
p p
ip
i
a?

p?
1
1
n
i
i
a?

1p?
( 2) 2-范数也称为欧氏范数。
( 3) -范数定理:
证明,令,则
12 12
2
2
1
( ) ( )
n
H
i
i
a

1
m a x i
in
a

lim p
p


1
m a x i
in
xa

,1,2,,ii ay i nx
于是有另一方面
1
1
()
n
p p
ip
i
xy?

1
11
1
1
1 ( )
n
p
i
i
n
p pp
i
i
yn
yn


1
1
lim ( ) 1
n
p p
i
p
i
y


故由此可知定义,设 是 维线性空间上定义的两种向量范数,如果存在两个与无关的正数 使得
1
l i m m ax ip
p in
xa


n V,
ab
12,dd
12,b a bd d V
定理,有限维线性空间 上的任意两个向量范数都是等价的。
利用向量范数可以去构造新的范数。
例,设 是 上的向量范数,且
,则由所定义的 是 上的向量范数。
例,设 数域 上的 维线性空间,
V
mCb
,( )mnA C r a n k A n
,nab AC
a
nC
V F n
为其一组基底,那么对于中的任意一个向量 可唯一地表示成又设 是 上的向量范数,则由所定义的 是 上的向量范数。
矩阵范数
V12,,,n
12
1
,,,,
n
n
i i n
i
x X x x x F

nF
V X
V? V
定义,对于任何一个矩阵,用表示按照某一确定法则与矩阵 相对应的一个实数,且满足
A
A
( 1)非负性:当 只有且仅有当
( 2) 齐次性,为任意复数。
( 3) 三角不等式:对于任意两个同种形状矩阵 都有
0,0AA
0,0AA
,k A k A k?
,AB
A B A B
mnAC
( 4)矩阵乘法的相容性:对于任意两个可以相乘的矩阵,都有那么我们称 是 矩阵 的范数 。
例 1,对于任意,定义可以证明如此定义的 的确为矩阵 的范数。
,AB
A B A B?
A
A
mnAC
11
mn
ij
ij
Aa


AA
证明,只需要验证此定义满足矩阵范数的四条性质即可。非负性,齐次性与三角不等式容易证明。现在我们验证乘法的相容性。设,则,m p p nA C B C
1 1 1 1 1 1
1 1 1 1
1 1 1 1
[ ( ) ( ) ]
( ) ( )
ppm n m n
ik k j ik k j
i j k i j k
ppmn
ik k j
i j k k
ppmn
ik k j
i k j k
AB a b a b
ab
ab
AB







例 2,设矩阵,证明:
是矩阵范数。
证明:非负性,齐次性和三角不等式容易证得。现在我们考虑乘法的相容性。设
,那么
nnAC
,
m a x ij
ij
A n a?
,n n n nA C B C
,,
11
,,
,,
m ax m ax
m ax m ax
m ax m ax
nn
i k kj i k kj
i j i j
kk
i k kj
i k k j
i k kj
i k k j
A B n a b n a b
n n a b
n a n b
AB





因此 为矩阵 的范数。
A
A
例 3,对于任意,定义可以证明 也是矩阵 的范数。我们称此范数为矩阵 的 Frobenious范数 。
证明,此定义的非负性,齐次性是显然的。
利用 Minkowski不等式容易证明三角不等式。
现在我们验证乘法的相容性。
设,则
mnAC
12
2
11
()
mn
ijF
ij
Aa


A A
A
,m l l nA C B C
2
2 2
1 1 1 1 1 1
2
2
1 1 1 1
2
2
1 1 1 1
22
()
[ ( ) ( ) ]
( ) ( )
m n l m n l
i k kj i k kj
F
i j k i j k
m n l l
i k kj
i j k k
m l n l
i k kj
i k j k
FF
A B a b a b
ab
ab
AB







于是有例 4,对于任意,定义证明如此定义的 是矩阵 的范数。
证明,首先注意到这样一个基本事实,
即由一个例题可知此定义满足范数的性质。
nnAC
1 2[ ( )]HA T r A A?
A A
11 2
22
11
[ ( )] ( )
mn
H
ij
ij
T r A A a


F F FA B A B?
Frobenious范数的性质:
( 1)如果,那么
( 2)
( 3)对于任何 阶酉矩阵 与 阶酉矩阵
12 nA
22
2
1
n
iF
i
A?

2
1
( ) ( )
n
HH
iF
i
A T R A A A A?

nm U
都有等式关于矩阵范数的等价性定理。
定理,设 是矩阵 的任意两种范数,则总存在正数 使得
V
H
FF F
FF
A U A A
A V U A V


,AA
12,dd
A
12,
mnd A A d A A C


诱导范数定义,设 是向量范数,是矩阵范数,如果对于任何矩阵 与向量 都有则称矩阵范数 与向量范数 是相容的。
例 1,矩阵的 Frobenius范数与向量的 2-范数是相容的,
证明,因为
X? A
A X
A X A X
A? X?
1
22
11
()
mn
ijF
ij
Aa


12 12
2
2
1
( ) ( )
n
H
i
i
X x X X

根据 Hoider不等式可以得到
2
2 2
2
1 1 1 1
22
1 1 1
22
1 1 1
22
2
()
[ ( ) ( ) ]
( ) ( )
m n m n
ij j ij j
i j i j
m n n
ij j
i j j
m n n
ij j
i j j
F
AX a x a x
ax
ax
AX







于是有例 2,设 是向量的范数,则满足矩阵范数的定义,且 是与向量范相容的矩阵范数。
证明,首先我们验证此定义满足范数的四条性质。非负性,齐次性与三角不等式易证。现在考虑矩阵范数的相容性。
22 FA X A X?
X?
0
m a x
i X
AX
A
X
iA
X?
设,那么0B?
00
00
00
()
m ax m ax ( )
()
m ax m ax
m ax m ax
i
XX
BX X
XX
ii
A B X A B X B X
AB
X B X X
A B X B X
B X X
A X B X
XX
AB










因此 的确满足矩阵范数的定义。
iA
最后证明 与 是相容的。
由上面的结论可知这说明 与 是相容的。
定义,上面所定义的矩阵范数称为由向量范数 所诱导的 诱导范数 或 算子范数 。由
iA X?
i
i
AX
A
X
A X A X

iA X?
X?
向量 P--范数 所诱导的矩阵范数称为矩阵 P--范数。即常用的 矩阵 P--范数 为,和 。
定理,设,则
( 1)
我们称此范数为矩阵 的 列和范数 。
pX
0
m ax p
p X
p
AX
A
X?
1A 2A A?
mnAC
1
1
m a x ( ),1,2,,
m
ijj
i
A a j n

A
( 2)
表示矩阵 的第 个特征值。我们称此范数为矩阵 的 谱范数 。
( 3)
我们称此范数为矩阵 的 行和范数。
例 1,设
1
2
2 m a x ( ( ) ),( )
HH
jjjA A A A A
HAA j
A
1
m a x ( ),1,2,,
n
ij
i
j
A a i m

A
2 1 0
0 2 3
1 2 0
A




计算,,和 。
解:
1A 2A A? FA
1 5A?
5A
23FA?
2 15A?
5 0 0
0 9 6
069
H
AA




因为所以 。
练习,设或
01
1 0 0
00
i
A
i




1 0 0
0 1 0
0 0 1
A




分别计算这两个矩阵的,,
和 。
例 2,证明:对于任何矩阵 都有
2A1A A?
FA
mnAC11
2
22
2
2
2
2
21
HT
HT
H
A A A
A A A
A A A
A A A


如何由矩阵范数构造与之相容的向量范数?
定理,设 是矩阵范数,则存在向量范数使得证明,对于任意的非零向量,定义向量范数,容易验证此定义满足向量范数的三个性质,且
*A
X
*A X A X?
*
HXX
***
*
HHA X A X A X
AX

例,已知矩阵范数求与之相容的一个向量范数。
解:取 。设
*
11
mn
ij
ij
A A a


0 1 0 T
12 TnX x x x?
那么矩阵的谱半径及其性质定义,设,的 个特征值为
,我们称为 矩阵 的谱半径 。
例 1,设,那么
1*
1
n
H
i
i
X X x X?

mnAC nA
12,,,n
12( ) m a x {,,,}nA
A
mnAC
()AA
这里 是矩阵 的任何一种范数。
例 2,设 是一个正规矩阵,则证明,因为
A A
A
2()AA
2
2 2
22
00
2
2
m ax m ax
( ) ( )
HH
H
XX
H
AX X A A X
A
XXX
A A A



于是有例 3,设 是 上的相容矩阵范数。
证明:
( 1)
( 2) 为可逆矩阵,为 的特征值则有
2()AA
nnC?
1I?
A? A
11
AA?


例 5,如果,则 均为可逆矩阵,且这里 是矩阵 的算子范数。
矩阵序列与极限定义,设矩阵序列,其中
1A? IA?
111()
11
IA
AA


A
A
(){}kA
()() kk m n
ijA a C


,如果 个数列都收敛,则称矩阵序列 收敛。
进一步,如果那么我们称矩阵 为 矩阵序列 的极限 。
mn
(){ },1,2,,; 1,2,,k
ija i m j n
(){}kA
()lim k
ij ijk aa
()li m [ ]k
ijk A A a
A (){}kA
例,如果设,其中那么
()( ) 2 2kk
ijA a C


( ) ( )
1 1 1 2
2
1
( ) ( )
2 1 2 2 2
1
,( 0 1 )
3
( 1 ),
kk k
kk
k
k
a a r r
k
kk
a r r a
kk


()
1 0
3lim
11
k
k
AA




定理,矩阵序列 收敛于 的充分必要条件是其中 为任意一种矩阵范数。
证明:取矩阵范数必要性:设
(){}kA A
()l i m 0k
k
AA


()kAA?
11
mn
ij
ij
Aa


()li m [ ]k
ijk A A a
那么由定义可知对每一对 都有从而有上式记为
,ij
()
l i m 0
( 1,2,,; 1,2,,)
k
i j i j
k
aa
i m j n



()
11
l i m 0
mn
k
i j i j
k
ij
aa



()l i m 0k
k
AA


充分性:设那么对每一对 都有即
()()
11
l i m l i m 0
mn
kk
i j i j
kk
ij
A A a a



,ij
()
l i m 0
( 1,2,,; 1,2,,)
k
i j i j
k
aa
i m j n



()
lim
( 1,2,,; 1,2,,)
k
i j i j
k
aa
i m j n


故有现在已经证明了定理对于所设的范数成立
,如果 是另外一种范数,那么由范数的等价性可知
()li m [ ]k
ijk A A a
A?
( ) ( ) ( )
12
k k kd A A A A d A A

这样,当时同样可得因此定理对于任意一种范数都成立。
同数列的极限运算一样,关于矩阵序列的极限运算也有下面的性质。
( 1)一个收敛的矩阵序列的极限是唯一的。
( 2)设
()l i m 0k
k
AA


()l i m 0k
k
AA


( ) ( )lim,limkk
kk
A A B B



( 3)设
,其中,那么
( 4)设,其中
( ) ( )li m,,kk
k
aA bB aA bB a b C


( ) ( )lim,limkk
kk
A A B B


( ) ( ),k m l k l nA C B C
( ) ( )lim kk
k
A B AB

()lim k
k
AA

(),,k m n m m n nA C P C Q C
那么
( 5)设,且,均可逆,则 也收敛,且例 1,若对矩阵 的某一范数,则
()lim k
k
P A Q P A Q

()lim k
k
AA

(){}kA A
( ) 1{ ( ) }kA?
( ) 1 1lim ( )k
k
AA

A 1A?
lim 0k
k
A

例 2,已知矩阵序列,则的充要条件是 。
证明,设 的 Jordan标准形其中
2,,,,,kA A A
lim 0k
k
A

( ) 1A
A
1 1 2 2d i a g ( ( ),( ),,( ) )rrJ J J J
1
( ) ( 1,2,,)
1
ii
i
i
ii
i dd
J i r






1
1 1 2 2d i a g( ( ),( ),,( ) )
k k k k
rrA P J J J P

于是显然,的充要条件是又因
lim 0k
k
A

lim ( ) 0,1,2,,kii
k
J i r?


1111
11
()
ii
ii
d k dkk
i k i k i
k
k i
ii k
ki
k
i dd
cc
J
c






其中
( 1 ) ( 1 )
()
!
0 ( )
l
k
l
k
k k k l
c l k
l
c l k



当当于是 的充要条件是 。
因此 的充要条件是例 3,设 是 的相容矩阵范数,则对任意,都有矩阵的幂级数
li m ( ) 0kii
k
J?

1i
lim 0k
k
A

( ) 1A
nnC?
nnAC
1
( ) l i m k k
k
AA?

()() [] kk m n
ijA a C

定义,设,如果个常数项级数都收敛,则称矩阵级数收敛。如果 个个常数项级数
mn
()
1
,1,2,,; 1,2,,kij
k
a i m j n

( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

mn
()
1
,1,2,,; 1,2,,kij
k
a i m j n

都绝对收敛,则称矩阵级数绝对收敛。
例,如果设,其中
()( ) 2 2kk
ijA a C


( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

( ) ( )
1 1 1 2 3
1 1 1 1
( ) ( )
2 1 2 2
1 1 1 1
11
,
( 1 )
,s i n
22
kk
k k k k
kk
kk
k k k k
aa
k k k
aa









那么矩阵级数是收敛的。
( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

()() [] kk m n
ijA a C

定理,设,则矩阵级数绝对收敛的充分必要条件是正项级数收敛,其中 为任意一种矩阵范数。
证明,取矩阵范数
( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

A
()()
11
mn
kk
ij
ij
Aa


那么对每一对 都有因此如果收敛,则对每一对 常数项级数
,ij
()() kk
ijAa?
( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

,ij
( ) ( 1 ) ( 2 ) ( )
1
kk
i j i j i j i j
k
a a a a

都是收敛的,于是矩阵级数绝对收敛。
反之,若矩阵级数绝对收敛,则对每一对 都有
( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

( ) ( 1 ) ( 2 ) ( )
1
kk
k
A A A A

,ij
( ) ( 1 ) ( 2 ) ( )
1
kk
i j i j i j i j
k
a a a a


于是根据范数等价性定理知结论对任何一种范数都正确。
( ) ( )
1 1 1 1 1 1 1
m n m n
kk
k i j i j
k k i j i j k
A a a



定义,设,称形如的矩阵级数为矩阵幂级数。
() mnijA a C
2 ( )
0 1 2
0
kk
kk
k
c A c I c A c A c A

定理,设幂级数 的收敛半径为为 阶方阵。若,则矩阵幂级数绝对收敛;若,则发散。
0
k
k
k
cx
,RA
n ()AR
0
k
k
k
cA
()AR
0
k
k
k
cA
证明,设 的 Jordan标准形为其中于是
A
1 1 2 2d i a g ( ( ),( ),,( ) )rrJ J J J
1
( ) ( 1,2,,)
1
ii
i
i
ii
i dd
J i r






1
1 1 2 2d i a g( ( ),( ),,( ) )
k k k k
rrA P J J J P

1111
11
()
ii
ii
d k dkk
i k i k i
k
k i
ii k
ki
k
i dd
cc
J
c






所以
1
00
1
0
1 1 2 2
00
1
0
()
= ( )
= di a g ( ( ),( ),
,( ) )
kk
kk
kk
k
k
k
kk
kk
KK
k
k r r
K
c A c PJ P
P c J P
P c J c J
c J P







其中
1111
0 0 0
0
0 11
0
0
()
ii
ii
d k dkk
k i k k i k k i
k k k
k
ki
kk
k i i
k k
k k i
k
k
ki
k
dd
c c c c c
c
cJ
cc
c













( 1 ) ( 1 )
()
!
0 ( )
l
k
l
k
k k k l
c l k
l
c l k



当当当 时,幂级数都是绝对收敛的,故矩阵幂级数 绝对收敛。
()AR
11
00
11
0
,
,,
ii
kk
k i k k i
kk
d k d
k k i
k
c c c
cc





0
k
k
k
cA
()AR当 时,幂级数发散,所以 发散。
定理,矩阵幂级数绝对收敛的充分必要条件是 。且其和为 。
0
k
ki
k
c?
0
k
k
k
cA
2 kI A A A
( ) 1A
1()IA
例 1,( 1)求下面级数的收敛半径
( 2)设判断矩阵幂级数 的敛散性。
解,设此级数的收敛半径为,利用公式
23
23
1 2 2 1 2 2 2 3 2
kk
kk
k
x x x x x?


14
13
A



R
1 2
k
k
k
A
k

容易求得此级数的收敛半径为 2。而
。所以由上面的定理可知矩阵幂级数绝对收敛。
例 2,( 1)求下面级数的收敛半径
1 1lim k
k
k
a
aR

( ) 1A
23
23
1 2 2 1 2 2 2 3 2
kk
kk
k
A A A A A?


1
23
2 4 6 2
2 2 4 2 4 6 2 4 6 2
k
k
k
x
k
x x x x
k



( 2)设
4 2 1
2 0 1
1 1 0
A





判断矩阵幂级数的敛散性。
例 3,( 1)求下面级数的收敛半径
( 2)设
1 2 4 6 2
k
k
A
k

23
23
1 3 1 3 2 3 3 3 3
kk
k
x x x x x
kk


1 1 1
2 4 2
3 3 5
A





判断矩阵幂级数的敛散性。
例 4,构造一个收敛的二阶可逆矩阵序列,
但是其极限矩阵不可逆。
1 3
k
k
k
A
k

( ) ( )
11 12
1
2
1
( ) ( )
21 22 2
1
,
3
3
5,
2
kk k
k
kk
k
k
a a k
k
kk
aa
k


解:
显然每一个 均可逆,但是其极限矩阵
() ( 1,2,)kAk?
()
1 1
3lim
13
k
k
AA




却不可逆。