§ 4.高斯消去法的变形
二、平方根法
工程实际计算中,线性方程组的系数矩阵常常具有对
称正定性,即其各阶顺序主子式及全部特征值均大于零。
矩阵的这一特性使它的三角分解也有更简单的形式,从而
导出一些特殊的解法,如平方根法与改进的平方根法。
,
()
T
A
L
A LL
L
?
定理:设 是对称正定矩阵,则存在唯一的非
奇异下三角阵 使得
且 的对角元素皆为正。
证明略
平方根 (Cholesky分解法)法
11 11 12 1
21 22 22 2
12
11
2
2
1
00
0
0
00
0 ( 1,2,,), 0 ( ),
( ) ( 1,2,,),
( ) / ( 1,
n
nT
n n nn nn
ii jk
j
jj jj jk
k
ij ij ik jk jj
l l l l
l l l l
A L L
l l l l
l i n l j k
l a l j n
l a l l l i j
?
?
? ? ? ?
? ? ? ?
? ? ? ?
??
? ? ? ?
? ? ? ?
? ? ? ?
? ? ? ?
? ? ? ?
? ? ?
? ? ? ?
?
LL
O M L
M M O M O O M
LL
L
L

其中 由矩阵乘法及 当 时

1
1
0
1
11 1 22 2
,) ;
0
( 2,3,,) ( 3,,)
j
k
k
ii
n
l l i n l l i n
?
?
?
?
?
?
?
?
?
?
??
? ? ? ? ? ?
?
?
L
L L L
这里规定 。计算顺序是按列进行,即

1
1
1
,; 2,
( ) / ( 1,2,,),
( ) / (,1,,1 ),
T
i
i i ik k ii
k
n
i i k i k ii
ki
A Ax b
L y b y L x y x
y b l y l i n
x y l x l i n n
?
?
??
?
??
? ? ?
? ? ? ?
?
?
L
L
当矩阵 完成平方根分解后,求解,即求解两个
三角形方程组
(1) 求 ( ),求
3
/ 6
,
An
G au ss
A b L
A y x b
Ln
由于 的对称性,平方根法的乘除运算量为 数量
级,约是 消去法的一半。上机计算时,所需存储单
元也少,只要存储 的下三角部分和右端项,计算中 存
放在 的存储单元,存储在 的存储单元。
但这种方法在求 时需作 次开方运算,这样又增加了
计算量。 为了避免开方,可使用改进的平方根方法。
三、追赶法
1111
222 2 2
1 1 1 1 1
,
iii i i
n n n n n
nn nn
xdbc
xda b c
xd Ax da b c
a b c x d
ab xd
? ? ? ? ?
? ? ? ???
? ? ? ???
? ? ? ???
? ? ? ???
? ? ? ???
??
? ? ? ???
? ? ? ???
? ? ? ???
? ? ? ???
? ? ? ???
?? ? ? ? ?
MMOOO
O O O M M
在数值计算中,如三次样条插值或用差分方法解常微分方
程边值问题,常常会遇到求解以下形式的方程组
简记
此系数矩阵的 非零元素集中分布在主对角线及其相邻两次对角线
上,称为三对角矩阵。方程组称为三对角方程组。
11
11
2 2 2
3
1
0
0 ( 2,3,,1 )
0
1
1
1
1
( 1,2,,1 ),
()
i i i i i
nn
n
nn
i
bc
b a c a c i n
ba
uc
l u c
A LU l
c
lu
c i n
?
? ? ?
?
? ? ? ? ?
?
?
??
?
? ? ? ?
? ? ? ?
? ? ? ?
? ? ? ???
? ? ? ?
? ? ? ?
? ? ? ?
? ? ? ?
??
L
OO
O O O
L
定理:设三对角方程组系数矩阵满足下列条件:
则它可分解为
其中 为已给出的,且分解是唯一的
证明略
追赶法的计算公式
11
1
1
11
1
1
/ ( 2,3,,)
( 2,3,,)
/
,
( ) / ( 1,2,,1 )
,
i i i
i i i i
k k k k
n n n
k k k k k
ub
A LU l a u i m
u b c l
yd
Ly d
y d l y k n
x y u
U x y
x y c x u k n n
G a u se
?
?
?
?
??
?
? ? ?
?
?
??
?
??
?
?
? ? ?
?
??
?
?
? ? ? ? ?
?
L
L
L
分解公式:
解 得:
再解 得
追赶法的基本思想与 消去法及三角分解法相同只
是由于系数中出现了大,,
,,
量的零 可使计算公式简化 减少了计
算量。可证 当系数矩阵为严格对角占优时 此方法具有良好
的数值稳定性。
§ 5.向量和矩阵的范数
一、向量范数
:
,
,,
1,0,0 0 ; ( )
2,,( )
3,,
n
n
xR
xx
x x x
x x
x y x y,x y R
? ? ?
?
? ? ?
??
? ? ? ?
向量范数定义
设对任意向量 按一定的规则有一实数
与之对应 记为 若 满足
且 当且仅当 正定
为任意实数 齐次
对任意
( )
xx
三角不等式
则称 为 向量 的范数
向量范数
向量范数例
)x(xxx nin ∑ 1 2i 2
1
22
12 ==++= ?
1i1
1
n
n
i
x x x x
?
? ? ? ? ?L
}{},,m a x { xma xxxx
ni
n i
≤≤1
1∞ == ?
1/
1
,
pn
p
ip
i
xx
?
??
? ??
??
?
? ? ? ?
? ? ? ?
11
11
-,
1,2
,,( 1,,)
m a x m a x
m a x m a x
n
ii
i i i i
i n i n
ii
i n i n
x y R x y i n
x y x y x y
x y x y
?
? ? ? ?
??
? ? ? ?
?
??
? ? ? ? ?
? ? ? ?
L
可验证上面范数均满足范数定义的条件。
以 范数为例
满足条件 显然。
由于 为向量,而其分量
为实数,故有
12
'
'
( 1,2,3 )
6,3,14,
,0,
T
n
x
x x x
R
m M n x
m x x M x
?
??
? ? ?
??
?
??
例:计算向量 的各种范数。
解:
如果 中两个范数 和,存在实数
,使得对任意 维向量 都有
,
则称这两个范数是等价的。
对两个等价范数而言,同一向量序列有
相同的极限。
? ?
? ?
2 2 2
12
2
1
1
2 2 2
12 2
2
2
1 2
m a x,
m a x,
2
in
in
ji
in
n
j
x x x x x x
x x x
xx x x
xx
n n
x
xx
n
?
??
?
??
?
?
?
? ? ? ? ? ?
??
? ? ?
? ? ?
? ? ?
?
?
L
L
不难证明,-范数,-范数和 -范数是等价的。
例:


-范数和 -范数等价。
如不作说明,今后 是指任意一种向量范数。
二、矩阵的范数
1,0,0 0 ; ( )
2,,( )
3,,
( )
4
nA
AA
A A A
A A
A B A B,A B n
AB A B
AA
? ? ?
? ? ?
??
? ? ?
?
定义:对任意 阶方阵,按一定的规则由一实
数与之对应,记为 。若 满足
且 当且仅当 正定
为任意实数 齐次
对任意 两个 阶方阵
三角
,(相容性条件)
则称 为矩阵 的范数。
1
m a x
( )
1
m a x m a x
n
x
ij
xx
A n R
Ax
A
x
A a n x n
Ax x
A
xx
x
x
Ax
A A x
x
?
?
?
??
?
?
?
?
?
??
定理:设 为 阶方阵,是 中的向量范数,则
是一种矩阵范数,
称其为由向量范数 诱导出的矩阵范数。
证:设 为任意 阶方阵,为任意 维非零向量。
因为
为范数是 的单位向量,故
1
11
1
1 0,0,m a x 0.
0 0
0,
2 m a x m a x
m a x,
3,
x
xx
x
A A A A x
A A x A x
A
A A x A x
A x A
n A B
AB
?
?
??
?
? ? ? ?
? ? ? ? ?
??
? ? ? ? ?
? ? ? ?
??
,显然 若 则
反之,若

对任意两个 阶方阵 和,
11
1 1 1
m a x ( ) m a x
m a x ( ) m a x m a x
,
xx
x x x
A B x A x B x
A x B x A x B x
AB
??
? ? ?
? ? ?
? ? ? ?
??
1
11
11
4
,
m a x ( ) m a x ( )
m a x m a x
5
xx
xx
nx
Ax Ax
A A Ax A x
xx
AB AB x A Bx
A Bx A B x
AB
n x Ax A x
?
??
??
? ? ?
??
??
?
?
x
,对任意 维非零向量,
由max 有 即
故有
,对任意 维向量,都有 。
这一性质称为矩阵范数与向量范数的相容性。
可由三种常用的向量范数诱导出矩阵范数。
矩阵范数例
2
1122
1
m a x,
()
T
x
ij
A A x A A
A a n
??
?
??
?
其中 是 的最大特征值。
又称为谱范数。 设 为 阶方阵。
与前述三种向量范数相容的三种矩阵范数,
1
11 11
1
m a x m a x,
1
n
ij
x j n
i
A A x a
? ? ?
?
?? ? 为矩阵的
列向量的 -范数的最大值称为矩阵的列范数。
11
1
m a x m a x,
1
n
ij
x i n
j
A A x a
?
?? ? ? ?
?
?? ? 为矩阵的行
向量的 -范数的最大值称为矩阵的行范数。
2
12
*
* * *
12
,
34
6,7,5.46,
/
n
R
AA
A A A
AA
A A A A A A
?
???
?
??
?
??
? ? ?
??
?
如果将矩阵范数看作 空间上的向量范数,
则由向量范数的等价性可得矩阵范数的等价性。
例,计算 的各种范数。
解:
矩阵的误差可用矩阵范数表示:设 是 的近
似矩阵,,分别称为 的关于
范数 的绝对误差与相对误差。
矩阵 A的谱半径
1
( 1,2,,)
( ) m a x
nn
i
i
in
A R i n
AA?
?
?
?
??
??
?
L定义:设 的特征值为 称
为 的谱半径。
( ),A A A A? ?定理,为 的任意矩阵范数
(,A
())
AxxxAxx
xAxAAA
??
???
????
???????
§ 5.误差分析
一、矩阵的条件数
1 2 1
1 2 2
1 2 1
1 2 2
5
22
,
1,00 00 1 2 0
21
.
1,00 00 1 2,00 00 1 1
10,
x x x
x x x
x x x
x x x
?
? ? ???
?
??
? ? ?
??
? ? ???
?
??
? ? ?
??
?
一个实际问题化为数学问题,初始数据往往会有误差,
即有扰动,从而使计算结果产生误差。
例:方程组
而方程组
比较这两个方程组可以看出,他们只是右端项有微小的差
1
别,最大相对误差为 但它们的解却大不相同,解分
2

1
的相对误差至少为 。
2
Ab
Ax b
A
A
Ax b
?
?
定义:如果矩阵 或常数项 的微小变化,引
起方程组 解的巨大变化,则称此方程组
为“病态”方程组,矩阵 称为“病态”矩阵
(相对于方程组而言)。
否则称方程组为“良态”方程组,称为
,良态”矩阵。
矩阵的“病态”性质是矩阵本身的特性。
为了定量刻划方程组的“病态”程度,下面
对方程组 就系数矩阵或右端项分别有扰动
的两种情形进行讨论。
右端项 b的扰动对解的影响
1
11
11
1
,
( )
,,
b b x x
A x x b b
A x b A x b x A b
x A b A b
A x b
x
AA
A b A A bx
bxb
A
AA
??
??
? ? ? ?
? ? ?
???
?
??
??
?
? ? ?
? ? ? ? ?
? ? ?
??
? ? ?
设 有扰动,相应解 的扰动记为 即
由,
两边取范数
又因为
此式表明当右端项有扰动时 解的相对误差不超过
右端项的相对误差的 倍。
系数矩阵 A的扰动对解的影响
11
1
11
1
1
1
1
,
( ) ( ) ( ) 0
( ) ( )
1,
1
1
1
A A x
x
A A x x b A x A x x
x A A x x A A x x
A A A
x A A A A x
A
AA
AAxA
Ax AA
AA
A
?
?
? ? ? ? ?
? ? ? ? ?
??
? ? ?
?
??
??
??
?
??
?
?
?
?
? ? ? ? ? ? ?
? ? ? ? ?
?
??
??
?
?
gg
如果右端项无扰动,系数矩阵 有扰动,相应的解
的扰动仍记为 则
如果 充分小,使得 则由上式得
()
上式表明,
1
1
AA
AA
?
?
当系数矩阵有扰动时,解的扰动仍与
有关。一般地,越大,解的扰动也越大。
条件数的定义
-1
1
-1
1 m a x
2
2
2
m in
,
,
( ) ( 1,2
(1) ( )
(2) A
()
( ),
()
v
v
v
T
T
AA
A c o n d A A A v
A
c o n d A A A
AA
c o n d A A A
AA
A
?
?
?
?
?
?
?
??
?
?
??
综上分析可知 量 实际上刻划了解对原始数据变化的
灵敏程度 即刻划了方程组的“病态”程度。
定义:设 为非奇异阵,称数 或
)为矩阵 的条件数。
常用的条件数,有
的谱条件数
当 为对称矩阵时
1
2
1
( ),
n
n
c o n d A
A
?
?
??
?,
其中, 为 的绝对值最大和绝对值最小的特征值。
条件数的性质
11
2
2
1 ( ) 1.
( ) 1.
2 0
( ) ( )
3 ( ) 1
( )
v
v
v
vv
vv
A c ond A
c ond A A A A A I
Ac
c ond c A c ond A
A c ond A
AR
c ond RA c on
??
?
? ? ? ?
?
?
?
、对任何非奇异矩阵,都有
由定义
、设 为非奇异矩阵且 (常数),则
、如果 为正交矩阵,则 = ;
如果 为非奇异矩阵,为正交矩阵,则
22
( ) ( ),d AR c ond A?
3
11
1
2
1 1 1
2 3 1
1 1 1
1 2 1
n
H ilb e rt
n
H n
n n n
H
??
??
??
??
???
?
??
??
??
??
????
L
L
L L L L
L
例,矩阵
计算 的条件数。
1
33
33
1
3 3 3
6
6
11
1
23
9 3 6 3 0
111
,3 6 1 9 2 1 8 0
234
3 0 1 8 0 1 8 0
111
3 4 5
( 1 ) ( ),
11
( ) 4 0 8 7 4 8,
6
( ) 2,9 1 0,
n
HH
H c o n d H
c o n d H H H
c o n d H
Hn
?
?
?
?
?
?
?
??
??
???
??
????
? ? ? ?
????
?? ???
??
??
??
??
? ? ? ?
??
解:
计算 条件数
同样可计算
一般 矩阵当 越大时,病态越严重。
11
22
33
11
22
3
1 1 11
1
2 3 6
1
1 1 1 13
2 1
2 3 4 12
1
47111
603 4 5
3
1.00 0.500 0.333
0.500 0.333 0.250
0.333 0.250 0.200
xx
xx
xx
Hb
xx
xx
x
?
?
?
? ? ? ?
? ? ? ?
?? ? ?
? ? ? ?
???
? ? ? ?
? ? ?
?
??? ? ? ?
?
?? ?? ? ? ?
? ? ?
? ? ? ?
? ? ? ?
? ? ? ?
???
??
?
??
?? ?
??
( )考虑
设 及 有微小误差(取 位有效数字)有
3
33
1.83
1.08
0.783
( ) ( ),
( 1.0895,0.4880,1.491 )
T
x
H H x x b b
xx
? ? ?
?
? ? ? ?
? ? ? ?
?
? ? ? ?
? ? ? ?
? ? ? ?
? ? ? ?
??
简记为
其解为
3 3
3
3
( 1,0 8 9 5,0,4 8 8 0,1,4 9 1 ),( 1,1,1 )
( 0,0 8 9 5,0,5 1 2 0,0,4 9 1 0 )
0,1 8 1 0 0,0 2 %
0,5 1 2 0
0,1 8 2 % 5 1,2 %
1
5 0
TT
T
x x x
x
H
H
bx
bx
Hb
?
?
?
??
??
?
??
??
? ? ?
? ? ?
? ? ? ?
? ? ?
由于
这表明 与 相对误差不超过0, 2 %,而引起
解的相对误差超过 %.
“病态”方程的经验判断
1
2
3
,
de t( ) 0,( ) (
n
A
A
AI
A c ond A c ond
??
?
?
? ? ?
计算条件数需要求矩阵的逆,因而比较困难。根
据数值经验,在下列情况下,方程组常是“病态”的。
( )在用主元素法时出现小主元;
( )如果 的最大特征值和最小特征值之比(按绝对值)
是大的,则 是“病态”的。
( )系数矩阵中有行(或列)近似线性相关,或系数行
列式的值近似于零。
但这不是绝对的,如当 为很小的数时,有
但 ) 1,
4
I
A
A
? 方程组状态良好。
( )系数矩阵 元素间数量级相差很大,并且无一定规则
可能“病态”。
1
;
.
,
( ) ( ),
,
A x b
P A Q y P b
y Q x
PQ
c o n d P A Q c o n d A
PQ
?
?
??
?
?
?
?
用选主元素的消去法不能解决病态问题,对病
态方程组可采用高精度的算术运算或采用预处理
方法。即将求解 转化为一等价方程组
选择非奇异矩阵 使
一般选择 为对角阵或者三角矩阵。
二、误差分析
*
**
*
1 2 1
1 2 1
12
22
1.00001 2 0
1,1
Ax b x
x r b Ax
rx
r
x x x
x x x
xx
?
??
? ? ???
?
??
? ? ?
??
??
在求得方程组 的一个近似解 后,检验精度的一个
简单方法是将 代入方程组求得残量(余量) 。
如果 很小,就认为解 比较准确。但在“病态”严重的
方程组,也有即使残差量 很小,近似解与准确解的差仍
很大的情形。
上例中,方程组
若以 作为它的近似解,其残量
5
*
( 2,2) ( 2,2.00001 ) ( 0,10 )
( 2,0) ( 1,1 ) ( 1,1 )
T T T
T T T
r
xx
?
? ? ? ?
? ? ? ? ?
很小,但解的误差
却不小。
*
*
*
* 1 * 1 1
*1
1
-
( ),
( )
( ),
x x Ax b
xx r
r x c ond A
xb
b Ax A x
x x A b Ax A r A r
x x A r rr
A A c ond A
bx b b
A
? ? ?
?
?
?
?
??
? ? ? ? ?
?
? ? ?
定理:设 和 分别是方程组 的准确解和近似解,
为 的残量,则
证:因为
所以
由上式可看出,当方程组“病态”严重时,条件数很
大,即使残量很小,解的相对误差仍可能很大。