矩阵的三角分解
一、LU分解法
用的情况分析顺序消去法的消元过程,从而导出一些很有用的结论。
第一步中,设,令,
将第二行和第三行分别减去第一行的倍和倍。事实上第一步得到的结果,可以表述为一个初等矩阵与的乘积。
将第一步的结果再进行第二步消元:
由此可见,消元过程相当于下述矩阵乘法运算
由分块矩阵乘法可得
令
直接计算知
令 ,
则:
我们称之为矩阵的分解或三角状分解。其中是单位下三角矩阵,是上三角矩阵。这种解方程组的方法称为分解法或三角状分解法。(Doolittle分解方法)
因此,只要消元过程能进行到底,就有如下等价关系
消元过程即是将分解成单位下三角阵与上三角阵的乘积,解方程组;回代过程即是解方程 。
以此类推可得阶矩阵的分解,其中
下面给出关于矩阵的分解的存在唯一性条件的两个定理。
定理2 若矩阵非奇异,则能分解为的充分必要条件是的顺序主子行列式不为0,即
定理3 若非奇异矩阵有分解,则此分解是唯一的。
为简化分解,下面通过比较元素法导出一个直接求与的元素的公式。
令 。
即
比较第一框得:
假设前 框元素已求出,则由
得
,(a)
计算的规律性:计算时,除用到外,仅用到前框中与它位于同一行的与同一列的的乘积之和;而计算时,规律与一样,只不过最后还要用除一下。因此可以按下图所示逐框求出矩阵的分解,这种计算方法称紧凑格式。
例 求的分解,其中
.
解: 用紧凑格式法
将矩阵进行分解后,解线性方程组转化为依次解下三角方程组与上三角方程组,
得同解方程组:
解得
解
得同解方程组:
优 点:
1、当要解多个系数矩阵为的线性方程组时,只要对系数矩阵做一次分解,以后只要解三角形方程组即可;
2、可以根据系数矩阵的形状来设计算法。
缺 点:
1、不能为0;
2、的绝对值很小时误差会很大,数值不稳定。
原因:分解法的实质是高斯消去法。
例:用分解法解方程组
=
解:用紧凑格式
矩阵A的LU分解式为:
。
由,
再由。
课堂练习:
对矩阵A作LU分解,。
结果:
二、乔累斯基分解法
这是针对正定对称的系数矩阵而言的一种分解方法,它在分解的基础上再进行分解,计算量更小,可节约一半内存。
正定对称:
设为实对称矩阵。如果对于任给向量,有如下不等式恒成立:
则称为正定对称矩阵。
对于正定对称矩阵,我们有如下结论:
1、的特征值;
2、的顺序主子行列式大于0,即
由此可知,正定对称矩阵的分解一定存在。下面我们给出乔累斯基分解法。
设对称正定,,将进一步分解:
于是
由的对称性有
(这是因为是对角矩阵,所以有)
其中为单位下三角阵,是上三角阵。因此上式也是的分解。由分解的唯一性可知:
则:
于是有以下定理:
定理4 设矩阵对称正定,则必存在单位下三角阵及对角阵,使
我们称上式为对称正定矩阵的乔累斯基(Cholesky)分解。若记,那么,故乔累斯基分解的计算公式为
(b)
据此,当对称正定时,解方程组等价于解,而后者可以转化为依次解两个三角形方程组,(),,其计算公式如下:
这种方法叫乔累斯基(Cholesky)分解法或分解法。
优 点
1、不用选主元也能保持数值稳定;
2、计算量比分解法少了近一半(不要求),并节省约一半的存储量。
注 意 该方法只适用于为对称正定矩阵的情形。
例:用乔累斯基分解法解方程组
解:设有
得
由
得:
由得:
§3 向量和矩阵的范数
(维实向量和阶实矩阵的)范数:
衡量向量和矩阵大小的度量;用来讨论解线性方程组的误差
向量的范数
1.定义 上的范数是一个实值函数记作‖·‖,它满足
(1)当且仅当时,;
(2)对任何,;
(3),.
例: 向量的长度,是向量的2-范数
可以验证满足条件(1)(2)(3)。
一般形式:向量的范数
2.常用的向量范数:
向量的1-范数
向量的2范数
向量的范数
例:设,求
按定义,
向量范数满足的几种关系:
向量范数的用途:刻画方程组解的误差。
设是方程组的准确解,而是近似解,则
叫作关于p-范数的绝对误差和相对误差。
矩阵的范数
1.基本性质
定理 矩阵范数具有下列基本性质
(1),当且仅当时,.
(2),.
(3)对于阶方阵、,有
,(三角不等式)
(4),有.
(5),、.
性质(4)、(5)称为相容性条件
3.常用的矩阵范数()
(1)矩阵的1—范数(列和范数):
,
(2)矩阵的—范数(行和范数):
,
(3)矩阵的2—范数:
其中: 的最大特征值
,其特征值的按模最大值,称为的谱半径,记作.此时,.
矩阵范数的用途:描述矩阵的误差。
设是矩阵的近似矩阵,称为的误差矩阵,则与叫做关于p-范数的绝对误差和相对误差。
例 设,,则
,求相应范数。
解:,,
,,
特征值
得
扰动分析
误差对的解的影响
对于,和是通过观测或计算而得,总是存在误差,这些误差将对的解产生影响.
例 考虑两个系数矩阵及右端十分接近的方程组
的解为,
而的解为,.
由此可见,即使两方程组的系数矩阵及右端极其接近,但其解可能相差很大。
这与对和的扰动的敏感程度有关.
右端及系数矩阵的误差对解的影响
考虑 ,设其解存在唯一,即存在.
右端项 的扰动
设的右端存在误差,引起解的误差为,即 .
即
则有 .
又 ,
设,则
(*1)
即系数决定了解的敏感程度,称为的条件数,
记作 .
从(*1)式可见,若很大,则微小的相对扰动,也可能使的解产生相当大的相对扰动.
系数矩阵的扰动
当存在误差时,近似解由下面方程决定
若,则非奇异
又,则有
即
由范数的性质,得
.
当时,有
由条件数的定义,进一步有
(*2)
由于,(*2)式的分母为小于1的正数
由(*2)式,若很大,则的微小相对
扰动,可能使解产生相当大的相对扰动.
大量实际计算经验证实, 条件数刻画了扰动
对解的影响程度.通常条件数越大,扰动对解的影响越大.
条件数很大的方程组称为病态方程组,病态方
程组的求解会遇到很大的困难.
判断矩阵病态的几种情况:
在用主元消去法时出现很小的主元;
对b作微小扰动后,方程组的解相差很大;
矩阵A中元素间数量级相差很大;
A的行列式满足
<<1
矩阵的某些行或列近似线性相关。
3.近似解与残向量的关系
残向量:设方程组Ax=b的近似解为,将称为残向量。
定理五:设A非奇异,是方程组的准确解,是近似解,,则
证明:,
即
所以
又
即
例:已知=, 求()
解:
故
,
例 设,已知方程组的精确解为(3,-1)T
计算条件数 ;(课堂练习)
若有近似解为(2.97,-1.01)T,计算残量。
解:①
②