矩阵的三角分解 一、LU分解法 用的情况分析顺序消去法的消元过程,从而导出一些很有用的结论。   第一步中,设,令, 将第二行和第三行分别减去第一行的倍和倍。事实上第一步得到的结果,可以表述为一个初等矩阵与的乘积。 将第一步的结果再进行第二步消元:   由此可见,消元过程相当于下述矩阵乘法运算  由分块矩阵乘法可得  令  直接计算知 令 , 则:   我们称之为矩阵的分解或三角状分解。其中是单位下三角矩阵,是上三角矩阵。这种解方程组的方法称为分解法或三角状分解法。(Doolittle分解方法) 因此,只要消元过程能进行到底,就有如下等价关系 消元过程即是将分解成单位下三角阵与上三角阵的乘积,解方程组;回代过程即是解方程  。 以此类推可得阶矩阵的分解,其中   下面给出关于矩阵的分解的存在唯一性条件的两个定理。 定理2 若矩阵非奇异,则能分解为的充分必要条件是的顺序主子行列式不为0,即  定理3 若非奇异矩阵有分解,则此分解是唯一的。 为简化分解,下面通过比较元素法导出一个直接求与的元素的公式。 令 。 即 比较第一框得:  假设前 框元素已求出,则由  得  ,(a) 计算的规律性:计算时,除用到外,仅用到前框中与它位于同一行的与同一列的的乘积之和;而计算时,规律与一样,只不过最后还要用除一下。因此可以按下图所示逐框求出矩阵的分解,这种计算方法称紧凑格式。 例 求的分解,其中  . 解: 用紧凑格式法      将矩阵进行分解后,解线性方程组转化为依次解下三角方程组与上三角方程组,  得同解方程组:  解得 解  得同解方程组:   优 点: 1、当要解多个系数矩阵为的线性方程组时,只要对系数矩阵做一次分解,以后只要解三角形方程组即可; 2、可以根据系数矩阵的形状来设计算法。 缺 点: 1、不能为0; 2、的绝对值很小时误差会很大,数值不稳定。 原因:分解法的实质是高斯消去法。 例:用分解法解方程组 = 解:用紧凑格式 矩阵A的LU分解式为: 。 由, 再由。 课堂练习: 对矩阵A作LU分解,。 结果:  二、乔累斯基分解法 这是针对正定对称的系数矩阵而言的一种分解方法,它在分解的基础上再进行分解,计算量更小,可节约一半内存。 正定对称: 设为实对称矩阵。如果对于任给向量,有如下不等式恒成立:  则称为正定对称矩阵。 对于正定对称矩阵,我们有如下结论: 1、的特征值; 2、的顺序主子行列式大于0,即 由此可知,正定对称矩阵的分解一定存在。下面我们给出乔累斯基分解法。 设对称正定,,将进一步分解:  于是  由的对称性有 (这是因为是对角矩阵,所以有) 其中为单位下三角阵,是上三角阵。因此上式也是的分解。由分解的唯一性可知:  则: 于是有以下定理: 定理4 设矩阵对称正定,则必存在单位下三角阵及对角阵,使  我们称上式为对称正定矩阵的乔累斯基(Cholesky)分解。若记,那么,故乔累斯基分解的计算公式为 (b) 据此,当对称正定时,解方程组等价于解,而后者可以转化为依次解两个三角形方程组,(),,其计算公式如下:  这种方法叫乔累斯基(Cholesky)分解法或分解法。 优 点 1、不用选主元也能保持数值稳定; 2、计算量比分解法少了近一半(不要求),并节省约一半的存储量。 注 意 该方法只适用于为对称正定矩阵的情形。 例:用乔累斯基分解法解方程组  解:设有 得  由  得:  由得: §3 向量和矩阵的范数 (维实向量和阶实矩阵的)范数: 衡量向量和矩阵大小的度量;用来讨论解线性方程组的误差 向量的范数 1.定义 上的范数是一个实值函数记作‖·‖,它满足 (1)当且仅当时,; (2)对任何,; (3),. 例: 向量的长度,是向量的2-范数  可以验证满足条件(1)(2)(3)。 一般形式:向量的范数  2.常用的向量范数: 向量的1-范数  向量的2范数  向量的范数  例:设,求 按定义,    向量范数满足的几种关系:   向量范数的用途:刻画方程组解的误差。 设是方程组的准确解,而是近似解,则  叫作关于p-范数的绝对误差和相对误差。 矩阵的范数 1.基本性质 定理 矩阵范数具有下列基本性质 (1),当且仅当时,. (2),. (3)对于阶方阵、,有 ,(三角不等式) (4),有. (5),、. 性质(4)、(5)称为相容性条件 3.常用的矩阵范数() (1)矩阵的1—范数(列和范数): , (2)矩阵的—范数(行和范数): , (3)矩阵的2—范数:  其中: 的最大特征值 ,其特征值的按模最大值,称为的谱半径,记作.此时,. 矩阵范数的用途:描述矩阵的误差。 设是矩阵的近似矩阵,称为的误差矩阵,则与叫做关于p-范数的绝对误差和相对误差。 例 设,,则 ,求相应范数。 解:,, ,,    特征值 得 扰动分析 误差对的解的影响 对于,和是通过观测或计算而得,总是存在误差,这些误差将对的解产生影响. 例 考虑两个系数矩阵及右端十分接近的方程组   的解为, 而的解为,. 由此可见,即使两方程组的系数矩阵及右端极其接近,但其解可能相差很大。 这与对和的扰动的敏感程度有关. 右端及系数矩阵的误差对解的影响 考虑 ,设其解存在唯一,即存在. 右端项 的扰动 设的右端存在误差,引起解的误差为,即 . 即  则有 . 又 , 设,则  (*1) 即系数决定了解的敏感程度,称为的条件数, 记作 . 从(*1)式可见,若很大,则微小的相对扰动,也可能使的解产生相当大的相对扰动. 系数矩阵的扰动 当存在误差时,近似解由下面方程决定  若,则非奇异 又,则有  即  由范数的性质,得  . 当时,有  由条件数的定义,进一步有  (*2) 由于,(*2)式的分母为小于1的正数 由(*2)式,若很大,则的微小相对 扰动,可能使解产生相当大的相对扰动. 大量实际计算经验证实, 条件数刻画了扰动 对解的影响程度.通常条件数越大,扰动对解的影响越大. 条件数很大的方程组称为病态方程组,病态方 程组的求解会遇到很大的困难. 判断矩阵病态的几种情况: 在用主元消去法时出现很小的主元; 对b作微小扰动后,方程组的解相差很大; 矩阵A中元素间数量级相差很大; A的行列式满足 <<1 矩阵的某些行或列近似线性相关。 3.近似解与残向量的关系 残向量:设方程组Ax=b的近似解为,将称为残向量。 定理五:设A非奇异,是方程组的准确解,是近似解,,则  证明:,  即 所以 又  即  例:已知=, 求() 解:      故 ,   例 设,已知方程组的精确解为(3,-1)T 计算条件数 ;(课堂练习) 若有近似解为(2.97,-1.01)T,计算残量。 解:①     ②