迭代法 问题的提出 直接方法(以Gauss消去法为代表)的缺陷: 对于低阶或中等阶数的线性方程组十分有效,但当较大时,特别是由某些微分方程经离散后得到的线性方程组,由于舍入误差的积累以及计算机的存贮困难,直接方法变得无能为力. 解决方法:(利用迭代方法) 迭代方法:把线性方程组的数值求解问题,化为一个迭代序列来实现,类似于非线性方程迭代法的思想. 具体做法 ①    ② 取任意初始向量构成迭代序列: ,  (*1) 若,则有 . (*2) 即为的解. 迭代矩阵:矩阵. (*2)也称为迭代格式. 若序列的极限存在,则称此迭代过程收敛,否则称为发散. 二.常用的迭代方法 Jacobi迭代方法 Jacobi迭代方法的具体形式 设有阶线性方程组     建立迭代格式: 或缩写为:   用此迭代格式求解的方法叫雅可比(Jacobi)迭代 法,又称简单迭代格式。 分解为  其中   变形   故雅可比迭代格式可写成矩阵形式:  迭代矩阵  Gauss—Seidle迭代方法的具体形式 即在计算新分量时,利用了新值,,上面这种迭代法称为Gauss—Seidel迭代方法。 或缩写为: 故Gauss—Seidel迭代的矩阵形式为:      称为Gauss—Seidel法的迭代矩阵。 例:求的Jacobi迭代格式和Gauss-Seidel迭代格式。 解:Jacobi迭代格式: 由原方程   Gauss-Seidel迭代格式: 原方程组为  二、序列收敛的条件 定理6: ,常向量,迭代过程收敛.为矩阵的谱半径.,为矩阵的特征值。 例:设方程组的系数矩阵为  判别雅可比迭代与高斯-塞德尔迭代是否收敛。 解:① 求的特征值: , , 故有一值于中,,雅可比迭代不收敛。 ②   即    解得:   高斯-塞德尔迭代收敛。 注:由于对Gauss-Seidel迭代法而言,其特征矩阵必须求出。以下介绍一种等价的求其特征值的方法。  考虑到,前一个矩阵的行列式不会为0(在本章开始就已经假设),那么只需第二个行列式为0即可。即:.而该方程无须求,也能求出矩阵的特征值. 即  定理7 若迭代矩阵的某种范数,则迭代方法,有如下误差估计   证明:(略) 定理7给出了一个判别雅可比迭代格式收敛的充分条件。即只要有某个范数,雅可比迭代过程一定收敛,但是反过来,,则不能说此过程发散,而应该用定理6(充分必要条件)进行判断。 定理8:(充分条件)对线性方程组的雅可比迭代法和高斯-塞德尔迭代法,其收敛性有如下判别条件: ①若为严格对角占优矩阵,则雅可比迭代法和高斯-塞德尔迭代法收敛。 ②若为对称正定阵,则高斯-塞德尔迭代法收敛。 例:给定,其中  ⑴证明当时对称正定,从而迭代方法收敛 ⑵证明当时Jacobi迭代方法收敛,否则发散. 证明:(1)由题设知,为对称阵 正定的所有顺序主子式全大于零 要求:    综上,时对称正定,从而迭代方法收敛 (2)由定理,为严格对角占优矩阵,即 当时Jacobi迭代方法收敛,否则发散. 例:给出方程组 ,其中 , . 对,其Jacobi迭代矩阵和迭代矩阵分别为: ,  . =0 或者对于高斯-塞德尔迭代: 即  的特征多项式为,所以.的特征多项式为,特征值为,即.  对,Jacobi方法收敛,方法不收敛. 同样讨论, 其中  ,   ==0 的特征多项式为,特征值为,,则. 的特征多项式为,特征值为 ,故.  对,Jacobi方法发散,方法收敛. 课堂练习:给定线性方程组  写出雅可比迭代格式和高斯-塞德尔迭代格式; 考查雅可比迭代格式和高斯-塞德尔迭代格式的敛散性。 解:雅可比迭代格式为:  高斯-塞德尔迭代格式:  由于所给线性方程组的系数矩阵  是严格对角占优的,所以雅可比迭代格式和高斯-塞德尔迭代格式都是收敛的。 例:设线性方程组为  证明用雅可比迭代法和高斯-塞德尔迭代法解此方程组要么同时收敛要么同时发散。 当同时收敛时比较其收敛速度。 解:所给线性方程组的系数矩阵为  雅可比迭代矩阵的特征方程组为  解得:  ①当时, ②当时, ③当时, 因而  (1) 高斯-塞德尔迭代矩阵的特征方程为:  即:  解得:  因而  (2) 比较(1)和(2),当时,  当时, 故雅可比迭代法和高斯-塞德尔迭代法要么同时收敛,要么同时发散。 当,两个迭代格式同时收敛,此时由于,即:, 所以高斯-塞德尔迭代法比雅可比迭代法收敛快。 逐次超松弛迭代方法(SOR法) 对迭代格式加以适当的修改,在不增加过多的计算量的条件下,可以使收敛速度加快。 回顾迭代格式中对有:  (1)  (2)记  (3) 则: (4) 从(4)式中可以看出:可以看作是在上增加了一个修正量。若此时将该修正量进行适当的修改,最简单的就是在其前面增加一个系数,即: (4)变为:  (5) 上式我们称为逐次松弛方法,当时,我们称其为超松弛方法,当时,称为低松弛方法,当时,为迭代方法。 下面要讨论的是其收敛的条件: 定理1: 逐次超松弛方法收敛的必要条件是: 注意:该定理只是逐次松弛方法收敛的必要条件,而不是充分条件,换句话说,就是如果不在内,则松弛方法一定不收敛,但当时,松弛方法也未必一定收敛。 定理2:若矩阵为对称正定阵,当时,则对方程组逐次松弛方法必定收敛。 例:写出方程组的逐次超松弛方法(SOR法)的迭代格式。设  解:先写出其高斯-塞德尔迭代格式:    此格式就是方程的逐次超松弛迭代格式。 例:给出方程组  研究用SOR方法的收敛性。 写出的SOR方法的迭代格式 求解,取初始向量为,至少迭代三次。 解:(1)由于  对称正定,所以对,SOR迭代收敛。 (2)建立G-S迭代公式:  取,建立SOR迭代公式: (3)迭代计算如下: 。