迭代法
问题的提出
直接方法(以Gauss消去法为代表)的缺陷:
对于低阶或中等阶数的线性方程组十分有效,但当较大时,特别是由某些微分方程经离散后得到的线性方程组,由于舍入误差的积累以及计算机的存贮困难,直接方法变得无能为力.
解决方法:(利用迭代方法)
迭代方法:把线性方程组的数值求解问题,化为一个迭代序列来实现,类似于非线性方程迭代法的思想.
具体做法
①
② 取任意初始向量构成迭代序列:
, (*1)
若,则有
. (*2)
即为的解.
迭代矩阵:矩阵. (*2)也称为迭代格式.
若序列的极限存在,则称此迭代过程收敛,否则称为发散.
二.常用的迭代方法
Jacobi迭代方法
Jacobi迭代方法的具体形式
设有阶线性方程组
建立迭代格式:
或缩写为:
用此迭代格式求解的方法叫雅可比(Jacobi)迭代
法,又称简单迭代格式。
分解为
其中
变形
故雅可比迭代格式可写成矩阵形式:
迭代矩阵
Gauss—Seidle迭代方法的具体形式
即在计算新分量时,利用了新值,,上面这种迭代法称为Gauss—Seidel迭代方法。
或缩写为:
故Gauss—Seidel迭代的矩阵形式为:
称为Gauss—Seidel法的迭代矩阵。
例:求的Jacobi迭代格式和Gauss-Seidel迭代格式。
解:Jacobi迭代格式:
由原方程
Gauss-Seidel迭代格式:
原方程组为
二、序列收敛的条件
定理6: ,常向量,迭代过程收敛.为矩阵的谱半径.,为矩阵的特征值。
例:设方程组的系数矩阵为
判别雅可比迭代与高斯-塞德尔迭代是否收敛。
解:①
求的特征值:
,
,
故有一值于中,,雅可比迭代不收敛。
②
即
解得:
高斯-塞德尔迭代收敛。
注:由于对Gauss-Seidel迭代法而言,其特征矩阵必须求出。以下介绍一种等价的求其特征值的方法。
考虑到,前一个矩阵的行列式不会为0(在本章开始就已经假设),那么只需第二个行列式为0即可。即:.而该方程无须求,也能求出矩阵的特征值.
即
定理7 若迭代矩阵的某种范数,则迭代方法,有如下误差估计
证明:(略)
定理7给出了一个判别雅可比迭代格式收敛的充分条件。即只要有某个范数,雅可比迭代过程一定收敛,但是反过来,,则不能说此过程发散,而应该用定理6(充分必要条件)进行判断。
定理8:(充分条件)对线性方程组的雅可比迭代法和高斯-塞德尔迭代法,其收敛性有如下判别条件:
①若为严格对角占优矩阵,则雅可比迭代法和高斯-塞德尔迭代法收敛。
②若为对称正定阵,则高斯-塞德尔迭代法收敛。
例:给定,其中
⑴证明当时对称正定,从而迭代方法收敛
⑵证明当时Jacobi迭代方法收敛,否则发散.
证明:(1)由题设知,为对称阵
正定的所有顺序主子式全大于零
要求:
综上,时对称正定,从而迭代方法收敛
(2)由定理,为严格对角占优矩阵,即
当时Jacobi迭代方法收敛,否则发散.
例:给出方程组 ,其中
, .
对,其Jacobi迭代矩阵和迭代矩阵分别为:
,
.
=0
或者对于高斯-塞德尔迭代:
即
的特征多项式为,所以.的特征多项式为,特征值为,即.
对,Jacobi方法收敛,方法不收敛.
同样讨论, 其中
,
==0
的特征多项式为,特征值为,,则.
的特征多项式为,特征值为
,故.
对,Jacobi方法发散,方法收敛.
课堂练习:给定线性方程组
写出雅可比迭代格式和高斯-塞德尔迭代格式;
考查雅可比迭代格式和高斯-塞德尔迭代格式的敛散性。
解:雅可比迭代格式为:
高斯-塞德尔迭代格式:
由于所给线性方程组的系数矩阵
是严格对角占优的,所以雅可比迭代格式和高斯-塞德尔迭代格式都是收敛的。
例:设线性方程组为
证明用雅可比迭代法和高斯-塞德尔迭代法解此方程组要么同时收敛要么同时发散。
当同时收敛时比较其收敛速度。
解:所给线性方程组的系数矩阵为
雅可比迭代矩阵的特征方程组为
解得:
①当时,
②当时,
③当时,
因而 (1)
高斯-塞德尔迭代矩阵的特征方程为:
即:
解得:
因而 (2)
比较(1)和(2),当时,
当时,
故雅可比迭代法和高斯-塞德尔迭代法要么同时收敛,要么同时发散。
当,两个迭代格式同时收敛,此时由于,即:,
所以高斯-塞德尔迭代法比雅可比迭代法收敛快。
逐次超松弛迭代方法(SOR法)
对迭代格式加以适当的修改,在不增加过多的计算量的条件下,可以使收敛速度加快。
回顾迭代格式中对有:
(1)
(2)记 (3)
则: (4)
从(4)式中可以看出:可以看作是在上增加了一个修正量。若此时将该修正量进行适当的修改,最简单的就是在其前面增加一个系数,即:
(4)变为:
(5)
上式我们称为逐次松弛方法,当时,我们称其为超松弛方法,当时,称为低松弛方法,当时,为迭代方法。
下面要讨论的是其收敛的条件:
定理1: 逐次超松弛方法收敛的必要条件是:
注意:该定理只是逐次松弛方法收敛的必要条件,而不是充分条件,换句话说,就是如果不在内,则松弛方法一定不收敛,但当时,松弛方法也未必一定收敛。
定理2:若矩阵为对称正定阵,当时,则对方程组逐次松弛方法必定收敛。
例:写出方程组的逐次超松弛方法(SOR法)的迭代格式。设
解:先写出其高斯-塞德尔迭代格式:
此格式就是方程的逐次超松弛迭代格式。
例:给出方程组
研究用SOR方法的收敛性。
写出的SOR方法的迭代格式
求解,取初始向量为,至少迭代三次。
解:(1)由于
对称正定,所以对,SOR迭代收敛。
(2)建立G-S迭代公式:
取,建立SOR迭代公式:
(3)迭代计算如下:
。