§5 曲线拟合的最小二乘法
一般的最小二乘逼近(曲线拟合的最小二乘法)的一般提法是:对给定的一组数据,要求在函数类中找一个函数,使误差平方和
其中
带权的最小二乘法:
其中是[a, b]上的权函数。
用最小二乘法求曲线拟合的问题,就是在中求一函数,使取的最小。它转化为求多元函数
的极小点问题。由求多元函数极值的必要条件,有
若记
则上式可改写为
这个方程称为法方程,矩阵形式
其中 ,
由于线性无关,故,方程组存在唯一解
从而得到函数的最小二乘解为
可证
故使所求最小二乘解。
已知一组实验数据,求它的拟合曲线。
1
2
3
4
5
4
4.5
6
8
8.5
2
1
3
1
1
解:根据所给数据知,可选择线性函数作拟合曲线。
令, 这里
故
由方程组
所求拟合曲线为
例9 在某化学反应里,根据实验所得生成物的浓度与时间关系如下表,求浓度y与时间t的拟合曲线
时间t(分)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
浓度
y×10-3
4.
00
6.
40
8.
00
8.
80
9.
22
9.
50
9.
70
9.
86
10.
00
10.
20
10.
32
10.
42
10.
50
10.
55
10.
58
10.
60
解:将数据标在坐标纸上,可发现数据符合双曲线函数或指数函数。
双曲线函数拟合
双曲线型: 即
为了确定 令
由数据表t, y生成数据表 于是可用的线性函数拟合数据。方法与上例一样解方程组
得
从而有
其误差为
指数函数拟合
拟合曲线形如 对其两边取对数
为了确定 令
由计算出,拟合数据的曲线仍为
用例8的方法计算出
从而
最后求得
误差为
两个模型的比较
本例经计算可得
均方误差为
由此可知及都比较小,所以用作拟合曲线较好。
确定拟合曲线的数学模型需要选择比较。
用正交函数作最小二乘拟合
法方程组系数矩阵G是病态的,但如果是关于点集带权正交的函数族,即
则方程的解为
且平方误差为
根据给定节点及权函数,造出带权正交的多项式。注意,用递推公式表示,即
其中是首项系数为1的次多项式,且
证明:用归纳法(略)。
用正交多项式的线性组合作最小二乘曲线拟合,只要根据公式逐步求的同时,相应计算出系数
并逐步把累加到中去,最后就可得到所求的拟合曲线
这里可事先给定或在计算过程中根据误差确定。
用这种方法编程序不用解方程组,只用递推公式;当逼近次数增加一次时,只要把程序中循环数增加1,其余不用改变。此为目前用多项式作曲线拟合最好的方法。
多元最小二乘拟合
已知多元函数的一组测量数据,以及一组权数要求函数
使得
最小,这与前面讲的极值问题完全一样,系数同样满足法方程,只是这里
求解法方程组就可得到,从而得到,称为函数的最小二乘拟合。