上一页 下一页1
第三章 函数基本逼近 (二 )
------最佳逼近上一页 下一页2
仍然是已知 x1 … xm ; y1 … ym,求一个简单易算的近似函数 P(x)? f(x)。
但是 ① m 很大；
② yi 本身是测量值，不准确，即 yi? f (xi)
这时没必要取 P(xi) = yi,而要使 P(xi)? yi 总体上 尽可能小。
常见做法：
使 最小 /* minimax problem */|)(|m a x
1 iimi yxP
太复杂?
使 最小?
m
i
ii yxP
1
|)(|
不可导，求解困难?
使 最小 /* Least-Squares method */?
m
i
ii yxP
1
2|)(|
上一页 下一页3
§ 1 最小二乘拟合 多项式 /* L-S approximating polynomials */
确定多项式,对于一组数据 (xi,yi) (i = 1,2,…,m) 使得 达到 极小,
这里 n << m。
nn xaxaaxP,..)( 10
m
i
ii yxP
1
2])([?
naaa 10
实际上是 a0,a1,…,an 的多元函数，即
[ ]?

m
i i
n
inin yxaxaaaaa 1
2
1010,..),...,,(?
在? 的极值点应有
nka
k
,.,,,0,0
k
im
i
iik a
xPyxP
a?


)(])([20
1
k
i
m
i
n
j
i
j
ij xyxa


1 0
][2


n
j
m
i
k
ii
m
i
kj
ij xyxa
0 11
2
记


m
i
k
iik
m
i
k
ik xycxb 11,?


nnnnn
n
c
c
a
a
bb
bb
..
.
..
.
.,,
..
.
..
.
..
.
.,,00
0
000
法方程组 (或 正规方程组 )
/* normal equations */
上一页 下一页4
定理 L-S 拟合多项式 存在唯一 (n < m)。
上一页 下一页5
定理 Ba = c 的解确实是? 的 极小点 。即设 a 为解，则任意 b = (b0 b1 … bn )T 对应的多项式 必有?
n
j
j
j xbxF
0
)(



m
i
m
i
iiii byxFyxPa
1 1
22 )(])([])([)(
证明,


m
i
ii
m
i ii
yxPyxFab
1
2
1
2 ])([])([)()(



m
i
ii
m
i
iiii yxPyxPxPxF
1
2
1
2 ])([])()()([



m
i
iiii
m
i
ii yxPxPxFxPxF
11
2 ])()][()([2)]()([ 0
注,?L-S method 首先要求设定 P(x) 的形式。若设
n=m?1，则可取 P(x) 为过 m 个 点的 m?1阶插值多项式，这时?= 0。
P(x) 不一定是多项式，通常根据经验确定。
上一页 下一页6
例：
x
y
(xi,yi),i = 1,2,…,m
方案一,设 baxxxPy )(
求 a 和 b 使得 最小。

m
i ii
i ybaxxba
1
2)(),(?
线性化 /* linearization */：令,则
xXyY 1,1
bXaY 就是个 线性问题将 化为 后易解 a 和 b。),( ii YX),( ii yx
上一页 下一页7
方案二,设 xbeaxPy /)( ( a > 0,b > 0 )
线性化,由 可做变换xbay lnln
bBaAxXyY,ln,1,ln
BXAY 就是个 线性问题将 化为 后易解 A 和 B),( ii YX),( ii yx
xbA eaxPBbea /)(,,
上一页 下一页8
§ 2 正交多项式与最小二乘拟合
/* Orthogonal Polynomials & Least-Squares Approximation */
已知 x1 … xm ; y1 … ym,求一个简单易算的近似函数 P(x)? f(x) 使得 最小。
m
i
ii yxP
1
2|)(|
已知 [a,b]上定义的 f(x)，求一个简单易算的近似函数 P(x) 使得 最小。?b
a dxxfxP
2)]()([
定义 线性无关 /* linearly independent */ 函数族 {?0(x),
1(x),…,?n(x),… } 满足条件：其中任意函数的线性组合
a0?0(x)+a1?1(x)+… +an?n(x)=0 对任意 x?[a,b]成立当且仅当 a0= a1=… =an=0。
上一页 下一页9
定义 考虑一般的线性无关函数族?={?0(x),?1(x),…,
n(x),… },其有限项的线性组合 称为 广义多项式 /* generalized polynomial */.
n
j
jj xxP
0
)()(
常见多项式：
{?j(x) = x j } 对应 代数 多项式 /* algebraic polynomial */
{?j(x) = cos jx },{?j(x) = sin jx }? {?j(x),?j(x) }对应 三角 多项式 /* trigonometric polynomial */
{?j(x) = e kj x,ki? kj } 对应 指数 多项式 /* exponential
polynomial */
上一页 下一页10
定义 权函数：
① 离散型 /*discrete type */
根据一系列离散点 拟合时，在每一误差前乘一正数 wi,即 误差函数?,这个 wi
就称作 权 /* weight*/，反映该点的重要程度。
),...,1(),( niyx ii?

n
i iii
yxPw
1
2])([
② 连续型 /*continuous type */
在 [a,b]上用广义多项式 P(x) 拟合连续函数 f(x) 时，定义 权函数?(x)?C[a,b]，即误差函数?= 。
权函数必须?(x)满足：非负、可积，且在 [a,b]的任何子区间上?(x)? 0。
dxxyxPxba 2)]()([)(
上一页 下一页11
定义 广义 L-S 拟合：
① 离散型 /*discrete type */
在点集 { x1 … xm } 上测得 { y1 … ym }，在一组权系数 { w1 …
wm }下求广义多项式 P(x) 使得 误差函数?
最小。

n
i iii
yxPw
1
2])([
② 连续型 /*continuous type */
已知 y(x)?C[a,b] 以及权函数?(x),求广义多项式 P(x) 使得误差函数?= 最小 。dxxyxPxb
a
2)]()([)(
内积 与 范数
b
a
m
i
iii
dxxgxfx
xgxfw
gf
)()()(
)()(
),( 1
离散型连续型则易证 ( f,g ) 是 内积,而 是 范数 。
),(|||| fff?
( f,g )=0 表示 f 与 g
带权正交 。
广义 L-S 问题可叙述为：求广义多项式 P(x)使得最小。 2||||),( yPyPyP
上一页 下一页12
nkya k
n
j
jjk,...,0,),(),(
0


设则完全类似地有：
)(...)()()( 1100 xaxaxaxP nn
0
ka
法方程组
/*normal equations */
定理 Ba = c 存在唯一解0(x),?1(x),…,?n(x) 线性无关。
即：
),(
),(
),(
00
y
y
a
a
b
nn
jiij
= c
上一页 下一页13
例,用 来拟合,w? 12
210 xaxaay
x 1 2 3 4 y 4 10 18 26
解,?0(x) = 1,?1(x) = x,?2(x) = x2
6 2 2),(1 8 2),(581),(
3 5 4),(301),(
30),(101),(
1 0 0),(411),(
2
4
1
10
4
1
4
4
1
22
2
20
4
1
2
4
1
1110
4
1
2
4
1
2100










yyyy
xx
xx
xx
i
i
i
i
i
i
i
i
i
i
i
ii
i




622
182
58
35410030
1003010
30104
2
1
0
a
a
a 2
1,
10
49,
2
3
210 aaa
2
3
10
49
2
1)( 2 xxxPy
上一页 下一页14
练习题
P92 No 3.22,3.24