线性参数的最小二乘法处理
最小二乘法原理
正规方程
精度估计
组合测量的最小二乘法处理一、最小二乘法原理
12,,...,tX X X
待测量
12,,..,,tx x x
待测量的估计值
12,,..,,nY Y Y
与待测量有函数关系的直接测量量
12,,..,,ny y y
直接测量量的估计值
12,,...,nl l l
直接测量量的测量值
t 待测量的数目
n 直接测量量的数目一、最小二乘法原理
2 2 1 2 tY f ( X,X,..,,X )?
1 1 1 2 tY f ( X,X,..,,X )?
12n n tY f ( X,X,..,,X )?
2 2 1 2 ty f ( x,x,..,,x )?
1 1 1 2 ty f ( x,x,..,,x )?
12n n ty f ( x,x,..,,x )?
一、最小二乘法原理
1 1 1v l y
1 1 1 1 2 tv l f ( x,x,..,,x )
2 2 2vly
n n nv l y
2 2 2 1 2 tv l f ( x,x,...,x )
12n n n tv l f ( x,x,...,x )
一、最小二乘法原理如果测量数据的测量误差是无偏的 （即排除了系统误差）,相互独立的，且服从正态分布 。
设标准差分别为,
区域
12 n,,..,,
12 nl,l,...,l
出现在相应真值附近
12 nd,d,...,d
内得概率分别为
22
11 2
1
1
1
2
/ ( )p e d
22 2
2
2
1
2
/ ( )p e d
22 2
2
2
1
2
/ ( )p e d
则测量数据一、最小二乘法原理根据概率乘法原理，各测量数据同时出现在相应区域
12 nd,d,...,d
内的概率应为
2 2 2 2 2 2
1 1 2 2
12
2
12
1
2
nn
n
( / /,,,/ ) /
n
n
p p p,.,p
ed
...
待求量最可信赖值的确定，应使得
12 nl,l,...,l
同时出现在真值附近区域的概率 P最大。要使 P最大应满足
222
12
2 2 2
12
n
n
.., 最 小一、最小二乘法原理上述条件中用残余误差代替误差可以得到：
222
12
2 2 2
12
n
n
vvv,..
最 小引入权的符号 p 可得：
2 2 21 1 2 2 nnp v p v,.,p v 最 小在等精度测量中：
12 n...
2 2 212 nv v,.,v 最 小
12 np p,.,p
则一、最小二乘法原理上式表明，测量结果的最可信赖值应在残余误差平方和 (在不等精度测量的情形中应为加权残余误差平方和 )为最小的条件下求出，这就是最小二乘法原理。
实质上，按最小二乘条件给出最终结果能充分地利用误差的抵偿作用，可以有效地减小随机误差的影响，因而所得结果具有最可信赖性。
必须指出，上述最小二乘原理是在测量误差无偏、正态分布和相互独立的条件下推导出的，但在不严格服从正态分布的情形下也常被使用。
一、最小二乘法原理一般情况下，最小二乘法可以用于线性参数的处理，也可用于非线性参数的处理。由于测量的实际问题中大量的是属于线性的，而非线性参数借助于级数展开的方法可以在某一区域近似地化成线性的形式。因此，线性参数的最小二乘法处理是最小二乘法理论所研究的基本内容。
一、最小二乘法原理
1 1 1 1 1 2 2 1 ttY a X a X,.,a X
相应的估计量为：
线性参数的测量方程一般为：
2 2 1 1 2 2 2 2 ttY a X a X,,,a X
1 1 2 2n n n nt tY a X a X,.,a X
1 1 1 1 1 2 2 1 tty a x a x,.,a x
1 1 2 2n n n nt ty a x a x,.,a x
2 2 1 1 2 2 2 2 tty a x a x,,,a x
一、最小二乘法原理残余误差方程式为：
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
12 nl,l,...,l
直接测量结果
12 nx,x,...,x
待求的被测量的估计值
12 nv,v,..,,v
直接测量结果的残余误差
11 12 nta,a,..,,a
残余误差方程的 n× t 个系数一、最小二乘法原理
1
2
n
l
l
.L
.
.
l
1
2
n
v
v
.V
.
.
v
1
2
t
x
x
,X
.
.
x
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
设有列向量和 n× t 阶矩阵
n>t
一、最小二乘法原理
1 1 11 1 1 2 1
2 2 2 1 2 2 2 2
12
t
t
n n n tn n t
v l xa a,.,a
v l a a,.,a x
.,,
.,,
.,,
a a,.,av l x
则线性参数的残余误差方程为则等精度测量时线性参数的残余误差方程为
1
2
12 n
n
v
v
.v v,.,v
.
.
v
最 小一、最小二乘法原理
TVV? 最 小
T( L A X ) ( L A X ) 最 小线性参数的不等精度测量还可以转化为等精度的形式,从而可以利用等精度测量时测量数据的最小二乘法处理的全部结果 。
二、正规方程为了获得更可靠的结果,测量次数总要多于未知参数的数目,即所得误差方程式的数目总是要多于未知数的数目 。 因而直接用一般解代数方程的方法是无法求解这些未知参数的 。 最小二乘法则可以将误差方程转化为有确定解的代数方程组 (其方程式数目正好等于未知数的个数 ),从而可求解出这些未知参数 。 这个有确定解的代数方程组称为最小二乘法估计的正规方程 (或称为法方程 )。
二、正规方程线性参数的最小二乘法处理程序可归结为：
首先根据具体问题列出误差方程式；
再按最小二乘法原理,利用求极值的方法将误差方程转化为正规方程；
然后求解正规方程,得到待求的估计量；
最后给出精度估计 。
对于非线性参数,可先将其线性化,然后按上述线性参数的最小二乘法处理程序去处理 。
二、正规方程线性残余误差方程式为：
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
2 2 2
12
n
in
i = 1
v = v v,.,v 最 小在等精度测量中，要求得待求量的估计值的最可信赖值必须满足的的条件为：
二、正规方程令,2 2 2
1 2 1 2
n
i n t
i = 1
v = v v,.,v g ( x,x,...,x )
1 1 1 1 2 1 2
1 1 1
11 1 11 1 12 2 1
12
12
1 1 1 1
21
11
2 21 1 2 2
12
2
2
2
2 2 2
2
2
2
2
n n n
i i i i i i
i
n
tt
n n n n nt t
t
ii
n
t
vvvg
v v,.,v
x x x x
al
a l ( a x a
a l ( x a a x
( a x a x,.,a x )
x,.,a x )
a l ( a x a x,.,
.
ax
aa
.
.
.
)
.
.
1
1
n
t i it
i
x a a )
二、正规方程
1 1 1 1 1 1 2 1 2 1 1 1
1
n
i i n n
i
a a a a a a a a
1 2 11 12 21 22 1 2
1
n
i i n n
i
a a a a a a a a
1 1 1 1 2 1 2 1
1
n
i in t t n nt
i
a a a a a a a a
1 1 1 1 2 1 2 1
1
n
i i n n
i
a l a l a l a l
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1 1 1 1 2 1 2 1
1 1 1 11
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1
2
n
l
l
.L
.
.
l
二、正规方程令,2 2 2
1 2 1 2
n
i n t
i = 1
v = v v,.,v g ( x,x,...,x )
2
22 2 21 1
1 2 1 2 2 2
1 1 1
12
12
2 2 2 2
2 1 1 2
22 2
12 1 11 1 12
2
1
2
2
2
2 2 2
2
2
2
nn
tt
n
i i i i i i
tt
n
n
n n n n n t
i
t
ii
a l ( a x a x,.,
a l ( a x a x,.
a l ( x a a x a a
.
vvvg
v v,.,v
x x x x
a l ( a x a x,.,a x )
,a x )
x)
.
a,.
.
.
2
1
n
t i it
i
x a a )
二、正规方程
2 1 12 11 22 21 2 1
1
n
i i n n
i
a a a a a a a a
2 2 12 12 22 22 2 2
1
n
i i n n
i
a a a a a a a a
2 1 2 1 2 2 2 2
1
n
i in t t n nt
i
a a a a a a a a
2 12 1 22 2 2
1
n
i i n n
i
a l a l a l a l
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
2 1 2 1 2 2 2 2
1 1 12 1
2
n n n n
i i i i i i t i i t
i i i i
g al
x ( x a a x a a,,,x a a )
1
2
n
l
l
.L
.
.
l
二、正规方程
1 1 2 2
1 1 1 1
2
n n n n
i t i i t i i t i t i t i t
i i i it
g a l ( x a a x a a,,,x a a )
x
2 1 2 1 2 2 2 2
1 1 1 12
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1 1 1 1 2 1 2 1
1 1 1 11
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
二、正规方程
2
1 1 2 22
1 1 1 1
2 2 2
12
1
2
20
n n n n
it i it i it i t it it
i i i it
n
it it t t nt
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
2
2 1 2 1 2 2 2 22
1 1 1 12
2 2 2
2 2 12 22 2
1
2
20
n n n n
i i i i i i t i it
i i i i
n
i i n
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
2
1 1 1 1 2 1 2 12
1 1 1 11
2 2 2
1 1 11 21 1
1
2
20
n n n n
i i i i i i t i it
i i i i
n
i i n
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
二、正规方程
1 1 2 2
1 1 1 1
20
n n n n
i t i i t i i t i t i t i t
i i i it
g a l ( x a a x a a,,,x a a )
x
2 1 2 1 2 2 2 2
1 1 1 12
20
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1 1 1 1 2 1 2 1
1 1 1 11
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
令：
二、正规方程
1 1 2 2
1 1 1 1
0
n n n n
i t i i t i i t i t i t i t
i i i i
a l ( x a a x a a,,,x a a )
2 1 2 1 2 2 2 2
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
1 1 1 1 2 1 2 1
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
即：
二、正规方程
1 1 2 2
1 1 1 1
n n n n
it i it i it it t it i
i i i i
a a x a a x,.,a a x a l
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
即：
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1
2
n
l
l
.L
.
.
l
二、正规方程
1 1 1 1 2 1 2 1
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
11 1 21 2 1
11 11 1 21 21 1 1 1 1
11 12 2 21 22 2 1 2 2
11 1 21 2 1
11 1 11 1 12 2 1
21 2 21 1 22 2 2
1 2 1 1
nn
nn
nn
t t t t n nt t
tt
tt
nn
( a l a l a l )
( a a x a a x a a x )
( a a x a a x a a x )
( a a x a a x a a x )
a l ( a x a x,.,a x )
a l ( a x a x,.,a x )
a l ( a x
22
11 1 21 2 1
0
n nt t
nn
a x,.,a x )
a v a v a v
二、正规方程
2 1 2 1 2 2 2 2
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
12 1 22 2 2
12 11 1 22 21 1 2 1 1
12 12 2 22 22 2 2 2 2
12 1 22 2 2
12 1 11 1 12 2 1
22 2 21 1 22 2 2
2 2 1 1
nn
nn
nn
t t t t n nt t
tt
tt
nn
( a l a l a l )
( a a x a a x a a x )
( a a x a a x a a x )
( a a x a a x a a x )
a l ( a x a x,.,a x )
a l ( a x a x,.,a x )
a l ( a x
22
12 1 22 2 2
0
n nt t
nn
a x,.,a x )
a v a v a v
二、正规方程
12 1 22 2 2 0nna v a v a v
11 1 21 2 1 0nna v a v a v
1 1 2 2 0t t n t na v a v a v
1 1 2 1 1 1
1 2 2 2 2 2
1 2 1
0
n
n
t t n t n
a a,,,a v
a a,,,a v
a a,,,a v
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1 1 2 1 1
1 2 2 2 2
12
n
nT
t t n t
a a,.,a
a a,.,a
A
a a,.,a
0TAV?
二、正规方程
0TAV?
V L A X
0TT?A L A A X
TC A A?
TT?A A X A L?
T?C X A L?
1 T?X C A L
令：
二、正规方程最小二乘法原理与算术平均值的关系
11v l x
22v l x
nnv l x
1
1
1
A
1
2
n
l
l
.L
.
.
l
Xx?
正规方程：
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
121 1 1 n(,.,) x ( l l,.,l )
12 nl l,.,lx
n
正规方程的矩阵形式：
1 12T nl l,,,l?X C A L
n
例 5-1已知任意温度 t 时的铜棒长度 yt,0℃ 时的铜棒长度 y0
和铜的线膨胀系数 α具有线性关系二、正规方程现测得不同温
t0y y ( 1 t )
度 ti 下，铜棒长度 l如下表，试估计 y0和 α 的最可信赖值。
1 2 3 4 5 6
10 20 25 30 40 45
2000.36 2000.72 2000.80 2000.07 2001.48 2001.60
i
/itC?
/il mm
解题步骤：
分析、写出函数关系式
列出误差方程：残余误差 =测量值 -估计值
写出系数矩阵和测量值矩阵
求出正规方程，求解方程二、正规方程
分析、写出函数关系式
t 0 0 0y y ( 1 t ) y y t
令,1 0 2 0zzzzzxy z xz y
t 1 2y x tx则：
列出误差方程
i i i i 1 2v l y l ( x tx )
1 1 22 0 0 0 3 6 1 0v,( x x )
2 1 22 0 0 0 7 2 2 0v,( x x )
4 1 22 0 0 1 0 7 3 0v,( x x )
5 1 22 0 0 1 4 8 4 0v,( x x )
3 1 22 0 0 0 8 0 2 5v,( x x )
6 1 22 0 0 1 6 0 4 5v,( x x )
二、正规方程
写出系数矩阵和测量值矩阵
1 10
1 20
1 25
1 30
1 40
1 45
A
2 0 0 0 3 6
2 0 0 0 7 2
2 0 0 0 8 0
2 0 0 1 0 7
2 0 0 1 4 8
2 0 0 1 6 0
.
.
.
L
.
.
.
1 1 1 1 1 1
1 0 2 0 2 5 3 0 4 0 4 5TA
求出正规方程
12
12
6 1 7 0 1 2 0 0 6 0 3
1 7 0 5 6 5 0 3 4 0 2 0 1 3
x x,
x x,
解得：
1
2
1 9 9 9 9 7
0 0 3 6 5 4
x,m m
x,m m / C
01
2
0
1 9 9 9 9 7
0 0 3 6 5 4 0 0 0 0 1 8 3
1 9 9 9 9 7
y x,m m
x,m m / C,/ C
y,m m
1
2
x?X
x
二、正规方程1 10
1 20
1 25
1 30
1 40
1 45
A
2 0 0 0 3 6
2 0 0 0 7 2
2 0 0 0 8 0
2 0 0 1 0 7
2 0 0 1 4 8
2 0 0 1 6 0
.
.
.
L
.
.
.
16 1 7 0 1 1 3 0 0 3 4
1 7 0 5 6 5 0 0 0 3 4 0 0 0 1 2
T AAA,.C A A C
.A,
求出正规方程（矩阵形式）
解得：
01
2
0
1 9 9 9 9 7
0 0 3 6 5 4 0 0 0 0 1 8 3
1 9 9 9 9 7
y x,m m
x,m m / C,/ C
y,m m
TT?A A X A L?
1
2
x?X
x
11
2
1 1 3 0 0 3 4 1 2 0 0 6 0 3 1 9 9 9 9 7
0 0 3 4 0 0 0 1 2 3 4 0 2 0 1 3 0 0 3 6 5 4
T x,,,,?X C A L
x,,,,
1 1 1 1 1 1
1 0 2 0 2 5 3 0 4 0 4 5TA
三、精度估计对测量数据最小二乘法处理的最终结果,不仅要给出待求量的 最 可信赖的估计量,而且还要确定其可 信 赖程 度,即应给出所得估计量的精度 。
为了确定最小二乘估计量的 精度,首先需要给出直接 测 量所得测量数据的精度 。 测量数据的精度也以标准差来表示 。 因为无法求得 标准 的真值,因而只能依据有限次的测量结果给出 标准差 的估计值 。 所谓给出精度估计,实际上是求出 标准差的 估计 值 。
三、精度估计
等精度测量数据的精度
12,,...,tX X X
待测量
12,,..,,tx x x
待测量的估计值
12,,..,,nY Y Y
与待测量有函数关系的直接测量量
12,,..,,ny y y
直接测量量的估计值
12,,...,nl l l
直接测量量的测量值
t 待测量的数目
n 直接测量量的数目
2
1
n
i
i
v
nt
等精度测量数据的标准差的估计值三、精度估计
等精度测量数据的精度
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
公式中的残余误差由根据残余误差方程式求得例 5-2 求例 5-1中铜棒长度的测量精度。
2
1
n
i
i
v
nt
三、精度估计
等精度测量数据的精度
i i i i 1 2v l y l ( x tx )
1 2 0 0 0 3 6 1 9 9 9 9 7 1 0 0 0 3 6 5 4 0 0 3v,(,,) m m,m m
2 2 0 0 0 7 2 1 9 9 9 9 7 2 0 0 0 3 6 5 4 0 0 2v,(,,) m m,m m
3 2 0 0 0 8 0 1 9 9 9 9 7 2 5 0 0 3 6 5 4 0 0 8v,(,,) m m,m m
4 2 0 0 1 0 7 1 9 9 9 9 7 3 0 0 0 3 6 5 4 0v,(,,) m m m m
6 2 0 0 1 6 0 1 9 9 9 9 7 4 5 0 0 3 6 5 4 0 0 2v,(,,) m m,m m
5 2 0 0 1 4 8 1 9 9 9 9 7 4 0 0 0 3 6 5 4 0 0 5v,(,,) m m,m m
6
22
1
0,0 1 0 6i
i
v m m
2
1 0,0 1 0 6 0,0 5 1
62
n
i
i
v
mm
nt
三、精度估计
最小二乘估计量的精度估计
12,,..,,tx x x
待测量的估计值
12,,...,nl l l
直接测量量的测量值
1 1 2 2
1 1 1 1
n n n n
it i it i it it t it i
i i i i
a a x a a x,.,a a x a l
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
三、精度估计
最小二乘估计量的精度估计
12,,..,,tx x x 待测量的估计值的精度。
12,,...,nl l l
直接测量量的测量精度问题：已知求解决问题的思路：
想办法用
12,,...,nl l l
分别表示
12,,..,,tx x x
然后找出待测量估计值的精度与直接测量量的测量精度的关系解决问题的办法：
不定乘数法。
三、精度估计
最小二乘估计量的精度估计
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
t it i t it i t it it t t it i
i i i i
d a a x d a a x,.,d a a x d a l
1 2 2 1 1 1 2 2 2 2 1 2 2 1 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
11 1 1 1 11 1 2 2 11 1 11 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
11 12 1,,..,,td d d
设有不定乘数为求出用
12,,...,nl l l
表示 的关系式，用不定乘数
1x
11 12 1,,..,,td d d
分别乘以正规方程的各式，可以得到：
三、精度估计
最小二乘估计量的精度估计把上面的方程组的各式左右两部分相加，得：
11 1 1 12 2 1 1 1 1
1 1 1
11 1 2 12 2 2 1 2 2
1 1 1
11 1 12 2 1
1 1 1
11 1 12 2 1
11
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it t
i i i
nn
i i i i t
ii
( d a a d a a,.,d a a ) x
( d a a d a a,.,d a a ) x,..
( d a a d a a,.,d a a ) x
d a l d a l,.,d a
1
n
it i
i
l
三、精度估计
最小二乘估计量的精度估计令：
1 1 1 1 1 2 2 1 1 1
1 1 1
1 1 1 2 1 2 2 2 1 2
1 1 1
1 1 1 1 2 2 1
1 1 1
1
0
0
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it
i i i
d a a d a a,.,d a a
d a a d a a,.,d a a
d a a d a a,.,d a a
三、精度估计
最小二乘估计量的精度估计则：
1 11 1 12 2 1
1 1 1
11 11 1 21 2 1
12 12 1 22 2 2
1 1 1 2 2
11 11 12 12 1 1 1
11 21 12 22 1 2 2
11
n n n
i i i i t it i
i i i
nn
nn
t t t n t n
tt
tt
x d a l d a l,.,d a l
d ( a l a l,.,a l )
d ( a l a l,.,a l ),..
d ( a l a l,.,a l )
( d a d a,.,d a ) l
( d a d a,.,d a ) l,..
(d
1 12 2 1n n t n t n
a d a,.,d a ) l
三、精度估计
最小二乘估计量的精度估计令,11 11 12 12 1 1 11
11 21 12 22 1 2 12
11 1 12 2 1 1
tt
tt
n n t nt n
d a d a,.,d a h
d a d a,.,d a h
d a d a,.,d a h
1 1 1 1 1 2 2 1 nnx h l h l,.,h l
则：
2 2 2 2 2 2 2
1 1 1 1 1 2 2 1
2 2 2 2
1 1 1 2 1
2
11
x n n
n
h h,,,h
( h h,,,h )
d
三、精度估计
最小二乘估计量的精度估计
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
t it i t it i t it it t t it i
i i i i
d a a x d a a x,.,d a a x d a l
2 2 2 1 1 2 2 2 2 2 2 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
2 1 1 1 1 2 1 1 2 2 2 1 1 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
21 22 2,,...,td d d
设有不定乘数为求出用
12,,...,nl l l
表示 的关系式，用不定乘数
2x
21 22 2,,...,td d d
分别乘以正规方程的各式，可以得到：
三、精度估计
最小二乘估计量的精度估计把上面的方程组的各式左右两部分相加，得：
21 1 1 22 2 1 2 1 1
1 1 1
21 1 2 22 2 2 2 2 2
1 1 1
21 1 22 2 2
1 1 1
21 1 22 2 2
11
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it t
i i i
nn
i i i i t
ii
( d a a d a a,.,d a a ) x
( d a a d a a,.,d a a ) x,..
( d a a d a a,.,d a a ) x
d a l d a l,.,d a
1
n
it i
i
l
三、精度估计
最小二乘估计量的精度估计令：
2 1 1 1 2 2 2 1 2 1
1 1 1
2 1 1 2 2 2 2 2 2 2
1 1 1
2 1 1 2 2 2 2
1 1 1
0
1
0
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it
i i i
d a a d a a,.,d a a
d a a d a a,.,d a a
d a a d a a,.,d a a
三、精度估计
最小二乘估计量的精度估计则：
n n n
i i i i t it i
i i i
nn
nn
t t t nt n
tt
tt
x d a l d a l,.,d a l
d ( a l a l,.,a l )
d ( a l a l,.,a l ),..
d ( a l a l,.,a l )
( d a d a,.,d a ) l
( d a d a,.,d a ) l,..
(d
2 21 1 22 2 2
1 1 1
21 11 1 21 2 1
22 12 1 22 2 2
2 1 1 2 2
21 11 22 12 2 1 1
21 21 22 22 2 2 2
21 n n t nt n
a d a,.,d a ) l
1 22 2 2
三、精度估计
最小二乘估计量的精度估计令,tt
tt
n n t nt n
d a d a,.,d a h
d a d a,.,d a h
d a d a,.,d a h
21 11 22 12 2 1 21
21 21 22 22 2 2 22
21 1 22 2 2 2
nnx h l h l,.,h l2 2 1 1 2 2 2 2
则：
2 2 2 2 2 2 2
2 2 1 1 2 2 2 2
22
2
2
22
2 1 2
2
22
x n n
n
h h,,,h
( h h,,h
d
.)
三、精度估计
最小二乘估计量的精度估计以此类推,可以得到：
则：
22
1 11
22
2 22
22
x
x
xt tt
d
d
d
2 2 234x x x t,,...,
1 1 1
2 2 2
x
x
x t tt
d
d
d
三、精度估计
最小二乘估计量的精度估计已知正规方程为：
12
12
6 1 7 0 1 2 0 0 6 0 3
1 7 0 5 6 5 0 3 4 0 2 0 1 3
x x,
x x,
例 5-3 求例 5-1中铜棒长度上和线膨胀系数估计量的精度。
测量数据的标准差为,0,0 5 1 mm
1 1 1 2
11
1 1 1 2
6 1 7 0 1 1 1 3
1 7 0 5 6 5 0 0
dd d.
dd
2 1 2 2
22
2 1 2 2
6 1 7 0 0 0 0 0 1 2
1 7 0 5 6 5 0 1
dd d.
dd
三、精度估计
最小二乘估计量的精度估计
1 1 1
2 2 2
0 0 5 1 1 1 3 0 0 5 4
0 0 5 1 0 0 0 1 2 0 0 0 1 8
x
x
d,,m m,m m
d,,m m / C,m m / C
1 0 2 0zzzzzxy z xz y
01 0 054Yx,m m
72
0
0 0 0 1 8 9 1 0
1 9 9 9 9 7
x,m m / C C
y,m m?
三、精度估计最小二乘法处理的步骤：
分析、写出函数关系式
列出误差方程：残余误差 =测量值 -估计值
写出系数矩阵和测量值矩阵
求出正规方程，求解方程，得到待测量的估计值
根据待测量的估计值，计算测量数据的估计标准差
用不定乘数法进行待测量估计值的精度估计四、组合测量的最小二乘法处理在精密测试工作中,组合测量占有十分重要的地位 。
例如,作为标准量的多面棱体,度盘,砝码,电容器以及其它标淮器的检定等,为了减小随机误差的影响,提高测量精度,可采用组合测量的方法 。
组合测量是通过直接测量待测参数的各种组合量 (一般是等精度测量 ),然后对这些测量数据进行处理,从而求得待测参数的估计量,并给出其精度估计 。
通常组合测量数据是用最小二乘法进行处理,它是最小二乘法在精密测试中的一种重要的应用 。
为简单起见,现以检定刻线间距为例,说明组合测量的数据处理方法 。
四、组合测量的最小二乘法处理
A B C D
x1 x2 x3
A B C D
l1 l2 l3
l4
l6
l5
要求检定刻线 A,B,C,D 间的距离 x1 x2 x3
直接测量刻线间的各种组合量，得到如下测量数据：
1 2 3
4 5 6
1 0 1 5 0 9 8 5 1 0 2 0
2 0 1 6 1 9 8 1 3 0 3 2
l,m m l,m m l,m m
l,m m l,m m
v v v v
l,m mv v v v
四、组合测量的最小二乘法处理
分析、写出函数关系式（无）
列出误差方程：残余误差 =测量值 -估计值
1 1 1
2 2 2
3 3 2
4 4 1 2
5 5 2 3
6 6 1 1 3
v l x
v l x
v l x
v l ( x x )
v l ( x x )
v l ( x x x )
A B C D
l1 l2 l3
l4
l6
l5
四、组合测量的最小二乘法处理
写出系数矩阵和测量值矩阵
1 0 0
0 1 0
0 0 1
1 1 0
0 1 1
111
A
1 1 1
2 2 2
3 3 2
4 4 1 2
5 5 2 3
6 6 1 1 3
v l x
v l x
v l x
v l ( x x )
v l ( x x )
v l ( x x x )
1 105
0 985
1 020
2 016
1 981
3 032
.
.
.
L
.
.
.
1 2 3
1 2 3
1 2 3
3 2 6 063
2 4 2 8 014
2 3 6 033
x x x,
x x x,
x x x,
求出正规方程，求解方程，得到待测量的估计值
1
2
3
x
Xx
x
或 TT?( A A ) X A L?
四、组合测量的最小二乘法处理
根据待测量的估计值，计算测量数据的估计标准差解得：
1
2
3
1 02 8
0 98 3
1 01 3
x,m m
x,m m
x,m m
1
2
3
4
5
6
0 0 1 3
0 0 0 2
0 0 0 7
0 0 0 5
0 0 1 5
0 0 0 8
v,m m
v,m m
v,m m
v,m m
v,m m
v,m m
2
1 0,0 0 0 5 3 6 0,0 1 3
63
n
i
i
v
mm
nt
四、组合测量的最小二乘法处理
用不定乘数法进行待测量估计值的精度估计
11 12 13
11 12 13 11
11 12 13
3 2 1
2 4 2 0 0 5
2 3 0
d d d
d d d d,
d d d
21 22 23
21 22 23 22
21 22 23
3 2 0
2 4 2 1 0 5
2 3 0
d d d
d d d d,
d d d
31 32 33
31 32 33 33
31 32 33
3 2 0
2 4 2 0 0 5
2 3 1
d d d
d d d d,
d d d
四、组合测量的最小二乘法处理
用不定乘数法进行待测量估计值的精度估计
1 1 1
2 2 2
3 3 3
0 0 1 3 0 5 0 0 0 9
0 0 1 3 0 5 0 0 0 9
0 0 1 3 0 5 0 0 0 9
x
x
x
d,,m m,m m
d,,m m,m m
d,,m m,m m
最小二乘法原理
正规方程
精度估计
组合测量的最小二乘法处理一、最小二乘法原理
12,,...,tX X X
待测量
12,,..,,tx x x
待测量的估计值
12,,..,,nY Y Y
与待测量有函数关系的直接测量量
12,,..,,ny y y
直接测量量的估计值
12,,...,nl l l
直接测量量的测量值
t 待测量的数目
n 直接测量量的数目一、最小二乘法原理
2 2 1 2 tY f ( X,X,..,,X )?
1 1 1 2 tY f ( X,X,..,,X )?
12n n tY f ( X,X,..,,X )?
2 2 1 2 ty f ( x,x,..,,x )?
1 1 1 2 ty f ( x,x,..,,x )?
12n n ty f ( x,x,..,,x )?
一、最小二乘法原理
1 1 1v l y
1 1 1 1 2 tv l f ( x,x,..,,x )
2 2 2vly
n n nv l y
2 2 2 1 2 tv l f ( x,x,...,x )
12n n n tv l f ( x,x,...,x )
一、最小二乘法原理如果测量数据的测量误差是无偏的 （即排除了系统误差）,相互独立的，且服从正态分布 。
设标准差分别为,
区域
12 n,,..,,
12 nl,l,...,l
出现在相应真值附近
12 nd,d,...,d
内得概率分别为
22
11 2
1
1
1
2
/ ( )p e d
22 2
2
2
1
2
/ ( )p e d
22 2
2
2
1
2
/ ( )p e d
则测量数据一、最小二乘法原理根据概率乘法原理，各测量数据同时出现在相应区域
12 nd,d,...,d
内的概率应为
2 2 2 2 2 2
1 1 2 2
12
2
12
1
2
nn
n
( / /,,,/ ) /
n
n
p p p,.,p
ed
...
待求量最可信赖值的确定，应使得
12 nl,l,...,l
同时出现在真值附近区域的概率 P最大。要使 P最大应满足
222
12
2 2 2
12
n
n
.., 最 小一、最小二乘法原理上述条件中用残余误差代替误差可以得到：
222
12
2 2 2
12
n
n
vvv,..
最 小引入权的符号 p 可得：
2 2 21 1 2 2 nnp v p v,.,p v 最 小在等精度测量中：
12 n...
2 2 212 nv v,.,v 最 小
12 np p,.,p
则一、最小二乘法原理上式表明，测量结果的最可信赖值应在残余误差平方和 (在不等精度测量的情形中应为加权残余误差平方和 )为最小的条件下求出，这就是最小二乘法原理。
实质上，按最小二乘条件给出最终结果能充分地利用误差的抵偿作用，可以有效地减小随机误差的影响，因而所得结果具有最可信赖性。
必须指出，上述最小二乘原理是在测量误差无偏、正态分布和相互独立的条件下推导出的，但在不严格服从正态分布的情形下也常被使用。
一、最小二乘法原理一般情况下，最小二乘法可以用于线性参数的处理，也可用于非线性参数的处理。由于测量的实际问题中大量的是属于线性的，而非线性参数借助于级数展开的方法可以在某一区域近似地化成线性的形式。因此，线性参数的最小二乘法处理是最小二乘法理论所研究的基本内容。
一、最小二乘法原理
1 1 1 1 1 2 2 1 ttY a X a X,.,a X
相应的估计量为：
线性参数的测量方程一般为：
2 2 1 1 2 2 2 2 ttY a X a X,,,a X
1 1 2 2n n n nt tY a X a X,.,a X
1 1 1 1 1 2 2 1 tty a x a x,.,a x
1 1 2 2n n n nt ty a x a x,.,a x
2 2 1 1 2 2 2 2 tty a x a x,,,a x
一、最小二乘法原理残余误差方程式为：
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
12 nl,l,...,l
直接测量结果
12 nx,x,...,x
待求的被测量的估计值
12 nv,v,..,,v
直接测量结果的残余误差
11 12 nta,a,..,,a
残余误差方程的 n× t 个系数一、最小二乘法原理
1
2
n
l
l
.L
.
.
l
1
2
n
v
v
.V
.
.
v
1
2
t
x
x
,X
.
.
x
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
设有列向量和 n× t 阶矩阵
n>t
一、最小二乘法原理
1 1 11 1 1 2 1
2 2 2 1 2 2 2 2
12
t
t
n n n tn n t
v l xa a,.,a
v l a a,.,a x
.,,
.,,
.,,
a a,.,av l x
则线性参数的残余误差方程为则等精度测量时线性参数的残余误差方程为
1
2
12 n
n
v
v
.v v,.,v
.
.
v
最 小一、最小二乘法原理
TVV? 最 小
T( L A X ) ( L A X ) 最 小线性参数的不等精度测量还可以转化为等精度的形式,从而可以利用等精度测量时测量数据的最小二乘法处理的全部结果 。
二、正规方程为了获得更可靠的结果,测量次数总要多于未知参数的数目,即所得误差方程式的数目总是要多于未知数的数目 。 因而直接用一般解代数方程的方法是无法求解这些未知参数的 。 最小二乘法则可以将误差方程转化为有确定解的代数方程组 (其方程式数目正好等于未知数的个数 ),从而可求解出这些未知参数 。 这个有确定解的代数方程组称为最小二乘法估计的正规方程 (或称为法方程 )。
二、正规方程线性参数的最小二乘法处理程序可归结为：
首先根据具体问题列出误差方程式；
再按最小二乘法原理,利用求极值的方法将误差方程转化为正规方程；
然后求解正规方程,得到待求的估计量；
最后给出精度估计 。
对于非线性参数,可先将其线性化,然后按上述线性参数的最小二乘法处理程序去处理 。
二、正规方程线性残余误差方程式为：
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
2 2 2
12
n
in
i = 1
v = v v,.,v 最 小在等精度测量中，要求得待求量的估计值的最可信赖值必须满足的的条件为：
二、正规方程令,2 2 2
1 2 1 2
n
i n t
i = 1
v = v v,.,v g ( x,x,...,x )
1 1 1 1 2 1 2
1 1 1
11 1 11 1 12 2 1
12
12
1 1 1 1
21
11
2 21 1 2 2
12
2
2
2
2 2 2
2
2
2
2
n n n
i i i i i i
i
n
tt
n n n n nt t
t
ii
n
t
vvvg
v v,.,v
x x x x
al
a l ( a x a
a l ( x a a x
( a x a x,.,a x )
x,.,a x )
a l ( a x a x,.,
.
ax
aa
.
.
.
)
.
.
1
1
n
t i it
i
x a a )
二、正规方程
1 1 1 1 1 1 2 1 2 1 1 1
1
n
i i n n
i
a a a a a a a a
1 2 11 12 21 22 1 2
1
n
i i n n
i
a a a a a a a a
1 1 1 1 2 1 2 1
1
n
i in t t n nt
i
a a a a a a a a
1 1 1 1 2 1 2 1
1
n
i i n n
i
a l a l a l a l
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1 1 1 1 2 1 2 1
1 1 1 11
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1
2
n
l
l
.L
.
.
l
二、正规方程令,2 2 2
1 2 1 2
n
i n t
i = 1
v = v v,.,v g ( x,x,...,x )
2
22 2 21 1
1 2 1 2 2 2
1 1 1
12
12
2 2 2 2
2 1 1 2
22 2
12 1 11 1 12
2
1
2
2
2
2 2 2
2
2
2
nn
tt
n
i i i i i i
tt
n
n
n n n n n t
i
t
ii
a l ( a x a x,.,
a l ( a x a x,.
a l ( x a a x a a
.
vvvg
v v,.,v
x x x x
a l ( a x a x,.,a x )
,a x )
x)
.
a,.
.
.
2
1
n
t i it
i
x a a )
二、正规方程
2 1 12 11 22 21 2 1
1
n
i i n n
i
a a a a a a a a
2 2 12 12 22 22 2 2
1
n
i i n n
i
a a a a a a a a
2 1 2 1 2 2 2 2
1
n
i in t t n nt
i
a a a a a a a a
2 12 1 22 2 2
1
n
i i n n
i
a l a l a l a l
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
2 1 2 1 2 2 2 2
1 1 12 1
2
n n n n
i i i i i i t i i t
i i i i
g al
x ( x a a x a a,,,x a a )
1
2
n
l
l
.L
.
.
l
二、正规方程
1 1 2 2
1 1 1 1
2
n n n n
i t i i t i i t i t i t i t
i i i it
g a l ( x a a x a a,,,x a a )
x
2 1 2 1 2 2 2 2
1 1 1 12
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1 1 1 1 2 1 2 1
1 1 1 11
2
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
二、正规方程
2
1 1 2 22
1 1 1 1
2 2 2
12
1
2
20
n n n n
it i it i it i t it it
i i i it
n
it it t t nt
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
2
2 1 2 1 2 2 2 22
1 1 1 12
2 2 2
2 2 12 22 2
1
2
20
n n n n
i i i i i i t i it
i i i i
n
i i n
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
2
1 1 1 1 2 1 2 12
1 1 1 11
2 2 2
1 1 11 21 1
1
2
20
n n n n
i i i i i i t i it
i i i i
n
i i n
i
g
a l ( x a a x a a,.,x a a )
x
a a a a a
二、正规方程
1 1 2 2
1 1 1 1
20
n n n n
i t i i t i i t i t i t i t
i i i it
g a l ( x a a x a a,,,x a a )
x
2 1 2 1 2 2 2 2
1 1 1 12
20
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
1 1 1 1 2 1 2 1
1 1 1 11
n n n n
i i i i i i t i i t
i i i i
g a l ( x a a x a a,,,x a a )
x
令：
二、正规方程
1 1 2 2
1 1 1 1
0
n n n n
i t i i t i i t i t i t i t
i i i i
a l ( x a a x a a,,,x a a )
2 1 2 1 2 2 2 2
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
1 1 1 1 2 1 2 1
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
即：
二、正规方程
1 1 2 2
1 1 1 1
n n n n
it i it i it it t it i
i i i i
a a x a a x,.,a a x a l
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
即：
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1
2
n
l
l
.L
.
.
l
二、正规方程
1 1 1 1 2 1 2 1
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
11 1 21 2 1
11 11 1 21 21 1 1 1 1
11 12 2 21 22 2 1 2 2
11 1 21 2 1
11 1 11 1 12 2 1
21 2 21 1 22 2 2
1 2 1 1
nn
nn
nn
t t t t n nt t
tt
tt
nn
( a l a l a l )
( a a x a a x a a x )
( a a x a a x a a x )
( a a x a a x a a x )
a l ( a x a x,.,a x )
a l ( a x a x,.,a x )
a l ( a x
22
11 1 21 2 1
0
n nt t
nn
a x,.,a x )
a v a v a v
二、正规方程
2 1 2 1 2 2 2 2
1 1 1 1
0
n n n n
i i i i i i t i i t
i i i i
a l ( x a a x a a,,,x a a )
12 1 22 2 2
12 11 1 22 21 1 2 1 1
12 12 2 22 22 2 2 2 2
12 1 22 2 2
12 1 11 1 12 2 1
22 2 21 1 22 2 2
2 2 1 1
nn
nn
nn
t t t t n nt t
tt
tt
nn
( a l a l a l )
( a a x a a x a a x )
( a a x a a x a a x )
( a a x a a x a a x )
a l ( a x a x,.,a x )
a l ( a x a x,.,a x )
a l ( a x
22
12 1 22 2 2
0
n nt t
nn
a x,.,a x )
a v a v a v
二、正规方程
12 1 22 2 2 0nna v a v a v
11 1 21 2 1 0nna v a v a v
1 1 2 2 0t t n t na v a v a v
1 1 2 1 1 1
1 2 2 2 2 2
1 2 1
0
n
n
t t n t n
a a,,,a v
a a,,,a v
a a,,,a v
1 1 1 2 1
2 1 2 2 2
12
t
t
n n n t
a a,.,a
a a,.,a
A
a a,.,a
1 1 2 1 1
1 2 2 2 2
12
n
nT
t t n t
a a,.,a
a a,.,a
A
a a,.,a
0TAV?
二、正规方程
0TAV?
V L A X
0TT?A L A A X
TC A A?
TT?A A X A L?
T?C X A L?
1 T?X C A L
令：
二、正规方程最小二乘法原理与算术平均值的关系
11v l x
22v l x
nnv l x
1
1
1
A
1
2
n
l
l
.L
.
.
l
Xx?
正规方程：
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
121 1 1 n(,.,) x ( l l,.,l )
12 nl l,.,lx
n
正规方程的矩阵形式：
1 12T nl l,,,l?X C A L
n
例 5-1已知任意温度 t 时的铜棒长度 yt,0℃ 时的铜棒长度 y0
和铜的线膨胀系数 α具有线性关系二、正规方程现测得不同温
t0y y ( 1 t )
度 ti 下，铜棒长度 l如下表，试估计 y0和 α 的最可信赖值。
1 2 3 4 5 6
10 20 25 30 40 45
2000.36 2000.72 2000.80 2000.07 2001.48 2001.60
i
/itC?
/il mm
解题步骤：
分析、写出函数关系式
列出误差方程：残余误差 =测量值 -估计值
写出系数矩阵和测量值矩阵
求出正规方程，求解方程二、正规方程
分析、写出函数关系式
t 0 0 0y y ( 1 t ) y y t
令,1 0 2 0zzzzzxy z xz y
t 1 2y x tx则：
列出误差方程
i i i i 1 2v l y l ( x tx )
1 1 22 0 0 0 3 6 1 0v,( x x )
2 1 22 0 0 0 7 2 2 0v,( x x )
4 1 22 0 0 1 0 7 3 0v,( x x )
5 1 22 0 0 1 4 8 4 0v,( x x )
3 1 22 0 0 0 8 0 2 5v,( x x )
6 1 22 0 0 1 6 0 4 5v,( x x )
二、正规方程
写出系数矩阵和测量值矩阵
1 10
1 20
1 25
1 30
1 40
1 45
A
2 0 0 0 3 6
2 0 0 0 7 2
2 0 0 0 8 0
2 0 0 1 0 7
2 0 0 1 4 8
2 0 0 1 6 0
.
.
.
L
.
.
.
1 1 1 1 1 1
1 0 2 0 2 5 3 0 4 0 4 5TA
求出正规方程
12
12
6 1 7 0 1 2 0 0 6 0 3
1 7 0 5 6 5 0 3 4 0 2 0 1 3
x x,
x x,
解得：
1
2
1 9 9 9 9 7
0 0 3 6 5 4
x,m m
x,m m / C
01
2
0
1 9 9 9 9 7
0 0 3 6 5 4 0 0 0 0 1 8 3
1 9 9 9 9 7
y x,m m
x,m m / C,/ C
y,m m
1
2
x?X
x
二、正规方程1 10
1 20
1 25
1 30
1 40
1 45
A
2 0 0 0 3 6
2 0 0 0 7 2
2 0 0 0 8 0
2 0 0 1 0 7
2 0 0 1 4 8
2 0 0 1 6 0
.
.
.
L
.
.
.
16 1 7 0 1 1 3 0 0 3 4
1 7 0 5 6 5 0 0 0 3 4 0 0 0 1 2
T AAA,.C A A C
.A,
求出正规方程（矩阵形式）
解得：
01
2
0
1 9 9 9 9 7
0 0 3 6 5 4 0 0 0 0 1 8 3
1 9 9 9 9 7
y x,m m
x,m m / C,/ C
y,m m
TT?A A X A L?
1
2
x?X
x
11
2
1 1 3 0 0 3 4 1 2 0 0 6 0 3 1 9 9 9 9 7
0 0 3 4 0 0 0 1 2 3 4 0 2 0 1 3 0 0 3 6 5 4
T x,,,,?X C A L
x,,,,
1 1 1 1 1 1
1 0 2 0 2 5 3 0 4 0 4 5TA
三、精度估计对测量数据最小二乘法处理的最终结果,不仅要给出待求量的 最 可信赖的估计量,而且还要确定其可 信 赖程 度,即应给出所得估计量的精度 。
为了确定最小二乘估计量的 精度,首先需要给出直接 测 量所得测量数据的精度 。 测量数据的精度也以标准差来表示 。 因为无法求得 标准 的真值,因而只能依据有限次的测量结果给出 标准差 的估计值 。 所谓给出精度估计,实际上是求出 标准差的 估计 值 。
三、精度估计
等精度测量数据的精度
12,,...,tX X X
待测量
12,,..,,tx x x
待测量的估计值
12,,..,,nY Y Y
与待测量有函数关系的直接测量量
12,,..,,ny y y
直接测量量的估计值
12,,...,nl l l
直接测量量的测量值
t 待测量的数目
n 直接测量量的数目
2
1
n
i
i
v
nt
等精度测量数据的标准差的估计值三、精度估计
等精度测量数据的精度
1 1 1 1 1 1 2 2 1 ttv l ( a x a x,.,a x )
2 2 2 1 1 2 2 2 2 ttv l ( a x a x,,,a x )
1 1 2 2n n n n nt tv l ( a x a x,.,a x )
公式中的残余误差由根据残余误差方程式求得例 5-2 求例 5-1中铜棒长度的测量精度。
2
1
n
i
i
v
nt
三、精度估计
等精度测量数据的精度
i i i i 1 2v l y l ( x tx )
1 2 0 0 0 3 6 1 9 9 9 9 7 1 0 0 0 3 6 5 4 0 0 3v,(,,) m m,m m
2 2 0 0 0 7 2 1 9 9 9 9 7 2 0 0 0 3 6 5 4 0 0 2v,(,,) m m,m m
3 2 0 0 0 8 0 1 9 9 9 9 7 2 5 0 0 3 6 5 4 0 0 8v,(,,) m m,m m
4 2 0 0 1 0 7 1 9 9 9 9 7 3 0 0 0 3 6 5 4 0v,(,,) m m m m
6 2 0 0 1 6 0 1 9 9 9 9 7 4 5 0 0 3 6 5 4 0 0 2v,(,,) m m,m m
5 2 0 0 1 4 8 1 9 9 9 9 7 4 0 0 0 3 6 5 4 0 0 5v,(,,) m m,m m
6
22
1
0,0 1 0 6i
i
v m m
2
1 0,0 1 0 6 0,0 5 1
62
n
i
i
v
mm
nt
三、精度估计
最小二乘估计量的精度估计
12,,..,,tx x x
待测量的估计值
12,,...,nl l l
直接测量量的测量值
1 1 2 2
1 1 1 1
n n n n
it i it i it it t it i
i i i i
a a x a a x,.,a a x a l
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
a a x a a x,.,a a x a l
三、精度估计
最小二乘估计量的精度估计
12,,..,,tx x x 待测量的估计值的精度。
12,,...,nl l l
直接测量量的测量精度问题：已知求解决问题的思路：
想办法用
12,,...,nl l l
分别表示
12,,..,,tx x x
然后找出待测量估计值的精度与直接测量量的测量精度的关系解决问题的办法：
不定乘数法。
三、精度估计
最小二乘估计量的精度估计
1 1 1 1 2 2 1 1
1 1 1 1
n n n n
t it i t it i t it it t t it i
i i i i
d a a x d a a x,.,d a a x d a l
1 2 2 1 1 1 2 2 2 2 1 2 2 1 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
11 1 1 1 11 1 2 2 11 1 11 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
11 12 1,,..,,td d d
设有不定乘数为求出用
12,,...,nl l l
表示 的关系式，用不定乘数
1x
11 12 1,,..,,td d d
分别乘以正规方程的各式，可以得到：
三、精度估计
最小二乘估计量的精度估计把上面的方程组的各式左右两部分相加，得：
11 1 1 12 2 1 1 1 1
1 1 1
11 1 2 12 2 2 1 2 2
1 1 1
11 1 12 2 1
1 1 1
11 1 12 2 1
11
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it t
i i i
nn
i i i i t
ii
( d a a d a a,.,d a a ) x
( d a a d a a,.,d a a ) x,..
( d a a d a a,.,d a a ) x
d a l d a l,.,d a
1
n
it i
i
l
三、精度估计
最小二乘估计量的精度估计令：
1 1 1 1 1 2 2 1 1 1
1 1 1
1 1 1 2 1 2 2 2 1 2
1 1 1
1 1 1 1 2 2 1
1 1 1
1
0
0
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it
i i i
d a a d a a,.,d a a
d a a d a a,.,d a a
d a a d a a,.,d a a
三、精度估计
最小二乘估计量的精度估计则：
1 11 1 12 2 1
1 1 1
11 11 1 21 2 1
12 12 1 22 2 2
1 1 1 2 2
11 11 12 12 1 1 1
11 21 12 22 1 2 2
11
n n n
i i i i t it i
i i i
nn
nn
t t t n t n
tt
tt
x d a l d a l,.,d a l
d ( a l a l,.,a l )
d ( a l a l,.,a l ),..
d ( a l a l,.,a l )
( d a d a,.,d a ) l
( d a d a,.,d a ) l,..
(d
1 12 2 1n n t n t n
a d a,.,d a ) l
三、精度估计
最小二乘估计量的精度估计令,11 11 12 12 1 1 11
11 21 12 22 1 2 12
11 1 12 2 1 1
tt
tt
n n t nt n
d a d a,.,d a h
d a d a,.,d a h
d a d a,.,d a h
1 1 1 1 1 2 2 1 nnx h l h l,.,h l
则：
2 2 2 2 2 2 2
1 1 1 1 1 2 2 1
2 2 2 2
1 1 1 2 1
2
11
x n n
n
h h,,,h
( h h,,,h )
d
三、精度估计
最小二乘估计量的精度估计
2 1 1 2 2 2 2 2
1 1 1 1
n n n n
t it i t it i t it it t t it i
i i i i
d a a x d a a x,.,d a a x d a l
2 2 2 1 1 2 2 2 2 2 2 2 2 2 2 2
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
2 1 1 1 1 2 1 1 2 2 2 1 1 2 1 1
1 1 1 1
n n n n
i i i i i it t i i
i i i i
d a a x d a a x,.,d a a x d a l
21 22 2,,...,td d d
设有不定乘数为求出用
12,,...,nl l l
表示 的关系式，用不定乘数
2x
21 22 2,,...,td d d
分别乘以正规方程的各式，可以得到：
三、精度估计
最小二乘估计量的精度估计把上面的方程组的各式左右两部分相加，得：
21 1 1 22 2 1 2 1 1
1 1 1
21 1 2 22 2 2 2 2 2
1 1 1
21 1 22 2 2
1 1 1
21 1 22 2 2
11
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it t
i i i
nn
i i i i t
ii
( d a a d a a,.,d a a ) x
( d a a d a a,.,d a a ) x,..
( d a a d a a,.,d a a ) x
d a l d a l,.,d a
1
n
it i
i
l
三、精度估计
最小二乘估计量的精度估计令：
2 1 1 1 2 2 2 1 2 1
1 1 1
2 1 1 2 2 2 2 2 2 2
1 1 1
2 1 1 2 2 2 2
1 1 1
0
1
0
n n n
i i i i t it i
i i i
n n n
i i i i t it i
i i i
n n n
i it i it t it it
i i i
d a a d a a,.,d a a
d a a d a a,.,d a a
d a a d a a,.,d a a
三、精度估计
最小二乘估计量的精度估计则：
n n n
i i i i t it i
i i i
nn
nn
t t t nt n
tt
tt
x d a l d a l,.,d a l
d ( a l a l,.,a l )
d ( a l a l,.,a l ),..
d ( a l a l,.,a l )
( d a d a,.,d a ) l
( d a d a,.,d a ) l,..
(d
2 21 1 22 2 2
1 1 1
21 11 1 21 2 1
22 12 1 22 2 2
2 1 1 2 2
21 11 22 12 2 1 1
21 21 22 22 2 2 2
21 n n t nt n
a d a,.,d a ) l
1 22 2 2
三、精度估计
最小二乘估计量的精度估计令,tt
tt
n n t nt n
d a d a,.,d a h
d a d a,.,d a h
d a d a,.,d a h
21 11 22 12 2 1 21
21 21 22 22 2 2 22
21 1 22 2 2 2
nnx h l h l,.,h l2 2 1 1 2 2 2 2
则：
2 2 2 2 2 2 2
2 2 1 1 2 2 2 2
22
2
2
22
2 1 2
2
22
x n n
n
h h,,,h
( h h,,h
d
.)
三、精度估计
最小二乘估计量的精度估计以此类推,可以得到：
则：
22
1 11
22
2 22
22
x
x
xt tt
d
d
d
2 2 234x x x t,,...,
1 1 1
2 2 2
x
x
x t tt
d
d
d
三、精度估计
最小二乘估计量的精度估计已知正规方程为：
12
12
6 1 7 0 1 2 0 0 6 0 3
1 7 0 5 6 5 0 3 4 0 2 0 1 3
x x,
x x,
例 5-3 求例 5-1中铜棒长度上和线膨胀系数估计量的精度。
测量数据的标准差为,0,0 5 1 mm
1 1 1 2
11
1 1 1 2
6 1 7 0 1 1 1 3
1 7 0 5 6 5 0 0
dd d.
dd
2 1 2 2
22
2 1 2 2
6 1 7 0 0 0 0 0 1 2
1 7 0 5 6 5 0 1
dd d.
dd
三、精度估计
最小二乘估计量的精度估计
1 1 1
2 2 2
0 0 5 1 1 1 3 0 0 5 4
0 0 5 1 0 0 0 1 2 0 0 0 1 8
x
x
d,,m m,m m
d,,m m / C,m m / C
1 0 2 0zzzzzxy z xz y
01 0 054Yx,m m
72
0
0 0 0 1 8 9 1 0
1 9 9 9 9 7
x,m m / C C
y,m m?
三、精度估计最小二乘法处理的步骤：
分析、写出函数关系式
列出误差方程：残余误差 =测量值 -估计值
写出系数矩阵和测量值矩阵
求出正规方程，求解方程，得到待测量的估计值
根据待测量的估计值，计算测量数据的估计标准差
用不定乘数法进行待测量估计值的精度估计四、组合测量的最小二乘法处理在精密测试工作中,组合测量占有十分重要的地位 。
例如,作为标准量的多面棱体,度盘,砝码,电容器以及其它标淮器的检定等,为了减小随机误差的影响,提高测量精度,可采用组合测量的方法 。
组合测量是通过直接测量待测参数的各种组合量 (一般是等精度测量 ),然后对这些测量数据进行处理,从而求得待测参数的估计量,并给出其精度估计 。
通常组合测量数据是用最小二乘法进行处理,它是最小二乘法在精密测试中的一种重要的应用 。
为简单起见,现以检定刻线间距为例,说明组合测量的数据处理方法 。
四、组合测量的最小二乘法处理
A B C D
x1 x2 x3
A B C D
l1 l2 l3
l4
l6
l5
要求检定刻线 A,B,C,D 间的距离 x1 x2 x3
直接测量刻线间的各种组合量，得到如下测量数据：
1 2 3
4 5 6
1 0 1 5 0 9 8 5 1 0 2 0
2 0 1 6 1 9 8 1 3 0 3 2
l,m m l,m m l,m m
l,m m l,m m
v v v v
l,m mv v v v
四、组合测量的最小二乘法处理
分析、写出函数关系式（无）
列出误差方程：残余误差 =测量值 -估计值
1 1 1
2 2 2
3 3 2
4 4 1 2
5 5 2 3
6 6 1 1 3
v l x
v l x
v l x
v l ( x x )
v l ( x x )
v l ( x x x )
A B C D
l1 l2 l3
l4
l6
l5
四、组合测量的最小二乘法处理
写出系数矩阵和测量值矩阵
1 0 0
0 1 0
0 0 1
1 1 0
0 1 1
111
A
1 1 1
2 2 2
3 3 2
4 4 1 2
5 5 2 3
6 6 1 1 3
v l x
v l x
v l x
v l ( x x )
v l ( x x )
v l ( x x x )
1 105
0 985
1 020
2 016
1 981
3 032
.
.
.
L
.
.
.
1 2 3
1 2 3
1 2 3
3 2 6 063
2 4 2 8 014
2 3 6 033
x x x,
x x x,
x x x,
求出正规方程，求解方程，得到待测量的估计值
1
2
3
x
Xx
x
或 TT?( A A ) X A L?
四、组合测量的最小二乘法处理
根据待测量的估计值，计算测量数据的估计标准差解得：
1
2
3
1 02 8
0 98 3
1 01 3
x,m m
x,m m
x,m m
1
2
3
4
5
6
0 0 1 3
0 0 0 2
0 0 0 7
0 0 0 5
0 0 1 5
0 0 0 8
v,m m
v,m m
v,m m
v,m m
v,m m
v,m m
2
1 0,0 0 0 5 3 6 0,0 1 3
63
n
i
i
v
mm
nt
四、组合测量的最小二乘法处理
用不定乘数法进行待测量估计值的精度估计
11 12 13
11 12 13 11
11 12 13
3 2 1
2 4 2 0 0 5
2 3 0
d d d
d d d d,
d d d
21 22 23
21 22 23 22
21 22 23
3 2 0
2 4 2 1 0 5
2 3 0
d d d
d d d d,
d d d
31 32 33
31 32 33 33
31 32 33
3 2 0
2 4 2 0 0 5
2 3 1
d d d
d d d d,
d d d
四、组合测量的最小二乘法处理
用不定乘数法进行待测量估计值的精度估计
1 1 1
2 2 2
3 3 3
0 0 1 3 0 5 0 0 0 9
0 0 1 3 0 5 0 0 0 9
0 0 1 3 0 5 0 0 0 9
x
x
x
d,,m m,m m
d,,m m,m m
d,,m m,m m
