第三章 自适应数字滤波器第三章 自适应数字滤波器
3.1 引言
3.2 自适应横向滤波器
3.3 自适应格型滤波器
3.4 最小二乘自适应滤波
3.5 自适应滤波的应用第三章 自适应数字滤波器
3.1 引 言自适应数字滤波器和维纳滤波器一样,都是符合某种准则的最佳滤波器 。 维纳滤波器的参数是固定的,适用于平稳随机信号的最佳滤波,但要设计这种滤波器,必须要求输入信号是平稳的,且具有信号和噪声统计分布规律的先验知识 。 在实际中,常常无法知道这些先验知识,且统计特性还会变化,因此实现最佳滤波是困难的 。
第三章 自适应数字滤波器自适应滤波器的特点是：滤波器的参数可以自动地按照某种准则调整到最佳滤波；实现时不需要任何关于信号和噪声的先验统计知识,尤其当输入统计特性变化时,自适应滤波器都能调整自身的参数来满足最佳滤波的需要 。 常常将这种输入统计特性未知,调整自身的参数到最佳的过程称为,学习过程,。
将输入信号统计特性变化时,调整自身的参数到最佳的过程称为,跟踪过程,,因此自适应滤波器具有学习和跟踪的性能 。
由于自适应滤波器有这些特点,自 1967年威德诺 (B.Widrow)等人提出自适应滤波器以来,在短短十几年中,自适应滤波器发展很快,已广泛地用于系统模型识别,通信信道的自适应均衡,
雷达与声纳的波束形成,减少或消除心电图中的周期干扰,噪声中信号的检测,跟踪,增强和线性预测等 。
第三章 自适应数字滤波器
3.2 自适应横向滤波器自适应滤波器的原理框图如图 3.2.1所示,图中 x(n)称为输入信号,y(n)是输出信号,d(n)称为期望信号,或者称为参考信号,训练信号,e(n)是误差信号 。 其中
e(n)=d(n)-y(n)
自适应滤波器 H(z)的系数根据误差信号,通过一定的自适应算法,不断地进行改变,使输出 y(n)最接近期望信号 d(n)。 这里暂时假定 d(n)是可以利用的,实际中,d(n)要根据具体情况进行选取,能够选到一个合适的信号作为期望信号,是设计自适应滤波器的一项有创意的工作 。 如果真正的 d(n)可以获得,
我们将不需要做任何自适应滤波器 。
第三章 自适应数字滤波器图 3.2.1 自适应滤波器原理图
H ( z )
y ( n )x ( n )
d ( n )
e ( n )
＋
－
第三章 自适应数字滤波器
3.2.1 自适应线性组合器和自适应 FIR
1,自适应滤波器的矩阵表示式图 3.2.2 表示的是一个有 N个权系数的自适应线性组合器,
图中 N个权系数 w1,w2,…,wN受误差信号 ej的自适应控制 。 对于固定的权系数,输出 yj是输入信号 x1j,x2j,…,xNj的线性组合,因此称它为线性组合器 。 这里的 x1j,x2j,…,xNj可以理解为是从 N个不同的信号源到达的瞬时输入,是一个多输入系统,也可以是同一个信号源的 N个序贯样本,如图 3.2.3 所示 。 因此它是一个单输入系统,实际上这种单输入系统就是一个 FIR网络结构,
或者说是一个自适应横向滤波器 。 其输出 y(n)用滤波器的单位脉冲相应表示成下式：
1
0
)()()(
N
m
mnxmwny
(3.2.1)
第三章 自适应数字滤波器图 3.2.2 自适应线性组合器
x
1 j
x
2 j
x
Nj
…
d
j
e
j
y
j
w
1
w
2
w
N
＋
－
第三章 自适应数字滤波器图 3.2.3 自适应 FIR滤波器
z
－ 1
z
－ 1
x ( n － 1) x ( n － 2) x ( n － N )
z
－ 1
d ( n )
e ( n )
＋
－
y ( n )
…
x ( n )
w
2
w
3
w
N － 1
w
N
w
1
第三章 自适应数字滤波器这里 w(n)称为滤波器单位脉冲响应,令,i=m+1,wi=w(i-1),
xi=x(n-i+1),n用 j表示,上式可以写成
N
i
ijij xwy
1
(3.2.2)
这里 wi也称为滤波器加权系数 。 用上面公式表示其输出,适合于自适应线性组合器,也适合于 FIR滤波器 。 将上式表示成矩阵形式：
jjj XWWXy TT
(3.2.3)
式中
T21T21 ],,,[,],,,[ NjjjjN xxxXwwwW
误差信号表示为
jjjjjjj XWdWXdyde TT
(3.2.4)
第三章 自适应数字滤波器
2,利用均方误差最小准则求最佳权系数和最小均方误差误差信号被用来作为权系数的控制信号 。 下面采用均方误差最小的准则,求最佳权系数 。 由 (3.2.4)式,均方误差为
WXXEWWXdEdE
ydEeE
jjjjj
jjj
][][(2][
])[(][
TTT2
22
(3.2.5)
令
WXXEWWXdEXdER jjTjjjjdx ][][][ TT
(3.2.6)
NjNjjNjjNj
Njjjjjj
Njjjjjj
T
jjxx
xxxxxx
xxxxxx
xxxxxx
EXXER
21
12111
12111
][
(3.2.7)
第三章 自适应数字滤波器将 (3.2.6),(3.2.7)式代入 (3.2.5)式,得到
WRWWRdEeE xxdxjj TT22 2][][
(3.2.8)
Rdx称为 dj与 Xj的互相关矩阵,是一个 N维列矩阵； Rxx是输入信号的自相关矩阵,
(1)是对称矩阵,即 ;
(2) 是正定或半正定的，因为对于任意矢量 V满足下式：
xxTxx RR?
0])[(][ 2TTT VXEVXXVEVRV Txx
自相关矩阵的主对角线是输入信号的均方值,交叉项是输入信号的自相关值。
第三章 自适应数字滤波器
(3.2.8)式表明,当输入信号和期望信号是平稳随机信号时,
均方误差信号 E［ e2j］ 是权系数的二次函数,即将 (3.2.8)式展开时,公式中的权系数均以它的一次幂或二次幂出现 。 如果只有一个权系数 w1,则 E［ e2j］ 是 w1的口向上的抛物线；如果有两个权系数 w1w2,则 E［ ej2］ 是它们的口向上的抛物面；对于两个权系数以上的情况,则属于超抛物面性质 。
E［ ej2］ 在自适应信号处理中是一个重要的函数,经常称它为性能函数 。 为选择权系数,使性能函数到达它的最小点,一些有用的自适应方法都是基于梯度法的,我们用 表示 E［ ej2］
的梯度向量,它是用 E［ ej2］ 对每个权系数求微分而形成的一个列向量,用公式表示如下：
j?
第三章 自适应数字滤波器
T2
2
2
1
2 ][
,,
][
,
][
N
jjj
j w
eE
w
eE
w
eE
(3.2.9)
按照 (3.2.4)式,梯度推导如下：
][2,,,2
21
jj
T
N
jjj
jj XeEw
e
w
e
w
e
eE
(3.2.10)
还可以用 (3.2.8)式对 W求导得到
dxxxj WRWR 2
(3.2.11)
令上式等于 0,得到最佳权矢量 W*的表达式：
dxxx RRW 1*
(3.2.12)
第三章 自适应数字滤波器对比第二章维纳滤波器的最佳解,结果是一样的 。 上式也称为维纳权矢量 。 当自适应滤波器的权系数满足上式时,均方误差将取最小值 。 将 (3.2.12)式代入 (3.2.8)式得到最小均方误差：
*2
***2
m i n
2
2][
2][][
WRdE
WRWWRdEeE
T
dxj
xx
TT
dxjj
(3.2.13)
或者将上式取转置，用下式表示：
dxTjj RWdEeE *2m i n2 ][][
(3.2.14)
我们知道,在维纳滤波器中,当滤波器的单位脉冲响应取最佳值时,其误差信号和输入信号是正交的；这里也有相同的结果,
当权矢量取最佳值时,梯度为 0,按照 (3.2.10)式：
0][2 jjj XeE
第三章 自适应数字滤波器例 3.2.1 一个单输入的二维权矢量自适应滤波器如图
3.2.4所示,图中输入信号与期望信号分别为
jNdjNx jj π2c o s2,π2s in
这两个信号都是周期性确定性信号,因为任何正弦函数积的期望值,都可由这个积在一个或多个周期上作时间平均来计算,
可以推导出下面公式 ［ 6］,
5.0
2
c o s5.0
2
c o s5.05.0
1,0
π2
s i n)(
π2
s i n
π2
c o s
2
][
1,0
π2
c o s5.0)(
π2
s i n
π2
s i n
1
][
2
11
1
2
1
1
N
N
xxx
xxx
ER
nn
N
nj
N
j
NN
xdE
nn
N
nj
N
j
NN
xxE
jjj
jjj
xx
N
j
njj
N
j
njj
第三章 自适应数字滤波器
T
T
1
2s i n,0],[
NxdxdER jjjjdx
2
π2
s i n2
π2
c o s)(5.0
π2
s i n02
1
π2
c o s
π2
c o s1
][5.02
2][][
221
2
2
2
1
2
1
2
1
21
TT22
N
w
N
wwww
w
w
Nw
w
N
N
ww
WRWWRdEeE
xxdxjj
第三章 自适应数字滤波器图 3.2.4 两个权的自适应滤波器
w
1
z
－ 1
x
j
w
2
d
j
y
j
＋
－
e
j
第三章 自适应数字滤波器上式表明性能函数 E［ ej2］ 对权函数是二次型的,用 (3.2.11)
式求梯度向量,得到
N
w
N
w
N
ww
N
w
w
N
N
RWR
dxxxj
π2
s i n2
π2
c o s
π2
c o s
π2
s i n
0
2
1
π2
c o s
π2
c o s1
22
21
21
2
1
求最佳权矢量可以用 (3.2.12)式,通过对 Rxx求逆得到,也可以通过上式,令,而求出：
0 j
T
T
21
* π2c s c2,π2c o t2][
NN
wwW
第三章 自适应数字滤波器用 (3.2.13)式求最小均方误差：
0
π2
c s c2
π2
c o t2
π2
s i n02][m i n][ *T22?
N
N
N
WRdEeE dxjj
上式说明只要 N＞ 2,不管 N取多少,通过对权系数的调整可使均方误差达到 0,此时输出信号 yj完全等于期望信号 dj,例如 N=2，
按照上面公式,可以求出输入,输出信号以及最佳权系数如下：
第三章 自适应数字滤波器
jd
jxwxwy
jx
www
j
jjj
j
2
π
c o s2
2
π
c o s2
2
π
s i n
]20[][
121
T*
2
*
1
*
第三章 自适应数字滤波器
3.2.2
在自适应滤波器的分析研究中,性能函数是一个重要函数,
前面已推导出性能函数用 (3.2.8)式表示,重写如下：
WRWWRdEeE xxdxjj TT22 2][][
下面我们推导它的其它表示方法以及几何意义 。
均方误差是权系数的二次函数,当权系数取最佳值时,均方误差取最小值,将 (3.2.14)式代入 (3.2.8)式,可以用最小均方误差表示性能函数,
为了表示方便，令 δ =E［ e2j］,则
WRWWRRW xxdxdxT TT*m i n 2
第三章 自适应数字滤波器将 (3.2.12)式代入上式，得到
)()(
][][
*T*
m i n
TT**TT*
m i n
T*TT**T*
m i n
WWRWW
WRWWWRWW
WRWWRWWRWWRW
xx
xxxx
xxxxxxxx
(3.2.15)
令
V=W-W*=［ v1,v2,…,vN］ T (3.2.16)
V称为偏差权向量,它表示权向量对最佳权向量的偏差 。 这样性能函数可以表示得更简单：
VRV xxTm i n (3.2.17)
第三章 自适应数字滤波器因为 Rxx是对称的,正定或半正定的,利用它的特征值和特征向量再进一步简化,假设 Rxx是 N× N维,它的 N个特征值为：
λ 1,λ 2,…,λ N,将 Rxx进行分解,得到
Rxx=QTΛ Q,Λ =QTRxxQ (3.2.18)
通过调节使 Q归一化，即
1TT, QQIQQ
(3.2.19)
NNNN
N
N
N
qqq
qqq
qqq
qqqQ
21
22221
11211
21
],,,[
(3.2.20)
第三章 自适应数字滤波器式中,Q称为正交矩阵或特征矩阵,qi称为特征向量,满足下式：
NiqqR
ji
ji
qq
iiixx
j
T
i
,,2,1
0
1
(3.2.21)
(3.2.22)
Λ 是由特征值组成的对角矩阵,用下式表示：
),,,(D i ag 21 N (3.2.23)
将 (3.2.18)式代入 (3.2.17)式，得到
VQQV TTm i n
令
',],,,[ T''2'1T' QVVvvvVQV N(3.2.24)
第三章 自适应数字滤波器则
N
i
ii v
ΛVV
1
2'
m i n
T'
m i n '
(3.2.25)
上式将性能函数变成了平方和的形式 。 再观察 (3.2.24)式,
该式将 V坐标中的 Rxx的特征向量变成了 V′ 坐标中的单位向量 。
利用 (3.2.24)式将特征向量 qi变成 qi′,再利用 (3.2.20)、
(3.2.21)式,可得
TT21' ]0,,1,,0[],,,[ iNiTi qqqqqQq
(3.2.26)
第三章 自适应数字滤波器也就是说,qi′ 为 V′ 坐标中的第 i个单位向量,qi′ 亦是 Λ 矩阵对应于 λ i的特征向量 。 下面用二维权矢量的情况说明它的几何意义 。 对于二维权矢量情况,有下面公式：
2
1*
2
1,
v
vWWV
w
wW
2
221
2
1m i n
*T*
m i n
)0()1(2)0(
)()(
)0()1(
)1()0(
vrvvrvr
WWRWW
rr
rr
R
xxxxxx
xx
xxxx
xxxx
xx
第三章 自适应数字滤波器图 3.2.5 二维权矢量性能表面
m i n
w
1 o p t
w
2 o p t
w
1
w
2
v
2
v
1
第三章 自适应数字滤波器图 3.2.6 等均方误差的椭圆曲线族
0 w
1
w
2
v
1
v
2
v
1
′
v
2
′
w
o p t
第三章 自适应数字滤波器按照 (3.2.17)式，有
cVRV xx Tm i n?
或
1T cVRV xx?
当 c=δ min时,对应椭圆的中心,V=W-W*,则相当于 W坐标平移到 V
坐标的原点,即 V坐标的原点对应 W坐标的最佳点 W *。 这里,v1v2
不是椭圆的主轴 。 但经过对 Rxx的分解：
2
1T
0
0
ΛQRQ xx
且 V′= QTV将性能函数的椭圆族 (按照 (3.2.25)式 )变成
1T' ' cΛVV?
第三章 自适应数字滤波器即
12'222'11 cvv
或者
1
// 21
2'
2
11
2'
1
c
v
c
v (3.2.27)
显然,上式是一个椭圆方程,v1′ 和 v2′ 是椭圆族的主轴,如果
λ 1＜ λ 2,则 v1′ 是长轴,v2′ 是短轴 。 因此 (3.2.24)式起坐标旋转的作用,将 v1v2旋转到主轴上,形成 v1′ v2′ 主轴 。 对于维数 N
＞ 2的情况,长轴对应最小特征值,按照上面的椭圆方程长轴正比于 ；短轴对应于最大特征值,正比于 。 另外,因为
min/1? min/1?
T''2'1T ],,,[' NvvvVQV
第三章 自适应数字滤波器得到
],,,[],,,[ ''2'12211 NNN vvvvqvqvq(3.2.28)
V′ 中单位矢量就是 V坐标中的 Rxx的特征矢量。
第三章 自适应数字滤波器
3.2.3 最陡下降法
1,最陡下降法的递推公式将 (3.2.11)式代入 (3.2.29)式，得到
*
1
1
2]2[
)22(
WRWRIW
WRRWW
xxjxxj
jxxdxjj
(3.2.30)
(3.2.31)
在上式两边都减去 W *,并令 Vj=W j-W*,得到
Vj+1=［ I-2μ Rxx］ Vj (3.2.32)
上式是一个递推公式,由于 ［ ·］ 项不是对角矩阵,计算与分析均复杂 。 下面仍然采用坐标旋转的方法进行推导 。
第三章 自适应数字滤波器
'
'11
'1'
'1'
1-1T
)2(
)2(
]2[
,
,
j
jxx
jxxj
jjjj
xxxx
VI
VQRQIQQ
QVRIQV
QVVVQV
QRQΛQ ΛΛQ ΛΛR
(3.2.33)
此时,［ ·］ 项已变成对角矩阵,假设起始值是 V0′,可得到上式的递推解为
'0' )2( VΛIV jj (3.2.34)
第三章 自适应数字滤波器再将 (3.2.24)式代入,再经过坐标平移,即代入 Vj=Wj-W*式,
最后得到权系数的递推公式：
)()2( *0T* WWQΛIQWW jj
(3.2.35)
上面递推公式中，［ ·］部分已变成对角矩阵,这使分析与研究自适应特性变得简单了。
第三章 自适应数字滤波器
2.
由最陡下降法的递推公式不难分析出它的收敛条件,即当迭代次数 j趋于 ∞ 时,权系数收敛最佳时的条件 。 按照上式,
显然只有当
m a x
1
0
,,2,11|21|
0]2[lim
Ni
ΛI
i
j
j
(3.2.36)
(3.2.37)
满足时,才能得到,。 (3.2.37)式即是最陡下降法的收敛条件,式中 λ max是 Rxx的最大特征值 。 (3.2.36)式中的 0表示 0矢量 。
*li m WW j
j
第三章 自适应数字滤波器
3.
过渡过程是指权矢量和性能函数由起始点随迭代次数的增加,进行变化的过程 。 下面从权矢量和性能函数两方面讨论自适应滤波器的过渡过程 。
按照 (3.2.34)式，权矢量的递推解是
'0' )2( VΛIV jj
第 i个权系数递推方程是
'0' )2( ijiji vIv (3.2.38)
令
Niiτi,,3,2,1e21
1-
(3.2.39)
第三章 自适应数字滤波器将上式代入 (3.2.38)式，得到
Nivv iτji i,,3,2,1e '0
1-
'
(3.2.40)
上式说明第 i个分量 v i′ 按指数规律变化，其时常数为
)21(1
1
i
i n
i=1,2,3,…,N (3.2.41)
因为一般 μ 取得比较小，可以近似为
i
i 2
1? i=1,2,3,…,N (3.2.42)
第三章 自适应数字滤波器因为
'
'
2
'
1
21
22221
11211
'
jN
j
j
NNNN
N
N
jj
v
v
v
qqq
qqq
qqq
QVV
所以
N
k
jkikji vqv
1
'
再将 (3.2.40)式代入，得到
i
jN
k
kikji evqv
1
'
0
(3.2.43)
第三章 自适应数字滤波器
kτ
jN
k
ikiji cww
-
1
* e?
(3.2.44)
式中
'0 kikik vqc?
(3.2.45)
上式说明第 i个加权系数按照 N个指数和的规律变化,由初始值收敛到最佳值,其时常数与特征值成反比 。 下面分析性能函数的过渡过程 。 按照 (3.2.25)式,性能函数如下式：
N
i
jiij veE
1
2'
m i n
2 ][
(3.2.46)
将 (3.2.40)式代入，得到
i
jN
i
iij eveE
2
1
2'
0mi n
2 ][
(3.2.47)
第三章 自适应数字滤波器上式说明性能函数也是按 N个指数和的规律变化,和加权系数过渡过程不同的是时间常数不同,它的时常数为
i
i
4
1
2i m s e
(3.2.48)
我们已经知道,性能函数和各个加权系数都是按照 N个具有不同时常数的指数和的规律变化的,时常数和特征值成反比,
不同的特征值对应的收敛时间是不一样的,但最终的收敛要取决于最慢的指数过程,它的时常数最大,对应最小的特征值,
公式如下：
m i n
m a xm s e
m i n
m a x
4
1
2
1
(3.2.49)
(3.2.50)
第三章 自适应数字滤波器但为保证收敛,μ 不能取得太大,受限于最大特征值 λ max。
这样,如果特征值比较分散时,即 λ max和 λ min相差很大时,
使最陡下降法的收敛性能很差 。 下面分析 μ 值的影响 。
μ 值收敛过程影响很大，首先必须选择得足够小，使之满足收敛条件：
m a x
10
但按照 (3.2.47),(3.2.48)式,它影响收敛速度 。 一般希望在保证收敛的条件下,选大一些,使时间常数小一些,收敛的速度快一些 。 但当 μ 选择得太大时,即使收敛条件满足,也可能形成振动性的过渡特性 。 在图 3.2.7 中,图 (a)是 μ 较小时的情况；图 (b)是 μ 较大时的情况,此时过渡过程已发生振荡 。
第三章 自适应数字滤波器图 3.2.7? 值的影响
(a) 较小时的情况； （ b） 较大时的情况
( a ) ( b )
w
2
w
1
w ( 0 )
w ( 0 )
w
1
w
2
第三章 自适应数字滤波器
3.2.4 最小均方 (LMS)算法
1,LMS算法的权值计算 ]
LMS(Least Mean Square)算法的梯度估计值用一条样本曲线进行计算，公式如下：
N
jjj
jj w
e
w
e
w
e
e
2
2
2
1
2
2(3.2.51)
因为
jjj XWde T
第三章 自适应数字滤波器所以
j
N
jjj X
w
e
w
e
w
e
T
21
,,,?
jjj Xe2
(3.2.52)
(3.2.53)
jjjj XeWW?21
FIR滤波器中的第 i个权系数的计算公式为
Nixeww ijjijij,,3,2,12,,,1
(3.2.54)
FIR滤波器中的第 i个权系数的控制电路如图 3.2.8所示,LMS自适应滤波器的总框图如图 3.2.9 所示 。
第三章 自适应数字滤波器图 3.2.8 FIR第 i个支路的控制电路
z － 1
w
i
( n ＋ 1)
＋
＋
x
i
( n ) w
i
( n )
2?
e ( n )
控制电路第三章 自适应数字滤波器
LMS算法的加权系数按照 (3.2.53)式进行控制,式中加权矢量的改变量是 2μ ejXj,梯度的估计值是 -2ejXj。 显然,这是一个随机变量,这说明 LMS算法的加权矢量是随机变化的 。 因此,
LMS算法又称为随机梯度法 。 下面对这种算法的性能进行分析,
主要分析加权矢理和性能函数的平均变化规律以及它们的随机性造成的影响 。
按照 (3.2.52)式,对梯度估计值求统计平均,得到
jjjj XeEE ][2]?[
(3.2.55)
上式说明梯度估计值是无偏估计的,梯度的估计量在理想梯度
▽ j附近随机变化,权系数也是在理想情况下的权轨迹附近随机变化的 。
第三章 自适应数字滤波器
…
控制 1
控制 2
控制 N
…
x
1
( n )
x
2
( n )
x
N
( n )
w
1
w
2
w
N
y ( n )
d ( n )
e ( n )
＋
－
…
图 3.2.8 LMS自适应滤波器总计算框图第三章 自适应数字滤波器
2.LMS
将误差公式 (3.2.4)式代入 (3.2.53)式，得到
jjj
T
jj
j
T
jjjjjj
dXWXXi
WXXdXWW
2]2[
][21
(3.2.56)
按照 (3.2.53)式,对加权矢量取统计平均：
*
T
1
2][)2(
])[(2][
][][(2][
][2][][
WRWERI
WERRWE
WXXEXdEWE
XeEWEWE
xxjxx
jxxdxj
jjjjjj
jjjj
(3.2.57)
第三章 自适应数字滤波器类似于最陡下降法的推导,经过坐标平移和旋转,变换到
V′ 坐标中 。 其公式推导如下,令
Vj=Wj-W* (3.2.58)
那么 E［ Vj］ =E［ Wj］ -W*
E［ Vj+1］ =E［ Wj+1］ -W* (3.2.59)
将上面两式代入 (3.2.57)式中，得到
][]2[][ 1 jxxj VERIVE
它的递推解是
0]2[][ VRIVE jxxj
令 Rxx=QΛ Q T,Λ =QRxxQT (3.2.60)
第三章 自适应数字滤波器
'],,,,[' ''2'1T QVVvvvVQV N
得到
'0' ]2[][ VΛIVE jj
(3.2.61)
(3.2.62)
再将 (3.2.59),(3.2.60)和 (3.2.61)式代入上式，得到
E［ Wj］ =W*+Q［ I-2μΛ］ j Q-1(W0-W*) (3.2.63)
对比 (3.2.35)式,说明 LMS算法加权矢量的统计平均值的过渡过程和最陡下降法加权矢量的过渡过程是一样的 。 换句话说,LMS算法加权矢量是在最陡下降法加权矢量附近随机变化的,其统计平均值等于最陡下降法加权矢量,那么,其收敛条件同样为
m a x
10
(3.2.64)
第三章 自适应数字滤波器在满足收敛条件的情况下，才有下式：
*][lim WWE
j
j?
由于最大的特征值 λ max不可能大于 R的迹 (R的主对角线元素之和 ),即
)()(tr)()(trm ax 的对角元素的对角元素 RRΛΛ?
因此收敛条件可以表示为
)(
10
Rtr
(3.2.65)
第三章 自适应数字滤波器对于横向滤波器,式中的迹是 NE［ x2j］，即 N倍的输入功率，
那么
][
10
2
jxNE
(3.2.66)
实际中，通常 μ 选得很小，选
][
10
2
jxNE
(3.2.67)
同样由 (3.2.62)式，第 i个分量为
'0]2[][ ijiji vIvE
(3.2.68)
第三章 自适应数字滤波器同样引入时常数 τ i,
][][
e][
2
1
)21ln (
1
'*
-
'
0
' i
jj
τ
j
iji
ii
i
vQEWWE
vvE
(3.2.69)
(3.2.70)
(3.2.71)
同样，第 i个权系数可以表示成
kτ
jN
k
ikiji CwwE
-
1
* e][?
(3.2.72)
第三章 自适应数字滤波器
3,LMS算法性能函数的过渡过程 ——学习过程由于 LMS算法加权矢量的平均值的变化规律与最陡下降法的加权矢量一样,可以推想它的均方误差也会按照最陡下降的均方误差变化规律变化 。 下面进行推导 。
按照 (3.2.4)式,信号误差为
j
T
jj
j
T
j
T
jj
T
jjjjj
VXe
WWXWXd
WXdyde
opt
**
)()(
(3.2.73)
第三章 自适应数字滤波器式中,eoptj=dj-XjTW*,称为最佳误差信号,它对应于最小均方误差,即
m i n22o p t ][][ jj eEeE?
按照 (3.2.73)式写出均方误差表示式：
][2][][][ 22 jTjoptjTjjTjoptj VXeEVXXVEeEeE
假定 Xj和 Vj不相关，上式中最后一项为 0，那么
][m i n jTjjTj VXXVE
第三章 自适应数字滤波器
2'
1
m i n
''
m i n
m i n
])[[
][][
][][
ji
N
i
i
j
T
j
jxx
T
j
vE
VΛEVE
VERVE
同样，假设加权系数变化很小,Vj也变化很小,E［ Vj］ ≈ Vj，这样：
类似前面的推导，得到
i
i
i m s e
N
i
j
oji
iv
4
1
2
e][
1
2
-
2'
m i n
(3.2.74)
(3.2.75)
对照最陡下降法性能曲线 (3.2.47)式,LMS均方误差变化规律和最陡下降法完全一样,学习曲线同样近似为几个不同时间常数的指数和 。
第三章 自适应数字滤波器
4,稳态误差和失调系数由上面分析知道,权矢量的平均值可以收敛到它的最佳值,
但权矢量变化过程是随机的,即使其平均值收敛到最佳值,它仍然按照下式：
Wj+1=Wj+2μ ejXj
随机地进行变化,这样使权矢量仍在最佳值附近随机变化,
但均方误差将大于最小均方误差,如图 3.2.10 所示 。 为此,引入失调系数 M,M定义为
m i n
m i n
M
(3.2.76)
第三章 自适应数字滤波器加权系数的变化均方误差的变化
m i n
v
v ＝ w － w
o p t
j
图 3.2.10 LMS算法稳态误差第三章 自适应数字滤波器可以推出 ［ 5］ 失调系数为
N
i
ixxRM
1
]t r [
(3.2.77)
或者 M=μ NPin (3.2.78)
式中,N是滤波器的阶数,Pin是输入信号功率 。 上式说明 μ 和输入功率加大都会增加失调系数 。 在保证收敛的情况下 μ 加大,会提高收敛速度,也说明为了减小失调系数,应该适当选择收敛速度,以保证收敛速度和失调系数都满足要求 。
第三章 自适应数字滤波器图 3.2.11 是一个 LMS自适应滤波器的计算机结果 ［ 5］,阶数 N=5,其输入是信号加白噪声,输入信号功率为 1,中心频率是 0.03fs(fs为采样频率 ),噪声功率为 0.5,输入信号自相关函数的特征值为,5.14,0.853,0.502,0.500,0.500,权系数初始值取 0,μ =0.0065。 图中画出了一条样本学习曲线和 150
条样本学习曲线的平均曲线 。 该图表明个别学习曲线起伏较大,
平均学习曲线起伏很小,计算出的维纳最小均方误差为 0.743
96,用 LMS算法得到的稳态误差大于该值,按 (3.2.77)式计算的失调系数是 4.87%,按计算机模拟结果测得的失调系数是 5.40%。
第三章 自适应数字滤波器图 3.2.11 LMS算法的学习曲线
1,5 0
1,2 5
1,0 0
0,7 5
0,5 0
0,2 5
均方误差
0 20 40 60 80 100 120 140 160 180 200
迭代次数 n
m i n
＝ 0,7 4 3 9 6 ( 维纳解 )
个别学习曲线平均学习曲线
( 由 150 条个别曲线平均 )
第三章 自适应数字滤波器
3.3 自适应格型滤波器
3.3.1 前,
1,前向线性预测误差滤波器为了分析简单,假设信号属于实平稳随机信号 。 前向线性预测误差滤波器直接由信号的线性一步预测导出 。 在维纳滤波器一章我们已研究了信号的线性一步预测问题,即由 x(n-1),
x(n-2),…,x(n-p)预测 x(n),其估计值 x(n)和预测误差 ep(n)
用下式表示：
^
p
k
kp knxanx
1
,)()(?
(3.3.1)
p
k
kpp knxanxnxnxne
1
,)()()(?)()(
第三章 自适应数字滤波器由于假设了信号是实的,式中预测误差 ep(n)和系数 ap,k均是实数 。 (3.3.1)式表明 是由 n时刻以前的 p个数据 x(n-1)、
x(n-2)…x(n-p)得到的估计,因此称 为前向预测误差 。 将前向预测误差用 表示,上式重写为
)(? nx
)(nep
)(nefp
p
k
kp
f
p knxanxne
1
,)()()(
(3.3.2)
对上式进行 Z变换，得到
k
p
k
kp
f
p zzXazXzE
1
,)()()(
(3.3.3)
令
p
k
k
kp
p
k
k
kpf
f
p
f
zazazH
zX
zE
zH
0
,
1
,1)(
)(
)(
)(
(3.3.4)
第三章 自适应数字滤波器
Hf(z)称为前向预测误差滤波器的系统函数 。 前向预测误差滤波器的结构图如图 3.3.1所示 。
图 3.3.1 前向预测误差滤波器
z － 1
a
p,0
…
…
z － 1 z － 1
a
p,1
a
p,2
a
p,p － 1
a
p,p
x ( n )
)( ne fp
第三章 自适应数字滤波器用均方误差最小的准则求前向预测误差滤波器的最佳系数 ap,k,
0
]))([(
,
2
kp
f
p
a
neE
k=1,2,…,p (3.3.5)
将 (3.3.2)式代入上式，得到
0)]()([ knxneE fp
k=1,2,3,…,p (3.3.6)
上式表明前向预测误差与用于预测的数据正交,这就是对于前向预测误差的正交原理 。 按照第二章的推导,前向预测误差滤波器的最佳系数 ap,k
Yule-Walker方程式,重写如下：
第三章 自适应数字滤波器
p
i
xxipxxp
p
i
xxipxx
irar
pkikrakr
1
,
2
1
,
)()0(
,,3,2,10)()(
(3.3.7)
将上式用矩阵方程表示为
0
0
1
)1()2()(
)1()0()1(
)()1()0( 2
,
1,
p
pp
p
xxxxxx
xxxxxx
xxxxxx
a
a
prprpr
prrr
prrr?
(3.3.8)
第三章 自适应数字滤波器
2.
如果利用 x(n+1),x(n+2),…,x(n+p)数据预测 x(n),则称为后向预测,其估计值用 表示 。 这样)('? nx
p
k
kp knxanx
1
'
,)()('?
(3.3.9)
一般前向,后向预测用同一数据进行,即利用 x(n),x(n-1)，
x(n-2),…,x(n-p)进行预测,为此,将上式改为
p
k
kp kpnxapnx
1
'
,)()('?
(3.3.10)
这样,前向预测是由 x(n-p),x(n-p+1),…,x(n-2),x(n-1)预测
x(n),后向预测是由 x(n-p+1),x(n-p+2),…,x(n)预测 x(n-p)，
这两种预测数据之间的关系如图 3.3.2 所示 。
^
第三章 自适应数字滤波器图 3.3.2 前向预测数据之间的关系
x ( n － p ),x ( n － p ＋ 1 ),…,x ( n － 2 ),x ( n － 1 ),x ( n )
后向预测前向预测第三章 自适应数字滤波器设后向预测误差用 表示 (实际表示的是信号在 n-p时刻的预测误差 ),这样
)(nebp
)('?)()( pnxpnxnb bp (3.3.11)
同样,利用最小均方误差的准则,可以得到关于后向预测时的正交原理以及 Yule-Walker方程,它们分别用下面的 (3.3.12)
和 (3.3.13)式表示：
0)]()([ kpnxneE bp
k=1,2,3,…,p
p
i
xxkpxxp
p
i
xxkpxx
irar
ikrakr
1
'
,
2'
1
'
,
)()0(
0)()(
k=1,2,3,…,p
(3.3.12)
(3.3.13)
第三章 自适应数字滤波器式中,是后向预测误差的最小误差功率 。 将 (3.3.13)式和
(3.3.7)式进行对比,它们极其相似 。 利用 Toeplitz矩阵的性质,
可得到以下重要关系：
2'p?
2'2
'
,,,,3,2,1
pp
kpkp pkaa
(3.3.14)
(3.3.15)
上面两式表明前,后向预测的最小误差功率相等,系数也相等
(如果是复数,则是共轭关系 )。 由 (3.3.10),(3.3.11),(3.3.14)
式得到
1)()( 0,
0
,
p
p
k
kp
b
p akpnxane
(3.3.16)
第三章 自适应数字滤波器式中，当 k=0,1,2,3,…,p时,p-k=p,p-1,p-2,…,0,因此也可以写成下式：
1)()( 0,
0
,
p
p
k
kpp
b
p aknxane
由上式画出后向预测误差滤波器的结构图如图 3.3.3 所示。
第三章 自适应数字滤波器图 3.3.3 后向预测误差滤波器
z － 1
a
p,0
…
…
z － 1 z － 1
a
p,1
a
p,p － 1
a
p,p
x ( n )
)( ne bp
a
p,p － 2
第三章 自适应数字滤波器对比图 3.3.1 和图 3.3.3,或者对比公式 (3.3.2)和
(3.3.17),它们的系数虽然一样,但后向预测误差滤波器的系数排序却是前向预测误差滤波器系数排序的逆转排列 。
对 (3.3.16)式进行 Z变换，得到
p
k
kp
kp
pb
p zzzXazzXzE
1
,)()()(
(3.3.18)
后向预测误差滤波器的系统函数为
p
k
k
kp
p
b
p
b zazzX
zEzH
1
,1)(
)()( (3.3.19)
第三章 自适应数字滤波器将上式与前向预测误差滤波器的系统函数 (3.3.4)式对比,得到前,后向预测误差滤波器的系数函数之间的关系是
)()( 1 zHzzH fpb
为了求解前,后向预测误差滤波器的最佳系数,需要解 Yule-
Walker方程 。 可以采用高斯消元法解出 ap,k(k=1,2,3,…,p)以及 σ 2p,但需要 p3量级运算量 。 利用 Yule-Walker方程中的自相关矩阵是一个埃尔米特 (Hermitain)和托布列斯 (Toeplitz)矩阵的特点,且至少是半正定的,可以有效地减少运算量,这就是下面要推导的 Levinson-Durbin算法,它的运算量级是 p2。
第三章 自适应数字滤波器
3.Levinson-durbin算法
Levinson-Durbin算法首先由一阶 AR模型开始,按照 (3.3.8)
式,一阶 AR模型 (p=1)的 Yule-Walker为
0
1
)0()1(
)2()0( 21
1,1
arr
rr
xxxx
xxxx
由该方程解出：
)0()1(
)0(
)1(
2
1,1
2
1
1,1
xx
xx
xx
ra
r
r
a
第三章 自适应数字滤波器然后增加一阶，即令 p=2，按照 (3.3.8)式得到
0
0
1
)0()1()2(
)1()0()1(
)2()1()0( 2
2
2,2
1,2
a
a
rrr
rrr
rrr
xxxxxx
xxxxxx
xxxxxx
由上面方程解出：
2
1
2
2,2
2
2
1,12,21,1
22
1,2
2
11,1
222
2,2
)1(
)]1()0(/[)]2()1()1()0([
/)]1()2([
)]1()0(/[)]1()2()0([
a
aaa
rrrrrra
rar
rrrrra
xxxxxxxxxxxx
xxxx
xxxxxxxxxx
第三章 自适应数字滤波器然后令 p=3,4,…,以此类推,可以得到一般递推公式如下：
)]([)0(
)1(
1,,3,2,1
])()([
22
0
2
1
22
,1,1,
,
2
1
1
1
1
nxEr
k
pkakaa
ak
kprapr
k
xx
ppp
kpppkpkp
ppp
p
p
k
xxpxx
p
(3.3.21)
(3.3.22)
(3.3.23)
(3.3.24)
(3.3.25)
第三章 自适应数字滤波器上面 (3.3.21)~(3.3.25) Levinson-Durbin递推公式,
该式中的 kp称为反射系数 。 在 (3.3.24)式中,σ 2p和 σ 2p-1是预测误差的均方值,因此 1-k2p必须大于等于 0,这样 kp应要求满足下式：
1||?pk
(3.3.26)
2 122,12 12 )1( ppppp k 反进而得到,即预测误差随递推次数增加而减少 。 把 kp
称作反射系数,是类似于传输线的情况,如图 3.3.4 所示,第 p
节的输出功率 (即下一级的输入功率 )等于前一级的输出功率减去本级的反射功率,用公式表示如下：
2 12 pp
(3.3.27)
第三章 自适应数字滤波器第 p 节
2
1?p? 2
p?
2
,1 反?p?
图 3.3.4 传输线第三章 自适应数字滤波器
3.3.2
1,由预测误差滤波器导出格型滤波器将前面已推导的前向预测误差公式 (3.3.2)重写如下,
p
k
kp
f
p knxanxne
1
,)()()(
再将系数 ap,k(k=1,2,3,…,p)的递推公式 (3.3.23)代入上式,并令 kp=ap,p,得到
1
1
1
1
,1,1
1
1
,1,1
1
1
,
)()()()(
)()()()(
)()()()(
p
k
p
k
kpppkp
p
k
pkpppkp
p
k
pkp
f
p
knxapnxkknxanx
pnxkknxakanx
pnxkknxanxne
第三章 自适应数字滤波器将上式与 (3.3.2)式对比，方程式的右边前两项是 p-1阶前向预测误差,即
1
1
,11 )()()(
p
k
kp
f
p knxanxne
(3.3.28)方程式的右边最后一项中,因为 k=1,2,3,…,p-1时,
p-k=p-1,p-2,…,1,方括号部分可以写成
1
1
,1
1
1
,1 )()()()(
p
k
kp
p
k
kpp kpnxapnxknxapnx
将上式右边与 (3.3.16)式对比，该部分就是 n-1时刻 p-1阶的后向预测误差,即
1
1
,11 )()()1(
p
k
kpp
b
p knxapnxne
第三章 自适应数字滤波器这样由 (3.3.28)式，得到前向预测误差的递推公式,即
)1()()( 11 neknene bppfpfp (3.3.29)
类似地，得到后向预测误差的递推公式为
)()1()( 11 neknene fppbpbp (3.3.30)
利用 (3.3.29)式和 (3.3.30)式,组成格型滤波器的第 p节的结构图,如图 3.3.5(a)所示 。
第三章 自适应数字滤波器图 3.3.5 全零点格型滤波器
)( ne
f
p
)( ne
b
p
…
…
z
－ 1
x ( n )
z
－ 1
z
－ 1
e
0
( n
)
e
1
( n
)
b
0
( n
)
b
1
( n
)
k
1
k
1
k
2
k
2
k
p
k
p
z
－ 1
)( ne
f
p
)( ne
b
p
)(
1
ne
f
p?
)(
1
ne
b
p?
k
p
k
p
( a )
( b )
第三章 自适应数字滤波器对于 p=0的情况,按照 (3.3.2)式和 (3.3.11)式,得到
)()()( 00 nxnene bf
整个预测误差格型滤波器的结构如图 3.3.5(b)所示 。 由于没有反馈支路,它是一个全零点格型滤波器 。 经过变形还可得到其他类型,如全极点格型滤波器,全极点横向滤波器,等等
［ 5］ 。
第三章 自适应数字滤波器2,格型滤波器的性质
(1) 各阶后向预测误差相互正交。 用公式表示如下：
jineneE bjbi 0)]()([
设 i＜ j,按照 (3.3.12)式,与 x(n-j+1),x(n-j+2),…,x(n-
i),x(n-i+1),…,x(n)数据正交,但按照 (3.3.16)式,是 x(n-
i),x(n-i+1),…,x(n)的线性组合,因此 与 相互正交 。
各阶后向预测误差相互正交的结果,使滤波器前后级互相解耦,对于系统最小化问题化为一系列独立的对每一级局部最小化问题 。 用作自适应滤波时,各级可选用不同的自适应步长,
使收敛速度提高 。 另外,为提高线性预测性能,需要增加一节或几节,可以只对 新增加的级进行独立的调节,达到输出均方误差最小,无需再调节前面的系数 。
)(nebj
)(nebi
)(nebi )(nebj
第三章 自适应数字滤波器
(2) 平稳随机序列可由自相关函数或反射系数表征 。 按照
Levinson-Durbin递推公式,已知 rxx(0),k1,k2,…,kp,从一阶开始,可以推出全部的预测系数 ap,1,ap,2,…,ap,p和 σ 2p,把得到的这些数据代入 Yule-walker方程,可求得信号的自相关函数
rxx(0),rxx(1),rxx(2),…,rxx(p)。 以上说明平稳随机序列可由自相关函数表征,也可由 rxx(0),k1,k2,…,kp表征 。
(3) 前向预测误差滤波器是最小相位滤波器，即它的全部零点在单位圆内。
第三章 自适应数字滤波器
3,
前向预测误差滤波器的系统函数 He(z)以及前向预测误差公式 和实信号情况一样,仍是 (3.3.4)式和 (3.3.2)式,但利用均方误差最小原则求预测系数要用下式求解：
)(nefp
pk
a
neE
kp
f
p,,3,2,10]|)([|
,
2
(3.3.32)
对于前向预测误差的正交原理，则用下式表示：
pkknxneE fp,,3,2,10)]()([ *
(3.3.33)
Yule-Walker方程仍和 (3.3.8)式一样 。
第三章 自适应数字滤波器后向预测误差和后向预测误差滤波器系统函数分别用下式表示：
pkknxane
p
k
kpp
f
p,,3,2,1)()(
1
*
,
(3.3.34)
1)( * 0,
1
*
,
p
k
p
k
kppb azazH
(3.3.35)
对于后向预测误差的正交原理为
0)]()([ * kpnxneE bp
(3.3.36)
对于复信号的 Levinson-Durbin递推公式为
2
1
1
1
,1 )()(
p
p
k
xxkpxx
p
kprapr
k
(3.3.37)
第三章 自适应数字滤波器
*,1,1,kpppkpkp akaa
k=1,2,3,…,p-1
(3.3.38)
]|)([|)0(
)||1(
22
2
1
22
,
nxEr
k
ak
xxp
ppp
ppp
(3.3.39)
(3.3.40)
(3.3.41)
复信号的全零点格型滤波器预测误差递推公式为
)()1()(
)1()()(
1
*
1
11
neknene
neknene
f
pp
b
p
b
p
b
pp
f
p
f
p
(3.3.42)
(3.3.43)
第三章 自适应数字滤波器图 3.3.6 复信号预测误差全零点格型滤波器
)( ne
f
p
)( ne
b
p
…
…
z
－ 1
x ( n )
z
－ 1
z
－ 1
e
0
( n
)
e
1
( n
)
b
0
( n
)
b
1
( n
)
k
1
k
1
k
2
k
2
k
p
k
p
* * *
第三章 自适应数字滤波器
3.3.3 最小均方误差自适应格型滤波器
P阶格型滤波器由 p节组成,如果前 m节的参数 ki(i=1,2,
3,…,m)为最佳,相应的预测误差功率是最小,而后面的节的参数对前面的最佳参数无影响,因此在 m节的基础上再加一节,
则只需根据使第 m+1节的预测误差功率最小的原则选择 km+1即可 。
预测误差功率有前向预测误差功率和后向预测误差功率,这里采用使前,后向预测误差功率的和为最小的原则求反射系数 。
公式为
0
]))(())([( 22
p
b
p
f
p
k
neneE
(3.3.44)
第三章 自适应数字滤波器将 (3.3.29),(3.3.30)代入上式,可以得到
]))1([]))([
)]1()([2
2
1
2
1
11
neEneE
neneEk
b
p
f
p
b
p
f
p
p
(3.3.45)
实际计算时，上式中的统计平均值用时间平均计算,公式为
]))1([(]))([(
)1()(2
2
1
2
1
11
ieEie
ieie
k
b
p
i
f
p
b
p
i
f
p
p
(3.3.46)
对于复信号情况，公式为
]|)1(||)([|
)1()(2
2
1
2
1
*
11
ieie
ieie
k
b
p
i
f
p
b
p
i
f
p
p
(3.3.47)
第三章 自适应数字滤波器上面两式便是直接利用数据计算反射系数的递推公式 。 下面讨论公式中的求和限问题,如果输入数据为 x(i),i=0,1,2,…,n，
当 p=1时,
i
bf
i
bf
ieie
ieie
k 2
0
2
0
00
1 ))1(())([(
)1()(2
这里
)()()( 00 ixieie bf
因此
i
i
ixix
ixix
k
)]1()([(
)1()(2
221
第三章 自适应数字滤波器上式中,求和限必须限制在已知的输入数据范围内计算,这样求和限应为 i=1,2,3,…,n,计算公式为
n
i
n
i
ixix
ixix
k
1
22
1
1
)1()([
)1()(2
当 p=2时，
i
bf
i
bf
ieie
ieie
k
]))1(())([(
)1()(2
2
1
2
1
11
2
第三章 自适应数字滤波器按照 (3.3.29),(3.3.30)式，得到
)()2()()1()(
)2()()1()()(
10101
10101
ixkixiekieie
ixkixiekieie
fbb
bff
将上面两式带入 公式中,可以计算出,考虑到输入数据的范围,具体计算公式为
2?k 2?k
n
i
bf
n
i
bf
ieie
ieie
k
1
2
1
2
1
2
11
2
]))1(())([(
)1()(2
第三章 自适应数字滤波器再根据,按照 (3.3.29),(3.3.30)式计算 e2(i),b2(i),按照 (3.3.46)式计算,以此类推 。 这样,对于 具体计算公式为
2?k
3?k p
k?
n
pi
b
p
f
p
n
pi
b
p
f
p
p
ieie
ieie
k
]))1(())([(
)1()(2
2
1
2
1
11
(3.3.48)
以上便是直接采用信号数据计算格型滤波器的反射系数以及最小预测误差的方法 。 但这种算法必须从低阶推起,要求较大的存储时,有较大的计算延迟,使应用受到限制 。 下面介绍梯度算法,这种算法可以减少运算量,且适合非平稳情况 。
第三章 自适应数字滤波器自适应格型滤波器的梯度算法中反射系数的计算,类似于自适应横向滤波器中系数的递推算法,公式为
]))(())([()()1( 22 nenenknk bpfpkppp(3.3.49)
式中,μ 仍然是控制收敛速度和收敛的参数； ▽ kp表示对方括弧中的部分求梯度,
)]()()1()([(2
]))(())([(]))(())([(
11
2222
nenenene
nene
k
nene
f
p
b
p
b
p
f
p
b
p
f
p
p
b
p
f
pkp
第三章 自适应数字滤波器将上式代入 (3.3.49)式中,得到
)]()()1()([)()1( 11 nenenenenknk fpbpbpfppp
式中,β =2μ,为步长因子。这部分内容可参考文献［ 5］。
(3.3.50)
第三章 自适应数字滤波器
3.4 最小二乘自适应滤波本节讨论另外一种以误差的平方和最小作为最佳准则的误差准则 ——最小二乘 (Least Square)准则 。
定义
j
jen
2)(?
(3.4.1)
式中,ξ (n)是误差信号的平方和； ej是 j时刻的误差信号，
WXdyde Tjjjjj
第三章 自适应数字滤波器
dj是 j时刻的期望信号,Xj是 j时刻的输入信号构成的向量,
W表示滤波器的权系数构成的向量 。 通过选择 W,使 ξ (n)取得最小值的滤波称为最小二乘 (Least Square,简称 LS)滤波,而满足 E［ e2j］ 取得最小值的滤波称为最小均方误差 (Least
Mean Square,简称 LMS )滤波 。 和 LMS滤波相比,LS滤波对非平稳信号的适应性要强许多,这是由于 LS滤波总是采用新的准则,在每一个时刻对所有已输入信号而言,重新评估使其误差的平方和最小,因此具有更精确的含义,属于精确分析法 。
而 LMS滤波是以集合平均为基础的,属于统计分析的方法 。
第三章 自适应数字滤波器
3.4.1 最小二乘滤波
1,最小二乘的基本问题已知 n个数据 ｛ x(1),x(2),…,x(n)｝,采用 M个权的 FIR
滤波器对数据进行滤波,假设期望信号为 d(i),如图 3.4.1所示 。
滤波器的输出 是对期望信号 d(i)的估计)(?id
nikixiwid
M
k
k,,1,0)1()()(
1
其中,wk(i),k=1,2,…,M,为 FIR滤波器在 i时刻的 M个系数值
(说明滤波器的系数可以变化 ),它是一个 M维的向量,记为
wM(i)=［ w1(i),w2(i),…,wM(i)］ T。 同理,输入信号也是一个 M
维的向量,xM(i)=［ x1(i),x2(i),…,xM(i)］ T。 n时刻,估计误差为第三章 自适应数字滤波器
M
k
k knxnwndndndne
1
)1()()()(?)()( (3.4.2)
误差信号的平方加权和为
i
in ien )()( 2
上式中,由于数据长度有限,对观测区间以外的数据所做的约定不同,当 i的取值范围不同时,得到不同的 ξ (n)。 这里采用前加窗法,约定：
x(i)=0 i＜ 0
得到
)()( 2
1
1 ien
n
i
n?
(3.4.3)
第三章 自适应数字滤波器图 3.4.1 M个权的 FIR滤波器
z
－ 1
z
－ 1
x ( i － 1) x ( i － M ＋ 1 )
z
－ 1
d ( i )
…
x ( i )
－
＋
e ( i )
d ( i )
^
w
1
( i ) w
2
( i ) w
M
( i )
第三章 自适应数字滤波器为了后面叙述方面,引入一些符号 。 令 M维向量 wM(n)和
xM(n)分别表示 n时刻的滤波器的权向量和输入信号向量
T
T
21
)]1(,),1(),([)(
)](,),(),([)(
Mnxnxnxnx
nwnwnwnw
M
MM
当 i=1,2,…,n时,引入 n维误差向量 e(n)和期望信号向量 d
(n),以及输入信号构成的 M× n维矩阵 XM(n)
e(n)=［ e(1),e(2),…,e(n)］ T
d(n)=［ d(1),d2),…,d(n)］ T
XM(n)=［ xM(1),xM(2),…,xM(n)］
(3.4.5a)
(3.4.5b)
(3.4.5a)
第三章 自适应数字滤波器为了后面推导方便，引入 n× M维矩阵 C，定义
TT )](,),2(),1([)( nxxxnXC MMMM (3.4.5b)
应用这些符号，期望信号的估计和估计误差可以表示为
)()()()()()(
)()()()(?
T
T
nCwndnwnXndne
nCwnwnXnd
MMM
MMM
(3.4.6)
(3.4.7)
将 (3.4.7)式代入 (3.4.3)式，得到误差信号能量
)()()()()( T2
1
nenΛneien
n
i
in
第三章 自适应数字滤波器式中
100
00
00
2
1
n
n
Λ
是加权矩阵,对角线上的元素称为加权因子 。 为了推导简单起见,在后面的分析中,取 Λ =I,则
)]()(d[)]()(d[)()()( TT nCwnnCwnnenen MM
(3.4.9)
第三章 自适应数字滤波器要使 ξ (n)取得最小值，满足
0)()( nnM (3.4.10)
成立的 w(n)就是 wM(n)的最小二乘估计,记为 。 应用标量求导公式,计算得到
)(? nwLS
0)](?)([2)( T)( nCndCn Mnw M
(3.4.11)
将 (3.4.5b)式和 (3.4.7)式代入上式，有
0)()(?nenX M (3.4.12)
将 (3.4.11)式展开
)()(? TTT ndCnwCC M? (3.4.13)
第三章 自适应数字滤波器引入 M维向量 pM(n)以及 M× M维矩阵 RM(n)，
n
i
T
MM
T
MMM
M
n
i
MM
ixixnXnXCCnR
ixidndnXndCnp
1
T
1
T
)()()()()(
)()()()()()( (3.4.14)
(3.4.15)
则 (3.4.13)式可以写为
)()(?)( npnwnR MMM? (3.4.16)
可以看出,RM(n)类似于输入信号的自相关特性,pM(n)类似于输入信号与期望信号的互相关特性 。 (3.4.16)式与第二章中的维纳 -霍夫 (Wiener-Hopf)方程相似,不同之处在于维纳 -霍夫方程中的数学期望符号用求和符号所代替 。
第三章 自适应数字滤波器若矩阵 XM(n)的秩等于 M,记做 rank［ XM(n)］ =M,则 XM(n)XMT
(n)非奇异,求解 (3.4.16)式,可以得到 wM(n)的最小二乘估计
wLS(n),
)()()]()([
)(][)()()(?
1
1T1
ndnXnXnX
ndCCCnpnRnw
M
T
MM
T
MMLS
(3.4.17)
若 rank［ XM(n)］＜ M,则 wM(n)
在 (3.4.12)式两边同左乘以,得
T?LSw
0)()](?)([ TT?nenwnX LSM
(3.4.18)
应用 (3.4.6)式，得到
0)()(? T?nend (3.4.19)
第三章 自适应数字滤波器图 3.4.2 最小二乘估计的几何解释
x
m
d ( n )
e ( n )
d ( n )
0
x
1
^
第三章 自适应数字滤波器当 存在时，最小二乘的估计值 为)(? nw
LS )(? nd
)(?)()(? T nwnXnd LSM?
最小二乘估计的误差信号能量 ξ min为
)()(?)()(
)(?)()(?)()(?2)()(
)()()(
TT
TTT
T
m i n
npnwndnd
nwnpnwnpnwndnd
nenen
MLS
LSMLSMLS
(3.4.20)
综合前面的分析，我们可以把最小二乘问题用模型
z=Aθ +n (3.4.21)
第三章 自适应数字滤波器来描述,其中,z是观测信号,n为噪声信号,A可看作一数据矩阵,表征输入与输出之间的关系,θ 是可调整量 。 与前面的分析相对应,参见 (3.4.7)式,n类似于误差信号 e(n),z类似于信号真值 d(n),Aθ 类似于信号的估计值,且 A矩阵与 C矩阵相对应,在数据矩阵 A已经确定的情况下,θ 对 z的最小二乘估计为
)(? nd
zAAALS T1T )(
与图 3.4.2的信号向量相对应,观测信号 z构成的观测值向量与 d(n)相对应,Aθ 与估计向量 相对应,噪声信号 n与图中的估计误差 e(n)相对应 。
)(? nd
第三章 自适应数字滤波器令误差信号能量为 J，并取加权矩阵 Λ =I，则
)()()()( TT AzAzAzAzJ
(3.4.23)
第三章 自适应数字滤波器
2.
假设误差向量 n(k)是独立同分布的,具有零均值,方差为
σ 2,那么,最小二乘估计是无偏估计 ; 若噪声是高斯噪声,
则最小二乘估计是一致估计 。
(1) 无偏性：
][][)(])[(]?[ T1TT1T EnAEAAAzAAAEE LS
(3.4.24)
(2) 一致性：如果噪声是高斯噪声，那么最小二乘参数估计一致收敛,即
1.W,P?lim LSN (3.4.25)
这里,W.P.1表示以概率为 1的收敛。
第三章 自适应数字滤波器证明 首先求解最小二乘估计的协方差,令 表示最小二乘估计的误差,即
LS?~
LSLS?~
那么，当 θ 具有零均值时，最小二乘估计的协方差为
1TTT1T
TT1TTT1T
TTT1TT1T
TTT
)(][)(
}])[())((){
}])][(){ [ (
}{}]?][?{[?c o v
AAAnnEAAA
AAAnAnAAAAE
zAAAzAAAE
EE
LSLSLSLSLS
(3.4.26)
第三章 自适应数字滤波器已知噪声为高斯噪声，则 E［ nnT］ =σ 2I，得到最小二乘估计的协方差为
1
T
2
1T2
1T2
1
lim)(lim]?c o v [lim
)(]?c o v [
AA
NN
AA
AA
NN
LS
N
LS
式中,将以概率 1收敛于一个正定阵,且 σ 2是有界的,
因此
AAN T1
0]?c o v [lim LSN?
最小二乘估计的无偏性已经保证了偏移量为 0,因此,一致性得证 。
前面,所讨论的信号模型都是 MA模型,即最小二乘滤波器用 FIR滤波器实现,若信号是一 ARMA模型,那么怎样来求出信号所对应的最小二乘估计呢? 下面举一例说明 。
第三章 自适应数字滤波器例 3.4.1 已知模型
z(k)+az(k-1)=bx(k-1)+n(k)
其中,n(k)是均值为 0,且与 x(k)不相关的噪声信号,设定 n(k)
是各态遍历的高斯噪声,求 θ LS的最小二乘估计 。
这是一个近似的 ARMA(1,1)模型,其输出信号为 z(k)，
输入信号是 x(k)。 这个模型的近似性表现在不包含当前的输入信号,仅包含前一时刻的输入,并且模型还包括噪声信号 n(k)。
设定 n个观测值构成的观测向量表示为 z［ n］ =［ z(0),z(1),…,
z(n)］ T。
第三章 自适应数字滤波器和一般的最小二乘估计的模型 z=Aθ +n相比,这个问题的关键是如何确定 A矩阵 。 MA模型的输出完全由输入信号所决定,
而 ARMA模型的输出还包括以前时刻的输出对当前输出的反馈,
因此,ARMA模型的 A矩阵应同时包括输出和输入数据 。 针对这个例题所选的模型,可以确定 A矩阵为
)1()1(
)1()1(
)0()0(
NxNz
xz
xz
A
其中,z(i)和 x(i)分别表示 i时刻的观测值和输入值。
第三章 自适应数字滤波器解 根据 (3.4.17)式，计算 1TTT )(,,?AAzAAA
1
0
1
0
2
1
0
1
0
2
T
)()()(
)()()(
)1()1(
)1()1(
)0()0(
)1()1()0(
)1()1()0(
N
k
N
k
N
k
N
k
kxkxkz
kxkzkz
NxNz
xz
xz
Nxxx
Nzzz
AA
第三章 自适应数字滤波器
1
0
1
0T
)1()(
)1()(
)(
)2(
)1(
)1()1()0(
)1()1()0(
N
k
N
k
kzkx
kzkz
Nz
z
z
Nxxx
Nzzz
zA
第三章 自适应数字滤波器
)1(
)1(
)0()0(
)0()0(
)0()0()0(
1
)1()(
1
)1()(
1
)(
1
)()(
1
)()(
1
)(
1
)1()(
)1()(
)()()(
)1()()(
)(
2
1
0
1
0
1
1
0
1
0
2
1
0
1
0
2
1
0
1
0
1
0
1
0
2
1
0
1
0
2
T1T
xx
z
xxx
xxz
xxxz
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
LS
R
R
RR
RR
RRR
kzkx
N
kzkz
N
kx
N
kxkz
N
kxkz
N
kz
N
kzkx
kzkz
kxkxkz
kzkzkz
zAAA?
第三章 自适应数字滤波器其中,Rz表示 z的自相关函数,假设信号具有遍历性,则
,同理,得到 Rx(0),Rxz(0),Rn(1)等 。
考虑 n(k)与 x(k)是统计独立的及 E［ n(k)］ =0,记
Δ =Rz(0)Rx(0)-Rxz2(0),由已知模型关系
1
0
2 )(1)0(
N
k
z kzNR
)0()0()]1()([)1(
)1()0()0()]1()([)1(
00
00
xxzxz
nxzzz
RbRakzkxER
RRbRakzkzER
其中,a0和 b0为参数真值，得到
/)1(
/)1(?
0
0
1.W,P
nxz
nx
N
LS RRb
RRa
第三章 自适应数字滤波器由此可以看出，只有当 n(k)是白噪声时,Rn(1)=0，才能使得
0
0
0
1.W,P
b
a
N
LS
简单地说,所谓的最小二乘估计,是指在每个时刻对所有已输入的信号而言,误差平方和最小 。 最小二乘法的原理简单,
编程也易实现,因此获得了广泛的应用 。
第三章 自适应数字滤波器
3.4.2 递推最小二乘法 (RLS)
递推最小二乘法 (Recursive of Least Square,简称 RLS)
的基本思想就是新的估计值是在老的估计值的基础上修正而成的,为了分析简单,便设 θ 为一向量,且 θ 仅与当前观测值有关,则新的估计值 θ (k)=老的估计值 θ (k-1)+修正项^ ^
因此,最小二乘递推算法的关键是得到修正项的表达式 。 根据最小二乘估计式 (3.4.22),用 a(i)表示第 i步迭代时 A的取值,Ak
表示前 k步 A的数值构成的向量 。
第三章 自适应数字滤波器定义一个变量 P：
11
1
1
T1
1
T1
d e f)()()1(
d e f)()()(
k
T
k
k
i
k
T
k
k
i
AAiaiakP
AAiaiakP
(3.4.29)
其中
T)](,),2(),1([ kaaaA k
那么
1T11T
T1T
1
1
T1
)]()()1([)()(
)()()1()()()()()(
kakakPAAkP
kakakPkakaiaiakP
kk
k
i
(3.4.30)
(3.4.31)
第三章 自适应数字滤波器令观测信号向量为
T
1
T
)]1(,),2(),1([
)](,),2(),1([
kzzzz
kzzzz
k
k
(3.4.32a)
(3.4.32b)
这里,z(j)表示 j
把 (3.4.29)式代入 (3.4.22)式,k-1时刻 θ 的估计值
])()()[1()()1(?
1
1
1
T
1
1
1
T
1?
k
i
kkkkLS iziakPzAAAk?
(3.4.33)
上式两边同时左乘 P-1(k-1)，得
])()([)1(?)1(
1
1
1?
k
i
LS iziakkP?
(3.4.34)
第三章 自适应数字滤波器把 (3.4.33)式和 (3.4.34)式代入 (3.4.22)式,并应用 (3.4.30)式
)]1(?)()()[()()1(?
)()()1(?)]()()()[(
)]()()1(?)1()[(
])()()[()()(?
T
T1
1
1
T1T
kkakzkakPk
kzkakkakakPkP
kzkakkPkP
iziakPzAAAk
LSLS
LS
LS
k
i
kkkkLS
(3.4.35)
第三章 自适应数字滤波器为了进一步得到加权矩阵的表达式，可定义 q(k)
)()()( kakPkq? (3.4.36)
则 (3.4.35)式可以写为
)]1(?)()()[()1(?)(? T kkakzkqkk (3.4.37)
根据矩阵反演公式
1T1T111T )()( ACCACICAACCA
(3.4.38)
第三章 自适应数字滤波器这里,A,C为一个具体数值，代入 (3.4.31)式，得
)1(
1)()1()(
)()()1(
]1)()1()()[1()()()1()1(
)1()()]()1()(1)[()1()1(
)]()()1([)(
T
T
1TT
T1T
1T1
kP
kakPka
kakakP
kakPkakPkakakPkP
kPkakakPkakakPkP
kakakPkP
(3,4.39)
至此，得到了最小二乘递推算法的一种形式：
)1(
)()()()()1(?)(?
1)()1()(
)()()1(
1)(
)1(?)()()(
1T
T1
T
kP
kekakakPkk
kakPka
kakakP
kP
kkakzke
LS
(3,4.40)
第三章 自适应数字滤波器也可以将 (3.4.39)式代入 (3.4.36)式,整理后得
1T ]1)()1()()[()1()( kakPkakakPkq
(3.4.41)
因此可以得到递推最小二乘的另一种形式：
)1()]()(1[)(
]1)()1()()[()1()(
)]1(?)()()[()1(?)(?
T
T
T
kPkakqkP
kakPkakakPkq
kkakzkqkk
(3.4.42)
第三章 自适应数字滤波器
3.4.3 线性向量空间
1,向量空间的基本概念
1)
我们知道,一组数据可以看作是空间中的一个向量,一组向量可以确定一个空间,称为张成一个空间,如二维空间可以由两个向量 x=［ 1,0］ T和 y=［ 0,1］ T所张成,三维空间可以由三个向量 x=［ 1,0,0］ T,y=［ 0,1,0］ T和 z=［ 0,0,1］ T所张成,那么,M维向量空间,可理解为由 M个基本向量 uM(n)所张成 (这里的基本向量是指这些向量相互独立且正交 )。
第三章 自适应数字滤波器
M个基本向量 uM(n)构成一个数据矩阵,记为 U=［ u1(n),
u2(n),…,uM(n)］,那么矩阵 U所张成的空间,记为 {U}。 因此,
一组数据对应于一个向量,一个 (数据 )矩阵对应于一个空间 。
所谓的线性向量空间 ｛ U},是由若干个向量 uM(n)线性组合得到的,空间的维数是指用来张成该空间的最少的向量数 。
通常,我们所研究的向量空间都是希尔伯特空间,它与内积空间有紧密的联系 。 我们首先给出内积空间的定义 。
第三章 自适应数字滤波器
(1) 内积空间 。 若 u(n),v(n),w(n)是空间 {U}中的任意向量,
且 a为任一数,任意两个向量的内积为一个数,并满足下面的性质：
)(),()(),()(),()(
)(),()(),(
])(),()(),(
)()()()()(),(
0)(),(,0)(,0)(),(
1
T
nvnwnvnunvnwnu
nvnuanvnau
nunvnvnu
kvkunvnunvnu
nununununu
n
k
时当且仅当则称 {U}为内积空间。
第三章 自适应数字滤波器
(2) 希尔伯特空间 。 若某空间是一个线性内积空间的完整部分,则称该空间为希尔伯特空间,简称希氏空间 。 所谓的完整,是指不存在这样的向量,可以任意接近该空间但不属于该空间 。
自适应滤波这一章的内容所涉及的空间都是希尔伯特空间,
数学中常用的欧几里德空间也是希尔伯特空间第三章 自适应数字滤波器
2)
(1) 子空间 。 所谓的子空间,是指用少于空间维数的向量所张成的空间 。 如在几何中,X-Y平面是立体 X-Y-Z的一个子空间；
假设由向量 u1(n)=［ u1(1),u1(2),…,u1(n)］ T和 u2(n)=［ u2(1),
u2(2),…,u2(n)］ T分别张成空间 {u1}和 {u2},由向量 u(n)=
［ u1T,u2T ］ T=［ u1(1),u1(2),…,u1(n),u2(1),u2(2),…,u2(n)］ T
张成空间记为 {U},那么 {u1},{u2}都是 {U}的子空间 。
所谓相互正交的两个子空间,是指在这两个子空间上的任意向量 u(n),v(n)的内积都等于 0,即
(3.4.43)
0)(),( nvnu
第三章 自适应数字滤波器
(2) 两子空间之和 。 由空间 {U1}的向量 u1(n)和子空间 {U2}
的向量 u2(n)的所有线性组合所张成的空间称为这两个子空间之和,记为 {U1⊕ U2},简记为 U1U2 。
第三章 自适应数字滤波器
T1,UUUUP U
2.
这里所说的投影的含义与几何中投影的直观含义相同,
M+1维空间中的某一点与原点构成的向量在 M维子空间的投影,
可以用该向量与一加权矩阵相乘来表示,这个加权矩阵称作投影矩阵或投影算子 。 当然,投影矩阵也可以是一个向量 。 具体假设在 n时刻得到的数据向量为 x(n)=［ x(1),x(2),…,
x(n-1),x(n)］ T,U表示一个数据矩阵或数据向量,记为 U,由 U
张成的空间记为 {U},定义
(3.4.44)
称 PU为在 {U}上的投影矩阵或投影算子 。 若 U是一个 M× n维的矩阵,
则 PU是一个 M× M的方阵 。
第三章 自适应数字滤波器投影定理：给定希尔伯特空间中的子空间 {U}和向量 x，
在 {U}中必有唯一向量 PUx,使得在 {U}中的任意向量 y,均满足
0, yxPx U
(3.4.45)
PUx称为 x在 {U}中的投影向量 。 该式可以理解为向量 x-PUx与子空间 {U}正交,或者由该向量张成的一维子空间 {x-PUx}与子空间 {U}正交 。 (3.4.45)式启示我们,在进行空间分解时,可以采用正交分解的方法,使得张成空间所需的向量数目最少 。
一个 M维线性向量空间 {U}可以分解为一组相互正交的子空间 。
第三章 自适应数字滤波器定理,若 {U1},{U2}为希尔伯特空间 {H}中的相互正交的子空间,那么,对 {H}中的任一向量 x,均满足
xPxPxP UUUU 2121 (3.4.46)
即当子空间相互正交时,向量在子空间和上的投影等于在各子空间上投影之和 。
若已知一个向量在某子空间 {U}上的投影矩阵为 PU,则该向量在 {U}的正交子空间上的投影矩阵称为正交投影矩阵,记为
UP
UU PIP
(3.4.47)
第三章 自适应数字滤波器图 3.4.3 所示是投影矩阵和正交投影矩阵的含义,从向量
x在向量 u上的投影和正交投影中可以看出,投影矩阵和正交投影矩阵的实质是一加权向量 。 对于维数较高的子空间,投影矩阵和正交投影矩阵实质上是一加权矩阵 。
第三章 自适应数字滤波器图 3.4.3 投影矩阵和正交投影矩阵
0
x
u
xP
U
x
U
P
第三章 自适应数字滤波器
(1) 幂等性，即
UUU
UUU
PPP
PPP (3.4.48)
(2) 反身性，也称对称性,即
UU
UU
PP
PP
T
T (3.4.49)
(3) 正交性，即
0 UU PP (3.4.50)
第三章 自适应数字滤波器
3,数据向量的扩充及投影矩阵的更新若数据矩阵 U张成的空间是 {U},它的投影矩阵和正交投影矩阵分别为 PU、,当一个新的向量 u增加到 U中时产生一新矩阵,新矩阵记为 (U,u),由 (U,u)所张成的空间为 {U,u},该空间的投影矩阵和正交投影矩阵分别记为 PU,u和,u,那么由于向量 u的增加带来的投影矩阵的变化可以表示为
UP
UP
PU,u=PU+校正项第三章 自适应数字滤波器
PU,u相当于对新数据矩阵 ［ U,u］ 进行分解,其中 PU是原来的投影矩阵,校正项为新的投影矩阵与原投影矩阵的差或称为误差项 。 对 PU,u进行正交分解,可以得到
0,
,
wU
wUuU
P
PPP (3.4.51)
说明 w向量所张成的空间 {W}与 {U}正交 。 一般情况下,{u}与 {U}
不一定正交,即 u≠ w。 因此需要进行的分解就是把向量 u向空间
{U}和与 {U}垂直的空间 {W}上进行投影,换言之,w向量就是向量 u在与 {U}垂直空间上的投影第三章 自适应数字滤波器图 3.4.4 子空间 {U,u}及其等效子空间 {U,w}
U
w
{ U,u } ＝ { U,w }
u
U
wuP?
U
第三章 自适应数字滤波器采用正交分解方法,保证了 {U,u}和 {U,w}包含的信息是一样的 (如图 3.4.4 所示 )。 那么空间 {W}上的投影矩阵 Pw可以计算,即
T1
T1
,
,
uPuPuPuP
wwwwP
UUUU
w
(3.4.53)
利用投影矩阵的反身性,上式可以化简为
UUUw PuuPuuPP T1,
分别用 PU左乘和右乘 (3.4.53)式，可以证明 Pw与 PU满足正交性。
0,
0,
T1
T1
UUUUUw
UUUUwU
PPuuPuuPPP
uPuPuuPPPP
第三章 自适应数字滤波器把前面得到的投影矩阵的变化应用于实际问题中,可以看到,当由数据矩阵 U变为 (U,u),投影矩阵和正交投影矩阵的更新公式为
UUUUUuU
UUUUUuU
PuuPuPuPPP
PuuPuPuPPP
T1
,
T1
,
,
,(3.4.54)
若某一向量 y(n)在 {U}上的投影存在,记为 PUy,当数据矩阵发生变化时,同一向量 y(n)在新空间 {U,u}的投影分别是
yPuuPuPuPyPyP
yPuuPuPuPyPyP
UUUUUuU
UUUUUuU
,,
,,
1
,
1
,
(3.4.55)
第三章 自适应数字滤波器研究自适应滤波器的递推算法,当然要研究输出信号的变化,某时刻滤波器的估计误差及误差信号能量都是标量 。 鉴于标量可以用一广义内积来表示,因此,当空间发生变化时,
标量的更新用投影向量与某一向量内积的变化来表示,这里假设向量 z不变,另一个向量由 PUy变化为 PU,uy,根据内积运算的性质,可以得到标量的更新公式：
yPuuPuPuPzyPzyPz
yPuuPuPuPzyPzyPz
UUUUUuU
UUUUUuU
,,,,,
,,,,,
1
,
1
,
(3.4.56)
第三章 自适应数字滤波器
4,用向量空间法描述最小二乘问题首先介绍怎样由数据向量构造数据矩阵 。 已知一组数据
［ x(1),x(2),…,x(n)］ T构成一个向量 x(n),通过对 x(n)平移,
并在前端添 0,可以构成一系列向量 z-jx(n)(0≤ j＜ n)。 这些向量的组合可构成数据矩阵,由这些数据矩阵分别张成相应的向量空间 。
T
T
)(,),2(),1(,0,,0
)](,),2(),1([)(
jnxxx
jnxjxjxnxz j
第三章 自适应数字滤波器其中，数据矩阵 X1,M(n)和 X0,M-1(n)分别为
)()2()1(
)1()3()2(
0)1()2(
00)1(
000
)](,),(),([)(
21
,1
Mnxnxnx
Mnxnxnx
xx
x
nxznxznxznX
M
M
(3.4.57)
第三章 自适应数字滤波器这里,X1,M(n)是一个 n× M维的矩阵。
)1()1()(
)()2()1(
0)1()3(
00)2(
00)1(
)](,),(),([)(
110
1,0
Mnxnxnx
Mnxnxnx
xx
x
x
nxznxznxznX
M
M
第三章 自适应数字滤波器这里,X0,M-1(n)是一个 n× M维的矩阵 。 根据 X0,M-1(n)的定义,可以得到 X0,M-1(n-1)是一个 (n-1)× M的矩阵,其表达式为
)()2()1(
0)2()3(
0)1()2(
00)1(
)]1(,),1(),1([)1(
110
1,0
Mnxnxnx
xx
xx
x
nxznxznxznX
M
M
第三章 自适应数字滤波器比较上式和 (3.4.57)式,可以看出
)1(
0
)(
1,0
T
,1 nXnX
M
M
M
(3.4.58)
将数据矩阵 X1,M(n)和 X0,M-1(n)张成的向量空间,分别记为
{X1,M(n)},｛ X0,M-1(n)｝ 。
仍用前加窗的方法讨论最小二乘问题 。 参照图 3.4.1,已知数据 ［ x(1),x(2),…,x(n)］ T,依次通过 M个权的 FIR滤波器,
第 i个误差信号为
i
k
k kixiwidie
1
)1()()()(
1≤ i≤ n
第三章 自适应数字滤波器将 n个误差信号全部写出来，得到
)(
)(
)2(
)1(
)1()1()(
)1()1()(
0)1()2(
00)1(
)(
)(
)2(
)1(
)(
)(
)2(
)1(
nw
Mw
w
w
Mnxnxnx
xMxMx
xx
x
nd
Md
d
d
ne
Me
e
e
写成向量的形式
)()()()( 1,0 nwnXndne MM
第三章 自适应数字滤波器根据 (3.4.17)式得到最小二乘意义下,的最佳解及其最佳估计,
)(? nwM
)()()(),()()(
)()()(),()(?
T
1,0
1
1,01,01,0
T
1,0
1
1,01,0
ndnXnXnXnXnd
ndnXnXnXnw
MMMM
MMMM
根据投影矩阵的定义式 (3.4.44),子空间 {X0,M-1(n)}投影矩阵 P0,M-1(n)为
)()(),()()( T 1,011,01,01,01,0 nXnXnXnXNP MMMMM
得到
)()()(? 1,0 ndnPnd M
第三章 自适应数字滤波器
5,抽取参量和角参量
1) 抽取向量 π (n)
抽取向量 π (n)用于提取一个向量最新时刻的分量,也称为单位时间向量,或现时向量,为了书写方便,简写为 π (n)。
π (n)=［ 0,0,…,1］ T (3.4.59)
可以看出,π (n)表征的是当前数据向量的方向,因此可以把数据空间分解为过去与当前两个数据子空间 。 假设一个 n维数据向量 x(n)=［ x(1),x(2),…,x(n)］ T,它的现时分量的值可以表示为 x(n)=〈 π (n),x(n)〉 (3.4.60)
第三章 自适应数字滤波器
π (n)到 π (n)的投影矩阵 Pπ (n)和正交投影矩阵 分别为?
UP
)0,,1,1()()(
)1,,0,0()()(),()()( T1
D ia gnPInP
D ia gnnnnnP
U
(3.4.61)
(3.4.62)
设定 U是一个 n× M维矩阵,取 u=π (n),考虑当 U增加了这样一个列向量后,投影矩阵和正交投影矩阵发生的变化 。 这里,
(U,π (n))是 n × (M+1)维的矩阵,因此 PUπ (n)仍是一个 n× n维的矩阵,将 u的取值代入 (3.4.54)式,得到第三章 自适应数字滤波器
00
0)1(
)()()(
10
0)1(
)()()()(),()()()()(
)1(1
1)1(
)1(1
1)1(
T1
n
nU
UU
n
nU
UUUUUU
nP
nPnInP
nP
nPnnnPnnPnPnPnP
(3.4.63)
(3.4.64)
第三章 自适应数字滤波器
2) 角参量 γ U(n)
我们先给出角参量的定义,然后解释其名称的由来。角参量定义为
)()(),()()( nnPnnPn UUU
根据投影矩阵的反身性
)()(),()( nnPnn UU (3.4.65)
取 U(n)=x(n),
)()(),()( nnPnn xx (3.4.66)
第三章 自适应数字滤波器其中,为 π(n)对 x(n)的正交投影 。 图 3.4.5 画出了子空间 {x(n),π(n)},图中 i,j是该子空间的正交单位矢量 。
这里 θ 为矢量 x(2)和 x(3)之间的夹角,可以看出
)()( nnP x
T
]10[)(
c o s
s i n
c o s)()(
n
nnP
x
计算得到
2co s)(?nx
(3.4.67)
第三章 自适应数字滤波器当子空间 ｛ U(n-1)｝ 变成子空间 ｛ U(n)｝ 时,子空间转了一个角度 θ,角参量 γ U(n)就是这个角度大小的度量,也是
γ U(n)的名称的含义 。 令
)()(),()( 1,0 nnnXnU MUM
则
)()(),()( 1,0 nnPnn MM
θ 为子空间 {X0,M-1(n-1)}变成 {X0,M-1(n)}时的转角 。 并且,将展开,利用 (3.4.58)式,可以证明
)(,1 nP M?
)()()1(,1 nnPn MM
(3.4.68)
第三章 自适应数字滤波器图 3.4.5 子空间中最小二乘参量的角度关系
j
i x ( 3 )
x ( 2 )
( 3 )
)3()3( πP?
x
第三章 自适应数字滤波器
3.4.4 最小二乘格型算法 (LSL)
1,用向量空间法描述前后向线性预测滤波器已知 n个数据组成输入向量 x(n)=［ x(1),x(2),…,x(n)］ T，
送入 M个权的前向预测滤波器,其权向量为
,前向预测估计为
,如图 3.4.6 所示 。
T21 )(,),(),()( nwnwnwnw fMfffM
T)(?,),2(?),1(? nxxx?
由线性系统的基本理论
)()()(?,1 nwnXnx fMM?
(3.4.69)
第三章 自适应数字滤波器图 3.4.6 LS前向线性预测滤波器
z
－ 1
z
－ 1
x ( i － 1) x ( i － 2) x ( i － M )
z
－ 1
…
x ( i )
z
－ 1
…
x ( i )
－
＋
^
)(
1
iw
f
)(
2
iw
f
)( iw
f
M
)( ie
f
M
第三章 自适应数字滤波器应用 (3.4.17)式,得到在最小二乘意义下的 的最佳解和最佳前向预测向量,即
)(nw fM
)(? nx
)()()(),()()()()(?
)()()(),()(
T
,1
1
,1,1,1,1
T
,1
1
,1,1
nxnXnXnXnXnwnXnx
nxnXnXnXnw
MMMM
f
MM
MMM
f
M
(3.4.70)
用 P1,M(n)表示输入数据矩阵张成的空间｛ X1,M(n)｝的投影矩阵，
)()(),()()( T,11,1,1,1,1 nXnXnXnXnP MMMMM
(3.4.71) 最佳估计可以表示为
)()()(?,1 nxxPnx M?
(3.4.72)
第三章 自适应数字滤波器
n时刻的前向预测误差向量和前向预测误差 eMf (n)分别为
T)](,),2(),1([)( neeene fMfMfMfM
)()(),()(),()(
)()()]()[()(?)()(
,1
,1,1
nxnPnnenne
nxnPnPInxnxnxne
M
f
M
f
M
MM
f
M
(3.4.73)
(3.4.74)
同理,当 n个数据组成的输入向量 x(n)=［ x(1),x(2),…,x(n)］ T，
在前加窗法的约定下,送入 M个权的后向预测滤波器,设定该滤波器权向量为,如图
3.4.7 所示 。
T21 )]()(),([)( nwnwnwnw bMbbbM,,
第三章 自适应数字滤波器图 3.4.7 LS后向线性预测滤波器
z
－ 1
z
－ 1
x ( i － 1 )
z
－ 1
…
x ( i )
z
－ 1
…
x ( i － M )
－
＋
^
)(
1
iw
b
)(
2
iw
b
)( iw
b
M
)( ie
b
M
x ( i － M ＋ 1 ) x ( i － M )
第三章 自适应数字滤波器得到在最小二乘意义下的 wMb (n)的最佳解和最佳估计
,即)(? Mnx?
)()()(),()(
)()()(?
)()()(),()(
T
1,01,01,0
1,0
T1
1,01,0
1,0
1,0
nxznXnXnXnX
nwnXMnx
nxznXnXnXnw
M
MMM
b
MM
M
MM
b
M
M
M
(3.4.75)
用 P0,M-1(n)表示输入数据矩阵张成的空间 {X0,M-1(n)}的投影矩阵,
)()(),()()( T 1,011,01,01,01,0 nXnXnXnXnP MMMMM
(3.4.76)
第三章 自适应数字滤波器最佳后向预测向量可以表示为
)()()(? 1,0 nxznPMnx MM (3.4.77)
n时刻的后向预测误差向量 和后向预测误差 分别为
T)](,),2(),1([)( neeene bMbMbMbM
)(nebM
)()(),()(),()(
)()()(?)()(
1,1
1,1
nxznPnnenne
nxznPMnxMnxne
N
M
b
M
b
M
M
M
f
M
(3.4.78)
(3.4.79)
前向预测误差能量
)()(),()()(),()(,1,1 nxnPnxnPnenen MMfMfMfM?
第三章 自适应数字滤波器利用投影矩阵的反身性,得到
)()(),()(,1 nxnPnxn MfM?
同理，后向预测误差能量
)()(),(
)()(),()()(),()(
1,0
1,0,1
nxznPnxz
nxznPnxznPnenen
M
M
M
M
M
M
M
b
M
b
M
b
M?
可以看出,许多参量与投影矩阵密切相关,因此,当数据空间从 n-1变化到 n,参量的更新就涉及到投影矩阵的更新,在得到具体参量的更新公式之前,我们先来证明一个有用的公式,
1,11,11 )()( MMMM znPznPz (3.4.82)
第三章 自适应数字滤波器证明 根据 (3.4.78)式,n-1时刻的后向预测误差向量的最优解为
)()1(
)1()1()1(
1
1,0
1,0
nxznP
nxznPne
M
M
M
M
b
M
(3.4.83)
将正交投影矩阵 展开，并将 (3.4.76)式代入)1(
1,0 nP M
)()1()1(
),1()1()(
)()]1([)1(
1T
1,0
1
1,0
1,01,0
1
1
1,0
nxznXnX
nXnXnxz
nxznPIne
M
MM
MM
M
M
M
b
M
第三章 自适应数字滤波器将 (3.4.75)式代入上式，得到
)1()1()1()1( 1,0 nwnXnxzne bMMMbM
写成矩阵形式为
)1(
)()2()1(
0)1()2(
00)1(
)1(
)1(
0
0
)1(
)2(
)1(
nw
Mnxnxnx
xx
x
Mnx
x
ne
e
e
b
M
b
M
b
M
b
M
第三章 自适应数字滤波器将上面的矩阵扩张，添一行 0，
)1(
)()2()1(
0)1()2(
00)1(
000
)1(
)1(
0
0
)1(
)2(
)1(
0
nw
Mnxnxnx
xx
x
Mnx
x
ne
e
e
b
M
b
M
b
M
b
M
用向量空间法表示上式：
)1()()(
)1()]()()([)(
)1(
0
,1
1
211
nwnXnxz
nwnxznxznxznxz
ne
b
MM
M
b
M
MM
b
M
(3.4.84)
第三章 自适应数字滤波器根据 (3.4.17)式,上式中 的最小二乘解和最小二乘估计的误差向量分别为
)1(?nw bM
)()(
)1(
0
)()()1(?
1
,1
1
,1
nxznP
ne
nxznPnw
M
Mb
M
M
M
b
M
(3.4.85)
由于添 0不会影响 (3.4.84)式的最小二乘解,因此 (3.4.85)
式与 (3.4.83)式相等,
)()1()()( 1,11,1 nxznPnxznP MMMM
第三章 自适应数字滤波器下面来证明
)1()( 1,01,1 nPnP MM
根据数据矩阵的定义及 (3.4.58)式
)1(
0
)()(
10
T
,11,0
1
nX
nXnXz
,M -
M
MM
因此由正交投影矩阵的定义
)()(
)()(),()(
)()(),()(
)1()1(),1()1(
)1()1(
1,01,0
T
1,0
1
1,01,01,0
T
1,0
11
1,0
1
1,0
1
1,0
1
T
1,0
1
1,01,01,0
1,01,1
nPnPI
nXnXnXnXI
nXznXznXznXzI
nXnXnXnXI
nPInP
MM
MMMM
MMMM
MMMM
MM
上式两边同乘 z-M-1，即得 (3.4.8)式。证明完毕。
第三章 自适应数字滤波器
2,前,后向预测滤波器的参数更新首先来看前向预测误差,取 z=π (n),U=X1,M(n),u=z-M-1x(n),
y=x(n),更新后的数据空间及其正交投影矩阵分别为
MU
MUu
M
M
M
PP
PP
nXnxznXuU
,1
1,1
1,1
1
,1
)()(),(},{
(3.4.86)
应用 (3.4.74)式计算前向预测误差,根据 (3.4.56)式及
z,u,U,y的设置,得第三章 自适应数字滤波器
)1(
)(),()1(
)(
)(),()()(),()(),(
)()(),()()(),()(
1
1
,1
1111
1,11,11
n
nenezne
ne
neznxnPnezneznezn
nxnPnnxnPnne
b
M
f
M
b
M
b
Mb
M
b
MM
b
M
b
M
b
M
MM
f
M
(3.4.87)
其中
)()( 1,1 nxznPuP MMU
)()()( 11,01 neznxznPzuP bMMMU
根据 (3.4.82)式和 (3.4.78)式,有应用 (3.4.73)式
)()()(,1 nenxnPyP fMMU
第三章 自适应数字滤波器可以看出,前向预测误差更新的调整因子为
)1(
)(),()( 1
1?
n
neneznK
b
M
f
M
b
Mb
M?
(3.4.88)
同理，可以得出
)(
)(),()(
)1(
)()(),()(
1
1
,01
n
nenezne
ne
nxznPnne
f
M
b
M
b
M
b
Mb
M
M
M
b
M
(3.4.89)
因此，后向预测误差更新的调整因子为
)1(
)(),()( 1
1?
n
neneznK
b
M
f
M
b
Mb
M?
(3.4.90)
第三章 自适应数字滤波器将 (3.4.88)式和 (3.4.90)式分别代入 (3.4.87)式和 (3.4.89)
式,得到前后向预测误差的关系式
)()()1()(
)1()()()(
11
11
nenKnene
nenKnene
f
M
f
M
b
M
b
M
b
M
b
M
f
M
f
M
根据前后向预测误差的递推关系,得到一格型结构的滤波单元,如图 3.4.8(a)所示 。
第三章 自适应数字滤波器图 3.4.8 最小二乘格型 (LSL)
(a) 格型结构单元； (b) 最小二乘格型滤波器
z
－ 1
)( ne
f
M
)( ie
b
M
)(
1
nK
f
M?
)(
1
nK
b
M?
)(
1
ne
f
M?
)(
1
ne
b
M?
( a )
z
－ 1
)(
1
nK
f
)(
1
nK
b
z
－ 1
)(
2
nK
f
)(
2
nK
b
z
－ 1
)( nK
f
M
)( nK
b
M
)()()(
00
nenenx
bf
)( ne
f
M
)( ne
b
M
…
…
)(
2
ne
f
)(
2
ne
b
)(
1
ne
f
)(
1
ne
b
( b )
第三章 自适应数字滤波器
(3.4.88)式和 (3.4.90)式都有一个相同的因式,表征前后向预测误差的相关特性,称为偏相关系数,记为
)(),()( 11 nenezn fMbMM (3.4.92)
将偏相关系数代入前、后向预测误差的递推关系式 (3.4.87)
和 (3.4.89)中,得到
)(
)()(
)()(
)1(
)()1(
)()(
1
1
1
1
n
nne
nene
n
nne
nene
f
M
M
f
Mb
M
b
M
b
M
M
b
Mf
M
f
M
(3.4.93a)
(3.4.93b)
第三章 自适应数字滤波器下面来看前向预测误差能量的更新 。 根据 (3.4.80)式,
得到前向预测误差能量的表达式
)()(),()( 1,11 nxnPnxn MfM?
(3.4.94)
取 z=y=x(n),U=X1,M(n),u=z-M-1x(n),应用标量更新公式
(3.4.56),计算得到
)1(
)()()( 2 1
1?
n
nnn
b
M
Mf
M
f
M
(3.4.95)
同理,取 z=y=z-M-1x(n),U=X1,M(n),u=x(n),得到后向预测误差能量的更新公式
)(
)()1()( 2 1
1 n
nnn
f
M
Mb
M
b
M
(3.4.96)
第三章 自适应数字滤波器根据偏向关系数的定义 (3.4.92)式,我们来证明：
)1(
)1()()1()(
11?
n
nenenn
M
b
M
f
M
MM?
(3.4.97)
其中 γM(n-1)是角度参数,表示角参量的现时分量,其定义参见
(3.4.68)式 。
取 y=z-M-1x(n),z=x(n),U=X1,M(n),u=π(n),这样,
第三章 自适应数字滤波器
)1()()(),(,,
)()()(),(
)()(),(,,
)()()(),(,,
)()()(),(,
)1()()(),(,
1,1
1
1,0
1
1
,1
,1
1
1
,1
1
1
,,1
,,1
nnnPnuPuuPuP
neznxznPzn
nxznPnyPuyuP
nenxnPnzPuuPz
nnxznPnxyPz
nnxznPnxyPz
PP
MMUUU
b
M
M
M
M
MUU
f
MMUU
M
M
MU
M
M
MUu
MU
u
第三章 自适应数字滤波器代入标量投影更新公式 (3.4.56),得到
)1(
)1()()()1(
11?
n
nenenn
M
b
M
f
M
MM?
由 (3.4.97)式可以看出,偏相关系数的更新转化为角参数的更新,取 u=z-M-1x(n),U=X1,M(n),y=z=π(n),代入标量更新公式
(3.4.56),可以得到角度参数的更新公式
)1(
)]1([)1()1( 2
1?
n
nenn
b
M
b
M
MM
(3.4.98)
第三章 自适应数字滤波器
3,LSL滤波器的算法将前面的分析综合起来,可以得到 LS格型滤波器的算法,
假设格型滤波器共有 P级 。
初始化
,)0()0(,1)0(,0)0()0( bMfMMMbMe
δ 为一个小的正数给向量赋值 (n=1 to n)
1)(),()1()()(),()0()0( 0200000 nnxnnnnxee fbfbf
第三章 自适应数字滤波器当 0≤ M≤ P-1时,按下面的顺序计算：
)1(
)1(
)1()1(
)(
)(
)1()(
)1(
)(
)()(
)(
)()(
)1()(
)1(
)()1(
)()(
)1(
)1()(
)1()(
2
1
2
1
1
2
1
1
1
1
1
1
11
n
ne
nn
n
n
nn
n
n
nn
n
nne
nene
n
nne
nene
n
nene
nn
b
M
b
M
MM
f
M
Mb
M
b
M
b
M
Mf
M
f
M
f
M
M
f
Mb
M
b
M
b
M
M
b
Mf
M
f
M
M
b
M
f
M
MM
(3.4.97)
(3.4.93a)
(3.4.93b)
(3.4.95)
(3.4.96)
(3.4.98)
第三章 自适应数字滤波器
3.4.5 快速横向滤波算法 (FTF算法 )
1,快速横向滤波器的向量空间表示
1) 横向滤波器 wM(n)
设定输入信号为 x(n)=［ x(1),x(2),…,x(n)］ T,期望信号为
d(n)=［ d(1),d(2),…,d(n)］ T,当 x(n)通过横向滤波器 wM(n)，
得到的输出信号为
)()()(?
)](,),2(),1([)(?
1,0
T
nwnXnd
ndddnd
M
(3.4.99)
式中
)](,),(),([)( 1101,0 nxznxznxznX MM
(3.4.100)
第三章 自适应数字滤波器估计误差 e(n|n)=［ e(1|n),e(2|n),…,e(n|n)］ T表示根据 n时刻的横向滤波器权向量 wM(n)估计所得的误差向量,e(n|n-1)表示根据 n-1时刻的权向量 w M(n-1)估计所得的误差向量,
e(n|n-1)表示根据 n-1时刻的权向量 wM(n-1)估计所得的误差
)1()()()1|(
)1()()()1|(
)()()()(?)()|(
T
1,0
1,0
nwnXndnne
nwnXndnne
nwnXndndndnne
M
MM
MM
(3.4.101)
在最小二乘意义下，应用 (3.4.17)式,得到横向滤波器的最佳解和最佳估计为第三章 自适应数字滤波器
)()()(),()()(?
)()()(),()(
)()()]()([)(
T
1,0
1
1,01,01,0
T
1,0
1
1,01,01,0
T
1,0
1
1,0
T
1,0
ndnXnXnXnXnd
ndnXnXnXnX
ndnXnXnXnw
MMMM
MMMM
MMMM
为了后面叙述方便,引入横向滤波算子,也称作横向滤波器的投影矩阵 。 对于一个一般的数据矩阵 U,横向滤波算子定义为
T1,UUUK U
可以看出,横向滤波算子实际上就是 U矩阵的左逆矩阵,当 U
为 M× n维矩阵时,KU为 n× M维矩阵 。 与 (3.4.44)式比较,得到横向滤波算子 KU与投影矩阵 [PU的关系为
UU UKP?
(3.4.103)
第三章 自适应数字滤波器当 U=X0,M-1(n)时，对应的横向滤波算子为
)()(),()( T 1,011,01,01,0 nXnXnXnK MMMM
(3.4.104)
因此横向滤波器的最佳解 wM(n)和最佳估计 d(n)为^
)()()()()()(?
)()()(
1,01,01,0
1,0
ndnPndnKnXnd
ndnKnw
MMM
MM
最佳估计误差向量 e(n|n)和 n时刻的最佳估计误差 e(n|n)为
)()(),()|(),()|(
)()()()]([)(?)()|(
1,0
1,01,0
ndnPnnnennne
ndnPndnPIndndnne
M
MM
(3.4.105)
(3.4.106)
(3.4.107)
第三章 自适应数字滤波器
2) 前向线性预测滤波器 fM(n)
设定前向线性预测滤波器的权向量 fM(n)=［ f1(n),f2(n),…,
fM(n)］ T,输入信号为 x(n)=［ x(n-1),x(n-2),…,x(n-M)］ T,通过前向线性预测滤波器 fM(n)的输出为
,n时刻的前向预测误差向量为 ef(n|n)=［ ef(1|n),ef(2|n),…,ef(n|n)］ T,根据 3.4.4节的分析结果,得到在最小二乘的意义下,fM(n)的最佳解和最佳估计向量 分别为
T)](?,),2(?),1(?[)(? Mnxnxnxnx
)(? nx
)()()(?
)()()()()(),()(
,1
,1
T
,1
1
,1,1
nxnPnx
nxnKnxnXnXnXnf
M
MMMMM
(3.4.108)
(3.4.109)
第三章 自适应数字滤波器其中
)](,),(),([)(
)()(),()()(
21
,1
T
,1
1
,1,1,1,1
nxznxznxznX
nXnXnXnXnP
M
M
MMMMM
(3.4.110)
(3.4.111)
最佳预测误差向量 ef［ n|n］和 n时刻的最佳预测误差 ef(n|n),
)()(),()|(),()|(
)()()(?)()|(
,1
,1
nxnPnnnennne
nxnPnxnxnne
M
ff
M
f
(3.4.112)
(3.4.113)
根据前向线性预测滤波器的输入输出关系,n时刻的前向线性预测误差 ef(n|n)也可以写成
)()()(
)()()1()()()|(
T
1
nfnxnx
Mnxnfnxnfnxnne
M
M
f
(3.4.114)
第三章 自适应数字滤波器这里
)](,),1([)(T Mnxnxnx
前向预测误差能量
)()(),()()(),()(
)|(),|()(
,1,1,1 nxnPnxnxnPnxnP
nnennen
MMM
fff?
(3.4.115)
第三章 自适应数字滤波器
3) 后向线性预测滤波器 bM(n)
设定后向线性预测滤波器的权向量 bM(n)=［ b1(n),b2(n),…,
bM(n)］ T,输入信号为 x(n-M)=［ x(n-1),x(n-2),…,x(n-M)］ T，
通过后向线性预测滤波器 bM(n)的输出为
,eb(n|n)表示根据 n
时刻的后向线性预测滤波器的权向量 bM(n)估计所测得的误差向量,且 eb(n|n)=［ eb(1|n),eb(2|n),…,eb(n|n)］ T。 eb(n|n-1)表示根据
n-1时刻的后向线性预测滤波器的权向量 bM(n-1)估计所得的误差向量,那么
T)](?,),2(?),1(?[)(? MnxnxnxMnx
)1()()()1|(
)()()()|(
T
T
nbnxMnxnne
nbnxMnxnne
M
b
M
b
(3.4.116a)
(3.4.116b)
第三章 自适应数字滤波器同理,推导得到在最小二乘意义下,bM(n)的最佳解和最佳估计 分别为
)(? Mnx?
)()()(?
)()()(
1,0
1,0
nxznPMnx
nxznKnb
M
M
M
MM
(3.4.117)
(3.4.118)
其中
)()(),()(
)()(),()()(
)](,),(),([)(
T
1,0
1
1,01,01,0
T
1,0
1
1,01,01,01,0
110
1,0
nXnXnXnK
nXnXnXnXnP
nxznxznxznX
MMMM
MMMMM
M
M?
(3.4.119)
第三章 自适应数字滤波器最佳预测误差向量 eb(n|n),eb(n|n-1)和 n时刻的最佳预测误差
eb(n|n)为
)()(),()|(),()|(
)()()(?)()|(
1,0
1,0
nxznPnnnennne
nxznPMnxMnxnne
M
M
bb
M
M
b
后向预测误差能量为
)()(),(
)()(),()(
)|(),|()(
1,0
1,01,0
nxznPnxz
nxznPnxznP
nnennen
M
M
M
M
M
M
M
bbb
(3.4.122)
第三章 自适应数字滤波器
4) 增益滤波器 gM(n)
增益滤波器,更确切地讲是关于角参量的滤波器,当时间从 n-1变为 n时,数据矩阵所张成的空间发生了变化,这个变化的实质是空间的角度发生了变化,转角的大小可以用该空间的投影矩阵的变化来描述,如图 3.4.9 所示 。 图中所示的数据空间为一维的情况,即 x(n)=x(n)。
计算 π (n)在 x(n)上的投影 。 设定投影算子为 Px(n),投影所得为 Px(n)π(n)。 因为投影在 x(n)上,所以可写成 g(n)x(n),g(n)表示增益系数,即
x(n)g(n)=Px(n)π(n) (3.4.123)
第三章 自适应数字滤波器图 3.4.9 单一系数情况下最佳 LS增益滤波器的构造
( n )
x ( n )
x ( n )? ( n )
x ( n － 1 )
g ( n ) x ( n )
e
( n )
e
( n )? ( n )
第三章 自适应数字滤波器推广到 M维情况，用 gM(n)表示增益向量，可以得到
)()()()( 1,01,0 nnPngnX MMM
(3.4.124)
在 (3.4.121)式两边同时左乘 )(
1 1,0 nX M
)()(
)()()(),()(
1,0
T
1,0
1
1,01,0
nnK
nnXnXnXng
M
MMMM
(3.4.125)
在 n-1时刻，得到
)1()1()1( 1,0 nnKng MM?(3.4.126)
下面证明
)()()1(,1 nnKng MM
第三章 自适应数字滤波器证明 将 (3.4.58)式代入横向滤波算子的展开式中
)]1(00[
)1(
0
,
)1(
0
)()(),()(
T
1,0
1
1,0
T
1,0
T
T
,1
1
,1,1,1
n
nXnX
nXnXnXnK
MM
M
M
M
M
MMMM
将内积逆的计算，放入矩阵当中
)]1(,0[
)]1(
)1(
0
,
)1(
0
,0)(
1,0
T
1,0
1
1,0
T
1,0
T
,1
nK
nX
nXnX
nK
M
M
MM
M
第三章 自适应数字滤波器于是
)1()1()1(
)1(π
0
)]1(,0)()(
1,0
1,0,1
ngnnK
n
nKnnK
MM
MM
证明完毕。
第三章 自适应数字滤波器再来看图 3.4.9,π(n)向 x(n)投影,投影落在 x(n)上,因此这个投影的大小 g(n)x(n)可以看作是 x(n)对 π (n)的最小二乘估计 。
同理,对应于 M维情况,投影大小为 X0,M-1(n)gM(n),估计误差向量为
)()()()()()( 1,01,0 nnPnnPnne MM (3.4.127)
根据角参量的定义式 (3.4.66),可以知道,n时刻的估计误差等于该时刻的角参量
)()()(),()( 1,0 nnnPnne MM
计算 γ M(n)，首先内积运算满足结合律
)()()(),(1
)()]([),()()(),()(
1,01,0
1,01,0
nnKnXn
nnPInnnPnn
MM
MMM
第三章 自适应数字滤波器又根据投影矩阵与横向滤波算子的关系及 (3.4.121)式,有
)()(),(π1
)()(),(π1)(
1,0
1,0
ngnXn
nnPnn
MM
MM (3.4.128a)
类似地，对应一个向量，有
)()(1)( T ngnxn MMM
综合 (3.4.105),(3.4.108),(3.4.117)式和 (3.4.125)
式,可以看出,参量的更新与横向滤波算子的更新密切相关 。
在推导 FTF算法之前,先来推导横向滤波算子的更新公式 。
第三章 自适应数字滤波器
2,横向滤波器算子的更新假设数据矩阵 U张成的空间记为 {U},所对应的横向滤波算子和投影矩阵分别为 KU和 PU,当数据矩阵由 U变为 (U,u)时,张成的空间记为 {U,u},对应的横向滤波算子和投影矩阵分别为 KUu
和 PUu。 对于子空间来说,{U,u}={u,U},但对应于数据矩阵 U,
u)和 (u,U)来讲,它们是不相同的 。 首先研究对于子空间 {U,u}，
横向滤波算子 KUu的更新 。
为了后面分析简单,假设 u为 n× 1维,U为 n× M维,则 (U,u)
的维数为 n× (M+1),这样 KUu和 PUu的维数分别为 (M+1)× n和
n× n。
第三章 自适应数字滤波器将 PUu的更新公式 (3.4.54)代入 KUuPUu的计算式中,可以得到
UUUUUuUUuUuUu PuuPuPuPKPKPK T1,
(3.4.129)
应用横向算子的定义式 (3.4.103)及投影算子的定义式 (3.4.44)，有
T1
T1
),(),(),,(),(
),(),(),,(
uUuUuUuUK
uUuUuUK
Uu
Uu
(3.4.130)
(3.4.131)
可以得到
IuUK
KuUuUuUuUuUuUuUPK
Uu
UuUuUu
),(
),(),(),,(),(),(),(),,( T1T1(3.4.132)
(3.4.133)
第三章 自适应数字滤波器将 (3.4.133)式写成矩阵形式
10
0
),(
T
1
1
M
MMM
Uu
I
uUK (3.4.134)
得到
1
0
0
1
T
1
M
Uu
M
MM
Uu
uK
I
UK (3.4.135)
(3.4.136)
第三章 自适应数字滤波器分别计算 KUuPU和,并代入 (3.4.135)式和
(3.4.136)式，得到
uPK UUu?
T
1
T
1
T1
00
,
M
U
U
M
MM
UuUUu
K
K
I
UUUUKPK
(3.4.137)
101
0
0
)(
T
1
1
T
1
uKuK
u
K
uKuPIKuPK
U
M
UM
M
U
UuUUuUUu
(3.4.138)
第三章 自适应数字滤波器将 (3.4.137)式和 (3.4.132)式代入 (3.4.129)式,得到横向滤波算子 KUu的更新公式
UUU
U
M
U
UUU
U
M
U
Uu
PuuPuP
uKK
PuuPuP
uKK
K
T1
T
1
T1
T
1
,
10
,
10
(3.4.139)
第三章 自适应数字滤波器
UUU
UU
M
UUU
UU
M
uU
PuuPuP
uKK
PuuPuP
uKK
K
T1
T
1
T1
T
1
,
10
,
10
对应于子空间 {u,U},具体的推导思路相同,得到横向滤波算子 KuU的更新公式
(3.4.140)
当取 u=π(n),U=X0,M-1(n),(U,u)为 n× (M+1)维矩阵,即对应于子空间 {U,u},列出相应的横向滤波算子,投影矩阵等参量的表达式
)}(),({)}(),(,),(),({},{ 1,0)1(1 nnXnnxznxznxuU MM
(3.4.141)
第三章 自适应数字滤波器
)(
)(
,1,0,,
,1,0,,
nPKP
nKKK
MUuU
MUuU
(3.4.142)
(3.4.143)
应用 (3.4.56)式和 (3.4.136)式,可以得到下面两式：
1)1(
0)1(
)(
10
0)1(
)(
T
1,1,0
,1,0
T
1)1(
1)1(,1,0
,1,0
ny
nK
nK
nP
nP
MM
M
n
nM
M
(3.4.144)
(3.4.145)
这里,yT(n-1)表示一个 1× n维向量。
第三章 自适应数字滤波器选择相同的 u和 U,对应子空间 ｛ u,U｝,其空间表达式和横向滤波算子分别为
)(),()}(,),(),(),({},{ 1,0)1(1 nXnnxznxznxnUu MM
(3.4.146)
1)1(
0)1(
)( 1,1,,1
nb
nK
nK
T
MM
M?
(3.4.147)
这里,bT(n-1)表示一个 1× n维向量。
第三章 自适应数字滤波器
3,横向滤波器的时间更新
1) 横向滤波器 wM(n)
根据横向滤波器的表达式 (3.4.105)，取 U=X0,M-1(n),u=π(n)，
则 KUu(n)=K0,M-1(n),计算 KUu(n),应用 (3.4.139)式,得到
)(
)(),(
1
)(
0
)(
)( 1,01,0,1,0
n
nPnngnK
nK
M
MMM
M?
(3.4.147)
其中
)(),(,1,01,0 nPnPuPuP MMUU
第三章 自适应数字滤波器根据投影矩阵的反身性及 (3.4.65)式,有
)()()(
)()(),(,
1,0
1,0
ngnnKuK
nnPnuPuP
MMU
MMUU
(3.4.149)
(3.4.150)
用 d(n)右乘 (3.4.145)式，并将 (3.4.148)式代入，则
)(
)()(),(
1
)(
)(
0
)(
)(
)1(
1)1(
0)1(
)(
1,01,0
T
11,0
,1,0
n
ndnPnng
nd
nK
nd
nd
ny
nK
ndK
M
MMM
MM
M
(3.4.151)
第三章 自适应数字滤波器取 (3.4.151)式中的第一行
)(
)()(),()()()()1()1( 1,0
,1,0,1,0 n
ndnPnngndnKndnK
M
M
MMM?
将 (3.4.105)式和 (3.4.107)式代入上式，得到 wM(n)的更新公式
)()( )|()1()( ngnnnenwnw M
M
MM
可以看出,要得到 n时刻的 wM(n)的更新,需要知道 n-1时刻的 wM(n-1)以及 n时刻的 e(n|n),γM(n),gM(n)。 下面推导增益滤波器 gM(n)的更新公式 。
第三章 自适应数字滤波器
2) 增益滤波器 gM(n)更新增益滤波器 gM(n)的更新分两步,第一步由前向预测误差的更新结果及 gM(n-1)获得 gM+1(n),第二步由后向预测误差的更新结果和 gM+1(n)获得 gM (n) 。 首先来看第一步 。
取 U=X1,M(n),u=x(n),使得 {u,U}={X0,M(n)},KuU(n)=K0,M(n)，
应用 (3.4.140)式,计算 KuU(n)
)(
)()(
)()(
1
)(
0
)()()(),()(
)(
1
)(
0
)(
,1
T
,1,1
T
1
,1
T1
,1,1
,1,1
T
1
,0
n
nPnx
nxnKnK
nPxnxnPnxnP
nxKnK
nK
f
M
MM
M
MMM
MM
M
M
(3.4.153)
第三章 自适应数字滤波器其中，根据 (3.4.115)式
)()()(),()(,1,1 nnxnPnxnP fMM
应用正交投影算子的反身性及 (3.4.112)式
)|()()()()(,1,1T nnenxnPnPnx fMM
用 π (n)右乘 (3.4.153)式，得
)(
)|(
)()(
1
)(
)(
0
)()(
,1,1
T
1
,0 n
nne
nxnK
n
nK
nnK f
f
MM
M
M
(3.4.154)
第三章 自适应数字滤波器根据 (3.4.125)式,K0,M(n)π(n)是 M+1阶最小二乘估计的增益滤波器,记为 gM+1(n)。 对 gM+1(n)分块,mM(n)是 gM+1(n)的前 M个分量,m(n)为 gM+1(n)的第 M+1个分量,
)(
1
)(
)|(
)1(
0
)(
)(
)(1
nfn
nne
ngnm
nm
ng
M
f
f
M
M
M?
(3.4.155)
根据 (3.4.155)式可以看到,利用前向预测滤波器的更新结果及增益滤波器 gM(n-1) 获得 gM+1(n),而我们需要的是 gM(n-
1)→ gM(n),因此需要继续处理,这就是第二步过程 。
第三章 自适应数字滤波器取 U=X0,M-1(n),u=z-Mx(n),{U,u}={X0,M(n)},KuU(n)=K0,M(n)，
采用相同的推导过程,计算 KUu(n)。
1
)()(
0
)(
)( 1,0
T
1
1,0
,0
nxznKnK
nK
M
M
M
M
M
)(
)(),(
1
)(
0
)(
)(),()()(),()(
1,0
T
1
1,0
1,0
1
1,01,0
n
nPnxznbnK
nPnxznxznPnxznP
b
M
M
M
M
M
M
MM
M
M
M
(3.4.156)
第三章 自适应数字滤波器用 π (n)右乘，并代入 (3.4.155)式
)(
)(
)|(
1
)(
0
)(
)(
)(
1 ng
n
nnenbng
nm
nm
M
b
b
MMM
(3.4.157)
根据 (3.4.157)式，可以得到
)()()()(
)(
)|(
)(
nbnmnmng
n
nne
nm
MMM
b
b
(3.4.158)
(3.4.159)
第三章 自适应数字滤波器综合前面的分析结果,可以得到增益滤波器 gM(n)的更新公式,小结如下：
)()1 5 5.4.3()(),(),|(),(
)()1 5 5.4.3()1(),(),(),|(
1
1
ngngnnnenb
ngngnfneee
MM
bb
M
MMM
ff
式式
可以看出,增益滤波器的更新利用了前向线性预测滤波器和后向线性预测滤波器的更新结果 。 下面我们来推导前,后向预测滤波器的更新 。
第三章 自适应数字滤波器
3) 前向线性预测滤波器 fM(n)
根据前向线性预测滤波器 fM(n)(式 (3.4.108))的表达式,取
U=X1,M(n),u=π(n),则 KUu(n)=K1,M,π(n),应用 (3.4.139)式计算
KUu(n),得到
)1(
)(),(
1
)1(
0
)(
)(,1,1,,1
n
nPnngnK
nK
M
MMM
M?
(3.4.160) 其中，根据 (3.4.126)式，有
)1()()(),()()(),(
)1()()(
1,0
1
,1
,1
nnnPznnnPn
ngnnKK
MMM
MMUu
(3.4.161)
(3.4.162)
第三章 自适应数字滤波器用向量 x(n)右乘 (3.4.160)式，有
)1(
)()(),(
1
)1(
)(
0
)(
)(
)1(
1)1(
0)1(
,1,1
1,1
n
nxnPnng
nx
nK
nx
nx
nb
nK
M
MMM
T
MM
(3.4.163)
取 (3.4.163)式中的第一行,并应用 (3.4.108)式，得到
)1(
)1(
)|()1()(?
ng
n
nnenfnf
M
M
f
MM?(3.4.164)
第三章 自适应数字滤波器设定,ef(n|n)表示利用 n时刻的前向线性预测滤波器 fM(n),预测得到的前向预测误差,
前面已经得到
)](,),2(),1([)1(T Mnxnxnxnx M
)()1()(
)()()1()()()|(
T
1
nfnxnx
Mnxnfnxnfnxnne
MM
M
f
(3.4.114)
定义 ef(n|n-1)为利用 n-1时刻的前向线性预测滤波器 fM(n-1)，
预测得到的前向预测误差,则
)1()1()()1|( T nfnxnxnne MMf
(3.4.165)
第三章 自适应数字滤波器将 (3.4.164)式和 (3.4.165)式代入 (3.4.114)式,得到
)1()1()1( )|()1|()|( T ngnxn nnennenne MM
M
f
ff
整理上式，得到
)1|(
)1(
)1()1(1)|(
nne
n
ngnxnne f
M
M
T
Mf
(3.4.166)
利用 (3.4.128b)式，可以将 (3.4.166)式写成
)1|()1()|( nnennne fMf?
(3.4.167)
第三章 自适应数字滤波器最后看前向预测误差能量 ξf(n)的更新,取 z=y=x(n),U=X1,M(n)，
u=π(n),则根据 (3.4.115)式及 z,y,u,U的取值,并将 (3.4.74)式代入,并应用 (3.4.167)式的结论,得到
)1|()|()1(
)1(
)|()1()( 2
nnennenn
nnenn fff
M
f
ff?
(3.4.168)
因此,由 (3.4.164),(3.4.167)式和 (3.4.168)式,得到了所需要的前向预测误差参量的更新公式 。
第三章 自适应数字滤波器
4) 后向线性预测滤波器 bM(n)
根据后向线性预测滤波器 bM(n)的表达式,取 U=X0,M-1(n),
u=π(n),KUu(n)=K0,M-1,π(n),计算 KUu(n),并用向量 z-Mx(n)右乘
KUu(n),得到
)(
)|()()1()(
n
nnengnbnb
M
b
MMM
(3.4.169)
根据后向预测误差的定义 (3.4.116)式，
)1()()()1|(
)()()()|(
nbnxMnxnne
nbnxMnxnne
M
T
M
b
M
T
M
b
第三章 自适应数字滤波器在后向线性预测滤波器 bM(n)的更新公式 (3.4.169)两边左乘 xMT (n),得到
)(
)|()(),()1|()|(
n
nnengnxnnenne
M
b
MM
bb
(3.4.170)
并利用角参量的定义式 (3.4.128b)，得到
)1|()()|( nnennne bMb? (3.4.171)
将 (3.4.171)式代入 (3.4.169)式，得到
)1|()()1()( nnengnbnb bMMM
(3.4.172)
第三章 自适应数字滤波器最后,看后向预测误差能量的更新,根据后向预测误差能量的表达式 (3.4.119),取 z=y=z-Mx(n),U=X0,M-1(n),u=π(n),与
(3.4.168)式的推导类似,可以得出
)(
)]|([)1()( 2
n
nnenn
M
b
bb
(3.4.173)
将 (3.4.171)式代入 (3.4.173)式，则
)1|()|()1()( nnennenn bbbb (3.4.174)
第三章 自适应数字滤波器
4,角度参数 γM(n)的更新角参量的更新 γM(n)与增益滤波器 gM(n)的更新方法相同,分两步得到递推公式,第一步由 γM(n-1)到 γM+1(n)的更新,第二步由
γM+1(n)到 γM(n)的更新 。
首先,将增益滤波器 gM(n)的更新公式 (3.4.155)代入 〈 xM+1(n),
gM+1(n)〉 的计算中,这里 xM+1(n)=［ x(n),x(n-1),…,x(n-M)］ T，
对 xM+1(n)进行分块,xM+1(n)=［ x(n),x(n)T］,且
)](,),2(),1([)( Mnxnxnxnx
)(
1
)(
)|(
)1(
0,)](),([)(),( T
11 nfn
nne
ngnxnxngnx Mf
f
M
MM?
第三章 自适应数字滤波器根据内积运算满足结合律,上式可以写为
)]()()([)( )|()1(),()(),( T11 nfnxnxn nnengnxngnx Mf
f
MMM
将 (3.4.114)式代入上式,得
)(
)|()1(),1()(),( 2
11 n
nnengnxngnx
f
f
MMMM (3.4.175)
将上式代入 (3.4.128b)式,得到
)(
)|()1()( 2
1 n
nnenn
f
f
MM
(3.4.176)
第三章 自适应数字滤波器由 (3.4.168)式得到
)(
)1()1()1(
)(
)|( 2
n
nnn
n
nne
f
f
M
Mf
f
(3.4.177)
由 (3.4.176)式和 (3.4.177)式消去 ef(n|n)，得到
)(
)1()1()(
1 n
nnn
f
f
MM?
(3.4.178)
由 (3.4.178)式得到了 γM+1(n)与 γM(n-1)的递推关系,而我们需要的是 γM(n)与 γM(n-1)的递推关系,因此,在第二步递推中,将数据向量 xM+1(n)分块成,这里,xM(n)=
［ x(n),x(n-1),…,x(n-M+1)］ T,再采用相同的方法计算 〈 x M+1(n),
gM+1(n)〉,得到
T1 )](),([)( Mnxnxnx TMTM
第三章 自适应数字滤波器
)(
)|()()( 2
1 n
nnenn
b
b
MM
(3.4.179)
代入 (3.4.173)式，得到
)1(
)()()(
1 n
nnn
b
b
MM?
(3.4.180)
因此,根据前向预测误差能量 ξf(n)和 γM(n-1),应用 (3.4.178)
式,得到 γM+1(n); 根据后向预测误差能量 ξb(n)和 γM+1(n),应用
(3.4.180)式,得到 γM(n)。
第三章 自适应数字滤波器也可以采用另外一种方法,不需要计算 n时刻的 ξb(n)值,用
(3.4.174)式除以 ξb(n),再求倒数,代入 (3.4.158)式,得到
1
1
)]1|()(1[
)(
)1|()|(1
)1(
)(
nnenm
n
nnenne
n
n b
b
bb
b
b
将上式代入 (3.4.180)式
)()]1|()(1[)( 11 nnnenmn MbM (3.4.181)
至此,我们把 FTF算法中的所有参量的更新公式都得到了,
整个算法称为基本 FTF算法,还有许多其他改进的 FTF算法 。
第三章 自适应数字滤波器
5.快速横向滤波器的算法初始化：
bM(0)=fM(0)=wM(0)=gM(0)=0
γM(0)=1.0; ξb(0)=ξf(0)=δ
其中,δ 为很小的正数。
第三章 自适应数字滤波器对 n=1,2,…,按下面的顺序计算：
)(
1
)(
)|(
)1(
0
)(
)(
)(
)1(
)1()(
)1(
)1(
)|(
)1()(
)1|()|()1()(
)1|()1()|(
)1()1()()1|(
1
nfn
nne
ngnm
nm
n
n
nn
ng
n
nne
nfnf
nnennenn
nnennne
nfnxnxnne
M
f
f
M
M
f
f
MM
m
M
f
MM
ffff
f
M
f
M
T
M
f
(3.4.165)
(3.4.167)
(3.4.168)
(3.4.164)
(3.4.178)
(3.4.155)
第三章 自适应数字滤波器
)1|()()1()(
)1()()()1|(
)1|()()1()(
)(
)(
)]1()()([)(
)1|()|()1()(
)1|()()|(
)()]1|()(1[)(
)1()()()1|(
T
1
1
1
nnengnwnw
nwnxndnne
nnengnbnb
n
n
nbnmnmng
nnennenn
nnennne
nnnenmn
nbnxMnxnne
MMM
M
b
MMM
M
M
MMM
bbbb
b
M
b
M
b
M
M
T
M
b
(3.4.116b)
(3.4.181)
(3.4.171)
(3.4.174)
(3.4.182)
(3.4.172)
(3.4.101)
(3.4.183)
第三章 自适应数字滤波器
3.5 自适应滤波的应用
3.5.1 自适应对消
1.对消原理假设自适应噪声对消系统的原始输入端用 dj表示,dj=sj+n0,n0
是要抵消的噪声,并且与 s不相关,参考输入端用 xj表示,这里
xj =n1。 n1是与 n0相关,与 s不相关的噪声信号,系统的输出用 z
表示,zj=dj-yj,如图 3.5.1所示 。 其中,滤波器的传输函数可以根据某一信号 （ 这里为系统的输出信号 ） 自动调整,假定 s,n0,
n1是零均值的平稳随机过程
jjjjj ynsydz 0
（ 3.5.1）
第三章 自适应数字滤波器图 3.5.1 自适应对消系统信号源噪声源自适应滤波器原始输入系统输出参考输入
x
j
＝ n
1
d
j
＝ s
j
＋ n
0 ＋
－
y
j
Z
j
第三章 自适应数字滤波器输出信号的均方值
)]([2])[(
])[(])[(][
0
2
0
2
2
0
22
jjjj
jjjjj
ynsEynEsE
ynsEydEzE
(3.5.2)
由于 s与 n0,n1不相关，因此 s与 yj也不相关，则
])[(][][ 2022 jjj ynesEzE (3.5.3)
E［ sj2］ 表示信号的功率 。 由上面的表达式可以看出,要使输出信号只包含有用信号,或者输出信号的均方值为最小,就要求 E［ (n0-yj)2］ 取得最小值,由 （ 3.5.1） 式推出等价的条件就是要求 E［ (zj-sj)2］ 取得最小值,即要求输出信号与有用信号的误差的均方值为最小 。
第三章 自适应数字滤波器
2,性能分析单信道噪声对消器的性能,可以用输出端信噪比与原始输入端的信噪比来评价,该比值称为系统的增益 G。
图 3.5.2是我们所要研究的自适应噪声对消系统 。 可以看出,
在原始输入端,输入信号为 d(n)=s(n)+n(n)+m0(n),参考输入端的信号为 x(n)=m1(n)+n(n) * h(n),系统的输出为 ε(n),假定 s(n)
与 n(n),m0(n),m1(n)均不相关,所有信号都是实信号,当自适应过程收敛时,其稳态解为维纳解,因此自适应滤波器的传输函数
)(
)()(
opt zP
zPzW
xx
xd?
其中，输入端的功率谱 )(|)(|)()(
112 zmPmzHzPzP nnxx
第三章 自适应数字滤波器图 3.5.2 自适应对消系统的性能分析
∑ ∑ ∑
H ( z ) ∑ W
*
( z )
s ( n )
n ( n )
m
0
( n )
m
1
( n )
x ( n )
d ( n )
( n )
y ( n )
＋
＋
＋
＋
＋
＋
＋
－
第三章 自适应数字滤波器若已知噪声 m0(n)与 m1(n)不相关，那么参考端与原始输入端的互相关函数
))]()()())(()()([(
)]()([)(
01 mnnmnmmnsnmnhnnE
mndnxEmr xd
应用相关卷积定理，计算互相关函数和互谱密度
)()()()(
)()()()()(
0
0
mhmrmhmr
mrmrmrmrmr
nnnm
hnnhnmxd
（ 3.5.4）
)()()()()( 110 zHzPzHzPzP nnnmxd （ 3.5.5）
第三章 自适应数字滤波器自适应对消器的传输函数
)(|)(|)(
)()()()()(
11
0
2
11
zPzHzP
zHzPzHzPzW
mmnn
nmnn
opt?
（ 3.5.6）
只有当参考输入端的加性噪声 m1为 0,且 n(n)与 m0(n)不相关时,。
用 pri,out,ref分别表示原始输入端,输出端,参考输出端的信号,噪声抵消前,原始输入端的噪声功率谱为
)(
1)(
opt zHzW?
)()()]([ 00p r i zPzPzP mmnnnn （ 3.5.7）
第三章 自适应数字滤波器
22optout |)()(1|)(|)(|)()()]([
1100 zWzHzPzWzPzPzP optnnmmmmnn
噪声抵消后，输出端噪声功率谱为
(3.5.8) 令
2
|)(|)(
)(
)(
)(
)(
)(
11
00
zHzP
zP
zC
zP
zP
zB
nn
mm
nn
mm
（ 3.5.9）
（ 3.5.10）
并且假定 n(n)与 m0(n)不相关,则第三章 自适应数字滤波器
)()()()(
)](1)][(1[
1)(
)(
)(
)(1
1)(
)(
)()()(
1)(
1
1)(
|1)(|)(
)(
)()]([
)](1)[()]([
]1)()[(
1
)(
2
2o u t
p r i
o p t
11
00
zCzBzCzB
zCzB
zC
zC
zB
zB
G
zC
zC
zPzBzP
zC
zP
zCzH
zP
zPzP
zBzPzP
zCzH
zW
nnnn
nn
mm
mmnn
nnnn
（ 3.5.11）
（ 3.5.12）
（ 3.5.13）
（ 3.5.14）
第三章 自适应数字滤波器图 3.5.3 参考输入中有信号分量的自适应噪声抵消器
∑
AF
∑
∑
s ( n )
v ( n ) H ( z )
G ( z )
d ( n )
x ( n )
y ( n )
e ( n )
原始输入端参考输入端第三章 自适应数字滤波器当有信号分量泄漏到参考输入中时,如图 3.5.3所示,噪声的抵消能力可以通过比较输入端的信噪比,参考输入端的信噪比及输出端的信噪比数值大小来评价,
输入端的信噪比为
)(
)(
p r i zP
zP
vv
ss （ 3.5.15）
参考输入端的信噪比为
2
2
r e f |)(|)(
|)(|)(
zHzP
zGzP
vv
ss （ 3.5.16）
输出端的信噪比为
2
opt
2
opt
r e f |)()(1|)(
|)()(1|)(
zWzHzP
zWzGzP
vv
ss
（ 3.5.17）
第三章 自适应数字滤波器参考输入端的总功率为
22 |)(|)(|)(|)()( zHzPzGzPzP vvssxx （ 3.5.18）
参考输入端与原始输入端的互功率为
)()()()()( 11 zHzPzGzPzP vvssxd （ 3.5.19）
这样,一个自适应对消器的稳态解为
22
11
|)(|)(|)(|)(
)()()()(
)(
)()(
zHzPzGzP
zHzPzGzP
zP
zPzW
vvss
vvss
xx
xd
o p t?
（ 3.5.20）
第三章 自适应数字滤波器
3,应用
1) 消除心电图中的电源干扰在心电图记录中,市电干扰是常见的问题,引起市电干扰的原因是多种多样的,如电磁感应,导线或人体的位移电流等等 。 克服干扰的常用办法是良好的接地,用带电屏蔽导线等,比较好的方法是采用自适应滤波,
即将有电源干扰的心电图信号作为抵消器的原始输入信号,
将电源信号作为参考信号,就可在输出端获得消除了电源干扰的心电图信号 。 图 3.5.4(a)是未经滤波记录到的心电图,
可以看出,小幅度的信号几乎淹没在噪声中,难以识别 ; 图
3.5.4(b)为自适应对消器的参考输入信号；图 3.5.4(c)为滤波后的结果,在图上,心电信号的细微信息可以辨认出来 。
第三章 自适应数字滤波器图 3.5.4
(a) 原始输入； (b) 参考输入； (c) 噪声对消输出
( a )
( b )
( c )
自适应完自适应开始第三章 自适应数字滤波器
2)
监测胎儿心音,需要将母亲的心音及背景干扰去除 。 母亲的心音强度通常是胎儿心音的 2倍到 10倍,肌肉活动及胎儿运动产生的背景干扰也常常大于胎儿心音的强度 。 可以采用自适应对消的方法来监护胎儿心电图 。 将母亲胸部的信号作为参考输入,主要包括母亲心音和背景噪声,也有胎儿的心音信号,如图 3.5.5(a)所示；从母亲腹部取出的信号作为原始输入,包括母亲心音,胎儿心音和背景干扰,如图 3.5.5(b)
所示,可以看出,这个系统是一个有信号分量泄漏到参考输入端的自适应对消系统 。 对消后的输出如图 3.5.5(c)所示,
可以看到,母体的心电信号的强度小于胎儿的心电信号,并且胎儿的心电信号比较清楚 。
第三章 自适应数字滤波器图 3.5.5
（ a） 胸部导联心电（参考输入）；（ b） 腹部导联的心电（原始输入）；
(c) 自适应对消器的输出
( a )
( b )
( c )
母体胎儿母体胎儿第三章 自适应数字滤波器
3)
可将靠近所需要的讲话人的扩音器的输出送至原始输入端,
而将远离讲话人而靠近干扰源 （ 其他人的讲话 ） 的扩音器的输出送至参考输入端,则在抵消器的输出端可以提取消除了干扰的讲话 。
第三章 自适应数字滤波器
4)
假定干扰的来向已定,首先将天线阵的主瓣对准拟接受的信号来源,此时,从点干扰源来的干扰通过天线方向图旁瓣与信号一起进入接收机,将它作为自适应抵消器的原始输入 。 然后,取天线阵中的若干根,组成的方向图正好在信号的入射方向有一个零响应谷点,这个组合只能得到干扰而得不到信号 。 于是,将后一组合的输出作为参考输入,根据抵消器的原理,就达到抑制干扰的目的 。
第三章 自适应数字滤波器
3.5.2 自适应陷波器 （ NF）
作为自适应对消器的一个应用,当需要抵消掉的噪声是单色干扰 （ 即单一频率的正弦波干扰 ） 时,这样的系统称为自适应陷波器 ( Notch Filter,简称 NF),又称为点阻滤波器 。 自适应陷波器能够自动跟踪干扰频率,消噪能力强,并且容易控制带宽 。
要消掉单色干扰,需要在参考输入端输入同频率的正弦干扰,
并且需要两个权系数的自适应滤波器,分别跟踪干扰的相位和幅度的变化 。 在图 3.5.6中,任意信号与单频率的干扰叠加后,
送入原始输入端,故经过采样后,d(n)=s(n)+cos(ω0nT),参考输入端是一个单频率的正弦信号,经过采样后送到 x1(n)和 x2(n)端,
后者经过一个 90° 相移,系统中有两个权系数,使得组合后的正弦波的振幅和相角都可以调整,达到与原始输入端的干扰分量相同的目的,实现对消 。 具体的工作原理见图 3.5.6。
第三章 自适应数字滤波器图 3.5.6 自适应单频率噪声抵消器
90
L M S 算法
°
原始输入参考输入
s ( t ) ＋ c o s?
0
t
C c o s (?
0
t ＋? )
采样
x
1
( n )
x
2
( n )
w
1
( n )
w
2
( n )
d ( n ) e ( n )
第三章 自适应数字滤波器为分析自适应陷波器性能,下面仍以均方误差最小作为最佳准则,求其稳态时的传输函数 。 假设输入信号为 d(n),输出信号为 e(n),自适应滤波器的输出之和为 y(n),它们的 Z变换分别为 D(z),E(z)和 Y(z)。 图中开关代表对连续信号的采样,
设采样间隔为 T,系统的原始输入端信号为
d(n)=s(n)+cos(ω 0nT) （ 3.5.21）
参考输入端的 x1(n)和 x2(n)为
)eeee(
2
)s i n ()(
)eeee(
2
)c o s ()(
00
00
02
01
TjnjTjnj
TjnjTjnj
j
C
nTCnx
C
nTCnx
（ 3.5.22）
（ 3.5.23）
第三章 自适应数字滤波器误差信号为
2
1
)()()()()()(
i
ii nxnwndnyndne
（ 3.5.24）
两个自适应滤波器的输出为
TnjjTnjj
TnjjTnjj
nw
C
nxnwny
nw
C
nxnwny
00
00
ee)(
j2
)()()(
ee)(
2
)()()(
2222
1111
（ 3.5.25）
（ 3.5.26）
应用 LMS迭代方法，更新权向量在 n+1时刻的取值为第三章 自适应数字滤波器
)eeee(
)(
)(
)()(2)()1(
)eeee)(()(
)()(2)()1(
00
00
2
222
1
111
TjnjTjnj
TjnjTjnj
j
neC
nw
nxnenwnw
neCnw
nxnenwnw
（ 3.5.27）
（ 3.5.28）
设定 e(n)的 Z变换为 E(z),根据 Z变换的性质,的 Z变换为,对 （ 3.5.27） 式和 （ 3.5.28） 式作 Z变换
Tnjn 0e)(e?
)e( 0 TjnE
1
)]e(e)e(e[
)(
1
)]e(e)e(e[
)(
00
00
jj-j-j
2
j-j-jj
1
z
zEzEC
zW
z
zEzEC
zW
TT
TT
（ 3.5.29）
（ 3.5.30）
第三章 自适应数字滤波器对 （ 3.5.25 ）,（ 3.5.26 ） 式 分别作 Z 变换,并将
（ 3.5.29）,（ 3.5.30） 式代入
1e
)(e)e(e
e
1e
)(e)e(e
e
2
)]e(e)(e[
2
)(
0
0
0
0
00
jj-
j-
j-j
j
2
1
j-
1
j
1
Tj
Tj
Tj
Tj
TjTj
z
zEzE
z
zEzEC
zWzeW
C
zY
(3.5.31)
1e
)e(e)(e
e
1e
)(e)e(e
e
2
)]e(e)(e[
j2
)(
0
0
0
0
00
2j
j-
j-2j
j
2
2
j-
2
j
2
Tj
Tjj
Tj
Tj
TjTj
z
zEzE
z
zEzEC
zWzeW
C
zY
(3.5.32)
第三章 自适应数字滤波器
1c o s2
)(]2c o s2[
1e
)(
1e
)(
)()()(
0
2
0
2
2
21
00
Tzz
zETzC
z
zE
z
zE
CzYzYzY
TjTj
(3.5.33)
自适应陷波器的传输函数为
)21()1(c o s2
1c o s2
)()(
)(
)(
)(d e f)(
22
0
2
0
2
CCTzz
Tzz
zYzE
zE
zD
zEzW
(3.5.34)
第三章 自适应数字滤波器下面我们来分析自适应陷波器的幅频和相频特性 。 由
（ 3.5.34） 式得到自适应陷波器的零极点图 (图 3.5.7),两个零点为
Tz 0j
0 e
（ 3.5.35）
由 |z0|=1,可以知道零点位于单位圆上。两个极点为
2/1
0
2222
0
2
2/12
0
222
0
2
]c o s)1()21[(c o s)1(
)]21(c o s)1[(c o s)1(
TCCjTC
CTCTCz p
（ 3.5.36）
第三章 自适应数字滤波器图 3.5.7 陷波器的零极点图半功率点单位圆
z
01
z
02
z
p 1
z
p 2
C
0
T? ＝ 0
＝－?
0
2
第三章 自适应数字滤波器用极坐标的形式表示极点的位置,其模和相位分别为
2/12 )21(|| Cz p
（ 3.5.37）
2/12
0
2
)21(
c o s)1(
||
]R e [c o s
C
TC
z
zar
p
p
p?
（ 3.5.38）
当 μ C2<<1 时，得到极点的极坐标近似表示式
T
Cz
p
p
0
21||
（ 3.5.39）
（ 3.5.40）
第三章 自适应数字滤波器比较 （ 3.5.35） 式和 （ 3.5.40） 式可以看到,零点和极点具有相同的辐角,而在半径方向上相距 μC2。 见图 3.57所示,因此,
μC2减小,可以使陷波器的带宽减小 。 当 Μc2<<1时,求得 3 dB
带宽为
22 CBW
(rad) （ 3.5.41）
因此可以通过改变 μ C2来调节 3 dB带宽,使陷波器的缺口的肩部可以任意窄 。 在 ω=ω 0时,陷波器的幅频响应为 0,陷波的深度理论上为无穷大,当干扰频率作慢变化时,由于参考干扰源同样在变化,因此可以准确地跟踪陷波频率 。
第三章 自适应数字滤波器若要求消除 n个频率的干扰,将参考输入扩充为 n个,每一个参考输入都用两个权来调节振幅和相位,从而可以实现多频率陷波 。
若 ω0=0,这时的陷波器是为了消除零点飘移,由于直流信号相位为 0,因此只需要一个权来调整幅度即可,这时陷波器的最佳传输函数为
)21()1(2
12)(
222
2
CCzz
zzzW
o p t
（ 3.5.42）
第三章 自适应数字滤波器
3.5.3 自适应逆滤波在数字传输系统中,接收到的信号要受到噪声干扰,信道衰落的影响,加上信道的码间干扰,使得接收的信号与实际发送的信号并不完全一致 。 为了提高接收的准确性,把整个信道看作是系统,让系统的输出再通过一个滤波器 （ 如图 3.5.8
所示 ）,该滤波器称为均衡器,用以补偿信道干扰的影响,
使得接收到的信号与发送的信号完全一致 。
第三章 自适应数字滤波器图 3.5.8 自适应均衡器信道脉冲响应
( t )
均衡器
w k
x ( t )
v ( t )
y ( t )
t ＝ k? t?
n
n tnts )Δ(?
第三章 自适应数字滤波器这样,就要求均衡器与信道的特性正好相反,即均衡器的单位脉冲响应与信道冲击响应的取样值的卷积为一个常数,就可以保证收发信息的一致性 。 我们知道,信道受诸多因素的影响,信道的传输特性很难用数学表达式来表示或者根本就不能完全确定 。 要求均衡器与信道的传输特性严格匹配,就是要求均衡器随着信道的传输特性的改变而变化,即均衡器具有自适应的功能,是信道的逆系统 。
假设观测信号 x(n)是由输入信号 s(n)通过对系统 h(n)激励而得到的,即 x(n)=s(n) * h(n),要得到输入信号 s(n)就需要解卷积 。
因此,自适应均衡和解卷积都可以归结为求逆系统 。
第三章 自适应数字滤波器待模拟的系统在控制系统中称为被控系统 （ Plant,简称为系统或未知系统 ） 。 下面利用自适应的方法求逆系统,误差准则仍为均方误差最小,即自适应滤波器的输出是未知系统输入的最小均方匹配,其原理如图 3.5.9（ a） 所示 。
在图 3.5.9（ a） 中,原始输入端 dk=sk,自适应逆系统的输入信号,即参考输入端 xk=sk * pk+nk,pk表示被控系统的单位脉冲响应,通过调整自适应逆系统的权系数,使得 E［ ε2k］ 最小,
使得被控系统与自适应系统互为逆系统,达到辨识被控系统的目的 。
第三章 自适应数字滤波器图 3.5.9
(a) 无延迟的； (b) 有延迟的被控系统 逆模型
＋
＋
＋
－
系统噪声输入
s
k
x
k
n
k
y
k
d
k
k
( a )
被控系统 延迟逆模型 H ( z )
＋
＋
＋
－
系统噪声输入
s
k
x
k
n
k
y
k
d
k
k
Z
－?
延迟
( b )
第三章 自适应数字滤波器实际所用的逆滤波如图 3.5.9（ b） 所示,其与图 3.5.9（ a）
的区别在于有一个时延单元,这个时延单元常常是有用的,
并且是非常重要的 。 这是因为如果被控系统对信号有时延特性,
就要求它的逆系统有超前特性,而超前的系统是非因果的,
是不能实现的 。 加入时延后,如果 Δ 大于或等于被控系统的时延,就不再要求自适应滤波器有超前的特性,这是一点 。 另外,
如果被控系统是一个非最小相位系统,如一个零点在单位圆外,
那么它的逆系统将有一个极点在单位圆外,因此其逆系统要么是一个非因果的稳定系统,要么是一个因果的不稳定系统 。
仅考虑非因果的稳定系统,假定它的单位脉冲响应如图 3.5.10
（ a） 所示,加入足够大的时延,则所要求解的逆系统的单位脉冲响应如图 3.5.10（ b） 所示,因此非因果的逆系统通过延时及截断处理,可以用 FIR滤波器逼近实现 。
第三章 自适应数字滤波器图 3.5.10 自适应逆系统的 FIR
(a) 在单位圆外有一个极点的逆滤波器的冲激响应 h(-)(n)
(b) 经过时延 Δ的 h(-)(n)特性
0 n n0
h
( － )
( n )
h ( － )( n ) ＝ h ( － )( n －? )
第三章 自适应数字滤波器这里,自适应逆系统的稳态解是维纳解,下面我们来求解图 3.5.9（ b） 中自适应逆系统的最佳权向量 。 假设系统噪声与信号是独立的,则输入功率为
)(|)(|)()( 2 zPzPzPzP nnssxx （ 3.5.43）
d端与 x端的互功率谱为
)()()()()( zPzGzPzGzP ssdddx? （ 3.5.44）
其中,G(z)表示 d到 x的传输函数,G(z)=zΔ P(z),
)()(
)()()()(
1
111
zPzPz
zPzPzzPzP
ss
ssdxxd
（ 3.5.45）
第三章 自适应数字滤波器
)(|)(|)(
)()(
)(
)()(
2
1
o p t zPzPzP
zPzPz
zP
zPzW
nnss
ss
xx
xd
（ 3.5.46）
对 （ 3.5.46） 式,只要滤波器长度足够大,选择适当的延时,那么逆系统可以用一个因果的 FIR滤波器来逼近 。 考虑一个特殊的情况,没有噪声时,最佳传输函数为
)()(o p t zP
zzW （ 3.5.47）
逆系统的传输函数是被控系统传输函数的倒数级联时延为
Δ 的延时器 。 可以证明,在这种情况下,最小均方误差将为 0。
第三章 自适应数字滤波器若输入信号是单位功率的白噪声,则有 Pss(z)=1,噪声 nk
为一有色噪声,其功率谱
Pnn(z)=pP(z)P(z-1)
这时，逆系统的最佳传输函数为
)()1()()()()(
)()()(
12
1
o p t zPp
z
zPzpPzPzP
zPzPzzW
ss
ss
由 （ 3.5.49） 式可以看出,当噪声存在并且具有 （ 3.5.48）
式所示的有理谱时,得到的逆系统与无噪声的带有延时的逆系统相差一个标量因子 1/(1+p)。 若噪声的形式不同,得到的
Wopt(z)是不同的,计算得到的最小均方误差也不同,表明最小均方误差对噪声是敏感的,因此在很多实际环境下,系统噪声有可能使得逆系统变得无效 。
第三章 自适应数字滤波器
3.5.4 预测及信号分离在某些情况下,宽带信号混进了周期干扰,例如播放磁带时存在的,兹兹,声,机车的马达声,接收的地震信号等,其干扰信号具有周期性的特点 。 要抵消掉这些干扰信号就要求参考信号不含有用信号成分,这类干扰的抵消可以采用图 3.5.11
所示的自适应信号分离器来实现 。
经过一固定的延时线,直接把原始输入引到参考输入端 。
当然,所选的延时必须足够长,使得参考输入中的宽带信号分量与原始输入中的宽带干扰分量不相关,而周期信号由于其周期性,仍然彼此相关,从而可以把周期干扰对消掉 。 这样,在系统的输出端留下了不可预测的宽带信号,在自适应滤波器的输出端得到的是周期信号,实现了宽带信号与周期信号的分离 。
第三章 自适应数字滤波器图 3.5.11 自适应信号分离器自适应滤波器z
－?
＋
－
宽带干扰周期信号 宽带干扰周期信号延时第三章 自适应数字滤波器图 3.5.11中,在自适应滤波器达到稳态后,把自适应滤波器的权系数直接复制到延时单元的输入端,那么,在其输出端就可以获得延时 Δ 后的信号值,因此,可以认为延时器和自适应滤波器构成了一个自适应预测器,用以去掉原始输入中的可预测分量,即周期性的干扰信号,如图 3.5.12所示 。
第三章 自适应数字滤波器图 3.5.12 自适应预测
z
－ k
AF
1
AF
2
s ( n ) d ( n )
y ( n )
e ( n )
s ( n )
＋
－
s ( n － k )
参数复制
s ( n ＋ k )
^
第三章 自适应数字滤波器自适应信号分离器的另一应用是作谱线增强器用 。 在很多实际应用中,经常遇到的一个检测问题,就是找出噪声中的低电平正弦波,如图 3.5.13所示 。 这样的系统不仅可以用于检测一个正弦波,同时也可以用于检测多个正弦波 。 这里我们只讨论噪声单一低电平正弦波的检测问题 。
第三章 自适应数字滤波器图 3.5.13 信号分离与谱线增强
z
－?
自适应滤波器
D F T权系数值滤波器传递函数
＋
－ y ( n )
( n )x ( n )
第三章 自适应数字滤波器输入信号为白噪声加一正弦波,白噪声 n(k)均值为 0，方差为
)()s i n ()( 111 knkakx (3.5.50)
若正弦信号的初始相位服从均匀分布,则
knkr snxx 12 12 c o s)()( (3.5.51)
式中，,为正弦信号的功率。2/2
121 as
假设自适应滤波器是 FIR 滤波器,权向量为 W=
［ w1,w2,…,wL］ T,对于自适应谱线增强器,稳态解为维纳解,
xdxx PRW 1o p t
(3.5.52)
第三章 自适应数字滤波器其中
)0()2()1(
)2()0()0(
)1()1()0(
xxxxxx
xxxxxx
xxxxxx
xx
rLrLr
Lrrr
Lrrr
R
T)]1(,),1(),([ LrrrR xxxxxxxd?
(3.5.53)
(3.5.54)
(3.5.52)式可以通过 Yule-Walker方程求解得到。
第三章 自适应数字滤波器自适应谱线增强器的传递函数为 1-W0(ω),根据线性预测谱的理论,可以用 取得最大值时的位置估计正弦波频率 ω0。
对于理想的自适应谱线增强器,横向滤波器的输出应与原始输入端的正弦波的幅度和相位相同 。 在 ω=ω0时,W0(ω)=1，
在其它频率上,W0(ω)应等于 0。 可以看出,自适应横向滤波器成为一个增益等于 1的带通滤波器,即在频域呈现谱线增强性能 。
2
0 |)(1|
1
W?
第三章 自适应数字滤波器在自适应滤波器的应用当中,都涉及到选择滤波器的长度问题 。 一般来讲,滤波器的最佳长度与输入信号的统计特性有关 。 在均方误差最小的准则下,假设自适应滤波器是用有限长度的横向滤波器来实现的,失调量是与滤波器的长度成正比的,
而且滤波器的长度还影响收敛的步长因子,因此在设计滤波器时,应综合考虑快速收敛,失调量及谱分辨率等因素 。
3.1 引言
3.2 自适应横向滤波器
3.3 自适应格型滤波器
3.4 最小二乘自适应滤波
3.5 自适应滤波的应用第三章 自适应数字滤波器
3.1 引 言自适应数字滤波器和维纳滤波器一样,都是符合某种准则的最佳滤波器 。 维纳滤波器的参数是固定的,适用于平稳随机信号的最佳滤波,但要设计这种滤波器,必须要求输入信号是平稳的,且具有信号和噪声统计分布规律的先验知识 。 在实际中,常常无法知道这些先验知识,且统计特性还会变化,因此实现最佳滤波是困难的 。
第三章 自适应数字滤波器自适应滤波器的特点是：滤波器的参数可以自动地按照某种准则调整到最佳滤波；实现时不需要任何关于信号和噪声的先验统计知识,尤其当输入统计特性变化时,自适应滤波器都能调整自身的参数来满足最佳滤波的需要 。 常常将这种输入统计特性未知,调整自身的参数到最佳的过程称为,学习过程,。
将输入信号统计特性变化时,调整自身的参数到最佳的过程称为,跟踪过程,,因此自适应滤波器具有学习和跟踪的性能 。
由于自适应滤波器有这些特点,自 1967年威德诺 (B.Widrow)等人提出自适应滤波器以来,在短短十几年中,自适应滤波器发展很快,已广泛地用于系统模型识别,通信信道的自适应均衡,
雷达与声纳的波束形成,减少或消除心电图中的周期干扰,噪声中信号的检测,跟踪,增强和线性预测等 。
第三章 自适应数字滤波器
3.2 自适应横向滤波器自适应滤波器的原理框图如图 3.2.1所示,图中 x(n)称为输入信号,y(n)是输出信号,d(n)称为期望信号,或者称为参考信号,训练信号,e(n)是误差信号 。 其中
e(n)=d(n)-y(n)
自适应滤波器 H(z)的系数根据误差信号,通过一定的自适应算法,不断地进行改变,使输出 y(n)最接近期望信号 d(n)。 这里暂时假定 d(n)是可以利用的,实际中,d(n)要根据具体情况进行选取,能够选到一个合适的信号作为期望信号,是设计自适应滤波器的一项有创意的工作 。 如果真正的 d(n)可以获得,
我们将不需要做任何自适应滤波器 。
第三章 自适应数字滤波器图 3.2.1 自适应滤波器原理图
H ( z )
y ( n )x ( n )
d ( n )
e ( n )
＋
－
第三章 自适应数字滤波器
3.2.1 自适应线性组合器和自适应 FIR
1,自适应滤波器的矩阵表示式图 3.2.2 表示的是一个有 N个权系数的自适应线性组合器,
图中 N个权系数 w1,w2,…,wN受误差信号 ej的自适应控制 。 对于固定的权系数,输出 yj是输入信号 x1j,x2j,…,xNj的线性组合,因此称它为线性组合器 。 这里的 x1j,x2j,…,xNj可以理解为是从 N个不同的信号源到达的瞬时输入,是一个多输入系统,也可以是同一个信号源的 N个序贯样本,如图 3.2.3 所示 。 因此它是一个单输入系统,实际上这种单输入系统就是一个 FIR网络结构,
或者说是一个自适应横向滤波器 。 其输出 y(n)用滤波器的单位脉冲相应表示成下式：
1
0
)()()(
N
m
mnxmwny
(3.2.1)
第三章 自适应数字滤波器图 3.2.2 自适应线性组合器
x
1 j
x
2 j
x
Nj
…
d
j
e
j
y
j
w
1
w
2
w
N
＋
－
第三章 自适应数字滤波器图 3.2.3 自适应 FIR滤波器
z
－ 1
z
－ 1
x ( n － 1) x ( n － 2) x ( n － N )
z
－ 1
d ( n )
e ( n )
＋
－
y ( n )
…
x ( n )
w
2
w
3
w
N － 1
w
N
w
1
第三章 自适应数字滤波器这里 w(n)称为滤波器单位脉冲响应,令,i=m+1,wi=w(i-1),
xi=x(n-i+1),n用 j表示,上式可以写成
N
i
ijij xwy
1
(3.2.2)
这里 wi也称为滤波器加权系数 。 用上面公式表示其输出,适合于自适应线性组合器,也适合于 FIR滤波器 。 将上式表示成矩阵形式：
jjj XWWXy TT
(3.2.3)
式中
T21T21 ],,,[,],,,[ NjjjjN xxxXwwwW
误差信号表示为
jjjjjjj XWdWXdyde TT
(3.2.4)
第三章 自适应数字滤波器
2,利用均方误差最小准则求最佳权系数和最小均方误差误差信号被用来作为权系数的控制信号 。 下面采用均方误差最小的准则,求最佳权系数 。 由 (3.2.4)式,均方误差为
WXXEWWXdEdE
ydEeE
jjjjj
jjj
][][(2][
])[(][
TTT2
22
(3.2.5)
令
WXXEWWXdEXdER jjTjjjjdx ][][][ TT
(3.2.6)
NjNjjNjjNj
Njjjjjj
Njjjjjj
T
jjxx
xxxxxx
xxxxxx
xxxxxx
EXXER
21
12111
12111
][
(3.2.7)
第三章 自适应数字滤波器将 (3.2.6),(3.2.7)式代入 (3.2.5)式,得到
WRWWRdEeE xxdxjj TT22 2][][
(3.2.8)
Rdx称为 dj与 Xj的互相关矩阵,是一个 N维列矩阵； Rxx是输入信号的自相关矩阵,
(1)是对称矩阵,即 ;
(2) 是正定或半正定的，因为对于任意矢量 V满足下式：
xxTxx RR?
0])[(][ 2TTT VXEVXXVEVRV Txx
自相关矩阵的主对角线是输入信号的均方值,交叉项是输入信号的自相关值。
第三章 自适应数字滤波器
(3.2.8)式表明,当输入信号和期望信号是平稳随机信号时,
均方误差信号 E［ e2j］ 是权系数的二次函数,即将 (3.2.8)式展开时,公式中的权系数均以它的一次幂或二次幂出现 。 如果只有一个权系数 w1,则 E［ e2j］ 是 w1的口向上的抛物线；如果有两个权系数 w1w2,则 E［ ej2］ 是它们的口向上的抛物面；对于两个权系数以上的情况,则属于超抛物面性质 。
E［ ej2］ 在自适应信号处理中是一个重要的函数,经常称它为性能函数 。 为选择权系数,使性能函数到达它的最小点,一些有用的自适应方法都是基于梯度法的,我们用 表示 E［ ej2］
的梯度向量,它是用 E［ ej2］ 对每个权系数求微分而形成的一个列向量,用公式表示如下：
j?
第三章 自适应数字滤波器
T2
2
2
1
2 ][
,,
][
,
][
N
jjj
j w
eE
w
eE
w
eE
(3.2.9)
按照 (3.2.4)式,梯度推导如下：
][2,,,2
21
jj
T
N
jjj
jj XeEw
e
w
e
w
e
eE
(3.2.10)
还可以用 (3.2.8)式对 W求导得到
dxxxj WRWR 2
(3.2.11)
令上式等于 0,得到最佳权矢量 W*的表达式：
dxxx RRW 1*
(3.2.12)
第三章 自适应数字滤波器对比第二章维纳滤波器的最佳解,结果是一样的 。 上式也称为维纳权矢量 。 当自适应滤波器的权系数满足上式时,均方误差将取最小值 。 将 (3.2.12)式代入 (3.2.8)式得到最小均方误差：
*2
***2
m i n
2
2][
2][][
WRdE
WRWWRdEeE
T
dxj
xx
TT
dxjj
(3.2.13)
或者将上式取转置，用下式表示：
dxTjj RWdEeE *2m i n2 ][][
(3.2.14)
我们知道,在维纳滤波器中,当滤波器的单位脉冲响应取最佳值时,其误差信号和输入信号是正交的；这里也有相同的结果,
当权矢量取最佳值时,梯度为 0,按照 (3.2.10)式：
0][2 jjj XeE
第三章 自适应数字滤波器例 3.2.1 一个单输入的二维权矢量自适应滤波器如图
3.2.4所示,图中输入信号与期望信号分别为
jNdjNx jj π2c o s2,π2s in
这两个信号都是周期性确定性信号,因为任何正弦函数积的期望值,都可由这个积在一个或多个周期上作时间平均来计算,
可以推导出下面公式 ［ 6］,
5.0
2
c o s5.0
2
c o s5.05.0
1,0
π2
s i n)(
π2
s i n
π2
c o s
2
][
1,0
π2
c o s5.0)(
π2
s i n
π2
s i n
1
][
2
11
1
2
1
1
N
N
xxx
xxx
ER
nn
N
nj
N
j
NN
xdE
nn
N
nj
N
j
NN
xxE
jjj
jjj
xx
N
j
njj
N
j
njj
第三章 自适应数字滤波器
T
T
1
2s i n,0],[
NxdxdER jjjjdx
2
π2
s i n2
π2
c o s)(5.0
π2
s i n02
1
π2
c o s
π2
c o s1
][5.02
2][][
221
2
2
2
1
2
1
2
1
21
TT22
N
w
N
wwww
w
w
Nw
w
N
N
ww
WRWWRdEeE
xxdxjj
第三章 自适应数字滤波器图 3.2.4 两个权的自适应滤波器
w
1
z
－ 1
x
j
w
2
d
j
y
j
＋
－
e
j
第三章 自适应数字滤波器上式表明性能函数 E［ ej2］ 对权函数是二次型的,用 (3.2.11)
式求梯度向量,得到
N
w
N
w
N
ww
N
w
w
N
N
RWR
dxxxj
π2
s i n2
π2
c o s
π2
c o s
π2
s i n
0
2
1
π2
c o s
π2
c o s1
22
21
21
2
1
求最佳权矢量可以用 (3.2.12)式,通过对 Rxx求逆得到,也可以通过上式,令,而求出：
0 j
T
T
21
* π2c s c2,π2c o t2][
NN
wwW
第三章 自适应数字滤波器用 (3.2.13)式求最小均方误差：
0
π2
c s c2
π2
c o t2
π2
s i n02][m i n][ *T22?
N
N
N
WRdEeE dxjj
上式说明只要 N＞ 2,不管 N取多少,通过对权系数的调整可使均方误差达到 0,此时输出信号 yj完全等于期望信号 dj,例如 N=2，
按照上面公式,可以求出输入,输出信号以及最佳权系数如下：
第三章 自适应数字滤波器
jd
jxwxwy
jx
www
j
jjj
j
2
π
c o s2
2
π
c o s2
2
π
s i n
]20[][
121
T*
2
*
1
*
第三章 自适应数字滤波器
3.2.2
在自适应滤波器的分析研究中,性能函数是一个重要函数,
前面已推导出性能函数用 (3.2.8)式表示,重写如下：
WRWWRdEeE xxdxjj TT22 2][][
下面我们推导它的其它表示方法以及几何意义 。
均方误差是权系数的二次函数,当权系数取最佳值时,均方误差取最小值,将 (3.2.14)式代入 (3.2.8)式,可以用最小均方误差表示性能函数,
为了表示方便，令 δ =E［ e2j］,则
WRWWRRW xxdxdxT TT*m i n 2
第三章 自适应数字滤波器将 (3.2.12)式代入上式，得到
)()(
][][
*T*
m i n
TT**TT*
m i n
T*TT**T*
m i n
WWRWW
WRWWWRWW
WRWWRWWRWWRW
xx
xxxx
xxxxxxxx
(3.2.15)
令
V=W-W*=［ v1,v2,…,vN］ T (3.2.16)
V称为偏差权向量,它表示权向量对最佳权向量的偏差 。 这样性能函数可以表示得更简单：
VRV xxTm i n (3.2.17)
第三章 自适应数字滤波器因为 Rxx是对称的,正定或半正定的,利用它的特征值和特征向量再进一步简化,假设 Rxx是 N× N维,它的 N个特征值为：
λ 1,λ 2,…,λ N,将 Rxx进行分解,得到
Rxx=QTΛ Q,Λ =QTRxxQ (3.2.18)
通过调节使 Q归一化，即
1TT, QQIQQ
(3.2.19)
NNNN
N
N
N
qqq
qqq
qqq
qqqQ
21
22221
11211
21
],,,[
(3.2.20)
第三章 自适应数字滤波器式中,Q称为正交矩阵或特征矩阵,qi称为特征向量,满足下式：
NiqqR
ji
ji
iiixx
j
T
i
,,2,1
0
1
(3.2.21)
(3.2.22)
Λ 是由特征值组成的对角矩阵,用下式表示：
),,,(D i ag 21 N (3.2.23)
将 (3.2.18)式代入 (3.2.17)式，得到
VQQV TTm i n
令
',],,,[ T''2'1T' QVVvvvVQV N(3.2.24)
第三章 自适应数字滤波器则
N
i
ii v
ΛVV
1
2'
m i n
T'
m i n '
(3.2.25)
上式将性能函数变成了平方和的形式 。 再观察 (3.2.24)式,
该式将 V坐标中的 Rxx的特征向量变成了 V′ 坐标中的单位向量 。
利用 (3.2.24)式将特征向量 qi变成 qi′,再利用 (3.2.20)、
(3.2.21)式,可得
TT21' ]0,,1,,0[],,,[ iNiTi qqqqqQq
(3.2.26)
第三章 自适应数字滤波器也就是说,qi′ 为 V′ 坐标中的第 i个单位向量,qi′ 亦是 Λ 矩阵对应于 λ i的特征向量 。 下面用二维权矢量的情况说明它的几何意义 。 对于二维权矢量情况,有下面公式：
2
1*
2
1,
v
vWWV
w
wW
2
221
2
1m i n
*T*
m i n
)0()1(2)0(
)()(
)0()1(
)1()0(
vrvvrvr
WWRWW
rr
rr
R
xxxxxx
xx
xxxx
xxxx
xx
第三章 自适应数字滤波器图 3.2.5 二维权矢量性能表面
m i n
w
1 o p t
w
2 o p t
w
1
w
2
v
2
v
1
第三章 自适应数字滤波器图 3.2.6 等均方误差的椭圆曲线族
0 w
1
w
2
v
1
v
2
v
1
′
v
2
′
w
o p t
第三章 自适应数字滤波器按照 (3.2.17)式，有
cVRV xx Tm i n?
或
1T cVRV xx?
当 c=δ min时,对应椭圆的中心,V=W-W*,则相当于 W坐标平移到 V
坐标的原点,即 V坐标的原点对应 W坐标的最佳点 W *。 这里,v1v2
不是椭圆的主轴 。 但经过对 Rxx的分解：
2
1T
0
0
ΛQRQ xx
且 V′= QTV将性能函数的椭圆族 (按照 (3.2.25)式 )变成
1T' ' cΛVV?
第三章 自适应数字滤波器即
12'222'11 cvv
或者
1
// 21
2'
2
11
2'
1
c
v
c
v (3.2.27)
显然,上式是一个椭圆方程,v1′ 和 v2′ 是椭圆族的主轴,如果
λ 1＜ λ 2,则 v1′ 是长轴,v2′ 是短轴 。 因此 (3.2.24)式起坐标旋转的作用,将 v1v2旋转到主轴上,形成 v1′ v2′ 主轴 。 对于维数 N
＞ 2的情况,长轴对应最小特征值,按照上面的椭圆方程长轴正比于 ；短轴对应于最大特征值,正比于 。 另外,因为
min/1? min/1?
T''2'1T ],,,[' NvvvVQV
第三章 自适应数字滤波器得到
],,,[],,,[ ''2'12211 NNN vvvvqvqvq(3.2.28)
V′ 中单位矢量就是 V坐标中的 Rxx的特征矢量。
第三章 自适应数字滤波器
3.2.3 最陡下降法
1,最陡下降法的递推公式将 (3.2.11)式代入 (3.2.29)式，得到
*
1
1
2]2[
)22(
WRWRIW
WRRWW
xxjxxj
jxxdxjj
(3.2.30)
(3.2.31)
在上式两边都减去 W *,并令 Vj=W j-W*,得到
Vj+1=［ I-2μ Rxx］ Vj (3.2.32)
上式是一个递推公式,由于 ［ ·］ 项不是对角矩阵,计算与分析均复杂 。 下面仍然采用坐标旋转的方法进行推导 。
第三章 自适应数字滤波器
'
'11
'1'
'1'
1-1T
)2(
)2(
]2[
,
,
j
jxx
jxxj
jjjj
xxxx
VI
VQRQIQQ
QVRIQV
QVVVQV
QRQΛQ ΛΛQ ΛΛR
(3.2.33)
此时,［ ·］ 项已变成对角矩阵,假设起始值是 V0′,可得到上式的递推解为
'0' )2( VΛIV jj (3.2.34)
第三章 自适应数字滤波器再将 (3.2.24)式代入,再经过坐标平移,即代入 Vj=Wj-W*式,
最后得到权系数的递推公式：
)()2( *0T* WWQΛIQWW jj
(3.2.35)
上面递推公式中，［ ·］部分已变成对角矩阵,这使分析与研究自适应特性变得简单了。
第三章 自适应数字滤波器
2.
由最陡下降法的递推公式不难分析出它的收敛条件,即当迭代次数 j趋于 ∞ 时,权系数收敛最佳时的条件 。 按照上式,
显然只有当
m a x
1
0
,,2,11|21|
0]2[lim
Ni
ΛI
i
j
j
(3.2.36)
(3.2.37)
满足时,才能得到,。 (3.2.37)式即是最陡下降法的收敛条件,式中 λ max是 Rxx的最大特征值 。 (3.2.36)式中的 0表示 0矢量 。
*li m WW j
j
第三章 自适应数字滤波器
3.
过渡过程是指权矢量和性能函数由起始点随迭代次数的增加,进行变化的过程 。 下面从权矢量和性能函数两方面讨论自适应滤波器的过渡过程 。
按照 (3.2.34)式，权矢量的递推解是
'0' )2( VΛIV jj
第 i个权系数递推方程是
'0' )2( ijiji vIv (3.2.38)
令
Niiτi,,3,2,1e21
1-
(3.2.39)
第三章 自适应数字滤波器将上式代入 (3.2.38)式，得到
Nivv iτji i,,3,2,1e '0
1-
'
(3.2.40)
上式说明第 i个分量 v i′ 按指数规律变化，其时常数为
)21(1
1
i
i n
i=1,2,3,…,N (3.2.41)
因为一般 μ 取得比较小，可以近似为
i
i 2
1? i=1,2,3,…,N (3.2.42)
第三章 自适应数字滤波器因为
'
'
2
'
1
21
22221
11211
'
jN
j
j
NNNN
N
N
jj
v
v
v
qqq
qqq
qqq
QVV
所以
N
k
jkikji vqv
1
'
再将 (3.2.40)式代入，得到
i
jN
k
kikji evqv
1
'
0
(3.2.43)
第三章 自适应数字滤波器
kτ
jN
k
ikiji cww
-
1
* e?
(3.2.44)
式中
'0 kikik vqc?
(3.2.45)
上式说明第 i个加权系数按照 N个指数和的规律变化,由初始值收敛到最佳值,其时常数与特征值成反比 。 下面分析性能函数的过渡过程 。 按照 (3.2.25)式,性能函数如下式：
N
i
jiij veE
1
2'
m i n
2 ][
(3.2.46)
将 (3.2.40)式代入，得到
i
jN
i
iij eveE
2
1
2'
0mi n
2 ][
(3.2.47)
第三章 自适应数字滤波器上式说明性能函数也是按 N个指数和的规律变化,和加权系数过渡过程不同的是时间常数不同,它的时常数为
i
i
4
1
2i m s e
(3.2.48)
我们已经知道,性能函数和各个加权系数都是按照 N个具有不同时常数的指数和的规律变化的,时常数和特征值成反比,
不同的特征值对应的收敛时间是不一样的,但最终的收敛要取决于最慢的指数过程,它的时常数最大,对应最小的特征值,
公式如下：
m i n
m a xm s e
m i n
m a x
4
1
2
1
(3.2.49)
(3.2.50)
第三章 自适应数字滤波器但为保证收敛,μ 不能取得太大,受限于最大特征值 λ max。
这样,如果特征值比较分散时,即 λ max和 λ min相差很大时,
使最陡下降法的收敛性能很差 。 下面分析 μ 值的影响 。
μ 值收敛过程影响很大，首先必须选择得足够小，使之满足收敛条件：
m a x
10
但按照 (3.2.47),(3.2.48)式,它影响收敛速度 。 一般希望在保证收敛的条件下,选大一些,使时间常数小一些,收敛的速度快一些 。 但当 μ 选择得太大时,即使收敛条件满足,也可能形成振动性的过渡特性 。 在图 3.2.7 中,图 (a)是 μ 较小时的情况；图 (b)是 μ 较大时的情况,此时过渡过程已发生振荡 。
第三章 自适应数字滤波器图 3.2.7? 值的影响
(a) 较小时的情况； （ b） 较大时的情况
( a ) ( b )
w
2
w
1
w ( 0 )
w ( 0 )
w
1
w
2
第三章 自适应数字滤波器
3.2.4 最小均方 (LMS)算法
1,LMS算法的权值计算 ]
LMS(Least Mean Square)算法的梯度估计值用一条样本曲线进行计算，公式如下：
N
jjj
jj w
e
w
e
w
e
e
2
2
2
1
2
2(3.2.51)
因为
jjj XWde T
第三章 自适应数字滤波器所以
j
N
jjj X
w
e
w
e
w
e
T
21
,,,?
jjj Xe2
(3.2.52)
(3.2.53)
jjjj XeWW?21
FIR滤波器中的第 i个权系数的计算公式为
Nixeww ijjijij,,3,2,12,,,1
(3.2.54)
FIR滤波器中的第 i个权系数的控制电路如图 3.2.8所示,LMS自适应滤波器的总框图如图 3.2.9 所示 。
第三章 自适应数字滤波器图 3.2.8 FIR第 i个支路的控制电路
z － 1
w
i
( n ＋ 1)
＋
＋
x
i
( n ) w
i
( n )
2?
e ( n )
控制电路第三章 自适应数字滤波器
LMS算法的加权系数按照 (3.2.53)式进行控制,式中加权矢量的改变量是 2μ ejXj,梯度的估计值是 -2ejXj。 显然,这是一个随机变量,这说明 LMS算法的加权矢量是随机变化的 。 因此,
LMS算法又称为随机梯度法 。 下面对这种算法的性能进行分析,
主要分析加权矢理和性能函数的平均变化规律以及它们的随机性造成的影响 。
按照 (3.2.52)式,对梯度估计值求统计平均,得到
jjjj XeEE ][2]?[
(3.2.55)
上式说明梯度估计值是无偏估计的,梯度的估计量在理想梯度
▽ j附近随机变化,权系数也是在理想情况下的权轨迹附近随机变化的 。
第三章 自适应数字滤波器
…
控制 1
控制 2
控制 N
…
x
1
( n )
x
2
( n )
x
N
( n )
w
1
w
2
w
N
y ( n )
d ( n )
e ( n )
＋
－
…
图 3.2.8 LMS自适应滤波器总计算框图第三章 自适应数字滤波器
2.LMS
将误差公式 (3.2.4)式代入 (3.2.53)式，得到
jjj
T
jj
j
T
jjjjjj
dXWXXi
WXXdXWW
2]2[
][21
(3.2.56)
按照 (3.2.53)式,对加权矢量取统计平均：
*
T
1
2][)2(
])[(2][
][][(2][
][2][][
WRWERI
WERRWE
WXXEXdEWE
XeEWEWE
xxjxx
jxxdxj
jjjjjj
jjjj
(3.2.57)
第三章 自适应数字滤波器类似于最陡下降法的推导,经过坐标平移和旋转,变换到
V′ 坐标中 。 其公式推导如下,令
Vj=Wj-W* (3.2.58)
那么 E［ Vj］ =E［ Wj］ -W*
E［ Vj+1］ =E［ Wj+1］ -W* (3.2.59)
将上面两式代入 (3.2.57)式中，得到
][]2[][ 1 jxxj VERIVE
它的递推解是
0]2[][ VRIVE jxxj
令 Rxx=QΛ Q T,Λ =QRxxQT (3.2.60)
第三章 自适应数字滤波器
'],,,,[' ''2'1T QVVvvvVQV N
得到
'0' ]2[][ VΛIVE jj
(3.2.61)
(3.2.62)
再将 (3.2.59),(3.2.60)和 (3.2.61)式代入上式，得到
E［ Wj］ =W*+Q［ I-2μΛ］ j Q-1(W0-W*) (3.2.63)
对比 (3.2.35)式,说明 LMS算法加权矢量的统计平均值的过渡过程和最陡下降法加权矢量的过渡过程是一样的 。 换句话说,LMS算法加权矢量是在最陡下降法加权矢量附近随机变化的,其统计平均值等于最陡下降法加权矢量,那么,其收敛条件同样为
m a x
10
(3.2.64)
第三章 自适应数字滤波器在满足收敛条件的情况下，才有下式：
*][lim WWE
j
j?
由于最大的特征值 λ max不可能大于 R的迹 (R的主对角线元素之和 ),即
)()(tr)()(trm ax 的对角元素的对角元素 RRΛΛ?
因此收敛条件可以表示为
)(
10
Rtr
(3.2.65)
第三章 自适应数字滤波器对于横向滤波器,式中的迹是 NE［ x2j］，即 N倍的输入功率，
那么
][
10
2
jxNE
(3.2.66)
实际中，通常 μ 选得很小，选
][
10
2
jxNE
(3.2.67)
同样由 (3.2.62)式，第 i个分量为
'0]2[][ ijiji vIvE
(3.2.68)
第三章 自适应数字滤波器同样引入时常数 τ i,
][][
e][
2
1
)21ln (
1
'*
-
'
0
' i
jj
τ
j
iji
ii
i
vQEWWE
vvE
(3.2.69)
(3.2.70)
(3.2.71)
同样，第 i个权系数可以表示成
kτ
jN
k
ikiji CwwE
-
1
* e][?
(3.2.72)
第三章 自适应数字滤波器
3,LMS算法性能函数的过渡过程 ——学习过程由于 LMS算法加权矢量的平均值的变化规律与最陡下降法的加权矢量一样,可以推想它的均方误差也会按照最陡下降的均方误差变化规律变化 。 下面进行推导 。
按照 (3.2.4)式,信号误差为
j
T
jj
j
T
j
T
jj
T
jjjjj
VXe
WWXWXd
WXdyde
opt
**
)()(
(3.2.73)
第三章 自适应数字滤波器式中,eoptj=dj-XjTW*,称为最佳误差信号,它对应于最小均方误差,即
m i n22o p t ][][ jj eEeE?
按照 (3.2.73)式写出均方误差表示式：
][2][][][ 22 jTjoptjTjjTjoptj VXeEVXXVEeEeE
假定 Xj和 Vj不相关，上式中最后一项为 0，那么
][m i n jTjjTj VXXVE
第三章 自适应数字滤波器
2'
1
m i n
''
m i n
m i n
])[[
][][
][][
ji
N
i
i
j
T
j
jxx
T
j
vE
VΛEVE
VERVE
同样，假设加权系数变化很小,Vj也变化很小,E［ Vj］ ≈ Vj，这样：
类似前面的推导，得到
i
i
i m s e
N
i
j
oji
iv
4
1
2
e][
1
2
-
2'
m i n
(3.2.74)
(3.2.75)
对照最陡下降法性能曲线 (3.2.47)式,LMS均方误差变化规律和最陡下降法完全一样,学习曲线同样近似为几个不同时间常数的指数和 。
第三章 自适应数字滤波器
4,稳态误差和失调系数由上面分析知道,权矢量的平均值可以收敛到它的最佳值,
但权矢量变化过程是随机的,即使其平均值收敛到最佳值,它仍然按照下式：
Wj+1=Wj+2μ ejXj
随机地进行变化,这样使权矢量仍在最佳值附近随机变化,
但均方误差将大于最小均方误差,如图 3.2.10 所示 。 为此,引入失调系数 M,M定义为
m i n
m i n
M
(3.2.76)
第三章 自适应数字滤波器加权系数的变化均方误差的变化
m i n
v
v ＝ w － w
o p t
j
图 3.2.10 LMS算法稳态误差第三章 自适应数字滤波器可以推出 ［ 5］ 失调系数为
N
i
ixxRM
1
]t r [
(3.2.77)
或者 M=μ NPin (3.2.78)
式中,N是滤波器的阶数,Pin是输入信号功率 。 上式说明 μ 和输入功率加大都会增加失调系数 。 在保证收敛的情况下 μ 加大,会提高收敛速度,也说明为了减小失调系数,应该适当选择收敛速度,以保证收敛速度和失调系数都满足要求 。
第三章 自适应数字滤波器图 3.2.11 是一个 LMS自适应滤波器的计算机结果 ［ 5］,阶数 N=5,其输入是信号加白噪声,输入信号功率为 1,中心频率是 0.03fs(fs为采样频率 ),噪声功率为 0.5,输入信号自相关函数的特征值为,5.14,0.853,0.502,0.500,0.500,权系数初始值取 0,μ =0.0065。 图中画出了一条样本学习曲线和 150
条样本学习曲线的平均曲线 。 该图表明个别学习曲线起伏较大,
平均学习曲线起伏很小,计算出的维纳最小均方误差为 0.743
96,用 LMS算法得到的稳态误差大于该值,按 (3.2.77)式计算的失调系数是 4.87%,按计算机模拟结果测得的失调系数是 5.40%。
第三章 自适应数字滤波器图 3.2.11 LMS算法的学习曲线
1,5 0
1,2 5
1,0 0
0,7 5
0,5 0
0,2 5
均方误差
0 20 40 60 80 100 120 140 160 180 200
迭代次数 n
m i n
＝ 0,7 4 3 9 6 ( 维纳解 )
个别学习曲线平均学习曲线
( 由 150 条个别曲线平均 )
第三章 自适应数字滤波器
3.3 自适应格型滤波器
3.3.1 前,
1,前向线性预测误差滤波器为了分析简单,假设信号属于实平稳随机信号 。 前向线性预测误差滤波器直接由信号的线性一步预测导出 。 在维纳滤波器一章我们已研究了信号的线性一步预测问题,即由 x(n-1),
x(n-2),…,x(n-p)预测 x(n),其估计值 x(n)和预测误差 ep(n)
用下式表示：
^
p
k
kp knxanx
1
,)()(?
(3.3.1)
p
k
kpp knxanxnxnxne
1
,)()()(?)()(
第三章 自适应数字滤波器由于假设了信号是实的,式中预测误差 ep(n)和系数 ap,k均是实数 。 (3.3.1)式表明 是由 n时刻以前的 p个数据 x(n-1)、
x(n-2)…x(n-p)得到的估计,因此称 为前向预测误差 。 将前向预测误差用 表示,上式重写为
)(? nx
)(nep
)(nefp
p
k
kp
f
p knxanxne
1
,)()()(
(3.3.2)
对上式进行 Z变换，得到
k
p
k
kp
f
p zzXazXzE
1
,)()()(
(3.3.3)
令
p
k
k
kp
p
k
k
kpf
f
p
f
zazazH
zX
zE
zH
0
,
1
,1)(
)(
)(
)(
(3.3.4)
第三章 自适应数字滤波器
Hf(z)称为前向预测误差滤波器的系统函数 。 前向预测误差滤波器的结构图如图 3.3.1所示 。
图 3.3.1 前向预测误差滤波器
z － 1
a
p,0
…
…
z － 1 z － 1
a
p,1
a
p,2
a
p,p － 1
a
p,p
x ( n )
)( ne fp
第三章 自适应数字滤波器用均方误差最小的准则求前向预测误差滤波器的最佳系数 ap,k,
0
]))([(
,
2
kp
f
p
a
neE
k=1,2,…,p (3.3.5)
将 (3.3.2)式代入上式，得到
0)]()([ knxneE fp
k=1,2,3,…,p (3.3.6)
上式表明前向预测误差与用于预测的数据正交,这就是对于前向预测误差的正交原理 。 按照第二章的推导,前向预测误差滤波器的最佳系数 ap,k
Yule-Walker方程式,重写如下：
第三章 自适应数字滤波器
p
i
xxipxxp
p
i
xxipxx
irar
pkikrakr
1
,
2
1
,
)()0(
,,3,2,10)()(
(3.3.7)
将上式用矩阵方程表示为
0
0
1
)1()2()(
)1()0()1(
)()1()0( 2
,
1,
p
pp
p
xxxxxx
xxxxxx
xxxxxx
a
a
prprpr
prrr
prrr?
(3.3.8)
第三章 自适应数字滤波器
2.
如果利用 x(n+1),x(n+2),…,x(n+p)数据预测 x(n),则称为后向预测,其估计值用 表示 。 这样)('? nx
p
k
kp knxanx
1
'
,)()('?
(3.3.9)
一般前向,后向预测用同一数据进行,即利用 x(n),x(n-1)，
x(n-2),…,x(n-p)进行预测,为此,将上式改为
p
k
kp kpnxapnx
1
'
,)()('?
(3.3.10)
这样,前向预测是由 x(n-p),x(n-p+1),…,x(n-2),x(n-1)预测
x(n),后向预测是由 x(n-p+1),x(n-p+2),…,x(n)预测 x(n-p)，
这两种预测数据之间的关系如图 3.3.2 所示 。
^
第三章 自适应数字滤波器图 3.3.2 前向预测数据之间的关系
x ( n － p ),x ( n － p ＋ 1 ),…,x ( n － 2 ),x ( n － 1 ),x ( n )
后向预测前向预测第三章 自适应数字滤波器设后向预测误差用 表示 (实际表示的是信号在 n-p时刻的预测误差 ),这样
)(nebp
)('?)()( pnxpnxnb bp (3.3.11)
同样,利用最小均方误差的准则,可以得到关于后向预测时的正交原理以及 Yule-Walker方程,它们分别用下面的 (3.3.12)
和 (3.3.13)式表示：
0)]()([ kpnxneE bp
k=1,2,3,…,p
p
i
xxkpxxp
p
i
xxkpxx
irar
ikrakr
1
'
,
2'
1
'
,
)()0(
0)()(
k=1,2,3,…,p
(3.3.12)
(3.3.13)
第三章 自适应数字滤波器式中,是后向预测误差的最小误差功率 。 将 (3.3.13)式和
(3.3.7)式进行对比,它们极其相似 。 利用 Toeplitz矩阵的性质,
可得到以下重要关系：
2'p?
2'2
'
,,,,3,2,1
pp
kpkp pkaa
(3.3.14)
(3.3.15)
上面两式表明前,后向预测的最小误差功率相等,系数也相等
(如果是复数,则是共轭关系 )。 由 (3.3.10),(3.3.11),(3.3.14)
式得到
1)()( 0,
0
,
p
p
k
kp
b
p akpnxane
(3.3.16)
第三章 自适应数字滤波器式中，当 k=0,1,2,3,…,p时,p-k=p,p-1,p-2,…,0,因此也可以写成下式：
1)()( 0,
0
,
p
p
k
kpp
b
p aknxane
由上式画出后向预测误差滤波器的结构图如图 3.3.3 所示。
第三章 自适应数字滤波器图 3.3.3 后向预测误差滤波器
z － 1
a
p,0
…
…
z － 1 z － 1
a
p,1
a
p,p － 1
a
p,p
x ( n )
)( ne bp
a
p,p － 2
第三章 自适应数字滤波器对比图 3.3.1 和图 3.3.3,或者对比公式 (3.3.2)和
(3.3.17),它们的系数虽然一样,但后向预测误差滤波器的系数排序却是前向预测误差滤波器系数排序的逆转排列 。
对 (3.3.16)式进行 Z变换，得到
p
k
kp
kp
pb
p zzzXazzXzE
1
,)()()(
(3.3.18)
后向预测误差滤波器的系统函数为
p
k
k
kp
p
b
p
b zazzX
zEzH
1
,1)(
)()( (3.3.19)
第三章 自适应数字滤波器将上式与前向预测误差滤波器的系统函数 (3.3.4)式对比,得到前,后向预测误差滤波器的系数函数之间的关系是
)()( 1 zHzzH fpb
为了求解前,后向预测误差滤波器的最佳系数,需要解 Yule-
Walker方程 。 可以采用高斯消元法解出 ap,k(k=1,2,3,…,p)以及 σ 2p,但需要 p3量级运算量 。 利用 Yule-Walker方程中的自相关矩阵是一个埃尔米特 (Hermitain)和托布列斯 (Toeplitz)矩阵的特点,且至少是半正定的,可以有效地减少运算量,这就是下面要推导的 Levinson-Durbin算法,它的运算量级是 p2。
第三章 自适应数字滤波器
3.Levinson-durbin算法
Levinson-Durbin算法首先由一阶 AR模型开始,按照 (3.3.8)
式,一阶 AR模型 (p=1)的 Yule-Walker为
0
1
)0()1(
)2()0( 21
1,1
arr
rr
xxxx
xxxx
由该方程解出：
)0()1(
)0(
)1(
2
1,1
2
1
1,1
xx
xx
xx
ra
r
r
a
第三章 自适应数字滤波器然后增加一阶，即令 p=2，按照 (3.3.8)式得到
0
0
1
)0()1()2(
)1()0()1(
)2()1()0( 2
2
2,2
1,2
a
a
rrr
rrr
rrr
xxxxxx
xxxxxx
xxxxxx
由上面方程解出：
2
1
2
2,2
2
2
1,12,21,1
22
1,2
2
11,1
222
2,2
)1(
)]1()0(/[)]2()1()1()0([
/)]1()2([
)]1()0(/[)]1()2()0([
a
aaa
rrrrrra
rar
rrrrra
xxxxxxxxxxxx
xxxx
xxxxxxxxxx
第三章 自适应数字滤波器然后令 p=3,4,…,以此类推,可以得到一般递推公式如下：
)]([)0(
)1(
1,,3,2,1
])()([
22
0
2
1
22
,1,1,
,
2
1
1
1
1
nxEr
k
pkakaa
ak
kprapr
k
xx
ppp
kpppkpkp
ppp
p
p
k
xxpxx
p
(3.3.21)
(3.3.22)
(3.3.23)
(3.3.24)
(3.3.25)
第三章 自适应数字滤波器上面 (3.3.21)~(3.3.25) Levinson-Durbin递推公式,
该式中的 kp称为反射系数 。 在 (3.3.24)式中,σ 2p和 σ 2p-1是预测误差的均方值,因此 1-k2p必须大于等于 0,这样 kp应要求满足下式：
1||?pk
(3.3.26)
2 122,12 12 )1( ppppp k 反进而得到,即预测误差随递推次数增加而减少 。 把 kp
称作反射系数,是类似于传输线的情况,如图 3.3.4 所示,第 p
节的输出功率 (即下一级的输入功率 )等于前一级的输出功率减去本级的反射功率,用公式表示如下：
2 12 pp
(3.3.27)
第三章 自适应数字滤波器第 p 节
2
1?p? 2
p?
2
,1 反?p?
图 3.3.4 传输线第三章 自适应数字滤波器
3.3.2
1,由预测误差滤波器导出格型滤波器将前面已推导的前向预测误差公式 (3.3.2)重写如下,
p
k
kp
f
p knxanxne
1
,)()()(
再将系数 ap,k(k=1,2,3,…,p)的递推公式 (3.3.23)代入上式,并令 kp=ap,p,得到
1
1
1
1
,1,1
1
1
,1,1
1
1
,
)()()()(
)()()()(
)()()()(
p
k
p
k
kpppkp
p
k
pkpppkp
p
k
pkp
f
p
knxapnxkknxanx
pnxkknxakanx
pnxkknxanxne
第三章 自适应数字滤波器将上式与 (3.3.2)式对比，方程式的右边前两项是 p-1阶前向预测误差,即
1
1
,11 )()()(
p
k
kp
f
p knxanxne
(3.3.28)方程式的右边最后一项中,因为 k=1,2,3,…,p-1时,
p-k=p-1,p-2,…,1,方括号部分可以写成
1
1
,1
1
1
,1 )()()()(
p
k
kp
p
k
kpp kpnxapnxknxapnx
将上式右边与 (3.3.16)式对比，该部分就是 n-1时刻 p-1阶的后向预测误差,即
1
1
,11 )()()1(
p
k
kpp
b
p knxapnxne
第三章 自适应数字滤波器这样由 (3.3.28)式，得到前向预测误差的递推公式,即
)1()()( 11 neknene bppfpfp (3.3.29)
类似地，得到后向预测误差的递推公式为
)()1()( 11 neknene fppbpbp (3.3.30)
利用 (3.3.29)式和 (3.3.30)式,组成格型滤波器的第 p节的结构图,如图 3.3.5(a)所示 。
第三章 自适应数字滤波器图 3.3.5 全零点格型滤波器
)( ne
f
p
)( ne
b
p
…
…
z
－ 1
x ( n )
z
－ 1
z
－ 1
e
0
( n
)
e
1
( n
)
b
0
( n
)
b
1
( n
)
k
1
k
1
k
2
k
2
k
p
k
p
z
－ 1
)( ne
f
p
)( ne
b
p
)(
1
ne
f
p?
)(
1
ne
b
p?
k
p
k
p
( a )
( b )
第三章 自适应数字滤波器对于 p=0的情况,按照 (3.3.2)式和 (3.3.11)式,得到
)()()( 00 nxnene bf
整个预测误差格型滤波器的结构如图 3.3.5(b)所示 。 由于没有反馈支路,它是一个全零点格型滤波器 。 经过变形还可得到其他类型,如全极点格型滤波器,全极点横向滤波器,等等
［ 5］ 。
第三章 自适应数字滤波器2,格型滤波器的性质
(1) 各阶后向预测误差相互正交。 用公式表示如下：
jineneE bjbi 0)]()([
设 i＜ j,按照 (3.3.12)式,与 x(n-j+1),x(n-j+2),…,x(n-
i),x(n-i+1),…,x(n)数据正交,但按照 (3.3.16)式,是 x(n-
i),x(n-i+1),…,x(n)的线性组合,因此 与 相互正交 。
各阶后向预测误差相互正交的结果,使滤波器前后级互相解耦,对于系统最小化问题化为一系列独立的对每一级局部最小化问题 。 用作自适应滤波时,各级可选用不同的自适应步长,
使收敛速度提高 。 另外,为提高线性预测性能,需要增加一节或几节,可以只对 新增加的级进行独立的调节,达到输出均方误差最小,无需再调节前面的系数 。
)(nebj
)(nebi
)(nebi )(nebj
第三章 自适应数字滤波器
(2) 平稳随机序列可由自相关函数或反射系数表征 。 按照
Levinson-Durbin递推公式,已知 rxx(0),k1,k2,…,kp,从一阶开始,可以推出全部的预测系数 ap,1,ap,2,…,ap,p和 σ 2p,把得到的这些数据代入 Yule-walker方程,可求得信号的自相关函数
rxx(0),rxx(1),rxx(2),…,rxx(p)。 以上说明平稳随机序列可由自相关函数表征,也可由 rxx(0),k1,k2,…,kp表征 。
(3) 前向预测误差滤波器是最小相位滤波器，即它的全部零点在单位圆内。
第三章 自适应数字滤波器
3,
前向预测误差滤波器的系统函数 He(z)以及前向预测误差公式 和实信号情况一样,仍是 (3.3.4)式和 (3.3.2)式,但利用均方误差最小原则求预测系数要用下式求解：
)(nefp
pk
a
neE
kp
f
p,,3,2,10]|)([|
,
2
(3.3.32)
对于前向预测误差的正交原理，则用下式表示：
pkknxneE fp,,3,2,10)]()([ *
(3.3.33)
Yule-Walker方程仍和 (3.3.8)式一样 。
第三章 自适应数字滤波器后向预测误差和后向预测误差滤波器系统函数分别用下式表示：
pkknxane
p
k
kpp
f
p,,3,2,1)()(
1
*
,
(3.3.34)
1)( * 0,
1
*
,
p
k
p
k
kppb azazH
(3.3.35)
对于后向预测误差的正交原理为
0)]()([ * kpnxneE bp
(3.3.36)
对于复信号的 Levinson-Durbin递推公式为
2
1
1
1
,1 )()(
p
p
k
xxkpxx
p
kprapr
k
(3.3.37)
第三章 自适应数字滤波器
*,1,1,kpppkpkp akaa
k=1,2,3,…,p-1
(3.3.38)
]|)([|)0(
)||1(
22
2
1
22
,
nxEr
k
ak
xxp
ppp
ppp
(3.3.39)
(3.3.40)
(3.3.41)
复信号的全零点格型滤波器预测误差递推公式为
)()1()(
)1()()(
1
*
1
11
neknene
neknene
f
pp
b
p
b
p
b
pp
f
p
f
p
(3.3.42)
(3.3.43)
第三章 自适应数字滤波器图 3.3.6 复信号预测误差全零点格型滤波器
)( ne
f
p
)( ne
b
p
…
…
z
－ 1
x ( n )
z
－ 1
z
－ 1
e
0
( n
)
e
1
( n
)
b
0
( n
)
b
1
( n
)
k
1
k
1
k
2
k
2
k
p
k
p
* * *
第三章 自适应数字滤波器
3.3.3 最小均方误差自适应格型滤波器
P阶格型滤波器由 p节组成,如果前 m节的参数 ki(i=1,2,
3,…,m)为最佳,相应的预测误差功率是最小,而后面的节的参数对前面的最佳参数无影响,因此在 m节的基础上再加一节,
则只需根据使第 m+1节的预测误差功率最小的原则选择 km+1即可 。
预测误差功率有前向预测误差功率和后向预测误差功率,这里采用使前,后向预测误差功率的和为最小的原则求反射系数 。
公式为
0
]))(())([( 22
p
b
p
f
p
k
neneE
(3.3.44)
第三章 自适应数字滤波器将 (3.3.29),(3.3.30)代入上式,可以得到
]))1([]))([
)]1()([2
2
1
2
1
11
neEneE
neneEk
b
p
f
p
b
p
f
p
p
(3.3.45)
实际计算时，上式中的统计平均值用时间平均计算,公式为
]))1([(]))([(
)1()(2
2
1
2
1
11
ieEie
ieie
k
b
p
i
f
p
b
p
i
f
p
p
(3.3.46)
对于复信号情况，公式为
]|)1(||)([|
)1()(2
2
1
2
1
*
11
ieie
ieie
k
b
p
i
f
p
b
p
i
f
p
p
(3.3.47)
第三章 自适应数字滤波器上面两式便是直接利用数据计算反射系数的递推公式 。 下面讨论公式中的求和限问题,如果输入数据为 x(i),i=0,1,2,…,n，
当 p=1时,
i
bf
i
bf
ieie
ieie
k 2
0
2
0
00
1 ))1(())([(
)1()(2
这里
)()()( 00 ixieie bf
因此
i
i
ixix
ixix
k
)]1()([(
)1()(2
221
第三章 自适应数字滤波器上式中,求和限必须限制在已知的输入数据范围内计算,这样求和限应为 i=1,2,3,…,n,计算公式为
n
i
n
i
ixix
ixix
k
1
22
1
1
)1()([
)1()(2
当 p=2时，
i
bf
i
bf
ieie
ieie
k
]))1(())([(
)1()(2
2
1
2
1
11
2
第三章 自适应数字滤波器按照 (3.3.29),(3.3.30)式，得到
)()2()()1()(
)2()()1()()(
10101
10101
ixkixiekieie
ixkixiekieie
fbb
bff
将上面两式带入 公式中,可以计算出,考虑到输入数据的范围,具体计算公式为
2?k 2?k
n
i
bf
n
i
bf
ieie
ieie
k
1
2
1
2
1
2
11
2
]))1(())([(
)1()(2
第三章 自适应数字滤波器再根据,按照 (3.3.29),(3.3.30)式计算 e2(i),b2(i),按照 (3.3.46)式计算,以此类推 。 这样,对于 具体计算公式为
2?k
3?k p
k?
n
pi
b
p
f
p
n
pi
b
p
f
p
p
ieie
ieie
k
]))1(())([(
)1()(2
2
1
2
1
11
(3.3.48)
以上便是直接采用信号数据计算格型滤波器的反射系数以及最小预测误差的方法 。 但这种算法必须从低阶推起,要求较大的存储时,有较大的计算延迟,使应用受到限制 。 下面介绍梯度算法,这种算法可以减少运算量,且适合非平稳情况 。
第三章 自适应数字滤波器自适应格型滤波器的梯度算法中反射系数的计算,类似于自适应横向滤波器中系数的递推算法,公式为
]))(())([()()1( 22 nenenknk bpfpkppp(3.3.49)
式中,μ 仍然是控制收敛速度和收敛的参数； ▽ kp表示对方括弧中的部分求梯度,
)]()()1()([(2
]))(())([(]))(())([(
11
2222
nenenene
nene
k
nene
f
p
b
p
b
p
f
p
b
p
f
p
p
b
p
f
pkp
第三章 自适应数字滤波器将上式代入 (3.3.49)式中,得到
)]()()1()([)()1( 11 nenenenenknk fpbpbpfppp
式中,β =2μ,为步长因子。这部分内容可参考文献［ 5］。
(3.3.50)
第三章 自适应数字滤波器
3.4 最小二乘自适应滤波本节讨论另外一种以误差的平方和最小作为最佳准则的误差准则 ——最小二乘 (Least Square)准则 。
定义
j
jen
2)(?
(3.4.1)
式中,ξ (n)是误差信号的平方和； ej是 j时刻的误差信号，
WXdyde Tjjjjj
第三章 自适应数字滤波器
dj是 j时刻的期望信号,Xj是 j时刻的输入信号构成的向量,
W表示滤波器的权系数构成的向量 。 通过选择 W,使 ξ (n)取得最小值的滤波称为最小二乘 (Least Square,简称 LS)滤波,而满足 E［ e2j］ 取得最小值的滤波称为最小均方误差 (Least
Mean Square,简称 LMS )滤波 。 和 LMS滤波相比,LS滤波对非平稳信号的适应性要强许多,这是由于 LS滤波总是采用新的准则,在每一个时刻对所有已输入信号而言,重新评估使其误差的平方和最小,因此具有更精确的含义,属于精确分析法 。
而 LMS滤波是以集合平均为基础的,属于统计分析的方法 。
第三章 自适应数字滤波器
3.4.1 最小二乘滤波
1,最小二乘的基本问题已知 n个数据 ｛ x(1),x(2),…,x(n)｝,采用 M个权的 FIR
滤波器对数据进行滤波,假设期望信号为 d(i),如图 3.4.1所示 。
滤波器的输出 是对期望信号 d(i)的估计)(?id
nikixiwid
M
k
k,,1,0)1()()(
1
其中,wk(i),k=1,2,…,M,为 FIR滤波器在 i时刻的 M个系数值
(说明滤波器的系数可以变化 ),它是一个 M维的向量,记为
wM(i)=［ w1(i),w2(i),…,wM(i)］ T。 同理,输入信号也是一个 M
维的向量,xM(i)=［ x1(i),x2(i),…,xM(i)］ T。 n时刻,估计误差为第三章 自适应数字滤波器
M
k
k knxnwndndndne
1
)1()()()(?)()( (3.4.2)
误差信号的平方加权和为
i
in ien )()( 2
上式中,由于数据长度有限,对观测区间以外的数据所做的约定不同,当 i的取值范围不同时,得到不同的 ξ (n)。 这里采用前加窗法,约定：
x(i)=0 i＜ 0
得到
)()( 2
1
1 ien
n
i
n?
(3.4.3)
第三章 自适应数字滤波器图 3.4.1 M个权的 FIR滤波器
z
－ 1
z
－ 1
x ( i － 1) x ( i － M ＋ 1 )
z
－ 1
d ( i )
…
x ( i )
－
＋
e ( i )
d ( i )
^
w
1
( i ) w
2
( i ) w
M
( i )
第三章 自适应数字滤波器为了后面叙述方面,引入一些符号 。 令 M维向量 wM(n)和
xM(n)分别表示 n时刻的滤波器的权向量和输入信号向量
T
T
21
)]1(,),1(),([)(
)](,),(),([)(
Mnxnxnxnx
nwnwnwnw
M
MM
当 i=1,2,…,n时,引入 n维误差向量 e(n)和期望信号向量 d
(n),以及输入信号构成的 M× n维矩阵 XM(n)
e(n)=［ e(1),e(2),…,e(n)］ T
d(n)=［ d(1),d2),…,d(n)］ T
XM(n)=［ xM(1),xM(2),…,xM(n)］
(3.4.5a)
(3.4.5b)
(3.4.5a)
第三章 自适应数字滤波器为了后面推导方便，引入 n× M维矩阵 C，定义
TT )](,),2(),1([)( nxxxnXC MMMM (3.4.5b)
应用这些符号，期望信号的估计和估计误差可以表示为
)()()()()()(
)()()()(?
T
T
nCwndnwnXndne
nCwnwnXnd
MMM
MMM
(3.4.6)
(3.4.7)
将 (3.4.7)式代入 (3.4.3)式，得到误差信号能量
)()()()()( T2
1
nenΛneien
n
i
in
第三章 自适应数字滤波器式中
100
00
00
2
1
n
n
Λ
是加权矩阵,对角线上的元素称为加权因子 。 为了推导简单起见,在后面的分析中,取 Λ =I,则
)]()(d[)]()(d[)()()( TT nCwnnCwnnenen MM
(3.4.9)
第三章 自适应数字滤波器要使 ξ (n)取得最小值，满足
0)()( nnM (3.4.10)
成立的 w(n)就是 wM(n)的最小二乘估计,记为 。 应用标量求导公式,计算得到
)(? nwLS
0)](?)([2)( T)( nCndCn Mnw M
(3.4.11)
将 (3.4.5b)式和 (3.4.7)式代入上式，有
0)()(?nenX M (3.4.12)
将 (3.4.11)式展开
)()(? TTT ndCnwCC M? (3.4.13)
第三章 自适应数字滤波器引入 M维向量 pM(n)以及 M× M维矩阵 RM(n)，
n
i
T
MM
T
MMM
M
n
i
MM
ixixnXnXCCnR
ixidndnXndCnp
1
T
1
T
)()()()()(
)()()()()()( (3.4.14)
(3.4.15)
则 (3.4.13)式可以写为
)()(?)( npnwnR MMM? (3.4.16)
可以看出,RM(n)类似于输入信号的自相关特性,pM(n)类似于输入信号与期望信号的互相关特性 。 (3.4.16)式与第二章中的维纳 -霍夫 (Wiener-Hopf)方程相似,不同之处在于维纳 -霍夫方程中的数学期望符号用求和符号所代替 。
第三章 自适应数字滤波器若矩阵 XM(n)的秩等于 M,记做 rank［ XM(n)］ =M,则 XM(n)XMT
(n)非奇异,求解 (3.4.16)式,可以得到 wM(n)的最小二乘估计
wLS(n),
)()()]()([
)(][)()()(?
1
1T1
ndnXnXnX
ndCCCnpnRnw
M
T
MM
T
MMLS
(3.4.17)
若 rank［ XM(n)］＜ M,则 wM(n)
在 (3.4.12)式两边同左乘以,得
T?LSw
0)()](?)([ TT?nenwnX LSM
(3.4.18)
应用 (3.4.6)式，得到
0)()(? T?nend (3.4.19)
第三章 自适应数字滤波器图 3.4.2 最小二乘估计的几何解释
x
m
d ( n )
e ( n )
d ( n )
0
x
1
^
第三章 自适应数字滤波器当 存在时，最小二乘的估计值 为)(? nw
LS )(? nd
)(?)()(? T nwnXnd LSM?
最小二乘估计的误差信号能量 ξ min为
)()(?)()(
)(?)()(?)()(?2)()(
)()()(
TT
TTT
T
m i n
npnwndnd
nwnpnwnpnwndnd
nenen
MLS
LSMLSMLS
(3.4.20)
综合前面的分析，我们可以把最小二乘问题用模型
z=Aθ +n (3.4.21)
第三章 自适应数字滤波器来描述,其中,z是观测信号,n为噪声信号,A可看作一数据矩阵,表征输入与输出之间的关系,θ 是可调整量 。 与前面的分析相对应,参见 (3.4.7)式,n类似于误差信号 e(n),z类似于信号真值 d(n),Aθ 类似于信号的估计值,且 A矩阵与 C矩阵相对应,在数据矩阵 A已经确定的情况下,θ 对 z的最小二乘估计为
)(? nd
zAAALS T1T )(
与图 3.4.2的信号向量相对应,观测信号 z构成的观测值向量与 d(n)相对应,Aθ 与估计向量 相对应,噪声信号 n与图中的估计误差 e(n)相对应 。
)(? nd
第三章 自适应数字滤波器令误差信号能量为 J，并取加权矩阵 Λ =I，则
)()()()( TT AzAzAzAzJ
(3.4.23)
第三章 自适应数字滤波器
2.
假设误差向量 n(k)是独立同分布的,具有零均值,方差为
σ 2,那么,最小二乘估计是无偏估计 ; 若噪声是高斯噪声,
则最小二乘估计是一致估计 。
(1) 无偏性：
][][)(])[(]?[ T1TT1T EnAEAAAzAAAEE LS
(3.4.24)
(2) 一致性：如果噪声是高斯噪声，那么最小二乘参数估计一致收敛,即
1.W,P?lim LSN (3.4.25)
这里,W.P.1表示以概率为 1的收敛。
第三章 自适应数字滤波器证明 首先求解最小二乘估计的协方差,令 表示最小二乘估计的误差,即
LS?~
LSLS?~
那么，当 θ 具有零均值时，最小二乘估计的协方差为
1TTT1T
TT1TTT1T
TTT1TT1T
TTT
)(][)(
}])[())((){
}])][(){ [ (
}{}]?][?{[?c o v
AAAnnEAAA
AAAnAnAAAAE
zAAAzAAAE
EE
LSLSLSLSLS
(3.4.26)
第三章 自适应数字滤波器已知噪声为高斯噪声，则 E［ nnT］ =σ 2I，得到最小二乘估计的协方差为
1
T
2
1T2
1T2
1
lim)(lim]?c o v [lim
)(]?c o v [
AA
NN
AA
AA
NN
LS
N
LS
式中,将以概率 1收敛于一个正定阵,且 σ 2是有界的,
因此
AAN T1
0]?c o v [lim LSN?
最小二乘估计的无偏性已经保证了偏移量为 0,因此,一致性得证 。
前面,所讨论的信号模型都是 MA模型,即最小二乘滤波器用 FIR滤波器实现,若信号是一 ARMA模型,那么怎样来求出信号所对应的最小二乘估计呢? 下面举一例说明 。
第三章 自适应数字滤波器例 3.4.1 已知模型
z(k)+az(k-1)=bx(k-1)+n(k)
其中,n(k)是均值为 0,且与 x(k)不相关的噪声信号,设定 n(k)
是各态遍历的高斯噪声,求 θ LS的最小二乘估计 。
这是一个近似的 ARMA(1,1)模型,其输出信号为 z(k)，
输入信号是 x(k)。 这个模型的近似性表现在不包含当前的输入信号,仅包含前一时刻的输入,并且模型还包括噪声信号 n(k)。
设定 n个观测值构成的观测向量表示为 z［ n］ =［ z(0),z(1),…,
z(n)］ T。
第三章 自适应数字滤波器和一般的最小二乘估计的模型 z=Aθ +n相比,这个问题的关键是如何确定 A矩阵 。 MA模型的输出完全由输入信号所决定,
而 ARMA模型的输出还包括以前时刻的输出对当前输出的反馈,
因此,ARMA模型的 A矩阵应同时包括输出和输入数据 。 针对这个例题所选的模型,可以确定 A矩阵为
)1()1(
)1()1(
)0()0(
NxNz
xz
xz
A
其中,z(i)和 x(i)分别表示 i时刻的观测值和输入值。
第三章 自适应数字滤波器解 根据 (3.4.17)式，计算 1TTT )(,,?AAzAAA
1
0
1
0
2
1
0
1
0
2
T
)()()(
)()()(
)1()1(
)1()1(
)0()0(
)1()1()0(
)1()1()0(
N
k
N
k
N
k
N
k
kxkxkz
kxkzkz
NxNz
xz
xz
Nxxx
Nzzz
AA
第三章 自适应数字滤波器
1
0
1
0T
)1()(
)1()(
)(
)2(
)1(
)1()1()0(
)1()1()0(
N
k
N
k
kzkx
kzkz
Nz
z
z
Nxxx
Nzzz
zA
第三章 自适应数字滤波器
)1(
)1(
)0()0(
)0()0(
)0()0()0(
1
)1()(
1
)1()(
1
)(
1
)()(
1
)()(
1
)(
1
)1()(
)1()(
)()()(
)1()()(
)(
2
1
0
1
0
1
1
0
1
0
2
1
0
1
0
2
1
0
1
0
1
0
1
0
2
1
0
1
0
2
T1T
xx
z
xxx
xxz
xxxz
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
N
k
LS
R
R
RR
RR
RRR
kzkx
N
kzkz
N
kx
N
kxkz
N
kxkz
N
kz
N
kzkx
kzkz
kxkxkz
kzkzkz
zAAA?
第三章 自适应数字滤波器其中,Rz表示 z的自相关函数,假设信号具有遍历性,则
,同理,得到 Rx(0),Rxz(0),Rn(1)等 。
考虑 n(k)与 x(k)是统计独立的及 E［ n(k)］ =0,记
Δ =Rz(0)Rx(0)-Rxz2(0),由已知模型关系
1
0
2 )(1)0(
N
k
z kzNR
)0()0()]1()([)1(
)1()0()0()]1()([)1(
00
00
xxzxz
nxzzz
RbRakzkxER
RRbRakzkzER
其中,a0和 b0为参数真值，得到
/)1(
/)1(?
0
0
1.W,P
nxz
nx
N
LS RRb
RRa
第三章 自适应数字滤波器由此可以看出，只有当 n(k)是白噪声时,Rn(1)=0，才能使得
0
0
0
1.W,P
b
a
N
LS
简单地说,所谓的最小二乘估计,是指在每个时刻对所有已输入的信号而言,误差平方和最小 。 最小二乘法的原理简单,
编程也易实现,因此获得了广泛的应用 。
第三章 自适应数字滤波器
3.4.2 递推最小二乘法 (RLS)
递推最小二乘法 (Recursive of Least Square,简称 RLS)
的基本思想就是新的估计值是在老的估计值的基础上修正而成的,为了分析简单,便设 θ 为一向量,且 θ 仅与当前观测值有关,则新的估计值 θ (k)=老的估计值 θ (k-1)+修正项^ ^
因此,最小二乘递推算法的关键是得到修正项的表达式 。 根据最小二乘估计式 (3.4.22),用 a(i)表示第 i步迭代时 A的取值,Ak
表示前 k步 A的数值构成的向量 。
第三章 自适应数字滤波器定义一个变量 P：
11
1
1
T1
1
T1
d e f)()()1(
d e f)()()(
k
T
k
k
i
k
T
k
k
i
AAiaiakP
AAiaiakP
(3.4.29)
其中
T)](,),2(),1([ kaaaA k
那么
1T11T
T1T
1
1
T1
)]()()1([)()(
)()()1()()()()()(
kakakPAAkP
kakakPkakaiaiakP
kk
k
i
(3.4.30)
(3.4.31)
第三章 自适应数字滤波器令观测信号向量为
T
1
T
)]1(,),2(),1([
)](,),2(),1([
kzzzz
kzzzz
k
k
(3.4.32a)
(3.4.32b)
这里,z(j)表示 j
把 (3.4.29)式代入 (3.4.22)式,k-1时刻 θ 的估计值
])()()[1()()1(?
1
1
1
T
1
1
1
T
1?
k
i
kkkkLS iziakPzAAAk?
(3.4.33)
上式两边同时左乘 P-1(k-1)，得
])()([)1(?)1(
1
1
1?
k
i
LS iziakkP?
(3.4.34)
第三章 自适应数字滤波器把 (3.4.33)式和 (3.4.34)式代入 (3.4.22)式,并应用 (3.4.30)式
)]1(?)()()[()()1(?
)()()1(?)]()()()[(
)]()()1(?)1()[(
])()()[()()(?
T
T1
1
1
T1T
kkakzkakPk
kzkakkakakPkP
kzkakkPkP
iziakPzAAAk
LSLS
LS
LS
k
i
kkkkLS
(3.4.35)
第三章 自适应数字滤波器为了进一步得到加权矩阵的表达式，可定义 q(k)
)()()( kakPkq? (3.4.36)
则 (3.4.35)式可以写为
)]1(?)()()[()1(?)(? T kkakzkqkk (3.4.37)
根据矩阵反演公式
1T1T111T )()( ACCACICAACCA
(3.4.38)
第三章 自适应数字滤波器这里,A,C为一个具体数值，代入 (3.4.31)式，得
)1(
1)()1()(
)()()1(
]1)()1()()[1()()()1()1(
)1()()]()1()(1)[()1()1(
)]()()1([)(
T
T
1TT
T1T
1T1
kP
kakPka
kakakP
kakPkakPkakakPkP
kPkakakPkakakPkP
kakakPkP
(3,4.39)
至此，得到了最小二乘递推算法的一种形式：
)1(
)()()()()1(?)(?
1)()1()(
)()()1(
1)(
)1(?)()()(
1T
T1
T
kP
kekakakPkk
kakPka
kakakP
kP
kkakzke
LS
(3,4.40)
第三章 自适应数字滤波器也可以将 (3.4.39)式代入 (3.4.36)式,整理后得
1T ]1)()1()()[()1()( kakPkakakPkq
(3.4.41)
因此可以得到递推最小二乘的另一种形式：
)1()]()(1[)(
]1)()1()()[()1()(
)]1(?)()()[()1(?)(?
T
T
T
kPkakqkP
kakPkakakPkq
kkakzkqkk
(3.4.42)
第三章 自适应数字滤波器
3.4.3 线性向量空间
1,向量空间的基本概念
1)
我们知道,一组数据可以看作是空间中的一个向量,一组向量可以确定一个空间,称为张成一个空间,如二维空间可以由两个向量 x=［ 1,0］ T和 y=［ 0,1］ T所张成,三维空间可以由三个向量 x=［ 1,0,0］ T,y=［ 0,1,0］ T和 z=［ 0,0,1］ T所张成,那么,M维向量空间,可理解为由 M个基本向量 uM(n)所张成 (这里的基本向量是指这些向量相互独立且正交 )。
第三章 自适应数字滤波器
M个基本向量 uM(n)构成一个数据矩阵,记为 U=［ u1(n),
u2(n),…,uM(n)］,那么矩阵 U所张成的空间,记为 {U}。 因此,
一组数据对应于一个向量,一个 (数据 )矩阵对应于一个空间 。
所谓的线性向量空间 ｛ U},是由若干个向量 uM(n)线性组合得到的,空间的维数是指用来张成该空间的最少的向量数 。
通常,我们所研究的向量空间都是希尔伯特空间,它与内积空间有紧密的联系 。 我们首先给出内积空间的定义 。
第三章 自适应数字滤波器
(1) 内积空间 。 若 u(n),v(n),w(n)是空间 {U}中的任意向量,
且 a为任一数,任意两个向量的内积为一个数,并满足下面的性质：
)(),()(),()(),()(
)(),()(),(
])(),()(),(
)()()()()(),(
0)(),(,0)(,0)(),(
1
T
nvnwnvnunvnwnu
nvnuanvnau
nunvnvnu
kvkunvnunvnu
nununununu
n
k
时当且仅当则称 {U}为内积空间。
第三章 自适应数字滤波器
(2) 希尔伯特空间 。 若某空间是一个线性内积空间的完整部分,则称该空间为希尔伯特空间,简称希氏空间 。 所谓的完整,是指不存在这样的向量,可以任意接近该空间但不属于该空间 。
自适应滤波这一章的内容所涉及的空间都是希尔伯特空间,
数学中常用的欧几里德空间也是希尔伯特空间第三章 自适应数字滤波器
2)
(1) 子空间 。 所谓的子空间,是指用少于空间维数的向量所张成的空间 。 如在几何中,X-Y平面是立体 X-Y-Z的一个子空间；
假设由向量 u1(n)=［ u1(1),u1(2),…,u1(n)］ T和 u2(n)=［ u2(1),
u2(2),…,u2(n)］ T分别张成空间 {u1}和 {u2},由向量 u(n)=
［ u1T,u2T ］ T=［ u1(1),u1(2),…,u1(n),u2(1),u2(2),…,u2(n)］ T
张成空间记为 {U},那么 {u1},{u2}都是 {U}的子空间 。
所谓相互正交的两个子空间,是指在这两个子空间上的任意向量 u(n),v(n)的内积都等于 0,即
(3.4.43)
0)(),( nvnu
第三章 自适应数字滤波器
(2) 两子空间之和 。 由空间 {U1}的向量 u1(n)和子空间 {U2}
的向量 u2(n)的所有线性组合所张成的空间称为这两个子空间之和,记为 {U1⊕ U2},简记为 U1U2 。
第三章 自适应数字滤波器
T1,UUUUP U
2.
这里所说的投影的含义与几何中投影的直观含义相同,
M+1维空间中的某一点与原点构成的向量在 M维子空间的投影,
可以用该向量与一加权矩阵相乘来表示,这个加权矩阵称作投影矩阵或投影算子 。 当然,投影矩阵也可以是一个向量 。 具体假设在 n时刻得到的数据向量为 x(n)=［ x(1),x(2),…,
x(n-1),x(n)］ T,U表示一个数据矩阵或数据向量,记为 U,由 U
张成的空间记为 {U},定义
(3.4.44)
称 PU为在 {U}上的投影矩阵或投影算子 。 若 U是一个 M× n维的矩阵,
则 PU是一个 M× M的方阵 。
第三章 自适应数字滤波器投影定理：给定希尔伯特空间中的子空间 {U}和向量 x，
在 {U}中必有唯一向量 PUx,使得在 {U}中的任意向量 y,均满足
0, yxPx U
(3.4.45)
PUx称为 x在 {U}中的投影向量 。 该式可以理解为向量 x-PUx与子空间 {U}正交,或者由该向量张成的一维子空间 {x-PUx}与子空间 {U}正交 。 (3.4.45)式启示我们,在进行空间分解时,可以采用正交分解的方法,使得张成空间所需的向量数目最少 。
一个 M维线性向量空间 {U}可以分解为一组相互正交的子空间 。
第三章 自适应数字滤波器定理,若 {U1},{U2}为希尔伯特空间 {H}中的相互正交的子空间,那么,对 {H}中的任一向量 x,均满足
xPxPxP UUUU 2121 (3.4.46)
即当子空间相互正交时,向量在子空间和上的投影等于在各子空间上投影之和 。
若已知一个向量在某子空间 {U}上的投影矩阵为 PU,则该向量在 {U}的正交子空间上的投影矩阵称为正交投影矩阵,记为
UP
UU PIP
(3.4.47)
第三章 自适应数字滤波器图 3.4.3 所示是投影矩阵和正交投影矩阵的含义,从向量
x在向量 u上的投影和正交投影中可以看出,投影矩阵和正交投影矩阵的实质是一加权向量 。 对于维数较高的子空间,投影矩阵和正交投影矩阵实质上是一加权矩阵 。
第三章 自适应数字滤波器图 3.4.3 投影矩阵和正交投影矩阵
0
x
u
xP
U
x
U
P
第三章 自适应数字滤波器
(1) 幂等性，即
UUU
UUU
PPP
PPP (3.4.48)
(2) 反身性，也称对称性,即
UU
UU
PP
PP
T
T (3.4.49)
(3) 正交性，即
0 UU PP (3.4.50)
第三章 自适应数字滤波器
3,数据向量的扩充及投影矩阵的更新若数据矩阵 U张成的空间是 {U},它的投影矩阵和正交投影矩阵分别为 PU、,当一个新的向量 u增加到 U中时产生一新矩阵,新矩阵记为 (U,u),由 (U,u)所张成的空间为 {U,u},该空间的投影矩阵和正交投影矩阵分别记为 PU,u和,u,那么由于向量 u的增加带来的投影矩阵的变化可以表示为
UP
UP
PU,u=PU+校正项第三章 自适应数字滤波器
PU,u相当于对新数据矩阵 ［ U,u］ 进行分解,其中 PU是原来的投影矩阵,校正项为新的投影矩阵与原投影矩阵的差或称为误差项 。 对 PU,u进行正交分解,可以得到
0,
,
wU
wUuU
P
PPP (3.4.51)
说明 w向量所张成的空间 {W}与 {U}正交 。 一般情况下,{u}与 {U}
不一定正交,即 u≠ w。 因此需要进行的分解就是把向量 u向空间
{U}和与 {U}垂直的空间 {W}上进行投影,换言之,w向量就是向量 u在与 {U}垂直空间上的投影第三章 自适应数字滤波器图 3.4.4 子空间 {U,u}及其等效子空间 {U,w}
U
w
{ U,u } ＝ { U,w }
u
U
wuP?
U
第三章 自适应数字滤波器采用正交分解方法,保证了 {U,u}和 {U,w}包含的信息是一样的 (如图 3.4.4 所示 )。 那么空间 {W}上的投影矩阵 Pw可以计算,即
T1
T1
,
,
uPuPuPuP
wwwwP
UUUU
w
(3.4.53)
利用投影矩阵的反身性,上式可以化简为
UUUw PuuPuuPP T1,
分别用 PU左乘和右乘 (3.4.53)式，可以证明 Pw与 PU满足正交性。
0,
0,
T1
T1
UUUUUw
UUUUwU
PPuuPuuPPP
uPuPuuPPPP
第三章 自适应数字滤波器把前面得到的投影矩阵的变化应用于实际问题中,可以看到,当由数据矩阵 U变为 (U,u),投影矩阵和正交投影矩阵的更新公式为
UUUUUuU
UUUUUuU
PuuPuPuPPP
PuuPuPuPPP
T1
,
T1
,
,
,(3.4.54)
若某一向量 y(n)在 {U}上的投影存在,记为 PUy,当数据矩阵发生变化时,同一向量 y(n)在新空间 {U,u}的投影分别是
yPuuPuPuPyPyP
yPuuPuPuPyPyP
UUUUUuU
UUUUUuU
,,
,,
1
,
1
,
(3.4.55)
第三章 自适应数字滤波器研究自适应滤波器的递推算法,当然要研究输出信号的变化,某时刻滤波器的估计误差及误差信号能量都是标量 。 鉴于标量可以用一广义内积来表示,因此,当空间发生变化时,
标量的更新用投影向量与某一向量内积的变化来表示,这里假设向量 z不变,另一个向量由 PUy变化为 PU,uy,根据内积运算的性质,可以得到标量的更新公式：
yPuuPuPuPzyPzyPz
yPuuPuPuPzyPzyPz
UUUUUuU
UUUUUuU
,,,,,
,,,,,
1
,
1
,
(3.4.56)
第三章 自适应数字滤波器
4,用向量空间法描述最小二乘问题首先介绍怎样由数据向量构造数据矩阵 。 已知一组数据
［ x(1),x(2),…,x(n)］ T构成一个向量 x(n),通过对 x(n)平移,
并在前端添 0,可以构成一系列向量 z-jx(n)(0≤ j＜ n)。 这些向量的组合可构成数据矩阵,由这些数据矩阵分别张成相应的向量空间 。
T
T
)(,),2(),1(,0,,0
)](,),2(),1([)(
jnxxx
jnxjxjxnxz j
第三章 自适应数字滤波器其中，数据矩阵 X1,M(n)和 X0,M-1(n)分别为
)()2()1(
)1()3()2(
0)1()2(
00)1(
000
)](,),(),([)(
21
,1
Mnxnxnx
Mnxnxnx
xx
x
nxznxznxznX
M
M
(3.4.57)
第三章 自适应数字滤波器这里,X1,M(n)是一个 n× M维的矩阵。
)1()1()(
)()2()1(
0)1()3(
00)2(
00)1(
)](,),(),([)(
110
1,0
Mnxnxnx
Mnxnxnx
xx
x
x
nxznxznxznX
M
M
第三章 自适应数字滤波器这里,X0,M-1(n)是一个 n× M维的矩阵 。 根据 X0,M-1(n)的定义,可以得到 X0,M-1(n-1)是一个 (n-1)× M的矩阵,其表达式为
)()2()1(
0)2()3(
0)1()2(
00)1(
)]1(,),1(),1([)1(
110
1,0
Mnxnxnx
xx
xx
x
nxznxznxznX
M
M
第三章 自适应数字滤波器比较上式和 (3.4.57)式,可以看出
)1(
0
)(
1,0
T
,1 nXnX
M
M
M
(3.4.58)
将数据矩阵 X1,M(n)和 X0,M-1(n)张成的向量空间,分别记为
{X1,M(n)},｛ X0,M-1(n)｝ 。
仍用前加窗的方法讨论最小二乘问题 。 参照图 3.4.1,已知数据 ［ x(1),x(2),…,x(n)］ T,依次通过 M个权的 FIR滤波器,
第 i个误差信号为
i
k
k kixiwidie
1
)1()()()(
1≤ i≤ n
第三章 自适应数字滤波器将 n个误差信号全部写出来，得到
)(
)(
)2(
)1(
)1()1()(
)1()1()(
0)1()2(
00)1(
)(
)(
)2(
)1(
)(
)(
)2(
)1(
nw
Mw
w
w
Mnxnxnx
xMxMx
xx
x
nd
Md
d
d
ne
Me
e
e
写成向量的形式
)()()()( 1,0 nwnXndne MM
第三章 自适应数字滤波器根据 (3.4.17)式得到最小二乘意义下,的最佳解及其最佳估计,
)(? nwM
)()()(),()()(
)()()(),()(?
T
1,0
1
1,01,01,0
T
1,0
1
1,01,0
ndnXnXnXnXnd
ndnXnXnXnw
MMMM
MMMM
根据投影矩阵的定义式 (3.4.44),子空间 {X0,M-1(n)}投影矩阵 P0,M-1(n)为
)()(),()()( T 1,011,01,01,01,0 nXnXnXnXNP MMMMM
得到
)()()(? 1,0 ndnPnd M
第三章 自适应数字滤波器
5,抽取参量和角参量
1) 抽取向量 π (n)
抽取向量 π (n)用于提取一个向量最新时刻的分量,也称为单位时间向量,或现时向量,为了书写方便,简写为 π (n)。
π (n)=［ 0,0,…,1］ T (3.4.59)
可以看出,π (n)表征的是当前数据向量的方向,因此可以把数据空间分解为过去与当前两个数据子空间 。 假设一个 n维数据向量 x(n)=［ x(1),x(2),…,x(n)］ T,它的现时分量的值可以表示为 x(n)=〈 π (n),x(n)〉 (3.4.60)
第三章 自适应数字滤波器
π (n)到 π (n)的投影矩阵 Pπ (n)和正交投影矩阵 分别为?
UP
)0,,1,1()()(
)1,,0,0()()(),()()( T1
D ia gnPInP
D ia gnnnnnP
U
(3.4.61)
(3.4.62)
设定 U是一个 n× M维矩阵,取 u=π (n),考虑当 U增加了这样一个列向量后,投影矩阵和正交投影矩阵发生的变化 。 这里,
(U,π (n))是 n × (M+1)维的矩阵,因此 PUπ (n)仍是一个 n× n维的矩阵,将 u的取值代入 (3.4.54)式,得到第三章 自适应数字滤波器
00
0)1(
)()()(
10
0)1(
)()()()(),()()()()(
)1(1
1)1(
)1(1
1)1(
T1
n
nU
UU
n
nU
UUUUUU
nP
nPnInP
nP
nPnnnPnnPnPnPnP
(3.4.63)
(3.4.64)
第三章 自适应数字滤波器
2) 角参量 γ U(n)
我们先给出角参量的定义,然后解释其名称的由来。角参量定义为
)()(),()()( nnPnnPn UUU
根据投影矩阵的反身性
)()(),()( nnPnn UU (3.4.65)
取 U(n)=x(n),
)()(),()( nnPnn xx (3.4.66)
第三章 自适应数字滤波器其中,为 π(n)对 x(n)的正交投影 。 图 3.4.5 画出了子空间 {x(n),π(n)},图中 i,j是该子空间的正交单位矢量 。
这里 θ 为矢量 x(2)和 x(3)之间的夹角,可以看出
)()( nnP x
T
]10[)(
c o s
s i n
c o s)()(
n
nnP
x
计算得到
2co s)(?nx
(3.4.67)
第三章 自适应数字滤波器当子空间 ｛ U(n-1)｝ 变成子空间 ｛ U(n)｝ 时,子空间转了一个角度 θ,角参量 γ U(n)就是这个角度大小的度量,也是
γ U(n)的名称的含义 。 令
)()(),()( 1,0 nnnXnU MUM
则
)()(),()( 1,0 nnPnn MM
θ 为子空间 {X0,M-1(n-1)}变成 {X0,M-1(n)}时的转角 。 并且,将展开,利用 (3.4.58)式,可以证明
)(,1 nP M?
)()()1(,1 nnPn MM
(3.4.68)
第三章 自适应数字滤波器图 3.4.5 子空间中最小二乘参量的角度关系
j
i x ( 3 )
x ( 2 )
( 3 )
)3()3( πP?
x
第三章 自适应数字滤波器
3.4.4 最小二乘格型算法 (LSL)
1,用向量空间法描述前后向线性预测滤波器已知 n个数据组成输入向量 x(n)=［ x(1),x(2),…,x(n)］ T，
送入 M个权的前向预测滤波器,其权向量为
,前向预测估计为
,如图 3.4.6 所示 。
T21 )(,),(),()( nwnwnwnw fMfffM
T)(?,),2(?),1(? nxxx?
由线性系统的基本理论
)()()(?,1 nwnXnx fMM?
(3.4.69)
第三章 自适应数字滤波器图 3.4.6 LS前向线性预测滤波器
z
－ 1
z
－ 1
x ( i － 1) x ( i － 2) x ( i － M )
z
－ 1
…
x ( i )
z
－ 1
…
x ( i )
－
＋
^
)(
1
iw
f
)(
2
iw
f
)( iw
f
M
)( ie
f
M
第三章 自适应数字滤波器应用 (3.4.17)式,得到在最小二乘意义下的 的最佳解和最佳前向预测向量,即
)(nw fM
)(? nx
)()()(),()()()()(?
)()()(),()(
T
,1
1
,1,1,1,1
T
,1
1
,1,1
nxnXnXnXnXnwnXnx
nxnXnXnXnw
MMMM
f
MM
MMM
f
M
(3.4.70)
用 P1,M(n)表示输入数据矩阵张成的空间｛ X1,M(n)｝的投影矩阵，
)()(),()()( T,11,1,1,1,1 nXnXnXnXnP MMMMM
(3.4.71) 最佳估计可以表示为
)()()(?,1 nxxPnx M?
(3.4.72)
第三章 自适应数字滤波器
n时刻的前向预测误差向量和前向预测误差 eMf (n)分别为
T)](,),2(),1([)( neeene fMfMfMfM
)()(),()(),()(
)()()]()[()(?)()(
,1
,1,1
nxnPnnenne
nxnPnPInxnxnxne
M
f
M
f
M
MM
f
M
(3.4.73)
(3.4.74)
同理,当 n个数据组成的输入向量 x(n)=［ x(1),x(2),…,x(n)］ T，
在前加窗法的约定下,送入 M个权的后向预测滤波器,设定该滤波器权向量为,如图
3.4.7 所示 。
T21 )]()(),([)( nwnwnwnw bMbbbM,,
第三章 自适应数字滤波器图 3.4.7 LS后向线性预测滤波器
z
－ 1
z
－ 1
x ( i － 1 )
z
－ 1
…
x ( i )
z
－ 1
…
x ( i － M )
－
＋
^
)(
1
iw
b
)(
2
iw
b
)( iw
b
M
)( ie
b
M
x ( i － M ＋ 1 ) x ( i － M )
第三章 自适应数字滤波器得到在最小二乘意义下的 wMb (n)的最佳解和最佳估计
,即)(? Mnx?
)()()(),()(
)()()(?
)()()(),()(
T
1,01,01,0
1,0
T1
1,01,0
1,0
1,0
nxznXnXnXnX
nwnXMnx
nxznXnXnXnw
M
MMM
b
MM
M
MM
b
M
M
M
(3.4.75)
用 P0,M-1(n)表示输入数据矩阵张成的空间 {X0,M-1(n)}的投影矩阵,
)()(),()()( T 1,011,01,01,01,0 nXnXnXnXnP MMMMM
(3.4.76)
第三章 自适应数字滤波器最佳后向预测向量可以表示为
)()()(? 1,0 nxznPMnx MM (3.4.77)
n时刻的后向预测误差向量 和后向预测误差 分别为
T)](,),2(),1([)( neeene bMbMbMbM
)(nebM
)()(),()(),()(
)()()(?)()(
1,1
1,1
nxznPnnenne
nxznPMnxMnxne
N
M
b
M
b
M
M
M
f
M
(3.4.78)
(3.4.79)
前向预测误差能量
)()(),()()(),()(,1,1 nxnPnxnPnenen MMfMfMfM?
第三章 自适应数字滤波器利用投影矩阵的反身性,得到
)()(),()(,1 nxnPnxn MfM?
同理，后向预测误差能量
)()(),(
)()(),()()(),()(
1,0
1,0,1
nxznPnxz
nxznPnxznPnenen
M
M
M
M
M
M
M
b
M
b
M
b
M?
可以看出,许多参量与投影矩阵密切相关,因此,当数据空间从 n-1变化到 n,参量的更新就涉及到投影矩阵的更新,在得到具体参量的更新公式之前,我们先来证明一个有用的公式,
1,11,11 )()( MMMM znPznPz (3.4.82)
第三章 自适应数字滤波器证明 根据 (3.4.78)式,n-1时刻的后向预测误差向量的最优解为
)()1(
)1()1()1(
1
1,0
1,0
nxznP
nxznPne
M
M
M
M
b
M
(3.4.83)
将正交投影矩阵 展开，并将 (3.4.76)式代入)1(
1,0 nP M
)()1()1(
),1()1()(
)()]1([)1(
1T
1,0
1
1,0
1,01,0
1
1
1,0
nxznXnX
nXnXnxz
nxznPIne
M
MM
MM
M
M
M
b
M
第三章 自适应数字滤波器将 (3.4.75)式代入上式，得到
)1()1()1()1( 1,0 nwnXnxzne bMMMbM
写成矩阵形式为
)1(
)()2()1(
0)1()2(
00)1(
)1(
)1(
0
0
)1(
)2(
)1(
nw
Mnxnxnx
xx
x
Mnx
x
ne
e
e
b
M
b
M
b
M
b
M
第三章 自适应数字滤波器将上面的矩阵扩张，添一行 0，
)1(
)()2()1(
0)1()2(
00)1(
000
)1(
)1(
0
0
)1(
)2(
)1(
0
nw
Mnxnxnx
xx
x
Mnx
x
ne
e
e
b
M
b
M
b
M
b
M
用向量空间法表示上式：
)1()()(
)1()]()()([)(
)1(
0
,1
1
211
nwnXnxz
nwnxznxznxznxz
ne
b
MM
M
b
M
MM
b
M
(3.4.84)
第三章 自适应数字滤波器根据 (3.4.17)式,上式中 的最小二乘解和最小二乘估计的误差向量分别为
)1(?nw bM
)()(
)1(
0
)()()1(?
1
,1
1
,1
nxznP
ne
nxznPnw
M
Mb
M
M
M
b
M
(3.4.85)
由于添 0不会影响 (3.4.84)式的最小二乘解,因此 (3.4.85)
式与 (3.4.83)式相等,
)()1()()( 1,11,1 nxznPnxznP MMMM
第三章 自适应数字滤波器下面来证明
)1()( 1,01,1 nPnP MM
根据数据矩阵的定义及 (3.4.58)式
)1(
0
)()(
10
T
,11,0
1
nX
nXnXz
,M -
M
MM
因此由正交投影矩阵的定义
)()(
)()(),()(
)()(),()(
)1()1(),1()1(
)1()1(
1,01,0
T
1,0
1
1,01,01,0
T
1,0
11
1,0
1
1,0
1
1,0
1
T
1,0
1
1,01,01,0
1,01,1
nPnPI
nXnXnXnXI
nXznXznXznXzI
nXnXnXnXI
nPInP
MM
MMMM
MMMM
MMMM
MM
上式两边同乘 z-M-1，即得 (3.4.8)式。证明完毕。
第三章 自适应数字滤波器
2,前,后向预测滤波器的参数更新首先来看前向预测误差,取 z=π (n),U=X1,M(n),u=z-M-1x(n),
y=x(n),更新后的数据空间及其正交投影矩阵分别为
MU
MUu
M
M
M
PP
PP
nXnxznXuU
,1
1,1
1,1
1
,1
)()(),(},{
(3.4.86)
应用 (3.4.74)式计算前向预测误差,根据 (3.4.56)式及
z,u,U,y的设置,得第三章 自适应数字滤波器
)1(
)(),()1(
)(
)(),()()(),()(),(
)()(),()()(),()(
1
1
,1
1111
1,11,11
n
nenezne
ne
neznxnPnezneznezn
nxnPnnxnPnne
b
M
f
M
b
M
b
Mb
M
b
MM
b
M
b
M
b
M
MM
f
M
(3.4.87)
其中
)()( 1,1 nxznPuP MMU
)()()( 11,01 neznxznPzuP bMMMU
根据 (3.4.82)式和 (3.4.78)式,有应用 (3.4.73)式
)()()(,1 nenxnPyP fMMU
第三章 自适应数字滤波器可以看出,前向预测误差更新的调整因子为
)1(
)(),()( 1
1?
n
neneznK
b
M
f
M
b
Mb
M?
(3.4.88)
同理，可以得出
)(
)(),()(
)1(
)()(),()(
1
1
,01
n
nenezne
ne
nxznPnne
f
M
b
M
b
M
b
Mb
M
M
M
b
M
(3.4.89)
因此，后向预测误差更新的调整因子为
)1(
)(),()( 1
1?
n
neneznK
b
M
f
M
b
Mb
M?
(3.4.90)
第三章 自适应数字滤波器将 (3.4.88)式和 (3.4.90)式分别代入 (3.4.87)式和 (3.4.89)
式,得到前后向预测误差的关系式
)()()1()(
)1()()()(
11
11
nenKnene
nenKnene
f
M
f
M
b
M
b
M
b
M
b
M
f
M
f
M
根据前后向预测误差的递推关系,得到一格型结构的滤波单元,如图 3.4.8(a)所示 。
第三章 自适应数字滤波器图 3.4.8 最小二乘格型 (LSL)
(a) 格型结构单元； (b) 最小二乘格型滤波器
z
－ 1
)( ne
f
M
)( ie
b
M
)(
1
nK
f
M?
)(
1
nK
b
M?
)(
1
ne
f
M?
)(
1
ne
b
M?
( a )
z
－ 1
)(
1
nK
f
)(
1
nK
b
z
－ 1
)(
2
nK
f
)(
2
nK
b
z
－ 1
)( nK
f
M
)( nK
b
M
)()()(
00
nenenx
bf
)( ne
f
M
)( ne
b
M
…
…
)(
2
ne
f
)(
2
ne
b
)(
1
ne
f
)(
1
ne
b
( b )
第三章 自适应数字滤波器
(3.4.88)式和 (3.4.90)式都有一个相同的因式,表征前后向预测误差的相关特性,称为偏相关系数,记为
)(),()( 11 nenezn fMbMM (3.4.92)
将偏相关系数代入前、后向预测误差的递推关系式 (3.4.87)
和 (3.4.89)中,得到
)(
)()(
)()(
)1(
)()1(
)()(
1
1
1
1
n
nne
nene
n
nne
nene
f
M
M
f
Mb
M
b
M
b
M
M
b
Mf
M
f
M
(3.4.93a)
(3.4.93b)
第三章 自适应数字滤波器下面来看前向预测误差能量的更新 。 根据 (3.4.80)式,
得到前向预测误差能量的表达式
)()(),()( 1,11 nxnPnxn MfM?
(3.4.94)
取 z=y=x(n),U=X1,M(n),u=z-M-1x(n),应用标量更新公式
(3.4.56),计算得到
)1(
)()()( 2 1
1?
n
nnn
b
M
Mf
M
f
M
(3.4.95)
同理,取 z=y=z-M-1x(n),U=X1,M(n),u=x(n),得到后向预测误差能量的更新公式
)(
)()1()( 2 1
1 n
nnn
f
M
Mb
M
b
M
(3.4.96)
第三章 自适应数字滤波器根据偏向关系数的定义 (3.4.92)式,我们来证明：
)1(
)1()()1()(
11?
n
nenenn
M
b
M
f
M
MM?
(3.4.97)
其中 γM(n-1)是角度参数,表示角参量的现时分量,其定义参见
(3.4.68)式 。
取 y=z-M-1x(n),z=x(n),U=X1,M(n),u=π(n),这样,
第三章 自适应数字滤波器
)1()()(),(,,
)()()(),(
)()(),(,,
)()()(),(,,
)()()(),(,
)1()()(),(,
1,1
1
1,0
1
1
,1
,1
1
1
,1
1
1
,,1
,,1
nnnPnuPuuPuP
neznxznPzn
nxznPnyPuyuP
nenxnPnzPuuPz
nnxznPnxyPz
nnxznPnxyPz
PP
MMUUU
b
M
M
M
M
MUU
f
MMUU
M
M
MU
M
M
MUu
MU
u
第三章 自适应数字滤波器代入标量投影更新公式 (3.4.56),得到
)1(
)1()()()1(
11?
n
nenenn
M
b
M
f
M
MM?
由 (3.4.97)式可以看出,偏相关系数的更新转化为角参数的更新,取 u=z-M-1x(n),U=X1,M(n),y=z=π(n),代入标量更新公式
(3.4.56),可以得到角度参数的更新公式
)1(
)]1([)1()1( 2
1?
n
nenn
b
M
b
M
MM
(3.4.98)
第三章 自适应数字滤波器
3,LSL滤波器的算法将前面的分析综合起来,可以得到 LS格型滤波器的算法,
假设格型滤波器共有 P级 。
初始化
,)0()0(,1)0(,0)0()0( bMfMMMbMe
δ 为一个小的正数给向量赋值 (n=1 to n)
1)(),()1()()(),()0()0( 0200000 nnxnnnnxee fbfbf
第三章 自适应数字滤波器当 0≤ M≤ P-1时,按下面的顺序计算：
)1(
)1(
)1()1(
)(
)(
)1()(
)1(
)(
)()(
)(
)()(
)1()(
)1(
)()1(
)()(
)1(
)1()(
)1()(
2
1
2
1
1
2
1
1
1
1
1
1
11
n
ne
nn
n
n
nn
n
n
nn
n
nne
nene
n
nne
nene
n
nene
nn
b
M
b
M
MM
f
M
Mb
M
b
M
b
M
Mf
M
f
M
f
M
M
f
Mb
M
b
M
b
M
M
b
Mf
M
f
M
M
b
M
f
M
MM
(3.4.97)
(3.4.93a)
(3.4.93b)
(3.4.95)
(3.4.96)
(3.4.98)
第三章 自适应数字滤波器
3.4.5 快速横向滤波算法 (FTF算法 )
1,快速横向滤波器的向量空间表示
1) 横向滤波器 wM(n)
设定输入信号为 x(n)=［ x(1),x(2),…,x(n)］ T,期望信号为
d(n)=［ d(1),d(2),…,d(n)］ T,当 x(n)通过横向滤波器 wM(n)，
得到的输出信号为
)()()(?
)](,),2(),1([)(?
1,0
T
nwnXnd
ndddnd
M
(3.4.99)
式中
)](,),(),([)( 1101,0 nxznxznxznX MM
(3.4.100)
第三章 自适应数字滤波器估计误差 e(n|n)=［ e(1|n),e(2|n),…,e(n|n)］ T表示根据 n时刻的横向滤波器权向量 wM(n)估计所得的误差向量,e(n|n-1)表示根据 n-1时刻的权向量 w M(n-1)估计所得的误差向量,
e(n|n-1)表示根据 n-1时刻的权向量 wM(n-1)估计所得的误差
)1()()()1|(
)1()()()1|(
)()()()(?)()|(
T
1,0
1,0
nwnXndnne
nwnXndnne
nwnXndndndnne
M
MM
MM
(3.4.101)
在最小二乘意义下，应用 (3.4.17)式,得到横向滤波器的最佳解和最佳估计为第三章 自适应数字滤波器
)()()(),()()(?
)()()(),()(
)()()]()([)(
T
1,0
1
1,01,01,0
T
1,0
1
1,01,01,0
T
1,0
1
1,0
T
1,0
ndnXnXnXnXnd
ndnXnXnXnX
ndnXnXnXnw
MMMM
MMMM
MMMM
为了后面叙述方便,引入横向滤波算子,也称作横向滤波器的投影矩阵 。 对于一个一般的数据矩阵 U,横向滤波算子定义为
T1,UUUK U
可以看出,横向滤波算子实际上就是 U矩阵的左逆矩阵,当 U
为 M× n维矩阵时,KU为 n× M维矩阵 。 与 (3.4.44)式比较,得到横向滤波算子 KU与投影矩阵 [PU的关系为
UU UKP?
(3.4.103)
第三章 自适应数字滤波器当 U=X0,M-1(n)时，对应的横向滤波算子为
)()(),()( T 1,011,01,01,0 nXnXnXnK MMMM
(3.4.104)
因此横向滤波器的最佳解 wM(n)和最佳估计 d(n)为^
)()()()()()(?
)()()(
1,01,01,0
1,0
ndnPndnKnXnd
ndnKnw
MMM
MM
最佳估计误差向量 e(n|n)和 n时刻的最佳估计误差 e(n|n)为
)()(),()|(),()|(
)()()()]([)(?)()|(
1,0
1,01,0
ndnPnnnennne
ndnPndnPIndndnne
M
MM
(3.4.105)
(3.4.106)
(3.4.107)
第三章 自适应数字滤波器
2) 前向线性预测滤波器 fM(n)
设定前向线性预测滤波器的权向量 fM(n)=［ f1(n),f2(n),…,
fM(n)］ T,输入信号为 x(n)=［ x(n-1),x(n-2),…,x(n-M)］ T,通过前向线性预测滤波器 fM(n)的输出为
,n时刻的前向预测误差向量为 ef(n|n)=［ ef(1|n),ef(2|n),…,ef(n|n)］ T,根据 3.4.4节的分析结果,得到在最小二乘的意义下,fM(n)的最佳解和最佳估计向量 分别为
T)](?,),2(?),1(?[)(? Mnxnxnxnx
)(? nx
)()()(?
)()()()()(),()(
,1
,1
T
,1
1
,1,1
nxnPnx
nxnKnxnXnXnXnf
M
MMMMM
(3.4.108)
(3.4.109)
第三章 自适应数字滤波器其中
)](,),(),([)(
)()(),()()(
21
,1
T
,1
1
,1,1,1,1
nxznxznxznX
nXnXnXnXnP
M
M
MMMMM
(3.4.110)
(3.4.111)
最佳预测误差向量 ef［ n|n］和 n时刻的最佳预测误差 ef(n|n),
)()(),()|(),()|(
)()()(?)()|(
,1
,1
nxnPnnnennne
nxnPnxnxnne
M
ff
M
f
(3.4.112)
(3.4.113)
根据前向线性预测滤波器的输入输出关系,n时刻的前向线性预测误差 ef(n|n)也可以写成
)()()(
)()()1()()()|(
T
1
nfnxnx
Mnxnfnxnfnxnne
M
M
f
(3.4.114)
第三章 自适应数字滤波器这里
)](,),1([)(T Mnxnxnx
前向预测误差能量
)()(),()()(),()(
)|(),|()(
,1,1,1 nxnPnxnxnPnxnP
nnennen
MMM
fff?
(3.4.115)
第三章 自适应数字滤波器
3) 后向线性预测滤波器 bM(n)
设定后向线性预测滤波器的权向量 bM(n)=［ b1(n),b2(n),…,
bM(n)］ T,输入信号为 x(n-M)=［ x(n-1),x(n-2),…,x(n-M)］ T，
通过后向线性预测滤波器 bM(n)的输出为
,eb(n|n)表示根据 n
时刻的后向线性预测滤波器的权向量 bM(n)估计所测得的误差向量,且 eb(n|n)=［ eb(1|n),eb(2|n),…,eb(n|n)］ T。 eb(n|n-1)表示根据
n-1时刻的后向线性预测滤波器的权向量 bM(n-1)估计所得的误差向量,那么
T)](?,),2(?),1(?[)(? MnxnxnxMnx
)1()()()1|(
)()()()|(
T
T
nbnxMnxnne
nbnxMnxnne
M
b
M
b
(3.4.116a)
(3.4.116b)
第三章 自适应数字滤波器同理,推导得到在最小二乘意义下,bM(n)的最佳解和最佳估计 分别为
)(? Mnx?
)()()(?
)()()(
1,0
1,0
nxznPMnx
nxznKnb
M
M
M
MM
(3.4.117)
(3.4.118)
其中
)()(),()(
)()(),()()(
)](,),(),([)(
T
1,0
1
1,01,01,0
T
1,0
1
1,01,01,01,0
110
1,0
nXnXnXnK
nXnXnXnXnP
nxznxznxznX
MMMM
MMMMM
M
M?
(3.4.119)
第三章 自适应数字滤波器最佳预测误差向量 eb(n|n),eb(n|n-1)和 n时刻的最佳预测误差
eb(n|n)为
)()(),()|(),()|(
)()()(?)()|(
1,0
1,0
nxznPnnnennne
nxznPMnxMnxnne
M
M
bb
M
M
b
后向预测误差能量为
)()(),(
)()(),()(
)|(),|()(
1,0
1,01,0
nxznPnxz
nxznPnxznP
nnennen
M
M
M
M
M
M
M
bbb
(3.4.122)
第三章 自适应数字滤波器
4) 增益滤波器 gM(n)
增益滤波器,更确切地讲是关于角参量的滤波器,当时间从 n-1变为 n时,数据矩阵所张成的空间发生了变化,这个变化的实质是空间的角度发生了变化,转角的大小可以用该空间的投影矩阵的变化来描述,如图 3.4.9 所示 。 图中所示的数据空间为一维的情况,即 x(n)=x(n)。
计算 π (n)在 x(n)上的投影 。 设定投影算子为 Px(n),投影所得为 Px(n)π(n)。 因为投影在 x(n)上,所以可写成 g(n)x(n),g(n)表示增益系数,即
x(n)g(n)=Px(n)π(n) (3.4.123)
第三章 自适应数字滤波器图 3.4.9 单一系数情况下最佳 LS增益滤波器的构造
( n )
x ( n )
x ( n )? ( n )
x ( n － 1 )
g ( n ) x ( n )
e
( n )
e
( n )? ( n )
第三章 自适应数字滤波器推广到 M维情况，用 gM(n)表示增益向量，可以得到
)()()()( 1,01,0 nnPngnX MMM
(3.4.124)
在 (3.4.121)式两边同时左乘 )(
1 1,0 nX M
)()(
)()()(),()(
1,0
T
1,0
1
1,01,0
nnK
nnXnXnXng
M
MMMM
(3.4.125)
在 n-1时刻，得到
)1()1()1( 1,0 nnKng MM?(3.4.126)
下面证明
)()()1(,1 nnKng MM
第三章 自适应数字滤波器证明 将 (3.4.58)式代入横向滤波算子的展开式中
)]1(00[
)1(
0
,
)1(
0
)()(),()(
T
1,0
1
1,0
T
1,0
T
T
,1
1
,1,1,1
n
nXnX
nXnXnXnK
MM
M
M
M
M
MMMM
将内积逆的计算，放入矩阵当中
)]1(,0[
)]1(
)1(
0
,
)1(
0
,0)(
1,0
T
1,0
1
1,0
T
1,0
T
,1
nK
nX
nXnX
nK
M
M
MM
M
第三章 自适应数字滤波器于是
)1()1()1(
)1(π
0
)]1(,0)()(
1,0
1,0,1
ngnnK
n
nKnnK
MM
MM
证明完毕。
第三章 自适应数字滤波器再来看图 3.4.9,π(n)向 x(n)投影,投影落在 x(n)上,因此这个投影的大小 g(n)x(n)可以看作是 x(n)对 π (n)的最小二乘估计 。
同理,对应于 M维情况,投影大小为 X0,M-1(n)gM(n),估计误差向量为
)()()()()()( 1,01,0 nnPnnPnne MM (3.4.127)
根据角参量的定义式 (3.4.66),可以知道,n时刻的估计误差等于该时刻的角参量
)()()(),()( 1,0 nnnPnne MM
计算 γ M(n)，首先内积运算满足结合律
)()()(),(1
)()]([),()()(),()(
1,01,0
1,01,0
nnKnXn
nnPInnnPnn
MM
MMM
第三章 自适应数字滤波器又根据投影矩阵与横向滤波算子的关系及 (3.4.121)式,有
)()(),(π1
)()(),(π1)(
1,0
1,0
ngnXn
nnPnn
MM
MM (3.4.128a)
类似地，对应一个向量，有
)()(1)( T ngnxn MMM
综合 (3.4.105),(3.4.108),(3.4.117)式和 (3.4.125)
式,可以看出,参量的更新与横向滤波算子的更新密切相关 。
在推导 FTF算法之前,先来推导横向滤波算子的更新公式 。
第三章 自适应数字滤波器
2,横向滤波器算子的更新假设数据矩阵 U张成的空间记为 {U},所对应的横向滤波算子和投影矩阵分别为 KU和 PU,当数据矩阵由 U变为 (U,u)时,张成的空间记为 {U,u},对应的横向滤波算子和投影矩阵分别为 KUu
和 PUu。 对于子空间来说,{U,u}={u,U},但对应于数据矩阵 U,
u)和 (u,U)来讲,它们是不相同的 。 首先研究对于子空间 {U,u}，
横向滤波算子 KUu的更新 。
为了后面分析简单,假设 u为 n× 1维,U为 n× M维,则 (U,u)
的维数为 n× (M+1),这样 KUu和 PUu的维数分别为 (M+1)× n和
n× n。
第三章 自适应数字滤波器将 PUu的更新公式 (3.4.54)代入 KUuPUu的计算式中,可以得到
UUUUUuUUuUuUu PuuPuPuPKPKPK T1,
(3.4.129)
应用横向算子的定义式 (3.4.103)及投影算子的定义式 (3.4.44)，有
T1
T1
),(),(),,(),(
),(),(),,(
uUuUuUuUK
uUuUuUK
Uu
Uu
(3.4.130)
(3.4.131)
可以得到
IuUK
KuUuUuUuUuUuUuUPK
Uu
UuUuUu
),(
),(),(),,(),(),(),(),,( T1T1(3.4.132)
(3.4.133)
第三章 自适应数字滤波器将 (3.4.133)式写成矩阵形式
10
0
),(
T
1
1
M
MMM
Uu
I
uUK (3.4.134)
得到
1
0
0
1
T
1
M
Uu
M
MM
Uu
uK
I
UK (3.4.135)
(3.4.136)
第三章 自适应数字滤波器分别计算 KUuPU和,并代入 (3.4.135)式和
(3.4.136)式，得到
uPK UUu?
T
1
T
1
T1
00
,
M
U
U
M
MM
UuUUu
K
K
I
UUUUKPK
(3.4.137)
101
0
0
)(
T
1
1
T
1
uKuK
u
K
uKuPIKuPK
U
M
UM
M
U
UuUUuUUu
(3.4.138)
第三章 自适应数字滤波器将 (3.4.137)式和 (3.4.132)式代入 (3.4.129)式,得到横向滤波算子 KUu的更新公式
UUU
U
M
U
UUU
U
M
U
Uu
PuuPuP
uKK
PuuPuP
uKK
K
T1
T
1
T1
T
1
,
10
,
10
(3.4.139)
第三章 自适应数字滤波器
UUU
UU
M
UUU
UU
M
uU
PuuPuP
uKK
PuuPuP
uKK
K
T1
T
1
T1
T
1
,
10
,
10
对应于子空间 {u,U},具体的推导思路相同,得到横向滤波算子 KuU的更新公式
(3.4.140)
当取 u=π(n),U=X0,M-1(n),(U,u)为 n× (M+1)维矩阵,即对应于子空间 {U,u},列出相应的横向滤波算子,投影矩阵等参量的表达式
)}(),({)}(),(,),(),({},{ 1,0)1(1 nnXnnxznxznxuU MM
(3.4.141)
第三章 自适应数字滤波器
)(
)(
,1,0,,
,1,0,,
nPKP
nKKK
MUuU
MUuU
(3.4.142)
(3.4.143)
应用 (3.4.56)式和 (3.4.136)式,可以得到下面两式：
1)1(
0)1(
)(
10
0)1(
)(
T
1,1,0
,1,0
T
1)1(
1)1(,1,0
,1,0
ny
nK
nK
nP
nP
MM
M
n
nM
M
(3.4.144)
(3.4.145)
这里,yT(n-1)表示一个 1× n维向量。
第三章 自适应数字滤波器选择相同的 u和 U,对应子空间 ｛ u,U｝,其空间表达式和横向滤波算子分别为
)(),()}(,),(),(),({},{ 1,0)1(1 nXnnxznxznxnUu MM
(3.4.146)
1)1(
0)1(
)( 1,1,,1
nb
nK
nK
T
MM
M?
(3.4.147)
这里,bT(n-1)表示一个 1× n维向量。
第三章 自适应数字滤波器
3,横向滤波器的时间更新
1) 横向滤波器 wM(n)
根据横向滤波器的表达式 (3.4.105)，取 U=X0,M-1(n),u=π(n)，
则 KUu(n)=K0,M-1(n),计算 KUu(n),应用 (3.4.139)式,得到
)(
)(),(
1
)(
0
)(
)( 1,01,0,1,0
n
nPnngnK
nK
M
MMM
M?
(3.4.147)
其中
)(),(,1,01,0 nPnPuPuP MMUU
第三章 自适应数字滤波器根据投影矩阵的反身性及 (3.4.65)式,有
)()()(
)()(),(,
1,0
1,0
ngnnKuK
nnPnuPuP
MMU
MMUU
(3.4.149)
(3.4.150)
用 d(n)右乘 (3.4.145)式，并将 (3.4.148)式代入，则
)(
)()(),(
1
)(
)(
0
)(
)(
)1(
1)1(
0)1(
)(
1,01,0
T
11,0
,1,0
n
ndnPnng
nd
nK
nd
nd
ny
nK
ndK
M
MMM
MM
M
(3.4.151)
第三章 自适应数字滤波器取 (3.4.151)式中的第一行
)(
)()(),()()()()1()1( 1,0
,1,0,1,0 n
ndnPnngndnKndnK
M
M
MMM?
将 (3.4.105)式和 (3.4.107)式代入上式，得到 wM(n)的更新公式
)()( )|()1()( ngnnnenwnw M
M
MM
可以看出,要得到 n时刻的 wM(n)的更新,需要知道 n-1时刻的 wM(n-1)以及 n时刻的 e(n|n),γM(n),gM(n)。 下面推导增益滤波器 gM(n)的更新公式 。
第三章 自适应数字滤波器
2) 增益滤波器 gM(n)更新增益滤波器 gM(n)的更新分两步,第一步由前向预测误差的更新结果及 gM(n-1)获得 gM+1(n),第二步由后向预测误差的更新结果和 gM+1(n)获得 gM (n) 。 首先来看第一步 。
取 U=X1,M(n),u=x(n),使得 {u,U}={X0,M(n)},KuU(n)=K0,M(n)，
应用 (3.4.140)式,计算 KuU(n)
)(
)()(
)()(
1
)(
0
)()()(),()(
)(
1
)(
0
)(
,1
T
,1,1
T
1
,1
T1
,1,1
,1,1
T
1
,0
n
nPnx
nxnKnK
nPxnxnPnxnP
nxKnK
nK
f
M
MM
M
MMM
MM
M
M
(3.4.153)
第三章 自适应数字滤波器其中，根据 (3.4.115)式
)()()(),()(,1,1 nnxnPnxnP fMM
应用正交投影算子的反身性及 (3.4.112)式
)|()()()()(,1,1T nnenxnPnPnx fMM
用 π (n)右乘 (3.4.153)式，得
)(
)|(
)()(
1
)(
)(
0
)()(
,1,1
T
1
,0 n
nne
nxnK
n
nK
nnK f
f
MM
M
M
(3.4.154)
第三章 自适应数字滤波器根据 (3.4.125)式,K0,M(n)π(n)是 M+1阶最小二乘估计的增益滤波器,记为 gM+1(n)。 对 gM+1(n)分块,mM(n)是 gM+1(n)的前 M个分量,m(n)为 gM+1(n)的第 M+1个分量,
)(
1
)(
)|(
)1(
0
)(
)(
)(1
nfn
nne
ngnm
nm
ng
M
f
f
M
M
M?
(3.4.155)
根据 (3.4.155)式可以看到,利用前向预测滤波器的更新结果及增益滤波器 gM(n-1) 获得 gM+1(n),而我们需要的是 gM(n-
1)→ gM(n),因此需要继续处理,这就是第二步过程 。
第三章 自适应数字滤波器取 U=X0,M-1(n),u=z-Mx(n),{U,u}={X0,M(n)},KuU(n)=K0,M(n)，
采用相同的推导过程,计算 KUu(n)。
1
)()(
0
)(
)( 1,0
T
1
1,0
,0
nxznKnK
nK
M
M
M
M
M
)(
)(),(
1
)(
0
)(
)(),()()(),()(
1,0
T
1
1,0
1,0
1
1,01,0
n
nPnxznbnK
nPnxznxznPnxznP
b
M
M
M
M
M
M
MM
M
M
M
(3.4.156)
第三章 自适应数字滤波器用 π (n)右乘，并代入 (3.4.155)式
)(
)(
)|(
1
)(
0
)(
)(
)(
1 ng
n
nnenbng
nm
nm
M
b
b
MMM
(3.4.157)
根据 (3.4.157)式，可以得到
)()()()(
)(
)|(
)(
nbnmnmng
n
nne
nm
MMM
b
b
(3.4.158)
(3.4.159)
第三章 自适应数字滤波器综合前面的分析结果,可以得到增益滤波器 gM(n)的更新公式,小结如下：
)()1 5 5.4.3()(),(),|(),(
)()1 5 5.4.3()1(),(),(),|(
1
1
ngngnnnenb
ngngnfneee
MM
bb
M
MMM
ff
式式
可以看出,增益滤波器的更新利用了前向线性预测滤波器和后向线性预测滤波器的更新结果 。 下面我们来推导前,后向预测滤波器的更新 。
第三章 自适应数字滤波器
3) 前向线性预测滤波器 fM(n)
根据前向线性预测滤波器 fM(n)(式 (3.4.108))的表达式,取
U=X1,M(n),u=π(n),则 KUu(n)=K1,M,π(n),应用 (3.4.139)式计算
KUu(n),得到
)1(
)(),(
1
)1(
0
)(
)(,1,1,,1
n
nPnngnK
nK
M
MMM
M?
(3.4.160) 其中，根据 (3.4.126)式，有
)1()()(),()()(),(
)1()()(
1,0
1
,1
,1
nnnPznnnPn
ngnnKK
MMM
MMUu
(3.4.161)
(3.4.162)
第三章 自适应数字滤波器用向量 x(n)右乘 (3.4.160)式，有
)1(
)()(),(
1
)1(
)(
0
)(
)(
)1(
1)1(
0)1(
,1,1
1,1
n
nxnPnng
nx
nK
nx
nx
nb
nK
M
MMM
T
MM
(3.4.163)
取 (3.4.163)式中的第一行,并应用 (3.4.108)式，得到
)1(
)1(
)|()1()(?
ng
n
nnenfnf
M
M
f
MM?(3.4.164)
第三章 自适应数字滤波器设定,ef(n|n)表示利用 n时刻的前向线性预测滤波器 fM(n),预测得到的前向预测误差,
前面已经得到
)](,),2(),1([)1(T Mnxnxnxnx M
)()1()(
)()()1()()()|(
T
1
nfnxnx
Mnxnfnxnfnxnne
MM
M
f
(3.4.114)
定义 ef(n|n-1)为利用 n-1时刻的前向线性预测滤波器 fM(n-1)，
预测得到的前向预测误差,则
)1()1()()1|( T nfnxnxnne MMf
(3.4.165)
第三章 自适应数字滤波器将 (3.4.164)式和 (3.4.165)式代入 (3.4.114)式,得到
)1()1()1( )|()1|()|( T ngnxn nnennenne MM
M
f
ff
整理上式，得到
)1|(
)1(
)1()1(1)|(
nne
n
ngnxnne f
M
M
T
Mf
(3.4.166)
利用 (3.4.128b)式，可以将 (3.4.166)式写成
)1|()1()|( nnennne fMf?
(3.4.167)
第三章 自适应数字滤波器最后看前向预测误差能量 ξf(n)的更新,取 z=y=x(n),U=X1,M(n)，
u=π(n),则根据 (3.4.115)式及 z,y,u,U的取值,并将 (3.4.74)式代入,并应用 (3.4.167)式的结论,得到
)1|()|()1(
)1(
)|()1()( 2
nnennenn
nnenn fff
M
f
ff?
(3.4.168)
因此,由 (3.4.164),(3.4.167)式和 (3.4.168)式,得到了所需要的前向预测误差参量的更新公式 。
第三章 自适应数字滤波器
4) 后向线性预测滤波器 bM(n)
根据后向线性预测滤波器 bM(n)的表达式,取 U=X0,M-1(n),
u=π(n),KUu(n)=K0,M-1,π(n),计算 KUu(n),并用向量 z-Mx(n)右乘
KUu(n),得到
)(
)|()()1()(
n
nnengnbnb
M
b
MMM
(3.4.169)
根据后向预测误差的定义 (3.4.116)式，
)1()()()1|(
)()()()|(
nbnxMnxnne
nbnxMnxnne
M
T
M
b
M
T
M
b
第三章 自适应数字滤波器在后向线性预测滤波器 bM(n)的更新公式 (3.4.169)两边左乘 xMT (n),得到
)(
)|()(),()1|()|(
n
nnengnxnnenne
M
b
MM
bb
(3.4.170)
并利用角参量的定义式 (3.4.128b)，得到
)1|()()|( nnennne bMb? (3.4.171)
将 (3.4.171)式代入 (3.4.169)式，得到
)1|()()1()( nnengnbnb bMMM
(3.4.172)
第三章 自适应数字滤波器最后,看后向预测误差能量的更新,根据后向预测误差能量的表达式 (3.4.119),取 z=y=z-Mx(n),U=X0,M-1(n),u=π(n),与
(3.4.168)式的推导类似,可以得出
)(
)]|([)1()( 2
n
nnenn
M
b
bb
(3.4.173)
将 (3.4.171)式代入 (3.4.173)式，则
)1|()|()1()( nnennenn bbbb (3.4.174)
第三章 自适应数字滤波器
4,角度参数 γM(n)的更新角参量的更新 γM(n)与增益滤波器 gM(n)的更新方法相同,分两步得到递推公式,第一步由 γM(n-1)到 γM+1(n)的更新,第二步由
γM+1(n)到 γM(n)的更新 。
首先,将增益滤波器 gM(n)的更新公式 (3.4.155)代入 〈 xM+1(n),
gM+1(n)〉 的计算中,这里 xM+1(n)=［ x(n),x(n-1),…,x(n-M)］ T，
对 xM+1(n)进行分块,xM+1(n)=［ x(n),x(n)T］,且
)](,),2(),1([)( Mnxnxnxnx
)(
1
)(
)|(
)1(
0,)](),([)(),( T
11 nfn
nne
ngnxnxngnx Mf
f
M
MM?
第三章 自适应数字滤波器根据内积运算满足结合律,上式可以写为
)]()()([)( )|()1(),()(),( T11 nfnxnxn nnengnxngnx Mf
f
MMM
将 (3.4.114)式代入上式,得
)(
)|()1(),1()(),( 2
11 n
nnengnxngnx
f
f
MMMM (3.4.175)
将上式代入 (3.4.128b)式,得到
)(
)|()1()( 2
1 n
nnenn
f
f
MM
(3.4.176)
第三章 自适应数字滤波器由 (3.4.168)式得到
)(
)1()1()1(
)(
)|( 2
n
nnn
n
nne
f
f
M
Mf
f
(3.4.177)
由 (3.4.176)式和 (3.4.177)式消去 ef(n|n)，得到
)(
)1()1()(
1 n
nnn
f
f
MM?
(3.4.178)
由 (3.4.178)式得到了 γM+1(n)与 γM(n-1)的递推关系,而我们需要的是 γM(n)与 γM(n-1)的递推关系,因此,在第二步递推中,将数据向量 xM+1(n)分块成,这里,xM(n)=
［ x(n),x(n-1),…,x(n-M+1)］ T,再采用相同的方法计算 〈 x M+1(n),
gM+1(n)〉,得到
T1 )](),([)( Mnxnxnx TMTM
第三章 自适应数字滤波器
)(
)|()()( 2
1 n
nnenn
b
b
MM
(3.4.179)
代入 (3.4.173)式，得到
)1(
)()()(
1 n
nnn
b
b
MM?
(3.4.180)
因此,根据前向预测误差能量 ξf(n)和 γM(n-1),应用 (3.4.178)
式,得到 γM+1(n); 根据后向预测误差能量 ξb(n)和 γM+1(n),应用
(3.4.180)式,得到 γM(n)。
第三章 自适应数字滤波器也可以采用另外一种方法,不需要计算 n时刻的 ξb(n)值,用
(3.4.174)式除以 ξb(n),再求倒数,代入 (3.4.158)式,得到
1
1
)]1|()(1[
)(
)1|()|(1
)1(
)(
nnenm
n
nnenne
n
n b
b
bb
b
b
将上式代入 (3.4.180)式
)()]1|()(1[)( 11 nnnenmn MbM (3.4.181)
至此,我们把 FTF算法中的所有参量的更新公式都得到了,
整个算法称为基本 FTF算法,还有许多其他改进的 FTF算法 。
第三章 自适应数字滤波器
5.快速横向滤波器的算法初始化：
bM(0)=fM(0)=wM(0)=gM(0)=0
γM(0)=1.0; ξb(0)=ξf(0)=δ
其中,δ 为很小的正数。
第三章 自适应数字滤波器对 n=1,2,…,按下面的顺序计算：
)(
1
)(
)|(
)1(
0
)(
)(
)(
)1(
)1()(
)1(
)1(
)|(
)1()(
)1|()|()1()(
)1|()1()|(
)1()1()()1|(
1
nfn
nne
ngnm
nm
n
n
nn
ng
n
nne
nfnf
nnennenn
nnennne
nfnxnxnne
M
f
f
M
M
f
f
MM
m
M
f
MM
ffff
f
M
f
M
T
M
f
(3.4.165)
(3.4.167)
(3.4.168)
(3.4.164)
(3.4.178)
(3.4.155)
第三章 自适应数字滤波器
)1|()()1()(
)1()()()1|(
)1|()()1()(
)(
)(
)]1()()([)(
)1|()|()1()(
)1|()()|(
)()]1|()(1[)(
)1()()()1|(
T
1
1
1
nnengnwnw
nwnxndnne
nnengnbnb
n
n
nbnmnmng
nnennenn
nnennne
nnnenmn
nbnxMnxnne
MMM
M
b
MMM
M
M
MMM
bbbb
b
M
b
M
b
M
M
T
M
b
(3.4.116b)
(3.4.181)
(3.4.171)
(3.4.174)
(3.4.182)
(3.4.172)
(3.4.101)
(3.4.183)
第三章 自适应数字滤波器
3.5 自适应滤波的应用
3.5.1 自适应对消
1.对消原理假设自适应噪声对消系统的原始输入端用 dj表示,dj=sj+n0,n0
是要抵消的噪声,并且与 s不相关,参考输入端用 xj表示,这里
xj =n1。 n1是与 n0相关,与 s不相关的噪声信号,系统的输出用 z
表示,zj=dj-yj,如图 3.5.1所示 。 其中,滤波器的传输函数可以根据某一信号 （ 这里为系统的输出信号 ） 自动调整,假定 s,n0,
n1是零均值的平稳随机过程
jjjjj ynsydz 0
（ 3.5.1）
第三章 自适应数字滤波器图 3.5.1 自适应对消系统信号源噪声源自适应滤波器原始输入系统输出参考输入
x
j
＝ n
1
d
j
＝ s
j
＋ n
0 ＋
－
y
j
Z
j
第三章 自适应数字滤波器输出信号的均方值
)]([2])[(
])[(])[(][
0
2
0
2
2
0
22
jjjj
jjjjj
ynsEynEsE
ynsEydEzE
(3.5.2)
由于 s与 n0,n1不相关，因此 s与 yj也不相关，则
])[(][][ 2022 jjj ynesEzE (3.5.3)
E［ sj2］ 表示信号的功率 。 由上面的表达式可以看出,要使输出信号只包含有用信号,或者输出信号的均方值为最小,就要求 E［ (n0-yj)2］ 取得最小值,由 （ 3.5.1） 式推出等价的条件就是要求 E［ (zj-sj)2］ 取得最小值,即要求输出信号与有用信号的误差的均方值为最小 。
第三章 自适应数字滤波器
2,性能分析单信道噪声对消器的性能,可以用输出端信噪比与原始输入端的信噪比来评价,该比值称为系统的增益 G。
图 3.5.2是我们所要研究的自适应噪声对消系统 。 可以看出,
在原始输入端,输入信号为 d(n)=s(n)+n(n)+m0(n),参考输入端的信号为 x(n)=m1(n)+n(n) * h(n),系统的输出为 ε(n),假定 s(n)
与 n(n),m0(n),m1(n)均不相关,所有信号都是实信号,当自适应过程收敛时,其稳态解为维纳解,因此自适应滤波器的传输函数
)(
)()(
opt zP
zPzW
xx
xd?
其中，输入端的功率谱 )(|)(|)()(
112 zmPmzHzPzP nnxx
第三章 自适应数字滤波器图 3.5.2 自适应对消系统的性能分析
∑ ∑ ∑
H ( z ) ∑ W
*
( z )
s ( n )
n ( n )
m
0
( n )
m
1
( n )
x ( n )
d ( n )
( n )
y ( n )
＋
＋
＋
＋
＋
＋
＋
－
第三章 自适应数字滤波器若已知噪声 m0(n)与 m1(n)不相关，那么参考端与原始输入端的互相关函数
))]()()())(()()([(
)]()([)(
01 mnnmnmmnsnmnhnnE
mndnxEmr xd
应用相关卷积定理，计算互相关函数和互谱密度
)()()()(
)()()()()(
0
0
mhmrmhmr
mrmrmrmrmr
nnnm
hnnhnmxd
（ 3.5.4）
)()()()()( 110 zHzPzHzPzP nnnmxd （ 3.5.5）
第三章 自适应数字滤波器自适应对消器的传输函数
)(|)(|)(
)()()()()(
11
0
2
11
zPzHzP
zHzPzHzPzW
mmnn
nmnn
opt?
（ 3.5.6）
只有当参考输入端的加性噪声 m1为 0,且 n(n)与 m0(n)不相关时,。
用 pri,out,ref分别表示原始输入端,输出端,参考输出端的信号,噪声抵消前,原始输入端的噪声功率谱为
)(
1)(
opt zHzW?
)()()]([ 00p r i zPzPzP mmnnnn （ 3.5.7）
第三章 自适应数字滤波器
22optout |)()(1|)(|)(|)()()]([
1100 zWzHzPzWzPzPzP optnnmmmmnn
噪声抵消后，输出端噪声功率谱为
(3.5.8) 令
2
|)(|)(
)(
)(
)(
)(
)(
11
00
zHzP
zP
zC
zP
zP
zB
nn
mm
nn
mm
（ 3.5.9）
（ 3.5.10）
并且假定 n(n)与 m0(n)不相关,则第三章 自适应数字滤波器
)()()()(
)](1)][(1[
1)(
)(
)(
)(1
1)(
)(
)()()(
1)(
1
1)(
|1)(|)(
)(
)()]([
)](1)[()]([
]1)()[(
1
)(
2
2o u t
p r i
o p t
11
00
zCzBzCzB
zCzB
zC
zC
zB
zB
G
zC
zC
zPzBzP
zC
zP
zCzH
zP
zPzP
zBzPzP
zCzH
zW
nnnn
nn
mm
mmnn
nnnn
（ 3.5.11）
（ 3.5.12）
（ 3.5.13）
（ 3.5.14）
第三章 自适应数字滤波器图 3.5.3 参考输入中有信号分量的自适应噪声抵消器
∑
AF
∑
∑
s ( n )
v ( n ) H ( z )
G ( z )
d ( n )
x ( n )
y ( n )
e ( n )
原始输入端参考输入端第三章 自适应数字滤波器当有信号分量泄漏到参考输入中时,如图 3.5.3所示,噪声的抵消能力可以通过比较输入端的信噪比,参考输入端的信噪比及输出端的信噪比数值大小来评价,
输入端的信噪比为
)(
)(
p r i zP
zP
vv
ss （ 3.5.15）
参考输入端的信噪比为
2
2
r e f |)(|)(
|)(|)(
zHzP
zGzP
vv
ss （ 3.5.16）
输出端的信噪比为
2
opt
2
opt
r e f |)()(1|)(
|)()(1|)(
zWzHzP
zWzGzP
vv
ss
（ 3.5.17）
第三章 自适应数字滤波器参考输入端的总功率为
22 |)(|)(|)(|)()( zHzPzGzPzP vvssxx （ 3.5.18）
参考输入端与原始输入端的互功率为
)()()()()( 11 zHzPzGzPzP vvssxd （ 3.5.19）
这样,一个自适应对消器的稳态解为
22
11
|)(|)(|)(|)(
)()()()(
)(
)()(
zHzPzGzP
zHzPzGzP
zP
zPzW
vvss
vvss
xx
xd
o p t?
（ 3.5.20）
第三章 自适应数字滤波器
3,应用
1) 消除心电图中的电源干扰在心电图记录中,市电干扰是常见的问题,引起市电干扰的原因是多种多样的,如电磁感应,导线或人体的位移电流等等 。 克服干扰的常用办法是良好的接地,用带电屏蔽导线等,比较好的方法是采用自适应滤波,
即将有电源干扰的心电图信号作为抵消器的原始输入信号,
将电源信号作为参考信号,就可在输出端获得消除了电源干扰的心电图信号 。 图 3.5.4(a)是未经滤波记录到的心电图,
可以看出,小幅度的信号几乎淹没在噪声中,难以识别 ; 图
3.5.4(b)为自适应对消器的参考输入信号；图 3.5.4(c)为滤波后的结果,在图上,心电信号的细微信息可以辨认出来 。
第三章 自适应数字滤波器图 3.5.4
(a) 原始输入； (b) 参考输入； (c) 噪声对消输出
( a )
( b )
( c )
自适应完自适应开始第三章 自适应数字滤波器
2)
监测胎儿心音,需要将母亲的心音及背景干扰去除 。 母亲的心音强度通常是胎儿心音的 2倍到 10倍,肌肉活动及胎儿运动产生的背景干扰也常常大于胎儿心音的强度 。 可以采用自适应对消的方法来监护胎儿心电图 。 将母亲胸部的信号作为参考输入,主要包括母亲心音和背景噪声,也有胎儿的心音信号,如图 3.5.5(a)所示；从母亲腹部取出的信号作为原始输入,包括母亲心音,胎儿心音和背景干扰,如图 3.5.5(b)
所示,可以看出,这个系统是一个有信号分量泄漏到参考输入端的自适应对消系统 。 对消后的输出如图 3.5.5(c)所示,
可以看到,母体的心电信号的强度小于胎儿的心电信号,并且胎儿的心电信号比较清楚 。
第三章 自适应数字滤波器图 3.5.5
（ a） 胸部导联心电（参考输入）；（ b） 腹部导联的心电（原始输入）；
(c) 自适应对消器的输出
( a )
( b )
( c )
母体胎儿母体胎儿第三章 自适应数字滤波器
3)
可将靠近所需要的讲话人的扩音器的输出送至原始输入端,
而将远离讲话人而靠近干扰源 （ 其他人的讲话 ） 的扩音器的输出送至参考输入端,则在抵消器的输出端可以提取消除了干扰的讲话 。
第三章 自适应数字滤波器
4)
假定干扰的来向已定,首先将天线阵的主瓣对准拟接受的信号来源,此时,从点干扰源来的干扰通过天线方向图旁瓣与信号一起进入接收机,将它作为自适应抵消器的原始输入 。 然后,取天线阵中的若干根,组成的方向图正好在信号的入射方向有一个零响应谷点,这个组合只能得到干扰而得不到信号 。 于是,将后一组合的输出作为参考输入,根据抵消器的原理,就达到抑制干扰的目的 。
第三章 自适应数字滤波器
3.5.2 自适应陷波器 （ NF）
作为自适应对消器的一个应用,当需要抵消掉的噪声是单色干扰 （ 即单一频率的正弦波干扰 ） 时,这样的系统称为自适应陷波器 ( Notch Filter,简称 NF),又称为点阻滤波器 。 自适应陷波器能够自动跟踪干扰频率,消噪能力强,并且容易控制带宽 。
要消掉单色干扰,需要在参考输入端输入同频率的正弦干扰,
并且需要两个权系数的自适应滤波器,分别跟踪干扰的相位和幅度的变化 。 在图 3.5.6中,任意信号与单频率的干扰叠加后,
送入原始输入端,故经过采样后,d(n)=s(n)+cos(ω0nT),参考输入端是一个单频率的正弦信号,经过采样后送到 x1(n)和 x2(n)端,
后者经过一个 90° 相移,系统中有两个权系数,使得组合后的正弦波的振幅和相角都可以调整,达到与原始输入端的干扰分量相同的目的,实现对消 。 具体的工作原理见图 3.5.6。
第三章 自适应数字滤波器图 3.5.6 自适应单频率噪声抵消器
90
L M S 算法
°
原始输入参考输入
s ( t ) ＋ c o s?
0
t
C c o s (?
0
t ＋? )
采样
x
1
( n )
x
2
( n )
w
1
( n )
w
2
( n )
d ( n ) e ( n )
第三章 自适应数字滤波器为分析自适应陷波器性能,下面仍以均方误差最小作为最佳准则,求其稳态时的传输函数 。 假设输入信号为 d(n),输出信号为 e(n),自适应滤波器的输出之和为 y(n),它们的 Z变换分别为 D(z),E(z)和 Y(z)。 图中开关代表对连续信号的采样,
设采样间隔为 T,系统的原始输入端信号为
d(n)=s(n)+cos(ω 0nT) （ 3.5.21）
参考输入端的 x1(n)和 x2(n)为
)eeee(
2
)s i n ()(
)eeee(
2
)c o s ()(
00
00
02
01
TjnjTjnj
TjnjTjnj
j
C
nTCnx
C
nTCnx
（ 3.5.22）
（ 3.5.23）
第三章 自适应数字滤波器误差信号为
2
1
)()()()()()(
i
ii nxnwndnyndne
（ 3.5.24）
两个自适应滤波器的输出为
TnjjTnjj
TnjjTnjj
nw
C
nxnwny
nw
C
nxnwny
00
00
ee)(
j2
)()()(
ee)(
2
)()()(
2222
1111
（ 3.5.25）
（ 3.5.26）
应用 LMS迭代方法，更新权向量在 n+1时刻的取值为第三章 自适应数字滤波器
)eeee(
)(
)(
)()(2)()1(
)eeee)(()(
)()(2)()1(
00
00
2
222
1
111
TjnjTjnj
TjnjTjnj
j
neC
nw
nxnenwnw
neCnw
nxnenwnw
（ 3.5.27）
（ 3.5.28）
设定 e(n)的 Z变换为 E(z),根据 Z变换的性质,的 Z变换为,对 （ 3.5.27） 式和 （ 3.5.28） 式作 Z变换
Tnjn 0e)(e?
)e( 0 TjnE
1
)]e(e)e(e[
)(
1
)]e(e)e(e[
)(
00
00
jj-j-j
2
j-j-jj
1
z
zEzEC
zW
z
zEzEC
zW
TT
TT
（ 3.5.29）
（ 3.5.30）
第三章 自适应数字滤波器对 （ 3.5.25 ）,（ 3.5.26 ） 式 分别作 Z 变换,并将
（ 3.5.29）,（ 3.5.30） 式代入
1e
)(e)e(e
e
1e
)(e)e(e
e
2
)]e(e)(e[
2
)(
0
0
0
0
00
jj-
j-
j-j
j
2
1
j-
1
j
1
Tj
Tj
Tj
Tj
TjTj
z
zEzE
z
zEzEC
zWzeW
C
zY
(3.5.31)
1e
)e(e)(e
e
1e
)(e)e(e
e
2
)]e(e)(e[
j2
)(
0
0
0
0
00
2j
j-
j-2j
j
2
2
j-
2
j
2
Tj
Tjj
Tj
Tj
TjTj
z
zEzE
z
zEzEC
zWzeW
C
zY
(3.5.32)
第三章 自适应数字滤波器
1c o s2
)(]2c o s2[
1e
)(
1e
)(
)()()(
0
2
0
2
2
21
00
Tzz
zETzC
z
zE
z
zE
CzYzYzY
TjTj
(3.5.33)
自适应陷波器的传输函数为
)21()1(c o s2
1c o s2
)()(
)(
)(
)(d e f)(
22
0
2
0
2
CCTzz
Tzz
zYzE
zE
zD
zEzW
(3.5.34)
第三章 自适应数字滤波器下面我们来分析自适应陷波器的幅频和相频特性 。 由
（ 3.5.34） 式得到自适应陷波器的零极点图 (图 3.5.7),两个零点为
Tz 0j
0 e
（ 3.5.35）
由 |z0|=1,可以知道零点位于单位圆上。两个极点为
2/1
0
2222
0
2
2/12
0
222
0
2
]c o s)1()21[(c o s)1(
)]21(c o s)1[(c o s)1(
TCCjTC
CTCTCz p
（ 3.5.36）
第三章 自适应数字滤波器图 3.5.7 陷波器的零极点图半功率点单位圆
z
01
z
02
z
p 1
z
p 2
C
0
T? ＝ 0
＝－?
0
2
第三章 自适应数字滤波器用极坐标的形式表示极点的位置,其模和相位分别为
2/12 )21(|| Cz p
（ 3.5.37）
2/12
0
2
)21(
c o s)1(
||
]R e [c o s
C
TC
z
zar
p
p
p?
（ 3.5.38）
当 μ C2<<1 时，得到极点的极坐标近似表示式
T
Cz
p
p
0
21||
（ 3.5.39）
（ 3.5.40）
第三章 自适应数字滤波器比较 （ 3.5.35） 式和 （ 3.5.40） 式可以看到,零点和极点具有相同的辐角,而在半径方向上相距 μC2。 见图 3.57所示,因此,
μC2减小,可以使陷波器的带宽减小 。 当 Μc2<<1时,求得 3 dB
带宽为
22 CBW
(rad) （ 3.5.41）
因此可以通过改变 μ C2来调节 3 dB带宽,使陷波器的缺口的肩部可以任意窄 。 在 ω=ω 0时,陷波器的幅频响应为 0,陷波的深度理论上为无穷大,当干扰频率作慢变化时,由于参考干扰源同样在变化,因此可以准确地跟踪陷波频率 。
第三章 自适应数字滤波器若要求消除 n个频率的干扰,将参考输入扩充为 n个,每一个参考输入都用两个权来调节振幅和相位,从而可以实现多频率陷波 。
若 ω0=0,这时的陷波器是为了消除零点飘移,由于直流信号相位为 0,因此只需要一个权来调整幅度即可,这时陷波器的最佳传输函数为
)21()1(2
12)(
222
2
CCzz
zzzW
o p t
（ 3.5.42）
第三章 自适应数字滤波器
3.5.3 自适应逆滤波在数字传输系统中,接收到的信号要受到噪声干扰,信道衰落的影响,加上信道的码间干扰,使得接收的信号与实际发送的信号并不完全一致 。 为了提高接收的准确性,把整个信道看作是系统,让系统的输出再通过一个滤波器 （ 如图 3.5.8
所示 ）,该滤波器称为均衡器,用以补偿信道干扰的影响,
使得接收到的信号与发送的信号完全一致 。
第三章 自适应数字滤波器图 3.5.8 自适应均衡器信道脉冲响应
( t )
均衡器
w k
x ( t )
v ( t )
y ( t )
t ＝ k? t?
n
n tnts )Δ(?
第三章 自适应数字滤波器这样,就要求均衡器与信道的特性正好相反,即均衡器的单位脉冲响应与信道冲击响应的取样值的卷积为一个常数,就可以保证收发信息的一致性 。 我们知道,信道受诸多因素的影响,信道的传输特性很难用数学表达式来表示或者根本就不能完全确定 。 要求均衡器与信道的传输特性严格匹配,就是要求均衡器随着信道的传输特性的改变而变化,即均衡器具有自适应的功能,是信道的逆系统 。
假设观测信号 x(n)是由输入信号 s(n)通过对系统 h(n)激励而得到的,即 x(n)=s(n) * h(n),要得到输入信号 s(n)就需要解卷积 。
因此,自适应均衡和解卷积都可以归结为求逆系统 。
第三章 自适应数字滤波器待模拟的系统在控制系统中称为被控系统 （ Plant,简称为系统或未知系统 ） 。 下面利用自适应的方法求逆系统,误差准则仍为均方误差最小,即自适应滤波器的输出是未知系统输入的最小均方匹配,其原理如图 3.5.9（ a） 所示 。
在图 3.5.9（ a） 中,原始输入端 dk=sk,自适应逆系统的输入信号,即参考输入端 xk=sk * pk+nk,pk表示被控系统的单位脉冲响应,通过调整自适应逆系统的权系数,使得 E［ ε2k］ 最小,
使得被控系统与自适应系统互为逆系统,达到辨识被控系统的目的 。
第三章 自适应数字滤波器图 3.5.9
(a) 无延迟的； (b) 有延迟的被控系统 逆模型
＋
＋
＋
－
系统噪声输入
s
k
x
k
n
k
y
k
d
k
k
( a )
被控系统 延迟逆模型 H ( z )
＋
＋
＋
－
系统噪声输入
s
k
x
k
n
k
y
k
d
k
k
Z
－?
延迟
( b )
第三章 自适应数字滤波器实际所用的逆滤波如图 3.5.9（ b） 所示,其与图 3.5.9（ a）
的区别在于有一个时延单元,这个时延单元常常是有用的,
并且是非常重要的 。 这是因为如果被控系统对信号有时延特性,
就要求它的逆系统有超前特性,而超前的系统是非因果的,
是不能实现的 。 加入时延后,如果 Δ 大于或等于被控系统的时延,就不再要求自适应滤波器有超前的特性,这是一点 。 另外,
如果被控系统是一个非最小相位系统,如一个零点在单位圆外,
那么它的逆系统将有一个极点在单位圆外,因此其逆系统要么是一个非因果的稳定系统,要么是一个因果的不稳定系统 。
仅考虑非因果的稳定系统,假定它的单位脉冲响应如图 3.5.10
（ a） 所示,加入足够大的时延,则所要求解的逆系统的单位脉冲响应如图 3.5.10（ b） 所示,因此非因果的逆系统通过延时及截断处理,可以用 FIR滤波器逼近实现 。
第三章 自适应数字滤波器图 3.5.10 自适应逆系统的 FIR
(a) 在单位圆外有一个极点的逆滤波器的冲激响应 h(-)(n)
(b) 经过时延 Δ的 h(-)(n)特性
0 n n0
h
( － )
( n )
h ( － )( n ) ＝ h ( － )( n －? )
第三章 自适应数字滤波器这里,自适应逆系统的稳态解是维纳解,下面我们来求解图 3.5.9（ b） 中自适应逆系统的最佳权向量 。 假设系统噪声与信号是独立的,则输入功率为
)(|)(|)()( 2 zPzPzPzP nnssxx （ 3.5.43）
d端与 x端的互功率谱为
)()()()()( zPzGzPzGzP ssdddx? （ 3.5.44）
其中,G(z)表示 d到 x的传输函数,G(z)=zΔ P(z),
)()(
)()()()(
1
111
zPzPz
zPzPzzPzP
ss
ssdxxd
（ 3.5.45）
第三章 自适应数字滤波器
)(|)(|)(
)()(
)(
)()(
2
1
o p t zPzPzP
zPzPz
zP
zPzW
nnss
ss
xx
xd
（ 3.5.46）
对 （ 3.5.46） 式,只要滤波器长度足够大,选择适当的延时,那么逆系统可以用一个因果的 FIR滤波器来逼近 。 考虑一个特殊的情况,没有噪声时,最佳传输函数为
)()(o p t zP
zzW （ 3.5.47）
逆系统的传输函数是被控系统传输函数的倒数级联时延为
Δ 的延时器 。 可以证明,在这种情况下,最小均方误差将为 0。
第三章 自适应数字滤波器若输入信号是单位功率的白噪声,则有 Pss(z)=1,噪声 nk
为一有色噪声,其功率谱
Pnn(z)=pP(z)P(z-1)
这时，逆系统的最佳传输函数为
)()1()()()()(
)()()(
12
1
o p t zPp
z
zPzpPzPzP
zPzPzzW
ss
ss
由 （ 3.5.49） 式可以看出,当噪声存在并且具有 （ 3.5.48）
式所示的有理谱时,得到的逆系统与无噪声的带有延时的逆系统相差一个标量因子 1/(1+p)。 若噪声的形式不同,得到的
Wopt(z)是不同的,计算得到的最小均方误差也不同,表明最小均方误差对噪声是敏感的,因此在很多实际环境下,系统噪声有可能使得逆系统变得无效 。
第三章 自适应数字滤波器
3.5.4 预测及信号分离在某些情况下,宽带信号混进了周期干扰,例如播放磁带时存在的,兹兹,声,机车的马达声,接收的地震信号等,其干扰信号具有周期性的特点 。 要抵消掉这些干扰信号就要求参考信号不含有用信号成分,这类干扰的抵消可以采用图 3.5.11
所示的自适应信号分离器来实现 。
经过一固定的延时线,直接把原始输入引到参考输入端 。
当然,所选的延时必须足够长,使得参考输入中的宽带信号分量与原始输入中的宽带干扰分量不相关,而周期信号由于其周期性,仍然彼此相关,从而可以把周期干扰对消掉 。 这样,在系统的输出端留下了不可预测的宽带信号,在自适应滤波器的输出端得到的是周期信号,实现了宽带信号与周期信号的分离 。
第三章 自适应数字滤波器图 3.5.11 自适应信号分离器自适应滤波器z
－?
＋
－
宽带干扰周期信号 宽带干扰周期信号延时第三章 自适应数字滤波器图 3.5.11中,在自适应滤波器达到稳态后,把自适应滤波器的权系数直接复制到延时单元的输入端,那么,在其输出端就可以获得延时 Δ 后的信号值,因此,可以认为延时器和自适应滤波器构成了一个自适应预测器,用以去掉原始输入中的可预测分量,即周期性的干扰信号,如图 3.5.12所示 。
第三章 自适应数字滤波器图 3.5.12 自适应预测
z
－ k
AF
1
AF
2
s ( n ) d ( n )
y ( n )
e ( n )
s ( n )
＋
－
s ( n － k )
参数复制
s ( n ＋ k )
^
第三章 自适应数字滤波器自适应信号分离器的另一应用是作谱线增强器用 。 在很多实际应用中,经常遇到的一个检测问题,就是找出噪声中的低电平正弦波,如图 3.5.13所示 。 这样的系统不仅可以用于检测一个正弦波,同时也可以用于检测多个正弦波 。 这里我们只讨论噪声单一低电平正弦波的检测问题 。
第三章 自适应数字滤波器图 3.5.13 信号分离与谱线增强
z
－?
自适应滤波器
D F T权系数值滤波器传递函数
＋
－ y ( n )
( n )x ( n )
第三章 自适应数字滤波器输入信号为白噪声加一正弦波,白噪声 n(k)均值为 0，方差为
)()s i n ()( 111 knkakx (3.5.50)
若正弦信号的初始相位服从均匀分布,则
knkr snxx 12 12 c o s)()( (3.5.51)
式中，,为正弦信号的功率。2/2
121 as
假设自适应滤波器是 FIR 滤波器,权向量为 W=
［ w1,w2,…,wL］ T,对于自适应谱线增强器,稳态解为维纳解,
xdxx PRW 1o p t
(3.5.52)
第三章 自适应数字滤波器其中
)0()2()1(
)2()0()0(
)1()1()0(
xxxxxx
xxxxxx
xxxxxx
xx
rLrLr
Lrrr
Lrrr
R
T)]1(,),1(),([ LrrrR xxxxxxxd?
(3.5.53)
(3.5.54)
(3.5.52)式可以通过 Yule-Walker方程求解得到。
第三章 自适应数字滤波器自适应谱线增强器的传递函数为 1-W0(ω),根据线性预测谱的理论,可以用 取得最大值时的位置估计正弦波频率 ω0。
对于理想的自适应谱线增强器,横向滤波器的输出应与原始输入端的正弦波的幅度和相位相同 。 在 ω=ω0时,W0(ω)=1，
在其它频率上,W0(ω)应等于 0。 可以看出,自适应横向滤波器成为一个增益等于 1的带通滤波器,即在频域呈现谱线增强性能 。
2
0 |)(1|
1
W?
第三章 自适应数字滤波器在自适应滤波器的应用当中,都涉及到选择滤波器的长度问题 。 一般来讲,滤波器的最佳长度与输入信号的统计特性有关 。 在均方误差最小的准则下,假设自适应滤波器是用有限长度的横向滤波器来实现的,失调量是与滤波器的长度成正比的,
而且滤波器的长度还影响收敛的步长因子,因此在设计滤波器时,应综合考虑快速收敛,失调量及谱分辨率等因素 。
