第三章 相关信源编码
一、预测编码
二、变换编码
一,预测编码 (Predictive Coding)
? 预测编码的基本原理
? 预测方法
? 预测编码的基本类型
? DPCM编译码原理 (略 )
预测编码的基本原理
? 预测编码是数据压缩三大经典技术之一
? 是将信源输出信号通过预测变换后再对信源输出与被
测值的差进行编码。
? 预测编码原理图：
iii uue ???
预测器
编码器
信源输出 编码输出
1u?
iu
预测编码的基本原理
? 实现预测编码的关键问题：
1.预测误差准则的选取；（决定了预测质量）
1）最小均方误差准则（ MMSE） --最常用，最基本的
2）功率包络匹配准则（ PSEM）
3）预测系数不变性准则（ PCIV） --用于多种混合信号预测
4）最大误差准则（ ME） --遥测数据压缩
2.预测函数的选取；
3.预测器输入数据的选取。
预测方法
?线性预测 — 样值和预测值之间呈线性关系
1）前值预测
2）一维预测
3）二维预测（非线性预测）
?最佳预测 — 是按某种准则，选择线性预测系数使得
预测误差为最小。（常用 MSE）
?自适应预测 — 预测器的预测系数不固定，随信源统
计特性重新调整预测系数
预测编码的基本类型
? 脉冲编码调制 — PCM(puls code modulation)
? 差分 脉冲编码调制 — DPCM(differential puls
code modulation)
? 噪声反馈编码 — NFC(noise feedback coding)
? 预测误差门限型
变换编码
? 正交变换编码是图像数据压缩技术中的基本方法。
? 主要变化方法：
1° K-L变换, 协方差矩阵
2° 离散付里叶 变换 DFT 快速算法 FFT
3° 离散余弦 变换 DCT 快速算法 FCT
4° Walsh-Hadamard变换 DWH
5° 小波变换
K-L变换
若信源矢量的相关矩阵为,???则解
可得其特征值和特征矢量
?0>?1>….> ?N-1>0
?i=(ai0,ai1…ai,N -1),i=0,1,2..N-1
?
?
?
?
?
?
?
?
?
?
?
?
?
????
?
?
1,11.10,1
1,11110
1,00100
.,,
.,,.,,.,,.,,
.,,
.,,
NNNN
N
N
aaa
aaa
aaa
A
? 各 ?i必 相互正交。
? (?r-?s)?s?’r= ?s[?]?’r -?r[?]?’s=0,
r≠ s。
? 各 yr必相互线性无关
? Eyrys=E(?rx’)( ?sx’)=E( ?rx’)(x ?’s)= ?r
[?]?’s
? =?s?r?s=? rs?s.
DFT变换
?
?
?
(,),/
,
.,,
.,,
.,,,,,,,,,,,
.,,
/
/
( )
i t e t kT N
a
N
e w w
A
w w
w w
j i t T
ik
j ik N ik N
N
N N
? ?
? ? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
? ?
2
2
1
1 1
1
1
1 1 1
1
1
2
离散余弦变换
?
?
?
(,) c o s
( )
,
c o s
( )
,,.,,
,
i t
i t
T
a
N
i k
N
k N
N
k
ik
?
?
?
?
? ?
? ?
2 1
2
2 2 1
1 2 1
1
0
实数运算简单些,
Hardmard-Walsh变换
W W( ) ( )2
1
2
1 1
1 1
4
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
?
?
?
?
?
?
?
? ?
? ?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
W ( )8
1
2 2
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
?
? ?
? ?
? ? ? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
Haar变换
非连续函数,N必须是 2n.
H H( ) ( )2
1
2
1 1
1 1
4
1
2
1 1 1 1
1 1 1 1
2 2 0 0
0 0 2 2
?
?
?
?
?
?
?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
一、预测编码
二、变换编码
一,预测编码 (Predictive Coding)
? 预测编码的基本原理
? 预测方法
? 预测编码的基本类型
? DPCM编译码原理 (略 )
预测编码的基本原理
? 预测编码是数据压缩三大经典技术之一
? 是将信源输出信号通过预测变换后再对信源输出与被
测值的差进行编码。
? 预测编码原理图：
iii uue ???
预测器
编码器
信源输出 编码输出
1u?
iu
预测编码的基本原理
? 实现预测编码的关键问题：
1.预测误差准则的选取；（决定了预测质量）
1）最小均方误差准则（ MMSE） --最常用，最基本的
2）功率包络匹配准则（ PSEM）
3）预测系数不变性准则（ PCIV） --用于多种混合信号预测
4）最大误差准则（ ME） --遥测数据压缩
2.预测函数的选取；
3.预测器输入数据的选取。
预测方法
?线性预测 — 样值和预测值之间呈线性关系
1）前值预测
2）一维预测
3）二维预测（非线性预测）
?最佳预测 — 是按某种准则，选择线性预测系数使得
预测误差为最小。（常用 MSE）
?自适应预测 — 预测器的预测系数不固定，随信源统
计特性重新调整预测系数
预测编码的基本类型
? 脉冲编码调制 — PCM(puls code modulation)
? 差分 脉冲编码调制 — DPCM(differential puls
code modulation)
? 噪声反馈编码 — NFC(noise feedback coding)
? 预测误差门限型
变换编码
? 正交变换编码是图像数据压缩技术中的基本方法。
? 主要变化方法：
1° K-L变换, 协方差矩阵
2° 离散付里叶 变换 DFT 快速算法 FFT
3° 离散余弦 变换 DCT 快速算法 FCT
4° Walsh-Hadamard变换 DWH
5° 小波变换
K-L变换
若信源矢量的相关矩阵为,???则解
可得其特征值和特征矢量
?0>?1>….> ?N-1>0
?i=(ai0,ai1…ai,N -1),i=0,1,2..N-1
?
?
?
?
?
?
?
?
?
?
?
?
?
????
?
?
1,11.10,1
1,11110
1,00100
.,,
.,,.,,.,,.,,
.,,
.,,
NNNN
N
N
aaa
aaa
aaa
A
? 各 ?i必 相互正交。
? (?r-?s)?s?’r= ?s[?]?’r -?r[?]?’s=0,
r≠ s。
? 各 yr必相互线性无关
? Eyrys=E(?rx’)( ?sx’)=E( ?rx’)(x ?’s)= ?r
[?]?’s
? =?s?r?s=? rs?s.
DFT变换
?
?
?
(,),/
,
.,,
.,,
.,,,,,,,,,,,
.,,
/
/
( )
i t e t kT N
a
N
e w w
A
w w
w w
j i t T
ik
j ik N ik N
N
N N
? ?
? ? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
? ?
2
2
1
1 1
1
1
1 1 1
1
1
2
离散余弦变换
?
?
?
(,) c o s
( )
,
c o s
( )
,,.,,
,
i t
i t
T
a
N
i k
N
k N
N
k
ik
?
?
?
?
? ?
? ?
2 1
2
2 2 1
1 2 1
1
0
实数运算简单些,
Hardmard-Walsh变换
W W( ) ( )2
1
2
1 1
1 1
4
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
?
?
?
?
?
?
?
? ?
? ?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
W ( )8
1
2 2
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
1 1 1 1
?
? ?
? ?
? ? ? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
Haar变换
非连续函数,N必须是 2n.
H H( ) ( )2
1
2
1 1
1 1
4
1
2
1 1 1 1
1 1 1 1
2 2 0 0
0 0 2 2
?
?
?
?
?
?
?
? ?
? ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
