3.5 信道的加性噪声
? 调制信道对信号的影响除乖性干扰外，还有加性干
扰（即加性噪声）。
? 加性噪声虽然独立于有用信号，但它却始终干扰有
用信号，因而不可避免地对通信造成危害。
? 某些类型的噪声是确知的，如电源哼声、自激振荡、
各种内部的谐波干扰等，在原理上可消除或基本消
除。另一些噪声则往往不能准确预测其波形，这种
不能预测的噪声统称为随机噪声。
加性噪声按来源不同，可分为：
（ 1）人为噪声
人为噪声来源于人类活动造成的其它信号源。如：外台
信号、开头接触噪声、工业的点火辐射及荧光灯干扰等。
（ 2）自然噪声
自然噪声是指自然界存在的各种电磁波源。如：闪电、
大气中的电暴、银河系噪声及其它各种宇宙噪声等。
（ 3）内部噪声
内部噪声是系统设备本身产生的各种噪声。如：导体中
自由电子的热运动（热噪声）、真空管中电子的起伏发射和
半导体中载流子的起伏变化（散弹噪声）及电源哼声。
按噪声的性质，可将噪声分为：
（ 1）单频噪声
（ 2）脉冲噪声
（ 3）起伏噪声
（ 1）单频噪声
单频噪声是一种连续波的干扰，主要是指无线
电噪声，还有电源的交流声、信道内设备的自激震
荡、高频电炉干扰等也在此类之列。这种噪声的主
要特点是其频谱集中在某个频率附近较窄的范围之
内，干扰的频率可以通过实测来确定。因此，单频
噪声并不是在所有通信系统中都存在，且只要采取
适当的措施便可能防止或削弱其对通信的影响。
（ 2）脉冲噪声
脉冲噪声是在时间上无规则地突发的短促噪声，
如工业上的点火辐射、闪电及偶然的碰撞和电气开
关通断等产生的噪声。这种噪声的特点是其突发的
脉冲幅度大，但持续时间短，且相邻突发脉冲之间
有较长的平静期。从频谱上看，脉冲噪声通常有较
宽的频谱（从甚低频到高频）。脉冲噪声主要影响
数字信道（编码信道），而对模拟信道（调制信道）
的影响比较小。
（ 3）起伏噪声
起伏噪声是最基本的噪声来源，是普遍存在和
不可避免的，其波形随时间作不规律的随机变化，
且具有很宽的频谱，主要包括信道内元器件所产生
的热噪声、散弹噪声和天电噪声中的宇宙噪声。从
它的统计特性来看，可认为起伏噪声是一种高斯噪
声，且在相当宽的频率范围内且有平坦的功率密度
谱，可称其为白噪声，故而起伏噪声又可表述为 高
斯白噪声 。
高斯白噪声的功率谱密度
Pn(f)
Pn(f0)
f0 f0
Bn
-f0
Bn
噪声带宽 Bn= ————— = ————∫∞-∞Pn(f)df ∫0∞Pn(f)df
2Pn(f0) Pn(f0)
3.5.1热噪声
热噪声是由于导体中组成传导电流的自由电
子无规则的热运动而引起的。在任何时刻通过导体
每个截面的电子数目的代数和是不等于零的，即由
自由电子的随机热骚动带来一个大小和方向都不确
定（随机）的电流 —— 起伏电流（噪声电流），它
们流过导体就产生一个与其电阻成正比的随时间而
变化的电压 —— 起伏电压（噪声电压）。
热噪声的功率谱密度
分析和实验结果表明，在从直流到微波（ <1013Hz）
的频率范围内，电阻或导体的热噪声具有均匀的功
率谱密度为：
Pi（ ω） = E[IN2]/2B=2KTG
或,PV（ ω） = R2Pi（ ?） =2KTR
式中,K为波尔兹曼常数（ K=1.3805× 10-23 J/K)，
T为绝对温度 (K),G为电阻 R (Ω)的电导值,B为
信号的带宽 (Hz)。
噪声电阻的模型
~
R
E[VN2]
GE[IN2]
(a) (b) (c)
R
热噪声电流及电压的有效值
热噪声电流源及电压源的均方值为：
E[IN2]=2Pi(?)B=4KTGB
E[VN2]=2Pv(?)B=4KTRB
热噪声电流源及电压源的均方根值（有效值）为：
IN=√4KTGB
VN=√4KTRB
例 3.5-1 设某接收天线的等效电阻为 300?，接收机的
通频带为 4kHz，环境温度为 17℃,试求该天线产生的
热噪声电压的有效值。
解,R=300?
T=17+273=290K
B=4kHz
则 Vn=√4kTRB
=√4× 1.3805 × 1023 × 290
× 300× 4× 103
=1.386 × 10-7（ V）
例 3.5-2 计算如图 (a)所示电路 a,b两端的热噪声电压功
率谱
(a) (b) (c)
R
1?
R
2?
L
2H
C
1F
a
b
~
Rab
E[VN2]
jXab
b
a
Gab
E[IN2]
jBab
a
b
解：
Zab(ω)= =
Rab(ω)=Re[Zab(ω)]=
Pv(ω)=2KTRab(ω)=2KT 4ω4+4ω2+9
4ω2+6
1
+jω+112+j2 ω 3-2ω2+j4ω
2+j2ω
4ω4+4ω2+9
4ω2+6
3.5.2散弹噪声
? 散弹噪声又称散粒噪声或颗粒噪声，是 1918年肖
特基研究此类噪声时，根据打在靶子上的子弹的噪
声而命名的。
? 散弹噪声出现在电子管和半导体器件中，电子管中
的散弹噪声是由阴极表面发射电子的不均匀性引起
的。
? 散弹噪声的性质可用平板型二极管的热阴极电子发
射来说明。
散弹效应示意图：
肖特基公式：
可以证明，阳极电流随机起伏分量（噪声分
量）的均方值由下式确定：
E[IN2]=2qI0B
式中,q为电子电荷,q=1.59× 10-19 C,I0代表
电流平均值,B表示信号系统带宽。
散弹噪声的功率谱在 ωτa＜ 0.5范围内基本上
是平坦的。 τa为电子由阴极到阳极的渡越时间，约
为 10-9 s。因此，大约在 100MHz频率范围内功率
谱可以被认为是恒定值，即
SI（ ω） = =qI0
散弹噪声的功率谱
E[IN2]
2B
-3.5 –3 -2 -1 0 1 2 3 3.5 ωτa
SI(ω)
qI0/2
qI0
3.5.3宇宙噪声
? 宇宙噪声是指天体辐射波对接收机形成的噪声，它
在整个空间的分布是不均匀的，最强的来自银河系
的中部，其强度与季节、频率等因素有关。
? 实测表明，在 20~300MHz的频率范围内，它的强
度与频率的三次方成反比。
? 实践证明，宇宙噪声也是服从高斯分布的。在一般
的工作频率范围内，它也具有平坦的功率谱密度。
所谓信道容量 C，就是信道的极限传输能
力，即信道中信息无差错传输的最大传输速
率。其数学表达式为：
C = max R
式中,R为信源的速率,max表示对所有可
能的输入概率分布的最大值。
3.6 信道容量
{P（ x） }
3.6.1 离散信道
X 信道 Y
x={xi}； i=1,2,3…L
y={yj}； j=1,2,3…M 一般应有 L=M
无噪声信道模型
有噪声信道模型
1．几个概率
? xi,P(xi)和 yj,P(yj)分别为收端与发端的概
率空间。对于无噪声信道，发 xi就应收到 yj
（ i=j），是一一对应的；在有噪声的信道
中，会出现不同的转移概率：
? ·先验概率 P(xi)—— xi的不确定性；
? ·后验概率 P(xi/yj)—— 收到 yj后再确认是 xi
的条件转移概率；
?·转移概率 P(yj/xi)—— 发送 xi时收到 yj的条
件转移概率；
? ·P(yj)—— 收端收到 yj时的概率。
2 离散信道的信道容量
假设通信系统发送端每秒钟发出 r个符号，则
有噪声信道的信息传输速率为
R = [H(x)-H(x/y)]r = [H(y)-H(y/x)]r
有噪声离散信道的信道容量为
C = maxR = max[Ht(x)-Ht(x/y)]
{P(x)} {P(x)}
无噪声离散信道的信道模型
x1
x2
x3
xn
y1
y2
y3
yn
P(y1/x1)=1
P(yn/xn)=1
?
?
?
?
?
?
?
?
?
xi
P(xi)
yj
P(yj)
?
?
?
?
?
?
?
?
?
P(xi/yi) = P(yi/xi) =1
P(xi/yj) = P(yj/xi) =0,i ≠j
有噪声离散信道的信道模型
x1
x2
x3
xn
y1
y2
y3
ym
P(y1/x1)
P(ym/x1)
?
?
?
?
?
?
?
?
?
xi
P(xi)
yj
P(yj)
?
?
?
?
?
?
?
?
?
P(xi/yj) = P(yj/xi) ≠0,i ≠j
P(xi/yi) = P(yi/xi) ≠1
在有噪声的信道中，发送符号为 xi而收到符号为 yj
时所获得的信息量,它等于未发送符号前对 xi的
不确定程度减去收到符号 yj后对 xi的不确定程度。
[发送 xi收到 yj时所获得的信息量 ]
=- ㏒ 2P（ xi) +㏒ 2P（ xi/yj)
式中,P（ xi) —— 未发送符号前 xi出现的
概率；
P（ xi/yj) —— 收到 yj而发送为 xi的
条件概率。
平均信息量
对各 xi和 yj取统计平均，即对所有发送为 xi而收到为 yj
取平均，则
平均信息量 /符号
=-∑P(xi) ㏒ 2P(xi） -[-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)]
=H(x)-H(x/y)
式中,H(x)—— 表示发送的每个符号的平均信息量；
H(x/y) —— 表示发送符号在有噪声的信道中传
输平均丢失的信息量，或当输出符号已知时输入符
号的平均信息量，或发送 x而收到 y的条件平均信息
量。
i=1 i=1j=1
n nm
信息传输速率
所谓信息传输速率，是指信道在单位时间内所传输的
平均信息量，并用 R表示，即
R=Ht(x)-Ht(x/y)
式中,Ht(x)—— 单位时间内信息源发出的平均信息量，
或称信息源的信息速率； Ht(x/y) —— 单位时间内
对 x发送而收到 y的条件平均信息量。
设单位时间传送的符号数为 r，则
Ht(x)=rH(x)
Ht(x/y)=rH(x/y)
于是得到,R=r[Ht(x)-Ht(x/y)]
例 3.6-1求二进制对称信道的信道容量
设信息源由符号 0和 1组成，
顺次选择两符号构成所有
可能的消息。如果消息传
输速率是每秒 1000符号，
且两符号出现概率相等。
在传输中,弱干扰引起的
差错是：平均每 100符号中有一个符号不正确。试问
这时传输信息的速率是多少？
0 0
1 1
P(0/0)=0.99
P(1/1)=0.99
P(0/1)=0.01
P(1/0)=0.01
解：
P(0)=P(1)=1/2,r=1000 符号 /s
H(x)=-[1/2·㏒ 2(1/2)+1/2·㏒ 2(1/2)]=1(bit/符号 )
Ht(x)=rH(x)=1000 bit/s
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-(0.99㏒ 20.99+0.01㏒ 20.01)
=0.081 (bit/符号 )
Ht(x/y)=rH(x/y)=81 bit/s
R=919 (bit/s)
j=1 i=1
m n
例 3.6-2上例中在强干扰的条件下，假设无论发送什么
符号 (0或 1)，其输出端出现符号 0或 1的概率都相同
(即等于 1/2)。试求该信道传输信息的速率。
解：
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-[1/2·㏒ 2(1/2)+1/2·㏒ 2(1/2)]=1(bit/符号 )
Ht(x/y)=rH(x/y)=1000 bit/s
R=Ht(x)-Ht(x/y)=0 (bit/s)
例 3.6-3求图示信道的信道容量
x1
x2
y1
y2
y3
y4
1/3
1/3
1/3
1/3
1/6
1/6
1/6
1/6
解：
? C = maxR = max[H(x)-H(x/y)]r
H(x)=-[1/2·㏒ 2(1/2)+1/2·㏒
2(1/2)]=1(bit/符号 )
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-[1/3·㏒ 2(1/3)+1/6·㏒ 2(1/6)]
=0.959(bit/符号 )
C = maxR = max[H(x)-H (x/y)]r=0.041r
3.6.2连续信道的信道容量
假设信道带宽为 B（ Hz）,信号功率
为 S（ W），而信道中的干扰信号为加性高
斯白噪声，噪声功率为 N（ W）。则可以证
明该信道的信道容量为
C=B㏒ 2（ 1+S/N） （ bit/s）
上式是信息论中信道容量的理论公式 —— 著
名的香农公式。
由香农公式可推出如下结论,
? 提高信噪比 S/N能增加信道容量。在极限情况下，
当 S/N趋于 ∞ 时,C趋于 ∞ 。
? 增加信道带宽（也即信号带宽） B能增加信道容量，
但并不能无限制地使信道容量增大,C和 B之间并
不是简单的正比关系。
? 信噪比再小，即使 S/N<1，信道容量也不会为 0。
? 当信道容量一定时，带宽 B与信噪比 S/N之间可以
彼此互换。
由于噪声功率 N与信道带宽 B有关，故若噪声
单边功率谱密度为 n0,则噪声功率 N将等于 n0B。
由此可得
C=B㏒ 2（ 1+ ）
香农公式的另一形式
S
n0B
B趋于 ∞ 时的信道容量
lim C = B㏒ 2(1+S/(Bn0))
= S/n0 lim(Bn0/S ㏒
2(1+S/(Bn0)))
利用关系式
lim(1/x ㏒ 2(1+x))= ㏒ 2e ≈1.44
可得
lim C = S/n0 ㏒ 2e≈1.44S/n0
B?∞
B?∞
x?0
例 3.6-4已知彩色电视图像由 5× 105 个像素组成，设
每个像素有 64种色彩，每种色彩有 16个亮度等级。试
计算：（ 1）每秒传送 100个画面所需的信道容量；
（ 2）如果接收机信噪声比为 30dB,那么传送彩色图
像所需的信道带宽为多少？
解,（ 1） 每像素信息量 =㏒ 2（ 64× 16） =10 bit
每幅图信息量 =10 × 5 × 105bit=5
× 106bit
信源信息速率 r=100 × 5
× 106=5× 108bit
由 C的定义可知，应有 C≥ r =
5× 108bit
（ 2） S/N=1000
B=C/㏒ 2（ 1+S/N） ≈50MHz
例 3.6-4 已知传真图像有 2.25× 106 个像素，每个像
素有 12个亮度等级,在电话线路上传输一张传真图片需
要多少时间 /(电话线路带宽 3kHz,30dB信噪比）。
解：每像素信息量 =㏒ 2 12 = 3.58 bit
每幅图信息量
=3.58× 2.25× 106=8.06× 106 bit
信道容量 C=B㏒ 2(1+S/N) ≈29.9× 103
bit/s
最大信息速率 rmax=C
r = I/T
Tmin= I/C = 8.06× 106 / 29.9× 103 s
= 0.269× 103 s
? 调制信道对信号的影响除乖性干扰外，还有加性干
扰（即加性噪声）。
? 加性噪声虽然独立于有用信号，但它却始终干扰有
用信号，因而不可避免地对通信造成危害。
? 某些类型的噪声是确知的，如电源哼声、自激振荡、
各种内部的谐波干扰等，在原理上可消除或基本消
除。另一些噪声则往往不能准确预测其波形，这种
不能预测的噪声统称为随机噪声。
加性噪声按来源不同，可分为：
（ 1）人为噪声
人为噪声来源于人类活动造成的其它信号源。如：外台
信号、开头接触噪声、工业的点火辐射及荧光灯干扰等。
（ 2）自然噪声
自然噪声是指自然界存在的各种电磁波源。如：闪电、
大气中的电暴、银河系噪声及其它各种宇宙噪声等。
（ 3）内部噪声
内部噪声是系统设备本身产生的各种噪声。如：导体中
自由电子的热运动（热噪声）、真空管中电子的起伏发射和
半导体中载流子的起伏变化（散弹噪声）及电源哼声。
按噪声的性质，可将噪声分为：
（ 1）单频噪声
（ 2）脉冲噪声
（ 3）起伏噪声
（ 1）单频噪声
单频噪声是一种连续波的干扰，主要是指无线
电噪声，还有电源的交流声、信道内设备的自激震
荡、高频电炉干扰等也在此类之列。这种噪声的主
要特点是其频谱集中在某个频率附近较窄的范围之
内，干扰的频率可以通过实测来确定。因此，单频
噪声并不是在所有通信系统中都存在，且只要采取
适当的措施便可能防止或削弱其对通信的影响。
（ 2）脉冲噪声
脉冲噪声是在时间上无规则地突发的短促噪声，
如工业上的点火辐射、闪电及偶然的碰撞和电气开
关通断等产生的噪声。这种噪声的特点是其突发的
脉冲幅度大，但持续时间短，且相邻突发脉冲之间
有较长的平静期。从频谱上看，脉冲噪声通常有较
宽的频谱（从甚低频到高频）。脉冲噪声主要影响
数字信道（编码信道），而对模拟信道（调制信道）
的影响比较小。
（ 3）起伏噪声
起伏噪声是最基本的噪声来源，是普遍存在和
不可避免的，其波形随时间作不规律的随机变化，
且具有很宽的频谱，主要包括信道内元器件所产生
的热噪声、散弹噪声和天电噪声中的宇宙噪声。从
它的统计特性来看，可认为起伏噪声是一种高斯噪
声，且在相当宽的频率范围内且有平坦的功率密度
谱，可称其为白噪声，故而起伏噪声又可表述为 高
斯白噪声 。
高斯白噪声的功率谱密度
Pn(f)
Pn(f0)
f0 f0
Bn
-f0
Bn
噪声带宽 Bn= ————— = ————∫∞-∞Pn(f)df ∫0∞Pn(f)df
2Pn(f0) Pn(f0)
3.5.1热噪声
热噪声是由于导体中组成传导电流的自由电
子无规则的热运动而引起的。在任何时刻通过导体
每个截面的电子数目的代数和是不等于零的，即由
自由电子的随机热骚动带来一个大小和方向都不确
定（随机）的电流 —— 起伏电流（噪声电流），它
们流过导体就产生一个与其电阻成正比的随时间而
变化的电压 —— 起伏电压（噪声电压）。
热噪声的功率谱密度
分析和实验结果表明，在从直流到微波（ <1013Hz）
的频率范围内，电阻或导体的热噪声具有均匀的功
率谱密度为：
Pi（ ω） = E[IN2]/2B=2KTG
或,PV（ ω） = R2Pi（ ?） =2KTR
式中,K为波尔兹曼常数（ K=1.3805× 10-23 J/K)，
T为绝对温度 (K),G为电阻 R (Ω)的电导值,B为
信号的带宽 (Hz)。
噪声电阻的模型
~
R
E[VN2]
GE[IN2]
(a) (b) (c)
R
热噪声电流及电压的有效值
热噪声电流源及电压源的均方值为：
E[IN2]=2Pi(?)B=4KTGB
E[VN2]=2Pv(?)B=4KTRB
热噪声电流源及电压源的均方根值（有效值）为：
IN=√4KTGB
VN=√4KTRB
例 3.5-1 设某接收天线的等效电阻为 300?，接收机的
通频带为 4kHz，环境温度为 17℃,试求该天线产生的
热噪声电压的有效值。
解,R=300?
T=17+273=290K
B=4kHz
则 Vn=√4kTRB
=√4× 1.3805 × 1023 × 290
× 300× 4× 103
=1.386 × 10-7（ V）
例 3.5-2 计算如图 (a)所示电路 a,b两端的热噪声电压功
率谱
(a) (b) (c)
R
1?
R
2?
L
2H
C
1F
a
b
~
Rab
E[VN2]
jXab
b
a
Gab
E[IN2]
jBab
a
b
解：
Zab(ω)= =
Rab(ω)=Re[Zab(ω)]=
Pv(ω)=2KTRab(ω)=2KT 4ω4+4ω2+9
4ω2+6
1
+jω+112+j2 ω 3-2ω2+j4ω
2+j2ω
4ω4+4ω2+9
4ω2+6
3.5.2散弹噪声
? 散弹噪声又称散粒噪声或颗粒噪声，是 1918年肖
特基研究此类噪声时，根据打在靶子上的子弹的噪
声而命名的。
? 散弹噪声出现在电子管和半导体器件中，电子管中
的散弹噪声是由阴极表面发射电子的不均匀性引起
的。
? 散弹噪声的性质可用平板型二极管的热阴极电子发
射来说明。
散弹效应示意图：
肖特基公式：
可以证明，阳极电流随机起伏分量（噪声分
量）的均方值由下式确定：
E[IN2]=2qI0B
式中,q为电子电荷,q=1.59× 10-19 C,I0代表
电流平均值,B表示信号系统带宽。
散弹噪声的功率谱在 ωτa＜ 0.5范围内基本上
是平坦的。 τa为电子由阴极到阳极的渡越时间，约
为 10-9 s。因此，大约在 100MHz频率范围内功率
谱可以被认为是恒定值，即
SI（ ω） = =qI0
散弹噪声的功率谱
E[IN2]
2B
-3.5 –3 -2 -1 0 1 2 3 3.5 ωτa
SI(ω)
qI0/2
qI0
3.5.3宇宙噪声
? 宇宙噪声是指天体辐射波对接收机形成的噪声，它
在整个空间的分布是不均匀的，最强的来自银河系
的中部，其强度与季节、频率等因素有关。
? 实测表明，在 20~300MHz的频率范围内，它的强
度与频率的三次方成反比。
? 实践证明，宇宙噪声也是服从高斯分布的。在一般
的工作频率范围内，它也具有平坦的功率谱密度。
所谓信道容量 C，就是信道的极限传输能
力，即信道中信息无差错传输的最大传输速
率。其数学表达式为：
C = max R
式中,R为信源的速率,max表示对所有可
能的输入概率分布的最大值。
3.6 信道容量
{P（ x） }
3.6.1 离散信道
X 信道 Y
x={xi}； i=1,2,3…L
y={yj}； j=1,2,3…M 一般应有 L=M
无噪声信道模型
有噪声信道模型
1．几个概率
? xi,P(xi)和 yj,P(yj)分别为收端与发端的概
率空间。对于无噪声信道，发 xi就应收到 yj
（ i=j），是一一对应的；在有噪声的信道
中，会出现不同的转移概率：
? ·先验概率 P(xi)—— xi的不确定性；
? ·后验概率 P(xi/yj)—— 收到 yj后再确认是 xi
的条件转移概率；
?·转移概率 P(yj/xi)—— 发送 xi时收到 yj的条
件转移概率；
? ·P(yj)—— 收端收到 yj时的概率。
2 离散信道的信道容量
假设通信系统发送端每秒钟发出 r个符号，则
有噪声信道的信息传输速率为
R = [H(x)-H(x/y)]r = [H(y)-H(y/x)]r
有噪声离散信道的信道容量为
C = maxR = max[Ht(x)-Ht(x/y)]
{P(x)} {P(x)}
无噪声离散信道的信道模型
x1
x2
x3
xn
y1
y2
y3
yn
P(y1/x1)=1
P(yn/xn)=1
?
?
?
?
?
?
?
?
?
xi
P(xi)
yj
P(yj)
?
?
?
?
?
?
?
?
?
P(xi/yi) = P(yi/xi) =1
P(xi/yj) = P(yj/xi) =0,i ≠j
有噪声离散信道的信道模型
x1
x2
x3
xn
y1
y2
y3
ym
P(y1/x1)
P(ym/x1)
?
?
?
?
?
?
?
?
?
xi
P(xi)
yj
P(yj)
?
?
?
?
?
?
?
?
?
P(xi/yj) = P(yj/xi) ≠0,i ≠j
P(xi/yi) = P(yi/xi) ≠1
在有噪声的信道中，发送符号为 xi而收到符号为 yj
时所获得的信息量,它等于未发送符号前对 xi的
不确定程度减去收到符号 yj后对 xi的不确定程度。
[发送 xi收到 yj时所获得的信息量 ]
=- ㏒ 2P（ xi) +㏒ 2P（ xi/yj)
式中,P（ xi) —— 未发送符号前 xi出现的
概率；
P（ xi/yj) —— 收到 yj而发送为 xi的
条件概率。
平均信息量
对各 xi和 yj取统计平均，即对所有发送为 xi而收到为 yj
取平均，则
平均信息量 /符号
=-∑P(xi) ㏒ 2P(xi） -[-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)]
=H(x)-H(x/y)
式中,H(x)—— 表示发送的每个符号的平均信息量；
H(x/y) —— 表示发送符号在有噪声的信道中传
输平均丢失的信息量，或当输出符号已知时输入符
号的平均信息量，或发送 x而收到 y的条件平均信息
量。
i=1 i=1j=1
n nm
信息传输速率
所谓信息传输速率，是指信道在单位时间内所传输的
平均信息量，并用 R表示，即
R=Ht(x)-Ht(x/y)
式中,Ht(x)—— 单位时间内信息源发出的平均信息量，
或称信息源的信息速率； Ht(x/y) —— 单位时间内
对 x发送而收到 y的条件平均信息量。
设单位时间传送的符号数为 r，则
Ht(x)=rH(x)
Ht(x/y)=rH(x/y)
于是得到,R=r[Ht(x)-Ht(x/y)]
例 3.6-1求二进制对称信道的信道容量
设信息源由符号 0和 1组成，
顺次选择两符号构成所有
可能的消息。如果消息传
输速率是每秒 1000符号，
且两符号出现概率相等。
在传输中,弱干扰引起的
差错是：平均每 100符号中有一个符号不正确。试问
这时传输信息的速率是多少？
0 0
1 1
P(0/0)=0.99
P(1/1)=0.99
P(0/1)=0.01
P(1/0)=0.01
解：
P(0)=P(1)=1/2,r=1000 符号 /s
H(x)=-[1/2·㏒ 2(1/2)+1/2·㏒ 2(1/2)]=1(bit/符号 )
Ht(x)=rH(x)=1000 bit/s
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-(0.99㏒ 20.99+0.01㏒ 20.01)
=0.081 (bit/符号 )
Ht(x/y)=rH(x/y)=81 bit/s
R=919 (bit/s)
j=1 i=1
m n
例 3.6-2上例中在强干扰的条件下，假设无论发送什么
符号 (0或 1)，其输出端出现符号 0或 1的概率都相同
(即等于 1/2)。试求该信道传输信息的速率。
解：
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-[1/2·㏒ 2(1/2)+1/2·㏒ 2(1/2)]=1(bit/符号 )
Ht(x/y)=rH(x/y)=1000 bit/s
R=Ht(x)-Ht(x/y)=0 (bit/s)
例 3.6-3求图示信道的信道容量
x1
x2
y1
y2
y3
y4
1/3
1/3
1/3
1/3
1/6
1/6
1/6
1/6
解：
? C = maxR = max[H(x)-H(x/y)]r
H(x)=-[1/2·㏒ 2(1/2)+1/2·㏒
2(1/2)]=1(bit/符号 )
H(x/y)=-∑P(yj) ∑ P(xi/yj) ㏒ 2P(xi/yj)
=-[1/3·㏒ 2(1/3)+1/6·㏒ 2(1/6)]
=0.959(bit/符号 )
C = maxR = max[H(x)-H (x/y)]r=0.041r
3.6.2连续信道的信道容量
假设信道带宽为 B（ Hz）,信号功率
为 S（ W），而信道中的干扰信号为加性高
斯白噪声，噪声功率为 N（ W）。则可以证
明该信道的信道容量为
C=B㏒ 2（ 1+S/N） （ bit/s）
上式是信息论中信道容量的理论公式 —— 著
名的香农公式。
由香农公式可推出如下结论,
? 提高信噪比 S/N能增加信道容量。在极限情况下，
当 S/N趋于 ∞ 时,C趋于 ∞ 。
? 增加信道带宽（也即信号带宽） B能增加信道容量，
但并不能无限制地使信道容量增大,C和 B之间并
不是简单的正比关系。
? 信噪比再小，即使 S/N<1，信道容量也不会为 0。
? 当信道容量一定时，带宽 B与信噪比 S/N之间可以
彼此互换。
由于噪声功率 N与信道带宽 B有关，故若噪声
单边功率谱密度为 n0,则噪声功率 N将等于 n0B。
由此可得
C=B㏒ 2（ 1+ ）
香农公式的另一形式
S
n0B
B趋于 ∞ 时的信道容量
lim C = B㏒ 2(1+S/(Bn0))
= S/n0 lim(Bn0/S ㏒
2(1+S/(Bn0)))
利用关系式
lim(1/x ㏒ 2(1+x))= ㏒ 2e ≈1.44
可得
lim C = S/n0 ㏒ 2e≈1.44S/n0
B?∞
B?∞
x?0
例 3.6-4已知彩色电视图像由 5× 105 个像素组成，设
每个像素有 64种色彩，每种色彩有 16个亮度等级。试
计算：（ 1）每秒传送 100个画面所需的信道容量；
（ 2）如果接收机信噪声比为 30dB,那么传送彩色图
像所需的信道带宽为多少？
解,（ 1） 每像素信息量 =㏒ 2（ 64× 16） =10 bit
每幅图信息量 =10 × 5 × 105bit=5
× 106bit
信源信息速率 r=100 × 5
× 106=5× 108bit
由 C的定义可知，应有 C≥ r =
5× 108bit
（ 2） S/N=1000
B=C/㏒ 2（ 1+S/N） ≈50MHz
例 3.6-4 已知传真图像有 2.25× 106 个像素，每个像
素有 12个亮度等级,在电话线路上传输一张传真图片需
要多少时间 /(电话线路带宽 3kHz,30dB信噪比）。
解：每像素信息量 =㏒ 2 12 = 3.58 bit
每幅图信息量
=3.58× 2.25× 106=8.06× 106 bit
信道容量 C=B㏒ 2(1+S/N) ≈29.9× 103
bit/s
最大信息速率 rmax=C
r = I/T
Tmin= I/C = 8.06× 106 / 29.9× 103 s
= 0.269× 103 s
