2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第二章 预备基础知识
本章要点：
? 矩形波频谱及信号频带的定义
? 随机信号的统计特性和相关性
? 消息,信号、信息及其度量
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第一节 信号分析的基础知识
一、傅立叶级数
任何一个周期信号,只要满足狄里赫利条件，都
可以表示为傅立叶级数。
狄里赫利条件：
① 在一周期内只有有限个间断点；
② 在一周期内只有有限个极值点；
③ 绝对可积：
)(tf
? ? ??Ttt dt)t(f00
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
傅立叶级数的三种表示形式
1,傅立叶级数的三角形式：
式中
叫做傅立叶系数。 是 的平均值，即直流量。
)]tT n2s i n (b)tT n2c o s (a[2a)t(f n1n n0 ??? ??? ??
,...2,1,0n,dt)tT n2c o s ()t(fT2a 2/T 2/Tn ?? ?? ?
,.,,,,n,dt)tT ns i n ()t(fTb /T /Tn 32122 2 2 ?? ?? ?
2/0a )(tf
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2,傅立叶级数的另一种三角表示形式,
式中,
3,傅立叶级数的指数形式为,
式中
)t n2c o s (d2a)t(f n
1n
n
0 ??? ??? ?
?
bad nnn 22 ?? )a/ba r c ta n ( nnn ???
?? ???? ?n tT n2jn ec)t(f
?? ?? 2 2 21 /T /T tT njn e)t(fTc ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
0,
2
0,
2
0,
2
0
n
jba
n
a
n
ba
c
nn
nn
n
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
二、傅立叶变换
非周期信号不能直接用傅立叶级数去研究，可把它看作周期信
号周期趋于无穷的一种极限情况。
在指数形式的傅式级数展开中令 可得：
通常把 叫做 的频谱密度，或简称频谱。
傅立叶变换提供了信号在频域和时间域之间的相互变换关系。
由 到 的变换叫傅氏正变换，而相反的变换称为傅氏反变换。
一般来说，如果 在每个有限区间内满足狄里赫利条件，且满足
傅氏变换存在，这是充分条件。
??T
?? ??? ??? ? de)(F21)t(f tj? ?
??
?? dte)t(f)(F tj??
)(F ? )t(f
)t(f )(F ?
)t(f
?????? dt|)t(f|
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
三、功率谱密度和能量谱密度
对于信号电压或电流 f(t),耗散在单位电阻上的瞬时功率可表
示为 |f(t)|2,而总能量为 。
当信号的总能量为有限值时, 称为能量信号, 否则, 总能量为无
穷大时, 称为功率信号 。
对于功率信号：定义信号 f(t)在单位电阻上所消耗的平均功率
为,（ 单位时间的能量 ）
而对于能量信号, 则定义信号 f(t)在单位电阻上所散耗的能量为：
可以看到能量信号的平均功率为零, 故研究其功率无实际价值,
而功率信号的能量为无穷大, 因此也同样没有研究的价值 。
????? dttfE 2)(
????? 22 2)(1lim TTT dttfTP
????? dttfE 2)(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
帕斯瓦尔 (Parseval)定理
对于能量信号 有：
对于功率信号有：
其中 为截短的有限时间信号
的傅式变换 。
)()( ?Ftf ?
?? ?????? ?? ??? d)(Fdt)t(fE 22 21
?? ??? ????? ?? ??? dTFdttfTP TTT TT
2
2
2
2 )(lim
2
1)(1lim
)(?TF
??
??? ??
0
2)()(
Tttf
tf T
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
对于周期信号有,（ 特殊的功率信号 ）
以上几个式子反映的是信号在时域的总能量 （ 或功率
） 等于信号在频域内的总能量 （ 或功率 ）, 各式中等
号左端反映的是信号能量或功率在时域的分布情况,
右端为在频域的分布情况 。
?? ?
????
??
n
n
T
T cdttfTP
22
2
2)(1
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
为了用统一的形式来表示信号能量或功率在频域
的分布规律，可分别定义能量谱密度 和功率谱密
度,则从频域计算信号的能量或功率的表达式可
统一写为：
显然，对于能量信号有：
而对于功率信号有：
对于周期信号来说，同样可以推导出：
)(??
)(S ?
????? ???? d)(E 21
????? ??? dSP )(21
2)(F)( ??? ?
T
FS T
T
2)(
lim)( ?? ???
??
???
??
n
Tn ncS )(2)(
2 ?????
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
由于 为 分量的平均功率，所以可表示为：
可见，
2nc Tn?
? ??? ?? ???? dncc Tnn )(22
? ?? ?
???
?
??
?
???
???
n
Tn
n
n dnccP ???? )(
22
? ????
?
???
??
n
Tn d)n(c ??????
22
2
1
??
???
??
n
Tn ncS )(2)(
2 ?????
? ????
?
???
??
n
Tn dnc ???? )(
2
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第二节 概率论的基础知识
现象：
第一类：确定的、可以预测的
第二类：随机的、不可预测的
第一类现象称之为 必然现象 或 确定性现象,这类现象
在一定的条件下进行多次重复试验，必然产生同一结果。
第二类现象称之为 随机现象,是指在相同条件下进行多
次重复试验，有多种可能的结果，但在试验前不能准确
预言它的结果。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机试验的概念
为了掌握随机现象的统计规律，就必须对随机现象进行大量观
测或试验。
例 1：抛硬币试验 E1：抛一枚硬币，观察其正面 H，反面 T 出现的情况。
例 2：掷骰子试验 E2：掷一颗骰子，观察出现的点数。
例 3：产品抽样测试试验 E3：在一批灯泡中任意抽取一只，测试它的寿命。
这些试验均具有以下三个特点：
（ 1）试验可以在相同条件下重复进行
（ 2）试验有多种可能结果，并且事先明确知道该试验的所有可能的结果
（ 3）每次试验出现哪个结果，是不能准确预言的
将具有以上三个特点的试验称为 随机试验,简称 试验,常用 E来表示。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机事件的概念
在随机试验的结果中，可能发生也可能不发生，但在大量重复试验
中，却具有某种规律性的事件，叫做 随机事件,简称为 事件 。
随机试验的每一种可能出现的结果都是一个随机事件，它们是该试
验的最简单的随机事件。通常称这种简单的、不可再分割的随机事件为
基本事件 。
在试验 E中必然会发生的事件叫做 必然事件 。
不可能发生的事件就叫做 不可能事件 。
必然事件和不可能事件没有不确定性，它们是一种特殊的随机事件。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机事件的频率和概率
1）随机事件的频率
一般地，在同样条件下，大量进行重复试验，来观察事
件 A发生或不发生。若在 n次独立试验中，随机事件 A出现
nA次，比值
称为事件 A在这 n次试验中出现的 频率 。
数 P(A)是客观存在的，即对于每一随机事件 A总有这
样一个数 P(A)与之相对应。因此，用稳定值 P(A)来刻划事
件 A发生的可能性的大小是比较恰当的。
n
nAf A
n ?)(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2）概率的定义
设 E是随机试验,S是它的样本空间，对于 E的每一事件
赋予一实数，记为 P(A)，称之为 事件 A的概率,显然，
由于概率是频率的稳定值，因而对任何随机事件 A，有
对于必然事件 S和不可能事件，则有
)()( ??? nnnAP A
1)(0 ?? AP
0)(1)( ??? PSP
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
3）概率的 性质
性质 1：（有限可加性） 设有有限个两两互不相容事件
A1,A2,…,An，则
性质 2,设 A为任一随机事件，则
性质 3：设 A,B为任意两事件，则
??
??
? n
i
i
n
i
i APAP
11
)()(
)(1)( APAP ??
)()()(
)()()()(
ABPAPBAP
ABPBPAPBAP
???
????
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
条 件 概 率
事件在一定条件下发生的情况，即在一个事件发生的条
件下另一事件发生的概率，这就是条件概率问题。
定义 设 A,B为随机试验的两个事件，且 P(A)>0，则称
为 事件 A发生的条件下事件 B发生的条件概率 。
类似地，有 [P(B)>0]
)(
)()|(
AP
ABPABP ?
)(
)()|(
BP
ABPBAP ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
全 概 率 公 式
设 n个事件 A1,A2,…,An构成随机试验 E的一个完备事件
组，且 P(Ai)>0,B为随机试验 E的一个事件，则
?
?
?
n
i
ii ABPAPBP
1
)|()()(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
例,对飞机进行三次独立的射击，第一次射击的命中率是 0.4
，第二次是 0.5，第三次是 0.7。飞机中一弹坠落的概率为
0.2，中二弹而坠落的概率是 0.6，若中三弹，则必然被击
落。求射击三弹而击落飞机的概率。
解：假设事件
B1－有一弹击中飞机 A1－第一次击中飞机
B2－有二弹击中飞机 A2－第二次击中飞机
B3－有三弹击中飞机 A3－第三次击中飞机
A－飞机被击落
可看出,B1,B2,B3为互不相容事件；而 A1,A2,A3
为相互独立，但相容事件。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
根据题意已知
现在所求的是 P(A)：
即要求 P(B1),P(B2),P(B3)。
1)|(,6.0)|(,2.0)|(
7.0)(,5.0)(,4.0)(
321
321
???
???
BAPBAPBAP
APAPAP
)|()()|()()|()()( 332211 BAPBPBAPBPBAPBPAP ???
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
可以看出
通过分析知,A1,A2,A3为相互独立，但相容事件，而
则是不相容的，有
3213
3213213212
3213213211
AAAB
AAAAAAAAAB
AAAAAAAAAB
?
???
???
321321321,,AAAAAAAAA
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
14.0)(
41.0)(
36.0
7.0*5.0*6.03.0*5.0*6.03.0*5.0*4.0
)()()()()()()()()(
)()()(
)()(
3
2
321321321
321321321
3213213211
?
?
?
???
???
???
???
BP
BP
APAPAPAPAPAPAPAPAP
AAAPAAAPAAAP
AAAAAAAAAPBP
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
458.0
1*14.06.0*41.02.0*36.0
)|()()|()()|()()( 332211
?
???
??? BAPBPBAPBPBAPBPAP
即飞机被击落的概率为 0.458。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第三节 随机信号的描述
1,随机过程的定义
自然界中变化的过程可分为两大类：
确定性过程和随机过程
确定性过程,就是事物的变化过程可以用一个（或几个）
时间 t的确定的函数来描绘 。
随 机 过 程,就是事物变化的过程不能用一个（或几个）
时间 t的确定的函数来加以描述。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
定义 1：设随机试验的样本空间为 S={ei}，对于空间的每
一个样本,总有一个时间函数 X(t,ei)与之对应
对于空间的所有样本,可有一族时间函数
X(t,e)与其对应，这族时间函数称为 随机过程,简记为
X(t)。
定义 2：设有一个过程 X(t)，若对于每一个固定的时刻
tj(j=1,2,… ),X(tj)是一个随机变量，则称 X(t)为 随机过
程 。
Sei ?
)( Tt? Se?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2,随机过程的分类
1) 按照时间和状态是连续还是离散来分类：
? 连续型随机过程
随机过程 X(t)对于任意时刻, X(ti)都是连续型随机变量，即
时间和状态都是连续的情况，称这类随机过程为连续型随机过程。
? 连续随机序列
随机过程 X(t)在任一离散时刻的状态是连续型随机变量，即时间
是离散的，状态是连续的情况，称这类随机过程为连续随机序列。
? 离散随机过程
随机过程 X(t)对于任意时刻, X(ti)都是离散型随机变量，即
时间是连续的，状态是离散的情况。
? 离散随机序列
对应于时间和状态都是离散的情况，即随机数字信号。
2)按照随机过程的分布函数（或概率密度）的不同特性进行分类
按照这种分类法，最重要的就是 平稳随机过程,其次是 马尔可
夫过程 等等。分类
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
3,随机过程的统计特性
1)随机过程的概率分布
? 一维概率分布
对于任意的时刻 t,X(t)是一个随机变量，设 x为任意
实数，定义
为随机过程 X(t)的 一维分布函数 。
若 的一阶偏导数存在，则定义
为随机过程 X(t)的 一维概率密度 。
})({),( xtXPtxF X ??
),( txFX
x
txFtxf X
X ?
?? ),(),(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 二维概率分布和 n维概率分布
对于随机过程 X(t)，在任意两个时刻 t1和 t2可得到两个随机变量
X(t1)和 X(t2)，可构成二维随机变量 {X(t1),X(t2)}，它的二维分布函数
称为随机过程 X(t)的 二维概率分布函数 。
若 对 x1,x2的偏导数存在，则定义
为随机过程 X(t)的 二维概率密度 。
})(,)({
),;,(
2211
2121
xtXxtXP
ttxxF X
??
?
),;,( 2121 ttxxF X
21
2121
2
2121
),;,(),;,(
xx
ttxxFttxxf X
X ??
??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
对于任意的时刻 t1,t2,…,tn,X(t1),X(t2),…,X(tn) 是一组随机变
量，定义这组随机变量的联合分布为随机过程 X(t)的 n维概率分布，
即定义
为随机过程 X(t)的 n维概率分布函数 。
为随机过程 X(t)的 n维概率密度 。
})(,,)(,)({
),,,;,,,(
2211
2121
nn
nnX
xtXxtXxtXP
tttxxxF
???
?
?
??
n
nnX
n
nnX xxx
tttxxxFtttxxxf
???
??
?
????
21
2121
2121
),,,;,,,(),,,;,,,(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2)随机过程的数字特征
? 数学期望
对于任意的时刻 t,X(t)是一个随机变量，将这个随机变量的数
学期望定义为 随机过程的数学期望,记为 mx(t)，即
? 方差
对于任意的时刻 t,X(t)是一个随机变量，称该随机变量 X(t)的
二阶中心矩为 随机过程的方差,记为 D[X(t)]，即
? ?????? dxtxxftXEtm XX ),()]([)(
?
??
??
??
???
dxtxftmx
tXEtXEtXDt
XX
X
),()]([
) ] }([)({)]([)(
2
22?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 自相关函数和协方差函数
设 X(t1)和 X(t2)是随机过程 X(t)在 t1和 t2二个任意时刻的状态，
fX(x1,x2;t1,t2)是相应的二维概率密度，称它们的二阶联合原点矩为 X(t)
的 自相关函数,简称 相关函数
设 X(t1)和 X(t2)是随机过程 X(t)在 t1和 t2二个任意时刻的状态，称
X(t1)和 X(t2)的二阶联合中心矩为 X(t)的 自协方差函数
21212121
2121
),;,(
)]()([),(
dxdxttxxfxx
tXtXEttR
X
X
? ????? ?????
?
2121212211
221121
),;,()]()][([
)]}()()][()({[),(
dxdxttxxftmxtmx
tmtXtmtXEttC
XXX
XXX
? ????? ???? ???
???
)()(),(),( 212121 tmtmttRttC XXXX ??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 互相关函数和互协方差函数
设有两个随机过程 X(t)和 Y(t)，它们在任意两个时刻 t1和 t2的状态
分别为 X(t1)和 Y(t2)，则随机过程 X(t)和 Y(t)的 互相关函数 定义为
类似地，定义两个随机过程的 互协方差函数 为
dx d yttyxxyf
tYtXEttR
XY
XY
? ????? ?????
?
),;,(
)]()([),(
21
2121
dx dyttyxftmytmx
tmtYtmtXEttC
XYYX
YXXY
? ????? ???? ???
???
),;,()]()][([
)]}()()][()({[),(
2121
221121
)()(),(),( 212121 tmtmttRttC YXXYXY ??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第四节 消息、信号、信息及其度量
信息的定义
信息 可理解为消息中包含的有意义的内容。
不同的消息可以包含相同的信息，如，分别用语言
和文字发送的天气预报，所含信息内容相同 。
信息的度量
传输信息的多少用, 信息量, 去衡量。
对接收者来说，事件越不可能发生，信息量就越大。
即信息量反映事件的不确定性
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
由概率论可知，事件的不确定性可以用其出现的概
率来描述。
因此消息中所含的信息量 I与消息出现的概率 P(x)间
的关系式应反映如下规律：
? 消息中所含的信息量 I是出现该消息的概率 P(x)的函数：
I=P(x)
? 消息的出现概率越小，它所含的信息量愈大；反之信息量
愈小，且当 P(x)=1时,I=0。
? 若干个相互独立事件构成的消息，所含的信息量等于各独
立事件信息量的和，即：
I[p(x1)p(x2)p(x3)… ]=I[p(x1)]+I[p(x2)]+I[p(x3)]+…
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
不难看出，若 I与 p(x)间的关系式为：
I= loga1/p(x)=-logap(x) 就可满足上述要求。
信息量的单位的确定取决于上式中对数底 a 的确定：
a值 单 位
2 比特（ bit）
e 奈特（ nit）
10 哈特莱
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
等概率出现的离散消息的度量：
若要传递的离散消息是在 M个独立等概的消息中的
一个，则只需采用一个 M进制的波形来传送。
即传送 M个消息之一者与传送 M进制波形之一完全
等价的。
规定：传送两个等概的二进制波形之一的信息量为 1，
单位为, 比特, 。即：
I =log21/(1/2)= log22=1(bit )
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
只要在接收者看来每一传送波形是独立等概出现的,
则一个波形所传递的信息量为,
I =log21/P (bit)
其中,P---每一波形出现的概率
因 P=1/M，上式又可以写做：
I =log2M (bit)
其中,M---传送的波形数
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
非等概出现的离散消息的度量
符号集：
? 组成离散信息源的 n个符号 xi组成的集合
? 每个符号 xi在消息中是按一定概率 P(xi)独立出现
的，设符号集中各符号出现的概率：
其中
???
?
???
?
??
??
)()()( 21
21
n
n
xpxpxp
xxx
1)(
1
??
?
?i
ixp
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
则 x1,x2,…, xn所包含的信息量分别为 -log2P(x1)、
- log2P(x2),…, -log2P(xn)。
? 于是，每个符号所含信息量的统计平均值，即平
均信息量为
其中称 H (x)为 信息源的熵,其单位为 bit/符号
1 2 1 2 2 2 2( ) ( ) l o g [ ( ) ] ( ) l o g [ ( ) ] ( ) l o g [ ( ) ]nnH x P x P x P x P x P x P x? ? ? ? ? ? ? ? ? ?
1
( ) lo g ( )n ii
i
P x P x
?
?? ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
例 1：设有 A,B,C,D四个消息分别以概率 1/4,1/8、
1/8,1/2传送，假设它们的出现相互独立，试求消
息熵。
例 2：黑白电视机的图象每秒传输 25帧，每帧有 625
行；屏幕的宽度与高度之比为 4,3。设图象的每个
像素的亮度有 10个电平，各像素的亮度相互独立，
且等概出现，求电视图像给观众的平均信息速率。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
连续消息的信息量的度量
连续消息的信息量可用概率密度来描述
连续消息的平均信息量（相对熵）为
式中 f(x)---连续消息出现的概率密度
1 ( ) ( ) l o g ( )eH x f x f x d x
??
???? ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
本 章 小 结
本章仅从通信的角度介绍了本课程涉及的一些相
关的预备基础知识，包括：①方波信号频谱及任意信
号功率谱，信号频带的一般定义；②概率论的基本概
念；如样本空间,各态遍历、正态分布函数、均值 (时
间均值和总集均值 ),均方值等； ③随机信号的相关
性；④消息,信号,信息及其度量。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 国际莫尔斯电码用点和画的序列发送英文字母，画用持续 3个单位
的电流脉冲表示，点用持续 1个单位的电流脉冲表示，且画出现的概
率是点出现概率的三分之一，试问点和画的信息量分别为多少？
? 下图中哪几个函数不可能是自相关函数，为什么?
思考题
f(t)
to
f(t)
to
f(t)
to
数 字 通 信 原 理
第二章 预备基础知识
本章要点：
? 矩形波频谱及信号频带的定义
? 随机信号的统计特性和相关性
? 消息,信号、信息及其度量
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第一节 信号分析的基础知识
一、傅立叶级数
任何一个周期信号,只要满足狄里赫利条件，都
可以表示为傅立叶级数。
狄里赫利条件：
① 在一周期内只有有限个间断点；
② 在一周期内只有有限个极值点；
③ 绝对可积：
)(tf
? ? ??Ttt dt)t(f00
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
傅立叶级数的三种表示形式
1,傅立叶级数的三角形式：
式中
叫做傅立叶系数。 是 的平均值，即直流量。
)]tT n2s i n (b)tT n2c o s (a[2a)t(f n1n n0 ??? ??? ??
,...2,1,0n,dt)tT n2c o s ()t(fT2a 2/T 2/Tn ?? ?? ?
,.,,,,n,dt)tT ns i n ()t(fTb /T /Tn 32122 2 2 ?? ?? ?
2/0a )(tf
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2,傅立叶级数的另一种三角表示形式,
式中,
3,傅立叶级数的指数形式为,
式中
)t n2c o s (d2a)t(f n
1n
n
0 ??? ??? ?
?
bad nnn 22 ?? )a/ba r c ta n ( nnn ???
?? ???? ?n tT n2jn ec)t(f
?? ?? 2 2 21 /T /T tT njn e)t(fTc ?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
0,
2
0,
2
0,
2
0
n
jba
n
a
n
ba
c
nn
nn
n
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
二、傅立叶变换
非周期信号不能直接用傅立叶级数去研究，可把它看作周期信
号周期趋于无穷的一种极限情况。
在指数形式的傅式级数展开中令 可得：
通常把 叫做 的频谱密度，或简称频谱。
傅立叶变换提供了信号在频域和时间域之间的相互变换关系。
由 到 的变换叫傅氏正变换，而相反的变换称为傅氏反变换。
一般来说，如果 在每个有限区间内满足狄里赫利条件，且满足
傅氏变换存在，这是充分条件。
??T
?? ??? ??? ? de)(F21)t(f tj? ?
??
?? dte)t(f)(F tj??
)(F ? )t(f
)t(f )(F ?
)t(f
?????? dt|)t(f|
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
三、功率谱密度和能量谱密度
对于信号电压或电流 f(t),耗散在单位电阻上的瞬时功率可表
示为 |f(t)|2,而总能量为 。
当信号的总能量为有限值时, 称为能量信号, 否则, 总能量为无
穷大时, 称为功率信号 。
对于功率信号：定义信号 f(t)在单位电阻上所消耗的平均功率
为,（ 单位时间的能量 ）
而对于能量信号, 则定义信号 f(t)在单位电阻上所散耗的能量为：
可以看到能量信号的平均功率为零, 故研究其功率无实际价值,
而功率信号的能量为无穷大, 因此也同样没有研究的价值 。
????? dttfE 2)(
????? 22 2)(1lim TTT dttfTP
????? dttfE 2)(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
帕斯瓦尔 (Parseval)定理
对于能量信号 有：
对于功率信号有：
其中 为截短的有限时间信号
的傅式变换 。
)()( ?Ftf ?
?? ?????? ?? ??? d)(Fdt)t(fE 22 21
?? ??? ????? ?? ??? dTFdttfTP TTT TT
2
2
2
2 )(lim
2
1)(1lim
)(?TF
??
??? ??
0
2)()(
Tttf
tf T
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
对于周期信号有,（ 特殊的功率信号 ）
以上几个式子反映的是信号在时域的总能量 （ 或功率
） 等于信号在频域内的总能量 （ 或功率 ）, 各式中等
号左端反映的是信号能量或功率在时域的分布情况,
右端为在频域的分布情况 。
?? ?
????
??
n
n
T
T cdttfTP
22
2
2)(1
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
为了用统一的形式来表示信号能量或功率在频域
的分布规律，可分别定义能量谱密度 和功率谱密
度,则从频域计算信号的能量或功率的表达式可
统一写为：
显然，对于能量信号有：
而对于功率信号有：
对于周期信号来说，同样可以推导出：
)(??
)(S ?
????? ???? d)(E 21
????? ??? dSP )(21
2)(F)( ??? ?
T
FS T
T
2)(
lim)( ?? ???
??
???
??
n
Tn ncS )(2)(
2 ?????
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
由于 为 分量的平均功率，所以可表示为：
可见，
2nc Tn?
? ??? ?? ???? dncc Tnn )(22
? ?? ?
???
?
??
?
???
???
n
Tn
n
n dnccP ???? )(
22
? ????
?
???
??
n
Tn d)n(c ??????
22
2
1
??
???
??
n
Tn ncS )(2)(
2 ?????
? ????
?
???
??
n
Tn dnc ???? )(
2
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第二节 概率论的基础知识
现象：
第一类：确定的、可以预测的
第二类：随机的、不可预测的
第一类现象称之为 必然现象 或 确定性现象,这类现象
在一定的条件下进行多次重复试验，必然产生同一结果。
第二类现象称之为 随机现象,是指在相同条件下进行多
次重复试验，有多种可能的结果，但在试验前不能准确
预言它的结果。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机试验的概念
为了掌握随机现象的统计规律，就必须对随机现象进行大量观
测或试验。
例 1：抛硬币试验 E1：抛一枚硬币，观察其正面 H，反面 T 出现的情况。
例 2：掷骰子试验 E2：掷一颗骰子，观察出现的点数。
例 3：产品抽样测试试验 E3：在一批灯泡中任意抽取一只，测试它的寿命。
这些试验均具有以下三个特点：
（ 1）试验可以在相同条件下重复进行
（ 2）试验有多种可能结果，并且事先明确知道该试验的所有可能的结果
（ 3）每次试验出现哪个结果，是不能准确预言的
将具有以上三个特点的试验称为 随机试验,简称 试验,常用 E来表示。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机事件的概念
在随机试验的结果中，可能发生也可能不发生，但在大量重复试验
中，却具有某种规律性的事件，叫做 随机事件,简称为 事件 。
随机试验的每一种可能出现的结果都是一个随机事件，它们是该试
验的最简单的随机事件。通常称这种简单的、不可再分割的随机事件为
基本事件 。
在试验 E中必然会发生的事件叫做 必然事件 。
不可能发生的事件就叫做 不可能事件 。
必然事件和不可能事件没有不确定性，它们是一种特殊的随机事件。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
随机事件的频率和概率
1）随机事件的频率
一般地，在同样条件下，大量进行重复试验，来观察事
件 A发生或不发生。若在 n次独立试验中，随机事件 A出现
nA次，比值
称为事件 A在这 n次试验中出现的 频率 。
数 P(A)是客观存在的，即对于每一随机事件 A总有这
样一个数 P(A)与之相对应。因此，用稳定值 P(A)来刻划事
件 A发生的可能性的大小是比较恰当的。
n
nAf A
n ?)(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2）概率的定义
设 E是随机试验,S是它的样本空间，对于 E的每一事件
赋予一实数，记为 P(A)，称之为 事件 A的概率,显然，
由于概率是频率的稳定值，因而对任何随机事件 A，有
对于必然事件 S和不可能事件，则有
)()( ??? nnnAP A
1)(0 ?? AP
0)(1)( ??? PSP
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
3）概率的 性质
性质 1：（有限可加性） 设有有限个两两互不相容事件
A1,A2,…,An，则
性质 2,设 A为任一随机事件，则
性质 3：设 A,B为任意两事件，则
??
??
? n
i
i
n
i
i APAP
11
)()(
)(1)( APAP ??
)()()(
)()()()(
ABPAPBAP
ABPBPAPBAP
???
????
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
条 件 概 率
事件在一定条件下发生的情况，即在一个事件发生的条
件下另一事件发生的概率，这就是条件概率问题。
定义 设 A,B为随机试验的两个事件，且 P(A)>0，则称
为 事件 A发生的条件下事件 B发生的条件概率 。
类似地，有 [P(B)>0]
)(
)()|(
AP
ABPABP ?
)(
)()|(
BP
ABPBAP ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
全 概 率 公 式
设 n个事件 A1,A2,…,An构成随机试验 E的一个完备事件
组，且 P(Ai)>0,B为随机试验 E的一个事件，则
?
?
?
n
i
ii ABPAPBP
1
)|()()(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
例,对飞机进行三次独立的射击，第一次射击的命中率是 0.4
，第二次是 0.5，第三次是 0.7。飞机中一弹坠落的概率为
0.2，中二弹而坠落的概率是 0.6，若中三弹，则必然被击
落。求射击三弹而击落飞机的概率。
解：假设事件
B1－有一弹击中飞机 A1－第一次击中飞机
B2－有二弹击中飞机 A2－第二次击中飞机
B3－有三弹击中飞机 A3－第三次击中飞机
A－飞机被击落
可看出,B1,B2,B3为互不相容事件；而 A1,A2,A3
为相互独立，但相容事件。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
根据题意已知
现在所求的是 P(A)：
即要求 P(B1),P(B2),P(B3)。
1)|(,6.0)|(,2.0)|(
7.0)(,5.0)(,4.0)(
321
321
???
???
BAPBAPBAP
APAPAP
)|()()|()()|()()( 332211 BAPBPBAPBPBAPBPAP ???
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
可以看出
通过分析知,A1,A2,A3为相互独立，但相容事件，而
则是不相容的，有
3213
3213213212
3213213211
AAAB
AAAAAAAAAB
AAAAAAAAAB
?
???
???
321321321,,AAAAAAAAA
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
14.0)(
41.0)(
36.0
7.0*5.0*6.03.0*5.0*6.03.0*5.0*4.0
)()()()()()()()()(
)()()(
)()(
3
2
321321321
321321321
3213213211
?
?
?
???
???
???
???
BP
BP
APAPAPAPAPAPAPAPAP
AAAPAAAPAAAP
AAAAAAAAAPBP
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
458.0
1*14.06.0*41.02.0*36.0
)|()()|()()|()()( 332211
?
???
??? BAPBPBAPBPBAPBPAP
即飞机被击落的概率为 0.458。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第三节 随机信号的描述
1,随机过程的定义
自然界中变化的过程可分为两大类：
确定性过程和随机过程
确定性过程,就是事物的变化过程可以用一个（或几个）
时间 t的确定的函数来描绘 。
随 机 过 程,就是事物变化的过程不能用一个（或几个）
时间 t的确定的函数来加以描述。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
定义 1：设随机试验的样本空间为 S={ei}，对于空间的每
一个样本,总有一个时间函数 X(t,ei)与之对应
对于空间的所有样本,可有一族时间函数
X(t,e)与其对应，这族时间函数称为 随机过程,简记为
X(t)。
定义 2：设有一个过程 X(t)，若对于每一个固定的时刻
tj(j=1,2,… ),X(tj)是一个随机变量，则称 X(t)为 随机过
程 。
Sei ?
)( Tt? Se?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2,随机过程的分类
1) 按照时间和状态是连续还是离散来分类：
? 连续型随机过程
随机过程 X(t)对于任意时刻, X(ti)都是连续型随机变量，即
时间和状态都是连续的情况，称这类随机过程为连续型随机过程。
? 连续随机序列
随机过程 X(t)在任一离散时刻的状态是连续型随机变量，即时间
是离散的，状态是连续的情况，称这类随机过程为连续随机序列。
? 离散随机过程
随机过程 X(t)对于任意时刻, X(ti)都是离散型随机变量，即
时间是连续的，状态是离散的情况。
? 离散随机序列
对应于时间和状态都是离散的情况，即随机数字信号。
2)按照随机过程的分布函数（或概率密度）的不同特性进行分类
按照这种分类法，最重要的就是 平稳随机过程,其次是 马尔可
夫过程 等等。分类
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
3,随机过程的统计特性
1)随机过程的概率分布
? 一维概率分布
对于任意的时刻 t,X(t)是一个随机变量，设 x为任意
实数，定义
为随机过程 X(t)的 一维分布函数 。
若 的一阶偏导数存在，则定义
为随机过程 X(t)的 一维概率密度 。
})({),( xtXPtxF X ??
),( txFX
x
txFtxf X
X ?
?? ),(),(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 二维概率分布和 n维概率分布
对于随机过程 X(t)，在任意两个时刻 t1和 t2可得到两个随机变量
X(t1)和 X(t2)，可构成二维随机变量 {X(t1),X(t2)}，它的二维分布函数
称为随机过程 X(t)的 二维概率分布函数 。
若 对 x1,x2的偏导数存在，则定义
为随机过程 X(t)的 二维概率密度 。
})(,)({
),;,(
2211
2121
xtXxtXP
ttxxF X
??
?
),;,( 2121 ttxxF X
21
2121
2
2121
),;,(),;,(
xx
ttxxFttxxf X
X ??
??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
对于任意的时刻 t1,t2,…,tn,X(t1),X(t2),…,X(tn) 是一组随机变
量，定义这组随机变量的联合分布为随机过程 X(t)的 n维概率分布，
即定义
为随机过程 X(t)的 n维概率分布函数 。
为随机过程 X(t)的 n维概率密度 。
})(,,)(,)({
),,,;,,,(
2211
2121
nn
nnX
xtXxtXxtXP
tttxxxF
???
?
?
??
n
nnX
n
nnX xxx
tttxxxFtttxxxf
???
??
?
????
21
2121
2121
),,,;,,,(),,,;,,,(
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2)随机过程的数字特征
? 数学期望
对于任意的时刻 t,X(t)是一个随机变量，将这个随机变量的数
学期望定义为 随机过程的数学期望,记为 mx(t)，即
? 方差
对于任意的时刻 t,X(t)是一个随机变量，称该随机变量 X(t)的
二阶中心矩为 随机过程的方差,记为 D[X(t)]，即
? ?????? dxtxxftXEtm XX ),()]([)(
?
??
??
??
???
dxtxftmx
tXEtXEtXDt
XX
X
),()]([
) ] }([)({)]([)(
2
22?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 自相关函数和协方差函数
设 X(t1)和 X(t2)是随机过程 X(t)在 t1和 t2二个任意时刻的状态，
fX(x1,x2;t1,t2)是相应的二维概率密度，称它们的二阶联合原点矩为 X(t)
的 自相关函数,简称 相关函数
设 X(t1)和 X(t2)是随机过程 X(t)在 t1和 t2二个任意时刻的状态，称
X(t1)和 X(t2)的二阶联合中心矩为 X(t)的 自协方差函数
21212121
2121
),;,(
)]()([),(
dxdxttxxfxx
tXtXEttR
X
X
? ????? ?????
?
2121212211
221121
),;,()]()][([
)]}()()][()({[),(
dxdxttxxftmxtmx
tmtXtmtXEttC
XXX
XXX
? ????? ???? ???
???
)()(),(),( 212121 tmtmttRttC XXXX ??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 互相关函数和互协方差函数
设有两个随机过程 X(t)和 Y(t)，它们在任意两个时刻 t1和 t2的状态
分别为 X(t1)和 Y(t2)，则随机过程 X(t)和 Y(t)的 互相关函数 定义为
类似地，定义两个随机过程的 互协方差函数 为
dx d yttyxxyf
tYtXEttR
XY
XY
? ????? ?????
?
),;,(
)]()([),(
21
2121
dx dyttyxftmytmx
tmtYtmtXEttC
XYYX
YXXY
? ????? ???? ???
???
),;,()]()][([
)]}()()][()({[),(
2121
221121
)()(),(),( 212121 tmtmttRttC YXXYXY ??
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
第四节 消息、信号、信息及其度量
信息的定义
信息 可理解为消息中包含的有意义的内容。
不同的消息可以包含相同的信息，如，分别用语言
和文字发送的天气预报，所含信息内容相同 。
信息的度量
传输信息的多少用, 信息量, 去衡量。
对接收者来说，事件越不可能发生，信息量就越大。
即信息量反映事件的不确定性
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
由概率论可知，事件的不确定性可以用其出现的概
率来描述。
因此消息中所含的信息量 I与消息出现的概率 P(x)间
的关系式应反映如下规律：
? 消息中所含的信息量 I是出现该消息的概率 P(x)的函数：
I=P(x)
? 消息的出现概率越小，它所含的信息量愈大；反之信息量
愈小，且当 P(x)=1时,I=0。
? 若干个相互独立事件构成的消息，所含的信息量等于各独
立事件信息量的和，即：
I[p(x1)p(x2)p(x3)… ]=I[p(x1)]+I[p(x2)]+I[p(x3)]+…
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
不难看出，若 I与 p(x)间的关系式为：
I= loga1/p(x)=-logap(x) 就可满足上述要求。
信息量的单位的确定取决于上式中对数底 a 的确定：
a值 单 位
2 比特（ bit）
e 奈特（ nit）
10 哈特莱
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
等概率出现的离散消息的度量：
若要传递的离散消息是在 M个独立等概的消息中的
一个，则只需采用一个 M进制的波形来传送。
即传送 M个消息之一者与传送 M进制波形之一完全
等价的。
规定：传送两个等概的二进制波形之一的信息量为 1，
单位为, 比特, 。即：
I =log21/(1/2)= log22=1(bit )
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
只要在接收者看来每一传送波形是独立等概出现的,
则一个波形所传递的信息量为,
I =log21/P (bit)
其中,P---每一波形出现的概率
因 P=1/M，上式又可以写做：
I =log2M (bit)
其中,M---传送的波形数
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
非等概出现的离散消息的度量
符号集：
? 组成离散信息源的 n个符号 xi组成的集合
? 每个符号 xi在消息中是按一定概率 P(xi)独立出现
的，设符号集中各符号出现的概率：
其中
???
?
???
?
??
??
)()()( 21
21
n
n
xpxpxp
xxx
1)(
1
??
?
?i
ixp
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
则 x1,x2,…, xn所包含的信息量分别为 -log2P(x1)、
- log2P(x2),…, -log2P(xn)。
? 于是，每个符号所含信息量的统计平均值，即平
均信息量为
其中称 H (x)为 信息源的熵,其单位为 bit/符号
1 2 1 2 2 2 2( ) ( ) l o g [ ( ) ] ( ) l o g [ ( ) ] ( ) l o g [ ( ) ]nnH x P x P x P x P x P x P x? ? ? ? ? ? ? ? ? ?
1
( ) lo g ( )n ii
i
P x P x
?
?? ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
例 1：设有 A,B,C,D四个消息分别以概率 1/4,1/8、
1/8,1/2传送，假设它们的出现相互独立，试求消
息熵。
例 2：黑白电视机的图象每秒传输 25帧，每帧有 625
行；屏幕的宽度与高度之比为 4,3。设图象的每个
像素的亮度有 10个电平，各像素的亮度相互独立，
且等概出现，求电视图像给观众的平均信息速率。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
连续消息的信息量的度量
连续消息的信息量可用概率密度来描述
连续消息的平均信息量（相对熵）为
式中 f(x)---连续消息出现的概率密度
1 ( ) ( ) l o g ( )eH x f x f x d x
??
???? ?
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
本 章 小 结
本章仅从通信的角度介绍了本课程涉及的一些相
关的预备基础知识，包括：①方波信号频谱及任意信
号功率谱，信号频带的一般定义；②概率论的基本概
念；如样本空间,各态遍历、正态分布函数、均值 (时
间均值和总集均值 ),均方值等； ③随机信号的相关
性；④消息,信号,信息及其度量。
2010年 5月 16日电信学院通信教研室
数 字 通 信 原 理
? 国际莫尔斯电码用点和画的序列发送英文字母，画用持续 3个单位
的电流脉冲表示，点用持续 1个单位的电流脉冲表示，且画出现的概
率是点出现概率的三分之一，试问点和画的信息量分别为多少？
? 下图中哪几个函数不可能是自相关函数，为什么?
思考题
f(t)
to
f(t)
to
f(t)
to
