特殊信道总结
信道名称
信道特征
信息传输情况
全损信道
P(xy)=P(x)P(y)
H(X︱Y)=H(X)
I(X；Y)=0
无损无噪
信道
P(x︱y)=0 or 1
且P(y︱x)=0 or 1
H(X︱Y)= H(Y︱X)=0
I(X；Y)=H(X)=H(Y)
无损信道
P(x︱y)=0 or 1
H(X︱Y)= 0
I(X；Y)=H(X)
无噪信道
P(y︱x)=0 or 1
H(Y︱X)=0
I(X；Y)=H(Y)
定理3-1：对于固定信道，平均互信息I(X;Y)是信源概率分布p(x)的∩型凸函数。
定理3-2：对于固定信源分布，平均互信息I(X;Y)是信道传递概率p(y|x)的∪型凸函数。
定理3-3：设离散信道的输入序列X＝(X1X2…XN)通过信道传输，接收到的随机序列为Y=( Y1Y2…YN)，而信道的转移概率为p(y∣x)。
若信道是无记忆的，则有：
若信源是无记忆的，则有：
若信源与信道都是无记忆的，则有：
例：（信道举例）
例：（对称信道识别）
定义：若一个离散无记忆信道的信道矩阵中每一行都是由同一集合{p1’p2’… ps’}的诸元素不同排列组成，并且每一列也都是由集合{q1’q2’… qr’}的诸元素不同排列组成，则此信道为离散对称信道。
定义：若输入符号和输出符号个数相同，等于r，且信道矩阵为：
则此信道称为强对称信道或均匀信道。
定义：若信道输出集Y可划分成几个子集，而每个子集所对应的信道转移概率矩阵P中的列所组成的子阵具有下列性质：
每一行都是第一行的置换；
每一列都是第一列的置换；
则称该信道为准对称信道。
定理3-4：（平均功率受限下的信源最大熵定理）
若一个信源输入信号的平均功率被限定为P，则当其输出信号幅度的概率密度分布是高斯分布时，信源具有最大熵，为：
对于N维随机序列信源，若N维随机序列的相关矩阵R被限定，则N维随机序列为正态分布时信源熵最大，为：
