由此得特别注意时等号成立。条件下，相当于要求即要求两个分信道的输入彼此独立。这样对于积信道的最佳利用是将两个信道独立地使用，并使每个分信道的输入分布为最佳，就能保证到达信道容量。第30页，共43页，星期日，2025年，2月5日推论（N个独立信道构成的并行信道）设每个分信道的输入空间、输出空间和转移概率分布相应为Xn，Yn和Pn，则合成的积信道的输入、输出空间及转移概率分布和容量分别为和【例】DMC的N次扩展信道积信道第31页，共43页，星期日，2025年，2月5日第1页，共43页，星期日，2025年，2月5日信道容量信道容量离散无记忆Review第2页，共43页，星期日，2025年，2月5日达到C充要条件输入概率矢量达到转移概率为的DMC的容量C的充要条件为其中，Review第3页，共43页，星期日，2025年，2月5日定理3对于准对称DMC信道（1）达到信道容量的最佳输入分布为等概分布；（2）信道容量为准对称信道的容量最佳输入分布为等概分布Review第4页，共43页，星期日，2025年，2月5日准对称DMC信道准对称信道容量计算公式对称DMC信道第5页，共43页，星期日，2025年，2月5日例KSC信道其中0p1。称p为错误概率。特别当K=2时，记为BSC例KSC信道容量第6页，共43页，星期日，2025年，2月5日对称信道最佳输入分布为等概分布当输入等概时，输出分布也为等概信道容量例KSC信道容量第7页，共43页，星期日，2025年，2月5日例二元删除信道容量例：二元删除信道输入事件集为{0,1}；输出事件集为{0,2,1}；转移概率矩阵为当q=0时，简化为BSC。当p=0时，简化为纯删除信道。达到信道容量时的最佳输入分布为等概分布。信道容量是转移概率矩阵任何一行所对应的半平均互信息量。第8页，共43页，星期日，2025年，2月5日它为准对称信道，达到C的分布为等概分布，即解：BSC(q=0)C=1-H(p)纯删除信道(p=0)C=1-q例二元删除信道容量第9页，共43页，星期日，2025年，2月5日DMC的输入为X，X的所有事件为{0,1,…,K-1}；DMC的噪声为Z，Z的所有事件为{0,1,…,K-1}；DMC的输出为Y，Y的所有事件为{0,1,…,K-1}；X与Z相互独立；Y=X+Z(modK)。例模K加性噪声信道求信道容量C第10页，共43页，星期日，2025年，2月5日若记P(Z=z)=sz，则转移概率矩阵为例模K加性信道容量显然，模K加性噪声信道是对称DMC，则信道容量为p(y|x)=P(Y=y|X=x)=P(X+Z(modK)=y|X=x)=P(x+Z(modK)=y|X=x)=P(Z=y-x(modK)|X=x)=P(Z=y-x(modK))。第11页，共43页，星期日，2025年，2月5日假定所有输入字母的概率，则由可得即可逆矩阵信道容量第12页，共43页，星期日，2025年，2月5日令，得可以看成是有J个未知数的线性方程组。由假设P是非奇异矩阵，故必有唯一解。令是其解，由上假设又，可得可逆矩阵信道容量第13页，共43页，星期日，2025年，2月5日对上面得到的解进行验证。特别注意可逆矩阵信道容量计算wj计算Qk求解方程组验证若即所得到的解是正确的否则满足条件的最大值在边界上，于是令某个为0，再次进行试解。第14页，共43页，星期日，2025年，2月5日可逆矩阵信道容量列方程组计算信道容量验证第15页，共43页，星期日，2025年，2月5日对上面得到的解进行验证。特别注意可逆矩阵信道容量计算wj计算Qk求解方程组验证若即所得到的解是正确的否则满足条件的最大值在边界上，于是令某个为0，再次进行试解。多解有时要令多个为0，进行试解特别第16页，共43页，星期日，2025年，2月5日例题DMC信道的转移概率矩阵为求其信道容量C。非奇异矩阵第17页，共43页，星期日，2025年，2月5日例题根据列方程组得从而第18页，共