第1页，共15页，星期日，2025年，2月5日设离散信源的符号集合X＝{a1，a2，…，aN}，且各个符号都在信道上传输；信宿收到的符号集合Y＝{b1，b2，…，bN}若X和Y消息符号集合相同，即X＝Y＝{a1，a2，…，aN}当信源发出符号X＝ai，而信宿收到符号Y＝aj时，失真函数d(xi,yj)为：d(xi,yj)＝d(x,y)|x＝ai,y＝aj简化起见，d(xi,yj)简写成diji＝j时，x和y的消息符号都是ai，收发之间没有失真，dij＝0i≠j时，发出符号ai，收到aj，传输时出现失真，dij0一般dij值的大小表示失真的程度，表征了接收消息yj与发送消息xi之间的定量失真度dij＝0i＝j0i≠j第2页，共15页，星期日，2025年，2月5日若X和Y集合都由N个不同符号构成的，那么可组成N2个不同的(i,j)对，相对应的失真函数也有N2个dij表示方法有两种，一是失真矩阵D，二是消息传输图例：已知X＝Y＝{a1，a2}，且有d11＝d22＝0，d12＝d21＝1，用两种方法表示失真函数解：失真矩阵D为：消息传输图为：第3页，共15页，星期日，2025年，2月5日为了估计全体信源发出的消息符号与接收符号之间的失真程度,需要计算各个失真函数的统计平均值(数学期望)。平均失真函数定义为：若X和Y都是n维矢量消息的集合，也可以定义两个矢量消息之
间的失真函数为：其平均失真函数为：该式中是n维矢量的第r个分量上的平均失真函数第4页，共15页，星期日，2025年，2月5日二.信息率失真函数当给定信源的各符号概率分布时，若要求平均失真函数不超过某个给定的值D(即D为允许失真度)，这就需要对假想的试验信道的传输概率P(yj|xi)施加一定的限制先把{P(yj|xi)}集合的各种可能值代入式求出各个，再根据，把{P(yj|xi)}分成两类的一类用PD表示，PD是能使实际失真在允许失真度范围内的那些假想试验信道的{P(yj|xi)}的一类称为禁用集合第5页，共15页，星期日，2025年，2月5日例：设信源具有一百个以等概率出现的符号a1，a2，…，a99，a100，并以每秒发出一个符号的速率从信源输出。试求在允许失真度D＝0.1条件下，传输这些消息所需要的最小信息率解：在不失真传输条件下的信息率R为：因为允许失真度D＝0.1，可设想信源100个符号经过假想的试验信道只输出a1，a2，…，a89，a90，即输出90个符号，而余下的a91，…，a100都用a90代替失真矩阵D为：bit/s第6页，共15页，星期日，2025年，2月5日除a1，a2，…，a89，a90对应位置上的元素为0外，其余元素为1或∞，假想试验信道传输概率P(yj|xi)为零时，所对应的dij为无限大这个失真信源的组合方案的平均失真函数为：第7页，共15页，星期日，2025年，2月5日上式中X1＝Y1＝{a1，a2，…，a89，a90}，属于不失真的符号集合，对应dij＝0，其中i,j＝1，2，…，90X2＝{a91，…，a100}，Y2＝{a90}，属于失真集合，对应dij＝1，其中i＝91，92，…，100，j＝90据题意，P(xi)＝1/100，i＝1，2，…，100所以，有：可见，这样设想的失真信源的组合方案能满足对失真度的要求在试验信道的输出端，a1，a2，…，a89的出现概率仍为1/100,而a90的出现概率P(a90)＝11/100第8页，共15页，星期日，2025年，2月5日所以，相应的信息率为：比较R与R’,可知在D＝0.1的条件下，信息率可减小，减小了6.644－6.264＝0.38bit/s同理，在D＝0.5的条件下(假定50个符号产生失真)信息率R”为：信息率可减小6.644－3.751＝2.893bit/sbit/sbit/s第9页，共15页，星期日，2025年，2月5日信息率失真函数R(D)定义为：在给定信源消息的概率分布{P(xi)}及平均失真函数允许值D的条件下，传输这些信源消息，并使失真程度在允许范围内时，所需要的信息率的最小值，其定义式为：R(D)又