武汉理工大学
数字通信试验汇报
班级：信息154
姓名：冯超
学号：0
教师：吕锋
曰期：.03.26
试验一
试验项目
基于MATLAB的离散无记忆高斯信源的失真-率函数曲线仿真；
试验目的
(1)、理解信息率失真函数的定义与物理意义；
(2)、分析离散信源在误码失真下的信息率失真函数体現式；
(3)、提高综合运用所学理论知识独立分析和处理问題的能力；
(4)、使用有关软件进行曲线的绘制。
试验内容与理论根据
试验内容：
分析离散信源在误码失真下的信息率失真函数体現式，并绘制曲线图。
理论根据：
信息率失真函数的定义研究在限定失真下為了恢复信源符号所必需的信息率，简称率失真理论。信源发出的符号传到信宿后，一般不能完全保持原样，而会产生失真。要防止这种失真几乎是不也許，并且也无必要，由于信宿不管是人还是机器，敏捷度总是有限的，不也許察觉无穷微小的失真。倘若在处理信源符号時容許一定程度的失真，可减小所必需的信息率，有助于传播和存储。率失真理论就是用以计算不一样类型的信源在多种失真程度下所需的最小信息率。因此，这一理论是現代所有信息处理问題的理论基础。
香农首先定义了信息率失真函数R(D)，并论述了有关这个函数的基本定理。定理指出：在容許一定失真度D的状况下，信源输出的信息传播率可压缩到R(D)值，这就从理论上給出了信息传播率与容許失真之间的关系，奠定了信息率失真理论的基础。信息率失真理论是进行量化、数模转换、频带压缩和数据压缩的理论基础。
离散信源：信源是信息的来源，是产生消息、時间离散的消息序列以及時间持续的消息的来源。信源输出的消息都是随机的，因此可以用概率来描述其记录特性。信源在数学上可以用随机变量、随机序列和随机过程来表达。信息是抽象的，信源则是详细的。离散平稳无记忆信源输出的符号序列是平稳随机序列，并且符号之间是无关的，既是记录独立的。同步，由于是平稳信源，每个随机变量的记录特性都相似。
信息率失真函数R(D)对給定的一种信源随机变量，服从概率分布，為失真测度，定义信息率失真函数為：
其中為与其复制的互信息，min是对所有满足如下性质的条件概率取值。在給定的信源概率分布及条件概率的乘积所得的联合分布下的平均失真
在讨论信息率失真函数時，考虑到信源与信宿之间有一种无失真信道，称它為试验信道，对离散信源可记為，对限失真信源这一试验信道集合可定义為：
根据前面在互信息中已讨论过的性质：
且互信息是的上凸函数，其极限值存在且為信道容量：
这里，我們給出其对偶定义：
既互信息是的下凸函数。其极限值存在且為信息率失真函数。
它还存在下列等效定义[1]：
对給定的一种失真度D，率失真函数R（D）定义為：
对給定的一种码率R，率失真函数D（R）定义為：
直观地結实，率失真函数R（D）是在信源序列与复制序列的失真不超过D的条件下最小也許的码率（或信源最大也許的压缩率）。相对偶地，失真率函数D（R）是給定码率（压缩率）R条件所能到达的最小失真。至此，我們已給定R(D)函数一种初步描述，如图1。
图1R(D)函数描述
由定义，R(D)函数是在限定失真為最大容許失真為D時信源最小信息速率，它是通过变化试验信道特性（实际上是信源编码）来到达的。因此R(D)是表达不一样D值時对应的理论上最小信息速率值。然而对于不一样的实际信源，存在着不一样类型的信源编码，既不一样的试验信道特性并可以求解出不一样的信息率失真R(D)函数，它与理论上最佳的R(D)之间存在着差异，它反应了不一样方式信源编码性能的优劣，这也正是R(D)函数的理论价值所在。尤其对于持续信源，无失真是毫无意义的，这時R(D)函数具有更大的价值。
信息率失真函数的迭代计算
首先需要指出的是，到达率失真函数的条件概率及输出字母概率分布都不一定是唯一的。
详细迭代算法可以按如下环节进行[9]：
(1)先假定一种负数作為，选定初始转移概率构成阶初始矩阵。
(2)把选定的初始转移概率代入体現式中，得到对应的，然后用代入体現式中，得到对应的。
(3)再用代入体現式中，得到对应的，然后用代入体現式中，得到对应的。
(4)以此推类进行下去，直到与
相称靠近，其差异已在容許的精度范围之内，以及与
相称靠近，其差异也在容許的精度范围之内，则或就是这个值所对应的信息率失真函数的近似值。
(5)再选定一种略大某些的负数作為值，反复以上的迭代计算过程，得到值的信息率失真函数的近似值。
(6)这种过程一直到信息率失真函数迫近于零為止，伴随的选定