本书系统论述了信息论与纠错编码的基本概念和理论,包括信息和互信息基本定义,信源熵、信道容量和信息率失真函数三个基本概念,香农三定理,以及相应的信源、信道编码方法。 本书在简明阐述基本概念和编码技术原理的基础上,追求对工程实践的指导,力求使读者在较短的时间内掌握信息论与编码技术的知识和技能。本书配有完整的MATLAB实例代码(可在清华大学出版社网站http://www.tup.com.cn下载)。 本书可作为高等院校信息与通信工程相关专业的专科生、本科生教材或教学参考书,也可供科研院所从事信息科学理论、技术、方法研究的科研和工程技术人员学习参考。

第1章 概论 1.1 信息论的起源 1.2 信息的定义 1.2.1 信息的一般含义 1.2.2 信息的本质 1.3 信息论的基本思路 1.3.1 非决定论观点 1.3.2 形式化假说 1.3.3 不确定性 1.4 通信系统的基本模型 1.5 信息论的研究内容及应用 习题 第2章 信源与信源熵 2.1 离散信源的数学模型与分类 2.1.1 离散单符号无记忆信源 2.1.2 离散序列无记忆信源 2.1.3 离散序列有记忆信源 2.1.4 离散无记忆信源的MATLAB建模 2.2 离散信源的信息熵 2.2.1 自信息 2.2.2 信息熵 2.2.3 联合熵和条件熵 2.2.4 熵的性质 2.2.5 离散信源大熵定理的MATLAB实现 2.3 离散序列信源熵 2.3.1 离散无记忆信源的序列熵 2.3.2 离散有记忆平稳信源的序列熵 2.3.3 离散平稳信源极限熵 2.3.4 马尔可夫信源的熵 2.4 连续信源熵 2.4.1 连续信源的差熵 2.4.2 连续信源的大熵定理 2.5 连续平稳信源和波形信源熵 2.5.1 连续平稳信源N维熵 2.5.2 波形信源的熵率 2.6 冗余度 习题 第3章 信道与信道容量 3.1 互信息 3.1.1 互信息量 3.1.2 平均互信息量与平均条件���信息量 3.1.3 平均互信息的特性 3.1.4 平均互信息凸性的MATLAB分析 3.2 离散信道的数学模型与分类 3.2.1 信道的分类 3.2.2 信道的数学模型 3.3 信道容量及其一般计算方法 3.3.1 特殊离散信道的信道容量 3.3.2 对称离散信道的信道容量 3.3.3 一般离散信道的信道容量 3.3.4 N次离散扩展信道的平均互信息与信道容量 3.3.5 并联信道的平均互信息与信道容量 3.3.6 串联信道的平均互信息与信道容量 3.3.7 对称离散信道的信道容量MATLAB分析 3.3.8 离散无记忆信道的信道容量MATLAB分析 3.4 连续信道和波形信道的信道容量 3.4.1 单符号高斯加性信道 3.4.2 限带高斯白噪声加性波形信道 3.4.3 高斯信道的MATLAB建模 3.4.4 多径衰落信道的MATLAB建模 3.5 信源与信道的匹配 习题 第4章 限失真信源编码 4.1 平均失真和信息率失真函数 4.1.1 失真度与平均失真度 4.1.2 信息率失真函数 4.1.3 信息率失真函数的特性 4.2 离散信源的信息率失真函数 4.2.1 二元信源的信息率失真函数 4.2.2 离散对称信源的信息率失真函数 4.3 连续信源的信息率失真函数 4.4 限失真信源编码定理(香农三定理) 4.5 常见的限失真信源编码方法 4.5.1 向量量化的MATLAB实现 4.5.2 预测编码 4.5.3 变换编码 习题 第5章 无失真信源编码 5.1 编码的基本概念 5.1.1 编码器的定义 5.1.2 即时码的码树构造法 5.1.3 可译码与克拉夫特不等式 5.1.4 码性能评价参数 5.2 无失真信源编码定理 5.2.1 定长编码定理 5.2.2 变长编码定理(香农一定理) 5.2.3 佳变长编码及MATLAB实现 5.3 实用的无失真信源编码方法 5.3.1 游程编码及其MATLAB实现 5.3.2 算术编码及其MATLAB实现 5.3.3 MH编码及其MATLAB实现 5.3.4 无损压缩的JPEG标准 习题 第6章 信道编码 6.1 信道编码的基本概念 6.1.1 差错和差错控制系统分类 6.1.2 信道差错概率与译码规则的关系 6.1.3 信道差错概率与编码方法的关系 6.1.4 编码后的信息传输率变化 6.1.5 信道编码的分类 6.2 线性分组码 6.2.1 线性分组码的编码 6.2.2 线性分组码的译码 6.2.3 完备码 6.2.4 线性分组码的实现与仿真 6.3 循环码 6.3.1 循环码的定义 6.3.2 循环码的多项式描述 6.3.3 循环码的编码 6.3.4 循环码的编码电路 6.3.5 循环码的译码 6.3.6 循环码的仿真实现 6.4 卷积码 6.4.1 卷积码的编码 6.4.2 卷积码的译码 6.4.3 卷积码的仿真实现 6.5 Turbo码 6.5.1 Turbo码的编/译码原理 6.5.2 Turbo码的仿真实现 6.6 LDPC码 6.6.1 LDPC码的编码原理 6.6.2 LDPC码的译码原理 习题 附录A Turbo码编译码实现的一个MATLAB程序实例 附录B 二进制LDPC编码校验矩阵对角化的一个MATLAB程序实例