本书为“十二五”普通高等教育本科**规划教材。 本书系统介绍和论述了信息的基本概念；信息论的起源、发展及研究内容；香农信息论的三个基本概念：信源熵、信道容量和信息率失真函数，以及与这三个概念相对应的三个编码定理；解决通信系统有效性、可靠性和**性的三类编码：信源编码、信道编码和**编码——密码的基本方法，以及密码**性与信息论的关系等内容。为了便于教学和读者自学，每章后面都附有习题。

第1章 概论 （1）
1.1 信息的概念和分类 （1）
1.1.1 信息的概念 （1）
1.1.2 信息的分类 （4）
1.2 信息论的起源和发展 （4）
1.2.1 信息论创立的理论基础和
技术条件 （4）
1.2.2 信息论的诞生和发展现状 （5）
1.2.3 信息论的未来发展趋势 （6）
1.3 信息论的研究内容 （7）
1.3.1 通信系统模型 （7）
1.3.2 信息论研究内容 （7）
思考题 （8）
第2章 离散信源熵 （9）
2.1 基本概念 （9）
2.2 离散信源熵的基本概念和性质 （9）
2.2.1 单符号离散信源的数学模型 （10）
2.2.2 自信息量及其性质 （10）
2.2.3 信源熵及其性质 （13）
2.3 多符号离散平稳信源熵 （19）
2.3.1 多符号离散平稳信源的
数学模型 （19）
2.3.2 离散平稳无记忆信源熵 （20）
2.3.3 离散平稳有记忆信源熵 （22）
2.3.4 马尔可夫信源的极限熵 （25）
2.3.5 冗余度、自然语信源及
信息变差 （29）
习题 （31）
第3章 无失真离散信源编码 （33）
3.1 基本概念 （33）
3.2 离散无失真信源编码定理 （33）
3.2.1 定长编码定理 （34）
3.2.2 变长编码定理 （35）
3.2.3 码字**可译条件 （36）
3.3 香农编码 （38）
3.4 费诺编码 （39）
3.5 赫夫曼编码 （40）
3.6 游程组合编码 （44）
习题 （47）
第4章 离散信道容量 （49）
4.1 互信息量和平均互信息量 （49）
4.1.1 单符号离散信道的数学模型 （49）
4.1.2 互信息量及其性质 （49）
4.1.3 平均互信息量及其性质 （52）
4.1.4 各种熵之间的关系 （62）
4.2 单符号离散信道的信道容量 （63）
4.2.1 单符号离散信道容量定义 （63）
4.2.2 几种特殊离散信道的信道容量 （64）
4.2.3 离散信道容量的一般计算方法 （69）
4.3 多符号离散信道的信道容量 （71）
4.3.1 多符号离散信道的数学模型 （71）
4.3.2 多符号离散信道容量定义 （72）
4.3.3 离散无记忆扩展信道的信道
容量 （73）
4.3.4 独立并联信道的信道容量 （75）
4.4 网络信息论 （76）
4.4.1 多址接入信道的信道容量 （77）
4.4.2 广播信道的信道容量 （79）
4.4.3 相关信源的边信息和公信息 （80）
习题 （82）
第5章 纠错编码 （85）
5.1 纠错编码的基本概念 （85）
5.1.1 差错控制系统模型及分类 （85）
5.1.2 纠错编码分类 （86）
5.1.3 译码准则 （87）
5.1.4 信道编码定理 （88）
5.2 线性分组码 （88）
5.2.1 线性分组码的基本概念 （88）
5.2.2 线性分组码的编码 （88）
5.2.3 线性分组码的译码 （89）
5.2.4 典型码例 （92）
5.3 循环码 （95）
5.3.1 循环码的基本概念 （95）
5.3.2 循环码的描述 （96）
5.3.3 循环码的伴随多项式与检错 （101）
5.3.4 BCH码与RS码 （102）
5.4 卷积码 （104）
5.4.1 卷积码的矩阵描述 （104）
5.4.2 卷积码的多项式描述 （107）
5.4.3 卷积码的状态转移图与
栅格描述 （109）
5.4.4 维特比(Viterbi)译码算法 （112）
习题 （117）
第6章 连续信源熵和信道容量 （121）
6.1 连续信源熵 （121）
6.1.1 连续信源熵的定义 （121）
6.1.2 几种特殊连续信源的信源熵 （123）
6.1.3 连续信源熵的性质和定理 （125）
6.2 熵功率 （129）
6.3 连续信道的信道容量 （131）
6.3.1 连续信道的数学模型及信道
容量定义 （131）
6.3.2 加性连续信道容量计算和
香农公式 （131）
习题 （133）
第7章 信息率失真函数 （135）
7.1 基本概念 （135）
7.1.1 失真函数与平均失真度 （136）
7.1.2 信息率失真函数的定义 （139）
7.1.3 信息率失真函数的性质 （140）
7.2 离散信源信息率失真函数 （143）
7.2.1 离散信源信息率失真函数的
参量表达式 （144）
7.2.2 二元及等概率离散信源的信息率
失真函数 （146）
7.3 连续信源信息率失真函数 （150）
7.3.1 连续信源信息率失真函数的
参量表达式 （150）
7.3.2 高斯信源的信息率失真函数 （151）







7.4 信息价值 （154）
7.5 信道容量与信息率失真
函数的比较 （157）
习题 （157）
第8章 限失真信源编码 （159）
8.1 基本概念 （159）
8.2 保真度准则下的信源编码定理 （159）
8.3 量化编码 （160）
8.3.1 *佳标量量化编码 （160）
8.3.2 矢量量化编码 （164）
8.4 相关信源编码 （167）
8.4.1 预测编码 （167）
8.4.2 差值编码 （169）
8.5 变换编码 （172）
8.5.1 子带编码 （172）
8.5.2 小波变换 （173）
习题 （175）
第9章 密码**性的信息论测度
方法 （177）
9.1 基本知识 （177）
9.1.1 保密通信系统模型 （177）
9.1.2 密码基本概念 （178）
9.2 密码算法的**性测度 （178）
9.2.1 完善保密性 （179）
9.2.2 **解距离 （180）
9.3 古典代替密码的**性分析 （180）
9.3.1 加法密码的**性分析 （181）
9.3.2 乘法密码的**性分析 （183）
9.3.3 仿射密码的**性分析 （185）
9.4 边信息泄露的互信息分析 （186）
9.4.1 数据加密标准简介 （186）
9.4.2 DES算法的边信道**性分析 （188）
习题 （191）
参考文献