本书**介绍信息论与编码的基础内容,全书共9章,主要内容包括:信息及信息的度量、离散信源及信源熵、离散信道及信道容量、信源编码定理和信道编码定理、平均失真测度和信息率失真函数、率失真编码定理、线性分组码、循环码和卷积码等,对一些较难理解的概念,辅有较多例题,并配套免费电子课件、习题解答等。 信息论与编码_孙丽华,陈荣伶 编_电子工业出版社_

目 录
第1章 信息论基础 (1)
1.1 信息的概念 (2)
1.2 数字通信系统 (4)
1.3 信源及其数学模型 (6)
1.3.1 离散无记忆信源 (6)
1.3.2 离散有记忆信源 (8)
1.3.3 波形信源 (9)
1.4 信道及其数学模型 (10)
1.4.1 离散无记忆单符号信道 (10)
1.4.2 离散无记忆扩展信道 (12)
本章小结 (13)
思考题与习题 (14)
第2章 信息的度量 (15)
2.1 自信息量和互信息量 (16)
2.1.1 自信息量和条件自信息量 (17)
2.1.2 互信息量和条件互信息量 (19)
2.2 离散集的平均自信息量 (24)
2.2.1 信息熵 (24)
2.2.2 熵函数的性质 (27)
2.3 离散集的平均互信息量 (32)
2.3.1 平均互信息量 (32)
2.3.2 平均互信息量的性质 (35)
2.3.3 有关平均互信息量的两条定理 (37)
2.4 N维扩展信源的熵和平均
互信息量 (41)
2.4.1 N维扩展信源的熵 (41)
2.4.2 N维扩展信源的平均互信息量 (42)
2.4.3 有关N维平均互信息量的两条定理 (43)
本章小结 (45)
思考题与习题 (45)
第3章 离散信源无失真编码 (49)
3.1 概述 (50)
3.1.1 码的分类 (51)
3.1.2 平均码长的计算 (54)
3.1.3 信息传输速率 (55)
3.2 等长码及等长编码定理 (57)
3.3 变长码及变长编码定理 (60)
3.3.1 变长码 (60)
3.3.2 克拉夫特不等式 (60)
3.3.3 变长编码定理 (63)
3.4 变长码的编码方法 (67)
3.4.1 香农编码法 (67)
3.4.2 费诺编码法 (69)
3.4.3 霍夫曼编码法 (70)
本章小结 (74)
思考题与习题 (75)
第4章 离散信道的信道容量 (79)
4.1 信道容量的定义 (80)
4.2 离散无记忆信道容量的计算 (80)
4.2.1 达到信道容量的充要条件 (81)
4.2.2 几类特殊的信道 (85)
4.3 组合信道的容量 (92)
4.3.1 独立并行信道 (92)
4.3.2 和信道 (93)
4.3.3 串行信道 (94)
本章小结 (96)
思考题与习题 (97)
第5章 有噪信道编码 (99)
5.1 信道编码的基本概念 (100)
5.2 译码规则及错误概率 (103)
5.3 信道编码定理 (106)
5.4 费诺引理及信道编码逆定理 (109)
5.4.1 费诺不等式 (110)
5.4.2 信道编码逆定理 (111)
本章小结 (112)
思考题与习题 (113)
第6章 率失真编码 (116)
6.1 失真测度与平均失真 (117)
6.2 信息率失真函数R(D) (120)
6.2.1 率失真函数的定义 (120)
6.2.2 率失真函数的值域、定义域 (121)
6.2.3 率失真函数的性质 (122)
6.3 率失真函数的计算 (125)
6.3.1 两种特殊情况下的求解 (125)
6.3.2 R(D)的参数表示法 (129)
6.4 率失真信源编码定理 (133)
本章小结 (133)
思考题与习题 (134)
第7章 线性分组码 (137)
7.1 纠错码的基本概念 (138)
7.1.1 信道纠错编码 (138)
7.1.2 差错类型 (138)
7.1.3 差错控制系统模型及分类 (139)
7.1.4 纠错码的分类 (140)
7.2 群与群陪集分解 (141)
7.2.1 群的概念 (141)
7.2.2 子群 (142)
7.2.3 群的陪集分解 (143)
7.3 线性分组码的编码 (143)
7.3.1 生成矩阵、校验矩阵 (143)
7.3.2 系统码 (147)
7.3.3 对偶码 (149)
7.3.4 编码的实现 (150)
7.4 线性码的纠检错能力 (151)
7.4.1 码的距离和重量 (151)
7.4.2 线性码的纠错、检错能力 (152)
7.5 标准阵列和译码 (155)
7.5.1 标准阵列 (155)
7.5.2 陪集分解 (156)
7.5.3 译码 (159)
7.6 汉明码 (160)
7.6.1 汉明码的构造 (160)
7.6.2 汉明限与完备码 (161)
本章小结 (162)
思考题与习题 (163)
第8章 循环码 (166)
8.1 有限域及其结构 (167)
8.1.1 域的定义 (167)
8.1.2 有限域的本原元 (170)
8.1.3 有限域的结构 (171)
8.1.4 *小多项式的共轭根组 (173)
8.2 循环码的一般概念 (176)
8.2.1 循环码的定义 (176)
8.2.2 循环码的多项式描述 (177)
8.3 循环码的生成多项式和生成矩阵 (177)
8.3.1 生成多项式 (177)
8.3.2 生成矩阵 (180)
8.4 循环码的校验多项式和校验矩阵 (181)
8.5 循环码的编码 (184)
8.5.1 利用g(x)实现编码 (184)
8.5.2 利用h(x)实现编码 (186)
8.6 循环码的译码 (188)
8.6.1 伴随式计算 (188)
8.6.2 循环码的纠错译码 (190)
8.6.3 Meggit译码器 (192)
8.7 一些重要的循环码 (194)
8.7.1 循环Hamming码 (194)
8.7.2 BCH码 (195)
本章小结 (198)
思考题与习题 (198)
第9章 卷积码 (200)
9.1 卷积码基本概念 (201)
9.2 卷积码的数学描述 (202)
9.2.1 卷积码的矩阵描述 (202)
9.2.2 卷积码的多项式描述 (204)
9.3 卷积码的图形表示方法 (206)
9.3.1 状态图 (206)
9.3.2 树图 (206)
9.3.3 网格图 (208)
9.4 Viterbi译码 (208)
9.4.1 Viterbi译码步骤 (209)
9.4.2 Viterbi译码 (209)
本章小结 (210)
思考题与习题 (211)
附录A GF(2m)中元素的*小多项式和本原多项式(1附录B 熵函数计算用简明对数表 (213)
参考文献 (214)

《信息论与编码(电子信息科学与工程类专业规划教材普通高等教育十二五规划教材)》由孙丽华、陈荣伶编著,本书的内容分为两部分:一部分为信息论基础,以香农信息论为基础,论述近代信息理论的基本概念和主要结论;另一部分为编码部分,介绍几种常用的信道编码方法。第1章为“信息论基础”,介绍信息论的基本概念,*新发展,以及本书的研究对象——各种信源和信道。第2~6章为信息论部分,介绍信息的度量,内容主要围绕香农三大定理展开,研究在不允许失真的情况下信息传输率的极限值,以及给定信源且允许一定失真的条件下信息速率的极限值,并研究在误码率小于给定值的条件下如何*有效地利用信道的传输能力。第7~9章为编码部分,编码是后人沿着香农指明的可行方向,为寻求有效而可靠的编译码方法而发展起来的一门学科,主要研究在有噪信道条件下各种可行的编码方案及实施技术。