信息理论与编码基础【2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载】

信息理论与编码基础PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 绪论1

1.1通信系统的基本单元1

1.2信息科学的有关概念2

1.2.1信息的特征2

1.2.2信息理论要解决的基本问题3

1.2.3信息论的创始人4

1.2.4信息科学的定义及迅速发展的背景4

1.2.5信息理论的研究内容4

1.3香农信息论梗概5

思考题6

第2章 信息的度量7

2.1度量信息的基本思路7

2.1.1单符号离散信源7

2.1.2自信息量7

2.2信源熵和条件熵9

2.2.1信源熵9

2.2.2条件自信息量10

2.2.3条件熵11

2.3互信息量和平均互信息量11

2.3.1互信息量11

2.3.2互信息量的性质12

2.3.3条件互信息量13

2.3.4平均互信息量14

2.3.5平均互信息量的性质14

2.3.6平均互信息量的物理意义16

2.4多维随机变量的熵18

2.4.1熵的链接准则18

2.4.2信息链接准则18

2.4.3熵的界19

2.4.4数据处理不等式19

本章小结20

思考题21

习题21

第3章 离散信源及其信源编码23

3.1信源分类23

3.1.1信源分类方法23

3.1.2自然语信源24

3.1.3马尔可夫信源26

3.2离散信源的熵28

3.2.1发出单符号消息离散无记忆信源的熵28

3.2.2发出符号序列消息离散无记忆信源的熵29

3.2.3发出符号序列消息的离散有记忆信源的熵30

3.2.4发出符号序列消息的马尔可夫信源的熵32

3.2.5各种离散信源的时间熵32

3.3信源的冗余度34

3.3.1最大信源熵35

3.3.2信源的冗余度35

3.4信源编码及其描述37

3.4.1信源编码模型37

3.4.2编码效率38

3.5单义可译定理41

3.5.1单义可译码41

3.5.2即时码的构造42

3.5.3单义可译定理42

3.5.4平均码长界定定理44

3.6香农第一定理46

3.6.1无失真信源编码46

3.6.2等长码的信源编码48

3.7信源编码实例49

3.7.1费诺编码方法49

3.7.2霍夫曼编码方法51

3.7.3 Lempel-Ziv编码53

本章小结56

思考题56

习题56

第4章 离散信道及其信道编码60

4.1信道的分类60

4.2离散信道的传输特性61

4.2.1无扰离散信道的传输特性61

4.2.2有扰离散信道的传输特性62

4.2.3几种特殊的有扰离散信道64

4.2.4消息在有扰离散信道上的信息传输速率66

4.2.5有扰离散信道的信道容量66

4.3译码准则72

4.3.1常用的译码准则73

4.3.2关于译码准则的讨论75

4.4香农第二定理76

4.4.1信道编码与平均错误译码概率76

4.4.2汉明距离与编码原则77

4.4.3有扰离散信道的信道编码定理78

本章小结79

思考题80

习题80

第5章 连续消息和连续信道83

5.1连续消息的信息度量83

5.1.1基本思路83

5.1.2几种连续信源的相对熵85

5.1.3条件熵89

5.1.4平均互信息量90

5.1.5连续消息熵的性质92

5.1.6最大相对熵定理92

5.1.7熵功率和熵功率不等式95

5.2连续消息在信道上的传输问题97

5.3香农信道容量公式98

5.3.1高斯信道的信道容量98

5.3.2带限信道的信道容量99

5.3.3香农公式的含义100

本章小结101

思考题101

习题102

第6章 限失真信源编码104

6.1失真函数和平均失真度104

6.1.1失真函数104

6.1.2平均失真度107

6.2信息率失真函数109

6.2.1保真度准则109

6.2.2失真许可的试验信道110

6.2.3信息率失真函数及其性质110

6.2.4几种典型信源的信息率失真函数113

6.3保真度准则下的信源编码定理116

本章小结117

思考题118

习题118

第7章 差错控制的基本概念120

7.1差错控制系统的分类120

7.1.1自动请求重传系统120

7.1.2前向纠错系统122

7.1.3信息重复查询系统和混合纠错系统123

7.2纠错编码的分类及其性能评价124

7.2.1纠错编码的分类124

7.2.2纠错码的基本概念125

7.2.3纠错编码方法的性能评价128

本章小结130

思考题130

习题131

第8章 线性分组码132

8.1有关概念132

8.1.1线性分组码的定义及其性质132

8.2线性分组码的编码和译码135

8.2.1线性分组码的编码135

8.2.2线性分组码译码136

8.2.3线性分组码举例141

8.3循环码的描述141

8.3.1循环码的定义142

8.3.2循环码的性质143

8.3.3生成矩阵和一致校验矩阵147

8.4循环码的编码和译码148

8.4.1循环码的编码148

8.4.2循环码的译码150

8.4.3循环码的检错能力152

8.4.4循环码的缩短与扩展153

8.5二元BCH码154

8.5.1 BCH码的描述154

8.5.2 BCH码的编码和译码157

8.6多元BCH码和R-S码159

8.7纠突发错误码160

8.7.1纠突发错误码的定义及基本性质160

8.7.2交织码161

本章小结163

思考题164

习题165

第9章 卷积码168

9.1卷积码的编码及其描述168

9.1.1卷积码的编码168

9.1.2卷积码的描述170

9.2卷积码的最大似然译码178

9.2.1 Viterbi译码178

9.2.2序列译码180

9.3卷积码的性能评估186

9.3.1译码的错误扩展及恶性卷积码186

9.3.2卷积码的自由距离187

本章小结189

思考题189

习题189

第10章 信道编码新进展简介192

10.1 Turbo码192

10.1.1 Turbo码的编码及其性能192

10.1.2 Turbo码的译码简介194

10.2空时分组码195

10.2.1正交空时分组码195

10.2.2正交空时分组码的译码197

10.2.3准正交空时分组码197

10.2.4准正交空时分组码的译码198

10.3低密度奇偶校验码199

10.3.1低密度奇偶校验码的定义199

10.3.2低密度奇偶校验码的译码200

10.4网络编码与协作205

10.4.1网络编码205

10.4.2网络编码协作207

本章小结208

思考题208

习题209

参考文献210

索引213