信息论与编码理论【2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载】

信息论与编码理论PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

目录1

第1章 引论1

1.1 通信系统模型1

1.2 Shannon信息论的中心问题4

1.3 Shannon信息论的局限性5

1.4 信息的广义性7

第2章 信息量和熵9

2.1 离散变量的非平均信息量9

2.1.1 非平均互信息10

2.1.2 条件互信息与联合事件的互信息14

2.1.3 离散变量的非平均自信息量16

2.2 离散集的平均自信息量——熵18

2.2.1 熵和条件熵18

2.2.2 熵的性质21

2.3 熵的唯一性定理25

2.4 离散集的平均互信息量28

2.5 连续随机变量的互信息和微分熵32

2.5.1 连续随机变量的互信息32

2.5.2 连续随机变量的熵34

2.5.3 微分熵的极大化37

2.6 凸函数与互信息的凸性39

2.6.1 凸函数概念及其性质39

2.6.2 信息的凸性43

2.7 随机过程的信息量和熵45

小结48

习题48

第3章 信源编码——离散信源无失真编码53

3.1 信源及其分类53

3.2 离散无记忆信源的等长编码55

3.3 离散无记忆信源的不等长编码62

3.4 最佳不等长编码69

3.4.1 Huffman编码69

3.4.2 算术编码73

3.4.3 LZ编码76

3.5 平稳源编码79

3.6 马尔可夫源87

小结96

习题97

4.1 信道分类102

第4章 信道及其容量102

4 2 离散无记忆信道103

4.2.1 有关DMC的容量定理104

4.2.2 对称DMC容量的计算107

4.2.3 一般DMC容量的计算112

4.3 离散无记忆信道容量的迭代算法113

4.4 离散有记忆信道117

4.5 信道的组合121

4.6 时间离散的无记忆连续信道125

4.6.1 可加噪声信道126

4.6.2 平均功率受限可加噪声信道127

4.6.3 平行可加高斯噪声信道129

4.7 波形信道131

小结134

习题135

第5章 信道编码定理139

5.1 信道编码和译码139

5.1.1 信道编码139

5.1.2 译码准则140

5.1.3 离散序列的译码141

5.1.4 连续序列的译码143

5.2 Fano不等式和信道编码逆定理146

5.3 联合典型序列及信道编码定理149

5.4 错误概率上限153

5.4.1 并集限153

5.4.2 Bhattacharyya（巴塔恰亚）限154

5.4.3 Gallager（加拉格）限155

5.4.4 随机码集合平均错误概率上限156

5.4.5 DMC的译码错误概率上限158

5.4.6 时间离散连续信道错误概率上限160

5.5 等能量正交编码信号162

小结165

习题167

第6章 线性分组码171

6.1 Galois域171

6.1.1 域运算171

6.1.2 GF（pm）的构造172

6.1.3 有限域的特征和元素的级175

6.2 线性分组码176

6.1.4 最小多项式176

6.3.1 生成矩阵177

6.3 线性分组码的生成矩阵和校验矩阵177

6.3.2 校验矩阵179

6.3.3 码的扩展和缩短180

6.4 一些特殊的线性分组码181

6.4.1 Hamming（汉明）码181

6.4.2 Hadamard码181

6.4 3 Golay码182

6.5.1 分组码的标准阵译码183

6.5 伴随式和最小汉明距离译码183

6.5.2 最小距离与纠错能力186

6.6 循环码188

6.6.1 循环码的数学描述188

6.6.2 循环码的译码194

6.7 BCH码197

6.7.1 BCH码的定义和性质197

6.7.2 BCH码的译码198

6.8 Reed-Solomon码202

6.9 分组码的性能限203

6.10 线性分组码的性能限207

小结208

习题209

第7章 卷积码212

7.1 卷积码的基本概念212

7.2 Viterbi译码229

7.3 序列译码241

7.4 卷积码集合平均错误概率限247

7.5 级联码253

小结256

习题256

第8章 接近Shannon极限的编码258

8.1 Turbo码的构造258

8.1.1 递归系统卷积码（RSC）260

8.1.2 Turbo码的距离谱260

8.1.3 Turbo码交织器的设计263

8.2 Turbo码的译码265

8.2.2 MAP译码算法267

8.2.1 APP译码器267

8.2.3 SOVA译码算法274

8.2.4 Turbo码的迭代译码特性276

8.3 Turbo码的性能限279

8.4 低密度校验码的定义281

8.4.1 LDPC码的定义281

8.4.2 LDPC码的Tanner图表示281

8.4.3 LDPC码的构造283

8.5.1 硬判决译码284

8.5 低密度校验码的译码284

8.5.2 最佳APP译码285

8.5.3 LDPC译码的和积算法289

8.5.4 对数域和积算法291

8.5.5 最小和算法293

8.6 低密度校验码的性能294

小结297

习题298

第9章 信源编码——无记忆信源的有失真编码300

9.1 一般概念与定义300

9.2.1 基本性质303

9.2 率失真函数的基本性质与有失真时的逆信源编码定理303

9.2.2 有失真时的逆信源编码定理306

9.3 无记忆信源R（D）的计算306

9.4 R（D）上、下限的估计313

9.4.1 R（D）的下限313

9.4.2 R（D）的上限316

9.5 有失真时的离散无记忆信源编码定理318

9.6 连续幅度无记忆信源325

习题328

小结328

第10章 多用户信息论331

10.1 多用户通信及多用户信道的分类331

10.2 相关信源独立编码335

10.3 相关源协同编码341

10.4 多元接入信道（MAC）348

10.5 广播信道355

小结363

习题364

参考文献367