信息論基礎（簡體書）

趙蓉，葉茵編著的這本《信息論基礎》系統論述了香農信息論，以香農三個編碼定理為中心，重點講述了相關的基本概念、基本原理和基本方法。本書針對本科教學的特點，力求深入淺出，在保持一定理論深度的基礎上盡可能地簡化數學分析過程，以通俗、生動的語言強化物理概念的描述。為了便于教學和讀者自學，部分章節配有習題。 《信息論基礎》可作為高等院校通信、電子、計算機專業本科生的教材，也可作為相關專業人員的參考書。

第1章 概論
1.1 信息的一般概念
1.2 信息論研究的對象、目的和內容
第2章 信源和信源熵
2.1 信源的描述與分類
2.1.1 離散信源與連續信源
2.1.2 離散無記憶信源和離散有記憶信源
2.2 離散信源的信息熵
2.2.1 自信息
2.2.2 信息熵
2.3 信源熵的基本特性和定理
2.4 離散無記憶的擴展信源
2.4.1 最簡單的離散信源
2.4.2 N次擴展信源
2.4.3 N次擴展信源的熵
2.5 離散平穩信源
2.5.1 離散平穩信源的數學定義
2.5.2 二維平穩信源及其信息熵
2.5.3 離散平穩信源的信源熵和極限熵
2.6 馬爾可夫信源
2.6.1 馬爾可夫信源的定義
2.6.2 馬爾可夫信源的熵
2.7 信源的相關性和剩余度
2.8 連續信源
2.8.1 連續信源的熵
2.8.2 幾種特殊連續信源的熵
2.8.3 最大連續熵定理
習題
第3章 信道和信道容量
3.1 信道的數學模型和分類
3.1.1 信道的分類
3.1.2 離散信道的數學模型
3.1.3 單符號離散信道的數學模型
3.1.4 多符號離散信道的數學模型
3.2 信道疑義度及平均互信息
3.2.1 信道疑義度
3.2.2 平均互信息
3.2.3 平均條件互信息
3.3 平均互信息的特徵
3.3.1 平均互信息I(X；Y)的基本特性
3.3.2 關於平均互信息I(X；Y)是凸函數的兩個定理
3.4 離散信道的信道容量
3.4.1 信道容量的定義
3.4.2 離散無噪信道的信道容量
3.4.3 對稱離散信道的信道容量
3.4.4 一般離散信道的信道容量
3.5 離散無記憶n次擴展信道的信道容量
3.6 組合信道的信道容量
3.6.1 并聯信道的信道容量
3.6.2 級聯信道的信道容量
3.7 連續信道和波形信道的信道容量
3.7.1 連續信道與波形信道
3.7.2 連續信道的信道容量
3.7.3 限帶高斯白噪聲加性波形信道的信道容量
3.7.4 香農公式的重要指導意義
習題
第4章 信源編碼
4.1 編碼器
4.2 等長碼和等長信源編碼定理
4.3 變長碼
4.3.1 唯一可譯變長碼與即時碼
4.3.2 即時碼的樹圖構造法
4.3.3 克拉夫特(L.G.Kraft)不等式
4.3.4 唯一可譯碼的判別準則
4.4 變長信源編碼定理
4.4.1 緊致碼
4.4.2 變長無失真信源編碼定理(香農第一定理)
4.5 變長碼的編碼方法
4.5.1 香農編碼
4.5.2 霍夫曼編碼
4.5.3 費諾編碼
4.5.4 游程編碼
4.5.5 冗余位編碼
習題
第5章 信道編碼
5.1 錯誤概率和譯碼準則
5.1.1 譯碼準則
5.1.2 誤碼率與信道疑義度的關係——費諾不等式
5.2 錯誤概率與編碼方法
5.2.1 簡單重復編碼
5.2.2 香農第二定理的提示
5.2.3 漢明距離與抗干擾性的關係
5.3 有噪信道編碼定理及其逆定理
5.3.1 有噪信道編碼定理
5.3.2 有噪信道編碼定理的逆定理
5.3.3 錯誤概率的上界
習題
第6章 信息率失真函數
6.1 基本概念
6.1.1 失真函數
6.1.2 平均失真度
6.2 信息率失真函數
6.2.1 D允許信道(試驗信道)
6.2.2 信息率失真函數的定義
6.2.3 信息率失真函數的性質
6.3 離散信源和連續信源信息率失真函數的計算
6.3.1 離散信源的信息率失真函數的參量表達式
6.3.2 二元離散等概率信源的信息率失真函數
6.3.3 連續信源的信息率失真函數
6.4 保真度準則下的信源編碼定理
6.4.1 限失真信源編碼定理
6.4.2 限失真信源編碼定理的逆定理
6.4.3 限失真信源編碼定理的意義
習題
第7章 信息理論在現代通信中的應用
7.1 密碼學中的熵概念
7.2 MIMO信道的容量
7.2.1 確定性MIMO信道的容量
7.2.2 衰落MIMO信道的容量
參考文獻