目 錄


第1章 概論 （1）
1.1 信息的概念和分類(lèi) （1）
1.1.1 信息的概念 （1）
1.1.2 信息的分類(lèi) （4）
1.2 信息論的起源和發(fā)展 （5）
1.2.1 信息論創(chuàng)立的理論基礎(chǔ)和
技術(shù)條件 （5）
1.2.2 信息論的誕生和發(fā)展現(xiàn)狀 （5）
1.2.3 信息論的未來(lái)發(fā)展趨勢(shì) （7）
1.3 信息論的研究?jī)?nèi)容 （7）
1.3.1 通信系統(tǒng)模型 （7）
1.3.2 信息論研究?jī)?nèi)容 （8）
思考題 （9）
第2章 離散信源熵 （10）
2.1 基本概念 （10）
2.2 離散信源熵的基本概念和
性質(zhì) （10）
2.2.1 單符號(hào)離散信源的數(shù)學(xué)模型 （11）
2.2.2 自信息量及其性質(zhì) （11）
2.2.3 信源熵及其性質(zhì) （14）
2.3 多符號(hào)離散平穩(wěn)信源熵 （21）
2.3.1 多符號(hào)離散平穩(wěn)信源的
數(shù)學(xué)模型 （21）
2.3.2 離散平穩(wěn)無(wú)記憶信源熵 （22）
2.3.3 離散平穩(wěn)有記憶信源熵 （24）
2.3.4 馬爾可夫信源的極限熵 （28）
2.3.5 冗余度、自然語(yǔ)信源及
信息變差 （31）
習(xí)題 （34）
第3章 無(wú)失真離散信源編碼 （36）
3.1 基本概念 （36）
3.2 無(wú)失真離散信源編碼定理 （36）
3.2.1 定長(zhǎng)編碼定理 （37）
3.2.2 變長(zhǎng)編碼定理 （39）
3.2.3 碼字唯一可譯條件 （40）
3.3 香農(nóng)編碼 （42）
3.4 費(fèi)諾編碼 （43）
3.5 霍夫曼編碼 （44）
3.6 游程組合編碼 （48）
習(xí)題 （52）
第4章 離散信道容量 （53）
4.1 互信息量和平均互信息量 （53）
4.1.1 單符號(hào)離散信道的數(shù)學(xué)模型 （53）
4.1.2 互信息量及其性質(zhì) （53）
4.1.3 平均互信息量及其性質(zhì) （56）
4.1.4 各種熵之間的關(guān)系 （67）
4.2 單符號(hào)離散信道的信道容量 （68）
4.2.1 單符號(hào)離散信道容量定義 （68）
4.2.2 幾種特殊離散信道的信道容量 （69）
4.2.3 離散信道容量的一般計(jì)算方法 （75）
4.3 多符號(hào)離散信道的信道容量 （78）
4.3.1 多符號(hào)離散信道的數(shù)學(xué)模型 （78）
4.3.2 多符號(hào)離散信道容量定義 （79）
4.3.3 離散無(wú)記憶擴(kuò)展信道的信道
容量 （79）
4.3.4 獨(dú)立并聯(lián)信道的信道容量 （82）
4.4 網(wǎng)絡(luò)信息論 （83）
4.4.1 多址接入信道的信道容量 （83）
4.4.2 廣播信道的信道容量 （86）
4.4.3 相關(guān)信源的邊信息和公信息 （87）
習(xí)題 （89）
第5章 糾錯(cuò)編碼 （92）
5.1 糾錯(cuò)編碼的基本概念 （92）
5.1.1 差錯(cuò)控制系統(tǒng)模型及分類(lèi) （92）
5.1.2 糾錯(cuò)編碼分類(lèi) （93）
5.1.3 譯碼準(zhǔn)則 （94）
5.1.4 信道編碼定理 （95）
5.2 檢錯(cuò)碼 （96）
5.2.1 奇偶校驗(yàn)碼 （96）
5.2.2 等重碼 （97）
5.3 線(xiàn)性分組碼 （98）
5.3.1 線(xiàn)性分組碼的基本概念 （98）
5.3.2 線(xiàn)性分組碼的編碼 （99）
5.3.3 線(xiàn)性分組碼的譯碼 （101）
5.3.4 線(xiàn)性分組碼的檢糾錯(cuò)能力 （106）
5.4 常用線(xiàn)性分組碼 （107）
5.4.1 漢明碼 （107）
5.4.2 循環(huán)碼 （109）
5.5 卷積碼 （116）
5.5.1 卷積碼的基本概念 （116）
5.5.2 卷積碼的編碼 （117）
5.5.3 卷積碼的譯碼 （120）
5.5.4 卷積碼的性能特點(diǎn) （125）
習(xí)題 （126）
第6章 連續(xù)信源熵和信道容量 （128）
6.1 連續(xù)信源熵 （128）
6.1.1 連續(xù)信源熵的定義 （128）
6.1.2 幾種特殊連續(xù)信源的信源熵 （130）
6.1.3 連續(xù)信源熵的性質(zhì)和定理 （132）
6.2 熵功率 （137）
6.3 連續(xù)信道的信道容量 （139）
6.3.1 連續(xù)信道的數(shù)學(xué)模型及信道
容量定義 （139）
6.3.2 加性連續(xù)信道容量計(jì)算和
香農(nóng)公式 （139）
習(xí)題 （142）
第7章 信息率失真函數(shù) （143）
7.1 基本概念 （143）
7.1.1 失真度與平均失真度 （144）
7.1.2 信息率失真函數(shù)的定義 （147）
7.1.3 信息率失真函數(shù)的性質(zhì) （148）
7.2 離散信源信息率失真函數(shù) （152）
7.2.1 離散信源信息率失真函數(shù)的
參量表達(dá)式 （152）
7.2.2 二元及等概率離散信源的
信息率失真函數(shù) （155）
7.3 連續(xù)信源信息率失真函數(shù) （159）
7.3.1 連續(xù)信源信息率失真函數(shù)的
參量表達(dá)式 （159）
7.3.2 高斯信源的信息率失真函數(shù) （160）
7.4 信息價(jià)值 （163）
7.5 信道容量與信息率失真函數(shù)的
比較 （166）
習(xí)題 （166）
第8章 限失真信源編碼 （168）
8.1 基本概念 （168）
8.2 保真度準(zhǔn)則下的信源編碼
定理 （168）
8.3 量化編碼 （169）
8.3.1 最佳標(biāo)量量化編碼 （169）
8.3.2 矢量量化編碼 （174）
8.4 相關(guān)信源編碼 （176）
8.4.1 預(yù)測(cè)編碼 （177）
8.4.2 差值編碼 （178）
8.5 變換編碼 （181）
8.5.1 子帶編碼 （182）
8.5.2 小波變換 （183）
習(xí)題 （185）
第9章 密碼安全性的信息論
測(cè)度方法 （187）
9.1 基本知識(shí) （187）
9.1.1 保密通信系統(tǒng)模型 （187）
9.1.2 密碼基本概念 （188）
9.2 密碼算法的安全性測(cè)度 （189）
9.2.1 完善保密性 （189）
9.2.2 唯一解距離 （190）
9.3 古典代替密碼的安全性分析 （191）
9.3.1 加法密碼的安全性分析 （191）
9.3.2 乘法密碼的安全性分析 （193）
9.3.3 仿射密碼的安全性分析 （195）
9.4 邊信息泄露的互信息分析 （197）
9.4.1 數(shù)據(jù)加密標(biāo)準(zhǔn)簡(jiǎn)介 （197）
9.4.2 DES算法的邊信道安全性分析 （199）
習(xí)題 （202）
部分習(xí)題答案 （203）
本書(shū)文字符號(hào)釋義 （208）
參考文獻(xiàn) （214）