目 錄
第1章 緒論 1
1.1 聲音信號處理的研究內(nèi)容 1
1.2 聲音信號處理的發(fā)展歷史 2
1.2.1 語音編碼算法的發(fā)展歷史 3
1.2.2 語音識別算法的發(fā)展歷史 4
1.2.3 語音去噪及增強(qiáng)算法的發(fā)展歷史 5
1.2.4 語音合成轉(zhuǎn)換等其他算法的發(fā)展歷史 7
1.2.5 基于語音和視覺信息的多模態(tài)融合方法 11
1.3 聲音效果評價(jià) 14
1.3.1 主觀評價(jià)方法 14
1.3.2 客觀評價(jià)方法 15
練習(xí)題 16
第2章 聲音信號簡介 17
2.1 人類語音信號的產(chǎn)生 17
2.2 語音信號的基本特征 18
2.3 聲音的特征提取 19
2.3.1 手工聲音特征 19
2.3.2 深度語音情感特征 19
2.4 人類的聽覺感知 20
2.5 語音數(shù)據(jù)庫 22
2.5.1 語音識別數(shù)據(jù)集 22
2.5.2 語音情感數(shù)據(jù)庫 23
2.5.3 多模態(tài)情感數(shù)據(jù)集 24
練習(xí)題 26
第3章 短時(shí)時(shí)域處理技術(shù) 27
3.1 語音信號的短時(shí)處理方法 27
3.1.1 語音端點(diǎn)檢測 27
3.1.2 預(yù)加重 28
3.1.3 分幀與加窗 28
3.2 短時(shí)能量和短時(shí)平均幅度 30
3.3 短時(shí)過零率 33
3.4 短時(shí)自相關(guān)函數(shù) 35
3.5 短時(shí)時(shí)域處理技術(shù)案例：基音提取 35
3.5.1 基音檢測估計(jì)方法1：三電平削波法 36
3.5.2 基音檢測估計(jì)方法2：SHR諧波檢測法 40
練習(xí)題 42
第4章 短時(shí)傅里葉變換 44
4.1 短時(shí)傅里葉變換的定義 44
4.2 短時(shí)傅里葉變換的理解 45
4.3 短時(shí)傅里葉變換的實(shí)現(xiàn) 49
4.4 語音短時(shí)傅里葉變換的應(yīng)用案例 50
4.4.1 梅爾頻率倒譜系數(shù)的提取和應(yīng)用 50
4.4.2 聲音去噪算法的實(shí)現(xiàn) 57
4.4.3 聲音信號熵的提取應(yīng)用 62
練習(xí)題 69
第5章 聲音信號的線性預(yù)測編碼 70
5.1 線性預(yù)測基本原理 70
5.2 線性預(yù)測的解析算法 73
5.3 線性預(yù)測的應(yīng)用案例 76
5.3.1 基音檢測估計(jì) 77
5.3.2 共振峰估計(jì) 81
練習(xí)題 85
第6章 語音編碼 86
6.1 脈沖編碼調(diào)制 87
6.1.1 均勻量化脈沖編碼調(diào)制 87
6.1.2 非均勻量化脈沖編碼調(diào)制 87
6.1.3 自適應(yīng)量化脈沖編碼調(diào)制 88
6.2 差分脈沖編碼 89
6.2.1 差分脈沖編碼原理 89
6.2.2 自適應(yīng)差分脈沖編碼 91
6.3 增量調(diào)制 95
6.3.1 增量調(diào)制原理 95
6.3.2 自適應(yīng)增量調(diào)制原理 95
6.4 基于線性預(yù)測編碼的聲碼器 96
6.4.1 LPC-10聲碼器 96
6.4.2 碼激勵(lì)線性預(yù)測編碼 102
練習(xí)題 107
第7章 聲音合成與轉(zhuǎn)換 109
7.1 語音合成方法 109
7.1.1 參數(shù)合成方法 110
7.1.2 波形合成方法 115
7.2 漢語基于音節(jié)的規(guī)則合成方法 120
7.2.1 韻律規(guī)則合成 121
7.2.2 多音節(jié)協(xié)同發(fā)音規(guī)則合成 129
7.2.3 輕聲音節(jié)規(guī)則合成 130
7.3 語音轉(zhuǎn)換方法 131
7.3.1 語音轉(zhuǎn)換系統(tǒng)的總體框架 131
7.3.2 語音轉(zhuǎn)換常見的特征參數(shù) 132
7.4 語音轉(zhuǎn)換評價(jià)指標(biāo) 134
7.4.1 客觀評價(jià) 135
7.4.2 主觀評價(jià) 135
7.5 語音轉(zhuǎn)換應(yīng)用案例 136
7.5.1 平行語音轉(zhuǎn)換方法 136
7.6 非平行語音轉(zhuǎn)換應(yīng)用案例 139
7.6.1 循環(huán)生成對抗網(wǎng)絡(luò) 139
7.6.2 星型生成對抗網(wǎng)絡(luò) 140
7.6.3 變分自動(dòng)編碼器 141
7.6.4 自適應(yīng)實(shí)例規(guī)范化 141
7.6.5 激活引導(dǎo)和自適應(yīng)實(shí)例歸一化 142
練習(xí)題 150
第8章 語音識別 151
8.1 采用矢量量化的說話人識別 151
8.1.1 矢量量化的原理 151
8.1.2 矢量量化的訓(xùn)練 152
8.1.3 矢量量化說話人識別的實(shí)現(xiàn) 153
8.2 采用動(dòng)態(tài)時(shí)間規(guī)整的孤立詞識別 154
8.3 基于隱馬爾可夫模型的語音（語句）識別 159
8.3.1 HMM模型 159
8.3.2 HMM的概率求解 161
8.3.3 HMM的解碼 164
8.3.4 HMM的訓(xùn)練 166
8.3.5 HMM-GMM模型 171
8.3.6 基于HMM的語音識別應(yīng)用案例 173
練習(xí)題 180
第9章 基于深度學(xué)習(xí)模型的聲音技術(shù)應(yīng)用 183
9.1 深度學(xué)習(xí)網(wǎng)絡(luò)基礎(chǔ) 183
9.1.1 深度學(xué)習(xí)網(wǎng)絡(luò)基本結(jié)構(gòu) 183
9.1.2 深度學(xué)習(xí)網(wǎng)絡(luò)的訓(xùn)練 185
9.1.3 卷積神經(jīng)網(wǎng)絡(luò) 187
9.1.4 循環(huán)神經(jīng)網(wǎng)絡(luò) 191
9.1.5 注意力機(jī)制 197
9.2 基于深度學(xué)習(xí)的聲音去噪算法 198
9.2.1 基于深度神經(jīng)網(wǎng)絡(luò)幅度譜估計(jì)的深度學(xué)習(xí)聲音去噪算法 198
9.2.2 基于多尺度時(shí)頻卷積網(wǎng)絡(luò)的多通道聲音去噪 201
9.3 基于深度學(xué)習(xí)的語音識別應(yīng)用案例 205
9.3.1 基于循環(huán)神經(jīng)網(wǎng)絡(luò)-連續(xù)時(shí)序分類的語音識別 206
9.3.2 基于卷積神經(jīng)網(wǎng)絡(luò)的語音識別 209
9.3.3 基于Transformer的語音識別 211
9.4 基于ResNet的語音情感識別應(yīng)用案例 220
9.5 聲音與呼吸信號聯(lián)合識別應(yīng)用案例 225
9.6 聲音與人臉聯(lián)合識別應(yīng)用案例 228
練習(xí)題 231
參考文獻(xiàn) 232