遷移學習是機器學習技術的一種，它可以從一系列機器學習問題的訓練中獲得知識，并將這些知識用于訓練其他相似類型的問題。
本書分為3個部分：第1部分是深度學習基礎，介紹了機器學習的基礎知識、深度學習的基礎知識和深度學習的架構；第2部分是遷移學習精要，介紹了遷移學習的基礎知識和遷移學習的威力；第3部分是遷移學習案例研究，介紹了圖像識別和分類、文本文檔分類、音頻事件識別和分類、DeepDream算法、風格遷移、自動圖像掃描生成器、圖像著色等內(nèi)容。
本書適合數(shù)據(jù)科學家、機器學習工程師和數(shù)據(jù)分析師閱讀，也適合對機器學習和遷移學習感興趣的讀者閱讀。在閱讀本書之前，希望讀者對機器學習和Python編程有基本的掌握。
1. 快速掌握知識點
本書能帶你厘清機器學習和深度學習的關鍵基本概念，對重要的深度學習架構進行描述，卷積神經(jīng)網(wǎng)絡、深度神經(jīng)網(wǎng)絡、遞歸神經(jīng)網(wǎng)絡、長短時記憶神經(jīng)網(wǎng)絡以及膠囊網(wǎng)絡都有所涉及。
2. 用實操夯實遷移學習理論
通過閱讀本書，讀者能夠深刻理解遷移學習的相關概念，并結合相關的編程案例掌握模型凍結、模型調優(yōu)、預訓練模型（包括VGG模型、Inception模型和ResNet模型）等。
3. 掌握實用技能
本書集中討論了大量現(xiàn)實世界中不同領域的案例和問題，例如計算機視覺、音頻分析以及自然語言處理。
迪潘簡·撒卡爾（Dipanjan Sarkar）是英特爾公司的一名數(shù)據(jù)科學家，他利用數(shù)據(jù)科學、機器學習和深度學習來構建大規(guī)模的智能系統(tǒng)。他擁有數(shù)據(jù)科學和軟件工程專業(yè)的碩士學位。
他從事分析工作多年，專攻機器學習、自然語言處理（Natural Language Processing，NLP）、統(tǒng)計方法和深度學習。他對教育充滿熱情，同時還在Springboard等組織中擔任數(shù)據(jù)科學導師，幫助人們學習數(shù)據(jù)科學。他還是人工智能和數(shù)據(jù)科學領域的領先在線期刊《面向數(shù)據(jù)科學》的主要編著者和編輯，他還編寫了幾本關于R、Python、機器學習、NLP和深度學習的書。
拉格哈夫·巴利（Raghav Bali）是Optum的數(shù)據(jù)科學家。他的工作涉及研究和開發(fā)基于機器學習、深度學習和NLP的企業(yè)級解決方案，用于醫(yī)療和保險領域的相關用例。之前在英特爾公司的工作中，他參與了數(shù)據(jù)主動驅動IT的提案。他還曾在企業(yè)資源計劃（Enterprise Resource Planning，ERP）和金融領域的一些世界領先的組織工作。他已經(jīng)和一些優(yōu)秀的出版社合作出版了多本書籍。
Raghav在班加羅爾國際信息技術學院作為優(yōu)秀畢業(yè)生獲得了信息技術碩士學位。他熱愛閱讀，在工作不忙時，他是一個熱衷于捕捉生活瞬間的攝影愛好者。
塔莫格納·戈什（Tamoghna Ghosh）是英特爾公司的機器學習工程師。他共有11年的工作經(jīng)驗，其中包括4年在微軟印度研究院的核心研究經(jīng)驗。在微軟研究院期間，他曾擔任分組密碼的密碼分析的研究助理。
他的技術專長包括大數(shù)據(jù)、機器學習、NLP、信息檢索、數(shù)據(jù)可視化和軟件開發(fā)。他在加爾各答印度統(tǒng)計研究所獲得了工學碩士（計算機科學）學位，在加爾各答大學獲得了理學碩士（數(shù)學）學位。他的專業(yè)研究領域為功能性分析、數(shù)學建模以及動態(tài)系統(tǒng)。他對教學工作充滿熱情，并為英特爾公司開展了不同級別的數(shù)據(jù)科學內(nèi)部培訓。
第 1部分 深度學習基礎
第 1章 機器學習基礎 2
1.1 什么是機器學習 3
1.1.1 機器學習的正式定義 4
1.1.2 淺層學習和深度學習 4
1.2 機器學習算法 5
1.2.1 監(jiān)督學習 6
1.2.2 無監(jiān)督學習 9
1.3 CRISP-DM 11
1.3.1 業(yè)務理解 12
1.3.2 數(shù)據(jù)理解 12
1.3.3 數(shù)據(jù)準備 13
1.3.4 建模 13
1.3.5 評估 13
1.3.6 部署 14
1.4 標準機器學習工作流 14
1.4.1 數(shù)據(jù)檢索 15
1.4.2 數(shù)據(jù)準備 15
1.4.3 建模 16
1.4.4 模型評估和調優(yōu) 17
1.4.5 部署和監(jiān)控 21
1.5 探索性數(shù)據(jù)分析 22
1.6 特征提取和特征工程 29
1.7 特征選擇 33
1.8 總結 34
第 2章 深度學習精要 35
2.1 什么是深度學習 35
2.2 深度學習框架 37
2.3 創(chuàng)建一個支持GPU的云端深度學習環(huán)境 40
2.3.1 選擇一個云供應商 41
2.3.2 設置虛擬服務器 41
2.3.3 配置虛擬服務器 45
2.3.4 安裝和升級深度學習依賴項 47
2.3.5 訪問深度學習云環(huán)境 52
2.3.6 在深度學習環(huán)境中驗證啟用GPU 53
2.4 創(chuàng)建一個支持GPU的、健壯的內(nèi)部深度學習環(huán)境 55
2.5 神經(jīng)網(wǎng)絡基礎 55
2.5.1 一個簡單的線性神經(jīng)元 55
2.5.2 基于梯度的最優(yōu)化問題 56
2.5.3 雅可比矩陣和海森矩陣 60
2.5.4 導數(shù)的鏈式法則 61
2.5.5 隨機梯度下降法 61
2.5.6 非線性神經(jīng)單元 64
2.5.7 學習一個簡單的非線性單元——邏輯單元 66
2.5.8 損失函數(shù) 67
2.5.9 數(shù)據(jù)表示 68
2.5.10 多層神經(jīng)網(wǎng)絡 71
2.5.11 反向傳播——訓練深度神經(jīng)網(wǎng)絡 73
2.5.12 神經(jīng)網(wǎng)絡學習中的挑戰(zhàn) 75
2.5.13 模型參數(shù)初始化 78
2.5.14 提升SGD 80
2.5.15 神經(jīng)網(wǎng)絡的過擬合和欠擬合 81
2.5.16 神經(jīng)網(wǎng)絡的超參數(shù) 84
2.6 總結 85
第3章 理解深度學習架構 86
3.1 神經(jīng)網(wǎng)絡架構 86
3.2 各種神經(jīng)網(wǎng)絡架構 88
3.2.1 多層感知機和深度神經(jīng)網(wǎng)絡 88
3.2.2 自編碼神經(jīng)網(wǎng)絡 88
3.2.3 變分自編碼器 89
3.2.4 生成式對抗網(wǎng)絡 91
3.2.5 卷積神經(jīng)網(wǎng)絡 93
3.2.6 膠囊網(wǎng)絡 103
3.2.7 遞歸神經(jīng)網(wǎng)絡 107
3.2.8 記憶神經(jīng)網(wǎng)絡 114
3.2.9 神經(jīng)圖靈機 117
3.2.10 基于注意力的神經(jīng)網(wǎng)絡模型 121
3.3 總結 122
第 2部分 遷移學習精要
第4章 遷移學習基礎 124
4.1 遷移學習簡介 124
4.2 遷移學習策略 127
4.3 遷移學習和深度學習 129
4.3.1 遷移學習方法論 130
4.3.2 預訓練模型 131
4.3.3 應用 131
4.4 深度遷移學習類型 132
4.4.1 領域適應 132
4.4.2 領域混淆 132
4.4.3 多任務學習 133
4.4.4 一次性學習 133
4.4.5 零樣本學習 134
4.5 遷移學習的挑戰(zhàn) 134
4.5.1 負向遷移 134
4.5.2 遷移邊界 135
4.6 總結 135
第5章 釋放遷移學習的威力 136
5.1 遷移學習的必要性 137
5.1.1 闡述現(xiàn)實世界問題 137
5.1.2 構建數(shù)據(jù)集 138
5.1.3 描述方法 140
5.2 從零開始構建CNN模型 140
5.2.1 基本CNN模型 143
5.2.2 正則化的CNN模型 146
5.2.3 圖像增強的CNN模型 148
5.3 使用預訓練的CNN模型利用遷移學習 153
5.3.1 理解VGG-16模型 154
5.3.2 作為特征提取器的預訓練CNN模型 156
5.3.3 作為特征提取器并使用圖像增強的預訓練CNN模型 162
5.3.4 使用微調和圖像增強的預訓練CNN模型 164
5.4 評估我們的深度學習模型 168
5.4.1 模型在一個樣本測試圖像上進行預測 168
5.4.2 將CNN模型的感知可視化 170
5.4.3 在測試數(shù)據(jù)上評估模型性能 174
5.5 總結 177
第3部分 遷移學習案例研究
第6章 圖像識別和分類 180
6.1 基于深度學習的圖像分類 180
6.2 基準數(shù)據(jù)集 181
6.3 最先進的深度圖像分類模型 182
6.4 圖像分類和遷移學習 183
6.4.1 CIFAR-10數(shù)據(jù)集 183
6.4.2 犬種鑒定數(shù)據(jù)集 189
6.5 總結 199
第7章 文本文檔分類 200
7.1 文本分類 201
7.1.1 傳統(tǒng)文本分類 201
7.1.2 BoW模型的缺點 202
7.1.3 基準數(shù)據(jù)集 203
7.2 單詞表示形式 204
7.2.1 Word2vec模型 204
7.2.2 使用gensim框架的Word2vec模型 205
7.2.3 GloVe模型 208
7.3 CNN文檔模型 210
7.3.1 構建一個評論情感分類器 216
7.3.2 哪些單詞嵌入變化最大 220
7.3.3 遷移學習在IMDB數(shù)據(jù)集中的應用 220
7.3.4 使用Wordvec嵌入在完整的IMDB數(shù)據(jù)集上進行訓練 223
7.3.5 使用CNN模型創(chuàng)建文檔摘要 224
7.3.6 使用CNN模型進行多類別分類 228
7.3.7 文檔嵌入可視化 231
7.4 總結 233
第8章 音頻事件識別和分類 234
8.1 理解音頻事件分類 235
8.2 音頻事件的探索性分析 236
8.3 音頻事件的特征工程和表示方法 245
8.4 使用遷移學習進行音頻事件分類 249
8.4.1 根據(jù)基本特征構建數(shù)據(jù)集 250
8.4.2 利用遷移學習進行特征提取 251
8.4.3 構建分類模型 253
8.4.4 評估分類器的性能 257
8.5 構建一個深度學習音頻事件識別器 260
8.6 總結 263
第9章 DeepDream 264
9.1 介紹 264
9.1.1 計算機視覺中的算法幻想性視錯覺 265
9.1.2 可視化特征圖 267
9.2 DeepDream算法 273
9.3 總結 277
第 10章 風格遷移 278
10.1 理解神經(jīng)風格遷移 279
10.2 圖像預處理方法 280
10.3 構建損失函數(shù) 282
10.3.1 內(nèi)容損失 282
10.3.2 風格損失 283
10.3.3 總變差損失 283
10.3.4 總體損失函數(shù) 284
10.4 創(chuàng)建一個自定義優(yōu)化器 285
10.5 風格遷移實戰(zhàn) 286
10.6 總結 290
第 11章 自動圖像掃描生成器 291
11.1 理解圖像描述 292
11.2 明確目標 293
11.3 理解數(shù)據(jù) 294
11.4 構建自動圖像描述系統(tǒng)的方法 295
11.4.1 概念方法 295
11.4.2 實際動手的方法 299
11.5 使用遷移學習的圖像特征提取 301
11.6 為描述構建一個詞匯表 306
11.7 構建一個圖像描述數(shù)據(jù)集生成器 308
11.8 構建圖像語言編碼器-解碼器深度學習模型 314
11.9 訓練圖像描述深度學習模型 316
11.10 評估圖像描述深度學習模型 320
11.10.1 加載數(shù)據(jù)和模型 320
11.10.2 理解貪婪搜索和集束搜索 321
11.10.3 實現(xiàn)一個基于集束搜索的描述生成器 321
11.10.4 理解并實現(xiàn)BLEU分數(shù) 323
11.10.5 在測試數(shù)據(jù)上評估模型性能 324
11.11 自動圖像描述實戰(zhàn) 327
11.11.1 戶外場景樣本圖像描述 329
11.11.2 流行運動樣本圖像描述 332
11.11.3 未來的改進空間 334
11.12 總結 334
第 12章 圖像著色 335
12.1 問題陳述 336
12.2 彩色圖像 336
12.2.1 顏色理論 337
12.2.2 顏色模型和顏色
空間 337
12.2.3 重審問題陳述 339
12.3 構建一個著色深度神經(jīng)網(wǎng)絡 341
12.3.1 預處理 341
12.3.2 損失函數(shù) 342
12.3.3 編碼器 343
12.3.4 遷移學習——特征提取 344
12.3.5 融合層 344
12.3.6 解碼器 345
12.3.7 后處理 347
12.3.8 訓練和結果 348
12.4 挑戰(zhàn) 350
12.5 進一步改進 350
12.6 總結 350
書單推薦
