《深入淺出深度學習》首先對人工智能和深度學習的歷史發(fā)展做了簡單介紹,然后介紹一些必需的數(shù)學概念,接著為大家提供了機器學習的基礎知識,隨后詳細介紹幾種神經(jīng)網(wǎng)絡模型以及不同的神經(jīng)網(wǎng)絡體系結(jié)構(gòu)。從結(jié)構(gòu)上來說,是非常合理的。從全局到細微,由表及里,引導大家逐步深入了解所介紹的內(nèi)容。無論是初學者,還是有一定經(jīng)驗的用戶,都可以從中受益良多。另外,對于超出本書介紹范圍的內(nèi)容作者還推薦了一些參考著作,使有興趣和有能力的讀者可以進一步拓展知識范圍從而對相關內(nèi)容有更全面、更深入的了解。
目 錄
第1章 從邏輯學到認知科學 1
1.1 人工神經(jīng)網(wǎng)絡的起源 1
1.2 異或(XOR)問題 6
1.3 從認知科學到深度學習 8
1.4 總體人工智能景觀中的神經(jīng)網(wǎng)絡 12
1.5 哲學和認知概念 13
第2章 數(shù)學和計算先決條件 17
2.1 求導和函數(shù)極小化 17
2.2 向量、矩陣和線性規(guī)劃 26
2.3 概率分布 34
2.4 邏輯學和圖靈機 41
2.5 編寫Python代碼 44
2.6 Python編程概述 46
第3章 機器學習基礎知識 55
3.1 基本分類問題 55
3.2 評估分類結(jié)果 61
3.3 一種簡單的分類器:樸素貝葉斯 64
3.4 一種簡單的神經(jīng)網(wǎng)絡:邏輯回歸 67
3.5 MNIST數(shù)據(jù)集簡介 73
3.6 沒有標簽的學習:k均值 76
3.7 學習不同的表示形式:PCA 78
3.8 學習語言:詞袋表示 81
第4章 前饋神經(jīng)網(wǎng)絡 85
4.1 神經(jīng)網(wǎng)絡的基本概念和術語 85
4.2 使用向量和矩陣表示網(wǎng)絡分量 88
4.3 感知器法則 90
4.4 Delta法則 93
4.5 從邏輯神經(jīng)元到反向傳播 95
4.6 反向傳播 100
4.7 一個完整的前饋神經(jīng)網(wǎng)絡 110
第5章 前饋神經(jīng)網(wǎng)絡的修改和擴展 113
5.1 正則化的概念 113
5.2 L1和L2正則化 115
5.3 學習率、動量和丟棄 117
5.4 隨機梯度下降和在線學習 123
5.5 關于多個隱藏層的問題:梯度消失和梯度爆炸 124
第6章 卷積神經(jīng)網(wǎng)絡 127
6.1 第三次介紹邏輯回歸 127
6.2 特征圖和池化 131
6.3 一個完整的卷積網(wǎng)絡 133
6.4 使用卷積網(wǎng)絡對文本進行分類 136
第7章 循環(huán)神經(jīng)網(wǎng)絡 141
7.1 不等長序列 141
7.2 使用循環(huán)神經(jīng)網(wǎng)絡進行學習的三種設置 143
7.3 添加反饋環(huán)并展開神經(jīng)網(wǎng)絡 145
7.4 埃爾曼網(wǎng)絡 146
7.5 長短期記憶網(wǎng)絡 148
7.6 使用循環(huán)神經(jīng)網(wǎng)絡預測后續(xù)單詞 151
第8章 自動編碼器 161
8.1 學習表示 161
8.2 不同的自動編碼器體系結(jié)構(gòu) 164
8.3 疊加自動編碼器 166
8.4 重新創(chuàng)建貓論文 170
第9章 神經(jīng)語言模型 173
9.1 詞嵌入和詞類比 173
9.2 CBOW和Word2vec 174
9.3 Word2vec代碼 176
9.4 單詞領域概覽:一種摒棄符號AI的觀點 179
第10章 不同神經(jīng)網(wǎng)絡體系結(jié)構(gòu)概述 183
10.1 基于能量的模型 183
10.2 基于記憶的模型 186
10.3 通用聯(lián)結(jié)主義智能的內(nèi)核:bAbI數(shù)據(jù)集 189
第11章 結(jié)論 193
11.1 開放性研究問題簡單概述 193
11.2 聯(lián)結(jié)主義精神與哲學聯(lián)系 194