本書先介紹深度強化學習的基礎(chǔ)知識及相關(guān)算法，然后給出多個實戰(zhàn)項目，以期讓讀者可以根據(jù)環(huán)境的直接反饋對智能體加以調(diào)整和改進，提升運用深度強化學習技術(shù)解決實際問題的能力。
本書涵蓋深度Q網(wǎng)絡(luò)、策略梯度法、演員-評論家算法、進化算法、Dist-DQN、多智能體強化學習、可解釋性強化學習等內(nèi)容。本書給出的實戰(zhàn)項目緊跟深度強化學習技術(shù)的發(fā)展趨勢，且所有項目示例以Jupter Notebook樣式給出，便于讀者修改代碼、觀察結(jié)果并及時獲取經(jīng)驗，能夠帶給讀者交互式的學習體驗。
本書適合有一定深度學習和機器學習基礎(chǔ)并對強化學習感興趣的讀者閱讀。
1.詳細講解深度強化學習基礎(chǔ)知識，內(nèi)容豐富
2.提供多個實戰(zhàn)案例，學習更有效，實踐更有用
3.包含核心算法 PyTorch、OpenAI Gym等流行工具，新穎實用
4.作者在深度強化學習領(lǐng)域經(jīng)驗豐富，知識點梳理清晰，易懂易學
Alexander Zai曾擔任Codesmith（一個沉浸式的編碼訓(xùn)練營）首席技術(shù)官和技術(shù)顧問、Uber 軟件工程師、Bonjo和AmazonAI機器學習工程師，他也是開源深度學習框架Apache MXNet的貢獻者。此外，他還是兩家公司的聯(lián)合創(chuàng)立人，其中一家曾是Y-combinator的參與者。 Brandon Brown從很小的時候就開始編程，大學期間做過兼職軟件工程師，但最終選擇投身醫(yī)療行業(yè)（在此期間，他在醫(yī)療保健科技領(lǐng)域擔任軟件工程師）。受深度強化學習的啟發(fā)，他近期專注于計算精神病學的研究。
第 一部分 基礎(chǔ)篇
第 1章 什么是強化學習 3
1.1 深度強化學習中的深度 4
1.2 強化學習 5
1.3 動態(tài)規(guī)劃與蒙特卡洛 7
1.4 強化學習框架 9
1.5 強化學習可以做什么 12
1.6 為什么是深度強化學習 14
1.7 教學工具：線圖 15
1.8 后續(xù)內(nèi)容概述 17
小結(jié) 18
第 2章 強化學習問題建模： 馬爾可夫決策過程 19
2.1 線圖與本書的教學方法 19
2.2 解決多臂老虎機問題 22
2.2.1 探索與利用 23
2.2.2 貪婪策略 24
2.2.3 Softmax選擇策略 29
2.3 應(yīng)用老虎機算法優(yōu)化廣告投放 31
2.3.1 上下文老虎機 31
2.3.2 狀態(tài)、動作和獎勵 32
2.4 利用PyTorch構(gòu)建網(wǎng)絡(luò) 33
2.4.1 自動微分 33
2.4.2 構(gòu)建模型 34
2.5 解決上下文老虎機問題 35
2.6 馬爾可夫性質(zhì) 39
2.7 預(yù)測未來獎勵：價值和策略函數(shù) 41
2.7.1 策略函數(shù) 42
2.7.2 最優(yōu)策略 43
2.7.3 價值函數(shù) 43
小結(jié) 44
第3章 預(yù)測最佳狀態(tài)和動作： 深度Q網(wǎng)絡(luò) 46
3.1 Q函數(shù) 46
3.2 Q-learning導(dǎo)航 47
3.2.1 Q-learning是什么 48
3.2.2 應(yīng)用于Gridworld游戲 49
3.2.3 超參數(shù) 50
3.2.4 貼現(xiàn)因子 50
3.2.5 構(gòu)建網(wǎng)絡(luò) 52
3.2.6 介紹Gridworld游戲引擎 53
3.2.7 構(gòu)建Q函數(shù)的神經(jīng)網(wǎng)絡(luò) 55
3.3 防止災(zāi)難性遺忘：經(jīng)驗回放 64
3.3.1 災(zāi)難性遺忘 64
3.3.2 經(jīng)驗回放 65
3.4 利用目標網(wǎng)絡(luò)提高穩(wěn)定性 69
學習的不穩(wěn)定性 70
3.5 回顧 74
小結(jié) 76
第4章 學習選擇最佳策略：策略梯度法 77
4.1 使用神經(jīng)網(wǎng)絡(luò)的策略函數(shù) 77
4.1.1 神經(jīng)網(wǎng)絡(luò)作為策略函數(shù) 78
4.1.2 隨機策略梯度 78
4.1.3 探索 80
4.2 強化良好動作：策略梯度算法 81
4.2.1 定義目標 81
4.2.2 強化動作 82
4.2.3 對數(shù)概率 84
4.2.4 信用分配 84
4.3 與OpenAI Gym配合 85
4.3.1 CartPole 87
4.3.2 OpenAI Gym API 87
4.4 REINFORCE算法 88
4.4.1 創(chuàng)建策略網(wǎng)絡(luò) 88
4.4.2 使智能體與環(huán)境交互 89
4.4.3 訓(xùn)練模型 89
4.4.4 完整訓(xùn)練循環(huán) 91
4.4.5 所得到的結(jié)論 93
小結(jié) 93
第5章 利用演員-評論家算法 解決更復(fù)雜的問題 94
5.1 重構(gòu)價值-策略函數(shù) 95
5.2 分布式訓(xùn)練 99
5.3 演員-評論家優(yōu)勢算法 104
5.4 N-step演員-評論家算法 112
小結(jié) 116
第二部分 進階篇
第6章 可替代的優(yōu)化方法： 進化算法 119
6.1 另一種強化學習方法 119
6.2 具有進化策略的強化學習 121
6.2.1 進化理論 121
6.2.2 進化實踐 123
6.3 CartPole的遺傳算法 128
6.4 進化算法的優(yōu)缺點 134
6.4.1 進化算法探索更多 134
6.4.2 進化算法令人難以置信的樣本密集性 134
6.4.3 模擬器 135
6.5 進化算法作為一種可擴展的替代方案 135
6.5.1 擴展的進化算法 135
6.5.2 并行與串行處理 137
6.5.3 擴展效率 138
6.5.4 節(jié)點間通信 138
6.5.5 線性擴展 140
6.5.6 擴展基于梯度的算法 140
小結(jié) 141
第7章 Dist-DQN：獲取完整故事 142
7.1 Q-learning存在的問題 143
7.2 再論概率統(tǒng)計 147
7.2.1 先驗和后驗 148
7.2.2 期望和方差 149
7.3 貝爾曼方程 153
分布式貝爾曼方程 153
7.4 分布式Q-learning 154
7.4.1 使用Python表示概率分布 154
7.4.2 實現(xiàn)Dist-DQN 162
7.5 比較概率分布 164
7.6 模擬數(shù)據(jù)上的Dist-DQN 167
7.7 使用分布式Q-learning玩Freeway 172
小結(jié) 177
第8章 好奇心驅(qū)動的 探索 178
8.1 利用預(yù)測編碼處理稀疏獎勵 179
8.2 反向動態(tài)預(yù)測 182
8.3 搭建《超級馬里奧兄弟》環(huán)境 184
8.4 預(yù)處理和Q網(wǎng)絡(luò) 186
8.5 創(chuàng)建Q網(wǎng)絡(luò)和策略函數(shù) 188
8.6 內(nèi)在好奇心模塊 191
8.7 可替代的內(nèi)在獎勵機制 203
小結(jié) 205
第9章 多智能體強化 學習 206
9.1 從單個到多個智能體 206
9.2 鄰域Q-learning 210
9.3 一維伊辛模型 213
9.4 平均場Q-learning和二維伊辛模型 221
9.5 混合合作競技游戲 230
小結(jié) 239
第 10章 強化學習可解釋性： 注意力和關(guān)系 模型 241
10.1 帶注意力和關(guān)系偏差的 機器學習可解釋性 242
不變性和等變性 243
10.2 利用注意力進行關(guān)系 推理 244
10.2.1 注意力模型 245
10.2.2 關(guān)系推理 246
10.2.3 自注意力模型 251
10.3 對MNIST實現(xiàn) 自注意力 253
10.3.1 轉(zhuǎn)換的MNIST 254
10.3.2 關(guān)系模塊 255
10.3.3 張量縮并和愛因斯坦 標記法 258
10.3.4 訓(xùn)練關(guān)系模塊 261
10.4 多頭注意力和 關(guān)系DQN 264
10.5 雙Q-learning 270
10.6 訓(xùn)練和注意力 可視化 271
10.6.1 最大熵學習 275
10.6.2 課程學習 275
10.6.3 可視化注意力權(quán)重 276
小結(jié) 278
第 11章 總結(jié)：回顧和 路線圖 280
11.1 我們學到了什么 280
11.2 深度強化學習中的 未知課題 282
11.2.1 優(yōu)先經(jīng)驗回放 282
11.2.2 近端策略優(yōu)化 282
11.2.3 分層強化學習和 options框架 283
11.2.4 基于模型的規(guī)劃 283
11.2.5 蒙特卡洛樹搜索 284
全書結(jié)語 284
附錄A 數(shù)學、深度學習和
PyTorch 285
A.1 線性代數(shù) 285
A.2 微積分 287
A.3 深度學習 290
A.4 PyTorch 291
參考資料 295
書單推薦
