《人工智能：機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)》以人工智能實(shí)現(xiàn)算法為視角，系統(tǒng)闡述機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)這兩個(gè)彼此緊密聯(lián)系的人工智能實(shí)現(xiàn)途徑中的主要問(wèn)題與解決方法。對(duì)于機(jī)器學(xué)習(xí)，在深入理解機(jī)器學(xué)習(xí)任務(wù)與關(guān)鍵問(wèn)題的基礎(chǔ)上，探討監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)這四大類(lèi)歸納學(xué)習(xí)問(wèn)題的本質(zhì)特性及其解決方案，同時(shí)論述作為歸納學(xué)習(xí)基礎(chǔ)的相似性計(jì)算問(wèn)題及其解決方法。對(duì)于人工神經(jīng)網(wǎng)絡(luò)，按照其關(guān)鍵問(wèn)題是網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)與學(xué)習(xí)方法的認(rèn)識(shí)，分為前饋網(wǎng)絡(luò)與反饋網(wǎng)絡(luò)這兩大類(lèi)網(wǎng)絡(luò)結(jié)構(gòu)，闡述主要計(jì)算模型及其學(xué)習(xí)方法。最后對(duì)機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)下一步的發(fā)展趨勢(shì)進(jìn)行了展望。

　　隨著深度學(xué)習(xí)技術(shù)的興起及其在阿爾法圍棋程序（AlphaGo）等實(shí)際應(yīng)用中的精彩表現(xiàn)，人工智能（artificial intelligence，AI）再次進(jìn)入公眾的視野，AI迅速成為流行詞匯，而深度學(xué)習(xí)也因此成為AI的代名詞，為許多專(zhuān)業(yè)及非專(zhuān)業(yè)人士所關(guān)注，希望了解這項(xiàng)看似神奇的技術(shù)。對(duì)此，要在機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)這兩大人工智能實(shí)現(xiàn)途徑的大背景下來(lái)學(xué)習(xí)和研究“深度學(xué)習(xí)”�？梢哉f(shuō)，人工神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)之母，機(jī)器學(xué)習(xí)是深度學(xué)習(xí)之父。待有了機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)后，再探索深度學(xué)習(xí)的理論與方法，方能建構(gòu)起穩(wěn)固的知識(shí)體系，否則終將是沒(méi)有地基的棚屋，搖搖欲墜，一遇到深層次的問(wèn)題，便會(huì)土崩瓦解。事實(shí)上，深度學(xué)習(xí)只是機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)中的一小部分，而除了機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)，人工智能還有符號(hào)智能、進(jìn)化計(jì)算、計(jì)算群智能和行為智能。唯有知曉人工智能之全豹，才可能洞見(jiàn)深度學(xué)習(xí)這一斑。這自然并非易事，因?yàn)槿斯ぶ悄茏鳛槿祟?lèi)“認(rèn)識(shí)自身（knowyourself）”的學(xué)問(wèn)，其困難程度本身即不亞于上九天攬?jiān)隆⑾律詈Ｇ荦�。以深度學(xué)習(xí)為代表，人類(lèi)已在探索人工智能的道路上取得諸多輝煌的成就，但即便如此，我們現(xiàn)在仍然處在人工智能發(fā)展的嬰兒期，對(duì)于人類(lèi)智能的本質(zhì)知之甚少，對(duì)于其外在表現(xiàn)也還不過(guò)初窺堂奧，未來(lái)還有很長(zhǎng)很長(zhǎng)的路要走。對(duì)此，真正有志于人工智能學(xué)習(xí)和研究的人應(yīng)有清醒的認(rèn)識(shí)和足夠的敬畏，如此才能在人類(lèi)實(shí)現(xiàn)人工智能的偉大事業(yè)中保持激情。
　　本書(shū)正是基于上述認(rèn)識(shí)，在人工智能總體知識(shí)的大背景下，從算法實(shí)現(xiàn)的角度，探討當(dāng)前機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域中的主要問(wèn)題與解決方案，希冀針對(duì)這兩個(gè)人工智能中緊密聯(lián)系的分支建構(gòu)起系統(tǒng)完整的知識(shí)體系。全書(shū)內(nèi)容分為12章：
　　第1章為緒論，在對(duì)人工智能的總認(rèn)識(shí)下，說(shuō)明機(jī)器學(xué)習(xí)與人工神經(jīng)網(wǎng)絡(luò)問(wèn)題，分別介紹這兩項(xiàng)技術(shù)的發(fā)展簡(jiǎn)史，為全書(shū)內(nèi)容奠基。
　　第2章為機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)，定義機(jī)器學(xué)習(xí)問(wèn)題，總結(jié)歸納學(xué)習(xí)的主要類(lèi)型和常見(jiàn)的特定學(xué)習(xí)概念，分析機(jī)器學(xué)習(xí)算法應(yīng)解決的主要問(wèn)題。
　　第3章至第8章分別圍繞監(jiān)督學(xué)習(xí)、非監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)這四種歸納學(xué)習(xí)類(lèi)型，探討相應(yīng)的解決方案。在監(jiān)督學(xué)習(xí)中，該學(xué)習(xí)方式目前本質(zhì)上是函數(shù)學(xué)習(xí)，按數(shù)據(jù)點(diǎn)函數(shù)表示形式、離散函數(shù)形式、連續(xù)函數(shù)形式、隨機(jī)函數(shù)形式四種，圍繞優(yōu)化目標(biāo)與優(yōu)化算法這兩個(gè)關(guān)鍵問(wèn)題的解決來(lái)進(jìn)行闡述。在非監(jiān)督學(xué)習(xí)中，探討了學(xué)習(xí)數(shù)據(jù)分布規(guī)律的聚類(lèi)問(wèn)題及其算法，以及學(xué)習(xí)數(shù)據(jù)之間相互關(guān)系的關(guān)聯(lián)規(guī)則挖掘問(wèn)題及其算法，并專(zhuān)門(mén)闡述了作為非監(jiān)督學(xué)習(xí)基礎(chǔ)的相似性計(jì)算問(wèn)題及其解決方法。在半監(jiān)督學(xué)習(xí)中，分為面向監(jiān)督任務(wù)的半監(jiān)督學(xué)習(xí)與面向非監(jiān)督任務(wù)的半監(jiān)督學(xué)習(xí)兩類(lèi)問(wèn)題，分別介紹了相應(yīng)算法。在強(qiáng)化學(xué)習(xí)中，圍繞學(xué)習(xí)最優(yōu)行動(dòng)策略的根本目標(biāo)，按照策略、V值、Q值這三個(gè)關(guān)鍵因素之間的相互關(guān)系，闡述了主要的強(qiáng)化學(xué)習(xí)算法，包括強(qiáng)化學(xué)習(xí)與深度網(wǎng)絡(luò)相結(jié)合所導(dǎo)致的深度強(qiáng)化學(xué)習(xí)算法。
　　第9章為人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí)，介紹人工神經(jīng)網(wǎng)絡(luò)的源起與定義，說(shuō)明作為神經(jīng)網(wǎng)絡(luò)基本構(gòu)成元素的人工神經(jīng)元模型，闡述網(wǎng)絡(luò)結(jié)構(gòu)與學(xué)習(xí)算法這兩個(gè)人工神經(jīng)網(wǎng)絡(luò)技術(shù)中的根本問(wèn)題。
　　第10章和第1 1章分別從前饋網(wǎng)絡(luò)結(jié)構(gòu)和反饋網(wǎng)絡(luò)結(jié)構(gòu)出發(fā)，闡述包括深度網(wǎng)絡(luò)在內(nèi)的各種網(wǎng)絡(luò)結(jié)構(gòu)模型以及建構(gòu)在模型之上的學(xué)習(xí)算法。在前饋網(wǎng)絡(luò)中，主要從感知器到多層感知器再到深度網(wǎng)絡(luò)的發(fā)展脈絡(luò)，探討感知器、Adaline網(wǎng)絡(luò)、反向傳播（BP）網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、全卷積網(wǎng)絡(luò)、U型網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)與自編碼器網(wǎng)絡(luò)。此外，還分析了與此技術(shù)路線(xiàn)不同的另外兩種前饋網(wǎng)絡(luò)：徑向基函數(shù)網(wǎng)絡(luò)與自組織映射網(wǎng)。在反饋網(wǎng)絡(luò)中，將主要模型總結(jié)為穩(wěn)定型反饋網(wǎng)絡(luò)與時(shí)序型反饋網(wǎng)絡(luò)兩類(lèi)。在此基礎(chǔ)上，闡述霍普費(fèi)爾德網(wǎng)絡(luò)與玻爾茲曼機(jī)這兩種穩(wěn)定型反饋網(wǎng)絡(luò)，以及喬丹網(wǎng)絡(luò)、艾爾曼網(wǎng)絡(luò)、長(zhǎng)短時(shí)記憶（LSTM）網(wǎng)絡(luò)、雙向反饋（BRNN）網(wǎng)絡(luò)等時(shí)序型反饋網(wǎng)絡(luò)。
　　第12章為結(jié)語(yǔ)，總結(jié)全書(shū)內(nèi)容，給出對(duì)未來(lái)問(wèn)題與技術(shù)的展望，包括小樣本學(xué)習(xí)、相似度計(jì)算、網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)、網(wǎng)絡(luò)可視化以及傳統(tǒng)方法與神經(jīng)網(wǎng)絡(luò)的合流。
　　本書(shū)是以一種近乎矛盾的心態(tài)寫(xiě)成的。一種心態(tài)是做知識(shí)的整理，有教材的性質(zhì)；另一種心態(tài)是做全面獨(dú)立的思考，有著作的性質(zhì)。這兩種心態(tài)是需要互補(bǔ)的，沒(méi)有有序的整理便沒(méi)有有益的思考，沒(méi)有有益的思考也就沒(méi)有有序的整理。因此，請(qǐng)讀者帶著這種矛盾的心態(tài)閱讀本書(shū)，或許能因此有更多的收獲。

第1章 緒論
1．1 人工智能及其實(shí)現(xiàn)途徑
1．1．1 智能的外在表現(xiàn)與模擬
1．1．2 機(jī)器學(xué)習(xí)
1．1．3 人工神經(jīng)網(wǎng)絡(luò)
1．2 機(jī)器學(xué)習(xí)簡(jiǎn)史
1．3 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)史
1．4 本書(shū)內(nèi)容與組織
參考文獻(xiàn)

第2章 機(jī)器學(xué)習(xí)基礎(chǔ)
2．1 機(jī)器學(xué)習(xí)
2．2 機(jī)器學(xué)習(xí)方式
2．3 歸納學(xué)習(xí)類(lèi)型
2．3．1 監(jiān)督學(xué)習(xí)
2．3．2 非監(jiān)督學(xué)習(xí)
2．3．3 半監(jiān)督學(xué)習(xí)
2．3．4 強(qiáng)化學(xué)習(xí)
2．3．5 各學(xué)習(xí)類(lèi)型的特點(diǎn)與共性
2．4 特定學(xué)習(xí)概念
2．4．1 生成學(xué)習(xí)與判別學(xué)習(xí)
2．4．2 度量學(xué)習(xí)
2．4．3 在線(xiàn)學(xué)習(xí)／遞增學(xué)習(xí)
2．4．4 反饋學(xué)習(xí)
2．4．5 多任務(wù)學(xué)習(xí)
2．4．6 深度學(xué)習(xí)
2．4．7 遷移學(xué)習(xí)
2．4．8 流形學(xué)習(xí)
2．4．9 多示例學(xué)習(xí)
2．5 對(duì)學(xué)習(xí)算法的評(píng)價(jià)
2．5．1 過(guò)學(xué)習(xí)與泛化
2．5．2 偏置
2．5．3 數(shù)據(jù)魯棒性
2．5．4 計(jì)算復(fù)雜性
2．5．5 透明性
參考文獻(xiàn)

第3章 監(jiān)督學(xué)習(xí)
3．1 函數(shù)形式
3．1．1 顯式表示形式
3．1．2 隱式表示形式
3．1．3 數(shù)據(jù)點(diǎn)表示形式
3．2 優(yōu)化目標(biāo)
3．2．1 最小平方誤差
3．2．2 最小化熵
3．2．3 極大似然估計(jì)
3．2．4 極大后驗(yàn)概率估計(jì)
3．2．5 最小描述長(zhǎng)度
3．3 記憶學(xué)習(xí)
3．4 決策樹(shù)學(xué)習(xí)
3．4．1 決策樹(shù)
3．4．2 基于信息增益的決策樹(shù)生成算法（ID3算法）
3．4．3 ID3算法的過(guò)學(xué)習(xí)問(wèn)題與對(duì)策
3．4．4 基于最小描述長(zhǎng)度準(zhǔn)則的決策樹(shù)學(xué)習(xí)算法
3．5 支持向量機(jī)
……
第4章 相似性度量
第5章 聚類(lèi)方法
第6章 關(guān)聯(lián)規(guī)則挖掘方法
第7章 半監(jiān)督學(xué)習(xí)方法
第8章 強(qiáng)化學(xué)習(xí)
第9章 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
第10章 前饋神經(jīng)網(wǎng)絡(luò)
第11章 反饋神經(jīng)網(wǎng)絡(luò)
第12章 結(jié)語(yǔ)