目錄
前言
符號表
第1章 引言 1
1.1 簡介 1
1.2 貝葉斯統(tǒng)計 4
1.2.1 基本概念 4
1.2.2 貝葉斯推斷 8
1.3 本書主要內(nèi)容 10
1.4 Python、R與Julia編程環(huán)境搭建 10
1.4.1 Python環(huán)境搭建 10
1.4.2 R 環(huán)境搭建 15
1.4.3 Julia 環(huán)境搭建 21
第2章 概率論基礎(chǔ) 29
2.1 事件、劃分和概率 29
2.1.1 事件與劃分 29
2.1.2 概率函數(shù) 30
2.1.3 條件概率 31
2.1.4 信念函數(shù) 33
2.2 隨機變量及其分布 34
2.2.1 離散型隨機變量 34
2.2.2 連續(xù)型隨機變量 37
2.2.3 指數(shù)族 47
2.3 多維隨機變量及其分布 48
2.3.1 多維隨機變量的聯(lián)合分布 48
2.3.2 邊際分布與隨機變量的獨立性 49
2.3.3 條件分布 51
2.3.4 常見的多維隨機變量——多元正態(tài)分布 51
2.4 隨機變量的特征數(shù) 52
2.4.1 一維隨機變量的期望與方差 52
2.4.2 n 維隨機變量的期望與協(xié)方差矩陣 54
2.4.3 常用概率分布及其期望與方差 55
2.5 習(xí)題 57
第3章 貝葉斯推斷基礎(chǔ) 59
3.1 條件方法 59
3.2 后驗分布的計算 60
3.3 點估計 60
3.3.1 矩估計 60
3.3.2 極大似然估計 63
3.3.3 貝葉斯估計 67
3.3.4 常用概率分布的參數(shù)估計 73
3.4 區(qū)間估計 73
3.4.1 可信區(qū)間 73
3.4.2 最大后驗密度可信區(qū)間 77
3.5 假設(shè)檢驗 81
3.5.1 貝葉斯假設(shè)檢驗與貝葉斯因子 82
3.5.2 簡單假設(shè)對簡單假設(shè) 82
3.5.3 復(fù)雜假設(shè)對復(fù)雜假設(shè) 83
3.5.4 簡單原假設(shè)對復(fù)雜備擇假設(shè) 86
3.6 預(yù)測 92
3.6.1 預(yù)測原理 92
3.6.2 統(tǒng)計預(yù)測示例 93
3.7 似然原理 96
3.8 Python、R與Julia的貝葉斯統(tǒng)計庫介紹與應(yīng)用 100
3.8.1 Python的貝葉斯統(tǒng)計庫介紹與應(yīng)用 100
3.8.2 R的貝葉斯統(tǒng)計庫介紹與應(yīng)用 102
3.8.3 Julia的貝葉斯統(tǒng)計庫介紹與應(yīng)用 103
3.9 習(xí)題 104
第4章 先驗分布的確定 106
4.1 共軛先驗分布 106
4.1.1 共軛先驗分布的定義 106
4.1.2 一些關(guān)于共軛先驗分布的結(jié)論 108
4.1.3 常用的共軛先驗分布 109
4.2 主觀概率 111
4.2.1 引言及定義 111
4.2.2 確定主觀概率的方法 111
4.3 利用先驗信息確定先驗分布 112
4.3.1 直方圖法 112
4.3.2 選定先驗密度函數(shù)形式再估計其超參數(shù) 113
4.3.3 定分度法與變分度法 114
4.4 無信息先驗分布 115
4.4.1 貝葉斯假設(shè) 115
4.4.2 位置參數(shù)的無信息先驗 116
4.4.3 尺度參數(shù)的無信息先驗 117
4.4.4 Jeffreys先驗.119
4.4.5 Reference先驗 121
4.5 有信息先驗分布 122
4.5.1 指數(shù)先驗 122
4.5.2 導(dǎo)出先驗 123
4.5.3 最大熵先驗 123
4.5.4 混合共軛先驗 127
4.6 分層先驗 128
4.7 習(xí)題 130
第5章 貝葉斯計算 131
5.1 馬爾可夫鏈蒙特卡羅方法介紹 131
5.1.1 蒙特卡羅法 131
5.1.2 馬爾可夫鏈 135
5.1.3 MCMC 138
5.2 貝葉斯分析中的直接抽樣方法 139
5.2.1 格子點抽樣法 139
5.2.2 多參數(shù)模型中的抽樣 141
5.3 Gibbs抽樣 148
5.3.1 二階段Gibbs抽樣 148
5.3.2 多階段Gibbs抽樣 151
5.4 Metropolis-Hastings算法 154
5.4.1 Metropolis抽樣 156
5.4.2 隨機游動Metropolis抽樣 158
5.4.3 獨立性抽樣法 159
5.4.4 逐分量MH算法 161
5.5 哈密頓蒙特卡羅方法162
5.5.1 哈密頓動力學(xué)和目標分布 162
5.5.2 HMC 164
5.6 MCMC收斂性診斷 169
5.6.1 收斂性診斷圖 170
5.6.2 收斂性指標 171
5.7 使用 Python、R與Julia實現(xiàn)MCMC 171
5.8 習(xí)題 178
第6章 貝葉斯線性模型 180
6.1 線性回歸模型 180
6.1.1 正態(tài)線性回歸模型 180
6.1.2 似不相關(guān)回歸模型 184
6.1.3 泊松回歸模型 184
6.2 回歸模型的貝葉斯估計 186
6.2.1 Jefferys先驗 186
6.2.2 半共軛先驗分布 187
6.2.3 無信息先驗和弱信息先驗分布 188
6.2.4 廣義線性模型的有信息先驗分布 193
6.3 其他統(tǒng)計模型中的貝葉斯方法 204
6.3.1 非參數(shù)回歸 204
6.3.2 異方差模型 206
6.3.3 非正態(tài)誤差模型 207
6.4 習(xí)題 209
第7章 貝葉斯神經(jīng)網(wǎng)絡(luò) 210
7.1 神經(jīng)網(wǎng)絡(luò) 210
7.2 貝葉斯神經(jīng)網(wǎng)絡(luò) 212
7.3 推斷方法 214
7.3.1 變分推斷 214
7.3.2 蒙特卡羅推斷 215
7.4 使用 Python、R與Julia構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò) 217
7.4.1 使用Python構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò).217
7.4.2 使用R構(gòu)建貝葉斯前饋神經(jīng)網(wǎng)絡(luò) 222
7.4.3 使用Julia構(gòu)建貝葉斯神經(jīng)網(wǎng)絡(luò) 228
7.5 習(xí)題 231
第8章 模型選擇與診斷 233
8.1 模型擬合能力的指標 233
8.1.1 AIC 234
8.1.2 WAIC 235
8.1.3 DIC 235
8.1.4 BIC 237
8.2 模型預(yù)測能力的指標 245
8.2.1 交叉驗證 245
8.2.2 對數(shù)偽邊際似然 247
8.3 貝葉斯框架下特有指標 250
8.3.1 貝葉斯p-值 250
8.3.2 貝葉斯因子 252
8.4 收縮先驗 253
8.4.1 spike-and-slab先驗 253
8.4.2 連續(xù)收縮先驗 258
8.5 習(xí)題 267
第9章 實際案例與應(yīng)用 269
9.1 貝葉斯統(tǒng)計在生態(tài)學(xué)中的應(yīng)用 269
9.1.1 貝葉斯分層模型 269
9.1.2 利用貝葉斯分層模型估計物種分布 271
9.1.3 模型及算法實現(xiàn) 273
9.1.4 結(jié)果分析 276
9.2 貝葉斯統(tǒng)計在生存分析中的應(yīng)用 278
9.2.1 潛高斯模型 278
9.2.2 變量的邊際分布 279
9.2.3 Cox比例風(fēng)險模型下的INLA 282
9.3 貝葉斯統(tǒng)計在教育測量中的應(yīng)用 287
9.3.1 貝葉斯IRT模型 287
9.3.2 潛在類別模型 288
9.3.3 模型與算法實現(xiàn) 290
9.3.4 結(jié)果分析 296
參考文獻 298