本書從一位虛擬機(VM)架構師的角度,以易于理解、層層深入的方式介紹了各種主題和算法,尤其是不同VM通用的主要技術。這些算法用圖示充分解釋,用便于理解的代碼片段實現(xiàn),使得這些抽象概念對系統(tǒng)軟件工程師而言具像化并可編程。書中還包括一些同類文獻中較少涉及的主題,例如運行時輔助、棧展開和本地接口。本書集理論性與實踐性于一身,不僅結(jié)合了高層設計功能與底層實現(xiàn),而且還結(jié)合了高級主題與商業(yè)解決方案,是VM設計和工程實踐方面的理想?yún)⒖甲x物。
在當今的計算系統(tǒng)中,虛擬機已經(jīng)變得無處不在--從物聯(lián)網(wǎng)節(jié)點到移動電話、個人計算機,再到云平臺。因其所能賦予軟件的一些重要屬性,如安全性、高生產(chǎn)率和可移植性,虛擬機一直吸引著軟件研究人員和開發(fā)者的興趣和關注。
本書旨在通過循序漸進、通俗易懂的方式講解虛擬機的通用技術,主要以JVM設計為例,并兼顧其他虛擬機。本書還包括一些同類文獻中較少涉及的主題,例如運行時輔助、棧展開和本地接口。本書是虛擬機設計和工程實踐方面的理想?yún)⒖甲x物,讀者若掌握書中的知識點,便能為任意一種語言虛擬機的設計開發(fā)打下堅實的基礎。
● 虛擬機基礎:類型、內(nèi)部組成、數(shù)據(jù)結(jié)構
● 虛擬機設計:執(zhí)行引擎設計、垃圾回收設計、線程設計
● 虛擬機內(nèi)部支持:本地接口、棧展開、垃圾回收支持、運行時輔助,等等
● 垃圾回收(GC)優(yōu)化:針對吞吐量的GC優(yōu)化、針對可擴展性的GC優(yōu)化、針對響應性的GC優(yōu)化、并發(fā)移動式回收
● 線程交互優(yōu)化:monitor性
“本書論述了關于虛擬機設計與實現(xiàn)的高級主題,已經(jīng)成為我不可或缺的參考書。我向系統(tǒng)軟件開發(fā)者,尤其是托管運行時系統(tǒng)的開發(fā)者,強烈推薦本書,因為本書能夠清晰地解答他們在探索虛擬機相關話題時所產(chǎn)生的疑問!薄苤镜,F(xiàn)uturewei Technologies首席科學家
“當前語言虛擬機的應用范圍越來越廣,各類新的語言虛擬機也層出不窮,虛擬機技術的專業(yè)圖書卻不多見。本書是作者多年研究與實踐的心得與沉淀,值得一讀!薄影海A為硅谷基礎軟件實驗室主任、華為Fellow
“關于虛擬機架構的設計,本書不但闡明了是什么,而且討論了為什么。作者從架構師的角度高屋建瓴地分析了技術選擇背后的來龍去脈,相信讀者一定會受益匪淺!薄魑貔i,北卡羅來納州立大學計算機系教授
“虛擬機技術在編程語言、編譯器、計算機架構、Web系統(tǒng)等領域均有深遠的影響。作者具備這些領域的工作經(jīng)歷,本書的寫作也扎根于其在虛擬機研究及開發(fā)過程中的一手資料。本書通過循序漸進的方式,將虛擬機技術融入豐富的示例與代碼中,使得讀者能夠同時在理論和實踐的層面充分理解虛擬機技術的精髓!薄熳忧,英偉達高級軟件架構師
“本書作者來自工業(yè)界,有著豐富的工程實踐經(jīng)驗。書中同時包含了學術界在虛擬機相關領域的研究成果。其中重要的技術討論,既有代碼示例,又有理論分析,能幫助讀者透徹地理解虛擬機技術的要點、難點!薄肿映,美國高通研發(fā)總監(jiān)
【作者簡介】
李曉峰(Xiao-Feng Li)
長期從事系統(tǒng)軟件的研究與開發(fā),在并行計算、操作系統(tǒng)、編譯器和語言設計方面有著豐富的技術經(jīng)驗。Apache Harmony JVM的主要貢獻者,所創(chuàng)建的一個微內(nèi)核VM被發(fā)展為Intel Micro Runtime。目前在一家大型科技公司任技術副總裁,致力于定義和開發(fā)基于移動和智能設備的下一代分布式操作系統(tǒng)。擁有計算機科學博士學位,在閑暇時熱衷于人機交互方式的探索。
【譯者簡介】
單業(yè)
計算機專業(yè)碩士,軟件工程師,曾供職于多家軟件公司,從事軟件開發(fā)工作,現(xiàn)居于上海。譯有《你不知道的JavaScript》中卷及下卷。
第 一部分 虛擬機基礎
第 1章 虛擬機簡介 2
1.1 虛擬機類型 2
1.2 為什么需要虛擬機 3
1.3 虛擬機示例 4
1.3.1 JavaScript引擎 4
1.3.2 Perl引擎 5
1.3.3 Android Java VM 5
1.3.4 Apache Harmony 6
第 2章 虛擬機內(nèi)部組成 7
2.1 虛擬機核心組件 7
2.1.1 加載器與動態(tài)鏈接器 7
2.1.2 執(zhí)行引擎 8
2.1.3 內(nèi)存管理器 8
2.1.4 線程調(diào)度器 9
2.1.5 語言擴展 9
2.1.6 傳統(tǒng)模型與虛擬機模型 10
2.2 虛擬ISA 11
2.2.1 JVM 12
2.2.2 JVM與CLR 15
第3章 虛擬機中的數(shù)據(jù)結(jié)構 17
3.1 對象與類 17
3.2 對象表示 18
3.3 方法描述 18
第二部分 虛擬機設計
第4章 執(zhí)行引擎設計 22
4.1 解釋器 22
4.1.1 超級指令 23
4.1.2 選擇性內(nèi)聯(lián) 23
4.2 JIT編譯 23
4.2.1 基于方法的JIT 24
4.2.2 基于蹤跡的JIT 26
4.2.3 基于區(qū)域的JIT 29
4.3 解釋器與JIT編譯器的關系 30
4.4 AOT編譯 31
4.5 編譯時與運行時 33
第5章 垃圾回收設計 37
5.1 對象生存期 37
5.2 引用計數(shù) 38
5.3 對象追蹤 40
5.4 RC與對象追蹤 42
5.5 GC安全點 43
5.6 常用追蹤GC算法 45
5.6.1 標記清除 46
5.6.2 追蹤復制 46
5.7 常用追蹤GC變體 48
5.7.1 標記壓縮 48
5.7.2 滑動壓縮 48
5.7.3 追蹤轉(zhuǎn)發(fā) 49
5.7.4 標記復制 50
5.7.5 分代式GC 50
5.8 移動式GC與非移動式GC 53
5.8.1 數(shù)據(jù)局部性 53
5.8.2 跳增指針分配 53
5.8.3 空閑列表與分配位圖 53
5.8.4 離散大小列表 54
5.8.5 標記位與分配位 54
5.8.6 線程局部分配 55
5.8.7 移動式GC與非移動式GC的混合 56
第6章 線程設計 58
6.1 什么是線程 58
6.2 內(nèi)核線程與用戶線程 59
6.3 VM線程到OS線程的映射 61
6.4 同步構件 63
6.5 monitor 65
6.5.1 互斥 65
6.5.2 條件變量 66
6.5.3 monitorenter 66
6.5.4 monitorexit 69
6.5.5 Object.wait() 71
6.5.6 Object.notify() 71
6.6 原子 73
6.7 monitor與原子 75
6.7.1 阻塞與非阻塞 75
6.7.2 中央控制點 75
6.7.3 鎖與非鎖 75
6.7.4 非阻塞之上的阻塞 76
6.8 回收器與修改器 77
6.9 線程局部數(shù)據(jù) 78
6.10 GC的線程暫停支持 81
6.10.1 GC安全點 81
6.10.2 GC安全區(qū)域 83
6.10.3 基于鎖的安全點 86
6.10.4 回收中的線程交互 87
第三部分 虛擬機內(nèi)部支持
第7章 本地接口 92
7.1 為何需要本地接口 92
7.2 從托管代碼到本地代碼的轉(zhuǎn)換 93
7.2.1 本地方法封裝 94
7.2.2 封裝代碼的GC支持 96
7.2.3 封裝代碼的同步支持 98
7.3 本地方法實現(xiàn)的綁定 99
7.4 本地代碼到托管代碼的轉(zhuǎn)換 99
7.5 本地代碼到本地代碼的轉(zhuǎn)換 102
7.5.1 通過JNI API的本地到本地轉(zhuǎn)換 102
7.5.2 為什么在本地到本地轉(zhuǎn)換中使用JNI API 105
第8章 棧展開 107
8.1 為何需要棧展開 107
8.2 Java方法幀的棧展開 108
8.2.1 棧展開設計 108
8.2.2 棧展開實現(xiàn) 110
8.3 本地方法幀的棧展開 112
8.3.1 棧展開設計 112
8.3.2 Java到本地封裝設計 114
8.3.3 棧展開實現(xiàn) 116
8.3.4 本地幀與C幀 117
第9章 垃圾回收支持 119
9.1 為何需要垃圾回收支持 119
9.2 在Java代碼中支持垃圾回收 121
9.2.1 GC-map 121
9.2.2 帶寄存器的棧展開 124
9.3 在本地代碼中支持垃圾回收 126
9.3.1 對象引用訪問 127
9.3.2 對象句柄實現(xiàn) 129
9.3.3 GC安全性維護 132
9.3.4 對象體訪問 133
9.3.5 對象分配 135
9.4 在同步方法中支持垃圾回收 136
9.4.1 同步Java方法 136
9.4.2 同步本地方法 138
9.5 Java與本地代碼轉(zhuǎn)換中的GC支持 140
9.5.1 本地到Java 140
9.5.2 Java到本地 142
9.5.3 本地到本地 142
9.6 全局根集 144
第 10章 運行時輔助 145
10.1 為何需要運行時輔助 145
10.2 帶運行時輔助的VM服務設計 147
10.2.1 運行時輔助操作 147
10.2.2 運行時輔助實現(xiàn) 148
10.2.3 JNI API作為運行時輔助 150
10.3 沒有運行時輔助的VM服務設計 151
10.3.1 運行時輔助的快速路徑 153
10.3.2 快速路徑VM服務編程 154
10.4 主要VM服務 154
第 11章 異常拋出 157
11.1 保存異常拋出上下文 157
11.1.1 VM保存的上下文 158
11.1.2 Linux中OS保存的上下文 158
11.1.3 Windows中OS保存的上下文 159
11.1.4 同步與異步異!160
11.2 本地代碼內(nèi)與跨本地代碼異常處理 161
11.2.1 本地代碼內(nèi)的異常處理 161
11.2.2 帶異常Java代碼返回到本地代碼 162
11.2.3 帶異常的本地代碼返回到Java代碼 166
11.3 保存棧軌跡 167
11.4 找到異常處理器 169
11.5 控制轉(zhuǎn)移 172
11.5.1 控制轉(zhuǎn)移操作 172
11.5.2 用于控制轉(zhuǎn)移的寄存器 173
11.5.3 數(shù)據(jù)寄存器恢復 174
11.5.4 控制寄存器修正 176
11.5.5 執(zhí)行恢復 176
11.5.6 未捕獲異!179
第 12章 終結(jié)與弱引用 180
12.1 終結(jié) 180
12.2 為何需要弱引用 182
12.3 對象生存期狀態(tài) 184
12.3.1 對象狀態(tài)轉(zhuǎn)換 185
12.3.2 引用隊列 187
12.3.3 引用對象狀態(tài)轉(zhuǎn)換 187
12.4 引用對象實現(xiàn) 189
12.5 引用對象處理順序 191
第 13章 虛擬機模塊化設計 194
13.1 VM組件 194
13.2 對象信息暴露 197
13.3 垃圾回收器接口 199
13.4 執(zhí)行引擎接口 202
13.5 跨組件優(yōu)化 203
第四部分 垃圾回收優(yōu)化
第 14章 針對吞吐量的GC優(yōu)化 208
14.1 部分堆回收與全堆回收之間的適應性調(diào)整 208
14.2 分代式與非分代式算法之間的適應性調(diào)整 213
14.3 堆的空間大小的適應性調(diào)整 217
14.3.1 空間大小擴展 218
14.3.2 NOS大小 219
14.3.3 部分轉(zhuǎn)發(fā)NOS設計 221
14.3.4 半空間NOS設計 221
14.3.5 aged-mature NOS設計 223
14.3.6 回退回收 225
14.4 分配空間之間的適應性調(diào)整 225
14.5 大OS頁與預取 230
第 15章 針對可擴展性的GC優(yōu)化 232
15.1 回收階段 232
15.2 并行對象圖遍歷 233
15.2.1 任務共享 234
15.2.2 工作偷取 234
15.2.3 任務推送 235
15.3 并行對象標記 238
15.4 并行壓縮 239
15.4.1 并行LISP2壓縮器 239
15.4.2 對象依賴樹 241
15.4.3 帶用于轉(zhuǎn)發(fā)指針的目標表的壓縮器 244
15.4.4 基于對象節(jié)的壓縮器 246
15.4.5 單趟就地壓縮器 247
第 16章 針對響應性的GC優(yōu)化 249
16.1 區(qū)域式GC 249
16.2 并發(fā)追蹤 252
16.2.1 起始快照 252
16.2.2 增量更新 256
16.2.3 用三色術語表示并發(fā)追蹤 259
16.2.4 使用讀屏障的并發(fā)追蹤 260
16.3 并發(fā)根集枚舉 261
16.3.1 并發(fā)根集枚舉設計 262
16.3.2 在根集枚舉過程中追蹤堆 265
16.3.3 并發(fā)棧掃描 266
16.4 并發(fā)回收調(diào)度 267
16.4.1 調(diào)度并發(fā)根集枚舉 267
16.4.2 調(diào)度并發(fā)堆追蹤 269
16.4.3 并發(fā)回收調(diào)度 271
16.4.4 并發(fā)回收階段轉(zhuǎn)換 272
第 17章 并發(fā)移動式回收 277
17.1 并發(fā)復制:“目標空間不變” 277
17.1.1 基于槽位的“目標空間不變”算法 277
17.1.2 “目標空間不變”性 280
17.1.3 對象轉(zhuǎn)發(fā) 282
17.1.4 基于對象的“目標空間不變”算法 283
17.1.5 基于虛擬內(nèi)存的“目標空間不變”算法 285
17.2 并發(fā)復制:“當前副本不變” 286
17.2.1 對象移動風暴 286
17.2.2 “當前副本不變”設計 287
17.2.3 并發(fā)復制與并發(fā)堆追蹤的關系 289
17.3 并發(fā)復制:“源空間不變” 292
17.3.1 “源空間不變”設計 292
17.3.2 部分轉(zhuǎn)發(fā)“源空間不變”設計 294
17.4 無STW的完整并發(fā)移動 295
17.5 并發(fā)壓縮回收 296
17.5.1 并發(fā)區(qū)域復制式回收 296
17.5.2 基于虛擬內(nèi)存的并發(fā)壓縮 299
第五部分 線程交互優(yōu)化
第 18章 monitor性能優(yōu)化 308
18.1 惰性鎖 308
18.2 瘦鎖 310
18.2.1 瘦鎖鎖定路徑 310
18.2.2 瘦鎖解鎖路徑 313
18.2.3 競爭標志重置支持 316
18.3 胖鎖 318
18.3.1 整合monitor數(shù)據(jù)結(jié)構 318
18.3.2 交由OS來支持 319
18.3.3 瘦鎖膨脹為胖鎖 321
18.3.4 休眠等待被競爭瘦鎖 324
18.4 Tasuki鎖 327
18.4.1 將同一個胖鎖monitor用于競爭控制 327
18.4.2 胖鎖收縮為瘦鎖 331
18.5 線程局部鎖 334
18.5.1 鎖保留 335
18.5.2 線程親密鎖 339
第 19章 基于硬件事務內(nèi)存的設計 346
19.1 硬件事務內(nèi)存 346
19.1.1 從事務數(shù)據(jù)庫到事務內(nèi)存 346
19.1.2 Intel的HTM實現(xiàn) 347
19.2 使用HTM的monitor實現(xiàn) 348
19.2.1 基于HTM的monitor的正確性問題 349
19.2.2 基于HTM的monitor的性能問題 352
19.3 使用HTM的并發(fā)垃圾回收 355
19.3.1 GC中HTM的機會 355
19.3.2 復制式回收 357
19.3.3 壓縮式回收 360
參考文獻 364