第1篇導(dǎo)論篇
第1章什么是工業(yè)大數(shù)據(jù)3
1.1工業(yè)大數(shù)據(jù)的定義3
1.2確定性與不確定性并存3
1.34V特征4
1.4多模態(tài)、強(qiáng)關(guān)聯(lián)、高通量5
1.5應(yīng)用特征5
本章參考文獻(xiàn)7
第2章發(fā)展動(dòng)態(tài)與現(xiàn)實(shí)需求8
2.1國際動(dòng)態(tài)8
2.2國內(nèi)現(xiàn)狀9
2.3現(xiàn)實(shí)需求10
本章參考文獻(xiàn)11
第3章系統(tǒng)架構(gòu)與關(guān)鍵技術(shù)12
3.1工業(yè)大數(shù)據(jù)技術(shù)架構(gòu)12
3.2工業(yè)大數(shù)據(jù)管理系統(tǒng)架構(gòu)14
3.3工業(yè)大數(shù)據(jù)管理關(guān)鍵技術(shù)15
本章參考文獻(xiàn)16
第2篇多模態(tài)異構(gòu)數(shù)據(jù)源管理引擎篇
第4章高通量監(jiān)測時(shí)序數(shù)據(jù)管理引擎19
4.1概述19
4.2需求19
4.2.1時(shí)序數(shù)據(jù)19
4.2.2應(yīng)用場景19
4.2.3功能需求20
4.2.4現(xiàn)有工作21
4.3系統(tǒng)設(shè)計(jì)21
4.3.1系統(tǒng)架構(gòu)21
4.3.2系統(tǒng)特點(diǎn)22
4.3.3數(shù)據(jù)模型23
4.3.4編碼壓縮23
4.3.5查詢功能23
4.4技術(shù)實(shí)現(xiàn)25
4.4.1TsFile文件格式25
4.4.2存儲(chǔ)引擎26
4.4.3查詢引擎26
4.5性能27
4.5.1性能概述27
4.5.2測試結(jié)果27
4.6本章小結(jié)32
本章參考文獻(xiàn)33
面向高端制造領(lǐng)域的大數(shù)據(jù)管理系統(tǒng)目錄
第5章海量非結(jié)構(gòu)化仿真數(shù)據(jù)管理引擎34
5.1概述34
5.2需求34
5.2.1應(yīng)用場景34
5.2.2相關(guān)工作36
5.2.3需求描述36
5.3方法設(shè)計(jì)39
5.3.1系統(tǒng)框架執(zhí)行原理39
5.3.2系統(tǒng)管理者模塊40
5.3.3元數(shù)據(jù)存儲(chǔ)模塊40
5.3.4非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)模塊41
5.4技術(shù)實(shí)現(xiàn)41
5.4.1小文件管理策略42
5.4.2查詢語法43
5.5性能48
5.5.1Benchmark測試48
5.5.2ImageNet測試49
5.6本章小結(jié)50
本章參考文獻(xiàn)51
第6章BOM圖數(shù)據(jù)管理引擎52
6.1概述52
6.2需求52
6.2.1BOM數(shù)據(jù)的建模需求52
6.2.2BOM數(shù)據(jù)的查詢需求56
6.2.3需求小結(jié)62
6.3方法設(shè)計(jì)63
6.3.1以BOM為核心的產(chǎn)品生命周期信息閉環(huán)模型設(shè)計(jì)思想63
6.3.2結(jié)構(gòu)化數(shù)據(jù)集成64
6.3.3非結(jié)構(gòu)化數(shù)據(jù)集成67
6.3.4信息閉環(huán)的應(yīng)用場景70
6.4技術(shù)實(shí)現(xiàn)74
6.4.1系統(tǒng)架構(gòu)74
6.4.2功能結(jié)構(gòu)實(shí)現(xiàn)75
6.5性能81
6.5.1數(shù)據(jù)準(zhǔn)備81
6.5.2數(shù)據(jù)導(dǎo)入81
6.5.3應(yīng)用案例82
6.6本章小結(jié)83
本章參考文獻(xiàn)83
第7章BOM圖數(shù)據(jù)模式匹配算法85
7.1概述85
7.2需求85
7.3相關(guān)工作88
7.3.1圖同構(gòu)查詢88
7.3.2分布式圖計(jì)算框架88
7.3.3分布式圖模式匹配89
7.4方法設(shè)計(jì)89
7.4.1系統(tǒng)整體架構(gòu)89
7.4.2查詢計(jì)劃SSD的構(gòu)造90
7.4.3消息傳遞規(guī)則構(gòu)建92
7.4.4消息傳遞規(guī)則附加到數(shù)據(jù)節(jié)點(diǎn)94
7.4.5查詢計(jì)劃的執(zhí)行94
7.4.6方法分析96
7.5性能97
7.5.1實(shí)驗(yàn)設(shè)置97
7.5.2優(yōu)化策略分析98
7.5.3可擴(kuò)展性分析99
7.5.4相關(guān)方法對(duì)比分析100
7.6本章小結(jié)101
本章參考文獻(xiàn)101
第8章BOM圖數(shù)據(jù)測試與分析算法103
8.1概述103
8.2需求103
8.3方法設(shè)計(jì)105
8.4技術(shù)實(shí)現(xiàn)106
8.4.1社區(qū)發(fā)現(xiàn)106
8.4.2介數(shù)中心度計(jì)算111
8.4.3圖數(shù)據(jù)庫管理系統(tǒng)測試117
8.5效果與特色117
8.5.1界面展示117
8.5.2社區(qū)發(fā)現(xiàn)效率119
8.5.3介數(shù)中心度更新效率120
8.6本章小結(jié)123
本章參考文獻(xiàn)123
第3篇語義融合與一體化管理引擎篇
第9章數(shù)據(jù)融合與一體化數(shù)據(jù)查詢模型127
9.1概述127
9.2需求127
9.2.1數(shù)據(jù)集成128
9.2.2面向多源異構(gòu)數(shù)據(jù)的統(tǒng)一數(shù)據(jù)操作接口規(guī)范130
9.3模型設(shè)計(jì)與實(shí)現(xiàn)130
9.3.1數(shù)據(jù)源130
9.3.2數(shù)據(jù)模式131
9.4本章小結(jié)133
本章參考文獻(xiàn)133
第10章數(shù)據(jù)融合與一體化數(shù)據(jù)查詢調(diào)度135
10.1概述135
10.2需求135
10.2.1查詢語言統(tǒng)一問題135
10.2.2跨引擎訪問切換問題136
10.2.3跨引擎查詢執(zhí)行效率問題136
10.3方法設(shè)計(jì)137
10.3.1設(shè)計(jì)思想137
10.3.2元數(shù)據(jù)模式信息138
10.3.3架構(gòu)設(shè)計(jì)139
10.4技術(shù)實(shí)現(xiàn)140
10.4.1整體框架140
10.4.2語法設(shè)計(jì)141
10.4.3詞法、語法與語義模塊143
10.4.4元數(shù)據(jù)管理模塊144
10.4.5計(jì)劃與整合規(guī)則生成模塊145
10.4.6執(zhí)行器模塊146
10.4.7結(jié)果整合模塊和JSON轉(zhuǎn)換模塊146
10.5性能146
10.5.1首頁146
10.5.2數(shù)據(jù)源147
10.5.3映射模式147
10.5.4數(shù)據(jù)集信息148
10.5.5數(shù)據(jù)查詢149
10.6本章小結(jié)150
本章參考文獻(xiàn)150
第11章語義融合中的實(shí)體抽取與關(guān)聯(lián)151
11.1概述151
11.2需求151
11.3方法設(shè)計(jì)152
11.3.1方法概述152
11.3.2候選樣本提取與特征選擇方法153
11.3.3基于標(biāo)簽函數(shù)的標(biāo)簽推斷方法154
11.3.4基于專家委員會(huì)的主動(dòng)學(xué)習(xí)交互方法155
11.3.5標(biāo)簽函數(shù)構(gòu)造方法156
11.4技術(shù)實(shí)現(xiàn)160
11.4.1概述160
11.4.2數(shù)據(jù)結(jié)構(gòu)160
11.4.3實(shí)現(xiàn)細(xì)節(jié)161
11.4.4外部接口161
11.5性能162
11.5.1實(shí)體挖掘模塊成果162
11.5.2實(shí)體抽取系統(tǒng)性能162
11.6本章小結(jié)163
本章參考文獻(xiàn)163第12章語義融合與一體化語義查詢實(shí)現(xiàn)165
12.1概述165
12.2需求165
12.3方法設(shè)計(jì)166
12.3.1方法概述166
12.3.2時(shí)序模式生成算法166
12.3.3文本匹配方法167
12.3.4時(shí)間序列的模式匹配算法168
12.4技術(shù)實(shí)現(xiàn)169
12.4.1組件選取169
12.4.2數(shù)據(jù)結(jié)構(gòu)與預(yù)處理171
12.4.3系統(tǒng)實(shí)現(xiàn)174
12.4.4外部接口175
12.5性能176
12.5.1被測系統(tǒng)簡介176
12.5.2測試環(huán)境介紹177
12.5.3測試方法177
12.5.4測試內(nèi)容178
12.5.5測試結(jié)果179
12.6本章小結(jié)179
本章參考文獻(xiàn)179
第4篇運(yùn)維工具篇
第13章性能監(jiān)控工具183
13.1概述183
13.2需求183
13.3模型設(shè)計(jì)183
13.3.1數(shù)據(jù)庫監(jiān)控模塊185
13.3.2硬件監(jiān)控模塊186
13.3.3集群監(jiān)控模塊188
13.3.4Docker監(jiān)控模塊189
13.4技術(shù)實(shí)現(xiàn)189
13.4.1數(shù)據(jù)采集189
13.4.2監(jiān)控?cái)?shù)據(jù)處理與可視化193
13.4.3異常檢測194
13.4.4歷史任務(wù)評(píng)價(jià)197
13.5效果與優(yōu)勢198
13.5.1監(jiān)控效果演示198
13.5.2與相關(guān)工具相比的優(yōu)勢199
13.6本章小結(jié)200
本章參考文獻(xiàn)200
第14章系統(tǒng)調(diào)優(yōu)工具202
14.1概述202
14.2需求202
14.3方法設(shè)計(jì)203
14.3.1關(guān)系型數(shù)據(jù)庫調(diào)優(yōu)工具設(shè)計(jì)203
14.3.2鍵值數(shù)據(jù)庫調(diào)優(yōu)工具設(shè)計(jì)204
14.3.3時(shí)間序列數(shù)據(jù)庫調(diào)優(yōu)工具設(shè)計(jì)204
14.3.4Apache Spark分布式數(shù)據(jù)處理平臺(tái)調(diào)優(yōu)工具設(shè)計(jì)206
14.4技術(shù)實(shí)現(xiàn)208
14.4.1關(guān)系型數(shù)據(jù)庫調(diào)優(yōu)工具實(shí)現(xiàn)208
14.4.2鍵值數(shù)據(jù)庫調(diào)優(yōu)工具實(shí)現(xiàn)209
14.4.3時(shí)間序列數(shù)據(jù)庫調(diào)優(yōu)工具實(shí)現(xiàn)212
14.4.4Apache Spark分布式數(shù)據(jù)處理平臺(tái)調(diào)優(yōu)工具實(shí)現(xiàn)215
14.5性能217
14.6本章小結(jié)219
本章參考文獻(xiàn)219
第15章資源規(guī)劃和調(diào)度工具222
15.1概述222
15.2需求222
15.2.1功能需求222
15.2.2挑戰(zhàn)224
15.3方法設(shè)計(jì)224
15.3.1系統(tǒng)結(jié)構(gòu)224
15.3.2數(shù)據(jù)持久化227
15.3.3資源的規(guī)劃和調(diào)度230
15.3.4資源動(dòng)態(tài)伸縮機(jī)制231
15.3.5資源預(yù)估機(jī)制233
15.3.6資源管理系統(tǒng)界面233
15.4系統(tǒng)實(shí)現(xiàn)234
15.4.1共享存儲(chǔ)的集成235
15.4.2時(shí)序數(shù)據(jù)庫管理引擎的集成239
15.4.3結(jié)構(gòu)化數(shù)據(jù)庫管理引擎的集成242
15.4.4鍵值數(shù)據(jù)庫管理引擎的集成244
15.4.5BOM圖數(shù)據(jù)庫管理引擎的集成246
15.4.6非結(jié)構(gòu)化數(shù)據(jù)庫管理引擎的集成251
15.4.7自定義調(diào)度器的實(shí)現(xiàn)254
15.4.8資源動(dòng)態(tài)伸縮機(jī)制的實(shí)現(xiàn)259
15.4.9資源預(yù)估機(jī)制的實(shí)現(xiàn)263
15.5性能與優(yōu)勢265
15.6本章小結(jié)270
本章參考文獻(xiàn)271
第16章數(shù)據(jù)備份與容災(zāi)工具273
16.1概述273
16.2需求273
16.2.1術(shù)語解釋273
16.2.2系統(tǒng)需求274
16.3相關(guān)工作275
16.3.1請(qǐng)求分發(fā)模塊276
16.3.2用戶命令處理模塊277
16.3.3磁盤I/O管理模塊277
16.3.4遠(yuǎn)程傳輸模塊280
16.3.5監(jiān)聽模塊283
16.3.6主從角色互換模塊284
16.3.7遠(yuǎn)程復(fù)制災(zāi)難恢復(fù)模塊284
16.3.8連續(xù)數(shù)據(jù)備份模塊286
16.3.9連續(xù)數(shù)據(jù)恢復(fù)模塊286
16.4本章小結(jié)290
本章參考文獻(xiàn)290
第17章故障診斷與修復(fù)工具292
17.1概述292
17.2需求292
17.3方法設(shè)計(jì)293
17.3.1總體框架293
17.3.2功能設(shè)計(jì)294
17.4技術(shù)實(shí)現(xiàn)296
17.4.1系統(tǒng)結(jié)構(gòu)296
17.4.2圖形用戶界面312
17.5性能318
17.5.1集群組件監(jiān)控模塊318
17.5.2規(guī)則檢測模塊323
17.5.3日志檢測模塊324
17.5.4故障診斷與報(bào)警模塊325
17.6本章小結(jié)325
本章參考文獻(xiàn)325
第18章數(shù)據(jù)清洗工具327
18.1概述327
18.2需求327
18.2.1需求分析327
18.2.2總體設(shè)計(jì)328
18.3方法設(shè)計(jì)328
18.3.1不完整或不精確數(shù)據(jù)修復(fù)模塊328
18.3.2不一致數(shù)據(jù)中的錯(cuò)列檢測與修復(fù)模塊328
18.3.3異常區(qū)間檢測與修復(fù)模塊330
18.4技術(shù)實(shí)現(xiàn)330
18.4.1不完整或不精確數(shù)據(jù)修復(fù)模塊330
18.4.2錯(cuò)列檢測與修復(fù)模塊333
18.4.3異常區(qū)間檢測與修復(fù)333
18.5性能335
18.5.1不完整或不精確數(shù)據(jù)修復(fù)實(shí)驗(yàn)結(jié)果335
18.5.2錯(cuò)列檢測與修復(fù)實(shí)驗(yàn)結(jié)果337
18.5.3異常片段檢測與修復(fù)實(shí)驗(yàn)結(jié)果339
18.6本章小結(jié)340
本章參考文獻(xiàn)340
第5篇測試篇
第19章高通量監(jiān)測時(shí)序數(shù)據(jù)管理引擎測試基準(zhǔn)與工具345
19.1概述345
19.2需求345
19.2.1現(xiàn)有測試基準(zhǔn)和工具345
19.2.2應(yīng)用場景需求描述346
19.3方法設(shè)計(jì)348
19.3.1數(shù)據(jù)模型348
19.3.2性能指標(biāo)349
19.3.3負(fù)載模型350
19.4技術(shù)實(shí)現(xiàn)352
19.4.1評(píng)測方案352
19.4.2評(píng)測工具的設(shè)計(jì)和實(shí)現(xiàn)352
19.5評(píng)測方式和結(jié)果354
19.6本章小結(jié)356
本章參考文獻(xiàn)357
第20章BOM圖數(shù)據(jù)管理引擎測試基準(zhǔn)與工具359
20.1概述359
20.2需求360
20.2.1分析360
20.2.2功能360
20.2.3挑戰(zhàn)360
20.3方法設(shè)計(jì)361
20.3.1數(shù)據(jù)模型分析與設(shè)計(jì)361
20.3.2數(shù)據(jù)生成器的設(shè)計(jì)363
20.3.3查詢負(fù)載生成器的設(shè)計(jì)367
20.4技術(shù)實(shí)現(xiàn)369
20.4.1數(shù)據(jù)生成器的實(shí)現(xiàn)369
20.4.2數(shù)據(jù)負(fù)載生成器的實(shí)現(xiàn)373
20.5性能374
20.5.1數(shù)據(jù)生成器生成的圖數(shù)據(jù)374
20.5.2負(fù)載生成器生成的負(fù)載374
20.5.3進(jìn)行測試375
20.5.4基準(zhǔn)評(píng)價(jià)體系設(shè)計(jì)與建立376
20.6本章小結(jié)377
本章參考文獻(xiàn)377
第21章海量非結(jié)構(gòu)化工程數(shù)據(jù)管理引擎測試基準(zhǔn)與工具378
21.1概述378
21.2需求378
21.2.1需求概述378
21.2.2基準(zhǔn)概述380
21.3模型設(shè)計(jì)380
21.3.1模型設(shè)計(jì)概述380
21.3.2數(shù)據(jù)模型380
21.3.3負(fù)載模型383
21.4技術(shù)實(shí)現(xiàn)385
21.4.1評(píng)測系統(tǒng)設(shè)計(jì)385
21.4.2數(shù)據(jù)生成部分387
21.4.3負(fù)載測試部分392
21.4.4結(jié)果顯示部分394
21.5特點(diǎn)395
21.6本章小結(jié)396
本章參考文獻(xiàn)396
第6篇應(yīng)用篇
第22章支持航天航空裝備創(chuàng)新研制的大數(shù)據(jù)挖掘與分析平臺(tái)401
22.1概述401
22.2需求401
22.2.1氣動(dòng)特性分析需求402
22.2.2氣動(dòng)熱數(shù)據(jù)分析需求402
22.2.3載荷與環(huán)境相關(guān)數(shù)據(jù)分析需求403
22.3方法設(shè)計(jì)403
22.3.1總體架構(gòu)403
22.3.2氣動(dòng)特性挖掘算法庫405
22.4技術(shù)實(shí)現(xiàn)407
22.4.1氣動(dòng)規(guī)律分析407
22.4.2氣動(dòng)不確定度挖掘416
22.5性能及優(yōu)勢419
22.6本章小結(jié)419
本章參考文獻(xiàn)419
第23章民機(jī)協(xié)同大數(shù)據(jù)設(shè)計(jì)平臺(tái)421
23.1概述421
23.2需求421
23.3方法設(shè)計(jì)422
23.4技術(shù)實(shí)現(xiàn)424
23.4.1數(shù)據(jù)接入與存儲(chǔ)424
23.4.2數(shù)據(jù)融合424
23.4.3預(yù)研流程與數(shù)據(jù)協(xié)同425
23.5性能426
23.5.1客機(jī)多參數(shù)綜合分析優(yōu)化平臺(tái)427
23.5.2中心數(shù)據(jù)庫435
23.5.3基于快速數(shù)值分析方法的機(jī)翼氣動(dòng)/結(jié)構(gòu)等多學(xué)科設(shè)計(jì)優(yōu)化軟件437
23.6本章小結(jié)442
本章參考文獻(xiàn)442
第24章基于風(fēng)電大數(shù)據(jù)平臺(tái)的風(fēng)電場智能運(yùn)維與設(shè)計(jì)443
24.1概述443
24.2現(xiàn)狀443
24.2.1風(fēng)電場運(yùn)維業(yè)務(wù)現(xiàn)狀443
24.2.2風(fēng)電場設(shè)計(jì)現(xiàn)狀444
24.3平臺(tái)設(shè)計(jì)445
24.3.1風(fēng)電大數(shù)據(jù)平臺(tái)總體設(shè)計(jì)445
24.3.2風(fēng)電場智能運(yùn)維服務(wù)系統(tǒng)設(shè)計(jì)446
24.3.3風(fēng)電廠定制化設(shè)計(jì)系統(tǒng)設(shè)計(jì)447
24.4技術(shù)方案450
24.4.1風(fēng)電大數(shù)據(jù)平臺(tái)技術(shù)方案450
24.4.2風(fēng)電場智能運(yùn)維系統(tǒng)技術(shù)方案456
24.4.3基于大數(shù)據(jù)的開放式風(fēng)電場定制化設(shè)計(jì)關(guān)鍵技術(shù)457
24.5性能459
24.6本章小結(jié)460
本章參考文獻(xiàn)461
第25章風(fēng)電裝備全生命周期綠色供應(yīng)鏈管理462
25.1概述462
25.2應(yīng)用背景與建設(shè)目標(biāo)462
25.2.1風(fēng)電綠色供應(yīng)鏈建設(shè)現(xiàn)狀462
25.2.2風(fēng)電綠色供應(yīng)鏈建設(shè)需求464
25.2.3風(fēng)電裝備全生命周期綠色供應(yīng)鏈管理數(shù)據(jù)需求466
25.2.4風(fēng)電綠色供應(yīng)鏈建設(shè)目標(biāo)466
25.3風(fēng)電裝備綠色供應(yīng)鏈管理的設(shè)計(jì)467
25.3.1總體任務(wù)467
25.3.2總體設(shè)計(jì)467
25.4技術(shù)方案468
25.4.1技術(shù)路線468
25.4.2平臺(tái)建設(shè)472
25.4.3關(guān)鍵技術(shù)479
25.5性能480
25.5.1特色與優(yōu)勢480
25.5.2經(jīng)濟(jì)效益480
25.5.3社會(huì)效益481
25.6本章小結(jié)482
本章參考文獻(xiàn)482
寄語484