本書(shū)共分15章,包括古典概型,概率公理、隨機(jī)變量及其分布、獨(dú)立性、條件概率、離散隨機(jī)變量、連續(xù)隨機(jī)變量、期望以及其他數(shù)字特征(矩、熵)、典型分布模型、多元隨機(jī)變量、條件期望、特征函數(shù)、概率不等式、大數(shù)定律和中心極限定理等方面的內(nèi)容。作為面向工程類專業(yè)讀者撰寫(xiě)的概率論入門教材,素材選擇充分考慮了讀者的工科基礎(chǔ)基礎(chǔ),盡量使用基礎(chǔ)微積分的方法和技巧進(jìn)行分析論述,力求通過(guò)嚴(yán)密和系統(tǒng)的計(jì)算來(lái)強(qiáng)化讀者對(duì)基本概念和方法的理解和掌握。這對(duì)于培養(yǎng)讀者運(yùn)用數(shù)學(xué)工具解決問(wèn)題的能力有積極作用。本書(shū)可作為相關(guān)專業(yè)大學(xué)本科生教材使用,也可供工程技術(shù)人員自學(xué)和參考。
本書(shū)以編者過(guò)去五年來(lái)在清華大學(xué)電子工程系講授“概率論與隨機(jī)過(guò)程(I)”課程所用講義為基礎(chǔ),加以適當(dāng)?shù)臄U(kuò)充改編而成,總結(jié)了編者的實(shí)際教學(xué)經(jīng)驗(yàn),并參考了歷屆學(xué)生對(duì)該課程教學(xué)的反饋與建議。
針對(duì)目前市面上已有大量概率論相關(guān)教材存在的現(xiàn)狀,編者試圖在以下幾點(diǎn)嘗試差異化處理,以突出本書(shū)的特色。首先,結(jié)合編者以及教學(xué)對(duì)象的電子信息專業(yè)特點(diǎn),本書(shū)強(qiáng)調(diào)信息論與概率論的緊密關(guān)聯(lián),不但將熵看作和期望、方差同等重要的隨機(jī)變量數(shù)字特征加以介紹,而且還使用最大熵原理來(lái)引出典型的連續(xù)分布(均勻、指數(shù)和高斯),以期讓讀者在學(xué)習(xí)概率論的同時(shí),接觸和熟悉信息論的基本概念,為電子信息專業(yè)的后續(xù)學(xué)習(xí)提供便利。其次,針對(duì)工程學(xué)科讀者數(shù)學(xué)基礎(chǔ)相對(duì)薄弱,大多缺乏嚴(yán)格的實(shí)分析訓(xùn)練的現(xiàn)實(shí),本書(shū)并沒(méi)有對(duì)概率論基礎(chǔ)選擇回避,而是大膽使用比較平易的方式介紹基于測(cè)度的公理化概率論,并以普通微積分作為基本工具,用相對(duì)嚴(yán)格的方式討論隨機(jī)變量、獨(dú)立性、期望、條件期望等基本概念。編者的實(shí)際教學(xué)經(jīng)驗(yàn)表明,這樣做不但能夠使得擁有扎實(shí)微積分基礎(chǔ)的工科讀者大體接受并掌握其中的關(guān)鍵知識(shí)點(diǎn),而且有利于讀者進(jìn)一步學(xué)習(xí)和了解嚴(yán)格概率論及其廣泛的應(yīng)用。本書(shū)還包括超過(guò)300個(gè)不同類型的例題,內(nèi)容涵蓋了電子信息、金融、統(tǒng)計(jì)等多個(gè)領(lǐng)域,并輔之以部分概率發(fā)展歷史的簡(jiǎn)要敘述。這些例題不但能夠加深讀者對(duì)于基本概念和方法的理解和認(rèn)識(shí),擴(kuò)充知識(shí)面,還可以增強(qiáng)閱讀的趣味性。
本書(shū)共分為十五章。我們以古典概型作為引入,用嚴(yán)格但幾乎自洽的方式介紹概率公理、隨機(jī)變量及其分布、獨(dú)立性和條件概率等概率論基礎(chǔ)內(nèi)容,并在此基礎(chǔ)上討論離散隨機(jī)變量和連續(xù)隨機(jī)變量、期望以及其他數(shù)字特征(矩、熵)并面向具體應(yīng)用展開(kāi)。我們將一些面向應(yīng)用的典型分布以基本分布的變換形式加以統(tǒng)一處理。多元隨機(jī)變量雖不是本書(shū)重點(diǎn),我們?nèi)詫⒒靖拍钭髁饲逦某尸F(xiàn)。條件期望作為重要的概率論工具,編者給予了充分重視,不僅給出了嚴(yán)格的定義和關(guān)鍵性質(zhì),而且還用較多實(shí)例幫助讀者掌握應(yīng)用的技巧。特征函數(shù)和概率不等式是深入學(xué)習(xí)和研究概率論不可或缺的手段,本書(shū)均有所涉及。大數(shù)定律和中心極限定理是現(xiàn)代概率論的核心內(nèi)容,本書(shū)進(jìn)行了比較詳細(xì)的陳述,供有興趣的讀者選讀。
本書(shū)的每一章都分為四個(gè)部分,分別以PartA~D進(jìn)行標(biāo)示。PartA是本章節(jié)的基本內(nèi)容,讀者在可能的情況下應(yīng)盡可能仔細(xì)閱讀;PartB是擴(kuò)展內(nèi)容,讀者可根據(jù)自身興趣選看;PartC是習(xí)題,包括“熱身”“習(xí)題”和“挑戰(zhàn)”三個(gè)部分,形成遞增的難度梯次。本書(shū)的習(xí)題配備不求多求全,讀者可根據(jù)自身情況選做。如果讀者希望能夠進(jìn)行系統(tǒng)的習(xí)題訓(xùn)練,應(yīng)選擇專門的概率論習(xí)題書(shū)籍來(lái)進(jìn)一步研作。PartD是參考文獻(xiàn)和必要的文獻(xiàn)點(diǎn)評(píng)。
本書(shū)盡量使用具備微積分知識(shí)的讀者所熟悉的方法和技巧進(jìn)行分析論述,這一方面可以復(fù)習(xí)鞏固以往所學(xué);另一方面可以在新課程的學(xué)習(xí)中增強(qiáng)靈活運(yùn)用已有知識(shí)的能力。本書(shū)力求通過(guò)嚴(yán)密和系統(tǒng)的計(jì)算來(lái)強(qiáng)化讀者對(duì)基本概念和方法的理解和掌握。這對(duì)于培養(yǎng)讀者運(yùn)用數(shù)學(xué)工具解決問(wèn)題的能力有積極作用。
本書(shū)可供相關(guān)專業(yè)本科生作為概率論入門教材使用,也可供工程技術(shù)人員自學(xué)和參考。限于水平,本書(shū)難免有許多不足和不確切之處,懇請(qǐng)讀者批評(píng)指正。
第1章 古典概型
1.1 古典概型的定義
1.2 計(jì)算實(shí)例
1.3 “球-盒”計(jì)數(shù)問(wèn)題
1.4 幾何概率
1.5 古典概型與統(tǒng)計(jì)物理
1.6 概率研究的起源
1.7 Pascal-Fermat corre-spondence(Ⅰ)
第2章 概率論的公理化
2.1 Kolmogorov公理體系
2.2 概率的基本性質(zhì)
2.3 實(shí)數(shù)集上的概率構(gòu)造
2.4 不可測(cè)集
2.5 概率擴(kuò)張的唯一性
2.6 其他概率模型
第3章 隨機(jī)變量與分布函數(shù)
3.1 隨機(jī)變量的基本概念
3.2 隨機(jī)向量
3.3 分布函數(shù)
3.4 隨機(jī)對(duì)象
3.5 簡(jiǎn)單函數(shù)逼近
3.6 奇異連續(xù)分布與Lebesgue分解
第4章 離散隨機(jī)變量
4.1 離散隨機(jī)變量的概念
4.2 Bernoulli分布
4.3 二項(xiàng)分布
4.4 Poisson分布
4.5 超幾何分布
4.6 幾何分布
4.7 負(fù)二項(xiàng)分布
4.8 多周期二項(xiàng)模型定價(jià)公式
4.9 匹配問(wèn)題的推廣
第5章 獨(dú)立性
5.1 獨(dú)立性
5.2 集合的運(yùn)算
5.3 Borel-Cantelli引理
5.4 Lovasz局部引理
5.5 0-1律
5.6 Borel-Cantelli引理的推廣
第6章 條件概率
6.1 基本定義
6.2 乘法公式與全概率公式
6.3 Bayesian公式
6.4 條件概率的概率屬性
6.5 三門問(wèn)題
6.6 Lovasz局部引理的證明
第7章 隨機(jī)變量的期望
7.1 期望的基本定義
7.2 期望的線性性質(zhì)
7.3 方差及高階矩
7.4 熵的基本概念
7.5 期望的概率空間定義
7.6 矩問(wèn)題
7.7 熵與信息論
第8章 連續(xù)隨機(jī)變量
8.1 連續(xù)隨機(jī)變量的基本概念
8.2 最大熵優(yōu)化
8.3 典型的連續(xù)隨機(jī)變量
8.4 最大熵、相對(duì)熵與指數(shù)族分布
8.5 Hermite多項(xiàng)式
8.6 指數(shù)分布的Monte Carlo模擬
第9章 隨機(jī)變量的函數(shù)
9.1 隨機(jī)變量函數(shù)的分布
9.2 隨機(jī)變量的初等函數(shù)
9.3 Gamma函數(shù)
第10章 多元隨機(jī)變量
10.1 多元分布函數(shù)
10.2 二元隨機(jī)向量函數(shù)的分布
10.3 二元隨機(jī)向量映射的聯(lián)合分布
10.4 順序統(tǒng)計(jì)量
第11章 條件期望與條件分布
11.1 條件期望
11.2 條件分布
11.3 條件期望與Radon-Nikodym定理
11.4 條件期望性質(zhì)的證明
11.5 條件期望的幾何意義
第12章 特征函數(shù)
12.1 基本定義
12.2 基本性質(zhì)
12.3 逆轉(zhuǎn)公式
12.4 周期性
12.5 多維特征函數(shù)
12.6 特征函數(shù)的判定方法
12.7 特征函數(shù)的解析性質(zhì)
第13章 概率不等式
13.1 集中不等式
13.2 集中不等式的應(yīng)用
13.3 Chernoff不等式的推廣
第14章 大數(shù)定律
14.1 大數(shù)定律的引入
14.2 隨機(jī)變量的收斂
14.3 弱大數(shù)定律
14.4 強(qiáng)大數(shù)定律
14.5 強(qiáng)收斂與弱收斂
14.6 定理14.5 的證明
14.7 一致大數(shù)定律
第15章 中心極限定理
15.1 de MoiVre-Laplace定理
15.2 依分布收斂
15.3 中心極限定理
15.4 Skorokhod表示定理的證明
索引