[统计推断]第一章·概率论

1 概率论基础

1.1 公理化基础

$σ$ algebra / Borel field: 若 $S$ 的一族子集 $B$ 满足以下三个性质：

$\emptyset \in B$
若 $A \in B$ ，则 $A^{C} \in B$
若 $A_{1}, A_{2}, \dots \in B$ ，则 $\cup_{i = 1}^{\infty} A_{i} \in B$

则称 $B$ 为一个 $σ$ 代数或一个 Borel 域。

${\emptyset, S}$ 称为平凡的 $σ$ 代数。

概率公理（Kolmogorov 公理）：已知样本空间 $S$ 和 $σ$ 代数 $B$ ，若定义在 $B$ 上的函数 $P$ 满足下列条件：

【非负性】对任意 $A \in B$ ， $P (A) \geq 0$
【归一性】 $P (S) = 1$
【可数可加性】若 $A_{1}, A_{2}, \dots \in B$ 且两两不交，则 $P (\cup_{i = 1}^{\infty} A_{i}) = \sum_{i = 1}^{\infty} P (A_{i})$

一些学者认为可数可加性并不显然，应该换成有限可加性。

1.2 概率演算

定理：

Bonferroni 不等式：推广： Boole 不等式：

1.3 计数

从个对象中选个的方式：

	无放回	有放回
有序
无序

有序或无放回的情形都比较容易，难一点的是无序且有放回的情形。可以把个对象看作个箱子，然后把个无差别的小球放到这些箱子中。这等价于在个小球之间插入个隔板，又等价于在个对象中，挑个当作小球，剩下个当作隔板。因此答案是 .

2 条件概率与独立性

条件概率：

Bayes 公式：独立：称事件统计独立，若：称一列事件 相互独立，若对任意，都有；

3 随机变量

3.1 累积分布函数（cdf）

满足性质：

是的单调递增函数
右连续，即

同分布：随机变量和同分布，当且仅当 .

3.2 概率密度函数（pdf）和概率质量函数（pmf）

对于某离散随机变量，其概率质量函数（pmf）为：对于某连续随机变量，其概率密度函数（pdf）为满足下式的函数：由于可能连续而不可导，因此上式并不总是成立。事实上确实存在这样的连续随机变量，对任意都不满足上式，但这不在本书涉及范围内。在更深入的教材中，称满足上式的随机变量绝对连续。