【整理】《概率论与数理统计》第一章-基础知识

1. 概率论与数理统计-第一章

1.1 定义

【定义】随机试验

满足以下三个条件的试验：

1. 可在相同条件下重复进行
2. 每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果
3. 进行一次试验之前不能确定哪一个结果会出现

【定义】概率

设$\mathbf{E}$是随机试验，$\mathbb{S}$是它的样本空间。对于$\mathbf{E}$的每一个事件$A$，赋予一个实数，记为$\mathbf{P}(A)$，称为事件$A$的概率，如果集合函数$\mathbf{P}(\cdot)$满足：

1. 非负性：对 $\forall A$ 有 $\mathbf{P}(A)\geqslant0$
2. 规范性：对必然事件 $\mathbb{S}$ 有 $\mathbf{P}(\mathbb{S})=1$
3. 可列可加性：设 $A_1,\,A_2,\,A_3,\,\cdots$ 是两两互不相容的事件，即 $A_iA_j=\emptyset,\,i \neq j$ 有 $\mathbf{P}(A_1 \cup A_2 \cup A_3 \cdots)=\mathbf{P}(A_1)+\mathbf{P}(A_2)+\mathbf{P}(A_3)+ \cdots$

【定义】条件概率

$$\mathbf{P}(B | A)=\frac{\mathbf{P}(AB)}{\mathbf{P}(A)}, \quad \mathbf{P}(A)>0$$

即事件 $A$ 发生的条件下，事件 $B$ 发生的概率。显示，条件概率 $\mathbf{P}(\cdot | A)$ 符合概率定义的三个条件。故概率的性质，条件概率与适用。

【定义】相互独立
相互独立 $\Leftrightarrow \mathbf{P}(AB)=\mathbf{P}(A)\mathbf{P}(B)$

如果 $\mathbf{P}(A)>0$，则相互独立 $\Leftrightarrow \mathbf{P}(B|A)=\mathbf{P}(B)$。
如果 $\mathbf{P}(B)>0$，则相互独立 $\Leftrightarrow \mathbf{P}(A|B)=\mathbf{P}(A)$。
如果 $A,B$ 相互独立，则 $\overline{A}$ 与 $B$，$A$ 与 $\overline{B}$，$\overline{A}$ 与 $\overline{B}$ 都相互独立
$n$（$n \geqslant 2$）个事件相互独立，则要求其中任意$2$个，$3$个，……，$n$个事件的积分别等于它们概率的积
多个事件相互独立，则它们的任意组合也相互独立
如果多个事件相互独立，则将其中任意个事件换成它们的对立事件，这些事件也相互独立

1.2 公式

【公式】加法公式
$$\mathbf{P}(A \cup B)=\mathbf{P}(A)+\mathbf{P}(B)-\mathbf{P}(AB)$$

【注】$A,B$是任意的

【公式】一般加法公式
$$\begin{align}\mathbf{P}(A_1 \cup A_2 \cup A_3 \cup \cdots)=&\sum_{i=1}^{n}{\mathbf{P}(A_i)} \\ &-\sum_{1\leqslant i < j \leqslant n}^{n}{\mathbf{P}(A_i A_j)} \\ &+\sum_{1\leqslant i < j < k \leqslant n}^{n}{\mathbf{P}(A_i A_j A_k)} \\&+ \\& \cdots \\&+ (-1)^{n-1}\mathbf{P}(A_1 A_2 \cdots A_n)\end{align}$$

【注】$n$ 是有限的

【公式】乘法公式

$$\begin{align}\mathbf{P}(AB)=&\mathbf{P}(B|A)\mathbf{P}(A),\quad \mathbf{P}(A)>0\\ & \mathbf{P}(A|B)\mathbf{P}(B), \quad \mathbf{P}(B)>0\end{align}$$

【公式】全概率公式

$$\mathbf{P}(A)=\sum_{i=1}^{n}{\mathbf{P}(A|B_i)\mathbf{P}(B_i)}$$

其中，$B_i$ 为样本空间 $\mathbb{S}$ 的一个划分，即 $B_1 \cup B_2 \cup B_3 \cup \cdots \cup B_n=\mathbb{S}$，且 $B_i \cap B_j = \emptyset, \, i \neq j$，且$\mathbf{P}(B_i)>0$

【公式】贝叶斯（Bayes）公式
$$\mathbf{P}(B_i | A)=\frac{\mathbf{P}(A|B_i)\mathbf{P}(B_i)}{\sum_{i=1}^{n}{\mathbf{P}(A|B_i)\mathbf{P}(B_i)}}$$

其中，$B_i$ 为样本空间 $\mathbb{S}$ 的一个划分，且 $\mathbf{P}(A)>0,\,\mathbf{P}(B)>0$
【注】在以上两公式中，要求$B_i$是样本空间的一个划分，将这一条件改为 $B_i B_j=\emptyset,\,i \neq j$ 且 $\mathbf{P}\left(\bigcup_{i=1}^{n}{B_i}\right)=1$，两公式仍然成立。