本篇笔记主要介绍了概率论的基本概念。首先定义了随机试验、样本空间和随机事件等基础术语。然后详细讨论了事件之间的关系和运算，包括包含、相等、和事件、积事件等。接着引入了频率的概念及其性质，作为概率的基础。最后给出了概率的严格定义及其基本性质。这些内容为后续学习概率论奠定了重要基础。（由 claude-3.5-sonnet 生成摘要）

1. 概率论的基本概念

• (样本空间) 将随机试验 $E$ 的所有可能结果组成的集合称为 样本空间，记为 $S$，样本空间的元素，即 $E$ 的每个结果，称为 样本点。
• (随机事件) 称试验 $E$ 的样本空间 $S$ 的子集为 随机事件，简称 事件。在每次试验中，当且仅当这个集合中的一个样本点出现时，称这一事件 发生。
  • 由一个样本点组成的事件称为 基本事件。
  • 样本空间 $S$ 包含所有的样本点，则每次试验中 $S$ 总是发生，称 $S$ 为 必然事件。
  • 空集 $\varnothing$ 不包含任何样本点，每次试验 $\varnothing$ 都不发生，称 $\varnothing$ 为 不可能事件。
• (事件的关系与运算) 设试验 $E$ 的样本空间为 $S$，而 $A,B,A_k \subset S$。
  • 若 $A \subset B$，则称事件 $B$ 包含 事件 $A$，事件 $A$ 的发生必导致事件 $B$ 发生。
    • 若 $A \subset B \land B \subset A$ 即 $A = B$，则称事件 $A$ 与事件 $B$ 相等。
  • 事件 $A \cup B = \{x \mid x \in A \text{ or } x \in B\}$ 称为事件 $A$ 与事件 $B$ 的 和事件，当且仅当 $A,B$ 中至少有一个发生时，事件 $A \cup B$ 发生。
  • 事件 $A \cap B = \{x \mid x \in A \text{ and } x \in B\}$ 称为事件 $A$ 与事件 $B$ 的 积事件，也记作 $AB$。称 $\bigcap_{k=1}^n A_k$ 为可列个事件 $A_1, A_2, \cdots$ 的积事件。
  • 事件 $A - B = \{x \mid x \in A \text{ and } x \notin B\}$ 称为事件 $A$ 与事件 $B$ 的 差事件。
  • 若 $A \cap B = \varnothing$，则称事件 $A$ 与事件 $B$ 互不相容 或 互斥 的。
  • 若 $A \cup B = S\land A \cap B = \varnothing$，则称事件 $A$ 与事件 $B$ 互为 逆事件，又称事件 $A$ 与事件 $B$ 互为 对立事件。
• (频率) 在相同的条件下，进行了 $n$ 次试验。在这 $n$ 次试验中，事件 $A$ 发生的次数 $n_A$ 称为事件 $A$ 发生的 频数。比值 $n_A/n$ 称为事件 $A$ 发生的 频率，并记做 $f_n(A)$。
  • (频率的基本性质)
    • $0 \leq f_n(A) \leq 1$
    • $f_n(S) = 1$
    • 若 $A_1, \cdots, A_k$ 是两两互不相容的事件，则 $f_n(A_1 \cup \cdots \cup A_k) = f_n(A_1) + \cdots + f_n(A_k)$
  • 频率 $f_n(A)$ 反映了事件 $A$ 发生的 频繁程度。
• (概率) 设 $E$ 是随机试验，$S$ 是它的样本空间。对于 $E$ 的每一事件 $A$ 赋予一个实数，记为 $P(A)$，称为事件 $A$ 的 概率，如果集合函数 $P(\cdot)$ 满足：① 非负性：对于每一事件 $A$，有 $P(A) \geq 0$；② 规范性：对于必然事件，有 $P(S) = 1$；③ 可列可加性：设 $A_1, A_2, \cdots$ 是两两互不相容事件，有 $\displaystyle{P(A_1 \cup A_2 \cup \cdots) = P(A_1) + P(A_2) + \cdots}$。
  • (概率的加法公式) $P(A\cup B)=P(A)+P(B)-P(AB)$，可以推广到更一般情形。
• (古典概型) 若试验的样本空间只包含有限个元素且其中每个基本事件发生的可能性相同。则称这种试验为 古典概型 或 等可能概型。
  • (实际推断定理) 人们在长期的实践中总结得到“概率很小的事件在一次试验中实际上几乎是不发生的”。如果我们计算出一个事件发生的概率极低，则可以认为这一事件不会发生。
• (独立试验) 指任一次子试验出现的结果都不影响其他各子试验出现的结果。
• (重复试验) 如果各子试验是在相同条件下进行的。

2. 条件概率与独立性

• (条件概率) 设 $A,B$ 是两个事件，且 $P(A) > 0$。称 $\displaystyle{P(B|A) = \frac{P(AB)}{P(A)}}$ 为在事件 $A$ 发生的条件下事件 $B$ 发生的 条件概率。
  • (条件概率的性质) 条件概率 $P(\cdot\vert A)$ 符合概率的所有性质：
    • 非负性：对于每一事件 $B$，有 $P(B|A) \geq 0$
    • 规范性：对于必然事件 $S$，有 $P(S|A) = 1$
    • 可列可加性：设 $B_1, B_2, \cdots$ 是两两互不相容事件，则有 $\displaystyle{P\left(\bigcup_{i=1}^\infty B_i|A\right) = \sum_{i=1}^\infty P(B_i|A)}$
  • (乘法公式) 设 $P(A) > 0$，则有 $P(AB) = P(B|A)P(A)$。
    • 更一般地，设 $A_1, \cdots, A_n$ 为 $n$ 个事件，$n \geq 2$，且 $P(A_1 \cdots A_{n-1}) > 0$，则有 $\displaystyle{P(A_1 \cdots A_n) = P(A_n|A_1 \cdots A_{n-1})P(A_{n-1}|A_1 \cdots A_{n-2}) \cdots P(A_2|A_1)P(A_1)}$。
• (划分) 设 $S$ 为试验 $E$ 的样本空间，$B_{1},\cdots,B_{n}$ 为 $E$ 的一组事件，若满足：① 对于任意 $i\neq j$，$B_i\cap B_{j}=\varnothing$；② $B_{1}\cup B_{2}\cup \cdots B_{n}=S$。则称 $B_{1},\cdots,B_{n}$ 为样本空间 $S$ 的一个 划分。
• (全概率公式) 设试验 $E$ 的样本空间为 $S$，$A$ 为 $E$ 的事件，$B_1,\ldots,B_n$ 为 $S$ 的一个划分，且 $P(B_i) > 0$，则 $P(A) = P(A|B_1)P(B_1) + \cdots + P(A|B_n)P(B_n)$。
• (贝叶斯公式) 设试验 $E$ 的样本空间 $S$，$A$ 为 $E$ 的事件，$B_1, \cdots, B_n$ 为 $S$ 的一个划分，$P(B_i) > 0$，且更进一步地有 $P(A) > 0$ 则 $\displaystyle{P(B_i|A) = \frac{P(A|B_i)P(B_i)}{\sum_{j=1}^n P(A|B_j)P(B_j)}}$。
  • 特别地，取 $n = 2$，则：
    • $P(A) = P(A|B)P(B) + P(A|\overline{B})P(\overline{B})$
    • $\displaystyle{P(B|A) = \frac{AB}{A} = \frac{P(A|B)P(B)}{P(A|B)P(B) + P(A|\overline{B})P(\overline{B})}}$
  • 所以说贝叶斯公式，解决的是由果溯因的推理。
• (相互独立) 设 $A, B$ 是两事件，如果满足 $P(AB) = P(A)P(B)$ 则称事件 $A, B$ 相互独立，简称 $A, B$ 独立。
  • 更一般地，设 $A_1, \cdots, A_n$ 为 $n$ 个随机事件，如果对于其中任意 $2, 3,\cdots , n$ 个事件的积事件的概率，都等于各事件概率之积，则称事件 $A_1, \cdots, A_n$ 相互独立。
    • 对于 $n$ 个随机事件，相互独立可以推出两两独立，但是两两独立不能推出相互独立。
  • 设 $A, B$ 是两事件，且 $P(A) > 0$，若 $A, B$ 相互独立，则 $P(B|A) = P(B)$。
  • 若事件 $A, B$ 相互独立，则 $A$ 与 $\overline{B}$、$\overline{A}$ 与 $B$、$\overline{A}$ 与 $\overline{B}$ 也相互独立。