本篇笔记介绍了数理统计中的样本和抽样分布的基本概念。首先讲解了随机样本和简单随机样本的定义，以及样本的常用统计量（如样本均值、样本方差等）。接着详细阐述了三个重要的抽样分布：$\chi^{2}$ 分布、$t$ 分布和 $F$ 分布，包括它们的定义、性质和上 $\alpha$ 分位数。最后讨论了正态总体下的抽样分布定理，为下一章节介绍枢轴量做铺垫。（由 claude-3.5-sonnet 生成摘要）

1. 样本

• (随机样本) 从总体中随机选取 $n$ 个个体，称为一个 随机样本。
• (简单随机样本) 随机样本 $(X_{1},X_{2},\cdots,X_{n})$ 称为容量是 $n$ 的 简单随机样本 当且仅当满足以下条件：① 每个 $X_{i}$ 与 $X$ 同分布；② $X_{1},X_{2},\cdots,X_{n}$ 是相互独立的随机变量。
  • 后面提到的样本均指简单随机样本。
  • 若总体 $X$ 具有概率密度函数 $f(X)$，则样本 $(X_{1},X_2,\cdots,X_{n})$ 具有联合密度函数：$\displaystyle{f(X_{1},X_{2},\cdots,X_{n}) = \prod_{i=1}^{n} f(X_{i})}$。
• 样本的常用统计量：
  • (样本均值) $\displaystyle{\overline{X} = \dfrac{1}{n} \sum_{i=1}^{n} X_{i}}$
  • (样本方差) $\displaystyle{S^{2} ={\color{red}\dfrac{1}{n-1}} \sum_{i=1}^{n} (X_{i}-\overline{X})^{2}}$
  • (样本 $k$ 阶矩) $\displaystyle{A_{k}= \dfrac{1}{n}\sum_{i=1}^{n} X_{i}^{k}}$
  • (样本 $k$ 阶中心矩) $\displaystyle{B_{k}=\dfrac{1}{n} \sum_{i=1}^{n} \left( X_{i} - \overline{X} \right)^{k}}$
• 对总体方差的估计可以用 $S^{2}$ 也可以用 $B_2$（区别在于前面的系数是 $\dfrac{1}{n-1}$ 还是 $\dfrac{1}{n}$）。主要的区别是 $S^{2}$ 作为总体方差是无偏估计，但 $B_{2}$ 作为总体方差的估计是有偏的。

2. 抽样分布

三个分布的概率密度函数不要求掌握。

• ($\chi^2$ 分布) 设随机变量 $X_{1},X_{2},\cdots,X_{n}$ 相互独立，$X_{i} \sim N(0,1)\ (i=1,2,\cdots,n)$ 则称 $\displaystyle{\chi_{n}^{2}=\sum_{i=1}^{n} X_{i}^{2}}$ 服从自由度为 $n$ 的 $\chi^{2}$ 分布，记为 $\chi^{2} \sim \chi^{2}(n)$。 设 $\chi^{2} \sim \chi^{2}(n)$，则有 $E(\chi^{2})=n$，$D(\chi^{2})=2n$。
  • ($\chi^2$ 分布的可加性) 设 $Y_{1} \sim \chi^{2}(n_{1}),\ Y_{2} \sim \chi^{2}(n_{2})$，且 $Y_{1},Y_{2}$ 相互独立，则有 $Y_{1}+Y_2 \sim \chi^{2}(n_{1}+n_{2})$。可以推广到有限个的情形。
  • 对给定的概率 $\alpha\ (0<\alpha<1)$，称满足条件 $\displaystyle{\int_{\chi^{2}(n)}^{\infty} f_{n}(y) \text{d} y = \alpha}$ 的点 $\chi_{\alpha}^{2}(n)$ 为 $\chi^{2}(n)$ 分布的 上 $\alpha$ 分位数。
• ($t$ 分布) 设 $X \sim N(0,1)$，$Y \sim \chi^{2}(n)$，并且假设 $X,Y$ 相互独立，则称随机变量 $T=\dfrac{X}{\sqrt{Y/n}}$ 服从 自由度 为 $n$ 的 $t$ 分布，记为 $T \sim t(n)$。
  • 概率密度函数：$f(t,n)=\dfrac{\Gamma\left( \frac{n+1}2 \right)}{\sqrt{n \pi} \Gamma\left( \frac n2 \right) }\left( 1+ \dfrac{t^{2}}{n}\right)^{-(n+1)/2},\ -\infty<t<+\infty$。
  • 对给定的 $\alpha\ (0<\alpha<1)$，称满足条件 $\displaystyle{\int_{t_{\alpha}(n)}^{+\infty} f(t,n) \text{d} t = \alpha}$ 的点 $t_{\alpha}(n)$ 为 $t(n)$ 分布的上 $\alpha$ 分位数。
  • $t_{\alpha}(n) = -t_{1-\alpha}(n)$。
• ($F$ 分布) 设 $X \sim \chi^{2}(n_{1}),\ Y \sim \chi^{2}(n_{2})$，且 $X,Y$ 独立，则称随机变量 $F=\dfrac{X / n_{1}}{Y / n_{2}}$ 服从自由度 $(n_{1},n_{2})$ 的 $F$ 分布，记为 $F \sim F(n_{1},n_{2})$，其中 $n_{1}$ 称为 第一自由度，$n_{2}$ 称为 第二自由度。
  • 概率密度函数：$f\left(x;n_1,n_2\right)=\begin{cases}\frac{1}{B\left(n_1/2,n_2/2\right)}n_1^{\frac{n_1}{2}}n_2^{\frac{n_2}{2}}x^{\frac{n_1}{2}-1}\left(n_2+n_1x\right)^{-\frac{n_1+n_2}{2}} & x>0 \\0 & x\leq0 & \end{cases}$，其中 $\displaystyle{B\left(a,b\right)=\int_0^1x^{a-1}\left(1-x\right)^{b-1}dx=\frac{\Gamma(a)\Gamma(b)}{\Gamma(a+b)}}$。
  • 对给定的 $\alpha\ (0<\alpha<1)$，称满足条件 $\displaystyle{\int_{F_\alpha(n_1,n_2)}^\infty f\left(x;n_1,n_2\right)\text{d} x=\alpha}$ 的点 $F_{\alpha}(n_{1},n_{2})$ 为 $F(n,m)$ 分布的 上 $\alpha$ 分位数。
  • $F_{\alpha} (n_{1},n_{2}) = \dfrac{1}{F_{1-\alpha} (n_{2},n_{1})}$。

3. 正态总体下的抽象分布

这些内容其实都是为了引出下一章枢轴量的概念。除了“$\overline{X}$ 与 $S^{2}$ 相互独立”这一条，别的不需要额外记忆。

• 设 $X_{1},X_{2},\cdots,X_{n}$ 为来自正态总体 $N(\mu,\sigma^{2})$ 的简单随机样本，$\overline{X}$ 是样本均值，$S^{2}$ 是样本方差，则有：

  • $\displaystyle{\overline{X} \sim N\left( \mu, \dfrac{\sigma^{2}}{n} \right)}$
  • $\dfrac{(n-1)S^{2}}{\sigma^{2}} \sim \chi^{2}(n-1)$
  • $\overline{X}$ 与 $S^{2}$ 相互独立 - 概率密度函数：$f_{n}(y)=\begin{cases}\dfrac{1}{2 \Gamma(n/2)} \left( \dfrac{y}{2} \right)^{n/2-1} e^{-y/2},\quad&y>0\\0,\quad&y\leq0\end{cases}$，其中 $\displaystyle{\Gamma(\alpha) = \int_{0}^{+\infty} x^{\alpha-1} e^{-x} \text{d} x}$。
  • ，别的不需要额外记忆。

• 设 $X_{1},X_{2},\cdots,X_{n}$ 为来自正态总体 $N(\mu,\sigma^{2})$ 的简单随机样本，$\overline{X}$ 是样本均值，$S^{2}$ 是样本方差，则有：

  • $\displaystyle{\overline{X} \sim N\left( \mu, \dfrac{\sigma^{2}}{n} \right)}$
  • $\dfrac{(n-1)S^{2}}{\sigma^{2}} \sim \chi^{2}(n-1)$
  • $\overline{X}$ 与 $S^{2}$ 相互独立
  • $\dfrac{\overline{X}-\mu}{S/\sqrt{n}} \sim t(n-1)$

• 设 $X_{1},X_{2},\cdots,X_{n_{1}}$，$Y_{1},Y_{2},\cdots,Y_{n_{2}}$ 分别是来自正态总体 $N(\mu_{1},\sigma_{1}^{2})$ 和 $N(\mu_{2},\sigma_{2}^{2})$ 的样本，且这两个样本相互独立，设 $\displaystyle{\overline{X}=\dfrac{1}{n_{1}} \sum_{i=1}^{n_{1}} X_{i}}$，$\displaystyle{\overline{Y}=\dfrac{1}{n_{2}} \sum_{i=1}^{n_{2}} Y_{i} }$ 分别是两样本的均值，$S_{1}^{2},S_2^{2}$ 分别是两样本的样本方差，则有

  • $\dfrac{S_{1}^{2} / \sigma_{1}^{2}}{S_{2}^{2} / \sigma_{2}^{2}} \sim F(n_{1}-1,n_{2}-1)$
    • $\displaystyle{\frac{\left(\overline{X}-\overline{Y}\right)-\left(\mu_1-\mu_2\right)}{\sqrt{\dfrac{\sigma_1^2}{n_1}+\dfrac{\sigma_2^2}{n_2}}}\sim N(0,1)}$
    • 当 $\sigma_{1}^{2}=\sigma_{2}^{2}=\sigma^{2}$ 时，$\displaystyle{\frac{\left(\overline{X}-\overline{Y}\right)-\left(\mu_1-\mu_2\right)}{S_w\sqrt{\dfrac{1}{n_1}+\dfrac{1}{n_2}}}\sim t(n_1+n_2-2)}$，其中 $\displaystyle{S_w^2=\frac{\left(n_1-1\right)S_1^2+\left(n_2-1\right)S_2^2}{n_1+n_2-2}}$。