III. 多元随机变量及其分布
本篇笔记主要介绍了多元随机变量及其分布的相关概念。首先讨论了二元随机变量的基本定义,包括离散型和连续型随机变量的联合分布、边际分布和条件分布。其次介绍了二元正态分布这一重要的特例。随后探讨了多元随机变量的独立性概念及其判定方法。最后讨论了多元随机变量函数的分布问题,包括和、商、积以及最大最小值等情形的分布推导方法。(由 claude-3.5-sonnet 生成摘要)
1. 二元随机变量及其分布
- (二元随机变量) 设 E 是一个随机试验,样本空间是 S={e},设 X=X(e),Y=Y(e) 是定义在 S 上的随机变量,由它们构成向量的 (X,Y) 叫 二元随机变量。
- (二元离散型随机变量) 若二元随机变量 (X,Y) 全部可能取到的不同值是有限对或可列无限对,则称 (X,Y) 是 二元离散型随机变量。
- (联合分布律) 设二元离散型随机变量 (X,Y) 的所有可能取值为 (xi,yj)i,j=1,2,⋯,设 pij=P(X=xi,Y=yj) 为 (X,Y) 的 联合(概率)分布律。
- (联合分布律的性质)
- pij≥0i,j=1,2,⋯
- i=1∑∞j=1∑∞pij=1
- (边际分布律) 在上述条件下,设 (X,Y) 的 边际(概率)分布律 为 P(Y=yj)=P(X<∞,Y=yj)=p⋅j 和 P(X=xi)=P(X=xi,Y<∞)=pi⋅。
- (条件分布律) 在上述条件下,设 (X,Y) 的 条件(概率)分布律 为 P(X=xi∣Y=yj)=p⋅jpij 和 P(Y=yj∣X=xi)=pi⋅pij。
- (联合分布函数) 设 (X,Y) 为二元随机变量,对于任意实数 x,y,二元函数 F(x,y)=P{(X≤x)∩(Y≤y)}=P(X≤x,Y≤y) 称为二元随机变量 (X,Y) 的 联合(概率)分布函数。
- (联合分布函数的性质)
- F(x,y) 关于 x,y 分别单调不减
- 0≤F(x,y)≤1, F(+∞,+∞)=1 且对任意 x,y,F(−∞,y)=F(x,−∞)=F(−∞,−∞)=0
- F(x,y) 关于 x,y 右连续,即 ε→0+limF(x+ε,y)=ε→0+limF(x,y+ε)=F(x,y)
- 若 x1<x2,y1<y2,则 F(x2,y2)−F(x2,y1)−F(x1,y2)+F(x1,y1)=P(x1<X≤x2,y1<Y≤y2)≥0
- (边际分布函数) 在上述条件下,设 X,Y 的 边际(概率)分布函数 分别为 FX(x)=F(x,+∞) 和 FY(y)=F(+∞,y)。
- (条件分布函数) 在上述条件下,设 X,Y 的 条件(概率)分布函数 分别为 FX∣Y(x∣y)=P(X≤x∣Y=y)=P(Y=y)P(X≤x,Y=y)。特别地,若 P(Y=y)=0,则记 P(X≤x∣Y=y)=ε→0+limP(y<Y<y+ε)P(X≤x,y<Y<y+ε)。
- (联合密度函数) 对于二元随机变量 (X,Y),如果存在非负函数 f(x,y) 使对于任意 (x,y) 满足 F(x,y)=∫−∞y∫−∞xf(u,v)dudv,则称 (X,Y) 为 二元连续型随机变量,称 f(x,y) 为二元随机变量的 联合(概率)密度函数。
- (联合密度函数的性质)
- f(x,y)≥0
- ∫−∞+∞∫−∞+∞f(x,y)dxdy=1
- 设 G 是平面上区域,则 (X,Y) 落在 G 内的概率 P{(X,Y)∈G}=∬Gf(x,y)dxdy
- 在 f(x,y) 的连续点 (x,y),有 ∂x∂y∂2F(x,y)=f(x,y)
- (边际密度函数) 在上述条件下,设 X,Y 的 边际(概率)密度函数 分别为 fX(x)=∫−∞∞f(x,y)dy=∫−∞xfX(u)du 和 fY(y)=∫−∞+∞f(x,y)dx=∫−∞yfY(v)dv。
- (条件密度函数) 在上述条件下,设 X,Y 的 条件(概率)密度函数 分别为 fX∣Y(x∣y)=fY(y)f(x,y), fY(y)>0 和 fY∣X(y∣x)=fX(x)f(x,y), fX(x)>0。
- (条件密度函数的性质)
- fX∣Y(x∣y)≥0
- ∫−∞+∞fX∣Y(x∣y) dx=1
- P{a<X<b∣Y=y}=∫abfX∣Y(x∣y)dx
- 在 fX∣Y(x∣y) 的连续点 x,有 dxdFX∣Y(x∣y)=fX∣Y(x∣y)
- f(x,y)=fX∣Y(x∣y)fY(y)=fX(x)fY∣X(y∣x)
- (二元正态分布) 设二元随机变量 (X,Y) 的概率密度函数为 f(x,y)=2πσ1σ21−ρ21⋅exp(−2(1−ρ2)1(σ12(x−μ1)2−2ρσ1σ2(x−μ1)(y−μ2)+σ22(y−μ2)2)) (−∞<x<+∞, −∞<y<+∞) 其中 μ1,μ2,σ1,σ2,ρ 都是常数,且 σ1>0,σ2>0,−1<ρ<1;称 (X,Y) 为服从参数为 μ1,μ2,σ1,σ2,ρ 的 二元正态分布,记为 (X,Y)∼N(μ1,μ2,σ12,σ22,ρ)。
- 图例:
2. 多元随机变量的独立性
- (二元随机变量的独立性) 设 F(x,y) 及 FX(x),FY(y) 分别是随机变量 (X,Y) 的联合分布函数及边际分布函数,若对所有实数 x,y 都有 P(X≤x,Y≤y)=P(X≤x)P(Y≤y),即 F(x,y)=FX(x)FY(y),则称随机变量 X,Y 相互独立。
- 若 (X,Y) 是离散型随机变量,则 X,Y 相互独立的条件等价于 pij=pi⋅p⋅j 对一切 i,j 都成立。
- 若 (X,Y) 是连续型随机变量,则 X,Y 相互独立的条件等价于 f(x,y)=fX(x)fY(y) 在平面上除去“零面积”集以外处处成立。
- 连续型随机变量 X,Y 相互独立的充分必要条件是存在连续函数 m(⋅),n(⋅) 使得 f(x,y)=m(x)⋅n(y), ∣x∣<+∞,∣y∣<+∞。
证明:对于二维正态随机变量 (X,Y),X 与 Y 相互独立的充要条件是参数 ρ=0。
3. 多元随机变量的函数的分布
- Z=X+Y 的情形
- (卷积公式) 设连续型随机变量 (X,Y) 的密度函数为 f(x,y) 且 X 与 Y 相互独立,则 Z=X+Y 的密度函数为 fZ(z)=∫−∞+∞fX(z−y)fY(y)dy=∫−∞∞fX(x)fY(z−x)dx,称为 卷积公式。
- 设 X 与 Y 相互独立且 X∼N(μ1,σ12), Y∼N(μ2,σ22),则 aX+bY+c∼N(aμ1+bμ2+c,a2σ12+b2σ22)。
- Z=XY 或 Z=XY 的情形:
- Z=XY 的概率密度函数为:fZ(z)=∫−∞+∞∣x∣f(x,xz)dx
- Z=XY 的概率密度函数为:fZ(z)=∫−∞+∞∣x∣1f(x,xz)dx
- M=max{X,Y} 或 N=min{X,Y} 的情形
- 设 X,Y 是两个相互独立的随机变量,则 M=max{X,Y} 的分布函数为 FM(z)=FX(z)FY(z);N=min{X,Y} 的分布函数为 FN(z)=1−(1−FX(z))(1−FY(z))。