第 11 章　多维随机变量

11.1联合分布：两个变量一起看

设 X、Y 是两个随机变量，把它们捆在一起看成一个「二维随机变量」 (X, Y)。它取「X=x 且 Y=y」的概率，就是联合分布。

离散情形下，联合分布律是一张二维表，每个格子写 P(X=x_i, Y=y_j)：

这张表完整描述了两个变量的联合规律：每个格子是一个「同时发生」的概率，所有格子加起来等于 1。

从表格到曲面：联合分布的连续版本

掷硬币、抽产品这类离散场景，一张二维表就装下了全部规律。但工程测量里的量大多是连续的：同一翼梁上两个测点的应变、一次飞行中的风速与阵风载荷、一次着陆的垂直速度与水平速度……它们的取值充满整个区间，任何格子表都装不下。处理办法与第 7 章从「分布律」升级到「密度函数」完全平行——把「格子的概率」升级为「单位面积上的概率」，得到联合概率密度 f(x, y)。

严格地走一遍定义。先仿照一维分布函数，定义联合分布函数：F(x, y) = P(X ≤ x, Y ≤ y)——随机点 落在点 (x, y) 左下方无穷矩形区域内的概率，相当于把一维的「累计」升级为二维的「体积累计」。若存在二元函数 f(x, y)，使得 F(x, y) = ∫_−∞^x ∫_−∞^y f(u, v) dv du，就称 f(x, y) 为 (X, Y) 的联合概率密度。对平面区域 D，有 P((X, Y) ∈ D) = ∬_D f(x, y) dx dy。直观图像只有一句话：把密度看成一座山，随机点落入区域 D 的概率 = 山体被 D 罩住的那一块的体积。

密度曲面必须守住两条底线：非负性 f(x, y) ≥ 0（概率不能为负）、归一性 ∬_全平面 f(x, y) dx dy = 1（总概率恒为 1）。这与一维情形完全平行；但升到二维后，冒出了一维世界里没有的新东西——支撑集的形状。支撑集指密度非零的区域，它的形状能携带「两变量互相约束」的信息：比如 f 只在一个圆盘上非零，两个变量就被「合成长度固定」这类几何关系捆在了一起。这种形状信息是二维分布真正的增量，11.3 节判断独立性、11.5 节读散点图时都会反复用到它。

工程场景：双通道同步测量。机翼静力试验中，翼根与翼尖各贴一片应变片，每级载荷同步读数，得到一对 (ε₁, ε₂)；成百上千级加载累积下来，这些数据点在 ε₁–ε₂ 平面上聚成一团「云」，其数学原型正是联合分布（工程上常用二维正态去拟合这团云，为什么偏偏是正态，第 12 章的中心极限定理会给出答案）。只看翼尖应变的边缘分布，回答不了「翼根应变达到 1800 με 时，翼尖超过 900 με 的概率是多少」——这类「搭配」问题必须动用联合分布。飞行载荷谱分析中的「载荷组合包线」（如载荷因子与空速的组合统计）本质上也是在对联合分布做等高线分析。

辨析：投影是单向的。知道联合分布，按行、按列求和立刻得到边缘分布（下一节）；反过来，只知道两个边缘分布，无法还原联合分布——「怎么搭配」的信息在投影时被丢掉了。可以把联合表想象成棋盘上的一局残局：只数每行每列的棋子数（边缘），永远摆不出唯一的棋形（联合）。只有在 11.3 节「独立性」这个额外条件成立时，边缘分布才足以拼出联合分布——这正是独立性如此重要的原因。

再问一层：为什么不能「各自统计再拼起来」。装配车间里，孔径与轴径各自单独统计都完全正常——孔径分布居中、轴径分布也居中，两张控制图都绿灯；但若「孔偏大时轴也偏大」（同一台机床的热漂移让两者同涨同落），配合间隙的波动就会远超「各自正常」给人的安全感。间隙的分布取决于孔径、轴径的联合行为，不是两个边缘的简单拼接。这正是公差配合分析必须写协方差项、统计过程控制必须保留配对数据的原因：单变量口径的「全部正常」，在二维口径下可能是「异常」。

11.2边缘分布：只看其中一个

如果你只关心 X（不管 Y 取什么），就从联合分布里「把 Y 那一维加掉」。这就是边缘分布（marginal distribution）：

P(X = x_i) = Σ_j P(X = x_i, Y = y_j)

也就是把联合表按行求和（得到 X 的边缘），或按列求和（得到 Y 的边缘）。这就是上表最右边一列和最下面一行的来历。

连续型：求和变积分，积分限藏在支撑集里

「按行求和」在连续场合升级为「对另一变量积分」：

f_X(x) = ∫_−∞^+∞ f(x, y) dy

推导只用了一行定义：边缘分布函数 F_X(x) = P(X ≤ x) = P(X ≤ x, −∞ < Y < +∞) = F(x, +∞)，两边对 x 求导即得公式。操作层面真正的难点是积分限：对给定的 x，f(x, y) 关于 y 通常只在一段区间内非零——比如支撑集是圆盘时，这段区间是 [−√(1−x²), √(1−x²)]，由圆的边界给出。初学最常见的错误，是机械地写 −∞ 到 +∞、却忘了把支撑集边界代进去，算出的「边缘密度」在定义域之外仍不为零，一积分就暴露（总概率大于 1）。

再提前接种一个反直觉的陷阱：联合均匀，边缘未必均匀。直觉解释：均匀撒在圆盘上的点，落入「x 附近一条细竖带」的概率正比于这条竖带穿过圆盘的长度——圆心附近的竖弦长、边缘附近的竖弦短，于是中间的边缘密度大、两头小。投影不是「原样照搬」，它按几何宽度重新分配概率质量，会「骗人」。

拿具体数字感受一下这种「骗人」：在例题 2 的圆盘上，x = 0 处竖弦全长 2（正好一根直径），x = 0.8 处竖弦全长 2√(1 − 0.64) = 1.2——同样宽度的细竖带，圆心附近能接住的概率约是 x = 0.8 处的 2 ⁄ 1.2 ≈ 1.7 倍。边缘密度 2√(1−x²)/π 里那根 √(1−x²)，量的正是「弦长缩水」这件事。

例题 2 延伸：概率质量的「平方律」。既然密度在圆盘上均匀，落入半径 r（r ≤ 1）的同心圆的概率就等于面积比：πr² ÷ π = r²。对比一维直觉：一维均匀落在 [0, r] 的概率是 r 的一次方；二维圆盘落到半径 r 却是平方——维数越高，概率质量越往外圈堆：半径 0.5 的内圆只占整个圆盘 25% 的概率。这条平方律在高精度定位里有个响亮的名字：瑞利分布——两路独立、同方差的正态误差（横向、纵向）合成的落点，其到中心的距离正服从它，用来回答「命中半径 50 m 内的概率」。其形状与本例「距离的密度 f(r) = 2r」同族，等第 12 章讲透正态再回头看，你会对「为什么误差分析离不开这几个分布」有会心一击。

工程场景：二维数据只取一个轴。机队运行数据库里，每个航班存一对记录（起飞重量， 重心位置），全体航班构成二维分布。运维关心的两个「谱」——重量谱、重心谱——分别是它的两个边缘，单独画出来很容易；但航班最危险的工况是「重量逼近上限并且重心逼近后限」的组合，这种信息只有联合分布（至少加上两者的相关性）才能回答。这解释了一条工程数据纪律：成对采集的参数要保留配对关系入库，不能各存一份、丢掉搭配。

辨析：边缘相同，联合可以天差地别。看两张 2×2 联合表：

两张表的 X 边缘都是 (1/2, 1/2)，Y 边缘也都是 (1/2, 1/2)，逐项相同；但表甲中知 X 立即知 Y（完全同步），表乙中知 X 立即知「Y 相反」（完全反向）。同一个边缘、天壤之别的联合——「搭配方式」是边缘分布完全没能力保存的信息，这正是联合分布不可替代的根本理由。

11.3随机变量的独立性

第 5 章学过事件的独立，现在推广到随机变量。X、Y 相互独立，指的是「知道 X 的取值，不提供任何关于 Y 的信息」，即对任意 x、y：

P(X = x, Y = y) = P(X = x) · P(Y = y)

换句话说：联合分布 = 两个边缘分布的乘积。上表的例子（两枚硬币）恰好满足这个条件，所以 X、Y 独立——这很自然，因为第一枚硬币的结果不影响第二枚。

连续型独立判据与「矩形支撑」直觉

连续场合的独立判定式为：对一切 x、y，f(x, y) = f_X(x) · f_Y(y)。它有一条极实用的几何直觉——独立的联合密度必然能「拆」成「x 方向的一维函数 × y 方向的一维函数」，因此其等高线是横平竖直的矩形族，支撑集也必然是「x 的取值区间 × y 的取值区间」这种矩形（区间乘积）。反过来，一旦支撑集是圆盘、三角形、斜带状这类「弯」的区域，两个变量的取值范围就互相牵制——例如例题 2 的圆盘上，x 接近 ±1 时 y 只能接近 0——基本可直接判定不独立。注意这只是「快速直觉」，不是证明；严谨判定仍要逐点验证乘积式是否成立。

正向的速查经验同样好使：若密度在矩形区域上非零、且表达式能写成「只含 x 的因子 × 只含 y 的因子」（如 f(x, y) = 6x²y 在单位正方形上），独立直接成立——「可分离」就是独立在密度层面的长相；若因子里出现 x、y 纠缠的项（如 e^−xy、x + y），独立基本告吹。

独立性还有更深一层的表述：知道 X 的取值，不改变关于 Y 的任何概率——任意「在 X 已知」的条件下，Y 的分布都和原来一模一样（用第 3 章的话说：条件分布等于无条件分布）。由此还能推出一条计算上极好用的性质：若 X、Y 独立，则对任意函数 g、h 有 E[g(X)·h(Y)] = E[g(X)]·E[h(Y)]，即「函数可拆」。反过来用它考察 E(XY)：取 g、h 为恒等函数，立得 E(XY) = E(X)·E(Y)——这正是「独立 ⇒ 协方差为零」的来源（见 11.4 节）。

连续场合的独立其实有三个等价判据，做题时哪条顺手用哪条：① 密度乘积式——对一切 x、y，f(x, y) = f_X(x)f_Y(y)；② 分布函数乘积式——对一切 x、y，F(x, y) = F_X(x)F_Y(y)；③ 区域乘积式——对任意区域 A、B，P(X ∈ A, Y ∈ B) = P(X ∈ A)·P(Y ∈ B)。给密度用①，给分布函数用②，给概率陈述用③。三条等价说明：独立是「整个概率结构」层面的性质——要求一切格子、一切点、一切区域都满足乘积式，而不是某个别位置成立；这也正是它比「某两个事件独立」强得多的原因。

工程场景：冗余设计的独立性假设。关键测量通道常做双传感器冗余，系统失效概率按「两路同时失效才算失效」计算：P(双双失效) = p²。这个 p² 隐含着「两路独立」的假设。但工程现实里有共因故障（common cause failure）：同批次器件的缺陷、同一次供电浪涌、同一段软件缺陷会「一锅端」两个通道。共因使两路失效正相关，真实概率远大于 p²——独立性假设会系统性高估可靠性。可靠性工程为此引入 β 因子模型：把双失效概率拆成「独立部分 (1−β)p² + 共因部分 βp」，正面承认相关性。规律是通用的：任何「概率连乘」的可靠度计算，都要先审问一遍独立性假设站不站得住。

辨析：独立 ≠ 互斥，甚至方向相反。对概率非零的事件，「互斥」（不能同时发生）与「独立」（同时发生的概率 = 乘积）不可能兼得——P(AB) = 0 而 P(A)P(B) > 0，乘积式必被破坏。放到随机变量上看更直观：完全相关（如 Y = X）时，联合概率质量全部浓缩在对角线上；独立时，概率质量均匀铺满整张表格。「互斥」是「知你发生、我必不发生」的极端相关，离独立最远。第 5 章事件层面如此，随机变量层面依然如此——很多人栽在「独立 = 毫无关系」这半句话上：独立是「概率上互不提供信息」，不是「物理上毫无关系」；反过来，「关系铁到互斥」也谈不上独立。

11.4协方差：一起变的程度

独立性是「毫无关系」，但现实中两个变量往往有关系：身高高的人，体重往往也大；练习越多，成绩往往越好。如何量化「两个变量是否一起变」？

考虑 X 偏离它的均值、Y 偏离它的均值，把两个偏离相乘再取期望，就是协方差：

Cov(X, Y) = E[ (X − E(X)) · (Y − E(Y)) ]

它的直觉：

• 当 X 偏大时 Y 也偏大（同方向），乘积为正，协方差 > 0 —— 正相关。
• 当 X 偏大时 Y 反而偏小（反方向），乘积为负，协方差 < 0 —— 负相关。
• 正负偏离随机出现、互不相关，乘积平均后趋于 0 —— 不相关。

实用的计算公式（和方差公式同源）：

Cov(X, Y) = E(XY) − E(X)·E(Y)

计算公式从哪儿来：与方差公式同一个模具

实用公式 Cov(X, Y) = E(XY) − E(X)E(Y) 不是新假设，三行就能推出来。记 μ_x = E(X)，μ_y = E(Y)，用第 10 章期望的线性性逐步展开：

Cov(X, Y) = E[(X − μ_x)(Y − μ_y)] = E(XY) − μ_yE(X) − μ_xE(Y) + μ_xμ_y = E(XY) − E(X)E(Y)

对照第 10 章的 D(X) = E(X²) − E(X)²：方差不过是「自己和自己的协方差」——Cov(X, X) = D(X)。同一个模具，两个刻度。

协方差还有两条极常用的性质（证明各一两行，留作练习）。平移不变：Cov(X + a, Y + b) = Cov(X, Y)——整体抬高基准不影响「一起波动」；双线性：Cov(aX, cY) = ac·Cov(X, Y)，且 Cov(X₁ + X₂, Y) = Cov(X₁, Y) + Cov(X₂, Y)。双线性最漂亮的应用是方差合成公式——把 D(X ± Y) 按协方差定义展开即得：

D(X ± Y) = D(X) + D(Y) ± 2Cov(X, Y)

• 独立（或不相关）时 Cov = 0：方差直接相加——「独立误差平方相加再开方」这条工程铁律的出处；
• 正相关 Cov > 0：同号合成时总方差更大，误差互相放大；
• 负相关 Cov < 0：± 2Cov 抵消一部分，总方差反而被压小——这就是「对消设计」。

工程场景：测量不确定度的合成。用同一把卡尺先后测两个尺寸再相加，两处误差高度正相关（卡尺的系统偏差同号），总方差 = σ₁² + σ₂² + 2Cov，比「独立假设」算出的大——漏算协方差项就会低估不确定度。反过来，「差分比对测量」故意让两读数误差负相关（共用同一基准、系统误差同号相减抵消），利用 ± 2Cov 的负号把总方差压下去——高精度比对测量都靠这一招。国际通行的测量不确定度评定框架（GUM）的合成公式 u_c² = Σc_i²u_i² + 2Σ_i<jc_ic_ju_ij 里，协方差项白纸黑字写在其中：相关性不处理，报告的不确定度就是错的。

辨析：Cov = 0 处在哪一层。三句话关系链背下来：独立 ⇒ Cov = 0 ⇒ E(XY) = E(X)E(Y)；反方向一概不成立（不相关推不出独立，11.5 节给标准反例）。另外协方差的绝对数值没有跨题可比性：它的量纲是「X 的单位 × Y 的单位」，身高体重算协方差，把米换成厘米结果瞬间 × 100，但两人的关系毫无变化——量纲卡住了它，这直接催生下一节的标准化。

协方差的几何图像：散点云的「指向」。把成对观测画在平面上成一团「云」：Cov > 0 时云的主轴指向一、三象限（X、Y 同向拉长）；Cov < 0 时主轴指向二、四象限；|Cov| 越大云越「瘦长」——但「瘦长到什么程度」还要看两边的尺度（标准差），这正是下一节 ρ 用「云的胖瘦」度量的直观来源。看散点图先看「主轴指向」（相关的方向），再看「云有多瘦」（相关的强度），这两眼看完，ρ 的正负与大小基本已在胸中。

11.5相关系数：标准化到 [−1, 1]

协方差有个缺陷：它的数值大小受单位影响（把身高从「米」换成「厘米」，协方差会暴涨 100 倍）。为了能公平比较，把它除以两个标准差，得到相关系数 ρ：

ρ = Cov(X, Y) ⁄ ( √D(X) · √D(Y) )

相关系数被「标准化」到 −1 ≤ ρ ≤ 1：

• ρ = 1：完全正相关（Y 随 X 严格线性增长）。
• ρ = −1：完全负相关（Y 随 X 严格线性下降）。
• ρ = 0：线性无关（不相关）。
• |ρ| 越接近 1，线性关系越强；越接近 0，越弱。

|ρ| ≤ 1 是怎么推出来的

相关系数的范围不是人为规定，而是从「方差非负」推出来的。对任意实数 t，构造随机变量 X − tY，它的方差当然非负：

D(X − tY) = D(X) − 2t·Cov(X, Y) + t²D(Y) ≥ 0　（对一切 t 成立）

这是关于 t 的开口向上二次函数；要它对一切 t 都非负，判别式必须不超过零：(2Cov)² − 4D(X)D(Y) ≤ 0，即 Cov² ≤ D(X)D(Y)。两边除以 D(X)D(Y)（方差非零时），正是 |ρ| ≤ 1。进一步，判别式取等号 ⟺ 二次函数有实根 t₀ ⟺ 存在 t₀ 使 D(X − t₀Y) = 0，即 X 与 Y（以概率 1）严格线性：X − μ_x = t₀(Y − μ_y)，此时 ρ = ±1。概率论版的柯西–施瓦茨不等式，就藏在这三行推导里。

再看 ρ 的另一种理解——先标准化、再算协方差。令 X* = (X − μ_x)/σ_x，Y* = (Y − μ_y)/σ_y（各自变成均值 0、方差 1 的标准变量），容易验证 ρ = Cov(X*, Y*)。量纲在标准化时被除得干干净净，所以 ρ 才能跨变量、跨单位比较——「身高与体重」的 ρ 和「温度与黏度」的 ρ 放在一起比大小，才有意义。

工程场景：相关 ≠ 因果。工程统计里最容易犯的错，是拿 ρ 编因果故事。某机场统计发现「鸟击事件数」与「冰淇淋销量」高度正相关——谁也不是谁的原因，共同原因是「夏季」（天热 → 鸟类活动多、冰淇淋卖得多）。要认定因果，靠的是机制分析 + 受控试验：固定其他变量、只动一个，看结果是否随之变（试验设计的本职）；或像疲劳分析中「应力幅与裂纹扩展」那样，有明确物理机制背书的相关，才敢用于寿命预测。还有一条要绷紧：手头数据算出的是样本相关系数 r，它只是 ρ 的估计——样本量小时 r 会剧烈波动，抽 5 组数据算出 |r| > 0.8 并不代表真相关，显著性判断属于统计学的内容，这里先种下种子。

辨析：ρ 只对「直」敏感，如何补救。ρ 度量线性关联，遇到弯曲关系会失明（例题 6）。工程数据探索时的通行做法是：先画散点图再谈相关系数——图不会撒谎；对明显单调但非线性的关系，可改用基于「秩」的斯皮尔曼（Spearman）等级相关，把数值换成名次再算相关，对单调曲线依然有效。记住一条工作纪律：先看图、再算数、最后下结论。

最后给一个常被忽略、却极有价值的视角——ρ²（决定系数直觉）：若用 X 的线性函数去预测 Y，ρ² 恰好等于「被线性关系解释掉的波动占总波动的比例」。算一算感受深浅：ρ = 0.5 只解释 25%，ρ = 0.8 解释 64%——从 0.5 到 0.8，看似「多了一点点」，可解释比例却翻了近三倍。反过来，ρ = 0.7 听起来很强，也只解释一半（49%），剩下一半仍是未知数。工程报告里写「相关系数 0.7」时，脑子里应当自动换算成「还剩一半没解释」——这个换算习惯，是把 ρ 用活、不被数字唬住的关键。

ρ 的另一个藏身之处：拟合直线的斜率。用最小二乘给散点云配一条直线 Y = a + bX（让所有点到直线的竖直偏差平方和最小），最优斜率恰好是 b = Cov(X, Y)/D(X) = ρ·σ_y/σ_x。翻译成标准化语言：先把 X、Y 各自标准化再配直线，斜率就变成 ρ 本身——相关系数就是「标准尺度下最优拟合直线的斜率」。ρ = ±1 时直线完全贴合数据、残差为零；|ρ| 越小，直线越「撑不住」云团。相关系数、散点云、拟合直线，是同一件事的三个侧面——从哪个看都通向同一个结论。