ChatEJU

教材 · 数学 Course 2 · 概率与统计 · 概率分布

协方差与相关系数

共分散と相関係数

13 確率分布 ／ 共分散，相関係数
一句话结论

协方差是两个偏差之积的期望值，正表示倾向于同增同减，负表示此消彼长；相关系数把它除以两个标准差，落在 −1-1 与 11 之间，不受单位影响。独立则协方差为 00，但协方差为 00 不等于独立。

袋里有写着 1、2、3 的卡片各一张，不放回地先后取两张。第一张是 3，第二张只能是 1 或 2；第一张是 1，第二张只能是 2 或 3。两个数之间有一种「此消彼长」的倾向，而放回取的话就没有。协方差和相关系数就是量这种倾向的数，做法是把上一节方差里的「偏差的平方」换成「两个变量的偏差相乘」。

为什么是这样

设 XX、YY 的期望值是 mXm_X、mYm_Y。对同时分布的每一格，看偏差之积 (x−mX)(y−mY)(x-m_X)(y-m_Y)：两者同在平均之上或同在平均之下，积为正；一个在上一个在下，积为负。按这一格的概率加权求和，正的占优说明两者倾向于同增同减，负的占优说明此消彼长。这个加权和就是协方差（共分散）Cov(X,Y)\mathrm{Cov}(X,Y)。

图画的是开头那个不放回取卡的同时分布：6 个点等可能。以平均 (2,2)(2,2) 为中心划十字，右上、左下两块里的点积为正，左上、右下的积为负。这里只有 (1,3)(1,3)、(3,1)(3,1) 两点的积不为 00，而且都是负的，所以协方差为负。

协方差带着单位：XX 从米换成厘米，协方差就变成 100100 倍，单看大小判断不了关系强弱。除以两个标准差，得到没有单位的相关系数（相関係数）rr，它总在 −1-1 与 11 之间。越接近 11，分布越贴近一条向右上升的直线；越接近 −1-1，越贴近向右下降的直线；接近 00 表示没有直线式的同增同减。

不放回取两张卡的同时分布：以平均 (2, 2) 划十字，右上左下偏差积为正、左上右下为负；本例只有负的X（第 1 张）Y（第 2 张）112233＋＋0−100−101、2、3 中不放回取两张6 个点等可能，各 1/6偏差积 (x−2)(y−2)：(1, 3)、(3, 1) → −1其余 4 点在十字线上 → 0Cov＝(−1−1)÷6＝−1/3右上、左下：积为正左上、右下：积为负本例只有负的 → 此消彼长（(3, 3)、(1, 1) 取不到）

定量表达

定义与计算式见公式块。和方差一样展开，得 Cov(X,Y)=E(XY)−E(X)E(Y)\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)，其中 E(XY)E(XY) 是对同时分布表的每一格求 xyxy 乘概率之和。让 YY 就是 XX，得 Cov(X,X)=V(X)\mathrm{Cov}(X,X)=V(X)，方差是协方差的特例。

XX、YY 独立时，每一格的概率是两个概率之积，E(XY)E(XY) 拆成 E(X)E(Y)E(X)E(Y)，协方差为 00。反过来不成立：XX 等可能地取 −1-1、00、11，Y=X2Y=X^2，则 E(XY)=E(X3)=0=E(X)E(Y)E(XY)=E(X^3)=0=E(X)E(Y)，协方差为 00，可 YY 完全由 XX 决定。协方差只量直线式的关系。

Y=aX+bY=aX+b 时 Cov(X,Y)=aV(X)\mathrm{Cov}(X,Y)=aV(X)，σ(Y)=∣a∣σ(X)\sigma(Y)=|a|\sigma(X)，所以 r=1r=1（a>0a>0）或 r=−1r=-1（a<0a<0）。一般地 Cov(aX+b, cY+d)=ac Cov(X,Y)\mathrm{Cov}(aX+b,\ cY+d)=ac\,\mathrm{Cov}(X,Y)：换单位（乘正数、加常数）不改变 rr，乘负数只改变 rr 的符号。

Y＝X²（X 取 −1、0、1 各 1/3）：偏差积一正一负抵消，协方差为 0，但 Y 完全由 X 决定，并不独立E(Y)＝2/3(−1, 1)(0, 0)(1, 1)XYX 取 −1、0、1 各 1/3，Y＝X²E(X)＝0，E(Y)＝2/3偏差积：左 −1/3，中 0，右 ＋1/3相加后抵消 → Cov＝0可知道 X 就知道 Y：P(X＝0，Y＝0)＝1/3P(X＝0)·P(Y＝0)＝1/9不相等 → 不独立协方差只量直线式的同增同减，抓不住这种弯曲的关系。
Cov(X,Y)=E[(X−mX)(Y−mY)]=E(XY)−E(X)E(Y),r=Cov(X,Y)σ(X) σ(Y)\mathrm{Cov}(X,Y)=E\big[(X-m_X)(Y-m_Y)\big]=E(XY)-E(X)E(Y),\qquad r=\dfrac{\mathrm{Cov}(X,Y)}{\sigma(X)\,\sigma(Y)}
X, YX,\ Y
两个随机变量，由同时分布给出
mX, mYm_X,\ m_Y
期望值 E(X)E(X)、E(Y)E(Y)
E(XY)E(XY)
积 XYXY 的期望值：同时分布表每一格的 xyxy 乘该格概率，全部相加
Cov(X,Y)\mathrm{Cov}(X,Y)
协方差（共分散），EJU 也可能写作 σXY\sigma_{XY}
σ(X), σ(Y)\sigma(X),\ \sigma(Y)
XX、YY 的标准差
rr
相关系数（相関係数），没有单位
适用条件
  • 求 rr 时 σ(X)\sigma(X)、σ(Y)\sigma(Y) 都不为 00（两者都不是只取一个值）
  • 总有 −1≤r≤1-1\le r\le1；Y=aX+bY=aX+b 时 a>0a>0 则 r=1r=1，a<0a<0 则 r=−1r=-1
  • XX、YY 独立 ⇒ Cov(X,Y)=0\mathrm{Cov}(X,Y)=0；反过来不成立

怎么用

给出同时分布时按五步：① 由行和、列和得 XX、YY 各自的分布；② 求 E(X)E(X)、E(Y)E(Y)；③ 逐格求 xyxy 乘概率之和，得 E(XY)E(XY)，xy=0xy=0 的格可以跳过；④ Cov(X,Y)=E(XY)−E(X)E(Y)\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)；⑤ 求两个标准差，相除得 rr。

登录后免费阅读全文

本节还有 7 部分，以及配套的真题和小测验。

免费注册登录
  • 本节公式一览
  • 例题
  • 容易错在哪里
  • 自测
  • 小结
  • 日文术语