概率与统计 · 协方差

协方差

成对数据的样本协方差:每一对偏差相乘,加起来再除以n − 1,cov = Σ(x − x̄)(y − ȳ)/(n − 1)。x和y倾向一起变时为正,一个变大另一个变小时为负。每个乘积是一个有符号的矩形;拖动点,看协方差正方形怎样变。

协方差与本页画面

成对数据的样本协方差量两个量一起变的程度:每一对偏差相乘,加起来再除以n−1n - 1,cov⁡(x,y)=1n−1∑(xi−xˉ)(yi−yˉ)\operatorname{cov}(x, y) = \frac{1}{n-1}\sum (x_i - \bar{x})(y_i - \bar{y})。每一项是一个点两个偏差的乘积,本页画成这个点和中心(xˉ,yˉ)(\bar{x}, \bar{y})之间的矩形。在中心右上方或左下方的点给出正的矩形,另外两块给出负的。两条轴用同一种单位、同一个比例,所以面积是真的面积,中心处正方形的面积等于协方差的绝对值。协方差为正时,正方形向右展开;为负时向左展开。

它的大小说明什么

协方差带单位:xx的单位乘以yy的单位。所有xx都加上同一个数,它不变;可要是用小十倍的单位量xx,协方差就乘以十。它的正负说点是沿一条上升还是下降的直线倾斜,它的大小本身说不出趋势有多强。除以两个标准差就去掉了单位,得到相关系数r=cov⁡(x,y)/(sxsy)r = \operatorname{cov}(x, y)/(s_x s_y)。xx和自己配对时,矩形变成正方形,它的协方差就是它的方差。除数n−1n - 1和样本方差用的一样;改除以nn,得到的是这组数据本身的协方差。

为什么它决定了和的散布

对每个点,(dx+dy)2=dx2+dy2+2dxdy(d_x + d_y)^2 = d_x^2 + d_y^2 + 2d_x d_y,dxd_x、dyd_y是它的两个偏差。同样地平均,就恰好得到var⁡(x+y)=var⁡x+var⁡y+2cov⁡(x,y)\operatorname{var}(x + y) = \operatorname{var} x + \operatorname{var} y + 2\operatorname{cov}(x, y)。xx和yy一起变时,偏差叠加,和的散布比两个散布相加还大;反着变时,偏差部分抵消,和的波动可以比任何一部分都小。把反着变的量放在一起能让总量更稳,道理就在这里。打开“和x + y”后,每个点沿着x+yx + y不变的直线移到过中心的对角线上,这些记号散开的程度就是和的散布。

值得注意

  • 协方差为0不等于两个量没有关系:抛物线上的点可以恰好正负抵消。它只量直线方向的趋势。
  • 一个在两个方向上都离中心很远的点,可以单独提供协方差的大部分。
  • 重叠的矩形各自完整地算一次;重叠处的颜色不会加深。

操作

  • 点空白处加一个点;选中一个点后按删除键删掉它,或按方向键移动它。

相关概念