概率与统计 · 相关系数

相关系数

相关系数r衡量两个都在变化的量之间直线式关联的方向和强弱。本页让每个点和数据的中心围成一个以标准差为单位的矩形,r把它们的有符号面积加起来。

相关系数与本页画面

成对数据的相关系数rr(又称皮尔逊相关系数)衡量各点贴近同一条直线的程度:它在−1到1之间,xx和yy倾向于一起变大时为正。本页让每个点和数据的中心围成一个矩形,边长以标准差为单位,rr就是这些矩形的有符号面积之和除以n−1n-1。你可以拖动、添加、删除点,载入安斯库姆的四组数据或按指定rr生成的点云,还能看到把rr限制在−1和1之间的那些方块。

标准单位与矩形算出的r
zx=x−xˉsx,zy=y−yˉsy,r=1n−1∑zxzyz_x = \frac{x - \bar x}{s_x}, \quad z_y = \frac{y - \bar y}{s_y}, \qquad r = \frac{1}{n-1}\sum z_x z_y

rr量的是什么?换成标准单位后,zxz_x说的是一个点在xx的均值右边几个标准差,zyz_y是在yy的均值上方几个标准差。点和中心之间的矩形面积是∣zxzy∣|z_x z_y|。矩形在中心的右上或左下时,两个坐标在各自均值的同一侧,算正;在另外两个角算负。边长按标准差计,所以换单位、交换xx和yy都不改变rr。画面也是这样画的:两个方向上一个标准差一样长,虚线框是正方形,它右上角的四分之一就是一个单位面积。

为什么rr超不过±1?过中心画直线zy=zxz_y = z_x。一个点到它的距离平方是(zy−zx)2/2(z_y - z_x)^2/2,这些平方加起来除以n−1n-1,正好是1−r1 - r,因为zx2z_x^2和zy2z_y^2各自加起来都是n−1n-1。换成另一条对角线zy=−zxz_y = -z_x,同样算出来是1+r1 + r。平方不会是负数,所以−1≤r≤1-1 \le r \le 1;r=1r = 1只在到zy=zxz_y = z_x的方块全部消失时成立,也就是所有点都在一条上升的直线上。

为什么同一个rr可以是完全不同的图?rr只是把矩形加起来,不看形状。统计学家安斯库姆在1973年造了四组数据,rr、均值和拟合直线几乎相同:一组是一条直的点带,一组是光滑的曲线,一组除一个离群点外几乎共线,最后一组的大部分有符号面积来自一个点。矩形随点到中心两个方向距离的乘积长大,所以一个远点就能占掉大部分面积。点正好落在抛物线上时,只要左右对称摆放,rr也可以是0:一边的每个矩形都被另一边的镜像抵消。rr只衡量直线式的关联。

为什么要在标准单位下看?眼睛按点云看起来有多细来判断相关的强弱,而这取决于坐标轴:拉长一个轴,同样的点就显得更细或更圆。Cleveland、Diaconis和McGill在1982年的实验里发现,坐标范围放大、点云显得更小时,人们会把同样的散点图判断得更相关。标准单位让两个坐标轴可以比较:两个方向的一个标准差一样长,在这种画法里,点云横穿两条对角线的分散程度,正是rr量的东西。但它并不让眼睛变得可靠:画面缩小后,同一团点仍然显得更紧。

值得注意

  • 相关很强也不说明一个变量导致了另一个:两者可能都随第三个量变化。
  • rr是中心化后两个数据向量(xi−xˉ)(x_i - \bar x)与(yi−yˉ)(y_i - \bar y)夹角的余弦。
  • 按rr生成的点云是构造出来的,相关系数正好等于所选的值;随机抽样得到的rr会在它附近波动。

操作

  • 挪动一个点可能改变整团点的中心和标准差,所以没碰过的点也可能在画面上换位置。

相关概念