相関

対になったデータの相関係数$r$は、ピアソンの相関係数とも呼ばれ、点が1本の直線にどれほど沿っているかを測ります。値は−1から1で、$x$と$y$が一緒に増える傾向があると正になります。ここでは各点とデータの中心が長方形を作り、その辺を標準偏差で測ります。$r$は符号付き面積の合計を$n-1$で割ったものです。点をドラッグ・追加・削除したり、アンスコムの4つのデータセットや指定した$r$から作る点群を読み込んだりできます。$r$を−1と1の間に収める正方形も見られます。

$r$は何を測るのでしょうか。標準化した単位では、$z_x$は点が$x$の平均より標準偏差何個分右にあるかを、$z_y$は$y$の平均より何個分上にあるかを示します。点と中心が作る長方形の面積は$|z_x z_y|$です。右上と左下では、両座標がそれぞれの平均に対して同じ側にあるので正と数え、残りの2つの角では負と数えます。辺を標準偏差で測るため、単位を変えたり$x$と$y$を入れ替えたりしても$r$は変わりません。図も同じ考えで描かれ、1標準偏差の長さが両軸で等しいので、破線の枠は正方形です。その右上4分の1が1単位の面積になります。

なぜ$r$は±1の範囲を超えないのでしょうか。中心を通る直線$z_y = z_x$を引きます。点からこの直線までの距離の二乗は$(z_y - z_x)^2/2$で、これらを足して$n-1$で割ると、ちょうど$1 - r$になります。$z_x^2$と$z_y^2$がそれぞれ$n-1$に足し合わさるからです。もう一方の対角線$z_y = -z_x$について同じ計算をすると$1 + r$になります。二乗は負にならないため、$-1 \le r \le 1$です。そして$r = 1$となるのは、$z_y = z_x$までの距離の二乗がすべて0になるときだけ、つまり全点が1本の右上がりの直線上にあるときだけです。

なぜまったく違う図から同じ$r$が得られるのでしょうか。$r$は長方形を足すだけで、形は見ていません。統計学者フランシス・アンスコムは1973年、$r$、平均、当てはめた直線がほぼ同じ4つのデータセットを作りました。1つは直線状の帯、1つは滑らかな曲線、1つは外れ値1個を除いてほぼ直線、最後の1つはたった1点が符号付きの合計の大部分を担います。長方形は、点から中心までの2方向の距離の積に応じて大きくなるので、遠くの1点が全体の面積の大部分を占めることがあります。また、全点が放物線上にあっても、対称に配置されていれば$r = 0$となることがあります。片側の各長方形が反対側の鏡像と打ち消し合うからです。$r$が測るのは直線的な関連だけです。

なぜ標準化した単位で見るのでしょうか。目は点群の細さから相関を判断しますが、それは軸によって変わります。片方の軸を伸ばせば、同じ点群が細長くも丸くも見えます。Cleveland、Diaconis、McGillの1982年の実験では、周囲の軸の範囲を広げると、同じ散布図がより強く相関していると判断されました。標準化した単位なら、両軸で1標準偏差の長さが等しくなり、軸を比較できます。その図で2本の対角線に垂直な方向への点群の広がりこそ、$r$が測るものです。ただし、目が正確になるわけではありません。縮小すれば、同じ点群はやはり密に見えます。