Корреляция

Коэффициент корреляции $r$ парных данных, также называемый коэффициентом Пирсона, измеряет, насколько тесно точки следуют одной прямой. Он лежит от −1 до 1 и положителен, когда $x$ и $y$ склонны расти вместе. Здесь каждая точка и центр данных задают прямоугольник со сторонами в стандартных отклонениях; $r$ — сумма их площадей с учётом знаков, делённая на $n-1$. Можно перемещать, добавлять и удалять точки, загружать четыре набора Энскомба или облако, построенное с выбранным $r$, и видеть квадраты, удерживающие $r$ между −1 и 1.

Что измеряет $r$? В стандартных единицах $z_x$ показывает, на сколько стандартных отклонений точка правее среднего по $x$, а $z_y$ — на сколько она выше среднего по $y$. Прямоугольник между точкой и центром имеет площадь $|z_x z_y|$. Она считается положительной справа вверху и слева внизу, где обе координаты находятся по одну сторону от своих средних, и отрицательной в двух других углах. Поскольку стороны измерены в стандартных отклонениях, смена единиц или перестановка $x$ и $y$ не меняет $r$. Так же устроен рисунок: одно стандартное отклонение имеет одинаковую длину на обеих осях. Поэтому штриховая рамка — квадрат, а его верхняя правая четверть составляет единицу площади.

Почему $r$ никогда не выходит за пределы ±1? Проведите через центр прямую $z_y = z_x$. Квадрат расстояния точки до неё равен $(z_y - z_x)^2/2$. Сумма этих квадратов, делённая на $n-1$, в точности даёт $1 - r$, потому что сумма $z_x^2$ и сумма $z_y^2$ каждая равна $n-1$. Для другой диагонали, $z_y = -z_x$, тот же расчёт даёт $1 + r$. Квадраты не бывают отрицательными, поэтому $-1 \le r \le 1$. А $r = 1$ возможно лишь тогда, когда все квадраты расстояний до $z_y = z_x$ равны нулю: все точки лежат на одной возрастающей прямой.

Почему совсем разные рисунки могут давать одно и то же $r$? $r$ складывает прямоугольники, не глядя на форму. В 1973 году статистик Фрэнсис Энскомб построил четыре набора данных с почти одинаковыми значениями $r$, средними и подогнанными прямыми: один — прямая полоса, другой — гладкая кривая, третий почти следует прямой, кроме одного выброса, а в четвёртом одна точка даёт большую часть суммы с учётом знаков. Прямоугольник растёт как произведение двух расстояний точки от центра, поэтому одна далёкая точка может дать большую часть всей площади. Даже точки, лежащие точно на параболе, могут иметь $r = 0$ при симметричном расположении: каждый прямоугольник с одной стороны компенсируется зеркальным с другой. $r$ измеряет только линейную связь.

Зачем смотреть в стандартных единицах? Глаз судит о корреляции по тому, насколько узким выглядит облако, а это зависит от осей: растяните одну, и те же точки станут выглядеть более вытянутыми или более округлыми. В экспериментах Кливленда, Диакониса и Макгилла (1982) люди оценивали те же диаграммы как сильнее коррелированные, когда диапазоны осей вокруг них расширяли. Стандартные единицы делают оси сопоставимыми: одно стандартное отклонение имеет одинаковую длину на обеих. На таком рисунке разброс поперёк двух диагоналей — именно то, что измеряет $r$. Но глаз от этого не становится надёжным: при уменьшении масштаба то же облако всё равно выглядит плотнее.