확률과 통계 · 상관관계

상관관계

상관계수 r은 둘 다 변하는 두 양 사이의 직선적인 연관성의 방향과 강도를 측정합니다. 여기서는 각 점과 데이터의 중심이 표준편차를 단위로 하는 직사각형을 만들며, r은 그 부호 있는 넓이를 더합니다.

이 시각화에서 보는 상관관계

짝지어진 데이터의 상관계수 rr은 피어슨 상관계수라고도 하며, 점들이 하나의 직선을 얼마나 잘 따르는지 측정합니다. −1부터 1까지의 값을 가지며 xx와 yy가 함께 커지는 경향이 있으면 양수입니다. 여기서는 각 점과 데이터의 중심이 직사각형을 만들고, 그 변은 표준편차 단위로 측정합니다. rr은 부호 있는 넓이의 합을 n−1n-1으로 나눈 값입니다. 점을 드래그하거나 추가·삭제하고, 앤스컴의 네 데이터 모음 또는 선택한 rr로 만든 점 구름을 불러올 수 있습니다. rr을 −1과 1 사이에 머물게 하는 정사각형도 볼 수 있습니다.

표준화 단위와 직사각형으로 구하는 r
zx=x−xˉsx,zy=y−yˉsy,r=1n−1∑zxzyz_x = \frac{x - \bar x}{s_x}, \quad z_y = \frac{y - \bar y}{s_y}, \qquad r = \frac{1}{n-1}\sum z_x z_y

rr은 무엇을 측정할까요? 표준화 단위에서 zxz_x는 점이 xx의 평균보다 표준편차 몇 배만큼 오른쪽에 있는지를, zyz_y는 yy의 평균보다 몇 배만큼 위에 있는지를 나타냅니다. 점과 중심 사이 직사각형의 넓이는 ∣zxzy∣|z_x z_y|입니다. 오른쪽 위와 왼쪽 아래에서는 두 좌표가 각각의 평균을 기준으로 같은 쪽에 있으므로 양수로, 나머지 두 모서리에서는 음수로 셉니다. 변을 표준편차로 측정하므로 단위를 바꾸거나 xx와 yy를 맞바꾸어도 rr은 달라지지 않습니다. 그래프도 같은 원리로 그립니다. 표준편차 하나의 길이가 두 축에서 같으므로 파선 테두리는 정사각형이고, 그 오른쪽 위 4분의 1이 넓이 한 단위입니다.

왜 rr은 ±1을 벗어날 수 없을까요? 중심을 지나는 직선 zy=zxz_y = z_x를 그립니다. 점에서 직선까지 거리의 제곱은 (zy−zx)2/2(z_y - z_x)^2/2이고, 이를 모두 더해 n−1n-1으로 나누면 정확히 1−r1 - r이 됩니다. zx2z_x^2과 zy2z_y^2의 합이 각각 n−1n-1이기 때문입니다. 다른 대각선 zy=−zxz_y = -z_x에 대해 같은 계산을 하면 1+r1 + r이 됩니다. 제곱은 음수가 아니므로 −1≤r≤1-1 \le r \le 1이 성립합니다. 또 r=1r = 1이 성립하려면 zy=zxz_y = z_x까지 거리의 제곱이 모두 0이어야 합니다. 즉 모든 점이 하나의 우상향 직선 위에 있어야 합니다.

왜 전혀 다른 그림에서 같은 rr이 나올까요? rr은 직사각형을 더할 뿐 모양은 보지 않습니다. 통계학자 프랜시스 앤스컴은 1973년에 rr, 평균, 적합 직선이 거의 같은 네 데이터 모음을 만들었습니다. 하나는 곧은 띠, 하나는 매끄러운 곡선, 하나는 이상점 하나를 제외하면 거의 직선이며, 마지막은 점 하나가 부호를 고려한 합의 대부분을 차지합니다. 직사각형은 점에서 중심까지 두 방향 거리의 곱에 따라 커지므로, 멀리 있는 점 하나가 전체 넓이의 대부분을 차지할 수 있습니다. 모든 점이 정확히 포물선 위에 있어도 대칭으로 배치되면 r=0r = 0이 될 수 있습니다. 한쪽의 각 직사각형이 반대쪽 거울상과 상쇄되기 때문입니다. rr은 직선적인 연관성만 측정합니다.

왜 표준화 단위로 볼까요? 눈은 점 구름이 얼마나 가늘어 보이는지로 상관관계를 판단하는데, 이는 축에 따라 달라집니다. 한 축을 늘이면 같은 점들이 더 가늘거나 둥글게 보입니다. Cleveland, Diaconis, McGill의 1982년 실험에서 사람들은 주변 축의 범위를 넓히면 같은 산점도의 상관관계가 더 강하다고 판단했습니다. 표준화 단위는 두 축을 비교 가능하게 만듭니다. 표준편차 하나의 길이가 두 축에서 같으며, 이 그림에서 두 대각선에 수직인 방향으로 퍼진 정도가 바로 rr이 측정하는 것입니다. 하지만 눈의 판단이 정확해지는 것은 아닙니다. 화면을 축소하면 같은 점 구름은 여전히 더 조밀해 보입니다.

살펴볼 점

  • 강한 상관관계가 있다고 해서 한 변수가 다른 변수의 원인이라는 뜻은 아닙니다. 둘 다 제3의 변수를 따라 변할 수 있습니다.
  • rr은 중심화한 데이터 두 벡터 (xi−xˉ)(x_i - \bar x), (yi−yˉ)(y_i - \bar y) 사이 각도의 코사인입니다.
  • rr로 만든 점 구름은 구성 방식상 정확히 그 상관계수를 가집니다. 무작위 표본에서는 그 주변으로 값이 달라집니다.

조작 방법

  • 점 하나를 옮기면 전체 점 구름의 중심과 표준편차가 바뀔 수 있습니다. 따라서 건드리지 않은 점도 화면에서 움직일 수 있습니다.

관련 항목