확률과 통계 · 공분산

공분산

짝지어진 자료의 표본공분산은 평균에서 벗어난 두 편차의 곱을 모두 더해 n − 1로 나눈 cov = Σ(x − x̄)(y − ȳ)/(n − 1)입니다. x와 y가 대체로 같은 방향으로 변하면 양수, 하나가 오를 때 다른 하나가 내리면 음수입니다. 각 곱은 부호 있는 직사각형입니다. 점을 끌며 공분산 정사각형의 변화를 관찰하세요.

그림으로 보는 공분산

짝지어진 자료의 표본공분산은 두 양이 함께 어떻게 변하는지를 나타냅니다. 각 쌍에서 평균으로부터의 편차를 곱하고, 곱들을 합한 뒤 n−1n - 1로 나눕니다. 식으로 쓰면 cov⁡(x,y)=1n−1∑(xi−xˉ)(yi−yˉ)\operatorname{cov}(x, y) = \frac{1}{n-1}\sum (x_i - \bar{x})(y_i - \bar{y})입니다. 각 항은 한 점의 두 편차를 곱한 값으로, 그 점과 중심 (xˉ,yˉ)(\bar{x}, \bar{y})를 마주 보는 꼭짓점으로 하는 직사각형입니다. 중심의 오른쪽 위와 왼쪽 아래에서는 양의 기여를, 나머지 두 사분면에서는 음의 기여를 합니다. 두 축의 단위와 눈금 간격을 같게 하여 넓이를 정확히 나타냈습니다. 중앙 정사각형의 넓이는 공분산의 절댓값입니다. 공분산이 양수이면 오른쪽으로, 음수이면 왼쪽으로 뻗습니다.

크기의 의미

공분산의 단위는 xx의 단위와 yy의 단위를 곱한 것입니다. 모든 xx 값에 같은 상수를 더해도 공분산은 그대로입니다. 그러나 xx를 열 배 작은 단위로 측정하면 공분산의 수치는 열 배가 됩니다. 부호는 점들이 상승하는 직선과 하강하는 직선 중 어느 쪽을 따르는 경향이 있는지 알려 주지만, 크기만으로 경향의 세기를 판단할 수는 없습니다. 두 표준편차로 나누면 단위가 없어지고 상관계수 r=cov⁡(x,y)/(sxsy)r = \operatorname{cov}(x, y)/(s_x s_y)이 됩니다. xx를 자기 자신과 짝지으면 직사각형은 정사각형이 되고, 자신과의 공분산은 분산이 됩니다. 나누는 수 n−1n - 1은 표본분산에서 쓰는 것과 같습니다. 대신 nn으로 나누면 이 자료 집합 자체의 공분산을 얻습니다.

합의 산포가 달라지는 이유

각 점에서 (dx+dy)2=dx2+dy2+2dxdy(d_x + d_y)^2 = d_x^2 + d_y^2 + 2d_x d_y가 성립하며 dxd_x과 dyd_y는 두 편차입니다. 같은 방식으로 평균을 내면 정확히 var⁡(x+y)=var⁡x+var⁡y+2cov⁡(x,y)\operatorname{var}(x + y) = \operatorname{var} x + \operatorname{var} y + 2\operatorname{cov}(x, y)이 됩니다. xx와 yy가 같은 방향으로 변하면 두 편차가 서로 더해져 합의 분산이 개별 분산의 합보다 큽니다. 반대로 변하면 편차가 일부 상쇄되어 합의 분산이 어느 한쪽의 분산보다 작을 수도 있습니다. 반대로 움직이는 양을 합치면 전체가 안정되는 이유입니다. ‘합 x + y’를 켜면 각 점이 x+yx + y가 일정한 직선을 따라 중심을 지나는 대각선으로 옮겨집니다. 표시된 점들의 퍼짐이 바로 합의 퍼짐입니다.

관찰할 점

  • 공분산이 0이라고 해서 두 양이 무관한 것은 아닙니다. 포물선 위의 점들도 정확히 상쇄될 수 있습니다. 공분산은 선형적인 경향만 측정합니다.
  • 두 축 모두에서 중심과 먼 점 하나가 공분산의 대부분을 차지할 수 있습니다.
  • 겹치는 직사각형도 각각 전체 넓이를 셉니다. 겹친 부분의 색은 더 짙어지지 않습니다.

조작 방법

  • 빈 곳을 눌러 점을 추가하세요. 점을 선택한 뒤 Delete로 지우거나 방향키로 옮길 수 있습니다.

관련 항목