확률과 통계 · 카이제곱 검정

카이제곱 검정

카이제곱 검정은 독립 시행에서 얻은 도수가 가설에 따른 기대도수와 지나치게 다른지 살펴봅니다. k개 범주의 (O − E)²/E를 모두 더한 X²를 자유도가 k − 1인 카이제곱분포와 비교합니다.

그림으로 보는 카이제곱 검정

kk면체 주사위를 서로 독립적으로 NN번 던져 각 눈이 몇 번 나오는지 셉니다. 이것이 관측도수 O1,…,OkO_1, \dots, O_k입니다. 주사위가 공정하다면 각 눈의 기대도수는 E=N/kE = N/k입니다. 카이제곱 통계량 X2=∑(O−E)2/EX^2 = \sum (O - E)^2/E은 각 도수와 EE의 차이를 제곱하고 EE로 나눈 다음 모두 더한 값입니다. 공정한 주사위를 충분히 많이 던지면 X2X^2은 자유도가 k−1k - 1인 카이제곱분포를 근사적으로 따릅니다. 관측값 X2X^2의 오른쪽에서 곡선 아래의 넓이가 p값입니다. 노란 막대는 관측도수, 짙은 선은 EE이고 곡선은 그 아래에 그려져 있습니다.

각 항을 E로 나누는 이유

관측도수가 기대도수보다 9만큼 크다면 E=10E = 10일 때는 놀랍지만 E=1000E = 1000일 때는 거의 눈에 띄지 않습니다. 도수가 커질수록 무작위 변동의 크기도 커집니다. 공정한 주사위에서 각 눈의 도수의 분산은 E(1−1/k)E(1 - 1/k)로, EE에 가깝습니다. 차이의 제곱을 EE로 나누면 모든 눈을 같은 척도로 비교할 수 있습니다. 1에 가까운 항은 흔한 변동에 해당합니다. 제곱 때문에 크게 벗어난 눈 하나가 전체를 좌우하기도 합니다. 6면체 예에서 6이 19번 나온 것만으로 X2=11.2X^2 = 11.2 중 8.1을 차지합니다.

자유도가 k − 1인 이유

도수의 합이 NN이므로 차이 O−EO - E의 합은 항상 0입니다. 그중 k−1k - 1개를 알면 마지막 하나는 정해집니다. 공정한 주사위에서 X2X^2의 평균은 정확히 k−1k - 1입니다. 따라서 같은 X2X^2도 면이 많을수록 덜 이례적입니다. 11.2는 6면체에서는 5% 임계값을 넘지만(p ≈ 0.048), 12면체에서는 흔합니다(p ≈ 0.43). p값으로 무엇을 알 수 있는지는 가설 검정과 p값에서 다룹니다.

곡선을 믿을 수 있는 조건

공정한 주사위에서도 X2X^2는 특정 값만 취하므로 실제 분포는 서로 떨어진 봉우리들로 이루어집니다. NN이 커질수록 이 봉우리들의 윤곽이 매끈한 카이제곱 곡선에 가까워집니다. 공정한 주사위로 실험을 반복하면 실제 오른쪽 꼬리 확률을 직접 추정할 수 있습니다. 각 눈의 기대도수가 10이면 추정 비율과 곡선이 잘 맞지만 총 6번만 던지면 그렇지 않습니다. 흔히 각 범주의 기대도수가 적어도 약 5는 되어야 한다고 봅니다. 거꾸로 모든 도수를 열 배로 늘리면 X2X^2도 열 배가 됩니다. 독립 시행이 충분히 많으면 작은 치우침도 통계적으로 유의해집니다. X2X^2는 공정하다는 가설에 반하는 증거의 강도를 나타내며 주사위가 얼마나 치우쳤는지를 재지는 않습니다. p값이 크다는 것은 이 자료만으로 치우침을 밝히기 어렵다는 뜻입니다.

관찰할 점

  • 가설에서 각 범주에 서로 다른 확률 pip_i를 부여하면 기대도수가 Ei=NpiE_i = N p_i가 되며 나머지 과정은 같습니다.

조작 방법

  • 눈 위쪽을 누르거나 드래그하면 도수가 바뀝니다. 축 아래의 숫자를 누르면 그 눈만 선택됩니다.

관련 항목