標準偏差

標準偏差は、データの値が平均$\bar{x}$から典型的にどれほど離れているかを表します。各値の偏差$x_i - \bar{x}$を2乗して平均を取り、その平方根を取ると$\sigma = \sqrt{\tfrac{1}{n}\sum (x_i - \bar{x})^2}$になります。ここでは各偏差の2乗を、数直線の下にぶら下がる正方形として描きます。面積の平均は上の中空の正方形で表され、その辺がデータと同じ単位の長さσです。個々の値を動かしたり、データ全体を平行移動・伸縮させたりして、どの正方形が変わるかを観察できます。

平均は偏差が釣り合う点なので、偏差の合計は常に0です。そのまま平均を取っても、ばらつきについては分かりません。2乗すると左右どちらの偏差も数えられ、遠い値ほど大きく効きます。平均から2倍離れた値は、4倍の面積を加えます。そのため、1つの遠い値だけでも標準偏差を大きくできます。同じ理由でσは平均距離、すなわち$|x_i - \bar{x}|$の平均より小さくなりません。両者が等しいのは、すべての値が平均から同じ距離にある場合だけです。

最後に平方根を取ると、平均面積が長さに戻ります。平均の正方形の面積σ²が分散で、単位も元の単位の2乗です。

すべての値に同じ数を足すと、平均がその数だけ移動し、偏差、正方形、σはどれも変わりません。平均からの各距離を$k$倍すると、各面積は$k^2$倍、σは$|k|$倍になります。一般に、値$a + bx_i$の標準偏差は$|b|\,\sigma$です。平均を0へ移し、σが1になるよう伸縮すると、各値を標準単位で$z = (x - \bar{x})/\sigma$と書き直せます。

$n$で割ると、値の集まり自体の標準偏差が求まります。それが母集団全体ならσと書きます。しかし多くの場合、値は無作為標本で、知りたいのは元の母集団のばらつきです。標本自身の平均は母平均より標本全体に近いため、そこから測った偏差の2乗は平均的に小さすぎます。$n - 1$で割ると、この分散の偏りが取り除かれます。$s^2$は母分散の不偏推定量で、その平方根$s$が標本標準偏差です。そのとき中空の正方形の面積は2乗の合計を$n - 1$で割ったもので、平均より少し大きくなります。差が大きいのは標本が小さいときだけです。値が2つなら、$s$はσの$\sqrt{2}$倍になります。