信頼区間

信頼区間は、1つの標本から計算した範囲で未知の数値を推定します。ここで推定するのは母平均$\mu$です。標本から区間を作る規則は事前に固定し、95%などの信頼水準は、その区間が真値を含む標本の割合を表します。このページでは、$\mu = 50$、$\sigma = 10$の正規母集団から独立に$n$個の値を抽出して1つの標本を作ります。積み重ねた図の各行が1つの標本の区間で、青い線は$\mu$です。

なぜ1つの区間について、$\mu$を含む確率が95%だと言えないのでしょうか。ここでは$\mu$は固定された数値で、標本ごとに変わるのは区間のほうです。抽出前なら、その区間が$\mu$を含む確率は95%です。抽出後は、その区間は50を含むか含まないかのどちらかです。帯を見ると、$\sigma$が既知のときにこの規則が成り立つ理由が分かります。区間$\bar x \pm \mathrm{ME}$が$\mu$を含むのは$|\bar x - \mu| \le \mathrm{ME}$のとき、かつそのときに限ります。これは$\bar x$が同じ幅の帯$\mu \pm \mathrm{ME}$に入ることです。$\bar X$は標準偏差$\sigma/\sqrt{n}$の正規分布に従うため、$\mathrm{ME} = z^*\sigma/\sqrt{n}$なら95%の確率で帯に入ります。$\mu$自体に確率を与えるには、$\mu$の事前分布が必要です。それはベイズ信用区間という別の構成です。

幅は何で決まるのでしょうか。$\sigma$が既知なら、半幅は誤差幅$z^*\sigma/\sqrt{n}$です。$z^*$は標準正規分布の両裾に残りの確率を半分ずつ残す点です。100%に近づくほど、さらに水準を上げるために必要な幅の増加は大きくなります。$z^*$は90%で約1.645、99%で約2.576、99.9%で約3.29です。有限の区間で100%を保証することはできません。平均の標準誤差は$\sigma/\sqrt{n}$です（標本分布を参照）。そのため、水準を固定すると幅は$1/\sqrt{n}$に比例して縮みます。被覆率は$n$によって変わりません。誤差幅は常に$\bar x$のばらつきを単位として測っているからです。

$\sigma$が未知だとなぜ$t$が必要なのでしょうか。$\sigma$を標本の$s$に置き換えると、中心と幅の両方がランダムになります。$s$が小さかった標本では区間が短くなるので、真値を含まない区間は短いものに偏ります。$z^*$を使うと被覆率は$2F_{n-1}(z^*) - 1$となり、設定した水準を下回ります。$F_{n-1}$は自由度$n - 1$のスチューデントの$t$分布の累積分布関数です。正規データでは$(\bar X - \mu)/(S/\sqrt{n})$がこの分布に従います。正規分布より裾が重いため、分位点$t^*$は$z^*$より大きく、$\bar x \pm t^* s/\sqrt{n}$の被覆率は設定した水準と正確に一致します。$s$の平均を補正するだけでは足りません。$s/c_4$は$\sigma$の不偏推定量ですが、$z^*$とともに名目95%で使っても、$n = 5$での被覆率は約89.5%にとどまります。$n$が大きくなると、$s$は$\sigma$の近くに落ち着き、$t^*$は$z^*$に近づきます。