大数の法則

$X_1, X_2, \dots$ を、有限の平均 $\mu = E[X]$ を持つ同じ分布からの独立な標本とします（$E|X| < \infty$ で十分です）。最初の n 個の平均を $\bar X_n$ とします。大数の法則は $\bar X_n \to \mu$ が成り立つことを述べます。弱法則では確率収束、強法則では確率1での収束です。コインなら $X_i$ は表で1なので、$\bar X_n = \hat p_n = H_n/n$ は表の割合となり、$\mu = p$ です。このページでは100,000回の試行を1つ以上の系列で追い、割合が落ち着く理由を探ります。

上段は $\hat p_n$、下段は表の回数と期待回数との差 $H_n - np$ を示します。公平なコインでは「表の回数 − 裏の回数」の半分です。同じ偏りが上では縮み、下では広がります。各 n の破線の帯は二項分布の厳密な95%範囲です。$H_n$ が下側に来る確率、上側に来る確率がそれぞれ2.5%以下となる最も狭い整数区間 $[a_n, b_n]$ なので、少なくとも95%を含みます（数値欄には厳密な確率を表示）。割合では $[a_n/n,\ b_n/n]$、回数の差では $[a_n - np,\ b_n - np]$ となり、同じ事象です。最初に表10回で先行させたコインと、表5回で始めたコインは、それ以降の試行を共有します。表の回数の差は常に厳密に5で、割合の差は $5/n$ です。先行分は薄まり、埋め合わされるわけではありません。