確率・統計 · 中心極限定理

中心極限定理

有限で正の分散を持つ母集団から独立にn回抽出し、平均を求めます。母平均を中心にn\sqrt{n}倍に拡大すると、母集団の形にかかわらず、nが大きくなるにつれて平均の分布は正規分布へ近づきます。

01

この可視化での中心極限定理

X1,…,XnX_1, \dots, X_nを、平均μ\mu、分散0<σ2<∞0 < \sigma^2 < \inftyの同じ母集団から独立に抽出した値(独立同分布)とし、その平均をXˉ\bar Xとします。リンデベルグ=レヴィ型の中心極限定理は、標準化した平均が標準正規分布に分布収束することを述べます。つまり分布関数が各点でΦ\Phiに近づきます。大まかにはXˉ≈N(μ,σ2/n)\bar X \approx N(\mu, \sigma^2/n)です。このページでは、nによるXˉ\bar Xの分布の形の変化を見ます。

定理
P ⁣(n (Xˉ−μ)σ≤z)→Φ(z)すべての z に対してP\!\left(\frac{\sqrt{n}\,(\bar X - \mu)}{\sigma} \le z\right) \to \Phi(z) \quad \text{すべての } z\text{ に対して}

上段は母集団です。下段はnn回抽出した平均Xˉ\bar Xの分布を示します。これをNN回繰り返すと黄色いヒストグラムになり、抽出による揺らぎを理論曲線と比較できます。同じシードなら同じ標本を再現します。√n倍に拡大した下の軸はY=μ+n (xˉ−μ)Y = \mu + \sqrt{n}\,(\bar x - \mu)で、平均μと標準偏差σが母集団と同じになり、形を比べやすくなります。

「数値計算」と表示した曲線は数値的に求め、それ以外には厳密な分布の式を使います。歪度は非対称性を測ります。超過尖度は標準化した4次モーメントを正規分布と比較する量で、正規分布では0です。対応する母集団のモーメントが存在すれば、平均の歪度はγ/n\gamma/\sqrt{n}、超過尖度はκ/n\kappa/nです。どちらか一つの指標だけで正規近似の良さは保証できません。

02

注目する点

  • 定理が述べるのは平均の分布であり、元のデータではありません。上段は変わりません。実際の幅でσ/n\sigma/\sqrt{n}に比例して狭くなるのは、別の事実である√nの法則です。
  • 「n ≥ 30なら十分」は目安にすぎません。確率1%の事象では、30回の試行の平均は確率0.9930≈0.7400.99^{30} \approx 0.740でちょうど0です。歪度γ/n\gamma/\sqrt{n}が0.2に下がるのはn = 2426になってからです。歪度0でも十分ではありません。対称な版(±10がそれぞれ確率0.5%)はすべてのnで歪度0ですが、0に大きな確率質量が残ります。
  • 格子分布の棒の幅は格子の1刻みで、その面積が確率を表します。高さを点ごとに比べず、形を比較してください。コーシー分布には平均も分散もありません。n回抽出した平均が1回の抽出と全く同じ分布になるため、この定理は適用できません。
  • 正規分布への極限はド・モアブル(1733年、二項分布)とラプラス(1812年)にさかのぼります。名称はポーヤ(1920年)によるものです。
03

操作方法

  • 描くを選ぶと上段に描けるようになり、手を離すと面積が1になるよう調整されます。赤いキーはあらかじめ計算した10,000個の平均を再生します。途中で押すと停止し、もう一度押すと同じシードで続行、最後まで終わると次のシードで始めます。共有にはシード、アルゴリズムのバージョン、再生位置が保存されます。
04

関連する概念

  • H05正規分布準備中
  • H18標本分布準備中
  • H12大数の法則
  • H16二項分布準備中
  • H20信頼区間準備中
  • H26確率密度関数準備中

さらに読む: ウィキペディア: Central limit theorem (英語); OpenStax, Introductory Statistics 2e, 7 The Central Limit Theorem (英語).