Теория вероятностей и статистика · Центральная предельная теорема

Центральная предельная теорема

Усредните n независимых наблюдений из совокупности с конечной положительной дисперсией: после увеличения в n\sqrt{n} раз относительно среднего распределение среднего приближается к нормальной кривой с ростом n, независимо от формы генеральной совокупности.

01

Центральная предельная теорема в этой визуализации

Пусть X1,…,XnX_1, \dots, X_n — независимые наблюдения из одной совокупности (независимые и одинаково распределённые) со средним μ\mu и дисперсией 0<σ2<∞0 < \sigma^2 < \infty, а Xˉ\bar X — их среднее. Центральная предельная теорема в форме Линдеберга — Леви утверждает, что стандартизированное среднее сходится по распределению к стандартному нормальному: его функция распределения стремится к Φ\Phi в каждой точке. Неформально, Xˉ≈N(μ,σ2/n)\bar X \approx N(\mu, \sigma^2/n). Страница показывает, как с n меняется форма распределения Xˉ\bar X.

Теорема
P ⁣(n (Xˉ−μ)σ≤z)→Φ(z)для любого zP\!\left(\frac{\sqrt{n}\,(\bar X - \mu)}{\sigma} \le z\right) \to \Phi(z) \quad \text{для любого } z

Верхний слой — генеральная совокупность. Нижний показывает распределение среднего Xˉ\bar X по nn наблюдениям. Повторив это NN раз, получаем жёлтую гистограмму: она колеблется от выборки к выборке, и её можно сравнить с теоретической кривой. Фиксированное начальное значение генератора воспроизводит те же выборки. При увеличении в √n раз нижняя ось — Y=μ+n (xˉ−μ)Y = \mu + \sqrt{n}\,(\bar x - \mu): её среднее μ и стандартное отклонение σ совпадают с характеристиками генеральной совокупности, что упрощает сравнение форм.

Кривые с меткой «численно» рассчитаны численными методами; остальные используют точные формулы распределений. Асимметрия измеряет несимметричность. Эксцесс сравнивает стандартизированный четвёртый момент с моментом нормального распределения; эксцесс нормального распределения равен нулю. Если соответствующие моменты генеральной совокупности существуют, асимметрия среднего равна γ/n\gamma/\sqrt{n}, а эксцесс — κ/n\kappa/n. Ни одна из этих характеристик сама по себе не гарантирует хорошего нормального приближения.

02

На что обратить внимание

  • Теорема относится к распределению среднего, а не самих данных: верхний слой не меняется. Сужение как σ/n\sigma/\sqrt{n} при исходной ширине — закон √n, отдельный факт.
  • «Достаточно n ≥ 30» — лишь практическое правило. Для события с вероятностью 1% среднее 30 испытаний всё ещё равно ровно 0 с вероятностью 0.9930≈0.7400.99^{30} \approx 0.740, а его асимметрия γ/n\gamma/\sqrt{n} падает до 0.2 лишь при n = 2426. Асимметрии 0 тоже недостаточно: симметричная версия (±10, каждое с вероятностью 0.5%) имеет асимметрию 0 при любом n, но всё ещё большую точечную массу в 0.
  • Столбцы решётчатого распределения имеют ширину одного шага решётки, поэтому их площадь — вероятность: сравнивайте формы, а не высоты точка за точкой. У распределения Коши нет математического ожидания и дисперсии: среднее n наблюдений распределено ровно как одно наблюдение, и теорема к нему не применима.
  • Нормальный предел восходит к де Муавру (1733, для биномиального распределения) и Лапласу (1812); название ввёл Пойа (1920).
03

Управление

  • Рисовать превращает верхний слой в поле для рисования: после отпускания нарисованное масштабируется до площади 1. Красная кнопка воспроизводит 10 000 заранее вычисленных средних; нажатие во время воспроизведения останавливает его, следующее продолжает с тем же начальным значением генератора, а после завершения начинается следующее начальное значение. Поделиться сохраняет начальное значение генератора, версию алгоритма и достигнутую позицию воспроизведения.
04

Связанные темы

  • H05Нормальное распределениеПланируется
  • H18Выборочное распределениеПланируется
  • H12Закон больших чисел
  • H16Биномиальное распределениеПланируется
  • H20Доверительный интервалПланируется
  • H26Плотность вероятностиПланируется

Дополнительные материалы: Википедия: Central limit theorem (Английский); OpenStax, Introductory Statistics 2e, 7 The Central Limit Theorem (Английский).