Вероятность и статистика · Закон больших чисел

Закон больших чисел

При независимом повторении одного испытания доля успехов в пределе сходится к их вероятности, продолжая колебаться по пути. Начальное преимущество размывается, а не возмещается.

01

Закон больших чисел в этой визуализации

Пусть X1,X2,…X_1, X_2, \dots — независимые наблюдения из одного распределения с конечным средним μ=E[X]\mu = E[X] (достаточно E∣X∣<∞E|X| < \infty), а Xˉn\bar X_n — среднее первых n. Закон больших чисел утверждает, что Xˉn→μ\bar X_n \to \mu: по вероятности (слабый закон) и с вероятностью единица (сильный закон). Для монеты XiX_i равно 1 при орле, поэтому Xˉn=p^n=Hn/n\bar X_n = \hat p_n = H_n/n — доля орлов, а μ=p\mu = p. Страница отслеживает одну или несколько траекторий по 100 000 бросков и показывает, за счёт чего доля стабилизируется.

Одно отклонение, две шкалы
Hn−np=n (p^n−p),SD(p^n)=p(1−p)n,SD(Hn−np)=np(1−p)H_n - np = n\,(\hat p_n - p), \qquad \mathrm{SD}(\hat p_n) = \sqrt{\tfrac{p(1-p)}{n}}, \qquad \mathrm{SD}(H_n - np) = \sqrt{np(1-p)}

Верхний слой показывает p^n\hat p_n, нижний — избыток орлов над ожидаемым числом, Hn−npH_n - np; для честной монеты это половина разности «орлы минус решки». Одно и то же отклонение уменьшается сверху и растёт снизу. Пунктирная полоса при каждом n — точный 95%-й диапазон биномиального распределения: самый узкий целочисленный интервал [an,bn][a_n, b_n], ниже которого находится не более 2.5% HnH_n и выше тоже не более 2.5%, то есть он содержит не менее 95% (индикатор показывает точное покрытие). По доле это [an/n, bn/n][a_n/n,\ b_n/n], по числу — [an−np, bn−np][a_n - np,\ b_n - np]: одно и то же событие. При старте с десяти орлов связанная монета, начавшая с пяти, повторяет каждый следующий бросок: разность всегда ровно 5 орлов, поэтому доли различаются ровно на 5/n5/n. Преимущество размывается, а не возмещается.

02

На что обратить внимание

  • Полоса поточечная: при каждом фиксированном n в ней находится не менее 95% траекторий, но траектория, остающаяся внутри при всех n, гораздо реже. Периодический выход траектории за полосу согласуется с законом, а не опровергает его.
  • Начальное преимущество ничем не возмещается. После серии орлов следующий бросок по-прежнему даёт орла с вероятностью p (ошибка игрока утверждает обратное; окно «Счёт после серии» ведёт подсчёт). Доля стабилизируется, поскольку тот же избыток делится на всё большее n.
  • Полоса сужается как 1/n1/\sqrt{n}: при тех же 95% ещё один верный десятичный разряд требует примерно в сто раз больше бросков. Закону нужно конечное среднее: для распределения Коши среднее n наблюдений не стабильнее одного наблюдения (см. страницу центральной предельной теоремы).
  • Якоб Бернулли доказал случай испытаний типа броска монеты в Ars Conjectandi (1713); название «закон больших чисел» принадлежит Пуассону (1837).
03

Управление

  • Красная кнопка воспроизводит броски, заранее рассчитанные с фиксированным зерном; нажатие во время работы останавливает, следующее продолжает, а в конце выполняет броски со следующим зерном. Нажмите или перетащите в любом месте изображения, чтобы переместить курсор; показатели учитывают только броски слева от него. Поделиться сохраняет зерно, версию алгоритма и курсор.
04

Связанные темы

  • H16Биномиальное распределениеПланируется
  • H19Центральная предельная теорема
  • H18Выборочное распределениеПланируется
  • H20Доверительный интервалПланируется
  • H05Нормальное распределениеПланируется

Дополнительные материалы: Википедия: Law of large numbers (Английский); OpenStax, Introductory Statistics 2e, 3.1 Terminology (Английский); Архив истории математики MacTutor: Jacob Bernoulli (Английский).