Доверительный интервал

Доверительный интервал оценивает неизвестное число, здесь среднее совокупности $\mu$, диапазоном, вычисленным по одной выборке. Правило построения интервала фиксируют заранее, а его доверительный уровень, например 95%, — это доля выборок, интервалы которых содержат истинное значение. На этой странице каждая выборка состоит из $n$ независимых извлечений из нормальной совокупности с $\mu = 50$ и $\sigma = 10$; каждая строка стопки — интервал одной выборки, а синяя линия — $\mu$.

Почему нельзя сказать, что отдельный интервал содержит $\mu$ с вероятностью 95%? Здесь $\mu$ — фиксированное число, а от выборки к выборке меняется интервал. До получения выборки вероятность того, что её интервал накроет $\mu$, равна 95%; после получения этот интервал либо содержит 50, либо нет. Полоса показывает, почему правило работает при известной $\sigma$. Интервал $\bar x \pm \mathrm{ME}$ содержит $\mu$ тогда и только тогда, когда $|\bar x - \mu| \le \mathrm{ME}$, то есть когда $\bar x$ попадает в полосу $\mu \pm \mathrm{ME}$ той же ширины. Поскольку $\bar X$ имеет нормальное распределение со стандартным отклонением $\sigma/\sqrt{n}$, при $\mathrm{ME} = z^*\sigma/\sqrt{n}$ оно попадает в эту полосу в 95% случаев. Чтобы приписать вероятность самому $\mu$, нужно априорное распределение для $\mu$; это уже байесовский доверительный интервал, другая конструкция.

Что определяет ширину? При известной $\sigma$ половина ширины равна пределу погрешности $z^*\sigma/\sqrt{n}$, где $z^*$ оставляет в каждом хвосте стандартного нормального распределения половину оставшейся вероятности. Каждый шаг к 100% требует большего расширения, чем предыдущий: $z^*$ примерно равно 1,645 при 90%, 2,576 при 99% и 3,29 при 99,9%, а конечный интервал не может гарантировать 100%. Стандартная ошибка среднего равна $\sigma/\sqrt{n}$ (см. выборочное распределение), поэтому при фиксированном уровне ширина уменьшается пропорционально $1/\sqrt{n}$. Вероятность покрытия не меняется с $n$: предел погрешности всегда измеряется в единицах разброса $\bar x$.

Почему при неизвестной $\sigma$ нужен $t$? Замена $\sigma$ на выборочное $s$ делает случайными и центр, и ширину. Выборка с малым $s$ получает короткий интервал, поэтому промахи сосредоточены среди коротких интервалов. При использовании $z^*$ вероятность покрытия равна $2F_{n-1}(z^*) - 1$, что ниже заданного уровня; здесь $F_{n-1}$ — функция распределения Стьюдента $t$ с числом степеней свободы $n - 1$. Это распределение величины $(\bar X - \mu)/(S/\sqrt{n})$ для нормальных данных. Его хвосты тяжелее нормальных, поэтому его квантиль $t^*$ больше $z^*$, и $\bar x \pm t^* s/\sqrt{n}$ даёт покрытие точно на заданном уровне. Одной коррекции среднего значения $s$ недостаточно: $s/c_4$ оценивает $\sigma$ без смещения, но при использовании с $z^*$ на номинальном уровне 95% покрытие при $n = 5$ всё ещё составляет лишь около 89,5%. С ростом $n$ величина $s$ стабилизируется вблизи $\sigma$, а $t^*$ приближается к $z^*$.