置信区间

置信区间用一个样本算出的范围，去估计一个未知的数，这里是总体均值$\mu$。把样本变成区间的规则事先定好，它的置信水平（比如95%）是指：反复抽样时，有这么大比例的样本，其区间能盖住真值。本页每个样本由从$\mu = 50$、$\sigma = 10$的正态总体中独立抽取的$n$个数组成；下层每一行是一个样本的区间，蓝线是$\mu$。

为什么不能说某一个区间有95%的机会包含$\mu$？这里$\mu$是固定的数，随样本变化的是区间。抽样之前，将要得到的区间盖住$\mu$的机会是95%；抽出来之后，这个区间要么包含50，要么不包含。σ已知时，那条带说明了规则为什么有效：区间$\bar x \pm \mathrm{ME}$盖住$\mu$，恰好是$|\bar x - \mu| \le \mathrm{ME}$的时候，也就是$\bar x$落在同样宽的带$\mu \pm \mathrm{ME}$里。$\bar X$服从标准差为$\sigma/\sqrt{n}$的正态分布，取$\mathrm{ME} = z^*\sigma/\sqrt{n}$时，它落进这条带的机会正好是95%。要给$\mu$本身一个概率，得先给$\mu$一个先验分布，那是贝叶斯的可信区间，另一种构造。

宽度由什么决定？σ已知时，半宽就是误差界$z^*\sigma/\sqrt{n}$，$z^*$让标准正态两侧尾部各留下剩余概率的一半。越接近100%，每多一点把握要付出的宽度越多：$z^*$在90%时约1.645，99%时约2.576，99.9%时约3.29，而没有哪个有限区间能百分之百确定。均值的标准误是$\sigma/\sqrt{n}$（见抽样分布），所以置信水平固定时，区间宽度按$1/\sqrt{n}$缩小。覆盖率并不随$n$变：误差界始终以$\bar x$的散布为单位来量。

σ未知时为什么要换成$t$？用样本的$s$代替$\sigma$，区间的中心和宽度就都随机了。$s$碰巧偏小的样本得到短区间，没盖住的就集中在短区间里；仍用$z^*$时，覆盖率是$2F_{n-1}(z^*) - 1$，低于置信水平，其中$F_{n-1}$是自由度$n - 1$的学生$t$分布的分布函数。正态数据下，$(\bar X - \mu)/(S/\sqrt{n})$正好服从这个分布。它的尾巴比正态厚，分位点$t^*$比$z^*$大，$\bar x \pm t^* s/\sqrt{n}$的覆盖率恰好等于置信水平。只修正$s$的平均偏小并不够：$s/c_4$是$\sigma$的无偏估计，但在名义置信水平95%、$n = 5$时配上$z^*$，覆盖率仍只有约89.5%。$n$变大时，$s$稳定在$\sigma$附近，$t^*$也趋近$z^*$。