信賴區間

信賴區間用一份樣本算出的範圍，估計未知的數值；這裡估計的是母體平均數$\mu$。從樣本產生區間的規則須事先固定；其信賴水準（例如95%）就是反覆抽樣時，區間涵蓋真值的比例。本頁每份樣本由常態母體中$n$次獨立抽取的值組成，母體的$\mu = 50$、$\sigma = 10$；堆疊圖每一列是一份樣本的區間，藍線則是$\mu$。

為何不能說某個區間有95%的機率包含$\mu$？這裡$\mu$是固定數值，隨樣本改變的是區間。抽樣前，算出的區間涵蓋$\mu$的機率是95%；抽樣後，這個區間不是包含50，就是不包含。帶狀區域說明了$\sigma$已知時此規則為何成立：區間$\bar x \pm \mathrm{ME}$涵蓋$\mu$，若且唯若$|\bar x - \mu| \le \mathrm{ME}$，也就是$\bar x$落在同寬的帶狀區域$\mu \pm \mathrm{ME}$內。因為$\bar X$服從標準差為$\sigma/\sqrt{n}$的常態分布，當$\mathrm{ME} = z^*\sigma/\sqrt{n}$時，它有95%的機率落在帶內。若要給$\mu$本身一個機率，就需要$\mu$的先驗分布；那是貝氏可信區間，是另一種建構方式。

寬度由什麼決定？$\sigma$已知時，半寬就是誤差範圍$z^*\sigma/\sqrt{n}$；$z^*$使標準常態分布兩端的尾部各留下剩餘機率的一半。越接近100%，再往前一步所需增加的寬度越大：$z^*$在90%時約為1.645，99%時約為2.576，99.9%時約為3.29，沒有有限區間能百分之百保證涵蓋。平均數的標準誤為$\sigma/\sqrt{n}$（見抽樣分布），所以水準固定時，寬度與$1/\sqrt{n}$成正比縮小。涵蓋率不隨$n$改變，因為誤差範圍始終以$\bar x$的散布程度為單位。

為何$\sigma$未知就需要$t$？以樣本的$s$取代$\sigma$，會讓中心和寬度都變成隨機的。$s$偏小的樣本會得到較短的區間，因此未涵蓋真值的情況集中在短區間。若仍使用$z^*$，涵蓋率為$2F_{n-1}(z^*) - 1$，低於設定水準；其中$F_{n-1}$是自由度為$n - 1$的學生氏$t$分布的累積分布函數。對常態資料而言，這正是$(\bar X - \mu)/(S/\sqrt{n})$的分布。它的尾部比常態分布厚，因此分位點$t^*$大於$z^*$，而$\bar x \pm t^* s/\sqrt{n}$的涵蓋率恰好等於設定水準。只修正$s$的平均值還不夠：$s/c_4$雖然是$\sigma$的不偏估計量，但配合$z^*$、設定95%時，在$n = 5$的情況下涵蓋率仍只有約89.5%。隨著$n$增大，$s$趨近$\sigma$，$t^*$也趨近$z^*$。