Distribuição amostral

Uma estatística é um número calculado a partir de uma amostra, como a sua média ou mediana. Retire repetidamente amostras independentes da mesma dimensão $n$ de uma população e calcule a estatística em cada uma: os valores formam a sua distribuição amostral. O seu valor esperado menos o valor verdadeiro é o enviesamento; o seu desvio-padrão é o erro-padrão. As três camadas separam três distribuições: a população, os $n$ valores de uma amostra e a distribuição amostral, com um ponto por amostra.

Porque é que uma amostra continua larga enquanto as médias se concentram? Uma amostra é uma cópia aproximada da população; à medida que $n$ cresce, o seu desvio-padrão $s$ estabiliza perto do da população, $\sigma$, em vez de diminuir. A média de $n$ valores independentes comporta-se de outra forma: valores acima e abaixo do centro compensam-se parcialmente. Para qualquer população com variância finita, $\operatorname{Var}(\bar x) = \sigma^2/n$, pelo que o erro-padrão da média é $\sigma/\sqrt{n}$. Quadruplicar a dimensão da amostra reduz esse erro a metade. O erro-padrão não é, portanto, a dispersão de uma amostra: indica quanto a média variaria de amostra para amostra. O teorema do limite central explica porque as médias também tomam a forma de um sino.

Porque se divide a variância amostral por $n - 1$? Todas as amostras satisfazem $\sum (x - \mu)^2 = \sum (x - \bar x)^2 + n(\bar x - \mu)^2$. A soma dos quadrados dos desvios é mínima quando estes são medidos a partir da própria média amostral. Fica abaixo da soma medida a partir da média verdadeira em $n(\bar x - \mu)^2$, cuja média é $n$ vezes a variância de $\bar x$: exatamente $\sigma^2$. Assim, $\sum (x - \bar x)^2$ tem média $(n - 1)\sigma^2$; dividir por $n - 1$ torna $s^2$ não enviesado, enquanto dividir por $n$ dá um défice médio de $\sigma^2/n$. A correção aplica-se apenas à variância: como a raiz quadrada é côncava, $s$ continua a subestimar $\sigma$ em média (cerca de 6% para dados normais com $n = 5$). O máximo fica aquém por uma razão mais simples: na população uniforme todos os valores são inferiores a 100, pelo que o máximo de uma amostra também fica abaixo de 100 em média.

A média estima sempre melhor o centro? Depende da população. Numa população simétrica, média e mediana estão ambas centradas no centro verdadeiro; a melhor é a que tiver menor erro-padrão. Com dados normais, o da mediana é maior: para $n$ grande, é cerca de $\sqrt{\pi/2} \approx 1.25$ vezes o da média. Com dados de Laplace, de caudas mais pesadas, é menor: também no limite de amostras grandes, cerca de $1/\sqrt{2} \approx 0.71$ vezes. Um valor extremo desloca a média mas quase não move a mediana, e caudas pesadas produzem valores extremos com frequência. Numa população assimétrica, as duas podem estimar números diferentes: a população exponencial desta página tem média 50 e mediana $40 + 10\ln 2 \approx 46.93$.