Corriger la variance empirique

Le problème. L'estimateur $S_n^2$ vise trop bas : son espérance vaut $\frac{n-1}{n}{\sigma }^2<{\sigma }^2$. Son biais est $$b(S_n^2)=E\left(S_n^2\right)-{\sigma }^2=\left(\frac{n-1}{n}-1\right){\sigma }^2=-\frac{{\sigma }^2}{n}.$$

La correction. L'espérance étant linéaire, il suffit de multiplier par l'inverse du facteur fautif. Posons $$T_n=\frac{n}{n-1}{S}_n^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\overline{X_n}{)}^2,$$ ce qui a un sens car $n⩾2$. Alors $$E(T_n)=\frac{n}{n-1}E\left(S_n^2\right)=\frac{n}{n-1}\times \frac{n-1}{n}{\sigma }^2={\sigma }^2,$$ et ceci pour toute valeur du paramètre : $T_n$ est un estimateur sans biais de ${\sigma }^2$.

Pourquoi le facteur $n-1$. La somme $\sum (X_i-\overline{X_n}{)}^2$ mesure l'écart des observations à leur propre moyenne, qui est le nombre le plus proche d'elles au sens des moindres carrés. Cette somme est donc systématiquement plus petite que $\sum (X_i-m{)}^2$, où $m$ est la vraie espérance. Diviser par $n-1$ plutôt que par $n$ compense exactement ce rétrécissement.

Une remarque d'usage. Le biais de $S_n^2$ vaut $-{\sigma }^2/n$ : il tend vers $0$. Les deux estimateurs sont donc tous deux convergents, et l'écart entre eux devient négligeable pour $n$ grand. La correction ne se justifie que pour les petits échantillons — mais elle ne coûte rien.