Une famille d'estimateurs sans biais

Ce qu'on emploie. La définition d'un estimateur sans biais ($E(T)=m$), la linéarité de l'espérance, l'additivité de la variance pour des variables indépendantes, et l'étude d'un trinôme.

Le biais. Les deux variables de l'échantillon ont la même loi que $X$, donc $E(X_1)=E(X_2)=m$. Par linéarité, $$E(T_a)=am+(1-a)m=m(a+1-a)=m.$$ L'égalité vaut pour toute valeur de $a$ : tous ces estimateurs sont sans biais. Le biais ne permet donc pas de les départager.

La variance. $X_1$ et $X_2$ sont indépendantes, donc $$V(T_a)=a^{2}V(X_1)+(1-a{)}^{2}V(X_2)=(a^2+(1-a{)}^2){\sigma }^2.$$

La minimisation. Posons $g(a)=a^2+(1-a{)}^2=2a^2-2a+1$. C'est un trinôme de coefficient dominant $2>0$ : il atteint son minimum là où sa dérivée s'annule, $$g^{\prime }(a)=4a-2=0⟺a=\frac{1}{2},$$ valeur qui appartient bien à $[0,1]$. Le minimum vaut $g\left(\frac{1}{2}\right)=\frac{1}{4}+\frac{1}{4}=\frac{1}{2}$, donc $$\underset{a\in [0,1]}{\min }V(T_a)=\frac{{\sigma }^2}{2},\text{atteint pour }a=\frac{1}{2}.$$

Conclusion. Le meilleur de ces estimateurs est $T_{1/2}=\frac{X_1+X_2}{2}$, c'est-à-dire la moyenne empirique. Les cas extrêmes $a=0$ et $a=1$ donnent $V={\sigma }^2$, deux fois plus : ils reviennent à jeter l'une des deux observations.

La leçon. Entre estimateurs sans biais, c'est la variance qui départage, jamais le biais seul — et la moyenne, qui répartit également le poids sur toutes les observations, l'emporte.