Le maximum de vraisemblance pour une loi exponentielle

Ce qu'on emploie. Le principe du maximum de vraisemblance : on cherche la valeur du paramètre qui rend l'échantillon observé le plus vraisemblable. Pour une loi à densité, la vraisemblance est le produit des densités évaluées aux observations.

La vraisemblance. Les $n$ variables sont indépendantes et de densité $t\mapsto \lambda {\mathrm{e}}^{-\lambda t}$ sur $]0,+\infty [$, donc $$L(\lambda )=\prod _{i=1}^n\lambda {\mathrm{e}}^{-\lambda x_i}={\lambda }^n{\mathrm{e}}^{-\lambda S},\text{ouˋ }S=\sum _{i=1}^n{x}_i>0.$$

Le passage au logarithme. $L$ est strictement positive sur $]0,+\infty [$ et le logarithme est strictement croissant : $L$ et $\ln L$ atteignent leur maximum au même point. Or $$\ln L(\lambda )=n\ln \lambda -\lambda S,$$ somme bien plus simple à dériver que le produit initial. C'est tout l'intérêt du procédé.

La dérivation. $$(\ln L{)}^{\prime }(\lambda )=\frac{n}{\lambda }-S.$$ Cette dérivée s'annule pour $\lambda =\frac{n}{S}$. Elle est strictement positive pour $\lambda <\frac{n}{S}$ et strictement négative au-delà : la fonction $\ln L$ croît puis décroît, et atteint donc son maximum en ce point.

L'estimation. En notant $\overline{x}=\frac{S}{n}$ la moyenne observée, $$\hat{\lambda }=\frac{n}{S}=\frac{1}{\overline{x}}.$$

Contrôle de cohérence. L'espérance d'une loi $\mathcal{E}(\lambda )$ vaut $\frac{1}{\lambda }$. Il est donc naturel d'estimer $\frac{1}{\lambda }$ par la moyenne observée, donc $\lambda$ par son inverse : le maximum de vraisemblance retrouve ici le bon sens, comme il retrouvait la fréquence observée dans le cas de Bernoulli.

Le point délicat. On maximise en $\lambda$, à observations fixées : $S$ est une constante dans ce calcul, et non une variable. Confondre les deux rôles conduit à dériver la mauvaise expression.