Quand le critère est muet, la factorisation parle

Le point critique. $${\partial }_{1}f=2(x-y)+4x^3,{\partial }_{2}f=-2(x-y).$$ La seconde équation impose $x=y$ ; la première devient alors $4x^3=0$, donc $x=0$. L'unique point critique est l'origine, où $f$ vaut $0$.

Le critère est muet. On calcule $${\nabla }^{2}f(x,y)=\left(\begin{array}{cc}2+12x^2& -2\\ -2& 2\end{array}\right),{\nabla }^{2}f(0,0)=\left(\begin{array}{cc}2& -2\\ -2& 2\end{array}\right).$$ Cette matrice symétrique vérifie $\left(\begin{array}{cc}2& -2\\ -2& 2\end{array}\right)\left(\begin{array}{c}1\\ 1\end{array}\right)=\left(\begin{array}{c}0\\ 0\end{array}\right)$ et $\left(\begin{array}{cc}2& -2\\ -2& 2\end{array}\right)\left(\begin{array}{c}1\\ -1\end{array}\right)=4\left(\begin{array}{c}1\\ -1\end{array}\right)$ : son spectre est $\{0,4\}$. Il contient $0$ sans qu'aucune paire de signes opposés n'apparaisse — le cours dit exactement que, dans ce cas, on ne peut pas conclure.

L'étude directe. Il faut revenir à $f$ elle-même. Or $f$ est une somme de deux carrés : $$\forall (x,y)\in {\mathbb{R}}^2,f(x,y)=(x-y{)}^2+x^4⩾0=f(0,0).$$ L'origine est donc un minimum global. Il est de plus strict : $f(x,y)=0$ impose $x^4=0$ et $(x-y{)}^2=0$, donc $x=0$ puis $y=0$.

Ce que la direction $(1,1)$ révèle. Le long de $y=x$, la fonction vaut $x^4$ : elle est bien minimale, mais avec une courbure nulle à l'origine, ce qui est précisément la valeur propre $0$ lue sur la hessienne. Le critère d'ordre $2$ ne voit pas au-delà de l'ordre $2$ ; c'est le terme d'ordre $4$ qui tranche.