Une nature qui dépend d'un paramètre

Points critiques. ${\partial }_{1}f=2x+2my$ et ${\partial }_{2}f=2y+2mx$. Le système $x+my=0$, $y+mx=0$ donne $x=-my$ puis $x=m^{2}x$, soit $(1-m^2)x=0$. Si $m^2\ne 1$, l'unique point critique est l'origine. Si $m^2=1$, toute la droite d'équation $y=-mx$ est faite de points critiques.

Hessienne. ${\nabla }^{2}f=\left(\begin{array}{cc}2& 2m\\ 2m& 2\end{array}\right)$, constante. Elle envoie $\left(\begin{array}{c}1\\ 1\end{array}\right)$ sur $(2+2m)\left(\begin{array}{c}1\\ 1\end{array}\right)$ et $\left(\begin{array}{c}1\\ -1\end{array}\right)$ sur $(2-2m)\left(\begin{array}{c}1\\ -1\end{array}\right)$ : les valeurs propres sont $2+2m$ et $2-2m$.

Cas $|m|<1$. Les deux valeurs propres sont strictement positives : minimum local en $(0,0)$. Il est même global, car la forme canonique $$f(x,y)=(x+my{)}^2+(1-m^2)y^2⩾0=f(0,0)$$ ne s'annule que si $y=0$, puis $x=0$.

Cas $|m|>1$. Les valeurs propres $2+2m$ et $2-2m$ sont non nulles et de signes opposés : point col, donc aucun extremum.

Cas $|m|=1$. Une valeur propre est nulle : le critère d'ordre $2$ ne conclut pas. On revient à $f$. Pour $m=1$, $f(x,y)=(x+y{)}^2⩾0$, avec égalité exactement sur la droite $y=-x$ : c'est un minimum global, atteint en une infinité de points, donc non strict. Pour $m=-1$, $f(x,y)=(x-y{)}^2$ et la même conclusion vaut sur la droite $y=x$.

Le point à retenir. Une valeur propre nulle n'annonce ni l'extremum ni son absence : elle annonce que la question se règle ailleurs. Écrire $f$ comme une somme de carrés la règle ici en une ligne.