Somme et produit des valeurs propres

$H$ est symétrique, donc diagonalisable, de valeurs propres réelles ${\lambda }_1,{\lambda }_2$. La somme des coefficients diagonaux donne ${\lambda }_1+{\lambda }_2=a+c$ (exercice 7 du chapitre 3), et l'on admet (ou l'on vérifie sur la diagonalisation) que ${\lambda }_1{\lambda }_2=ac-b^2$.

Si $ac-b^2<0$, le produit des deux valeurs propres est strictement négatif : elles sont non nulles et de signes opposés. Par le critère d'ordre $2$, le point est un col.

Application. Pour $f(x,y)=x^2-4xy+y^2$, la hessienne est $\left(\begin{array}{cc}2& -4\\ -4& 2\end{array}\right)$, donc $a=2$, $b=-4$, $c=2$ et $ac-b^2=4-16=-12<0$ : col, ce qui confirme l'exercice 3 sans chercher les valeurs propres. Attention : $b$ est le coefficient hors diagonale de la hessienne, soit $-4$ ici, et non le coefficient $-4$ du terme $xy$ divisé par deux.

Et si $ac-b^2>0$ ? Les deux valeurs propres ont alors le même signe, qui est celui de la somme $a+c$ — donc celui de $a$. Minimum si $a>0$, maximum si $a<0$.