Sur un rectangle fermé

Existence. $f$ est polynomiale donc continue, et $K$ est fermé borné : $f$ est bornée sur $K$ et y atteint ses bornes.

Où chercher. Un extremum est soit intérieur — et c'est alors un point critique —, soit sur le bord. On traite les deux cas.

À l'intérieur. $\nabla f=\left(\begin{array}{c}2x-2\\ 2y\end{array}\right)$ s'annule au seul point $(1,0)$, qui est bien intérieur à $K$. La hessienne y vaut $\left(\begin{array}{cc}2& 0\\ 0& 2\end{array}\right)$, diagonale de valeurs propres $2$ et $2$, toutes deux positives : minimum local, de valeur $f(1,0)=-1$.

Sur le bord. On parcourt les quatre côtés, chacun ramenant à une fonction d'une variable : sur $x=0$, $f=y^2$ décrit $[0,1]$ ; sur $x=2$, $f=y^2$ décrit $[0,1]$ ; sur $y=1$, $f=x^2-2x+1=(x-1{)}^2$ décrit $[0,1]$ ; sur $y=-1$, de même. Le bord ne dépasse donc jamais $1$, et atteint $1$ aux quatre sommets.

Conclusion. Le minimum vaut $-1$, atteint en $(1,0)$ ; le maximum vaut $1$, atteint en $(0,1)$, $(0,-1)$, $(2,1)$ et $(2,-1)$.

Vérification globale. $f(x,y)=(x-1{)}^2+y^2-1⩾-1$ sur ${\mathbb{R}}^2$ tout entier, avec égalité au seul point $(1,0)$ : le minimum trouvé est même global.

Le point à retenir. Sur un fermé borné, la condition $\nabla f=0$ ne suffit jamais : elle est aveugle au bord, où le gradient n'a aucune raison de s'annuler. On étudie le bord séparément, côté par côté.