Extrema sur un fermé borné

Existence. $f$ est continue et $D$ est fermé borné : le maximum existe.

À l'intérieur. $\nabla f={}^t(y,x)$ s'annule seulement en $(0,0)$, où $f=0$.

Sur le bord. $x^2+y^2=1$. Or

$$2xy=(x+y{)}^2-1⩽(\sqrt{2}{)}^2-1=1$$

par Cauchy-Schwarz appliqué à $(x,y)$ et $(1,1)$. Donc $xy⩽\frac{1}{2}$, avec égalité pour $x=y=\frac{1}{\sqrt{2}}$.

Conclusion. Le maximum vaut $\frac{1}{2}$, atteint en $\left(\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}}\right)$ et, par symétrie, en $\left(-\frac{1}{\sqrt{2}},-\frac{1}{\sqrt{2}}\right)$.

La méthode. Sur un fermé borné : points critiques à l'intérieur, puis étude du bord, puis comparaison. Ici l'intérieur donne $0$ et le bord $\frac{1}{2}$ : c'est le bord qui l'emporte.