Le maximum de $xy(1-x-y)$ sur le triangle ouvert

La stratégie. Sur un ouvert, un extremum local est un point critique : on résout $\nabla f=0$ pour dresser la liste des candidats. Mais cette liste ne dit rien de la nature du point ; c'est une inégalité extérieure qui prouve le maximum, et le prouve global.

a) L'ouvert et le point critique. $T$ est l'intersection de trois demi-plans ouverts, $\{x>0\}$, $\{y>0\}$ et $\{x+y<1\}$, chacun défini par une inégalité stricte entre fonctions continues ; c'est un ouvert : autour d'un point de $T$, les trois quantités $x$, $y$ et $1-x-y$ restent strictement positives sur une boule assez petite, par continuité. En développant $f=xy-x^{2}y-x{y}^2$ : $$\frac{\partial f}{\partial x}=y-2xy-y^2=y(1-2x-y),\frac{\partial f}{\partial y}=x-x^2-2xy=x(1-x-2y).$$ Sur $T$, $x>0$ et $y>0$, donc $\nabla f=0$ équivaut au système linéaire $2x+y=1$, $x+2y=1$. La différence donne $x=y$, puis $3x=1$. Unique point critique dans $T$ : $a=\left(\frac{1}{3},\frac{1}{3}\right)$, avec $f(a)=\frac{1}{27}$.

Le point délicat. Sur ${\mathbb{R}}^2$ tout entier, $f$ a quatre points critiques : $(0,0)$, $(1,0)$, $(0,1)$ et $a$. Les trois premiers sont sur le bord de $T$, donc hors de $T$ : ils ne sont pas candidats. C'est la restriction à l'ouvert qui rend le point critique unique, et c'est elle aussi qui autorise le théorème.