Le maximum de $xy(1-x-y)$ sur le triangle ouvert

La stratégie. Sur un ouvert, un extremum local est un point critique : on résout $\nabla f=0$ pour dresser la liste des candidats. Mais cette liste ne dit rien de la nature du point ; c'est une inégalité extérieure qui prouve le maximum, et le prouve global.

a) L'ouvert et le point critique. $T$ est l'intersection de trois demi-plans ouverts, $\{x>0\}$, $\{y>0\}$ et $\{x+y<1\}$, chacun défini par une inégalité stricte entre fonctions continues ; c'est un ouvert : autour d'un point de $T$, les trois quantités $x$, $y$ et $1-x-y$ restent strictement positives sur une boule assez petite, par continuité. En développant $f=xy-x^{2}y-x{y}^2$ : $$\frac{\partial f}{\partial x}=y-2xy-y^2=y(1-2x-y),\frac{\partial f}{\partial y}=x-x^2-2xy=x(1-x-2y).$$ Sur $T$, $x>0$ et $y>0$, donc $\nabla f=0$ équivaut au système linéaire $2x+y=1$, $x+2y=1$. La différence donne $x=y$, puis $3x=1$. Unique point critique dans $T$ : $a=\left(\frac{1}{3},\frac{1}{3}\right)$, avec $f(a)=\frac{1}{27}$.

Le point délicat. Sur ${\mathbb{R}}^2$ tout entier, $f$ a quatre points critiques : $(0,0)$, $(1,0)$, $(0,1)$ et $a$. Les trois premiers sont sur le bord de $T$, donc hors de $T$ : ils ne sont pas candidats. C'est la restriction à l'ouvert qui rend le point critique unique, et c'est elle aussi qui autorise le théorème.

b) C'est un maximum, et il est global.

Première voie : l'inégalité arithmético-géométrique. Posons $z=1-x-y$. Sur $T$, les trois nombres $x,y,z$ sont strictement positifs et de somme $1$. L'inégalité arithmético-géométrique à trois termes — établie au chapitre sur la dérivabilité et la convexité par l'inégalité de Jensen appliquée au logarithme, concave : $\ln \frac{x+y+z}{3}\ge \frac{\ln x+\ln y+\ln z}{3}$, puis l'exponentielle croissante — donne $$\sqrt[3]{xyz}\le \frac{x+y+z}{3}=\frac{1}{3},\text{donc}f(x,y)=xyz\le \frac{1}{27},$$ avec égalité si et seulement si $x=y=z$, c'est-à-dire $x=y=\frac{1}{3}$.

Seconde voie : réduire à une variable, pour tenir le cas d'égalité sans convexité. Fixons la somme $s=x+y\in \left]0,1\right[$. Comme $s^2-4xy=(x-y{)}^2\ge 0$, on a $xy\le \frac{s^2}{4}$, avec égalité si et seulement si $x=y$. Donc $f(x,y)=xy(1-s)\le \frac{s^2(1-s)}{4}=\phi (s)$. La fonction $\phi$ est dérivable sur $]0,1[$, avec ${\phi }^{\prime }(s)=\frac{2s-3s^2}{4}=\frac{s(2-3s)}{4}$, positive sur $\left]0,\frac{2}{3}\right]$ et négative sur $\left[\frac{2}{3},1\right[$ : $\phi$ atteint son maximum en $s=\frac{2}{3}$, et $\phi \left(\frac{2}{3}\right)=\frac{1}{4}\cdot \frac{4}{9}\cdot \frac{1}{3}=\frac{1}{27}$. Ainsi $f(x,y)\le \frac{1}{27}$ sur $T$, avec égalité si et seulement si $x=y$ et $x+y=\frac{2}{3}$, soit $x=y=\frac{1}{3}$.

Les deux voies concluent : $$\underset{T}{\max }f=f\left(\frac{1}{3},\frac{1}{3}\right)=\frac{1}{27}\approx 0,0370,\text{atteint en ce seul point.}$$ Contrôle. $f(0,3;0,3)=0,09\times 0,4=0,0360$ et $f(0,4;0,3)=0,12\times 0,3=0,0360$, tous deux inférieurs à $0,0370$.

c) Le triangle fermé. Sur le bord de $\overline{T}$ — les trois segments $x=0$, $y=0$, $x+y=1$ — l'un des facteurs $x$, $y$, $1-x-y$ est nul, donc $f=0$ ; à l'intérieur, les trois facteurs sont strictement positifs, donc $f>0$. Le maximum sur $\overline{T}$ est donc encore $\frac{1}{27}$, atteint à l'intérieur ; le minimum est $0$, atteint en tout point du bord. Et ces points du bord ne sont pas, pour la plupart, des points critiques : en $\left(\frac{1}{2},0\right)$ par exemple, $\frac{\partial f}{\partial y}=x(1-x-2y)=\frac{1}{2}\cdot \frac{1}{2}=\frac{1}{4}\ne 0$. La condition nécessaire « extremum implique point critique » ne vaut que sur un ouvert, et le bord n'en fait pas partie.

Ce que l'exercice installe. Le schéma complet d'un problème d'extremum : vérifier qu'on est sur un ouvert, résoudre $\nabla f=0$, puis trouver l'argument qui décide — ici une inégalité classique, ou une réduction à une variable. Le point critique désigne, l'inégalité confirme. Et la remarque de fond : le produit de trois nombres positifs de somme fixée est maximal à l'équilibre — la même inégalité qui fait du carré le rectangle d'aire maximale à périmètre donné.