Toutes les droites disent oui, une parabole dit non

La stratégie : deux calculs qui se contredisent en apparence, et une figure qui les réconcilie.

Préliminaire. En développant, $f(x,y)=y^2-3x^{2}y+2x^4$, donc

$$\frac{\partial f}{\partial x}=-6xy+8x^3,\frac{\partial f}{\partial y}=2y-3x^2,$$

toutes deux nulles en $(0,0)$ : l'origine est bien un point critique, et $f(0,0)=0$.

a) Sur toute droite passant par l'origine. Il y a deux familles à examiner.

• L'axe des ordonnées, $x=0$ : $f(0,y)=y^2>0$ pour $y\ne 0$. Minimum local strict.
• Les droites $y=mx$, $m\in \mathbb{R}$ : $$f(x,mx)=(mx-x^2)(mx-2x^2)=x^2(m-x)(m-2x).$$ Si $m\ne 0$, le facteur $(m-x)(m-2x)$ tend vers $m^2>0$ quand $x\to 0$ : il est donc strictement positif pour $|x|$ assez petit, et $f(x,mx)>0$ pour $0<|x|$ assez petit. Si $m=0$, on trouve $f(x,0)=(-x^2)(-2x^2)=2x^4>0$ pour $x\ne 0$.

Dans tous les cas, la restriction admet en $(0,0)$ un minimum local strict. Toutes les droites sont d'accord.

b) Et pourtant, ce n'est pas un minimum. Regardons $f$ sur la parabole $y=\frac{3}{2}{x}^2$, qui passe entre les deux paraboles $y=x^2$ et $y=2x^2$ :

$$f\left(x,\frac{3}{2}{x}^2\right)=\left(\frac{3}{2}{x}^2-x^2\right)\left(\frac{3}{2}{x}^2-2x^2\right)=\frac{x^2}{2}\times \left(-\frac{x^2}{2}\right)=-\frac{x^4}{4}<0$$

pour $x\ne 0$. Or les points $\left(x,\frac{3}{2}{x}^2\right)$ tendent vers l'origine quand $x\to 0$ : tout disque centré en $(0,0)$, si petit soit-il, contient des points où $f$ est strictement négative, donc strictement inférieure à $f(0,0)=0$. L'origine n'est pas un minimum local.

c) L'explication géométrique. La fonction est un produit de deux facteurs : elle est négative exactement là où les deux facteurs sont de signes contraires, c'est-à-dire dans la région

$$x^2<y<2x^2,$$

une « banane » comprise entre les deux paraboles. ⚠️ Cette région touche l'origine, mais elle y est tangente à l'axe des abscisses à l'ordre deux : elle se referme comme un carré, et aucune droite ne peut y entrer près de $0$. Une droite $y=mx$ avec $m\ne 0$ quitte immédiatement la banane, car $mx$ est infiniment plus grand que $2x^2$ ; et la droite $y=0$ passe en dessous. Les droites sont trop grossières pour détecter une région qui se referme comme une parabole.

Contrôle numérique. Au point $x=10^{-3}$, $y=1,5\times 10^{-6}$, à distance $10^{-3}$ de l'origine, on trouve $f=-2,5\times 10^{-13}$ : négatif. Au point $x=10^{-2}$, $y=10^{-2}$, sur la première bissectrice, on trouve $f>0$. Deux points voisins de l'origine, deux signes.

Ce que l'exercice installe. Une mise en garde à retenir mot pour mot : restreindre une fonction à des droites passant par un point critique est une heuristique, jamais une démonstration. Cela permet d'exhiber un col, jamais de conclure à un extremum. Pour conclure, il faut contrôler le signe de $f(a+u)-f(a)$ dans tout un voisinage, par une forme canonique ou une minoration — c'est pourquoi le cours insiste sur cette étape.