Le contre-exemple de Schwarz

La stratégie : les deux dérivées croisées se calculent sur les deux axes, et nulle part ailleurs. On n'a pas besoin de l'expression générale des dérivées secondes : pour obtenir ${\partial }_x({\partial }_{y}f)$ en l'origine, il suffit de connaître ${\partial }_{y}f$ sur l'axe des abscisses, puisqu'on la dérive ensuite en $x$ le long de cet axe. Ce sont donc deux calculs d'une variable, et ils sont exacts.

a) Les deux dérivées premières sur les axes. Sur l'axe des abscisses. Pour $x\ne 0$ fixé, écrivons $f(x,y)=y\cdot \frac{x(x^2-y^2)}{x^2+y^2}$, et comme $f(x,0)=0$, $${\partial }_{y}f(x,0)=\underset{y\to 0}{\lim }\frac{f(x,y)-f(x,0)}{y}=\underset{y\to 0}{\lim }\frac{x(x^2-y^2)}{x^2+y^2}=\frac{x\cdot x^2}{x^2}=x.$$ Pour $x=0$ : $f(0,y)=0$ pour tout $y$, donc ${\partial }_{y}f(0,0)=0$. La formule ${\partial }_{y}f(x,0)=x$ vaut donc pour tout $x$.

Sur l'axe des ordonnées. Symétriquement, $f(x,y)=x\cdot \frac{y(x^2-y^2)}{x^2+y^2}$ et $f(0,y)=0$, donc pour $y\ne 0$ $${\partial }_{x}f(0,y)=\underset{x\to 0}{\lim }\frac{f(x,y)}{x}=\underset{x\to 0}{\lim }\frac{y(x^2-y^2)}{x^2+y^2}=\frac{y\cdot (-y^2)}{y^2}=-y,$$ et ${\partial }_{x}f(0,0)=0$ : la formule ${\partial }_{x}f(0,y)=-y$ vaut pour tout $y$.

b) Les deux dérivées croisées. Par définition, ${\partial }_x({\partial }_{y}f)(0,0)$ est la dérivée en $0$ de la fonction d'une variable $x\mapsto {\partial }_{y}f(x,0)$, qui vaut $x$ d'après le a) : $${\partial }_x\left({\partial }_{y}f\right)(0,0)=\frac{\mathrm{d}}{\mathrm{d}x}[x{]}_{x=0}=1.$$ De même, ${\partial }_y({\partial }_{x}f)(0,0)$ est la dérivée en $0$ de $y\mapsto {\partial }_{x}f(0,y)=-y$ : $${\partial }_y\left({\partial }_{x}f\right)(0,0)=-1.$$ Les deux dérivées croisées diffèrent en l'origine : l'ordre de dérivation n'est pas indifférent.

c) $f$ est pourtant de classe C1. Sur ${\mathbb{R}}^2\setminus \{(0,0)\}$, $f$ est une fraction rationnelle de dénominateur non nul, donc de classe C∞. Calculons ${\partial }_{x}f$ en un point $(x,y)\ne (0,0)$, en écrivant $f=\frac{x^{3}y-x{y}^3}{x^2+y^2}$ : $${\partial }_{x}f=\frac{(3x^{2}y-y^3)(x^2+y^2)-(x^{3}y-x{y}^3)\cdot 2x}{(x^2+y^2{)}^2}=\frac{y(x^4+4x^2{y}^2-y^4)}{(x^2+y^2{)}^2},$$ le numérateur se développant en $3x^{4}y+3x^2{y}^3-x^2{y}^3-y^5-2x^{4}y+2x^2{y}^3=x^{4}y+4x^2{y}^3-y^5$. Majorons : comme $x^4+4x^2{y}^2+y^4\le 2(x^2+y^2{)}^2$ (développer : $2(x^2+y^2{)}^2=2x^4+4x^2{y}^2+2y^4$), il vient $$|{\partial }_{x}f(x,y)|\le 2|y|\le 2\Vert (x,y)\Vert \underset{(x,y)\to (0,0)}{\to }0={\partial }_{x}f(0,0).$$ Donc ${\partial }_{x}f$ est continue en l'origine, et elle l'est ailleurs comme fraction rationnelle. Comme $f(y,x)=-f(x,y)$, on obtient par symétrie ${\partial }_{y}f(x,y)=\frac{x(x^4-4x^2{y}^2-y^4)}{(x^2+y^2{)}^2}$, également majorée par $2|x|$, donc continue en l'origine. Les deux dérivées partielles existent partout et sont continues : $f$ est de classe C1 sur ${\mathbb{R}}^2$ (critère pratique du cours).

Où l'hypothèse échoue. Le théorème de Schwarz demande la classe C2. Or ${\partial }_{y}f$ vaut $x$ sur l'axe des abscisses et $0$ sur l'axe des ordonnées, donc $${\partial }_x\left({\partial }_{y}f\right)(x,0)=1(x\ne 0),{\partial }_x\left({\partial }_{y}f\right)(0,y)=\underset{x\to 0}{\lim }\frac{{\partial }_{y}f(x,y)}{x}=\frac{-y^4}{y^4}=-1(y\ne 0).$$ La fonction ${\partial }_x({\partial }_{y}f)$ prend la valeur $1$ le long d'un axe et $-1$ le long de l'autre : elle n'a pas de limite en l'origine, donc n'y est pas continue. $f$ n'est pas de classe C2 en $(0,0)$ — et c'est exactement l'hypothèse qui manque. (En tout point autre que l'origine, $f$ est C∞ et les croisées coïncident bien : le phénomène est ponctuel.)

Le point délicat : la dérivée croisée se calcule par deux limites emboîtées, pas par une limite en deux variables. ${\partial }_x({\partial }_{y}f)(0,0)$ signifie « on dérive d'abord en $y$, à $x$ gelé, puis le résultat en $x$ ». L'ordre des deux gels n'est pas symétrique, et c'est tout le phénomène. ⚠️ Deuxième mise en garde, expérimentale celle-là : un schéma numérique de différences centrées appliqué à l'origine rend $0$ pour les deux croisées, parce qu'il symétrise les quatre quadrants et fait disparaître l'antisymétrie de $f$. Le calcul exact des deux dérivées premières sur les axes, lui, ne ment pas : ${\partial }_{y}f(x,0)=x$ et ${\partial }_{x}f(0,y)=-y$, vérifiés numériquement à $10^{-9}$ près en $x=y=0,3$.

Ce que l'exercice installe. Les hypothèses de régularité des grands théorèmes ne sont pas décoratives, et l'on ne sait vraiment ce qu'elles font que lorsqu'on a vu ce qui tombe sans elles. Ici la conclusion « les croisées sont égales » est fausse dès que la classe C2 manque, fût-ce en un seul point — alors que la classe C1, elle, est acquise. À retenir aussi la technique : pour prendre en défaut une propriété en l'origine, on fabrique une fonction antisymétrique en $(x,y)$ dont les deux axes voient des comportements opposés.