Le contre-exemple de Schwarz

La stratégie. Hors de l'origine, $f$ est un quotient de polynômes à dénominateur non nul : tout s'y calcule et tout y est régulier. La difficulté est concentrée en $(0,0)$, où il faut revenir à la définition — un taux d'accroissement — chaque fois qu'on veut une dérivée.

a) La classe ${\mathcal{C}}^1$. Hors de l'origine, $f$ est une fraction rationnelle de dénominateur non nul, donc de classe ${\mathcal{C}}^{\infty }$ sur l'ouvert ${\mathbb{R}}^2\setminus \{(0,0)\}$, et $$\frac{\partial f}{\partial x}(x,y)=\frac{y(x^4+4x^2{y}^2-y^4)}{(x^2+y^2{)}^2},$$ $$\frac{\partial f}{\partial y}(x,y)=\frac{x(x^4-4x^2{y}^2-y^4)}{(x^2+y^2{)}^2}.$$ En l'origine, $f(x,0)=0$ pour tout $x$, donc le taux $\frac{f(x,0)-f(0,0)}{x}$ est nul et $\frac{\partial f}{\partial x}(0,0)=0$ ; de même $\frac{\partial f}{\partial y}(0,0)=0$.

Continuité en l'origine. Le numérateur de $\frac{\partial f}{\partial x}$ est majoré en valeur absolue par $|y|(x^4+4x^2{y}^2+y^4)$, et $x^4+4x^2{y}^2+y^4\le 2(x^2+y^2{)}^2=2x^4+4x^2{y}^2+2y^4$. Donc $$|\frac{\partial f}{\partial x}(x,y)|\le 2|y|,$$ qui tend vers $0$ quand $(x,y)$ tend vers $(0,0)$ ; de même $|\frac{\partial f}{\partial y}(x,y)|\le 2|x|$. Les deux dérivées partielles sont continues en l'origine comme ailleurs : $f$ est de classe ${\mathcal{C}}^1$ sur ${\mathbb{R}}^2$.

b) Les deux dérivées croisées en l'origine. Pour $x\ne 0$, la formule donne $\frac{\partial f}{\partial y}(x,0)=\frac{x\cdot x^4}{x^4}=x$, et en $x=0$ on a trouvé $0$ : donc $\frac{\partial f}{\partial y}(x,0)=x$ pour tout réel $x$. De même $\frac{\partial f}{\partial x}(0,y)=\frac{y(-y^4)}{y^4}=-y$ pour $y\ne 0$, et $0$ en $y=0$ : $\frac{\partial f}{\partial x}(0,y)=-y$ pour tout $y$.

La dérivée par rapport à $x$ de $\frac{\partial f}{\partial y}$ en $(0,0)$ est la dérivée en $0$ de $x\mapsto x$ : elle vaut $1$. La dérivée par rapport à $y$ de $\frac{\partial f}{\partial x}$ en $(0,0)$ est la dérivée en $0$ de $y\mapsto -y$ : elle vaut $-1$.

c) Ce que cela dit. Si $f$ était de classe ${\mathcal{C}}^2$ au voisinage de l'origine, le théorème de Schwarz imposerait l'égalité de ces deux dérivées croisées ; elles valent $1$ et $-1$. Donc $f$ n'est pas de classe ${\mathcal{C}}^2$, bien qu'elle soit de classe ${\mathcal{C}}^1$ et que ses dérivées secondes croisées existent en l'origine.

On voit précisément ce qui manque. Hors de l'origine, $f$ est de classe ${\mathcal{C}}^{\infty }$, le théorème de Schwarz s'y applique, et les deux dérivées croisées y valent $$\frac{{\partial }^{2}f}{\partial x\partial y}(x,y)=\frac{(x^2-y^2)(x^4+10x^2{y}^2+y^4)}{(x^2+y^2{)}^3}.$$ Cette fonction vaut $1$ sur l'axe des abscisses privé de l'origine — la fraction s'y réduit à $\frac{x^2\cdot x^4}{x^6}$ — et $-1$ sur l'axe des ordonnées privé de l'origine : elle n'a pas de limite en $(0,0)$. Les dérivées secondes existent en l'origine, mais n'y sont pas continues ; c'est leur continuité, et non leur existence, qui fait fonctionner le théorème.

Ce que l'exercice installe. La hessienne n'est symétrique que parce qu'on la prend d'une fonction de classe ${\mathcal{C}}^2$ : le théorème de Schwarz a une hypothèse, et elle porte ; on la vérifiera avant toute diagonalisation de hessienne. En thermodynamique, les relations de Maxwell sont le théorème de Schwarz appliqué à un potentiel de classe ${\mathcal{C}}^2$ : de $\mathrm{d}U=T\mathrm{d}S-P\mathrm{d}V$ on tire que la dérivée de $T$ par rapport à $V$ à entropie constante est l'opposée de celle de $P$ par rapport à $S$ à volume constant — la même dérivée croisée de $U$.