Une fonction $C^1$ qui n'est pas $C^2$

• Avec $x=r\cos \theta$, $y=r\sin \theta$ : $f=\frac{r^4{\cos }^3\theta \sin \theta }{r^2}=r^2{\cos }^3\theta \sin \theta$, donc $\left|f(x,y)\right|\le r^2=x^2+y^2\to 0$ quand $(x,y)\to (0,0)$ : $f$ est continue en $(0,0)$. Le point important est que la majoration ne dépend pas de $\theta$.
• Pour $(x,y)\ne (0,0)$, par la règle du quotient :

$$\frac{\partial f}{\partial x}=\frac{3x^{2}y(x^2+y^2)-x^{3}y\cdot 2x}{(x^2+y^2{)}^2}=\frac{x^{2}y(x^2+3y^2)}{(x^2+y^2{)}^2},$$

$$\frac{\partial f}{\partial y}=\frac{x^3(x^2+y^2)-x^{3}y\cdot 2y}{(x^2+y^2{)}^2}=\frac{x^3(x^2-y^2)}{(x^2+y^2{)}^2}.$$

• $f(h,0)=0$ et $f(0,h)=0$ pour tout $h$, donc les deux taux d'accroissement sont nuls : $\frac{\partial f}{\partial x}(0,0)=0$ et $\frac{\partial f}{\partial y}(0,0)=0$.
• En polaires, $\frac{\partial f}{\partial x}=r{\cos }^2\theta \sin \theta ({\cos }^2\theta +3{\sin }^2\theta )$, de valeur absolue $\le 3r$, et $\frac{\partial f}{\partial y}=r{\cos }^3\theta ({\cos }^2\theta -{\sin }^2\theta )$, de valeur absolue $\le r$. Les deux tendent vers $0=\frac{\partial f}{\partial x}(0,0)=\frac{\partial f}{\partial y}(0,0)$ quand $r\to 0$ : elles sont continues en $(0,0)$. Comme elles le sont ailleurs, $f$ est $C^1$ sur ${\mathbb{R}}^2$.
• Pour $y\ne 0$, la formule de la question 2 donne $\frac{\partial f}{\partial x}(0,y)=0$, et c'est vrai aussi pour $y=0$ : la fonction $y\mapsto \frac{\partial f}{\partial x}(0,y)$ est nulle, donc $\frac{{\partial }^{2}f}{\partial y\partial x}(0,0)=0$. Pour $x\ne 0$, $\frac{\partial f}{\partial y}(x,0)=\frac{x^5}{x^4}=x$, et c'est vrai aussi pour $x=0$ : la fonction $x\mapsto \frac{\partial f}{\partial y}(x,0)$ est $x\mapsto x$, donc $\frac{{\partial }^{2}f}{\partial x\partial y}(0,0)=1$. Les deux dérivées croisées existent à l'origine mais sont différentes : d'après le théorème de Schwarz, $f$ n'est pas $C^2$. Hors de l'origine, on trouve $\frac{{\partial }^{2}f}{\partial x\partial y}=\frac{x^2(x^4+6x^2{y}^2-3y^4)}{(x^2+y^2{)}^3}$, qui vaut $1$ sur l'axe des $x$ et $0$ sur l'axe des $y$ : cette dérivée seconde n'a pas de limite en $(0,0)$.