Dérivées selon tout vecteur, sans différentiabilité

Ce qu'on a le droit d'utiliser. Les seules définitions : $D_{v}f(a)={\lim }_{t\to 0}\frac{f(a+tv)-f(a)}{t}$, et « $f$ différentiable en $a$ » signifie $f(a+h)=f(a)+L(h)+o(\Vert h\Vert )$ avec $L$ linéaire.

a) Toutes les dérivées directionnelles existent. Soit $v=(v_1,v_2)\ne (0,0)$. Pour $t\ne 0$, $tv\ne (0,0)$ et $$f(tv)=\frac{t^2{v}_1^2\cdot t{v}_2}{t^4{v}_1^4+t^2{v}_2^2}=\frac{t^3{v}_1^2{v}_2}{t^2(t^2{v}_1^4+v_2^2)}=t\cdot \frac{v_1^2{v}_2}{t^2{v}_1^4+v_2^2},$$ le dénominateur $t^2{v}_1^4+v_2^2$ étant non nul pour $t\ne 0$ (sinon $v_2=0$ et $v_1=0$). Donc $$\frac{f(tv)-f(0,0)}{t}=\frac{v_1^2{v}_2}{t^2{v}_1^4+v_2^2}\underset{t\to 0}{\to }\{\begin{array}{ll}\frac{v_1^2}{v_2}& \text{si }{v}_2\ne 0,\\ 0& \text{si }{v}_2=0.\end{array}$$ (Si $v_2=0$ le numérateur est nul pour tout $t$ : le taux vaut $0$.) Toutes les $D_{v}f(0,0)$ existent ; en particulier les deux dérivées partielles sont nulles.

b) $f$ n'est pas continue en l'origine. Le a) montre que la restriction de $f$ à chaque droite passant par l'origine tend vers $0$ : aucune droite ne détecte quoi que ce soit. Sortons des droites et approchons l'origine le long de la parabole $y=x^2$ : pour $x\ne 0$, $$f(x,x^2)=\frac{x^2\cdot x^2}{x^4+x^4}=\frac{x^4}{2x^4}=\frac{1}{2}\nrightarrow 0=f(0,0).$$ Il existe donc une suite de points tendant vers l'origine le long de laquelle $f$ vaut constamment $\frac{1}{2}$ : $f$ n'est pas continue en $(0,0)$. Or toute application différentiable en un point y est continue (cours) : $f$ n'est pas différentiable en $(0,0)$.

c) La seconde obstruction. Même si $f$ avait été continue, elle n'aurait pas pu être différentiable : si elle l'était, on aurait $D_{v}f(0,0)=\mathrm{d}f(0,0)\cdot v$, donc $v\mapsto D_{v}f(0,0)$ serait linéaire. Testons l'additivité sur $v=(1,1)$ et $w=(0,1)$ : $$D_{v}f(0,0)=\frac{1^2}{1}=1,D_{w}f(0,0)=\frac{0^2}{1}=0,D_{v+w}f(0,0)=D_{(1,2)}f(0,0)=\frac{1^2}{2}=\frac{1}{2}.$$ Or $1+0=1\ne \frac{1}{2}$ : l'application n'est pas additive, donc pas linéaire. Aucune différentielle ne peut exister. (Elle est pourtant positivement homogène : $D_{tv}f(0,0)=\frac{t^2{v}_1^2}{t{v}_2}=t{D}_{v}f(0,0)$ pour $t>0$ — l'homogénéité seule ne fait pas la linéarité.)

Le point délicat : une dérivée directionnelle ne voit que des droites. Le long de chaque droite, $f$ vaut $t\frac{v_1^2{v}_2}{t^2{v}_1^4+v_2^2}$, qui tend vers $0$ : chaque restriction est non seulement continue, mais dérivable en $0$. La singularité est courbe — elle est portée par la famille de paraboles $y=c{x}^2$, le long desquelles $f(x,c{x}^2)=\frac{c}{1+c^2}$ est une constante non nulle, et aucune droite ne suit une parabole au voisinage de l'origine. Différentiable est strictement plus fort que « dérivable dans toutes les directions », et c'est exactement pour cela que le cours introduit une notion nouvelle.

Contrôle chiffré. $f(0,1;0,01)=\frac{0,01\times 0,01}{10^{-4}+10^{-4}}=\frac{10^{-4}}{2\cdot 10^{-4}}=0,5$, à distance $0,1005$ de l'origine, alors que $f(0,0)=0$ : la valeur $\frac{1}{2}$ est atteinte aussi près de l'origine qu'on veut. En revanche $f(0,1;0,1)=\frac{10^{-3}}{10^{-4}+10^{-2}}=0,0990$, et $f(0,01;0,01)=\frac{10^{-6}}{10^{-8}+10^{-4}}\approx 0,0100$ : sur la diagonale, une droite, $f$ tend bien vers $0$. Enfin $|f|\le \frac{1}{2}$ partout, puisque $x^4+y^2\ge 2x^2|y|$ par l'inégalité arithmético-géométrique : $f$ est bornée et pourtant discontinue.

Ce que l'exercice installe. En pratique, on n'étudie jamais la différentiabilité par la définition : on calcule les dérivées partielles et l'on constate leur continuité, ce qui donne la classe C1, donc la différentiabilité. La définition ne sert qu'aux points singuliers — et cet exercice dit pourquoi elle est indispensable : les dérivées partielles, et même toutes les dérivées directionnelles, peuvent exister sans rien garantir. Le contre-exemple à retenir a deux étages, et il faut savoir les séparer : la non-continuité, décelée par une courbe, et la non-linéarité de $v\mapsto D_{v}f$.