Problème — Le théorème de Darboux : une dérivée ne saute jamais

1) La fonction auxiliaire. $g$ est la différence de $f$, dérivable sur $I$, et de la fonction affine $x\mapsto yx$ : elle est dérivable sur $I$, avec $g^{\prime }(x)=f^{\prime }(x)-y$. Par choix de $y$ : $g^{\prime }(a)=f^{\prime }(a)-y<0$ et $g^{\prime }(b)=f^{\prime }(b)-y>0$. Chercher $c$ tel que $f^{\prime }(c)=y$, c'est chercher un zéro de $g^{\prime }$.

2) La dérivée pousse vers le bas. Par définition, $\frac{g(x)-g(a)}{x-a}\to g^{\prime }(a)$ quand $x\to a$, $x\ne a$. Prenons $\epsilon =-\frac{g^{\prime }(a)}{2}>0$ : il existe $\eta >0$ tel que, pour tout $x\in I$ avec $0<|x-a|\le \eta$, $$\left|\frac{g(x)-g(a)}{x-a}-g^{\prime }(a)\right|\le \epsilon ,\text{donc}\frac{g(x)-g(a)}{x-a}\le g^{\prime }(a)+\epsilon =\frac{g^{\prime }(a)}{2}<0.$$ Posons $h=\min (\eta ,b-a)>0$ et $x=a+h\in ]a,b]$. Le taux d'accroissement en $x$ est strictement négatif et $x-a=h>0$, donc $g(a+h)-g(a)<0$ : $g(a+h)<g(a)$.

Symétriquement, $\frac{g(x)-g(b)}{x-b}\to g^{\prime }(b)>0$ : pour $x<b$ assez proche de $b$, ce taux est strictement positif ; comme $x-b<0$, le numérateur $g(x)-g(b)$ est strictement négatif. Avec $h^{\prime }=\min ({\eta }^{\prime },b-a)$ et $x=b-h^{\prime }\in [a,b[$ : $g(b-h^{\prime })<g(b)$.

Le point délicat, et il n'utilise que la définition de la dérivée. On serait tenté de dire « $g^{\prime }(a)<0$, donc $g$ décroît au voisinage de $a$ » : c'est faux en général. La décroissance sur un intervalle exige $g^{\prime }\le 0$ sur tout l'intervalle, et l'on ne sait rien de $g^{\prime }$ ailleurs qu'en $a$ — $g^{\prime }$ n'est même pas supposée continue. Ce qu'on obtient est bien plus modeste, l'existence d'un seul point où $g$ descend en dessous de $g(a)$, mais c'est tout ce dont on a besoin.

3) Le minimum est intérieur. $g$ est dérivable sur $I$, donc continue sur le segment $[a,b]$ : par le théorème des bornes atteintes, elle atteint sa borne inférieure en un point $c\in [a,b]$. Ce point n'est pas $a$ : d'après 2), $g(a+h)<g(a)$, donc $g(a)$ n'est pas la plus petite valeur de $g$ sur $[a,b]$. Ce n'est pas $b$ non plus : $g(b-h^{\prime })<g(b)$. Donc $c\in ]a,b[$.

4) Le théorème. Le point $c$ est intérieur à $[a,b]$, $g$ y est dérivable et y admet un minimum (global sur $[a,b]$, donc local) : par la condition nécessaire d'extremum local en un point intérieur, $g^{\prime }(c)=0$, c'est-à-dire $$f^{\prime }(c)=y.$$ Le cas $f^{\prime }(b)<y<f^{\prime }(a)$ se ramène au précédent en appliquant ce qui précède à $-f$ et $-y$. On a donc démontré :

Théorème de Darboux. Soit $f$ dérivable sur un intervalle $I$. Pour tous $a,b\in I$ et tout réel $y$ compris entre $f^{\prime }(a)$ et $f^{\prime }(b)$, il existe $c$ entre $a$ et $b$ tel que $f^{\prime }(c)=y$. Autrement dit, la dérivée d'une fonction dérivable sur un intervalle vérifie la propriété des valeurs intermédiaires — qu'elle soit continue ou non.

En quoi ce n'est pas le TVI. Le théorème des valeurs intermédiaires, appliqué à $f^{\prime }$, donnerait la même conclusion à condition que $f^{\prime }$ soit continue. Darboux ne le suppose pas, et la question 6) montrera une dérivée discontinue. La conclusion est la même, l'hypothèse est plus faible, et la démonstration ne passe pas par la continuité de $f^{\prime }$ mais par un extremum de $f-yx$.

5) Deux conséquences. (i) Supposons qu'une fonction $F$ dérivable sur $\mathbb{R}$ ait pour dérivée la fonction signe ($-1$ sur $]-\infty ,0[$, $0$ en $0$, $1$ sur $]0,+\infty [$). Alors $F^{\prime }(-1)=-1<\frac{1}{2}<1=F^{\prime }(1)$, et Darboux fournit $c\in ]-1,1[$ avec $F^{\prime }(c)=\frac{1}{2}$ — valeur que la fonction signe ne prend jamais. Contradiction. Plus généralement, si $F^{\prime }$ ne prenait que deux valeurs $\alpha <\beta$, atteintes en $a$ et $b$, Darboux imposerait que $F^{\prime }$ prenne toutes les valeurs de $[\alpha ,\beta ]$, qui sont en nombre infini. Une dérivée ne peut pas avoir de discontinuité de saut : toute discontinuité d'une dérivée est oscillante, et aucune fonction en escalier n'est la dérivée de personne.

(ii) Supposons que $f^{\prime }$ ne s'annule pas sur $I$. Si $f^{\prime }$ prenait une valeur strictement négative en $a$ et une valeur strictement positive en $b$, Darboux fournirait un point où $f^{\prime }=0$ — exclu. Donc $f^{\prime }$ garde un signe strict constant sur $I$ : $f^{\prime }>0$ partout, ou $f^{\prime }<0$ partout. Par la caractérisation des fonctions strictement monotones (une dérivée strictement positive sur un intervalle donne une fonction strictement croissante, par l'égalité des accroissements finis), $f$ est strictement monotone sur $I$. C'est le raisonnement « $f^{\prime }\ne 0$ donc $f$ strictement monotone » qu'on emploie couramment — et qui, sans Darboux, exigerait la continuité de $f^{\prime }$.

6) Une dérivée discontinue qui ne saute pas. Dérivabilité en $0$. Pour $x\ne 0$, $\left|\frac{\phi (x)-\phi (0)}{x-0}\right|=\left|x\sin \frac{1}{x}\right|\le |x|\to 0$ : le taux d'accroissement tend vers $0$, $\phi$ est dérivable en $0$ et ${\phi }^{\prime }(0)=0$. Sur ${\mathbb{R}}^{\ast }$, $\phi$ est dérivable comme produit et composée, avec $${\phi }^{\prime }(x)=2x\sin \frac{1}{x}-\cos \frac{1}{x}.$$ Discontinuité de ${\phi }^{\prime }$ en $0$. Posons $x_n=\frac{1}{2n\pi }$ et $y_n=\frac{1}{(2n+1)\pi }$ pour $n\ge 1$ : deux suites de réels non nuls tendant vers $0$. Alors ${\phi }^{\prime }(x_n)=2x_n\sin (2n\pi )-\cos (2n\pi )=-1$ et ${\phi }^{\prime }(y_n)=2y_n\sin ((2n+1)\pi )-\cos ((2n+1)\pi )=1$. Si ${\phi }^{\prime }$ avait une limite en $0$, elle vaudrait à la fois $-1$ et $1$ par la caractérisation séquentielle : ${\phi }^{\prime }$ n'a pas de limite en $0$, donc n'y est pas continue — alors que ${\phi }^{\prime }(0)$ existe. La réciproque du théorème de la limite de la dérivée est fausse : une fonction peut être dérivable en un point sans que sa dérivée y ait de limite.

Darboux vérifié. Pour tout $n\ge 1$, $0<y_n<x_n$, avec ${\phi }^{\prime }(y_n)=1$ et ${\phi }^{\prime }(x_n)=-1$. Par le théorème de Darboux appliqué sur $[y_n,x_n]$, ${\phi }^{\prime }$ prend toute valeur de $]-1,1[$ sur $]y_n,x_n[\subset ]0,x_n[$. Comme $x_n\to 0$, sur tout intervalle $]0,\epsilon [$, ${\phi }^{\prime }$ prend toutes les valeurs de $]-1,1[$ — elle est discontinue en $0$, mais d'une discontinuité oscillante, exactement celle que Darboux autorise. Une fonction qui vérifie la propriété des valeurs intermédiaires sans être continue : voilà le contre-exemple qui montre que cette propriété n'implique pas la continuité.

Le théorème obtenu — théorème de Darboux (1875). La dérivée d'une fonction dérivable sur un intervalle prend toute valeur intermédiaire entre deux de ses valeurs, sans hypothèse de continuité. En conséquence, une dérivée n'a jamais de discontinuité de saut, et une dérivée qui ne s'annule pas sur un intervalle y garde un signe constant.

Ce que le problème installe. Deux idées. La première : pour atteindre une valeur $y$ par une dérivée, on ne cherche pas $y$, on cherche un extremum de $f-yx$ — le théorème des bornes atteintes fournit le point, la définition de la dérivée l'empêche d'être au bord, la condition nécessaire d'extremum conclut. C'est exactement la démonstration de Rolle, avec un ingrédient de plus. La seconde : les dérivées forment une classe de fonctions à part, ni continues ni quelconques ; savoir qu'une fonction donnée « est une dérivée » est une information, et le chapitre sur l'intégration en donnera une autre forme.