Fonctions monotones : des sauts, et rien d'autre

Ce qu'on a le droit d'utiliser. La borne supérieure et sa caractérisation ; la caractérisation des intervalles — une partie de $\mathbb{R}$ est un intervalle si et seulement si elle contient tout réel compris entre deux de ses éléments — ; et le fait que l'image d'un intervalle par une fonction continue est un intervalle.

La stratégie. Une fonction croissante approche $f(x_0)$ par valeurs montantes à gauche et descendantes à droite : ses limites latérales sont une borne supérieure et une borne inférieure. Une discontinuité ne peut donc être qu'un saut, et un saut laisse un trou dans l'image.

a) Les limites latérales. L'ensemble $L=\{f(x):x\in I,x<x_0\}$ est non vide, car l'intervalle ouvert $I$ contient des points à gauche de $x_0$, et majoré par $f(x_0)$, par croissance : il admet une borne supérieure $s\le f(x_0)$.

Montrons que $f(x)\to s$ quand $x$ tend vers $x_0$ par valeurs inférieures. Soit $\epsilon >0$. Par la caractérisation de la borne supérieure, il existe $x_1\in I$, $x_1<x_0$, tel que $f(x_1)>s-\epsilon$. Pour tout $x\in I$ tel que $x_1\le x<x_0$, la croissance de $f$ et la définition de $s$ donnent $$s-\epsilon <f(x_1)\le f(x)\le s,$$ donc $|f(x)-s|\le \epsilon$. Avec $\eta =x_0-x_1>0$ : pour tout $x\in I$ tel que $x_0-\eta \le x<x_0$, $|f(x)-s|\le \epsilon$. C'est la définition de la limite à gauche : $f(x_0^{-})=s\le f(x_0)$.

De même, $\{f(x):x\in I,x>x_0\}$ a une borne inférieure $t\ge f(x_0)$, qui est la limite à droite. D'où $$f(x_0^{-})\le f(x_0)\le f(x_0^{+}),$$ et l'on retiendra que $f(x)\le f(x_0^{-})$ pour tout $x<x_0$, et $f(x)\ge f(x_0^{+})$ pour tout $x>x_0$.

b) La caractérisation. $f$ est continue en $x_0$ si et seulement si elle est continue à gauche et à droite, c'est-à-dire si et seulement si $f(x_0^{-})=f(x_0)=f(x_0^{+})$. Si c'est le cas, $f(x_0^{-})=f(x_0^{+})$. Réciproquement, si $f(x_0^{-})=f(x_0^{+})$, l'encadrement du a) force $f(x_0)$ à leur être égal : $f$ est continue en $x_0$. Une fonction croissante est discontinue en un point exactement quand elle y fait un saut, de hauteur $f(x_0^{+})-f(x_0^{-})>0$.

c) Un saut fait un trou. Supposons $f$ discontinue en $x_0$ : d'après b), $f(x_0^{-})<f(x_0^{+})$. Pour $x<x_0$, $f(x)\le f(x_0^{-})$ ; pour $x>x_0$, $f(x)\ge f(x_0^{+})$. Aucune de ces valeurs n'est dans l'intervalle ouvert $\left]f(x_0^{-}),f(x_0^{+})\right[$ : la seule valeur de $f$ qui puisse s'y trouver est $f(x_0)$.

Or cet intervalle ouvert contient une infinité de réels ; choisissons-en un, $y$, différent de $f(x_0)$, et prenons $x_1<x_0<x_2$ dans $I$. Alors $$f(x_1)\le f(x_0^{-})<y<f(x_0^{+})\le f(x_2),$$ de sorte que $y$ est compris entre deux éléments de $f(I)$ sans appartenir à $f(I)$ : par la caractérisation des intervalles, $f(I)$ n'est pas un intervalle.

On a montré par contraposée : si $f(I)$ est un intervalle, $f$ est continue sur $I$. Réciproquement, si $f$ est continue sur l'intervalle $I$, $f(I)$ est un intervalle. Une fonction monotone sur un intervalle est continue si et seulement si son image est un intervalle.

Le point délicat. La monotonie est indispensable : sur $\left]0,2\right[$, la fonction égale à $x$ sur $\left]0,1\right]$ et à $x-1$ sur $\left]1,2\right[$ a pour image l'intervalle $\left]0,1\right]$, et elle saute pourtant en $1$ — elle n'est pas monotone.

d) La continuité de la réciproque. $g$ est strictement croissante, donc injective : c'est une bijection de $I$ sur $g(I)$. Sa réciproque est strictement croissante : si $y<y^{\prime }$ dans $g(I)$ et si l'on avait $g^{-1}(y)\ge g^{-1}(y^{\prime })$, la croissance de $g$ donnerait $y=g\left(g^{-1}(y)\right)\ge g\left(g^{-1}(y^{\prime })\right)=y^{\prime }$, ce qui est faux. Ainsi $g^{-1}$ est croissante sur l'intervalle ouvert $g(I)$, et son image, $I$, est un intervalle : par le c), $g^{-1}$ est continue. C'est la partie du théorème de la bijection dont le programme déclare la démonstration non exigible : elle vient d'être faite.

Ce que l'exercice installe. La monotonie est une hypothèse très forte : elle garantit les limites latérales en tout point et réduit toute discontinuité à un saut. Le critère « continue si et seulement si l'image est un intervalle » est la forme la plus maniable du théorème de la bijection, et il resservira dès l'exercice suivant. (En thermodynamique, l'enthalpie d'un corps pur chauffé sous pression constante est une fonction croissante de la température qui fait un saut à la température de changement d'état — la hauteur du saut est l'enthalpie de changement d'état ; réciproquement, la température vue comme fonction de l'énergie reçue présente un palier.)