Continuité d'une fonction monotone : les sauts se lisent sur l'image

Ce qu'on a le droit d'utiliser. La propriété de la borne supérieure ; le théorème de la limite monotone pour les fonctions, que l'on redémontre ci-dessous dans le cas utile ; le théorème des valeurs intermédiaires pour le sens facile du c). L'idée directrice : une fonction monotone n'a que des discontinuités de saut, et un saut laisse un trou dans l'image.

a) Les limites latérales. Considérons l'ensemble $A=\{f(x):x\in I,x<x_0\}$. Il est non vide, car $x_0$ est intérieur à $I$ (il existe des points de $I$ à gauche de $x_0$), et majoré par $f(x_0)$, par croissance. Il admet donc une borne supérieure $s\le f(x_0)$. Montrons que $f(x)\to s$ quand $x\to x_0^{-}$. Soit $\epsilon >0$ : par caractérisation du sup, il existe $x_1<x_0$ dans $I$ tel que $f(x_1)>s-\epsilon$. Pour tout $x\in [x_1,x_0[$, la croissance donne $s-\epsilon <f(x_1)\le f(x)\le s$, donc $|f(x)-s|\le \epsilon$. C'est la définition de la limite à gauche : $f(x_0^{-})=s\le f(x_0)$.

De même, $B=\{f(x):x\in I,x>x_0\}$ est non vide et minoré par $f(x_0)$ ; sa borne inférieure $t$ est la limite à droite, et $f(x_0^{+})=t\ge f(x_0)$. D'où l'encadrement $f(x_0^{-})\le f(x_0)\le f(x_0^{+})$.

b) La caractérisation. $f$ est continue en $x_0$ si et seulement si elle l'est à gauche et à droite, c'est-à-dire si et seulement si $f(x_0^{-})=f(x_0)=f(x_0^{+})$. Si c'est le cas, alors $f(x_0^{-})=f(x_0^{+})$. Réciproquement, si $f(x_0^{-})=f(x_0^{+})$, l'encadrement du a) force $f(x_0^{-})=f(x_0)=f(x_0^{+})$ : $f$ est continue en $x_0$. Une fonction monotone est donc discontinue en un point exactement quand elle y fait un saut $f(x_0^{+})-f(x_0^{-})>0$.

c) Continuité et image. Sens direct. Si $f$ est continue sur l'intervalle $I$, alors $f(I)$ est un intervalle : c'est le corollaire du théorème des valeurs intermédiaires.

Sens réciproque, par contraposée. Supposons $f$ discontinue en un point $x_0\in I$ et montrons que $f(I)$ n'est pas un intervalle. Deux cas.

Si $x_0$ est intérieur à $I$ : d'après b), $f(x_0^{-})<f(x_0^{+})$. Choisissons $y$ dans l'intervalle ouvert $]f(x_0^{-}),f(x_0^{+})[$, différent de $f(x_0)$ (c'est possible : un intervalle ouvert non vide contient une infinité de réels). Alors $y\notin f(I)$ : pour $x<x_0$, $f(x)\le f(x_0^{-})<y$ (la borne supérieure $f(x_0^{-})$ majore $A$) ; pour $x>x_0$, $f(x)\ge f(x_0^{+})>y$ ; et $f(x_0)\ne y$. Pourtant, en prenant $x_1<x_0<x_2$ dans $I$, on a $f(x_1)\le f(x_0^{-})<y<f(x_0^{+})\le f(x_2)$ : $y$ est compris entre deux éléments de $f(I)$ sans appartenir à $f(I)$. Par la caractérisation des intervalles, $f(I)$ n'est pas un intervalle.

Si $x_0$ est une extrémité de $I$, par exemple son minimum : seule la limite à droite existe, et la discontinuité signifie $f(x_0)<f(x_0^{+})$. Un $y\in ]f(x_0),f(x_0^{+})[$ vérifie $f(x_0)<y<f(x_2)$ pour tout $x_2>x_0$ dans $I$, et $y\notin f(I)$ : même conclusion. Le cas du maximum est symétrique.

Ainsi $f$ monotone est continue sur $I$ si et seulement si $f(I)$ est un intervalle.

d) La réciproque d'une bijection continue. Soit $f$ continue et strictement croissante sur $I$ (le cas décroissant est identique). Par le c), sens direct, $J=f(I)$ est un intervalle, et $f$ est une bijection de $I$ sur $J$. Sa réciproque $g=f^{-1}:J\to I$ est strictement croissante : si $y<y^{\prime }$ dans $J$ et si l'on avait $g(y)\ge g(y^{\prime })$, la croissance de $f$ donnerait $y=f(g(y))\ge f(g(y^{\prime }))=y^{\prime }$, contradiction. Enfin $g(J)=I$ est un intervalle. La fonction $g$ est donc monotone sur l'intervalle $J$, et son image est un intervalle : par le c), sens réciproque, $g$ est continue sur $J$. C'est le théorème de la bijection, que le programme admet et qui vient d'être démontré.

Ce que l'exercice installe. La monotonie est une hypothèse très forte : elle garantit l'existence des limites latérales partout, et réduit toute discontinuité à un saut. Le critère « continue si et seulement si l'image est un intervalle » est la forme la plus maniable du théorème de la bijection, et l'argument du c) — un saut fait un trou — est celui qu'on réutilisera pour les fonctions de répartition en probabilités.