Ce que la monotonie supporte, et ce qu'elle ne supporte pas

Stratégie : démontrer ce qui est vrai, réfuter le reste par un exemple. La composée se traite par la définition même de la monotonie — on part de $a\le b$ et l'on suit ce que chaque fonction en fait. Le produit, lui, est faux : on ne cherche donc pas à le démontrer, on produit un contre-exemple, et le plus simple possible.

1) La composée $g\circ f$ est décroissante. Soient $a,b\in I$ avec $a\le b$. Comme $f$ est croissante sur $I$ :

$$f(a)\le f(b).$$

Ces deux nombres appartiennent à $f(I)$, sur lequel $g$ est décroissante ; l'inégalité se renverse donc :

$$g(f(a))\ge g(f(b)).$$

Ainsi $a\le b$ entraîne $(g\circ f)(a)\ge (g\circ f)(b)$ : la composée est décroissante sur $I$.

⚠️ Le point délicat est l'ensemble sur lequel $g$ est supposée décroissante. L'énoncé dit « sur $f(I)$ », et c'est essentiel : $f(a)$ et $f(b)$ sont dans $f(I)$, pas ailleurs. Le cours met d'ailleurs en garde — une fonction peut être décroissante sur chaque morceau d'un ensemble sans l'être sur l'ensemble tout entier, comme $x\mapsto \frac{1}{x}$ sur ${\mathbb{R}}^{\ast }$. Il faut donc toujours vérifier que le domaine de monotonie de $g$ contient l'image de $f$.

2) Le produit de deux fonctions croissantes n'est pas toujours croissant. Prenons le plus simple :

$$f(x)=x\text{et}g(x)=x,\text{sur }\mathbb{R}.$$

Toutes deux sont croissantes sur $\mathbb{R}$. Leur produit est $x\mapsto x^2$, qui décroît sur ${\mathbb{R}}_{-}$ : en effet $-2\le -1$ tandis que $(-2{)}^2=4\ge 1=(-1{)}^2$. Le produit n'est donc pas croissant sur $\mathbb{R}$.

Un second contre-exemple, sur des fonctions différentes. Prenons $f(x)=x$ et $g(x)=x-3$, croissantes sur $[0,1]$. Leur produit vaut $x(x-3)$, qui passe de $0$ en $x=0$ à $-2$ en $x=1$ : il décroît.

D'où vient la faute ? De ce que multiplier une inégalité par un nombre négatif en change le sens. Si $f$ et $g$ sont croissantes et positives, alors le produit est bien croissant : de $0\le f(a)\le f(b)$ et $0\le g(a)\le g(b)$ on tire $f(a)g(a)\le f(b)g(a)\le f(b)g(b)$. La positivité n'est donc pas un détail de confort, c'est l'hypothèse manquante.

Contrôle. Vérifions le premier point sur un exemple : $f(x)=e^x$, croissante sur $\mathbb{R}$, et $g(u)=\frac{1}{u}$, décroissante sur $f(\mathbb{R})=]0,+\infty [$. La composée est $x\mapsto e^{-x}$, qui est bien décroissante sur $\mathbb{R}$. ✔ Et pour le second : $(fg)(-2)=4$ est strictement supérieur à $(fg)(-1)=1$, alors que $-2<-1$ — le contre-exemple tient. ✔

Ce que l'exercice installe. La monotonie se transmet par composition, avec une règle des signes analogue à celle du produit : croissante par croissante donne croissante, croissante par décroissante donne décroissante. En revanche elle ne passe pas au produit sans hypothèse de signe, ni d'ailleurs à la différence. C'est l'une de ces asymétries qu'il vaut mieux avoir rencontrées une fois sur un contre-exemple que réapprises trois fois sur une copie.