Soient f croissante sur I et g décroissante sur f(I). Déterminer le…

Stratégie : revenir à la définition de la monotonie — comparer les images de deux points rangés $x⩽y$ — puis, pour le produit, chercher le contre-exemple le plus petit possible.

a) Le sens de variation de $g\circ f$.

Soient $x,y\in I$ avec $x⩽y$.

• $f$ est croissante sur $I$, donc $f(x)⩽f(y)$ ;
• $f(x)$ et $f(y)$ appartiennent à $f(I)$, et $g$ est décroissante sur $f(I)$, donc $g(f(x))⩾g(f(y))$.

Ainsi $x⩽y\Rightarrow (g\circ f)(x)⩾(g\circ f)(y)$ : $g\circ f$ est décroissante sur $I$.

$$\text{croissante}\circ \text{deˊcroissante}=\text{deˊcroissante}$$

⚠️ Le point délicat est le domaine. L'hypothèse porte sur $g$ décroissante sur $f(I)$, et c'est exactement l'ensemble où l'on a besoin d'elle : les deux nombres qu'on lui présente sont $f(x)$ et $f(y)$, qui vivent dans $f(I)$ et nulle part ailleurs. Si $g$ n'était décroissante que sur une partie ne contenant pas $f(I)$, l'argument s'effondrerait à cette ligne précise.

b) Le produit de deux fonctions croissantes n'est pas croissant.

Prenons $f=g=\mathrm{id}$ sur $\mathbb{R}$ : $f(x)=g(x)=x$, toutes deux croissantes. Leur produit est $x\mapsto x^2$, qui n'est pas croissant sur $\mathbb{R}$ : $$-2<-1\text{et pourtant}(-2{)}^2=4>1=(-1{)}^2.$$

Un second contre-exemple, sans carré : $f(x)=x$ et $g(x)=x-3$ sur $\mathbb{R}$ sont croissantes, et $(fg)(x)=x^2-3x$ vaut $4$ en $-1$ et $0$ en $0$ : elle décroît sur $[-1,0]$.

Ce qui répare l'énoncé. Si $f$ et $g$ sont croissantes et positives sur $I$, alors $fg$ est croissante : de $0⩽f(x)⩽f(y)$ et $0⩽g(x)⩽g(y)$ on tire, en multipliant deux inégalités entre nombres positifs, $$f(x)g(x)⩽f(y)g(y).$$ C'est la positivité, et elle seule, qui autorise cette multiplication.

Contrôle. Sur ${\mathbb{R}}_{+}$, où $\mathrm{id}$ est positive, $x\mapsto x^2$ est bien croissante : $1<2$ et $1<4$ ✓. Le contre-exemple ne pouvait donc naître que du changement de signe.

Ce que l'exercice installe. La composition transporte la monotonie comme une règle des signes ($+\circ -=-$), et c'est un automatisme sûr. Le produit, lui, n'en transporte rien sans hypothèse de signe : devant un produit, on repasse toujours par la dérivée ou par un contre-exemple.