Un composé qui n’est jamais bijectif

$g\circ f$ n'est pas injective. Le théorème du rang appliqué à $f$ donne $$\dim \ker (f)=3-\mathrm{rg}(f)⩾3-\dim {\mathbb{R}}^2=1,$$ puisque le rang de $f$, dimension d'un sous-espace de ${\mathbb{R}}^2$, vaut au plus $2$. Il existe donc $u\ne 0$ dans $\ker (f)$. Alors $$(g\circ f)(u)=g(f(u))=g(0)=0,$$ la dernière égalité parce qu'une application linéaire envoie $0$ sur $0$. Le noyau de $g\circ f$ contient un vecteur non nul : $g\circ f$ n'est pas injective, donc pas un automorphisme de ${\mathbb{R}}^3$.

$f\circ g$, en revanche, peut l'être. Prenons $f(x,y,z)=(x,y)$ et $g(x,y)=(x,y,0)$, toutes deux linéaires. Alors $(f\circ g)(x,y)=f(x,y,0)=(x,y)$ : c'est l'identité de ${\mathbb{R}}^2$, qui est bien un automorphisme.

Le point à retenir. Un composé passe par l'espace intermédiaire, et ne peut pas transporter plus de directions que celui-ci n'en contient : $\mathrm{rg}(g\circ f)⩽\mathrm{rg}(f)⩽2$. Ce goulot-là, une fois franchi, ne se rouvre jamais — d'où l'asymétrie entre les deux ordres.