$\mathrm{Ker}u=\mathrm{Ker}{u}^2⟺\mathrm{Im}u=\mathrm{Im}{u}^2⟺E=\mathrm{Ker}u\oplus \mathrm{Im}u$

La stratégie. Deux inclusions sont toujours vraies ; en dimension finie, le théorème du rang lie leurs dimensions, et une inclusion plus une égalité de dimensions font une égalité. Le noyau et l'image se complètent exactement quand $u$ ne « perd plus rien » au second coup.

1) Les inclusions. Si $u(x)=0$, alors $u^2(x)=u(0)=0$ : $\mathrm{Ker}u\subset \mathrm{Ker}{u}^2$. Si $y=u^2(x)=u(u(x))$, alors $y\in \mathrm{Im}u$ : $\mathrm{Im}{u}^2\subset \mathrm{Im}u$.

2) L'équivalence par les dimensions. Le théorème du rang pour $u$ et pour $u^2$, sur le même espace $E$ : $$\dim \mathrm{Ker}u+\mathrm{rg}u=n=\dim \mathrm{Ker}{u}^2+\mathrm{rg}{u}^2.$$ Donc $\dim \mathrm{Ker}u=\dim \mathrm{Ker}{u}^2$ si et seulement si $\mathrm{rg}u=\mathrm{rg}{u}^2$. Or, grâce aux inclusions du 1) : $\mathrm{Ker}u=\mathrm{Ker}{u}^2$ équivaut à l'égalité des dimensions (un sous-espace inclus dans un autre, de même dimension finie, lui est égal), et de même $\mathrm{Im}{u}^2=\mathrm{Im}u$ équivaut à $\mathrm{rg}{u}^2=\mathrm{rg}u$. D'où l'équivalence.

3) L'intersection, puis la somme directe. Montrons $\mathrm{Ker}u=\mathrm{Ker}{u}^2⟺\mathrm{Ker}u\cap \mathrm{Im}u=\{0\}$, sans dimension.

Sens direct. Soit $y\in \mathrm{Ker}u\cap \mathrm{Im}u$ : $y=u(x)$ et $u(y)=0$, donc $u^2(x)=0$, donc $x\in \mathrm{Ker}{u}^2=\mathrm{Ker}u$, donc $y=u(x)=0$.

Sens réciproque. Soit $x\in \mathrm{Ker}{u}^2$. Le vecteur $u(x)$ est dans $\mathrm{Im}u$, et $u(u(x))=0$ le met dans $\mathrm{Ker}u$ ; donc $u(x)\in \mathrm{Ker}u\cap \mathrm{Im}u=\{0\}$, et $x\in \mathrm{Ker}u$. Ainsi $\mathrm{Ker}{u}^2\subset \mathrm{Ker}u$, égalité avec le 1).

La somme directe. Si $\mathrm{Ker}u\cap \mathrm{Im}u=\{0\}$, la somme est directe, et sa dimension est $\dim \mathrm{Ker}u+\mathrm{rg}u=n$ par le théorème du rang : c'est $E$ tout entier (un sous-espace de dimension $n$ de $E$). Réciproquement, $E=\mathrm{Ker}u\oplus \mathrm{Im}u$ impose l'intersection nulle. Les quatre conditions sont équivalentes.

Le point délicat. L'équivalence « noyau stable $⟺$ intersection nulle » ne demande pas la dimension finie ; c'est le passage à la somme directe égale à $E$, et l'équivalence avec l'image du 2), qui l'exigent. On le verra au 5).

4) Trois cas. $u^3=u$. Soit $y\in \mathrm{Ker}u\cap \mathrm{Im}u$, $y=u(x)$, $u(y)=0$. Alors $u(x)=u^3(x)=u^2(u(x))=u^2(y)=u(u(y))=u(0)=0$, donc $y=u(x)=0$. L'intersection est nulle : $E=\mathrm{Ker}u\oplus \mathrm{Im}u$ par le 3).

Projecteur. $p^2=p$ entraîne $p^3=p$ : la décomposition $E=\mathrm{Ker}p\oplus \mathrm{Im}p$ du cours est un cas particulier.

$u\ne 0$, $u^2=0$. Alors $\mathrm{Im}u\subset \mathrm{Ker}u$ (exercice 5), donc $\mathrm{Ker}u\cap \mathrm{Im}u=\mathrm{Im}u\ne \{0\}$ : la décomposition échoue, et l'on a $\mathrm{Ker}u⊊\mathrm{Ker}{u}^2=E$. Le noyau grandit au second coup : $u$ perd encore quelque chose.

5) La dérivation. $\mathrm{Ker}D$ est l'ensemble des polynômes constants, ${\mathbb{K}}_0[X]$ ; $\mathrm{Ker}{D}^2={\mathbb{K}}_1[X]$ : ils sont différents. Mais $\mathrm{Im}D=\mathbb{K}[X]$ (tout polynôme a une primitive polynomiale) et $\mathrm{Im}{D}^2=\mathbb{K}[X]$ de même : ils sont égaux. L'implication « $\mathrm{Im}u=\mathrm{Im}{u}^2\Rightarrow \mathrm{Ker}u=\mathrm{Ker}{u}^2$ » tombe. L'autre aussi : pour $u:P\mapsto XP$, $\mathrm{Ker}u=\mathrm{Ker}{u}^2=\{0\}$ mais $\mathrm{Im}{u}^2=X^2\mathbb{K}[X]⊊X\mathbb{K}[X]=\mathrm{Im}u$. En dimension infinie, le théorème du rang n'existe pas, et rien ne relie plus le noyau à l'image.

Ce que l'exercice installe. En dimension finie, une inclusion plus une égalité de dimensions font une égalité — le geste le plus fréquent du chapitre. Et les trois conditions équivalentes, noyau stable, image stable, somme directe, sont exactement le cas $p=1$ du problème final : quand elles échouent, on regardera $u^2$, $u^3$, jusqu'à ce qu'elles réussissent.