Toute droite stable : l'endomorphisme est une homothétie

Stratégie. L'hypothèse fournit, pour chaque vecteur non nul $x$, un scalaire $\lambda (x)$ tel que $u(x)=\lambda (x)x$ ; toute la difficulté est de montrer que ce scalaire ne dépend pas de $x$. On compare $\lambda (x)$, $\lambda (y)$ et $\lambda (x+y)$ dans les deux seules situations possibles : $(x,y)$ libre, où l'unicité des coordonnées dans une famille libre conclut, et $(x,y)$ liée, où le calcul est direct.

1. Traduction de l'hypothèse. Soit $x\in E$ avec $x\ne 0$. La droite $\mathrm{Vect}(x)$ est stable par $u$, donc $u(x)\in \mathrm{Vect}(x)$ : il existe $\lambda (x)\in \mathbb{K}$ tel que $$u(x)=\lambda (x)x.$$ Ce scalaire est unique : si $\lambda x=\mu x$ avec $x\ne 0$, alors $(\lambda -\mu )x=0$, donc $\lambda =\mu$. On dispose ainsi d'une application bien définie $\lambda :E\setminus \{0\}\to \mathbb{K}$, et il s'agit de prouver qu'elle est constante.

2. Deux vecteurs formant une famille libre. Soient $x,y$ non nuls avec $(x,y)$ libre. Alors $x+y\ne 0$, et l'on peut écrire de deux façons l'image de $x+y$ : $$u(x+y)=\lambda (x+y)x+\lambda (x+y)y\text{et}u(x+y)=u(x)+u(y)=\lambda (x)x+\lambda (y)y,$$ la première par définition de $\lambda (x+y)$, la seconde par linéarité de $u$. La famille $(x,y)$ étant libre, les coordonnées d'un vecteur dans cette famille sont uniques : on identifie terme à terme, $$\lambda (x)=\lambda (x+y)=\lambda (y).$$ C'est le cœur de l'exercice : la liberté de $(x,y)$ est exactement ce qui autorise l'identification.

3. Deux vecteurs formant une famille liée. Soient maintenant $x,y$ non nuls avec $(x,y)$ liée : il existe $\mu \in \mathbb{K}$, nécessairement non nul (car $y\ne 0$), tel que $y=\mu x$. Alors $$u(y)=u(\mu x)=\mu u(x)=\mu \lambda (x)x=\lambda (x)(\mu x)=\lambda (x)y,$$ et l'unicité du point 1 donne $\lambda (y)=\lambda (x)$.

4. Conclusion. Dans les deux cas, $\lambda (x)=\lambda (y)$ : l'application $\lambda$ est constante sur $E\setminus \{0\}$. Notons $\lambda$ sa valeur. Pour tout $x\ne 0$ on a $u(x)=\lambda x$, et pour $x=0$ on a $u(0)=0=\lambda \cdot 0$. Donc $$u=\lambda {\mathrm{id}}_E:u\text{ est une homotheˊtie.}$$ Remarque. La dimension finie n'a servi nulle part dans cette partie : l'argument vaut dans tout espace vectoriel.

5. Application : les endomorphismes qui commutent avec tous les projecteurs de rang $1$. Soit $v\in \mathcal{L}(E)$ commutant avec tout projecteur de rang $1$. Fixons $x\ne 0$. En dimension finie, la droite $D=\mathrm{Vect}(x)$ admet un supplémentaire $H$ (théorème de la base incomplète), et le projecteur $p$ sur $D$ parallèlement à $H$ est de rang $1$, avec $p(x)=x$. L'hypothèse $vp=pv$ donne alors $$v(x)=v(p(x))=p(v(x))\in \mathrm{Im}p=D=\mathrm{Vect}(x).$$ Ainsi toute droite de $E$ est stable par $v$, et le résultat des points 1 à 4 s'applique : $v$ est une homothétie.

Réciproquement, une homothétie $\lambda {\mathrm{id}}_E$ commute avec tout endomorphisme, donc en particulier avec tous les projecteurs de rang $1$. L'ensemble cherché est donc exactement $$\{\lambda {\mathrm{id}}_E:\lambda \in \mathbb{K}\}.$$

Contrôle en dimension $2$. Vérifions le résultat « à la main » sur $E={\mathbb{K}}^2$ muni de la base canonique $(e_1,e_2)$, pour $u$ de matrice $\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$ :

• $\mathrm{Vect}(e_1)$ stable $\Rightarrow$ $u(e_1)=(a,c)$ colinéaire à $(1,0)$, donc $c=0$ ;
• $\mathrm{Vect}(e_2)$ stable $\Rightarrow$ $u(e_2)=(b,d)$ colinéaire à $(0,1)$, donc $b=0$ ;
• $\mathrm{Vect}(e_1+e_2)$ stable $\Rightarrow$ $u(e_1+e_2)=(a,d)$ colinéaire à $(1,1)$, donc $a=d$.

Il reste $\left(\begin{array}{cc}a& 0\\ 0& a\end{array}\right)=a{I}_2$. Trois droites bien choisies suffisent ici ; la démonstration générale, elle, n'en privilégie aucune.

Ce qui est acquis. Une contrainte portant sur tous les sous-espaces d'une même dimension est une contrainte extrêmement rigide : elle ne laisse subsister que les homothéties. C'est le premier exemple d'un raisonnement que la réduction reprendra sans cesse — faire varier le vecteur, puis comparer les scalaires obtenus.