Le carré diagonalisable suffit, à condition que l'endomorphisme soit inversible

Stratégie. On n'a besoin d'aucune machinerie : on découpe $E$ en sous-espaces propres de $u^2$, on observe que $u$ les stabilise, et l'on montre que sur chacun d'eux, $u$ n'a que deux valeurs propres possibles, $\alpha$ et $-\alpha$, avec une décomposition explicite. C'est l'inversibilité de $u$ qui rend $\alpha$ non nul et autorise la division par $2\alpha$ — sans elle, tout s'effondre, et le contre-exemple le montre.

Le cadre. $E$ est un $\mathbb{C}$-espace vectoriel de dimension finie, $u\in \mathcal{L}(E)$ est inversible et $u^2$ est diagonalisable. Notons ${\mu }_1,\dots ,{\mu }_r$ les valeurs propres deux à deux distinctes de $u^2$ et $F_j=\ker (u^2-{\mu }_j\mathrm{id})$, de sorte que $$E=F_1\oplus \cdots \oplus F_r.$$ Chaque ${\mu }_j$ est non nul : si $u^2(x)=0$ avec $x\ne 0$, alors $u$ ne serait pas injective, contredisant son inversibilité.

1. Chaque $F_j$ est stable par $u$. Soit $x\in F_j$. Comme $u$ commute avec $u^2$, $$u^2(u(x))=u(u^2(x))=u({\mu }_{j}x)={\mu }_{j}u(x),$$ donc $u(x)\in F_j$. Notons $u_j$ l'endomorphisme induit par $u$ sur $F_j$ ; il vérifie $u_j^2={\mu }_j{\mathrm{id}}_{F_j}$.

2. $u_j$ est diagonalisable. Choisissons $\alpha \in {\mathbb{C}}^{\ast }$ tel que ${\alpha }^2={\mu }_j$ (tout complexe non nul admet une racine carrée). Pour $x\in F_j$, posons $$a=\frac{1}{2\alpha }(u_j(x)+\alpha x),b=\frac{1}{2\alpha }(\alpha x-u_j(x)),$$ ce qui est licite puisque $\alpha \ne 0$, et donne $a+b=x$. Ces deux vecteurs sont propres : $$u_j(a)=\frac{1}{2\alpha }({\alpha }^{2}x+\alpha u_j(x))=\frac{1}{2}(\alpha x+u_j(x))=\alpha a,$$ $$u_j(b)=\frac{1}{2\alpha }(\alpha u_j(x)-{\alpha }^{2}x)=\frac{1}{2}(u_j(x)-\alpha x)=-\alpha b.$$ Donc $F_j=\ker (u_j-\alpha \mathrm{id})+\ker (u_j+\alpha \mathrm{id})$ : $F_j$ est somme de sous-espaces propres de $u_j$, qui est donc diagonalisable.

3. Conclusion. En concaténant une base de vecteurs propres de $u_j$ dans chaque $F_j$, on obtient une base de $E$ formée de vecteurs propres de $u$ : $u$ est diagonalisable, ses valeurs propres étant les deux racines carrées de chaque ${\mu }_j$.

Le point délicat, et le contre-exemple. L'inversibilité sert exactement deux fois : elle donne ${\mu }_j\ne 0$, donc $\alpha \ne 0$, donc le droit de diviser. Si on la retire, prenons $$N=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right):N^2=0\text{ est diagonalisable (c’est la matrice nulle)},$$ alors que $N$ ne l'est pas — son unique valeur propre est $0$, et une matrice diagonalisable de spectre $\{0\}$ serait semblable à la matrice nulle, donc nulle. L'hypothèse « $u$ inversible » n'est donc pas un confort de rédaction : elle est indispensable.

Le point à retenir. Un sous-espace propre de $u^2$ est stable par $u$, et sur ce sous-espace $u$ vérifie $u_j^2={\mu }_j\mathrm{id}$ : la moitié somme, la moitié différence, et l'on a séparé les deux racines carrées. Le mécanisme — décomposer selon $u^2$, puis raffiner chaque morceau — est celui qu'on emploie chaque fois qu'une puissance d'un endomorphisme est plus simple que l'endomorphisme lui-même.