Partie diagonalisable et partie nilpotente qui commutent

Stratégie. Tout se joue bloc par bloc. Une fois écrite la décomposition $E={⨁}_i{N}_i$ sur laquelle l'énoncé se place, $d$ n'est rien d'autre que « la multiplication par ${\lambda }_i$ sur $N_i$ » : sa diagonalisabilité est immédiate, puisqu'une base obtenue en concaténant des bases des $N_i$ est entièrement faite de vecteurs propres de $d$. La nilpotence de $\nu$ se lit alors sur la définition même de $N_i$, et la commutation vient de ce que $u$ stabilise chaque $N_i$.

Le cadre. ${\chi }_u$ est scindé : ${\chi }_u={\prod }_{i=1}^r(X-{\lambda }_i{)}^{m_i}$, les ${\lambda }_i$ étant deux à deux distincts. On note $$N_i=\ker (u-{\lambda }_i\mathrm{id}{)}^{m_i},$$ et l'on se place, comme l'énoncé le demande, après le théorème du chapitre qui affirme $$E=N_1\oplus N_2\oplus \cdots \oplus N_r,$$ chaque $N_i$ étant stable par $u$. Notons $p_i$ le projecteur sur $N_i$ parallèlement à la somme des autres, de sorte que ${\mathrm{id}}_E=p_1+\cdots +p_r$ et que tout $x$ s'écrit de manière unique $x={\sum }_i{p}_i(x)$ avec $p_i(x)\in N_i$. L'endomorphisme $d$ de l'énoncé est $$d=\sum _{i=1}^r{\lambda }_i{p}_i,\text{c’est-aˋ-dire}d(x)={\lambda }_{i}x\text{ pour }x\in N_i,$$ et $\nu =u-d$.

1. $d$ est bien défini et linéaire. C'est une combinaison linéaire des projecteurs $p_i$, qui sont des endomorphismes : $d\in \mathcal{L}(E)$. Et pour $x\in N_i$ on a $p_i(x)=x$ et $p_j(x)=0$ si $j\ne i$, d'où $d(x)={\lambda }_{i}x$ : les deux écritures coïncident.

2. $d$ est diagonalisable. Chaque vecteur non nul de $N_i$ est vecteur propre de $d$ pour ${\lambda }_i$, donc $N_i\subset \ker (d-{\lambda }_i\mathrm{id})$. Comme $E={⨁}_i{N}_i$, l'espace $E$ est somme de sous-espaces propres de $d$ : $d$ est diagonalisable. Concrètement, en concaténant une base de chaque $N_i$ on obtient une base $\mathcal{B}$ de $E$ formée de vecteurs propres de $d$, dans laquelle $${\mathrm{Mat}}_{\mathcal{B}}(d)=\mathrm{diag}({\lambda }_1{I}_{d_1},{\lambda }_2{I}_{d_2},\dots ,{\lambda }_r{I}_{d_r}),d_i=\dim N_i.$$

3. $d$ et $u$ commutent — donc $d$ et $\nu$ aussi. Soit $x\in N_i$. Comme $N_i$ est stable par $u$, on a $u(x)\in N_i$, donc $$d(u(x))={\lambda }_{i}u(x)\text{et}u(d(x))=u({\lambda }_{i}x)={\lambda }_{i}u(x).$$ Les deux endomorphismes $du$ et $ud$ coïncident donc sur chaque $N_i$ ; comme $E={⨁}_i{N}_i$ et qu'ils sont linéaires, ils coïncident sur $E$ : $du=ud$. On en déduit $$d\nu =d(u-d)=du-d^2=ud-d^2=(u-d)d=\nu d.$$

4. $\nu$ est nilpotent. $N_i$ est stable par $u$ et par $d$ (qui y agit comme ${\lambda }_i\mathrm{id}$), donc par $\nu =u-d$. De plus, pour $x\in N_i$, $$\nu (x)=u(x)-{\lambda }_{i}x=(u-{\lambda }_i\mathrm{id})(x),$$ c'est-à-dire que $\nu$ induit sur $N_i$ l'endomorphisme $(u-{\lambda }_i\mathrm{id}{)}_{|N_i}$. Par définition de $N_i=\ker (u-{\lambda }_i\mathrm{id}{)}^{m_i}$, on a donc ${\nu }^{m_i}(x)=(u-{\lambda }_i\mathrm{id}{)}^{m_i}(x)=0$ pour tout $x\in N_i$.

Posons $m={\max }_i{m}_i$. Pour $x\in E$ quelconque, écrivons $x={\sum }_i{x}_i$ avec $x_i\in N_i$ ; alors ${\nu }^m(x)={\sum }_i{\nu }^m(x_i)=0$, puisque ${\nu }^m={\nu }^{m-m_i}\circ {\nu }^{m_i}$ annule $x_i$. Ainsi $${\nu }^m=0:\nu \text{ est nilpotent}(\text{et }m\le \underset{i}{\max }{m}_i\le n=\dim E).$$

5. Lecture matricielle. Dans la base $\mathcal{B}$ du point 2, la matrice de $u$ est diagonale par blocs, le $i$-ième bloc étant ${\lambda }_i{I}_{d_i}+\left(\text{bloc nilpotent}\right)$ ; celle de $d$ ne garde que les ${\lambda }_i{I}_{d_i}$, celle de $\nu$ que les blocs nilpotents. On a donc écrit $u$ comme $$u=d+\nu ,d\text{ diagonalisable},\nu \text{ nilpotent},d\nu =\nu d,$$ ce qui est précisément la forme sous laquelle on calcule les puissances : $d$ et $\nu$ commutant, la formule du binôme s'applique et $$u^k=\sum _{j=0}^{m-1}\left(\genfrac{}{}{0ex}{}{k}{j}\right){\nu }^j{d}^{k-j},$$ somme finie (les termes $j\ge m$ sont nuls) et calculable, alors que $u$ n'était pas diagonalisable.

Contrôle chiffré. Prenons $A=\left(\begin{array}{ccc}2& 1& 0\\ 0& 2& 0\\ 0& 0& 5\end{array}\right)$, de polynôme caractéristique $(X-2{)}^2(X-5)$, scindé. Ici $N_2=\ker (A-2I{)}^2=\mathrm{Vect}(e_1,e_2)$ et $N_5=\mathrm{Vect}(e_3)$, d'où $$D=\mathrm{diag}(2,2,5),\mathcal{N}=A-D=\left(\begin{array}{ccc}0& 1& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right).$$ On vérifie : $D$ est diagonale $✓$ ; ${\mathcal{N}}^2=0$, donc $\mathcal{N}$ est nilpotente $✓$ ; et $D\mathcal{N}=2\mathcal{N}=\mathcal{N}D$, donc les deux commutent $✓$. On en tire par exemple, sans aucun calcul de puissance : $$A^{100}=D^{100}+100D^{99}\mathcal{N}=\left(\begin{array}{ccc}{2}^{100}& 100\cdot 2^{99}& 0\\ 0& 2^{100}& 0\\ 0& 0& 5^{100}\end{array}\right).$$

Point délicat. La commutation $d\nu =\nu d$ n'est pas gratuite : elle repose entièrement sur le fait que chaque $N_i$ est stable par $u$. Si l'on définissait $d$ à partir d'une décomposition en somme directe quelconque, rien de tel ne subsisterait.