Nilpotence lue sur les traces

La stratégie, et les outils. Le sens direct est une lecture sur une matrice triangulaire. La réciproque est le vrai exercice : les $\mathrm{tr}\left(u^k\right)$ sont les sommes de puissances des valeurs propres, et l'annulation de $n$ d'entre elles force ces valeurs propres à disparaître — c'est un système de Vandermonde en les inconnues $m_i{\lambda }_i$. Outils : la caractérisation « nilpotent $⟺$ trigonalisable de seule valeur propre $0$ $⟺$ ${\chi }_u=X^n$ », et l'inversibilité d'une Vandermonde à nœuds distincts.

a) Le sens direct. Si $u$ est nilpotent, le cours dit qu'il est trigonalisable avec pour seule valeur propre $0$ : il existe une base où sa matrice $T$ est triangulaire supérieure à diagonale nulle. Alors $T^k$ est triangulaire supérieure de diagonale $\left(0^k,\dots ,0^k\right)=(0,\dots ,0)$, donc $$\mathrm{tr}\left(u^k\right)=\mathrm{tr}\left(T^k\right)=0\text{pour tout }k\ge 1.$$

b) La réciproque. Sur $\mathbb{C}$, $u$ est trigonalisable ; soient ${\lambda }_1,\dots ,{\lambda }_r$ ses valeurs propres non nulles distinctes, de multiplicités $m_1,\dots ,m_r\ge 1$ dans ${\chi }_u$. En trigonalisant, la diagonale porte chaque ${\lambda }_i$ exactement $m_i$ fois, plus éventuellement des zéros, donc pour tout $k\ge 1$ $$\mathrm{tr}\left(u^k\right)=\sum _{i=1}^r{m}_i{\lambda }_i^k$$ (les zéros de la diagonale ne contribuent pas, puisque $0^k=0$ pour $k\ge 1$).

Supposons par l'absurde $r\ge 1$. L'hypothèse, écrite pour $k=1,2,\dots ,r$ — et $r\le n$, donc ces indices sont bien couverts —, donne $$\sum _{i=1}^r\left(m_i{\lambda }_i\right){\lambda }_i^{k-1}=0\text{pour }k=1,\dots ,r.$$ C'est un système linéaire homogène de $r$ équations aux $r$ inconnues $x_i=m_i{\lambda }_i$, de matrice ${\left({\lambda }_i^{k-1}\right)}_{1\le k\le r,1\le i\le r}$ : c'est une matrice de Vandermonde en les nœuds ${\lambda }_1,\dots ,{\lambda }_r$, deux à deux distincts. Son déterminant, ${\prod }_{i<j}\left({\lambda }_j-{\lambda }_i\right)$, est non nul : le système n'a que la solution nulle, $$m_i{\lambda }_i=0\text{pour tout }i.$$ Or ${\lambda }_i\ne 0$ par construction, et $m_i$ est un entier $\ge 1$, donc non nul comme scalaire de $\mathbb{C}$ : contradiction.

Le point délicat. C'est bien parce que $m_i$, entier strictement positif, est non nul dans le corps qu'on conclut — ce qui vaut sur $\mathbb{C}$, et que le programme garantit en imposant à $\mathbb{K}$ d'être un sous-corps de $\mathbb{C}$.

Donc $r=0$ : la seule valeur propre de $u$ est $0$, et ${\chi }_u=X^n$. Le cours conclut : $u$ est nilpotent.

c) L'équivalence. Pour $u\in \mathcal{L}(E)$, $E$ de dimension $n$ sur $\mathbb{C}$ : $$u\text{ est nilpotent}⟺\mathrm{tr}\left(u^k\right)=0\text{ pour tout }k\in \{1,2,\dots ,n\}.$$ (Le résultat vaut aussi pour une matrice réelle : les traces des puissances sont les mêmes vues dans ${\mathcal{M}}_n(\mathbb{R})$ ou dans ${\mathcal{M}}_n(\mathbb{C})$, et une matrice réelle nilpotente dans ${\mathcal{M}}_n(\mathbb{C})$ l'est dans ${\mathcal{M}}_n(\mathbb{R})$ — c'est la même égalité $A^n=0$.)

d) Les $n$ conditions sont nécessaires. Prenons $n=3$ et $u=\mathrm{diag}\left(1,\mathrm{j},{\mathrm{j}}^2\right)$ avec $\mathrm{j}=e^{2i\pi /3}$, racine cubique primitive de l'unité. Alors $$\mathrm{tr}(u)=1+\mathrm{j}+{\mathrm{j}}^2=0,\mathrm{tr}\left(u^2\right)=1+{\mathrm{j}}^2+{\mathrm{j}}^4=1+{\mathrm{j}}^2+\mathrm{j}=0,$$ puisque ${\mathrm{j}}^3=1$ et $1+\mathrm{j}+{\mathrm{j}}^2=0$. Les conditions pour $k=1$ et $k=2$ sont donc satisfaites. Mais $$\mathrm{tr}\left(u^3\right)=1+1+1=3\ne 0,$$ et de fait $u$ est inversible (de déterminant ${\mathrm{j}}^3=1$), donc très loin d'être nilpotent. S'arrêter à $k=n-1$ ne suffit pas.

e) Deux contrôles en dimension $2$. Ici les conditions sont $\mathrm{tr}(A)=0$ et $\mathrm{tr}\left(A^2\right)=0$.

• $A=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ : $\mathrm{tr}A=0$ et $A^2=0$ donc $\mathrm{tr}\left(A^2\right)=0$. L'équivalence prédit la nilpotence — c'est le cas ✓.
• $A=\left(\begin{array}{cc}1& 1\\ 0& -1\end{array}\right)$ : $\mathrm{tr}A=0$, mais $A^2=\left(\begin{array}{cc}1& 1-1\\ 0& 1\end{array}\right)=I_2$, donc $\mathrm{tr}\left(A^2\right)=2\ne 0$. L'équivalence prédit la non-nilpotence — en effet $A^2=I_2$, donc $A$ est une symétrie, de spectre $\{1,-1\}$ ✓. La trace seule ne décide de rien.

Ce que l'exercice installe. Les $\mathrm{tr}\left(u^k\right)$, pour $k=1,\dots ,n$, sont les sommes de Newton des valeurs propres : elles déterminent les fonctions symétriques élémentaires, donc le polynôme caractéristique, donc toute l'information spectrale. Retenez le mécanisme — un système de Vandermonde transforme l'annulation de $n$ sommes de puissances en l'absence de valeurs propres non nulles —, outil standard pour passer d'une information « de traces » à une information « de spectre ».