Trigonaliser pour lire : $P(A)$, les traces, la nilpotence

Ce qu'on a le droit d'utiliser. Le théorème « toute matrice de ${\mathcal{M}}_n(\mathbb{C})$ est trigonalisable », l'invariance du polynôme caractéristique par similitude, le théorème de Cayley-Hamilton, le fait qu'un polynôme annulateur contraint le spectre, le déterminant de Vandermonde, et le calcul des matrices triangulaires (première année) : un produit de matrices triangulaires supérieures est triangulaire supérieur, et sa diagonale est le produit des diagonales.

a) Le spectre de $P(A)$. Trigonalisons : $A=QT{Q}^{-1}$, avec $Q$ inversible et $T$ triangulaire supérieure. Le polynôme caractéristique de $T$ est ${\prod }_i(X-t_{ii})$ ; c'est aussi celui de $A$, par invariance par similitude : les coefficients diagonaux de $T$ sont donc les ${\lambda }_i$, avec leurs multiplicités. Pour tout $k$, $A^k=Q{T}^k{Q}^{-1}$, et par combinaison linéaire $P(A)=QP(T)Q^{-1}$. Or $T^k$ est triangulaire supérieure, de diagonale $\left({\lambda }_1^k,\dots ,{\lambda }_n^k\right)$ ; donc $P(T)$ est triangulaire supérieure, de diagonale $(P({\lambda }_1),\dots ,P({\lambda }_n))$. Par invariance par similitude, $${\chi }_{P(A)}={\chi }_{P(T)}=\prod _{i=1}^n(X-P({\lambda }_i)).$$ La trace et le déterminant de $P(A)$ sont ceux de $P(T)$, c'est-à-dire la somme et le produit de ses coefficients diagonaux : $\mathrm{tr}P(A)={\sum }_{i}P({\lambda }_i)$ et $\det P(A)={\prod }_{i}P({\lambda }_i)$.

b) Nilpotence et spectre. Si $A^k=0$, le polynôme $X^k$ annule $A$, et toute valeur propre en est racine : $\mathrm{Sp}(A)\subset \{0\}$. Sur $\mathbb{C}$, ${\chi }_A$ a au moins une racine, donc $\mathrm{Sp}(A)=\{0\}$. Réciproquement, si $\mathrm{Sp}(A)=\{0\}$, le polynôme ${\chi }_A$, unitaire de degré $n$ et scindé sur $\mathbb{C}$, n'a que la racine $0$ : ${\chi }_A=X^n$. Le théorème de Cayley-Hamilton donne alors $A^n={\chi }_A(A)=0$. En particulier, une matrice nilpotente vérifie toujours $A^n=0$ : l'exposant $n$ suffit.

c) Nilpotence et traces.

Sens direct. Si $A$ est nilpotente, tous les ${\lambda }_i$ sont nuls d'après le b), et le a) appliqué à $P=X^k$ donne $\mathrm{tr}(A^k)={\sum }_i{\lambda }_i^k=0$ pour tout $k\ge 1$.

Réciproque. Supposons $\mathrm{tr}(A^k)=0$ pour $1\le k\le n$, c'est-à-dire, d'après le a), ${\sum }_{i=1}^n{\lambda }_i^k=0$. Raisonnons par l'absurde : supposons que $A$ ait au moins une valeur propre non nulle. Notons ${\mu }_1,\dots ,{\mu }_r$ les valeurs propres non nulles distinctes, avec $1\le r\le n$, et $m_1,\dots ,m_r\ge 1$ leurs multiplicités. Les valeurs propres nulles ne contribuent pas aux sommes de puissances d'exposant $k\ge 1$, donc $$\sum _{j=1}^r{m}_j{\mu }_j^k=0(1\le k\le r).$$ C'est un système linéaire homogène de $r$ équations aux $r$ inconnues $m_1,\dots ,m_r$, de matrice ${\left({\mu }_j^k\right)}_{1\le k,j\le r}$. En mettant ${\mu }_j$ en facteur dans la colonne $j$, son déterminant vaut ${\mu }_1{\mu }_2\cdots {\mu }_r$ multiplié par le déterminant de la matrice $\left({\mu }_j^{k-1}\right)$, qui est la transposée de la matrice de Vandermonde des ${\mu }_j$. Les ${\mu }_j$ étant non nuls et deux à deux distincts, ce déterminant est non nul : le système n'a que la solution nulle, et $m_1=\cdots =m_r=0$. C'est absurde, puisque chaque multiplicité vaut au moins $1$. Donc $\mathrm{Sp}(A)=\{0\}$, et $A$ est nilpotente d'après le b).

Le point délicat. Les inconnues du système sont les multiplicités, et c'est la non-nullité des ${\mu }_j$ qui permet la factorisation par colonnes : sans elle, on ne retrouverait pas un déterminant de Vandermonde. Il faut aussi avoir regroupé les valeurs propres égales, sans quoi les colonnes du système ne seraient pas distinctes.

d) La borne $n$ est optimale. La matrice $J$ permute circulairement les vecteurs de base : $J^3=I_3$. Ses coefficients diagonaux sont nuls, donc $\mathrm{tr}J=0$ ; la matrice $J^2=\left(\begin{array}{ccc}0& 0& 1\\ 1& 0& 0\\ 0& 1& 0\end{array}\right)$ a aussi une diagonale nulle, donc $\mathrm{tr}{J}^2=0$ ; enfin $\mathrm{tr}{J}^3=\mathrm{tr}{I}_3=3$. Les conditions pour $k=1$ et $k=2$ sont remplies, et pourtant $J$ n'est pas nilpotente — elle est même inversible. On ne peut donc pas s'arrêter à $k=n-1$. Les valeurs propres de $J$ sont $1$, $j$ et $j^2$, dont les sommes de puissances premières et secondes sont nulles.

e) Contrôle. La matrice $A$ est triangulaire, de valeurs propres $2$, $2$, $5$. Or $P(2)=4-6+1=-1$ et $P(5)=25-15+1=11$ : le a) annonce ${\chi }_{P(A)}=(X+1{)}^2(X-11)$. Directement, $A^2=\left(\begin{array}{ccc}4& 4& 0\\ 0& 4& 0\\ 0& 0& 25\end{array}\right)$ et $$P(A)=A^2-3A+I_3=\left(\begin{array}{ccc}-1& 1& 0\\ 0& -1& 0\\ 0& 0& 11\end{array}\right),$$ triangulaire, de polynôme caractéristique $(X+1{)}^2(X-11)$. Les deux calculs concordent ; au passage, $\mathrm{tr}P(A)=9$ et $\det P(A)=11$.

Ce que l'exercice installe. On trigonalise pour lire, jamais pour calculer : la forme triangulaire donne le spectre de $P(A)$, la trace et le déterminant de toute fonction polynomiale de $A$, et les traces des puissances comme sommes de puissances des valeurs propres. Le déterminant de Vandermonde revient alors pour retrouver les valeurs propres à partir de ces sommes. C'est aussi un test pratique : pour savoir si une matrice est nilpotente, $n$ traces suffisent.