Triangulaires : la nilpotence par décalage, et l'inverse en somme géométrique

Ce qu'on a le droit d'utiliser. La définition du produit ; $I_n-N^n=(I_n-N)(I_n+N+\cdots +N^{n-1})$, car $I_n$ et $N$ commutent ; le produit de deux triangulaires supérieures, triangulaire supérieur de diagonale le produit des diagonales ; les règles d'inversion, dont celle de la transposée. La stratégie : une triangulaire stricte décale sa bande non nulle d'un cran vers le coin supérieur droit à chaque produit, jusqu'à la faire sortir du tableau.

a) Le décalage. Pour $k=1$, c'est l'hypothèse. Supposons $(N^k{)}_{i,l}=0$ dès que $l-i<k$. Dans $(N^{k+1}{)}_{i,j}={\sum }_l(N^k{)}_{i,l}{N}_{l,j}$, un terme non nul exige $l-i\ge k$ et $j-l\ge 1$, donc $j-i\ge k+1$ : si $j-i<k+1$, tous les termes sont nuls, et la propriété passe au rang $k+1$. Pour $k=n$, comme $j-i\le n-1$ toujours, $N^n=0$.

b) Une somme géométrique qui s'arrête. $(I_n-N)(I_n+N+\cdots +N^{n-1})=I_n-N^n=I_n$, les termes intermédiaires se détruisant, et de même dans l'autre ordre : $I_n-N$ est inversible, d'inverse $I_n+N+\cdots +N^{n-1}$ — la formule $\frac{1}{1-x}=1+x+x^2+\cdots$, sans convergence à discuter puisque la somme s'arrête. L'exemple est $I_3-N$ avec $N=\left(\begin{array}{ccc}0& -2& -3\\ 0& 0& -2\\ 0& 0& 0\end{array}\right)$ ; $N^2$ n'a qu'un coefficient non nul, $(-2)\times (-2)=4$ en position $(1,3)$, et $N^3=0$. L'inverse vaut $$I_3+N+N^2=\left(\begin{array}{ccc}1& -2& -3+4\\ 0& 1& -2\\ 0& 0& 1\end{array}\right)=\left(\begin{array}{ccc}1& -2& 1\\ 0& 1& -2\\ 0& 0& 1\end{array}\right).$$ Contrôle : la ligne $(1,2,3)$ contre les colonnes de l'inverse donne $1$, puis $-2+2=0$, puis $1-4+3=0$.

c) Toute triangulaire à diagonale sans zéro. $D$ est inversible, d'inverse la diagonale des $\frac{1}{t_{i,i}}$, et $T=D(I_n+D^{-1}N)$. Multiplier $N$ à gauche par $D^{-1}$ multiplie sa ligne $i$ par $\frac{1}{t_{i,i}}$ et ne crée aucun coefficient non nul : $D^{-1}N$ est triangulaire supérieure stricte. Par le b) appliqué à $-D^{-1}N$, $I_n+D^{-1}N$ est inversible, d'inverse une somme de $I_n$ et de produits de triangulaires supérieures strictes : triangulaire supérieure à diagonale de $1$. Donc $T$ est inversible, et $T^{-1}=(I_n+D^{-1}N{)}^{-1}{D}^{-1}$ est triangulaire supérieure, de diagonale $(\frac{1}{t_{1,1}},\dots ,\frac{1}{t_{n,n}})$ : le théorème du cours, redémontré. Si un coefficient diagonal est nul, soit $i$ le plus petit indice tel que $t_{i,i}=0$ ; posons $x_j=0$ pour $j>i$ et $x_i=1$, puis choisissons successivement $x_{i-1},\dots ,x_1$ pour satisfaire chaque ligne $k<i$, $t_{k,k}{x}_k=-{\sum }_{j>k}{t}_{k,j}{x}_j$, ce que permet $t_{k,k}\ne 0$. Les lignes $k>i$ ne portent que des $x_j$ nuls, et la ligne $i$ vaut $0\times 1+0$. Donc $TX=0$ avec $X\ne 0$ : $T$ n'est pas inversible, sinon $X=T^{-1}TX=0$.

d) Stabilité. Un produit de triangulaires supérieures inversibles est triangulaire supérieur et inversible, et l'inverse de l'une est triangulaire supérieure par le c) : l'ensemble est stable par produit et par passage à l'inverse. Par transposition, si $L$ est triangulaire inférieure à diagonale de $1$, $L^{\top }$ est triangulaire supérieure à diagonale de $1$, inversible d'inverse de même forme par le c), et $L^{-1}=((L^{\top }{)}^{-1}{)}^{\top }$ ; le produit de deux telles matrices en est une aussi. Les triangulaires inférieures à diagonale de $1$ sont inversibles, et leur ensemble est stable par produit et par passage à l'inverse : ce dont le problème aura besoin.

Le point délicat. « L'inverse d'une triangulaire supérieure est triangulaire supérieure » n'a rien d'évident : c'est la somme géométrique tronquée qui le montre, parce qu'elle n'emploie que des sommes et des produits de triangulaires.

Ce que l'exercice installe. Les triangulaires strictes sont la source des nilpotents du cours, et une somme géométrique qui s'arrête fait d'une identité d'analyse une identité d'algèbre. Un système triangulaire se résout en cascade, de la dernière inconnue à la première : c'est la remontée du problème qui suit.