Toute matrice inversible s'écrit orthogonale fois triangulaire, d'une seule façon

Stratégie. L'existence n'est pas un résultat nouveau : c'est l'algorithme de Gram-Schmidt relu en matrices. Orthonormaliser les colonnes de $M$ produit une base orthonormale, donc une matrice $Q$ orthogonale, et les coefficients de l'algorithme se rangent d'eux-mêmes en une matrice triangulaire supérieure. L'unicité se ramène à un seul énoncé, qu'on démontre à part : une matrice orthogonale, triangulaire supérieure et à diagonale $>0$ est $I_n$.

1. Existence. Notons $C_1,\dots ,C_n$ les colonnes de $M$. Comme $M\in {\mathrm{GL}}_n(\mathbb{R})$, cette famille est une base de ${\mathbb{R}}^n$, muni du produit scalaire canonique. L'algorithme de Gram-Schmidt lui associe une base orthonormale $(u_1,\dots ,u_n)$ telle que $$\mathrm{Vect}(u_1,\dots ,u_k)=\mathrm{Vect}(C_1,\dots ,C_k)\text{et}⟨C_k,u_k⟩>0(1\le k\le n).$$ La première égalité dit exactement que $C_k$ se décompose sur $u_1,\dots ,u_k$ seulement : $$C_k=\sum _{i=1}^k{t}_{i,k}{u}_i,t_{i,k}=⟨C_k,u_i⟩,t_{k,k}=⟨C_k,u_k⟩>0.$$ Posons $Q$ la matrice de colonnes $u_1,\dots ,u_n$ et $T=(t_{i,k})$, complétée par des zéros sous la diagonale. Alors $Q\in {\mathrm{O}}_n(\mathbb{R})$ (ses colonnes forment une base orthonormale), $T$ est triangulaire supérieure à diagonale strictement positive, et l'égalité ci-dessus, lue colonne par colonne, est exactement $M=QT$.

2. Le lemme d'unicité. Soit $U\in {\mathrm{O}}_n(\mathbb{R})$, triangulaire supérieure, à coefficients diagonaux $>0$. Ses colonnes $V_1,\dots ,V_n$ sont unitaires et deux à deux orthogonales. Montrons $V_k=e_k$ par récurrence sur $k$. La première colonne est $(u_{1,1},0,\dots ,0)$, unitaire, donc $u_{1,1}=\pm 1$, et $u_{1,1}>0$ donne $V_1=e_1$. Supposons $V_1=e_1,\dots ,V_{k-1}=e_{k-1}$. La colonne $V_k$ n'a de coefficients non nuls qu'aux lignes $1,\dots ,k$ (triangularité) ; son orthogonalité à $V_1,\dots ,V_{k-1}$ annule ses $k-1$ premiers coefficients ; il reste $V_k=u_{k,k}{e}_k$, unitaire et de coefficient $>0$, donc $V_k=e_k$. Ainsi $U=I_n$.

3. Unicité de la décomposition. Si $Q_1{T}_1=Q_2{T}_2$ avec $Q_i\in {\mathrm{O}}_n(\mathbb{R})$ et $T_i$ triangulaire supérieure à diagonale $>0$, alors, $T_1$ étant inversible (diagonale non nulle), $$U:={}^t{Q}_2{Q}_1=T_2{T}_1^{-1}.$$ Le membre de gauche est orthogonal (produit de deux matrices orthogonales) ; le membre de droite est triangulaire supérieur, à diagonale $(t_{k,k}^{(2)}/t_{k,k}^{(1)})>0$, car l'inverse et le produit de triangulaires supérieures à diagonale $>0$ le sont encore. Le lemme donne $U=I_n$, donc $Q_1=Q_2$ et $T_1=T_2$.

Contrôle chiffré. Pour $M=\left(\begin{array}{ccc}1& 1& 0\\ 1& 0& 1\\ 0& 1& 1\end{array}\right)$, Gram-Schmidt donne successivement $$u_1=\frac{1}{\sqrt{2}}(1,1,0),u_2=\frac{1}{\sqrt{6}}(1,-1,2),u_3=\frac{1}{\sqrt{3}}(-1,1,1),$$ $$T=\left(\begin{array}{ccc}\sqrt{2}& \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\\ 0& \frac{\sqrt{6}}{2}& \frac{1}{\sqrt{6}}\\ 0& 0& \frac{2}{\sqrt{3}}\end{array}\right).$$ La première colonne de $Q$ est bien $\frac{1}{\sqrt{2}}(1,1,0)$ et $t_{1,1}=\sqrt{2}$. Recoupement : $\det T=\sqrt{2}\times \frac{\sqrt{6}}{2}\times \frac{2}{\sqrt{3}}=2$, tandis que $\det M=-2$ ; comme $\det Q=\pm 1$, on lit $\det Q=-1$, cohérent avec $|\det M|=\det T$.

Le point à retenir. $\det T=|\det M|$ toujours, puisque $\det T>0$ et $|\det Q|=1$ : la partie triangulaire porte la dilatation, la partie orthogonale porte la rotation ou le retournement. C'est cette décomposition, calculée par Gram-Schmidt sous une forme numériquement stabilisée, qui sert à résoudre les moindres carrés et à calculer des valeurs propres en analyse numérique.