La stabilité de l'orthogonal, moteur du chapitre

La stratégie, et les outils. Une seule ligne de calcul donne le a) ; tout le reste en découle en remplaçant $u^{\ast }$ par ce qu'il vaut — $u$ pour un autoadjoint, $u^{-1}$ pour une isométrie. C'est le prototype de l'énoncé court et rentable : trois lignes de démonstration, et deux théorèmes majeurs en dépendent.

a) Le mécanisme. Soient $y\in F^{\perp }$ et $x\in F$. Alors $$⟨x,u^{\ast }(y)⟩=⟨u(x),y⟩=0,$$ car $u(x)\in F$ (stabilité) et $y\in F^{\perp }$. Ceci vaut pour tout $x\in F$, donc $u^{\ast }(y)\perp F$, c'est-à-dire $u^{\ast }(y)\in F^{\perp }$. $F^{\perp }$ est stable par $u^{\ast }$.

b) Le cas autoadjoint. Si $u^{\ast }=u$, le a) donne immédiatement que $F^{\perp }$ est stable par $u$.

Les induits sont autoadjoints. $F$, muni de la restriction du produit scalaire, est lui-même un espace euclidien. Pour $x,y\in F$, $$⟨u_{|F}(x),y⟩=⟨u(x),y⟩=⟨x,u(y)⟩=⟨x,u_{|F}(y)⟩,$$ ce qui est exactement la définition de l'autoadjonction pour $u_{|F}$. Le même calcul vaut sur $F^{\perp }$.

c) Le cas des isométries. Soit $u$ une isométrie ; le cours donne $u^{\ast }=u^{-1}$, donc le a) montre que $F^{\perp }$ est stable par $u^{-1}$. Pour la stabilité par $u$ lui-même, on passe par l'égalité $u(F)=F$ : l'induit $u_{|F}:F\to F$ est bien défini et injectif (restriction d'une application injective), et $F$ étant de dimension finie, il est bijectif. Soient $y\in F^{\perp }$ et $x\in F$. Comme $u(F)=F$, il existe $x^{\prime }\in F$ avec $x=u(x^{\prime })$. Une isométrie conserve le produit scalaire, donc $$⟨x,u(y)⟩=⟨u(x^{\prime }),u(y)⟩=⟨x^{\prime },y⟩=0,$$ puisque $x^{\prime }\in F$ et $y\in F^{\perp }$. Donc $u(y)\in F^{\perp }$ : $F^{\perp }$ est stable par $u$. Enfin, $u_{|F}$ conserve les normes et envoie $F$ sur $F$ : c'est une isométrie de $F$ ; de même sur $F^{\perp }$.

d) Noyau et image de l'adjoint. C'est l'exercice 1 b), qu'on peut redémontrer ici d'un mot : pour tout $y\in E$ et tout $x\in \mathrm{Ker}u$, $⟨x,u^{\ast }(y)⟩=⟨u(x),y⟩=0$, donc $\mathrm{Im}\left(u^{\ast }\right)\subset {\left(\mathrm{Ker}u\right)}^{\perp }$ ; et les dimensions coïncident, puisque $\mathrm{rg}\left(u^{\ast }\right)=\mathrm{rg}(u)=n-\dim \mathrm{Ker}u$. Donc $$E=\mathrm{Ker}(u){\oplus }^{\perp }\mathrm{Im}\left(u^{\ast }\right).$$

e) Les deux théorèmes dont ce mécanisme est le ressort.

• Réduction des isométries en base orthonormée. Pour toute isométrie $u$ de $E$, il existe une base orthonormée dans laquelle la matrice de $u$ est diagonale par blocs, les blocs étant des $1\times 1$ valant $\pm 1$ et des $2\times 2$ de rotation $R\left({\theta }_j\right)$. Le ressort : un sous-espace stable de dimension $1$ ou $2$ existe toujours ; son orthogonal est stable d'après le c), l'induit y est encore une isométrie, et l'on recommence en dimension plus petite. C'est exactement l'exercice 6 de cette séance.
• Théorème spectral. Pour $u$ autoadjoint, il existe une base orthonormée de vecteurs propres de $u$, et $E$ est somme directe orthogonale des sous-espaces propres. Le ressort : $u$ admet une valeur propre réelle donc un vecteur propre unitaire $e_1$ ; la droite $\mathbb{R}{e}_1$ est stable, son orthogonal aussi d'après le b), l'induit y est encore autoadjoint, et l'on recommence.

Ce que l'exercice installe. « Stable donne orthogonal stable » est l'unique mécanisme qui permet de descendre dans un espace euclidien : on isole un morceau, on passe à son orthogonal, on y retrouve un endomorphisme de la même espèce, et la récurrence sur la dimension fait le reste. C'est le pendant euclidien du « descendre, résoudre, recoller » du chapitre 2 — mais ici la décomposition est orthogonale, ce qui est infiniment plus fort.