Orthogonale et symétrique : les symétries orthogonales

La stratégie, et les outils. La première implication tient en une substitution ; l'intérêt est ailleurs : identifier géométriquement ces matrices, ce que le théorème spectral permet, et distinguer les deux réciproques possibles — l'une est vraie, l'autre est fausse.

a) Le carré vaut l'identité. L'hypothèse s'écrit $A^{\top }A=I_n$ (orthogonale) et $A^{\top }=A$ (symétrique). En substituant la seconde dans la première : $$A^2=A^{\top }A=I_n.$$ Donc $A$ est la matrice d'un endomorphisme $s$ vérifiant $s^2=\mathrm{id}$ : une involution, c'est-à-dire une symétrie (première année).

b) Le spectre, et la base orthonormée. Le polynôme $X^2-1=(X-1)(X+1)$ annule $A$ ; il est scindé à racines simples, donc $A$ est diagonalisable et $\mathrm{Sp}(A)\subset \{-1,1\}$.

Mais on a mieux que « diagonalisable » : $A$ est symétrique réelle, donc le théorème spectral fournit une diagonalisation en base orthonormée. Les deux sous-espaces propres $$E_1=\mathrm{Ker}\left(A-I_n\right),E_{-1}=\mathrm{Ker}\left(A+I_n\right)$$ sont orthogonaux — sous-espaces propres d'un autoadjoint pour des valeurs propres distinctes — et supplémentaires : $${\mathbb{R}}^n=E_1{\oplus }^{\perp }{E}_{-1}.$$ Autrement dit, en notant $p=\dim E_1$, il existe $P\in {\mathrm{O}}_n(\mathbb{R})$ telle que $A=P\left(\begin{array}{cc}{I}_p& 0\\ 0& -I_{n-p}\end{array}\right)P^{\top }$ : $A$ est la matrice de la symétrie orthogonale par rapport à $E_1$, parallèlement à $E_1^{\perp }=E_{-1}$.

Cas particuliers selon $p$ : $p=n$ donne $A=I_n$ ; $p=n-1$ une réflexion, symétrie par rapport à un hyperplan, de déterminant $-1$ ; $p=0$ donne $A=-I_n$ ; et en général $\det A=(-1{)}^{n-p}$.

c) La réciproque, celle qui est vraie. Soit $s$ une symétrie orthogonale, par rapport à un sous-espace $F$ parallèlement à $F^{\perp }$. Dans une base orthonormée adaptée à ${\mathbb{R}}^n=F{\oplus }^{\perp }{F}^{\perp }$, sa matrice est $\Delta =\mathrm{diag}\left(I_p,-I_{n-p}\right)$ ; dans la base canonique, $A=P\Delta P^{\top }$ avec $P\in {\mathrm{O}}_n(\mathbb{R})$, matrice de passage entre deux bases orthonormées. Alors $$A^{\top }={\left(P\Delta P^{\top }\right)}^{\top }=P{\Delta }^{\top }{P}^{\top }=P\Delta P^{\top }=A,A^{\top }A=A^2=P{\Delta }^2{P}^{\top }=P{P}^{\top }=I_n.$$ $A$ est donc symétrique et orthogonale. D'où l'identification complète : $${\mathrm{O}}_n(\mathbb{R})\cap {\mathcal{S}}_n(\mathbb{R})=\left\{\text{matrices de symeˊtries orthogonales}\right\}.$$

d) La fausse réciproque. Non : $A^2=I_n$ seul ne suffit pas. La matrice $$B=\left(\begin{array}{cc}1& 1\\ 0& -1\end{array}\right)\text{veˊrifie}{B}^2=\left(\begin{array}{cc}1& 1-1\\ 0& 1\end{array}\right)=I_2,$$ mais elle n'est ni symétrique ($B^{\top }\ne B$), ni orthogonale : ses colonnes $(1,0)$ et $(1,-1)$ ont pour produit scalaire $1\ne 0$. C'est une symétrie oblique : $E_1=\mathrm{Ker}\left(B-I_2\right)=\mathrm{Vect}(1,0)$ et $E_{-1}=\mathrm{Ker}\left(B+I_2\right)=\mathrm{Vect}(1,-2)$ sont deux droites supplémentaires mais non orthogonales, leur produit scalaire valant $1\times 1+0\times (-2)=1$. C'est l'orthogonalité de $A$, et elle seule, qui rend la symétrie orthogonale.

e) Le contrôle numérique. Le vecteur $n=\frac{1}{3}(1,2,2)$ est unitaire, puisque $\frac{1+4+4}{9}=1$. La réflexion par rapport au plan $n^{\perp }$ a pour matrice $H=I_3-2n{n}^{\top }$, soit $$H=\frac{1}{9}\left(\begin{array}{ccc}7& -4& -4\\ -4& 1& -8\\ -4& -8& 1\end{array}\right).$$ Vérifications : $H^{\top }=H$ par construction, $n{n}^{\top }$ étant symétrique ; et $$H^2=I_3-4n{n}^{\top }+4n\left(n^{\top }n\right)n^{\top }=I_3-4n{n}^{\top }+4n{n}^{\top }=I_3,$$ puisque $n^{\top }n=\Vert n{\Vert }^2=1$ ; donc $H^{\top }H=H^2=I_3$ et $H$ est orthogonale. Son spectre est $\{-1,1,1\}$ — le vecteur $n$ est propre pour $-1$, le plan $n^{\perp }$ est fixe —, d'où $\det H=-1$ et $\mathrm{tr}H=\frac{7+1+1}{9}=1=-1+1+1$ ✓. C'est bien une réflexion : $p=\dim E_1=2=n-1$.

Ce que l'exercice installe. L'intersection ${\mathrm{O}}_n(\mathbb{R})\cap {\mathcal{S}}_n(\mathbb{R})$ n'est pas un objet exotique : c'est exactement l'ensemble des symétries orthogonales, paramétré par le sous-espace fixe. Et retenez le schéma : deux équations matricielles qui se croisent caractérisent une classe géométrique entière — on retrouvera ce schéma pour les projecteurs orthogonaux ($p^2=p$ et $p^{\ast }=p$), et au problème de la séance, où ${\Omega }^{\top }\Omega =I_n$ et $S\in {\mathcal{S}}_n^{++}$ se croisent pour donner une décomposition unique.