Orthogonale et symétrique ; les réflexions de Householder

La stratégie : les deux équations ${}^{t}A=A$ et ${}^{t}AA=I_n$ se croisent en une troisième, $A^2=I_n$, qui dit « symétrie » ; la symétrie de $A$ sert une seconde fois pour dire « orthogonale ».

a) Les matrices orthogonales et symétriques. Le carré. En substituant ${}^{t}A=A$ dans ${}^{t}AA=I_n$, on obtient $A^2=I_n$.

Deux sous-espaces supplémentaires. Pour toute colonne $X$, $X=\frac{X+AX}{2}+\frac{X-AX}{2}$, et, grâce à $A^2=I_n$, le premier terme est fixé par $A$, le second changé en son opposé : le premier est dans $F=\mathrm{Ker}(A-I_n)$, le second dans $G=\mathrm{Ker}(A+I_n)$. Et $F\cap G=\{0\}$, puisque $AX=X$ et $AX=-X$ donnent $X=0$. Donc ${\mathbb{R}}^n=F\oplus G$ : $A$ est la matrice de la symétrie par rapport à $F$ parallèlement à $G$.

Orthogonaux. Pour $X\in F$ et $Y\in G$ : $$⟨X,Y⟩=⟨AX,Y⟩={}^{t}X{}^{t}AY={}^{t}XAY=⟨X,AY⟩=-⟨X,Y⟩,$$ donc $⟨X,Y⟩=0$. Ainsi $G=F^{\perp }$, et $A$ est la matrice de la symétrie orthogonale par rapport à $F$. (C'est, en miniature, le point 2 du théorème spectral, qui donnait d'ailleurs tout d'un coup.)

La réciproque. Soit $s$ la symétrie orthogonale par rapport à un sous-espace $F$ de dimension $r$. Dans une base orthonormée formée d'une base orthonormée de $F$ suivie d'une de $F^{\perp }$, sa matrice est $D=\mathrm{diag}(I_r,-I_{n-r})$, symétrique et orthogonale. Dans la base canonique, sa matrice est $A=PD{}^{t}P$ avec $P$ orthogonale, d'où ${}^{t}A=P{}^{t}D{}^{t}P=A$ et ${}^{t}AA=P{D}^2{}^{t}P=I_n$. Les matrices orthogonales et symétriques sont exactement les matrices, en base orthonormée, des symétries orthogonales.

$A^2=I_n$ ne suffit pas. La matrice $B=\left(\begin{array}{cc}1& 2\\ 0& -1\end{array}\right)$ vérifie $B^2=I_2$ ; c'est la symétrie par rapport à $\mathrm{Ker}(B-I_2)=\mathrm{Vect}(1,0)$ parallèlement à $\mathrm{Ker}(B+I_2)=\mathrm{Vect}(1,-1)$, deux droites non orthogonales : une symétrie oblique, ni symétrique ni orthogonale.

b) Les matrices de Householder. Symétrique : ${}^t(u{}^{t}u)=u{}^{t}u$. Orthogonale : comme ${}^{t}uu=\Vert u{\Vert }^2=1$, $$H^2=I_n-4u{}^{t}u+4u({}^{t}uu){}^{t}u=I_n,$$ et ${}^{t}HH=H^2=I_n$. Action : $Hu=u-2u({}^{t}uu)=-u$, et si ${}^{t}uX=0$, $HX=X-2u({}^{t}uX)=X$. Donc $H$ est la symétrie orthogonale par rapport à l'hyperplan $u^{\perp }$ : la réflexion d'hyperplan $u^{\perp }$. Dans une base orthonormée formée de $u$ et d'une base orthonormée de $u^{\perp }$, sa matrice est $\mathrm{diag}(-1,1,\dots ,1)$ : $\det H=-1$ — toute réflexion est indirecte. Contrôle : pour $u=\frac{1}{3}(2,1,2)$, $u{}^{t}u=\frac{1}{9}\left(\begin{array}{ccc}4& 2& 4\\ 2& 1& 2\\ 4& 2& 4\end{array}\right)$, d'où la matrice annoncée, de trace $\frac{1+7+1}{9}=1=-1+1+1$.

c) La réflexion qui échange deux vecteurs de même norme. Posons $d=x-y\ne 0$ ; alors $Hx=x-2\frac{⟨d,x⟩}{\Vert d{\Vert }^2}d$. Or, puisque $\Vert x\Vert =\Vert y\Vert$, $$\Vert d{\Vert }^2=\Vert x{\Vert }^2-2⟨x,y⟩+\Vert y{\Vert }^2=2(\Vert x{\Vert }^2-⟨x,y⟩)=2⟨d,x⟩,$$ donc $Hx=x-d=y$, puis $Hy=H^{2}x=x$. La réflexion échange $x$ et $y$. Son hyperplan $d^{\perp }$ est l'hyperplan médiateur : il contient $\frac{x+y}{2}$, orthogonal à $x-y$ puisque $⟨x+y,x-y⟩=\Vert x{\Vert }^2-\Vert y{\Vert }^2=0$.

Contrôle. Pour $x=(1,2,2)$ et $y=(3,0,0)$, de même norme $3$ : $d=(-2,2,2)$, $\Vert d{\Vert }^2=12$, et $$H=I_3-\frac{2}{12}d{}^{t}d=\frac{1}{3}\left(\begin{array}{ccc}1& 2& 2\\ 2& 1& -2\\ 2& -2& 1\end{array}\right),$$ qui envoie bien $x$ sur $\frac{1}{3}(1+4+4,2+2-4,2-4+2)=(3,0,0)$.

Ce que l'exercice installe. Deux équations matricielles qui se croisent caractérisent une classe géométrique entière : ${}^{t}A=A$ et ${}^{t}AA=I_n$ donnent exactement les symétries orthogonales. La matrice de Householder est la réflexion écrite sans choix de base ; une réflexion bien choisie envoie un vecteur sur n'importe quel autre de même norme, ce qui en fait l'outil du calcul numérique matriciel et, à l'exercice 8, la brique de toutes les isométries.