Le théorème de Cartan–Dieudonné

Ce qu'on a le droit d'utiliser. L'exercice 2 : pour $x\ne y$ de même norme, la réflexion d'hyperplan $(x-y{)}^{\perp }$ échange $x$ et $y$ ; une réflexion $s$ vérifie $s\circ s=\mathrm{id}$ et $\det s=-1$ ; la description de ${\mathrm{O}}_2(\mathbb{R})$ par les matrices $R_{\theta }$ et $S_{\theta }=\left(\begin{array}{cc}\cos \theta & \sin \theta \\ \sin \theta & -\cos \theta \end{array}\right)$. La stratégie : composer $u$ par une réflexion bien choisie agrandit l'espace des vecteurs fixes, ce qui fournit une récurrence.

a) Une réflexion qui ajoute un vecteur fixe. Comme $\Vert u(x)\Vert =\Vert x\Vert$ et $u(x)\ne x$, l'exercice 2 fournit la réflexion $s$ d'hyperplan $(x-u(x){)}^{\perp }$, qui échange $x$ et $u(x)$. Soit $y\in \mathrm{Ker}(u-\mathrm{id})$. Comme $u$ conserve le produit scalaire et que $u(y)=y$, $$⟨y,x-u(x)⟩=⟨y,x⟩-⟨u(y),u(x)⟩=⟨y,x⟩-⟨y,x⟩=0,$$ donc $y$ appartient à l'hyperplan de la réflexion, et $s(y)=y$. Par suite $s(u(y))=s(y)=y$, et $s(u(x))=x$. Le sous-espace $\mathrm{Ker}(s\circ u-\mathrm{id})$ contient donc $\mathrm{Ker}(u-\mathrm{id})$ et $x$ ; comme $x\notin \mathrm{Ker}(u-\mathrm{id})$, la somme de ces deux sous-espaces est directe, et $$\dim \mathrm{Ker}(s\circ u-\mathrm{id})\ge \dim \mathrm{Ker}(u-\mathrm{id})+1.$$

Le point délicat. C'est la conservation du produit scalaire par $u$ qui rend le vecteur $x-u(x)$, normal à l'hyperplan de $s$, orthogonal à tous les vecteurs fixes de $u$ : sans elle, la réflexion détruirait d'un côté ce qu'elle ajoute de l'autre.

b) La récurrence. Notons $k(v)=n-\dim \mathrm{Ker}(v-\mathrm{id})$ pour $v\in \mathrm{O}(E)$, et montrons par récurrence forte sur $k$ que toute isométrie $v$ telle que $k(v)=k$ est la composée d'au plus $k$ réflexions. Initialisation : si $k(v)=0$, $\mathrm{Ker}(v-\mathrm{id})=E$, donc $v=\mathrm{id}$, composée de zéro réflexion. Hérédité : soit $v$ avec $k(v)=k\ge 1$. Alors $v\ne \mathrm{id}$ ; choisissons $x$ avec $v(x)\ne x$, et $s$ comme au a). L'isométrie $s\circ v$ vérifie $k(s\circ v)\le k-1$ ; par hypothèse de récurrence, $s\circ v=s_1\circ \cdots \circ s_j$ avec $j\le k-1$ réflexions. En composant à gauche par $s$, puisque $s\circ s=\mathrm{id}$, on obtient $v=s\circ s_1\circ \cdots \circ s_j$ : au plus $k$ réflexions. Comme $k(u)\le n$, toute isométrie est la composée d'au plus $n$ réflexions.

c) Dans le plan, deux réflexions font une rotation. La réflexion par rapport à la droite d'angle polaire $\alpha$ a pour matrice $S_{2\alpha }$ : elle fixe $(\cos \alpha ,\sin \alpha )$ et change $(-\sin \alpha ,\cos \alpha )$ en son opposé, comme le montrent les formules de duplication. Les formules d'addition donnent, pour tous réels $a$ et $b$, $$S_a{S}_b=\left(\begin{array}{cc}\cos a\cos b+\sin a\sin b& \cos a\sin b-\sin a\cos b\\ \sin a\cos b-\cos a\sin b& \sin a\sin b+\cos a\cos b\end{array}\right)=R_{a-b}.$$ La composée « d'abord $\alpha$, puis $\beta$ » a pour matrice $S_{2\beta }{S}_{2\alpha }=R_{2\beta -2\alpha }$ : la rotation d'angle $2(\beta -\alpha )$, le double de l'angle entre les axes. Réciproquement, $R_{\theta }$ est la composée de la réflexion d'axe $\mathbb{R}{e}_1$ puis de celle d'axe d'angle polaire $\frac{\theta }{2}$. C'est le principe du kaléidoscope : deux miroirs faisant l'angle $\frac{\pi }{N}$ engendrent la rotation d'angle $\frac{2\pi }{N}$.

d) Un demi-tour de l'espace. Les vecteurs $a=(1,-1,0)$ et $b=(1,1,-2)$ sont orthogonaux entre eux et à $(1,1,1)$. Par l'exercice 2, les réflexions correspondantes ont pour matrices $H_a=I_3-\frac{2}{\Vert a{\Vert }^2}a{}^{t}a$ et $H_b=I_3-\frac{2}{\Vert b{\Vert }^2}b{}^{t}b$, soit $$H_a=\left(\begin{array}{ccc}0& 1& 0\\ 1& 0& 0\\ 0& 0& 1\end{array}\right),$$ $$H_b=\frac{1}{3}\left(\begin{array}{ccc}2& -1& 2\\ -1& 2& 2\\ 2& 2& -1\end{array}\right).$$ Le produit $H_a{H}_b$ échange les deux premières lignes de $H_b$ : $$H_a{H}_b=\frac{1}{3}\left(\begin{array}{ccc}-1& 2& 2\\ 2& -1& 2\\ 2& 2& -1\end{array}\right),$$ qui est bien la matrice du demi-tour ; $H_b{H}_a$, qui échange les deux premières colonnes de $H_b$, donne la même matrice : ces deux réflexions, de normales orthogonales, commutent. Une seule ne suffit pas : une réflexion est de déterminant $-1$, le demi-tour de déterminant $1$ ; ou encore, une réflexion fixe un plan, le demi-tour ne fixe que son axe. Conformément au b), $\dim \mathrm{Ker}(u-\mathrm{id})=1$, et $3-1=2$ réflexions suffisent.

Ce que l'exercice installe. Les réflexions engendrent toutes les isométries : ce sont les briques du groupe orthogonal, et le déterminant compte la parité du nombre de briques — une isométrie directe est la composée d'un nombre pair de réflexions, une indirecte d'un nombre impair. En chimie, un axe de rotation d'ordre $N$ d'une molécule est souvent l'intersection de deux plans de symétrie faisant l'angle $\frac{\pi }{N}$.