Isométries indirectes de l'espace : les anti-rotations

Stratégie. Le déterminant $-1$ force la valeur propre $-1$ : c'est le point de départ, et il s'obtient par un calcul de déterminant en trois lignes. Le plan orthogonal à un vecteur propre associé est alors stable, l'isométrie induite y est une rotation plane, et l'on obtient la forme réduite. Tout se fait avec la transposée en base orthonormée et la conservation du produit scalaire.

Soit $E$ euclidien orienté de dimension $3$ et $u\in \mathrm{O}(E)$ avec $\det u=-1$ ; notons $A$ sa matrice dans une base orthonormée, de sorte que ${}^{t}AA=I_3$ et $\det A=-1$.

1. $-1$ est valeur propre de $u$. Utilisons ${}^{t}AA=I_3$ pour faire apparaître $A$ en facteur : $$\det (A+I_3)=\det (A+A{}^{t}A)=\det (A(I_3+{}^{t}A))=\det A\times \det ({}^t(I_3+A))=-\det (I_3+A),$$ en utilisant $\det ({}^{t}M)=\det M$. Donc $2\det (A+I_3)=0$, c'est-à-dire $$\det (A+I_3)=0:-1\in \mathrm{Sp}(u).$$ (L'argument est spécifique à la dimension impaire : c'est le $\det A=-1$ combiné à $\det (-M)=(-1{)}^3\det M$ qui rend le calcul concluant.)

2. Un plan stable. Soit $x_1$ un vecteur unitaire avec $u(x_1)=-x_1$, et $P=(\mathrm{Vect}{x}_1{)}^{\perp }$, un plan. $P$ est stable par $u$ : pour $y\in P$, l'isométrie conserve le produit scalaire, donc $$⟨u(y),x_1⟩=-⟨u(y),u(x_1)⟩=-⟨y,x_1⟩=0,$$ et $u(y)\in P$. (C'est aussi le résultat du cours : l'orthogonal d'un sous-espace stable par une isométrie est stable.)

3. L'isométrie induite sur $P$ est une rotation. L'endomorphisme induit $v=u_{|P}$ conserve la norme, c'est donc une isométrie du plan euclidien $P$. Complétons $x_1$ par une base orthonormée $(x_2,x_3)$ de $P$ : $(x_1,x_2,x_3)$ est orthonormée et $$\mathrm{Mat}(u)=\left(\begin{array}{cc}-1& 0\\ 0& \mathrm{Mat}(v)\end{array}\right)\text{par blocs},\text{donc}-1=\det u=-\det v⟹\det v=+1.$$ $v$ est donc une isométrie directe du plan $P$ : une rotation, de matrice $R(\theta )=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)$ dans la base $(x_2,x_3)$ (classification des isométries planes).

4. La forme réduite. Il existe donc une base orthonormée de $E$ dans laquelle $$\mathrm{Mat}(u)=\left(\begin{array}{ccc}-1& 0& 0\\ 0& \cos \theta & -\sin \theta \\ 0& \sin \theta & \cos \theta \end{array}\right)=\underset{\text{reˊflexion }s\text{ par rapport aˋ }P}{\underbrace{\left(\begin{array}{ccc}-1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right)}}\times \underset{\text{rotation }r\text{ d’axe }\mathrm{Vect}(x_1)}{\underbrace{\left(\begin{array}{ccc}1& 0& 0\\ 0& \cos \theta & -\sin \theta \\ 0& \sin \theta & \cos \theta \end{array}\right)}}.$$ Les deux matrices étant diagonales par blocs de mêmes tailles, elles commutent : $u=s\circ r=r\circ s$. Une isométrie indirecte de l'espace est donc toujours la composée, commutative, d'une rotation d'axe $\Delta =\mathrm{Vect}(x_1)$ et de la réflexion par rapport au plan $P={\Delta }^{\perp }$ — ce qu'on appelle une anti-rotation (ou rotation-réflexion).

5. Les deux cas particuliers.

• $\theta \equiv 0[2\pi ]$ : $\mathrm{Mat}(u)=\mathrm{diag}(-1,1,1)$, c'est-à-dire $u=s$ : une réflexion pure par rapport au plan $P$. C'est le seul cas où $u$ possède un plan de points fixes.
• $\theta \equiv \pi [2\pi ]$ : $\mathrm{Mat}(u)=-I_3$, c'est-à-dire $u=-\mathrm{id}$ : la symétrie centrale.
• Dans tous les autres cas, ${\mathrm{Sp}}_{\mathbb{C}}(u)=\{-1,{\mathrm{e}}^{\mathrm{i}\theta },{\mathrm{e}}^{-\mathrm{i}\theta }\}$ ne contient pas $1$ : le seul vecteur invariant est $0$.

6. En pratique, comment identifier une telle isométrie. On calcule $\det A=-1$ (indirecte), puis $$\mathrm{tr}A=-1+2\cos \theta ⟹\cos \theta =\frac{\mathrm{tr}A+1}{2},$$ et l'axe est $\ker (A+I_3)$, tandis que le plan de la réflexion est son orthogonal.

Contrôle chiffré. Reprenons la matrice orthogonale déjà rencontrée dans cette séance, $$A=\frac{1}{3}\left(\begin{array}{ccc}2& -2& 1\\ 1& 2& 2\\ 2& 1& -2\end{array}\right),{}^{t}AA=I_3,\det A=-1.$$

• L'angle : $\mathrm{tr}A=\frac{2+2-2}{3}=\frac{2}{3}$, donc $\cos \theta =\frac{\frac{2}{3}+1}{2}=\frac{5}{6}$ et $\theta =\pm \arccos \frac{5}{6}\approx \pm 33,56^{\circ }$.
• L'axe : $3(A+I_3)=\left(\begin{array}{ccc}5& -2& 1\\ 1& 5& 2\\ 2& 1& 1\end{array}\right)$, de déterminant $5(5-2)+2(1-4)+(1-10)=15-6-9=0$ : conformément au point 1, $-1$ est bien valeur propre $✓$. La résolution donne $x=y$ et $z=-3x$, soit $$\ker (A+I_3)=\mathrm{Vect}(1,1,-3).$$
• Cohérence : ${\chi }_A=(X+1)(X^2-\frac{5}{3}X+1)$, dont les racines complexes sont de module $1$ et de partie réelle $\frac{5}{6}$ — soit ${\mathrm{e}}^{\pm \mathrm{i}\theta }$ avec $\cos \theta =\frac{5}{6}$, exactement la valeur lue sur la trace. $✓$

$A$ est donc l'anti-rotation d'axe $\mathrm{Vect}(1,1,-3)$, d'angle $\arccos \frac{5}{6}$ (au signe près, fixé par un produit mixte comme pour une rotation), composée avec la réflexion par rapport au plan d'équation $x+y-3z=0$.

Ce qui est acquis. En dimension $3$, il n'existe que deux familles d'isométries : les rotations ($\det =+1$) et les anti-rotations ($\det =-1$), la réflexion et la symétrie centrale n'étant que deux cas particuliers de la seconde. Le déterminant est le premier geste, la trace le second.