Isométries indirectes de l'espace : les antirotations

Stratégie. Partir du théorème de réduction des isométries — en base orthonormée, une isométrie est diagonale par blocs, les blocs valant $\pm 1$ ou $R\left({\theta }_j\right)$ — puis contraindre par $\dim E=3$ et $\det u=-1$. On obtient une forme normale unique, qu'on interprète ensuite géométriquement. Le point à établir soigneusement est que $-1$ est nécessairement valeur propre : c'est lui qui fournit l'axe.

Le cadre. $E$ est un espace euclidien orienté de dimension $3$, et $u\in \mathrm{O}(E)$ avec $\det u=-1$ : $u$ est une isométrie indirecte.

Étape 1 — $-1$ est valeur propre de $u$. Le polynôme ${\chi }_u$ est de degré $3$ à coefficients réels : il admet au moins une racine réelle $\lambda$, et les valeurs propres réelles d'une isométrie valent $\pm 1$ (si $u(x)=\lambda x$ avec $x\ne 0$, alors $\Vert x\Vert =\Vert u(x)\Vert =|\lambda |\Vert x\Vert$, donc $|\lambda |=1$).

• Si $\lambda =-1$, c'est acquis.
• Si la seule racine réelle est $1$ : soit $e$ un vecteur unitaire fixe. Le plan $P=e^{\perp }$ est stable par $u$ (pour une isométrie, l'orthogonal d'un stable est stable), et $u_{|P}$ est une isométrie du plan de déterminant $\frac{\det u}{1}=-1$ : c'est donc une réflexion du plan, dont le spectre est $\{1,-1\}$. Ainsi $-1$ est valeur propre de $u_{|P}$, donc de $u$ — ce qui contredit l'hypothèse du cas.

Dans tous les cas, $-1\in \mathrm{Sp}(u)$.

Étape 2 — la forme normale. Soit $e_1$ un vecteur unitaire avec $u\left(e_1\right)=-e_1$, et $P=e_1^{\perp }$, plan stable par $u$. La restriction $u_{|P}$ est une isométrie du plan de déterminant

$$\det \left(u_{|P}\right)=\frac{\det u}{\det \left(u_{|\mathbb{R}{e}_1}\right)}=\frac{-1}{-1}=1:$$

c'est une rotation plane $R(\theta )$. En complétant $e_1$ par une base orthonormée $\left(e_2,e_3\right)$ de $P$ :

$${\mathrm{Mat}}_{\left(e_1,e_2,e_3\right)}(u)=\left(\begin{array}{ccc}-1& 0& 0\\ 0& \cos \theta & -\sin \theta \\ 0& \sin \theta & \cos \theta \end{array}\right)=\mathrm{diag}(-1,R(\theta )).$$

Étape 3 — lecture géométrique : l'antirotation. Notons $r$ la rotation d'axe $D=\mathrm{Vect}\left(e_1\right)$ et d'angle $\theta$, de matrice $\mathrm{diag}\left(1,R(\theta )\right)$, et $s$ la réflexion par rapport au plan $P=D^{\perp }$, de matrice $\mathrm{diag}(-1,1,1)$. Ces deux matrices sont diagonales par blocs sur la même décomposition, donc commutent, et leur produit est précisément la matrice ci-dessus :

$$u=s\circ r=r\circ s.$$

Une isométrie indirecte de l'espace est donc la composée d'une rotation d'axe $D$ et de la réflexion par rapport au plan $D^{\perp }$ — c'est ce qu'on appelle une antirotation (ou rotation-réflexion). Ses éléments se lisent ainsi :

• l'axe est $D=\mathrm{Ker}\left(u+\mathrm{id}\right)$, et non $\mathrm{Ker}\left(u-\mathrm{id}\right)$ : c'est l'erreur classique, l'axe d'une antirotation est retourné, pas fixé ;
• l'angle vérifie $\mathrm{tr}u=-1+2\cos \theta$, le signe se levant par un produit mixte, exactement comme pour une rotation.

Les cas limites, tous atteints.

• $\theta =0$ : $u=s$ est une réflexion pure, de matrice $\mathrm{diag}(-1,1,1)$ et de trace $1$. Ici $\mathrm{Ker}\left(u-\mathrm{id}\right)=P$ est un plan : le miroir.
• $\theta =\pi$ : $\mathrm{diag}\left(-1,R(\pi )\right)=\mathrm{diag}(-1,-1,-1)=-I_3$, la symétrie centrale $u=-\mathrm{id}$, de trace $-3$. L'axe n'est plus déterminé : toute droite convient, puisque $\mathrm{Ker}(u+\mathrm{id})=E$ tout entier.
• $\theta \notin \{0,\pi \}$ : l'antirotation est générique, $\mathrm{Ker}\left(u+\mathrm{id}\right)=\mathrm{Vect}\left(e_1\right)$ est une droite, et $u$ n'a aucun vecteur fixe non nul — sur $D$ elle vaut $-\mathrm{id}$, et sur $P$ la rotation $R(\theta )$ ne fixe rien.

Contrôle numérique. Composons la rotation de l'exercice précédent — axe $(1,1,1)$, angle $\frac{\pi }{3}$, matrice $A=\frac{1}{3}\left(\begin{array}{ccc}2& -1& 2\\ 2& 2& -1\\ -1& 2& 2\end{array}\right)$ — avec la réflexion par rapport au plan $x+y+z=0$, de matrice $S=I_3-2\hat{n}{\hat{n}}^{\top }$ où $\hat{n}=\frac{1}{\sqrt{3}}(1,1,1)$, soit

$$S=\frac{1}{3}\left(\begin{array}{ccc}1& -2& -2\\ -2& 1& -2\\ -2& -2& 1\end{array}\right).$$

Le produit est remarquablement simple — les dénominateurs disparaissent :

$$M=SA=\left(\begin{array}{ccc}0& -1& 0\\ 0& 0& -1\\ -1& 0& 0\end{array}\right).$$

Vérifions, une par une, toutes les affirmations de la théorie :

• $M^{\top }M=I_3$ : les colonnes $(0,0,-1)$, $(-1,0,0)$, $(0,-1,0)$ sont orthonormées. $M$ est bien une isométrie.
• $\det M=-1$ : en développant selon la première ligne, $-(-1)\times \left|\begin{array}{cc}0& -1\\ -1& 0\end{array}\right|=1\times (-1)=-1$. L'isométrie est indirecte.
• $\mathrm{tr}M=0$, et la théorie prédit $-1+2\cos \frac{\pi }{3}=-1+1=0$.
• $\mathrm{Ker}\left(M+I_3\right)=\mathrm{Vect}(1,1,1)$ : la matrice $M+I_3=\left(\begin{array}{ccc}1& -1& 0\\ 0& 1& -1\\ -1& 0& 1\end{array}\right)$ annule bien $(1,1,1)$ ligne par ligne. C'est l'axe annoncé.
• $SA=AS$ : les deux produits coïncident, conformément à l'étape 3.
• $M^3=-I_3$ et $M^6=I_3$ : l'antirotation d'angle $\frac{\pi }{3}$ est d'ordre $6$, et son cube est la symétrie centrale — ce que prédit $\mathrm{diag}{\left(-1,R\left(\frac{\pi }{3}\right)\right)}^3=\mathrm{diag}\left(-1,R(\pi )\right)=-I_3$.

Ce qui est acquis. La classification des isométries de l'espace est complète et sans reste : les directes sont les rotations $\mathrm{diag}\left(1,R(\theta )\right)$, caractérisées par un axe orienté et un angle ; les indirectes sont les antirotations $\mathrm{diag}\left(-1,R(\theta )\right)$, avec les réflexions ($\theta =0$) et $-\mathrm{id}$ ($\theta =\pi$) comme cas particuliers. Aucune autre forme n'existe — c'est le théorème de réduction qui l'affirme, et la contrainte de dimension $3$ qui ne laisse qu'un seul bloc de rotation.