Axe et angle d'une rotation de l'espace

Stratégie. La méthode standard en quatre temps : vérifier que $A\in {\mathrm{SO}}_3(\mathbb{R})$, lire l'axe comme $\mathrm{Ker}\left(A-I_3\right)$, lire le cosinus de l'angle sur la trace, puis — étape systématiquement escamotée — lever l'ambiguïté de signe par un produit mixte. La trace ne connaît pas l'orientation : $\mathrm{tr}A$ donne $\cos \theta$, donc $\theta$ au signe près, et rien de plus.

Étape 1 — $A$ est bien une rotation. Les colonnes de $A=\frac{1}{3}\left(\begin{array}{ccc}2& -1& 2\\ 2& 2& -1\\ -1& 2& 2\end{array}\right)$ sont $\frac{1}{3}(2,2,-1)$, $\frac{1}{3}(-1,2,2)$ et $\frac{1}{3}(2,-1,2)$.

• Normes : chacune vaut $\frac{\sqrt{4+4+1}}{3}=\frac{3}{3}=1$.
• Produits scalaires croisés : $\frac{-2+4-2}{9}=0$, $\frac{4-2-2}{9}=0$, $\frac{-2-2+4}{9}=0$.

La famille des colonnes est orthonormée : $A\in {\mathrm{O}}_3(\mathbb{R})$. Reste le déterminant, calculé sur la matrice entière $3A$ :

$$\det A=\frac{1}{27}\left[2(2\times 2-(-1)\times 2)+1(2\times 2-(-1)\times (-1))+2(2\times 2-2\times (-1))\right]=\frac{12+3+12}{27}=\frac{27}{27}=1.$$

Donc $A\in {\mathrm{SO}}_3(\mathbb{R})$ : c'est une rotation.

Étape 2 — l'axe. L'axe est $\mathrm{Ker}\left(A-I_3\right)$. On a

$$3\left(A-I_3\right)=\left(\begin{array}{ccc}-1& -1& 2\\ 2& -1& -1\\ -1& 2& -1\end{array}\right),$$

et le vecteur $(1,1,1)$ est solution : $-1-1+2=0$, $2-1-1=0$, $-1+2-1=0$. Comme $A\ne I_3$, la rotation n'est pas triviale et son espace fixe est une droite :

$$\text{axe}=\mathrm{Ker}\left(A-I_3\right)=\mathrm{Vect}(1,1,1).$$

Étape 3 — le cosinus de l'angle. Notons $\hat{n}=\frac{1}{\sqrt{3}}(1,1,1)$ et complétons en une base orthonormée $\left(\hat{n},f_2,f_3\right)$ de ${\mathbb{R}}^3$. Le théorème de réduction des isométries directes de l'espace donne

$${\mathrm{Mat}}_{(\hat{n},f_2,f_3)}(A)=\left(\begin{array}{ccc}1& 0& 0\\ 0& \cos \theta & -\sin \theta \\ 0& \sin \theta & \cos \theta \end{array}\right),\text{donc}\mathrm{tr}A=1+2\cos \theta .$$

La trace étant invariante par changement de base :

$$\mathrm{tr}A=\frac{2+2+2}{3}=2⟹\cos \theta =\frac{1}{2}⟹\theta =\pm \frac{\pi }{3}.$$

Étape 4 — le signe (le point délicat). Orientons l'axe par $\hat{n}$ et prenons un vecteur non nul $x$ orthogonal à l'axe, par exemple $x=(1,-1,0)$ — orthogonal car $1-1+0=0$. Son image vaut

$$Ax=\frac{1}{3}\left(\begin{array}{c}2-(-1)\\ 2-2\\ -1-2\end{array}\right)=\frac{1}{3}(3,0,-3)=(1,0,-1).$$

Dans le plan ${\hat{n}}^{\perp }$, la rotation s'écrit $Ax=\cos \theta x+\sin \theta \left(\hat{n}\wedge x\right)$. En prenant le déterminant dans la base canonique (orthonormée directe) des trois vecteurs $\hat{n}$, $x$, $Ax$, et en utilisant $\det \left(\hat{n},x,\hat{n}\wedge x\right)={\Vert x\Vert }^2$ ainsi que $\det \left(\hat{n},x,x\right)=0$ :

$$\det \left(\hat{n},x,Ax\right)=\sin \theta {\Vert x\Vert }^2.$$

Calculons le membre de gauche :

$$\det \left(\begin{array}{ccc}\frac{1}{\sqrt{3}}& 1& 1\\ \frac{1}{\sqrt{3}}& -1& 0\\ \frac{1}{\sqrt{3}}& 0& -1\end{array}\right)=\frac{1}{\sqrt{3}}\det \left(\begin{array}{ccc}1& 1& 1\\ 1& -1& 0\\ 1& 0& -1\end{array}\right)=\frac{1}{\sqrt{3}}[1\times 1-1\times (-1)+1\times 1]=\frac{3}{\sqrt{3}}=\sqrt{3}.$$

Comme ${\Vert x\Vert }^2=1+1+0=2$, il vient $2\sin \theta =\sqrt{3}$, soit $\sin \theta =\frac{\sqrt{3}}{2}>0$. Joint à $\cos \theta =\frac{1}{2}$ :

$$\theta =+\frac{\pi }{3}.$$

Conclusion. $A$ est la rotation d'axe $\mathrm{Vect}(1,1,1)$, orienté par le vecteur $(1,1,1)$, et d'angle $\frac{\pi }{3}$. Retourner l'orientation de l'axe change $\theta$ en $-\theta$ : c'est le couple (axe orienté, angle) qui est bien défini, jamais l'angle seul.

Contrôle numérique. Une rotation d'angle $\frac{\pi }{3}$ est d'ordre $6$ dans ${\mathrm{SO}}_3(\mathbb{R})$. Le calcul des puissances confirme :

$$A^3=\frac{1}{3}\left(\begin{array}{ccc}-1& 2& 2\\ 2& -1& 2\\ 2& 2& -1\end{array}\right),A^6=I_3.$$

Et $A^3$ est bien la rotation d'angle $\pi$ autour du même axe : elle est symétrique (comme toute rotation d'angle $\pi$, qui est un demi-tour donc une symétrie), sa trace vaut $\frac{-1-1-1}{3}=-1=1+2\cos \pi$, et elle fixe $(1,1,1)$ puisque $\frac{-1+2+2}{3}=1$ sur chaque coordonnée. Enfin $A^{\top }A=I_3$ se vérifie directement à partir de l'orthonormalité des colonnes établie à l'étape 1.

Ce qui est acquis. Le triplet d'informations (déterminant, noyau de $A-I$, trace) identifie une rotation de l'espace à un signe près, et ce signe se lit sur un produit mixte. La méthode est entièrement algorithmique : elle ne demande ni de deviner la géométrie, ni de calculer un polynôme caractéristique.