Caractérisation géométrique d'une matrice orthogonale $3\times 3$

1. Appartenance à $\mathcal{S}\mathcal{O}(3)$ : Notons $C_1,C_2,C_3$ les colonnes de $M$ : $$\Vert C_1{\Vert }^2=\frac{1}{9}(4+4+1)=1,\Vert C_2{\Vert }^2=\frac{1}{9}(1+4+4)=1,\Vert C_3{\Vert }^2=\frac{1}{9}(4+1+4)=1.$$ De plus : $$⟨C_1,C_2⟩=\frac{1}{9}(-2+4-2)=0,⟨C_1,C_3⟩=\frac{1}{9}(4-2-2)=0,⟨C_2,C_3⟩=\frac{1}{9}(-2-2+4)=0.$$ La matrice $M$ est donc orthogonale ($M\in \mathcal{O}(3)$). Calculons le déterminant par la formule de Sarrus : $$\det (M)=\frac{1}{27}\left(2(4-(-2))-(-1)(4-1)+2(4-(-2))\right)=\frac{1}{27}(12+3+12)=\frac{27}{27}=+1.$$ Donc $M\in \mathcal{S}\mathcal{O}(3)$ : $M$ représente une rotation vectorielle de l'espace ${\mathbb{R}}^3$.

2. Recherche de l'axe de rotation : L'axe de rotation est le sous-espace propre associé à la valeur propre $\lambda =1$ : $\ker (M-I_3)$. Le système $(M-I_3)X=0⟺(3M-3I_3)X=0$ s'écrit : $$\left(\begin{array}{ccc}-1& -1& 2\\ 2& -1& -1\\ -1& 2& -1\end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)=\left(\begin{array}{c}0\\ 0\\ 0\end{array}\right)⟺\{\begin{array}{l}-x-y+2z=0\\ 2x-y-z=0\\ -x+2y-z=0\end{array}⟺x=y=z.$$ L'axe de rotation est donc la droite vectorielle $D=\mathrm{Vect}(\overrightarrow{u})$ dirigée par le vecteur unitaire : $$\overrightarrow{u}=\frac{1}{\sqrt{3}}\left(\begin{array}{c}1\\ 1\\ 1\end{array}\right).$$

3. Angle de rotation $\theta$ : La trace de la matrice de rotation vérifie : $$\mathrm{tr}(M)=1+2\cos \theta .$$ Or $\mathrm{tr}(M)=\frac{1}{3}(2+2+2)=2$. On en déduit : $$1+2\cos \theta =2⟺\cos \theta =\frac{1}{2}⟹\theta \equiv \pm \frac{\pi }{3}(\mathrm{mod}2\pi ).$$ Pour fixer le signe de l'angle par rapport à $\overrightarrow{u}$, prenons le vecteur $x=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)$. On a $Mx=\frac{1}{3}\left(\begin{array}{c}2\\ 2\\ -1\end{array}\right)$. Le produit vectoriel $x\wedge Mx$ vaut : $$x\wedge Mx=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)\wedge \left(\begin{array}{c}2/3\\ 2/3\\ -1/3\end{array}\right)=\left(\begin{array}{c}0\\ 1/3\\ 2/3\end{array}\right).$$ Le produit scalaire avec $\overrightarrow{u}$ est : $$⟨\overrightarrow{u},x\wedge Mx⟩=\frac{1}{\sqrt{3}}\left(0+\frac{1}{3}+\frac{2}{3}\right)=\frac{1}{\sqrt{3}}>0.$$ Comme ce produit mixte est strictement positif, l'angle de la rotation autour de l'axe orienté par $\overrightarrow{u}$ est : $$\theta =+\frac{\pi }{3}(60^{\circ }).$$