(⋆) Soient … et …. Vérifier que A, B ∈ O₂(ℝ) et identifier…

Nature de $A$ et $B$. Les colonnes de $A$, $\frac{1}{5}(3,4)$ et $\frac{1}{5}(-4,3)$, sont unitaires et orthogonales, et $\det A=\frac{9+16}{25}=1$ : $A$ est la rotation d'angle $\theta$ avec $\cos \theta =\frac{3}{5}$, $\sin \theta =\frac{4}{5}$. Les colonnes de $B$, $\frac{1}{13}(5,12)$ et $\frac{1}{13}(12,-5)$, sont unitaires ($25+144=169$) et orthogonales, et $\det B=\frac{-25-144}{169}=-1$ : $B$ est une réflexion, d'axe $\ker (B-I_2)$ : $-8x+12y=0$, dirigé par $(3,2)$.

Produits. $$AB=\frac{1}{65}\left(\begin{array}{cc}15-48& 36+20\\ 20+36& 48-15\end{array}\right)=\frac{1}{65}\left(\begin{array}{cc}-33& 56\\ 56& 33\end{array}\right),$$ $$BA=\frac{1}{65}\left(\begin{array}{cc}15+48& -20+36\\ 36-20& -48-15\end{array}\right)=\frac{1}{65}\left(\begin{array}{cc}63& 16\\ 16& -63\end{array}\right).$$ Ce sont des matrices orthogonales (produits de matrices orthogonales) de déterminant $\det A\det B=-1$ : deux réflexions. Elles sont différentes, donc $AB\ne BA$ : $A$ et $B$ ne commutent pas.

Axes. $\ker (AB-I_2)$ : $-98x+56y=0$, soit $7x=4y$, axe dirigé par $(4,7)$. $\ker (BA-I_2)$ : $-2x+16y=0$, axe dirigé par $(8,1)$. Ces deux vecteurs ont même norme $\sqrt{65}$, et $$\cos (\widehat{(8,1),(4,7)})=\frac{32+7}{65}=\frac{3}{5},\sin (\widehat{(8,1),(4,7)})=\frac{8\cdot 7-1\cdot 4}{65}=\frac{4}{5}:$$ l'axe de $AB$ se déduit de celui de $BA$ par la rotation $A$ d'angle $\theta$.