(⋆) Soient … et …. Vérifier que A, B ∈ O₂(ℝ) et identifier…

Nature de $A$ et $B$. Les colonnes de $A$, $\frac{1}{5}(3,4)$ et $\frac{1}{5}(-4,3)$, sont unitaires et orthogonales, et $\det A=\frac{9+16}{25}=1$ : $A$ est la rotation d'angle $\theta$ avec $\cos \theta =\frac{3}{5}$, $\sin \theta =\frac{4}{5}$. Les colonnes de $B$, $\frac{1}{13}(5,12)$ et $\frac{1}{13}(12,-5)$, sont unitaires et orthogonales, et $\det B=\frac{-25-144}{169}=-1$ : $B$ est une réflexion. Son axe $\ker (B-I_2)$ a pour équation $-8x+12y=0$ : il est dirigé par $(3,2)$. Contrôle : $B(3,2)=\frac{1}{13}(39,26)=(3,2)$.

Produits. Un calcul direct donne $$AB=\frac{1}{65}\left(\begin{array}{cc}-33& 56\\ 56& 33\end{array}\right),BA=\frac{1}{65}\left(\begin{array}{cc}63& 16\\ 16& -63\end{array}\right).$$ Comme ${\mathrm{O}}_2(\mathbb{R})$ est un groupe, ces matrices sont orthogonales, et $\det (AB)=\det (BA)=\det A\det B=-1$ : ce sont deux réflexions. Elles sont distinctes, donc $AB\ne BA$ : $A$ et $B$ ne commutent pas.

Axes. L'axe de $AB$ est $\ker (AB-I_2)$, d'équation $-98x+56y=0$, soit $y=\frac{7}{4}x$ : il est dirigé par $(4,7)$. L'axe de $BA$ a pour équation $-2x+16y=0$, soit $x=8y$ : il est dirigé par $(8,1)$.

Angle entre les axes. Les deux vecteurs ont la même norme $\sqrt{65}$, donc l'angle orienté $\alpha$ de $(8,1)$ vers $(4,7)$ vérifie $$\cos \alpha =\frac{8\cdot 4+1\cdot 7}{65}=\frac{39}{65}=\frac{3}{5},\sin \alpha =\frac{8\cdot 7-1\cdot 4}{65}=\frac{52}{65}=\frac{4}{5}.$$ On trouve bien $\alpha =\theta$. C'est la règle générale : si $s$ est la réflexion d'axe d'angle $\beta$, alors $r_{\theta }s$ est la réflexion d'axe d'angle $\beta +\frac{\theta }{2}$ et $s{r}_{\theta }$ celle d'axe d'angle $\beta -\frac{\theta }{2}$ ; leurs axes sont donc séparés de $\theta$.