La conjugaison retourne l'angle, et le centre se réduit à deux matrices

Stratégie. On se place dans une base orthonormale directe et l'on ne manipule que des matrices $2\times 2$. Deux identités suffisent : ${\mathrm{SO}}_2(\mathbb{R})$ est commutatif, et toute réflexion s'écrit $S(\alpha )=R(\alpha )S(0)$ avec $S(0)=\mathrm{diag}(1,-1)$, ce qui ramène tout le calcul à la conjugaison par $S(0)$.

Notations. $R(\theta )=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)$ et $S(\alpha )=\left(\begin{array}{cc}\cos \alpha & \sin \alpha \\ \sin \alpha & -\cos \alpha \end{array}\right)$ décrivent respectivement ${\mathrm{SO}}_2(\mathbb{R})$ et les matrices indirectes. On vérifie $R(\alpha )S(0)=S(\alpha )$ et $S(\alpha {)}^2=I_2$, donc $S(\alpha {)}^{-1}=S(\alpha )$.

1. Le cas direct. Si $f$ est directe, sa matrice est un $R(\alpha )$, et ${\mathrm{SO}}_2(\mathbb{R})$ est commutatif (les rotations planes s'ajoutent : $R(\alpha )R(\theta )=R(\alpha +\theta )=R(\theta )R(\alpha )$). Donc $$R(\alpha )R(\theta )R(\alpha {)}^{-1}=R(\theta )R(\alpha )R(\alpha {)}^{-1}=R(\theta ):f\circ r\circ f^{-1}=r.$$

2. Le cas indirect. Établissons d'abord $S(0)R(\phi )S(0)=R(-\phi )$ : $$\left(\begin{array}{cc}1& 0\\ 0& -1\end{array}\right)\left(\begin{array}{cc}\cos \phi & -\sin \phi \\ \sin \phi & \cos \phi \end{array}\right)\left(\begin{array}{cc}1& 0\\ 0& -1\end{array}\right)=\left(\begin{array}{cc}\cos \phi & -\sin \phi \\ -\sin \phi & -\cos \phi \end{array}\right)\left(\begin{array}{cc}1& 0\\ 0& -1\end{array}\right)=\left(\begin{array}{cc}\cos \phi & \sin \phi \\ -\sin \phi & \cos \phi \end{array}\right),$$ qui est $R(-\phi )$. Alors, en écrivant $S(\alpha )=R(\alpha )S(0)$ deux fois et en regroupant : $$S(\alpha )R(\theta )S(\alpha {)}^{-1}=R(\alpha )S(0)R(\theta )R(\alpha )S(0)=R(\alpha )[S(0)R(\theta +\alpha )S(0)]=R(\alpha )R(-\theta -\alpha )=R(-\theta ).$$ Autrement dit $f\circ r\circ f^{-1}=r^{-1}$ : conjuguer par une isométrie indirecte retourne l'angle.

3. Stabilité par conjugaison. Dans les deux cas le conjugué est $R(\pm \theta )\in {\mathrm{SO}}_2(\mathbb{R})$ : l'ensemble des rotations est stable par conjugaison dans ${\mathrm{O}}_2(\mathbb{R})$. On peut aussi le voir sans calcul, par le déterminant : $\det (fr{f}^{-1})=\det (f)\det (r)\det (f{)}^{-1}=\det (r)=1$.

4. Le centre de ${\mathrm{O}}_2(\mathbb{R})$. Soit $A\in {\mathrm{O}}_2(\mathbb{R})$ commutant avec toutes les matrices orthogonales.

$A$ ne peut être indirecte. Si $A=S(\alpha )$, le point 2 appliqué à $\theta =\frac{\pi }{2}$ donne $AR(\frac{\pi }{2})A^{-1}=R(-\frac{\pi }{2})\ne R(\frac{\pi }{2})$, donc $A$ ne commute pas avec $R(\frac{\pi }{2})$.

$A$ est donc directe, disons $A=R(\beta )$. Elle doit commuter avec la réflexion $S(0)$, c'est-à-dire $S(0)R(\beta )S(0{)}^{-1}=R(\beta )$. Le point 2 transforme le membre de gauche en $R(-\beta )$, d'où $R(-\beta )=R(\beta )$, soit $R(2\beta )=I_2$ et $2\beta \equiv 0[2\pi ]$, c'est-à-dire $\beta \equiv 0[\pi ]$. Il reste $A=R(0)=I_2$ ou $A=R(\pi )=-I_2$.

Réciproquement $I_2$ et $-I_2$ commutent avec toute matrice. Le centre est donc exactement $$\{I_2,-I_2\}.$$

Le point délicat. Le calcul du point 2 ne dépend pas de $\alpha$ : toutes les réflexions retournent l'angle de la même façon. C'est normal — conjuguer, c'est relire la rotation dans une autre base orthonormale, et seule l'orientation de cette base compte, pas la base elle-même.

Le point à retenir. L'angle d'une rotation plane n'est défini qu'une fois le plan orienté : changer d'orientation le change en son opposé. Et une isométrie qui commute avec toutes les autres ne peut ni privilégier une direction (sinon elle ne commuterait pas avec les rotations) ni une orientation (sinon elle ne commuterait pas avec les réflexions) : il ne reste que $\pm \mathrm{id}$.