Reconnaître une matrice orthogonale du plan

Stratégie : un seul critère, appliqué trois fois. Une matrice $M\in {\mathcal{M}}_2(\mathbb{R})$ est orthogonale si et seulement si ses colonnes forment une base orthonormale de ${\mathbb{R}}^2$ (deux normes égales à $1$, un produit scalaire nul). Ce n'est qu'ensuite, et seulement si le test a réussi, que le déterminant sépare directe ($+1$) et indirecte ($-1$). L'ordre des deux questions n'est pas négociable, et la troisième matrice est là pour le rappeler.

Première matrice : $A=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}1& -1\\ 1& 1\end{array}\right)$.

Colonnes : $C_1=\frac{1}{\sqrt{2}}(1,1)$ et $C_2=\frac{1}{\sqrt{2}}(-1,1)$. $$\Vert C_1{\Vert }^2=\frac{1+1}{2}=1,\Vert C_2{\Vert }^2=\frac{1+1}{2}=1,⟨C_1,C_2⟩=\frac{-1+1}{2}=0.$$ Base orthonormale : $A\in {\mathrm{O}}_2(\mathbb{R})$. Son déterminant vaut $$\det A=\frac{1}{2}(1\times 1-(-1)\times 1)=\frac{2}{2}=+1:A\text{ est }\text{directe},A\in {\mathrm{SO}}_2(\mathbb{R}).$$ C'est donc une rotation. Son angle se lit sur la forme $R(\theta )=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)$ : $$\cos \theta =\frac{1}{\sqrt{2}},\sin \theta =\frac{1}{\sqrt{2}}⟹\theta =\frac{\pi }{4}.$$ $A$ est la rotation d'angle $\frac{\pi }{4}$ ($45^{\circ }$). Recoupement par la trace : $\mathrm{tr}A=\frac{2}{\sqrt{2}}=\sqrt{2}=2\cos \frac{\pi }{4}$ $✓$.

Deuxième matrice : $B=\frac{1}{5}\left(\begin{array}{cc}3& 4\\ 4& -3\end{array}\right)$.

Colonnes : $C_1=\frac{1}{5}(3,4)$ et $C_2=\frac{1}{5}(4,-3)$. $$\Vert C_1{\Vert }^2=\frac{9+16}{25}=1,\Vert C_2{\Vert }^2=\frac{16+9}{25}=1,⟨C_1,C_2⟩=\frac{12-12}{25}=0.$$ Donc $B\in {\mathrm{O}}_2(\mathbb{R})$. Déterminant : $$\det B=\frac{1}{25}(3\times (-3)-4\times 4)=\frac{-9-16}{25}=\frac{-25}{25}=-1:B\text{ est }\text{indirecte}.$$ C'est donc une réflexion (classification en dimension $2$). Elle est de la forme $S(\theta )=\left(\begin{array}{cc}\cos \theta & \sin \theta \\ \sin \theta & -\cos \theta \end{array}\right)$ avec $\cos \theta =\frac{3}{5}$ et $\sin \theta =\frac{4}{5}$, et son axe est la droite d'angle polaire $\frac{\theta }{2}$. Les formules de duplication donnent, puisque $\theta \in \left]0,\frac{\pi }{2}\right[$ donc $\frac{\theta }{2}\in \left]0,\frac{\pi }{4}\right[$ (cosinus et sinus positifs) : $$\cos \frac{\theta }{2}=\sqrt{\frac{1+\cos \theta }{2}}=\sqrt{\frac{1+\frac{3}{5}}{2}}=\sqrt{\frac{4}{5}}=\frac{2}{\sqrt{5}},\sin \frac{\theta }{2}=\sqrt{\frac{1-\cos \theta }{2}}=\sqrt{\frac{1}{5}}=\frac{1}{\sqrt{5}}.$$ L'axe est donc dirigé par $(2,1)$ : $B$ est la réflexion par rapport à la droite d'équation $y=\frac{x}{2}$, de pente $\frac{1}{2}$, soit un angle polaire $\arctan \frac{1}{2}\approx 26,57^{\circ }$.

Vérification directe, qui évite toute erreur de signe : $$B\left(\begin{array}{c}2\\ 1\end{array}\right)=\frac{1}{5}\left(\begin{array}{c}6+4\\ 8-3\end{array}\right)=\left(\begin{array}{c}2\\ 1\end{array}\right)\text{(vecteur fixeˊ)},B\left(\begin{array}{c}-1\\ 2\end{array}\right)=\frac{1}{5}\left(\begin{array}{c}-3+8\\ -4-6\end{array}\right)=\left(\begin{array}{c}1\\ -2\end{array}\right)=-\left(\begin{array}{c}-1\\ 2\end{array}\right)\text{(vecteur retourneˊ)}.$$ L'axe $\mathbb{R}(2,1)$ est fixé point par point, sa perpendiculaire $\mathbb{R}(-1,2)$ est retournée : c'est bien la réflexion annoncée.

Troisième matrice : $C=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$.

Colonnes : $C_1=(1,0)$, de norme $1$, mais $$\Vert C_2{\Vert }^2=\Vert (1,1){\Vert }^2=1+1=2\ne 1.$$ La seconde colonne n'est pas unitaire : $C\notin {\mathrm{O}}_2(\mathbb{R})$. On peut aussi le voir sur le produit ${}^{t}CC=\left(\begin{array}{cc}1& 1\\ 1& 2\end{array}\right)\ne I_2$, ou sur l'orthogonalité qui échoue elle aussi : $⟨C_1,C_2⟩=1\ne 0$.

Et c'est ici que se trouve le piège. On a pourtant $$\det C=1\times 1-1\times 0=+1.$$ Un déterminant égal à $+1$ ne prouve rien : il ne caractérise pas l'orthogonalité (c'est la mise en garde du cours, avec l'exemple $\left(\begin{array}{cc}1& 5\\ 0& 1\end{array}\right)$). La question « directe ou indirecte ? » ne se pose même pas pour $C$ : ce vocabulaire ne trie que les isométries, et $C$ n'en est pas une.

Géométriquement, $C$ laisse $e_1$ fixe et envoie $e_2=(0,1)$ sur $(1,1)$ : elle « pousse » le plan parallèlement à l'axe des abscisses, d'autant plus loin qu'on s'en éloigne. Elle conserve les aires ($\det =1$) mais pas les longueurs. Un vecteur suffit à la disqualifier : $\Vert C{e}_2\Vert =\Vert (1,1)\Vert =\sqrt{2}\approx 1,414\ne 1=\Vert e_2\Vert$.

Synthèse.

matrice	colonnes orthonormales ?	$\det$	conclusion
$A=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}1& -1\\ 1& 1\end{array}\right)$	oui	$+1$	rotation d'angle $\frac{\pi }{4}$, directe
$B=\frac{1}{5}\left(\begin{array}{cc}3& 4\\ 4& -3\end{array}\right)$	oui	$-1$	réflexion d'axe $y=\frac{x}{2}$, indirecte
$C=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$	non ($\Vert C_2\Vert =\sqrt{2}$)	$+1$	pas orthogonale ; la question directe/indirecte n'a pas lieu d'être

Contrôle chiffré supplémentaire. Deux propriétés caractéristiques, vérifiées sur les matrices retenues :

• $A$ étant la rotation d'angle $\frac{\pi }{4}$, on doit avoir $A^8=R(2\pi )=I_2$ ; le calcul le confirme, et $A^4=R(\pi )=-I_2$.
• $B$ étant une réflexion, c'est une involution : $B^2=\frac{1}{25}{\left(\begin{array}{cc}3& 4\\ 4& -3\end{array}\right)}^2=\frac{1}{25}\left(\begin{array}{cc}25& 0\\ 0& 25\end{array}\right)=I_2$ $✓$. Une rotation n'a cette propriété que pour $\theta \in \{0,\pi \}$, ce qui distingue à nouveau les deux familles.

Ce qui est acquis. La méthode tient en trois gestes, toujours dans cet ordre : tester les colonnes (normes et produit scalaire), puis calculer le déterminant, puis seulement nommer l'objet — rotation d'angle donné par $\cos \theta$ et $\sin \theta$ lus dans la matrice, ou réflexion d'axe la droite d'angle $\frac{\theta }{2}$. Sauter la première étape, c'est se laisser piéger par $C$.