Une rotation du plan n'a pas de valeur propre réelle

Stratégie : deux polynômes caractéristiques de degré 2, et un discriminant. En dimension $2$, ${\chi }_A(X)=X^2-\mathrm{tr}(A)X+\det (A)$ (première année) : trace et déterminant suffisent, aucun développement n'est nécessaire. Il reste à lire le signe du discriminant.

Étape 1 — le cas direct : $R(\theta )$. On a $$\mathrm{tr}R(\theta )=2\cos \theta ,\det R(\theta )={\cos }^2\theta +{\sin }^2\theta =1,$$ donc $${\chi }_{R(\theta )}(X)=X^2-2\cos \theta X+1.$$ Son discriminant vaut $$\Delta =4{\cos }^2\theta -4=-4(1-{\cos }^2\theta )=-4{\sin }^2\theta \le 0.$$

Étape 2 — quand $\Delta$ s'annule-t-il ? $\Delta =0⟺\sin \theta =0⟺\theta \equiv 0[\pi ]$, et l'on distingue les deux cas :

• $\theta \equiv 0[2\pi ]$ : $R(\theta )=I_2=\mathrm{id}$, spectre $\{1\}$ ;
• $\theta \equiv \pi [2\pi ]$ : $R(\theta )=-I_2=-\mathrm{id}$, spectre $\{-1\}$.

Ce sont exactement les deux isométries écartées par l'énoncé. Donc, si $u$ est directe et distincte de $\pm \mathrm{id}$, alors $\sin \theta \ne 0$ et $$\Delta =-4{\sin }^2\theta <0\text{ strictement}:$$ ${\chi }_{R(\theta )}$ n'a aucune racine réelle, donc $u$ n'a aucune valeur propre réelle. Son spectre réel est vide.

Pourquoi c'est géométriquement inévitable. Avoir une valeur propre réelle, c'est posséder une droite stable sur laquelle $u$ agit par un scalaire. Or une rotation d'angle $\theta \not\equiv 0[\pi ]$ fait tourner toute droite d'un angle $\theta$ non multiple de $\pi$ : aucune droite ne revient sur elle-même. Le calcul du discriminant ne fait que constater cette impossibilité.

Complément, pour situer. Sur $\mathbb{C}$, les racines de $X^2-2\cos \theta X+1$ sont $e^{i\theta }$ et $e^{-i\theta }$ — leur somme vaut $2\cos \theta$ et leur produit $1$, ce qui est bien trace et déterminant. Elles sont de module $1$, en accord avec l'exercice sur les valeurs propres d'une isométrie ; simplement, elles ne sont pas réelles.

Étape 3 — le cas indirect : $S(\theta )$. Avec $S(\theta )=\left(\begin{array}{cc}\cos \theta & \sin \theta \\ \sin \theta & -\cos \theta \end{array}\right)$ : $$\mathrm{tr}S(\theta )=\cos \theta -\cos \theta =0,\det S(\theta )=-{\cos }^2\theta -{\sin }^2\theta =-1.$$ La trace est nulle pour tout $\theta$ — c'est la signature des isométries indirectes du plan. D'où $${\chi }_{S(\theta )}(X)=X^2-0\cdot X+(-1)=X^2-1=(X-1)(X+1).$$ Deux racines réelles distinctes : $1$ et $-1$, quelle que soit la valeur de $\theta$.

Étape 4 — lecture géométrique du cas indirect. Les deux sous-espaces propres sont des droites (deux valeurs propres distinctes en dimension $2$, donc deux droites propres) :

• $\ker (S(\theta )-I_2)$ est l'axe de la réflexion, la droite d'angle polaire $\frac{\theta }{2}$ ;
• $\ker (S(\theta )+I_2)$ est la droite orthogonale à l'axe, retournée par la réflexion.

Ces deux droites sont orthogonales — soit par le calcul explicite fait à l'exercice sur la composée de deux réflexions, soit par l'argument général : pour une isométrie, $\ker (u-\mathrm{id})\perp \ker (u+\mathrm{id})$. La matrice est donc semblable à $\mathrm{diag}(1,-1)$ dans une base orthonormale : on retrouve la classification du cours.

Étape 5 — le tableau complet des isométries du plan.

isométrie de ${\mathbb{R}}^2$	$\det$	$\chi$	spectre réel	diagonalisable sur $\mathbb{R}$ ?
$R(\theta )$, $\theta \not\equiv 0[\pi ]$	$+1$	$X^2-2\cos \theta X+1$	$\varnothing$	non
$\mathrm{id}=R(0)$	$+1$	$(X-1{)}^2$	$\{1\}$	oui
$-\mathrm{id}=R(\pi )$	$+1$	$(X+1{)}^2$	$\{-1\}$	oui
$S(\theta )$ (réflexion)	$-1$	$(X-1)(X+1)$	$\{1,-1\}$	oui

On en tire d'un coup d'œil : une isométrie du plan est diagonalisable sur $\mathbb{R}$ si et seulement si c'est $\pm \mathrm{id}$ ou une réflexion. Et l'on vérifie que chaque ligne respecte l'inclusion ${\mathrm{Sp}}_{\mathbb{R}}\subset \{-1,1\}$ de l'exercice précédent, la première ligne montrant que cette inclusion peut être stricte au point d'être vide.

Le point délicat. Il n'y a aucune contradiction entre « les valeurs propres réelles d'une isométrie valent $\pm 1$ » et « une rotation n'a pas de valeur propre réelle » : le premier énoncé est une inclusion portant sur un ensemble qui peut être vide. On a le droit de conclure « si $\lambda$ est réelle alors $\lambda =\pm 1$ » sans jamais pouvoir conclure « $1$ ou $-1$ est valeur propre ».

Contrôle chiffré. Pour $\theta =\frac{\pi }{3}$ :

• $R\left(\frac{\pi }{3}\right)=\left(\begin{array}{cc}\frac{1}{2}& -\frac{\sqrt{3}}{2}\\ \frac{\sqrt{3}}{2}& \frac{1}{2}\end{array}\right)$ : $\mathrm{tr}=1$, $\det =\frac{1}{4}+\frac{3}{4}=1$, donc $\chi =X^2-X+1$ et $\Delta =1-4=-3<0$ $✓$. Racines complexes $\frac{1}{2}\pm i\frac{\sqrt{3}}{2}=e^{\pm i\pi /3}$, de module $1$ $✓$.
• $S\left(\frac{\pi }{3}\right)=\left(\begin{array}{cc}\frac{1}{2}& \frac{\sqrt{3}}{2}\\ \frac{\sqrt{3}}{2}& -\frac{1}{2}\end{array}\right)$ : $\mathrm{tr}=0$, $\det =-\frac{1}{4}-\frac{3}{4}=-1$, donc $\chi =X^2-1$, valeurs propres $1$ et $-1$ $✓$. Vecteur fixe : $\left(\cos \frac{\pi }{6},\sin \frac{\pi }{6}\right)=\left(\frac{\sqrt{3}}{2},\frac{1}{2}\right)$, et l'on vérifie $S\left(\frac{\pi }{3}\right)\left(\begin{array}{c}\sqrt{3}\\ 1\end{array}\right)=\left(\begin{array}{c}\frac{\sqrt{3}}{2}+\frac{\sqrt{3}}{2}\\ \frac{3}{2}-\frac{1}{2}\end{array}\right)=\left(\begin{array}{c}\sqrt{3}\\ 1\end{array}\right)$ $✓$ : l'axe est bien à l'angle polaire $\frac{\theta }{2}=\frac{\pi }{6}$.

Ce qui est acquis. Le déterminant sépare les deux familles, la trace achève l'identification : $\mathrm{tr}=2\cos \theta$ donne l'angle d'une rotation, $\mathrm{tr}=0$ signale à coup sûr une réflexion. Et l'on retient que l'absence de valeur propre réelle n'est pas un accident de calcul mais la traduction algébrique d'un fait géométrique : une rotation ne laisse aucune direction invariante.