Le déterminant d'une symétrie compte les vecteurs retournés

Stratégie : choisir la base qui rend l'endomorphisme lisible. Le déterminant d'un endomorphisme ne dépend pas de la base dans laquelle on le calcule. On a donc le droit de choisir la meilleure — et pour une symétrie, la meilleure est celle qui suit la décomposition en vecteurs invariants et vecteurs retournés.

1) La décomposition adaptée. Une symétrie est caractérisée par $s^2=\mathrm{id}$, et le cours du chapitre 10 donne alors

$$E=\mathrm{Ker}(s-\mathrm{id})\oplus \mathrm{Ker}(s+\mathrm{id}),$$

le premier sous-espace rassemblant les vecteurs que $s$ laisse en place, le second ceux que $s$ change en leur opposé. Notons $q=\dim \mathrm{Ker}(s+\mathrm{id})$, le nombre de directions retournées, et $r=n-q$ la dimension des vecteurs invariants.

2) La matrice dans une base adaptée. Concaténons une base du premier sous-espace et une base du second : comme la somme est directe et remplit $E$, on obtient une base $e$ de $E$. Sur les $r$ premiers vecteurs, $s$ est l'identité ; sur les $q$ derniers, $s$ est l'opposé de l'identité. La matrice de $s$ dans cette base est donc diagonale, avec $r$ coefficients égaux à $1$ puis $q$ coefficients égaux à $-1$ :

$${\mathrm{Mat}}_e(s)=\mathrm{diag}(\underset{r}{\underbrace{1,\dots ,1}},\underset{q}{\underbrace{-1,\dots ,-1}}).$$

3) Le déterminant. Le déterminant d'une matrice diagonale est le produit de ses coefficients diagonaux, donc

$$\boxed{\det s=1^r\times (-1{)}^q=(-1{)}^{\dim \mathrm{Ker}(s+\mathrm{id})}.}$$

⚠️ Le point délicat est l'indépendance vis-à-vis de la base. Le calcul a été fait dans une base particulière, choisie pour la circonstance ; le résultat vaut pour toute base parce que le cours définit $\det s$ indépendamment du choix de $e$. Sans ce théorème, on n'aurait calculé que le déterminant d'une matrice, pas celui de l'endomorphisme.

Lecture géométrique. Une symétrie ne change jamais les volumes en valeur absolue, puisque son déterminant vaut $1$ ou $-1$ ; elle peut en revanche renverser l'orientation, et le fait exactement lorsque le nombre de directions retournées est impair. Dans le plan, une symétrie axiale retourne une direction : son déterminant vaut $-1$, c'est un miroir. Une symétrie centrale du plan en retourne deux : son déterminant vaut $1$, et c'est bien une rotation d'un demi-tour, qui préserve l'orientation.

Contrôle dans le plan. La symétrie qui échange les coordonnées, $s(x,y)=(y,x)$, vaut l'identité sur le vecteur $(1,1)$ et l'opposé de l'identité sur $(1,-1)$ : ici $q=1$, donc $\det s=-1$. Calcul direct dans la base canonique, où sa matrice est $\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$ : le déterminant vaut $0\times 0-1\times 1=-1$ ✓ — deux bases, un seul nombre.

Ce que l'exercice installe. Le signe du déterminant est un détecteur de miroir, et sa valeur absolue mesure la dilatation des volumes. Une symétrie ne dilate rien, mais elle renverse l'orientation dès qu'elle retourne un nombre impair de directions.