Projecteurs, symétries, nilpotents : l'équation, puis la base adaptée

Ce qu'on a le droit d'utiliser. Le déterminant d'un endomorphisme est le déterminant commun de ses matrices dans toutes les bases — deux matrices semblables ont même déterminant, par $\det (P^{-1}AP)=\det (P^{-1})\det A\det P=\det A$ ; $\det (v\circ u)=\det v\det u$ ; le déterminant d'une matrice diagonale est le produit de ses coefficients diagonaux. Et, du chapitre sur les espaces vectoriels : un projecteur ($p^2=p$) vérifie $E=\mathrm{Im}p\oplus \mathrm{Ker}p$, une symétrie ($s^2=\mathrm{id}$) vérifie $E=\mathrm{Ker}(s-\mathrm{id})\oplus \mathrm{Ker}(s+\mathrm{id})$.

1) L'équation ne donne qu'une contrainte. Nilpotent : si $u^k=0$ avec $k\ge 1$, la multiplicativité donne $(\det u{)}^k=\det (u^k)=\det (0)=0$, et un scalaire dont une puissance est nulle est nul : $\det u=0$. Projecteur : $p^2=p$ donne $(\det p{)}^2=\det p$, soit $\det p(\det p-1)=0$ — on factorise, on ne divise pas par $\det p$, qui peut être nul — : $\det p\in \{0,1\}$. Symétrie : $s^2=\mathrm{id}$ donne $(\det s{)}^2=1$ : $\det s\in \{-1,1\}$. Ces valeurs sont toutes atteintes, et l'équation ne dit pas laquelle : l'identité et l'endomorphisme nul sont deux projecteurs, de déterminants $1$ et $0$ ; ${\mathrm{id}}_E$ et $-{\mathrm{id}}_E$ sont deux symétries, de déterminants $1$ et $(-1{)}^n$. Pour conclure, il faut regarder l'endomorphisme lui-même — dans la base qui l'arrange.

2) Les bases adaptées. Le projecteur. Soit $r=\dim \mathrm{Im}p$. Une base $(e_1,\dots ,e_r)$ de $\mathrm{Im}p$ suivie d'une base $(e_{r+1},\dots ,e_n)$ de $\mathrm{Ker}p$ est une base de $E$, la somme étant directe. Un projecteur est l'identité sur son image — si $y=p(x)$, alors $p(y)=p^2(x)=y$ —, donc $p(e_i)=e_i$ pour $i\le r$ et $p(e_i)=0$ pour $i>r$. La matrice est $\mathrm{diag}(1,\dots ,1,0,\dots ,0)$, avec $r$ coefficients $1$ : $\det p=1$ si $r=n$, et $0$ si $r<n$. Or $r=n$ signifie $\mathrm{Im}p=E$, et alors $p={\mathrm{id}}_E$. Dès que $p\ne {\mathrm{id}}_E$, $\det p=0$ : un projecteur autre que l'identité écrase au moins une direction. La symétrie. Soit $q=\dim \mathrm{Ker}(s+\mathrm{id})$. Une base de $\mathrm{Ker}(s-\mathrm{id})$, où $s$ fixe les vecteurs, suivie d'une base de $\mathrm{Ker}(s+\mathrm{id})$, où $s$ les change en leurs opposés, donne une matrice diagonale avec $n-q$ coefficients $1$ et $q$ coefficients $-1$ : $$\det s=(-1{)}^q=(-1{)}^{\dim \mathrm{Ker}(s+\mathrm{id})}.$$

Le point délicat. Le calcul est fait dans une base particulière, choisie pour la circonstance ; il donne le déterminant de l'endomorphisme parce que ce déterminant ne dépend pas de la base. C'est la définition même du déterminant d'un endomorphisme, par l'invariance sous la similitude, qui autorise à choisir la meilleure — et l'on n'a eu besoin d'aucune formule de changement de base pour un déterminant de famille, hors programme.

3) Trois applications. $-{\mathrm{id}}_E$ est la symétrie pour laquelle $\mathrm{Ker}(s+\mathrm{id})=E$ : $\det (-{\mathrm{id}}_E)=(-1{)}^n$, ce que donne aussi $\det (\lambda u)={\lambda }^n\det u$. La transposition. $T^2=\mathrm{id}$ : $T$ est une symétrie de ${\mathcal{M}}_n(\mathbb{K})$, qui fixe les matrices symétriques et change les antisymétriques en leurs opposées ; la décomposition $M=\frac{M+M^{\top }}{2}+\frac{M-M^{\top }}{2}$ est celle du cours. Une matrice antisymétrique a une diagonale nulle et est déterminée par ses coefficients au-dessus de la diagonale, arbitraires : les $E_{i,j}-E_{j,i}$, pour $i<j$, forment une base de ${\mathcal{A}}_n(\mathbb{K})$, de dimension $\frac{n(n-1)}{2}$. D'où $$\det T=(-1{)}^{n(n-1)/2},$$ qui vaut $-1$ pour $n=2$ et $n=3$, $+1$ pour $n=4$ et $n=5$. Pour $n=2$, $T$ échange $E_{1,2}$ et $E_{2,1}$ et fixe $E_{1,1}$, $E_{2,2}$ : une seule direction retournée, $E_{1,2}-E_{2,1}$. Le changement de $X$ en $-X$. ${\sigma }^2=\mathrm{id}$ : $\sigma$ fixe les $X^k$ d'exposant pair et change en leurs opposés ceux d'exposant impair. Sa matrice dans la base canonique est déjà $\mathrm{diag}(1,-1,1,-1,\dots )$, et $\mathrm{Ker}(\sigma +\mathrm{id})$, l'espace des polynômes impairs, a pour base les $X^k$ avec $k$ impair et $k\le n$, qui sont au nombre de $\lfloor \frac{n+1}{2}\rfloor$ : $$\det \sigma =(-1{)}^{\lfloor (n+1)/2\rfloor },$$ par exemple $-1$ pour $n=1$ et $n=2$, $+1$ pour $n=3$ et $n=4$.

Ce que l'exercice installe. Pour le déterminant d'un endomorphisme défini géométriquement, on cherche la base adaptée à sa géométrie — image et noyau, vecteurs fixes et vecteurs retournés —, où la matrice est diagonale. Le signe du déterminant détecte alors les miroirs : une symétrie renverse l'orientation exactement quand elle retourne un nombre impair de directions. C'est le fondement mathématique de la chiralité en chimie : l'image d'une molécule dans un miroir plan, obtenue par une transformation de déterminant $-1$, ne peut pas en général lui être superposée par des rotations, qui gardent le déterminant $+1$.