Projecteurs, symétries, nilpotents : l'équation, puis la base adaptée

Ce qu'on a le droit d'utiliser. Le déterminant d'un endomorphisme ne dépend pas de la base dans laquelle on l'écrit ; $\det (v\circ u)=\det v\cdot \det u$ ; le déterminant d'une matrice diagonale est le produit de ses coefficients diagonaux. Et, du chapitre sur les espaces vectoriels : pour un projecteur, $E=\mathrm{Im}p\oplus \mathrm{Ker}p$ ; pour une symétrie, $E=\mathrm{Ker}(s-\mathrm{id})\oplus \mathrm{Ker}(s+\mathrm{id})$, la décomposition d'un vecteur étant $x=\frac{x+s(x)}{2}+\frac{x-s(x)}{2}$.

a) Un nilpotent. Par multiplicativité du déterminant, $\det (u^k)=(\det u{)}^k$. Or $u^k=0$, l'endomorphisme nul, dont le déterminant est $\det (0)=0$ (sa matrice est nulle, et $n\ge 1$). Donc $(\det u{)}^k=0$ dans le corps $\mathbb{K}$, où un produit nul a un facteur nul : $\det u=0$. Un endomorphisme nilpotent n'est jamais inversible — ce qu'on savait déjà autrement : s'il l'était, $u^k=0$ donnerait $u=0$ en composant par $u^{-1}$, et $0$ n'est pas inversible.

b) L'équation ne donne qu'une contrainte. De $p^2=p$ on tire $(\det p{)}^2=\det p$, soit $\det p(\det p-1)=0$ : $\det p\in \{0,1\}$. De $s^2=\mathrm{id}$ on tire $(\det s{)}^2=1$ : $\det s\in \{-1,1\}$.

Ces deux valeurs sont effectivement atteintes, et l'équation ne dit pas laquelle : $p=\mathrm{id}$ est un projecteur de déterminant $1$, $p=0$ un projecteur de déterminant $0$ ; $s=\mathrm{id}$ est une symétrie de déterminant $1$, $s=-\mathrm{id}$ une symétrie de déterminant $(-1{)}^n$, qui vaut $-1$ si $n$ est impair. L'équation vérifiée par $u$ contraint $\det u$ sans le déterminer. Pour conclure, il faut regarder l'endomorphisme lui-même — dans la base qui l'arrange.

c) Le projecteur dans une base adaptée. Notons $r=\dim \mathrm{Im}p$. Prenons une base $(e_1,\dots ,e_r)$ de $\mathrm{Im}p$ et une base $(e_{r+1},\dots ,e_n)$ de $\mathrm{Ker}p$ ; leur réunion est une base de $E$, parce que la somme est directe. Pour $i\le r$, $e_i\in \mathrm{Im}p$ donc $p(e_i)=e_i$ (un projecteur est l'identité sur son image : si $y=p(x)$, alors $p(y)=p^2(x)=p(x)=y$). Pour $i>r$, $p(e_i)=0$. La matrice de $p$ dans cette base est donc diagonale, avec $r$ coefficients $1$ suivis de $n-r$ coefficients $0$ : $$\det p=1^r\cdot 0^{n-r}=\{\begin{array}{ll}1& \text{si }r=n,\\ 0& \text{si }r<n.\end{array}$$ Or $r=n$ signifie $\mathrm{Im}p=E$, c'est-à-dire $p=\mathrm{id}$. Dès que $p\ne \mathrm{id}$, $\det p=0$ : un projecteur autre que l'identité écrase au moins une direction.

d) La symétrie dans une base adaptée. Notons $q=\dim \mathrm{Ker}(s+\mathrm{id})$ et $r=n-q=\dim \mathrm{Ker}(s-\mathrm{id})$. Prenons une base de $\mathrm{Ker}(s-\mathrm{id})$, sur laquelle $s(e_i)=e_i$, complétée par une base de $\mathrm{Ker}(s+\mathrm{id})$, sur laquelle $s(e_i)=-e_i$. La matrice de $s$ est diagonale, avec $r$ coefficients $1$ et $q$ coefficients $-1$ : $$\det s=1^r\cdot (-1{)}^q=(-1{)}^{\dim \mathrm{Ker}(s+\mathrm{id})}.$$ Deux cas particuliers. Pour $s=-{\mathrm{id}}_E$, $\mathrm{Ker}(s+\mathrm{id})=E$, donc $q=n$ et $\det (-{\mathrm{id}}_E)=(-1{)}^n$ — ce qu'on lit aussi sur la formule $\det (\lambda u)={\lambda }^n\det u$. Pour une réflexion, symétrie par rapport à un hyperplan $H$ parallèlement à une droite $D$, on a $\mathrm{Ker}(s-\mathrm{id})=H$ et $\mathrm{Ker}(s+\mathrm{id})=D$, donc $q=1$ et $\det s=-1$ : une réflexion renverse l'orientation, quelle que soit la dimension.

Le point délicat. Il ne faut pas confondre les deux temps. L'équation ($p^2=p$, $s^2=\mathrm{id}$, $u^k=0$) se traduit en une équation sur le scalaire $\det u$, et ne donne que ses valeurs possibles. La base adaptée donne la valeur effective, et elle le fait sans calcul parce que le déterminant d'un endomorphisme est indépendant de la base : on a le droit de choisir la meilleure.

Ce que l'exercice installe. Pour calculer le déterminant d'un endomorphisme défini géométriquement, on ne prend jamais sa matrice dans la base canonique : on cherche une base adaptée à sa géométrie (image et noyau, directions fixes et directions renversées), où la matrice est diagonale. Le déterminant se lit alors comme le produit des « facteurs de dilatation » sur ces directions — et c'est exactement ce que la deuxième année systématisera sous le nom de valeurs propres.