$u^2=-id$ : dimension paire et plans stables

Ce qu'on a le droit d'utiliser. La multiplicativité du déterminant, la définition d'un sous-espace stable et de l'endomorphisme induit, l'inégalité des dimensions et son cas d'égalité, et le théorème de traduction matricielle de la stabilité.

a) La parité. Prenons le déterminant des deux membres de $u^2=-{\mathrm{id}}_E$. Le déterminant d'une composée est le produit des déterminants, et celui de $-{\mathrm{id}}_E$ vaut $(-1{)}^n$, puisque sa matrice $-I_n$ est diagonale. Donc $$(\det u{)}^2=(-1{)}^n.$$ Le membre de gauche est le carré d'un réel : il est positif ou nul. Donc $(-1{)}^n\ge 0$, ce qui impose $(-1{)}^n=1$ : $n$ est pair. (C'est le seul endroit où sert le fait que le corps est $\mathbb{R}$ : sur $\mathbb{C}$, l'homothétie de rapport $\mathrm{i}$ vérifie $u^2=-\mathrm{id}$ en toute dimension.)

b) Pas de droite stable, mais des plans stables. Supposons qu'une droite $\mathrm{Vect}(x)$, avec $x\ne 0$, soit stable : alors $u(x)=\lambda x$ pour un réel $\lambda$, et en appliquant $u$ une seconde fois, $u^2(x)={\lambda }^{2}x$. Or $u^2(x)=-x$. Donc $({\lambda }^2+1)x=0$ avec $x\ne 0$, soit ${\lambda }^2=-1$ : c'est impossible pour un réel. Aucune droite n'est stable.

Soit maintenant $x\ne 0$. La famille $(x,u(x))$ est libre : sinon, $x$ étant non nul, on aurait $u(x)=\lambda x$ pour un certain réel $\lambda$, et la droite $\mathrm{Vect}(x)$ serait stable, ce qu'on vient d'exclure. Donc $P_x$ est un plan. Il est stable : ses deux vecteurs générateurs ont leur image dans $P_x$, puisque $u(x)\in P_x$ et $u(u(x))=-x\in P_x$, et par linéarité tout vecteur de $P_x$ a son image dans $P_x$. Dans la base $(x,u(x))$, l'endomorphisme induit envoie le premier vecteur sur le second, et le second sur l'opposé du premier ; en rangeant les coordonnées des images en colonnes : $${\mathrm{Mat}}_{(x,u(x))}\left(u_{|P_x}\right)=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right).$$ C'est la matrice de la rotation d'angle $\frac{\pi }{2}$ : sur chaque plan $P_x$, l'endomorphisme $u$ « tourne d'un quart de tour ».

c) Ajouter un plan à un sous-espace stable. Rappelons que l'intersection et la somme de deux sous-espaces stables sont stables : si $y\in F\cap G$, alors $u(y)$ est dans $F$ et dans $G$ ; si $y=f+g$ avec $f\in F$ et $g\in G$, alors $u(y)=u(f)+u(g)\in F+G$.

Le sous-espace $F\cap P_x$ est donc stable par $u$, et il est inclus dans le plan $P_x$ : sa dimension vaut $0$, $1$ ou $2$. Elle ne vaut pas $1$, car $F\cap P_x$ serait une droite stable, ce que le b) exclut. Elle ne vaut pas $2$ : ce serait $P_x$ tout entier, et l'on aurait $x\in P_x\subset F$, contrairement au choix de $x$. Donc $F\cap P_x=\{0\}$ : la somme $F+P_x$ est directe. Elle est stable, comme somme de deux sous-espaces stables.

Le point délicat. On n'a pas cherché à calculer $F\cap P_x$ : on a seulement utilisé qu'elle est stable, et qu'il n'existe aucun sous-espace stable de dimension $1$. C'est un raisonnement par les dimensions, typique de ce chapitre.

d) La base de blocs. On construit par récurrence une suite de sous-espaces stables. On pose $F_0=\{0\}$. Tant que $F_k\ne E$, on choisit $x_{k+1}\in E\setminus F_k$ et l'on pose $F_{k+1}=F_k\oplus P_{x_{k+1}}$ : d'après le c), c'est encore un sous-espace stable, et sa dimension vaut $\dim F_k+2$. Les dimensions croissent strictement et restent majorées par $n$ : le procédé s'arrête, à une étape $m$ où $F_m=E$, et alors $n=2m$ — on retrouve au passage la parité de $n$.

On a obtenu $E=P_{x_1}+P_{x_2}+\cdots +P_{x_m}$ avec $\dim E=2m={\sum }_k\dim P_{x_k}$ : le cas d'égalité de l'inégalité des dimensions dit que cette somme est directe. Concaténons les bases $(x_k,u(x_k))$ : on obtient une base de $E$ adaptée à la décomposition $E=P_{x_1}\oplus \cdots \oplus P_{x_m}$ en sous-espaces stables. Le théorème de traduction matricielle de la stabilité donne alors une matrice diagonale par blocs, chaque bloc étant la matrice de l'endomorphisme induit calculée au b) : $$\mathrm{Mat}(u)=\left(\begin{array}{ccc}R& & \\ & \ddots & \\ & & R\end{array}\right),R=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right),$$ avec $m=\frac{n}{2}$ blocs $R$ sur la diagonale.

e) Un exemple. Un calcul ligne par colonne donne $$A^2=\left(\begin{array}{cc}1-2& -2+2\\ 1-1& -2+1\end{array}\right)=-I_2.$$ La méthode du b) dit quoi faire : prendre un vecteur non nul, par exemple $e_1=(1,0)$, et son image $A{e}_1=(1,1)$, qui est la première colonne de $A$. Dans la base $(e_1,A{e}_1)$, la matrice de l'endomorphisme canoniquement associé à $A$ est $R$. La matrice de passage a pour colonnes ces deux vecteurs : $$P=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right),P^{-1}AP=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right).$$ Vérification. $P^{-1}=\left(\begin{array}{cc}1& -1\\ 0& 1\end{array}\right)$ et $AP=\left(\begin{array}{cc}1& -1\\ 1& 0\end{array}\right)$, d'où $P^{-1}(AP)=\left(\begin{array}{cc}1-1& -1-0\\ 1& 0\end{array}\right)=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$.

Ce que l'exercice installe. Quand un endomorphisme réel n'a aucune droite stable, on cherche des plans stables $\mathrm{Vect}(x,u(x))$ et on les empile : c'est le geste qui réduira les rotations et les isométries au chapitre 4, où chaque plan tournant porte un bloc de rotation. La relation $u^2=-\mathrm{id}$ est une « structure complexe » : $u$ joue le rôle de la multiplication par $\mathrm{i}$. On la rencontre en électricité sans la nommer : sur le plan engendré par $t\mapsto \cos (\omega t)$ et $t\mapsto \sin (\omega t)$, l'opérateur $\frac{1}{\omega }\frac{\mathrm{d}}{\mathrm{d}t}$ vérifie $u^2=-\mathrm{id}$, et c'est lui que la notation complexe remplace par la multiplication par $\mathrm{i}$.