Ce que la symétrie rend gratuit

La stratégie, et les outils. Un seul théorème sert partout : le théorème spectral. Sa conséquence pratique est qu'un autoadjoint est entièrement déterminé par son spectre à un changement de base orthonormée près — d'où trois énoncés qui deviennent des évidences, et qui sont tous faux sans la symétrie.

a) Le cas $A^3=A$. Le polynôme $X^3-X=X(X-1)(X+1)$ annule $A$ ; il est scindé à racines simples, donc $A$ est diagonalisable et $\mathrm{Sp}(A)\subset \{-1,0,1\}$ (critère algébrique, chapitre 2).

Mais $A$ est symétrique réelle : le théorème spectral donne davantage, à savoir une base orthonormée de vecteurs propres, et la décomposition $${\mathbb{R}}^n=E_{-1}{\oplus }^{\perp }{E}_0{\oplus }^{\perp }{E}_1.$$ Géométriquement : $A$ agit comme l'identité sur $E_1$, comme $-\mathrm{id}$ sur $E_{-1}$, et écrase $E_0$ — c'est la différence $p_1-p_{-1}$ des projecteurs orthogonaux sur $E_1$ et $E_{-1}$.

La comparaison avec le chapitre 2 est le vrai contenu de la question. Là-bas, l'hypothèse $u^3=u$ donnait la diagonalisabilité, et rien de plus : les sous-espaces propres n'avaient aucune raison d'être orthogonaux. Ici l'orthogonalité est gratuite : elle ne coûte pas une ligne de calcul supplémentaire, elle est contenue dans la symétrie.

b) Une symétrique nilpotente est nulle. Soit $A\in {\mathcal{S}}_n(\mathbb{R})$ nilpotente. Étant nilpotente, sa seule valeur propre est $0$ (chapitre 2). Étant symétrique réelle, le théorème spectral l'écrit $A=PD{P}^{\top }$ avec $P$ orthogonale et $D$ diagonale portant les valeurs propres — donc $D=0$, donc $$A=P0P^{\top }=0.$$

Une seconde démonstration, sans spectre. Comme $A$ est symétrique, $A^{\top }A=A^2$. Comme $A$ est nilpotente, $A^2$ l'est aussi, donc $\mathrm{tr}\left(A^2\right)=0$. Or, pour toute matrice réelle, $$\mathrm{tr}\left(A^{\top }A\right)=\sum _{i=1}^n\sum _{j=1}^n{a}_{ij}^2.$$ Cette somme de carrés étant nulle, tous les $a_{ij}$ sont nuls : $A=0$. (Cette identité $\mathrm{tr}\left(A^{\top }A\right)=\sum a_{ij}^2$ est le carré de la norme euclidienne canonique de ${\mathcal{M}}_n(\mathbb{R})$ ; elle resservira souvent.)

Sans la symétrie, c'est faux. La matrice $\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ est nilpotente et non nulle. Le contraste est exactement celui du chapitre 2 : « spectre réduit à $\{0\}$ » n'y donnait que la nilpotence, jamais la nullité.

c) Un autoadjoint d'énergie nulle est nul. Soit $u$ autoadjoint avec $⟨u(x),x⟩=0$ pour tout $x$. Le théorème spectral fournit une base orthonormée $\left(e_1,\dots ,e_n\right)$ de vecteurs propres, $u\left(e_i\right)={\lambda }_i{e}_i$. En appliquant l'hypothèse à $x=e_i$ : $$0=⟨u\left(e_i\right),e_i⟩={\lambda }_i{\Vert e_i\Vert }^2={\lambda }_i.$$ Toutes les valeurs propres sont nulles, et $u$, diagonalisable de spectre $\{0\}$, est l'endomorphisme nul.

Sans l'autoadjonction, c'est faux. Dans le plan euclidien, la rotation $u$ d'un quart de tour vérifie $u(x)\perp x$ pour tout $x$, donc $⟨u(x),x⟩=0$ pour tout $x$ — et pourtant $u\ne 0$. (Plus généralement, $⟨u(x),x⟩=0$ pour tout $x$ caractérise les endomorphismes antisymétriques, c'est-à-dire ceux vérifiant $u^{\ast }=-u$ ; parmi eux, seul $0$ est autoadjoint.)

d) La seconde démonstration du c), par polarisation. Appliquons l'hypothèse au vecteur $x+y$ et développons par bilinéarité : $$0=⟨u(x+y),x+y⟩=⟨u(x),x⟩+⟨u(x),y⟩+⟨u(y),x⟩+⟨u(y),y⟩=⟨u(x),y⟩+⟨u(y),x⟩,$$ les deux termes extrêmes étant nuls par hypothèse. Or $u$ est autoadjoint, donc $⟨u(y),x⟩=⟨y,u(x)⟩=⟨u(x),y⟩$ par symétrie du produit scalaire. Il reste $$2⟨u(x),y⟩=0\text{pour tous }x,y\in E.$$ En prenant $y=u(x)$, on obtient $\Vert u(x){\Vert }^2=0$, donc $u(x)=0$ pour tout $x$ : $u=0$. Cette démonstration n'utilise ni valeur propre ni base : elle montre que le c) est un énoncé de pure bilinéarité.

e) Le principe commun. Dans les trois cas, l'hypothèse n'impose a priori que le spectre : $\mathrm{Sp}(A)\subset \{-1,0,1\}$ au a), $\mathrm{Sp}=\{0\}$ aux b) et c). Le théorème spectral dit qu'un autoadjoint est entièrement déterminé par son spectre et une base orthonormée propre : une information spectrale devient donc une information complète. Sans la symétrie, rien de tel — $\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ et $0$ ont le même spectre.

Ce que l'exercice installe. La symétrie ne fait pas que simplifier : elle change la nature des énoncés. Un raisonnement qui, au chapitre 2, s'arrêtait à « diagonalisable » aboutit ici à une description géométrique complète, et des énoncés faux en général deviennent vrais et immédiats. C'est la raison pour laquelle toute la suite du programme — calcul différentiel d'ordre $2$, matrices de Gram, optimisation — travaille avec des matrices symétriques.