Problème — Le quotient de Rayleigh et le théorème spectral

Ce qu'on a le droit d'utiliser. Du chapitre 3 : le produit scalaire, l'orthogonalité, le supplémentaire orthogonal et sa dimension — rien d'autre, et surtout pas le théorème spectral, qu'on est en train de redémontrer. Du chapitre 4 : « fermé borné en dimension finie équivaut à compact » et le théorème des bornes atteintes. Du chapitre 11 : la différentielle, l'espace tangent à la sphère et le théorème d'optimisation sous une contrainte numérique.

1) Les bornes sont atteintes. $S={\mathcal{N}}^{-1}(\{1\})$ où $\mathcal{N}:x\mapsto \Vert x\Vert$ est continue : $S$ est fermée comme image réciproque d'un fermé. Elle est bornée (tous ses points sont de norme $1$). En dimension finie, fermée bornée équivaut à compacte (chapitre 4) : $S$ est compacte. Et $q$ est continue, étant polynomiale en les coordonnées. Par le théorème des bornes atteintes, $q$ atteint sur $S$ un maximum et un minimum. (Cette question n'est pas une formalité : c'est elle, et elle seule, qui garantit l'existence d'un vecteur propre, donc tout le reste.)

2) Les points critiques liés sont les vecteurs propres unitaires. Le gradient de $q$. Pour $h\in {\mathbb{R}}^n$, $$q(x+h)=⟨A(x+h),x+h⟩=q(x)+⟨Ax,h⟩+⟨Ah,x⟩+⟨Ah,h⟩.$$ $A$ étant symétrique, $⟨Ah,x⟩=⟨h,Ax⟩=⟨Ax,h⟩$ : les deux termes du milieu fusionnent. Et $|⟨Ah,h⟩|\le \Vert Ah\Vert \Vert h\Vert \le \Vert A\Vert \Vert h{\Vert }^2=o(\Vert h\Vert )$ par Cauchy–Schwarz. Comme $h\mapsto 2⟨Ax,h⟩$ est linéaire, $q$ est différentiable et $$\mathrm{d}q(x)\cdot h=2⟨Ax,h⟩,\nabla q(x)=2Ax.$$ C'est ici, et uniquement ici, que la symétrie de $A$ sert : pour $A$ quelconque on trouverait $\nabla q(x)=(A+A^{\mathsf{T}})x$. De même $g(x)=⟨x,x⟩-1$ donne $\nabla g(x)=2x$, non nul sur $S$ : la contrainte est qualifiée en tout point de $S$, ce qui est l'hypothèse $\mathrm{d}g\ne 0$ du théorème.

Sens direct. Soit $x\in S$ un extremum local de $q$ restreinte à $S$. Le théorème d'optimisation sous contrainte fournit $\lambda \in \mathbb{R}$ avec $\nabla q(x)=\lambda \nabla g(x)$, c'est-à-dire $2Ax=2\lambda x$ : $$Ax=\lambda x,\Vert x\Vert =1:$$ $x$ est un vecteur propre unitaire de $A$, de valeur propre $\lambda$.

Sens réciproque. Si $Ax=\lambda x$ avec $\Vert x\Vert =1$, alors $\nabla q(x)=2\lambda x=\lambda \nabla g(x)$ : les deux gradients sont colinéaires, et $x$ est un point critique lié. (De façon équivalente : $\mathrm{d}q(x)$ s'annule sur l'espace tangent $T_{x}S=x^{\perp }$, donné par le cours comme exemple fondateur.)

La valeur critique. En un tel point, $$q(x)=⟨\lambda x,x⟩=\lambda \Vert x{\Vert }^2=\lambda :$$ le multiplicateur de Lagrange est la valeur propre, et c'est aussi la valeur de $q$.

3) Identification du maximum et du minimum. Notons $M={\max }_{S}q$, atteint en $x^{\ast }\in S$. Par le 2), $x^{\ast }$ est un vecteur propre unitaire et $M=q(x^{\ast })$ est la valeur propre associée : $M$ est une valeur propre réelle de $A$ — au passage, cela prouve que $A$ possède au moins une valeur propre réelle et un vecteur propre unitaire, ce qu'on ne savait pas avant.

Réciproquement, soit $\mu$ une valeur propre réelle quelconque de $A$ et $v$ un vecteur propre associé, qu'on peut choisir unitaire en le divisant par sa norme. Alors $v\in S$ et $q(v)=\mu$, donc $\mu \le M$ par définition du maximum. Ainsi $M$ majore toutes les valeurs propres réelles et en est une : $$\underset{S}{\max }q={\lambda }_{\max }:=\max ({\mathrm{Sp}}_{\mathbb{R}}(A)),\text{et de meˆme}\underset{S}{\min }q={\lambda }_{\min }:=\min ({\mathrm{Sp}}_{\mathbb{R}}(A)),$$ le cas du minimum s'obtenant en appliquant ce qui précède à $-A$, qui est symétrique de spectre opposé.

Le point délicat, et c'est ici qu'un raisonnement circulaire se glisse d'ordinaire. La tentation est d'écrire : « $A$ est diagonalisable en base orthonormée par le théorème spectral, donc il existe un vecteur propre unitaire associé à la plus grande valeur propre, d'où ${\lambda }_{\max }\le M$ ». C'est interdit ici, puisque le théorème spectral est précisément ce que la question 5 va établir. La double inégalité doit se lire comme ci-dessus : le maximum est une valeur propre réelle (par Lagrange) et il majore toutes les valeurs propres réelles (en évaluant $q$ sur les vecteurs propres unitaires) — sans jamais supposer qu'il y en ait beaucoup, ni qu'elles soient toutes réelles. Second point à ne pas escamoter : la compacité n'est pas décorative. Sur l'hyperboloïde $\{⟨Ax,x⟩=1\}$, qui n'est pas compact, le même système de Lagrange a des solutions sans qu'aucun extremum n'existe.

4) L'hyperplan orthogonal est stable. Soit $y\in x_1^{\perp }$, c'est-à-dire $⟨y,x_1⟩=0$. En utilisant la symétrie de $A$ puis $A{x}_1={\lambda }_1{x}_1$ : $$⟨Ay,x_1⟩=⟨y,A{x}_1⟩=⟨y,{\lambda }_1{x}_1⟩={\lambda }_1⟨y,x_1⟩=0.$$ Donc $Ay\in x_1^{\perp }$ : l'hyperplan $x_1^{\perp }$ est stable par $A$. (Trois lignes, et c'est tout le ressort de la récurrence : la symétrie transporte la stabilité de la droite propre à son orthogonal.)

5) La récurrence, et le théorème. Montrons par récurrence sur $n\ge 1$ l'énoncé suivant :

> $({\mathcal{P}}_n)$ : pour tout espace euclidien $E$ de dimension $n$ et tout endomorphisme $a$ de $E$ vérifiant $⟨a(y),z⟩=⟨y,a(z)⟩$ pour tous $y,z$, il existe une base orthonormée de $E$ formée de vecteurs propres de $a$.

Initialisation, $n=1$. Toute droite euclidienne admet un vecteur unitaire $e$, et $a(e)$ est colinéaire à $e$ : $(e)$ convient.

Hérédité. Supposons $({\mathcal{P}}_{n-1})$ et soit $E$ euclidien de dimension $n$, $a$ symétrique. Les questions 1 à 4 se rejouent mot pour mot dans $E$ — la sphère unité de $E$ est compacte, $q(y)=⟨a(y),y⟩$ est continue et différentiable de gradient $2a(y)$, la contrainte est qualifiée. On obtient un vecteur unitaire $x_1$ réalisant le maximum, avec $a(x_1)={\lambda }_1{x}_1$, et l'hyperplan $H=x_1^{\perp }$ est stable par $a$ (question 4).

$H$, muni du produit scalaire induit, est un espace euclidien de dimension $n-1$ (le supplémentaire orthogonal d'une droite, chapitre 3). L'endomorphisme induit $a{|}_H:H\to H$ est bien défini par stabilité, et il est symétrique : l'identité $⟨a(y),z⟩=⟨y,a(z)⟩$, vraie dans $E$, l'est a fortiori pour $y,z\in H$. Par $({\mathcal{P}}_{n-1})$, il existe une base orthonormée $(x_2,\dots ,x_n)$ de $H$ formée de vecteurs propres de $a{|}_H$, donc de $a$.

Enfin $E=\mathbb{R}{x}_1\oplus H$ en somme directe orthogonale, et $x_1$ est unitaire, orthogonal à $x_2,\dots ,x_n$ : la famille $(x_1,x_2,\dots ,x_n)$ est orthonormée, de cardinal $n=\dim E$, donc c'est une base orthonormée de $E$ formée de vecteurs propres de $a$. $({\mathcal{P}}_n)$ est établie.

> Théorème spectral. Tout endomorphisme symétrique d'un espace euclidien admet une base orthonormée de vecteurs propres. Matriciellement : pour toute $A\in {\mathcal{S}}_n(\mathbb{R})$, il existe $P\in O_n(\mathbb{R})$ et $D$ diagonale réelle telles que $A=PD{P}^{\mathsf{T}}$.

Pourquoi la démonstration n'est pas circulaire. On n'a utilisé du chapitre 3 que le produit scalaire, la notion d'orthogonalité, l'existence et la dimension du supplémentaire orthogonal d'une droite — aucune de ces propriétés ne dépend du théorème spectral. Du chapitre 4 on n'a pris que la compacité de la sphère et les bornes atteintes. Tout le reste est le calcul différentiel de ce chapitre. En particulier, l'existence d'une valeur propre réelle, qui est le point dur du théorème et que la démonstration algébrique obtient par le polynôme caractéristique sur $\mathbb{C}$, est ici obtenue par compacité : un maximum existe, donc un vecteur propre existe. C'est une démonstration complète et indépendante, pas une paraphrase.

6) Contrôle sur un cas explicite. Soit $A=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$, symétrique. Pour $(x,y)\in {\mathbb{R}}^2$, $A(x,y)=(y,x)$, donc $$q(x,y)=⟨(y,x),(x,y)⟩=2xy.$$ Le système de Lagrange. $\nabla q=(2y,2x)$ et $\nabla g=(2x,2y)$, donc $\nabla q=\lambda \nabla g$ s'écrit $y=\lambda x$ et $x=\lambda y$. En substituant, $x={\lambda }^{2}x$ ; si $x=0$ alors $y=\lambda x=0$, ce qui est exclu sur le cercle, donc $x\ne 0$ et ${\lambda }^2=1$.

• $\lambda =1$ : $y=x$, et $x^2+y^2=1$ donne $(x,y)=\pm \frac{1}{\sqrt{2}}(1,1)$, où $q=2\cdot \frac{1}{2}=1$ ;
• $\lambda =-1$ : $y=-x$, d'où $(x,y)=\pm \frac{1}{\sqrt{2}}(1,-1)$, où $q=-2\cdot \frac{1}{2}=-1$.

Donc ${\max }_{S}q=1$ et ${\min }_{S}q=-1$, atteints aux vecteurs $\frac{1}{\sqrt{2}}(1,\pm 1)$ — qui sont bien les vecteurs propres de $A$, de valeurs propres $1$ et $-1$, comme la vérification directe le confirme : $A(1,1)=(1,1)$ et $A(1,-1)=(-1,1)=-(1,-1)$. Les multiplicateurs de Lagrange trouvés, $\pm 1$, sont exactement ces valeurs propres, conformément au 2).

Contrôle indépendant par paramétrage. Sur le cercle, $x=\cos \theta$ et $y=\sin \theta$ donnent $q=2\cos \theta \sin \theta =\sin 2\theta$, de maximum $1$ en $\theta =\frac{\pi }{4}$ et de minimum $-1$ en $\theta =-\frac{\pi }{4}$ : mêmes points, mêmes valeurs, par un calcul qui n'utilise ni Lagrange ni le spectre.

Corollaire, l'encadrement de Rayleigh. $q$ est homogène de degré $2$, donc en appliquant le 3) au vecteur unitaire $\frac{x}{\Vert x\Vert }$ : ${\lambda }_{\min }\Vert x{\Vert }^2\le ⟨Ax,x⟩\le {\lambda }_{\max }\Vert x{\Vert }^2$ pour tout $x$.

Ce que le problème installe. Le quotient de Rayleigh $R(x)=\frac{⟨Ax,x⟩}{\Vert x{\Vert }^2}$, rencontré au chapitre 3 comme un outil algébrique, est ici redémontré par le calcul différentiel — et l'on comprend pourquoi les vecteurs propres apparaissent : ce sont les points où la ligne de niveau de la forme quadratique est tangente à la sphère, donc où les deux gradients, normaux au même hyperplan tangent, sont colinéaires. Ce principe variationnel fonde les méthodes numériques de calcul de valeurs propres et se transpose en dimension infinie, où il devient l'outil principal du théorème spectral pour les opérateurs compacts. La boucle de l'année est bouclée : réduction des endomorphismes symétriques et optimisation sous contrainte sont deux visages du même énoncé.