Le quotient de Rayleigh vu par le calcul différentiel

Stratégie : trois questions, trois outils, et aucune évidence géométrique. Le gradient de $q$ se lit sur le développement exact du produit scalaire. Les bornes et leur atteinte se lisent d'un seul coup sur le théorème spectral, sans aucun argument d'existence. Enfin, les points critiques de la restriction à la sphère se caractérisent par une orthogonalité — qui se calcule, en dérivant le long des courbes tracées sur la sphère : on ne l'invoque pas sur un dessin.

Notations : $A\in {\mathcal{S}}_n(\mathbb{R})$ (symétrique réelle), $q(x)=⟨Ax,x⟩$, et $S=\{x\in {\mathbb{R}}^n:\Vert x\Vert =1\}$ la sphère unité pour la norme euclidienne.

1. Le gradient de $q$. Développons exactement :

$$q(x+h)=⟨A(x+h),x+h⟩=⟨Ax,x⟩+⟨Ax,h⟩+⟨Ah,x⟩+⟨Ah,h⟩.$$

$A$ étant symétrique, $⟨Ah,x⟩=⟨h,Ax⟩=⟨Ax,h⟩$ : les deux termes croisés sont égaux. Par ailleurs $\left|⟨Ah,h⟩\right|\le \Vert Ah\Vert \Vert h\Vert \le C\Vert h{\Vert }^2$, où $C$ est une constante telle que $\Vert Ah\Vert \le C\Vert h\Vert$ pour tout $h$ (prendre par exemple pour $C$ la racine carrée de la somme des carrés des coefficients de $A$, et appliquer Cauchy-Schwarz ligne par ligne). Donc $⟨Ah,h⟩=o(\Vert h\Vert )$ et

$$q(x+h)=q(x)+2⟨Ax,h⟩+o(\Vert h\Vert ):\mathrm{d}q(x)\cdot h=2⟨Ax,h⟩,\nabla q(x)=2Ax.$$

($q$ est polynomiale en les coordonnées, donc de classe ${\mathcal{C}}^{\infty }$.)

2. Les bornes de $q$ sur $S$, par le théorème spectral. $A$ étant symétrique réelle, il existe une base orthonormée $(e_1,\dots ,e_n)$ de ${\mathbb{R}}^n$ et des réels ${\lambda }_1\le {\lambda }_2\le \cdots \le {\lambda }_n$ tels que $A{e}_i={\lambda }_i{e}_i$ (théorème spectral, chapitre 3). Écrivons $x={\sum }_i{c}_i{e}_i$ ; l'orthonormalité donne $\Vert x{\Vert }^2={\sum }_i{c}_i^2$ et

$$q(x)=⟨\sum _i{\lambda }_i{c}_i{e}_i,\sum _j{c}_j{e}_j⟩=\sum _{i=1}^n{\lambda }_i{c}_i^2.$$

Si $\Vert x\Vert =1$, alors ${\sum }_i{c}_i^2=1$ et, en majorant puis minorant chaque ${\lambda }_i$ :

$${\lambda }_1={\lambda }_1\sum _i{c}_i^2\le q(x)\le {\lambda }_n\sum _i{c}_i^2={\lambda }_n.$$

Ces deux bornes sont atteintes : $e_1$ et $e_n$ sont unitaires, et $q(e_1)={\lambda }_1$, $q(e_n)={\lambda }_n$. Donc

$$\underset{\Vert x\Vert =1}{\min }q={\lambda }_{\min }(A),\underset{\Vert x\Vert =1}{\max }q={\lambda }_{\max }(A).$$

Remarquons ce qui n'a pas été utilisé : aucun théorème d'existence d'un extremum. La base orthonormée de vecteurs propres fournit simultanément la majoration et le point où elle est réalisée — c'est plus fort, et plus court.

3. Les points critiques de $q$ sur la sphère. Un point $x_0\in S$ est dit point critique de $q$ sur $S$ lorsque, pour toute courbe $\gamma$ de classe ${\mathcal{C}}^1$ de $]-\epsilon ,\epsilon [$ dans $S$ vérifiant $\gamma (0)=x_0$, on a $(q\circ \gamma {)}^{\prime }(0)=0$.

(a) La dérivée le long d'une courbe. Par la règle de la chaîne et le 1 :

$$(q\circ \gamma {)}^{\prime }(0)=⟨\nabla q(x_0),{\gamma }^{\prime }(0)⟩=2⟨A{x}_0,{\gamma }^{\prime }(0)⟩.$$

(b) Les vitesses possibles forment exactement $x_0^{\perp }$ — et c'est un calcul. Si $\gamma$ est à valeurs dans $S$, alors $⟨\gamma (t),\gamma (t)⟩=1$ pour tout $t$ ; en dérivant cette identité, $2⟨\gamma (t),{\gamma }^{\prime }(t)⟩=0$, donc en $t=0$ :

$$⟨x_0,{\gamma }^{\prime }(0)⟩=0,\text{c’est-aˋ-dire}{\gamma }^{\prime }(0)\in x_0^{\perp }.$$

Réciproquement, tout $h\in x_0^{\perp }$ est la vitesse d'une telle courbe. Posons $\gamma (t)=\frac{x_0+th}{\Vert x_0+th\Vert }$. Comme $⟨x_0,h⟩=0$ et $\Vert x_0\Vert =1$ :

$$\Vert x_0+th{\Vert }^2=\Vert x_0{\Vert }^2+2t⟨x_0,h⟩+t^2\Vert h{\Vert }^2=1+t^2\Vert h{\Vert }^2\ge 1>0,$$

donc $\gamma (t)={\left(1+t^2\Vert h{\Vert }^2\right)}^{-1/2}(x_0+th)$ est bien définie et de classe ${\mathcal{C}}^1$ sur $\mathbb{R}$, à valeurs dans $S$, avec $\gamma (0)=x_0$. La fonction $t\mapsto {\left(1+t^2\Vert h{\Vert }^2\right)}^{-1/2}$ a pour dérivée $-t\Vert h{\Vert }^2{\left(1+t^2\Vert h{\Vert }^2\right)}^{-3/2}$, qui s'annule en $t=0$ : il reste ${\gamma }^{\prime }(0)=h$.

(c) Conclusion. $x_0\in S$ est point critique de $q$ sur $S$ si et seulement si

$$⟨A{x}_0,h⟩=0\text{pour tout }h\in x_0^{\perp },\text{c’est-aˋ-dire}A{x}_0\in {\left(x_0^{\perp }\right)}^{\perp }.$$

En dimension finie, ${\left(x_0^{\perp }\right)}^{\perp }=\mathrm{Vect}(x_0)$ (chapitre 3) : il existe donc $\lambda \in \mathbb{R}$ tel que $A{x}_0=\lambda x_0$. Comme $x_0$ est unitaire, il est non nul : $x_0$ est un vecteur propre unitaire de $A$, de valeur propre

$$\lambda =⟨A{x}_0,x_0⟩=q(x_0).$$

La réciproque est immédiate : si $A{x}_0=\lambda x_0$ et $h\perp x_0$, alors $⟨A{x}_0,h⟩=\lambda ⟨x_0,h⟩=0$. Les points critiques de $q$ sur la sphère sont donc exactement les vecteurs propres unitaires de $A$.

4. Ce que les deux parties disent ensemble. En un point critique, $\nabla q(x_0)=2\lambda x_0$ est colinéaire à $x_0$, donc orthogonal à toute vitesse tangente : là encore, ce n'est pas une figure, c'est le calcul de (b) et (c). Et la valeur de $q$ en un point critique est la valeur propre associée : les extremums sont donc à chercher parmi les valeurs propres, ce que la partie 2 confirme en désignant ${\lambda }_{\max }$ et ${\lambda }_{\min }$. C'est le quotient de Rayleigh du chapitre 3, redémontré ici par le calcul différentiel.

Contrôle chiffré. Prenons $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$, symétrique, de valeurs propres $1$ et $3$, de vecteurs propres unitaires $\frac{1}{\sqrt{2}}(1,-1)$ et $\frac{1}{\sqrt{2}}(1,1)$. Paramétrons la sphère unité par $x=(\cos \theta ,\sin \theta )$ :

$$q(x)=2{\cos }^2\theta +2\cos \theta \sin \theta +2{\sin }^2\theta =2+\sin 2\theta \in [1,3].$$

Le minimum $1$ est atteint pour $2\theta =-\frac{\pi }{2}$, soit $x=\frac{1}{\sqrt{2}}(1,-1)$, et le maximum $3$ pour $x=\frac{1}{\sqrt{2}}(1,1)$ : ce sont bien les deux vecteurs propres, et les valeurs extrêmes sont bien ${\lambda }_{\min }=1$ et ${\lambda }_{\max }=3$. Un balayage numérique sur $100001$ valeurs de $\theta$ donne $\min =1,0000000$ et $\max =3,0000000$ ✓.

Contrôle de la caractérisation par orthogonalité : le vecteur $h_{\theta }=(-\sin \theta ,\cos \theta )$ engendre $x^{\perp }$, et le calcul donne

$$⟨Ax,h_{\theta }⟩=-\sin \theta (2\cos \theta +\sin \theta )+\cos \theta (\cos \theta +2\sin \theta )={\cos }^2\theta -{\sin }^2\theta =\cos 2\theta .$$

Cette quantité s'annule exactement pour $\theta \in \left\{\frac{\pi }{4},\frac{3\pi }{4},\frac{5\pi }{4},\frac{7\pi }{4}\right\}$, c'est-à-dire aux quatre vecteurs propres unitaires — et nulle part ailleurs ✓. Vérification numérique en un point non critique, $\theta =0,4$ : $⟨Ax,h_{\theta }⟩=\cos 0,8=0,696707\ne 0$ ✓. Enfin, $q^{\prime }(\theta )=2\cos 2\theta =2⟨Ax,h_{\theta }⟩$ : la dérivée le long de la sphère est bien celle qu'annonce le (a).

Ce qui est acquis. Le quotient de Rayleigh, sous ses deux faces : les extremums de $⟨Ax,x⟩$ sur la sphère sont les valeurs propres extrêmes, et les points où ils sont atteints sont les vecteurs propres. Surtout : une affirmation d'orthogonalité se démontre par un produit scalaire nul, jamais par une intuition de dessin.