Le quotient de Rayleigh vu par le calcul différentiel

Stratégie : deux questions, deux outils. Les bornes et leur atteinte se lisent d'un seul coup sur le théorème spectral, sans aucun argument d'existence. Le calcul différentiel dit ensuite où elles peuvent être atteintes : en passant au quotient $R(x)=\frac{q(x)}{\Vert x{\Vert }^2}$, défini sur l'ouvert ${\mathbb{R}}^n\setminus \{0\}$, un extremum devient un point critique — et les points critiques de $R$ se calculent, à partir du gradient de $q$, qu'on lit sur le développement exact du produit scalaire.

Notations : $A\in {\mathcal{S}}_n(\mathbb{R})$ (symétrique réelle), $q(x)=⟨Ax,x⟩$, et $S=\{x\in {\mathbb{R}}^n:\Vert x\Vert =1\}$ la sphère unité pour la norme euclidienne.

1. Le gradient de $q$. Développons exactement :

$$q(x+h)=⟨A(x+h),x+h⟩=⟨Ax,x⟩+⟨Ax,h⟩+⟨Ah,x⟩+⟨Ah,h⟩.$$

$A$ étant symétrique, $⟨Ah,x⟩=⟨h,Ax⟩=⟨Ax,h⟩$ : les deux termes croisés sont égaux. Par ailleurs $\left|⟨Ah,h⟩\right|\le \Vert Ah\Vert \Vert h\Vert \le C\Vert h{\Vert }^2$, où $C$ est une constante telle que $\Vert Ah\Vert \le C\Vert h\Vert$ pour tout $h$ (prendre par exemple pour $C$ la racine carrée de la somme des carrés des coefficients de $A$, et appliquer Cauchy-Schwarz ligne par ligne). Donc $⟨Ah,h⟩=o(\Vert h\Vert )$ et

$$q(x+h)=q(x)+2⟨Ax,h⟩+o(\Vert h\Vert ):\mathrm{d}q(x)\cdot h=2⟨Ax,h⟩,\nabla q(x)=2Ax.$$

($q$ est polynomiale en les coordonnées, donc de classe ${\mathcal{C}}^{\infty }$.)

2. Les bornes de $q$ sur $S$, par le théorème spectral. $A$ étant symétrique réelle, il existe une base orthonormée $(e_1,\dots ,e_n)$ de ${\mathbb{R}}^n$ et des réels ${\lambda }_1\le {\lambda }_2\le \cdots \le {\lambda }_n$ tels que $A{e}_i={\lambda }_i{e}_i$ (théorème spectral, chapitre 4). Écrivons $x={\sum }_i{c}_i{e}_i$ ; l'orthonormalité donne $\Vert x{\Vert }^2={\sum }_i{c}_i^2$ et

$$q(x)=⟨\sum _i{\lambda }_i{c}_i{e}_i,\sum _j{c}_j{e}_j⟩=\sum _{i=1}^n{\lambda }_i{c}_i^2.$$

Si $\Vert x\Vert =1$, alors ${\sum }_i{c}_i^2=1$ et, en majorant puis minorant chaque ${\lambda }_i$ :

$${\lambda }_1={\lambda }_1\sum _i{c}_i^2\le q(x)\le {\lambda }_n\sum _i{c}_i^2={\lambda }_n.$$

Ces deux bornes sont atteintes : $e_1$ et $e_n$ sont unitaires, et $q(e_1)={\lambda }_1$, $q(e_n)={\lambda }_n$. Donc

$$\underset{\Vert x\Vert =1}{\min }q={\lambda }_{\min }(A),\underset{\Vert x\Vert =1}{\max }q={\lambda }_{\max }(A).$$

Remarquons ce qui n'a pas été utilisé : aucun théorème d'existence d'un extremum. La base orthonormée de vecteurs propres fournit simultanément la majoration et le point où elle est réalisée — c'est plus fort, et plus court.

3. Où les extremums sont atteints : le quotient de Rayleigh sur un ouvert. Posons, sur l'ouvert $U={\mathbb{R}}^n\setminus \{0\}$, $$R(x)=\frac{q(x)}{\Vert x{\Vert }^2}.$$

(a) $R$ et $q$ prennent les mêmes valeurs. Pour $x\in U$ et $t\ne 0$, $R(tx)=\frac{t^{2}q(x)}{t^2\Vert x{\Vert }^2}=R(x)$ ; en particulier $R(x)=q\left(\frac{x}{\Vert x\Vert }\right)$. Donc $R(U)=q(S)$ : d'après le 2, $R$ atteint sur $U$ son maximum ${\lambda }_{\max }$ et son minimum ${\lambda }_{\min }$, exactement aux points $x$ tels que $\frac{x}{\Vert x\Vert }$ réalise l'extremum correspondant de $q$ sur $S$.

(b) Le gradient de $R$. $R$ est le quotient de deux fonctions polynomiales en les coordonnées, dont le dénominateur ne s'annule pas sur $U$ : elle est de classe ${\mathcal{C}}^1$ sur $U$. Avec $\nabla q(x)=2Ax$ (partie 1) et $\nabla (\Vert x{\Vert }^2)=2x$ : $$\nabla R(x)=\frac{\Vert x{\Vert }^2\nabla q(x)-q(x)\nabla (\Vert x{\Vert }^2)}{\Vert x{\Vert }^4}=\frac{2}{\Vert x{\Vert }^2}(Ax-R(x)x).$$

(c) Conclusion. Si $R$ atteint en $x_0\in U$ son maximum ou son minimum, c'est en particulier un extremum local de $R$ sur l'ouvert $U$ : $x_0$ est un point critique, $\nabla R(x_0)=0$, c'est-à-dire $$A{x}_0=R(x_0)x_0.$$ $x_0$ est un vecteur propre de $A$, de valeur propre $R(x_0)$. Appliqué à un point $x_0\in S$ où $q$ atteint son maximum (resp. son minimum) sur $S$ — où $R$ atteint donc le sien sur $U$, par le (a) —, cela dit : $x_0$ est un vecteur propre unitaire associé à ${\lambda }_{\max }$ (resp. ${\lambda }_{\min }$). Réciproquement, tout vecteur propre est un point critique de $R$ : si $A{x}_0=\lambda x_0$ avec $x_0\ne 0$, alors $R(x_0)=\lambda$ et $\nabla R(x_0)=\frac{2}{\Vert x_0{\Vert }^2}\left(\lambda x_0-\lambda x_0\right)=0$. Les points critiques de $R$ sont donc exactement les vecteurs propres de $A$.

4. Ce que les deux parties disent ensemble. Le théorème spectral désigne les valeurs extrêmes et un point où chacune est atteinte ; le calcul différentiel montre qu'elles ne peuvent l'être qu'en des vecteurs propres, la valeur de $R$ en un point critique étant la valeur propre associée. C'est le quotient de Rayleigh du TD 4, redémontré ici par le calcul différentiel. Le passage de la sphère à l'ouvert ${\mathbb{R}}^n\setminus \{0\}$, permis par l'homogénéité, est ce qui rend applicable le théorème « un extremum sur un ouvert est un point critique ».

Contrôle chiffré. Prenons $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$, symétrique, de valeurs propres $1$ et $3$, de vecteurs propres unitaires $\frac{1}{\sqrt{2}}(1,-1)$ et $\frac{1}{\sqrt{2}}(1,1)$. Paramétrons la sphère unité par $x=(\cos \theta ,\sin \theta )$ :

$$q(x)=2{\cos }^2\theta +2\cos \theta \sin \theta +2{\sin }^2\theta =2+\sin 2\theta \in [1,3].$$

Le minimum $1$ est atteint pour $2\theta =-\frac{\pi }{2}$, soit $x=\frac{1}{\sqrt{2}}(1,-1)$, et le maximum $3$ pour $x=\frac{1}{\sqrt{2}}(1,1)$ : ce sont bien les deux vecteurs propres, et les valeurs extrêmes sont bien ${\lambda }_{\min }=1$ et ${\lambda }_{\max }=3$. Un balayage numérique sur $100001$ valeurs de $\theta$ donne $\min =1,0000000$ et $\max =3,0000000$ ✓.

Contrôle des points critiques : pour $(u,v)\ne (0,0)$, $R(u,v)=2+\frac{2uv}{u^2+v^2}$, d'où $$\frac{\partial R}{\partial u}(u,v)=\frac{2v(v^2-u^2)}{(u^2+v^2{)}^2},$$ et, les rôles de $u$ et $v$ étant symétriques, $\frac{\partial R}{\partial v}(u,v)=\frac{2u(u^2-v^2)}{(u^2+v^2{)}^2}$. Si $u^2\ne v^2$, les deux dérivées ne s'annulent ensemble que pour $u=v=0$, point exclu ; si $u^2=v^2$, elles sont nulles. Les points critiques de $R$ sont donc les points des droites $v=u$ et $v=-u$ privées de l'origine — exactement les deux droites propres ✓. En un point non critique du cercle, $\theta =0,4$ : $\frac{\partial R}{\partial u}(\cos \theta ,\sin \theta )=-2\sin \theta \cos 2\theta =-0,542621\ne 0$ ✓.

Ce qui est acquis. Le quotient de Rayleigh, sous ses deux faces : les extremums de $⟨Ax,x⟩$ sur la sphère sont les valeurs propres extrêmes (théorème spectral), et ils ne sont atteints qu'en des vecteurs propres (calcul différentiel). Et une méthode : une contrainte homogène comme $\Vert x\Vert =1$ se lève en passant au quotient sur un ouvert, où le théorème « extremum $\Rightarrow$ point critique » s'applique.