Norme euclidienne d'une matrice et quotient de Rayleigh

Stratégie. Le nombre à calculer est un sup de $\Vert Ax{\Vert }_2$ sur la sphère unité. On le ramène par un calcul d'algèbre bilinéaire à un sup de forme quadratique — le quotient de Rayleigh du chapitre 3 — dont on connaît la valeur exacte grâce au théorème spectral. Trois chapitres se donnent la main : topologie pour l'existence, algèbre bilinéaire pour la réduction, théorème spectral pour la valeur.

L'énoncé demande la plus petite constante $$C_2(A)=\underset{x\ne 0}{\sup }\frac{\Vert Ax{\Vert }_2}{\Vert x{\Vert }_2}=\underset{\Vert x{\Vert }_2=1}{\sup }\Vert Ax{\Vert }_2$$ (l'égalité des deux écritures vient de l'homogénéité : $\Vert A(\lambda x){\Vert }_2=|\lambda |\Vert Ax{\Vert }_2$, donc on peut normaliser).

Étape 0 — ce sup existe et est atteint. La sphère unité $S=\{x\in {\mathbb{R}}^n:\Vert x{\Vert }_2=1\}$ est non vide, fermée et bornée dans ${\mathbb{R}}^n$, de dimension finie : fermée comme image réciproque du fermé $\{1\}$ par l'application continue $x\mapsto \Vert x{\Vert }_2$, bornée par $1$. L'application $x\mapsto \Vert Ax{\Vert }_2$ est continue (composée de $x\mapsto Ax$, linéaire donc continue en dimension finie, et de la norme, $1$-lipschitzienne). Le théorème des bornes atteintes donne : ce sup est fini et c'est un maximum.

Étape 1 — passer au carré fait apparaître une matrice symétrique. Pour $x\in {\mathbb{R}}^n$, $$\Vert Ax{\Vert }_2^2=(Ax{)}^{\top }(Ax)=x^{\top }{A}^{\top }Ax=x^{\top }Sx,\text{ouˋ }S=A^{\top }A.$$ Cette matrice $S$ est :

• symétrique : $S^{\top }=(A^{\top }A{)}^{\top }=A^{\top }(A^{\top }{)}^{\top }=A^{\top }A=S$ ;
• positive : $x^{\top }Sx=\Vert Ax{\Vert }_2^2\ge 0$ pour tout $x$.

Par le théorème spectral (chapitre 3), $S$ est diagonalisable en base orthonormée, et ses valeurs propres ${\lambda }_1,\dots ,{\lambda }_n$ sont réelles ; la positivité donne de plus ${\lambda }_i\ge 0$ (en testant $x^{\top }Sx\ge 0$ sur un vecteur propre unitaire). En particulier ${\lambda }_{\max }(A^{\top }A)\ge 0$ et sa racine carrée a un sens.

Étape 2 — le quotient de Rayleigh. C'est l'exercice résolu 10 du chapitre 3 ; en voici l'argument en trois lignes. Soit $(e_1,\dots ,e_n)$ une base orthonormée de vecteurs propres de $S$, $S{e}_i={\lambda }_i{e}_i$. Pour $x={\sum }_i{x}_i{e}_i$ avec ${\sum }_i{x}_i^2=1$ : $$x^{\top }Sx=\sum _{i=1}^n{\lambda }_i{x}_i^2\le {\lambda }_{\max }(S)\sum _{i=1}^n{x}_i^2={\lambda }_{\max }(S),$$ avec égalité pour $x=e_{i_0}$, vecteur propre unitaire associé à ${\lambda }_{\max }(S)$. Donc $$\underset{\Vert x{\Vert }_2=1}{\max }{x}^{\top }Sx={\lambda }_{\max }(S).$$

Étape 3 — conclusion. En combinant les étapes 1 et 2 : $$C_2(A{)}^2=\underset{\Vert x{\Vert }_2=1}{\max }\Vert Ax{\Vert }_2^2=\underset{\Vert x{\Vert }_2=1}{\max }{x}^{\top }{A}^{\top }Ax={\lambda }_{\max }\left(A^{\top }A\right),$$ et comme $C_2(A)\ge 0$, on prend la racine positive : $$\boxed{C_2(A)=\sqrt{{\lambda }_{\max }\left(A^{\top }A\right)}}$$ le maximum étant atteint en un vecteur propre unitaire de $A^{\top }A$ associé à ${\lambda }_{\max }$.

Le point délicat. C'est le spectre de $A^{\top }A$ qui gouverne, pas celui de $A$. Pour $A$ symétrique on a $A^{\top }A=A^2$, dont les valeurs propres sont les ${\lambda }_i^2$, et l'on retrouve $C_2(A)={\max }_i|{\lambda }_i|$ ; mais pour $A$ quelconque, les valeurs propres de $A$ n'apprennent rien sur ce nombre.

Contrôle. Prenons $A=\left(\begin{array}{cc}0& 2\\ 0& 0\end{array}\right)$, dont toutes les valeurs propres sont nulles.

• Calcul direct : $A\left(\genfrac{}{}{0ex}{}{x}{y}\right)=\left(\genfrac{}{}{0ex}{}{2y}{0}\right)$, donc $\Vert A(x,y){\Vert }_2=2|y|\le 2\sqrt{x^2+y^2}$, avec égalité en $(0,1)$ : $C_2(A)=2$.
• Par la formule : $A^{\top }A=\left(\begin{array}{cc}0& 0\\ 0& 4\end{array}\right)$, donc ${\lambda }_{\max }=4$ et $\sqrt{4}=2$. ✓

L'écart est instructif : $\mathrm{Sp}(A)=\{0\}$ mais $C_2(A)=2$. Sur trois matrices $4\times 4$ tirées au hasard, la formule donne respectivement $3,46830370$, $2,69873553$ et $2,66703355$, tandis qu'un balayage de $200000$ vecteurs aléatoires atteint $3,46829$, $2,69788$ et $2,66600$ — le sup empirique monte bien vers la valeur prédite, par en dessous, comme il se doit.