Problème — Le déterminant de Gram, la formule de la distance et l'inégalité de Hadamard

1) Les petits cas. $G(x)=⟨x,x⟩=\Vert x{\Vert }^2$. Et $$G(x,y)=\det \left(\begin{array}{cc}⟨x,x⟩& ⟨x,y⟩\\ ⟨y,x⟩& ⟨y,y⟩\end{array}\right)=\Vert x{\Vert }^2\Vert y{\Vert }^2-⟨x,y{⟩}^2.$$ On reconnaît la différence des deux membres de l'inégalité de Cauchy-Schwarz : dire que $G(x,y)\ge 0$, c'est Cauchy-Schwarz, et dire que $G(x,y)=0$ si et seulement si $(x,y)$ est liée, c'est son cas d'égalité. Le 3) va redémontrer ces deux faits pour un nombre quelconque de vecteurs.

2) Famille libre : la matrice de Gram est un carré. Écrivons $x_j={\sum }_{k=1}^p{a}_{k,j}{\epsilon }_k$. Dans la base orthonormée $({\epsilon }_k)$, le produit scalaire est la somme des produits des coordonnées (cours) : $$⟨x_i,x_j⟩=\sum _{k=1}^p{a}_{k,i}{a}_{k,j}=\sum _{k=1}^p(A^{\top }{)}_{i,k}{A}_{k,j}=(A^{\top }A{)}_{i,j}.$$ La matrice de Gram est donc $A^{\top }A$, et par multiplicativité et invariance par transposition du déterminant, $$G(x_1,\dots ,x_p)=\det (A^{\top })\det (A)=(\det A{)}^2.$$ Enfin $A$ est la matrice de la famille $(x_j)$ — une base de $F$, puisque libre et génératrice de $F$ — dans la base $({\epsilon }_k)$ de $F$ : une matrice de passage, donc inversible, donc $\det A\ne 0$. $G(x_1,\dots ,x_p)>0$ pour une famille libre.

3) Famille liée : le déterminant est nul. Notons $\Gamma$ la matrice de Gram et $\lambda$ le vecteur colonne $({\lambda }_1,\dots ,{\lambda }_p{)}^{\top }$. La $i$-ième coordonnée de $\Gamma \lambda$ est $$\sum _{j=1}^p⟨x_i,x_j⟩{\lambda }_j=⟨x_i,\sum _{j=1}^p{\lambda }_j{x}_j⟩=⟨x_i,0⟩=0,$$ par linéarité du produit scalaire en la seconde variable. Donc $\Gamma \lambda =0$ avec $\lambda \ne 0$ : le noyau de $\Gamma$ n'est pas réduit à $\{0\}$, $\Gamma$ n'est pas inversible, et $G=\det \Gamma =0$.

Conclusion. Une famille est libre ou liée ; dans le premier cas $G>0$ par le 2), dans le second $G=0$. Donc $G(x_1,\dots ,x_p)\ge 0$ pour toute famille, et $G=0$ si et seulement si la famille est liée. Pour $p=2$, c'est exactement Cauchy-Schwarz avec son cas d'égalité, comme annoncé au 1).

4) Retrancher un vecteur de $F$ ne change rien. Écrivons $f={\sum }_{j=1}^p{\mu }_j{x}_j$. Notons ${\Gamma }^{\prime }$ la matrice de Gram de $(x_1,\dots ,x_p,x)$, de taille $p+1$, dont la dernière colonne est $(⟨x_1,x⟩,\dots ,⟨x_p,x⟩,⟨x,x⟩{)}^{\top }$ et la dernière ligne sa transposée. Effectuons sur ${\Gamma }^{\prime }$ l'opération $C_{p+1}\leftarrow C_{p+1}-{\sum }_{j\le p}{\mu }_j{C}_j$ : le déterminant est inchangé (transvections), et le nouveau coefficient d'indice $(i,p+1)$ vaut, pour tout $i\le p+1$, $$⟨x_i,x⟩-\sum _j{\mu }_j⟨x_i,x_j⟩=⟨x_i,x-f⟩(i\le p),⟨x,x⟩-\sum _j{\mu }_j⟨x,x_j⟩=⟨x,x-f⟩(i=p+1).$$ Effectuons ensuite $L_{p+1}\leftarrow L_{p+1}-{\sum }_{j\le p}{\mu }_j{L}_j$ : déterminant encore inchangé, et la nouvelle dernière ligne a pour coefficients $⟨x,x_j⟩-{\sum }_k{\mu }_k⟨x_k,x_j⟩=⟨x-f,x_j⟩$ pour $j\le p$, et pour $j=p+1$ : $⟨x,x-f⟩-{\sum }_k{\mu }_k⟨x_k,x-f⟩=⟨x-f,x-f⟩$. La matrice obtenue est exactement la matrice de Gram de $(x_1,\dots ,x_p,x-f)$. Donc $$G(x_1,\dots ,x_p,x)=G(x_1,\dots ,x_p,x-f).$$ Le point délicat. On a le droit d'opérer sur les lignes et sur les colonnes, parce que le déterminant est $n$-linéaire alterné par rapport aux deux ; et l'on a opéré dans un ordre précis, la colonne d'abord, la ligne ensuite, en recalculant le coin inférieur droit à chaque fois.

5) La formule de la distance. Prenons $f=p_F(x)$, ce qui est licite : $F$ est de dimension finie, et $p_F(x)\in F$. Alors $x-f\in F^{\perp }$, donc $⟨x_i,x-f⟩=0$ pour tout $i\le p$ : dans la matrice de Gram de $(x_1,\dots ,x_p,x-f)$, la dernière colonne et la dernière ligne sont nulles, sauf le coin $⟨x-f,x-f⟩=\Vert x-p_F(x){\Vert }^2=d(x,F{)}^2$. Développons ce déterminant selon la dernière colonne : un seul terme, $$G(x_1,\dots ,x_p,x)=G(x_1,\dots ,x_p,x-f)=d(x,F{)}^{2}G(x_1,\dots ,x_p).$$ La famille étant libre, $G(x_1,\dots ,x_p)>0$ par le 2), et l'on peut diviser : $$d(x,F{)}^2=\frac{G(x_1,\dots ,x_p,x)}{G(x_1,\dots ,x_p)}.$$ Une distance se calcule par deux déterminants, sans orthonormaliser.

Application. On cherche ${\min }_{a,b}{\int }_{-1}^1(t^2-at-b{)}^2\mathrm{d}t={\min }_{f\in {\mathbb{R}}_1[X]}\Vert X^2-f{\Vert }^2=d(X^2,{\mathbb{R}}_1[X]{)}^2$, avec ${\mathbb{R}}_1[X]=\mathrm{Vect}(1,X)$. Les produits scalaires nécessaires sont $⟨1,1⟩=2$, $⟨1,X⟩=0$, $⟨X,X⟩=\frac{2}{3}$, $⟨1,X^2⟩=\frac{2}{3}$, $⟨X,X^2⟩=0$, $⟨X^2,X^2⟩=\frac{2}{5}$. Donc $$G(1,X)=\det \left(\begin{array}{cc}2& 0\\ 0& 2/3\end{array}\right)=\frac{4}{3},G(1,X,X^2)=\det \left(\begin{array}{ccc}2& 0& 2/3\\ 0& 2/3& 0\\ 2/3& 0& 2/5\end{array}\right).$$ Développons ce dernier selon la deuxième ligne, qui n'a qu'un coefficient non nul : $\frac{2}{3}\det \left(\begin{array}{cc}2& 2/3\\ 2/3& 2/5\end{array}\right)=\frac{2}{3}(\frac{4}{5}-\frac{4}{9})=\frac{2}{3}\cdot \frac{36-20}{45}=\frac{2}{3}\cdot \frac{16}{45}=\frac{32}{135}$. D'où $$d(X^2,{\mathbb{R}}_1[X]{)}^2=\frac{32/135}{4/3}=\frac{32}{135}\cdot \frac{3}{4}=\frac{8}{45}.$$ Le minimum vaut $\frac{8}{45}$. Contrôle : à l'exercice 6, le projeté de $X^2$ sur ${\mathbb{R}}_1[X]$ est $\frac{1}{3}$ (parité : $X^2-\frac{1}{3}=P_2\perp {\mathbb{R}}_1[X]$), et $\Vert X^2-\frac{1}{3}{\Vert }^2=\Vert P_2{\Vert }^2=\frac{8}{45}$ — même valeur, obtenue là par projection, ici par déterminants.

6) L'inégalité de Hadamard. Soit $(x_1,\dots ,x_p)$ libre et $F_{p-1}=\mathrm{Vect}(x_1,\dots ,x_{p-1})$. La sous-famille $(x_1,\dots ,x_{p-1})$ est libre, et le 5) appliqué à $x=x_p$ donne $$G(x_1,\dots ,x_p)=G(x_1,\dots ,x_{p-1})d(x_p,F_{p-1}{)}^2.$$ Or $d(x_p,F_{p-1})=\Vert x_p-p_{F_{p-1}}(x_p)\Vert \le \Vert x_p\Vert$ par Pythagore (exercice 8, a) : $\Vert x_p{\Vert }^2=\Vert p(x_p){\Vert }^2+d^2$), avec égalité si et seulement si $p_{F_{p-1}}(x_p)=0$, c'est-à-dire $x_p\in F_{p-1}^{\perp }$, c'est-à-dire $x_p\perp x_1,\dots ,x_{p-1}$. Donc $$G(x_1,\dots ,x_p)\le G(x_1,\dots ,x_{p-1})\Vert x_p{\Vert }^2.$$ Récurrence. En itérant — $G(x_1,\dots ,x_{p-1})\le G(x_1,\dots ,x_{p-2})\Vert x_{p-1}{\Vert }^2$, et ainsi de suite jusqu'à $G(x_1)=\Vert x_1{\Vert }^2$ — on obtient, pour toute famille libre, $$G(x_1,\dots ,x_p)\le \prod _{i=1}^p\Vert x_i{\Vert }^2,$$ avec égalité si et seulement si chaque étape est une égalité, c'est-à-dire si et seulement si $x_k\perp x_1,\dots ,x_{k-1}$ pour tout $k$ : si et seulement si la famille est orthogonale. Si la famille est liée, $G=0\le \prod \Vert x_i{\Vert }^2$, avec égalité si et seulement si le produit est nul, c'est-à-dire si l'un des $x_i$ est nul. Dans tous les cas : $G(x_1,\dots ,x_p)\le {\prod }_i\Vert x_i{\Vert }^2$, avec égalité si et seulement si la famille est orthogonale ou contient le vecteur nul. (Une famille orthogonale de vecteurs non nuls est libre : les deux cas d'égalité ne se recouvrent que si un vecteur est nul.)

Traduction matricielle. Soit $M\in {\mathcal{M}}_n(\mathbb{R})$ de colonnes $C_1,\dots ,C_n$, vues dans ${\mathbb{R}}^n$ canonique. Le coefficient $(i,j)$ de $M^{\top }M$ est $⟨C_i,C_j⟩$ : $M^{\top }M$ est la matrice de Gram des colonnes, et $G(C_1,\dots ,C_n)=\det (M^{\top }M)=(\det M{)}^2$. L'inégalité donne $(\det M{)}^2\le {\prod }_j\Vert C_j{\Vert }^2$, soit $$|\det M|\le \prod _{j=1}^n\Vert C_j\Vert ,$$ avec égalité si et seulement si les colonnes sont deux à deux orthogonales ou l'une d'elles est nulle. Interprétation : $|\det M|$ est le volume du parallélépipède construit sur les colonnes ; à longueurs de côtés fixées, ce volume est maximal quand le parallélépipède est rectangle.

Le théorème obtenu — déterminant de Gram et inégalité de Hadamard. Pour toute famille $(x_1,\dots ,x_p)$ d'un espace préhilbertien réel, $G(x_1,\dots ,x_p)\ge 0$, avec nullité si et seulement si la famille est liée. Si la famille est libre et $F$ le sous-espace qu'elle engendre, la distance de tout vecteur $x$ à $F$ vérifie $d(x,F{)}^2=G(x_1,\dots ,x_p,x)/G(x_1,\dots ,x_p)$. Et $G(x_1,\dots ,x_p)\le {\prod }_i\Vert x_i{\Vert }^2$ — pour une matrice carrée, $|\det M|\le {\prod }_j\Vert C_j\Vert$ — avec égalité si et seulement si les vecteurs sont deux à deux orthogonaux ou l'un est nul.

Ce que le problème installe. Le déterminant de Gram est le pont entre les deux chapitres : le carré d'un volume ($G=(\det A{)}^2$, question 2) est aussi un produit de carrés de distances successives (question 6), et la formule de la distance en est le quotient. On calcule ainsi une distance sans base orthonormée, par de simples produits scalaires — ce qui est précieux quand orthonormaliser est pénible, comme pour des fonctions. Et Hadamard dit ce que l'intuition du parallélépipède promettait : l'orthogonalité est la configuration de volume maximal, le déterminant est majoré par le produit des longueurs, et le cas d'égalité est exactement le cas rectangle.