Cauchy-Schwarz sans le caractère défini

Ce qu'on a le droit d'utiliser. La bilinéarité, la symétrie et la positivité de $\phi$ — surtout pas le caractère défini. La stratégie : reprendre la démonstration du cours par le trinôme, repérer l'endroit où elle se servait de $\Vert y\Vert \ne 0$, et y substituer un argument qui s'en passe.

a) L'inégalité. Fixons $x,y\in E$ et posons, pour $t\in \mathbb{R}$, $q(t)=\phi (x+ty,x+ty)$. Par bilinéarité et symétrie, $$q(t)=\phi (x,x)+2t\phi (x,y)+t^2\phi (y,y),$$ et par positivité $q(t)\ge 0$ pour tout réel $t$. Deux cas.

Premier cas : $\phi (y,y)>0$. Alors $q$ est un trinôme du second degré qui ne prend que des valeurs positives ; il n'a donc pas deux racines réelles distinctes (entre elles, il serait strictement négatif), et son discriminant réduit est négatif ou nul : $\phi (x,y{)}^2-\phi (x,x)\phi (y,y)\le 0$.

Second cas : $\phi (y,y)=0$. C'est ici que la démonstration du cours ne s'applique plus : $q(t)=\phi (x,x)+2t\phi (x,y)$ est une fonction affine, positive sur $\mathbb{R}$ tout entier. Une fonction affine de pente non nulle prend des valeurs strictement négatives — elle tend vers $-\infty$ d'un côté — ; la pente est donc nulle : $\phi (x,y)=0$. L'inégalité voulue s'écrit alors $0\le \phi (x,x)\times 0$, qui est vraie.

Dans les deux cas, $\phi (x,y{)}^2\le \phi (x,x)\phi (y,y)$.

b) Le défaut de définition est un sous-espace. Si $\phi (x,y)=0$ pour tout $y$, alors en particulier $\phi (x,x)=0$ : $x\in N$. Réciproquement, si $\phi (x,x)=0$, l'inégalité du a) donne, pour tout $y$, $\phi (x,y{)}^2\le 0\times \phi (y,y)=0$, donc $\phi (x,y)=0$. Ainsi $$N=\{x\in E\mid \forall y\in E,\phi (x,y)=0\}=\bigcap _{y\in E}\mathrm{Ker}(\phi (\cdot ,y)),$$ intersection de noyaux de formes linéaires : $N$ est un sous-espace vectoriel. Si $\phi$ est un produit scalaire, le caractère défini dit exactement $N=\{0\}$.

Le point délicat. L'ensemble des $x$ tels que $\phi (x,x)=0$ n'a, a priori, aucune raison d'être stable par addition. Pour la forme non positive $\psi (x,y)=x_1{y}_1-x_2{y}_2$ sur ${\mathbb{R}}^2$, on a $\psi (x,x)=x_1^2-x_2^2$, qui s'annule sur la réunion des deux droites d'équations $x_2=x_1$ et $x_2=-x_1$ : les vecteurs $(1,1)$ et $(1,-1)$ en font partie, pas leur somme $(2,0)$. C'est la positivité, par l'intermédiaire de Cauchy-Schwarz, qui fait de $N$ un sous-espace.

c) Un produit scalaire sur tout supplémentaire. La restriction de $\phi$ à $S\times S$ reste bilinéaire, symétrique et positive. Si $x\in S$ vérifie $\phi (x,x)=0$, alors $x\in N\cap S=\{0\}$ : elle est définie. C'est un produit scalaire sur $S$.

d) Trois exemples.

(i) $\phi (P,P)=P(0{)}^2+P(1{)}^2$ est nul si et seulement si $P(0)=P(1)=0$ ; un polynôme de degré au plus $2$ qui s'annule en $0$ et en $1$ est de la forme $aX(X-1)$. Donc $N=\mathrm{Vect}(X^2-X)$. Un supplémentaire est $S={\mathbb{R}}_1[X]$, sur lequel $\phi$ est un produit scalaire : un polynôme de degré au plus $1$ qui a deux racines est nul.

(ii) $\phi (f,f)={\int }_0^{1/2}{f}^2=0$ si et seulement si la fonction $f^2$, continue et positive, est nulle sur $[0,\frac{1}{2}]$ : $N$ est l'ensemble des fonctions continues nulles sur $[0,\frac{1}{2}]$, un sous-espace de dimension infinie. Un supplémentaire est formé des fonctions constantes sur $[\frac{1}{2},1]$ : toute $f$ est la somme de la fonction égale à $f$ sur $[0,\frac{1}{2}]$ et à $f(\frac{1}{2})$ ensuite, et d'une fonction de $N$.

(iii) $\phi (X,X)=x_1^2+2x_1{x}_2+x_2^2=(x_1+x_2{)}^2$ : la forme est bien positive, et $N$ est la droite d'équation $x_1+x_2=0$, engendrée par la colonne de coordonnées $(1,-1)$. Par le b), $X\in N$ si et seulement si ${}^{t}XAY=0$ pour toute colonne $Y$, c'est-à-dire ${}^{t}XA=0$, soit $AX=0$ en transposant, puisque $A$ est symétrique : $N=\mathrm{Ker}A$, ce que l'on vérifie directement.

Ce que l'exercice installe. L'inégalité de Cauchy-Schwarz est un énoncé sur les formes positives ; le caractère défini ne sert qu'à son cas d'égalité. C'est ce qu'il faut en probabilités (chapitre 11) : $(X,Y)\mapsto E(XY)$ est positive sans être définie, et l'inégalité $E(XY{)}^2\le E(X^2)E(Y^2)$ du programme se démontre par le a), trinôme dégénéré compris ; appliquée aux variables centrées, elle donne $|\mathrm{Cov}(X,Y)|\le \sigma (X)\sigma (Y)$. En mécanique, l'énergie potentielle d'une chaîne de masses et de ressorts qui n'est fixée à aucun mur est positive sans être définie : $N$ est formé des translations d'ensemble, le « mode de pulsation nulle ». Et le (iii) annonce les matrices symétriques positives du chapitre 4.