Conserver le produit scalaire entraîne la linéarité

Stratégie. Deux mouvements de sens contraire. Le premier — la polarisation — reconstruit le produit scalaire à partir de la seule norme : conserver l'un revient à conserver l'autre, pourvu que l'application soit linéaire. Le second se passe justement de la linéarité : on écrit le vecteur qui mesurerait le défaut de linéarité, on développe le carré de sa norme en produits scalaires, chacun devient calculable par hypothèse, et tout se compense. C'est le caractère défini du produit scalaire qui transforme alors « norme nulle » en « vecteur nul ».

$E$ désigne un espace préhilbertien réel, de produit scalaire $⟨,⟩$ et de norme associée $\Vert x\Vert =\sqrt{⟨x,x⟩}$.

1. Une application linéaire conservant les normes conserve le produit scalaire. L'identité de polarisation s'obtient en développant $\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2$ : $$⟨x,y⟩=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2).$$ Soit $u$ linéaire avec $\Vert u(z)\Vert =\Vert z\Vert$ pour tout $z$. Alors, pour tous $x,y$ : $$⟨u(x),u(y)⟩=\frac{1}{2}(\Vert u(x)+u(y){\Vert }^2-\Vert u(x){\Vert }^2-\Vert u(y){\Vert }^2)=\frac{1}{2}(\Vert u(x+y){\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2),$$ où l'on a utilisé la linéarité pour écrire $u(x)+u(y)=u(x+y)$, puis la conservation des normes sur $x$ et sur $y$. En l'appliquant une troisième fois, à $x+y$ : $$⟨u(x),u(y)⟩=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2)=⟨x,y⟩.✓$$

2. Une application conservant le produit scalaire est linéaire. Soit maintenant $f:E\to E$, sans aucune hypothèse de linéarité, telle que $$\forall x,y\in E,⟨f(x),f(y)⟩=⟨x,y⟩.(\mathcal{H})$$ Fixons $\lambda \in \mathbb{R}$ et $x,y\in E$, et posons $$w=f(\lambda x+y)-\lambda f(x)-f(y),$$ le vecteur qui mesure exactement le défaut de linéarité. Développons $\Vert w{\Vert }^2=⟨w,w⟩$ par bilinéarité et symétrie du produit scalaire : $$\Vert w{\Vert }^2=\Vert f(\lambda x+y){\Vert }^2+{\lambda }^2\Vert f(x){\Vert }^2+\Vert f(y){\Vert }^2-2\lambda ⟨f(\lambda x+y),f(x)⟩-2⟨f(\lambda x+y),f(y)⟩+2\lambda ⟨f(x),f(y)⟩.$$ Chacun des six termes se calcule par $(\mathcal{H})$ — c'est le cœur du calcul, et il ne demande aucune linéarité : $$\Vert f(z){\Vert }^2=⟨z,z⟩=\Vert z{\Vert }^2,⟨f(\lambda x+y),f(x)⟩=⟨\lambda x+y,x⟩=\lambda \Vert x{\Vert }^2+⟨x,y⟩,$$ $$⟨f(\lambda x+y),f(y)⟩=⟨\lambda x+y,y⟩=\lambda ⟨x,y⟩+\Vert y{\Vert }^2,⟨f(x),f(y)⟩=⟨x,y⟩.$$ En substituant, et en développant $\Vert \lambda x+y{\Vert }^2={\lambda }^2\Vert x{\Vert }^2+2\lambda ⟨x,y⟩+\Vert y{\Vert }^2$ : $$\Vert w{\Vert }^2=({\lambda }^2\Vert x{\Vert }^2+2\lambda ⟨x,y⟩+\Vert y{\Vert }^2)+{\lambda }^2\Vert x{\Vert }^2+\Vert y{\Vert }^2-2\lambda (\lambda \Vert x{\Vert }^2+⟨x,y⟩)-2(\lambda ⟨x,y⟩+\Vert y{\Vert }^2)+2\lambda ⟨x,y⟩.$$ Regroupons les trois espèces de termes qui apparaissent, et sommons leurs coefficients :

• terme en ${\lambda }^2\Vert x{\Vert }^2$ : coefficients $1+1-2=0$ ;
• terme en $\lambda ⟨x,y⟩$ : coefficients $2-2-2+2=0$ ;
• terme en $\Vert y{\Vert }^2$ : coefficients $1+1-2=0$.

Tout se compense : $\Vert w{\Vert }^2=0$. Le produit scalaire étant défini, $\Vert w\Vert =0$ entraîne $w=0$, c'est-à-dire $$f(\lambda x+y)=\lambda f(x)+f(y)\text{pour tous }\lambda \in \mathbb{R},x,y\in E.$$ $f$ est donc linéaire. Comme elle conserve le produit scalaire, elle conserve aussi la norme : $f$ est une isométrie vectorielle. (Au passage, $\Vert f(0){\Vert }^2=\Vert 0{\Vert }^2=0$ donne $f(0)=0$, sans qu'on ait eu à le supposer.)

Point délicat : conserver la norme ne suffirait pas. L'énoncé suppose la conservation du produit scalaire, hypothèse strictement plus forte pour une application non linéaire. Dans ${\mathbb{R}}^2$, l'application « doublement de l'angle polaire » $$f(r\cos t,r\sin t)=(r\cos 2t,r\sin 2t)(r\ge 0)$$ conserve toutes les normes ($\Vert f(x)\Vert =r=\Vert x\Vert$), et pourtant elle n'est pas linéaire : $$f(e_1)=(1,0),f(e_2)=(-1,0),f(e_1+e_2)=\sqrt{2}(\cos \frac{\pi }{2},\sin \frac{\pi }{2})=(0,\sqrt{2}),$$ alors que $f(e_1)+f(e_2)=(0,0)\ne (0,\sqrt{2})$. Elle ne conserve d'ailleurs pas le produit scalaire : $⟨f(e_1),f(e_2)⟩=-1$ tandis que $⟨e_1,e_2⟩=0$.

Contrôle chiffré. Vérifions que $w$ s'annule sur un exemple concret, avec $f$ la rotation d'angle $\frac{\pi }{2}$ de ${\mathbb{R}}^2$, $\lambda =2$, $x=e_1$, $y=e_2$. Cette $f$ envoie $(a,b)$ sur $(-b,a)$ : $$f(2e_1+e_2)=f(2,1)=(-1,2),2f(e_1)+f(e_2)=2(0,1)+(-1,0)=(-1,2),$$ donc $w=(0,0)$ et $\Vert w{\Vert }^2=0$. $✓$

Ce qui est acquis. La linéarité d'une isométrie n'est pas une hypothèse à poser : elle est contenue dans la conservation du produit scalaire. C'est ce qui permet de définir le groupe orthogonal par une propriété purement métrique, et de retrouver ensuite sa structure linéaire.