Conserver les distances entraîne la linéarité

Ce qu'on a le droit d'utiliser. L'identité de polarisation, $⟨x,y⟩=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2)$ ; le caractère défini du produit scalaire ; la définition des isométries vectorielles et du groupe orthogonal $\mathrm{O}(E)$. La stratégie du b) : pour montrer qu'un vecteur est nul, calculer le carré de sa norme ; chaque produit scalaire qui apparaît se transporte par $f$, et tout se compense.

a) Norme et produit scalaire. Soit $u$ linéaire conservant la norme. Pour $x,y\in E$, la linéarité donne $u(x)+u(y)=u(x+y)$, d'où $$⟨u(x),u(y)⟩=\frac{1}{2}(\Vert u(x+y){\Vert }^2-\Vert u(x){\Vert }^2-\Vert u(y){\Vert }^2)=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2)=⟨x,y⟩.$$ C'est la linéarité qui a permis de remplacer $u(x)+u(y)$ par $u(x+y)$ : c'est d'elle que le b) va se passer.

b) La linéarité est automatique. Supposons $⟨f(x),f(y)⟩=⟨x,y⟩$ pour tous $x,y$. Fixons $\lambda \in \mathbb{R}$, $x,y\in E$, et posons $v=f(\lambda x+y)-\lambda f(x)-f(y)$, le vecteur qui mesure le défaut de linéarité. Par bilinéarité, $$\begin{array}{rl}\Vert v{\Vert }^2=& \Vert f(\lambda x+y){\Vert }^2+{\lambda }^2\Vert f(x){\Vert }^2+\Vert f(y){\Vert }^2\\ & -2\lambda ⟨f(\lambda x+y),f(x)⟩-2⟨f(\lambda x+y),f(y)⟩+2\lambda ⟨f(x),f(y)⟩.\end{array}$$ Chacun des six termes se transporte par l'hypothèse — on efface la lettre $f$ : $$\begin{array}{rl}\Vert v{\Vert }^2=& \Vert \lambda x+y{\Vert }^2+{\lambda }^2\Vert x{\Vert }^2+\Vert y{\Vert }^2\\ & -2\lambda ⟨\lambda x+y,x⟩-2⟨\lambda x+y,y⟩+2\lambda ⟨x,y⟩.\end{array}$$ En développant $\Vert \lambda x+y{\Vert }^2={\lambda }^2\Vert x{\Vert }^2+2\lambda ⟨x,y⟩+\Vert y{\Vert }^2$, $⟨\lambda x+y,x⟩=\lambda \Vert x{\Vert }^2+⟨x,y⟩$ et $⟨\lambda x+y,y⟩=\lambda ⟨x,y⟩+\Vert y{\Vert }^2$, puis en regroupant : le coefficient de ${\lambda }^2\Vert x{\Vert }^2$ vaut $1+1-2=0$, celui de $\Vert y{\Vert }^2$ vaut $1+1-2=0$, et celui de $\lambda ⟨x,y⟩$ vaut $2-2-2+2=0$. Donc $\Vert v{\Vert }^2=0$, et par le caractère défini $v=0$ : $f(\lambda x+y)=\lambda f(x)+f(y)$. $f$ est linéaire, et, conservant la norme, c'est une isométrie vectorielle.

La norme seule ne suffit pas. Sur ${\mathbb{R}}^2$, l'application $g$ qui vaut $x$ si $x_2\ge 0$ et $-x$ si $x_2<0$ conserve la norme, mais $g(e_2)+g(-e_2)=2e_2$ alors que $g(e_2-e_2)=g(0)=0$ : elle n'est pas linéaire. Elle ne conserve d'ailleurs pas le produit scalaire : $⟨g(e_2),g(-e_2)⟩=1$, alors que $⟨e_2,-e_2⟩=-1$.

c) Conserver les distances. Supposons $\Vert f(x)-f(y)\Vert =\Vert x-y\Vert$ pour tous $x,y$, et $f(0)=0$. La norme : $\Vert f(x)\Vert =\Vert f(x)-f(0)\Vert =\Vert x\Vert$. Le produit scalaire : en développant les deux membres de $\Vert f(x)-f(y){\Vert }^2=\Vert x-y{\Vert }^2$, $$\Vert f(x){\Vert }^2-2⟨f(x),f(y)⟩+\Vert f(y){\Vert }^2=\Vert x{\Vert }^2-2⟨x,y⟩+\Vert y{\Vert }^2,$$ et les normes se simplifient : $⟨f(x),f(y)⟩=⟨x,y⟩$. Par le b), $f$ est linéaire, donc $f\in \mathrm{O}(E)$ : c'est la conservation des distances, qui porte sur des différences, qui rend le service que la norme seule ne rendait pas.

Le cas général. Si $f$ conserve les distances sans fixer $0$, posons $a=f(0)$ et $g(x)=f(x)-a$. Alors $\Vert g(x)-g(y)\Vert =\Vert f(x)-f(y)\Vert =\Vert x-y\Vert$ et $g(0)=0$ : $g=u\in \mathrm{O}(E)$, et $f(x)=a+u(x)$, une isométrie vectorielle suivie d'une translation.

d) Le solide indéformable. Un solide indéformable est un système dont les distances mutuelles ne changent pas. Si l'on modélise le passage d'une position à une autre par une application de l'espace dans lui-même qui conserve les distances — tout point lié au solide étant emporté avec lui —, le c) dit qu'elle s'écrit $x\mapsto a+u(x)$ : deux positions d'un solide se déduisent l'une de l'autre par une isométrie vectorielle suivie d'une translation, sans aucune hypothèse de linéarité au départ. Si le mouvement est continu, $\det u(t)$, continue à valeurs dans $\{-1,1\}$, reste égale à $\det (\mathrm{id})=1$ : un solide ne se change pas en son image dans un miroir.

Ce que l'exercice installe. La linéarité d'une isométrie n'est pas une hypothèse : elle est contenue dans la conservation du produit scalaire, et la conservation des distances, avec $f(0)=0$, la redonne. Le geste « pour montrer qu'un vecteur est nul, calculer le carré de sa norme » est l'un des plus utiles de l'algèbre euclidienne.