Soit u un endomorphisme d'un espace euclidien tel que ‖u(x)‖ = ‖x‖…

Stratégie : la polarisation. L'identité $\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2$ se relit $$⟨x,y⟩=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2):$$ le produit scalaire est entièrement codé par la norme. Préserver l'une, c'est donc préserver l'autre — il n'y a plus qu'à l'écrire.

a) $u$ conserve le produit scalaire. Pour $x,y\in E$ : $$⟨u(x),u(y)⟩=\frac{1}{2}(\Vert u(x)+u(y){\Vert }^2-\Vert u(x){\Vert }^2-\Vert u(y){\Vert }^2)=\frac{1}{2}(\Vert u(x+y){\Vert }^2-\Vert u(x){\Vert }^2-\Vert u(y){\Vert }^2)$$ $$=\frac{1}{2}(\Vert x+y{\Vert }^2-\Vert x{\Vert }^2-\Vert y{\Vert }^2)=⟨x,y⟩.$$

⚠️ La linéarité de $u$ sert au milieu, et elle est indispensable. C'est elle qui autorise $u(x)+u(y)=u(x+y)$ ; sans elle, on ne pourrait pas invoquer l'hypothèse d'isométrie sur $x+y$. Une application quelconque qui conserve les normes ne conserve pas les produits scalaires : sur $\mathbb{R}$, $f(x)=|x|$ vérifie $|f(x)|=|x|$ pour tout $x$, mais $⟨f(1),f(-1)⟩=1$ alors que $⟨1,-1⟩=-1$. « Isométrie » sous-entend ici linéaire.

b) Image d'une base orthonormée. Soit $(e_1,\dots ,e_n)$ orthonormée. Par a) : $$⟨u(e_i),u(e_j)⟩=⟨e_i,e_j⟩={\delta }_{i,j}.$$ La famille $(u(e_1),\dots ,u(e_n))$ est donc orthonormée ; étant orthogonale à vecteurs non nuls, elle est libre ; ayant $n$ vecteurs dans un espace de dimension $n$, c'est une base. $$\boxed{u\text{isomeˊtrie}⟹u\text{conserve }⟨\cdot ,\cdot ⟩\text{et transforme toute B.O.N. en B.O.N.}}$$ Au passage, $u$ est bijective : $u(x)=0\Rightarrow \Vert x\Vert =\Vert u(x)\Vert =0\Rightarrow x=0$, donc $u$ est injective, donc bijective en dimension finie. Une isométrie d'un espace euclidien est un automorphisme.

c) Lecture matricielle. Dans une base orthonormée, les colonnes de la matrice $A$ de $u$ sont les coordonnées des $u(e_j)$ : dire qu'elles forment une famille orthonormée, c'est dire $$A^{\top }A=I_n.$$ Ce sont les matrices orthogonales, et $\det \left(A^{\top }A\right)=(\det A{)}^2=1$ impose $\det A=\pm 1$.

Contrôle. Rotation du plan, $A=\left(\begin{array}{cc}\cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{array}\right)$ : $$\Vert A(x,y){\Vert }^2=(x\cos \theta -y\sin \theta {)}^2+(x\sin \theta +y\cos \theta {)}^2=x^2+y^2✓$$ et $A^{\top }A=I_2$, $\det A=1$ ✓. Réflexion $\left(\begin{array}{cc}1& 0\\ 0& -1\end{array}\right)$ : également $A^{\top }A=I_2$, mais $\det A=-1$ ✓ — les deux signes se produisent, l'un conservant l'orientation, l'autre non.

Ce que l'exercice installe. Conserver les longueurs entraîne conserver les angles. C'est pourquoi un déplacement rigide de l'espace — défini uniquement par la conservation des distances — préserve automatiquement la perpendicularité, fait utilisé sans démonstration en géométrie et en mécanique. L'ensemble de ces $u$ est le groupe orthogonal $\mathrm{O}(E)$, objet central de la deuxième année, et la relation $A^{\top }A=I_n$ en est la définition matricielle.