L'espace tangent au groupe orthogonal en l'identité

La stratégie : une inclusion se dérive, l'autre s'exhibe. Par définition, un vecteur tangent à une partie $X$ en $x$ est la vitesse en $0$ d'un arc tracé dans $X$ et passant par $x$. L'inclusion $T_{x}X\subset \{\dots \}$ s'obtient donc toujours de la même façon : on prend un arc quelconque dans $X$, on dérive la contrainte qu'il vérifie. L'inclusion réciproque est d'une autre nature : il faut, pour chaque candidat, construire un arc. Ici c'est l'exponentielle de matrice (chapitre 10) qui le fournit.

a) Toute vitesse est antisymétrique. L'arc vérifie $\gamma (t{)}^{\mathsf{T}}\gamma (t)=I_n$ pour tout $t$ de l'intervalle. La transposition $M\mapsto M^{\mathsf{T}}$ est linéaire sur ${\mathcal{M}}_n(\mathbb{R})$, donc continue (dimension finie, chapitre 4) et égale à sa propre différentielle ; le produit $(U,V)\mapsto UV$ est bilinéaire. Par la règle de dérivation d'une application bilinéaire en un point où les deux facteurs sont dérivables (chapitre 7), $t\mapsto \gamma (t{)}^{\mathsf{T}}\gamma (t)$ est dérivable en $0$, de dérivée $${\gamma }^{\prime }(0{)}^{\mathsf{T}}\gamma (0)+\gamma (0{)}^{\mathsf{T}}{\gamma }^{\prime }(0)={\gamma }^{\prime }(0{)}^{\mathsf{T}}+{\gamma }^{\prime }(0),$$ puisque $\gamma (0)=I_n$. Or la fonction dérivée est celle de la constante $I_n$, donc nulle : $${\gamma }^{\prime }(0{)}^{\mathsf{T}}+{\gamma }^{\prime }(0)=0,\text{c’est-aˋ-dire}{\gamma }^{\prime }(0)\in {\mathcal{A}}_n(\mathbb{R}).$$ Tout vecteur tangent en $I_n$ étant de cette forme, $T_{I_n}{O}_n(\mathbb{R})\subset {\mathcal{A}}_n(\mathbb{R})$.

b) Toute matrice antisymétrique est une vitesse. Soit $A$ antisymétrique. La transposition étant linéaire continue, elle commute avec la limite des sommes partielles, et $(M^k{)}^{\mathsf{T}}=(M^{\mathsf{T}}{)}^k$ ; donc $$(e^{tA}{)}^{\mathsf{T}}=(\sum _{k\ge 0}\frac{t^k{A}^k}{k!}{)}^{\mathsf{T}}=\sum _{k\ge 0}\frac{t^k(A^{\mathsf{T}}{)}^k}{k!}=e^{t{A}^{\mathsf{T}}}=e^{-tA}.$$ Par ailleurs $tA$ et $-tA$ commutent, donc $e^{tA}{e}^{-tA}=e^0=I_n$ (théorème d'exponentielle d'une somme dans le cas commutatif) : $e^{-tA}=(e^{tA}{)}^{-1}$. En combinant, $(e^{tA}{)}^{\mathsf{T}}{e}^{tA}=I_n$ : $$\gamma (t)=e^{tA}\in O_n(\mathbb{R})\text{pour tout }t.$$ Cet arc est de classe C∞, avec $\gamma (0)=I_n$ et ${\gamma }^{\prime }(0)=A$ (dérivée de $t\mapsto e^{tA}$ en $0$, cours du chapitre 10). Donc $A\in T_{I_n}{O}_n(\mathbb{R})$, et avec le a) : $$T_{I_n}{O}_n(\mathbb{R})={\mathcal{A}}_n(\mathbb{R}).$$ Dimension : une matrice antisymétrique a une diagonale nulle ($a_{ii}=-a_{ii}$) et ses coefficients strictement sous la diagonale déterminent les autres : $\dim {\mathcal{A}}_n(\mathbb{R})=\frac{n(n-1)}{2}$.

c) En un point quelconque de $O_n(\mathbb{R})$. Inclusion $\supset$ : pour $A\in {\mathcal{A}}_n(\mathbb{R})$, l'arc $t\mapsto M{e}^{tA}$ est à valeurs dans $O_n(\mathbb{R})$ (produit de deux orthogonales), vaut $M$ en $0$, et sa dérivée en $0$ vaut $MA$ puisque $X\mapsto MX$ est linéaire donc commute avec la dérivation. Inclusion $\subset$ : soit $V$ la vitesse en $0$ d'un arc $\delta$ tracé dans $O_n(\mathbb{R})$ avec $\delta (0)=M$ ; alors $\gamma (t)=M^{\mathsf{T}}\delta (t)$ est encore un arc dans $O_n(\mathbb{R})$, avec $\gamma (0)=M^{\mathsf{T}}M=I_n$ et ${\gamma }^{\prime }(0)=M^{\mathsf{T}}V$, donc $M^{\mathsf{T}}V\in {\mathcal{A}}_n(\mathbb{R})$ par le a) et $V=M(M^{\mathsf{T}}V)\in M{\mathcal{A}}_n(\mathbb{R})$. Ainsi $T_M{O}_n(\mathbb{R})=M{\mathcal{A}}_n(\mathbb{R})$, de dimension $\frac{n(n-1)}{2}$ puisque $X\mapsto MX$ est un isomorphisme.

d) Pourquoi le théorème du cours ne s'applique pas. Il est énoncé pour $X=\{g=0\}$ avec $g$ une fonction numérique de classe C1 telle que $\mathrm{d}g(x)\ne 0$, et il produit un hyperplan. Ici la contrainte $M^{\mathsf{T}}M=I_n$ n'est pas une équation scalaire : la matrice $M^{\mathsf{T}}M-I_n$ étant toujours symétrique, elle équivaut à $\frac{n(n+1)}{2}$ équations numériques. Le théorème du cours ne couvre pas ce cas — et c'est précisément pourquoi les deux inclusions ont dû être établies à la main.

Le calcul, néanmoins. Posons $g:{\mathcal{M}}_n(\mathbb{R})\to {\mathcal{S}}_n(\mathbb{R})$, $g(M)=M^{\mathsf{T}}M-I_n$ (les valeurs sont bien symétriques : $(M^{\mathsf{T}}M{)}^{\mathsf{T}}=M^{\mathsf{T}}M$). C'est la somme d'une constante et de l'application $M\mapsto B(M,M)$ où $B(U,V)=U^{\mathsf{T}}V$ est bilinéaire, donc $g$ est de classe C∞ et $$\mathrm{d}g(M)\cdot H=H^{\mathsf{T}}M+M^{\mathsf{T}}H,\text{en particulier}\mathrm{d}g(I_n)\cdot H=H^{\mathsf{T}}+H.$$ Son noyau est $\{H:H^{\mathsf{T}}=-H\}={\mathcal{A}}_n(\mathbb{R})$ — exactement l'espace tangent trouvé.

Contrôle des dimensions. Toute matrice s'écrit de façon unique $H=\frac{H+H^{\mathsf{T}}}{2}+\frac{H-H^{\mathsf{T}}}{2}$, somme d'une symétrique et d'une antisymétrique : $n^2=\frac{n(n+1)}{2}+\frac{n(n-1)}{2}$. De plus $\mathrm{d}g(I_n)$ est surjective sur ${\mathcal{S}}_n(\mathbb{R})$ — pour $S$ symétrique, $H=\frac{S}{2}$ donne $H+H^{\mathsf{T}}=S$ —, et le théorème du rang donnerait $\dim \mathrm{Ker}=n^2-\frac{n(n+1)}{2}=\frac{n(n-1)}{2}$ : tout est cohérent, mais c'est une vérification, pas une démonstration, seules les questions a) et b) établissant le résultat.

Le point délicat : les deux inclusions ne sont pas de même difficulté. Dériver la contrainte est automatique. La réciproque demande de produire un arc pour chaque candidat, et c'est là que la plupart des copies s'arrêtent. Retenir le fournisseur d'arcs : dans les groupes de matrices, c'est l'exponentielle, parce qu'elle transforme une condition linéaire sur $A$ (antisymétrie) en une condition multiplicative sur $e^{tA}$ (orthogonalité).

Contrôle en petite dimension. Pour $n=2$, $\dim {\mathcal{A}}_2(\mathbb{R})=1$, engendré par $J=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$, et $e^{tJ}$ est la rotation d'angle $t$ : l'arc est le cercle des rotations, sa vitesse en l'identité est $J$, et l'espace tangent est une droite, conforme à $\frac{2\times 1}{2}=1$. Pour $n=3$, la dimension vaut $3$ : une antisymétrique est déterminée par trois nombres, ceux du vecteur rotation instantanée de la mécanique, et la relation $\dot{R}{R}^{\mathsf{T}}$ antisymétrique n'est que la question a) écrite en un point quelconque.

Ce que l'exercice installe. La définition d'un vecteur tangent — une vitesse admissible — est opératoire : elle se manie sans aucun théorème, par dérivation dans un sens et par construction dans l'autre, et elle est indispensable dès que la contrainte n'est pas une seule équation numérique. L'espace ${\mathcal{A}}_n(\mathbb{R})$ porte un nom : c'est l'algèbre de Lie du groupe orthogonal, l'espace des rotations infinitésimales.