Trois fermés classiques de M_n(ℝ)

Stratégie. Aucun des trois ensembles ne se traite en revenant à la définition d'un fermé. Chaque fois, on l'écrit comme image réciproque d'un fermé par une application continue — c'est la fabrique à fermés du cours, et le chemin le plus court. Tout le travail consiste à identifier la bonne application et à justifier sa continuité.

Le cadre. ${\mathcal{M}}_n(\mathbb{R})$ est de dimension finie $n^2$ : toutes les normes y sont équivalentes, les notions topologiques ne dépendent donc pas de la norme choisie, et l'on dispose de deux faits du cours :

• toute application linéaire de ${\mathcal{M}}_n(\mathbb{R})$ dans un espace normé de dimension finie est continue ;
• toute application polynomiale en les coefficients l'est aussi.

1. ${\mathcal{S}}_n(\mathbb{R})$ est fermé. Considérons $$\varphi :{\mathcal{M}}_n(\mathbb{R})\to {\mathcal{M}}_n(\mathbb{R}),\varphi (A)=A-A^{\top }.$$ $\varphi$ est linéaire (la transposition l'est), donc continue. Le singleton $\{0\}$ est un fermé de ${\mathcal{M}}_n(\mathbb{R})$. Or $${\mathcal{S}}_n(\mathbb{R})=\{A:A^{\top }=A\}={\varphi }^{-1}(\{0\}),$$ image réciproque d'un fermé par une application continue : ${\mathcal{S}}_n(\mathbb{R})$ est fermé.

Contrôle par la caractérisation séquentielle, qui redonne le même résultat : si $A_k\in {\mathcal{S}}_n(\mathbb{R})$ et $A_k\to A$, alors $A_k^{\top }\to A^{\top }$ (la transposition est linéaire donc continue), et l'égalité $A_k=A_k^{\top }$ passe à la limite par unicité de la limite : $A=A^{\top }$.

2. ${\mathrm{O}}_n(\mathbb{R})$ est fermé. Considérons $$\psi :{\mathcal{M}}_n(\mathbb{R})\to {\mathcal{M}}_n(\mathbb{R}),\psi (A)=A^{\top }A.$$ Le coefficient d'indice $(i,j)$ de $A^{\top }A$ vaut ${\sum }_k{a}_{ki}{a}_{kj}$ : c'est un polynôme de degré 2 en les coefficients de $A$. Donc $\psi$ est polynomiale, donc continue. Comme $\{I_n\}$ est fermé, $${\mathrm{O}}_n(\mathbb{R})=\{A:A^{\top }A=I_n\}={\psi }^{-1}(\{I_n\})$$ est fermé.

3. $\{A:\det A=1\}$ est fermé. Le déterminant est un polynôme en les $n^2$ coefficients (formule de Leibniz, ou développement récursif) : $\det :{\mathcal{M}}_n(\mathbb{R})\to \mathbb{R}$ est continue. Le singleton $\{1\}$ est fermé dans $\mathbb{R}$, donc $${\mathrm{SL}}_n(\mathbb{R})=\det {}^{-1}(\{1\})$$ est fermé.

Le point délicat. Ces trois ensembles n'ont pas la même nature algébrique — ${\mathcal{S}}_n(\mathbb{R})$ est un sous-espace vectoriel, les deux autres sont des groupes multiplicatifs mais pas des sous-espaces (ni ${\mathrm{O}}_n$ ni ${\mathrm{SL}}_n$ ne contiennent la matrice nulle). Leur fermeture ne vient donc pas de la structure algébrique, mais uniquement du fait qu'ils sont définis par des équations à second membre continu. La règle générale du cours : un ensemble décrit par des équations $g_i(A)=0$ avec $g_i$ continue est fermé ; par des inégalités larges $g_i(A)\ge 0$, également ; par des inégalités strictes, c'est un ouvert.

Contraste utile. ${\mathrm{GL}}_n(\mathbb{R})={\det }^{-1}(\mathbb{R}\setminus \{0\})$ est, lui, un ouvert (image réciproque d'un ouvert) — et il n'est pas fermé, puisque l'exercice 15 y construit des suites de matrices inversibles convergeant vers n'importe quelle matrice, singulière comprise.

Contrôle : fermé n'est pas borné. La suite $$A_k=\mathrm{diag}\left(\frac{1}{k},k,1,\dots ,1\right)$$ vérifie $\det A_k=1$ pour tout $k\ge 1$, mais $\Vert A_k\Vert \to +\infty$ : ${\mathrm{SL}}_n(\mathbb{R})$ est fermé et non borné. En revanche ${\mathrm{O}}_n(\mathbb{R})$ est fermé et borné : si $A^{\top }A=I_n$, alors ${\sum }_{i,j}{a}_{ij}^2=\mathrm{tr}(A^{\top }A)=\mathrm{tr}(I_n)=n$, donc toute matrice orthogonale est de norme de Frobenius exactement $\sqrt{n}$. Le théorème des bornes atteintes s'applique donc à toute fonction continue sur ${\mathrm{O}}_n(\mathbb{R})$ — et pas sur ${\mathrm{SL}}_n(\mathbb{R})$.