Problème — Tout hyperplan de ${\mathcal{M}}_n(\mathbb{K})$ contient une matrice inversible

1) Toute forme linéaire est une trace. Existence. Posons $a_{i,j}=\phi (E_{j,i})$ — attention à l'ordre des indices — et $A=(a_{i,j})$. Pour $M={\sum }_{i,j}{m}_{i,j}{E}_{i,j}$, par linéarité, $$\phi (M)=\sum _{i,j}{m}_{i,j}\phi (E_{i,j})=\sum _{i,j}{m}_{i,j}{a}_{j,i}.$$ D'autre part $\mathrm{tr}(AM)={\sum }_i(AM{)}_{i,i}={\sum }_i{\sum }_j{a}_{i,j}{m}_{j,i}$, qui est la même double somme, à l'échange des noms $i$ et $j$ près. Donc $\phi (M)=\mathrm{tr}(AM)$ pour toute $M$. Unicité. Si $\mathrm{tr}(AM)=\mathrm{tr}(A^{\prime }M)$ pour toute $M$, alors $B=A-A^{\prime }$ vérifie $\mathrm{tr}(BM)=0$ pour toute $M$. Prenons $M=E_{i,j}$ : la matrice $B{E}_{i,j}$ a pour coefficient $(k,l)$ la somme ${\sum }_m{b}_{k,m}(E_{i,j}{)}_{m,l}=b_{k,i}{\delta }_{j,l}$, donc sa trace vaut ${\sum }_k{b}_{k,i}{\delta }_{j,k}=b_{j,i}$. Ainsi $b_{j,i}=0$ pour tous $i,j$ : $B=0$, et $A=A^{\prime }$. Aucune dualité n'a été utilisée : la linéarité et la base $(E_{i,j})$ suffisent, comme à l'exercice 9.

2) La matrice du cycle. $c$ envoie la base $(e_1,\dots ,e_n)$ sur $(e_2,\dots ,e_n,e_1)$, qui est la même base dans un autre ordre : l'image d'une base est une base, donc $c$ est un automorphisme (chapitre 12), et sa matrice $P$ est inversible. (On peut aussi remarquer $c^n=\mathrm{id}$, donc $P^n=I_n$ et $P^{-1}=P^{n-1}$.) Le coefficient diagonal $P_{i,i}$ est la $i$-ième coordonnée de $c(e_i)$ ; or $c(e_i)=e_{i+1}$ pour $i<n$, dont la $i$-ième coordonnée est $0$ car $i+1\ne i$, et $c(e_n)=e_1$, dont la $n$-ième coordonnée est $0$ car $n\ge 2$. Tous les coefficients diagonaux de $P$ sont nuls : $P$ est une matrice inversible de trace nulle, et plus encore, de diagonale nulle. Pour $n=2$, $P=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$.

3) Le transport par $J_r$. $H$ est un hyperplan : le noyau d'une forme linéaire non nulle $\phi$, qui s'écrit $\mathrm{tr}(A\cdot )$ par le 1), avec $A\ne 0$ (sinon $\phi =0$). Le rang $r$ de $A$ est donc au moins $1$, et la classification par le rang donne $Q,R\in {\mathrm{GL}}_n(\mathbb{K})$ avec $A=Q{J}_{r}R$. Alors, pour toute $M$, par la commutation de la trace $\mathrm{tr}(XY)=\mathrm{tr}(YX)$ appliquée à $X=Q$ et $Y=J_{r}RM$ : $$\mathrm{tr}(AM)=\mathrm{tr}(Q{J}_{r}RM)=\mathrm{tr}(J_{r}RMQ)=\mathrm{tr}(J_{r}RMQ).$$

4) L'inversible dans $H$. $M=R^{-1}P{Q}^{-1}$ est un produit de trois matrices inversibles : elle est inversible. Et par le 3), $$\mathrm{tr}(AM)=\mathrm{tr}(J_{r}R(R^{-1}P{Q}^{-1})Q)=\mathrm{tr}(J_{r}P).$$ Calculons : $(J_{r}P{)}_{i,i}={\sum }_k(J_r{)}_{i,k}{P}_{k,i}=(J_r{)}_{i,i}{P}_{i,i}$, qui vaut $P_{i,i}=0$ si $i\le r$ et $0$ si $i>r$. Donc $\mathrm{tr}(J_{r}P)=0$ : $\phi (M)=0$, c'est-à-dire $M\in H$. Tout hyperplan de ${\mathcal{M}}_n(\mathbb{K})$ contient une matrice inversible.

Le point délicat. Trois outils se relaient. La trace commute, ce qui fait glisser $Q$ de gauche à droite. La forme normale $J_r$ ne garde que les $r$ premiers coefficients diagonaux. Et le cycle $P$ a tous ses coefficients diagonaux nuls, quel que soit $r$ — c'est pour cela qu'il fallait la diagonale nulle et pas seulement la trace nulle. Le transport $M=R^{-1}P{Q}^{-1}$ ramène ensuite $P$ dans l'hyperplan.

5) Le cas $n=1$, et ${\mathrm{GL}}_n$ hors de tout hyperplan. Pour $n=1$, ${\mathcal{M}}_1(\mathbb{K})=\mathbb{K}$, dont le seul hyperplan est $\{0\}$, qui ne contient aucun inversible : le théorème est faux, et l'on voit où : le « cycle » sur un seul vecteur est l'identité, de diagonale $1$.

Pour $n\ge 2$ : d'après l'exercice 3, toute matrice de ${\mathcal{M}}_n(\mathbb{K})$ est somme de deux matrices inversibles, donc appartient à $\mathrm{Vect}({\mathrm{GL}}_n(\mathbb{K}))$ ; ainsi $\mathrm{Vect}({\mathrm{GL}}_n(\mathbb{K}))={\mathcal{M}}_n(\mathbb{K})$. Si l'on avait ${\mathrm{GL}}_n(\mathbb{K})\subset H$ pour un hyperplan $H$, alors, $H$ étant un sous-espace, $\mathrm{Vect}({\mathrm{GL}}_n(\mathbb{K}))\subset H$, c'est-à-dire ${\mathcal{M}}_n(\mathbb{K})\subset H$, contredisant $\dim H=n^2-1$. Donc ${\mathrm{GL}}_n(\mathbb{K})$ n'est contenu dans aucun hyperplan : chaque hyperplan contient des inversibles (question 4) et en laisse dehors (question 5). Autrement dit, une forme linéaire nulle sur toutes les matrices inversibles est nulle.

6) Des matrices de tout rang. Pour $r^{\prime }=0$ : la matrice nulle est dans $H$. Pour $r^{\prime }=n$ : c'est le 4). Pour $1\le r^{\prime }\le n-1$ : posons $N={\sum }_{k=1}^{r^{\prime }}{E}_{k,k+1}$ — des $1$ en positions $(1,2),(2,3),\dots ,(r^{\prime },r^{\prime }+1)$, ce qui a un sens puisque $r^{\prime }+1\le n$. Ses colonnes $2,\dots ,r^{\prime }+1$ sont $e_1,\dots ,e_{r^{\prime }}$, libres, et les autres sont nulles : $\mathrm{rg}N=r^{\prime }$. Sa diagonale est nulle. Posons $M^{\prime }=R^{-1}N{Q}^{-1}$ : $\mathrm{rg}{M}^{\prime }=\mathrm{rg}N=r^{\prime }$ (multiplication par des inversibles), et par le 3), $\mathrm{tr}(A{M}^{\prime })=\mathrm{tr}(J_{r}N)={\sum }_{i\le r}{N}_{i,i}=0$. Donc $M^{\prime }\in H$. Le même mécanisme qu'au 4) — une matrice à diagonale nulle, transportée — fournit dans $H$ une matrice de chaque rang.

Le théorème obtenu. Pour $n\ge 2$, tout hyperplan de ${\mathcal{M}}_n(\mathbb{K})$ contient une matrice inversible, et plus généralement une matrice de chaque rang $0,1,\dots ,n$ ; et ${\mathrm{GL}}_n(\mathbb{K})$, qui engendre ${\mathcal{M}}_n(\mathbb{K})$, n'est contenu dans aucun hyperplan.

Ce que le problème installe. Trois idées qui dépassent ce chapitre. Une forme linéaire sur ${\mathcal{M}}_n(\mathbb{K})$ est toujours $M\mapsto \mathrm{tr}(AM)$ : la trace paramètre toutes les formes linéaires, et la matrice $A$ se lit sur la base $(E_{i,j})$. La forme normale $J_r$ transporte une question de « diagonale » sur toute matrice de rang $r$. Et les matrices inversibles sont partout : aucune équation linéaire ne peut les éviter, ce qui, en seconde année, se dira « ${\mathrm{GL}}_n(\mathbb{K})$ est dense dans ${\mathcal{M}}_n(\mathbb{K})$ » — ici, on l'a établi par l'algèbre seule.