Trace et déterminant de la transposition

Stratégie. $\tau$ est une symétrie vectorielle de l'espace ${\mathcal{M}}_n(\mathbb{R})$, de dimension $n^2$. Une symétrie se lit dans une base adaptée : sa matrice y est $\mathrm{diag}(I_p,-I_q)$. Trace et déterminant ne dépendent alors plus que des deux dimensions $p$ et $q$, que l'on compte en dénombrant les coefficients libres d'une matrice symétrique et d'une matrice antisymétrique.

1. ${\tau }^2=\mathrm{id}$ et la décomposition de ${\mathcal{M}}_n(\mathbb{R})$. Pour toute $M$, ${}^t\left({}^{t}M\right)=M$, donc $\tau \circ \tau =\mathrm{id}$. Ainsi $\tau$ est une symétrie vectorielle, et l'identité $$M=\underset{\text{symeˊtrique}}{\underbrace{\frac{1}{2}(M+{}^{t}M)}}+\underset{\text{antisymeˊtrique}}{\underbrace{\frac{1}{2}(M-{}^{t}M)}}$$ montre que ${\mathcal{M}}_n(\mathbb{R})={\mathcal{S}}_n(\mathbb{R})+{\mathcal{A}}_n(\mathbb{R})$ (le premier terme est fixé par $\tau$, le second changé en son opposé, comme on le vérifie en transposant). La somme est directe : si $M$ est à la fois symétrique et antisymétrique, alors $M={}^{t}M=-M$, donc $2M=0$ et $M=0$. D'où $${\mathcal{M}}_n(\mathbb{R})={\mathcal{S}}_n(\mathbb{R})\oplus {\mathcal{A}}_n(\mathbb{R}),{\mathcal{S}}_n(\mathbb{R})=\ker (\tau -\mathrm{id}),{\mathcal{A}}_n(\mathbb{R})=\ker (\tau +\mathrm{id}).$$

2. Les deux dimensions. Une matrice symétrique est déterminée par ses coefficients situés sur la diagonale ou au-dessus, soit $n+\frac{n(n-1)}{2}=\frac{n(n+1)}{2}$ coefficients libres ; la famille $(E_{i,i}{)}_i\cup (E_{i,j}+E_{j,i}{)}_{i<j}$ en est une base. Une matrice antisymétrique a une diagonale nulle (car $a_{i,i}=-a_{i,i}$) et est déterminée par ses coefficients strictement au-dessus de la diagonale, soit $\frac{n(n-1)}{2}$ ; la famille $(E_{i,j}-E_{j,i}{)}_{i<j}$ en est une base. Contrôle du décompte : $$p+q=\frac{n(n+1)}{2}+\frac{n(n-1)}{2}=\frac{n[(n+1)+(n-1)]}{2}=n^2=\dim {\mathcal{M}}_n(\mathbb{R}).✓$$

3. Trace et déterminant. Concaténons une base $(S_1,\dots ,S_p)$ de ${\mathcal{S}}_n(\mathbb{R})$ et une base $(A_1,\dots ,A_q)$ de ${\mathcal{A}}_n(\mathbb{R})$ : c'est une base de ${\mathcal{M}}_n(\mathbb{R})$ adaptée à la somme directe, et $\tau (S_k)=S_k$, $\tau (A_k)=-A_k$. La matrice de $\tau$ dans cette base est donc $$\mathrm{Mat}(\tau )=\left(\begin{array}{cc}{I}_p& 0\\ 0& -I_q\end{array}\right),p=\frac{n(n+1)}{2},q=\frac{n(n-1)}{2}.$$ Trace et déterminant ne dépendent pas de la base choisie, d'où $$\mathrm{tr}(\tau )=p-q=\frac{n(n+1)}{2}-\frac{n(n-1)}{2}=n,\det (\tau )=1^p\times (-1{)}^q=(-1{)}^{\frac{n(n-1)}{2}}.$$

4. Vérification explicite pour $n=2$. Dans la base $(E_{1,1},E_{1,2},E_{2,1},E_{2,2})$ de ${\mathcal{M}}_2(\mathbb{R})$ : $\tau (E_{1,1})=E_{1,1}$, $\tau (E_{1,2})=E_{2,1}$, $\tau (E_{2,1})=E_{1,2}$, $\tau (E_{2,2})=E_{2,2}$. En rangeant ces images en colonnes : $$\mathrm{Mat}(\tau )=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right).$$ Sa trace vaut $1+0+0+1=2=n$. $✓$ Son déterminant : c'est la matrice de la permutation qui échange les deux vecteurs centraux et fixe les deux autres — une transposition, de signature $-1$ — d'où $\det (\tau )=-1$. La formule donne $(-1{)}^{\frac{2\times 1}{2}}=(-1{)}^1=-1$. $✓$

Contrôle pour $n=3$. $p=6$, $q=3$, donc $\mathrm{tr}(\tau )=6-3=3=n$ et $\det (\tau )=(-1{)}^3=-1$, tandis que $p+q=9=3^2$. Pour $n=4$ : $p=10$, $q=6$, $\mathrm{tr}(\tau )=4$ et $\det (\tau )=(-1{)}^6=+1$ — le déterminant change donc de signe avec $n$, selon la parité de $\frac{n(n-1)}{2}$ (il vaut $+1$ pour $n\equiv 0,1(\mathrm{mod}4)$ et $-1$ pour $n\equiv 2,3(\mathrm{mod}4)$).

Ce qui est acquis. Une trace égale à $n$ pour un endomorphisme d'un espace de dimension $n^2$ : la trace ne dit rien de la dimension de l'espace, et tout de l'endomorphisme. Le mécanisme est général : dès qu'un endomorphisme est une symétrie, sa trace est la différence des dimensions de ses deux espaces propres, et son déterminant vaut $(-1{)}^{\dim \ker (\tau +\mathrm{id})}$.