La trace est la seule forme linéaire qui ignore l'ordre des facteurs

Ce qu'on a le droit d'utiliser. La linéarité de la trace et la relation $\mathrm{tr}(AB)=\mathrm{tr}(BA)$ ; la base canonique $(E_{ij})$ de ${\mathcal{M}}_n(\mathbb{K})$ et sa règle de multiplication $$E_{ij}{E}_{kl}={\delta }_{jk}{E}_{il},$$ où ${\delta }_{jk}$ vaut $1$ si $j=k$ et $0$ sinon.

La stratégie. Une forme linéaire est déterminée par ses valeurs sur une base. On fait donc « parler » $\phi$ sur la base $(E_{ij})$. Toute l'idée est de choisir des couples $(A,B)$ tels que $AB$ et $BA$ soient deux matrices différentes — l'une nulle et l'autre non, ou deux matrices de base distinctes : l'hypothèse dit alors que $\phi$ prend la même valeur sur les deux.

Si $n=1$, il n'y a rien à démontrer : toute forme linéaire sur ${\mathcal{M}}_1(\mathbb{K})=\mathbb{K}$ s'écrit $a\mapsto \lambda a=\lambda \mathrm{tr}(a)$. On suppose désormais $n\ge 2$.

a) Les valeurs hors diagonale. Soient $i\ne j$. D'une part $E_{ii}{E}_{ij}={\delta }_{ii}{E}_{ij}=E_{ij}$ ; d'autre part $E_{ij}{E}_{ii}={\delta }_{ji}{E}_{ii}=0$, puisque $j\ne i$. L'hypothèse appliquée au couple $(E_{ii},E_{ij})$ donne $$\phi (E_{ij})=\phi (E_{ii}{E}_{ij})=\phi (E_{ij}{E}_{ii})=\phi (0)=0.$$

Les valeurs diagonales. Soient $i\ne j$. Alors $E_{ij}{E}_{ji}=E_{ii}$ et $E_{ji}{E}_{ij}=E_{jj}$, donc $$\phi (E_{ii})=\phi (E_{ij}{E}_{ji})=\phi (E_{ji}{E}_{ij})=\phi (E_{jj}).$$ Toutes les valeurs $\phi (E_{ii})$ sont égales ; notons $\lambda$ leur valeur commune.

Conclusion. Pour $A=(a_{ij})={\sum }_{i,j}{a}_{ij}{E}_{ij}$, la linéarité de $\phi$ donne $$\phi (A)=\sum _{i\ne j}{a}_{ij}\phi (E_{ij})+\sum _{i=1}^n{a}_{ii}\phi (E_{ii})=0+\lambda \sum _{i=1}^n{a}_{ii}=\lambda \mathrm{tr}(A).$$

b) L'unicité. La trace est linéaire et vérifie $\mathrm{tr}(AB)=\mathrm{tr}(BA)$ : c'est une forme du type étudié, et $\mathrm{tr}(I_n)=n$. Réciproquement, si $\phi =\lambda \mathrm{tr}$ vérifie $\phi (I_n)=n$, alors $\lambda n=n$, donc $\lambda =1$ et $\phi =\mathrm{tr}$. La trace est entièrement déterminée par trois exigences : être linéaire, ignorer l'ordre des facteurs, valoir $n$ en $I_n$. Ce n'est pas une définition arbitraire : c'est ce qu'on entend en disant qu'elle est un invariant.

c) Pas de commutateur égal à l'identité. Si l'on avait $AB-BA=I_n$, la linéarité de la trace et la relation $\mathrm{tr}(AB)=\mathrm{tr}(BA)$ donneraient $$n=\mathrm{tr}(I_n)=\mathrm{tr}(AB)-\mathrm{tr}(BA)=0,$$ ce qui est absurde puisque $n\ge 1$. Plus généralement, tout commutateur $AB-BA$ appartient au noyau de la trace, qui est un hyperplan de ${\mathcal{M}}_n(\mathbb{K})$, noyau d'une forme linéaire non nulle : les commutateurs ne remplissent jamais tout l'espace.

Le même calcul, avec $\mathrm{i}\hslash I_n$ au lieu de $I_n$, conduit à $\mathrm{i}\hslash n=0$ : la relation de commutation de Heisenberg n'a aucune réalisation par des matrices de taille finie. Les opérateurs position et impulsion de la mécanique quantique agissent nécessairement sur un espace de dimension infinie — un espace de fonctions —, où la trace n'est plus définie et où l'argument tombe.

Ce que l'exercice installe. Pour identifier une forme linéaire sur ${\mathcal{M}}_n(\mathbb{K})$, on la fait parler sur la base $(E_{ij})$, avec la règle $E_{ij}{E}_{kl}={\delta }_{jk}{E}_{il}$. Et la trace devient un outil d'impossibilité : une égalité entre deux matrices dont les traces diffèrent est fausse, sans autre calcul.