Aucun couple de matrices ne réalise $AB-BA=I_n$

Ce qu'on montre. Une impossibilité, par un invariant : la trace. On s'autorise la linéarité de la trace et l'égalité $\mathrm{Tr}(AB)=\mathrm{Tr}(BA)$.

Le raisonnement par l'absurde. Supposons qu'il existe $A,B\in {\mathcal{M}}_n(\mathbb{R})$ avec $AB-BA=I_n$. Prenons la trace des deux membres. À gauche, la linéarité donne $$\mathrm{Tr}(AB-BA)=\mathrm{Tr}(AB)-\mathrm{Tr}(BA)=0,$$ la dernière égalité venant de $\mathrm{Tr}(AB)=\mathrm{Tr}(BA)$, valable pour toutes matrices carrées de même taille. À droite, $$\mathrm{Tr}(I_n)=\underset{n\text{termes}}{\underbrace{1+1+\cdots +1}}=n.$$ On obtiendrait donc $0=n$, ce qui est faux puisque $n⩾1$. Aucun couple $(A,B)$ ne convient.

Le point délicat. L'égalité $\mathrm{Tr}(AB)=\mathrm{Tr}(BA)$ ne dit pas $AB=BA$ : elle dit seulement que la trace ne voit pas l'ordre des facteurs. C'est précisément cette information faible qui suffit ici, alors qu'aucun calcul sur les coefficients ne conclurait.

Avec la matrice nulle. L'équation $AB-BA=0$ signifie $AB=BA$, et elle a une infinité de solutions : il suffit de prendre $B=A$, ou $B=I_n$, ou plus généralement $A$ et $B$ toutes deux diagonales. L'obstruction précédente disparaît puisque $\mathrm{Tr}(0)=0$, et l'égalité $0=0$ ne dit plus rien.