Trace du produit de deux matrices symétriques positives

Stratégie. $AB$ n'est en général ni symétrique ni positive : on ne peut donc pas lire directement le signe de sa trace. L'astuce consiste à couper $A$ en deux, $A=C^2$ avec $C$ symétrique, puis à faire glisser un facteur par l'invariance circulaire de la trace : $\mathrm{tr}(CCB)=\mathrm{tr}(CBC)$. La matrice $CBC$, elle, est symétrique positive, et la trace d'une telle matrice est une somme de valeurs propres positives.

1. La racine carrée symétrique positive. $A\in {\mathcal{S}}_n^{+}(\mathbb{R})$ : le théorème spectral donne $A=P\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n){}^{t}P$ avec $P\in {\mathrm{O}}_n(\mathbb{R})$, et la positivité de $A$ équivaut à ${\lambda }_i\ge 0$ pour tout $i$. Posons $$C=P\mathrm{diag}(\sqrt{{\lambda }_1},\dots ,\sqrt{{\lambda }_n}){}^{t}P.$$ Alors $C$ est symétrique (${}^{t}C=P\mathrm{diag}(\sqrt{{\lambda }_i}){}^{t}P=C$), à spectre $\{\sqrt{{\lambda }_i}\}\subset {\mathbb{R}}_{+}$ donc positive, et $$C^2=P\mathrm{diag}({\lambda }_i)\underset{=I_n}{\underbrace{{}^{t}PP}}\mathrm{diag}(\sqrt{{\lambda }_i}){}^{t}P\text{ — plus simplement }{C}^2=P\mathrm{diag}({\lambda }_i){}^{t}P=A.$$

2. Le glissement de trace. L'invariance $\mathrm{tr}(XY)=\mathrm{tr}(YX)$, appliquée avec $X=C$ et $Y=CB$, donne $$\mathrm{tr}(AB)=\mathrm{tr}(CCB)=\mathrm{tr}(CBC)=\mathrm{tr}\left({}^{t}CBC\right),$$ la dernière égalité utilisant ${}^{t}C=C$.

3. ${}^{t}CBC$ est symétrique positive.

• Symétrique : ${}^t\left({}^{t}CBC\right)={}^{t}C{}^{t}BC={}^{t}CBC$, puisque ${}^{t}B=B$.
• Positive : pour tout $X\in {\mathbb{R}}^n$, $${}^{t}X\left({}^{t}CBC\right)X={}^t(CX)B(CX)\ge 0,$$ car $B$ est positive et $CX$ est un vecteur de ${\mathbb{R}}^n$ comme un autre.

4. Une matrice symétrique positive a une trace positive. Par le théorème spectral, ${}^{t}CBC$ est semblable à $\mathrm{diag}({\mu }_1,\dots ,{\mu }_n)$ avec ${\mu }_i\ge 0$ ; la trace étant invariante par similitude, $$\mathrm{tr}\left({}^{t}CBC\right)=\sum _{i=1}^n{\mu }_i\ge 0.$$

5. Conclusion. $$\mathrm{tr}(AB)\ge 0\text{pour toutes }A,B\in {\mathcal{S}}_n^{+}(\mathbb{R}).$$

Complément : le cas d'égalité. En introduisant aussi la racine carrée $\sqrt{B}$ de $B$, on obtient une écriture encore plus parlante. Posons $M=\sqrt{B}C$ ; alors ${}^{t}M=C\sqrt{B}$ et $$\mathrm{tr}(AB)=\mathrm{tr}(CBC)=\mathrm{tr}\left(C\sqrt{B}\sqrt{B}C\right)=\mathrm{tr}\left({}^{t}MM\right)=\sum _{i,j}{m}_{i,j}^2,$$ en reconnaissant l'identité $\mathrm{tr}({}^{t}MM)={\sum }_{i,j}{m}_{i,j}^2$ (exercice du chapitre 1). La positivité redevient évidente, et l'égalité $\mathrm{tr}(AB)=0$ équivaut à $M=0$, c'est-à-dire $\sqrt{B}C=0$, d'où en multipliant à gauche par $\sqrt{B}$ puis à droite par $C$ : $BC=0$ puis $BA=0$, et enfin $AB={}^t(BA)=0$ car $A$ et $B$ sont symétriques. La trace ne s'annule que si le produit est nul.

Point délicat. $AB$ n'a aucune raison d'être symétrique : avec $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$ et $B=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)$, toutes deux symétriques positives, on obtient $AB=\left(\begin{array}{cc}2& 0\\ 1& 0\end{array}\right)$, qui ne l'est pas. C'est bien pourquoi il faut passer par $CBC$ plutôt que de raisonner directement sur $AB$.

Contrôles chiffrés.

• $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$, de spectre $\{1,3\}\subset {\mathbb{R}}_{+}$, et $B=\left(\begin{array}{cc}1& -1\\ -1& 1\end{array}\right)$, de trace $2$ et de déterminant $0$, donc de spectre $\{0,2\}\subset {\mathbb{R}}_{+}$ : les deux sont bien dans ${\mathcal{S}}_2^{+}(\mathbb{R})$. Alors $AB=\left(\begin{array}{cc}1& -1\\ -1& 1\end{array}\right)$ et $\mathrm{tr}(AB)=2\ge 0$. $✓$
• L'hypothèse de positivité est indispensable : avec $A=I_2$ (symétrique positive) et $B=\mathrm{diag}(0,-1)$, symétrique mais non positive, on trouve $\mathrm{tr}(AB)=-1<0$. $✓$

Ce qui est acquis. Deux réflexes qui reviendront : « couper une matrice symétrique positive en $C\times C$ » et « faire tourner circulairement les facteurs d'une trace pour révéler une forme ${}^{t}MNM$ ». Ils fondent le produit scalaire $⟨A,B⟩=\mathrm{tr}({}^{t}AB)$ sur ${\mathcal{M}}_n(\mathbb{R})$, dont ce résultat dit que le cône des matrices positives est « auto-dual ».