$\mathrm{tr}(AB)\ge 0$ pour deux matrices positives

La stratégie, et les outils. La racine carrée n'est pas ici un objet à calculer, c'est un outil de preuve : elle permet de couper $A$ en deux et de glisser chaque moitié de part et d'autre de $B$, grâce à l'invariance de la trace par permutation circulaire. On utilise le théorème spectral, la caractérisation spectrale de la positivité, et $\mathrm{tr}(MN)=\mathrm{tr}(NM)$.

a) La racine carrée positive. Le théorème spectral écrit $A=PD{P}^{\top }$ avec $P\in {\mathrm{O}}_n(\mathbb{R})$ et $D=\mathrm{diag}\left({\lambda }_1,\dots ,{\lambda }_n\right)$ ; la caractérisation spectrale de la positivité donne ${\lambda }_i\ge 0$, donc les $\sqrt{{\lambda }_i}$ existent. Posons $$C=P\mathrm{diag}\left(\sqrt{{\lambda }_1},\dots ,\sqrt{{\lambda }_n}\right)P^{\top }.$$ Alors $C^{\top }=C$ (car ${\left(P{D}^{\prime }{P}^{\top }\right)}^{\top }=P{D}^{\prime \top }{P}^{\top }=P{D}^{\prime }{P}^{\top }$ pour $D^{\prime }$ diagonale), son spectre est $\left\{\sqrt{{\lambda }_i}\right\}\subset {\mathbb{R}}_{+}$ donc $C\in {\mathcal{S}}_n^{+}(\mathbb{R})$, et $$C^2=P\mathrm{diag}\left(\sqrt{{\lambda }_i}\right)\underset{=I_n}{\underbrace{P^{\top }P}}\mathrm{diag}\left(\sqrt{{\lambda }_i}\right)P^{\top }=PD{P}^{\top }=A.$$

b) La congruence conserve la positivité. ${\left(M^{\top }BM\right)}^{\top }=M^{\top }{B}^{\top }M=M^{\top }BM$ : la matrice est symétrique. Et pour tout $X\in {\mathbb{R}}^n$, $$X^{\top }\left(M^{\top }BM\right)X=(MX{)}^{\top }B(MX)\ge 0,$$ puisque $B$ est positive. Donc $M^{\top }BM\in {\mathcal{S}}_n^{+}(\mathbb{R})$.

c) La trace est positive. Écrivons $A=C^2$ avec $C\in {\mathcal{S}}_n^{+}$, et utilisons l'invariance de la trace par permutation circulaire : $$\mathrm{tr}(AB)=\mathrm{tr}\left(CCB\right)=\mathrm{tr}\left(CBC\right)=\mathrm{tr}\left(C^{\top }BC\right),$$ la dernière égalité parce que $C$ est symétrique. D'après le b) appliqué à $M=C$, la matrice $C^{\top }BC$ est symétrique positive ; sa trace est la somme de ses valeurs propres, toutes $\ge 0$ : $$\mathrm{tr}(AB)=\mathrm{tr}\left(C^{\top }BC\right)\ge 0.$$

d) Le cas d'égalité. Supposons $\mathrm{tr}(AB)=0$, c'est-à-dire $\mathrm{tr}\left(CBC\right)=0$ avec $CBC$ symétrique positive. La somme de ses valeurs propres, toutes positives ou nulles, est nulle : elles sont toutes nulles, et le théorème spectral (ou l'exercice 7 b)) donne $CBC=0$.

Écrivons maintenant $B=D^2$ avec $D\in {\mathcal{S}}_n^{+}$, par le a) appliqué à $B$. Alors $$0=CBC=C{D}^{2}C=(DC{)}^{\top }(DC),$$ puisque $(DC{)}^{\top }=C^{\top }{D}^{\top }=CD$. En prenant la trace et en utilisant $\mathrm{tr}\left(N^{\top }N\right)={\sum }_{i,j}{n}_{ij}^2$ (exercice 7 b)) : $$\sum _{i,j}{\left(DC\right)}_{ij}^2=0⟹DC=0,\text{donc aussi}CD=(DC{)}^{\top }=0.$$ Il vient enfin $$AB=C^2{D}^2=C(CD)D=0.$$ La réciproque est immédiate : $AB=0$ entraîne $\mathrm{tr}(AB)=0$. D'où l'équivalence.

e) Contrôle et contre-exemple.

Contrôle. Prenons $A=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$, de spectre $\{1,3\}\subset {\mathbb{R}}_{+}^{\ast }$, donc définie positive, et $B=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)$, de spectre $\{0,1\}$, donc positive. Alors $AB=\left(\begin{array}{cc}2& 0\\ 1& 0\end{array}\right)$ et $\mathrm{tr}(AB)=2\ge 0$ ✓.

Contre-exemple. La positivité des deux matrices est nécessaire. Avec $A=\left(\begin{array}{cc}-1& 0\\ 0& 1\end{array}\right)$, symétrique mais non positive (spectre $\{-1,1\}$), et la même $B$ positive : $AB=\left(\begin{array}{cc}-1& 0\\ 0& 0\end{array}\right)$ et $\mathrm{tr}(AB)=-1<0$.

Ce que l'exercice installe. La racine carrée d'une matrice positive est un outil de preuve, pas un objet à calculer : elle scinde une matrice en deux moitiés qu'on fait voyager autour de la trace. Retenez les deux identités qui ont tout fait : $\mathrm{tr}(MN)=\mathrm{tr}(NM)$, et $\mathrm{tr}\left(N^{\top }N\right)=\sum n_{ij}^2$, qui transforme « la trace est nulle » en « la matrice est nulle ». La racine carrée va maintenant servir à construire la décomposition polaire.