Le cours établit que deux matrices semblables ont même trace…

Stratégie : démontrer les deux invariants, puis réfuter la réciproque par un contre-exemple. Une réciproque se réfute par un seul exemple ; tout l'art est de le choisir aussi simple que possible.

a) Même trace. Soit $B=P^{-1}AP$ avec $P$ inversible. En groupant $M=P^{-1}$ et $N=AP$ : $$\mathrm{tr}(B)=\mathrm{tr}(P^{-1}(AP))=\mathrm{tr}((AP)P^{-1})=\mathrm{tr}(A(P{P}^{-1}))=\mathrm{tr}(A).$$

b) Même rang. Multiplier à gauche ou à droite par une matrice inversible ne change pas le rang (c'est une composition par un isomorphisme, qui ne modifie ni la dimension de l'image ni celle du noyau) : $$\mathrm{rg}(P^{-1}AP)=\mathrm{rg}(A).$$

c) La réciproque est FAUSSE. Prenons $$A=I_2=\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right),B=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right).$$ Elles ont même rang ($2$, toutes deux inversibles), même trace ($2$) — et jusqu'au même déterminant ($1$). Pourtant elles ne sont pas semblables : $$\forall P\in {\mathrm{GL}}_2(\mathbb{K}),P^{-1}{I}_{2}P=P^{-1}P=I_2\ne B.$$ La classe de similitude de $I_2$ est réduite à $\{I_2\}$ : l'identité ne ressemble à personne d'autre qu'à elle-même.

⚠️ Ce qui les sépare n'est pas un nombre, c'est un comportement. $B-I_2=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ est non nulle mais de carré nul : $B$ est « identité $+$ nilpotent non nul », $I_2$ ne l'est pas. Aucun scalaire attaché à la matrice (trace, rang, déterminant) ne peut détecter cela, parce que ces trois-là coïncident. C'est pourquoi la classification de la similitude demande davantage.

d) La leçon comparée. Pour l'équivalence ($B=QAP$ avec $P,Q$ inversibles), le rang classifie complètement : deux matrices de même taille sont équivalentes si et seulement si elles ont même rang, toutes deux étant équivalentes à $J_r$. Ainsi $I_2$ et $B$ sont équivalentes (rang $2$ toutes les deux) sans être semblables : la similitude est une relation strictement plus fine que l'équivalence.

Contrôle. Vérifions sur ce couple : $\mathrm{rg}{I}_2=\mathrm{rg}B=2$ ✓, $\mathrm{tr}{I}_2=\mathrm{tr}B=2$ ✓, $\det I_2=\det B=1$ ✓, et $(B-I_2{)}^2=0$ avec $B-I_2\ne 0$ ✓ alors que $I_2-I_2=0$. Trois invariants d'accord, et pourtant deux matrices distinctes à similitude près.

Ce que l'exercice installe. Un invariant qui ne sépare pas ne classifie pas. Le rang classifie l'équivalence, mais pour la similitude il faut attendre la réduction (deuxième année) : polynôme caractéristique, polynôme minimal, et finalement la forme de Jordan — dont $\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$ est justement le premier bloc non trivial.