Ce que la similitude conserve, et ce qu'elle ne dit pas

Stratégie : tout découle d'un télescopage. Écrire $B=P^{-1}AP$ et multiplier : les $P$ intérieurs s'annulent deux à deux.

Les puissances. Supposons $B=P^{-1}AP$ avec $P$ inversible. Alors $$B^2=\left(P^{-1}AP\right)\left(P^{-1}AP\right)=P^{-1}A\underset{=I}{\underbrace{\left(P{P}^{-1}\right)}}AP=P^{-1}{A}^{2}P.$$ Une récurrence immédiate donne, pour tout $k\in \mathbb{N}$ : $$B^k=P^{-1}{A}^{k}P$$ — le cas $k=0$ étant $B^0=I=P^{-1}IP$. Donc $A^k$ et $B^k$ sont semblables, avec la même matrice de passage $P$.

⚠️ Le point délicat : c'est l'annulation $P{P}^{-1}=I$ au milieu qui fait tout le travail, et elle exige que ce soit la même $P$ des deux côtés. Deux matrices semblables « chacune avec sa propre matrice de passage » ne permettraient aucun télescopage.

L'inversibilité. Si $A$ est inversible, alors $B=P^{-1}AP$ est un produit de trois matrices inversibles, donc inversible, et $B^{-1}=P^{-1}{A}^{-1}P$. Réciproquement, $A=PB{P}^{-1}$ et le même argument s'applique. On peut aussi invoquer le rang : deux matrices semblables ont même rang, et l'inversibilité équivaut au rang maximal.

« Même rang » n'implique PAS « semblables ». Prenons dans ${\mathcal{M}}_2(\mathbb{R})$ $$A=I_2=\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right),B=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right).$$ Toutes deux sont inversibles, donc de rang $2$. Pourtant elles ne sont pas semblables, et pour une raison définitive : la seule matrice semblable à $I_2$ est $I_2$ elle-même, puisque $$P^{-1}{I}_{2}P=P^{-1}P=I_2\text{pour toute }P\text{ inversible}.$$ Comme $B\ne I_2$, elle ne peut pas être semblable à $I_2$.

Un second argument, qui utilise la première question. Si $A$ et $B$ étaient semblables, il en irait de même de leurs puissances. Or $A^k=I_2$ pour tout $k$, tandis qu'une récurrence donne $$B^k=\left(\begin{array}{cc}1& k\\ 0& 1\end{array}\right),$$ qui n'est pas $I_2$ dès que $k⩾1$. Les puissances les séparent. Vérification : $B^5=\left(\begin{array}{cc}1& 5\\ 0& 1\end{array}\right)$, conforme à la formule. ✓

Ce que l'exercice installe. La similitude conserve tout ce qui ne dépend pas de la base : le rang, l'inversibilité, les puissances — et, en deuxième année, bien d'autres quantités encore. Ces grandeurs conservées s'appellent des invariants de similitude, et elles servent surtout à démontrer que deux matrices ne sont pas semblables. Le rang, à lui seul, est un invariant trop grossier pour les classer : le cours en donnait déjà un exemple avec $\mathrm{diag}(2,0)$ et $\mathrm{diag}(1,0)$, toutes deux de rang $1$.