Codiagonalisation de deux endomorphismes qui commutent

La stratégie, et les outils. Trois théorèmes du chapitre travaillent ensemble : la stabilité des sous-espaces propres de $u$ par tout endomorphisme commutant avec $u$ ; la diagonalisabilité de l'induit ; et le recollement d'une base adaptée à une somme directe. C'est le schéma « descendre dans les morceaux, y résoudre, recoller » — celui qui servira au problème.

a) La stabilité. Soit $\lambda \in \mathrm{Sp}(u)$ et $x\in E_{\lambda }(u)$, c'est-à-dire $u(x)=\lambda x$. Alors $$u(v(x))=(uv)(x)=(vu)(x)=v(u(x))=v(\lambda x)=\lambda v(x),$$ donc $v(x)\in E_{\lambda }(u)$. Chaque sous-espace propre de $u$ est stable par $v$.

b) L'induit est diagonalisable. Notons $v_{\lambda }$ l'endomorphisme induit par $v$ sur $F=E_{\lambda }(u)$, bien défini d'après le a). Le polynôme ${\mu }_v$ annule $v$, donc annule aussi sa restriction à un sous-espace stable : ${\mu }_{v_{\lambda }}$ divise ${\mu }_v$ (théorème du cours sur l'endomorphisme induit). Or $v$ est diagonalisable, donc ${\mu }_v$ est scindé à racines simples ; un diviseur unitaire d'un polynôme scindé à racines simples l'est encore. Donc ${\mu }_{v_{\lambda }}$ est scindé à racines simples et $v_{\lambda }$ est diagonalisable.

c) Le recollement. $u$ étant diagonalisable, $$E=\underset{\lambda \in \mathrm{Sp}(u)}{⨁}{E}_{\lambda }(u).$$ Dans chaque $E_{\lambda }(u)$, l'induit $v_{\lambda }$ est diagonalisable (question b) : choisissons une base ${\mathcal{B}}_{\lambda }$ de $E_{\lambda }(u)$ formée de vecteurs propres de $v_{\lambda }$. La concaténation $\mathcal{B}$ des ${\mathcal{B}}_{\lambda }$ est une base de $E$, car elle est adaptée à la somme directe.

Vérifions que chacun de ses vecteurs est propre pour $u$ et pour $v$. Un vecteur $x$ de ${\mathcal{B}}_{\lambda }$ appartient à $E_{\lambda }(u)$, donc $u(x)=\lambda x$ : il est propre pour $u$. Et il est propre pour $v_{\lambda }$, disons $v_{\lambda }(x)=\mu x$ ; comme $v_{\lambda }$ est la restriction de $v$, on a $v(x)=\mu x$ : il est propre pour $v$. $\mathcal{B}$ est une base de vecteurs propres communs.

d) La traduction matricielle. Si $A,B\in {\mathcal{M}}_n(\mathbb{K})$ sont diagonalisables et commutent, il existe $P\in {\mathrm{GL}}_n(\mathbb{K})$ telle que $P^{-1}AP$ et $P^{-1}BP$ soient toutes deux diagonales : $A$ et $B$ sont codiagonalisables. (Le résultat s'étend par la même méthode à toute famille d'endomorphismes diagonalisables commutant deux à deux.)

e) La réciproque, et les deux contre-exemples.

La réciproque est vraie. Si $u$ et $v$ sont diagonaux dans une même base, ils y sont diagonalisables, et deux matrices diagonales commutent ; en revenant à la base de départ par conjugaison, $uv=vu$. Donc : codiagonalisables $⟺$ diagonalisables et commutant.

Si l'on retire la commutation. $A=\mathrm{diag}(1,2)$ et $B=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$ sont toutes deux diagonalisables ($B$ vérifie $B^2=I_2$, donc $X^2-1$ l'annule). Mais $$AB=\left(\begin{array}{cc}0& 1\\ 2& 0\end{array}\right)\ne \left(\begin{array}{cc}0& 2\\ 1& 0\end{array}\right)=BA,$$ donc elles ne commutent pas, et elles ne peuvent pas être codiagonalisables — sinon elles commuteraient.

Si l'on retire la diagonalisabilité de l'une. $A=\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$ et $B=I_2$ commutent, et $B$ est diagonalisable ; mais $A$ ne l'est pas (${\mu }_A=(X-1{)}^2$), donc il n'existe aucune base de vecteurs propres de $A$, a fortiori aucune base commune.

Ce que l'exercice installe. Le schéma « stabilité, induit, recollement » est le mode d'emploi de la réduction dès qu'il y a plusieurs endomorphismes en présence : on ne travaille jamais sur $E$ tout entier, on descend dans les morceaux que la première réduction a fabriqués. On le retrouvera au chapitre des espaces euclidiens, et dès le problème pour l'unicité de la décomposition.