Intérieur et adhérence des matrices diagonalisables de ${\mathcal{M}}_2(\mathbb{R})$

Ce qu'on a le droit d'utiliser. L'intérieur est l'ensemble des points intérieurs, l'adhérence l'ensemble des points adhérents, avec sa caractérisation séquentielle ; toute autre propriété de l'adhérence est hors programme. On n'emploie donc que ces définitions, des suites, et la fabrique du cours : si $f$ est continue à valeurs réelles, $\{f>0\}$ est ouvert et $\{f\ge 0\}$ est fermé. La fonction $\Delta$, polynomiale en les coefficients, est continue.

a) Ni ouvert, ni fermé. Pour $\epsilon \ne 0$, $M_{\epsilon }=\left(\begin{array}{cc}\epsilon & 1\\ 0& 0\end{array}\right)$ a deux valeurs propres distinctes, $\epsilon$ et $0$ : elle est diagonalisable. Sa limite $\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ ne l'est pas : de seule valeur propre $0$, elle serait semblable à la matrice nulle, donc nulle. $\mathcal{D}$ n'est pas fermé. Pour $\epsilon \ne 0$, $N_{\epsilon }=\left(\begin{array}{cc}0& \epsilon \\ 0& 0\end{array}\right)$ n'est pas diagonalisable, pour la même raison, et tend vers la matrice nulle, qui l'est : toute boule centrée en $0$ sort de $\mathcal{D}$, et $\mathcal{D}$ n'est pas ouvert.

b) La description de $\mathcal{D}$. Si $A=P\mathrm{diag}(\lambda ,\mu )P^{-1}$ avec $\lambda ,\mu$ réels, alors $\Delta (A)=(\lambda +\mu {)}^2-4\lambda \mu =(\lambda -\mu {)}^2\ge 0$, avec $\Delta (A)>0$ si $\lambda \ne \mu$, et $A=P(\lambda I_2)P^{-1}=\lambda I_2$ si $\lambda =\mu$. Réciproquement, si $\Delta (A)>0$, $A$ a deux valeurs propres réelles distinctes, donc est diagonalisable ; et $\lambda I_2$ est diagonale.

c) L'intérieur. $U=\{A\mid \Delta (A)>0\}$ est ouvert, image réciproque de $]0,+\infty [$ par l'application continue $\Delta$, et inclus dans $\mathcal{D}$ : tout point de $U$ est intérieur à $\mathcal{D}$. Réciproquement, un point intérieur à $\mathcal{D}$ qui ne serait pas dans $U$ serait, par le b), une matrice $\lambda I_2$ ; mais les matrices $\left(\begin{array}{cc}\lambda & \epsilon \\ 0& \lambda \end{array}\right)$, non diagonalisables pour $\epsilon \ne 0$ (seule valeur propre $\lambda$, et différentes de $\lambda I_2$), tendent vers $\lambda I_2$ : aucune boule centrée en $\lambda I_2$ n'est incluse dans $\mathcal{D}$. Donc $\mathring{\mathcal{D}}=\{A\mid \Delta (A)>0\}$.

d) L'adhérence. Un point adhérent vérifie $\Delta \ge 0$ : si $A$ est limite d'une suite $(A_k)$ de $\mathcal{D}$, alors $\Delta (A_k)\ge 0$ (b), et par continuité de $\Delta$ et passage à la limite dans une inégalité large, $\Delta (A)\ge 0$.

Une matrice telle que $\Delta (A)\ge 0$ est adhérente. Si $\Delta (A)>0$, $A\in \mathcal{D}$. Si $\Delta (A)=0$, ${\chi }_A=(X-\lambda {)}^2$ est scindé sur $\mathbb{R}$, donc $A$ est trigonalisable : $A=P\left(\begin{array}{cc}\lambda & c\\ 0& \lambda \end{array}\right)P^{-1}$. On perturbe la diagonale : $$A_k=P\left(\begin{array}{cc}\lambda +\frac{1}{k}& c\\ 0& \lambda \end{array}\right)P^{-1}$$ a deux valeurs propres distinctes, donc est diagonalisable, et $A_k-A=\frac{1}{k}P\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)P^{-1}\to 0$.

Donc $\overline{\mathcal{D}}=\{A\mid \Delta (A)\ge 0\}$ : les matrices dont le polynôme caractéristique est scindé sur $\mathbb{R}$, c'est-à-dire trigonalisables sur $\mathbb{R}$. Les matrices telles que $\Delta (A)<0$, comme la rotation d'angle droit $\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$, où $\Delta =-4$, forment un ouvert disjoint de $\mathcal{D}$.

e) Sur $\mathbb{C}$, tout change. Toute $A\in {\mathcal{M}}_2(\mathbb{C})$ est trigonalisable : $A=P\left(\begin{array}{cc}\lambda & c\\ 0& \mu \end{array}\right)P^{-1}$. Les matrices $A_k=P\left(\begin{array}{cc}\lambda +1/k& c\\ 0& \mu \end{array}\right)P^{-1}$ tendent vers $A$, et ont deux valeurs propres distinctes sauf pour au plus un entier $k$ (celui pour lequel $\lambda +\frac{1}{k}=\mu$) : les diagonalisables sont denses dans ${\mathcal{M}}_2(\mathbb{C})$.

Contrôle. $\left(\begin{array}{cc}1& 1\\ 0& 1\end{array}\right)$ vérifie $\Delta =0$ et n'est pas diagonalisable ; les matrices $\left(\begin{array}{cc}1+1/k& 1\\ 0& 1\end{array}\right)$, de valeurs propres $1+\frac{1}{k}$ et $1$, le sont et tendent vers elle.

Le point délicat. L'adhérence se détermine par deux inclusions, chacune avec son outil : la continuité de $\Delta$ d'un côté, une suite explicite de l'autre. Rien d'autre que la caractérisation séquentielle n'a servi.

Ce que l'exercice installe. Inégalité stricte sur une fonction continue, ouvert ; inégalité large, fermé. Et une petite perturbation lève toute dégénérescence : une valeur propre double se sépare dès qu'on touche à la diagonale. En physique et en chimie, c'est la levée de dégénérescence : deux modes ou deux niveaux d'énergie égaux se séparent sous la moindre perturbation — un couplage, un champ extérieur. Sur $\mathbb{R}$, la perturbation ne crée pas de valeurs propres réelles là où il n'y en a pas : la frontière $\Delta =0$ sépare les deux mondes.