Endomorphismes normaux : les deux noyaux coïncident

Stratégie. Tout tient dans une identité de transfert : ${\Vert u(x)\Vert }^2=⟨\left(u^{\ast }u\right)(x),x⟩$. La normalité échange $u^{\ast }u$ et $u{u}^{\ast }$, donc échange $\Vert u(x)\Vert$ et $\Vert u^{\ast }(x)\Vert$ ; la séparation de la norme transforme alors l'égalité des normes en égalité des noyaux. Trois lignes de calcul, mais chacune utilise une propriété nommée de l'adjoint.

Le cadre. $E$ est un espace euclidien, $u\in \mathcal{L}(E)$, et $u^{\ast }$ est son adjoint, caractérisé par $⟨u(x),y⟩=⟨x,u^{\ast }(y)⟩$ pour tous $x,y$. On suppose $u$ normal : $u^{\ast }u=u{u}^{\ast }$. On utilisera aussi ${\left(u^{\ast }\right)}^{\ast }=u$ (cours).

Étape 1 — les deux carrés de norme. Pour tout $x\in E$, en utilisant l'adjonction puis la symétrie du produit scalaire :

$${\Vert u(x)\Vert }^2=⟨u(x),u(x)⟩=⟨x,u^{\ast }(u(x))⟩=⟨x,\left(u^{\ast }u\right)(x)⟩=⟨\left(u^{\ast }u\right)(x),x⟩.$$

De même, en appliquant l'adjonction à $u^{\ast }$, dont l'adjoint est $u$ :

$${\Vert u^{\ast }(x)\Vert }^2=⟨u^{\ast }(x),u^{\ast }(x)⟩=⟨x,{\left(u^{\ast }\right)}^{\ast }(u^{\ast }(x))⟩=⟨x,\left(u{u}^{\ast }\right)(x)⟩=⟨\left(u{u}^{\ast }\right)(x),x⟩.$$

Étape 2 — la normalité conclut. L'hypothèse $u^{\ast }u=u{u}^{\ast }$ rend les deux membres de droite identiques, donc pour tout $x$ :

$${\Vert u(x)\Vert }^2={\Vert u^{\ast }(x)\Vert }^2,\text{d’ouˋ}\Vert u(x)\Vert =\Vert u^{\ast }(x)\Vert$$

puisque les deux normes sont positives et que $t\mapsto \sqrt{t}$ est injective sur ${\mathbb{R}}_{+}$.

Étape 3 — l'égalité des noyaux. Par séparation de la norme ($\Vert z\Vert =0⟺z=0$) :

$$x\in \mathrm{Ker}u⟺u(x)=0⟺\Vert u(x)\Vert =0⟺\Vert u^{\ast }(x)\Vert =0⟺u^{\ast }(x)=0⟺x\in \mathrm{Ker}{u}^{\ast }.$$

Donc $\mathrm{Ker}u=\mathrm{Ker}{u}^{\ast }$.

Une conséquence gratuite, et importante. Le cours donne $\mathrm{Ker}{u}^{\ast }={\left(\mathrm{Im}u\right)}^{\perp }$ pour tout endomorphisme. Pour $u$ normal, on obtient donc

$$\mathrm{Ker}u={\left(\mathrm{Im}u\right)}^{\perp },\text{c’est-aˋ-dire}E=\mathrm{Ker}u{\oplus }^{\perp }\mathrm{Im}u.$$

La somme est orthogonale, ce qui est faux pour un endomorphisme quelconque : en général $\mathrm{Ker}u$ et $\mathrm{Im}u$ ne sont même pas supplémentaires.

Qui est normal ? La classe est large, et couvre tout le chapitre :

• les autoadjoints ($u^{\ast }=u$), pour lesquels $u^{\ast }u=u^2=u{u}^{\ast }$ ;
• les isométries ($u^{\ast }=u^{-1}$), pour lesquelles $u^{\ast }u=u{u}^{\ast }=\mathrm{id}$ ;
• les endomorphismes antisymétriques ($u^{\ast }=-u$), pour lesquels $u^{\ast }u=-u^2=u{u}^{\ast }$ ;
• et toute combinaison $u=a+b$ avec $a$ autoadjoint, $b$ antisymétrique et $ab=ba$.

La normalité est donc le cadre commun de l'adjoint, ce qui explique qu'on la définisse ici même si le mot est hors programme.

Contrôle : sans la normalité, tout tombe. Prenons $u$ de matrice $N=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ dans une base orthonormée $\left(e_1,e_2\right)$ ; alors $u^{\ast }$ a pour matrice $N^{\top }$, et

$$N^{\top }N=\left(\begin{array}{cc}0& 0\\ 0& 1\end{array}\right)\ne \left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)=N{N}^{\top }:$$

$u$ n'est pas normal. Et de fait, les deux conclusions tombent :

• $u\left(e_1\right)=0$ tandis que $u^{\ast }\left(e_1\right)=e_2$, donc $\Vert u(e_1)\Vert =0\ne 1=\Vert u^{\ast }(e_1)\Vert$ ;
• $\mathrm{Ker}u=\mathrm{Vect}\left(e_1\right)$ alors que $\mathrm{Ker}{u}^{\ast }=\mathrm{Vect}\left(e_2\right)$ : deux droites différentes.

On vérifie au passage que $\mathrm{Ker}u=\mathrm{Vect}(e_1)=\mathrm{Im}u$ n'est certes pas orthogonal à $\mathrm{Im}u$, et que la somme $\mathrm{Ker}u+\mathrm{Im}u$ n'est même pas $E$.

Ce qui est acquis. Une seule hypothèse de commutation ($u^{\ast }u=u{u}^{\ast }$) suffit à obtenir la décomposition orthogonale $E=\mathrm{Ker}u{\oplus }^{\perp }\mathrm{Im}u$, alors qu'en général la géométrie de $\mathrm{Ker}u$ et $\mathrm{Im}u$ est arbitraire. C'est le premier pas vers le théorème spectral complexe, qui affirme qu'un endomorphisme normal d'un espace hermitien est diagonalisable en base orthonormée — le théorème spectral réel du cours en étant le cas autoadjoint.