Un polynôme annulateur factorisé découpe l'espace

Stratégie. Deux polynômes premiers entre eux vérifient une relation de Bézout $UP+VQ=1$. Évaluée en $u$, cette relation devient une décomposition de l'identité en deux morceaux ; il ne reste plus qu'à vérifier que chacun tombe dans le noyau voulu, et que ces deux noyaux ne se rencontrent qu'en $0$. Tout repose sur un seul fait : les polynômes en $u$ commutent entre eux, puisque $P\mapsto P(u)$ est un morphisme d'algèbres de $\mathbb{K}[X]$ dans $\mathcal{L}(E)$.

1. La relation de Bézout, évaluée en $u$. $P$ et $Q$ étant premiers entre eux, le théorème de Bézout fournit $U,V\in \mathbb{K}[X]$ tels que $UP+VQ=1$. En évaluant en $u$ : $$(UP)(u)+(VQ)(u)={\mathrm{id}}_E.(\star )$$

2. La somme est $E$. Soit $x\in E$. La relation $(\star )$ donne $$x=\underset{=x_Q}{\underbrace{(UP)(u)(x)}}+\underset{=x_P}{\underbrace{(VQ)(u)(x)}}.$$ Montrons que $x_Q\in \ker Q(u)$ et $x_P\in \ker P(u)$ : $$Q(u)(x_Q)=Q(u)U(u)P(u)(x)=(UPQ)(u)(x)=U(u)[(PQ)(u)(x)]=U(u)(0)=0,$$ où l'on a librement réordonné les facteurs, ce qui est licite car des polynômes en $u$ commutent, puis utilisé $(PQ)(u)=0$. Le même calcul avec $P$ à la place de $Q$ donne $$P(u)(x_P)=(VPQ)(u)(x)=V(u)[(PQ)(u)(x)]=0.$$ Donc $E=\ker P(u)+\ker Q(u)$.

3. La somme est directe. Soit $x\in \ker P(u)\cap \ker Q(u)$. La relation $(\star )$ appliquée à $x$ donne $$x=U(u)[P(u)(x)]+V(u)[Q(u)(x)]=U(u)(0)+V(u)(0)=0.$$ L'intersection est réduite à $\{0\}$, et par conséquent $$\boxed{E=\ker P(u)\oplus \ker Q(u)}.$$

4. Le projecteur associé. Notons $\pi$ le projecteur sur $\ker P(u)$ parallèlement à $\ker Q(u)$. Par définition, $\pi (x)$ est l'unique vecteur de $\ker P(u)$ intervenant dans la décomposition de $x$. Or le point 2 en fournit une, à savoir $x=x_P+x_Q$ avec $x_P=(VQ)(u)(x)\in \ker P(u)$ et $x_Q\in \ker Q(u)$ ; l'unicité de la décomposition dans une somme directe donne donc $$\pi =(VQ)(u).$$

Vérification directe qu'il s'agit bien d'un projecteur. De $UP+VQ=1$ on tire $VQ=1-UP$, donc $(VQ{)}^2=VQ(1-UP)=VQ-UVPQ$. En évaluant en $u$ et en utilisant $(PQ)(u)=0$ : $$[(VQ)(u){]}^2=(VQ)(u)-(UV)(u)[(PQ)(u)]=(VQ)(u).✓$$

5. Retour sur le cas $u^3=u$. L'hypothèse s'écrit $(X^3-X)(u)=0$.

Première étape : $P=X$ et $Q=X^2-1$ sont premiers entre eux ($Q(0)=-1\ne 0$, donc $X\nmid Q$, et $X$ est irréductible). Bézout : $X\cdot X+(-1)(X^2-1)=1$, soit $U=X$, $V=-1$. Le théorème donne $$E=\ker u\oplus \ker (u^2-\mathrm{id}),\pi =(VQ)(u)=\mathrm{id}-u^2,$$ et l'on reconnaît le premier terme $x-u^2(x)$ de l'indication de l'exercice 13.

Seconde étape : dans $F=\ker (u^2-\mathrm{id})$, l'endomorphisme induit $u_{|F}$ vérifie $(X-1)(X+1)\left(u_{|F}\right)=0$, et $X-1$, $X+1$ sont premiers entre eux, de relation de Bézout $-\frac{1}{2}(X-1)+\frac{1}{2}(X+1)=1$. Le théorème, appliqué cette fois à $u_{|F}$, donne $$F=\ker (u-\mathrm{id})\oplus \ker (u+\mathrm{id}),\text{de projecteurs }\frac{1}{2}(u+\mathrm{id})\text{ et }\frac{1}{2}(\mathrm{id}-u)\text{ restreints aˋ }F.$$ En recollant : $$E=\ker u\oplus \ker (u-\mathrm{id})\oplus \ker (u+\mathrm{id}),x=(x-u^2(x))+\frac{1}{2}(u^2(x)+u(x))+\frac{1}{2}(u^2(x)-u(x)),$$ exactement la décomposition annoncée à l'exercice 13 — cette fois produite par la méthode, et non devinée.

Contrôle. Prenons $E={\mathbb{R}}^3$ et $u$ de matrice $\mathrm{diag}(0,1,-1)$, qui vérifie bien $u^3=u$. Pour $x=(a,b,c)$ : $u(x)=(0,b,-c)$ et $u^2(x)=(0,b,c)$, d'où $$x-u^2(x)=(a,0,0)\in \ker u,\frac{1}{2}(u^2(x)+u(x))=(0,b,0)\in \ker (u-\mathrm{id}),\frac{1}{2}(u^2(x)-u(x))=(0,0,c)\in \ker (u+\mathrm{id}),$$ et la somme des trois vaut bien $(a,b,c)$. $✓$

Ce qui est acquis. Un polynôme annulateur qui se factorise en facteurs deux à deux premiers entre eux découpe l'espace en autant de morceaux stables, et fournit gratuitement les projecteurs correspondants sous forme de polynômes en $u$. C'est la mécanique qui rendra, au chapitre suivant, la diagonalisabilité équivalente à l'existence d'un polynôme annulateur scindé à racines simples.