Les inégalités du rang

Ce qu'on a le droit d'utiliser. La formule de Grassmann, le théorème du rang, et « un sous-espace inclus dans un autre a une dimension plus petite ».

1) Somme. Soit $y\in \mathrm{Im}(u+v)$ : il existe $x\in E$ avec $y=(u+v)(x)=u(x)+v(x)$, somme d'un élément de $\mathrm{Im}u$ et d'un élément de $\mathrm{Im}v$. Donc $\mathrm{Im}(u+v)\subset \mathrm{Im}u+\mathrm{Im}v$. En passant aux dimensions, puis par Grassmann : $$\mathrm{rg}(u+v)\le \dim (\mathrm{Im}u+\mathrm{Im}v)=\mathrm{rg}u+\mathrm{rg}v-\dim (\mathrm{Im}u\cap \mathrm{Im}v)\le \mathrm{rg}u+\mathrm{rg}v.$$ L'inclusion est en général stricte : dans $\mathrm{Im}u+\mathrm{Im}v$, les deux vecteurs $u(x)$ et $v(x^{\prime })$ sont pris en des points différents, alors que $(u+v)(x)$ les prend au même point.

L'inégalité renversée. Écrivons $u=(u+v)+(-v)$ et appliquons ce qui précède : $\mathrm{rg}u\le \mathrm{rg}(u+v)+\mathrm{rg}(-v)=\mathrm{rg}(u+v)+\mathrm{rg}v$, car $\mathrm{Im}(-v)=\mathrm{Im}v$. Donc $\mathrm{rg}u-\mathrm{rg}v\le \mathrm{rg}(u+v)$. Par symétrie des rôles ($u+v=v+u$), $\mathrm{rg}v-\mathrm{rg}u\le \mathrm{rg}(u+v)$. Les deux ensemble donnent la valeur absolue.

Les bornes sont atteintes. Dans ${\mathbb{R}}^2$, $u(x,y)=(x,0)$ et $v(x,y)=(0,y)$ : rangs $1$ et $1$, et $u+v=\mathrm{id}$ de rang $2$. Puis $u=\mathrm{id}$, $v=-\mathrm{id}$ : rangs $2$ et $2$, somme nulle de rang $0=|2-2|$.

2) Sylvester. Soit $w$ la restriction de $v$ à $\mathrm{Im}u$ : $w:\mathrm{Im}u\to G$, linéaire. Son image est $v(\mathrm{Im}u)=v(u(E))=\mathrm{Im}(v\circ u)$. Son noyau est $\mathrm{Ker}w=\mathrm{Ker}v\cap \mathrm{Im}u$. Le théorème du rang, appliqué à $w$ sur l'espace de départ $\mathrm{Im}u$ (de dimension finie $\mathrm{rg}u$) : $$\mathrm{rg}u=\dim (\mathrm{Ker}v\cap \mathrm{Im}u)+\mathrm{rg}(v\circ u).$$ Or $\mathrm{Ker}v\cap \mathrm{Im}u\subset \mathrm{Ker}v$, donc $\dim (\mathrm{Ker}v\cap \mathrm{Im}u)\le \dim \mathrm{Ker}v=\dim F-\mathrm{rg}v$ (théorème du rang pour $v$). D'où $\mathrm{rg}u\le \dim F-\mathrm{rg}v+\mathrm{rg}(v\circ u)$, c'est-à-dire $$\mathrm{rg}(v\circ u)\ge \mathrm{rg}u+\mathrm{rg}v-\dim F.$$ Le point délicat. Le théorème du rang s'applique à la restriction, pas à $v$ : c'est elle qui a pour image $\mathrm{Im}(v\circ u)$. Restreindre une application à un sous-espace est un geste à part entière.

La majoration. $\mathrm{Im}(v\circ u)\subset \mathrm{Im}v$, donc $\mathrm{rg}(v\circ u)\le \mathrm{rg}v$ ; et $\mathrm{Im}(v\circ u)=w(\mathrm{Im}u)$ est l'image par une application linéaire d'un espace de dimension $\mathrm{rg}u$, donc de dimension au plus $\mathrm{rg}u$ (l'image d'une famille génératrice engendre l'image). C'est le cours : $\mathrm{rg}(v\circ u)\le \min (\mathrm{rg}u,\mathrm{rg}v)$.

3) Carré nul. Si $u^2=0$ : soit $y\in \mathrm{Im}u$, $y=u(x)$ ; alors $u(y)=u^2(x)=0$, donc $y\in \mathrm{Ker}u$. Réciproquement, si $\mathrm{Im}u\subset \mathrm{Ker}u$ : pour tout $x$, $u(x)\in \mathrm{Im}u\subset \mathrm{Ker}u$, donc $u(u(x))=0$ : $u^2=0$. L'équivalence ne demande aucune dimension.

Le rang. En dimension $n$, l'inclusion donne $\mathrm{rg}u\le \dim \mathrm{Ker}u=n-\mathrm{rg}u$, d'où $\mathrm{rg}u\le \frac{n}{2}$. On peut aussi le lire sur Sylvester avec $v=u$ : $0=\mathrm{rg}(u^2)\ge 2\mathrm{rg}u-n$.

Exemple. $u(x,y)=(y,0)$ sur ${\mathbb{R}}^2$ : $u^2(x,y)=u(y,0)=(0,0)$, et $u\ne 0$ car $u(0,1)=(1,0)$. Ici $\mathrm{Im}u=\mathrm{Ker}u=\mathrm{Vect}((1,0))$ : l'inclusion est une égalité, et $\mathrm{rg}u=1=\frac{2}{2}$, le maximum permis.

Ce que l'exercice installe. Le rang est sous-additif, et Sylvester en donne la contrepartie pour la composition : composer ne peut faire perdre que $\dim F-\mathrm{rg}v$ dimensions, celles du noyau de $v$. Un endomorphisme de carré nul est « au plus à moitié inversible » : c'est le premier pas vers les nilpotents du problème final.