Le rang d'un produit : l'inégalité de Sylvester

Exercice de TD · niveau 3 (difficile) · mathématiques (PTSI), chapitre 12 — Matrices · B. Noyau, image, rang

Énoncé

Soient $A \in M_{n, p} (K)$ et $B \in M_{p, q} (K)$ ; on note $u_{A} : K^{p} \to K^{n}$ et $u_{B} : K^{q} \to K^{p}$ les applications linéaires canoniquement associées.

1) Rappeler pourquoi $rg (A B) \leq min (rg A, rg B)$ .

2) Inégalité de Sylvester. Soit $v$ la restriction de $u_{A}$ au sous-espace $Im B$ de $K^{p}$ . Montrer que $Im v = Im (A B)$ et $Ker v \subset Ker A$ ; en appliquant le théorème du rang à $v$ , en déduire $rg (A B) \geq rg A + rg B - p$ .

3) Applications. a) Si $n > p$ , $A \in M_{n, p} (K)$ et $B \in M_{p, n} (K)$ , montrer que $A B$ n'est jamais inversible. b) Si $A \in M_{n} (K)$ vérifie $A^{2} = 0$ , montrer que $rg A \leq \frac{n}{2}$ . c) Si $A \in GL_{n} (K)$ et $B \in M_{n, q} (K)$ , montrer que $rg (A B) = rg B$ .

4) Vérifier que l'inégalité de Sylvester est une égalité pour $A = B = (0010)$ .

Corrigé

La stratégie. Le produit $A B$ correspond à la composée $u_{A} \circ u_{B}$ : tout transite par l'espace intermédiaire $K^{p}$ , et plus précisément par $Im B$ . On applique le théorème du rang, non pas à $u_{A}$ tout entière, mais à sa restriction à ce sous-espace.

1) La majoration. $Im (A B) = u_{A} (Im B) \subset Im A$ , donc $rg (A B) \leq rg A$ . Et les images par $u_{A}$ d'une base de $Im B$ , qui compte $rg B$ vecteurs, engendrent $u_{A} (Im B) = Im (A B)$ , donc $rg (A B) \leq rg B$ .

2) Sylvester. L'application $v : Im B \to K^{n}$ , $y \mapsto A y$ , a pour image $u_{A} (Im B) = Im (A B)$ : $rg v = rg (A B)$ . Son noyau est formé des vecteurs de $Im B$ que $A$ annule : $Ker v = Ker A \cap Im B \subset Ker A$ . Premier usage du théorème du rang, pour $v$ , dont l'espace de départ $Im B$ est de dimension $rg B$ : $rg B = dim Ker v + rg (A B)$ . Second usage, pour $u_{A}$ , dont l'espace de départ est de dimension $p$ : $dim Ker A = p - rg A$ , et l'inclusion des noyaux donne $dim Ker v \leq p - rg A$ . En reportant : $rg B \leq (p - rg A) + rg (A B), c’est- a ˋ -dire rg (A B) \geq rg A + rg B - p .$

Le point délicat. Le théorème du rang sert deux fois, sur deux applications qui n'ont pas le même espace de départ, et le lien entre les deux est une inclusion de noyaux, donc une inégalité : écrire $dim Ker v = p - rg A$ serait faux en général. L'égalité a lieu exactement quand $Ker A \subset Im B$ . On a ainsi l'encadrement $rg A + rg B - p \leq rg (A B) \leq min (rg A, rg B) .$

3) Applications. a) $rg (A B) \leq rg A \leq p < n$ : le rang de la matrice carrée $A B$ n'atteint pas $n$ , elle n'est pas inversible. Tout transite par $K^{p}$ , trop petit : une information comprimée en dimension $p < n$ ne se restitue pas sans perte. b) Avec $B = A$ et $p = n$ : $0 = rg (A^{2}) \geq 2 rg A - n$ , donc $rg A \leq \frac{n}{2}$ ; directement, $A^{2} = 0$ signifie $Im A \subset Ker A$ , d'où $rg A \leq n - rg A$ . c) Avec $p = n$ et $rg A = n$ , l'encadrement devient $rg B \leq rg (A B) \leq rg B$ : il se referme. On retrouve l'invariance du rang par composition avec un isomorphisme.

4) Le cas d'égalité. Pour $N = (0010)$ , $rg N = 1$ et $N^{2} = 0$ : l'inégalité annonce $rg (N^{2}) \geq 1 + 1 - 2 = 0$ , et c'est une égalité. Conformément au point délicat, $Ker N = Vect (e_{1}) = Im N$ : le noyau du facteur de gauche contient toute l'image du facteur de droite, et le passage par l'espace intermédiaire détruit tout.

Ce que l'exercice installe. Restreindre une application à un sous-espace bien choisi, puis lui appliquer le théorème du rang : c'est le geste de toutes les inégalités de rang. L'encadrement dit combien une chaîne linéaire peut perdre au passage du goulot $K^{p}$ .

Les autres exercices de ce chapitre Le cours du chapitre

Un blocage sur cet exercice ? Le tuteur d'Adloun guide par questions, sans donner la réponse.