Problème — Le théorème de Riesz : la boule unité et la dimension

Le plan. Le sens facile est celui que le cours a préparé. Tout le travail est dans l'autre sens : fabriquer, en dimension infinie, une suite de vecteurs unitaires deux à deux éloignés d'au moins $1$ ; une telle suite vit dans la boule unité fermée et n'a aucune valeur d'adhérence. L'outil de fabrication est le lemme de Riesz, lui-même conséquence du fait qu'une distance à un sous-espace de dimension finie est atteinte — et c'est là, et seulement là, qu'on utilise la compacité en dimension finie.

1) Le sens facile. Soit $(x_p)$ une suite de $\overline{B}(0,1)$. Fixons une base $(u_1,\dots ,u_n)$ de $E$, écrivons $x_p={\sum }_i{c}_i^{(p)}{u}_i$, et introduisons $N(x)={\max }_i|c_i|$ où les $c_i$ sont les coordonnées de $x$ dans cette base : c'est une norme, les trois axiomes se vérifiant immédiatement sur des coordonnées qui dépendent linéairement de $x$. Par l'équivalence des normes en dimension finie — résultat admis, le programme précisant que sa démonstration n'est pas exigible —, il existe $\alpha ,\beta >0$ avec $\alpha N\le \Vert \cdot \Vert \le \beta N$.

Les coordonnées sont bornées. De $\Vert x_p\Vert \le 1$ on tire $N(x_p)\le \frac{1}{\alpha }$, donc $\left|c_i^{(p)}\right|\le \frac{1}{\alpha }$ : chacune des $n$ suites de coordonnées est bornée dans $\mathbb{R}$.

Extractions successives. Par Bolzano-Weierstrass dans $\mathbb{R}$, on extrait de ${\left(c_1^{(p)}\right)}_p$ une sous-suite convergente, puis de celle-ci une nouvelle pour la deuxième coordonnée, et ainsi de suite $n$ fois — un nombre fini d'extractions, c'est essentiel. On obtient une extraction $\phi$ telle que $c_i^{(\phi (p))}\to c_i$ pour chaque $i$.

La limite. Posons $x={\sum }_i{c}_i{u}_i$. Alors $$\Vert x_{\phi (p)}-x\Vert \le \beta N\left(x_{\phi (p)}-x\right)=\beta \underset{i}{\max }\left|c_i^{(\phi (p))}-c_i\right|⟶0,$$ donc $x_{\phi (p)}\to x$. Enfin la norme est $1$-lipschitzienne donc continue : $\Vert x\Vert =\lim \Vert x_{\phi (p)}\Vert \le 1$, c'est-à-dire $x\in \overline{B}(0,1)$.

De toute suite de $\overline{B}(0,1)$ on extrait donc une suite convergeant dans $\overline{B}(0,1)$ : la boule unité fermée d'un espace normé de dimension finie est compacte.

2) Un sous-espace de dimension finie est fermé, et la distance y est atteinte.

$F$ est fermé. Soit $(y_p)$ une suite de $F$ convergeant vers $z\in E$. Une suite convergente est bornée : les $y_p$ sont dans la boule fermée de rayon $R$ de $F$, compacte par la question 1 appliquée à $F$ et par homothétie. On extrait $y_{\phi (p)}\to y\in F$ ; mais $(y_p)$ converge vers $z$, donc toute extraite aussi, d'où $y=z\in F$ : $F$ est fermé.

La distance est strictement positive. On a $d(x,F)=0$ si et seulement si $x\in \overline{F}=F$ (exercice 4, question b) ; comme $x\notin F$, on a $d:=d(x,F)>0$.

Elle est atteinte. Posons $R=\Vert x\Vert +1$ et $K=\{y\in F:\Vert x-y\Vert \le R\}$.

• $K$ est non vide : $0\in F$ et $\Vert x-0\Vert =\Vert x\Vert \le R$.
• $K$ est fermé : intersection du fermé $F$ et de la boule fermée $\overline{B}(x,R)$.
• $K$ est borné : pour $y\in K$, $\Vert y\Vert \le \Vert y-x\Vert +\Vert x\Vert \le R+\Vert x\Vert$.
• $K$ est contenu dans $F$, de dimension finie : fermé et borné, il est donc compact.

L'application $y\mapsto \Vert x-y\Vert$, $1$-lipschitzienne donc continue, atteint sur ce compact non vide sa borne inférieure en un $y^{\ast }\in K$. Ce minimum sur $K$ est bien l'infimum sur $F$ : d'une part ${\inf }_{y\in F}\Vert x-y\Vert \le \Vert x\Vert$ ; d'autre part, si $y\in F\setminus K$, alors $\Vert x-y\Vert >R=\Vert x\Vert +1>\Vert x\Vert \ge {\inf }_{y\in F}\Vert x-y\Vert$, et un tel $y$ ne peut pas le réaliser. Finalement $$d(x,F)=\underset{y\in F}{\inf }\Vert x-y\Vert =\underset{y\in K}{\min }\Vert x-y\Vert =\Vert x-y^{\ast }\Vert >0.$$

Le point délicat. On ne peut pas dire « $F$ est fermé donc la distance est atteinte » : c'est faux en général. Ce qui sauve ici, c'est d'avoir remplacé $F$ par un compact, substitution légitime seulement parce que $F$ est de dimension finie — exactement la technique de l'exercice 7.

3) Le lemme de Riesz. Soient $F$ de dimension finie avec $F\ne E$, et $x\notin F$. La question 2 fournit $y^{\ast }\in F$ avec $\Vert x-y^{\ast }\Vert =d=d(x,F)>0$. Posons $$e=\frac{x-y^{\ast }}{\Vert x-y^{\ast }\Vert }=\frac{x-y^{\ast }}{d},\text{de sorte que }\Vert e\Vert =1.$$ Pour $z\in F$, par homogénéité de la norme, $$\Vert e-z\Vert =\Vert \frac{x-y^{\ast }}{d}-z\Vert =\frac{1}{d}\Vert x-y^{\ast }-dz\Vert =\frac{1}{d}\Vert x-\underset{\in F}{\underbrace{\left(y^{\ast }+dz\right)}}\Vert \ge \frac{1}{d}\times d=1,$$ où l'on a utilisé que $y^{\ast }+dz$ appartient à $F$ — c'est un sous-espace vectoriel, stable par combinaison linéaire — et la définition de $d$ comme infimum des distances de $x$ aux points de $F$. Et en prenant $z=0\in F$, on obtient $\Vert e-0\Vert =1$. Donc $$d(e,F)=\underset{z\in F}{\inf }\Vert e-z\Vert =1,$$ et cet infimum est atteint en $z=0$. Il existe un vecteur unitaire à distance exactement $1$ de $F$.

La lecture à retenir. Un sous-espace de dimension finie ne remplit pas la sphère unité : il y reste un point à distance $1$ de lui, le maximum concevable puisque $0\in F$ donne déjà $d(e,F)\le 1$.

4) La suite $1$-séparée. Supposons $\dim E=+\infty$.

Initialisation. $E\ne \{0\}$ : choisissons $v\ne 0$ et posons $e_1=\frac{v}{\Vert v\Vert }$, unitaire.

Hérédité. Supposons construits $e_1,\dots ,e_k$ unitaires, deux à deux distants d'au moins $1$. Posons $F_k=\mathrm{Vect}(e_1,\dots ,e_k)$, de dimension finie (au plus $k$). Comme $E$ est de dimension infinie, $F_k\ne E$ : il existe donc $x\in E\setminus F_k$. Les questions 2 et 3 fournissent un vecteur unitaire $e_{k+1}$ avec $d\left(e_{k+1},F_k\right)=1$ ; en particulier, pour $\ell \le k$, le vecteur $e_{\ell }$ est dans $F_k$, donc $$\Vert e_{k+1}-e_{\ell }\Vert \ge d\left(e_{k+1},F_k\right)=1.$$ La propriété est conservée. On obtient une suite $(e_k)$ de vecteurs unitaires avec $\Vert e_k-e_{\ell }\Vert \ge 1$ pour tous $k\ne \ell$.

Aucune extraite ne converge. Supposons qu'une extraite $\left(e_{\phi (p)}\right)$ converge vers $a\in E$. Alors $$1\le \Vert e_{\phi (p+1)}-e_{\phi (p)}\Vert \le \Vert e_{\phi (p+1)}-a\Vert +\Vert a-e_{\phi (p)}\Vert ⟶0,$$ les deux termes étant ceux de la même suite convergente et $\phi (p+1)>\phi (p)$. On obtiendrait $1\le 0$ : contradiction. Aucune suite extraite de $(e_k)$ ne converge.

5) Le théorème. Si $\dim E<+\infty$, la boule unité fermée est compacte (question 1). Par contraposée pour l'autre sens : si $\dim E=+\infty$, la suite $(e_k)$ de la question 4 est contenue dans $\overline{B}(0,1)$, puisque ses termes sont unitaires, et n'admet aucune suite extraite convergente, donc a fortiori aucune convergeant dans $\overline{B}(0,1)$. Par la définition même de la compacité — Bolzano-Weierstrass —, $\overline{B}(0,1)$ n'est pas compacte.

Théorème de Riesz. Soit $E$ un espace vectoriel normé. La boule unité fermée de $E$ est compacte si et seulement si $E$ est de dimension finie.

Deux corollaires à savoir énoncer. La sphère unité obéit à la même dichotomie : la suite $(e_k)$ y vit, donc elle n'est pas compacte en dimension infinie, et en dimension finie elle est fermée bornée donc compacte. Et surtout : « fermé et borné » n'équivaut à « compact » qu'en dimension finie, puisque la boule unité fermée est toujours fermée — image réciproque de $[0,1]$ par la norme, continue — et toujours bornée, sans être compacte dès que la dimension est infinie. Toutes les fois où ce chapitre a écrit « en dimension finie », l'hypothèse était donc indispensable.

6) L'illustration explicite. Prenons $E=\mathcal{C}([0,1],\mathbb{R})$ muni de la norme de la convergence uniforme. Cet espace est de dimension infinie : les monômes $1,X,X^2,\dots$ y forment une famille libre infinie, un polynôme nul sur $[0,1]$ ayant tous ses coefficients nuls.

La construction. Pour $k\ge 1$, posons $I_k=\left[\frac{1}{k+1},\frac{1}{k}\right]$ et notons $m_k$ son milieu. Soit $f_k$ la fonction « triangle » : nulle hors de $I_k$, affine de $0$ à $1$ sur $\left[\frac{1}{k+1},m_k\right]$, affine de $1$ à $0$ sur $\left[m_k,\frac{1}{k}\right]$. Chaque $f_k$ est continue sur $[0,1]$ — affine par morceaux, les valeurs se recollant aux extrémités où elles valent $0$ —, vérifie $0\le f_k\le 1$ et $f_k(m_k)=1$, donc $\Vert f_k{\Vert }_{\infty }=1$.

Les supports sont presque disjoints. $I_k$ et $I_{k+1}$ ne partagent que le point $\frac{1}{k+1}$, où les deux fonctions s'annulent, et pour $|k-\ell |\ge 2$ les intervalles sont disjoints : en tout point de $[0,1]$, au plus une des $f_k$ est non nulle.

Le calcul. Soient $k\ne \ell$. En tout point $t$, l'une au moins des deux valeurs est nulle, donc $$\left|f_k(t)-f_{\ell }(t)\right|=\max \left(f_k(t),f_{\ell }(t)\right)\le 1,$$ d'où $\Vert f_k-f_{\ell }{\Vert }_{\infty }\le 1$. Et en $t=m_k$, qui est intérieur à $I_k$ donc hors de $I_{\ell }$, on a $f_k(m_k)=1$ et $f_{\ell }(m_k)=0$, donc l'écart vaut $1$. Finalement $${\Vert f_k-f_{\ell }\Vert }_{\infty }=1\text{pour tous }k\ne \ell ,$$ non pas « au moins $1$ » mais exactement $1$.

Conclusion. La suite $(f_k)$ vit sur la sphère unité et ses termes sont deux à deux à distance $1$ : par l'argument de la question 4, elle n'admet aucune extraite convergente. La boule unité fermée et la sphère unité de $\mathcal{C}([0,1],\mathbb{R})$ ne sont donc pas compactes — ce que le théorème de Riesz prédisait, et qu'on vérifie ici à la main, sur un exemple qu'on peut dessiner : des bosses qui se déplacent vers $0$ en rétrécissant sans jamais perdre de hauteur. C'est cela, précisément, qu'un espace de dimension finie interdit. (Contrôle : $I_1=\left[\frac{1}{2},1\right]$ et $m_1=\frac{3}{4}$ ; $I_2=\left[\frac{1}{3},\frac{1}{2}\right]$ et $m_2=\frac{5}{12}$ ; les deux triangles ne se touchent qu'en $t=\frac{1}{2}$, où tous deux valent $0$, et $f_1\left(\frac{5}{12}\right)=f_2\left(\frac{3}{4}\right)=0$.)

Ce que le problème installe. Le lemme de Riesz d'abord : un sous-espace de dimension finie laisse toujours, sur la sphère unité, un point à distance $1$ de lui — c'est la machine qui fabrique des suites sans valeur d'adhérence. Puis le renversement de perspective : la compacité de la boule unité n'est pas une commodité technique, c'est un test de dimension. Chaque fois qu'un théorème exige la dimension finie — équivalence des normes, continuité automatique des applications linéaires, caractérisation des compacts, existence d'un minimum par restriction à une boule —, c'est ce théorème-là qui est derrière.