En dimension infinie, un hyperplan sans vecteur normal

Ce qu'on a le droit d'utiliser. Le théorème du supplémentaire orthogonal et celui de la meilleure approximation, pour un sous-espace de dimension finie ; « continue, positive, d'intégrale nulle, donc nulle ». La stratégie : traiter d'abord un hyperplan « sage », $K$, où tout le cours s'applique, puis un hyperplan qui met en défaut chacune de ses conclusions.

a) Un hyperplan qui a un vecteur normal. Pour $g\in E$, $⟨g,1⟩={\int }_0^{1}g$ : donc $K=\{1{\}}^{\perp }$, qui est aussi l'orthogonal de $\mathrm{Vect}(1)$. Le sous-espace $F=\mathrm{Vect}(1)$ est de dimension finie : le théorème du supplémentaire orthogonal donne $E=F\oplus F^{\perp }=\mathrm{Vect}(1)\oplus K$. Concrètement, $f=\left({\int }_0^{1}f\right)1+(f-{\int }_0^{1}f)$, le second terme étant d'intégrale nulle.

L'orthogonal de $K$. D'abord $\mathrm{Vect}(1)$ est inclus dans $K^{\perp }$, puisque $1$ est orthogonale à tout élément de $K$. Réciproquement, soit $h\in K^{\perp }$, décomposée en $h=\lambda 1+k$ avec $k\in K$. Alors $0=⟨h,k⟩=\lambda ⟨1,k⟩+\Vert k{\Vert }^2=\Vert k{\Vert }^2$, donc $k=0$ et $h\in \mathrm{Vect}(1)$. Ainsi $K^{\perp }=\mathrm{Vect}(1)$ : $1$ est un vecteur normal à $K$.

La distance. Par le théorème de la meilleure approximation, appliqué au sous-espace de dimension finie $\mathrm{Vect}(1)$, la décomposition précédente est celle de $f$ selon cette droite et son orthogonal $K$ : $p_K(f)=f-\left({\int }_0^{1}f\right)1$, et l'écart $f-p_K(f)=\left({\int }_0^{1}f\right)1$ est orthogonal à $K$. Comme $\Vert 1{\Vert }^2={\int }_0^{1}1=1$, $$d(f,K)=\Vert f-p_K(f)\Vert =\left|{\int }_0^{1}f\right|.$$ C'est la formule « distance à un hyperplan égale valeur absolue du produit scalaire par un vecteur normal unitaire », valable ici en dimension infinie parce qu'on n'a projeté que sur une droite.

b) $H$ est un hyperplan. L'application $\delta :g\mapsto g(0)$ est une forme linéaire sur $E$, non nulle puisque $\delta (1)=1$ ; $H$ est son noyau : c'est un hyperplan, dont $\mathrm{Vect}(1)$ est un supplémentaire ($g=g(0)1+(g-g(0)1)$).

c) L'orthogonal de $H$ est nul. Soit $f\in H^{\perp }$. La fonction $g:t\mapsto tf(t)$ est continue et s'annule en $0$ : $g\in H$. Donc $$0=⟨f,g⟩={\int }_0^{1}tf(t{)}^2\mathrm{d}t.$$ La fonction $t\mapsto tf(t{)}^2$ est continue et positive sur $[0,1]$, d'intégrale nulle : elle est nulle. Donc $f(t)=0$ pour tout $t$ de $]0,1]$, et $f(0)=0$ par continuité : $f=0$. $H^{\perp }=\{0\}$.

Le point délicat. Le choix du test $g=tf$ est tout l'exercice : il fallait une fonction de $H$ dont le produit scalaire avec $f$ soit l'intégrale d'une fonction positive, pour pouvoir invoquer « continue, positive, d'intégrale nulle, donc nulle ». Le facteur $t$ fait entrer $g$ dans $H$ sans détruire la positivité.

d) Une distance nulle qui n'est pas atteinte. Chaque $g_n$ est continue — les deux expressions $nt$ et $1$ se raccordent en $t=\frac{1}{n}$ — et vérifie $g_n(0)=0$ : $g_n\in H$. Comme $1-g_n$ vaut $1-nt$ sur $[0,\frac{1}{n}]$ et $0$ ensuite, $$\Vert 1-g_n{\Vert }^2={\int }_0^{1/n}(1-nt{)}^2\mathrm{d}t=[-\frac{(1-nt{)}^3}{3n}{]}_0^{1/n}=\frac{1}{3n}.$$ Donc $0\le d(1,H)\le \frac{1}{\sqrt{3n}}$ pour tout $n$, et en faisant tendre $n$ vers $+\infty$, $d(1,H)=0$. Pourtant $1\notin H$ : aucun $h\in H$ ne vérifie $\Vert 1-h\Vert =0$, car cela forcerait $h=1$. La distance n'est pas atteinte.

Pas de projeté. Si $1$ avait un projeté orthogonal $h$ sur $H$, on aurait $1-h\in H^{\perp }=\{0\}$, donc $1=h\in H$ : absurde. Et $H\oplus H^{\perp }=H\oplus \{0\}=H$, qui n'est pas $E$. $H$ n'a pas de supplémentaire orthogonal.

e) La conclusion. Le théorème du supplémentaire orthogonal suppose le sous-espace de dimension finie. $K$ ne l'est pas non plus, mais on a pu appliquer le théorème à son orthogonal, la droite $\mathrm{Vect}(1)$, qui l'est. Pour $H$, rien de tel : $H$ contient la famille libre infinie des fonctions $t\mapsto t^k$, $k\ge 1$, et son orthogonal est nul. Un vecteur normal $a\ne 0$ à $H$ appartiendrait à $H^{\perp }=\{0\}$ : $H$ n'a aucun vecteur normal. Autrement dit, la forme linéaire $g\mapsto g(0)$ ne s'écrit pas $g\mapsto ⟨a,g⟩$ : aucune fonction continue $a$ ne vérifie ${\int }_0^{1}ag=g(0)$ pour toute $g\in E$.

Ce que l'exercice installe. Dans le théorème du supplémentaire orthogonal et dans celui de la meilleure approximation, la dimension finie du sous-espace est une vraie hypothèse, pas une précaution de rédaction : sans elle, l'orthogonal peut être nul, la distance peut ne pas être atteinte, le projeté peut ne pas exister. On sait cependant projeter sur un sous-espace de dimension infinie dès que son orthogonal est de dimension finie. Les physiciens connaissent l'objet qui manque ici : la « fonction » de Dirac, qui voudrait vérifier $\int ag=g(0)$ pour toute $g$, et qui n'est justement pas une fonction.