Corrigé ENS 2026 Maths C MP — Partie IV (Q17 à Q22) : Théorème de Baillon-Haddad et convergence de la descente de gradient

Q17. Démontrons d'abord l'inégalité du gradient, qui resservira :

$$(\mathrm{G})\forall x,x^{\prime }\in {\mathbb{R}}^n,f(x^{\prime })\ge f(x)+⟨\nabla f(x),x^{\prime }-x⟩.$$

Soit $\psi (t)=f(x+t(x^{\prime }-x))$ pour $t\in \mathbb{R}$. Par la règle de la chaîne (dérivée le long d'un arc), $\psi$ est de classe ${\mathcal{C}}^1$ et ${\psi }^{\prime }(t)=⟨\nabla f(x+t(x^{\prime }-x)),x^{\prime }-x⟩$ ; en particulier ${\psi }^{\prime }(0)=⟨\nabla f(x),x^{\prime }-x⟩$. Pour $t\in ]0,1]$, $x+t(x^{\prime }-x)=(1-t)x+t{x}^{\prime }$, et la convexité de $f$ donne $\psi (t)\le (1-t)\psi (0)+t\psi (1)$, soit

$$\frac{\psi (t)-\psi (0)}{t}\le \psi (1)-\psi (0).$$

En faisant $t\to 0^{+}$, ${\psi }^{\prime }(0)\le \psi (1)-\psi (0)$, c'est-à-dire (G).

Appliquée en $x_{\ast }$ (c'est l'étude de ${\phi }_x=\psi$ avec $x$ remplacé par $x_{\ast }$ et $x^{\prime }$ par $x$) : pour tout $x$, $f(x)\ge f(x_{\ast })+⟨\nabla f(x_{\ast }),x-x_{\ast }⟩=f(x_{\ast })$. Donc $f$ admet en $x_{\ast }$ un minimum global.

Q18. La hessienne est symétrique par le théorème de Schwarz ($f$ de classe ${\mathcal{C}}^2$). Soient $x,h\in {\mathbb{R}}^n$ et $g(t)=f(x+th)$ ; par la règle de la chaîne itérée, $g$ est ${\mathcal{C}}^2$ avec

$$g^{\prime }(t)=⟨\nabla f(x+th),h⟩,g^{\prime \prime }(t)=⟨{\nabla }^{2}f(x+th)h,h⟩.$$

Appliquons (G) aux points $x+sh$ et $x+th$ : $g(s)\ge g(t)+g^{\prime }(t)(s-t)$ et $g(t)\ge g(s)+g^{\prime }(s)(t-s)$. En sommant, $0\ge (g^{\prime }(t)-g^{\prime }(s))(s-t)$, donc pour $s>t$, $g^{\prime }(s)\ge g^{\prime }(t)$ : $g^{\prime }$ est croissante et $g^{\prime \prime }(0)\ge 0$. Ainsi $⟨{\nabla }^{2}f(x)h,h⟩\ge 0$ pour tout $h$ : ${\nabla }^{2}f(x)\in {\mathcal{S}}_n^{+}(\mathbb{R})$.

Q19. a) Soient $x,x^{\prime }$ et $h=x^{\prime }-x$. $f$ étant ${\mathcal{C}}^1$, la formule intégrale le long du segment donne $f(x^{\prime })-f(x)={\int }_0^1⟨\nabla f(x+th),h⟩\mathrm{d}t$, l'intégrande étant continue. Donc, par Cauchy--Schwarz puis l'hypothèse de Lipschitz,

$$\begin{array}{rl}f(x^{\prime })-f(x)-⟨\nabla f(x),h⟩& ={\int }_0^1⟨\nabla f(x+th)-\nabla f(x),h⟩\mathrm{d}t\\ & \le {\int }_0^{1}Lt\Vert h\Vert \Vert h\Vert \mathrm{d}t=\frac{L}{2}\Vert h{\Vert }^2.\end{array}$$

b) Soit $x\in {\mathbb{R}}^n$ et $x^{\prime }=x-\frac{1}{L}\nabla f(x)$. Par (P) :

$$f(x^{\prime })\le f(x)-\frac{1}{L}\Vert \nabla f(x){\Vert }^2+\frac{L}{2}\cdot \frac{1}{L^2}\Vert \nabla f(x){\Vert }^2=f(x)-\frac{1}{2L}\Vert \nabla f(x){\Vert }^2.$$

Par Q17, $f(x_{\ast })\le f(x^{\prime })$ ; donc $f(x_{\ast })\le f(x)-\frac{1}{2L}\Vert \nabla f(x){\Vert }^2$, soit $\Vert \nabla f(x){\Vert }^2\le 2L(f(x)-f(x_{\ast }))$.