Recherche d'extrema

Cours complet · mathématiques approfondies (ECG 2e année), chapitre 10 · prépa ECG, 2e année

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

Le chapitre 5 s'est arrêté à la condition d'ordre $1$ : en un extremum, le gradient s'annule. C'est nécessaire, jamais suffisant. Il reste à trancher entre minimum, maximum et point selle — et à traiter le cas, omniprésent en économie, où l'optimisation est sous contrainte.

La réponse tient dans le théorème spectral du chapitre 9 : la matrice hessienne est symétrique, donc diagonalisable, et ce sont les signes de ses valeurs propres qui décident.

AttentionAucune démonstration n'est exigible

Le programme est net : « aucune des démonstrations de ce chapitre n'est exigible des étudiants », et « la détermination de la nature topologique d'un ensemble n'est pas un objectif du programme ; elle devra toujours être précisée ». Un énoncé dira donc « soit $O$ un ouvert convexe… », et l'on appliquera.

10.1 Ouverts, fermés, et fonctions de classe $C^{2}$

Définition 10.1Ouverts et fermés usuels

Pour $φ$ continue sur $R^{n}$ et $a \in R$ , l'ensemble ${x \in R^{n} ∣ φ (x) < a}$ est un ouvert, et ${x \in R^{n} ∣ φ (x) ⩽ a}$ est un fermé. Un ensemble est borné s'il est contenu dans une boule.

Définition 10.2Matrice hessienne

Si $f$ est de classe $C^{2}$ sur un ouvert $O$ de $R^{n}$ , sa matrice hessienne en $x$ est

$\nabla^{2} f (x) = (\partial_{i, j}^{2} f (x))_{1 ⩽ i, j ⩽ n} .$

◆Théorème 10.3Schwarz

Si $f$ est de classe $C^{2}$ sur $O$ , alors $\nabla^{2} f (x)$ est symétrique en tout point de $O$ .

ImportantCe que Schwarz autorise

Par le théorème spectral, la hessienne est diagonalisable dans une base orthonormée, avec des valeurs propres réelles. Sans Schwarz, parler du « signe des valeurs propres de la hessienne » n'aurait pas de sens.

Définition 10.4Fonction quadratique associée

À une matrice symétrique réelle $A$ on associe

$q (h) =^{t} H A H, h \in R^{n},$

où $H$ est la colonne des coordonnées de $h$ . Il existe une base orthonormée $B$ dans laquelle, si $h$ a pour coordonnées $h_{1}, \dots, h_{n}$ ,

$q (h) = i = 1 \sum n λ_{i} h_{i}^{2},$

les $λ_{i}$ étant les valeurs propres de $A$ .

◆Théorème 10.5Développement limité d'ordre 2

Si $f$ est de classe $C^{2}$ sur un ouvert $O$ , alors pour $x \in O$ et $h$ petit,

$f (x + h) = f (x) + ⟨ \nabla f (x), h ⟩ + q_{x} (h) + ∥ h ∥^{2} ε (h),$

où $q_{x}$ est la fonction quadratique associée à $\frac{1}{2} \nabla^{2} f (x)$ et $ε (h) \to 0$ .

10.2 Extrema libres

◆Théorème 10.6Existence sur un fermé borné

Une fonction continue sur une partie fermée et bornée de $R^{n}$ admet un maximum global et un minimum global sur cette partie.

◆Théorème 10.7Condition nécessaire d'ordre 1

Si $f$ est de classe $C^{1}$ sur un ouvert $O$ et admet un extremum local en $x_{0} \in O$ , alors $\nabla f (x_{0}) = 0$ . On dit que $x_{0}$ est un point critique.

◆Théorème 10.8Condition d'ordre 2

Soit $f$ de classe $C^{2}$ sur un ouvert $O$ et $x_{0}$ un point critique.

Si $Sp (\nabla^{2} f (x_{0})) \subset R_{+}^{*}$ : $f$ admet un minimum local en $x_{0}$ .
Si $Sp (\nabla^{2} f (x_{0})) \subset R_{-}^{*}$ : maximum local.
Si le spectre contient deux réels non nuls de signes distincts : $f$ n'admet pas d'extremum en $x_{0}$ , qui est un point selle.

AttentionUne valeur propre nulle ne conclut pas

Si $0$ appartient au spectre sans qu'aucune paire de signes opposés n'apparaisse, le critère est muet. Il faut revenir à l'étude directe de $f$ — le plus souvent le long de quelques droites bien choisies.

◆Théorème 10.9Condition suffisante d'extremum global

Soit $Ω$ un ouvert convexe de $R^{n}$ et $x_{0}$ un point critique de $f$ , de classe $C^{2}$ sur $Ω$ .

Si $Sp (\nabla^{2} f (x)) \subset R_{+}$ pour tout $x \in Ω$ , alors $f$ admet un minimum global en $x_{0}$ .
Si $Sp (\nabla^{2} f (x)) \subset R_{-}$ pour tout $x \in Ω$ : maximum global.

ImportantLa différence entre local et global

Le critère d'ordre $2$ ne regarde la hessienne qu'au point critique : il ne peut donner que du local. Pour du global, il faut une hypothèse en tout point de l'ouvert — c'est la convexité de $f$ , déguisée.

Exemple 10.10Une recherche complète

Soit $f (x, y) = x^{2} + x y + y^{2} - 3 x$ sur $R^{2}$ , qui est ouvert et convexe.

Point critique. $\partial_{1} f = 2 x + y - 3$ , $\partial_{2} f = x + 2 y$ : $x = - 2 y$ puis $- 3 y = 3$ , donc $y = - 1$ et $x = 2$ . Unique point critique $(2, - 1)$ , où $f$ vaut $- 3$ .

Hessienne. $\nabla^{2} f = (2112)$ , constante. On vérifie $(2112) (11) = 3 (11)$ et $(2112) (1 - 1) = (1 - 1)$ : les valeurs propres sont $3$ et $1$ , positives.

Conclusion. Minimum local, et même global : la hessienne est la même en tout point de $R^{2}$ , ouvert convexe, et son spectre est positif.

10.3 Extrema sous contrainte d'égalités linéaires

Définition 10.11La contrainte

Soit $C$ l'ensemble des solutions d'un système linéaire

$⎩ ⎨ ⎧ g_{1} (x) = b_{1} ⋮ g_{p} (x) = b_{p}$

où les $g_{i}$ sont des fonctions affines, et soit $H$ l'ensemble des solutions du système homogène associé.

◆Théorème 10.12Condition nécessaire du premier ordre sous contrainte

Soit $f$ de classe $C^{1}$ sur un ouvert $O$ . Si la restriction de $f$ à $C$ admet un extremum local en $x_{0} \in C \cap O$ , alors

$\nabla f (x_{0}) \in Vect (\nabla g_{1} (x_{0}), \dots, \nabla g_{p} (x_{0})),$

c'est-à-dire qu'il existe des réels $λ_{1}, \dots, λ_{p}$ — les multiplicateurs — tels que

$\nabla f (x_{0}) = i = 1 \sum p λ_{i} \nabla g_{i} (x_{0}) .$

De plus, $H^{⊥} = Vect (\nabla g_{1} (x_{0}), \dots, \nabla g_{p} (x_{0}))$ .

ImportantLa méthode, en pratique

Écrire le système $\nabla f (x) = \sum λ_{i} \nabla g_{i} (x)$ , auquel on ajoute les contraintes $g_{i} (x) = b_{i}$ .
Résoudre en $(x, λ)$ : c'est un système linéaire quand $f$ est quadratique.
Comparer les valeurs de $f$ aux points obtenus.

Exemple 10.13Un extremum sous contrainte

Minimisons $f (x, y) = x^{2} + y^{2}$ sous la contrainte $x + y = 4$ .

Ici $g (x, y) = x + y$ , $\nabla g =^{t} (1, 1)$ et $\nabla f =^{t} (2 x, 2 y)$ . La condition s'écrit

$2 x = λ, 2 y = λ,$

donc $x = y$ . Avec la contrainte $x + y = 4$ : $x = y = 2$ , et $λ = 4$ .

La valeur est $f (2, 2) = 8$ . C'est bien un minimum : sur la contrainte, $f (x, 4 - x) = x^{2} + (4 - x)^{2} = 2 x^{2} - 8 x + 16 = 2 (x - 2)^{2} + 8 ⩾ 8$ .

Python : Nature d'un point critique


import numpy as np

H = np.array([[2., 1.], [1., 2.]])
print(np.linalg.eigvalsh(H))          # [1. 3.]  -> minimum

Hs = np.array([[2., -4.], [-4., 2.]])
print(np.linalg.eigvalsh(Hs))         # [-2. 6.] -> point selle

Hn = np.array([[0., 0.], [0., 2.]])
print(np.linalg.eigvalsh(Hn))  # [0. 2.]  -> le critere NE CONCLUT PAS

eigvalsh suppose la matrice symétrique : c'est légitime ici, Schwarz le garantit. Le troisième cas rappelle qu'une valeur propre nulle laisse la question ouverte — il faut alors regarder $f$ elle-même.

Continuer sur Adloun : animation, QCM, fiches, exercices

Recherche d'extrema

10.1 Ouverts, fermés, et fonctions de classe C2

10.2 Extrema libres

10.3 Extrema sous contrainte d'égalités linéaires

Python : Nature d'un point critique

10.1 Ouverts, fermés, et fonctions de classe $C^{2}$