Adloun

Calcul différentiel et optimisation

Cours complet · mathématiques (MP/MPI), chapitre 11 · MP et MPI (2e année)

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

<i class="fa-solid fa-compass mr-2" style="color:#9A563B"></i>11.1 Introduction et motivation

En première année, on a rencontré les dérivées partielles d'une fonction numérique sur un ouvert de . Ce chapitre :

On souligne le caractère géométrique des notions : pour beaucoup de questions, on se ramène à des fonctions d'une variable réelle grâce à la dérivée le long d'un arc, et la notion de vecteur tangent à une partie donne son sens à l'optimisation sous contrainte. Les fonctions sont définies sur un ouvert d'un -espace vectoriel normé de dimension finie, à valeurs dans un -espace normé de dimension finie ; le choix d'une base de ramène au cas des fonctions à valeurs réelles, et l'équivalence des normes (chapitre 4) rend toutes les notions indépendantes des normes choisies.

11.2 Dérivée selon un vecteur, dérivées partielles

Définition 11.1Dérivée selon un vecteur

Soient , et . La dérivée de en selon est, si elle existe,

(dérivée en de la fonction d'une variable , définie au voisinage de car est ouvert).

Définition 11.2Dérivées partielles

Si est une base de , les dérivées partielles de en sont les dérivées selon les vecteurs de base :

Une base étant fixée, on identifie et : la dérivée partielle se calcule en dérivant par rapport à , les autres variables étant gelées — le calcul de première année.

Attention

L'existence de toutes les dérivées directionnelles en n'implique ni la continuité en , ni aucune compatibilité entre les directions (exercice 6 : un exemple où toutes les existent mais où n'est pas continue en ). La dérivée directionnelle ne voit que le long des droites — il faut une notion qui voie dans toutes les directions à la fois : c'est la différentielle.

11.3 Différentielle

Définition 11.3Application différentiable

est différentiable en s'il existe une application linéaire telle que, quand :

(développement limité à l'ordre 1). L'application est alors unique : c'est la différentielle de en , ou application linéaire tangente, notée . Si est différentiable en tout point de , on dispose de l'application .

◆Théorème 11.4Premières propriétés

Si est différentiable en , alors :

  • est continue en ;
  • est dérivable en selon tout vecteur , avec

(ce qui prouve l'unicité de la différentielle) ;

  • si dans une base de : est différentiable en si et seulement si chaque l'est.
Démonstration
  1. ( est continue : linéaire en dimension finie, chapitre 4). 2. Avec : . L'unicité suit : est imposé pour tout . 3. Coordonnée par coordonnée dans (chapitres 4 et 7).
Exemple 11.5Les deux cas particuliers fondamentaux

Application constante : pour tout . Application linéaire : exactement, donc est différentiable partout et pour tout — une application linéaire est sa propre approximation linéaire.

◆Théorème 11.6Différentielle et dérivées partielles

Si est différentiable en et est une base de , alors pour :

Si et (bases canoniques), la matrice de est la matrice jacobienne

Cas d'une variable ( intervalle ouvert de ) : différentiabilité en dérivabilité en , avec .

Démonstration

Linéarité de et . Pour une variable : le DL à l'ordre 1 vectoriel du chapitre 7 est la définition de la différentiabilité, étant la linéaire tangente.

Définition 11.7Gradient

Si est euclidien et est différentiable en , la forme linéaire se représente par un unique vecteur (représentation des formes linéaires, chapitre 3) : le gradient , caractérisé par

En base orthonormée : .

ImportantLe gradient pointe la plus grande pente

Si , alors parmi les vecteurs unitaires , la dérivée directionnelle est maximale pour , et vaut alors . En effet, par Cauchy-Schwarz (chapitre 3), avec égalité si et seulement si est positivement colinéaire à . Le gradient indique la direction de plus forte croissance, et sa norme est la pente dans cette direction — c'est la boussole de toutes les méthodes de descente de gradient.

Le gradient est orthogonal aux lignes de niveau et pointe vers les valeurs croissantes ()

11.4 Opérations sur les applications différentiables

◆Théorème 11.8Combinaisons linéaires et applications multilinéaires
  • Si sont différentiables en : .
  • Si est multilinéaire et différentiables en , alors est différentiable en , de différentielle

— une position à la fois, comme au chapitre 7. Cas usuels : produit de fonctions numériques (), produit scalaire .

◆Théorème 11.9Règle de la chaîne

Si est différentiable en et () est différentiable en , alors est différentiable en et

— les applications linéaires tangentes se composent (et les matrices jacobiennes se multiplient).

Démonstration

Notons , , et , de sorte que . Alors

et les deux derniers termes sont ( est continue, chapitre 4).

◆Théorème 11.10Dérivée le long d'un arc

Si est dérivable en et différentiable en , alors est dérivable en et

Cas fondamental : on retrouve . En coordonnées : si ,

Interprétation : la valeur de vue par un mobile varie selon le produit de la linéaire tangente par le vecteur vitesse — la géométrie du chapitre 7 rencontre la différentielle.

Proposition 11.11Dérivées partielles d'une composée

Si et sont différentiables, alors

(règle de la chaîne appliquée selon le vecteur des variables — le produit des jacobiennes, ligne par colonne). Exemple type : les coordonnées polaires (exercice 4).

11.5 Applications de classe C1

Définition 11.12Classe C1

est de classe sur si elle est différentiable sur et si est continue.

◆Théorème 11.13Le critère pratique

est de classe sur si et seulement si ses dérivées partielles dans une base de existent en tout point de et sont continues sur . (La démonstration n'est pas exigible — l'idée : l'accroissement se découpe en accroissements selon chaque coordonnée, contrôlés par les accroissements finis et la continuité des .)

ImportantLe réflexe de vérification

En pratique, on n'invoque presque jamais la définition : on calcule les dérivées partielles et on constate leur continuité (fonctions usuelles, sommes, produits, composées). Ce critère fait des fonctions « formules » des fonctions sur leur domaine ouvert — la différentiabilité point par point ne se discute qu'aux points singuliers (raccordements, origine pour les quotients...).

◆Théorème 11.14Formule intégrale le long d'un arc

Si est de classe sur et de classe avec , , alors

Cas particulier du segment (licite si ) : .

Démonstration

est de classe sur (dérivée le long d'un arc, continue par composition) et : le théorème fondamental du chapitre 7 donne .

◆Théorème 11.15Fonctions de différentielle nulle

Si est un ouvert connexe par arcs et , alors

Démonstration

(Démonstration dans le cas convexe, conformément au programme.) Si : pour , le segment est dans et la formule intégrale donne . Le cas général s'obtient en joignant deux points par un chemin et en recouvrant celui-ci par des boules convexes (la connexité par arcs du chapitre 4 sert exactement ici). La réciproque est immédiate.

11.6 Vecteurs tangents à une partie

Définition 11.16Vecteur tangent

Soient et . Un vecteur est tangent à en s'il existe et un arc (à valeurs dans ), dérivable en , tel que

On note l'ensemble des vecteurs tangents à en . Un vecteur tangent est une vitesse possible pour un mobile astreint à rester dans et passant par .

Exemple 11.17Trois exemples fondateurs

Sous-espace affine : (les arcs , , restent dans ; réciproquement tout arc dans a sa dérivée dans la direction ). Sphère euclidienne : . En effet, si est un arc dans , est constante donc (chapitre 7) ; réciproquement, pour non nul, le grand cercle reste sur , avec et . Graphe d'une fonction différentiable sur un ouvert de : au point , le plan tangent est engendré par et (arcs coordonnés relevés sur le graphe).

◆Théorème 11.18Espace tangent à un ensemble de niveau

Soient une fonction numérique de classe sur l'ouvert , et tel que . Alors

un hyperplan de . (La démonstration — et le théorème des fonctions implicites qui la fonde — sont hors programme ; l'inclusion est facile : si est un arc dans , se dérive en .) Traduction euclidienne : — le gradient est orthogonal aux ensembles de niveau (la figure du gradient). Exemple : pour une surface de d'équation , le plan tangent en un point régulier est le plan passant par et de vecteur normal .

Plan tangent à la sphère en : la normale est portée par le rayon , et

11.7 Optimisation : étude au premier ordre

Définition 11.19Point critique

Un point critique d'une application différentiable est un point où (en euclidien : ).

◆Théorème 11.20Condition nécessaire du premier ordre

Si est différentiable et admet un extremum local en un point intérieur à son domaine (ce qui est automatique, étant ouvert), alors est un point critique de .

Démonstration

Pour tout , la fonction d'une variable , définie au voisinage de , admet un extremum local en , point intérieur : sa dérivée y est nulle (première année), soit . Ceci pour tout : .

Attention

Deux pièges symétriques. (1) La condition n'est nécessaire qu'en un point intérieur : sur un domaine avec bord (un compact par exemple), les extremums peuvent être au bord sans y être critiques — d'où la stratégie : points critiques de l'intérieur étude du bord. (2) Elle n'est pas suffisante : est critique pour sans être un extremum (col, ou selle). Méthode des extremums globaux : la compacité (bornes atteintes, chapitre 4) ou la coercivité garantit l'existence, la condition critique localise.

La nappe au voisinage de l'origine : croît dans une direction propre de la hessienne et décroît dans l'autre — un col, pas un extremum

◆Théorème 11.21Extremum d'une restriction

Soient numérique différentiable sur et . Si la restriction admet un extremum local en , alors

— la différentielle s'annule sur tous les vecteurs tangents à la contrainte.

Démonstration

Soit , et un arc dans avec , . La fonction admet un extremum local en (point intérieur de ), donc .

◆Théorème 11.22Optimisation sous contrainte

Soient numériques de classe sur , et avec . Si admet un extremum local en , alors

(Le scalaire est le multiplicateur de Lagrange.)

Démonstration

Par le théorème précédent et : . Or si deux formes linéaires et vérifient , alors : fixons avec ; tout s'écrit avec le premier terme dans , d'où , soit . Géométriquement : en un extremum lié, les lignes de niveau de sont tangentes à la contrainte — les deux gradients, orthogonaux à la même tangente, sont alignés.

En un extremum lié, la ligne de niveau de est tangente à la contrainte : les deux gradients, normaux à la tangente commune, sont colinéaires ()

ImportantMéthode pratique de l'optimisation sous contrainte

Pour optimiser sur : (1) justifier l'existence (typiquement : compact — fermé borné, chapitre 4 — et continue : bornes atteintes) ; (2) vérifier sur ; (3) résoudre le système , ; (4) comparer les valeurs de aux points trouvés. Le multiplicateur est un auxiliaire : on ne le calcule que si on en a besoin.

11.8 Applications de classe Ck

Définition 11.23Dérivées partielles d'ordre k et classe Ck

Sur un ouvert de , les dérivées partielles d'ordre s'obtiennent par itération :

est de classe si toutes ses dérivées partielles d'ordre existent et sont continues (et si pour tout ). La notion de différentielle seconde est hors programme — on travaille avec les dérivées partielles itérées.

◆Théorème 11.24Théorème de Schwarz

Si est de classe sur un ouvert de , alors pour tous :

— l'ordre de dérivation est indifférent (et de même à tout ordre pour ). La démonstration n'est pas exigible. L'hypothèse est essentielle : il existe des fonctions dont les dérivées croisées en un point diffèrent (exercice 13 de la banque).

Proposition 11.25Opérations

Combinaisons linéaires, produits, quotients (à dénominateur non nul) et composées d'applications de classe sont de classe (démonstrations non exigibles). Toute fonction « formule » est sur son ouvert de définition.

iRemarqueÉquations aux dérivées partielles

La règle de la chaîne permet de résoudre des EDP simples par changement de variables : une EDP du premier ordre à coefficients constants se ramène à (exercice 5), l'équation des ondes à (exercice 10) — dans les deux cas, le changement de variables redresse l'équation, et le théorème de Schwarz sécurise les calculs d'ordre 2.

11.9 Optimisation : étude au second ordre

Définition 11.26Matrice hessienne

Pour de classe sur un ouvert de , à valeurs réelles, la matrice hessienne de en est

— symétrique par le théorème de Schwarz : toute la théorie spectrale du chapitre 3 s'applique.

◆Théorème 11.27Formule de Taylor-Young à l'ordre 2

Si est de classe sur un ouvert de , alors quand :

soit matriciellement . (Démonstration non exigible.)

◆Théorème 11.28Conditions du second ordre

Soit de classe sur un ouvert de .

  • (condition nécessaire) Si admet un minimum local en , alors est critique et (positive). Pour un maximum local : .
  • (condition suffisante) Si est un point critique et (définie positive), alors admet un minimum local strict en . Pour un maximum local strict : définie négative.
Démonstration

1. Pour fixé, est au voisinage de avec un minimum local en : donc (première année : Taylor-Young en une variable). Or la règle de la chaîne itérée donne : la forme quadratique de la hessienne est positive. 2. Par la caractérisation spectrale (chapitre 3), et . Taylor-Young en un point critique :

pour assez petit. Les matrices du chapitre 3 trouvent ici leur raison d'être annoncée.

ImportantLe cas n = 2 : trace et déterminant

Pour sur un ouvert de et un point critique, avec :

  • et : minimum local strict ;
  • et : maximum local strict ;
  • : point selle (pas d'extremum) ;
  • : on ne peut pas conclure (exercice 29 de la banque).

(Le déterminant est le produit des deux valeurs propres, la trace leur somme : donne des valeurs propres de même signe, fixé par la trace ; donne des signes opposés — la restriction de croît dans une direction propre et décroît dans l'autre.)

Lignes de niveau au voisinage d'un point critique : ellipses autour d'un minimum, hyperboles autour d'une selle

Continuer sur Adloun : animation, QCM, fiches, exercices