Minimum d'une forme quadratique — exercice corrigé d'analyse numérique (école d'ingénieur) (chapitre 3)

Minimum d'une forme quadratique

Analyse matricielle

Énoncé

Soit $A$ symétrique définie positive et $f (x) = \frac{1}{2} x^{⊤} A x - b^{⊤} x$ .

Calculer le gradient $\nabla f (x)$ et la hessienne $\nabla^{2} f (x)$ .
En déduire que $f$ admet un unique minimiseur, et l'expliciter.

Corrigé

1. Pour $A$ symétrique, $\nabla (\frac{1}{2} x^{⊤} A x) = A x$ et $\nabla (b^{⊤} x) = b$ . Donc $\nabla f (x) = A x - b, \nabla^{2} f (x) = A .$

2. $A$ étant définie positive, $\nabla^{2} f = A ≻ 0$ partout : $f$ est strictement convexe, ce qui garantit l'unicité du minimiseur (s'il existe). La condition d'optimalité du premier ordre $\nabla f (x) = 0$ donne $A x = b ⟺ x^{⋆} = A^{- 1} b,$ bien défini car $A$ inversible. La stricte convexité assure que ce point critique est le minimum global unique.

Remarque. Minimiser $f$ équivaut donc à résoudre $A x = b$ : c'est le fondement de la méthode du gradient conjugué.