Une projection par les moindres carrés

Exercice · niveau 3 (difficile) · mathématiques approfondies (ECG 2e année), chapitre 9 — Endomorphismes symétriques et théorème spectral · Projecteurs et moindres carrés

Énoncé

Soient les points $(1, 1)$ , $(2, 3)$ , $(3, 4)$ . Chercher la droite $y = a x$ passant par l'origine qui minimise la somme des carrés des écarts verticaux, en la voyant comme une projection.

Corrigé

Mise en forme. On cherche $a$ minimisant $∥ B - a A ∥^{2}$ où $A = (1, 2, 3)$ et $B = (1, 3, 4)$ , dans $R^{3}$ .

C'est une projection. Le sous-espace atteignable est $F = Vect (A)$ , et le minimum est atteint en $p_{F} (B)$ :

$a = \frac{⟨ B , A ⟩}{∥ A ∥ ^{2}} = \frac{1 + 6 + 12}{1 + 4 + 9} = \frac{19}{14} \approx 1, 357.$

Vérification par l'orthogonalité. Le résidu est $B - a A = (1 - \frac{19}{14}, 3 - \frac{38}{14}, 4 - \frac{57}{14}) = (- \frac{5}{14}, \frac{4}{14}, - \frac{1}{14})$ , et son produit scalaire avec $A$ vaut $\frac{- 5 + 8 - 3}{14} = 0$ . Il est bien orthogonal.

La leçon. Toute la méthode des moindres carrés tient dans cette formule : le coefficient est un produit scalaire divisé par une norme au carré. C'est aussi ce qu'on lisait au chapitre 7 des appliquées, sous le nom de covariance divisée par variance.

Les autres exercices de ce chapitre Le cours du chapitre

Un blocage sur cet exercice ? Le tuteur d'Adloun guide par questions, sans donner la réponse.