mathématiques MPSI · Chapitre 15 · Exercice de TD

La droite des moindres carrés est une projection

Espaces préhilbertiens réels · D. Bases orthonormées, projections, distances · niveau 2

Énoncé

On donne $n \geq 2$ points $(x_{i}, y_{i})_{1 \leq i \leq n}$ du plan, les $x_{i}$ n'étant pas tous égaux. On cherche les réels $a, b$ qui minimisent $i = 1 \sum n (y_{i} - a x_{i} - b)^{2}$ .

a) Montrer que ce problème revient à projeter orthogonalement le vecteur $Y = (y_{1}, \dots, y_{n})$ sur le plan $Vect (X, U)$ de $R^{n}$ , où $X = (x_{1}, \dots, x_{n})$ et $U = (1, \dots, 1)$ . En déduire que le minimum existe et est atteint en un unique couple $(a, b)$ .

b) Écrire le système des équations normales qui caractérise $(a, b)$ , et montrer que sa matrice est inversible.

c) Montrer que la droite $y = a x + b$ passe par le point moyen $(x, y)$ , et exprimer $a$ .

d) Calculer $a$ et $b$ pour les points $(1, 2)$ , $(2, 3)$ , $(3, 5)$ , $(4, 4)$ , et vérifier que le vecteur des résidus est orthogonal à $X$ et à $U$ .

Corrigé de la question 1

La stratégie. Reconnaître une somme de carrés comme le carré d'une norme : dès lors, minimiser cette somme, c'est minimiser une distance à un sous-espace, et le théorème de projection donne d'un coup l'existence, l'unicité et la caractérisation du minimum.

a) Mise en forme. Dans $R^{n}$ muni du produit scalaire canonique, pour tous réels $a, b$ , $i = 1 \sum n (y_{i} - a x_{i} - b)^{2} = ∥ Y - (a X + b U) ∥^{2} .$ Quand $(a, b)$ décrit $R^{2}$ , le vecteur $a X + b U$ décrit exactement $F = Vect (X, U)$ . Donc $a, b min i \sum (y_{i} - a x_{i} - b)^{2} = f \in F min ∥ Y - f ∥^{2} = d (Y, F)^{2},$ et le théorème de la distance dit que ce minimum est atteint en l'unique point $f = p_{F} (Y)$ .

Unicité du couple. Les $x_{i}$ n'étant pas tous égaux, $X$ n'est pas colinéaire à $U$ : la famille $(X, U)$ est libre, c'est une base de $F$ , et $p_{F} (Y)$ s'écrit de façon unique $a X + b U$ . Le couple $(a, b)$ est unique. Ajuster une droite, c'est projeter $Y$ sur un plan de $R^{n}$ — et rien d'autre.

Question 2 : comment l'IA t'aide

b) Écrire le système des équations normales qui caractérise $(a, b)$ , et montrer que sa matrice est inversible.

Élève

Je traduis $Y - a X - b U \in F^{⊥}$ par deux produits scalaires nuls, avec $X$ et avec $U$ , ce qui donne un système $2 \times 2$ en $a, b$ . Pour l'inversibilité de sa matrice, je ne vois pas d'autre idée que le déterminant.

Le déterminant est une bonne piste. Avant de développer les sommes, écris chaque coefficient de la matrice comme un produit scalaire de deux vecteurs parmi $X$ et $U$ : que reconnais-tu ?

Élève

Les coefficients sont $⟨ X, X ⟩$ , $⟨ X, U ⟩$ et $⟨ U, U ⟩$ ; le déterminant fait donc intervenir les normes de $X$ et de $U$ et leur produit scalaire.

Écris-le explicitement : quelle inégalité du cours te donne alors son signe ? Dans quel cas cette inégalité est-elle une égalité, et quelle hypothèse de l'énoncé exclut précisément ce cas ?

L'IA ne donne pas la réponse : elle pose la question qui fait avancer. À toi de continuer.

Continue cet exercice avec l'IA

Reprends la question 2 là où le dialogue s'arrête, puis la suite de l'exercice.

Continuer avec l'IA — gratuit, sans inscription

Gratuit, sans inscription. L'IA te guide pas à pas, sans te donner la réponse.

Le cours du chapitre · Tous les exercices du chapitre

Continuer avec l'IA, gratuit →