Deux droites de régression, pas une

La première pente. La droite de régression de $y$ en $x$ minimise les écarts verticaux ; son coefficient directeur est $$a=\frac{\mathrm{cov}(x,y)}{s_x^2}=\frac{12}{8}=1,5.$$

La seconde. En échangeant les rôles des deux variables, la droite de régression de $x$ en $y$ minimise les écarts horizontaux ; sa pente, dans le repère où $y$ est la variable explicative, vaut $$a^{\prime }=\frac{\mathrm{cov}(x,y)}{s_y^2}=\frac{12}{32}=0,375.$$

Le produit. $$a{a}^{\prime }=1,5\times 0,375=0,5625.$$

Le lien avec la corrélation. Par définition, $$r=\frac{\mathrm{cov}(x,y)}{s_x{s}_y}=\frac{12}{\sqrt{8}\times \sqrt{32}}=\frac{12}{\sqrt{256}}=\frac{12}{16}=0,75,$$ donc $r^2=0,5625$. On retrouve exactement $a{a}^{\prime }$ — et ce n'est pas une coïncidence : $$a{a}^{\prime }=\frac{\mathrm{cov}(x,y)}{s_x^2}\times \frac{\mathrm{cov}(x,y)}{s_y^2}={\left(\frac{\mathrm{cov}(x,y)}{s_x{s}_y}\right)}^2=r^2.$$

Ce que cela signifie. Les deux droites ne se confondent que si $r^2=1$, c'est-à-dire si les points sont exactement alignés. Sinon, elles sont différentes, tout en passant toutes deux par le point moyen. La droite de régression n'est donc pas « la droite du nuage » : c'est la droite d'une question, celle qui demande de prédire $y$ à partir de $x$.

Le point délicat. On ne retourne pas une droite de régression pour prédire dans l'autre sens. Ici, prédire $x$ à partir de $y$ avec la pente $1/1,5$ donnerait $0,667$, et non $0,375$ : l'écart est considérable.