Un seul point qui commande tout

Avec les cinq points. $\bar{x}=3$ et $\bar{y}=\frac{1+2+3+4+25}{5}=7$. Par Koenig-Huygens, $$s_{xy}=\frac{1+4+9+16+125}{5}-3\times 7=31-21=10,$$ $$s_x^2=\frac{1+4+9+16+25}{5}-9=2,s_y^2=\frac{1+4+9+16+625}{5}-49=82.$$ D'où $$r_{xy}=\frac{10}{\sqrt{2}\sqrt{82}}=\frac{10}{\sqrt{164}}\approx 0,781,a=\frac{10}{2}=5,b=7-5\times 3=-8.$$ La droite est $y=5x-8$.

Sans le cinquième point. Les quatre premiers vérifient $y_i=x_i$ exactement : ils sont alignés, donc $r_{xy}=1$ et la droite est $y=x$.

Le contraste. Une observation sur cinq fait passer la pente de $1$ à $5$ et l'ordonnée à l'origine de $0$ à $-8$. Et le coefficient $0,781$ ne dénonce rien : il passerait pour honorable.

Les résidus, eux, le disent. La droite $y=5x-8$ prédit $-3,2,7,12,17$ ; les résidus valent $4,0,-4,-8,8$. Ils changent deux fois de signe et sont énormes : aucune droite ne convient à ce nuage.

Le point à retenir. Les moindres carrés élèvent les écarts au carré : un point isolé y pèse démesurément. On regarde donc toujours le nuage et les résidus, jamais le seul coefficient de corrélation.