Les $k$ plus proches voisins à la main

1. On utilise $d=\sqrt{(x_Q-x_P{)}^2+(y_Q-y_P{)}^2}$ : $$d(Q,P_1)=\sqrt{4+1}\approx 2,24(\mathrm{A}),d(Q,P_2)=\sqrt{1+1}\approx 1,41(\mathrm{A}),$$ $$d(Q,P_3)=\sqrt{1+4}\approx 2,24(\mathrm{B}),d(Q,P_4)=\sqrt{4+4}\approx 2,83(\mathrm{B}),$$ $$d(Q,P_5)=\sqrt{1+1}\approx 1,41(\mathrm{B}),d(Q,P_6)=\sqrt{4+4}\approx 2,83(\mathrm{A}).$$

2. $k=1$ : deux points sont à égale distance minimale, $P_2$ (A) et $P_5$ (B) : il y a égalité, et l'algorithme doit prévoir une règle de départage. $k=3$ : $P_2$ (A), $P_5$ (B) et l'un des deux points à $2,24$, $P_1$ (A) ou $P_3$ (B) — donc $2$A/$1$B ou $1$A/$2$B selon le départage. $k=5$ : soit $3$A/$2$B, soit $2$A/$3$B. Aucune de ces réponses n'est déterminée.

3. Que $Q$ est situé exactement à la frontière entre les deux classes, et que l'algorithme n'a aucune réponse solide à donner. Un système bien conçu devrait signaler cette incertitude plutôt que de trancher : c'est précisément ce que la plupart des systèmes ne font pas.

4. Les distances horizontales seraient multipliées par $100$ et les distances verticales inchangées : l'abscisse écraserait complètement l'ordonnée, et le voisinage serait déterminé par la seule abscisse. C'est un piège classique : les $k$ plus proches voisins dépendent des unités choisies. On normalise donc toujours les variables avant d'appliquer la méthode. La leçon est générale : un prétraitement des données, invisible dans le résultat, peut changer complètement les conclusions.