Les diagonales d'un polygone

Stratégie : compter tout, puis retrancher ce qui n'en est pas. C'est la méthode du complémentaire, dans sa version la plus simple. On dénombre d'abord tous les segments joignant deux sommets, puis on enlève ceux qui sont des côtés.

1) Tous les segments. Un segment joignant deux sommets est déterminé par la paire de ses extrémités — l'ordre est indifférent, et une paire n'a pas de répétition. Il y a donc

$$\left(\genfrac{}{}{0ex}{}{n}{2}\right)=\frac{n(n-1)}{2}$$

segments en tout. Le fait que le polygone soit convexe garantit ici que deux paires distinctes donnent bien deux segments distincts.

2) Les côtés. Un polygone à $n$ sommets a exactement $n$ côtés : ceux qui joignent deux sommets consécutifs, le dernier revenant au premier.

⚠️ Le point délicat est justement ce dernier côté. Le polygone est fermé : le côté qui joint le $n$-ième sommet au premier compte comme les autres. Une ligne brisée ouverte à $n$ sommets, elle, n'aurait que $n-1$ segments. Retrancher $n-1$ au lieu de $n$ est l'erreur classique, et elle laisse exactement une diagonale de trop.

3) Le résultat.

$$\left(\genfrac{}{}{0ex}{}{n}{2}\right)-n=\frac{n(n-1)}{2}-n=\frac{n(n-1)-2n}{2}=\boxed{\frac{n(n-3)}{2}.}$$

Contrôles numériques sur les premiers polygones. Le triangle, avec $n=3$, donne $\frac{3\times 0}{2}=0$ : aucune diagonale, tous ses segments sont des côtés. Le quadrilatère, avec $n=4$, donne $\frac{4\times 1}{2}=2$ : ses deux diagonales. Le pentagone, avec $n=5$, donne $\frac{5\times 2}{2}=5$ : ce sont les cinq traits du pentagramme. L'hexagone, avec $n=6$, donne $\frac{6\times 3}{2}=9$ : six diagonales courtes et trois grandes passant par le centre. La formule a été vérifiée par énumération de $n=3$ à $n=11$, où l'on trouve successivement $0$, $2$, $5$, $9$, $14$, $20$, $27$, $35$ et $44$ diagonales. ✔

Une lecture directe du facteur $n-3$. De chaque sommet partent $n-1$ segments, dont $2$ sont des côtés : il en reste $n-3$ diagonales issues de ce sommet. En sommant sur les $n$ sommets on compte $n(n-3)$ diagonales, mais chacune deux fois — une fois par extrémité. D'où la division par $2$ : deux comptages, un seul nombre.

Ce que l'exercice installe. « Compter tout, retrancher l'indésirable » et « compter par sommet puis diviser par le surcomptage » sont les deux réflexes complémentaires du dénombrement. Les faire tourner tous les deux sur le même problème est le meilleur des contrôles.