Trois vecteurs coplanaires, selon un paramètre

Stratégie : la coplanarité de trois vecteurs se teste par un seul nombre. Le cours dit que trois vecteurs de l'espace sont coplanaires si et seulement si leur produit mixte est nul. Toute la question se ramène donc à calculer un déterminant $3\times 3$ dépendant de $m$, puis à le factoriser.

1) Le produit mixte. Rangeons les trois vecteurs en colonnes et développons par rapport à la première ligne :

$$\left[\overrightarrow{u},\overrightarrow{v},\overrightarrow{w}\right]=\left|\begin{array}{ccc}1& 1& m\\ 1& m& 1\\ m& 1& 1\end{array}\right|=1(m-1)-1(1-m)+m\left(1-m^2\right).$$

Les deux premiers termes sont égaux, et le troisième se factorise :

$$\left[\overrightarrow{u},\overrightarrow{v},\overrightarrow{w}\right]=2(m-1)+m(1-m)(1+m)=(m-1)[2-m(1+m)]=(m-1)\left(-m^2-m+2\right).$$

Le trinôme $-m^2-m+2$ a pour racines $1$ et $-2$, donc $-m^2-m+2=-(m-1)(m+2)$ :

$$\boxed{\left[\overrightarrow{u},\overrightarrow{v},\overrightarrow{w}\right]=-(m-1{)}^2(m+2).}$$

2) Les valeurs cherchées. Le produit mixte est nul si et seulement si $m=1$ ou $m=-2$ :

$$\boxed{\text{les trois vecteurs sont coplanaires si et seulement si }m=1\text{ ou }m=-2.}$$

⚠️ La racine double n'est pas un accident de calcul : elle a un sens géométrique. Pour $m=1$, les trois vecteurs valent tous $(1,1,1)$ : ils ne sont pas seulement coplanaires, ils sont colinéaires, ce qui est une dégénérescence bien plus forte. La multiplicité $2$ de la racine $1$ est la trace algébrique de cet effondrement supplémentaire. Pour $m=-2$, en revanche, les trois vecteurs $(1,1,-2)$, $(1,-2,1)$ et $(-2,1,1)$ sont deux à deux non colinéaires : ils engendrent un vrai plan, et l'on voit immédiatement pourquoi ils sont coplanaires — leur somme est le vecteur nul, ce qui est une relation de dépendance explicite.

Contrôles numériques. Pour $m=0$, la formule prédit $-(0-1{)}^2(0+2)=-2\ne 0$ : les vecteurs $(1,1,0)$, $(1,0,1)$ et $(0,1,1)$ ne sont pas coplanaires, et le calcul direct du déterminant donne bien $-2$. ✔ Pour $m=1$ : les trois vecteurs sont égaux, le déterminant est nul, et la formule donne $0$. ✔ Pour $m=-2$ : $\overrightarrow{u}+\overrightarrow{v}+\overrightarrow{w}=(1+1-2,1-2+1,-2+1+1)=(0,0,0)$, donc coplanarité, et la formule donne $-(-3{)}^2\times 0=0$. ✔

Ce que l'exercice installe. Un problème de position relative — coplanaires ou non — devient une équation polynomiale en le paramètre, et la factorisation en donne toutes les solutions d'un coup. Et l'on retiendra la lecture des multiplicités : une racine double signale en général une dégénérescence plus profonde que la simple coplanarité.