Discuter selon a ∈ ℝ et résoudre…

Stratégie : discussion par le pivot, en surveillant les divisions. Le système s'écrit $AX=B$ avec $$A=\left(\begin{array}{ccc}1& 1& a\\ 1& a& 1\\ a& 1& 1\end{array}\right),B=\left(\begin{array}{c}1\\ 1\\ 1\end{array}\right)$$

a) Où sont les cas particuliers ? On échelonne : $L_2\leftarrow L_2-L_1$ et $L_3\leftarrow L_3-a{L}_1$ donnent $$\{\begin{array}{l}x+y+az=1\\ (a-1)y+(1-a)z=0\\ (1-a)y+\left(1-a^2\right)z=1-a\end{array}$$ Les lignes $2$ et $3$ sont proportionnelles à $(a-1)$ : le pivot suivant s'annule pour $a=1$. En ajoutant $L_3\leftarrow L_3+L_2$ (licite, sans division), le coefficient de $z$ devient $(1-a)+\left(1-a^2\right)=(1-a)(2+a)$, qui s'annule aussi pour $a=-2$. Le déterminant confirme les deux valeurs critiques : $$\det A=-(a-1{)}^2(a+2)$$

b) Cas général : $a\ne 1$ et $a\ne -2$. Le système est de Cramer, la solution est unique. La symétrie du système (il est invariant par permutation circulaire de $x,y,z$) suggère $x=y=z$, et la première équation donne alors $x(2+a)=1$ : $$x=y=z=\frac{1}{a+2}$$

c) Cas $a=1$. Les trois équations deviennent la même : $x+y+z=1$. La matrice est de rang $1$, l'ensemble des solutions est un plan : $$\{(x,y,1-x-y):(x,y)\in {\mathbb{R}}^2\}$$

d) Cas $a=-2$. Le système devient $x+y-2z=1$, $x-2y+z=1$, $-2x+y+z=1$. La somme des trois membres de gauche est nulle ($L_1+L_2+L_3=0$), alors que la somme des seconds membres vaut $3$ : $$0=3$$ Le système est incompatible : aucune solution.

⚠️ Le point délicat : on ne divise jamais par un pivot sans avoir discuté son annulation. Écrire $x=\frac{1}{a+2}$ sans réserve, c'est passer sous silence exactement les deux cas intéressants. Et les deux racines du déterminant ne se comportent pas de la même façon : en $a=1$ le système reste compatible (une infinité de solutions), en $a=-2$ il ne l'est plus (aucune). Déterminant nul ne signifie pas « pas de solution », mais « pas d'unicité ».

Contrôle numérique. $\det A=-(a-1{)}^2(a+2)$ (factorisation vérifiée symboliquement) ; la résolution formelle rend $x=y=z=1/(a+2)$ ; pour $a=1$ la matrice est de rang $1$ ; pour $a=-2$ elle est de rang $2$ tandis que la matrice augmentée est de rang $3$ — signature exacte de l'incompatibilité —, et l'on vérifie $L_1+L_2+L_3=(0,0,0)$.

Ce que l'exercice installe. Trois régimes pour un même système selon un paramètre : solution unique, infinité, aucune. Le rang de $A$ et celui de la matrice augmentée $(A\mid B)$ suffisent à trancher — c'est le théorème de Rouché-Fontené, et le fil directeur de tout le chapitre 13.