La matrice à $a$ sur la diagonale et $b$ partout ailleurs

La stratégie. Toutes les lignes de $M_n(a,b)$ ont la même somme, $a+(n-1)b$. C'est le signal : en ajoutant toutes les colonnes à la première, on fait apparaître une colonne constante, qu'on met en facteur ; le reste s'échelonne en une seule vague de transvections.

a) Petites tailles. Pour $n=2$ : $\det M_2=a^2-b^2=(a-b)(a+b)$. Pour $n=3$, la règle de Sarrus donne $$\det M_3=a^3+b^3+b^3-a{b}^2-a{b}^2-a{b}^2=a^3-3a{b}^2+2b^3.$$ Vérifions que c'est $(a-b{)}^2(a+2b)$ : $(a^2-2ab+b^2)(a+2b)=a^3+2a^{2}b-2a^{2}b-4a{b}^2+a{b}^2+2b^3=a^3-3a{b}^2+2b^3$. Les deux valeurs sont bien de la forme annoncée au b), avec $n=2$ puis $n=3$.

b) Le cas général. Posons $s=a+(n-1)b$.

Première étape. L'opération $C_1\leftarrow C_1+C_2+\cdots +C_n$ est une succession de transvections (on ajoute à $C_1$ un multiple de chaque autre colonne) : le déterminant est inchangé. Chaque coefficient de la nouvelle première colonne est la somme des coefficients de sa ligne, c'est-à-dire $s$. On met $s$ en facteur dans cette colonne — par linéarité, cette fois le déterminant change, et le facteur doit être écrit : $$\det M_n(a,b)=s\cdot \det N,N=\left(\begin{array}{ccccc}1& b& b& \cdots & b\\ 1& a& b& \cdots & b\\ 1& b& a& \cdots & b\\ ⋮& & & \ddots & ⋮\\ 1& b& b& \cdots & a\end{array}\right).$$

Deuxième étape. Dans $N$, on effectue $L_i\leftarrow L_i-L_1$ pour $i\ge 2$ : transvections, déterminant inchangé. Dans la ligne $i$, le coefficient de la première colonne devient $1-1=0$ ; le coefficient diagonal devient $a-b$ ; tout autre coefficient devient $b-b=0$. La matrice obtenue est triangulaire supérieure : première ligne $(1,b,\dots ,b)$, puis des lignes de la forme $(0,\dots ,0,a-b,0,\dots ,0)$. Son déterminant est le produit des coefficients diagonaux, $1\cdot (a-b{)}^{n-1}$. Donc $$\det M_n(a,b)=(a-b{)}^{n-1}(a+(n-1)b).$$

Le point délicat. Les deux opérations de la première étape sont de nature opposée : la somme des colonnes ne change rien, la mise en facteur de $s$ change le déterminant. Oublier d'écrire le facteur $s$ fait perdre tout un facteur $a+(n-1)b$, et le résultat devient faux sans que rien ne le signale.

c) Inversibilité. La matrice est inversible si et seulement si son déterminant est non nul, c'est-à-dire si et seulement si $a\ne b$ et $a\ne -(n-1)b$. À $b\ne 0$ fixé, il y a donc exactement deux valeurs interdites de $a$ : $b$ et $-(n-1)b$. Pour $a=b$, la matrice est $b{J}_n$, de rang $1$ ; pour $a=-(n-1)b$, toutes ses lignes ont une somme nulle, donc le vecteur $(1,1,\dots ,1{)}^{\top }$ est dans le noyau.

d) Applications. La matrice $J_n$ est $M_n(1,1)$ : $\det J_n=0^{n-1}\cdot n=0$ pour $n\ge 2$ — et l'on savait que $J_n$ est de rang $1$. La matrice $I_n+J_n$ est $M_n(2,1)$ : $$\det (I_n+J_n)=(2-1{)}^{n-1}(2+(n-1))=n+1.$$ Enfin la matrice $3\times 3$ de l'énoncé est $M_3(a,1)$, de déterminant $(a-1{)}^2(a+2)$ : elle est inversible si et seulement si $a\ne 1$ et $a\ne -2$.

Ce que l'exercice installe. Quand toutes les lignes (ou toutes les colonnes) d'une matrice ont la même somme, le vecteur $(1,\dots ,1{)}^{\top }$ est un vecteur propre, et la somme des colonnes dans la première le fait apparaître. C'est le premier réflexe devant un déterminant « plein » : chercher une combinaison de colonnes qui se simplifie, avant de développer quoi que ce soit. La matrice $J_n$, avec ses valeurs $0$ (multiplicité $n-1$) et $n$, reviendra en deuxième année comme premier exemple de diagonalisation — le calcul d'aujourd'hui en contient déjà le résultat.