Montrer qu'un système de Cramer homogène n'a que la solution nulle, et…

Stratégie : tout traduire sur $u_A$ et appliquer le théorème du rang. Un système homogène $AX=0$ n'est rien d'autre que la description de $\mathrm{Ker}{u}_A$ ; « avoir une solution non nulle » signifie $\mathrm{Ker}{u}_A\ne \{0\}$. La question est donc entièrement une question de dimension du noyau.

a) Système de Cramer homogène. Par définition, $A\in {\mathcal{M}}_n(\mathbb{K})$ est inversible. Alors $$AX=0⟹A^{-1}AX=A^{-1}0⟹X=0.$$ Autrement dit $u_A$ est bijective, donc injective, donc $\mathrm{Ker}{u}_A=\{0\}$ : la solution nulle est la seule. Un système de Cramer homogène ne dit rien de plus que $0=0$.

b) Moins d'équations que d'inconnues. Soient $p$ inconnues, $n$ équations, avec $n<p$ ; donc $A\in {\mathcal{M}}_{n,p}(\mathbb{K})$ et $u_A:{\mathbb{K}}^p\to {\mathbb{K}}^n$.

⚠️ Le point qui fait tout, et qu'on oublie. $\mathrm{Im}{u}_A$ est un sous-espace de l'espace d'arrivée ${\mathbb{K}}^n$ : donc $$\mathrm{rg}A=\dim \mathrm{Im}{u}_A⩽n.$$ C'est le nombre d'équations qui plafonne le rang — pas le nombre d'inconnues. Sans cette remarque, le théorème du rang ne donne rien.

Le théorème du rang, appliqué à $u_A$ défini sur ${\mathbb{K}}^p$, s'écrit alors $$\dim \mathrm{Ker}{u}_A=p-\mathrm{rg}A⩾p-n>0.$$ Le noyau est donc de dimension au moins $p-n⩾1$ : il contient des vecteurs non nuls.

$$\boxed{n<p⟹\text{l’ensemble des solutions de }AX=0\text{ est un sous-espace de dimension}⩾p-n⩾1}$$

Contrôle. $n=2$, $p=3$ : $\{\begin{array}{l}x+y+z=0\\ x-y+2z=0\end{array}$. Le rang vaut $2$, donc $\dim \mathrm{Ker}=3-2=1⩾3-2$ ✓. Résolution : $L_2-L_1$ donne $-2y+z=0$, soit $z=2y$, puis $x=-y-z=-3y$ : l'ensemble des solutions est $\mathrm{Vect}((-3,1,2))$. Vérification sur le vecteur trouvé : $-3+1+2=0$ ✓ et $-3-1+4=0$ ✓ — non nul, comme annoncé.

Ce que l'exercice installe. C'est le principe des tiroirs de l'algèbre linéaire : trop peu de contraintes ne peuvent pas immobiliser trop d'inconnues. On s'en sert sans arrêt et souvent sans le nommer — par exemple pour démontrer que toute famille de $n+1$ vecteurs d'un espace de dimension $n$ est liée : la relation de liaison cherchée est justement la solution non nulle d'un système à $n$ équations et $n+1$ inconnues.