Le nilradical : les nilpotents forment un idéal

La stratégie, et les outils. Un idéal est un sous-groupe additif absorbant : trois vérifications, dont une seule est difficile — la stabilité par somme, qui repose sur le binôme de Newton, valable dans un anneau commutatif. Pour le c), la décomposition en facteurs premiers et le lemme d'Euclide.

a) $\mathcal{N}(A)$ est un idéal.

Le neutre et l'opposé. $0^1=0$, donc $0\in \mathcal{N}(A)$. Si $x^k=0$, alors $(-x{)}^k=(-1{)}^k{x}^k=0$.

Stabilité par somme — le point délicat. Soient $x^k=0$ et $y^{\ell }=0$. Posons $N=k+\ell -1$ ; le binôme de Newton, licite puisque $x$ et $y$ commutent, donne $$(x+y{)}^N=\sum _{i=0}^N(\genfrac{}{}{0ex}{}{N}{i})x^i{y}^{N-i}.$$ Examinons le terme d'indice $i$. Ou bien $i\ge k$, et alors $x^i=x^k{x}^{i-k}=0$ ; ou bien $i\le k-1$, et alors $N-i\ge (k+\ell -1)-(k-1)=\ell$, donc $y^{N-i}=0$. Chaque terme est nul, donc $(x+y{)}^{k+\ell -1}=0$ et $x+y\in \mathcal{N}(A)$. (L'exposant $k+\ell -1$ est le plus petit qui garantisse, pour chaque $i$, l'annulation de l'une des deux puissances.)

Absorption. Pour $a\in A$ et $x^k=0$, la commutativité donne $(ax{)}^k=a^k{x}^k=0$.

Donc $\mathcal{N}(A)$ est un idéal de $A$, appelé le nilradical.

⚠️ La commutativité est essentielle. Dans ${\mathcal{M}}_2(\mathbb{R})$, les matrices $\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)$ et $\left(\begin{array}{cc}0& 0\\ 1& 0\end{array}\right)$ sont de carré nul, mais leur somme $\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$ a pour carré $I_2$ : elle n'est pas nilpotente.

b) $1-x$ est inversible. Si $x^k=0$, l'identité $1-X^k=(1-X)\left(1+X+\cdots +X^{k-1}\right)$, valable dans tout anneau commutatif, donne $$(1-x)\left(1+x+x^2+\cdots +x^{k-1}\right)=1-x^k=1,$$ et le produit dans l'autre ordre vaut aussi $1$. Donc $1-x$ est inversible, d'inverse $1+x+\cdots +x^{k-1}$ : une somme finie, la série géométrique qui s'arrête d'elle-même parce que ses termes deviennent nuls.

c) Le nilradical de $\mathbb{Z}/n\mathbb{Z}$. Écrivons $n=p_1^{{\alpha }_1}\cdots p_r^{{\alpha }_r}$.

Sens direct. Si $\overline{k}$ est nilpotent, il existe $m\ge 1$ avec $n\mid k^m$. Pour chaque $i$, $p_i\mid n\mid k^m$, et $p_i$ est premier : le lemme d'Euclide donne $p_i\mid k$.

Sens réciproque. Si $p_i\mid k$ pour tout $i$, posons $m={\max }_i{\alpha }_i$ : alors $p_i^{{\alpha }_i}\mid k^{{\alpha }_i}\mid k^m$ pour chaque $i$, et les $p_i^{{\alpha }_i}$ étant deux à deux premiers entre eux, leur produit $n$ divise $k^m$. Donc ${\overline{k}}^m=\overline{0}$.

En notant $\mathrm{rad}(n)=p_1\cdots p_r$ le radical de $n$, la condition s'écrit $\mathrm{rad}(n)\mid k$, d'où $$\mathcal{N}\left(\mathbb{Z}/n\mathbb{Z}\right)=⟨\overline{\mathrm{rad}(n)}⟩,\text{de cardinal }\frac{n}{\mathrm{rad}(n)}.$$

Les trois exemples. $n=12=2^2\times 3$, $\mathrm{rad}=6$ : $\mathcal{N}=\left\{\overline{0},\overline{6}\right\}$, et $6^2=36=3\times 12$ ✓. $n=36=2^2\times 3^2$, $\mathrm{rad}=6$ : six éléments, $\overline{0},\overline{6},\overline{12},\overline{18},\overline{24},\overline{30}$, et $6^2=36\equiv 0$ ✓. $n=30=2\times 3\times 5$, $\mathrm{rad}=30$ : $\mathcal{N}=\left\{\overline{0}\right\}$.

d) Le critère. $\mathcal{N}\left(\mathbb{Z}/n\mathbb{Z}\right)=\left\{\overline{0}\right\}$ équivaut à $n=\mathrm{rad}(n)$, c'est-à-dire à ${\alpha }_i=1$ pour tout $i$ : $$\mathbb{Z}/n\mathbb{Z}\text{ n’a pas de nilpotent non nul}⟺n\text{ est sans facteur carreˊ}.$$ (On dit aussi que l'anneau est réduit. C'est strictement plus faible qu'intègre : $\mathbb{Z}/6\mathbb{Z}$ est réduit, mais $\overline{2}\overline{3}=\overline{0}$.)

Ce que l'exercice installe. Une propriété peut définir un idéal : on vérifie les axiomes, le générateur apparaît ensuite. Le binôme de Newton est l'outil de stabilité des nilpotents — c'est lui qui, au chapitre 2, donnera $u^k=(d+\nu {)}^k$ avec une somme qui s'arrête. Et « $1$ moins un nilpotent est inversible » est la version algébrique de la série géométrique, qu'on retrouvera sous la forme ${\left(I_n-N\right)}^{-1}=I_n+N+\cdots +N^{n-1}$ pour une matrice nilpotente.