Problème — Le processus de Galton–Watson et le critère d'extinction

1) La composition itérée. À la génération $n$, l'effectif $Z_{n+1}$ est une somme d'un nombre aléatoire $Z_n$ de variables indépendantes de même loi $\mu$, indépendantes de $Z_n$ : c'est exactement la situation de l'exercice 9, avec $N=Z_n$. Donc $$G_{Z_{n+1}}=G_{Z_n}\circ G_X=G_{Z_n}\circ G.$$ Comme $Z_0=1$ presque sûrement, $G_{Z_0}(t)=t$ : c'est l'identité. Une récurrence immédiate donne alors $G_{Z_1}=G$, puis $$G_{Z_n}=\underset{n\text{fois}}{\underbrace{G\circ \cdots \circ G}}=G^{\circ n}.$$ Toute l'évolution de la population est contenue dans l'itération d'une seule fonction — c'est le fait central du problème, et il transforme une question de probabilités en une question de suite récurrente.

Une conséquence utile : la composition étant associative, $G^{\circ (n+1)}=G^{\circ n}\circ G=G\circ G^{\circ n}$, donc on a aussi $G_{Z_{n+1}}=G\circ G_{Z_n}$ — c'est cette seconde écriture qui servira au 3).

2) L'effectif moyen. La formule de Wald (exercice 9), appliquée à $Z_{n+1}={\sum }_{i=1}^{Z_n}{X}_{n,i}$, donne $$E(Z_{n+1})=E(Z_n)E(X)=mE(Z_n),$$ à condition que $Z_n$ soit d'espérance finie — ce qu'une récurrence établit en même temps que le résultat. Avec $E(Z_0)=1$, la suite $(E(Z_n))$ est géométrique de raison $m$ : $$E(Z_n)=m^n.$$ La population moyenne croît géométriquement si $m>1$, décroît si $m<1$, et reste constante si $m=1$. On pressent déjà le rôle du seuil $m=1$ — mais attention, la moyenne ne dit pas tout, et la question 6 montrera qu'une moyenne constante est compatible avec une extinction certaine.

3) La suite des probabilités d'extinction.

La croissance des événements. Si la population est éteinte à la génération $n$, elle l'est à toutes les suivantes : $Z_n=0$ entraîne $Z_{n+1}=0$ par définition. Donc $$(Z_n=0)\subset (Z_{n+1}=0),$$ et la suite d'événements est croissante, de réunion $E$.

La récurrence. Par définition d'une fonction génératrice, $u_n=P(Z_n=0)=G_{Z_n}(0)$. En utilisant $G_{Z_{n+1}}=G\circ G_{Z_n}$ : $$u_{n+1}=G_{Z_{n+1}}(0)=G(G_{Z_n}(0))=G(u_n),$$ avec $u_0=P(Z_0=0)=0$ puisque $Z_0=1$.

Le passage à la limite. La continuité croissante d'une probabilité donne $$P(E)=P\left(\bigcup _{n\ge 0}(Z_n=0)\right)=\underset{n\to +\infty }{\lim }P(Z_n=0)=\underset{n\to +\infty }{\lim }{u}_n=:q.$$ (Au passage, $(u_n)$ est croissante et majorée par $1$ : la limite existe indépendamment de cet argument, mais c'est la continuité croissante qui l'identifie à la probabilité d'extinction.)

Enfin, $G$ est continue sur $[0,1]$ : c'est une série entière $\sum p_k{t}^k$ à coefficients positifs de somme $1$, donc de rayon au moins $1$, et elle converge normalement sur $[0,1]$ — le cours l'énonce explicitement. En passant à la limite dans $u_{n+1}=G(u_n)$ : $$q=G(q).$$ La probabilité d'extinction est un point fixe de la fonction génératrice. Reste à savoir lequel, car $1$ en est toujours un.

4) La géométrie de $G$ sur $[0,1]$. Écrivons $G(t)={\sum }_{k\ge 0}{p}_k{t}^k$ avec $p_k=P(X=k)\ge 0$ et ${\sum }_k{p}_k=1$ — d'où $G(1)=1$.

Croissance et convexité. Sur $[0,1[$, la dérivation terme à terme d'une série entière (chapitre 6) donne $$G^{\prime }(t)=\sum _{k\ge 1}k{p}_k{t}^{k-1}\ge 0,G^{\prime \prime }(t)=\sum _{k\ge 2}k(k-1)p_k{t}^{k-2}\ge 0:$$ $G$ est croissante et convexe sur $[0,1]$, la continuité en $1$ prolongeant ces propriétés au segment fermé.

La pente en $1$. Le cours donne l'équivalence : $X$ est d'espérance finie si et seulement si $G$ est dérivable en $1$, et alors $G^{\prime }(1)=E(X)=m$. Si $m=+\infty$, la pente à gauche en $1$ est infinie ; dans les deux cas, on notera $m$ cette pente.

Cas $m\le 1$. Posons $\phi (t)=G(t)-t$, convexe sur $[0,1]$, avec $\phi (1)=0$ et ${\phi }^{\prime }(1^{-})=m-1\le 0$. La convexité rend ${\phi }^{\prime }$ croissante, donc ${\phi }^{\prime }(t)\le {\phi }^{\prime }(1^{-})\le 0$ pour $t<1$ : $\phi$ est décroissante sur $[0,1]$, d'où $\phi (t)\ge \phi (1)=0$, c'est-à-dire $G(t)\ge t$.

L'inégalité est stricte sur $[0,1[$. En effet, si $\phi (t_0)=0$ pour un $t_0<1$, la décroissance de $\phi$ et $\phi (1)=0$ forceraient $\phi \equiv 0$ sur $[t_0,1]$, donc $G(t)=t$ sur un intervalle non trivial ; en dérivant deux fois, $G^{\prime \prime }\equiv 0$ sur cet intervalle, ce qui impose $p_k=0$ pour tout $k\ge 2$, puis $G(t)=p_0+p_{1}t=t$, soit $p_0=0$ et $p_1=1$ — c'est-à-dire $P(X=1)=1$, exclu par hypothèse. Donc $$m\le 1⟹G(t)>t\text{pour tout }t\in [0,1[.$$ (C'est précisément ici que sert l'hypothèse $P(X=1)<1$ : sans elle, $G$ serait l'identité et tout point serait fixe.)

Cas $m>1$. Alors ${\phi }^{\prime }(1^{-})=m-1>0$ : $\phi$ est strictement croissante au voisinage à gauche de $1$, donc $\phi (t)<\phi (1)=0$ pour $t$ assez proche de $1$. Par ailleurs $\phi (0)=G(0)=p_0\ge 0$.

• Si $p_0=0$, alors $0$ est point fixe de $G$, et $q_0=0$ convient.
• Si $p_0>0$, alors $\phi (0)>0$ et $\phi$ prend des valeurs strictement négatives près de $1$ : $\phi$ étant continue, le théorème des valeurs intermédiaires fournit un zéro $q_0\in ]0,1[$.

Dans les deux cas il y a au moins un point fixe dans $[0,1[$. Il y en a au plus un : $m>1$ impose qu'un $p_k$ avec $k\ge 2$ soit non nul — sinon $G$ serait affine avec $G(1)=1$, donc de pente $p_1\le 1$ —, si bien que $G^{\prime \prime }>0$ sur $]0,1[$ et que $\phi$ est strictement convexe ; or une fonction strictement convexe s'annule au plus deux fois, et $1$ est déjà un zéro. D'où $$m>1⟹G\text{ admet un unique point fixe }{q}_0\in [0,1[.$$

5) $q$ est le plus petit point fixe. Soit $r\in [0,1]$ tel que $G(r)=r$. Montrons par récurrence que $u_n\le r$ pour tout $n$ : c'est vrai pour $u_0=0\le r$ ; et si $u_n\le r$, la croissance de $G$ donne $$u_{n+1}=G(u_n)\le G(r)=r.$$ En passant à la limite, $q\le r$. Comme $q$ est lui-même un point fixe (question 3), $q$ est le plus petit point fixe de $G$ dans $[0,1]$.

La conclusion. Si $m\le 1$, la question 4 montre que $G(t)>t$ sur $[0,1[$ : il n'y a aucun point fixe dans $[0,1[$, donc le seul point fixe de $[0,1]$ est $1$, et $q=1$. Si $m>1$, les points fixes sont $q_0$ et $1$, et le plus petit est $q_0<1$, donc $q=q_0<1$. D'où l'énoncé :

Le théorème obtenu — critère d'extinction de Galton–Watson. Soit une population dont chaque individu a, indépendamment des autres, un nombre d'enfants de loi $\mu$, avec $P(X=1)<1$, et soit $m$ le nombre moyen d'enfants. Alors l'extinction est presque sûre si et seulement si $m\le 1$. Lorsque $m>1$, la probabilité d'extinction est l'unique point fixe de $G_{\mu }$ dans $[0,1[$.

Le point délicat — le cas critique $m=1$ est du côté de l'extinction. L'intuition placerait spontanément le cas $m=1$ du côté de la survie, puisque chaque individu se remplace en moyenne exactement. C'est faux, et c'est tout l'intérêt du théorème : la population s'éteint presque sûrement. La question suivante le vérifie sur un exemple.

6) Le contrôle, dans le cas critique. Avec $P(X=0)=P(X=2)=\frac{1}{2}$ : $$G(t)=\frac{1}{2}+\frac{1}{2}{t}^2=\frac{1+t^2}{2},m=G^{\prime }(1)=1.$$ Les points fixes : $t=\frac{1+t^2}{2}$ équivaut à $t^2-2t+1=0$, c'est-à-dire $(t-1{)}^2=0$, dont $1$ est racine double : le seul point fixe dans $[0,1]$ est $1$. Donc $q=1$ : l'extinction est certaine, au sens presque sûr.

Le commentaire. Et pourtant $E(Z_n)=m^n=1$ pour tout $n$ : l'effectif moyen ne bouge pas, alors que la population disparaît presque sûrement. Il n'y a pas de contradiction : la moyenne est portée par des événements de plus en plus rares où la population est de plus en plus grande. On peut le voir sur la suite $u_{n+1}=\frac{1+u_n^2}{2}$, qui vaut $0$ ; $\frac{1}{2}$ ; $\frac{5}{8}=0,625$ ; $0,695$ ; puis $0,861$ au rang $10$ et $0,920$ au rang $20$ : elle monte vers $1$, mais très lentement — on montre qu'elle se comporte comme $1-\frac{2}{n}$. À la génération $20$, une population sur douze survit encore, et son effectif conditionnel moyen vaut alors environ $12$.

Ce que le problème installe. Trois idées. Itérer une génératrice : toute l'évolution d'un processus de branchement est l'itération d'une seule fonction, et la question probabiliste devient une question de suite récurrente $u_{n+1}=G(u_n)$. La continuité croissante transforme une réunion dénombrable en limite : c'est elle qui donne un sens à « la population s'éteint » sans jamais parler de convergence de variables aléatoires. Et le plus petit point fixe est celui qui compte : la suite partant de $0$ et $G$ étant croissante, elle ne peut dépasser aucun point fixe — un argument qu'on retrouve dans toute la théorie des points fixes d'applications croissantes. Retenir enfin le seuil et sa surprise : $m\le 1$ donne l'extinction certaine, cas critique $m=1$ compris, alors que l'effectif moyen y reste constant.