Les urnes d'Ehrenfest

La stratégie. C'est une chaîne de Markov à $N+1$ états, terrain que suggère le programme : l'état suivant ne dépend du passé qu'à travers l'état présent. On calcule les probabilités de transition, où intervient l'indépendance du tirage ; puis la formule des probabilités totales, sur le système complet des $(X_n=k)$, fabrique une loi (b) ou une récurrence sur l'espérance (c).

a) Les transitions. Notons $C_n$ l'ensemble aléatoire des numéros des boules présentes dans $A$ après $n$ tirages, de sorte que $X_n=\mathrm{card}{C}_n$, et $U_{n+1}$ le numéro tiré ensuite. Si $U_{n+1}\in C_n$, la boule tirée quitte $A$ et $X_{n+1}=X_n-1$ ; sinon, elle y entre et $X_{n+1}=X_n+1$. L'ensemble $C_n$ est déterminé par la répartition initiale et par les $n$ premiers tirages ; par le lemme des coalitions, il est donc indépendant de $U_{n+1}$. En sommant sur les parties $S$ de $\{1,\dots ,N\}$ à $k$ éléments : $$P((X_n=k)\cap (U_{n+1}\in C_n))=\sum _{S}P(C_n=S)P(U_{n+1}\in S).$$ Chaque $P(U_{n+1}\in S)$ vaut $\frac{k}{N}$, puisque $U_{n+1}$ est uniforme et que $S$ a $k$ éléments ; il reste la somme des $P(C_n=S)$, qui vaut $P(X_n=k)$. En divisant par $P(X_n=k)>0$ : $$P(X_{n+1}=k-1\mid X_n=k)=\frac{k}{N},$$ et, par passage au contraire, $P(X_{n+1}=k+1\mid X_n=k)=\frac{N-k}{N}$. Plus il y a de boules dans $A$, plus il est probable que l'une d'elles en sorte : c'est une force de rappel vers l'équilibre.

b) La loi d'équilibre. Supposons $X_0\sim \mathcal{B}(N,\frac{1}{2})$, et notons ${\pi }_j=P(X_0=j)=\left(\genfrac{}{}{0ex}{}{N}{j}\right)/2^N$, non nul pour $0\le j\le N$. Pour que $X_1=k$, il faut venir de $k-1$ ou de $k+1$. La formule des probabilités totales, sur le système complet $(X_0=j{)}_{0\le j\le N}$, donne pour $1\le k\le N-1$ : $$P(X_1=k)=\frac{N-k+1}{N}{\pi }_{k-1}+\frac{k+1}{N}{\pi }_{k+1}.$$ Deux identités sur les coefficients binomiaux font tout le calcul : $$(N-k+1)\left(\genfrac{}{}{0ex}{}{N}{k-1}\right)=\frac{N!}{(k-1)!(N-k)!}=k\left(\genfrac{}{}{0ex}{}{N}{k}\right),$$ $$(k+1)\left(\genfrac{}{}{0ex}{}{N}{k+1}\right)=\frac{N!}{k!(N-k-1)!}=(N-k)\left(\genfrac{}{}{0ex}{}{N}{k}\right).$$ D'où $$P(X_1=k)=\frac{k\left(\genfrac{}{}{0ex}{}{N}{k}\right)+(N-k)\left(\genfrac{}{}{0ex}{}{N}{k}\right)}{N{2}^N}=\frac{\left(\genfrac{}{}{0ex}{}{N}{k}\right)}{2^N}.$$ Aux bords, il n'y a qu'une provenance : $P(X_1=0)=\frac{1}{N}{\pi }_1=\frac{1}{2^N}$, et de même $P(X_1=N)=\frac{1}{2^N}$. $X_1$ suit la loi $\mathcal{B}(N,\frac{1}{2})$, et le même calcul, répété, montre que $X_n$ la suit pour tout $n$. C'est la loi du nombre de boules dans $A$ quand chaque boule est placée dans $A$ ou dans $B$ avec probabilité $\frac{1}{2}$, indépendamment des autres : les $2^N$ répartitions — les micro-états — sont équiprobables. L'équilibre, c'est l'équiprobabilité des micro-états.

c) La récurrence sur l'espérance. Pour tout $j$, la formule des probabilités totales donne $P(X_{n+1}=j)={\sum }_{k}P(X_{n+1}=j\mid X_n=k)P(X_n=k)$, la somme portant sur les $k$ tels que $P(X_n=k)>0$. En multipliant par $j$, en sommant sur $j$ et en échangeant les deux sommes finies : $$m_{n+1}=\sum _{k}P(X_n=k)\sum _{j}jP(X_{n+1}=j\mid X_n=k).$$ La somme intérieure n'a que deux termes non nuls, $j=k+1$ et $j=k-1$ : $$(k+1)\frac{N-k}{N}+(k-1)\frac{k}{N}=\frac{kN-k^2+N-k+k^2-k}{N}=(1-\frac{2}{N})k+1.$$ Par la formule de transfert, et parce que les $P(X_n=k)$ sont de somme $1$ : $m_{n+1}=(1-\frac{2}{N})m_n+1$. La suite $(m_n)$ est arithmético-géométrique, de point fixe $\ell$ vérifiant $\ell =(1-\frac{2}{N})\ell +1$, soit $\ell =\frac{N}{2}$. En retranchant, $m_{n+1}-\frac{N}{2}=(1-\frac{2}{N})(m_n-\frac{N}{2})$, et $$m_n-\frac{N}{2}=(1-\frac{2}{N}{)}^n(m_0-\frac{N}{2}).$$ Comme $0\le 1-\frac{2}{N}<1$, $m_n$ tend vers $\frac{N}{2}$ quelle que soit la répartition initiale : la moyenne relaxe vers l'équipartition.

d) Le temps de relaxation. Avec $X_0=N$, on a $m_n-\frac{N}{2}=\frac{N}{2}(1-\frac{2}{N}{)}^n$. L'écart initial est divisé par $e$ lorsque $(1-\frac{2}{N}{)}^n=e^{-1}$, c'est-à-dire, pour $N\ge 3$, lorsque $n=-1/\ln (1-\frac{2}{N})$. Pour $N$ grand, le développement limité $\ln (1+u)=u+o(u)$ en $0$ donne $\ln (1-\frac{2}{N})\sim -\frac{2}{N}$, donc $n\sim \frac{N}{2}$ : le temps caractéristique est de l'ordre de $\frac{N}{2}$ tirages, et $m_n-\frac{N}{2}\approx \frac{N}{2}{e}^{-2n/N}$. Pour $N=1000$ : $(1-\frac{2}{1000}{)}^{500}\approx 0,3675$, contre $e^{-1}\approx 0,3679$.

Interprétation physique. L'urne $A$ contient un gaz, l'urne $B$ est vide, on ouvre la paroi. Le nombre moyen de molécules dans $A$ décroît vers $\frac{N}{2}$ exponentiellement, avec un temps caractéristique — la loi d'un régime transitoire du premier ordre, comme la décharge d'un condensateur. Et l'équilibre est très concentré : $\mathcal{B}(N,\frac{1}{2})$ a pour écart type $\frac{\sqrt{N}}{2}$, soit des fluctuations relatives de l'ordre de $10^{-12}$ pour un nombre de molécules de l'ordre du nombre d'Avogadro. C'est l'irréversibilité, obtenue avec une règle microscopique parfaitement symétrique.

Contrôle exact, $N=10$, $X_0=10$. La récurrence donne $m_1=0,8\times 10+1=9$, puis $8,2$, $7,56$, $7,048$, et la formule close $m_4=5+0,8^4\times 5=7,048$ ; le calcul des lois exactes en nombres rationnels confirme la récurrence et la stabilité de $\mathcal{B}(10,\frac{1}{2})$.

Le point délicat. Le conditionnement par $(X_n=k)$ exige $P(X_n=k)>0$, et ce n'est pas une précaution de style : partant de $X_0=N$, la valeur $X_n$ a toujours la parité de $N+n$, et la moitié des valeurs ont une probabilité nulle — d'où les sommes du c), restreintes aux $k$ de probabilité non nulle. Et l'indépendance du tirage et de la répartition, c'est le lemme des coalitions qui la fournit.

Ce que l'exercice installe. La formule des probabilités totales engendre une récurrence, sur les lois comme sur les espérances. Le modèle d'Ehrenfest (1907) montre trois idées de la thermodynamique : l'équilibre comme équiprobabilité des micro-états, le retour à l'équilibre comme relaxation exponentielle, l'irréversibilité comme effet du très grand nombre.