Mêmes lois marginales, loi conjointe différente : la dépendance échappe aux marges

Ce qu'on montre. Deux couples de variables aléatoires peuvent avoir exactement les mêmes lois marginales sans avoir la même loi conjointe. On construit deux couples à valeurs dans $\{0,1{\}}^2$, on vérifie que leurs quatre marges coïncident, et l'on exhibe une probabilité élémentaire où les deux lois conjointes diffèrent.

1. Les deux couples. Soit $X$ une variable de Bernoulli de paramètre $\frac{1}{2}$, et posons $Y=X$ : le couple $(X,Y)$ est parfaitement lié. Soient d'autre part $X^{\prime }$ et $Y^{\prime }$ indépendantes, toutes deux de Bernoulli de paramètre $\frac{1}{2}$, et considérons le couple $(X^{\prime },Y^{\prime })$.

2. Les marges coïncident. $X$ et $X^{\prime }$ suivent la même loi par construction. Pour les secondes coordonnées, $Y=X$ suit la loi de $X$, soit $\mathcal{B}\left(\frac{1}{2}\right)$, et $Y^{\prime }$ aussi. Les quatre lois marginales sont donc identiques : $$P(X=1)=P(Y=1)=P(X^{\prime }=1)=P(Y^{\prime }=1)=\frac{1}{2}.$$

3. Les lois conjointes diffèrent. Les deux tableaux à quatre cases se lisent directement. Pour le premier couple, $(X=i)\cap (Y=j)$ est vide dès que $i\ne j$ : $$P(X=i,Y=j)=\{\begin{array}{ll}\frac{1}{2}& \text{si }i=j,\\ 0& \text{si }i\ne j,\end{array}\text{tandis que}P(X^{\prime }=i,Y^{\prime }=j)=\frac{1}{4}\text{ pour les quatre couples }(i,j),$$ la seconde égalité par indépendance. En particulier $P(X=0,Y=1)=0$ alors que $P(X^{\prime }=0,Y^{\prime }=1)=\frac{1}{4}$ : les deux lois conjointes sont bien distinctes. La covariance le dit aussi : $\mathrm{Cov}(X,Y)=V(X)=\frac{1}{4}$, contre $\mathrm{Cov}(X^{\prime },Y^{\prime })=0$.

4. Il n'y a pas que ces deux-là. Pour $s\in [0,\frac{1}{2}]$, poser $$P(U=1,V=1)=P(U=0,V=0)=s,P(U=1,V=0)=P(U=0,V=1)=\frac{1}{2}-s$$ définit une loi de probabilité sur $\{0,1{\}}^2$ (les quatre nombres sont positifs et de somme $1$) dont les deux marges valent $\mathcal{B}\left(\frac{1}{2}\right)$, puisque $P(U=1)=s+(\frac{1}{2}-s)=\frac{1}{2}$ et de même pour $V$. On obtient ainsi une infinité de lois conjointes de mêmes marges : $s=\frac{1}{2}$ redonne le premier couple, $s=\frac{1}{4}$ le second.

Le point à retenir. La loi du couple détermine les marges, par la formule des probabilités totales $P(X=i)={\sum }_{j}P(X=i,Y=j)$ ; la réciproque est fausse. L'indépendance, la corrélation, toute la dépendance en somme, sont des propriétés de la loi conjointe : on ne peut jamais les lire sur les marges, et l'on ne peut donc jamais reconstituer la loi d'un couple à partir des lois de ses deux coordonnées.