Espaces Probabilisés et Variables Aléatoires Discrètes

Cours complet · mathématiques (PC), chapitre 11 · CPGE PC (2e année)

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

11.1 Introduction et vue d'ensemble

L'extension du calcul des probabilités aux univers quelconques et aux variables aléatoires discrètes à valeurs dans un ensemble infini (typiquement $N$ ou $Z$ ) constitue l'un des piliers de l'analyse moderne en PC. Ce cadre unificateur formalise l'étude des phénomènes aléatoires en physique-chimie (spectrométrie photonique, désintégrations radioactives avec la loi de Poisson, thermodynamique statistique de Boltzmann, bruit d'agitation thermique) et la concentration des moyennes empiriques vers les grandeurs macroscopiques (loi faible des grands nombres).

La théorie repose sur l'axiomatique de Kolmogorov (espace probabilisé $(Ω, A, P)$ , $σ$ -additivité), les théorèmes fondamentaux de continuité de la mesure, l'étude rigoureuse de l'indépendance (lemme des coalitions), les outils de sommation infinie (familles sommables, formule de transfert, théorème de Fubini), les fonctions génératrices et les inégalités de concentration.

11.2 Ensembles Dénombrables et Familles Sommables

Cette section peut sembler une digression avant les probabilités ; elle en est en réalité la condition de possibilité. Dès qu'une variable aléatoire prend une infinité de valeurs, tout le chapitre manipule des sommes indexées par un ensemble infini — $\sum_{n} P (X = n)$ , $\sum_{i, j} P (X = i, Y = j)$ — et deux questions se posent qu'on ne rencontrait pas avec des sommes finies : cette somme a-t-elle un sens, et sa valeur dépend-elle de l'ordre dans lequel on additionne ?

Les réponses conditionnent des manipulations que l'on fera ensuite sans y penser : regrouper les termes par paquets, intervertir deux signes somme, dériver une série terme à terme. Aucune n'est légitime sans les résultats qui suivent.

11.2.1 Dénombrabilité

Définition 11.1Ensemble au plus dénombrable

Un ensemble $E$ est dit au plus dénombrable s'il est en bijection avec une partie de $N$ . Il est dit dénombrable s'il est en bijection avec $N$ tout entier, c'est-à-dire s'il peut être décrit en extension sous la forme d'une suite d'éléments deux à deux distincts :

$E = {x_{n}, n \in N} .$

Proposition 11.2Propriétés de stabilité de la dénombrabilité

Toute partie d'un ensemble dénombrable est au plus dénombrable.
L'ensemble $Z$ des entiers relatifs est dénombrable.
Le produit cartésien d'un nombre fini d'ensembles dénombrables est dénombrable (en particulier $N^{2}$ , $N^{k}$ , $Z^{k}$ ).
La réunion d'une famille au plus dénombrable d'ensembles dénombrables est dénombrable :

$n \in N ⋃ E_{n} est d e ˊ nombrable si chaque E_{n} l’est .$

L'ensemble $Q$ des rationnels est dénombrable : par l'écriture irréductible $\frac{p}{q}$ ( $q \geq 1$ ), il s'identifie à une partie infinie de $Z \times N^{*}$ , dénombrable par le point précédent.

11.2.2 Familles sommables de réels positifs

Le cas positif est le cas confortable, et il faut savoir pourquoi : une somme de termes positifs croît quand on ajoute des termes, donc elle admet toujours une limite dans $[0, + \infty]$ , éventuellement infinie, et cette limite ne dépend pas de l'ordre d'addition. Il n'y a donc jamais rien à vérifier avant d'écrire $\sum_{i \in I} u_{i}$ lorsque les $u_{i}$ sont positifs : la seule question est de savoir si le résultat est fini.

C'est exactement la situation des probabilités, où tous les termes manipulés sont des $P (\cdot)$ , donc positifs. Le théorème de sommation par paquets qui suit est l'outil qui légitime la formule des probabilités totales, et le Fubini positif celui qui autorise à sommer une loi conjointe ligne par ligne ou colonne par colonne, au choix.

Définition 11.3Somme d'une famille positive dans

[0, + \infty]

Soit $I$ un ensemble au plus dénombrable et $(x_{i})_{i \in I}$ une famille d'éléments de $[0, + \infty]$ . On associe à cette famille sa somme $\sum_{i \in I} x_{i} \in [0, + \infty]$ définie par :

$i \in I \sum x_{i} = J \subset I, J fini sup j \in J \sum x_{j} .$

La famille $(x_{i})_{i \in I}$ est dite sommable si sa somme est finie : $\sum_{i \in I} x_{i} < + \infty$ .

◆Théorème 11.4Théorème de sommation par paquets et Fubini positif

Soit $(x_{i})_{i \in I}$ une famille d'éléments de $[0, + \infty]$ .

Pour tout découpage en paquets disjoints de $I$ : $I = ⨆_{n \in N} I_{n}$ , on a :

$i \in I \sum x_{i} = n = 0 \sum + \infty (i \in I_{n} \sum x_{i}) .$

Théorème de Fubini positif : Pour une famille $(a_{j, k})_{(j, k) \in J \times K}$ d'éléments de $[0, + \infty]$ indexée par un produit dénombrable :

$(j, k) \in J \times K \sum a_{j, k} = j \in J \sum (k \in K \sum a_{j, k}) = k \in K \sum j \in J \sum a_{j, k} .$

11.2.3 Familles sommables de nombres complexes

Hors du cas positif, la sommabilité se définit par $\sum_{i} ∣ u_{i} ∣ < + \infty$ : c'est encore la convergence absolue, comme au chapitre des séries. Le gain est le même, et il est décisif : une famille sommable peut être additionnée dans n'importe quel ordre sans que la somme change, ce qui n'a aucun sens pour une série seulement convergente. La série harmonique alternée, dont le réarrangement peut donner n'importe quel réel, reste le rappel de ce qui se passe sans cette hypothèse.

C'est ce qui explique la définition de l'espérance donnée plus loin : on n'exige pas que $\sum_{n} n P (X = n)$ converge, on exige qu'elle converge absolument. Sans cela, la valeur de $E (X)$ dépendrait de l'ordre d'énumération des valeurs de $X$ , c'est-à-dire de rien.

Définition 11.5Sommabilité dans

C

Une famille $(x_{i})_{i \in I}$ de nombres complexes est dite sommable si la famille des modules $(∣ x_{i} ∣)_{i \in I}$ est sommable dans $[0, + \infty [$ :

$i \in I \sum ∣ x_{i} ∣ < + \infty.$

Pour $I = N$ , la sommabilité équivaut à la convergence absolue de la série $\sum x_{n}$ .

◆Théorème 11.6Propriétés fondamentales des familles sommables complexes

Soient $(x_{i})_{i \in I}$ et $(y_{i})_{i \in I}$ deux familles sommables de nombres complexes.

Domination : Si $∣ z_{i} ∣ \leq ∣ x_{i} ∣$ pour tout $i \in I$ , alors $(z_{i})_{i \in I}$ est sommable et $∣ \sum_{i \in I} z_{i} ∣ \leq \sum_{i \in I} ∣ x_{i} ∣$ .
Linéarité : Pour tous $λ, μ \in C$ , la famille $(λ x_{i} + μ y_{i})_{i \in I}$ est sommable et :

$i \in I \sum (λ x_{i} + μ y_{i}) = λ i \in I \sum x_{i} + μ i \in I \sum y_{i} .$

Sommation par paquets : Si $I = ⨆_{n = 0}^{+ \infty} I_{n}$ , alors chaque sous-famille $(x_{i})_{i \in I_{n}}$ est sommable, la suite des sommes partielles $S_{n} = \sum_{i \in I_{n}} x_{i}$ forme une série absolument convergente, et :

$i \in I \sum x_{i} = n = 0 \sum + \infty (i \in I_{n} \sum x_{i}) .$

Théorème de Fubini : Si $\sum_{j \in J} \sum_{k \in K} ∣ a_{j, k} ∣ < + \infty$ , alors :

$(j, k) \in J \times K \sum a_{j, k} = j \in J \sum (k \in K \sum a_{j, k}) = k \in K \sum j \in J \sum a_{j, k} .$

Produit de deux sommes : Si $(u_{j})_{j \in J}$ et $(v_{k})_{k \in K}$ sont sommables, alors $(u_{j} v_{k})_{(j, k) \in J \times K}$ est sommable et :

$(j, k) \in J \times K \sum u_{j} v_{k} = j \in J \sum u_{j} (k \in K \sum v_{k}) .$

11.3 Espaces Probabilisés et Probabilités Conditionnelles

11.3.1 Espaces probabilisables, Tribus et Événements

Sur un univers fini, on attribuait une probabilité à toutes les parties de $Ω$ sans se poser de question. Dès que $Ω$ devient infini, cette générosité n'est plus tenable : il existe des parties auxquelles aucune probabilité ne peut être attribuée de façon cohérente. On choisit donc à l'avance la liste des parties qu'on accepte de mesurer — c'est la tribu, et ses éléments s'appellent des événements.

En classe de PC, cette précaution reste largement formelle : l'univers est au plus dénombrable et l'on prend pour tribu l'ensemble de toutes ses parties. La notion sert surtout à énoncer proprement les axiomes, et à donner un sens aux opérations infinies — réunion et intersection d'une suite d'événements — qui vont devenir l'ordinaire du chapitre.

Définition 11.7Tribu et Espace probabilisable

Soit $Ω$ un ensemble quelconque appelé univers. Une famille $A$ de parties de $Ω$ est appelée une tribu (ou $σ$ -algèbre) sur $Ω$ si :

$Ω \in A$ .
$A$ est stable par passage au complémentaire : $\forall A \in A, A ˉ = Ω ∖ A \in A$ .
$A$ est stable par réunion dénombrable : pour toute suite $(A_{n})_{n \in N}$ d'éléments de $A$ ,

$n = 0 ⋃ + \infty A_{n} \in A .$

Le couple $(Ω, A)$ est appelé un espace probabilisable. Les éléments de $A$ sont appelés les événements.

Proposition 11.8Opérations sur les événements

Par les lois de De Morgan, une tribu est également stable par intersection dénombrable :

$n = 0 ⋂ + \infty A_{n} = n = 0 ⋃ + \infty A ˉ_{n} \in A .$

Traduction logique de la réalisation des événements :

$ω \in ⋃_{n = 0}^{+ \infty} A_{n} ⟺ \exists n \in N, ω \in A_{n}$ (au moins un événement $A_{n}$ est réalisé).
$ω \in ⋂_{n = 0}^{+ \infty} A_{n} ⟺ \forall n \in N, ω \in A_{n}$ (tous les événements $A_{n}$ sont réalisés simultanément).

11.3.2 Mesure de Probabilité et Continuité de la Mesure

Un seul axiome sépare ce chapitre des probabilités de première année : la $σ$ -additivité, qui étend l'additivité à une infinité dénombrable d'événements deux à deux incompatibles. Tout le reste en découle, y compris les deux théorèmes de continuité, qui sont l'outil de calcul le plus employé de la section.

Définition 11.9Probabilité et

σ

-additivité

Soit $(Ω, A)$ un espace probabilisable. Une application $P : A \to [0, 1]$ est appelée une probabilité sur $(Ω, A)$ si :

$P (Ω) = 1$ .
$σ$ -additivité : Pour toute suite $(A_{n})_{n \in N}$ d'événements deux à deux disjoints ( $A_{i} \cap A_{j} = \emptyset$ pour $i \neq = j$ ) :

$P (n = 0 ⋃ + \infty A_{n}) = n = 0 \sum + \infty P (A_{n}) .$

Le triplet $(Ω, A, P)$ est alors appelé un espace probabilisé.

Proposition 11.10Propriétés élémentaires de la probabilité

$P (\emptyset) = 0$ et $P (A ˉ) = 1 - P (A)$ .
$P (A \cup B) = P (A) + P (B) - P (A \cap B)$ .
Croissance : Si $A \subset B$ , alors $P (A) \leq P (B)$ et $P (B ∖ A) = P (B) - P (A)$ .

◆Théorème 11.11Théorèmes de Continuité Croissante et Décroissante

Soit $(Ω, A, P)$ un espace probabilisé.

Continuité croissante : Si $(A_{n})_{n \in N}$ est une suite croissante d'événements ( $A_{n} \subset A_{n + 1}$ pour tout $n$ ), alors :

$n \to + \infty lim P (A_{n}) = P (n = 0 ⋃ + \infty A_{n}) .$

Continuité décroissante : Si $(B_{n})_{n \in N}$ est une suite décroissante d'événements ( $B_{n + 1} \subset B_{n}$ pour tout $n$ ), alors :

$n \to + \infty lim P (B_{n}) = P (n = 0 ⋂ + \infty B_{n}) .$

Démonstration (Démonstration de la continuité croissante)

Soit $(A_{n})_{n \in N}$ une suite croissante d'événements. Posons $C_{0} = A_{0}$ et pour tout $k \geq 1$ , $C_{k} = A_{k} ∖ A_{k - 1} = A_{k} \cap A ˉ_{k - 1}$ .

Les événements $(C_{k})_{k \in N}$ sont deux à deux disjoints.
Pour tout $n \in N$ , par télescopage ensembliste : $⋃_{k = 0}^{n} C_{k} = A_{n}$ .
De même, la réunion dénombrable coïncide : $⋃_{k = 0}^{+ \infty} C_{k} = ⋃_{n = 0}^{+ \infty} A_{n}$ .

Par $σ$ -additivité de la mesure de probabilité $P$ :

$P (n = 0 ⋃ + \infty A_{n}) = P (k = 0 ⋃ + \infty C_{k}) = k = 0 \sum + \infty P (C_{k}) = n \to + \infty lim k = 0 \sum n P (C_{k}) = n \to + \infty lim P (k = 0 ⋃ n C_{k}) = n \to + \infty lim P (A_{n}) .$

La continuité décroissante s'obtient immédiatement par passage au complémentaire : $B_{n} ↘ ⋂ B_{k} ⟺ B ˉ_{n} ↗ ⋃ B ˉ_{k}$ .

Proposition 11.12Sous-additivité dénombrable

Pour toute suite $(A_{n})_{n \in N}$ d'événements (non nécessairement disjoints ni monotones) :

$P (n = 0 ⋃ + \infty A_{n}) \leq n = 0 \sum + \infty P (A_{n}) .$

De plus, $lim_{n \to + \infty} P (⋃_{k = 0}^{n} A_{k}) = P (⋃_{k = 0}^{+ \infty} A_{k})$ et $lim_{n \to + \infty} P (⋂_{k = 0}^{n} A_{k}) = P (⋂_{k = 0}^{+ \infty} A_{k})$ .

11.3.3 Événements presque sûrs, négligeables et Systèmes quasi-complets

Les théorèmes de continuité répondent à une question qui n'existait pas en univers fini : que vaut la probabilité d'un événement défini comme une limite ? « Obtenir pile au moins une fois » est la réunion croissante des événements « obtenir pile lors de l'un des $n$ premiers lancers » ; sa probabilité est donc la limite de $1 - 2^{- n}$ , c'est-à-dire $1$ . Le calcul est immédiat une fois la continuité croissante invoquée, et impossible sans elle.

Cet exemple introduit la distinction de la sous-section suivante, qui surprend toujours.

Définition 11.13Presque sûreté et Négligeabilité

Un événement $A \in A$ est dit :

Négligeable si $P (A) = 0$ .
Presque sûr si $P (A) = 1$ (ou de manière équivalente si $A ˉ$ est négligeable).

Une propriété portant sur les aléas est dite vraie presque sûrement (p.s.) si l'événement où elle est vérifiée est de probabilité 1.

Définition 11.14Système complet et quasi-complet d'événements

Une famille au plus dénombrable $(A_{n})_{n \in I}$ d'événements est appelée :

Un système complet d'événements (SCE) si les $A_{n}$ sont deux à deux disjoints et $⨆_{n \in I} A_{n} = Ω$ .
Un système quasi-complet d'événements si les $A_{n}$ sont deux à deux disjoints et $P (⋃_{n \in I} A_{n}) = 1$ (la réunion ne diffère de $Ω$ que par un événement négligeable).

Dans les deux cas, $\sum_{n \in I} P (A_{n}) = 1$ .

11.3.4 Probabilités Conditionnelles et Formules Fondamentales

Important

Presque sûr n'est pas certain. Dans l'exemple précédent, l'événement « obtenir au moins un pile » a pour probabilité $1$ , et pourtant il n'est pas $Ω$ : la suite constante « que des faces » appartient bien à l'univers, elle est simplement de probabilité nulle. De même, un événement de probabilité nulle n'est pas forcément impossible. Cette distinction n'apparaît qu'en univers infini — en univers fini, probabilité nulle et impossibilité coïncident — et c'est elle qui rend nécessaire la notion de système quasi-complet, où la réunion des $A_{n}$ n'est pas $Ω$ mais un événement presque sûr.

Conditionner, c'est changer d'univers. Une fois $A$ réalisé, les événements incompatibles avec $A$ deviennent impossibles et les autres voient leur probabilité renormalisée par $P (A)$ : l'application $B \mapsto P (B ∣ A)$ est elle-même une probabilité, et tous les résultats déjà établis lui sont applicables tels quels. Les trois formules qui suivent sont les trois manières de circuler dans un arbre de probabilités : descendre le long d'une branche, sommer sur toutes les branches, remonter une branche à l'envers.

Définition 11.15Probabilité conditionnelle

Soit $B \in A$ tel que $P (B) > 0$ . Pour tout événement $A \in A$ , la probabilité conditionnelle de $A$ sachant $B$ , notée $P (A ∣ B)$ ou $P_{B} (A)$ , est définie par :

$P (A ∣ B) = \frac{P ( A \cap B )}{P ( B )} .$

L'application $P_{B} : A \to [0, 1]$ définit une mesure de probabilité sur $(Ω, A)$ .

◆Théorème 11.16Formule des probabilités composées

Soient $A_{1}, A_{2}, \dots, A_{n}$ des événements tels que $P (A_{1} \cap A_{2} \cap \dots \cap A_{n - 1}) > 0$ . Alors :

$P (A_{1} \cap A_{2} \cap \dots \cap A_{n}) = P (A_{1}) P (A_{2} ∣ A_{1}) P (A_{3} ∣ A_{1} \cap A_{2}) \dots P (A_{n} ∣ A_{1} \cap \dots \cap A_{n - 1}) .$

Figure : Un système complet d'événements découpe l'univers en tranches. L'événement

B

est

alors la réunion disjointe des $B \cap A_{n}$ , et sa probabilité s'obtient en additionnant les morceaux — ce que la $σ$ -additivité autorise même lorsque les tranches sont en nombre infini.</div>

◆Théorème 11.17Formule des Probabilités Totales

Soit $(A_{n})_{n \in I}$ un système complet ou quasi-complet d'événements au plus dénombrable. Pour tout événement $B \in A$ :

$P (B) = n \in I \sum P (B \cap A_{n}) = n \in I \sum P (B ∣ A_{n}) P (A_{n}),$

avec la convention standard $P (B ∣ A_{n}) P (A_{n}) = 0$ si $P (A_{n}) = 0$ .

◆Théorème 11.18Formule de Bayes

Soit $(A_{n})_{n \in I}$ un système complet ou quasi-complet d'événements. Pour tout événement $B \in A$ tel que $P (B) > 0$ et tout $k \in I$ :

$P (A_{k} ∣ B) = \frac{P ( B ∣ A _{k} ) P ( A _{k} )}{P ( B )} = \frac{P ( B ∣ A _{k} ) P ( A _{k} )}{\sum _{n \in I} P ( B ∣ A _{n} ) P ( A _{n} )} .$

Figure : L'arbre des probabilités, où se lisent les trois formules. Descendre une

branche et multiplier les probabilités rencontrées, c'est la formule des probabilités composées ; additionner les feuilles correspondant à $B$ , c'est la formule des probabilités totales ; remonter d'une feuille vers la branche dont elle provient, c'est la formule de Bayes.</div>

Important

La formule de Bayes existe parce que $P (A ∣ B)$ et $P (B ∣ A)$ sont deux nombres différents, et les confondre est l'erreur la plus coûteuse de tout le chapitre. Un exemple chiffré vaut mieux qu'un avertissement. Un test de dépistage détecte $99 %$ des malades et ne se trompe que dans $5 %$ des cas chez les bien-portants ; la maladie touche $1 %$ de la population. Un test revient positif : quelle est la probabilité d'être malade ? La formule donne

$P (M ∣ T) = \frac{0 , 01 \times 0 , 99}{0 , 01 \times 0 , 99 + 0 , 99 \times 0 , 05} = \frac{0 , 0099}{0 , 0594} \approx 0, 167.$

Environ un test positif sur six correspond à un malade, alors que le test « détecte $99 %$ des malades ». Rien n'est faux dans l'énoncé : les faux positifs sont rares en proportion, mais ils sont prélevés sur les $99 %$ de bien-portants, donc ils écrasent en nombre les vrais positifs. C'est la probabilité a priori $P (M)$ qui commande, et c'est elle qu'on oublie.

11.4 Variables Aléatoires Discrètes et Lois Usuelles

11.4.1 Définition et Loi de Probabilité

Définition 11.19Variable aléatoire discrète

Une variable aléatoire discrète $X$ sur un espace probabilisé $(Ω, A, P)$ est une application $X : Ω \to E$ (où $E \subset R$ ou $C$ ) telle que :

L'image $X (Ω)$ est un ensemble au plus dénombrable.
Pour tout $x \in X (Ω)$ , l'image réciproque $X^{- 1} ({x}) = {ω \in Ω ∣ X (ω) = x}$ appartient à la tribu $A$ .

On note $(X = x)$ ou ${X = x}$ cet événement. Pour tout $A \subset X (Ω)$ , $(X \in A) = ⋃_{x \in A} (X = x) \in A$ . Lorsque $X$ est réelle, on note $(X \leq x) = {ω \in Ω ∣ X (ω) \leq x}$ .

Définition 11.20Loi de probabilité

La loi de probabilité de la variable aléatoire discrète $X$ , notée $P_{X}$ , est l'application définie sur l'ensemble des parties de $X (Ω)$ par :

$\forall A \subset X (Ω), P_{X} (A) = P (X \in A) = x \in A \sum P (X = x) .$

Elle est entièrement caractérisée par la distribution discrète $(P (X = x))_{x \in X (Ω)}$ , qui vérifie :

$\forall x \in X (Ω), P (X = x) \geq 0 et x \in X (Ω) \sum P (X = x) = 1.$

Si deux variables $X$ et $Y$ ont la même loi, on note $X \sim Y$ . Si $X \sim Y$ , alors pour toute fonction $f$ , $f (X) \sim f (Y)$ .

11.4.2 Lois Discrètes Usuelles

1. Loi de Bernoulli $B (p)$

Modélise une expérience n'ayant que deux issues possibles (succès = 1 avec probabilité $p$ , échec = 0 avec probabilité $q = 1 - p$ ).

$X (Ω) = {0, 1}, P (X = 1) = p, P (X = 0) = 1 - p .$

2. Loi Binomiale $B (n, p)$

Modélise le nombre de succès obtenus au cours de $n$ épreuves de Bernoulli indépendantes et de même paramètre $p \in] 0, 1 [$ .

$X (Ω) = [[0, n]], P (X = k) = (k n) p^{k} (1 - p)^{n - k} .$

3. Loi Géométrique $G (p)$ (Temps de premier succès)

Modélise le rang du premier succès dans une suite infinie d'épreuves de Bernoulli indépendantes et de même paramètre $p \in] 0, 1 [$ ( $q = 1 - p$ ).

$X (Ω) = N^{*} = {1, 2, 3, \dots}, P (X = k) = p (1 - p)^{k - 1} = p q^{k - 1} .$

Proposition 11.21Propriétés de la loi géométrique

Queue de distribution : Pour tout entier $k \in N$ :

$P (X > k) = j = k + 1 \sum + \infty p q^{j - 1} = p \frac{q ^{k}}{1 - q} = q^{k} = (1 - p)^{k} .$

Absence de mémoire : Pour tous entiers $n, k \in N$ :

$P (X > n + k ∣ X > n) = \frac{P ( X > n + k )}{P ( X > n )} = \frac{q ^{n + k}}{q ^{n}} = q^{k} = P (X > k) .$

4. Loi de Poisson $P (λ)$ (Loi des événements rares)

Modélise le nombre d'occurrences d'un événement rare dans un intervalle continu (désintégrations radioactives, émissions photoniques, chocs moléculaires), de paramètre d'intensité $λ > 0$ .

$X (Ω) = N = {0, 1, 2, \dots}, P (X = k) = e^{- λ} \frac{λ ^{k}}{k !} .$

◆Théorème 11.22Théorème de la limite rare de Poisson

Soit $(X_{n})_{n \geq 1}$ une suite de variables aléatoires telles que $X_{n} \sim B (n, p_{n})$ . Si $n p_{n} n \to + \infty λ > 0$ , alors pour tout entier fixé $k \in N$ :

$n \to + \infty lim P (X_{n} = k) = e^{- λ} \frac{λ ^{k}}{k !} .$

Figure : La loi de Poisson de paramètre

λ = 3

. Le maximum est atteint deux fois,

en $k = 2$ et $k = 3$ , parce que le rapport $P (X = k) / P (X = k - 1)$ vaut $λ / k$ , donc exactement $1$ pour $k = λ$ : c'est la signature d'un paramètre entier.</div>

Démonstration

Pour $n \geq k$ :

$P (X_{n} = k) = (k n) p_{n}^{k} (1 - p_{n})^{n - k} = \frac{n ( n - 1 ) \dots ( n - k + 1 )}{k !} (\frac{n p _{n}}{n})^{k} (1 - p_{n})^{n} (1 - p_{n})^{- k} .$

Or $n (n - 1) \dots (n - k + 1) \sim n^{k}$ , donc $\frac{n ( n - 1 ) \dots ( n - k + 1 )}{n ^{k}} \to 1$ .
De plus, $(n p_{n})^{k} \to λ^{k}$ , $(1 - p_{n})^{- k} \to 1$ car $p_{n} \to 0$ , et :

$(1 - p_{n})^{n} = exp (n ln (1 - p_{n})) = exp (- n p_{n} + o (n p_{n})) n \to + \infty e^{- λ} .$

Par produit des limites, $P (X_{n} = k) n \to + \infty \frac{λ ^{k}}{k !} e^{- λ}$ .

11.4.3 Couples et Vecteurs de Variables Aléatoires Discrètes

Définition 11.23Loi conjointe et Lois marginales

Soit $(X, Y)$ un couple de variables aléatoires discrètes définies sur $Ω$ , à valeurs dans $X (Ω) \times Y (Ω)$ .

La loi conjointe est donnée par la famille $(P (X = x, Y = y))_{(x, y) \in X (Ω) \times Y (Ω)}$ .
Les lois marginales de $X$ et $Y$ sont obtenues par sommation :

$P (X = x) = y \in Y (Ω) \sum P (X = x, Y = y) et P (Y = y) = x \in X (Ω) \sum P (X = x, Y = y) .$

Définition 11.24Loi conditionnelle

Pour tout événement $A$ tel que $P (A) > 0$ :

$P (Y = y ∣ X = x) = \frac{P ( X = x , Y = y )}{P ( X = x )} .$

11.5 Indépendance des Événements et des Variables Aléatoires

11.5.1 Indépendance d'Événements

L'indépendance n'est pas une propriété des événements, c'est une propriété de la probabilité qui les mesure : deux mêmes événements peuvent être indépendants pour une loi et liés pour une autre. Elle ne se constate donc pas, elle se vérifie par le calcul — ou bien elle est posée par l'énoncé, ce qui est le cas le plus fréquent lorsqu'on modélise des expériences répétées.

Définition 11.25Indépendance de deux événements

Deux événements $A$ et $B$ sont dits indépendants si :

$P (A \cap B) = P (A) P (B) .$

Si $P (B) > 0$ , cela équivaut à $P (A ∣ B) = P (A)$ .

Proposition 11.26Propriétés de l'indépendance de deux événements

Si $A$ et $B$ sont indépendants, alors les paires $(A, B ˉ)$ , $(A ˉ, B)$ et $(A ˉ, B ˉ)$ sont également formées d'événements indépendants.

Définition 11.27Indépendance d'une famille finie d'événements

Une famille finie d'événements $(A_{1}, A_{2}, \dots, A_{n})$ est dite mutuellement indépendante si pour toute sous-famille d'indices $J \subset [[1, n]]$ :

$P j \in J ⋂ A_{j} = j \in J \prod P (A_{j}) .$

11.5.2 Indépendance de Variables Aléatoires Discrètes

Important

L'indépendance deux à deux n'entraîne pas l'indépendance mutuelle, et deux lancers de pièce suffisent à le voir. Posons $A$ : « le premier lancer donne pile », $B$ : « le second donne pile », $C$ : « les deux lancers donnent le même résultat ». Chacun a probabilité $1/2$ , et les trois intersections deux à deux valent $1/4$ : les événements sont donc indépendants deux à deux. Pourtant

$P (A \cap B \cap C) = P (A \cap B) = \frac{1}{4} tandis que P (A) P (B) P (C) = \frac{1}{8} .$

La raison est claire : connaître $A$ et $B$ détermine $C$ entièrement. La définition d'une famille indépendante exige l'égalité pour toutes les sous-familles, pas seulement pour les paires.

Définition 11.28Variables aléatoires indépendantes

Deux variables aléatoires discrètes $X$ et $Y$ définies sur $Ω$ sont dites indépendantes, noté $X ⊥ ⊥ Y$ , si :

$\forall x \in X (Ω), \forall y \in Y (Ω), P (X = x, Y = y) = P (X = x) P (Y = y) .$

Le théorème suivant est celui qu'on utilise sans le nommer, à chaque fois qu'on affirme que $X^{2}$ et $e^{Y}$ sont indépendantes parce que $X$ et $Y$ le sont, ou que $X_{1} + X_{2}$ est indépendante de $X_{3} + X_{4}$ . Il autorise à regrouper des variables indépendantes en coalitions disjointes et à traiter chaque bloc comme une seule variable.

◆Théorème 11.29Fonctions de variables indépendantes et Lemme des coalitions

Soient $X_{1}, X_{2}, \dots, X_{n}$ des variables aléatoires discrètes mutuellement indépendantes.

Si $X ⊥ ⊥ Y$ , alors $f (X) ⊥ ⊥ g (Y)$ pour toutes fonctions $f$ et $g$ .
Lemme des coalitions : Pour tout $1 \leq m < n$ , $f (X_{1}, \dots, X_{m}) ⊥ ⊥ g (X_{m + 1}, \dots, X_{n})$ .

11.6 Espérance Mathématique

11.6.1 Définition générale et Espérance finie

L'espérance est une moyenne pondérée par les probabilités. En univers fini, elle existe toujours ; sur une infinité de valeurs, elle peut ne pas exister, et la définition qui suit prend soin de distinguer les deux étapes : pour une variable positive, la somme a toujours un sens dans $[0, + \infty]$ ; dans le cas général, on exige la sommabilité, c'est-à-dire la convergence absolue.

Définition 11.30Espérance d'une variable positive et Espérance finie

Pour $X \geq 0$ , $E (X) = \sum_{x \in X (Ω)} x P (X = x) \in [0, + \infty]$ .
$X$ est d'espérance finie si $\sum_{x \in X (Ω)} ∣ x ∣ P (X = x) < + \infty$ . Alors $E (X) = \sum x P (X = x) \in K$ .

◆Théorème 11.31Formule sommatoire pour les variables à valeurs entières

Pour toute variable $X$ à valeurs dans $N \cup {+ \infty}$ :

$E (X) = n = 1 \sum + \infty P (X \geq n) .$

Démonstration

Par le théorème de Fubini positif :

$n = 1 \sum + \infty P (X \geq n) = n = 1 \sum + \infty (k = n \sum + \infty P (X = k)) = k = 1 \sum + \infty P (X = k) (n = 1 \sum k 1) = k = 1 \sum + \infty k P (X = k) = E (X) .$

11.6.2 Formule de Transfert et Propriétés

Important

Une variable aléatoire peut parfaitement n'avoir aucune espérance, et il ne s'agit pas d'un cas pathologique inventé pour la circonstance. Soit $X$ définie par

$P (X = 2^{n}) = \frac{1}{2 ^{n}}, n \geq 1.$

C'est bien une loi de probabilité, puisque $\sum_{n \geq 1} 2^{- n} = 1$ . Mais alors

$n \geq 1 \sum 2^{n} \times \frac{1}{2 ^{n}} = n \geq 1 \sum 1 = + \infty,$

et $X$ n'admet pas d'espérance finie. C'est le paradoxe de Saint-Pétersbourg : un jeu dont le gain moyen est infini, et auquel personne n'accepterait de miser une somme importante. Avant d'écrire $E (X)$ , il faut donc avoir établi que la famille est sommable — ce que l'énoncé demande d'ailleurs souvent comme première question.

◆Théorème 11.32Formule de transfert

Pour $f : X (Ω) \to K$ , $f (X)$ est d'espérance finie si et seulement si $(f (x) P (X = x))$ est sommable, et alors :

$E (f (X)) = x \in X (Ω) \sum f (x) P (X = x) .$

La formule de transfert est ce qui évite le calcul le plus pénible : pour obtenir $E (g (X))$ , on n'a pas besoin de la loi de $g (X)$ , seulement de celle de $X$ . C'est elle qui donne $E (X^{2})$ sans jamais déterminer la loi de $X^{2}$ , donc la variance.

◆Théorème 11.33Propriétés de l'espérance

Linéarité : $E (λ X + μ Y) = λ E (X) + μ E (Y)$ .
Positivité et croissance : $X \geq 0 ⟹ E (X) \geq 0$ , et $X \leq Y ⟹ E (X) \leq E (Y)$ .
Stricte positivité : Si $X \geq 0$ et $E (X) = 0$ , alors $X = 0$ presque sûrement.
Multiplicativité : Si $X ⊥ ⊥ Y$ et d'espérance finie, alors $E (X Y) = E (X) E (Y)$ .

11.6.3 Espérances des Lois Usuelles

De toutes les propriétés qui précèdent, la linéarité est la plus précieuse, et pour une raison qu'il faut souligner : elle ne réclame aucune hypothèse d'indépendance. L'égalité $E (X + Y) = E (X) + E (Y)$ vaut pour des variables aussi liées qu'on voudra, ce qui n'est le cas ni de la variance ni de l'espérance d'un produit.

C'est ce qui fonde la technique la plus rentable du chapitre, la décomposition en indicatrices : pour compter le nombre de succès, on écrit la variable comme une somme d'indicatrices $1_{A_{i}}$ , dont l'espérance vaut simplement $P (A_{i})$ , et l'on somme. Le nombre de boules rouges tirées, le nombre de points fixes d'une permutation aléatoire, le nombre de cases vides d'une distribution : tous se traitent ainsi, sans que l'indépendance ait à être discutée, et souvent sans que la loi de la variable soit connue.

Bernoulli $B (p)$ : $E (X) = p$ .
Binomiale $B (n, p)$ : $E (X) = n p$ .
Géométrique $G (p)$ : $E (X) = \sum_{n = 1}^{+ \infty} P (X \geq n) = \sum_{n = 1}^{+ \infty} q^{n - 1} = \frac{1}{1 - q} = \frac{1}{p}$ .
Poisson $P (λ)$ : $E (X) = \sum_{k = 1}^{+ \infty} k e^{- λ} \frac{λ ^{k}}{k !} = λ e^{- λ} e^{λ} = λ$ .

11.7 Variance, Covariance et Moments d'Ordre 2

L'espérance situe une variable aléatoire, la variance dit de combien elle s'en écarte. Le passage au couple de variables introduit la covariance, et avec elle une distinction qui coûte cher quand on l'oublie.

Important

L'indépendance entraîne une covariance nulle ; la réciproque est fausse. Si $X$ suit une loi symétrique et $Y = X^{2}$ , la covariance est nulle alors que $Y$ est entièrement déterminée par $X$ . Une covariance nulle ne dit rien de plus que l'absence de liaison linéaire.

La conséquence pratique est que $V (X + Y) = V (X) + V (Y)$ vaut dès que la covariance est nulle — donc sous une hypothèse plus faible que l'indépendance. C'est ce qui rend le calcul de variance d'une somme praticable dans les modèles où l'indépendance n'est pas acquise.

11.7.1 Variance, Écart-Type et Inégalité de Cauchy-Schwarz

Définition 11.34Variance et Écart-type

Pour $X$ telle que $X^{2}$ soit d'espérance finie ( $E (X^{2}) < + \infty$ ) :

$V (X) = E ((X - E (X))^{2}) = E (X^{2}) - (E (X))^{2} \geq 0$ (Koenig-Huygens).
$σ (X) = V (X)$ . Variable centrée réduite : $X^{*} = \frac{X - E ( X )}{σ ( X )}$ .
$V (a X + b) = a^{2} V (X)$ .

◆Théorème 11.35Inégalité de Cauchy-Schwarz

Pour deux variables réelles $X$ et $Y$ telles que $X^{2}$ et $Y^{2}$ soient d'espérance finie :

$(E (X Y))^{2} \leq E (X^{2}) E (Y^{2}) .$

Démonstration

$\forall t \in R, E ((tX + Y)^{2}) = t^{2} E (X^{2}) + 2 tE (X Y) + E (Y^{2}) \geq 0 ⟹ Δ^{'} = (E (X Y))^{2} - E (X^{2}) E (Y^{2}) \leq 0$ .

11.7.2 Covariance et Variance d'une Somme

◆Théorème 11.36Variance d'une somme

$V (i = 1 \sum n X_{i}) = i = 1 \sum n V (X_{i}) + 2 1 \leq i < j \leq n \sum Cov (X_{i}, X_{j}) .$

Si les variables sont deux à deux indépendantes : $V (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} V (X_{i})$ .

11.7.3 Variances des Lois Usuelles

Bernoulli $B (p)$ : $V (X) = pq$ .
Binomiale $B (n, p)$ : $V (X) = n pq$ .
Géométrique $G (p)$ : $V (X) = \frac{1 - p}{p ^{2}} = \frac{q}{p ^{2}}$ .
Poisson $P (λ)$ : $V (X) = λ$ .

11.8 Fonctions Génératrices

La fonction génératrice $G_{X} (t) = E (t^{X})$ range toute la loi d'une variable à valeurs entières dans une seule série entière : la probabilité $P (X = n)$ y est le coefficient de $t^{n}$ . Elle transforme des questions de probabilités en questions d'analyse, et c'est tout son intérêt.

Trois usages en découlent. Elle caractérise la loi : deux variables de même fonction génératrice ont la même loi. Elle donne les moments par dérivation en $1$ — $E (X) = G_{X}^{'} (1)$ et $V (X) = G_{X}^{''} (1) + G_{X}^{'} (1) - G_{X}^{'} (1)^{2}$ . Et surtout, la fonction génératrice d'une somme de variables indépendantes est le produit des fonctions génératrices : c'est ainsi qu'on retrouve en trois lignes que la somme de deux lois de Poisson est de Poisson.

11.8.1 Définition, Rayon et Moments

Définition 11.37Fonction génératrice

Pour $X$ à valeurs dans $N$ :

$G_{X} (t) = E (t^{X}) = n = 0 \sum + \infty P (X = n) t^{n}, pour t \in [- 1, 1] (Rayon R \geq 1) .$

◆Théorème 11.38Propriétés fondamentales

$G_{X} (1) = 1$ , $G_{X}$ est continue sur $[- 1, 1]$ , et caractérise entièrement la loi de $X$ .
$E (X) = G_{X}^{'} (1)$ et $V (X) = G_{X}^{''} (1) + G_{X}^{'} (1) - (G_{X}^{'} (1))^{2}$ .
Si $X ⊥ ⊥ Y$ , alors $G_{X + Y} (t) = G_{X} (t) G_{Y} (t)$ .

Figure : Une fonction génératrice, ici celle de la loi

(0, 2; 0, 3; 0, 5)

sur ${0, 1, 2}$ . Elle vaut toujours $1$ en $t = 1$ , puisque la somme des probabilités vaut $1$ ; et la pente de sa tangente en ce point est exactement l'espérance, ici $0, 3 + 2 \times 0, 5 = 1, 3$ .</div>

11.8.2 Formulaires des Lois Usuelles

Loi	$G_{X} (t)$	$E (X)$	$V (X)$
$B (p)$	$1 - p + pt$	$p$	$pq$
$B (n, p)$	$(1 - p + pt)^{n}$	$n p$	$n pq$
$G (p)$	$\frac{pt}{1 - q t}$	$\frac{1}{p}$	$\frac{q}{p ^{2}}$
$P (λ)$	$e^{λ (t - 1)}$	$λ$	$λ$

11.9 Inégalités Probabilistes et Loi Faible des Grands Nombres

Ces inégalités répondent à une question que la loi exacte ne pose pas : que peut-on affirmer quand on ne connaît que l'espérance, ou que l'espérance et la variance ? Elles sont volontairement grossières, et c'est leur force — elles ne supposent presque rien.

Markov ne demande qu'une variable positive et son espérance. Bienaymé-Tchebychev y ajoute la variance et borne l'écart à la moyenne. Ces bornes sont très larges : pour $X$ de loi $B (100, \frac{1}{2})$ (espérance $50$ , écart-type $5$ ), Tchebychev annonce au plus $25 %$ de chances de s'écarter de deux écarts-types, $P (∣ X - 50∣ \geq 10) \leq \frac{1}{4}$ , quand la vraie valeur est d'environ $5, 7 %$ . On ne les emploie donc jamais pour estimer, mais pour démontrer — et la loi faible des grands nombres en est la récompense : trois lignes à partir de Tchebychev.

◆Théorème 11.39Inégalités de Markov et de Bienaymé-Tchebychev

Markov ( $X \geq 0$ ) : $\forall a > 0, P (X \geq a) \leq \frac{E ( X )}{a}$ .
Bienaymé-Tchebychev : $\forall ε > 0, P (∣ X - E (X) ∣ \geq ε) \leq \frac{V ( X )}{ε ^{2}}$ .

Figure : L'inégalité de Bienaymé-Tchebychev, lue sur la loi d'une variable discrète. Les

valeurs des deux queues, au-delà de $m \pm ε$ , pèsent ensemble au plus $V (X) / ε^{2}$ ; tout le reste de la masse est concentré autour de la moyenne. Plus la variance est petite, plus les queues sont minces — c'est ce mécanisme qui, appliqué à une moyenne de $n$ variables, donnera la loi faible des grands nombres.</div>

◆Théorème 11.40Loi Faible des Grands Nombres

Soit $(X_{n})_{n \geq 1}$ une suite de variables aléatoires i.i.d. de variance finie ; on note $m = E (X_{1})$ et $σ^{2} = V (X_{1})$ . En notant $S_{n} = \sum_{k = 1}^{n} X_{k}$ :

$\forall ε > 0, P (\frac{S _{n}}{n} - m \geq ε) \leq \frac{σ ^{2}}{n ε ^{2}} n \to + \infty 0.$

Continuer sur Adloun : animation, QCM, fiches, exercices

Espaces Probabilisés et Variables Aléatoires Discrètes

11.1 Introduction et vue d'ensemble

11.2 Ensembles Dénombrables et Familles Sommables

11.2.1 Dénombrabilité

11.2.2 Familles sommables de réels positifs

11.2.3 Familles sommables de nombres complexes

11.3 Espaces Probabilisés et Probabilités Conditionnelles

11.3.1 Espaces probabilisables, Tribus et Événements

11.3.2 Mesure de Probabilité et Continuité de la Mesure

11.3.3 Événements presque sûrs, négligeables et Systèmes quasi-complets

11.3.4 Probabilités Conditionnelles et Formules Fondamentales

11.4 Variables Aléatoires Discrètes et Lois Usuelles

11.4.1 Définition et Loi de Probabilité

11.4.2 Lois Discrètes Usuelles

1. Loi de Bernoulli B(p)

2. Loi Binomiale B(n,p)

3. Loi Géométrique G(p) (Temps de premier succès)

4. Loi de Poisson P(λ) (Loi des événements rares)

11.4.3 Couples et Vecteurs de Variables Aléatoires Discrètes

11.5 Indépendance des Événements et des Variables Aléatoires

11.5.1 Indépendance d'Événements

11.5.2 Indépendance de Variables Aléatoires Discrètes

11.6 Espérance Mathématique

11.6.1 Définition générale et Espérance finie

11.6.2 Formule de Transfert et Propriétés

11.6.3 Espérances des Lois Usuelles

11.7 Variance, Covariance et Moments d'Ordre 2

11.7.1 Variance, Écart-Type et Inégalité de Cauchy-Schwarz

11.7.2 Covariance et Variance d'une Somme

11.7.3 Variances des Lois Usuelles

11.8 Fonctions Génératrices

11.8.1 Définition, Rayon et Moments

11.8.2 Formulaires des Lois Usuelles

11.9 Inégalités Probabilistes et Loi Faible des Grands Nombres

1. Loi de Bernoulli $B (p)$

2. Loi Binomiale $B (n, p)$

3. Loi Géométrique $G (p)$ (Temps de premier succès)

4. Loi de Poisson $P (λ)$ (Loi des événements rares)