Espaces Probabilisés et Variables Aléatoires Discrètes

Cours complet · mathématiques (PT), chapitre 11 · CPGE PT (2e année)

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

11.1 Introduction et modélisation probabiliste

La théorie moderne des probabilités, axiomatisée par Andreï Kolmogorov en 1933, constitue le socle mathématique rigoureux de l'analyse des phénomènes aléatoires. En physique, en sciences industrielles et en ingénierie de pointe, elle est indispensable : mécanique statistique, bruit thermique dans les capteurs électroniques, fiabilité des composants critiques aéronautiques, théorie de l'information de Shannon, files d'attente et algorithmes d'apprentissage automatique.

En classe de PT, l'étude porte sur les espaces probabilisés généraux $(Ω, T, P)$ , la manipulation des événements (continuité de la mesure de probabilité, probabilités totales, formule de Bayes), l'analyse des variables aléatoires discrètes (à valeurs finies ou dénombrables) et de leurs moments (espérance, variance, inégalités de concentration), les lois fondamentales et les couples de variables aléatoires.

11.2 Espaces probabilisés $(Ω, T, P)$ et axiomatique

11.2.1 Tribus et notion d'événement

Définition 11.1Tribu /

σ

-algèbre

Soit $Ω$ un ensemble non vide appelé univers. Une famille $T$ de parties de $Ω$ est appelée une tribu (ou $σ$ -algèbre) sur $Ω$ si elle vérifie les trois axiomes suivants :

L'univers appartient à la tribu : $Ω \in T$ .
Stabilité par passage au complémentaire : pour tout $A \in T$ , son complémentaire $A^{c} = Ω ∖ A$ appartient à $T$ .
Stabilité par union dénombrable : pour toute suite $(A_{n})_{n \in N}$ d'éléments de $T$ , $⋃_{n = 0}^{+ \infty} A_{n} \in T$ .

Le couple $(Ω, T)$ est appelé un espace probabilisable. Les éléments de $T$ sont appelés les événements.

iRemarque

Par les lois de De Morgan, une tribu est également stable par intersection dénombrable :

$n = 0 ⋂ + \infty A_{n} = (n = 0 ⋃ + \infty A_{n}^{c})^{c} \in T .$

De plus, $\emptyset = Ω^{c} \in T$ est l'événement impossible, tandis que $Ω$ est l'événement certain.

11.2.2 Mesure de probabilité et théorèmes de continuité

Définition 11.2Probabilité de Kolmogorov

Soit $(Ω, T)$ un espace probabilisable. Une probabilité sur $(Ω, T)$ est une application $P : T \to [0, 1]$ satisfaisant :

Normalisation : $P (Ω) = 1$ .
$σ$ -additivité : pour toute suite $(A_{n})_{n \in N}$ d'événements deux à deux disjoints ( $A_{i} \cap A_{j} = \emptyset$ pour $i \neq = j$ ) :

$P (n = 0 ⋃ + \infty A_{n}) = n = 0 \sum + \infty P (A_{n}) .$

Le triplet $(Ω, T, P)$ est alors appelé un espace probabilisé.

Proposition 11.3Propriétés immédiates de la probabilité

Soit $(Ω, T, P)$ un espace probabilisé.

$P (\emptyset) = 0$ .
Pour tout $A \in T$ , $P (A^{c}) = 1 - P (A)$ .
Croissance : si $A \subset B$ , alors $P (B ∖ A) = P (B) - P (A)$ et $P (A) \leq P (B)$ .
Formule du crible (Poincaré à 2 événements) : pour tous $A, B \in T$ :

$P (A \cup B) = P (A) + P (B) - P (A \cap B) .$

Sous-additivité dénombrable : pour toute suite $(A_{n})_{n \in N}$ d'événements quelconques :

$P (n = 0 ⋃ + \infty A_{n}) \leq n = 0 \sum + \infty P (A_{n}) .$

◆Théorème 11.4Théorème de continuité croissante et décroissante

Soit $(Ω, T, P)$ un espace probabilisé.

Continuité croissante : Soit $(A_{n})_{n \in N}$ une suite croissante d'événements ( $A_{n} \subset A_{n + 1}$ pour tout $n$ ). Alors :

$P (n = 0 ⋃ + \infty A_{n}) = n \to + \infty lim P (A_{n}) .$

Continuité décroissante : Soit $(B_{n})_{n \in N}$ une suite décroissante d'événements ( $B_{n + 1} \subset B_{n}$ pour tout $n$ ). Alors :

$P (n = 0 ⋂ + \infty B_{n}) = n \to + \infty lim P (B_{n}) .$

Démonstration

Posons $C_{0} = A_{0}$ et pour tout $k \geq 1$ , $C_{k} = A_{k} ∖ A_{k - 1}$ . Les $(C_{k})_{k \in N}$ sont deux à deux disjoints et vérifient $⋃_{k = 0}^{n} C_{k} = A_{n}$ , d'où $⋃_{k = 0}^{+ \infty} C_{k} = ⋃_{n = 0}^{+ \infty} A_{n}$ .
Par $σ$ -additivité de la mesure $P$ :

$P (n = 0 ⋃ + \infty A_{n}) = P (k = 0 ⋃ + \infty C_{k}) = k = 0 \sum + \infty P (C_{k}) = n \to + \infty lim k = 0 \sum n P (C_{k}),$

puis, la somme partielle étant la probabilité d'une réunion finie de disjoints,

$n \to + \infty lim k = 0 \sum n P (C_{k}) = n \to + \infty lim P (k = 0 ⋃ n C_{k}) = n \to + \infty lim P (A_{n}) .$

Pour la continuité décroissante, on applique la continuité croissante à la suite complémentaire $A_{n} = B_{n}^{c}$ , qui est croissante, et on utilise $P (⋂ B_{n}) = 1 - P (⋃ A_{n})$ .

11.3 Probabilités conditionnelles, Formule des probabilités totales et Bayes

11.3.1 Probabilité conditionnelle et indépendance

Définition 11.5Probabilité conditionnelle

Soit $B \in T$ tel que $P (B) > 0$ . Pour tout événement $A \in T$ , la probabilité conditionnelle de $A$ sachant $B$ , notée $P (A ∣ B)$ ou $P_{B} (A)$ , est définie par :

$P (A ∣ B) = \frac{P ( A \cap B )}{P ( B )} .$

L'application $P_{B} : A \mapsto P (A ∣ B)$ est elle-même une probabilité sur $(Ω, T)$ .

Définition 11.6Indépendance d'événements

Deux événements $A$ et $B$ sont indépendants si $P (A \cap B) = P (A) P (B)$ . Si $P (B) > 0$ , cela équivaut à $P (A ∣ B) = P (A)$ .
Une famille $(A_{i})_{i \in I}$ d'événements est mutuellement indépendante si pour toute sous-famille finie $J \subset I$ :

$P j \in J ⋂ A_{j} = j \in J \prod P (A_{j}) .$

ImportantContre-exemple classique de Bernstein

L'indépendance deux à deux n'implique pas l'indépendance mutuelle ! Le contre-exemple classique de Bernstein consiste à lancer deux pièces équilibrées et à considérer $A = {1er lancer est Pile}$ , $B = {2e lancer est Pile}$ , $C = {les deux lancers sont identiques}$ . $A, B, C$ sont 2 à 2 indépendants mais $P (A \cap B \cap C) = 1/4 \neq = 1/8 = P (A) P (B) P (C)$ .

11.3.2 Système complet d'événements, Probabilités totales et Bayes

Définition 11.7Système complet d'événements

On appelle système complet d'événements (SCE) une famille $(A_{i})_{i \in I}$ (avec $I$ fini ou dénombrable) d'événements vérifiant :

Deux à deux incompatibles : $\forall i \neq = j, A_{i} \cap A_{j} = \emptyset$ .
Réunion égale à l'univers : $⋃_{i \in I} A_{i} = Ω$ .

Si de plus $\forall i \in I, P (A_{i}) > 0$ , on parle de SCE propre. (Si $\sum_{i \in I} P (A_{i}) = 1$ , la famille forme un système quasi-complet).

◆Théorème 11.8Formule des probabilités composées

Soient $A_{1}, \dots, A_{n}$ des événements tels que $P (A_{1} \cap \dots \cap A_{n - 1}) > 0$ . Alors

$P (A_{1} \cap A_{2} \cap \dots \cap A_{n}) = P (A_{1}) P (A_{2} ∣ A_{1}) P (A_{3} ∣ A_{1} \cap A_{2}) \dots P (A_{n} ∣ A_{1} \cap \dots \cap A_{n - 1}) .$

C'est la formule des expériences séquentielles : chaque facteur est la probabilité de l'étape suivante sachant tout ce qui précède, et le produit se lit le long d'une branche d'arbre. Elle se démontre en écrivant chaque conditionnelle comme un quotient — tout se télescope.

◆Théorème 11.9Formule des probabilités totales

Soit $(A_{i})_{i \in I}$ un système complet (ou quasi-complet) d'événements vérifiant $P (A_{i}) > 0$ pour tout $i \in I$ . Alors pour tout événement $B \in T$ :

$P (B) = i \in I \sum P (B \cap A_{i}) = i \in I \sum P (B ∣ A_{i}) P (A_{i}) .$

◆Théorème 11.10Formule de Bayes (Probabilités des causes)

Soit $(A_{i})_{i \in I}$ un système complet d'événements ( $P (A_{i}) > 0$ ). Pour tout événement $B$ tel que $P (B) > 0$ , et pour tout indice fixé $k \in I$ :

$P (A_{k} ∣ B) = \frac{P ( B ∣ A _{k} ) P ( A _{k} )}{P ( B )} = \frac{P ( B ∣ A _{k} ) P ( A _{k} )}{\sum _{i \in I} P ( B ∣ A _{i} ) P ( A _{i} )} .$

11.4 Variables aléatoires discrètes et loi de probabilité

Définition 11.11Variable aléatoire discrète

Une application $X : Ω \to E$ (où $E \subset R$ ) est appelée une variable aléatoire discrète réelle si :

L'ensemble des valeurs prises $X (Ω)$ est au plus dénombrable (fini ou indexable par $N$ ).
Pour tout $x \in X (Ω)$ , l'image réciproque ${X = x} = X^{- 1} ({x}) = {ω \in Ω ∣ X (ω) = x}$ appartient à la tribu $T$ .

Proposition 11.12Caractérisation de la loi de probabilité

La loi de probabilité de la variable discrète $X$ est entièrement déterminée par la famille de nombres réels $(P (X = x))_{x \in X (Ω)}$ , qui vérifie :

$\forall x \in X (Ω), P (X = x) \geq 0$ .
$\sum_{x \in X (Ω)} P (X = x) = 1$ (sommabilité de la famille).

Pour toute partie $A \subset R$ , $P (X \in A) = \sum_{x \in X (Ω) \cap A} P (X = x)$ .

11.5 Moments d'une variable aléatoire discrète

11.5.1 Espérance mathématique et Théorème de transfert

Définition 11.13Espérance mathématique

Soit $X$ une variable aléatoire discrète réelle. On dit que $X$ admet une espérance mathématique si la famille $(x P (X = x))_{x \in X (Ω)}$ est sommable, c'est-à-dire si :

$x \in X (Ω) \sum ∣ x ∣ P (X = x) < + \infty.$

Dans ce cas, l'espérance de $X$ , notée $E (X)$ , est le réel :

$E (X) = x \in X (Ω) \sum x P (X = x) .$

◆Théorème 11.14Théorème de transfert

Soit $X$ une variable aléatoire discrète et $g : X (Ω) \to R$ une fonction. La variable aléatoire $Y = g (X)$ admet une espérance si et seulement si :

$x \in X (Ω) \sum ∣ g (x) ∣ P (X = x) < + \infty.$

Dans ce cas, son espérance est donnée par :

$E (g (X)) = x \in X (Ω) \sum g (x) P (X = x) .$

Proposition 11.15Propriétés de l'espérance

Soient $X, Y$ deux variables aléatoires discrètes admettant une espérance, et $λ, μ \in R$ .

Linéarité : $λ X + μ Y$ admet une espérance et $E (λ X + μ Y) = λ E (X) + μ E (Y)$ .
Positivité : si $X \geq 0$ presque sûrement ( $P (X \geq 0) = 1$ ), alors $E (X) \geq 0$ .
Croissance : si $X \leq Y$ presque sûrement, alors $E (X) \leq E (Y)$ .
Variable bornée : si $X$ est bornée ( $∣ X ∣ \leq M$ ), $X$ admet toujours une espérance et $∣ E (X) ∣ \leq M$ .
Domination : si $∣ X ∣ \leq Y$ et si $Y$ admet une espérance, alors $X$ en admet une.
Espérance nulle : si $X$ est positive et d'espérance nulle, alors l'événement $(X = 0)$ est presque sûr.
Moment d'ordre 2 : si $X^{2}$ admet une espérance, alors $X$ en admet une.

Le point 5 est le critère d'existence le plus employé, et il évite presque toujours le calcul : plutôt que d'étudier la sommabilité de $\sum ∣ x ∣ P (X = x)$ , on majore $∣ X ∣$ par une variable dont on connaît déjà l'espérance. Le point 7 en découle, par $∣ X ∣ \leq \frac{1 + X ^{2}}{2}$ .

Proposition 11.16Espérance d'une variable à valeurs entières

Si $X$ est une variable aléatoire à valeurs dans $N$ , alors $X$ admet une espérance si et seulement si la série $\sum_{n \geq 1} P (X \geq n)$ converge, et dans ce cas

$E (X) = n = 1 \sum + \infty P (X \geq n) .$

La formule vaut son poids en calculs. Pour la loi géométrique, par exemple, $P (X \geq n) = (1 - p)^{n - 1}$ se lit sans effort — c'est la probabilité que les $n - 1$ premières épreuves échouent — et l'espérance tombe comme somme d'une série géométrique : $E (X) = \sum_{n \geq 1} (1 - p)^{n - 1} = \frac{1}{p}$ . Le calcul direct, lui, demande de dériver une série entière.

11.5.2 Variance, Écart-type et Moments d'ordre supérieur

Définition 11.17Moments d'ordre

k

Pour $k \in N^{*}$ , on appelle moment d'ordre $k$ de $X$ l'espérance $E (X^{k})$ , sous réserve de convergence de $\sum ∣ x ∣^{k} P (X = x)$ . Si $E (X^{k})$ existe, alors pour tout entier $p \leq k$ , le moment $E (X^{p})$ existe.

Définition 11.18Variance et Écart-type

Soit $X$ une variable aléatoire admettant un moment d'ordre 2 ( $E (X^{2}) < + \infty$ ).

La variance de $X$ est le réel positif :

$V (X) = E ((X - E (X))^{2}) \geq 0.$

L'écart-type de $X$ est $σ (X) = V (X)$ .

◆Théorème 11.19Formule de Koenig-Huygens et propriétés de la variance

Formule de Koenig-Huygens :

$V (X) = E (X^{2}) - (E (X))^{2} .$

Changement d'échelle : pour tous $a, b \in R$ , $V (a X + b) = a^{2} V (X)$ et $σ (a X + b) = ∣ a ∣ σ (X)$ .
Nullité de la variance : $V (X) = 0 ⟺ P (X = E (X)) = 1$ ( $X$ est constante presque sûrement).

Démonstration

Par linéarité de l'espérance :

$V (X) = E (X^{2} - 2 E (X) X + (E (X))^{2}) = E (X^{2}) - 2 E (X) E (X) + (E (X))^{2} = E (X^{2}) - (E (X))^{2} .$

◆Théorème 11.20Inégalité de Cauchy-Schwarz

Si $X^{2}$ et $Y^{2}$ admettent une espérance, alors $X Y$ en admet une et

$E (X Y)^{2} \leq E (X^{2}) E (Y^{2}),$

avec égalité si et seulement s'il existe $(a, b) \neq = (0, 0)$ tel que $a X + bY = 0$ presque sûrement.

C'est l'inégalité de Cauchy-Schwarz du chapitre 3, appliquée au produit scalaire $(X, Y) \mapsto E (X Y)$ sur l'espace des variables aléatoires de carré intégrable. Le cas d'égalité y est le cas de colinéarité, et c'est lui qui, appliqué à $X - E (X)$ et $Y - E (Y)$ , donne $∣ ρ (X, Y) ∣ = 1$ exactement lorsque $Y$ est fonction affine de $X$ presque sûrement.

Définition 11.21Variable centrée, variable réduite

Une variable aléatoire $X$ d'espérance finie est dite centrée si $E (X) = 0$ , et réduite si $V (X) = 1$ . Si $σ (X) > 0$ , la variable

$X^{*} = \frac{X - E ( X )}{σ ( X )}$

est centrée réduite : c'est la forme sous laquelle on compare deux variables d'unités ou d'ordres de grandeur différents.

11.6 Inégalités fondamentales de concentration

◆Théorème 11.22Inégalité de Markov

Soit $X$ une variable aléatoire discrète positive ou nulle ( $X \geq 0$ ) admettant une espérance. Pour tout réel $a > 0$ :

$P (X \geq a) \leq \frac{E ( X )}{a} .$

Démonstration

Soit $a > 0$ . Considérons la variable indicatrice $1_{{X \geq a}}$ . Puisque $X \geq 0$ , on a pour tout $ω \in Ω$ : $X (ω) \geq a \cdot 1_{{X \geq a}} (ω)$ . Par croissance de l'espérance :

$E (X) \geq E (a \cdot 1_{{X \geq a}}) = a \cdot P (X \geq a) .$

En divisant par $a > 0$ , on obtient directement $P (X \geq a) \leq \frac{E ( X )}{a}$ .

◆Théorème 11.23Inégalité de Bienaymé-Tchebychev

Soit $X$ une variable aléatoire discrète admettant un moment d'ordre 2. Pour tout réel $ε > 0$ :

$P (∣ X - E (X) ∣ \geq ε) \leq \frac{V ( X )}{ε ^{2}} .$

Démonstration

Appliquons l'inégalité de Markov à la variable aléatoire positive $Y = (X - E (X))^{2} \geq 0$ et au réel $a = ε^{2} > 0$ :

$P (∣ X - E (X) ∣ \geq ε) = P ((X - E (X))^{2} \geq ε^{2}) \leq \frac{E (( X - E ( X ) ) ^{2} )}{ε ^{2}} = \frac{V ( X )}{ε ^{2}} .$

◆Théorème 11.24Loi faible des grands nombres

Soit $(X_{n})_{n \geq 1}$ une suite de variables aléatoires indépendantes et de même loi (iid), admettant une espérance $m = E (X_{1})$ et une variance $σ^{2} = V (X_{1})$ . Posons la moyenne empirique $S_{n} = \frac{1}{n} \sum_{i = 1}^{n} X_{i}$ . Alors pour tout $ε > 0$ :

$n \to + \infty lim P (∣ S_{n} - m ∣ \geq ε) = 0.$

11.7 Lois discrètes usuelles (Étude complète)

Loi	Notation	Support $X (Ω)$	Espérance $E (X)$	Variance $V (X)$
Uniforme discrète	$U ([[1, n]])$	$[[1, n]]$	$\frac{n + 1}{2}$	$\frac{n ^{2} - 1}{12}$
Bernoulli	$B (p)$	${0, 1}$	$p$	$p (1 - p)$
Binomiale	$B (n, p)$	$[[0, n]]$	$n p$	$n p (1 - p)$
Géométrique	$G (p)$	$N^{*}$	$\frac{1}{p}$	$\frac{1 - p}{p ^{2}}$
Poisson	$P (λ)$	$N$	$λ$	$λ$

11.7.1 Loi uniforme discrète $U ([[a, b]])$

Modélise l'équiprobabilité sur un ensemble fini de $n = b - a + 1$ entiers consécutifs :

$\forall k \in [[a, b]], P (X = k) = \frac{1}{b - a + 1} .$

Pour $X \sim U ([[1, n]])$ :

$E (X) = k = 1 \sum n \frac{k}{n} = \frac{1}{n} \frac{n ( n + 1 )}{2} = \frac{n + 1}{2}, E (X^{2}) = \frac{1}{n} \frac{n ( n + 1 ) ( 2 n + 1 )}{6} = \frac{( n + 1 ) ( 2 n + 1 )}{6},$

$V (X) = E (X^{2}) - (E (X))^{2} = \frac{( n + 1 ) ( 2 n + 1 )}{6} - \frac{( n + 1 ) ^{2}}{4} = \frac{n ^{2} - 1}{12} .$

11.7.2 Loi de Bernoulli $B (p)$ et Loi Binomiale $B (n, p)$

$∙$ Bernoulli : Modélise une épreuve binaire unique (Succès $= 1$ avec probabilité $p \in [0, 1]$ , Échec $= 0$ avec $q = 1 - p$ ).
$∙$ Binomiale : Nombre de succès lors de la répétition de $n$ épreuves de Bernoulli indépendantes et identiques :

$\forall k \in [[0, n]], P (X = k) = (k n) p^{k} (1 - p)^{n - k} .$

Puisque $X = \sum_{i = 1}^{n} Y_{i}$ où les $Y_{i} \sim B (p)$ sont des variables de Bernoulli indépendantes :

$E (X) = i = 1 \sum n E (Y_{i}) = n p, V (X) = i = 1 \sum n V (Y_{i}) = n p (1 - p) .$

11.7.3 Loi Géométrique $G (p)$ (Temps d'attente)

Modélise le rang du premier succès dans une suite infinie d'épreuves de Bernoulli indépendantes de paramètre $p \in] 0, 1]$ ( $q = 1 - p$ ) :

$\forall k \in N^{*}, P (X = k) = q^{k - 1} p .$

$∙$ Fonction de survie et absence de mémoire :

$P (X > k) = j = k + 1 \sum + \infty q^{j - 1} p = p q^{k} m = 0 \sum + \infty q^{m} = \frac{p q ^{k}}{1 - q} = q^{k} = (1 - p)^{k} .$

La loi géométrique est la seule loi discrète sans mémoire :

$\forall n, k \in N, P (X > n + k ∣ X > n) = \frac{P ( X > n + k )}{P ( X > n )} = \frac{q ^{n + k}}{q ^{n}} = q^{k} = P (X > k) .$

$∙$ Calcul des moments par dérivation de séries entières : Pour $∣ x ∣ < 1$ , $\sum_{k = 0}^{+ \infty} x^{k} = \frac{1}{1 - x}$ . En dérivant : $\sum_{k = 1}^{+ \infty} k x^{k - 1} = \frac{1}{( 1 - x ) ^{2}}$ . D'où :

$E (X) = k = 1 \sum + \infty k p q^{k - 1} = p \frac{1}{( 1 - q ) ^{2}} = \frac{p}{p ^{2}} = \frac{1}{p} .$

En dérivant une seconde fois : $\sum_{k = 2}^{+ \infty} k (k - 1) x^{k - 2} = \frac{2}{( 1 - x ) ^{3}}$ , d'où $E (X (X - 1)) = \frac{2 q}{p ^{2}}$ . Ainsi $E (X^{2}) = \frac{2 q}{p ^{2}} + \frac{1}{p} = \frac{2 - p}{p ^{2}}$ , et $V (X) = \frac{2 - p}{p ^{2}} - \frac{1}{p ^{2}} = \frac{1 - p}{p ^{2}}$ .

11.7.4 Loi de Poisson $P (λ)$ (Loi des événements rares)

Modélise le nombre d'occurrences d'un événement rare dans un intervalle continu (paramètre $λ > 0$ ) :

$\forall k \in N, P (X = k) = e^{- λ} \frac{λ ^{k}}{k !} .$

$∙$ Moments :

$E (X) = k = 1 \sum + \infty k e^{- λ} \frac{λ ^{k}}{k !} = λ e^{- λ} k = 1 \sum + \infty \frac{λ ^{k - 1}}{( k - 1 )!} = λ e^{- λ} e^{λ} = λ .$

De même, $E (X (X - 1)) = λ^{2}$ , d'où $E (X^{2}) = λ^{2} + λ$ , et $V (X) = λ^{2} + λ - λ^{2} = λ$ .

◆Théorème 11.25Théorème de convergence de la loi binomiale vers la loi de Poisson

Soit $(X_{n})_{n \geq 1}$ une suite de variables binomiales $X_{n} \sim B (n, p_{n})$ telle que $lim_{n \to + \infty} n p_{n} = λ > 0$ . Alors pour tout $k \in N$ fixé :

$n \to + \infty lim P (X_{n} = k) = e^{- λ} \frac{λ ^{k}}{k !} .$

Démonstration

Pour $n \geq k$ , $P (X_{n} = k) = (k n) p_{n}^{k} (1 - p_{n})^{n - k} = \frac{n ( n - 1 ) \dots ( n - k + 1 )}{k !} (\frac{n p _{n}}{n})^{k} (1 - p_{n})^{n} (1 - p_{n})^{- k}$ .
$∙ \frac{n ( n - 1 ) \dots ( n - k + 1 )}{n ^{k}} n \to + \infty 1$ .
$∙ (n p_{n})^{k} n \to + \infty λ^{k}$ .
$∙ (1 - p_{n})^{n} = exp (n ln (1 - p_{n})) = exp (- n p_{n} + o (n p_{n})) n \to + \infty e^{- λ}$ .
$∙ (1 - p_{n})^{- k} n \to + \infty 1$ (car $k$ est fixé et $p_{n} \to 0$ ).
Par produit des limites : $P (X_{n} = k) n \to + \infty e^{- λ} \frac{λ ^{k}}{k !}$ .

11.8 Couples de variables aléatoires et Covariance

Définition 11.26Loi conjointe, Lois marginales et Conditionnelles

Soit $(X, Y)$ un couple de variables aléatoires discrètes sur $(Ω, T, P)$ .

La loi conjointe est la donnée de $p_{i, j} = P (X = x_{i}, Y = y_{j})$ pour tout $(x_{i}, y_{j}) \in X (Ω) \times Y (Ω)$ .
Les lois marginales sont obtenues par sommation :

$P (X = x_{i}) P (Y = y_{j}) = y_{j} \in Y (Ω) \sum P (X = x_{i}, Y = y_{j}), = x_{i} \in X (Ω) \sum P (X = x_{i}, Y = y_{j}) .$

Si $P (Y = y_{j}) > 0$ , la loi conditionnelle de $X$ sachant $(Y = y_{j})$ est :

$P (X = x_{i} ∣ Y = y_{j}) = \frac{P ( X = x _{i} , Y = y _{j} )}{P ( Y = y _{j} )} .$

Définition 11.27Indépendance de deux variables aléatoires

Deux variables aléatoires discrètes $X$ et $Y$ sont indépendantes si pour tous $x_{i} \in X (Ω)$ et $y_{j} \in Y (Ω)$ :

$P (X = x_{i}, Y = y_{j}) = P (X = x_{i}) \cdot P (Y = y_{j}) .$

Dans ce cas, pour toutes fonctions $f$ et $g$ telles que $f (X)$ et $g (Y)$ soient intégrables :

$E (f (X) g (Y)) = E (f (X)) \cdot E (g (Y)) .$

◆Théorème 11.28Lemme des coalitions

Si les variables aléatoires $X_{1}, \dots, X_{n}$ sont indépendantes, alors pour tout $m < n$ et toutes fonctions $f$ et $g$ , les variables aléatoires

$f (X_{1}, \dots, X_{m}) et g (X_{m + 1}, \dots, X_{n})$

sont indépendantes. L'énoncé s'étend à un découpage en plus de deux coalitions.

Le lemme dit qu'on peut manipuler des blocs de variables indépendantes comme des variables indépendantes. C'est lui qui autorise, dans une suite i.i.d. de tirages, à affirmer que « la somme des dix premiers » et « le maximum des dix suivants » sont indépendants — sans quoi aucun calcul de loi sur des sommes partielles ne serait possible.

Définition 11.29Covariance et Coefficient de corrélation linéaire

Pour deux variables $X$ et $Y$ admettant un moment d'ordre 2 :

La covariance de $(X, Y)$ est :

$Cov (X, Y) = E ((X - E (X)) (Y - E (Y))) = E (X Y) - E (X) E (Y) .$

Deux variables dont la covariance est nulle sont dites décorrélées. Si $X$ et $Y$ sont indépendantes, alors elles sont décorrélées — la réciproque est fausse en général.
La variance de la somme vaut :

$V (X + Y) = V (X) + V (Y) + 2 Cov (X, Y) .$

En particulier, si $X$ et $Y$ sont indépendantes : $V (X + Y) = V (X) + V (Y)$ .

Plus généralement, pour $X_{1}, \dots, X_{n}$ admettant un moment d'ordre 2 :

$V (k = 1 \sum n X_{k}) = k = 1 \sum n V (X_{k}) + 2 1 \leq i < j \leq n \sum Cov (X_{i}, X_{j}),$

et si les $X_{k}$ sont deux à deux décorrélées, la double somme disparaît : la variance d'une somme est alors la somme des variances. C'est la décorrélation deux à deux qui suffit, et non l'indépendance.

Le coefficient de corrélation linéaire est $ρ (X, Y) = \frac{Cov ( X , Y )}{σ ( X ) σ ( Y )} \in [- 1, 1]$ . On a $∣ ρ (X, Y) ∣ = 1$ si et seulement si $Y = a X + b$ presque sûrement ( $a \neq = 0$ ).

11.9 Fonctions génératrices

Une variable aléatoire à valeurs entières se laisse coder tout entière dans une série entière, dont les coefficients sont ses probabilités. Le chapitre 6 devient alors un outil de probabilités : dériver la série donne les moments, multiplier deux séries donne la loi d'une somme.

Définition 11.30Fonction génératrice

Soit $X$ une variable aléatoire à valeurs dans $N$ . Sa fonction génératrice est

$G_{X} (t) = E (t^{X}) = n = 0 \sum + \infty P (X = n) t^{n} .$

Proposition 11.31La série converge toujours sur

[- 1, 1]

La série entière définissant $G_{X}$ a un rayon de convergence $R \geq 1$ , et $G_{X} (1) = 1$ .

La raison tient en une ligne, et c'est celle qu'il faut retenir : les coefficients $P (X = n)$ sont positifs de somme $1$ , donc $\sum P (X = n) t^{n}$ converge absolument dès que $∣ t ∣ \leq 1$ . La fonction génératrice est donc définie au moins sur $[- 1, 1]$ , quelle que soit la variable — aucune hypothèse d'existence de moments n'est requise.

◆Théorème 11.32La fonction génératrice caractérise la loi

Deux variables aléatoires à valeurs dans $N$ ont la même loi si et seulement si elles ont la même fonction génératrice.

C'est l'unicité du développement en série entière du chapitre 6, transposée : $P (X = n) = \frac{G _{X}^{(n)} ( 0 )}{n !}$ . On lit la loi sur les coefficients, et c'est ce qui fait de $G_{X}$ un outil d'identification — reconnaître une fonction génératrice connue, c'est avoir reconnu la loi.

Proposition 11.33Fonctions génératrices usuelles

Bernoulli $B (p)$ : $G_{X} (t) = 1 - p + pt$ .
Binomiale $B (n, p)$ : $G_{X} (t) = (1 - p + pt)^{n}$ .
Géométrique $G (p)$ : $G_{X} (t) = \frac{pt}{1 - ( 1 - p ) t}$ , de rayon $\frac{1}{1 - p} > 1$ .
Poisson $P (λ)$ : $G_{X} (t) = e^{λ (t - 1)}$ , de rayon $+ \infty$ .

Aucune de ces quatre n'est à apprendre : chacune se retrouve en deux lignes. Pour Poisson, $\sum e^{- λ} \frac{λ ^{n}}{n !} t^{n} = e^{- λ} e^{λ t}$ par le développement de l'exponentielle ; pour la géométrique, $\sum_{n \geq 1} p (1 - p)^{n - 1} t^{n}$ est une série géométrique de raison $(1 - p) t$ .

11.9.1 Calculer l'espérance et la variance

◆Théorème 11.34Moments par dérivation en 1

Soit $X$ à valeurs dans $N$ .

$X$ admet une espérance si et seulement si $G_{X}$ est dérivable en $1$ , et dans ce cas $E (X) = G_{X}^{'} (1)$ .
Si $X$ admet un moment d'ordre 2, alors

$V (X) = G_{X}^{''} (1) + G_{X}^{'} (1) - (G_{X}^{'} (1))^{2} .$

La démonstration de la réciproque du point 1 n'est pas exigible.

Le mécanisme est celui de la dérivation terme à terme : $G_{X}^{'} (t) = \sum n P (X = n) t^{n - 1}$ , et en $t = 1$ cette somme est exactement $\sum n P (X = n) = E (X)$ . De même $G_{X}^{''} (1) = E (X (X - 1)) = E (X^{2}) - E (X)$ , d'où la formule de la variance.

ImportantPourquoi « dérivable en 1 » et non « en

1^{-}

Quand le rayon vaut exactement $1$ , le point $1$ est au bord de l'intervalle de convergence, et $G_{X}^{'} (1)$ s'entend comme la dérivée à gauche, éventuellement infinie. Le théorème dit alors quelque chose de fort : l'espérance existe exactement quand cette pente est finie. Lorsque le rayon est strictement plus grand que $1$ — c'est le cas de toutes les lois usuelles ci-dessus — la question ne se pose pas, $G_{X}$ est de classe $C^{\infty}$ au voisinage de $1$ et tous les moments existent.

Figure : La fonction génératrice d'une variable géométrique de paramètre

$p = \frac{1}{2}$ , soit $G_{X} (t) = \frac{t /2}{1 - t /2}$ . Deux valeurs se lisent sur le dessin. En $t = 1$ la fonction vaut $1$ , parce que les probabilités somment à $1$ — c'est vrai de toute fonction génératrice. Et la pente en ce point vaut l'espérance : ici $G_{X}^{'} (1) = 2$ , qui est bien $\frac{1}{p}$ . Le rayon de convergence vaut $\frac{1}{1 - p} = 2$ , strictement plus grand que $1$ : la courbe se prolonge au-delà de $t = 1$ , et c'est ce qui garantit que tous les moments existent.</div>

11.9.2 Somme de variables indépendantes

◆Théorème 11.35Génératrice d'une somme

Si $X$ et $Y$ sont deux variables aléatoires indépendantes à valeurs dans $N$ , alors

$G_{X + Y} (t) = G_{X} (t) G_{Y} (t)$

sur l'intersection des domaines de convergence. L'énoncé s'étend à une somme finie de variables indépendantes.

C'est ici que l'outil paye. La loi d'une somme de variables indépendantes se calcule autrement par un produit de convolution — une somme $\sum_{k} P (X = k) P (Y = n - k)$ à mener pour chaque $n$ —, alors qu'ici il suffit de multiplier deux fonctions. On reconnaît d'ailleurs le produit de Cauchy du chapitre 5 : multiplier les séries entières, c'est convoler les coefficients, et la démonstration du théorème n'est rien d'autre que $E (t^{X + Y}) = E (t^{X} t^{Y}) = E (t^{X}) E (t^{Y})$ par indépendance.

Méthode : Identifier la loi d'une somme

Écrire les fonctions génératrices des termes.
Les multiplier, et simplifier.
Reconnaître le résultat dans le catalogue des génératrices usuelles : par caractérisation, la loi est identifiée.

Ainsi, si $X \sim P (λ)$ et $Y \sim P (μ)$ sont indépendantes,

$G_{X + Y} (t) = e^{λ (t - 1)} e^{μ (t - 1)} = e^{(λ + μ) (t - 1)},$

qui est la génératrice de $P (λ + μ)$ : la somme de deux variables de Poisson indépendantes suit une loi de Poisson de paramètre la somme des paramètres. De même, une somme de $n$ variables de Bernoulli indépendantes de même paramètre $p$ a pour génératrice $(1 - p + pt)^{n}$ , celle de $B (n, p)$ — la loi binomiale retrouvée sans un seul coefficient binomial.

11.10 Méthodes, Synthèse et Pièges Classiques

Méthode : Comment démontrer l'existence d'une espérance ?

Pour une variable aléatoire $X$ à support infini $X (Ω) = {x_{k} ∣ k \in N}$ :

Ne jamais écrire $E (X) = \sum x_{k} P (X = x_{k})$ avant d'avoir prouvé la sommabilité !
Poser le terme général positif $u_{k} = ∣ x_{k} ∣ P (X = x_{k})$ .
Utiliser les critères de comparaison des séries numériques (équivalents, règle de d'Alembert $lim u_{k + 1} / u_{k} < 1$ , ou comparaison avec une série de Riemann $\sum 1/ k^{α}$ ).
Conclure à la convergence absolue $\sum u_{k} < + \infty$ , ce qui valide l'existence et autorise le calcul de $E (X)$ .

ImportantPièges classiques

$∙$ Piège de l'indépendance et covariance nulle : $Cov (X, Y) = 0$ signifie que $X$ et $Y$ sont non corrélées, mais n'implique pas qu'elles sont indépendantes ! Exemple : $X \sim U ({- 1, 0, 1})$ et $Y = X^{2}$ . Alors $E (X) = 0, E (X Y) = E (X^{3}) = 0 ⟹ Cov (X, Y) = 0$ , mais $P (X = 0, Y = 1) = 0 \neq = P (X = 0) P (Y = 1) = 1/3 \times 2/3 = 2/9$ .
$∙$ Piège de la formule de Bayes : Toujours vérifier que la famille considérée forme un système complet d'événements (SCE) et que les probabilités conditionnelles sont bien conditionnées par rapport à la cause ou à l'effet.

Continuer sur Adloun : animation, QCM, fiches, exercices

Espaces Probabilisés et Variables Aléatoires Discrètes

11.1 Introduction et modélisation probabiliste

11.2 Espaces probabilisés (Ω,T,P) et axiomatique

11.2.1 Tribus et notion d'événement

11.2.2 Mesure de probabilité et théorèmes de continuité

11.3 Probabilités conditionnelles, Formule des probabilités totales et Bayes

11.3.1 Probabilité conditionnelle et indépendance

11.3.2 Système complet d'événements, Probabilités totales et Bayes

11.4 Variables aléatoires discrètes et loi de probabilité

11.5 Moments d'une variable aléatoire discrète

11.5.1 Espérance mathématique et Théorème de transfert

11.5.2 Variance, Écart-type et Moments d'ordre supérieur

11.6 Inégalités fondamentales de concentration

11.7 Lois discrètes usuelles (Étude complète)

11.7.1 Loi uniforme discrète U([[a,b]])

11.7.2 Loi de Bernoulli B(p) et Loi Binomiale B(n,p)

11.7.3 Loi Géométrique G(p) (Temps d'attente)

11.7.4 Loi de Poisson P(λ) (Loi des événements rares)

11.8 Couples de variables aléatoires et Covariance

11.9 Fonctions génératrices

11.9.1 Calculer l'espérance et la variance

11.9.2 Somme de variables indépendantes

Méthode : Identifier la loi d'une somme

11.10 Méthodes, Synthèse et Pièges Classiques

Méthode : Comment démontrer l'existence d'une espérance ?

11.2 Espaces probabilisés $(Ω, T, P)$ et axiomatique

11.7.1 Loi uniforme discrète $U ([[a, b]])$

11.7.2 Loi de Bernoulli $B (p)$ et Loi Binomiale $B (n, p)$

11.7.3 Loi Géométrique $G (p)$ (Temps d'attente)

11.7.4 Loi de Poisson $P (λ)$ (Loi des événements rares)