Probabilités sur un univers fini

Cours complet · mathématiques (PCSI), chapitre 15 · CPGE PCSI (1re année)

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

<i class="fa-solid fa-compass mr-2" style="color:#9A563B"></i>15.1 Introduction et motivation

Ce chapitre, qui a vocation à interagir avec l'ensemble du programme — dénombrement bien sûr, mais aussi sommes (ch. 2), suites (ch. 5), matrices (ch. 7) —, vise une bonne pratique des variables aléatoires dans le cadre fini. Le point de vue, plus conceptuel qu'au lycée : une situation probabiliste finie est décrite par un $n$ -uplet de variables aléatoires, l'univers $Ω$ n'étant qu'une source suffisante d'aléa — on travaille le plus tôt possible avec des événements construits en termes de variables aléatoires $(X = x)$ , $(X \in A)$ , et la construction explicite de $Ω$ n'est pas un objectif.

Les terrains de jeu suggérés sont riches : marches aléatoires, chaînes de Markov en temps fini, graphes aléatoires, inégalités de concentration. Le programme de l'année s'achève en beauté : une approche non asymptotique de la loi faible des grands nombres, qui justifie l'approche fréquentiste des probabilités.

15.2 Univers, événements, variables aléatoires

Définition 15.1Le dictionnaire probabiliste

Un univers $Ω$ (ici fini) modélise l'ensemble des issues possibles d'une expérience aléatoire. Le vocabulaire des probabilités traduit le vocabulaire ensembliste du chapitre 1 :

Probabilités	Ensembles	Notation
issue (ou éventualité)	élément de $Ω$	$ω$
événement	partie de $Ω$	$A \subset Ω$
événement élémentaire	singleton	${ω}$
événement certain / impossible	$Ω$ / $\emptyset$
« $A$ et $B$ » / « $A$ ou $B$ »	intersection / réunion	$A \cap B$ / $A \cup B$
événement contraire	complémentaire	$A$
$A$ et $B$ incompatibles (disjoints)	$A \cap B = \emptyset$
système complet d'événements	partition de $Ω$	$A_{1} ⊔ \dots ⊔ A_{k} = Ω$

Définition 15.2Variable aléatoire

Une variable aléatoire est une application $X : Ω \to E$ (aucune autre condition dans le cadre fini !). Pour $A \subset E$ et $x \in E$ , on note

${X \in A} = (X \in A) = {ω \in Ω : X (ω) \in A}, (X = x), (X \leq x), etc.$

Ce sont des événements : toute la pratique consiste à raisonner sur ces événements, sans presque jamais revenir aux $ω$ .

15.3 Espaces probabilisés finis

Définition 15.3Probabilité, distribution

Une probabilité sur l'univers fini $Ω$ est une application $P : P (Ω) \to [0, 1]$ telle que $P (Ω) = 1$ et $P (A \cup B) = P (A) + P (B)$ pour $A, B$ incompatibles. Le couple $(Ω, P)$ est un espace probabilisé fini. On note $P (X \in A)$ , $P (X = x)$ , $P (X \leq x)$ les probabilités des événements correspondants.

Une distribution de probabilités sur un ensemble fini $E$ est une famille $(p_{x})_{x \in E}$ de réels positifs de somme $1$ . Une probabilité $P$ sur $Ω$ est entièrement déterminée par la distribution $(P ({ω}))_{ω \in Ω}$ : pour tout événement, $P (A) = \sum_{ω \in A} P ({ω})$ .

Définition 15.4Probabilité uniforme

La probabilité uniforme sur $Ω$ donne à chaque issue le même poids $\frac{1}{∣Ω∣}$ ; alors

$P (A) = \frac{∣ A ∣}{∣Ω∣} = \frac{nombre de cas favorables}{nombre de cas possibles} :$

tout calcul de probabilité uniforme est un quotient de deux dénombrements — le chapitre 14 est la salle des machines.

Proposition 15.5Règles de calcul

$P (A) = 1 - P (A), P (A \cup B) = P (A) + P (B) - P (A \cap B), P (A ∖ B) = P (A) - P (A \cap B),$

et la croissance : $A \subset B ⟹ P (A) \leq P (B)$ . (La formule du crible générale est hors programme.)

15.4 Probabilités conditionnelles

Définition 15.6Probabilité conditionnelle

Si $P (B) > 0$ , la probabilité conditionnelle de $A$ sachant $B$ est

$P (A ∣ B) = P_{B} (A) = \frac{P ( A \cap B )}{P ( B )} :$

on re-normalise l'information « $B$ s'est produit ». L'application $P_{B}$ est elle-même une probabilité sur $Ω$ . Par convention, $P (A ∣ B) P (B) = 0$ lorsque $P (B) = 0$ .

◆Théorème 15.7Les trois formules fondamentales

Probabilités composées : $P (A_{1} \cap A_{2} \cap \dots \cap A_{n}) = P (A_{1}) P (A_{2} ∣ A_{1}) P (A_{3} ∣ A_{1} \cap A_{2}) \dots$ — la formule des arbres : on multiplie le long des branches.
Probabilités totales : si $(B_{1}, \dots, B_{k})$ est un système complet d'événements,

$P (A) = i = 1 \sum k P (A ∣ B_{i}) P (B_{i})$

— on désagrège $A$ selon les scénarios $B_{i}$ .

Formule de Bayes : si $P (A) > 0$ et $P (B) > 0$ ,

$P (B ∣ A) = \frac{P ( A ∣ B ) P ( B )}{P ( A )}$

— elle renverse le conditionnement : des effets vers les causes.

15.5 Loi d'une variable aléatoire

Définition 15.8Loi

La loi d'une variable aléatoire $X : Ω \to E$ est la probabilité $P_{X}$ sur $E$ déterminée par la distribution $(P (X = x))_{x \in E}$ . On note $X \sim Y$ lorsque $P_{X} = P_{Y}$ (même loi — ce qui n'impose pas $X = Y$ !). Pour toute fonction $f$ , $f (X)$ est une variable aléatoire, et $X \sim Y ⟹ f (X) \sim f (Y)$ . On définit aussi la loi conditionnelle de $X$ sachant un événement $A$ : la distribution $(P (X = x ∣ A))_{x}$ .

Définition 15.9Les trois lois au programme

Loi uniforme sur un ensemble fini non vide $E$ , notée $X \sim U (E)$ : $P (X = x) = \frac{1}{∣ E ∣}$ pour tout $x \in E$ (le dé équilibré).
Loi de Bernoulli de paramètre $p \in [0, 1]$ , notée $X \sim B (p)$ : $X$ à valeurs dans ${0, 1}$ avec $P (X = 1) = p$ — le succès d'une expérience (et $1_{A} \sim B (P (A))$ pour tout événement $A$ ).
Loi binomiale de paramètres $n \in N^{*}$ , $p \in [0, 1]$ , notée $X \sim B (n, p)$ : à valeurs dans ${0, \dots, n}$ avec

$P (X = k) = (k n) p^{k} (1 - p)^{n - k}$

— le nombre de succès en $n$ expériences indépendantes (théorème plus bas) ; le coefficient $(k n)$ compte les positions des succès (chapitre 14), et la somme des $P (X = k)$ vaut $1$ par la formule du binôme.

Définition 15.10Couples et

n

-uplets

Un couple $(X, Y)$ de variables aléatoires est une variable aléatoire à valeurs dans un produit $E \times F$ . Sa loi conjointe est la distribution $(P (X = x, Y = y))_{(x, y)}$ ; les lois marginales (celles de $X$ et de $Y$ ) s'en déduisent en sommant :

$P (X = x) = y \sum P (X = x, Y = y)$

(mais la conjointe ne se déduit pas des marginales en général !). Extension immédiate aux $n$ -uplets $(X_{1}, \dots, X_{n})$ — le bon cadre pour décrire toute situation probabiliste finie.

15.6 Indépendance

15.6.1 Événements indépendants

Définition 15.11Indépendance d'événements

$A$ et $B$ sont indépendants si $P (A \cap B) = P (A) P (B)$ . Lorsque $P (B) > 0$ , cela équivaut à $P (A ∣ B) = P (A)$ : savoir $B$ n'apprend rien sur $A$ . Une famille finie $(A_{1}, \dots, A_{n})$ est indépendante (mutuellement) si pour toute sous-famille, la probabilité de l'intersection est le produit des probabilités.

Attention

L'indépendance deux à deux n'implique pas l'indépendance mutuelle : voir l'exercice 6 (deux lancers de pile ou face et l'événement « même résultat »). Il faut vérifier toutes les sous-familles.

Proposition 15.12

Si $A$ et $B$ sont indépendants, alors $A$ et $B$ le sont aussi (et $A$ , $B$ , etc.) ; extension au cas de $n$ événements : on peut remplacer n'importe lesquels par leurs contraires.

15.6.2 Variables aléatoires indépendantes

Définition 15.13Indépendance de variables aléatoires

$X$ et $Y$ sont indépendantes, noté $X ⊥ ⊥ Y$ , si pour tous $A \subset X (Ω)$ et $B \subset Y (Ω)$ , les événements $(X \in A)$ et $(Y \in B)$ sont indépendants. Caractérisation pratique : il suffit que la loi conjointe soit le produit des marginales,

$P (X = x, Y = y) = P (X = x) P (Y = y) pour tous x, y .$

Extension aux $n$ -uplets : la modélisation de $n$ expériences indépendantes (lancers successifs, échantillon…) est une suite finie $(X_{i})_{1 \leq i \leq n}$ de variables aléatoires indépendantes.

◆Théorème 15.14Somme de Bernoulli indépendantes

Si $X_{1}, \dots, X_{n}$ sont indépendantes de loi $B (p)$ , alors

$X_{1} + X_{2} + \dots + X_{n} \sim B (n, p) .$

Interprétation : le nombre de succès lors de la répétition de $n$ expériences indépendantes de probabilité de succès $p$ — la définition concrète de la binomiale.

Démonstration

L'événement $(X_{1} + \dots + X_{n} = k)$ est l'union disjointe, sur tous les choix des $k$ indices de succès ( $(k n)$ choix, chapitre 14), des événements « succès exactement en ces positions », chacun de probabilité $p^{k} (1 - p)^{n - k}$ par indépendance.

◆Théorème 15.15Fonctions de variables indépendantes, coalitions

Si $X ⊥ ⊥ Y$ , alors $f (X) ⊥ ⊥ g (Y)$ pour toutes fonctions $f, g$ .
Lemme des coalitions : si $X_{1}, \dots, X_{n}$ sont indépendantes, alors $f (X_{1}, \dots, X_{m})$ et $g (X_{m + 1}, \dots, X_{n})$ sont indépendantes (démonstration hors programme) — des paquets disjoints de variables indépendantes restent indépendants, même transformés. Extension à plus de deux coalitions.

15.7 Espérance

Définition 15.16Espérance

L'espérance d'une variable aléatoire $X$ réelle (ou complexe) est

$E (X) = x \in X (Ω) \sum x P (X = x) — et aussi E (X) = ω \in Ω \sum X (ω) P ({ω}) :$

la moyenne des valeurs pondérées par leurs probabilités, indicateur de position. $X$ est centrée si $E (X) = 0$ .

◆Théorème 15.17Propriétés de l'espérance

Linéarité : $E (a X + bY) = a E (X) + b E (Y)$ — sans aucune hypothèse d'indépendance ! (Conséquence immédiate de la formule sur les $ω$ .)
Positivité ( $X \geq 0 \Rightarrow E (X) \geq 0$ ), croissance, inégalité triangulaire $∣ E (X) ∣ \leq E (∣ X ∣)$ .
Espérances usuelles : $E (c) = c$ ; $X \sim B (p) \Rightarrow E (X) = p$ ; $X \sim B (n, p) \Rightarrow E (X) = n p$ ; et le pont fondamental :

$E (1_{A}) = P (A) .$

Formule de transfert : $E (f (X)) = x \in X (Ω) \sum f (x) P (X = x)$ — nul besoin de la loi de $f (X)$ ! Elle s'applique en particulier aux couples et aux $n$ -uplets : $E (f (X, Y)) = \sum_{x, y} f (x, y) P (X = x, Y = y)$ .
Si $X$ et $Y$ sont indépendantes : $E (X Y) = E (X) E (Y)$ (extension à $n$ variables indépendantes). La réciproque est fausse.

iRemarqueLa stratégie des indicatrices

Linéarité $+$ indicatrices $=$ l'arme absolue : pour compter en moyenne, écrire le compteur comme somme d'indicatrices, $N = \sum 1_{A_{i}}$ , d'où $E (N) = \sum P (A_{i})$ — sans calculer la loi de $N$ , et sans indépendance. L'espérance de la binomiale en une ligne : $E = \sum_{i = 1}^{n} E (X_{i}) = n p$ . Voir l'exercice 7 des travaux dirigés (points fixes d'une permutation aléatoire).

15.8 Variance, écart type, covariance

Définition 15.18Variance et écart type

La variance d'une variable aléatoire réelle $X$ est $V (X) = E ((X - E (X))^{2}) \geq 0$ , et l'écart type est $σ (X) = V (X)$ : des indicateurs de dispersion autour de la moyenne. Si $σ (X) > 0$ , la variable $\frac{X - E ( X )}{σ ( X )}$ est centrée réduite.

◆Théorème 15.19Propriétés de la variance

$V (a X + b) = a^{2} V (X) (d e ˊ caler ne disperse pas, dilater disperse au carr e ˊ),$

$V (X) = E (X^{2}) - E (X)^{2} (formule de Koenig-Huygens, la voie de calcul usuelle).$ Lois usuelles : $X \sim B (p) \Rightarrow V (X) = p (1 - p)$ ; $X \sim B (n, p) \Rightarrow V (X) = n p (1 - p)$ .

Définition 15.20Covariance

La covariance de deux variables réelles est

$Cov (X, Y) = E ((X - E (X)) (Y - E (Y))) = E (X Y) - E (X) E (Y) .$

$X$ et $Y$ sont décorrélées si $Cov (X, Y) = 0$ . Indépendantes $\Rightarrow$ décorrélées (par $E (X Y) = E (X) E (Y)$ ), mais la réciproque est fausse (banque, exercice 8 des travaux dirigés).

◆Théorème 15.21Variance d'une somme

$V (X + Y) = V (X) + V (Y) + 2 Cov (X, Y),$

et plus généralement $V (X_{1} + \dots + X_{n}) = \sum_{i} V (X_{i}) + 2 \sum_{i < j} Cov (X_{i}, X_{j})$ . Cas décorrélé (en particulier indépendant) : la variance est additive, $V (X_{1} + \dots + X_{n}) = \sum V (X_{i})$ — on retrouve la variance de la binomiale : $n$ Bernoulli indépendantes, $V = n p (1 - p)$ .

15.9 Inégalités probabilistes et loi des grands nombres

◆Théorème 15.22Inégalité de Markov

Si $X$ est positive et $a > 0$ :

$P (X \geq a) \leq \frac{E ( X )}{a} .$

Démonstration

$X \geq a 1_{(X \geq a)}$ (vérifier selon les cas !), et l'on prend l'espérance : $E (X) \geq a P (X \geq a)$ .

◆Théorème 15.23Inégalité de Bienaymé-Tchebychev

Pour toute variable aléatoire réelle $X$ et tout $ε > 0$ :

$P (∣ X - E (X) ∣ \geq ε) \leq \frac{V ( X )}{ε ^{2}} .$

Démonstration

Markov appliquée à la variable positive $(X - E (X))^{2}$ avec le seuil $ε^{2}$ : l'événement $(∣ X - E (X) ∣ \geq ε)$ est exactement $((X - E (X))^{2} \geq ε^{2})$ .

◆Théorème 15.24Loi faible des grands nombres (version non asymptotique)

Soient $X_{1}, \dots, X_{n}$ indépendantes de même loi, d'espérance $m$ et de variance $σ^{2}$ , et $X_{n} = \frac{X _{1} + \dots + X _{n}}{n}$ la moyenne empirique. Alors $E (X_{n}) = m$ , $V (X_{n}) = \frac{σ ^{2}}{n}$ , et pour tout $ε > 0$ :

$P (X_{n} - m \geq ε) \leq \frac{σ ^{2}}{n ε ^{2}} .$

Démonstration

Linéarité de l'espérance ; additivité de la variance (indépendance !) : $V (X_{n}) = \frac{1}{n ^{2}} \sum V (X_{i}) = \frac{σ ^{2}}{n}$ ; puis Bienaymé-Tchebychev appliquée à $X_{n}$ .

ImportantL'approche fréquentiste justifiée

Prenons $X_{i} = 1_{A_{i}}$ , indicatrices de l'événement « $A$ se réalise à la $i$ -ième répétition » : $X_{n}$ est la fréquence observée de $A$ , $m = P (A)$ , et le théorème borne explicitement la probabilité que la fréquence s'écarte de $P (A)$ :

$P (f_{n} - P (A) \geq ε) \leq \frac{1}{4 n ε ^{2}} (σ^{2} = p (1 - p) \leq \frac{1}{4}) .$

La fréquence converge vers la probabilité — non pas comme un acte de foi, mais avec une borne quantitative valable pour chaque $n$ (approche non asymptotique) : c'est la justification de l'approche fréquentiste qui fondait l'intuition du lycée, et la conclusion du programme de l'année.

Continuer sur Adloun : animation, QCM, fiches, exercices