Probabilités sur un ensemble quelconque

Cours complet · mathématiques approfondies (ECG 1re année), chapitre 10 · prépa ECG, 1re année

Travailler ce chapitre sur Adloun Exercices corrigés de ce chapitre

Le premier semestre s'était restreint à un univers fini. On lève ici cette restriction — et l'on découvre deux objets qui n'existaient pas : les lois prenant une infinité de valeurs, et les théorèmes qui décrivent ce qui arrive à la longue, quand on répète une expérience un grand nombre de fois.

AttentionLe niveau d'exigence

Le vocabulaire général est adopté — $(Ω, A, P)$ — mais aucune difficulté théorique sur l'ensemble des événements n'est soulevée, et le mot tribu n'est pas employé. On ne soulève pas davantage les questions d'ordre de sommation ni de dénombrabilité.

10.1 Espace probabilisé

Définition 10.1Espace probabilisé

$Ω$ est l'univers, $A$ l'ensemble des événements — il contient $Ω$ et est stable par complémentaire, union et intersection dénombrables. Une probabilité est une application $P : A \to [0, 1]$ , $σ$ -additive et telle que $P (Ω) = 1$ . Le triplet $(Ω, A, P)$ est un espace probabilisé.

iRemarqueCe qu'ajoute le

σ

L'additivité finie ne suffit plus : il faut que la probabilité d'une réunion dénombrable d'événements deux à deux incompatibles soit la somme de la série de leurs probabilités. C'est ce passage du fini au dénombrable qui permet de parler d'un premier succès arrivant à un rang quelconque.

◆Théorème 10.2Limite monotone

Soit $(A_{n})$ une suite d'événements.

Si $(A_{n})$ est croissante pour l'inclusion : $P (⋃_{k = 0}^{+ \infty} A_{k}) = lim_{n \to + \infty} P (A_{n})$ ;
si $(A_{n})$ est décroissante : $P (⋂_{k = 0}^{+ \infty} A_{k}) = lim_{n \to + \infty} P (A_{n})$ .

Définition 10.3Négligeable, presque sûr

Un événement de probabilité nulle est dit négligeable ; un événement de probabilité $1$ est dit presque sûr. Une propriété vraie sur un événement presque sûr est vraie presque sûrement.

ImportantNégligeable n'est pas impossible

« Obtenir une suite infinie de piles » a une probabilité nulle — et pourtant cet événement n'est pas vide : c'est une issue parfaitement décrite. La probabilité nulle ne signifie pas l'impossibilité ; c'est une distinction que l'univers fini ne permettait pas de faire.

◆Théorème 10.4Formules générales

Les probabilités conditionnelles, la formule des probabilités composées et celle des probabilités totales s'étendent aux systèmes complets dénombrables :

$P (B) = n \in N \sum P_{A_{n}} (B) P (A_{n}),$

et la formule de Bayes s'en déduit. Si $P (A) \neq = 0$ , $(Ω, A, P_{A})$ est lui-même un espace probabilisé.

10.2 Variables aléatoires discrètes

Définition 10.5Variable aléatoire discrète, loi

$X : Ω \to R$ est une variable aléatoire discrète si $X (Ω)$ est fini ou dénombrable et si $[X = x]$ est un événement pour tout $x$ . Sa loi est la donnée de $X (Ω)$ et des $P (X = x)$ .

Définition 10.6Fonction de répartition

La fonction de répartition de $X$ est définie sur $R$ par

$F_{X} (x) = P (X \leq x) .$

Elle est croissante, tend vers $0$ en $- \infty$ et vers $1$ en $+ \infty$ .

Définition 10.7Indépendance de variables aléatoires

$X_{1}, \dots, X_{n}$ sont mutuellement indépendantes si pour tous $x_{1}, \dots, x_{n}$ :

$P ([X_{1} = x_{1}] \cap \dots \cap [X_{n} = x_{n}]) = i = 1 \prod n P (X_{i} = x_{i}) .$

10.2.1 Espérance et variance

Définition 10.8Espérance

Si $X (Ω)$ est infini, $X$ admet une espérance si et seulement si la série $\sum x P (X = x)$ est absolument convergente ; l'espérance est alors sa somme.

iRemarquePourquoi l'absolue convergence

Sans elle, la somme dépendrait de l'ordre d'énumération des valeurs — ce qui n'aurait aucun sens pour une moyenne. Et il existe des variables aléatoires sans espérance : la condition n'est pas une formalité.

◆Théorème 10.9Linéarité, croissance, domination, transfert — admis

$E (a X + bY) = a E (X) + b E (Y)$ ; $X \geq 0 \Rightarrow E (X) \geq 0$ . Existence par domination : si $∣ X ∣ \leq Y$ et si $Y$ admet une espérance, alors $X$ en admet une. Transfert : $g (X)$ admet une espérance si et seulement si $\sum g (x) P (X = x)$ converge absolument, et alors $E (g (X)) = \sum_{x} g (x) P (X = x)$ .

ImportantLa domination, outil d'existence

C'est le seul moyen simple de montrer qu'une espérance existe sans la calculer : on majore $∣ X ∣$ par une variable dont on sait déjà qu'elle a une espérance. Le même schéma qu'en séries — comparer plutôt que calculer.

◆Théorème 10.10Variance, Kœnig-Huygens

$V (X) = E [(X - E (X))^{2}] = E (X^{2}) - (E (X))^{2}$ , et $V (a X + b) = a^{2} V (X)$ . De plus $V (X) = 0$ si et seulement si $X$ est certaine (presque sûrement constante).

10.3 Lois usuelles

Définition 10.11Loi géométrique

$X ↪ G (p)$ , $0 < p < 1$ , est le rang d'apparition du premier succès dans une suite d'épreuves de Bernoulli indépendantes :

$\forall k \in N^{*}, P (X = k) = p (1 - p)^{k - 1}, E (X) = \frac{1}{p}, V (X) = \frac{1 - p}{p ^{2}} .$

Démonstration

Posons $q = 1 - p$ . Alors $E (X) = p \sum_{k \geq 1} k q^{k - 1} = \frac{p}{( 1 - q ) ^{2}} = \frac{1}{p}$ , en utilisant la série $\sum k q^{k - 1}$ du chapitre 8. Puis $E [X (X - 1)] = pq \sum_{k \geq 2} k (k - 1) q^{k - 2} = \frac{2 q}{p ^{2}}$ , d'où $V (X) = \frac{2 q}{p ^{2}} + \frac{1}{p} - \frac{1}{p ^{2}} = \frac{q}{p ^{2}}$ .

iRemarqueSans mémoire

Sachant qu'on a déjà échoué $n$ fois, la loi du nombre d'essais restants est encore $G (p)$ : le passé n'informe pas l'avenir. C'est vrai d'un dé, et faux d'une machine qui s'use.

Définition 10.12Loi de Poisson

$X ↪ P (λ)$ , $λ > 0$ , si $X (Ω) = N$ et

$P (X = k) = e^{- λ} \frac{λ ^{k}}{k !}, E (X) = V (X) = λ .$

iRemarqueEspérance égale variance

C'est la signature de la loi de Poisson. Sur des données réelles, un rapport $\frac{variance}{moyenne}$ nettement différent de $1$ exclut ce modèle — un test à faire avant tout ajustement.

10.4 Couples de variables aléatoires

Définition 10.13Loi d'un couple

La loi conjointe du couple $(X, Y)$ est la donnée des $P ([X = x] \cap [Y = y])$ pour $(x, y) \in X (Ω) \times Y (Ω)$ . Les lois marginales s'en déduisent en sommant sur l'autre variable.

Proposition 10.14Indépendance

$X$ et $Y$ sont indépendantes si et seulement si pour tous $x, y$ : $P ([X = x] \cap [Y = y]) = P (X = x) P (Y = y)$ .

ImportantLes marginales ne suffisent pas

Deux couples très différents peuvent avoir les mêmes lois marginales. La loi conjointe contient strictement plus d'information — et c'est exactement cette information supplémentaire qui décide de l'indépendance.

◆Théorème 10.15Stabilité des lois binomiale et de Poisson

Si $X_{1} ↪ B (n_{1}, p)$ et $X_{2} ↪ B (n_{2}, p)$ sont indépendantes, alors $X_{1} + X_{2} ↪ B (n_{1} + n_{2}, p)$ . Si $X_{1} ↪ P (λ_{1})$ et $X_{2} ↪ P (λ_{2})$ sont indépendantes, alors $X_{1} + X_{2} ↪ P (λ_{1} + λ_{2})$ .

AttentionLe paramètre

p

doit être le même

Pour la binomiale, seuls les nombres d'épreuves s'ajoutent : additionner deux binomiales de probabilités différentes ne donne pas une binomiale. Pour Poisson, il n'y a pas de telle contrainte.

◆Théorème 10.16Transfert pour un couple, espérance d'un produit

Sous réserve de convergence absolue, $E (g (X, Y)) = \sum_{(x, y)} g (x, y) P ([X = x] \cap [Y = y])$ . Et si $X$ et $Y$ sont indépendantes et admettent chacune une espérance, alors $X Y$ en admet une et

$E (X Y) = E (X) E (Y) .$

AttentionL'indépendance est requise ici, pas pour la somme

$E (X + Y) = E (X) + E (Y)$ est vraie toujours ; $E (X Y) = E (X) E (Y)$ exige l'indépendance. Confondre les deux est l'erreur la plus coûteuse du chapitre.

10.5 Convergences et approximations

◆Théorème 10.17Inégalité de Markov

Si $X$ est une variable aléatoire positive admettant une espérance, alors pour tout $λ > 0$ :

$P (X \geq λ) \leq \frac{E ( X )}{λ} .$

◆Théorème 10.18Inégalité de Bienaymé-Tchebychev

Si $X$ admet espérance et variance, alors pour tout $ε > 0$ :

$P (∣ X - E (X) ∣ \geq ε) \leq \frac{V ( X )}{ε ^{2}} .$

ImportantÀ quoi servent ces inégalités

Elles majorent une probabilité sans connaître la loi — seulement l'espérance, ou l'espérance et la variance. La majoration est grossière, mais elle est universelle : c'est tout son intérêt.

◆Théorème 10.19Loi faible des grands nombres

Soit $(X_{n})$ une suite de variables aléatoires indépendantes de même loi, admettant une espérance $m$ et une variance. En posant $X_{n} = \frac{X _{1} + \dots + X _{n}}{n}$ , on a pour tout $ε > 0$ :

$n \to + \infty lim P (∣ X_{n} - m ∣ \geq ε) = 0.$

Démonstration

$E (X_{n}) = m$ par linéarité, et $V (X_{n}) = \frac{V ( X _{1} )}{n}$ par indépendance. Bienaymé-Tchebychev donne alors $P (∣ X_{n} - m ∣ \geq ε) \leq \frac{V ( X _{1} )}{n ε ^{2}} \to 0$ .

ImportantCe que ce théorème fonde

Appliqué à des variables de Bernoulli, il dit que la fréquence observée d'un événement s'approche de sa probabilité. C'est ce qui justifie l'approche intuitive des probabilités par les fréquences — et ce qui autorise à estimer une probabilité par simulation quand le calcul est hors de portée.

◆Théorème 10.20Approximation de la binomiale par Poisson

Si $X_{n} ↪ B (n, \frac{λ}{n})$ , alors pour tout $k \in N$ :

$n \to + \infty lim P (X_{n} = k) = e^{- λ} \frac{λ ^{k}}{k !} .$

Python : Vérifier une inégalité et une convergence


import numpy as np
import numpy.random as rd

p, eps = 0.3, 0.05
for n in [10, 100, 1000, 10000]:
    # 20000 moyennes
    X = rd.binomial(1, p, size=(20000, n)).mean(axis=1)
    obs  = np.mean(np.abs(X - p) >= eps)          # frequence observee
    borne = p * (1 - p) / (n * eps ** 2)         # Bienayme-Tchebychev
    print(n, round(obs, 4), round(min(borne, 1), 4))

La fréquence observée reste toujours sous la borne — souvent très en dessous : l'inégalité est grossière, mais elle ne se trompe jamais. Et elle tend vers $0$ : c'est la loi faible des grands nombres, vue à l'œuvre.

10.6 L'essentiel du chapitre

Fiche de synthèse

$σ$ -additivité et limite monotone : les probabilités suivent les suites croissantes ou décroissantes d'événements.
Négligeable $\neq =$ impossible : probabilité nulle sans être vide.
Espérance : série absolument convergente. Domination pour l'existence, transfert pour le calcul.
Fonction de répartition $F_{X} (x) = P (X \leq x)$ : un escalier qui cumule les bâtons de la loi.
$G (p)$ : $p (1 - p)^{k - 1}$ , $\frac{1}{p}$ , $\frac{1 - p}{p ^{2}}$ , sans mémoire. $P (λ)$ : espérance $=$ variance $= λ$ .
Stabilité : $B (n_{1}, p) + B (n_{2}, p) = B (n_{1} + n_{2}, p)$ — même $p$ ; \ $P (λ_{1}) + P (λ_{2}) = P (λ_{1} + λ_{2})$ .
$E (X + Y) = E (X) + E (Y)$ toujours ; $E (X Y) = E (X) E (Y)$ seulement si indépendantes.
Markov : $P (X \geq λ) \leq E (X) / λ$ ( $X \geq 0$ ). Bienaymé-Tchebychev : $P (∣ X - E (X) ∣ \geq ε) \leq V (X) / ε^{2}$ .
Loi faible des grands nombres : la fréquence tend vers la probabilité. Binomiale $\to$ Poisson quand $n p = λ$ .

Continuer sur Adloun : animation, QCM, fiches, exercices