Probabilités sur un univers fini

$$P\left(\overline{A}\right)=1-P(A),P(A\cup B)=P(A)+P(B)-P(A\cap B),$$

$$P(A\setminus B)=P(A)-P(A\cap B),$$

et la croissance : $A\subset B⟹P(A)\le P(B)$. (La formule du crible générale est hors programme.)

• Probabilités composées : $P(A_1\cap A_2\cap \cdots \cap A_n)=P(A_1)P(A_2\mid A_1)P(A_3\mid A_1\cap A_2)\cdots$ — la formule des arbres : on multiplie le long des branches.
• Probabilités totales : si $(B_1,\dots ,B_k)$ est un système complet d'événements,

$$P(A)=\sum _{i=1}^{k}P(A\mid B_i)P(B_i)$$

— on désagrège $A$ selon les scénarios $B_i$.

• Formule de Bayes : si $P(A)>0$ et $P(B)>0$,

$$P(B\mid A)=\frac{P(A\mid B)P(B)}{P(A)}$$

— elle renverse le conditionnement : des effets vers les causes.

Si $A$ et $B$ sont indépendants, alors $A$ et $\overline{B}$ le sont aussi (et $\overline{A}$, $\overline{B}$, etc.) ; extension au cas de $n$ événements : on peut remplacer n'importe lesquels par leurs contraires.

Si $X_1,\dots ,X_n$ sont indépendantes de loi $\mathcal{B}(p)$, alors

$$X_1+X_2+\cdots +X_n\sim \mathcal{B}(n,p).$$

Interprétation : le nombre de succès lors de la répétition de $n$ expériences indépendantes de probabilité de succès $p$ — la définition concrète de la binomiale.

• Si $X\perp \perp Y$, alors $f(X)\perp \perp g(Y)$ pour toutes fonctions $f,g$.
• Lemme des coalitions : si $X_1,\dots ,X_n$ sont indépendantes, alors $f(X_1,\dots ,X_m)$ et $g(X_{m+1},\dots ,X_n)$ sont indépendantes — des paquets disjoints de variables indépendantes restent indépendants, même transformés. Extension à plus de deux coalitions.

• Linéarité : $E(aX+bY)=aE(X)+bE(Y)$ — sans aucune hypothèse d'indépendance ! (Conséquence immédiate de la formule sur les $\omega$.)
• Positivité ($X\ge 0\Rightarrow E(X)\ge 0$), croissance, inégalité triangulaire $|E(X)|\le E(|X|)$.
• Espérances usuelles : $E(c)=c$ ;   $X\sim \mathcal{B}(p)\Rightarrow E(X)=p$ ;   $X\sim \mathcal{B}(n,p)\Rightarrow E(X)=np$ ;   et le pont fondamental :

$$E\left(1_A\right)=P(A).$$

• Formule de transfert : $E(f(X))=\sum _{x\in X(\Omega )}f(x)P(X=x)$ — nul besoin de la loi de $f(X)$ ! Elle s'applique en particulier aux couples et aux $n$-uplets : $E(f(X,Y))={\sum }_{x,y}f(x,y)P(X=x,Y=y)$.
• Si $X$ et $Y$ sont indépendantes : $E(XY)=E(X)E(Y)$ (extension à $n$ variables indépendantes). La réciproque est fausse.

Linéarité $+$ indicatrices $=$ l'arme absolue : pour compter en moyenne, écrire le compteur comme somme d'indicatrices, $N=\sum 1_{A_i}$, d'où $E(N)=\sum P(A_i)$ — sans calculer la loi de $N$, et sans indépendance. L'espérance de la binomiale en une ligne : $E={\sum }_{i=1}^{n}E(X_i)=np$. Voir l'exercice 8 (points fixes d'une permutation aléatoire).

$$V(aX+b)=a^{2}V(X)(\text{deˊcaler ne disperse pas, dilater disperse au carreˊ}),$$

$$\boxed{V(X)=E\left(X^2\right)-E(X{)}^2}$$

$$V(X+Y)=V(X)+V(Y)+2\mathrm{Cov}(X,Y),$$

et plus généralement $V(X_1+\cdots +X_n)={\sum }_{i}V(X_i)+2{\sum }_{i<j}\mathrm{Cov}(X_i,X_j)$. Cas décorrélé (en particulier indépendant) : la variance est additive, $V(X_1+\cdots +X_n)=\sum V(X_i)$ — on retrouve la variance de la binomiale : $n$ Bernoulli indépendantes, $V=np(1-p)$.

Si $X$ est positive et $a>0$ :

$$P(X\ge a)\le \frac{E(X)}{a}.$$

Pour toute variable aléatoire réelle $X$ et tout $\epsilon >0$ :

$$P(|X-E(X)|\ge \epsilon )\le \frac{V(X)}{{\epsilon }^2}.$$

Soient $X_1,\dots ,X_n$ indépendantes de même loi, d'espérance $m$ et de variance ${\sigma }^2$, et ${\overline{X}}_n=\frac{X_1+\cdots +X_n}{n}$ la moyenne empirique. Alors $E\left({\overline{X}}_n\right)=m$, $V\left({\overline{X}}_n\right)=\frac{{\sigma }^2}{n}$, et pour tout $\epsilon >0$ :

$$\boxed{P(\left|{\overline{X}}_n-m\right|\ge \epsilon )\le \frac{{\sigma }^2}{n{\epsilon }^2}.}$$

On lance deux dés équilibrés. Quelle est la probabilité que la somme vaille $7$ ? Et qu'elle vaille au moins $10$ ?

Une famille a deux enfants (filles et garçons équiprobables, sexes indépendants). Sachant qu'il y a au moins un garçon, quelle est la probabilité que ce soient deux garçons ?

Soit $X$ le résultat d'un dé équilibré, $X\sim \mathcal{U}(\{1,\dots ,6\})$. Calculer $E(X)$ et $V(X)$.

Une maladie touche $1\%$ de la population. Un test la détecte chez $99\%$ des malades, mais se déclenche à tort chez $5\%$ des personnes saines. Une personne est testée positive : quelle est la probabilité qu'elle soit malade ?

Un QCM comporte $10$ questions à $4$ choix ; un candidat répond entièrement au hasard. Soit $X$ son nombre de bonnes réponses. Donner la loi de $X$, $E(X)$, $V(X)$, et calculer $P(X=0)$ et $P(X\ge 1)$.

On lance deux pièces équilibrées. Soient $A$ = « la première donne pile », $B$ = « la seconde donne pile », $C$ = « les deux donnent le même côté ». Montrer que $A,B,C$ sont indépendants deux à deux mais pas mutuellement.

On tire au hasard un nombre $X\sim \mathcal{U}(\{1,2\})$ puis, indépendamment, $Y\sim \mathcal{U}(\{1,2\})$, et l'on pose $S=X+Y$, $M=\max (X,Y)$. Donner la loi conjointe de $(S,M)$, puis ses marginales. $S$ et $M$ sont-elles indépendantes ?

On tire une permutation $\sigma$ uniformément dans ${\mathcal{S}}_n$ ($n$ invités reprennent leurs chapeaux au hasard). Soit $N$ le nombre de points fixes de $\sigma$ (invités retrouvant leur chapeau). Calculer $E(N)$.

Un marcheur part de $0$ et fait $n$ pas indépendants $X_i$ valant $+1$ ou $-1$ avec probabilité $\frac{1}{2}$. Soit $S_n=X_1+\cdots +X_n$ sa position finale. Calculer $E(S_n)$ et $V(S_n)$, puis majorer $P\left(|S_n|\ge 10\sqrt{n}\right)$.

On veut estimer la probabilité $p$ qu'une pièce (peut-être truquée) donne pile, en la lançant $n$ fois et en prenant la fréquence observée $f_n$. Combien de lancers garantissent $P(|f_n-p|\ge 0,05)\le 5\%$ ?

• Dictionnaire : univers fini $\Omega$, événements $=$ parties, incompatibles, système complet $=$ partition ; variable aléatoire $=$ application $X:\Omega \to E$, événements $(X\in A)$, $(X=x)$ — on raisonne sur les variables, $\Omega$ n'est qu'une source d'aléa.
• Probabilité : déterminée par la distribution $(P(\{\omega \}))$ (positifs de somme $1$) ; uniforme : $P(A)=\frac{|A|}{|\Omega |}$ (quotient de dénombrements) ; $P(\overline{A})=1-P(A)$, union, différence, croissance (crible hors programme).
• Conditionnement : $P(A\mid B)=\frac{P(A\cap B)}{P(B)}$ ($P_B$ est une probabilité) ; composées (arbres), totales (système complet), Bayes (renverse les conditionnements — test médical !).
• Lois : $P_X$ déterminée par $(P(X=x))$ ; $X\sim Y$ ($\Rightarrow f(X)\sim f(Y)$) ; $\mathcal{U}(E)$, $\mathcal{B}(p)$, $\mathcal{B}(n,p)$ avec $\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k(1-p{)}^{n-k}$ ; loi conditionnelle ; couples : conjointe $\to$ marginales (pas l'inverse !), $n$-uplets.
• Indépendance : $P(A\cap B)=P(A)P(B)$ ; mutuelle (toutes les sous-familles !) — deux à deux n'implique pas mutuelle ; passage aux contraires ; variables : $P(X=x,Y=y)=P(X=x)P(Y=y)$ ; somme de $n$ Bernoulli indépendantes $=\mathcal{B}(n,p)$ ; $f(X)\perp \perp g(Y)$ ; lemme des coalitions.
• Espérance : $\sum xP(X=x)={\sum }_{\omega }X(\omega )P(\{\omega \})$ ; linéarité sans indépendance ; positivité, croissance ; $E(1_A)=P(A)$ — indicatrices $+$ linéarité $=$ compter en moyenne (points fixes : $E=1$) ; transfert $E(f(X))=\sum f(x)P(X=x)$ (couples inclus) ; indépendantes $\Rightarrow E(XY)=E(X)E(Y)$.
• Variance : $V(X)=E(X^2)-E(X{)}^2$ (Koenig-Huygens) ; $V(aX+b)=a^{2}V(X)$ ; centrée réduite ; $\mathcal{B}(p):p(1-p)$, $\mathcal{B}(n,p):np(1-p)$ ; covariance $E(XY)-E(X)E(Y)$, décorrélées ; $V(X+Y)=V(X)+V(Y)+2\mathrm{Cov}$, additive si décorrélées ; indépendantes $\Rightarrow$ décorrélées, réciproque fausse.
• Inégalités : Markov $P(X\ge a)\le \frac{E(X)}{a}$ ($X\ge 0$) ; Bienaymé-Tchebychev $P(|X-E(X)|\ge \epsilon )\le \frac{V(X)}{{\epsilon }^2}$ ; moyenne empirique : $V({\overline{X}}_n)=\frac{{\sigma }^2}{n}$ et $P(|{\overline{X}}_n-m|\ge \epsilon )\le \frac{{\sigma }^2}{n{\epsilon }^2}$ — loi faible des grands nombres non asymptotique, justification fréquentiste ($n\ge 2000$ lancers pour $5\%$ à $0,05$ près).