Loi des grands nombres

La loi des grands nombres formalise un résultat qui semble naturel. Elle permet de dire que plus un échantillon est grand, plus ses caractéristiques sont proches de celles de la population.

Soit $X_n$ pour $n \in \mathbb{N}^*$ une suite de variables aléatoires deux à deux indépendantes et de même loi. Pour tout entier $n \geq 2$, on note $M_n = \dfrac{X_1 + X_2 + \dots + X_n}{n}$.

Alors, pour tout réel $\varepsilon \gt 0$ : $\lim\limits_{n \to +\infty} P(|M_n - \mu| \geq \varepsilon) = 0$

Remarque : On dit que la suite $M_n$ converge en probabilité vers $\mu$.

Pour tout entier $n$ supérieur ou égal à $2$, $X_1, X_2, \dots, X_n$ est un échantillon de taille $n$ de la loi de probabilité, et $M_n$ est la moyenne de cet échantillon.

Remarque : Si on pose $S_n = X_1 + X_2 + \dots + X_n = n M_n$, alors :

La loi énoncée ici est appelée « loi faible des grands nombres ». Il existe une « loi forte des grands nombres », correspondant à une convergence « plus forte » que la convergence en probabilité, c’est-à-dire entraînant cette dernière.

Si l’on répète une série d’épreuves identiques, indépendantes et nombreuses, modélisées par les variables aléatoires $X_1, X_2, \dots, X_n, \dots$, il est probable que la moyenne observée des $X_i$ (on l’appelle aussi moyenne empirique) soit voisine de l’espérance $\mu$ des $X_i$. La probabilité que la moyenne observée s’écarte beaucoup de l’espérance est faible.

De cette loi, on déduit l’interprétation usuelle de l’espérance comme moyenne des valeurs des $X_i$ sur un grand nombre d’expériences.

La loi des grands nombres fournit aussi une justification a posteriori de l’approche fréquentiste des probabilités : la probabilité d’un événement peut être approchée par la fréquence de réalisation de cet événement lors de la réalisation d’un grand nombre d’expériences (d’où le vocabulaire « loi des grands nombres »).

On lance un grand nombre de fois une pièce équilibrée.

Pour tout entier naturel $n \geq 2$, on note $S_n$ la variable aléatoire égale au nombre de « pile » que l’on obtient au cours des $n$ premiers lancers.

a. Pourquoi peut-on affirmer qu’il existe un entier naturel $N$ tel que, si $n \geq N$, alors $P(|S_n - \dfrac{n}{2}| \geq 0,1n) \lt 0,05$ ?

b. Montrer que $P(0,4n \lt S_n \lt 0,6n) \geq 0,95$ équivaut à :

$P(|S_n - \dfrac{n}{2}| \geq 0,1n) \lt 0,05$.

c. Déterminer un entier naturel $N$ tel que, si $n \geq N$, alors $P(0,4n \lt S_n \lt 0,6n) \geq 0,95$.

Conseils

a. Utilisez la loi des grands nombres et la définition d’une suite convergente.

b. Considérez des événements contraires.

c. Utilisez l’inégalité de concentration.

Solution

a. $S_n = X_1 + X_2 + \dots + X_n$, où $X_i$ est la variable de Bernoulli de paramètre $\dfrac{1}{2}$ qui prend la valeur $1$ si le $i$-ième lancer donne « pile », la valeur $0$ sinon. Les variables $X_1, X_2, \dots, X_n$ sont indépendantes et suivent la même loi de Bernoulli de paramètre $\dfrac{1}{2}$.$|S_n - \dfrac{n}{2}| \geq 0,1n$ équivaut à $|M_n - \dfrac{1}{2}| \geq 0,1$. D’après la loi des grands nombres, $P(|M_n - \dfrac{1}{2}| \geq 0,1)$ tend vers $0$ quand $n$ tend vers $+\infty$, donc il existe $N$ tel que, si $n \geq N$, alors $P(|M_n - \dfrac{1}{2}| \geq 0,1) \lt 0,05$, et donc $P(|S_n - \dfrac{n}{2}| \geq 0,1n) \lt 0,05$.

b. $0,4n \lt S_n \lt 0,6n$ équivaut à $-0,1n \lt S_n - 0,5n \lt 0,1n$, soit $|S_n - \dfrac{n}{2}| \lt 0,1n$. Donc $P(0,4n \lt S_n \lt 0,6n) \geq 0,95$ équivaut à :$P(|S_n - \dfrac{n}{2}| \lt 0,1n) \geq 0,95$, soit $P(|S_n - \dfrac{n}{2}| \geq 0,1n) \lt 0,05$.c. D’après ce qui précède, on cherche $N$ tel que, si $n \geq N$, alors :$P(|M_n - \dfrac{1}{2}| \geq 0,1) \lt 0,05$. Or, d’après l’inégalité de concentration :$P(|M_n - \dfrac{1}{2}| \geq 0,1) \leq \dfrac{2}{5n}$ (car $V = \dfrac{1}{4}$).