\noindent
Dans tout ce chapitre, $(\O,\cF,\PP)$ est un espace probabilisé.\\

\section{Indépendance de familles d'événements et de variables aléatoires}

\begin{deff}
a) Les événements $A$ et $B$ sont dits indépendants si et seulement si $\PP (A\cap B)=\PP(A)\PP(B)$.\\
b) Deux familles d'événements $\cA_1$ et $\cA_2$ sont dites indépendantes si et seulement si tout élément de $\cA_1$ est indépendant de tout élément de $\cA_2$.
\end{deff}

%\begin{remf}
%On note alors $A||B$ pour $A$ indépendant de $B$ et $\cA_1 || \cA_2$ pour $\cA_1$ indépendant de $\cA_2$.
%\end{remf}

\begin{thf}
\label{ind-dyn} Soient ${\cC}_1$ et $\cC_2$ deux $\pi$-systèmes contenus dans $\cF$. On note $\cF_i$ la tribu engendrée
par $\cC_i$. Alors $\cF_1$ est indépendant de $\cF_2$ si et seulement si $\cC_1$ est indépendant de $\cC_2$.
\end{thf}

\begin{demo}
La condition nécessaire étant triviale, passons à la condition suffisante. C'est une conséquence de la proposition
\ref{uniciteduprolongementdesmesures}, qui est une conséquence directe du théorème de Dynkin.  En effet, pour un
$C_1\in \cC_1$ fixé, les deux applications définies sur $\cF$ par :
$$I\in \cF \rightarrow \PP(I)\PP(C_1) \; \; ,\; \; I\in \cF \rightarrow \PP(I\cap C_1)$$
Ce sont deux mesures finies de même masse et coïncidant sur un $\pi$-système, à savoir $\cC_2$. Elles coïncident donc sur la tribu engendrée par $\cC_2$ :
$$\forall C_1 \in \cC_1, \forall F_2 \in \cF_2, \PP(F_2)\PP(C_1)=\PP(F_2\cap C_1).$$
Soit maintenant $F_2 \in \cF_2$ fixé. Considérons les deux applications
$$I\in \cF \rightarrow \PP(I)\PP(F_2) \; \; ,\; \; I\in \cF \rightarrow \PP(I\cap F_2)$$
sont deux mesures de masses égales finies  coïncidant sur le $\pi$-système $\cC_1$ : elles coïncident sur la tribu
engendrée $\cF_1$, c.q.f.d.
\end{demo}

On verra dans la section 3 une généralisation de ce théorème (théorème des coalitions).\\

\begin{deff}
Soient $X_1$ et $X_2$ deux variables aléatoires. On dit que $X_1$ et $X_2$ sont indépendantes si et seulement si les
tribus engendrées $\s (X_1)$ et $\s (X_2)$ le sont.
\end{deff}

\begin{remf}
Si $X_1$ et $X_2$ sont deux variables aléatoires indépendantes et si $f_1$ et $f_2$ sont des fonctions boréliennes
alors $f_1 (X_1)$ et $f_2(X_2)$ sont indépendantes (car $\sigma (f_i (X_i))\subset \sigma(X_i)$). Par exemple, si $X_1$
et $X_2$ sont deux vecteurs aléatoires alors toute composante (ou marginale) de $X_1$ est indépendante de toute
composante (marginale) de $X_2$.
\end{remf}


\subsection*{Lois jointes}
\begin{deff}
Soient $X_1$ et $X_2$ deux variables aléatoires à valeurs respectivement dans $\RR^n$ et $\RR^m$. La loi jointe de
$X_1$ et $X_2$ est la loi du couple $(X_1,X_2) \in \RR^{n+m}$. C'est donc une probabilité sur $(\RR^{n+m},\cB (\RR^{n
+m}))=(\RR^n\times \RR^m, \cB (\RR^n)\otimes \cB (\RR^m))$.
\end{deff}

\noindent On n'a en g\'en\'eral bien-s\^ur pas $\PP_{(X_1,X_2)}=\PP_{X_1} \otimes \PP_{X_2}$. C'est cependant vrai dans
le cas de deux variables aléatoires indépendantes.

\begin{propf}
$X_1$ et $X_2$ sont indépendantes si et seulement si la loi du couple $(X_1,  X_2)$ est le produit tensoriel des lois
de $X_1$ et de $X_2$, $\PP_{(X_1,X_2)}=\PP_{X_1}\otimes\PP_{X_2}$.
\end{propf}

\begin{demo}
Si $X_1$ et $X_2$ sont indépendantes, pour tout borélien $A$ de $\RR^n$ et tout borélien $B$ de $\RR^m$,
$$\PP_{(X_1,X_2)}(A\times B)=\PP (X_1\in A, X_2\in B)=\PP(X_1\in A)\PP(X_2\in B)=\PP_{X_1} (A) \PP_{X_2} (B)$$
et $\PP_{(X_1,X_2)}$ est une probabilité sur $(\RR^{n+m},\cB (\RR^n)\otimes \cB (\RR^m))$. Par l'unicité dans le
théorème de Fubini,
$$\PP_{(X_1,X_2)}=\PP_{X_1} \otimes \PP_{X_2}$$
La réciproque se traite de même en utilisant ici la propriété caractéristique des mesures produits dans le théorème de
Fubini.
\end{demo}


\begin{propf}
\label{ind-prop1}
Soient $X_1$ et $X_2$ deux variables aléatoires à valeurs dans $(\RR^d, \cB (\RR^d))$. Les affirmations suivantes sont équivalentes :\\
i) $X_1$ est indépendante de $X_2$.\\
ii) Pour toutes fonctions boréliennes positives $f_1$ et $f_2$, on a
$${\mathbb E}\left[f_1 (X_1)f_2(X_2)\right]={\mathbb E}\left[f_1(X_1)\right]{\mathbb E}\left[f_2(X_2)\right]$$
iii)  Pour toutes fonctions boréliennes bornées $f_1$ et $f_2$, on a
$${\mathbb E}\left[f_1 (X_1)f_2(X_2)\right]={\mathbb E}\left[f_1(X_1)\right]{\mathbb E}\left[f_2(X_2)\right]$$
\end{propf}

\begin{demo}
La démonstration peut se faire très rapidement en invoquant la proposition précédente et le théorème de Fubini.
 Nous choisirons ici de faire la preuve avec la ``machine standard''.\\
$i)\Rightarrow ii)$ : $ii)$ est vraie pour les fonctions indicatrices de boréliens par définition de l'indépendance.
Par linéarité de l'espérance, c'est aussi vrai en développant pour les fonctions étagées de la forme
$\sum_{i=1}^{n}\a_i 1_{A_i}$ où les $\a_i$ sont des scalaires et les $A_i$ des boréliens. Or toute fonction borélienne
positive est limite
 croissante de fonctions de cette forme. Par application du théorème de Beppo-Levi, on a $ii)$.\\
$ii)\Rightarrow iii)$ : Il suffit d'écrire $f_i$ comme la différence de sa partie positive et de sa partie négative
$f_i=f_i^+-f_i^{-}$ et de développer à nouveau.\\
$iii)\Rightarrow i)$ : Prendre pour $A_1, A_2\in \mathcal B(\RR^d)$, $f_1:=\indic_{A_1}$, $f_2:=\indic_{A_2}$. Alors
$\EE(f_1(X_1)f_2(X_2)=\Pro(X_1\in A_1 \hbox{ et }X_2\in A_2)$ et $\EE(f_i(X_i))=\Pro(X_i\in  A_i)$, $i=1,2$.
\end{demo}

\section{Critères d'indépendance}

\noindent
\textit{1) En termes de fonction de répartition}\\
On rappelle que si $X$ est une variable aléatoire à valeurs dans $\RR^d$, la fonction de répartition de $X$ est donnée par
$$\forall x \in \RR^d, \;F_{X}(x)=\Pro[X\leq x]$$
où l'on a muni $\RR^d$ de l'ordre partiel usuel. On rappelle d'autre part que la loi de $X$ est la mesure image de $\PP$ par $X$, c'est-à-dire la probabilité sur $\RR^d$, $\PP_X$ définie par
$$\forall A\in \cB (\RR^d),\; \PP_{X} (A)=\PP (X \in A)$$
On rappelle enfin que la fonction de répartition caractérise entièrement la loi de $X$ (conséquence du théorème de Dynkin).\\
$X_1$ est indépendante de $X_2$ si et seulement si $F_{(X_1,X_2)}=F_{X_1}\otimes F_{X_2}$ o\`u $F_{X_{1}}\otimes F_{X_{2}}$ est d\'efinie par
$$(F_{X_{1}}\otimes F_{X_{2}})(x_1,x_2)=F_{X_{1}}(x_1)F_{X_{2}}(x_2)$$
$F_{(X_1,X_2)}=F_{X_1}\otimes F_{X_2}$ est en effet équivalent à $\PP(X_1 \leq x_1, X_2 \leq x_2)= \PP(X_1 \leq
x_1)\PP(X_2 \leq x_2)$.
Or $\cC_i=\left\{\{X_i\leq x_i\}; x_i \in \RR^{d_i}\right\}$ est un $\pi$-système engendrant $\s (X_i)$.
 La condition précédente nous dit que $\cC_1$ est indépendant de $\cC_2$ donc par le théorème $\ref{ind-dyn}$, $\s (X_1)$ est indépendant de $\s (X_2)$, c.q.f.d.\\

\noindent
\textit{2) En termes de densités}\\
a) Si les variables aléatoires $X_1$ et $X_2$ sont indépendantes et admettent des densités $f_1$ et $f_2$ alors la
variable aléatoire $(X_1,X_2)$ admet une densité $f_1 \otimes f_2$, produit direct de $f_1$ et $f_2$ : $$\forall x_1
\in \RR^{d_1}, \forall x_2 \in {\RR^{d_2}}, (f_1 \otimes f_2) (x_1,x_2)=f_1 (x_1) f_2 (x_2)$$ b) Inversement, si la
variable aléatoire $(X_1,X_2)$ admet une densité produit direct de deux fonctions intégrables positives $f_1$ et $f_2$
alors à des constantes multiplicatives près, $X_1$ admet une densité $f_1$ et $X_2$ admet une
densité $f_2$ et $X_1$ et $X_2$ sont indépendantes.\\
a) En utilisant le théorème de Fubini, on voit aisément que $\PP_{(X_1, X_2)}$ et la probabilité définie par $f_1
\otimes f_2$ coïncident sur le $\pi$-système $\cC=\left\{A_1\times A_2; \; A_1 \in \cB (\RR^{d_1}), A_{2}\in \cB
(\RR^{d_2}) \right\}$ donc sont égales par l'unicité du prolongement des mesures (Dynkin : deux mesures finies qui coïncident sur un $\pi$-système
$\mathcal P$ coïncident sur $\sigma(\mathcal P)$).\\
b) Si l'on se donne des boréliens $A_1$ et $A_2$, on a $$\PP ((X_1, X_2) \in A_1\times A_2)=\left(\int_{A_1}{\cfrac{f_1
(x_1)}{\left(\int_{\RR^{d_1}}f_1\right)}dx_1}\right)\left(\int_{A_2}{\cfrac{f_2
(x_2)}{\left(\int_{\RR^{d_2}}f_2\right)}dx_2}\right)$$ En prenant successivement $A_1={\RR}^{d_1}$ puis
$A_2=\RR^{d_2}$, on obtient que la loi de $X_1$ est donn\'ee par la densit\'e $\cfrac{f_{1}}{\int f_{1}}$ et celle de
$X_2$ par la densit\'e $\cfrac{f_{2}}{\int f_{2}}$.On d\'eduit de l'\'egalit\'e pr\'ec\'edente l'ind\'ependance de
$X_1$ et $X_2$.\\

\noindent
\textit{3) Pour des variables aléatoires discrètes}\\
Si les variables aléatoires $X_1$ et $X_2$ sont discrètes, il en est de même pour $(X_1,X_2)$. Pour que $X_1$ et $X_2$ soient indépendantes, il faut et il suffit que
$$\forall x_1 \in X_1 (\O), \forall x_{2} \in X_2 (\O), \; \PP(X_1 = x_1, X_2 =x_2)=\PP (X_1 =x_1)\PP (X_2=x_2)$$
La démonstration de cette propriété est laissée en exercice. Le point important est de remarquer que pour une variable discrète $X$ à valeurs
dans un ensemble discret $E$ les ensembles atomiques $\{X=e\},$ $e\in E$ forment un $\pi$-système qui engendre $\sigma(X)$.\\

Nous passons maintenant à une propriété vérifiée par les variables aléatoires indépendantes. Inutile de dire que la réciproque de cette propriété est en général fausse.\\
\begin{propf}
Soit $X_1$ et $X_2$ deux variables aléatoires réelles indépendantes.\\
1) Si $X_1$ et $X_2$ sont dans $\LL^{1}$ alors $X_1 X_2$ est dans $\LL^1$ et ${\mathbb E}(X_1 X_2)={\mathbb E} (X_1){\mathbb E}(X_2)$.\\
2) Si $X_1$ et $X_2$ sont dans $\LL^2$ alors $cov(X_1, X_2)=0$ et $\s_{X_1+X_2}^{2}=\s_{X_1}^2 + \s_{X_2}^{2}$.\\
\end{propf}

\textbf{Rappel :} La covariance de deux variables aléatoires réelles $X$ et $Y$ est définie par $cov(X,Y)={\mathbb E}((X-{\mathbb E}(X))(Y-{\mathbb E}(Y)))={\mathbb E}(XY)-{\mathbb E}(X){\mathbb E} (Y)$ et $\s_{X}^{2}=Cov(X,X)$.

\begin{demo}
1) Pour montrer que $X_1 X_2$ est intégrable, on applique le ii) de la proposition $\ref{ind-prop1}$ avec $f_1 =f_2=|\cdot|$. Pour établir l'égalité entre les espérances, on écrit $X_1$ et $X_2$ comme différence
de leurs parties positives et négatives respectives. Par linéarité de l'espérance, on se ramène ainsi au cas de variables aléatoires positives. On applique alors à nouveau la proposition $\ref{ind-prop1}$, ii) avec $f_1=f_2=id$.\\
2) Evident.\\
\end{demo}

\section{Indépendance généralisée}
\noindent
Soit $I$ un ensemble quelconque, dénombrable ou pas.\\

\begin{deff}{\rm (Indépendance de familles d'évènements et de variables aléatoires)}\newline


\begin{itemize}
\item
Soit $(A_i)_{i\in I}$ une famille d'événements. Les événements $(A_i)_{i\in I}$ sont dits indépendants ssi:
$$\forall J\subset\subset I, \PP\left(\cap_{j\in J}A_j\right)=\prod_{j\in J}\PP (A_j)$$
\item
Des familles d'événements $(\cA_i)_{i\in I}$ sont indépendantes ssi pour tout choix d'un $A_i$ dans $\cA_i$, la famille d'événements $(A_i)_{i\in I}$ est constituée d'événements indépendants.
\item
On dira qu'une famille de variables aléatoires $(X_i)_{i\in I}$ est une famille de variables aléatoires indépendantes ssi les $(\s (X_i))_{i\in I}$ le sont.
\end{itemize}
\end{deff}

Le théorème suivant qui est une généralisation du théorème vu dans la section 1 signifie simplement que l'indépendance se conserve par ``regroupements disjoints''.

\begin{thf} (``des coalitions'')\\
Soit une famille $(\cC_i)_{i\in I}$ de $\pi$-systèmes indépendants contenus dans une tribu $\cF$. On note $\cF_i=\s (\cC_i)$ la tribu engendr\'ee par $\cC_i$. Soit $(I_j)_{j\in J}$ une partition quelconque de $I$ et pour tout $j\in J$, $\cG_j = \s \left(\cup_{i\in I_j}{\cC}_i \right)$.\\
Alors les tribus $(\cG_j)_{j\in J}$ sont indépendantes. En particulier, les tribus $(\cF_i)_{i\in I}$ sont indépendantes.
\end{thf}

\begin{demo}
La démonstration dans le cas fini est faite dans le Durett et dans l'Ouvrard.  Durett donne pratiquement tous les éléments pour traiter le cas infini. Dans le cas infini, on pourra trouver une démonstration bien faite dans le Buchwalter.\\
On commence par montrer le théorème pour $J=I$ et $I_j=\{j\}$. Dans ce cas, il est clair que l'on peut se ramener au cas $I$ fini. On suppose pour simplifier les notations que $I=\{1,\ldots,n\}$ et on rappelle que le cas $n=2$ a été vu dans la section 1.\\
On fixe $A_2 \in \cC_2,\ldots,A_n \in \cC_n$ et on considère les deux applications suivantes sur $\cF_1$
$$B_1 \in \cF_1 \rightarrow \PP (B_1\cap A_2\cap\ldots\cap A_n)$$
$$B_1 \in \cF_1 \rightarrow \PP(B_1)\PP (A_2)\ldots\PP(A_n)$$
Ce sont deux mesures de même masse finie (faire $B_1=\Omega_1$) qui coïncident sur le $\pi$-système $\cC_1$ donc sur $\cF_1$.\\
On fixe ensuite $B_1 \in \cF_1,A_3 \in \cC_3, \ldots, A_n \in \cC_n$ et on considère les deux applications
$$B_2 \in \cF_2 \rightarrow \PP (B_1\cap B_2\cap A_3\ldots\cap A_n)$$
$$B_2 \in \cF_2 \rightarrow \PP(B_1)\PP (B_2)\PP(A_3)\ldots\PP(A_n)$$
qui sont des mesures de même masse finie (appliquer ce qui pr\'ec\`ede en faisant $B_2=\Omega_2$) coïncidant sur le $\pi$-système $\cC_2$ donc sur $\cF_2$. Et on continue ainsi pour obtenir le résultat annoncé.\\

On a donc obtenu le théorème pour le cas de la partition triviale. On définit
\begin{equation*}
\cL_j= \left\{\cap_{i\in I_j}A_i ;\; A_i \in \cC_i \mbox{ pour un nombre fini d'indices et \; } A_i=\O \mbox{\; autrement}\right\}
\end{equation*}
C'est un $\pi$-système contenant tous les $\cC_i$ pour $i \in I_j$ donc $\s(\cL_j)$ contient $\cG_j$. Or les $\cC_i$ sont indépendants donc les $\cL_j$ le sont : il suffit de l'écrire. D'après ce qui précède, les $\s (\cL_j)_j$ sont des tribus indépendantes et il en est donc de même des $(\cG_j)_j$ puisque ${\cG}_j \subset \s(\cL_j)$.
\end{demo}

\begin{remf} Voici une application discrète du précédent théorème. Soient  $A_1, \dots, A_n$ des évènements
indépendants. On  considère les évènements $\tilde A_1, \dots, \tilde A_n$ où $A_i= A_i$  ou $A_i^c$. Montrer que les
$\tilde A_i$ sont indépendants. Celà peut aussi se vérifier à la main, mais ce n'est pas si facile (faire une
récurrence sur le nombre de complémentaires $A_i^c$ dans la séquence $\tilde A_i$).
\end{remf}

\section{Indépendance et événements asymptotiques}

Dans cette section, nous énoncons trois théorèmes concernant la tribu asymptotique : loi du 0-1, lemme de Borel-Cantelli 1 et lemme de Borel-Cantelli 2. Le lemme de Borel-Cantelli 1 n'a rien à voir avec l'indépendance mais son \'enonc\'e étant une sorte de réciproque du 2, il est d'usage de le placer ici.
\begin{deff}
Soit $(\cF_n)_n$ une suite de sous-tribus de $\cF$. On appelle tribu asymptotique des $(\cF_n)_n$ la tribu
$$\cF_{\infty} = \cap_{n\in \NN}\s \;\;\left(\cup_{k\geq n}{\cF}_k\right)$$
Les éléments de ${\cF}_{\infty}$ sont appelés les événements asymptotiques et une variable aléatoire ${\cF}_{\infty}$-mesurable est dite asymptotique.\\
Si $(X_n)_n$ est une suite de variables aléatoires, la tribu asymptotique associée aux $X_n$ est la tribu asymptotique associée aux $\cF_n = \s (X_n)$.
\end{deff}

Par exemple, l'événement $\left\{\o \in \O;\; X_n (\o) \mbox{ converge dans $\RR$}\right\}$ est un événement asymptotique
(par rapport aux $X_n$) et $\limsup X_n , \liminf X_n$ sont des variables aléatoires asymptotiques. Traitons un exemple:
$$\lim\inf_n X_n\geq a\Leftrightarrow (\forall l>0, \exists n,\;\forall k\geq n, X_n\geq a-\frac 1l)\Leftrightarrow
\omega\in\cap_l\cup_n\cap_{k\geq n}[X_k\geq a].$$

\begin{thf} \mbox{(Loi du ``Tout ou Rien', ou du ``0-1'')}\\
Si la suite $(\cF_n)_n$ est constituée de tribus indépendantes alors
$$\forall A \in \cF_\infty, \; \PP(A)=0 \mbox{ ou } \; \PP (A)=1$$
\end{thf}

\begin{demo}
On démontre que $\cF_\infty$ est indépendante d'elle-même ce qui implique trivialement le résultat. D'après le théorème
des coalitions, $\s \left(\cup_{k\geq n}\cF_k\right)$ est indépendant de $\cF_p$ pour $p<n$.  Or $\cF_\infty$ est
l'intersection des $\s \left(\cup_{k\geq n}\cF_k\right)$ donc $\cF_{\infty}$ est indépendant de $\cF_p$ pour tout $p$.
Il en résulte que $\cF_{\infty}$ est indépendant de $\s \left(\cup_{p\geq 1}\cF_p\right)$ et $\cF_\infty \subset \s
\left(\cup_{p\geq 1}\cF_p\right)$ donc $\cF_\infty$ est indépendante d'elle-même.
\end{demo}

On rappelle que si l'on a une suite d'événements $(A_n)_n$, on définit
$$\limsup A_n =\cap_n \cup_{p\geq n}A_p=\left\{\o; \; \o \mbox{ appartient à une infinité de $A_n$}\right\}$$
(en anglais {\it infinitely often, i.o.})
$$\liminf A_n=\cup_n \cap_{p \geq n} A_p=\left\{\o; \; \o \mbox{ appartient à tous les $A_n$ sauf à un nombre fini}\right\}$$
(en anglais, {\it eventually, ev.}).

\begin{lemf}\text{(Borel-Cantelli 1)}\\
Si $\sum_{n}\PP(A_n)<+\infty$ alors $\PP(\limsup A_n )=0$. (C'est à dire: $A_n$ ne se produit qu'un nombre fini de
fois).
\end{lemf}
\begin{demo}
Pour tout $n$, $\limsup A_k \subset \cup_{k\geq n} A_{k}$ donc
$$\PP(\limsup A_{k})\leq \PP(\cup_{k\geq n} A_{k})\leq \sum_{k\geq n} \PP(A_{k})$$
et le dernier terme de droite tend vers $0$ quand $n$ tend vers l'infini par hypoth\`ese d'o\`u le r\'esultat.
\end{demo}

\begin{lemf}\text{(Borel-Cantelli 2)}\\
Si les $(A_n)_n$ sont des \'ev\'enements ind\'ependants et si $\sum_{n}\PP(A_n)=+\infty$ alors $\PP(\limsup A_n)=1$.
\end{lemf}

\begin{demo}
Il est ais\'e de voir que
$$\{\limsup A_k\}^c=\liminf A_k^c=\cup_{n}\cap_{k\geq n} A_{k}^c$$
Posons $p_k=\PP (A_k)$. On a $\PP\left(\cap_{k\geq n} A_{k}^{c}\right)=\prod_{k\geq n} (1-p_k)$ car par ind\'ependance,
$$\PP\left(\cap_{m\geq k\geq n} A_{k}^{c}\right)=\prod_{m \geq k\geq n} (1-p_k)$$
et on peut faire tendre $m$ vers l'infini gr\^ace au th\'eor\`eme de convergence monotone.\\
Pour tout $x\geq 0$, $1-x \leq \exp(-x)$ donc
$$\prod_{k\geq n}(1-p_k) \leq \exp\left(-\sum_{k\geq n} p_k\right)=0$$
Donc $\PP ((\limsup A_k)^c)=0$.
\end{demo}
