Dans ce chapitre $(\O,\cF,\PP)$ désigne un espace probabilisé. Nous rappelerons bri\`evement la construction de l'intégrale relativement \`a une mesure $\PP$ uniquement pour illustrer ce que nous appellerons par la suite ``la machine standard''. Ce chapitre est donc essentiellement un formulaire et un dictionnaire analyse-probabilités.\\
L'espérance, notée $\mathbb E$ est simplement l'intégrale relativement à $\PP$, c'est-à-dire que si $X$ est une
variable aléatoire intégrable relativement à $\PP$,
$${\mathbb E}(X)=\int_{\O}X(\o)d\PP(\o)$$
On l'appelle aussi parfois la moyenne de $X$. En particulier, si $X=\indic_A$, ${\mathbb E}(X)=\PP(A)$. On note $\cL^p$, pour $p\in [1,+\infty]$, l'espace vectoriel constitué des variables aléatoires $X$ telles que $|X|^p$ est intégrable relativement à $\PP$. $\mathbb E$ est une forme linéaire sur ces espaces. On note $\|\cdot\|_p$ les normes associées.\\


\section{Construction de l'int\'egrale et théorèmes de convergence}
\subsection{La machine standard}
\noindent
1) Soit $f$ une fonction simple (ou \'etag\'ee) positive, c'est-\`a-dire de la forme
$$f=\sum_{k=1}^{N}a_{k}\indic_{A_{k}}$$
o\`u les $a_{k}$ sont des r\'eels positifs et $A_{k}$ des \'el\'ements de ${\cal F}$. On d\'efinit l'int\'egrale de $f$ relativement \`a $\PP$ (ou esp\'erance) par
$${\mathbb E}(f)=\sum_{k=1}^{N}a_{k} \PP (A_{k})$$
{\it On v\'erifie ais\'ement que cette d\'efinition est coh\'erente, c'est-\`a-dire qu'elle ne d\'epend pas
de l'\'ecriture de $f$ choisie.} D'autre part, des propri\'et\'es simples comme la lin\'earit\'e, la positivit\'e (si $f,g$ sont deux fonctions simples positives et $f\leq g$ alors ${\mathbb E}(f)\leq {\mathbb E}(g)$) se d\'emontrent ais\'ement.\\
\noindent
2) Soit maintenant $f$ une fonction positive mesurable. On d\'efinit son esp\'erance par
$${\mathbb E}(f)=\sup\{{\mathbb E}(h); h \mbox { fonction simple positive }, h\leq f\}$$
Cette quantit\'e peut \^etre infinie et on dira que $f$ est int\'egrable si elle est finie. {\it  On v\'erifie que si
$h$ est une fonction simple positive, alors cette nouvelle d\'efinition reste coh\'erente avec l'ancienne.}\\
On peut construire des modes d'approximation simples pour une fonction mesurable positive. Par exemple si $f$ est
positive mesurable,
$$f_k:=\sum_{l=0}^{k2^k-1}\frac l{2^k}\indic_{[\frac l{2^k}\leq f<\frac{l+1}{2^k}]}+k\indic_{[f\geq k]}$$
converge  simplement vers $f$ et uniformément si $f$ est en plus bornée.

Vient alors le th\'eor\`eme de convergence monotone (MON) pour les fonctions mesurables positives :\\ Si $(f_n)_n$ est
une suite de fonctions mesurables positives convergeant en croissant  $\PP$ p.s. vers une fonction $f$ (mesurable
positive) alors

\begin{equation}{\mathbb E}(f_{n})\uparrow {\mathbb E}(f)\label{convergencemonotone}\end{equation}

\medskip\noindent{\bf La démonstration de la convergence monotone} {\bf NON TERMINE  A REPRENDRE}
\newline\newline {\small Cette démonstration n'est pas difficile car ce théorème vient essentiellement du fait que si $A_n\uparrow A$, alors
$\PP(A_n)\uparrow \PP(A)$.  Voici la marche de la démonstration. On va la faire dans le cas ${\mathbb E}f<+\infty$; le
cas ${\mathbb E}f=+\infty$ suit exactement la même démarche.

On commence par remarquer qu'il existe une suite croissante de fonctions  simples $g_n$ telle que ${\mathbb
E}g_n\uparrow Ef$ et $g_n \uparrow f$ p.s..  Pour cela on prend  une suite croissante $g_n$ de fonctions simples telles
que ${\mathbb E}g_n\uparrow {\mathbb E}g$. La croissance vient du fait qu'on peut toujours remplacer $g_n$ par
$\sup_{i=1,\dots, n}g_i$. Supposons par contradiction qu'on n'aie pas $g_n\uparrow f$ p.s.. Alors $\Pro(\sup g_n< f)>0$
et  par la propriété de continuité de la mesure pour les suites croissantes pour quelque $\eta>0$, l'ensemble
$A:=\cap_n \{g_n\leq f-\eta\}$ est de mesure strictement positive. Alors en remplaçant $g_n$ par $h_n:=g_n+\eta
\indic_A$, on arrive à une contradiction car $h_n\leq g$ et $${\mathbb E}g\geq {\mathbb E}h_n\geq{\mathbb E}g_n+\eta
\Pro(A)\to {\mathbb E}g+\eta\Pro(A).$$


La deuxième étape consiste à fixer $g$ simple telle que $g\leq f$ et ${\mathbb E}g\geq {\mathbb E}f-\varepsilon.$
Ensuite on prend par l'étape précédente des fonctions simples $g_n$ telles que $\Pro(g_n\leq f_n-\varepsilon)<\frac
1{2^n}$. Finalement on montre que.??
 On remarque que  par l'étape précédente $g_n\wedge g$ tend vers $g$ p.s. et qu'il nous suffit de montrer que
${\mathbb E}g_n$  tend vers ${\mathbb E}g$. Comme $\Pro(g-g_n)>\varepsilon\to 0$, on peut  prendre $n$  assez grand
pour que cette probabilité soit plus petite que $\varepsilon$. Comme $g_n$ et $g$ sont simples, en nommant $A_k$  la
famille finie  des intersections d'ensembles où elles sont chacune constantes, on peut écrire  $g_n=\sum_k a_{k}
\indic_{A_{k}}$ et $g=\sum_k b_k\indic_{A_k}$ et on a alors $\Pro(\cup_{k\mid b_k-a_k>\varepsilon}A_k)\leq\varepsilon$.
Il suffit d'exprimer les espérances  de ces deux fonctions simples pour conclure que ${\mathbb E}g-{\mathbb E}
g_n<\varepsilon +\varepsilon \sup g.$





\medskip
Le lemme de Fatou se d\'eduit ais\'ement du th\'eor\`eme
de convergence monotone. On d\'emontre aussi \`a ce stade la lin\'earit\'e et la positivit\'e de l'esp\'erance.\\
\noindent
3) soit $f$ une fonction mesurable de signe quelconque. On d\'ecompose $f$ en sa partie positive $f^{+}=\sup(f,0)$ et sa partie n\'egative $f^{-}=\sup(-f,0)$ si bien que $f=f^+ - f^-$ et $|f|=f^+ + f^-$. On dira que $f$ est int\'egrable ssi $|f|$ l'est (ce qui implique que $f^+$ et $f^-$ le sont). Si $f$ est int\'egrable, on d\'efinit son esp\'erance par
$${\mathbb E} (f)={\mathbb E} (f^+)-{\mathbb E} (f^-)$$
{\it L'ensemble des fonctions int\'egrables forme un espace vectoriel sur lequel l'esp\'erance ainsi d\'efinie est une
forme lin\'eaire positive.} C'est \`a ce stade que le th\'eor\`eme de convergence domin\'ee s'\'etablit modulo le lemme
de Sheff\'e
(voir TD).\\
On remarquera que la construction de l'int\'egrale se fait selon trois grandes \'etapes : on commence par d\'efinir l'esp\'erance sur les fonctions simples, puis sur les fonctions mesurables positives gr\^ace \`a une propri\'et\'e de monotonie et enfin on passe au cas d'une fonction de signe quelconque gr\^ace \`a la d\'ecomposition de $f$ en sa partie positive et sa partie n\'egative. Cette structure en trois \'etapes est constamment utilis\'ee dans diverses preuves. Pour \^etre plus explicite, on est souvent amen\'e \`a montrer une propri\'et\'e ``lin\'eaire'' pour les fonctions mesurables. Il est souvent ais\'e de la montrer pour les fonctions simples puis par le th\'eor\`eme de convergence monotone pour les fonctions mesurables positives (puisque toute fonction mesurable positive est limite simple croissante d'une suite de fonctions simples) et enfin par d\'ecomposition en partie positive-n\'egative pour les fonctions mesurables de signe quelconque. Nous appellerons par la suite ce genre de preuve, une ``preuve par machine standard''.\\
\subsection{ Th\'eor\`emes de convergence}
Soit $(X_n)_n$ une suite de variables aléatoires et $X$ une variable aléatoire.\\
\begin{itemize}
\item
(MON) : Si $0\leq X_n\uparrow X$, $\PP$ p.s., alors ${\mathbb E}(X_n)\uparrow {\mathbb E}(X)$.
\item
(Lemme de Fatou) : $X_n\geq 0$ alors ${\mathbb E} (\liminf X_n) \leq \liminf {\mathbb E}(X_n)$.
\item
(Convergence Dominée) : $|X_n|\leq Y$, $\PP$ p.s., ${\mathbb E}(Y)<+\infty$ et $(X_n)_n$ tend presque sûrement vers $X$
alors $X_n \rightarrow X$ dans $\cL^1$.
\item (Convergence bornée) : Si $|X_n|\leq C$ et si $X_n$ tend vers $X$ p.s., alors $X_n\to X$ dans $\cL^1$.

\end{itemize}



\section{Inégalités de Markov}
\noindent
Si $X\in \cL^p$, $\PP(|X|\geq c)\leq c^{-p} {\mathbb E}(|X|^p)$.\\
 Si $X$ est une variable aléatoire positive, pour tout réel $c$ et tout $\t>0$, on a
$$\PP (Y\geq c) \leq e^{-\t c}{\mathbb E}(e^{\t Y})$$

\section{Sommes de variables aléatoires}
\noindent
a) {\it Si $X$ est une variable aléatoire positive et intégrable alors $\PP(X<+\infty)=1$.}\\
b) Si $(Z_k)_k$ est une suite de variables aléatoires positives alors
$${\mathbb E} \left(\sum_k Z_k\right)=\sum_k {\mathbb E}(Z_k)$$
c) Si $(Z_k)_k$ est une suite de variables aléatoires positives telles que $\sum_{k}{\mathbb E}(Z_k)<+\infty$ alors presque sûrement, on a :
$$\sum_{k} Z_k <+\infty \; \mbox{ et } \; Z_k \rightarrow 0 $$

\section{Inégalité de Jensen}

\begin{thf}
Soit $\phi: G\rightarrow \RR$ une fonction convexe et $X$ une variable
aléatoire $\PP$ p.s. à valeurs dans $G$ où $G$ est un intervalle de $\RR$ ouvert. \\
On suppose que :
$${\mathbb E}(|X|)<+\infty \; , \;\E(|\phi(X)|)<+\infty$$
Alors :
$$\phi({\mathbb E}(X))\leq{\mathbb E}(\phi(X))$$
\end{thf}

\begin{demo} (Pour un énoncé et une démonstration en dimension $N$,  voir le TD).
Pour $u<v<w$, on pose $\D_{u,v}=\cfrac{\phi(v)-\phi(u)}{v-u}$. Puisque $\phi$ est convexe,
$$\D_{u,v}\leq\D_{v,w}$$
$(D_{-}\phi)(v)=\lim_{u\uparrow v} \D_{u,v}$ et $(D_{+}\phi)(v)=\lim_{w\downarrow v} \D_{v,w}$ sont les dérivées à gauche et à droite de $\phi$. On a donc
$$(D_{-}\phi)(v)\leq (D_{+}\phi)(v)$$
D'autre part, par un argument du m\^eme genre en prenant quatre points, $D_{-}\phi,\; D_{+}\phi$ sont croissantes.\\
Si $x<w<v$, $\D_{x,w}\leq \D_{w,v}$ et par passage à la limite quand $w$ tend en croissant vers $v$, on obtient $\D_{x,v}\leq (D_- \phi)(v)$ car $\phi$ est
 continue sur $G$.\\
On a donc $\phi(v)-\phi(x) \leq (v-x)(D_- \phi)(v) \leq m(v-x)$ pour $m\in [(D_- \phi) (v); (D_+ \phi)(v)]$.\\
En raisonnant de même si $v<x$, on a pour tout $v,x \in G$, $\phi (x) \geq m(x-v) +\phi (v)$ pour $m\in [(D_{-}\phi)(v);(D_{+}\phi)(v)]$.\\
Donc si $v=\mu={\mathbb E}(X) \in G$ ($a<X<b \Rightarrow a <{\mathbb E}(X) <b$), et $x=X$, on a :
$$\phi (X) \geq m(X-\mu) +\phi (\mu)$$
et en intégrant on obtient
$${\mathbb E}(\phi(X))\geq \phi(\mu)=\phi({\mathbb E}(X))$$
\end{demo}

\section{Monotonie des normes $\cL^p$}
On rappelle que ${\cL}^p$ est l'espace vectoriel des variables al\'eatoires $X$ dont la norme ${\cL}^p$ est finie. La norme $\cL^p$ d'une variable aléatoire $X$ est $\|X\|_p ={\mathbb E} (|X|^p)^{1/p}\in [0,+\infty)$. $\cL^p$ est un espace vectoriel et $\|\cdot\|_p$ est une semi-norme.  Si $X \in \cL^p$, on dit que $X$ a un moment d'ordre $p$.
${\mathbb L}^p$ est le quotient de $\cL^p$ pour la relation d'équivalence $X\sim Y \Longleftrightarrow X=Y,\; \mbox{ $\PP$ p.s.}$.

\begin{thf}
${\mathbb L}^p$ est un espace vectoriel normé complet.
\end{thf}

\noindent
On rappelle que pour démontrer ce théorème, on utilise ce que l'on appelle parfois ``la réciproque du théorème de convergence dominée'', à savoir :

\begin{propf}
Si $(X_n)_n$ est une suite de Cauchy dans $\cL^p$ alors il existe une sous-suite $(Y_n)_n$ de $(X_n)_n$ et une variable aléatoire $X$ ayant un moment d'ordre $p$ telle que $(Y_n)_n$ converge en norme $\cL^p$ vers $X$.
\end{propf}

\noindent
Une propriété particulière aux espaces de probabilités (par rapport aux espaces associés à une mesure quelconque) est la suivante
\begin{propf}
Si $1\leq p < r \leq +\infty$ alors si $Y$ admet un moment d'ordre $r$, $Y$ admet un moment d'ordre $p$ et on a
$$\|Y\|_p \leq \|Y\|_r$$
\end{propf}

\noindent
Autrement dit, plus une variable aléatoire a des moments d'ordre élevé, mieux c'est. La démonstration facile repose sur l'inégalité de Jensen appliquée, après troncature, à la fonction $\phi (x) =x^{r/p}$.

\section{Hölder et Minkowski}

\noindent
On rappelle ces deux inégalités d'un usage constant et qui dérivent de l'inégalité de Jensen

\begin{thf}(Inégalité de Hölder)\\
Soit $1<p,q<+\infty$, tels que $p^{-1} + q^{-1}=1$ et $X\in \cL^p, Y \in \cL^{q}$. On a alors l'inégalité de Hölder
$${\mathbb E}(|XY|)\leq \|X\|_p \|Y\|_q$$
\end{thf}

\begin{demo}
On peut bien s\^ur se restreindre au cas $X,Y \geq 0$ et ${\mathbb E}(X^p)>0$. D'autre part, quitte \`a consid\'erer $X\wedge n$ et $Y\wedge n$, puis \`a passer \`a la limite quand $n$ tend vers $+\infty$ par le th\'eor\`eme de convergence monotone, on peut supposer $X,Y$ born\'ees. On d\'efinit une probabilit\'e $\mathbb Q$ par
$${d\mathbb Q}=\cfrac{X^{p}d{\mathbb P}}{{\mathbb E}(X^p)}$$
et une variable al\'eatoire $Z$ par
$$Z=\indic_{X>0}\cfrac{Y}{X^{p-1}}$$
Puisque ${\mathbb E}_{\QQ} (Z)^q \leq {\mathbb E}_{\QQ} (Z^q)$, on a
$${\mathbb E}_{\PP}(XY)\leq \|X\|_{p}\|Y\indic_{X>0}\|_{q}\leq \|X\|_{p}\|Y\|_{q}$$
\end{demo}

\begin{thf}(Inégalité de Minkowski)\\
Soit $X,Y \in \cL^p$, on a l'inégalité de Minkowski
$$\|X+Y\|_p \leq \|X\|_p +\|Y\|_p $$
\end{thf}

\begin{demo}
L'in\'egalit\'e de H\"older donne
\begin{eqnarray*}
{\mathbb E}(|X+Y|^{p})&=&{\mathbb E}(|X||X+Y|^{p-1})+{\mathbb E}(|Y||X+Y|^{p-1})\\
&\leq&A\|X\|_{p}+A\|Y\|_{p}
\end{eqnarray*}
o\`u $A =\||X+Y|^{p-1}\|_{q}={\mathbb E}(|X+Y|)^{1/q}$. Un majoration grossi\`ere montre que $A$ est finie et le r\'esultat tombe.
\end{demo}

\section{Cas $p=2$}

${\mathbb L}^2$ jouit d'un place particulière au sein des espaces ${\mathbb L}^p$ puisque c'est un espace de Hilbert pour le produit scalaire
$<X,Y>={\mathbb E}(XY)$.\\

Si $X,Y$ sont deux variables aléatoires ayant des moments d'ordre $2$, on appelle covariance de $X$ et $Y$ le réel défini par$$Cov(X,Y)={\mathbb E}\left[(X-{\mathbb E}(X))(Y-{\mathbb E}(Y))\right]={\mathbb E}(XY)-{\mathbb E}(X){\mathbb E}(Y)$$
$Cov(\cdot,\cdot)$ est un op\'erateur bilin\'eaire sym\'etrique sur ${\mathbb L}^{2}$.\\
La variance de $X$ est $Var(X)=\s_X^2=Cov(X,X)={\mathbb E}(X^2)-{\mathbb E}(X)^2 \geq 0$.\\
En anticipant sur la suite, si $X$ et $Y$ sont indépendantes alors $Cov(X,Y)=0$ et la réciproque est fausse. Si $Cov(X,Y)=0$ alors les variances s'ajoutent : $Var(X+Y)=Var(X)+Var(Y)$ (théorème de Pythagore).
