Dans ce chapitre, nous rappelons quelques notions de base sur les lois gaussiennes (Chapitre 13 de $\cite{O}$).
On utilisera les notations suivantes :\\

La base canonique sur ${\mathbb R}^d$ est notée $(e_1, \ldots, e_d)$ et le produit sclaire usuel $<\cdot,\cdot>$. La
base du dual est notée $(e_i^*=<\cdot,e_i>)_{i=1\ldots d}$. Pour un vecteur $x\in {{\mathbb R}}^d$, $x_1,\ldots,x_d$
désigneront les composantes de $x$ dans la base canonique.\\

Si $X$ est une variable (ou vecteur) aléatoire à valeurs dans ${{\mathbb R}}^d$ dont les composantes sur la base
canonique sont les variables aléatoires réelles $X_1,\ldots,X_d$ alors l'espérance de $X$ est le vecteur de ${{\mathbb
R}}^d$ égal à $(\E(X_1),\ldots,\E(X_d))$ et la matrice de covariance de $X$ est la matrice symétrique carrée de taille
$d$ dont le coefficient $(i,j)$ est donné par la covariance $Cov(X_i,X_j)$ de $X_i$ et $X_j$. La variance de $X$ est la
forme quadratique associée à la matrice de covariance de $X$.\\ Si $X$ et $Y$ sont deux vecteurs aléatoires de
${{\mathbb R}}^d$ alors leur matrice d'intercovariance (ou plus simplement de covariance) est la matrice carrée de
taille $d$ dont le coefficient $(i,j)$ est donné par la covariance $Cov(X_i,Y_j)$ de $X_i$ et $Y_j$. Cette matrice
n'est pas obligatoirement symétrique. On dira que $X$ et $Y$ sont non corrélées si et seulement si leur matrice
d'intercovariance est nulle.\\
\newline
\indent
Une probabilité $\mu$ sur $({{\mathbb R}}^d, {\cal B}({{\mathbb R}}^{d}))$ (ou plus généralement sur un espace
euclidien de dimension finie $E$ muni de sa tribu borélienne) est dite gaussienne si et seulement si la mesure image de
$\mu$ par toute forme linéaire sur ${{\mathbb R}}^{d}$ est une mesure gaussienne sur ${\mathbb R}$.\\ Une mesure $\mu$
est dite gaussienne sur $\RR$ ssi c'est la masse de Dirac en un point ou si c'est une probabilité admettant une densité
par rapport à la mesure de Lebesgue de la forme
\begin{equation}
\label{densite}
f_{m,\sigma^2}(x)=\cfrac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\cfrac{(x-m)^2}{2\sigma^2}\right)
\end{equation}
où $m\in{\mathbb R}$ et $\sigma^2>0$. Les masses de Dirac apparaissent comme des cas dégénérés des mesures gaussiennes
à densité pour lesquelles le paramètre $\sigma^2$ dans la définition précédente est nul.\\ Une variable aléatoire $X$
est dite gaussienne ssi sa loi est gaussienne.\\

\noindent
\quest 1) Montrer que si $X$ est gaussienne réelle non dégénérée (i.e. sa loi n'est pas une masse de Dirac) dont la
densité de la loi est donnée par $\reff{densite}$, alors $X$ admet une moyenne égale à $m$ et une variance égale à
${\sigma}^{2}$. (Pour le deuxième calcul, intégrer par parties ou utiliser le développement de Taylor en zéro de la fonction
caractéristique de la gaussienne).\\

\quest 2) Montrer que la matrice de covariance d'une variable aléatoire est une forme quadratique positive.
$$\sum_{ij}\E(X_i-\overline{X_i})(X_j-\overline{X_j})x_ix_j=\E(\sum_ix_i(X_i-\overline{X_i})^2\geq 0.$$

\quest 3) a) Montrer que si $X$ est gaussienne alors chacune de ses composantes est une variable aléatoire réelle gaussienne.\\

\quest 3) b) Montrer que si $X$ est gaussienne sur ${{\mathbb R}}^d$ et si $f$ est une transformation affine de
 ${{\mathbb R}}^d$ dans ${{\mathbb R}}^k$ alors la variable aléatoire $f(X)$ est gaussienne.  Pour une transformation linéaire c'est
 évident. Pour une translation, on remarque que $a.(X+b)=a.X+a.b$ est une gaussienne dont la moyenne est translatée de $a.b$. \\

\quest 4) Montrer que si $X$ est gaussienne alors elle admet des moments de tout ordre (on rappelle que $X\in{\mathbb
R}$ admet un moment d'ordre $n$ ssi chacune de ses composantes sur la base canonique est une variable aléatoire
admettant un moment d'ordre $n$ ou ssi $\parallel X \parallel$ est une variable aléatoire réelle admettant un moment
d'ordre $n$).\\

\quest 5)\textbf{Gaussiennes et fonctions caractéristiques}\\
On se donne une variable aléatoire $X$ sur ${{\mathbb R}}^d$. Le but de la question est de montrer que $X$ est
gaussienne ssi sa fonction caractéristique $\phi_X$ s'écrit
$$\phi_{X}(t)=\exp\left[i<m,t>-\cfrac{1}{2}<Ct,t>\right]$$
où $m\in {{\mathbb R}}^{d}$ et $C$ est une matrice symétrique positive.

\subquest 5) a) Commencer par montrer que dans ce cas la moyenne de $X$ est $m$ et sa matrice de covariance est $C$.
\\

\dsolution{} On peut procéder par identification en effectuant les développements de Taylor à l'ordre 2 des
exponentielles. D'une part si $X$ est une variable aléatoire quelconque ayant ses moments d'ordre 2 et 3 bornés on a
$$\phi_X(t)=\E(e^{it.X})=\E(1+it.X-\frac 12(t.X)^2)+o(t^2)=$$
$$1+it.\E X-\frac 12\sum_{ij}t_it_j\E(X_iX_j)+o(t^2)=$$
$$1+it.\E X-\frac 12 \sum_{ij}t_it_j\E(X_i-\overline{X_i})(X_j-\overline{X_j})-\frac 12(\sum_it_i\E X_i)^2+o(t^2).$$
En développant de même $\phi_X(t)$ à  l'ordre 2 pour notre variable particulière:
$$\phi_X(t)=1 +i t.m -\frac 12 <Ct, t>-\frac 12 (t.m)^2+o(t^2).$$
On conclut immédiatement par identification. \fsolution

\subquest 5) b) Ensuite, on utilise le théorème d'injectivité de la transformée de Fourier. Pour calculer la fonction
caractéristique d'une variable $d$-dimensionnelle, on pourra montrer et utiliser l'égalité suivante :
$$\phi_X (\alpha t)=\Phi_{<X,t>}(\alpha)$$ où $t\in {{\mathbb R}}^d$ et $\alpha \in {{\mathbb R}}$, ce qui permet de se
ramener au cas unidimensionnel pour le calcul de la fonction caractéristique d'une gaussienne. \textbf{La moyenne et la
matrice de covariance caractérisent complètement la loi d'une gaussienne : on les appelle les paramètres de la loi
gaussienne}
\\

\quest 6) \textbf{Existence de lois gaussiennes}\\ Etant donné un vecteur $m \in {{\mathbb R}}^d$ et une matrice
symétrique positive $C$, montrer qu'il existe une unique mesure gaussienne de paramètre $(m,C)$.\\
\\
\dsolution{} La question de l'unicité a été réglée dans la question précédente. Pour l'existence, on remarquera qu'il
suffit de prouver l'existence d'une mesure gaussienne de paramètres $(0,Id_d)$ et de considérer la variable aléatoire
$X=m+B X_0$ où $X_{0}$ est une variable gaussienne sur ${{\mathbb R}}^d$ de paramètres $(0,Id_d)$ (gaussienne standard)
et $B$ est une matrice symétrique positive dont le carré est $C$ (théorème spectral des opérateurs auto-adjoints). $X$
est alors une gaussienne de paramètres $(m,C)$ (calculer la fonction caractéristique de $X$). L'existence de $X_0$ est
assurée car on sait exhiber la densité d'une gaussienne standard, à savoir
$$f(x)=\cfrac{1}{(2\pi)^{d/2}}\exp\left(-\cfrac{\parallel x \parallel^2}{2}\right)$$
On vérifie que la fonction caractéristique associée à cette loi est une gaussienne standard.\fsolution

\quest 7) Pourquoi ne pas avoir démontré le résultat de la question 6) en exhibant comme pour la gaussienne standard
une densité pour une gaussienne quelconque ?


\dsolution{} Pour une gaussienne quelconque, l'existence d'une densité par rapport à la mesure de Lebesgue n'est pas
forcément assurée (cf. la question suivante pour une formulation précise). Remarquer en effet que même si $X_0$ est à
densité, il n'en est pas forcément de même pour $B X_0$ (ce n'est en fait le cas que si $B$ est inversible).\fsolution

\quest 8) Soit $X$ une variable gaussienne de paramètre $(m,C)$.\\
\subquest a) Montrer que si $C$ est définie positive alors $X$ admet une densité par rapport à la mesure de Lebesgue donnée pour tout $x \in {{\mathbb R}}^d$ par
$$f_{m,C}(x)=\cfrac{1}{\sqrt{(2\pi)^{d} \det(C)}}\exp\left(-\cfrac{1}{2}\left<C^{-1}(x-m),(x-m)\right>\right)$$
\subquest b) Montrer que si $C$ n'est pas définie positive alors $X$ prend presque sûrement ses valeurs dans l'espace affine $m+Im(C)$ et n'admet en conséquence pas de densité par rapport à la mesure de Lebesgue.

\dsolution{} Pour la question a), on utilisera le fait que l'on connait la densité d'une loi gaussienne standard et la
transformation introduite dans la question 6) puis on effectuera un changement de variables. Pour la question b), en
utilisant la décomposition et les notations de la question 6), remarquer que l'image de $B$ est la même que l'image de
$C$ et que $X$ prend ses valeurs dans le sous-espace affine $m+Im(B)$. En fait, on pourrait montrer que $X$ restreint à
ce sous-espace admet une densité par rapport à la mesure de Lebesgue sur $m+Im(B)$. \fsolution


\quest 9) \textbf{Propriétés d'indépendance des gaussiennes}\\
Soit $X$ une variable aléatoire gaussienne à valeurs dans ${{\mathbb R}}^d$ et $\sum_{j=1}^{n} E_j$ une décomposition de ${{\mathbb R}}^d$ en somme directe. Si $x\in {{\mathbb R}}^d$, on note $x^1, \ldots, x^n$ les éléments respectifs de $E_1,\ldots,E_n$ tels que $x=x^1+\ldots+x^n$. Ainsi, la variable aléatoire $X$ s'écrit comme $X^1+\ldots+X^n$ où $X^j$ est une variable aléatoire à valeurs dans $E_j$.\\
Alors, les variables aléatoires $X^j$ sont gaussiennes.\\
De plus, les $X^j$ sont indépendantes si et seulement si elles sont non corrélées deux à deux.\\

\dsolution{}
Pour la première implication, utiliser la question 3b).\\
On se concentre maintenant sur la deuxième proposition. Pour la condition nécessaire, remarquer que si $X^j$ et $X^k$
sont indépendantes, le coefficient $(p,q)$ de la matrice d'intercovariance de $X^j$ et $X^k$ est donné par
$Cov(e_p^*(X^j),e_q^*(X^k))$ et que $e_p^*(X^j)$ et $e_q^*(X^k)$ sont indépendantes.
\\
Pour la condition suffisante, soient $(u^1, \ldots, u^n)$ des éléments de $E_1\times \ldots \times E_n$. Par hypothèse,
puisque $X$ est gaussienne, $Y=(<X^1,u^1>,\ldots,<X^n,u^n>)$ est gaussienne sur ${{\mathbb R}}^n$ (utiliser la question
4b) avec une fonction affine bien choisie). Remarquer alors que la matrice de covariance de $Y$ est diagonale (utiliser
le fait que les $X^j$ sont non corrélées deux à deux). On note $Y=(Y_1,\ldots, Y_n)$ la décomposition de $Y$ sur la
base canonique de ${{\mathbb R}}^n$. Montrer que la fonction caractéristique de $Y$ s'écrit comme produit direct des
fonctions caractéristiques des $Y_i$ : $\phi_{Y}(u)=\prod_{j=1}^{n}\phi_{Y_j}(u_j)$ et en déduire que les
$(Y_j)_{j=1,\ldots,n}=(<X^j,u^j>)_{j=1,\ldots,n}$ sont indépendantes. En remarquant que
$$\phi_{X^j}(u^j)=\Phi_{Y_j}(1)$$
terminer la démonstration. \fsolution


\begin{remf}
Attention, dans ce théorème, on suppose que $X$ est gaussienne. Sans cette hypothèse, le théorème est faux. On peut
très bien avoir deux variables aléatoires réelles gaussiennes de covariance nulle telles que $(X,Y)$ n'est pas
gaussien. C'est cependant vrai si l'on ajoute l'hypothèse $X$ et $Y$ indépendantes. Voici un exemple classique, que
l'on vérifiera: On pose $Z=(X,Y)$ avec $X$ gaussienne normale centrée et $Y=U.X$ où $U$ est une Bernouilli centrée de
valeurs $(1, -1)$ et paramètre $\frac 12$.  Vérifier que $Y$ est normale centrée. En remarquant que $|Y|=|X|$, montrer
que $Y$ et $X$ ne sont pas indépendantes. Montrer finalement qu'elles ont pourtant décorrélées.
\end{remf}
