\section{Fonctions génératrices}

{\bf Source : $\cite{GS}$, pp. 148-154 }\\

\noindent
Si $X$ est une variable aléatoire à valeurs dans $\natural$, la fonction génératrice de $X$ est définie comme
$$G_{X}(s)=\esp(s^X)=\sum_{k=0}^{\infty}p_{k}s^{k}$$
où $p_{k}=\Pro(X=k)$ et où on adopte la convention $0^0=1.$ \\

\dexer

\quest 0) Rayon de convergence de la série ?

\quest 1) Montrer que la fonction génératrice de $X$ caractérise complètement sa loi.

\quest 2) Montrer que $G_{X}$ est $C^{\infty}$ sur $(-1;1)$ et que si $X$ est intégrable alors
$$\lim_{s \rightarrow 1^{-}}G_{X}^{'}(s)=\E(X)$$
Donner un résultat analogue pour la variance. Montrer de même que $\esp(X(X-1)\dots (X-k+1))=G^{(k)}(1)$. On utilisera et montrera le théorème d'Abel : Soit $a_n\geq 0$ et $G(s)=\sum_{n\in \natural} a_n s^n$. Si $G(s)$ est fini pour $s<1$, alors $\lim_{s\to 1}G(s)=\sum_{n\in \mathbb N} a_n.$

\quest 3) Montrer que si $X$ et $Y$ sont deux variables aléatoires
à valeurs entières indépendantes alors la fonction génératrice de
$X+Y$ est le produit de $G_{X}$ et de $G_{Y}$. Réciproque ?

\quest 4) Calculer les fonctions génératrices des distributions suivantes : v.a. constante $X=c$, variable de Bernoulli de paramètre $p$, distribution géométrique ($\Pro(X=k)=p(1-p)^{k-1}$ pour $k\geq 1$), distribution de Poisson, distribution binomiale ${\cal B}(n,p)$.  Vérifier sans calcul que la somme de deux variables indépendantes ${\cal B}(n,p)$ et ${\cal B}(m,p)$ est ${\cal B}(n+m,p)$.

\quest 5) On appelle fonction génératrice jointe de deux v.a. $X_1$ et $X_2$  à valeurs dans $\natural$ la fonction
$$G_{X_1, X_2}(s_1,\; s_2)=\esp(s_1^{X_1}s_2^{X_2}).$$
Montrer que $X_1$ et $X_2$ sont indépendantes si et seulement si
$$G_{X_1,\; X_2}(s_1,\; s_2)=G_{X_1}(s_1)G_{X_2}(s_2)$$
pour tous $s_1$ et $s_2$.
\fexer

\dsolution \quest 0) Le rayon de convergence de la s\'erie est supérieur ou \'egal \`a $1$.

\quest 1)  Remarquer que l'on a $p_k=\frac 1 {k!}G_X^{(k)}(0).$

\quest 2) $G_{X}$ est une s\'erie enti\`ere et donc en tant que telle $C^{\infty}$ sur son disque de convergence. D'autre part, pour tout $s \in (-1,1)$, on a  (en utilisant le théorème d'Abel)
$$G^{'}_{X}(s)=\sum_{k=1}^{\infty}kp_{k}s^{k-1} \uparrow_{s \rightarrow 1}\sum_{k=1}^{\infty}kp_{k}=\E(X)$$
De m\^eme, on montre que si $X$ a un moment d'ordre $2$
$$Var(X)=\lim_{s\rightarrow 1}\left[G_{X}^{(2)}(s)+G_{X}^{(1)}(s)-[{G_{X}^{(1)}(s)}]^{2}\right]$$

\quest 3) $G_{X+Y}(s)=\E(s^{X}s^{Y})=\E(s^{X})\E(s^{Y})=G_{X}(s)G_{Y}(s)$ par ind\'ependance de $X$ et $Y$. La
r\'eciproque est fausse (comme elle l'est pour les fonctions caract\'eristiques). Ce qui est en revanche vrai, c'est
que si la fonction g\'en\'eratrice du couple $(X,Y)$ (d\'efinie par $G_{(X,Y)}(s_{1},s_{2})=\E(s_{1}^{X}s_{2}^{Y})$)
s'\'ecrit comme le produit direct de $G_{X}$ et $G_{Y}$ (i.e. $G_{(X,Y)}(s_{1},s_{2})=G_{X}(s_{1})G_{Y}(s_{2})$) alors
les deux variables $X$ et $Y$ sont ind\'ependantes (voir la question 5)).

\quest 4) On obtient successivement $G(s)=s^c$ (variable
constante), $G(s)=(1-p)+ps$ (variable de Bernoulli),
$G(s)=\sum_{k=1}^\infty s^kp(1-p)^{k-1}=\frac {ps}{1-s(1-p)}$
(variable géométrique de paramètre $p$),  $G(s)=\sum_{k=0}^\infty
s^k\frac{\lambda^k}{k!}e^{-\lambda}=e^{\lambda(s-1)}$ (variable de
Poisson), $G(s)=(q+ps)^n$ (variable binomiale ${\mathcal B}(n,p)$,
$q=1-p$.)  On peut voir que la somme d'une ${\mathcal B}(n,p)$ et d'une
${\mathcal B}(m,p)$ indépendantes est une ${\mathcal B}(n+m,p)$ de deux manières :
d'une part on peut interpréter la somme comme la somme de $n+m$
variables de Bernoulli indépendantes. Mais on peut simplement
multiplier les fonctions g\'en\'eratrices en utilisant le 3)

\quest 5) Si $X_1$ et $X_2$ sont indépendantes, $s_1^{X_1}$ et
$s_2^{X_2}$ aussi et on a donc $\esp
(s_1^{X_1}s_2^{X_2})=\esp(s_1^{X_1})\esp(s_2^{X_2})$.
Réciproquement, si cette relation est vraie, on a
$$\sum_{m,n} \Pro(X_1=m ; X_2=n)s_1^ms_2^n=(\sum_m
\Pro(X_1=m)s_1^m)(\sum_n\Pro(X_2=n)s_2^n).$$ Il suffit de
développer le deuxième membre et d'identifier terme à terme pour
déduire que $\Pro(X_1=m ; X_2=n)=\Pro(X_1=m)\Pro(X_2=n).$
 \fsolution

\dexer {\bf Poules et oeufs 2}

On va montrer le théorème suivant :

\begin{thf} \label{fonctiongeneratricedunesommealeatoiredeva}
 Si $X_1$, $X_2$, ... est une suite de v.a.i.i.d. de
fonction génératrice commune $G_X$ et si $N$ est une variable aléatoire à valeurs dans $\natural$ indépendante des
$X_i$ et de fonction génératrice $G_N$, alors $S_N=X_1+X_2+\dots \; +X_N$ a pour fonction génératrice
$$G_{S_N}(s)=G_N(G_X(s)).$$
\end{thf}

\quest 1) Moyen mnémotechnique : pour se souvenir de l'ordre dans
lequel les fonctions sont composées, remarquer que si $N$ est
déterministe ($\Pro(N=n)=1$) alors on doit retrouver la formule
donnant la fonction génératrice de $n$ v.a.i.i.d. soit
$G_{S_N}(s)=G_X(s)^n$, et l'on a $G_N(s)=s^n$.

\quest 2) Démonstration : appliquer la formule de l'espérance conditionnelle ($\ref{conservationdelesperance}$)
$\esp(s^{S_N})=\esp(\esp(s^{S_N}|N))$.



\quest 3)
 Une poule pond $N$ oeufs, et $N$
est une distribution de Poisson de paramètre $\lambda$. Chaque
oeuf éclôt avec probabilité $p$ et les éclosions sont des
évènements indépendants. Soit $K$ le nombre de poussins. Calculer
la fonction génératrice de $K$ et en déduire que $K$ suit une loi
de Poisson de paramètre $\lambda p$.
\fexer


\dsolution
\quest 2) Par la formule de l'espérance conditionnelle, on a
$$G_{S_N}(s)=\sum_n \esp(s^{S_N}|N=n)\Pro(N=n)=\sum_n \esp(s^{X_1+\dots +\; X_n})\Pro(N=n)=$$
$$\sum_n\esp(s^{X_1})\dots \esp( s^{X_n})\Pro(N=n)=$$
$$\sum_n G_X(s)^n\Pro(X=n)=G_N(G_X(s)).$$
L'avant dernière ligne s'obtient par indépendance des $X_i$.

\quest 3) On a $G_X(s)=q+ps$, $G_N(s)=\sum_{n=0}^\infty s^n
\frac{\lambda^n}{n!}e^{-\lambda} = e^{\lambda(s-1)}.$ Donc
$G_K(s)=G_N(G_X(s))=e^{\lambda(q +ps-1)}=e^{\lambda p(s-1)}.$ $K$
suit  donc une loi de Poisson de paramètre $\lambda p$.
\fsolution

\section{Processus de branchement : l'extinction des grands noms}
{\bf {Source : $\cite{GS}$,  5.4 pp. 171-174}}

Au dix-neuvième siècle, en 1873 exactement, H.W. Watson répond à
une question posée par F. Galton la même année. Il s'agit
d'expliquer la tragique et progressive disparition des grands noms
de l'aristocratie anglaise. Des noms des grands personnages de
Shakespeare, bien peu ont laissé descendance : où sont maintenant
 les Gloucester, et les Buckingham ?  Les processus de Galton-Watson,
appelés aussi processus de branchement, modélisent la reproduction et permettent de calculer la probabilité
d'extinction.  On suppose qu'une population évolue par générations et que $Z_n$ désigne le nombre d'individus de la
$n$-ième génération.  Chaque membre de la $n$-ième génération donne le jour à une famille de membres de la $n+1$-ième
génération et la taille de cette famille est une variable aléatoire. On fait les hypothèses suivantes :

\medskip\noindent (a) Les tailles $X_i$ des familles de tous les
individus sont des variables indépendantes

\medskip\noindent (b) Toutes ces tailles $X_i$ ont  même loi $f$ et pour
 fonction génératrice $G$.

 On supposera dans la suite que $Z_0=1$.  On appelle
 $G_n(s)=\esp(s^{Z_n})$ la fonction génératrice de $Z_n$.
Notre but est de montrer le théorème suivant et ses conséquences.

\begin{thf} \label{theoremedebranchement}
On a    $G_n(s)=G(G(\dots (G(s))\dots ))$,  l'itérée $n$ fois de $G$.
\end{thf}


\dexer
\quest 1) Démontrer le théorème $\ref{theoremedebranchement}$.

\quest 2)On pose $\mu_n=EZ_1$ et $\sigma_n^2=var(Z_1).$ En
dérivant une fois, puis deux fois en $s=1$ la relation
$G_n(s)=G(G_{n-1}(s))$, montrer que $\esp(Z_n)=\mu^n$,
$var(Z_n)=n\sigma^2$ si $\mu =1$,
$$var(Z_n)=\frac {\sigma^2(\mu^n -1)\mu^{n-1}}{\mu-1}\;\;\hbox{  si
}\; \mu\neq 1.$$

\quest 3) On suppose que les  tailles de familles ont la distribution géométrique $\Pro(X=k)=qp^k$.  Avez-vous une
interprétation pour cette hypothèse? Vérifier que $G(s)=q(1-ps)^{-1}$ et, par récurrence, que
$$G_n(s)=\frac{n-(n-1)s}{n+1-ns}\; \hbox{ si } \; p=q=\frac 12,$$
$$G_n(s)=\frac{q(p^n-q^n-ps(p^{n-1}-q^{n-1}))}{p^{n+1}-q^{n+1}-ps(p^n-q^n)}\;
\hbox{ si } \; p\neq q.$$


\quest 4) En déduire que
$$\Pro(Z_n=0)= \frac {n}{n+1} \;\hbox{ si }\; p=q=\frac
12,$$
$$\Pro(Z_n=0)=\frac{q(p^n-q^n)}{p^{n+1}-q^{n+1}}\; \hbox{ si } \;
p\neq q.$$

\quest 5) En conclure que, sous les hypothèses précédentes, la
probabilité d'extinction de la population des descendants vérifie
$$\Pro(extinction)=1 \;\hbox{ si }\; p\leq q,\;\; \Pro(extinction)=\frac qp
\;\;\hbox{ si }\;\; p>q.$$ Interpréter ce résultat !


\quest 6) Le résultat précédent est valide en général comme le
montre le théorème suivant

\begin{thf} Quand $n\to\infty$, $\Pro(Z_n=0)\to\eta
=\Pro(extinction)$ et $\eta$ peut être calculée comme la plus
petite racine positive de l'équation $s=G(s)$.  De plus, $\eta=1$
si $\mu<1$ et $\eta<1$ si $\mu>1$.   Si $\mu=1$, alors $\eta=1$ du
moment que la variance de taille de famille est positive.
\end{thf}
Interpréter ce résultat ! La démonstration n'est pas difficile ($\cite{GS}$, p.173). La lire attentivement.
\fexer


\dsolution
\quest 1) C'est très simple, mais la démonstration du
Grimmett-Stirzaker est pourtant un peu confuse.   On a
$Z_n=X_1+\dots\;+X_{Z^{n-1}}$, où $X_i$ est la taille de la
famille du $i$-ème individu de la génération $n-1$. Il s'agit
d'une somme d'un nombre aléatoire de v.a.i.i.d. de fonctions
génératrices $G$, ce nombre aléatoire $Z_{n-1}$ ayant  une loi
$G_n$. Donc par le théorème
\ref{fonctiongeneratricedunesommealeatoiredeva}, on a
$G_n=G_{n-1}\circ G$ et on conclut parce que $G_1=G$.

\quest 2) On rappelle que si $X$ est une v.a. de fonction
génératrice $G$, alors $\esp X=G'(1)$ et $var
(X)=G''(1)+G'(1)-G'(1)^2$.
 En dérivant comme indiqué, on a
$G'_{n}(1)=G'(1)G'_{n-1}(1)$ et donc $\mu_n=\mu\mu_{n-1}$, soit
$\mu_n=\mu^n$.  En dérivant deux fois, on obtient
$G''_{n}(s)=G''(G_{n-1}(s))G'_{n-1}(s)^2+G'(G_{n-1}(s))G''_{n-1}(s)$,
soit $G''_n(1)=G''(1)\mu^{2(n-1)} + \mu G''_{n-1}(1).$  On en tire
la relation de récurrence $\sigma_n^2=\sigma^2\mu^{2(n-1)} +\mu
\sigma_{n-1}^2$ qui donne bien les résultats annoncés.

\quest 3) Simple calcul.

\quest 4) On a $\Pro(Z_n=0)=G_n(0)$, ce qui donne tout de suite le
résultat annoncé en utilisant la question précédente. On définit
l'évênement "extinction" comme l'union (croissante) des évènements
"extinction au temps $n$". Par la propriété fondamentale des
mesures positives, on a donc $\Pro(extinction)=\lim \Pro(Z_n=0).$

Passons à l'interprétation, du point de vue de Galton et Watson : si $p\leq q$, on a $p\leq \frac 12$ et donc la
distribution des tailles décroît très vite. De plus on vérifie facilement que l'espérance du nombre de descendants par
individu est $G'(1)=\frac p {1-p}$. Donc si $p< \frac 12$, cette espérance est inférieure à 1. Dans ce cas, il y
extinction !  Si $p\geq \frac 12$, l'espérance du nombre de descendants est supérieure à 1 et tend vers l'infini quand
$p\to 1$. Dans ce cas, il y a une probabilité de "survie du nom". Mais la probabilité d'extinction reste importante
puisque elle est égale à $\frac qp$. Il peut y avoir extinction même dans une famille prolifique et les grands noms,
donc, peuvent disparaître. 
 \fsolution
