ENS de CACHAN

Cours et Travaux Dirigés de Probabilités

Prépa Agrég

Cédric Bernardin et Jean-Michel Morel

2

Table des matières

1 La construction des espaces de probabilités 9 1.1 Algèbres, tribus, π-systèmes, λ-systèmes et espaces mesurables . . . . . . . . . . . . 9 1.2 Mesure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

1.2.1 Complétion d’un espace mesuré . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.2.2 Evénements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.2.3 Problème posé . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

1.3 Unicité des extensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4 Théorème de Carathéodory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.5 Mesures complexes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 1.6 Mesures de Borel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 1.7 Absolue continuité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 1.8 Algèbres, tribus et compagnie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

2 Variables aléatoires 23 2.1 Définitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 2.2 σ-algèbre générée par une collection de variables aléatoires . . . . . . . . . . . . . . . 24 2.3 Distributions et fonctions de répartition . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.4 Variables aléatoires à densités et variables aléatoires discrètes . . . . . . . . . . . . . 26 2.5 TD Variables aléatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

3 Espérance 29

3.1 Construction de l’intégrale et théorèmes de convergence . . . . . . . . . . . . . . . . 29 3.1.1 La machine standard . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 3.1.2 Théorèmes de convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

3.2 Inégalités de Markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 3.3 Sommes de variables aléatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 3.4 Inégalité de Jensen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 3.5 Monotonie des normes L^{p} . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 3.6 Hölder et Minkowski . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 3.7 Cas p = 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 3.8 T.D. Intégration et Lebesgue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 3.9 Rappel des principaux théorèmes, énoncés dans ℝ^{N}. . . . . . . . . . . . . . . . . . . 44 4 Produit de mesures 47

4.1 Mesure produit, Théorème de Fubini . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

4.1.1 Théorème de Fubini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 4.2 Tribus et mesures produits pour une infinité d’espaces . . . . . . . . . . . . . . . . . 50 4.3 TD Probabilités : Fubini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

5 Indépendance 55 5.1 Indépendance de familles d’événements et de variables aléatoires . . . . . . . . . . . 55 5.2 Critères d’indépendance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56 5.3 Indépendance généralisée . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 5.4 Indépendance et événements asymptotiques . . . . . . . . . . . . . . . . . . . . . . . 59 5.5 Lemmes de Borel-Cantelli, loi du 0-1, mesurabilité relative . . . . . . . . . . . . . . . 60

6 Lois des grands nombres 67 6.1 La preuve la plus rapide de la loi forte des grands nombres . . . . . . . . . . . . . . 73

7 Les convergences 75

7.1 Convergence des mesures bornées sur ℝ^{d} . . . . . . . . . . . . . . . . . . . . . . . . . 75 7.1.1 Topologies vague, faible et étroite . . . . . . . . . . . . . . . . . . . . . . . . . 75 7.1.2 Tension . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78

7.2 Rappel sur les différents types de convergence . . . . . . . . . . . . . . . . . . . . . . 79 7.3 Convergence en loi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 7.4 TD Probabilités : Modes de convergence . . . . . . . . . . . . . . . . . . . . . . . . . 81

8 Pile ou face, marches aléatoires 85 8.1 Propriétés élémentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 8.2 Le principe de réflexion et ses conséquences . . . . . . . . . . . . . . . . . . . . . . . 94 8.3 Lois de l’arc sinus pour les marches aléatoires . . . . . . . . . . . . . . . . . . . . . . 97

9 Fonctions génératrices, poules et grands noms 101 9.1 Espérance conditionnelle, poules et oeufs . . . . . . . . . . . . . . . . . . . . . . . . . 101 9.2 Fonctions génératrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 9.3 Processus de branchement : l’extinction des grands noms . . . . . . . . . . . . . . . . 107

10 Fonctions caractéristiques et théorèmes de Lévy 109 10.1 Généralités . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109 10.2 Injectivité de la transformée de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . . 110 10.3 Le Théorème de convergence de Lévy . . . . . . . . . . . . . . . . . . . . . . . . . . . 113 10.4 Fonctions caractéristiques : ce qu’il faut absolument savoir . . . . . . . . . . . . . . . 115

11 Les gaussiennes 117

12 Théorème limite central 121

13 Grandes déviations 127 14 Espérance conditionnelle 131

14.1 Introduction : variables aléatoires discrètes . . . . . . . . . . . . . . . . . . . . . . . 131 14.2 Théorème d’existence et d’unicité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132 14.3 Variables à densité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133 14.4 Variables discrètes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134 14.5 Noyaux et lois conditionnelles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134 14.6 TD Probabilités : Espérance conditionnelle . . . . . . . . . . . . . . . . . . . . . . . 136

15 Martingales et inégalités maximales 143 15.1 Williams ou Ouvrard ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143 15.2 Martingales et temps d’arrêt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144 15.3 Martingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144

15.3.1 Filtrations et processus adaptés . . . . . . . . . . . . . . . . . . . . . . . . . . 144 15.3.2 Martingale, Sur-martingale, Sous-martingale . . . . . . . . . . . . . . . . . . 145 15.3.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145 15.3.4 Illustration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146 15.3.5 Temps d’arrêt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147 15.3.6 Sur-martingales arrêtées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147 15.3.7 Théorème d’arrêt de Doob . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148

15.4 TD : Jeux, ruine, temps d’arrêt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150 15.5 Le théorème de convergence des martingales . . . . . . . . . . . . . . . . . . . . . . . 153

16 Martingales bornées dans L^{2}. 157

16.1 Le théorème de base de convergence des martingales de L^{2} . . . . . . . . . . . . . . . 157 16.1.1 Martingales de L^{2} : orthogonalité des accroissements . . . . . . . . . . . . . . 157 16.1.2 Décomposition de Doob . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 16.1.3 Le crochet d’une martingale < M > . . . . . . . . . . . . . . . . . . . . . . . 159 16.1.4 Application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160

16.2 TD Probabilités : Inégalités maximales . . . . . . . . . . . . . . . . . . . . . . . . . . 161

17 Martingales uniformément intégrables 167

17.1 L’uniforme intégrabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167 17.1.1 Les espérances conditionnelles d’une même variable X sont équiintégrables . 168 17.1.2 Convergence en probabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169 17.1.3 Théorème de convergence bornée . . . . . . . . . . . . . . . . . . . . . . . . . 169 17.1.4 Condition nécessaire et suffisante de convergence 𝕃^{1}. . . . . . . . . . . . . . . 169

17.2 Martingales UI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170 17.2.1 Théorème ”montant” de Lévy. . . . . . . . . . . . . . . . . . . . . . . . . . . 171 17.2.2 La loi du 0-1 par martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 17.2.3 Théorème de Lévy ”descendant” . . . . . . . . . . . . . . . . . . . . . . . . . 172 17.2.4 Preuve de la LGN par martingale . . . . . . . . . . . . . . . . . . . . . . . . . 172

17.3 TD probabilité : Deuxième théorème d’arrêt : [26] p. 391 . . . . . . . . . . . . . . . . 173 17.4 TD Probabilités : Optimisation d’une vente ([18] p. 511) . . . . . . . . . . . . . . . . 174 17.5 TD Probabilités : Théorème de Radon-Nykodim . . . . . . . . . . . . . . . . . . . . 178 18 Théorie financière 181

18.1 Le problème des options . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181 18.2 Le formalisme des modèles discrets . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 18.3 Les stratégies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 18.4 Marché viable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 18.5 Marché complet et évaluation des options . . . . . . . . . . . . . . . . . . . . . . . . 183 18.6 Le modèle de Cox, Ross et Rubinstein . . . . . . . . . . . . . . . . . . . . . . . . . . 184 18.7 Enveloppes de Snell et options américaines . . . . . . . . . . . . . . . . . . . . . . . 185

19 Chaînes de Markov 191 19.1 Analyse bibliographique brève . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 19.2 Préliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192

19.2.1 Théorème de Kolmogorov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192 19.3 Temps d’arrêt et tribu des événements antérieurs . . . . . . . . . . . . . . . . . . . . 192 19.4 Chaînes de Markov : la construction . . . . . . . . . . . . . . . . . . . . . . . . . . . 193

19.4.1 Matrices de transition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193 19.4.2 Conséquences de la relation (19.4.1) . . . . . . . . . . . . . . . . . . . . . . . 195

19.5 Construction de l’espace canonique d’une matrice de transition . . . . . . . . . . . . 195 19.6 La chaîne de Markov canonique associée à une matrice de transition . . . . . . . . . 196

19.6.1 Canonisation d’un processus de Markov . . . . . . . . . . . . . . . . . . . . . 197 19.7 Calculs sur la chaîne canonique et propriété de Markov forte . . . . . . . . . . . . . . 197 19.8 Première grande application : la probabilité de retour . . . . . . . . . . . . . . . . . 199 19.9 Opérateurs potentiels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200 19.10Récurrence et transience . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200

19.10.1 Communications entre deux états . . . . . . . . . . . . . . . . . . . . . . . . . 201 19.11Lien entre martingale et chaîne de Markov . . . . . . . . . . . . . . . . . . . . . . . . 203 19.12Chaînes irréductibles récurrentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203 19.13Théorèmes ergodiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207 19.14Conséquences du théorème ergodique . . . . . . . . . . . . . . . . . . . . . . . . . . . 208 19.15Périodicité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209 19.16Chaînes de Markov à espaces d’états finis ([8] pp. 195-199) . . . . . . . . . . . . . . . 210 19.17TD Probabilités : Chaînes de Markov I . . . . . . . . . . . . . . . . . . . . . . . . . . 211

20 Chaînes de Markov et télécommunications 215 20.1 TD Probabilités : Un exemple de télécommunication . . . . . . . . . . . . . . . . . . 215 20.2 TD Probabilités : Système de transmission Aloha . . . . . . . . . . . . . . . . . . . . 217

20.2.1 Description du modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218 20.2.2 Instabilité de ALOHA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218 20.2.3 Quelques outils théoriques : fonctions de Liapounov . . . . . . . . . . . . . . 219 20.2.4 Stabilisation du protocole Aloha . . . . . . . . . . . . . . . . . . . . . . . . . 222

21 Formulaire des chaînes de Markov 225 22 Processus de Poisson 229

22.1 Définitions et propriétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229 22.2 TD Probabilités : Processus de Poisson . . . . . . . . . . . . . . . . . . . . . . . . . . 231 22.3 Processus de Poisson (version élégante) . . . . . . . . . . . . . . . . . . . . . . . . . 233

22.3.1 Généralités . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234 22.4 Superposition, restriction et transformation . . . . . . . . . . . . . . . . . . . . . . . 234

22.4.1 Théorème d’existence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235 22.4.2 Processus de Poisson marqués . . . . . . . . . . . . . . . . . . . . . . . . . . . 236

23 Limites hydrodynamiques 239 23.1 Marche aléatoires à temps continu . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240 23.2 Système de particules libres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241 23.3 Mesures invariantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241 23.4 Equivalence des ensembles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242 23.5 Equilbre local . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244 23.6 Quelques remarques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245

24 Simulations de variables aléatoires et applications 247

24.1 La méthode MCMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247 24.1.1 Les méthodes classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247 24.1.2 Le principe de la méthode MCMC . . . . . . . . . . . . . . . . . . . . . . . . 248 24.1.3 Simulation d’une chaîne de Markov . . . . . . . . . . . . . . . . . . . . . . . . 249 24.1.4 Un modèle d’exclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250

24.2 Critique de la méthode MCMC . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250 24.3 L’algorithme de Propp-Wilson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251 24.4 Le modèle d’Ising . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253

24.4.1 Distribution de Gibbs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253 24.4.2 Distribution de Gibbs en volume infini et transition de phase . . . . . . . . . 254 24.4.3 Simulation d’une distribution de Gibbs par la méthode MCMC . . . . . . . . 255 24.4.4 Simulation via l’algorithme de Propp-Wilson pour le modèle d’Ising . . . . . 256 24.4.5 Simulation de la transition de phase . . . . . . . . . . . . . . . . . . . . . . . 256

24.5 Méthode de gradient stochastique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257

25 Le modèle de Cox-Ross-Rubinstein, Fanny Godet 261

26 Théorie de l’information et de la communication 267

26.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267 26.1.1 L’entropie d’une source . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268 26.1.2 Transmission dans un canal bruité . . . . . . . . . . . . . . . . . . . . . . . . 269 26.1.3 Plan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269

26.2 Les étapes du codage : vocabulaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270 26.3 Entropie, entropie relative, information mutuelle . . . . . . . . . . . . . . . . . . . . 279 8

Chapitre 1

La construction des espaces de probabilités

1.1 Algèbres, tribus, π-systèmes, λ-systèmes et espaces mesurables

Soit Ω un ensemble quelconque. On commence par définir toute une typologie de collections d’ensembles que l’on utilisera tout au long du cours.

Définition 1.1.1. (π,λ-systèmes, algèbres et tribus)

1. Une classe P de sous-ensembles de Ω est appelée un π-système ssi :

A, B ∈ P ⇒ A ∩ B ∈ P

2. Une classe L de sous-ensembles de Ω est appelée un λ-système ssi :

i) Ω ∈ L. ii) Si A, B ∈ L et A ⊂ B alors B\A ∈ L. iii) Si (A_{n})_{n∈ℕ} est une suite croissante d’éléments de L alors ∪_{n∈ℕ}A_{n} ∈ L.

3. Une classe F de sous-ensembles de Ω est appelée une algèbre ssi :

i) Ω ∈ F. ii) F ∈ F ⇒ F^{c} ∈ F. iii) F, G ∈ F ⟹ F ∪ G ∈ F.

4. Une classe F de sous-ensembles de Ω est une tribu (ou σ-algèbre) ssi :

i) F est une algèbre.

ii) Si F_{n} ∈ F pour tout n ∈ ℕ alors ∪_{n∈ℕ}F_{n} ∈ F.

Remarque 1.1.1. Il est facile de voir que si F est une algèbre alors F est stable par réunion et intersection finie (mais pas forcément dénombrable) et que la définition d’une algèbre pourrait être donnée de manière équivalente si à la place de la stabilité par réunion finie, on imposait la stabilité par intersection finie. De même dans la définition d’une tribu, la propriété ii), compte-tenu de i), peut être remplacée par la stabilité par réunion dénombrable croissante (c’est-à-dire en supposant que les F_{n} forment une suite croissante au sens de l’inclusion) ou bien par réunion disjointe (c’est-à-dire en supposant que les F_{n} forment une suite d’éléments disjoints de F).

Proposition 1.1.1. Une collection de sous-ensembles de Ω est une tribu ssi c’est à la fois un λ-système et un π-système.

En général, on ne dispose pas directement d’algèbres, tribus... et on les construit à partir “d’éléments générateurs”. Ce qui permet de le faire, c’est la remarque suivante :

“Une intersection quelconque (dénombrable ou pas) de π-systèmes, λ-systèmes, d’algèbres ou de tribus est (respectivement) un π-système, un λ-système, une algèbre ou une tribu. ”

En effet, si C est une collection de sous-ensembles de Ω, puisque P(Ω) (ensemble de toutes les parties de Ω) est une tribu (donc un π-système, λ-système et une algèbre) contenant C, l’intersection de tous les π-systèmes (resp. λ-systèmes, algèbres, tribus) contenant C est un π-système (resp. λ-système, algèbre, tribu) contenant C. Et c’est le plus petit π-système (resp. λ-système, algèbre, tribu) contenant C. On l’appelle alors π-système (resp. λ-système, algèbre, tribu) engendré par C et on le note π(C) (resp. λ(C), α(C), σ(C)).

Le théorème suivant est fondamental dans tout ce qui suit et notamment dans la démonstration du théorème de Carathéodory dont nous parlerons plus loin.

Théorème 1.1.1. (Dynkin) Si P est un π-système contenu dans un λ-système alors ce λ-système contient la tribu engendrée par ce π-système.

Démonstration. Voir TD. □

Définition 1.1.2. Une paire (Ω, F), où Ω est un ensemble et F est une tribu sur Ω, est appelée un espace mesurable. Un élément de F est appelé un ensemble F-mesurable.

Passons maintenant à un exemple fondamental d’espace mesurable. Soit S un espace topologique muni de sa famille S d’ouverts. On appelle tribu borélienne sur S la tribu engendrée par S. On la note B(S) et ses éléments sont appelés les boréliens de S. Les éléments de B(ℝ^{d}) par exemple peuvent être très compliqués et il est possible de construire des ensembles non boréliens (voir TD). Néanmoins, il est facile d’exhiber des classes assez simples engendrant la tribu borélienne de ℝ^{d}. Cette tribu est en effet engendrée (par exemple) par l’une des classes suivantes (voir TD) :

{∏_{i=1}^{d}[a_{i}; b_{i}]; a_{i}, b_{i} ∈ ℝ} , {∏_{i=1}^{d}(−∞; b_{i}]; b_{i} ∈ ℝ} , {∏_{i=1}^{d}[a_{i}; +∞); a_{i} ∈ ℝ}

1.2 Mesure

Définition 1.2.1. Soit Ω un ensemble muni d’une algèbre F et soit μ une fonction d’ensemble positive pouvant prendre la valeur +∞.

On dira qu’une telle fonction est additive ssi :

1. μ(∅) = 0

2. Si F, G ∈ F et si F ∩ G = ∅ alors μ(F ∪ G) = μ(F) + μ(G).

On dira qu’elle est σ-additive (ou dénombrablement additive) ssi :

1. μ(∅) = 0.

2. Pour toute suite d’éléments disjoints F_{n} ∈ F tels que ∪_{n}F_{n} ∈ F, μ(∪_{n}F_{n}) = ∑_{n} μ(F_{n}).

Remarque 1.2.1. Attention à la définition donnée ici. Il est important de noter que μ est définie sur une algèbre et qu’à priori, une réunion dénombrable d’éléments de F n’est pas obligatoirement dans F. D’autre part, on a bien sûr que toute fonction d’ensemble positive dénombrablement additive est additive. Enfin, il est aisé de montrer que μ est dénombrablement additive ssi elle est additive et si pour toute suite croissante (F_{n})_{n} d’éléments de F telle que F = ∪_{n}F_{n} ∈ F, μ(F) = lim_{n→∞} μ(F_{n}).

Définition 1.2.2. Soit (Ω, F) un espace mesurable. Une application μ de F dans [0, +∞] est appelée mesure sur (Ω, F) ssi μ est dénombrablement additive. Le triplet (Ω, F, μ) est alors appelé un espace de mesure (ou espace mesuré).

⋆ On dira que la mesure μ est finie (ou de masse finie) ssi μ(Ω) < +∞.

⋆ On dira qu’elle est σ-finie ssi il existe une suite (Ω_{n})_{n} d’ensembles mesurables tels que μ(Ω_{n}) < +∞ et Ω = ∪_{n}Ω_{n}.

⋆ On appelera probabilité toute mesure μ de masse μ(Ω) égale à 1. (Ω, F, μ) est alors appelé un espace probabilisé ou espace de probabilité.

1.2.1 Complétion d’un espace mesuré

Soit (Ω, F, μ) un espace mesuré. On définit N la classe des ensembles négligeables de (Ω, F) par :

N ∈ N ssi ∃Z ∈ F, μ(Z) = 0 et N ⊂ Z

F^{∗} est la classe des parties F de Ω telles qu’il existe E, G ∈ F, E ⊂ F ⊂ G et μ(G\E) = 0. Il est assez facile de voir que F^{∗} est une tribu qui plus est engendrée par F et N. De plus, les ensembles négligeables de (Ω, F^{∗}) sont les mêmes que ceux de (Ω, F).

Sur F^{∗}, on définit alors une fonction μ^{∗} par μ^{∗}(F) = μ(E) = μ(G) (remarquer que cette définition a bien un sens). Il n’est alors pas difficile de montrer que (Ω, F^{∗}, μ^{∗}) est un espace mesuré qui “étend” l’espace mesuré de départ. On l’appelle la complétion de (Ω, F, μ). En particulier, la tribu complétée B(ℝ) pour λ, la mesure de Lebesgue (cf après), est appelée la tribu des Lebesguiens. En ce qui nous concerne, nous n’aurons pratiquement jamais à travailler avec la tribu des Lebesguiens et on se contentera des Boréliens...

1.2.2 Evénements

Soit (Ω, F, ℙ) un espace probabilisé. Les éléments de F sont appelés les événements. Une propriété P(ω) dépendant de ω ∈ Ω sera dite vraie presque sûrement (notée p.s.) ssi l’ensemble (non nécessairement mesurable) {ω ∈ Ω; P(ω) fausse } est un ensemble négligeable. On utilisera fréquemment dans la suite les deux événements asymptotiques définis de la manière suivante. Soit E_{n} une suite d’événements. Les événements lim sup E_{n} et lim inf E_{n} sont donnés par :

\begin{cases}lim sup E_{n} = ∩_{n} ∪_{k≥n} E_{k} = \{E_{n} ont lieu infiniment souvent\} \\ lim inf E_{n} = ∪_{n} ∩_{k≥n} E_{k} = \{E_{n} ont toujours lieu sauf un nombre fini de fois\} \end{cases}

1.2.3 Problème posé

Le problème posé est le suivant et est bien illustré par le cas de la mesure de Lebesgue λ. On cherche à définir une mesure λ sur (ℝ, B(ℝ)) telle que pour tous réels a < b, λ((a, b)) = b − a. Première question : existe-t-il une telle mesure ? Si oui, est-elle unique ? La réponse à la première question est apportée par le théorème de Carathéodory, la réponse à la deuxième par le lemme de Dynkin.

1.3 Unicité des extensions

Proposition 1.3.1. (d’unicité des prolongements de mesures) Soit Ω un ensemble muni d’un π-système P et soit F = σ(P). Supposons que l’on ait deux mesures μ_{1} et μ_{2} sur F de même masse finie, μ_{1}(Ω) = μ_{2}(Ω), qui coïncident sur P. Alors

μ_{1} = μ_{2}

Démonstration. On définit la classe D = {F ∈ F; μ_{1}(F) = μ_{2}(F)}. Il est facile de voir que c’est un λ-système donc par le théorème de Dynkin, D contient F. En effet, le fait que les deux mesures aient même masse montre que Ω ∈ D et les masses finies assurent que D est stable par différence propre. □

Il s’en suit que deux probabilités qui coïncident sur un π-système coïncident aussi sur la tribu qu’engendre ce π-système.

1.4 Théorème de Carathéodory

Théorème 1.4.1. (Carathéodory) Soit Ω un ensemble muni d’une algèbre F_{0} et soit F la tribu engendrée par cette algèbre. Si μ_{0} est une appliction dénombrablement additive μ_{0} : F_{0} → [0; +∞] alors il existe une mesure μ sur (Ω, F) telle que

μ = μ_{0} sur F_{0}

Si μ_{0}(Ω) < +∞ alors cette extension est unique.

L’unicité a été traitée dans la section précédente. Avant de passer à la preuve de ce théorème, examinons d’un peu plus près le cas de la mesure de Lebesgue sur (0, 1] muni de la tribu borélienne. On définit la classe F_{0} des sous ensembles F de (0, 1] qui peuvent se mettre sous la forme :

F = (a_{1}, b_{1}] ∪ … ∪ (a_{r}, b_{r}]

avec r ∈ ℕ et 0 ≤ a_{1} ≤ … ≤ a_{r} ≤ b_{r} ≤ 1. On montre facilement que F_{0} est une algèbre et que la tribu qu’elle engendre est la tribu des boréliens sur (0, 1]. Sur F_{0}, on définit l’application λ par

λ(F) = ∑_{k=1}^{r}(b_{k} − a_{k})

si F s’écrit sous la forme donnée ci-dessus. Il faut bien entendu vérifier que cette définition est cohérente (i.e. ne dépend pas de l’écriture de F choisie). On démontre alors, et ce n’est pas totalement trivial, que λ est σ-additive sur F_{0}. Par le théorème d’extension de Carathéodory, λ s’étend en une mesure encore notée λ et appelée mesure de Lebesgue sur ((0, 1], B((0, 1])).

Passons maintenant à la preuve du théorème de Carathéodory.

Démonstration.

Nous n’indiquerons que les principales étapes, les détails étant parfaitement expliqués dans [30].

Etape 1 : Soit G = P(Ω) la tribu composée de toutes les parties de Ω. Pour un G ∈ G, on définit

λ(G) = inf {∑_{n} μ_{0}(F_{n})}

où l’infimum est pris sur toutes les suites (F_{n})_{n} d’éléments de F_{0} qui recouvrent G, i.e. G ⊂ ∪_{n}F_{n}. λ n’est pas une mesure mais est ce que l’on appelle (improprement) une “mesure exterieure”, c’està-dire qu’elle jouit des propriétés suivantes :

a) λ(∅) = 0.

b) λ est croissante : G_{1} ⊂ G_{2} ⇒ λ(G_{1}) ≤ λ(G_{2}).

c) λ est dénombrablement sous-additive : si (G_{k})_{k} est une suite d’éléments de G alors

λ (∪_{k}G_{k}) ≤ ∑_{k} λ(G_{k})

Seule c) mérite d’être expliquée. Soit (G_{n})_{n} une suite supposée telle que pour chaque n, λ(G_{n}) < +∞ (sinon c’est trivial). On se donne ε > 0 et pour chaque n, on se donne une suite d’éléments (F_{n,k})_{k} de F_{0} pour lesquels

G_{n} ⊂ ∪_{k}F_{n,k} , ∑_{k} μ_{0}(F_{n,k}) ≤ λ(G_{n}) + ε2^{−n}

Alors G ⊂ ∪_{n,k}F_{n,k} et on a :

λ(G) ≤ ∑_{n,k} μ_{0}(F_{n,k}) ≤ ∑_{n} λ(G_{n}) + ε

Puisque ε est arbitraire, en le faisant tendre vers 0, on obtient c).

Etape 2 : On introduit alors la notion de λ-ensembles. Un élément L de G est appelé un λ-ensemble ssi “il décompose tout élément de G proprement”, c’est-à-dire :

λ(L ∩ G) + λ(L^{c} ∩ G) = λ(G), ∀G ∈ G

Lemme 1.4.1. Les λ-ensembles forment une tribu L sur laquelle λ est dénombrablement additive si bien que (Ω, L, λ) est un espace mesuré.

Démonstration. (du lemme). On montre facilement que L est une algèbre qui jouit de la propriété suivante :

Si L_{1}, L_{2}, …, L_{n} sont des éléments de L disjoints et G ∈ G une partie quelconque de Ω alors

λ (∪_{k=1}^{n}(L_{k} ∩ G)) = ∑_{k=1}^{n} λ(L_{k} ∩ G) (⋆)

Nous avons donc à démontrer que si (L_{k})_{k} est une suite d’éléments disjoints de L alors L = ∪_{k}L_{k} ∈ L (cf. la remarque après la définition de la notion de tribu) et

λ(L) = ∑_{k} λ(L_{k})

Par sous-additivité de λ, on a pour tout G ∈ G :

λ(G) ≤ λ(L ∩ G) + λ(L^{c} ∩ G)

Passons maintenant à l’inégalité inverse. Soit M_{n} = ∪_{k≤n}L_{k}. Puisque L est une algèbre (cf ce qui précède), M_{n} ∈ L donc

λ(G) = λ(M_{n} ∩ G) + λ(M_{n}^{c} ∩ G)

Or L^{c} ⊂ M_{n}^{c} si bien que

λ(G) ≥ λ(M_{n} ∩ G) + λ(L^{c} ∩ G)

et par (⋆),

λ(G) ≥ ∑_{k=1}^{n} λ(L_{k} ∩ G) + λ(L^{c} ∩ G)

Par passage à la limite quand n → +∞, on obtient

λ(G) ≥ ∑_{k=1}^{∞} λ(L_{k} ∩ G) + λ(L^{c} ∩ G) ≥ λ(L ∩ G) + λ(L^{c} ∩ G)

la deuxième inégalité étant une conséquence de la sous-additivité de λ. On en déduit que L ∈ L. D’autre part, puisque la dernière inégalité est en fait une égalité, on voit qu’il en est de même des autres et que finalement

λ(L ∩ G) = ∑_{k} λ(L_{k} ∩ G)

Il suffit maintenant de prendre G = Ω pour conclure.

□

Il nous reste à voir que F_{0} ⊂ L et λ = μ_{0} sur F_{0} pour achever la preuve du théorème.

Etape 3 : Preuve que λ = μ_{0} sur F_{0}.

Soit F ∈ F_{0}. On a bien entendu λ(F) ≤ μ_{0}(F). Supposons maintenant que F ⊂ ∪_{n}F_{n} où F_{n} ∈ F_{0}. On définit une suite (E_{n})_{n} d’éléments disjoints de F_{0} par :

E_{1} = F_{1}, E_{n} = F_{n} ∩ (∪_{k<n}F_{k})^{c}

si bien que E_{n} ⊂ F_{n} et F ⊂ ∪_{n}F_{n} = ∪_{n}E_{n}. En utilisant la σ-additivité de μ_{0} sur F_{0}, on a

μ_{0}(F) = μ_{0}(∪_{n}(F ∩ E_{n})) = ∑_{n} μ_{0}(F ∩ E_{n})

Donc

μ_{0}(F) ≤ ∑_{n} μ_{0}(E_{n}) ≤ ∑_{n} μ_{0}(F_{n})

si bien que λ(F) ≥ μ_{0}(F) ce qui conclut la troisième étape.

Etape 4 : Preuve de F_{0} ⊂ L.

Il nous faut voir que si E est un élément de F_{0} alors E décompose proprement les éléments de G. Soit donc G ∈ G et soit pour ε > 0 quelconque une suite (F_{n})_{n} d’éléments de F_{0} tels que G ⊂ ∪_{n}F_{n} avec

∑_{n} μ_{0}(F_{n}) ≤ λ(G) + ε

Par définition de λ,

∑_{n} μ_{0}(F_{n}) = ∑_{n} μ_{0}(E ∩ F_{n}) + ∑_{n} μ_{0}(E^{c} ∩ F_{n})
≥ λ(E ∩ G) + λ(E^{c} ∩ G)

car E ∩ G ⊂ ∪(E ∩ F_{n}) et E^{c} ∩ G ⊂ ∪(E^{c} ∩ F_{n}). Puisque ε est aussi petit que l’on veut,

λ(G) ≥ λ(E ∩ G) + λ(E^{c} ∩ G)

Puisque λ est sous-additive,

λ(G) ≤ λ(E ∩ G) + λ(E^{c} ∩ G)

Donc E est un λ-ensemble. □

1.5 Mesures complexes

Dans cette section, nous donnons un résumé de ce que l’on trouve dans le chapitre 6 de [27] concernant les mesures complexes. (Ω, F) est toujours un espace mesurable.

Une mesure complexe μ sur F est une application de F dans ℂ telle que μ(∅) = 0 et pour tout A ∈ F et toute partition mesurable dénombrable (A_{i})_{i} de A, on ait

μ(A) = ∑_{i} μ(A_{i})

Cette convergence est à entendre au sens de l’absolue convergence. On définit alors la variation totale de μ par

|μ|(A) = sup ∑_{i} |μ(A_{i})|

où le supremum est pris sur toutes les partitions dénombrables mesurables de A.

Théorème 1.5.1. La variation totale |μ| d’une mesure complexe μ sur F est une mesure positive de masse finie sur F.

Il est d’autre part facile de voir que l’ensemble des mesures complexes sur F forme un espace vectoriel (on définira sans peine ce qu’est la somme de deux mesures complexes et la multiplication par un complexe d’une mesure complexe). La notion de variation totale d’une mesure permet de définir une norme sur cet espace vectoriel : la norme d’une mesure complexe μ est donnée par ∥μ∥ = |μ|(Ω) < +∞. On obtient donc une structure d’espace vectoriel normé.

Dans le cas où l’on s’intéresse uniquement aux mesures complexes à valeurs dans ℝ, on parle de mesures signées. On définit la variation totale d’une mesure signée comme précedemment puis on définit respectivement les variations positives et négatives de μ par :

μ^{+} = \frac{1}{2}(|μ| + μ), μ^{−} = \frac{1}{2}(|μ| − μ)

Ce sont des mesures positives de masses finies telles que

μ = μ^{+} − μ^{−}

On appelle cette décomposition la décomposition de Jordan de μ. On a en fait une propriété de minimalité de ces mesures.

Proposition 1.5.1. Si μ est une mesure signée qui s’écrit μ = λ_{1} −λ_{2} où λ_{1}, λ_{2} sont deux mesures positives alors λ_{1} ≥ μ^{+} et λ_{2} ≥ μ^{−}.

Cette propriété découle du théorème de décomposition de Hahnqui dit que μ^{+} et μ^{−} ont leurs masses respectivement concentrées sur A ∈ F et B ∈ F tels que A ∩ B = ∅ et A ∪ B = Ω. Ce théorème est lui-même une conséquence du théorème de Radon-Nykodym (cf. après).

1.6 Mesures de Borel

Pour cette section, on se reportera au chapitre 2 de [27]. On suppose ici que Ω est un espace topologique séparé localement compact et F est la tribu des boréliens sur Ω.

Définition 1.6.1. Une mesure (complexe ou positive) μ définie sur la tribu des boréliens F d’un espace Ω séparé localement compact est appelée une mesure borélienne sur Ω.

Une mesure de Borel positive sera dite régulière si elle satisfait :

1. ∀E ∈ F, μ(E) = inf {μ(V); E ⊂ V, V ouvert }.

2. ∀E ∈ F tel que μ(E) < +∞, μ(E) = inf {μ(K); K ⊂ E, K compact }.

On dira de même d’une mesure complexe qu’elle est régulière si sa variation totale |μ| qui est une mesure positive est régulière.

On énonce maintenant le théorème de représentation de Riesz tel qu’on le trouve dans [27] dans le chapitre sur les mesures complexes et le chapitre sur les mesures de Borel positive. Il est relativement général. Sa démonstration nécessite des préliminaires topologiques longs. Ce théorème anticipe sur la suite puisqu’il fait appel à la notion d’intégrale relativement à une mesure mais on supposera que le lecteur est familier avec la théorie de l’intégration relativement à une mesure complexe ou tout du moins relativement à une mesure signée.

On note C_{c} l’espace des fonctions continues sur Ω à support compact et C_{0} l’espace des fonctions de Ω dans ℂ s’annulant à l’infini que l’on munit de la norme uniforme. C_{c} est dense dans C_{0} pour la norme uniforme. Le théorème de représentation de Riesz caractérise toutes les formes linéires positives (non nécessairement bornées) et les formes linéaires bornées sur C_{c} muni de la topologie de la convergence uniforme. Bien entendu, toute forme linéaire bornée sur C_{c} se prolonge de manière unique en une forme linéaire continue sur C_{0}.

Théorème 1.6.1. (de représentation de Riesz)

1. Soit Φ une forme linéaire positive sur C_{c}. Il existe une unique mesure positive borélienne régulière μ sur (Ω, F) telle que

Φ(f) = ∫_{Ω} fdμ, (f ∈ C_{c})

2. Soit Φ une forme linéaire bornée sur C_{0}. Il existe une unique mesure de Borel μ complexe régulière telle que

Φ(f) = ∫_{Ω} fdμ, (f ∈ C_{0})

De plus, ∥Φ∥ = |μ|(Ω)

1.7 Absolue continuité

Là aussi, nous anticipons en supposant connue la notion d’intégrale relativement à une mesure. (Ω, F) est un espace mesurable quelconque.

Définition 1.7.1. Soit μ une mesure positive sur F et λ une mesure quelconque sur F, positive ou complexe. On dit que λ est absolument continue par rapport à μ et on note λ ≪ μ si

μ(E) = 0 ⟹ λ(E) = 0

A l’opposé de cette notion existe celle de mesures mutuellement singulières.

Définition 1.7.2. Soit λ et μ deux mesures quelconques (positives ou complexes). On dit qu’elles sont mutuellement singulières (et on note λ ⊥ μ) s’il existe deux ensembles mesurables disjoints A et B tels que pour tout E ∈ F,

λ(E) = λ(E ∩ A), et μ(E) = μ(E ∩ B)

On a le théorème de Radon-Nikodym dont une partie peut être démontrée via les martingales (voir TD).

Théorème 1.7.1. Soit λ et μ deux mesures positives bornées sur la tribu (Ω, F).

1. Il existe un couple unique de mesures λ_{a} et λ_{s} tel que

λ = λ_{a} + λ_{s}, λ_{a} ≪ μ, λ_{s} ⊥ μ

2. Ces mesures sont positives bornées et λ_{a} ⊥ λ_{s}.

3. Il existe un unique h ∈ L^{1}(μ) tel que

dλ_{a} = hdμ

Le couple (λ_{a}, λ_{s}) s’appelle la décomposition de Lebesgue de λ relativement à μ.

L’idée de la preuve de ce théorème repose essentiellement sur le théorème de représentation de Riesz des applications linéaires continues dans les espaces de Hilbert. La preuve n’est pas très longue. Le théorème précédent reste encore vrai dans le cas d’une mesure μ positive σ-finie et d’une mesure complexe (donc bornée). Dans le cas enfin λ, μ positives et σ-finies, la majeure partie du théorème reste valable mais on a plus h ∈ L^{1}(μ) (on a seulement L_{loc}^{1}(μ)). En revanche, s’il n’y a plus d’hypothès de σ-finitude, on ne peut plus rien dire (cf. [27] pour un contre exemple).

1.8 Algèbres, tribus et compagnie

Exercice 1.8.1. Exercice (Lemme de Dynkin) (Williams, p 193) Un π-système est un ensemble de parties de Ω stable par intersection finie. Un λ-système est un

ensemble L de parties de Ω tel que :

1. Ω ∈ L

2. L est stable par différence propre (i.e. A, B ∈ L et A ⊂ B entraînent B \ A ∈ L.)

3. L est stable par réunion dénombrable croissante 1) Démontrer qu’une collection Σ de sous-ensembles de Ω est une tribu (σ-algebra) si et seulement si Σ est à la fois un π-système et un λ-système (en anglais, d-system).

2) On va montrer que si I est un π-système, alors la tribu σ(I) engendrée par I et le λ-système engendré par I sont égaux : λ(I) = σ(I). La démonstration est détaillée dans les deux questions qui suivent.

2a) Soit D_{1} = {B ∈ λ(I), B ∩ C ∈ λ(I), ∀C ∈ I}. Montrer que D_{1} hérite de la structure de λ-système de λ(I). En déduire que D_{1} = λ(I).

2b) Posons D_{2} = {A ∈ λ(I), B ∩ A ∈ λ(I), ∀B ∈ λ(I)}. Par la question 2a), D_{2} contient I. Montrer que D_{2} hérite la structure de λ-système de λ(I) et en déduire que λ(I) est un π-système. (Se déduit de 2a) en substituant λ(I) à I et en remarquant que λ(λ(I)) = λ(I).

3) Déduire le théorème de Dynkin : Soit P un π-système et L un λ-système tel que P ⊂ L. Alors la tribu engendrée par P est contenue dans L.

Exercice 1.8.2. (Il n’y a pas de tribu dénombrable. Cet exercice est extrait de Le Calcul Integral, H. Buchwalter (ne donne pas la correction).) Soit F une tribu sur Ω supposée au plus dénombrable.

a) Démontrer que tout ω ∈ Ω est contenu dans un plus petit élément de F.

b) En déduire que F est exactement la tribu engendrée par une partition au plus dénombrable.

c) Montrer alors que F est nécessairement finie de cardinal une puissance de 2 et que donc il n’existe pas de tribu dénombrable au sens strict.

d) Trouver toutes les tribus de ℕ. Réponse : ce sont toutes les tribus engendrées par une partition. En effet, on peut encore montrer la propriété a) : soit n_{0} et prenons pour tout n une partie A_{n} contenant n_{0} telle que n ∉ A_{n} (si un tel A_{n} existe : sinon prendre A_{n} = ℕ). On pose A(n_{0}) = ⋂_{n} A_{n}. Vérifier que c’est bien le plus petit élément de la tribu contenant n_{0}.

Exercice 1.8.3. (Exemple d’ensemble non borélien) (Williams, p 192) Soit (ℝ, B(ℝ), λ) l’espace des réels muni de la tribu borélienne et de la mesure de Lebesgue.

1) On définit la relation binaire suivante sur ℝ

xRy ssi x − y ∈ ℚ

Montrer que R est une relation d´’équivalence.

2) On désigne par C l’ensemble des classes d´’équivalence. Montrer que que pour toute classe C ∈ C il existe x ∈ C ∩[0, 1). On choisit alors pour chaque classe C un x_{C} vérifiant la propriété précédente et on note A = {x_{C}/C ∈ C}.

3) Montrer que

[0, 1] ⊂ ⋃_{q∈[−1,1]∩ℚ}q + A ⊂ [−1, 2)

et que les q + A sont deux à deux disjoints.

4) En supposant A borélien, aboutir à une contradiction.

Exercice 1.8.4. (Ensembles de Cantor) (Hauchecorne, ”Les contre-exemples en mathématiques”, pp. 128-131) On considère pour 0 < α < 1 l’opération suivante S_{α} : enlever à un intervalle [a, b] son intervalle central ]\frac{a+b}{2} −α\frac{b−a}{2}, \frac{a+b}{2} +α\frac{b−a}{2}[. Soit E ⊂ ℝ une union finie d’intervalles disjoints. On note s_{α}(E) le résultat de l’application de s_{α} à tous les intervalles de E. Quand α = \frac{1}{3}, l’ensemble K_{\frac{1}{3}} = ⋂_{n≥1} sn_{\frac{1}{3}}([0, 1]) est appelé ensemble triadique de Cantor. Plus généralement, si α = (α_{1}, ..., α_{n}, ...) est une suite de coefficients 0 < α_{n} < 1, on pose encore

K_{α}^{n} = s_{α_{n}}s_{α_{n−1}}...s_{α_{1}}([0, 1]), K_{α} = ⋂_{n≥1} K_{α}^{n}.

1) Montrer que pour toute suite α, l’ensemble K_{α} est un compact d’intérieur vide, équipotent à l’ensemble des suites binaires (gauche, droite)^{ℕ}. (Indication : tout élément de K_{α} est défini de manière unique par le fait qu’il appartient à l’intervalle de droite ou de gauche de K_{α}^{1}, puis au sous intervalle de cet intervalle de gauche ou de droite dans K_{α}^{2}, etc. ) En déduire que K_{α} est équipotent à [0, 1].

2) Montrer que K_{α} est de mesure strictement positive si et seulement si ∑_{n} α_{n} < +∞. En déduire qu’il y a des ensembles boréliens équipotents à ℝ et de mesure nulle et des fermés de mesure positive et d’intérieur vide.

Exercice 1.8.5. (Ouvert dense de mesure petite) (Hauchecorne, ”Les contre-exemples en mathématiques”, pp. 128-131) Montrer qu’il existe un ouvert de ℝ contenant ℚ et de mesure inférieure à ε. Remarquer que cela prouve qu’il y a des ouverts denses de mesure aussi petite qu’on veut. Indication : énumérer les rationnels q_{n}, n ∈ ℕ et considérer les intervalles ] − \frac{1}{2^{n}} + q_{n}, q_{n} + \frac{1}{2^{n}[}.

Exercice 1.8.6. (Il existe un ensemble négligeable et non borélien) 1) Soit K l’ensemble triadique

de Cantor. Montrer que c’est un compact non vide (donc borélien) négligeable de ℝ.

2) Montrer par récurrence que l’on peut définir une suite d´’applications ϵ_{n} : [0, 1) → {0, 1}, n ≥ 1 telle que

∀x ∈ [0, 1), ∀n ≥ 1, ∑_{i=1}^{n} \frac{ϵ_{i}(x)}{2^{i}} ≤ x < ∑_{i=1}^{n} \frac{ϵ_{i}(x)}{2^{i}} + \frac{1}{2^{n}}

On définit alors pour x dans [0, 1)

f(x) = ∑_{i=1}^{∞} \frac{2ϵ_{i}(x)}{3^{i}}

Montrer que f est strictement croissante et en déduire qu’elle est injective et borélienne.

3) Soit A l’ensemble non borélien de l´’ exercice 7.

1. Montrer que f([0, 1)) ⊂ K

2. Montrer que f(A) est négligeable pour λ.

3. En utilisant l’injectivité de f, établir que f(A) n’est pas borélien.

Exercice 1.8.7. Les seules mesures sur ℝ finies sur les bornés et invariantes par translation sont des multiples de la mesure de Lebesgue. (Problème 12.1 p. 180 du Billingsley). Indication : appeler a la mesure d’un intervalle de longueur 1, montrer d’abord que les intervalles de longueur \frac{1}{n} ont mesure \frac{a}{n}, puis que les intervalles de longueur rationnelle q ont mesure aq, finalement que les intervalles de longueur quelconque b ont mesure ab. Déduire que la mesure considérée coïncide sur un π-système avec la mesure de Lebesgue et conclure.

Exercice 1.8.8. (Théorème de Sard) Soit f une fonction C^{1} d’un ouvert de ℝ^{n} dans lui-même. On appelle point singulier de f un point x ∈ ℝ^{n} tel que Df(x) est non inversible. On note |Df(x)| le jacobien de f. L’ensemble des points singuliers est donc S(f) = (|Df|)^{−1}(0). Le théorème de Sard dit simplement que l’ensemble f(S(f)) est de mesure nulle.

1) Se convaincre que l’on peut se contenter de montrer le théorème de Sard quand f est définie sur un compact. Alors S(f) est compact.

2) On note B(x, r) la boule de centre x et de rayon r. Soit x_{0} ∈ S(f). En écrivant la formule de Taylor, f(x) = f(x_{0}) + Df(x_{0})(x − x_{0}) + o(|x − x_{0}|), montrer qu’il existe un sous-espace propre V de ℝ^{N} et une constante C tels pour tout ε > 0 il existe r > 0 tel que

f(B(x_{0}, r)) ⊂ f(x_{0}) + B_{V} (0, Cr) + Cεr,

où B_{V} (0, r) désigne la boule de rayon r dans V.

3) Soit K un compact de ℝ^{n}. Montrer que pour tout ε il existe r, tel que K soit recouvert par des cubes (C_{i})_{i∈I} de diamètre inférieur à r et tels que mesure((∪_{i}C_{i}) \ K) ≤ ε.

4) En recouvrant S(f) comme indiqué dans la question précédente, montrer le résultat annoncé.

Solution : On écrit ℝ^{N} = KerDf(x_{0}) ⊕ (KerDf(x_{0}))^{⊥} et, sur cette somme orthogonale d’espaces, on décompose x−x_{0} = y+z, de sorte que ||y|| ≤ r, ||z|| ≤ r si x−x_{0} ∈ B(0, r). On note V = Df(x_{0})(KerDf(x_{0})). Donc si ||x − x_{0}|| < r assez petit,

f(x) = f(x_{0}) + Df(x_{0})(z) + o(x − x_{0}) ∈ f(x_{0}) + B_{V} (0, Cr) + B(0, εr),

avec C = ||Df(x_{0})|| et où B_{V} (0, Cr) est la boule de centre 0 et de rayon Cr dans V. On vérifie aisément que la mesure de f(B(x_{0}, r)) est alors plus petite que C_{1}r^{N}ε^{d} où d est la dimension de KerDf(x_{0}) et C_{1} une constante adéquate.

22

Variables aléatoires

Dans la suite, (Ω, F, ℙ) désigne un espace probabilisé.

2.1 Définitions

Définition 2.1.1. Une variable aléatoire X sur (Ω, F, ℙ) est une application mesurable de (Ω, F) dans (ℝ^{d}, B(ℝ^{d})), c’est-à-dire une application X : Ω → ℝ^{d} telle que

∀A ∈ B(ℝ^{d}), X^{−1}(A) = {ω ∈ Ω; X(ω) ∈ A} ∈ F

Remarque 2.1.1. 1) On réserve parfois le nom de variable aléatoire pour le cas d = 1. Pour le cas d ≥ 2, on utilise le terme plus approprié de vecteur aléatoire.

2) On parle aussi de variables aléatoires pour des applications X : Ω → ℝ̄ = [−∞; +∞] pouvant prendre des valeurs infinies. La tribu que l’on met sur [−∞; +∞] est la tribu engendrée par les ouverts de ℝ̄, images réciproques des ouverts de [−1, 1] par la bijection bicontinue f : ℝ̄ → [−1, 1] définie par :

∀x ∈ ℝ, f(x) = \frac{2}{π} arctan(x) ; f(±∞) = ±1

3) On sait que si X : Ω → ℝ (mesurable ou non mesurable) alors X^{−1}(B(ℝ)) est une tribu. X est une variable aléatoire ssi X^{−1}(B(ℝ)) est une sous-tribu de F. X^{−1}(B(ℝ)) est donc la plus petite tribu sur Ω rendant X mesurable.

4) B(ℝ^{d}) est engendrée par

\begin{cases}\{∏_{i=1}^{d}(−∞; α_{i}); α_{i} ∈ ℝ\}, \\ \{∏_{i=1}^{d}(−∞; α_{i}]; α_{i} ∈ ℝ\}, \\ \{∏_{i=1}^{d}(α_{i}, β_{i}); α_{i}, β_{i} ∈ ℝ\}... \end{cases}

Par conséquent, pour montrer que X = (X_{1}, …, X_{d}) est une variable aléatoire à valeurs dans ℝ^{d}, il suffit de vérifier :

∀α = (α_{1}, …, α_{d}) ∈ ℝ^{d}, {ω ∈ Ω; ∀i ∈ ℕ_{d}, X_{i}(ω) < α_{i}} ∈ F

ou

∀α = (α_{1}, …, α_{d}), β = (β_{1}, …, b_{d}) ∈ ℝ^{d}, {ω ∈ Ω; ∀i ∈ ℕ_{d}, α_{i} < X_{i}(ω) < β_{i}} ∈ F

En particulier, ceci montre que X est une variable aléatoire à valeurs dans ℝ^{d} ssi pour tout i ∈ ℕ_{d}, X_{i} est une variable aléatoire réelle (la raison profonde étant en fait que la tribu borélienne sur ℝ^{d} est la tribu produit de d copies de ℝ).

Notation : On désignera par m l’ensemble des variables aléatoires sur (Ω, F, ℙ) à valeurs dans (ℝ, B(ℝ)) et par m̄ l’ensemble des variables aléatoires à valeurs dans (ℝ̄, B(ℝ̄)) (qui contient m).

Proposition 2.1.1. On a les propriétés élémentaires suivantes :

1) (m, +, .) est une algèbre.

2) Si (X_{n})_{n} ∈ m^{ℕ} alors inf_{n} X_{n} , sup_{n} X_{n} , lim inf_{n} X_{n} , lim sup_{n} X_{n} sont des éléments de m̄.

3) De plus, {ω ∈ Ω ; lim_{n→∞} X_{n}(ω) existe et appartient à ℝ} ∈ F.

4) Par suite, si (X_{n})_{n} est une suite d’éléments de m̄ et si on pose

A = {ω ∈ Ω ; lim_{n→∞} X_{n}(ω) existe et appartient à ℝ} ∈ F

alors (Y_{n})_{n} = (11_{A}X_{n})_{n} est une suite d’éléments de m.

Ces propriétés, très faciles à démontrer, sont admises. On remarquera qu’elles se généralisent aisément au cas de variables aléatoires multidimensionelles compte tenu du 4) de la remarque précédente.

A partir de maintenant, on utilisera une forme abrégée pour écrire des événements faisant intervenir des variables aléatoires. Ainsi, pour noter par exemple l’événement {ω ∈ Ω ; X(ω) ≤ C}, on écrira simplement {X ≤ C}.

2.2 σ-algèbre générée par une collection de variables aléatoires

Définition 2.2.1. On se donne une famille (Y_{γ})_{γ∈C} de variables aléatoires sur (Ω, F, ℙ) indexée par un ensemble C quelconque. La tribu engendrée par la famille (Y_{γ})_{γ∈C}, notée Γ = σ(Y_{γ} ; γ ∈ C), est définie comme la plus petite tribu sur Ω rendant mesurable chaque Y_{γ} pour γ ∈ C. Autrement dit,

Γ = σ ({ω ∈ Ω ; Y_{γ}(ω) ∈ B} ; γ ∈ C ; B ∈ B(ℝ^{d}))

Remarque 2.2.1. 1) Si X est une variable aléatoire alors σ(X) est une sous-tribu de F.

2) Si X est une variable aléatoire et f : (ℝ^{d}, B(ℝ^{d})) → (ℝ^{k}, B(ℝ^{k})) est mesurable alors f(X) est σ(X)-mesurable.

Proposition 2.2.1. Soit X une variable aléatoire. Une fonction Y : Ω → ℝ est σ(X)-mesurable ssi il existe une fonction borélienne f telle que Y = f(X).

Cette propriété sera démontrée en TD et est une simple conséquence du théorème de la classe monotone. Elle est cependant très importante dans la mesure où elle fait clairement comprendre ce que signifie “être σ(X)-mesurable”.

2.3 Distributions et fonctions de répartition

Définition 2.3.1. Soit X : (Ω, F, ℙ) → (ℝ^{d}, B(ℝ^{d})). On appelle mesure image de ℙ par X ou encore loi de X la mesure de probabilité ℙ_{X} sur (ℝ^{d}, B(ℝ^{d})) définie par :

∀A ∈ B(ℝ^{d}), ℙ_{X}(A) = ℙ(X^{−1}(A))

On sait que {∏_{i=1}^{d}(−∞; c_{i}] ; c_{i} ∈ ℝ} est un π-système qui génère B(ℝ^{d})). Par le théorème d’unicité des probabilités coïncidant sur un π-système, la loi de X est entièrement déterminée par la fonction

F_{X}(x) = ℙ(X ≤ x) = ℙ_{X}((−∞; x])

ce qui motive la définition suivante :

Définition 2.3.2. Soit X une variable aléatoire à valeurs dans ℝ^{d}. On définit la fonction de répartition de X sur ℝ^{d} par

∀x ∈ ℝ^{d}, F_{X}(x) = ℙ(X ≤ x)

et on a par ce qui précède la propriété suivante :

Proposition 2.3.1. Deux variables aléatoires ayant même fonction de répartition ont même loi.

Les fonctions de répartitions jouissent de propriétés très caractéristiques, du moins dans le cadre de la dimension 1. Dans le reste de cette section, on se limite donc à la dimension 1.

Proposition 2.3.2. Supposons que F soit la fonction de répartition d’une variable aléatoire réelle X. Alors :

a) F : ℝ → [0, 1] est croissante.

b) lim_{x→+∞} F (x) = 1 et lim_{x→−∞} F (x) = 0.

c) F est continue à droite (avec des limites à gauche puisque croissante).

Démonstration.

a) trivial.

b) lim_{x→+∞} F (x) = lim_{x→+∞} ℙ({ω ∈ Ω; X(ω) ≤ x}) et cette limite existe car F est croissante. Or (A_{n})_{n} = ({X ≤ n})_{n} est une suite croissante d’événements tendant vers Ω. Donc par σ-additivité de ℙ, lim_{n→} ℙ(A_{n}) = 1. Par suite, lim_{x→+∞} F (x) = 1. Un raisonnement analogue montre que lim_{x→−∞} F (x) = 0.

c) Soit (x_{n})_{n} une suite de points tendant vers x avec pour tout n ∈ ℕ, x_{n} ≥ x. On a F (x_{n}) = ℙ(X ≤ x_{n}) et {X ≤ x_{n}} ↓ {X ≤ x} donc F (x_{n}) ↓ F (x) et F est continue à droite. □

Existence de variables aléatoires ayant une fonction de répartition donnée

Théorème 2.3.1. Soit F une fonction ayant les propriétés a,b,c de la proposition précédente. Il existe alors une variable aléatoire X sur un espace probabilisé (Ω, F, ℙ) telle que la fonction de répartition de X soit F.

Démonstration. (Ω, F, ℙ) = ([0, 1], B([0, 1]), λ) où λ est la mesure de Lebesgue sur [0, 1]. On pose pour ω ∈ Ω,

X(ω) = inf{z ∈ ℝ ; F (z) ≥ ω} = sup{y ∈ ℝ ; F (y) < ω}

Il est facile de voir d’après la définition de X que

ω ≤ F (c) ⟺ X(ω) ≤ c

Par conséquent, ℙ(X ≤ c) = λ(ω ≤ F (c)) = F (c). □

2.4 Variables aléatoires à densités et variables aléatoires discrètes

Définition 2.4.1. On dira qu’une variable aléatoire X est à densité (par rapport à la mesure de Lebesgue) ssi la loi de X admet une densité (par rapport à la mesure de Lebesgue), i.e.

\begin{matrix}∃f ∈ L_{+}^{1}(ℝ^{d}, B(ℝ^{d}), dx), ∀A ∈ B(ℝ^{d}), \\ ℙ_{X}(A) = ∫_{A} f(x)dx \end{matrix}

Exemples fondamentaux :

1) X est une gaussienne de moyenne m ∈ ℝ^{d} et de matrice de covariance Γ ∈ S_{d}^{+} (ensemble des matrices symétriques définies positives) ssi X admet la densité sur ℝ^{d} donnée par

f(x) = \frac{1}{(2π)^{d/2}|detΓ|^{1/2}} exp (−\frac{1}{2} < Γ^{−1}(x − m), (x − m) >)

où < ·, · > désigne le produit scalaire euclidien usuel sur ℝ^{d}.

2) X est une exponentielle de paramètre λ ssi X admet la densité sur ℝ donnée par

f(x) = 1_{ℝ^{+}}(x)λe^{−λx}

Définition 2.4.2. Une variable aléatoire X est dite discrète s’il existe un ensemble dénombrable E tel que ℙ(X ∈ E) = 1. La loi de X est alors caractérisée par une suite (p_{e})_{e∈E} ∈ [0, 1]^{E} telle que ∑_{e∈E} p_{e} = 1 et p_{e} = ℙ(X = e).

Exemples fondamentaux :

1) X suit une loi de Bernoulli de paramètre p ∈ [0, 1] ssi :

ℙ(X = 0) = 1 − ℙ(X = 1) = 1 − p

2) X suit une loi géométrique de paramètre p ∈ [0, 1] ssi :

∀n ∈ ℕ^{∗}, ℙ(X = n) = p(1 − p)^{n−1}

3) X suit une loi de Poisson de paramètre λ ∈ ℝ_{+}^{∗} ssi :

∀k ∈ ℕ, ℙ(X = k) = e^{−λ} \frac{λ^{k}}{k!}

2.5 TD Variables aléatoires

Exercice 2.5.1. (Théorème de la classe monotone, [30], p. 205) Soit H une classe de fonctions bornées de Ω dans ℝ vérifiant

(i) H est un espace vectoriel sur ℝ (ii) la fonction constante 1 est un élément de H (iii) si f_{n} est une suite croissante de fonctions positives de H, tendant vers une fonction f bornée sur Ω, alors f ∈ H.

Alors, si H contient les fonctions indicatrices de tous les ensembles d’un π-système I, H contient aussi toutes les fonctions σ(I)-mesurables et bornées sur Ω.

1) Soit D la classe des ensembles F tels que 11_{F} ∈ H. Montrer que D est un λ-système et en déduire que D contient σ(I).

2) Soit f une fonction σ(I)-mesurable telle qu’il existe K ∈ ℕ, 0 ≤ f(s) ≤ K, ∀s ∈ Ω. Pour n ∈ ℕ, on considère les fonctions en escalier approximant f,

f_{n}(s) = ∑_{i=0}^{K2^{n}} i2^{−n}11_{A(n,i)}(s),

où

A(n, i) = {s, i2^{−n} ≤ f(s) ≤ (i + 1)2^{−n}}.

Montrer que f_{n} ∈ H, puis que f ∈ H. En déduire le théorème.

28

Espérance

Dans ce chapitre (Ω, F, ℙ) désigne un espace probabilisé. Nous rappelerons brièvement la construction de l’intégrale relativement à une mesure ℙ uniquement pour illustrer ce que nous appellerons par la suite “la machine standard”. Ce chapitre est donc essentiellement un formulaire et un dictionnaire analyse-probabilités. L’espérance, notée 𝔼 est simplement l’intégrale relativement à ℙ, c’est-à-dire que si X est une variable aléatoire intégrable relativement à ℙ,

𝔼(X) = ∫_{Ω} X(ω)dℙ(ω)

On l’appelle aussi parfois la moyenne de X. En particulier, si X = 11_{A}, 𝔼(X) = ℙ(A). On note L^{p}, pour p ∈ [1, +∞], l’espace vectoriel constitué des variables aléatoires X telles que |X|^{p} est intégrable relativement à ℙ. 𝔼 est une forme linéaire sur ces espaces. On note ∥ · ∥_{p} les normes associées.

3.1 Construction de l’intégrale et théorèmes de convergence

3.1.1 La machine standard

1) Soit f une fonction simple (ou étagée) positive, c’est-à-dire de la forme

f = ∑_{k=1}^{N} a_{k}11_{A_{k}}

où les a_{k} sont des réels positifs et A_{k} des éléments de F. On définit l’intégrale de f relativement à ℙ (ou espérance) par

𝔼(f) = ∑_{k=1}^{N} a_{k}ℙ(A_{k})

On vérifie aisément que cette définition est cohérente, c’est-à-dire qu’elle ne dépend pas de l’écriture de f choisie. D’autre part, des propriétés simples comme la linéarité, la positivité (si f, g sont deux fonctions simples positives et f ≤ g alors 𝔼(f) ≤ 𝔼(g)) se démontrent aisément.

2) Soit maintenant f une fonction positive mesurable. On définit son espérance par

𝔼(f) = sup{𝔼(h); h fonction simple positive , h ≤ f}

Cette quantité peut être infinie et on dira que f est intégrable si elle est finie. On vérifie que si h est une fonction simple positive, alors cette nouvelle définition reste cohérente avec l’ancienne. On peut construire des modes d’approximation simples pour une fonction mesurable positive. Par exemple si f est positive mesurable,

f_{k} := ∑_{l=0}^{k2^{k}−1} \frac{l}{2^{k}} 11_{[ \frac{l}{2^{k}} ≤f< \frac{l+1}{2^{k}}]} + k11_{[f≥k]}

converge simplement vers f et uniformément si f est en plus bornée.

Vient alors le théorème de convergence monotone (MON) pour les fonctions mesurables positives : Si (f_{n})_{n} est une suite de fonctions mesurables positives convergeant en croissant ℙ p.s. vers une fonction f (mesurable positive) alors

𝔼(f_{n}) ↑ 𝔼(f)  (3.1.1)

La démonstration de la convergence monotone NON TERMINE A REPRENDRE

Cette démonstration n’est pas difficile car ce théorème vient essentiellement du fait que si A_{n} ↑ A, alors ℙ(A_{n}) ↑ ℙ(A). Voici la marche de la démonstration. On va la faire dans le cas 𝔼f < +∞; le cas 𝔼f = +∞ suit exactement la même démarche.

On commence par remarquer qu’il existe une suite croissante de fonctions simples g_{n} telle que 𝔼g_{n} ↑ Ef et g_{n} ↑ f p.s.. Pour cela on prend une suite croissante g_{n} de fonctions simples telles que 𝔼g_{n} ↑ 𝔼g. La croissance vient du fait qu’on peut toujours remplacer g_{n} par sup_{i=1,...,n} g_{i}. Supposons par contradiction qu’on n’aie pas g_{n} ↑ f p.s.. Alors ℙ(sup g_{n} < f) > 0 et par la propriété de continuité de la mesure pour les suites croissantes pour quelque η > 0, l’ensemble A := ∩_{n}{g_{n} ≤ f − η} est de mesure strictement positive. Alors en remplaçant g_{n} par h_{n} := g_{n} + η11_{A}, on arrive à une contradiction car h_{n} ≤ g et

𝔼g ≥ 𝔼h_{n} ≥ 𝔼g_{n} + ηℙ(A) → 𝔼g + ηℙ(A).

La deuxième étape consiste à fixer g simple telle que g ≤ f et 𝔼g ≥ 𝔼f − ε. Ensuite on prend par l’étape précédente des fonctions simples g_{n} telles que ℙ(g_{n} ≤ f_{n} −ε) < \frac{1}{2^{n}}. Finalement on montre que. ? ? On remarque que par l’étape précédente g_{n} ∧ g tend vers g p.s. et qu’il nous suffit de montrer que 𝔼g_{n} tend vers 𝔼g. Comme ℙ(g − g_{n}) > ε → 0, on peut prendre n assez grand pour que cette probabilité soit plus petite que ε. Comme g_{n} et g sont simples, en nommant A_{k} la famille finie des intersections d’ensembles où elles sont chacune constantes, on peut écrire g_{n} = ∑_{k} a_{k}11_{A_{k}} et g = ∑_{k} b_{k}11_{A_{k}} et on a alors ℙ(∪_{k|b_{k}−a_{k}>ε}A_{k}) ≤ ε. Il suffit d’exprimer les espérances de ces deux fonctions simples pour conclure que 𝔼g − 𝔼g_{n} < ε + ε sup g.

Le lemme de Fatou se déduit aisément du théorème de convergence monotone. On démontre aussi à ce stade la linéarité et la positivité de l’espérance.

3) soit f une fonction mesurable de signe quelconque. On décompose f en sa partie positive f^{+} = sup(f, 0) et sa partie négative f^{−} = sup(−f, 0) si bien que f = f^{+} −f^{−} et |f| = f^{+} +f^{−}. On dira que f est intégrable ssi |f| l’est (ce qui implique que f^{+} et f^{−} le sont). Si f est intégrable, on définit son espérance par

𝔼(f) = 𝔼(f^{+}) − 𝔼(f^{−})

L’ensemble des fonctions intégrables forme un espace vectoriel sur lequel l’espérance ainsi définie est une forme linéaire positive. C’est à ce stade que le théorème de convergence dominée s’établit modulo le lemme de Sheffé (voir TD). On remarquera que la construction de l’intégrale se fait selon trois grandes étapes : on commence par définir l’espérance sur les fonctions simples, puis sur les fonctions mesurables positives grâce à une propriété de monotonie et enfin on passe au cas d’une fonction de signe quelconque grâce à la décomposition de f en sa partie positive et sa partie négative. Cette structure en trois étapes est constamment utilisée dans diverses preuves. Pour être plus explicite, on est souvent amené à montrer une propriété “linéaire” pour les fonctions mesurables. Il est souvent aisé de la montrer pour les fonctions simples puis par le théorème de convergence monotone pour les fonctions mesurables positives (puisque toute fonction mesurable positive est limite simple croissante d’une suite de fonctions simples) et enfin par décomposition en partie positive-négative pour les fonctions mesurables de signe quelconque. Nous appellerons par la suite ce genre de preuve, une “preuve par machine standard”.

3.1.2 Théorèmes de convergence

Soit (X_{n})_{n} une suite de variables aléatoires et X une variable aléatoire.

– (MON) : Si 0 ≤ X_{n} ↑ X, ℙ p.s., alors 𝔼(X_{n}) ↑ 𝔼(X).

– (Lemme de Fatou) : X_{n} ≥ 0 alors 𝔼(lim inf X_{n}) ≤ lim inf 𝔼(X_{n}).

– (Convergence Dominée) : |X_{n}| ≤ Y, ℙ p.s., 𝔼(Y) < +∞ et (X_{n})_{n} tend presque sûrement vers X alors X_{n} → X dans L^{1}.

– (Convergence bornée) : Si |X_{n}| ≤ C et si X_{n} tend vers X p.s., alors X_{n} → X dans L^{1}.

3.2 Inégalités de Markov

Si X ∈ L^{p}, ℙ(|X| ≥ c) ≤ c^{−p}𝔼(|X|^{p}). Si X est une variable aléatoire positive, pour tout réel c et tout τ > 0, on a

ℙ(Y ≥ c) ≤ e^{−τc}𝔼(e^{τY})

3.3 Sommes de variables aléatoires

a) Si X est une variable aléatoire positive et intégrable alors ℙ(X < +∞) = 1.

b) Si (Z_{k})_{k} est une suite de variables aléatoires positives alors

𝔼 (∑_{k} Z_{k}) = ∑_{k} 𝔼(Z_{k})

c) Si (Z_{k})_{k} est une suite de variables aléatoires positives telles que ∑_{k} 𝔼(Z_{k}) < +∞ alors presque sûrement, on a :

∑_{k} Z_{k} < +∞ et Z_{k} → 0

3.4 Inégalité de Jensen

Théorème 3.4.1. Soit ϕ : G → ℝ une fonction convexe et X une variable aléatoire ℙ p.s. à valeurs dans G où G est un intervalle de ℝ ouvert. On suppose que :

𝔼(|X|) < +∞ , 𝔼(|ϕ(X)|) < +∞

Alors :

ϕ(𝔼(X)) ≤ 𝔼(ϕ(X))

Démonstration. (Pour un énoncé et une démonstration en dimension N, voir le TD). Pour u < v < w,

on pose Δ_{u,v} = \frac{ϕ(v) − ϕ(u)}{v − u}. Puisque ϕ est convexe,

Δ_{u,v} ≤ Δ_{v,w}

(D_{−}ϕ)(v) = lim_{u↑v} Δ_{u,v} et (D_{+}ϕ)(v) = lim_{w↓v} Δ_{v,w} sont les dérivées à gauche et à droite de ϕ. On a donc

(D_{−}ϕ)(v) ≤ (D_{+}ϕ)(v)

D’autre part, par un argument du même genre en prenant quatre points, D_{−}ϕ, D_{+}ϕ sont croissantes. Si x < w < v, Δ_{x,w} ≤ Δ_{w,v} et par passage à la limite quand w tend en croissant vers v, on obtient Δ_{x,v} ≤ (D_{−}ϕ)(v) car ϕ est continue sur G. On a donc ϕ(v) − ϕ(x) ≤ (v − x)(D_{−}ϕ)(v) ≤ m(v − x) pour m ∈ [(D_{−}ϕ)(v); (D_{+}ϕ)(v)]. En raisonnant de même si v < x, on a pour tout v, x ∈ G, ϕ(x) ≥ m(x−v)+ϕ(v) pour m ∈ [(D_{−}ϕ)(v); (D_{+}ϕ)(v)]. Donc si v = μ = 𝔼(X) ∈ G (a < X < b ⇒ a < 𝔼(X) < b), et x = X, on a :

ϕ(X) ≥ m(X − μ) + ϕ(μ)

et en intégrant on obtient

𝔼(ϕ(X)) ≥ ϕ(μ) = ϕ(𝔼(X))
□

3.5 Monotonie des normes L^{p}

On rappelle que L^{p} est l’espace vectoriel des variables aléatoires X dont la norme L^{p} est finie. La norme L^{p} d’une variable aléatoire X est ∥X∥_{p} = 𝔼(|X|^{p})^{1/p} ∈ [0, +∞). L^{p} est un espace vectoriel et ∥ · ∥_{p} est une semi-norme. Si X ∈ L^{p}, on dit que X a un moment d’ordre p. 𝕃^{p} est le quotient de L^{p} pour la relation d’équivalence X ∼ Y ⟺ X = Y, ℙ p.s..

Théorème 3.5.1. 𝕃^{p} est un espace vectoriel normé complet.

On rappelle que pour démontrer ce théorème, on utilise ce que l’on appelle parfois “la réciproque du théorème de convergence dominée”, à savoir :

Proposition 3.5.1. Si (X_{n})_{n} est une suite de Cauchy dans L^{p} alors il existe une sous-suite (Y_{n})_{n} de (X_{n})_{n} et une variable aléatoire X ayant un moment d’ordre p telle que (Y_{n})_{n} converge en norme L^{p} vers X.

Une propriété particulière aux espaces de probabilités (par rapport aux espaces associés à une mesure quelconque) est la suivante

Proposition 3.5.2. Si 1 ≤ p < r ≤ +∞ alors si Y admet un moment d’ordre r, Y admet un moment d’ordre p et on a

∥Y ∥_{p} ≤ ∥Y ∥_{r}

Autrement dit, plus une variable aléatoire a des moments d’ordre élevé, mieux c’est. La démonstration facile repose sur l’inégalité de Jensen appliquée, après troncature, à la fonction ϕ(x) = x^{r/p}.

3.6 Hölder et Minkowski

On rappelle ces deux inégalités d’un usage constant et qui dérivent de l’inégalité de Jensen

Théorème 3.6.1. (Inégalité de Hölder) Soit 1 < p, q < +∞, tels que p^{−1} + q^{−1} = 1 et X ∈ L^{p}, Y ∈ L^{q}. On a alors l’inégalité de Hölder

𝔼(|XY |) ≤ ∥X∥_{p}∥Y ∥_{q}

Démonstration. On peut bien sûr se restreindre au cas X, Y ≥ 0 et 𝔼(X^{p}) > 0. D’autre part, quitte à considérer X ∧ n et Y ∧ n, puis à passer à la limite quand n tend vers +∞ par le théorème de convergence monotone, on peut supposer X, Y bornées. On définit une probabilité ℚ par

dℚ = \frac{X^{p}dℙ}{𝔼(X^{p})}

et une variable aléatoire Z par

Z = 11_{X>0} \frac{Y}{X^{p−1}}

Puisque 𝔼_{ℚ}(Z)^{q} ≤ 𝔼_{ℚ}(Z^{q}), on a

𝔼_{ℙ}(XY) ≤ ∥X∥_{p}∥Y 11_{X>0}∥_{q} ≤ ∥X∥_{p}∥Y ∥_{q}
□

Théorème 3.6.2. (Inégalité de Minkowski) Soit X, Y ∈ L^{p}, on a l’inégalité de Minkowski

∥X + Y ∥_{p} ≤ ∥X∥_{p} + ∥Y ∥_{p}

Démonstration. L’inégalité de Hölder donne

𝔼(|X + Y |^{p}) = 𝔼(|X||X + Y |^{p−1}) + 𝔼(|Y ||X + Y |^{p−1})
≤ A∥X∥_{p} + A∥Y ∥_{p}

où A = ∥|X + Y |^{p−1}∥_{q} = 𝔼(|X + Y |)^{1/q}. Un majoration grossière montre que A est finie et le résultat tombe. □

3.7 Cas p = 2

𝕃^{2} jouit d’un place particulière au sein des espaces 𝕃^{p} puisque c’est un espace de Hilbert pour le produit scalaire < X, Y >= 𝔼(XY).

Si X, Y sont deux variables aléatoires ayant des moments d’ordre 2, on appelle covariance de X et Y le réel défini par

Cov(X, Y) = 𝔼 [(X − 𝔼(X))(Y − 𝔼(Y))] = 𝔼(XY) − 𝔼(X)𝔼(Y)

Cov(·, ·) est un opérateur bilinéaire symétrique sur 𝕃^{2}. La variance de X est V ar(X) = σ_{X}^{2} = Cov(X, X) = 𝔼(X^{2}) − 𝔼(X)^{2} ≥ 0. En anticipant sur la suite, si X et Y sont indépendantes alors Cov(X, Y) = 0 et la réciproque est fausse. Si Cov(X, Y) = 0 alors les variances s’ajoutent : V ar(X + Y) = V ar(X) + V ar(Y) (théorème de Pythagore).

3.8 T.D. Intégration et Lebesgue

Certains des exercices qui suivent font appel aux théorèmes de dérivation sous le signe intégral et au théorème de Fubini. Ces théorèmes sont rappelés dans la prochaine section et le théorème de Fubini sera démontré dans le prochain chapitre. On notera λ la mesure de Lebesgue.

Exercice 3.8.1. L’inégalité de Jensen en dimension N. Soit U ⊂ ℝ^{n} un ouvert convexe et φ : U → ℝ^{n} une fonction convexe. On note x, y des éléments de ℝ^{n} et x.y leur produit scalaire canonique.

1) Rappeler la définition de la convexité, pour un ensemble et pour une fonction.

2) Donner la définition de lim sup_{y→x} φ(y). On rappelle qu’une fonction φ est continue en un point x si et seulement si

lim inf_{y→x} φ(y) ≥ φ(x) ≥ lim sup_{y→x} .

Montrer que φ est continue. Indication : on vérifiera et utilisera successivement les deux inégalités qui suivent

φ(y) ≤ \frac{1}{2}φ(2y − x) + \frac{1}{2}φ(x), φ(x) − \frac{1}{2}φ(x − z) ≤ \frac{1}{2}φ(x + z).

Prendre la limite inférieure ou supérieure des deux membres de ces inégalités quand y → x et quand z → 0. Solution. Les deux inégalités découlent immédiatement de la convexité de φ, la première parce que y est le milieu de [2y − x, x] et la deuxième parce que x est le milieu de [x − z, x + z]. On fait la limite supérieure de la première inégalité quand y tend vers x. Cela donne

lim sup_{y→x} φ(y) ≤ \frac{1}{2} lim sup_{y→x} φ(2y − x) + \frac{1}{2}φ(x) ≤ \frac{1}{2} lim sup_{y→x} φ(y) + \frac{1}{2}φ(x).

En effet si y → x, 2y−x → x. Donc lim sup_{y→x} φ(y) ≤ φ(x). En appliquant maintenant une limite inférieure à la deuxième inégalité,

φ(x) − lim sup_{z→0} \frac{1}{2}φ(x − z) ≤ lim inf_{z→0} \frac{1}{2}φ(x + z).

En utilisant la première inégalité prouvée, \frac{1}{2}φ(x) ≥ \frac{1}{2} lim sup_{z→0} φ(x − z). Donc

\frac{1}{2}φ(x) ≤ \frac{1}{2} lim inf_{z→0} φ(x + z).

3) Indiquer où l’hypothèse que U est ouvert a été utilisée. Donner un exemple de fonction convexe sur un intervalle fermé et qui n’est pas continue.

4) Montrer que l’épigraphe de φ, {x, z) ∈ ℝ^{n} × ℝ, z > φ(x)} est un ouvert convexe de ℝ^{n} × ℝ.

5) Montrer que tout hyperplan de ℝ^{n}×R peut s’écrire sous la forme {(x, z), a.x+bz = c} où a ∈ ℝ^{n}, b, c ∈ ℝ. On considère le point (x_{0}, φ(x_{0})) ∈ U. Montrer qu’il existe des réels a ∈ ℝ^{n}, b, c ∈ ℝ tels que ∀x ∈ U,

a.x + bφ(x) ≥ c et a.x_{0} + bφ(x_{0}) = 0.

Solution : appliquer Hahn-Banach géométrique à l’épigraphe ouvert de φ et au point (x_{0}, φ(x_{0})).

6) Montrer que b ≠ 0. En déduire qu’il existe v ∈ ℝ^{n}

φ(x) ≥ v.(x − x_{0}) + φ(x_{0}).

7) L’ensemble des v vérifiant l’inégalité précédente s’appelle sous-différentiel de φ en x_{0} et il est noté ∂φ(x_{0}). Montrer que ∂φ(x_{0}) est convexe.

8) On suppose que μ est une mesure de probabilité sur U telle que ∫_{U} |φ(x)|dμ(x) < ∞ et ∫_{U} |x|dμ(x) < ∞. Montrer que ∫_{U} xdμ(x) = x_{0} appartient à U. Quelle est l’interprétation géométrique de x_{0} si μ est la mesure de Lebesgue ?

9) Montrer l’inégalité de Jensen

∫ φ(x)dμ(x) ≥ φ(∫_{U} xdμ(x)).

Exercice 3.8.2. Tout graphe est de mesure nulle.

1) Démontrer que le graphe d’une application continue f de ℝ dans ℝ est un sous-ensemble de mesure nulle dans ℝ^{2}. (On montrera que la portion du graphe comprise entre les abcisses −k et k peut être recouverte par des rectangles dont la somme des mesures est arbitrairement petite).

2) Même question si f ∈ 𝕃_{loc}^{1}(ℝ), puis si f est borélienne.

Solution Comme [−k, k] est un compact, la fonction f considérée est uniformément continue sur [−k, k]. Il existe donc n ∈ ℕ tel que |x−y| ≤ \frac{1}{n}, x, y ∈ [−k, k] ⇒ |f(x)−f(y)| ≤ \frac{ε}{4k}. On recouvre [−k, k] par n intervalles consécutifs de longueur \frac{2k}{n}. On vérifie aisément que les 2n rectangles [l \frac{1}{n}, (l +1)\frac{1}{n}]×[f((l + \frac{1}{2})\frac{k}{n})− \frac{ε}{4k} , f((l + \frac{1}{2})\frac{k}{n})+ \frac{ε}{4k})], l = −n, −(n − 1), ..., n − 1 recouvrent le graphe de f sur [−k, k]. Donc la mesure de ce graphe est plus petite que 2n\frac{2k}{n} \frac{ε}{4k} = ε.

Solution plus élégante : Soit φ : ℝ^{2} → ℝ définie par φ(x, y) = y − f(x). Alors φ^{−1}(0) = {(x, f(x)), x ∈ ℝ} et par le théorème de Fubini-Tonnelli,

λ({(x, f(x)), x ∈ ℝ}) = ∫_{ℝ}(∫_{ℝ} 11_{y=f(x)}(x, y)dy)dx = 0

car les singletons sont de mesure de Lebesgue nulle.

Exercice 3.8.3. Soit A un borélien de ℝ^{N} et soit h égale à +∞ dans A et à 0 dans son complémentaire. Démontrer que l’on a

∫_{ℝ^{N}} h(x)dx = 0 si λ(A) = 0, ∫_{ℝ^{N}} h(x)dx = +∞ si λ(A) > 0.

Solution

Supposons que λ(A) = 0. On pose h_{k}(x) = min(h(x), k). Comme A est de mesure nulle, on a par définition de λ(A), ∫ 11_{A}dx = λ(A) = 0. Donc

∫ h_{k}(x)dx = k ∫ 11_{A}dx = 0.

Par le théorème de la convergence monotone, ∫ h(x)dx = lim_{k→∞} h_{k}(x)dx = 0. Si maintenant λ(A) > 0, on a, encore par le théorème de la convergence monotone,

∫ h(x)dx = lim_{k→∞} ∫ h_{k}(x)dx = lim_{k→∞} kλ(A) = +∞.

On déduit immédiatement que si f ≥ 0 vérifie ∫ f < ∞, alors l’ensemble A = {x, f(x) = +∞} est de mesure nulle.

Exercice 3.8.4. Soit f et g deux fonctions continues telles que f(x) = g(x) p.p.. Montrer que f et g sont égales partout.

Solution Comme les boules sont de mesure strictement positive, on déduit que f(x) = g(x) sur un ensemble dense de ℝ^{N}, et, par continuité, partout.

Exercice 3.8.5. Soit f une fonction intégrable sur ℝ. Démontrer que

∫_{a}^{b} f(x)dx → ∫_{ℝ} f(x)dx quand a → −∞, b → +∞.

Généralisation : soit A_{n} une suite croissante d’ensembles tels que ⋃_{n} A_{n} = ℝ^{N}. Démontrer que ∫_{ℝ^{N}} f(x)dx = lim_{n→∞} ∫_{A_{n}} f(x)dx.

Solution

Appliquer le théorème de convergence dominée de Lebesgue à la suite (f11_{A_{n}})_{n}.

Exercice 3.8.6. Soit h une fonction positive intégrable sur ℝ^{N} et A_{n} des boréliens de ℝ^{N} tels que λ(A_{n}) → 0. Démontrer que ∫_{A_{n}} h(x)dx → 0 quand n → ∞.

Solution Notons [h ≤ M] l’ensemble {x, h(x) ≤ M}. On écrit

∫_{A_{n}} h(x) ≤ ∫_{A_{n}∩[h(x)≤M]} h(x)dx + ∫_{A_{n}∩[h(x)>M]} h(x)dx ≤ Mλ(A_{n}) + ∫_{[h(x)>M]} h(x)dx.  (3.8.1)

Par le théorème de la convergence dominée, on a ∫_{[h(x)>M]} h(x)dx → 0. En effet, h(x)11_{[h(x)>M]} tend vers zéro presque partout car λ([h = +∞]) = 0 (Exercice ??) et |h(x)| est chapeau intégrable. On peut donc fixer pour tout ε > 0, M tel que ∫_{[h(x)>M]} h(x)dx < ε. On choisit ensuite n suffisamment grand pour que Mλ(A_{n}) < ε et on déduit alors de (3.8.1), ∫_{A_{n}} h(x)dx < 2ε.

Exercice 3.8.7. Calculer ∑_{n=1}^{∞} \frac{(−1)^{n+1}}{n} à l’aide de l’intégrale ∫_{0}^{1} \frac{dx}{1+x}. Indication : on posera f_{n}(x) = Σ_{0}^{n}(−1)^{k}x^{k} pour x ∈ [0, 1]. On trouvera un chapeau intégrable pour les f_{n} et on appliquera le théorème de Lebesgue.

Solution On sait que f_{n}(x) → Σ_{0}^{∞}(−1)^{k}x^{k} = \frac{1}{1+x} pour tout 0 ≤ x < 1. Par ailleurs, la série étant alternée, f_{0}(x) = 1 est ”chapeau intégrable” pour f_{n}(x) ≥ 0 sur [0,1]. Par le théorème de Lebesgue, on déduit que f_{n}(x) → \frac{1}{1+x} dans 𝕃^{1}(0, 1), ce qui implique que ∫_{0}^{1} f_{n}(x)dx → ∫_{0}^{1} \frac{1}{1+x}dx = Log2. En intégrant terme à terme, on obtient

Σ_{1}^{∞} \frac{(−1)^{n+1}}{n} = Log2.

Exercice 3.8.8. Soit f ∈ 𝕃^{1}(ℝ). Calculer la limite de n ∫_{1}^{∞} f(nx)dx quand n → +∞.

Solution En posant y = nx, on a n ∫_{1}^{∞} f(nx)dx = ∫_{n}^{∞} f(y)dy = ∫_{ℝ} 11_{[n,+∞[}(y)f(y)dy. La fonction f(y)11_{[n,∞[}(y) tend ponctuellement vers zéro quand n → ∞ et |f| en est chapeau intégrable. Donc par le théorème de Lebesgue, l’intégrale considérée tend vers zéro.

Exercice 3.8.9. (Déduire le Lemme de Fatou du théorème de convergence monotone) On rappelle la définition de la limite inférieure d’une suite a_{n} de réels :

lim inf_{n→∞} a_{n} = lim_{N→∞} inf_{n≥N} a_{n}

Cette limite est une limite croissante et donc elle existe toujours dans ℝ ∪ {+∞} ∪ {−∞}.

i) Remarquer que si g_{n} est une suite de fonctions sommables positives, alors ∫ inf_{n} g_{n} ≤ inf_{n} ∫ g_{n}. ii) Soit f_{n} une suite de fonctions à valeurs dans ℝ^{+} ∪ {+∞}. On pose g_{N} = inf_{n≥N} f_{n}. Montrer que lim_{N→∞} ∫ g_{N} = ∫ lim_{N→∞} g_{N}. iii) Déduire des questions précédentes le lemme de Fatou :

∫ lim inf f_{n} ≤ lim inf ∫ f_{n}.

Solution

i) Si g_{n} est une suite de fonctions sommables positives, on a pour tout n ∫ inf_{n} g_{n} ≤ ∫ g_{n}. En prenant l’infimum des deux cotés, on obtient ∫ inf_{n} g_{n} ≤ inf_{n} ∫ g_{n}. ii) La suite (g_{N})_{N} est une suite croissante de fonctions positives ou nulles. Par le théorème de la convergence monotone, on a donc lim_{N→∞} ∫ g_{N} = ∫ lim_{N→∞} g_{N}. iii) En combinant l’égalité du ii) et l’inégalité du i), on obtient directement le lemme de Fatou :

∫ lim inf f_{n} ≤ lim inf ∫ f_{n}.

Exercice 3.8.10. contrexemples Donner des exemples de suites de fonctions f_{n} ∈ 𝕃^{1}(0, 1) telles que

• f_{n} → f dans 𝕃^{1} et f_{n}(x) ne tend pas presque partout vers f(x).

• f_{n} ne tend pas vers f dans 𝕃^{1} et f_{n}(x) tend vers f(x) presque partout.

Solution

• On considère la suite de fonctions f_{n} définies sur [0, 1] par f_{1} = 1 sur [0,1] f_{2} = 1 sur [0, \frac{1}{2}], 0 ailleurs f_{3} = 1 sur [\frac{1}{2}, 1], 0 ailleurs f_{4} = 1 sur [0, \frac{1}{4}], 0 ailleurs f_{5} = 1 sur [\frac{1}{4}, \frac{1}{2}], 0 ailleurs f_{6} = 1 sur [\frac{1}{2}, \frac{3}{4}], 0 ailleurs... La formule générale est : Si 2^{k−1} ≤ n < 2^{k}, alors f_{n} = 1 sur [\frac{n−2^{k−1}}{2^{k−1}} , \frac{n+1−2^{k−1}}{2^{k−1}} ] = [\frac{n}{2^{k−1}} − 1, \frac{n+1}{2^{k−1}} − 1]. Cette suite de fonctions est une ”bosse roulante” dont la largeur tend vers zéro, mais qui balaye constamment l’intervalle [0, 1]. Elle est positive et son intégrale tend vers zéro. Donc f_{n} → 0 dans 𝕃^{1}. Par contre, f_{n}(x) ne tend jamais vers 0. En effet, si x est un point de [0,1], on peut poser par division euclidienne x = \frac{N}{2^{k−1}} + r, avec N < 2^{k−1} et r < \frac{1}{2^{k−1}} . Posons n = N + 2^{k−1}, ce qui permet d’écrire x sous la forme x = \frac{n−2^{k−1}}{2^{k−1}} +r. On voit que f_{n}(x) = 1, alors que f_{n+2}(x) = 0 par exemple. Donc f_{n}(x) ne converge nulle part !

• On pose f_{n}(x) = n si 0 ≤ x ≤ \frac{1}{n} et f_{n}(x) = 0 sinon. Alors f_{n}(x) tend vers 0 pour tout x ∈]0, 1]. Par contre, ∫ f_{n} = 1 et donc f_{n} ne tend pas vers 0 dans 𝕃^{1}.

Exercice 3.8.11. Coupes d’un ensemble mesurable Soit E un sous-ensemble de mesure bornée de ℝ^{N}. Démontrer que pour tout 0 ≤ α ≤ 1, E contient un sous-ensemble de mesure α.λ(E).

Solution On pose x = (x_{1}, ..., x_{N}) et

m(r) = λ({x ∈ E, x_{1} ≤ r}) = ∫_{ℝ^{N}} 11_{{x, x_{1}≤r}}dx.

Une application immédiate du théorème de Lebesgue montre que m est une fonction continue. Toujours par le même théorème, on montre que m(r) → 0 quand r → −∞ et m(r) → λ(E) quand r → +∞. (Dans tous les cas, on utilise tout bonnement la fonction 11_{E} comme chapeau intégrable). Par le théorème des valeurs intermédiaires appliqué à la fonction m(r), il existe donc pour tout 0 < a < λ(E) un réel r tel que m(r) = a.

Exercice 3.8.12. Convergence 𝕃^{1} quand il y a ”conservation de la masse” (Lemme de Scheffé) Montrer que si une suite de fonctions (w_{n})_{n} ∈ 𝕃^{1} vérifie w_{n} ≥ 0, w_{n}(x) → w(x) presque partout, w ∈ 𝕃^{1} et ∫ w_{n} → ∫ w, alors w_{n} → w dans 𝕃^{1}. Indication : écrire ∫ w − w_{n} = ∫ (w − w_{n})^{+} − ∫ (w − w_{n})^{−} et ∫ |w − w_{n}| = ∫ (w − w_{n})^{+} + ∫ (w − w_{n})^{−} et appliquer le théorème de Lebesgue.

Solution Comme w_{n} ≥ 0, on a 0 ≤ (w − w_{n})^{+} ≤ w ∈ 𝕃^{1} et donc par le théorème de Lebesgue ∫ (w − w_{n})^{+} → 0. On déduit de la relation ∫ (w − w_{n})^{+} − ∫ (w − w_{n})^{−} = ∫ w − w_{n} → 0 que ∫ (w − w_{n})^{−} tend aussi vers zéro et finalement que la somme des deux mêmes intégrales ∫ |w − w_{n}| = ∫ (w − w_{n})^{+} + ∫ (w − w_{n})^{−} tend vers zéro.

Exercice 3.8.13. Critère d’intégrabilité sur un borné B de ℝ^{N} On va montrer dans cet exercice que f ∈ 𝕃^{1}(B) si et seulement si ∀ε ∃η, λ(K) ≤ η ⇒ ∫_{K} |f| ≤ ε.

i) Montrer que si le critère d’intégration est vérifié, alors f est intégrable. ii) Pour la réciproque, on raisonne par contradiction et on suppose qu’il existe f ∈ 𝕃^{1}(B) telle que le critère d’intégration ne soit pas vérifié. Montrer qu’il existe alors ε > 0 et une suite K_{n} de sous-ensembles de B tels que ∫_{K_{n}} |f| ≥ ε et λ(K_{n}) ≤ \frac{1}{2^{n}}. On pose J_{n} = ∪_{n+1}^{∞}K_{k}. Montrer que ∫_{J_{n}} |f| → 0 et conclure. Autre méthode : appliquer directement le résultat de l’exercice 3.8.6 ! iii) (facultatif) Adapter le critère d’intégrabilité à ℝ^{N}.

Solution On applique le critère d’intégration avec par exemple ε = 1. Il existe donc η tel que λ(K) ≤ η ⇒ ∫_{K} |f| ≤ 1. Comme B est borné, il peut être recouvert par un nombre fini de boules de mesure inférieure à η, B_{1}, ..., B_{k}. On a donc ∫_{B} |f| ≤ Σ_{i=1}^{k} ∫_{B_{i}} |f| ≤ k, ce qui prouve que f ∈ 𝕃^{1}(B). Réciproquement, soit f ∈ 𝕃^{1}(B) et supposons par contradiction qu’il existe ε et une suite K_{n} de sousensembles de B tels que ∫_{K_{n}} f ≥ ε et λ(K_{n}) → 0. Quitte à extraire une sous-suite, on peut supposer que λ(K_{n}) ≤ \frac{1}{2^{n}}. On pose J_{n} = ∪_{k=n+1}^{∞}K_{k}. Donc mes(J_{n}) ≤ Σ_{k=n+1}^{∞} \frac{1}{2^{k}} ≤ \frac{1}{2^{n}} . La suite g_{n} des fonctions caractéristiques des J_{n} est une suite décroissante de fonctions positives dont l’intégrale tend vers zéro. Elle converge donc presque partout vers zéro. Revenant à f, on a ∫_{J_{n}} |f| = ∫_{B} g_{n}(x)|f(x)|dx. Comme g_{n}(x)|f(x)| tend presque partout vers zéro et que |f| est chapeau intégrable, on conclut que ∫_{J_{n}} |f| → 0, ce qui contredit le fait que ∫_{J_{n}} |f| ≥ ε.

Exercice 3.8.14. Réciproque du Théorème de Lebesgue On va montrer que si f_{n} est une suite convergente dans 𝕃^{1}, alors il existe une sous-suite qui converge presque partout et qui a un chapeau intégrable.

i) Montrer que si la suite f_{n} converge vers f dans 𝕃^{1}, on peut en extraire une sous-suite telle que ∥f_{i_{n+1}} − f_{i_{n}}∥_{1} < 2^{−n}. ii) On pose g_{n} = f_{i_{n+1}}−f_{i_{n}} ; montrer en appliquant le théorème de convergence monotone que la série Σ|g_{n}(x)| appartient à 𝕃^{1} et converge donc pour presque tout x. En déduire que f_{i_{n}} converge presque partout. iii) Déduire aussi que f_{i_{n}} a un chapeau intégrable. iv) Adapter le raisonnement précédent à une suite f_{n} qui est de Cauchy dans 𝕃^{1} pour montrer que 𝕃^{1} est un espace complet.

Solution i)Si f_{n} → f dans 𝕃^{1}, alors ∃i_{n}, ∥f_{i_{n}} − f∥_{1} < 2^{−n−1}. Donc ∥f_{i_{n+1}} − f_{i_{n}}∥_{1} < 2^{−n−1} + 2^{−n−2} < 2^{−n}. ii) On a Σ_{n}∥g_{n}∥_{1} ≤ Σ2^{−n} = 1. On pose h(x) = Σ_{n}|g_{n}(x)|. Cette série est positive et converge partout (éventuellement vers l’infini). Par le théorème de convergence monotone, ∫ h(x)dx = Σ_{n} ∫ |g_{n}(x)|dx = Σ_{n}∥g_{n}∥_{1} ≤ 1. Donc h(x) ∈ 𝕃^{1} et on déduit que la série de réels Σ_{n}|g_{n}(x)| est convergente pour presque tout x. Il est donc de même pour la série Σ_{n}g_{n}(x). Cette dernière série a h(x) pour chapeau intégrable. Par le théorème de Lebesgue, elle est donc convergente dans 𝕃^{1}. Comme f_{i_{n+1}} = f_{i_{1}} + Σ_{1}^{n}g_{n}, on en déduit que (f_{i_{n}})_{n} converge dans 𝕃^{1}. iii) |f_{i_{1}}| + h(x) est un chapeau intégrable pour la suite (f_{i_{n}})_{n}. iv) Adaptation à la démonstration de complétude de 𝕃^{1} : Si f_{n} est une suite de Cauchy dans 𝕃^{1}, on peut définir g_{n} comme précédemment et appliquer exactement le même raisonnement pour prouver que la série Σ_{n}g_{n}(x) converge pour presque tout x et a donc une limite ponctuelle f(x). On déduit alors du théorème de Lebesgue que (f_{i_{n}})_{n} converge vers f dans 𝕃^{1}. Il est alors immédiat (inégalité triangulaire) que toute la suite (f_{n})_{n} converge vers f.

Exercice 3.8.15. Calculer la dérivée à droite en zéro de la fonction

t → ∫_{0}^{1}(g(x) + t^{2})^{\frac{1}{2}} dx = φ(t),

où g vérifie 0 ≤ g ≤ 1. Indication : pour évaluer la limite du rapport \frac{φ(t)−φ(0)}{t}, penser à utiliser le théorème de Lebesgue.

Solution On a

\frac{φ(t) − φ(0)}{t} = ∫_{0}^{1} \frac{t}{\sqrt{f(x)^{2} + t^{2}} + \sqrt{f^{2}(x)}}dx = ∫_{0}^{t} k_{t}(x)dx.

On voit que k_{t}(x) = 1 si f(x) = 0 et k_{t}(x) → 0 quand t → 0 si f(x) ≠ 0. Donc k_{t}(x) → 11_{{f(x)=0}}, la fonction caractéristique de l’ensemble des points où f(x) s’annule. Ceci nous donne la limite ponctuelle. Cherchons un chapeau intégrable. On voit immédiatement que |k_{t}(x)| ≤ 1. Donc, par le théorème de Lebesgue, k_{t} → 11_{{f(x)=0}} quand t → 0 dans 𝕃^{1}(0, 1). D’où φ′(0^{+}) = ∫ 11_{{f(x)=0}} = λ({x, f(x) = 0}).

Exercice 3.8.16. Calculer lim_{n→+∞} Γ_{n}, où Γ_{n} = ∫_{0}^{n}(1 − \frac{x}{n})^{n}e^{\frac{x}{2}} dx.

Solution Notons 11_{[0,n]} la fonction caractéristique de [0, n], qui vaut 1 si x ∈ [0, n] et 0 ailleurs. Alors

Γ_{n} = ∫_{0}^{+∞}(1 − \frac{x}{n})^{n}e^{\frac{x}{2}} 11_{[0,n]}(x)dx.

On calcule la limite ponctuelle de l’intégrand : Comme (1 − \frac{x}{n})^{n} = e^{n log(1− \frac{x}{n})} → e^{−x} quand n → +∞, on voit que l’intégrand tend vers e^{− \frac{x}{2}} . Reste à trouver un chapeau intégrable. Si x ≤ n, log(1 − \frac{x}{n}) ≤ −\frac{x}{2n}. Donc (1 − \frac{x}{n})^{n}e^{\frac{x}{2}} 11_{[0,n]}(x) ≤ e^{− \frac{x}{2}} pour tout x ≥ 0. On conclut par le théorème de Lebesgue que Γ_{n} → ∫_{0}^{+∞} e^{− \frac{x}{2}} dx = 2.

Exercice 3.8.17. On pose, pour x > 0, Γ(x) = ∫_{0}^{∞} e^{−t}t^{x−1}dt. Démontrer que Γ est de classe C^{∞} sur ]0, +∞[. Démontrer que Γ(x) → +∞ quand x → 0. Pour la deuxième question, penser à utiliser le lemme de convergence monotone !

Solution On pose f(t, x) = e^{−t}t^{x−1} = e^{−t+(x−1)Logt}. Fixons 0 < α < M. On a, pour (t, x) ∈]0, +∞]×]α, M], |\frac{∂^{n}f}{∂x^{n}} (t, x)| = |e^{−t}(log t)^{n}t^{x−1}| ≤ h_{n}(t), où h_{n}(t) = e^{−t}|(log t)^{n}|t^{α−1} si 0 < t ≤ 1 et h_{n}(t) = e^{−t}|(log t)^{n}|t^{M−1} si t > 1. Les fonctions h_{n}(t) étant sommables sur ]0, ∞] , on voit (pour n = 0) que Γ est bien définie, puis qu’on peut appliquer successivement à tous ordres le théorème de dérivation sous le signe somme à l’intégrale définissant Γ(x). On obtient, pour tout α < x < M,

\frac{∂^{n}Γ}{∂x^{n}}(t, x) = ∫_{0}^{∞} e^{−t}(log t)^{n}t^{x−1}dt.

Comme α est arbitrairement petit et M arbitrairement grand, on conclut que Γ(x) est C^{∞} sur ]0, +∞[. Quand x → 0, le théorème de convergence monotone nous dit que

Γ(x) ≥ ∫_{0}^{1} e^{−t}t^{x−1}dt → ∫_{0}^{1} \frac{e^{−t}}{t} dt = +∞.

Remarque : on peut aussi montrer que Γ(z) est holomorphe sur le demi-plan Re(z) > 0, c’est plus rapide.

Exercice 3.8.18. Soit f une fonction sommable. Démontrer que lim_{α→+∞} αλ({x, |f(x)| ≥ α}) = 0.

Solution

On a

α ∫_{{|f(x)|≥α}} dx ≤ ∫_{{|f(x)|≥α}} |f(x)|dx = ∫ χ_{{|f(x)|≥α}}(x)|f(x)|dx.

On remarque que 11_{{|f(x)|≥α}}f(x) → 0 quand α → +∞, presque partout, et que |11_{{|f(x)|≥α}}f(x)| ≤ |f(x)| qui est donc chapeau intégrable. Par le théorème de Lebesgue, on a donc

∫_{{|f(x)|≥α}} |f(x)|dx → 0

Exercice 3.8.19. Si f ∈ 𝕃^{1}(ℝ), montrer que f̃(x) = Σ_{n∈ℚ}f(x + n) ∈ 𝕃^{1}([0, 1]) et que ∫_{[0,1]} f̃(x)dx = ∫_{ℝ} f(x)dx.

Solution Par le théorème de la convergence monotone, on a

∫_{0}^{1} Σ_{n∈ℤ}|f(x + n)| = Σ_{n∈ℤ} ∫_{0}^{1} |f(x + n)|dx = Σ_{n∈ℤ} ∫_{n}^{n+1} |f(x)|dx = ∫_{ℝ} |f(x)|dx.

La série Σ_{n∈ℤ}|f(x + n)| converge donc pour presque tout x et il en de même pour la série Σ_{n∈ℤ}f(x + n). Celle-ci a Σ_{n∈ℤ}|f(x + n)| comme chapeau intégrable. Par le théorème de Lebesgue, elle est donc convergente dans 𝕃^{1} et obtient la formule demandée.

Exercice 3.8.20. Un contre-exemple à méditer au théorème de dérivation sous le signe somme. Soit ϕ une fonction continue sur [0, 1]. On considère, dans [0, 1] × [0, 1] la fonction f définie par f(x, λ) = ϕ(x) si x ≤ λ et f(x, λ) = 0 sinon. On pose F (λ) = ∫_{0}^{1} f(x, λ)dx. Pour chaque λ, la dérivée partielle existe sauf en un point, et elle est majorée par une fonction sommable fixe : la fonction 0. Déterminer la dérivée de F.

Solution On a F (λ) = ∫_{0}^{1} f(x, λ)dx = ∫_{0}^{λ} ϕ(x)dx. Donc F′(λ) = ϕ(λ). On voit que la conclusion du théorème de dérivation sous le signe somme est fausse. En effet, l’hypothèse b) est invalidée : \frac{∂f}{∂λ}(x, λ) n’existe pas en tout point de A × I = [0, 1] × [0, 1], mais seulement en presque tout point.

Exercice 3.8.21. (Inégalité de Hardy, [11])

Soit p un réel strictement supérieur à 1.

1) Soit f ∈ 𝕃^{p}(ℝ_{+}). On pose F (x) = \frac{1}{x} ∫_{0}^{x} f(t)dt. Le but de la question est de montrer que F est dans 𝕃^{p}(ℝ_{+}) et que :

|∫_{0}^{∞} |F (x)|^{p}dx| ≤ (\frac{p}{p − 1})^{p} ∫_{0}^{∞} |f^{p}(x)|dx

a) Etablir le résultat lorsque f est continue positive.

b) En déduire le résultat lorsque f est continue et de signe quelconque.

c) Traiter le cas général.

2) Montrer que cette constante est optimale (ind. : on pourra utiliser des fonctions puissances).

Solution

1)

a) f étant continue, F est continue (y compris en 0, le vérifier) et dérivable sur (0, +∞) avec (xF)′ = F + xF′ = f. En écrivant que

F^{p}(x) = F^{p−1}(x)f(x) − xF^{p−1}(x)F′(x)

et en effectuant une intégration par parties, on obtient

∫_{0}^{T} F^{p}(x)dx = −\frac{T}{p − 1}F^{p}(T) + (\frac{p}{p − 1}) ∫_{0}^{T} F^{p−1}(x)f(x)dx

(on vérifiera qu’il n’y a pas de problème en 0 en prenant l’intégrale entre ε et T et en faisant tendre ε vers

0). Or −\frac{T}{p − 1}F^{p}(T) ≤ 0 car f est supposée positive. En appliquant l’inégalité de Hölder dans la deuxième

intégrale, on a

∫_{0}^{T} F^{p}(x)dx ≤ (\frac{p}{p − 1})^{p} ∫_{0}^{T} f^{p}(x)dx

b) On généralise l’inégalité précédente au cas où f est de signe quelconque en remarquant qu’alors

|F (x)| ≤ G(x) = x^{−1} ∫_{0}^{x} |f(t)|dt

et l’inégalité précédente est valable avec le couple (|f|, G). On en déduit facilement l’inégalité pour (f, F).

c) On vient de montrer que l’application T : f ∈ C_{0} → F ∈ L^{p} était linéaire continue avec une norme inferieure à p/(p − 1). Puisque C^{0} est dense dans L^{p}, on a que pour tout f ∈ L^{p}, il existe une suite (f_{n})_{n} de fonctions continues tendant en norme L^{p} vers f. Soit F_{n} = T (f_{n}) : (F_{n})_{n} est une suite de Cauchy dans L^{p} donc elle converge vers une certaine fonction G. Par la “réciproque du théorème de Lebesgue”, de la suite f_{n} on peut extraire une sous-suite qui converge simplement (et dans L^{p}) vers f. On en déduit facilement que F (x) = x^{−1} ∫_{0}^{x} f(t)dt = G(x) p.p. Donc F est dans L^{p} et vérifie l’inégalité de Hardy.

2) Facile.

Exercice 3.8.22. ([11]) Soit a > 0. Calculer

lim_{n→∞} ∫_{0}^{n^{1/a}} (1 − \frac{x^{a}}{n})^{n} dx

(ind. : on pourra utiliser le théorème de convergence monotone)

Solution Soit u > 0. On considère la fonction g_{u}(t) = t log(1 − u/t) pour t > u. on a gu^{′}(t) = log(1 − u/t) + u/(t − u) et gu^{′′}(t) = −u^{2}/[t(t − u)^{2}] ≤ 0 et donc gu^{′} positive car gu^{′}(+∞) = 0. Donc g_{u}(t) est une fonction croissante de t > u et t ∈ (u, +∞) → (1 − u/t)^{t} aussi. Il ne reste alors plus qu’à appliquer le théorème de convergence monotone et la limite cherchée est ∫_{0}^{∞} exp(−x^{a})dx = a^{−1}Γ(a^{−1}).

Exercice 3.8.23. ([11]) 1) Soit γ la constante d’Euler. Montrer que

γ = − ∫_{1}^{∞} (\frac{1}{x} − \frac{1}{E(x)}) dx

où E(x) désigne la partie entière de x. En déduire que γ > 0.

2) Montrer que γ = ∫_{0}^{∞} e^{−s} log(s)ds.

Solution

1) Trivial.

2) On a

∫_{0}^{k}(1 − s/k)^{k} log(s)ds = ∫_{0}^{1}(1 − s/k)^{k} log(s)ds + ∫_{1}^{k}(1 − s/k)^{k} log(s)ds

Quand k tend vers +∞, la première intégrale tend grâce au théorème de convergence dominée vers ∫_{0}^{1} e^{−s} log(s)ds et la deuxième, grâce au théorème de convergence monotone (voir exercice précédent), vers ∫_{1}^{∞} e^{−s} log(s)ds. On est donc ramené à l’étude de ∫_{0}^{k}(1 − s/k)^{k} log(s)ds qui après un changement de variables donne

k ∫_{0}^{1}(1 − u)^{k} log(u)du − \frac{k}{k + 1} log k = ∫_{0}^{1} kv^{k} log(1 − v)dv − \frac{k}{k + 1} log k

Or log(1 − v) = ∑_{j=1}^{∞} \frac{v^{j}}{j} d’où par le théorème de convergence monotone

∫_{0}^{1} v^{k} log(1 − v)dv = \frac{k}{k + 1} (1 + \frac{1}{2} + … + \frac{1}{k + 1})

On en déduit le résultat.

Exercice 3.8.24. ([13]) Pour z > 0, p, q > 0, on définit les fonctions

Γ(z) = ∫_{0}^{∞} t^{z−1}e^{−t}dt, B(p, q) = ∫_{0}^{1} t^{p−1}(1 − t)^{q−1}dt

Montrer que B(p, q) = \frac{Γ(p)Γ(q)}{Γ(p + q)} Exercice 3.8.25. Rappels : un ensemble négligeable de ℝ^{N} est un ensemble contenu dans un borélien de ℝ^{N} de mesure nulle. On ajoute à la tribu des boréliens les ensembles négligeables. On obtient ainsi la tribu de Lebesgue, notée L.

1) Un ensemble est Lebesgue mesurable s’il diffère d’un borélien par un ensemble de mesure nulle.

2) On dira qu’une fonction est Lebesgue-mesurable si elle est mesurable de (ℝ^{N}, L) dans ℝ, 𝔹 où 𝔹 est la tribu de Borel. Une fonction est Lebesgue-mesurable si et seulement si elle est presque partout égale à une fonction borélienne.

Solution 1) Soit L la tribu de Lebesgue, i.e. la plus petite tribu contenant les boréliens et les ensembles négligeables. Soit E l’ensemble des ensembles E qui diffèrent d’un borélien par un ensemble négligeable, i.e. (E = B ∪ N_{1}) \ N_{2} où B est un borélien et N_{1}, N_{2} sont des ensembles négligeables. On a E ⊂ L et il suffit donc de vérifier que E est une tribu, ce qui va tout seul.

2) Si f ne diffère de g borélienne que sur un ensemble négligeable N, les ensembles [f ≤ a] et [g ≤ a] ne diffèrent que d’un ensemble négligeable et donc [f ≤ a] est bien Lebesgue-mesurable. Donc f est Lebesguemesurable. Réciproquement, considérons la classe H des fonctions σ(L)-mesurables et la classe J des fonctions qui ne diffèrent d’une fonction borélienne que sur un ensemble de mesure nulle, et enfin l’ensemble X X des fonctions caractéristiques d’ensembles Lebesgue-mesurables. On a par ce qui précède X X ⊂ J ⊂ H. On voit aisément que J est un espace vectoriel, qu’il contient 1 et est stable par limite croissante. En appliquant le théorème de la classe monotone, on déduit que J contient toutes les fonctions σ(L)-mesurables et donc H. Donc J = H.

2) (solution constructive). Soit f une fonction mesurable au sens de Lebesgue. Soit

f_{n} = ∑_{k∈ℤ}(kε)11_{\frac{k}{n} ≤f< \frac{(k+1)}{n}} = 11_{A_{k,n}}

Comme A_{k,n} est Lebesgue-mesurable, il existe B_{k,n} borélien tel que μ(A_{k,n}ΔB_{k,n}) = 0. Donc, presque partout, f_{n} = f̃_{n} = ∑_{k∈ℤ}(\frac{k}{n})11_{B_{k,n}}. Mais f_{n} → f presque partout. Donc f̃_{n} → f presque partout. Donc f est égale presque partout à la limite, borélienne, d’une suite de fonctions boréliennes.

3.9 Rappel des principaux théorèmes, énoncés dans ℝ^{N}.

Théorème 3.9.1. (Beppo Levi, ou convergence monotone) Si f_{n} est une suite croissante de fonctions définies sur ℝ^{N} et à valeurs dans ℝ^{+} ∪ {+∞}, on a

∫ lim_{n→∞} f_{n}(x)dx = lim_{n→∞} ∫ f_{n}(x)dx ≤ +∞.

Corollaire 3.9.1. Soit u_{n}(x) une suite de fonctions définies sur ℝ^{N} et à valeurs dans ℝ^{+} ∪ {+∞}. On peut alors l’intégrer terme à terme, c’est-à -dire que

∫ Σ_{n=1}^{∞}u_{n}(x)dx = Σ_{n=1}^{∞} ∫ u_{n}(x)dx ≤ +∞.

Théorème 3.9.2. (Théorème de Lebesgue) Soit f_{n}(x) une suite de fonctions qui converge presque partout vers une fonction f. On suppose qu’il existe une fonction positive sommable fixe h telle que pour tout n, |f_{n}(x)| ≤ h(x) pour presque tout x. Alors

∫ |f_{n}(x) − f(x)| → 0, ∫ f_{n}(x)dx → ∫ f(x)dx.

Théorème 3.9.3. (Réciproque du théorème de Lebesgue). Si f_{n} → f dans 𝕃^{1}, alors il existe une sous-suite f_{n_{k}} de la suite f_{n} qui converge presque partout vers f et un chapeau intégrable h tel que ∀k, |f_{n_{k}}(x)| ≤ h(x) p.p..

Théorème 3.9.4. (Théorème de dérivation sous le signe somme) Soient I un intervalle de ℝ et A un sous-ensemble de ℝ^{n}. On se donne une fonction f définie sur A × I vérifiant les trois hypothèses suivantes.

(a) Pour tout λ ∈ I, la fonction x → f(x, λ) est sommable sur A.

(b) La dérivée partielle \frac{∂f}{∂λ}(x, λ) existe en tout point de A × I.

(c) Il existe une fonction h positive et sommable sur A telle que l’on ait |\frac{∂f}{∂λ}(x, λ)| ≤ h(x) pour tous x et λ. Alors la fonction F définie par

F (λ) = ∫_{A} f(x, λ)dx

est dérivable dans I et on a

F′(λ) = ∫_{A} \frac{∂f}{∂λ}(x, λ)dx.

Théorème 3.9.5. (de changement de variable, [10]) Soient Ω_{1} et Ω_{2} deux ouverts de ℝ^{n} et φ un difféomorphisme entre Ω_{1} et Ω_{2}. On notera J_{φ}(x) le déterminant de la matrice jacobienne de φ au point x. Soit f une fonction définie sur Ω_{2}.

(a) Si la fonction f est à valeurs dans ℝ^{+} ∪ {+∞}, on a l’égalité suivante, où les deux membres ont un sens dans ℝ^{+} ∪ {+∞},

∫_{Ω_{2}} f(y)dy = ∫_{Ω_{1}} f(φ(x))|J_{φ}(x)|dx.

(b) Si f est à valeurs complexes, elle est sommable dans Ω_{2} si et seulement si f(φ(x))J_{φ}(x) est sommable dans Ω_{1}, et les deux membres de l’égalité précédente sont alors égaux.

Théorème 3.9.6. (Fubini) Soit f(x, y) une fonction définie dans ℝ^{p} × ℝ^{q}.

(a) Si f est à valeurs dans ℝ^{+} ∪ {+∞}, on a l’égalité suivante, où les trois membres définissent un élément de ℝ^{+} ∪ {+∞},

∫_{ℝ^{p+q}} f(x, y)dxdx = ∫_{ℝ^{p}}(∫_{ℝ^{q}} f(x, y)dy) = ∫_{ℝ^{q}}(∫_{ℝ^{p}} f(x, y)dx)dy.

Si f est sommable dans ℝ^{p+q}, les trois membres de l’égalité précédente ont un sens et sont égaux. Plus précisément, dire que le troisième membre a un sens signifie :

• pour presque tout y, la fonction x → f(x, y) est sommable dans ℝ^{p},

• la fonction φ(y) = ∫ f(x, y)dx qui est ainsi définie presque partout est sommable dans ℝ^{q}.

46

Produit de mesures

Nous travaillerons avec deux espaces de probabilité mais tout ce que nous dirons s’étend sans changement à un produit fini d’espaces de probabilité. Soient (Ω_{1}, F_{1}) et (Ω_{2}, F_{2}) deux espaces munis de leurs tribus respectives. On cherche à définir une notion de tribu produit sur Ω_{1} × Ω_{2} = Ω afin de définir la notion de mesure produit sur ce même espace. Soit

ρ_{1} : ω = (ω_{1}, ω_{2}) ∈ Ω → ω_{1} ∈ Ω_{1} et ρ_{2} : ω = (ω_{1}, ω_{2}) ∈ Ω → ω_{2} ∈ Ω_{1}

les deux projections canoniques.

Définition 4.0.1. La tribu produit F sur Ω, notée F_{1} ⊗ F_{2}, est définie comme la tribu engendrée par ρ_{1} et ρ_{2},

F = F_{1} ⊗ F_{2} = σ(ρ_{1}, ρ_{2}) = σ ({B_{1} × Ω_{2}, Ω_{1} × B_{2} ; B_{1} ∈ F_{1}, B_{2} ∈ F_{2}})

De manière plus condensée,

F_{1} ⊗ F_{2} = σ (ρ_{1}^{−1}(F_{1}), ρ_{2}^{−1}(F_{2})) .

On remarquera que I = {B_{1} × B_{2} ; B_{1} ∈ F_{1}, B_{2} ∈ F_{2}} est un π-système qui génère (en tant que tribu) F_{1} ⊗ F_{2}. En effet, (B_{1} × B_{2}) ∩ (C_{1} × C_{2}) = (B_{1} ∩ C_{1}) × (B_{2} × C_{2}).

Notation : Si f : Ω → ℝ, on note

f_{ω_{1}}^{1} : ω_{2} ∈ Ω_{2} → f(ω_{1}, ω_{2}) ∈ ℝ, (ω_{1} ∈ Ω_{1})

et

f_{ω_{2}}^{2} : ω_{1} ∈ Ω_{1} → f(ω_{1}, ω_{2}) ∈ ℝ, (ω_{2} ∈ Ω_{2})

Lemme 4.0.1. Soit H l’ensemble des fonctions f : Ω → ℝ qui sont F-mesurables bornées et telles que f_{ω_{1}}^{1} est F_{2}-mesurable pour tout ω_{1} ∈ Ω_{1} et f_{ω_{2}}^{2} est F_{1}-mesurable pour tout ω_{2} ∈ Ω_{2}. Alors H est exactement l’ensemble des fonctions F-mesurables bornées.

Démonstration. On applique le théorème de la classe monotone. H est un espace vectoriel constitué de fonctions F-mesurables bornées et contenant les 11_{A} pour A ∈ I, I étant un π-système générant F. D’autre part, si (f_{n})_{n} est une suite croissante de fonctions de H positives uniformément bornées par une constante K, alors la limite simple f = lim_{n→+∞} f_{n} est une fonction F-mesurable bornée. De plus, pour tout ω_{1}, ω_{2} ∈ Ω_{1}, on a

f_{ω_{1}}^{1}(ω_{2}) = lim_{n→+∞}(f_{n})_{ω_{1}}^{1}(ω_{2})

ce qui montre que f_{ω_{1}}^{1} est F_{2}-mesurable. De même, f_{ω_{2}}^{2} est F_{1}-mesurable. Le théorème de la classe monotone implique que H contient toutes les fonctions F-mesurables bornées. □ En appliquant le lemme précédent aux fonctions caractéristiques d’ensembles, on obtient :

Corollaire 4.0.2. Soit A ⊂ Ω_{1} × Ω_{2} un ensemble F-mesurable. Alors :

– ∀ω_{1} ∈ Ω_{1}, ρ_{2}(A ∩ {ω_{1}} × Ω_{2}) est F_{2}-mesurable et

– ∀ω_{2} ∈ Ω_{2}, ρ_{1}(A ∩ Ω_{1} × {ω_{2}}) est F_{1}-mesurable.

En termes plus imagés, si A est F-mesurable alors ses coupes verticales et horizontales sont mesurables. Mais attention : la réciproque est fausse ; un ensemble dont les coupes verticales et horizontales sont mesurables n’est pas nécessairement mesurable.

Corollaire 4.0.3. Si (Ω_{1}, F_{1}), ..., (Ω_{n}, F_{n}) sont des espaces munis de tribus, alors pour tout k,

(⊗_{i=1}^{k}F_{i}) ⊗ (⊗_{i=k+1}^{n}F_{i}) = ⊗_{i=1}^{n}F_{i}.

En d’autres termes le produit de tribus est associatif. En particulier :

B(ℝ^{n+m}) = B(ℝ^{n}) ⊗ B(ℝ^{m}).

Démonstration. En effet les tribus considérées sont engendrées respectivement par les π-systèmes (I)^{k}, (I)^{n−k} et (I)^{n}. Le dernier est le produit cartésien des deux premiers car le produit cartésien est associatif. □

4.1 Mesure produit, Théorème de Fubini

4.1.1 Théorème de Fubini

On suppose que (Ω_{i}, F_{i}, μ_{i}), pour i = 1, 2, sont des espaces mesurés munis de mesures finies. D’après le lemme précédent, on peut définir pour toute fonction F-mesurable bornée f :

I_{1}^{f}(ω_{1}) = ∫_{Ω_{2}} f_{ω_{1}}^{1}(ω_{2})dμ_{2}(ω_{2}), (ω_{1} ∈ Ω_{1})

et

I_{2}^{f}(ω_{2}) = ∫_{Ω_{1}} f_{ω_{2}}^{2}(ω_{1})dμ_{1}(ω_{1}), (ω_{2} ∈ Ω_{2})

Lemme 4.1.1. Soit H l’espace vectoriel composé des fonctions f : Ω → ℝ F-mesurables bornées telles que :

a) I_{1}^{f} est F_{1}-mesurable bornée et I_{2}^{f} est F_{2}-mesurable bornée.

b) ∫_{Ω_{1}} I_{1}^{f}(ω_{1})dμ_{1}(ω_{1}) = ∫_{Ω_{2}} I_{2}^{f}(ω_{2})dμ_{2}(ω_{2})

Alors H est exactement l’ensemble des fonctions F-mesurables bornées.

Démonstration. Là aussi, il s’agit d’une simple application du théorème de la classe monotone. En effet H contient encore les fonctions caractéristiques 11_{A_{1}×A_{2}} avec A_{1} et A_{2} F_{1}- et F_{2}-mesurables respectivement. Or l’ensemble {A_{1} × A_{2}} est un π-système engendrant F. □ Si F ∈ F, en posant f = 11_{F} qui est F-mesurable bornée, on définit :

μ(F) = ∫_{Ω_{1}} I_{1}^{f}(ω_{1})dμ_{1}(ω_{1}) = ∫_{Ω_{2}} I_{2}^{f}(ω_{2})dμ_{2}(ω_{2})

On va voir dans la suite que μ est une mesure sur la tribu produit.

Nous allons construire l’intégrale par machine standard. Soit f une fonction positive F-mesurable. Pour tout entier n, f ∧ n est F-mesurable positive bornée. Si ω_{1} ∈ Ω_{1}, {(f ∧ n)_{ω_{1}}^{1}}_{n} est une suite de fonctions F_{2}-mesurables tendant en croissant vers f_{ω_{1}}^{1} ce qui montre que f_{ω_{1}}^{1} est F_{2}-mesurable. De même, pour tout ω_{2} ∈ Ω_{2}, f_{ω_{2}}^{2} est F_{1}-mesurable. On peut donc définir I_{1}^{f} et I_{2}^{f} (en admettant la valeur +∞).

I_{1}^{(f∧n)} et I_{2}^{(f∧n)} sont bien définies, respectivement F_{1}-mesurable et F_{2}-mesurable. Et si ω_{1} ∈ Ω_{1}, ω_{2} ∈ Ω_{2}, on a

I_{1}^{(f∧n)}(ω_{1}) ↑ I_{1}^{f}(ω_{1}) et I_{2}^{(f∧n)}(ω_{2}) ↑ I_{2}^{f}(ω_{2})

si bien que I_{1}^{f} et I_{2}^{f} sont encore des fonctions F_{1}-mesurables et F_{2}-mesurables. Qui plus est, toujours par le théorème de convergence monotone,

∫_{Ω_{1}} I_{1}^{f}dμ_{1} = ∫_{Ω_{2}} I_{2}^{f}dμ_{2}.

Donc le résultat du lemme 4.1.1 s’étant aux fonctions positives.

Théorème 4.1.1. (Théorème de Fubini)

1) La fonction μ définie sur (Ω, F) est une mesure (finie) appelée mesure produit de μ_{1} et μ_{2} et notée μ_{1}⊗μ_{2}. De plus, μ est l’unique mesure sur (Ω, F) telle que :

μ(A_{1} × A_{2}) = μ_{1}(A_{1})μ_{2}(A_{2}), A_{1} ∈ F_{1}, A_{2} ∈ F_{2}

2) Si f est une fonction F -mesurable positive alors :

∫ fdμ = ∫_{Ω_{1}} I_{f}^{1}(ω_{1})dμ_{1}(ω_{1}) = ∫_{Ω_{2}} I_{f}^{2}(ω_{2})dμ_{2}(ω_{2}) (⋆)

3) Si f est F-mesurable et si μ(|f|) < +∞ alors (⋆) est encore valable.

Démonstration. 1) Le fait que μ soit une mesure provient de la linéarité de l’intégrale et du théorème de convergence monotone. En fait, la question délicate dans ce théorème concerne les problèmes de mesurabilité, travail préliminaire qui a déjà été fait via le théorème de la classe monotone. L’unicité est une simple conséquence du théorème de Dynkin.

2) On a déjà prouvé la seconde égalité dans (⋆). Quant à la première égalité, elle provient là encore du théorème de la classe monotone (on sait en effet qu’elle est vraie pour les indicatrices d’éléments de F). On a donc le résultat pour les fonctions F-mesurables bornées. Si f est une fonction F-mesurable positive, en considérant la suite de fonctions bornées (f ∧ n)_{n} et en appliquant le théorème de convergence monotone, on obtient 2).

3) Il suffit comme d’habitude de décomposer la fonction f en la différence de sa partie positive f^{+} et de sa partie négative f^{−}. □

Exercice 4.1.1. Un contrexemple à Fubini si f n’est pas sommable : ([14], p 472) :

Soit f(x, y) = e^{−xy} − 2e^{−2xy}. Vérifier que :

∫_{0}^{1} ∫_{1}^{∞} f(x, y)dydx > 0

∫_{1}^{∞} ∫_{0}^{1} f(x, y)dxdy < 0

Remarque 4.1.1. 1) Tout ce qui précède s’étend sans peine si au lieu de considérer des mesures finies, on prend des mesures σ-finies mais pas au-delà (contre-exemple dans [30]). La conclusion 2) du théorème de Fubini s’obtient par simple convergence monotone et la conclusion 3) par le théorème de Lebesgue.

2) D’autre part, au lieu de considérer deux espaces, on peut très bien en considérer un nombre fini arbitraire n : (Ω_{i}, F_{i}, μ_{i})_{i=1...n}. La tribu produit ⊗_{i=1}^{n}F_{i} est définie comme la tribu engendrée par les (ρ_{1}, …, ρ_{n}), les projections canoniques de Ω sur Ω_{1}, …, Ω_{n}. Cette tribu produit est générée par le π-système {A_{1} × … × A_{n} ; A_{i} ∈ F_{i}}.

3) On remarquera que pour aboutir au théorème de Fubini, on a utilisé de manière fréquente le théorème de la classe monotone. Il est en fait très difficile de définir les mesures produits sans y avoir recours d’une manière ou d’une autre. En particulier, la “machine standard” ne fonctionne pas alors que la plupart du temps où l’on utilise le théorème de la classe monotone, un argument “machine standard” peut être utilisé.

Exemple : Soit X : (Ω, F, ℙ) → (ℝ, B(ℝ), dx) une variable aléatoire. Soit Ω × ℝ muni de dℙ ⊗ dx et A = {(ω, x) / 0 ≤ x < X(ω)}. A est F ⊗ B(ℝ)-mesurable et l’on a par Fubini :

μ(A) = ∫_{[0;+∞)} ℙ(X > x)dx = ∫_{Ω} X(ω)dℙ(ω) = 𝔼(X)

et donc

𝔼(X) = ∫_{ℝ^{+}}(1 − F (x))dx

Un autre conséquence importante du théorème de la classe monotone est la suivante :

Proposition 4.1.1. f est ⊗_{i=1}^{n}F_{i}-mesurable ssi f = G(ρ_{1}, …, ρ_{n}) où G est une fonction borélienne.

4.2 Tribus et mesures produits pour une infinité d’espaces

Cette section s’inspire de [14].

Théorème 4.2.1. (de Kolmogorov) On suppose donnée une suite de mesures de probabilités (μ_{n})_{n} sur (ℝ^{n}, B(ℝ^{n})) consistantes, c’est-à-dire :

μ_{n+1}((a_{1}, b_{1}] × … × (a_{n}, b_{n}] × ℝ) = μ_{n}((a_{1}, b_{1}] × … × (a_{n}, b_{n}])

Alors il existe une unique probabilité ℙ sur (ℝ^{ℕ}, B(ℝ^{ℕ})) telle que :

(*) ℙ(ω, ; ω_{i} ∈ (a_{i}, b_{i}], 1 ≤ i ≤ n) = μ_{n}((a_{1}, b_{1}] × … × (a_{n}, b_{n}])

Démonstration. Précisons d’abord ce que nous entendons par (ℝ^{ℕ}, B(ℝ^{ℕ})). Cette tribu est la tribu borélienne sur ℝ^{ℕ} muni de la topologie de la convergence simple. C’est aussi, comme dans le cas finidimensionnel, la tribu produit ⊗_{n=0}^{∞}B(ℝ) engendrée par les projections canoniques. Ces deux tribus sont en effet engendrées par les rectangles fini-dimensionnels {ω ∈ ℝ^{ℕ} ; ω_{i} ∈ (a_{i}, b_{i}], i = 1, …, n} où −∞ ≤ a_{i} < b_{i} ≤ +∞ (rectangles non nécessairement bornés).

Mais il faut faire attention, si C est un ensemble non dénombrable, B(ℝ^{C}) (ℝ^{C} est muni de la topologie la moins fine rendant continues les projections canoniques) est plus grand que ⊗_{γ∈C}B(ℝ) (que l’on peut encore définir que C soit dénombrable ou pas). Bref, dans le cas dénombrable, tout se passe bien mais dans le cas non dénombrable, quelque petites pathologies peuvent survenir.

L’ensemble des réunions finies de rectangles fini-dimensionnels est une algèbre qui génère B(ℝ^{ℕ}) notée A. On définit alors ℙ sur A par (*). La condition de consistance garantit la cohérence de la définition de ℙ(A) (i.e. ne dépend pas de l’écriture de A).

Par définition même de ℙ, ℙ est additive sur A. Il reste à montrer, afin d’utiliser le théorème de Carathéodory, qu’elle est σ-additive sur A.

Lemme 4.2.1. Si B_{n} ∈ A, B_{n} ↓ ∅ alors ℙ(B_{n}) ↓ 0.

Démonstration. Supposons que ℙ(B_{n}) ↓ δ > 0. Pour chaque n, on écrit B_{n} sous la forme d’une réunion disjointe de rectangles fini-dimensionnels

B_{n} = ∪_{k=1}^{K_{n}} {ω ; ω_{i} ∈ (a_{i}^{k}, b_{i}^{k}], 1 ≤ i ≤ n}

En fait, on devrait écrire

B_{n} = ∪_{k=1}^{K_{n}} {ω ; ω_{i} ∈ (a_{i}^{k}, b_{i}^{k}], 1 ≤ i ≤ ϕ(n)}

où (ϕ(n))_{n} est une suite strictement croissante. Afin d’alléger les écritures, on a posé ϕ(n) = n (mais la preuve reste exactement la même sinon). L’idée de la preuve consiste à approximer B_{n} par des compacts D_{n} qui ont presque la même probabilité que B_{n} (donc non vides car de probabilité strictement positive) et d’utiliser un argument d’extraction diagonal pour montrer que ∩_{n}D_{n} = ∅ (ce qui est exclu pour une intersection de compacts non vides). Pour chaque n, il existe des suites de réels (ā_{i}^{k})_{i=1...n,k=1...K_{n}}, (b̄_{i}^{k})_{i=1...n,k=1...K_{n}} telles que

μ_{n} (∏_{i=1}^{n}(a_{i}^{k}, b_{i}^{k}] − ∏_{i=1}^{n}[ā_{i}^{k}, b̄_{i}^{k}]) ≤ \frac{δ}{2^{n+1}K_{n}}

donc en prenant C_{n} = ∪_{k=1}^{K_{n}} {ω ; ω_{i} ∈ [ā_{i}^{k}, b̄_{i}^{k}], 1 ≤ i ≤ n}, on a

ℙ(B_{n}\C_{n}) ≤ \frac{δ}{2^{n+1}}

On pose D_{n} = ∩_{m=1}^{n}C_{m}. On a

ℙ(B_{n}\D_{n}) ≤ ∑_{m=1}^{n} ℙ(B_{m}\C_{m}) ≤ δ/2

Par conséquent, ℙ(D_{n}) ↓ ε ≥ δ/2. En particulier, (D_{n})_{n} est non vide pour tout n. On introduit les sous-ensembles de ℝ^{n}, C_{n}^{∗}, D_{n}^{∗} tels que

C_{n} = C_{n}^{∗} × ℝ × … × ℝ × …
D_{n} = D_{n}^{∗} × ℝ × … × ℝ × …

C_{n}^{∗} est un compact non vide pour tout n et on a :

D_{n}^{∗} = C_{n}^{∗} ∩ ∩_{m=1}^{n−1}(C_{m}^{∗} × ℝ^{n−m})

qui est donc un compact non vide de ℝ^{n} (non vide car D_{n} est non vide). On utilise alors un argument d’extraction diagonale. Pour tout m ∈ ℕ^{∗}, soit ω^{m} ∈ D_{m} ⊂ ℝ^{ℕ}. ω^{m} ∈ D_{m} ⊂ D_{1} donc ω_{1}^{m} ∈ D_{1}^{∗} qui est compact. On peut extraire une sous-suite (ω^{ϕ_{1}(m)})_{m} de (ω^{m})_{m} telle que (ω_{1}^{ϕ(m)})_{m} converge vers un certain réel θ^{1} ∈ D_{1}^{∗}. Or ω^{ϕ_{1}(m)} ∈ D_{ϕ_{1}(m)} ⊂ D_{2} donc on peut extraire une sous-suite (ω^{(ϕ_{1}∘ϕ_{2})(m)})_{m} de (ω^{ϕ_{1}(m)})_{m} telle que ((ω_{1}^{(ϕ_{1}∘ϕ_{2})(m)}, ω_{2}^{(ϕ_{1}∘ϕ_{2})(m)}))_{m} converge vers un certain θ^{2} ∈ D_{2}^{∗} ⊂ ℝ^{2} et bien entendu θ_{1}^{2} = θ^{1} ∈ D_{1}^{∗}... Bref, on construit θ ∈ ℝ^{ℕ^{∗}} tel que pour tout i ∈ ℕ^{∗}, θ_{i} ∈ D_{i}^{∗} donc tel que θ ∈ D_{k} pour tout k et donc

∅ ≠ ∩_{k}D_{k} ⊂ ∩_{k}B_{k} = ∅

On aboutit à une contradiction et le lemme est ainsi prouvé. □

Ceci conclut la preuve du théorème de Kolmogorov (l’unicité découle comme d’habitude du théorème de Dynkin). □

Remarque 4.2.1. 1. Ce théorème est encore valable quand ℝ est remplacé par un espace de Lusin E (i.e. E homéomorphe à un Borélien d’un espace métrisable compact). On pourra trouver des compléments dans Diffusions, Markov processes and Martingales, Rogers and Williams, Vol.1.

2. Le théorème de Kolmogorov montre que si l’on se donne une loi μ sur ℝ, on peut trouver un espace probabilisé (Ω, F, ℙ) et des variables aléatoires sur (Ω, F) de loi μ et indépendantes entre elles (prendre μ_{n} = ⊗^{n}μ). En TD (modèle de pile ou face), on verra une construction à la main dans ce cas.

4.3 TD Probabilités : Fubini

Exercice 4.3.1. Calcul de l’intégrale de Gauss Démontrer que ∫_{ℝ} e^{−x^{2}}dx = \sqrt{π}. On prendra le carré de cette intégrale, le considérera par Fubini comme une intégrale sur ℝ^{2} que l’on calculera en coordonnées polaires. Penser à justifier rigoureusement le changement de coordonnées effectué dans l’intégrale à l’aide du théorème de changement de variables.

Exercice 4.3.2. Propriétés de la convolution

1) Si f et g appartiennent à 𝕃^{1}(ℝ^{n}), alors f ∗ g définie par

(f ∗ g)(x) = ∫_{ℝ^{n}} f(y)g(x − y)dy

aussi (vérifier que la définition a un sens !), et ||f ∗ g||_{1} ≤ ||f||_{1}||g||_{1}. (Application directe du théorème de Fubini.) Montrer que f ∗ g = g ∗ f et que (f ∗ g) ∗ h = f ∗ (g ∗ h).

2) On appelle 𝕃_{loc}^{1}(ℝ^{n}) l’ensemble des fonctions 𝕃^{1} sur tout borné de ℝ^{n}. Montrer que si f ∈ 𝕃_{loc}^{1}(ℝ^{n}), et si g ∈ 𝕃^{1}(ℝ^{n}) est nulle en dehors d’un borné, alors on peut définir f ∗ g et f ∗ g ∈ 𝕃_{loc}^{1}.

3) On suppose que 1 ≤ p ≤ ∞, f ∈ L^{1}(ℝ^{n}) et g ∈ L^{p}(ℝ^{n}). Montrer que f ∗ g définie par

(f ∗ g)(x) = ∫_{ℝ^{n}} f(x − y)g(y)dy

existe pour presque tout x, appartient à L^{p}(ℝ^{n}) et vérifie ∥f ∗ g∥_{p} ≤ ∥f∥_{1}∥g∥_{p}.

4) On suppose maintenant que f ∈ L^{p}(ℝ^{n}), g ∈ L^{q}(ℝ^{n}) avec p et q des exposants conjugués. Montrer que f ∗ g est uniformément continue et que si 1 < p < ∞ alors h = f ∗ g est continue, nulle à l’infinie. Donner un contre-exemple dans le cas p = 1.

5) Si f ∈ 𝕃_{loc}^{1}(ℝ^{n}), φ ∈ C_{0}^{m}(ℝ^{n}), alors f ∗ φ ∈ C^{m}(ℝ^{n}) et,

∀|α| ≤ m, ∂^{α}(f ∗ φ) = f ∗ ∂^{α}φ.

Solution Applications directes du théorème de Fubini et du théorème de dérivation sous le signe somme. Le seul point un peu délicat est le 3). On mène le calcul en supposant f et g positives puisqu’on peut toujours remplacer f par |f| et g par |g|. On a

∫ |f ∗ g|^{p}dx = ∫ (∫ f(y)g(x − y)dy)^{p} dx.

Or par l’inégalité de Hölder,

∫ f(y)g(x − y) = ∫ f(y)^{\frac{1}{p}} g(x − y)f^{\frac{p−1}{p}} (y) ≤ (∫ f(y)g(x − y)^{p})^{\frac{1}{p}} (∫ f(y))^{\frac{p−1}{p}} .

Donc par le théorème de Fubini,

∫ (∫ f(y)g(x − y))^{p} ≤ ∫ (∫ f(y)g(x − y)^{p}dy) (∫ f(y)dy)^{p−1} dx

≤ ∫ f(y)dy ∫ g(x)^{p}dx (∫ f(y))^{p−1}
≤ (∫ f(y)dy)^{p} (∫ g(x)^{p}dx) .

Cela donne ||f ∗ g||_{L^{p}} ≤ ||f||_{L^{1}}||g||_{L^{p}}.

Exercice 4.3.3. Contrexemples pour le thèorème de Fubini, [14], pp. 471-473 1) On considère la mesure de

comptage sur ℕ × ℕ. On pose pour m ≥ 1, f(m, m) = 1 et f(m + 1, m) = −1, on pose sinon f(m, n) = 0. Vérifier que

∑_{m} ∑_{n} f(m, n) = 1, mais que ∑_{n} ∑_{m} f(m, n) = 0.

Quelle est l’hypothèse du théorème de Fubini qui n’est pas vérifiée ? 2) On considère sur [0, 1]×[1, +∞[ muni

de la mesure de Lebesgue, f(x, y) = e^{−xy} − 2e^{−2xy}. Montrer que

∫_{0}^{1} ∫_{1}^{∞} f(x, y)dydx = ∫_{0}^{1} x^{−1}(e^{−x} − e^{−2x})dx > 0

et

∫_{1}^{∞} ∫_{0}^{1} f(x, y)dxdy = ∫_{1}^{∞} y^{−1}(e^{−2y} − e^{−y})dy < 0.

Quelle est l’hypothèse du théorème de Fubini qui n’est pas vérifiée ?

3) Soit X = [0, 1] muni de la mesure de Lebesgue λ et Y = [0, 1] muni de la tribu des parties et de la mesure de comptage, μ. On pose f(x, y) = 1 si x = y et f(x, y) = 0 sinon. Montrer que

∫_{X} ∫_{Y} f(x, y)dμ(y)dλ(x) = 1 et ∫_{Y} ∫_{X} f(x, y)dλ(x)dμ(y) = 0.

Vérifier que f est bien mesurable pour la mesure produit. Quelle est l’hypothèse du théorème de Fubini qui n’est pas vérifiée ?

Solution Dans la première question, c’est l’hypothèse que f soit sommable qui n’est pas vérifiée. Dans la seconde, aussi, car si f était sommable, l’ordre d’intégration serait indifférent. On peut d’ailleurs vérifier directement que ∫ |f(x, y)|dxdy = ∫_{0}^{+∞}(|e^{−y} − 2e^{−y}| ∫_{0}^{min(1,y)} \frac{1}{x}dx)dy. Dans la troisième, la fonction f est bien bornée, mesurable et sommable, mais la seconde mesure n’est pas σ-finie.

Exercice 4.3.4. On admet que l’on peut ordonner les réels de [0, 1] par une relation d’ordre total <′ de telle manière que ∀x ∈ [0, 1], {y, y <′ x} soit un ensemble dénombrable. (Cette propriété s’appelle l’hypothèse du continu. Il a été démontré par Kurt Gödel qu’elle ne contredisait par les axiomes classiques de la théorie des ensembles et par Paul Cohen que son contraire ne les contredisait pas non plus.) On pose X = Y = [0, 1], munis de la tribu borélienne et de la mesure de Lebesgue. On pose f(x, y) = 1 si x <′ y et f(x, y) = 0 sinon. Montrer que

∀x ∫_{X} f(x, y)dx = 0, et ∀y ∫_{Y} f(x, y)dy = 1.

Quelle est l’hypothèse du théorème de Fubini qui n’est pas vérifiée ?

Solution Toutes les hypothèses du théorème de Fubini sont vérifiées, ... sauf une, la mesurabilité de f.

Exercice 4.3.5. Application directe du théorème de Fubini, [14] p. 473 Soit X = ℕ muni de la mesure de comptage et (Y, T , μ) un espace mesurable de mesure σ-finie. Si les fonctions f_{n} sont T -mesurables et si ∑_{n} ∫ |f_{n}|dμ < ∞, alors

∑_{n} ∫ f_{n}dμ = ∫ ∑_{n} f_{n}dμ.

Exercice 4.3.6. Application directe du théorème de Fubini, [14] p. 473. Soit g ≥ 0 mesurable sur (X, T , μ) et λ la mesure de Lebesgue sur ℝ. Montrer que

∫_{X} gdμ = (μ ⊗ λ)({(x, y), 0 ≤ y < g(x)}) = ∫_{0}^{∞} μ({x, g(x) > y})dy.

(Vérifier que {(x, y), 0 ≤ y < g(x)} est mesurable en remarquant que (x, y) → (g(x), y) mesurable et que (a, b) → b − a aussi.)

Exercice 4.3.7. Application 3 du théorème de Fubini, [14] p. 473. Soit μ une mesure finie sur ℝ et F (x) = μ(] − ∞, x]). Montrer que

∫ (F (x + c) − F (x))dx = cμ(ℝ).

Exercice 4.3.8. Exercice 8.1 page 29 de [26] (calculs de densités de v.a.)

Indépendance

Dans tout ce chapitre, (Ω, F, ℙ) est un espace probabilisé.

5.1 Indépendance de familles d’événements et de variables aléatoires

Définition 5.1.1. a) Les événements A et B sont dits indépendants si et seulement si ℙ(A∩B) = ℙ(A)ℙ(B).

b) Deux familles d’événements A_{1} et A_{2} sont dites indépendantes si et seulement si tout élément de A_{1} est indépendant de tout élément de A_{2}.

Théorème 5.1.1. Soient C_{1} et C_{2} deux π-systèmes contenus dans F. On note F_{i} la tribu engendrée par C_{i}. Alors F_{1} est indépendant de F_{2} si et seulement si C_{1} est indépendant de C_{2}.

Démonstration. La condition nécessaire étant triviale, passons à la condition suffisante. C’est une conséquence de la proposition 1.3.1, qui est une conséquence directe du théorème de Dynkin. En effet, pour un C_{1} ∈ C_{1} fixé, les deux applications définies sur F par :

I ∈ F → ℙ(I)ℙ(C_{1}) , I ∈ F → ℙ(I ∩ C_{1})

Ce sont deux mesures finies de même masse et coïncidant sur un π-système, à savoir C_{2}. Elles coïncident donc sur la tribu engendrée par C_{2} :

∀C_{1} ∈ C_{1}, ∀F_{2} ∈ F_{2}, ℙ(F_{2})ℙ(C_{1}) = ℙ(F_{2} ∩ C_{1}).

Soit maintenant F_{2} ∈ F_{2} fixé. Considérons les deux applications

I ∈ F → ℙ(I)ℙ(F_{2}) , I ∈ F → ℙ(I ∩ F_{2})

sont deux mesures de masses égales finies coïncidant sur le π-système C_{1} : elles coïncident sur la tribu engendrée F_{1}, c.q.f.d. □

On verra dans la section 3 une généralisation de ce théorème (théorème des coalitions).

Définition 5.1.2. Soient X_{1} et X_{2} deux variables aléatoires. On dit que X_{1} et X_{2} sont indépendantes si et seulement si les tribus engendrées σ(X_{1}) et σ(X_{2}) le sont.

Remarque 5.1.1. Si X_{1} et X_{2} sont deux variables aléatoires indépendantes et si f_{1} et f_{2} sont des fonctions boréliennes alors f_{1}(X_{1}) et f_{2}(X_{2}) sont indépendantes (car σ(f_{i}(X_{i})) ⊂ σ(X_{i})). Par exemple, si X_{1} et X_{2} sont deux vecteurs aléatoires alors toute composante (ou marginale) de X_{1} est indépendante de toute composante (marginale) de X_{2}.

Lois jointes

Définition 5.1.3. Soient X_{1} et X_{2} deux variables aléatoires à valeurs respectivement dans ℝ^{n} et ℝ^{m}. La loi jointe de X_{1} et X_{2} est la loi du couple (X_{1}, X_{2}) ∈ ℝ^{n+m}. C’est donc une probabilité sur (ℝ^{n+m}, B(ℝ^{n+m})) = (ℝ^{n} × ℝ^{m}, B(ℝ^{n}) ⊗ B(ℝ^{m})).

On n’a en général bien-sûr pas ℙ_{(X_{1},X_{2})} = ℙ_{X_{1}} ⊗ ℙ_{X_{2}}. C’est cependant vrai dans le cas de deux variables aléatoires indépendantes.

Proposition 5.1.1. X_{1} et X_{2} sont indépendantes si et seulement si la loi du couple (X_{1}, X_{2}) est le produit tensoriel des lois de X_{1} et de X_{2}, ℙ_{(X_{1},X_{2})} = ℙ_{X_{1}} ⊗ ℙ_{X_{2}}.

Démonstration. Si X_{1} et X_{2} sont indépendantes, pour tout borélien A de ℝ^{n} et tout borélien B de ℝ^{m},

ℙ_{(X_{1},X_{2})}(A × B) = ℙ(X_{1} ∈ A, X_{2} ∈ B) = ℙ(X_{1} ∈ A)ℙ(X_{2} ∈ B) = ℙ_{X_{1}}(A)ℙ_{X_{2}}(B)

et ℙ_{(X_{1},X_{2})} est une probabilité sur (ℝ^{n+m}, B(ℝ^{n}) ⊗ B(ℝ^{m})). Par l’unicité dans le théorème de Fubini,

ℙ_{(X_{1},X_{2})} = ℙ_{X_{1}} ⊗ ℙ_{X_{2}}

La réciproque se traite de même en utilisant ici la propriété caractéristique des mesures produits dans le théorème de Fubini. □

Proposition 5.1.2. Soient X_{1} et X_{2} deux variables aléatoires à valeurs dans (ℝ^{d}, B(ℝ^{d})). Les affirmations suivantes sont équivalentes :

i) X_{1} est indépendante de X_{2}. ii) Pour toutes fonctions boréliennes positives f_{1} et f_{2}, on a

𝔼 [f_{1}(X_{1})f_{2}(X_{2})] = 𝔼 [f_{1}(X_{1})] 𝔼 [f_{2}(X_{2})]

iii) Pour toutes fonctions boréliennes bornées f_{1} et f_{2}, on a

𝔼 [f_{1}(X_{1})f_{2}(X_{2})] = 𝔼 [f_{1}(X_{1})] 𝔼 [f_{2}(X_{2})]

Démonstration. La démonstration peut se faire très rapidement en invoquant la proposition précédente et le théorème de Fubini. Nous choisirons ici de faire la preuve avec la “machine standard”.

i) ⇒ ii) : ii) est vraie pour les fonctions indicatrices de boréliens par définition de l’indépendance. Par linéarité de l’espérance, c’est aussi vrai en développant pour les fonctions étagées de la forme ∑_{i=1}^{n} α_{i}1_{A_{i}} où les α_{i} sont des scalaires et les A_{i} des boréliens. Or toute fonction borélienne positive est limite croissante de fonctions de cette forme. Par application du théorème de Beppo-Levi, on a ii). ii) ⇒ iii) : Il suffit d’écrire f_{i} comme la différence de sa partie positive et de sa partie négative f_{i} = f_{i}^{+} − f_{i}^{−} et de développer à nouveau. iii) ⇒ i) : Prendre pour A_{1}, A_{2} ∈ B(ℝ^{d}), f_{1} := 11_{A_{1}}, f_{2} := 11_{A_{2}}. Alors E(f_{1}(X_{1})f_{2}(X_{2}) = ℙ(X_{1} ∈ A_{1} et X_{2} ∈ A_{2}) et E(f_{i}(X_{i})) = ℙ(X_{i} ∈ A_{i}), i = 1, 2. □

5.2 Critères d’indépendance

1) En termes de fonction de répartition On rappelle que si X est une variable aléatoire à valeurs dans ℝ^{d}, la fonction de répartition de X est donnée par

∀x ∈ ℝ^{d}, F_{X}(x) = ℙ[X ≤ x]

où l’on a muni ℝ^{d} de l’ordre partiel usuel. On rappelle d’autre part que la loi de X est la mesure image de ℙ par X, c’est-à-dire la probabilité sur ℝ^{d}, ℙ_{X} définie par

∀A ∈ B(ℝ^{d}), ℙ_{X}(A) = ℙ(X ∈ A)

On rappelle enfin que la fonction de répartition caractérise entièrement la loi de X (conséquence du théorème de Dynkin). X_{1} est indépendante de X_{2} si et seulement si F_{(X_{1},X_{2})} = F_{X_{1}} ⊗ F_{X_{2}} où F_{X_{1}} ⊗ F_{X_{2}} est définie par

(F_{X_{1}} ⊗ F_{X_{2}})(x_{1}, x_{2}) = F_{X_{1}}(x_{1})F_{X_{2}}(x_{2})

F_{(X_{1},X_{2})} = F_{X_{1}} ⊗ F_{X_{2}} est en effet équivalent à ℙ(X_{1} ≤ x_{1}, X_{2} ≤ x_{2}) = ℙ(X_{1} ≤ x_{1})ℙ(X_{2} ≤ x_{2}). Or C_{i} = {{X_{i} ≤ x_{i}}; x_{i} ∈ ℝ^{d_{i}}} est un π-système engendrant σ(X_{i}). La condition précédente nous dit que C_{1} est indépendant de C_{2} donc par le théorème 5.1.1, σ(X_{1}) est indépendant de σ(X_{2}), c.q.f.d.

2) En termes de densités

a) Si les variables aléatoires X_{1} et X_{2} sont indépendantes et admettent des densités f_{1} et f_{2} alors la variable aléatoire (X_{1}, X_{2}) admet une densité f_{1} ⊗ f_{2}, produit direct de f_{1} et f_{2} :

∀x_{1} ∈ ℝ^{d_{1}}, ∀x_{2} ∈ ℝ^{d_{2}}, (f_{1} ⊗ f_{2})(x_{1}, x_{2}) = f_{1}(x_{1})f_{2}(x_{2})

b) Inversement, si la variable aléatoire (X_{1}, X_{2}) admet une densité produit direct de deux fonctions intégrables positives f_{1} et f_{2} alors à des constantes multiplicatives près, X_{1} admet une densité f_{1} et X_{2} admet une densité f_{2} et X_{1} et X_{2} sont indépendantes.

a) En utilisant le théorème de Fubini, on voit aisément que ℙ_{(X_{1},X_{2})} et la probabilité définie par f_{1} ⊗ f_{2} coïncident sur le π-système C = {A_{1} × A_{2}; A_{1} ∈ B(ℝ^{d_{1}}), A_{2} ∈ B(ℝ^{d_{2}})} donc sont égales par l’unicité du prolongement des mesures (Dynkin : deux mesures finies qui coïncident sur un π-système P coïncident sur σ(P)).

b) Si l’on se donne des boréliens A_{1} et A_{2}, on a

ℙ((X_{1}, X_{2}) ∈ A_{1} × A_{2}) = (∫_{A_{1}} \frac{f_{1}(x_{1})}{(∫_{ℝ^{d_{1}}} f_{1})}dx_{1}) (∫_{A_{2}} \frac{f_{2}(x_{2})}{(∫_{ℝ^{d_{2}}} f_{2})}dx_{2})

En prenant successivement A_{1} = ℝ^{d_{1}} puis A_{2} = ℝ^{d_{2}}, on obtient que la loi de X_{1} est donnée par la densité

\frac{f_{1}}{∫ f_{1}} et celle de X_{2} par la densité \frac{f_{2}}{∫ f_{2}}.On déduit de l’égalité précédente l’indépendance de X_{1} et X_{2}.

3) Pour des variables aléatoires discrètes Si les variables aléatoires X_{1} et X_{2} sont discrètes, il en est de même pour (X_{1}, X_{2}). Pour que X_{1} et X_{2} soient indépendantes, il faut et il suffit que

∀x_{1} ∈ X_{1}(Ω), ∀x_{2} ∈ X_{2}(Ω), ℙ(X_{1} = x_{1}, X_{2} = x_{2}) = ℙ(X_{1} = x_{1})ℙ(X_{2} = x_{2})

La démonstration de cette propriété est laissée en exercice. Le point important est de remarquer que pour une variable discrète X à valeurs dans un ensemble discret E les ensembles atomiques {X = e}, e ∈ E forment un π-système qui engendre σ(X).

Nous passons maintenant à une propriété vérifiée par les variables aléatoires indépendantes. Inutile de dire que la réciproque de cette propriété est en général fausse.

Proposition 5.2.1. Soit X_{1} et X_{2} deux variables aléatoires réelles indépendantes.

1) Si X_{1} et X_{2} sont dans L^{1} alors X_{1}X_{2} est dans L^{1} et 𝔼(X_{1}X_{2}) = 𝔼(X_{1})𝔼(X_{2}).

2) Si X_{1} et X_{2} sont dans L^{2} alors cov(X_{1}, X_{2}) = 0 et σ_{X_{1}+X_{2}}^{2} = σ_{X_{1}}^{2} + σ_{X_{2}}^{2}.

Rappel : La covariance de deux variables aléatoires réelles X et Y est définie par cov(X, Y) = 𝔼((X − 𝔼(X))(Y − 𝔼(Y))) = 𝔼(XY) − 𝔼(X)𝔼(Y) et σ_{X}^{2} = Cov(X, X).

Démonstration. 1) Pour montrer que X_{1}X_{2} est intégrable, on applique le ii) de la proposition 5.1.2 avec f_{1} = f_{2} = | · |. Pour établir l’égalité entre les espérances, on écrit X_{1} et X_{2} comme différence de leurs parties positives et négatives respectives. Par linéarité de l’espérance, on se ramène ainsi au cas de variables aléatoires positives. On applique alors à nouveau la proposition 5.1.2, ii) avec f_{1} = f_{2} = id.

2) Evident. □

5.3 Indépendance généralisée

Soit I un ensemble quelconque, dénombrable ou pas.

Définition 5.3.1. (Indépendance de familles d’évènements et de variables aléatoires)

– Soit (A_{i})_{i∈I} une famille d’événements. Les événements (A_{i})_{i∈I} sont dits indépendants ssi :

∀J ⊂⊂ I, ℙ (∩_{j∈J}A_{j}) = ∏_{j∈J} ℙ(A_{j})

– Des familles d’événements (A_{i})_{i∈I} sont indépendantes ssi pour tout choix d’un A_{i} dans A_{i}, la famille d’événements (A_{i})_{i∈I} est constituée d’événements indépendants.

– On dira qu’une famille de variables aléatoires (X_{i})_{i∈I} est une famille de variables aléatoires indépendantes ssi les (σ(X_{i}))_{i∈I} le sont.

Le théorème suivant qui est une généralisation du théorème vu dans la section 1 signifie simplement que l’indépendance se conserve par “regroupements disjoints”.

Théorème 5.3.1. (“des coalitions”) Soit une famille (C_{i})_{i∈I} de π-systèmes indépendants contenus dans une tribu F. On note F_{i} = σ(C_{i}) la tribu engendrée par C_{i}. Soit (I_{j})_{j∈J} une partition quelconque de I et pour tout j ∈ J, G_{j} = σ (∪_{i∈I_{j}}C_{i}). Alors les tribus (G_{j})_{j∈J} sont indépendantes. En particulier, les tribus (F_{i})_{i∈I} sont indépendantes.

Démonstration. La démonstration dans le cas fini est faite dans le Durett et dans l’Ouvrard. Durett donne pratiquement tous les éléments pour traiter le cas infini. Dans le cas infini, on pourra trouver une démonstration bien faite dans le Buchwalter. On commence par montrer le théorème pour J = I et I_{j} = {j}. Dans ce cas, il est clair que l’on peut se ramener au cas I fini. On suppose pour simplifier les notations que I = {1, …, n} et on rappelle que le cas n = 2 a été vu dans la section 1. On fixe A_{2} ∈ C_{2}, …, A_{n} ∈ C_{n} et on considère les deux applications suivantes sur F_{1}

B_{1} ∈ F_{1} → ℙ(B_{1} ∩ A_{2} ∩ … ∩ A_{n})
B_{1} ∈ F_{1} → ℙ(B_{1})ℙ(A_{2}) … ℙ(A_{n})

Ce sont deux mesures de même masse finie (faire B_{1} = Ω_{1}) qui coïncident sur le π-système C_{1} donc sur F_{1}. On fixe ensuite B_{1} ∈ F_{1}, A_{3} ∈ C_{3}, …, A_{n} ∈ C_{n} et on considère les deux applications

B_{2} ∈ F_{2} → ℙ(B_{1} ∩ B_{2} ∩ A_{3} … ∩ A_{n})
B_{2} ∈ F_{2} → ℙ(B_{1})ℙ(B_{2})ℙ(A_{3}) … ℙ(A_{n})

qui sont des mesures de même masse finie (appliquer ce qui précède en faisant B_{2} = Ω_{2}) coïncidant sur le π-système C_{2} donc sur F_{2}. Et on continue ainsi pour obtenir le résultat annoncé.

On a donc obtenu le théorème pour le cas de la partition triviale. On définit

L_{j} = {∩_{i∈I_{j}}A_{i}; A_{i} ∈ C_{i} pour un nombre fini d’indices et A_{i} = Ω autrement}

C’est un π-système contenant tous les C_{i} pour i ∈ I_{j} donc σ(L_{j}) contient G_{j}. Or les C_{i} sont indépendants donc les L_{j} le sont : il suffit de l’écrire. D’après ce qui précède, les σ(L_{j})_{j} sont des tribus indépendantes et il en est donc de même des (G_{j})_{j} puisque G_{j} ⊂ σ(L_{j}). □

Remarque 5.3.1. Voici une application discrète du précédent théorème. Soient A_{1}, …, A_{n} des évènements indépendants. On considère les évènements Ã_{1}, …, Ã_{n} où A_{i} = A_{i} ou A_{i}^{c}. Montrer que les Ã_{i} sont indépendants. Celà peut aussi se vérifier à la main, mais ce n’est pas si facile (faire une récurrence sur le nombre de complémentaires A_{i}^{c} dans la séquence Ã_{i}).

5.4 Indépendance et événements asymptotiques

Dans cette section, nous énoncons trois théorèmes concernant la tribu asymptotique : loi du 0-1, lemme de Borel-Cantelli 1 et lemme de Borel-Cantelli 2. Le lemme de Borel-Cantelli 1 n’a rien à voir avec l’indépendance mais son énoncé étant une sorte de réciproque du 2, il est d’usage de le placer ici.

Définition 5.4.1. Soit (F_{n})_{n} une suite de sous-tribus de F. On appelle tribu asymptotique des (F_{n})_{n} la tribu

F_{∞} = ∩_{n∈ℕ}σ (∪_{k≥n}F_{k})

Les éléments de F_{∞} sont appelés les événements asymptotiques et une variable aléatoire F_{∞}-mesurable est dite asymptotique. Si (X_{n})_{n} est une suite de variables aléatoires, la tribu asymptotique associée aux X_{n} est la tribu asymptotique associée aux F_{n} = σ(X_{n}).

Par exemple, l’événement {ω ∈ Ω; X_{n}(ω) converge dans ℝ} est un événement asymptotique (par rapport aux X_{n}) et lim sup X_{n}, lim inf X_{n} sont des variables aléatoires asymptotiques. Traitons un exemple :

lim inf_{n} X_{n} ≥ a ⇔ (∀l > 0, ∃n, ∀k ≥ n, X_{n} ≥ a − \frac{1}{l}) ⇔ ω ∈ ∩_{l} ∪_{n} ∩_{k≥n}[X_{k} ≥ a].

Théorème 5.4.1. (Loi du “Tout ou Rien’, ou du “0-1”) Si la suite (F_{n})_{n} est constituée de tribus indépendantes alors

∀A ∈ F_{∞}, ℙ(A) = 0 ou ℙ(A) = 1

Démonstration. On démontre que F_{∞} est indépendante d’elle-même ce qui implique trivialement le résultat. D’après le théorème des coalitions, σ (∪_{k≥n}F_{k}) est indépendant de F_{p} pour p < n. Or F_{∞} est l’intersection des σ (∪_{k≥n}F_{k}) donc F_{∞} est indépendant de F_{p} pour tout p. Il en résulte que F_{∞} est indépendant de σ (∪_{p≥1}F_{p}) et F_{∞} ⊂ σ (∪_{p≥1}F_{p}) donc F_{∞} est indépendante d’elle-même. □

On rappelle que si l’on a une suite d’événements (A_{n})_{n}, on définit

lim sup A_{n} = ∩_{n} ∪_{p≥n} A_{p} = {ω; ω appartient à une infinité de A_{n}}

(en anglais infinitely often, i.o.)

lim inf A_{n} = ∪_{n} ∩_{p≥n} A_{p} = {ω; ω appartient à tous les A_{n} sauf à un nombre fini}

(en anglais, eventually, ev.).

Lemme 5.4.1. (Borel-Cantelli 1) Si ∑_{n} ℙ(A_{n}) < +∞ alors ℙ(lim sup A_{n}) = 0. (C’est à dire : A_{n} ne se produit qu’un nombre fini de fois).

Démonstration. Pour tout n, lim sup A_{k} ⊂ ∪_{k≥n}A_{k} donc

ℙ(lim sup A_{k}) ≤ ℙ(∪_{k≥n}A_{k}) ≤ ∑_{k≥n} ℙ(A_{k})

et le dernier terme de droite tend vers 0 quand n tend vers l’infini par hypothèse d’où le résultat. □

Lemme 5.4.2. (Borel-Cantelli 2) Si les (A_{n})_{n} sont des événements indépendants et si ∑_{n} ℙ(A_{n}) = +∞ alors ℙ(lim sup A_{n}) = 1.

Démonstration. Il est aisé de voir que

{lim sup A_{k}}^{c} = lim inf A_{k}^{c} = ∪_{n} ∩_{k≥n} A_{k}^{c}

Posons p_{k} = ℙ(A_{k}). On a ℙ (∩_{k≥n}A_{k}^{c}) = ∏_{k≥n}(1 − p_{k}) car par indépendance,

ℙ (∩_{m≥k≥n}A_{k}^{c}) = ∏_{m≥k≥n}(1 − p_{k})

et on peut faire tendre m vers l’infini grâce au théorème de convergence monotone. Pour tout x ≥ 0, 1 − x ≤ exp(−x) donc

∏_{k≥n}(1 − p_{k}) ≤ exp (− ∑_{k≥n} p_{k}) = 0

Donc ℙ((lim sup A_{k})^{c}) = 0. □

5.5 Lemmes de Borel-Cantelli, loi du 0-1, mesurabilité relative

Exercice 5.5.1. Application du théorème de Fubini, [14] p. 473 Rappel : Soit F croissante sur ℝ, continue à droite. Alors il y a une unique mesure μ = dF sur ℝ muni de la tribu borélienne telle que μ(]a, b]) = F (b) − F (a). On dit que F est une fonction de Stieltjes et μ une mesure de Stieljes. La preuve est essentiellement la même que celle qui donne l’existence de la mesure de Lebesgue.

1) Rappeler pourquoi l’ensemble des sauts d’une fonction croissante est dénombrable. Peut-on énumérer ces sauts x_{n} de telle sorte que x_{n+1} ≤ x_{n}, n ∈ ℕ?

2) Soit (x_{i})_{i∈I} l’ensemble des sauts de F et α_{i} la valeur du saut en x_{i}. Montrer que

dF = ∑_{i} α_{i}δ_{x_{i}} + dF̃,

où F̃ est une fonction croissante continue.

3) Soient F, μ et G, ν deux couples de Stieltjes. On note μ = dF, ν = dG. Montrer que (μ × ν)({a < x = y ≤ b}) = ∑_{x∈]a,b]} μ({x})ν({x}). (On appliquera le théorème de Fubini à l’intégrale ∫ ∫ 11_{y=x}dμ ⊗ δν).

4) Montrer que pour −∞ < a ≤ b < +∞,

(i) ∫_{]a,b]}(F (y) − F (a))dG(y) = (μ × ν)({(x, y), a < x ≤ y ≤ b});

5) Déduire des deux questions précédentes que

(ii) ∫_{]a,b]} F (y)dG(y) + ∫_{]a,b]} G(y)dF (y) = F (b)G(b) − F (a)G(a) + ∑_{x∈]a,b]} μ({x})ν({x}).

(Indication : Dans (μ ⊗ ν)({(x, y),; a < x ≤ y ≤ b}) + μ ⊗ ν({(x, y), a < y ≤ x ≤ b}), la diagonale apparaît deux fois !).

6) Vérifier sur un exemple comment apparaît le second terme en posant F (x) = G(x) = 11_{[0,+∞[}(x) en prenant a < 0 < b.

(iii) ∫_{]a,b]} 2F (y)dF (y) = F^{2}(b) − F^{2}(a) si F = G est continue.

Solution

1) et 2) : classique, poser dF̃ = dF − ∑_{i} α_{i}δ_{x_{i}} et vérifier que F̃ n’a plus de sauts.

3) En appliquant le théorème de Fubini on a

∫ ∫ 11_{y=x}dμ ⊗ δν = ∫ (∫ 11_{y=x}(y)dν(y))dμ(x) = ∫ ν({x})dμ(x) = ∑_{x} ν({x})μ({x}).

En effet, la deuxième intégrale est en fait une somme dénombrable puisque dμ({x}) est nulle sauf pour x appartenant à l’ensemble dénombrable des sauts de F. On intégre donc une fonction nulle sauf en un ensemble dénombrable de points par rapport à la mesure dν.

4) Preuve de (i) :

∫_{]a,b]}(F (y) − F (a))dG(y) = ∫_{]a,b]}(∫_{]a,y]} dF (x))dG(y) = ∫_{]a,b]}(∫_{]a,b]} 11_{x≤y}(x, y)dF (x))dG(y) =

∫ ∫_{]a,b]^{2}} 11_{x≤y}(x, y)(dμ ⊗ dν)(x, y) = (μ ⊗ ν) ({(x, y), a < x ≤ y ≤ b}),

où l’avant dernière égalité s’obtient par le théorème de Fubini.

5) Preuve de (ii). En utilisant le (i),

∫_{]a,b]} F (y)dG(y) + ∫_{]a,b]} G(y)dF (y) = F (a) ∫_{]a,b]} dG(y) + G(a) ∫_{]a,b]} dF (x)+
(μ ⊗ ν)({a < x ≤ y ≤ b}) + (μ ⊗ ν)({a < y ≤ x ≤ b}) =
(μ ⊗ ν)({]a, b]^{2}) + F (a)(G(b) − G(a)) + G(a)(F (b) − F (a)) + (μ ⊗ ν)({a < x = y ≤ b}) =
F (b)G(b) − F (a)G(a) + (μ ⊗ ν)({a < x = y ≤ b}).

Exercice 5.5.2. Un modèle pour le jeu de pile ou face ([26], 9.3., p. 53-59)

1) Soit x ∈ [0, 1). On définit par récurrence les suites de terme général

R_{0}(x) = x

et pour tout n > 0 D_{n}(x) = [2R_{n−1}(x)] et R_{n}(x) = 2R_{n−1}(x) − D_{n}(x) Vérifier que l’on a pour tout n > 0

x = ∑_{j=1}^{n} \frac{D_{j}(x)}{2^{j}} + \frac{1}{2^{n}}R_{n}(x).

Montrer que x ∈ [0, 1] s’écrit d’une manière unique sous la forme précédente, x = 0, x_{1}x_{2}...x_{k}... avec x_{i} ∈ \{0, 1\} si et seulement si x n’est pas un rationnel dyadique, c’est-à-dire un rationnel de la forme \frac{p}{2^{q}} avec p, q ∈ ℕ et p ≤ 2^{q}. Préciser la forme des D_{n}(x) quand x est un rationnel dyadique. Le but de l’exercice est de montrer la proposition suivante :

Proposition 5.5.1. Sur [0, 1) muni de la tribu des Boréliens et la mesure de Lebesgue, la suite (D_{n})_{n∈ℕ^{∗}} est une suite de variables aléatoires indépendantes de même loi de Bernoulli de paramètre \frac{1}{2}. La variable aléatoire R_{n} est de loi uniforme sur [0, 1) et la variable R_{n} et les variables (D_{1}, ..., D_{n}) sont indépendantes.

2) On va montrer que (D_{n})_{n∈ℕ^{∗}} est une suite de variables aléatoires indépendantes de même loi de Bernoulli de paramètre 1/2. On note ε^{n} = (ε_{1}, ...ε_{n}) un élément de {0, 1}^{n} et ε = (ε_{1}, ..., ε_{n}, ...) un élément de {0, 1}^{ℕ}.

2a) Montrer que ∩_{j=1}^{n}(D_{j} = ε_{j}) est un intervalle de [0, 1] que l’on précisera et calculer sa probabilité. (On trouve 2^{−n}).

2b) En déduire que pour toute partie non vide J de {1, 2, ..., n} on a

ℙ(∩_{j∈J}(D_{j} = ε_{j})) = \frac{1}{2^{|J|}} .

Conclure que les D_{n} sont bien indépendantes.

Solution

On a

ℙ(∩_{j∈J}(D_{j} = ε_{j})) = ∑_{ε^{n−|J|}∈{0, 1}^{J^{c}}} ℙ(∩_{j∈J}(D_{j} = ε_{j}) ∩ (∩_{k∈J^{c}}(D_{k} = ε^{n−|J|}(k)))) =

∑_{ε∈\{0,1\}^{J^{c}}} \frac{1}{2^{n}} 2^{n−|J|} = \frac{1}{2^{|J|}} .

3) On va montrer que, pour tout n ∈ ℕ^{∗}, la variable aléatoire R_{n} est de loi uniforme sur [0, 1) et que les variables aléatoires R_{n} et (D_{1}, D_{2}, …, D_{n}) sont indépendantes.

3a) Vérifier que R_{n}(x) = 2^{n}x − ∑_{j=1}^{n} 2^{n−j}D_{j}(x). Remarquer qu’en développement dyadique, R_{n}(x) = 0, D_{n+1}(x)D_{n+2}(x)... et il est donc immediat que R_{n} ∈ σ(D_{n+1}, D_{n+2}, ...) est indépendante de D_{1}, ..., D_{n}.

3b) Montrer que la loi de R_{n} est uniforme, i.e.

𝔼(f(R_{n})) = ∫_{ℝ} 11_{[0,1[}(y)f(y)dy.

3c) Déduire des deux questions précédentes que pour toute fonction borélienne positive f : ℝ → ℝ et toute partie J de {1, 2, ..., n},

𝔼 [f(R_{n})Π_{i∈J}11_{D_{i}=ε_{i}}] = ℙ(∩_{i∈J}(D_{i} = ε_{i})) [∫_{ℝ} 11_{[0,1[}(y)f(y)dy] .  (5.5.1)

Remarquer que le résultat du 3b) est (5.5.1) dans le cas J = {1, 2, ..., n}. En déduire le cas général (5.5.1).

4) En vérifiant et utilisant la relation D_{n} = −R_{n} + 2R_{n−1}, montrer que la suite de v.a. R_{n} n’est pas une suite de variables aléatoires indépendantes.

5) Soit (μ_{j})_{j>0} une suite de probabilités sur (ℝ, B(ℝ)). On se propose de construire explicitement des variables aléatoires (X_{j})_{j>0} indépendantes de lois respectives (μ_{j})_{j>0}.

5a) Soit (N_{j})_{j>0} une suite de sous-ensembles infinis de ℕ^{∗} formant une partition. Pour tout j > 0, soit ϕ_{j} ∈ ℕ^{∗} une énumération des N_{j}. Pour tout j > 0, on pose

Y_{j} = ∑_{k=1}^{∞} \frac{1}{2^{k}}D_{ϕ_{j}(k)}

Montrer que les variables (Y_{j})_{j>0} sont indépendantes. On utilisera le théorème des coalitions ([26] p. 47) :

Théorème 5.5.1. Soit une famille (C_{i})_{i∈I} de π-systèmes contenus dans A et indépendants ; on note F_{i} la tribu engendrée par C_{i}. Soit (I_{j})j ∈ J une partition de I et A_{j} la tribu engendrée par ∪_{i∈I_{j}}C_{i}. Alors les tribus (A_{j})_{j∈J} sont indépendantes.

5b) Montrer que la loi de Y_{j,n} = ∑_{k=1}^{n} \frac{1}{2^{k}} D_{φ_{j}(k)} est la même que celle de Z_{n} = ∑_{k=1}^{n} \frac{1}{2^{k}} D_{k} et en déduire que la loi de Y_{j} est uniforme sur [0, 1].

5c) (Voir exercice précédent 4.3.8.) Soit F_{j} la fonction de répartition de μ_{j}. On définit la pseudo-inverse de F_{j} par

G_{j}(t) = inf_{x∈ℝ}{F_{j}(x) ≥ t}

On pose X_{j} = G_{j}(Y_{j}). Montrer que la loi de X_{j} est μ_{j} et conclure.

6) Lecture : [26] pp. 59-60, modélisation du jeu de pile ou face.

Quelques notations ([30], pp. 26-27). Soit A_{n} une suite d’événements d’un espace de probabilités (Ω, F, ℙ). On écrit ”A_{n}, i.o.” (infinitely often), pour l’événement

{A_{n} i.o.} = lim sup_{n} A_{n} = ⋂_{n} ⋃_{k≥n} A_{k}.

On dit que A_{n} se produit ”infiniment souvent” si ℙ(A_{n}, i.o.) = 1. On définit de même ”A_{n}, ev.” (eventually), par

{A_{n} ev.} = lim inf_{n} A_{n} = ⋃_{n} ⋂_{k≥n} A_{k}.

Si ℙ(A_{n}, ev.) = 1, on dit que A_{n} ”finit presque sûrement par se produire”. Remarquer que {A_{n} ev.} = {A_{n}^{c} i.o.}^{c}. Avec ces notations, on rappelle les deux lemmes de Borel-Cantelli ([30] pp. 27 et 40) (BC1) : Si E_{n} est une suite d’événements telle que ∑_{n} ℙ(E_{n}) < ∞, alors ℙ(E_{n}, i.o.) = 0. (BC2) : Si E_{n} est une suite d’événements indépendants, alors

∑_{n} ℙ(E_{n}) = +∞ ⇒ ℙ(E_{n}, i.o.) = 1.

Le but des deux exercices suivants est de donner deux contrexemples à la loi des grands nombres (chapitre suivant). Le premier exercice prouve que celle-ci peut être fausse si les v.a. X_{n} ne sont pas équidistribuées. Le deuxième prouve que la loi des grands nombres peut être fausse si E(|X_{1}|) = +∞.

Exercice 5.5.3. Un jeu qui n’est équitable qu’en apparence ([30] p. 228) Soient X_{1}, ..., X_{n} des v.a.i. telles que X_{n} = n^{2} − 1 avec probabilité n^{−2} et X_{n} = −1 avec probabilité 1 − n^{−2}. Démontrer que 𝔼(X_{n}) = 0, mais que si on pose S_{n} = X_{1} + X_{2} + ... + X_{n}, alors

\frac{S_{n}}{n} → −1.

Solution On a ℙ(X_{n} = n^{2} − 1) = n^{−2}, et donc ∑_{n} ℙ(X_{n} = n^{2} − 1) < ∞. Par (BC1), ℙ(X_{n} = n^{2} − 1, i.o.) = 0 et donc ℙ(X_{n} = −1, à partir d’un certain rang.) = 1, ce qui prouve le résultat.

Exercice 5.5.4. Réciproque de la loi forte des grands nombres ([30], E4.6 p. 227)

1) Soit Z ≥ 0 une v.a. et Y sa partie entière. Montrer que

Y = ∑_{n∈ℕ^{⋆}} 11_{Z≥n}.

2) Déduire que

∑_{n∈ℕ^{⋆}} ℙ(Z ≥ n) ≤ 𝔼(Z) ≤ ∑_{n∈ℕ^{⋆}} ℙ(Z ≥ n) + 1.

3) Soient X_{n}, v.a.i.i.d. telles que 𝔼(|X_{n}|) = +∞. Démontrer que

∑_{n} ℙ(|X_{n}| ≥ kn) = ∞ (k ∈ ℕ) et que lim sup_{n} \frac{|X_{n}|}{n} = ∞, p.s.

4) En déduire que si S_{n} = X_{1} + ... + X_{n}, alors lim sup \frac{|S_{n}|}{n} = ∞ p.s.

Solution Le 1) est immédiat ; le 2) se déduit en utilisant les inégalités Y ≤ Z ≤ Y + 1 et en prenant l’espérance. Pour le 3), posons Z = X_{0}. Alors on sait par le 2) que ∑_{n} ℙ(|Z| ≥ n) = +∞. Comme ℙ(|X_{n}| ≥ n) = ℙ(|Z| ≥ n), on en déduit que ∑_{n} ℙ(|X_{n}| ≥ n) = +∞. Les événements {|X_{n}| ≥ n} étant indépendants, on a par (BC2) : |X_{n}| ≥ kn i.o. et donc ℙ(lim sup_{n} \frac{|X_{n}|}{n} ≥ k) = 1. Ceci étant vrai pour tout k, on conclut. 4) Utiliser : \frac{S_{n}}{n} − \frac{n−1}{n} \frac{S_{n−1}}{n−1} = \frac{X_{n}}{n} et minorer \frac{|S_{n}|}{n}.

Exercice 5.5.5. Limite supérieure d’une suite de variables normales indépendantes, [30], E4.5 p. 227

1) Soit G une v.a. normale N (0, 1). On pose φ(y) = \frac{1}{\sqrt{2π}} e^{− \frac{y^{2}}{2}} Démontrer que pour x > 0,

(x + x^{−1})^{−1}φ(x) ≤ ℙ(G ≥ x) ≤ \frac{1}{x}φ(x).

2) Soit (X_{n})_{n} une suite de v.a.i. normales N (0, 1). Montrer qu’avec probabilité 1, L ≤ 1, où L est définie par

L := lim sup_{n} \frac{X_{n}}{\sqrt{2 log n}}.

3) Montrer que ℙ(L = 1) = 1.

4) On pose S_{n} = X_{1} + ... + X_{n} et on rappelle que \frac{S_{n}}{\sqrt{n}} est encore normale N (0, 1). Montrer que ℙ(|S_{n}| < 2\sqrt{n log n}, ev.) = 1. (voir la section 14.7 de [30] pour un résultat plus précis : la loi du Logarithme Itéré). Remarquer que cela implique la loi forte des grands nombres dans ce cas particulier : ℙ(\frac{S_{n}}{n} → 0) = 1.

Solution

1) Pour l’inégalité de droite, utiliser φ′(y) = −yφ(y) et pour l’inégalité de gauche, (\frac{φ(y)}{y})′ = −(1 + \frac{1}{y^{2}} )φ(y).

2) Par l’inégalité de droite de la question 1), on a

ℙ(|X_{n}| ≥ L\sqrt{2 log n}) ≤ \frac{1}{L\sqrt{4π log n}}e^{−L^{2} log n} = \frac{1}{L\sqrt{4π log n}}n^{−L^{2}}.

Si L > 1, alors ∑_{n} ℙ(|X_{n}| ≥ L\sqrt{2 log n}) < ∞ et, par (BC1), ℙ(|X_{n}| ≥ L\sqrt{2 log n} i.o.) = 0, et donc ℙ(lim sup_{n} \frac{|X_{n}|}{\sqrt{2 log n}} ≤ L) = ℙ(|X_{n}| ≤ L\sqrt{2 log n} ev.) = 1.

3) On par l’inégalité de gauche du 1),

ℙ(X_{n} ≥ \sqrt{2 log n}) ≥ (L\sqrt{2 log n} + \frac{1}{L\sqrt{2 log n}})n^{−L^{2}}.

Donc, si L ≤ 1, on obtient ∑_{n} ℙ(|X_{n}| ≥ L\sqrt{2 log n}) = +∞, et donc, par (BC2), ℙ(|X_{n}| ≥ L\sqrt{2 log n}, i.o.) = 1. Utilisant ceci, et le résultat du 2), on conclut que L = 1, p.s.

4) Les S_{n} ne sont pas indépendantes, mais on peut toujours invoquer le résultat du 2), qui n’utilise pas l’indépendance des X_{n}. On a donc

lim sup_{n}(\frac{S_{n}}{\sqrt{2n log n}}) ≤ 1, p.s.

Cela implique que pour tout C > \sqrt{2}, ℙ(\frac{S_{n}}{\sqrt{n log n}} ≤ C, ev.) = 1 et on obtient le résultat annoncé en prenant par exemple C = 2 > \sqrt{2}.

Exercices 9.10, 9.11, 9.12 de [26], p. 84-85.

Exercice 5.5.6. mesurabilité relative, très important ! ([30], p. 206) Soient X et Y deux variables aléatoires réelles Ω → ℝ. On note σ(Y) la tribu engendrée par les ensembles Y^{−1}(E), où E est un borélien quelconque de ℝ. On va montrer le Théorème : X est σ(Y)-mesurable si et seulement si elle est une fonction X = f(Y) de Y, où f : ℝ → ℝ est borélienne.

Remarque 5.5.1. Cet énoncé n’a rien à voir avec le fait que X et Y soient réelles et que l’on considère la tribu de Borel. On l’énonce avec des variables réelles pour le rendre plus intuitif. Se reporter à [30] (loc. cit.) pour la formulation générale.

1) Expliquer pourquoi il suffit de prouver que X est bornée et σ(Y) mesurable si et seulement s’il existe f borélienne bornée telle que X = f(Y).

2) Soit H la classe de toutes les fonctions bornées X sur Ω telles que X = f(Y) pour une fonction f borélienne bornée. On va appliquer à H le théorème de la classe monotone.

2a) Montrer que H contient les fonctions indicatrices d’éléments de σ(Y).

2b) Montrer que H est un espace vectoriel contenant les constantes et que si X_{n} ≥ 0, X_{n} ∈ H, tend en croissant vers X bornée, alors X ∈ H.

3) Conclure. Après avoir terminé l’exercice, lire attentivement les pages 206 et 207 de [30].

Solution

1) Remplacer X par arctan(X) par exemple.

2a) Si F ∈ σ(Y), alors F = Y^{−1}(B) où B est borélien. Donc 11_{F} = 11_{B}(Y).

2b) On a X_{n} = f_{n}(Y) et f_{n} boréliennes. En appliquant lim sup_{n} à cette relation, on obtient X = lim sup_{n} f_{n}(Y) = (lim sup_{n} f_{n})(Y). Donc X = f(Y) avec f =: lim sup_{n} f_{n}, qui est encore borélienne. (On pose f = 0, par exemple, sur le complémentaire de l’image de Y.)

3) Par le théorème de la classe monotone, H contient toutes les fonctions bornées et σ(Y)-mesurables. En appliquant le 1), on obtient le théorème.

Exercice 5.5.7. Deux exemples parlants de variables aléatoires deux à deux indépendantes et d’évènements deux à deux indépendants.

1) On considère Ω_{1} = [0, 1]^{3} muni de la mesure de Lebesgue. Montrer que les coordonnées X, Y et Z sont des variables aléatoires indépendantes.

2) On considère l’espace de probabilité Ω_{2} = Ω_{1} ∪ (1, 1, 0) + Ω_{1} ∪ (1, 0, 1) + Ω_{2} ∪ (0, 1, 1) + Ω_{1} muni de la mesure de Lebesgue divisée par 4. Dessiner Ω_{2}. Montrer que l’on a ℙ(X ∈ [a, b]) = b − a.

3) En déduire que X, Y, Z sont encore des variables aléatoires indépendantes deux à deux. En considérant l’évènement [X ≥ 1, Y ≥ 1 Z ≥ 1] montrer que X, Y et Z ne sont pas indépendantes.

4) Version discrète du même exemple : Ω = {0, 1}^{3} d’éléments (x, y, z) avec x, y, z ∈ {0, 1}, muni de la probabilité vérifiant ℙ((0, 0, 0)) = ℙ((1, 1, 0)) = ℙ((0, 1, 1)) = ℙ((1, 0, 1)) = \frac{1}{4} et tous les autres atomes de probabilité nulle. Montrer que les évènements X = 1, Y = 1 et Z = 1 sont indépendants deux à deux mais pas dans leur ensemble.

Fig. 5.1 – L’ensemble Ω_{2}. Les coordonnées ne sont pas indépendantes sur Ω_{2} mais le sont deux à deux.

Lois des grands nombres

Dans ce chapitre, on donne plusieurs variantes de la loi des grands nombres parmi les plus classiques et les plus simples. On joint une photocopie de [5], pp. 66-67, avec une preuve synthétique en deux pages de la loi forte des grands nombres.

Loi faible des grands nombres

Le premier théorème important et très simple à montrer est la loi faible des grands nombres. On rappelle d’abord l’inégalité de Markov

ℙ(|f(X)| ≥ a) ≤ \frac{𝔼|f(X)|}{a}

dont on déduit l’inégalité de Tchebychev, pour tout ε > 0,

ℙ(|X − 𝔼X| ≥ ε) ≤ \frac{σ^{2}(X)}{ε^{2}}.

La preuve consiste à appliquer l’inégalité de Markov à f(X) = |X − 𝔼X|^{2}.

Théorème 6.0.2. Soit un suite de variables aléatoires indépendantes X_{i} d’espérance 𝔼X, i = 1, …, n, … et S_{n} := ∑_{i=1}^{n} X_{i}. Alors ℙ(|\frac{S_{n}}{n} − EX| ≥ ε) → 0 quand n → ∞.

En effet l’espérance de S_{n} est n𝔼X et la variance de S_{n} est nσ^{2}(X). Donc la moyenne de \frac{S_{n}}{n} est 𝔼X et sa variance est σ^{2} = \frac{p(1−p)}{n}. Appliquons l’inégalité de Tchebytchev. On obtient

ℙ(|\frac{S_{n}}{n} − 𝔼X| ≥ ε) ≤ \frac{σ^{2}(X)}{nε} → 0 quand n → ∞.

La loi forte

Le second théorème à retenir est le suivant :

Théorème 6.0.3. Soit X_{1}, X_{2}, … des variables aléatoires indépendantes identiquement distribuées et inrégrables d’espérance μ. Soit (S_{n})_{n} la suite des sommes partielles des (X_{i})_{i}. Alors

n^{−1}S_{n} ⟶ μ ℙ p.s. et dans 𝕃^{1}

Exercice 6.0.8. Lemme de Kronecker ([30] p. 117) Soit (b_{n})_{n} une suite de réels strictement positifs croissante et tendant vers l’infini. Soit (x_{n})_{n} une suite de réels et définissons s_{n} = x_{1} + … x_{n}. On a alors :

∑_{n} \frac{x_{n}}{b_{n}} converge ⇒ \frac{s_{n}}{b_{n}} → 0.

1) Montrer d’abord le lemme de Cesàro : si b_{n} est comme ci-dessus et v_{n} → v_{∞}, alors (en posant b_{0} = 0) :

\frac{1}{b_{n}} ∑_{1}^{n}(b_{k} − b_{k−1})v_{k} → v_{∞}.

(Marche à suivre : fixer ε > 0 et N tel que v_{k} ≥ v_{∞} − ε pour k ≥ N. Montrer en coupant la somme en deux que lim inf_{n} \frac{1}{b_{n}} ∑_{1}^{n}(b_{k} − b_{k−1})v_{k} ≥ 0 + v_{∞} − ε.)

2) Démonstration du Lemme de Kronecker : soit u_{n} := ∑_{k≤n}(\frac{x_{k}}{b_{k}}). Par hypothèse, u_{∞} = lim u_{n} existe et on a u_{n} − u_{n−1} = \frac{x_{n}}{b_{n}} . Ecrire s_{n} = ∑_{1}^{n} b_{k}(u_{k} − u_{k−1}) et déduire du lemme de Césaro que \frac{s_{n}}{b_{n}} → 0.

Exercice 6.0.9. Très facile ! ! Loi faible des grands nombres avec moment d’ordre 4 borné, ([30] p. 72) Soit X_{1}, X_{2}, … des variables aléatoires indépendantes telles qu’il existe une constante K > 0 vérifiant :

𝔼(X_{k}) = 0, 𝔼(X_{k}^{4}) ≤ K

Soit S_{n} = X_{1} + … X_{n}. Alors

ℙ(n^{−1}S_{n} ⟶ 0) = 1,  lim_{n→∞} \frac{S_{n}}{n} = 0 dans 𝕃^{4}

1) Vérifier que 𝔼X_{i}^{2} et 𝔼X_{i}^{3} ont un sens. Montrer que

E(S_{n}^{4}) = E (∑_{k} X_{k}^{4} + 6 ∑ ∑_{i<j} X_{i}^{2}X_{j}^{2})

En utilisant (E(X_{i}^{2}))^{2} ≤ EX_{i}^{4} (le montrer), en déduire que

E(S_{n}^{4}) ≤ nK + 3n(n − 1)K ≤ 3Kn^{2}.

2) Montrer que E(∑_{n}(\frac{S_{n}}{n})^{4}) ≤ 3K ∑ n^{−2} et conclure.

Exercice 6.0.10. Très général et pratique : la loi forte des grands nombres avec v.a. non-corrélées, pas nécessairement indépendantes, ([6], p. 228). Soit X_{1}, X_{2}, … des variables aléatoires identiquement distribuées. Supposons que leur moyenne μ = 𝔼(X_{1}) soit définie et qu’elles aient une variance finie σ^{2}. Supposons de plus qu’elles soient non corrélées, c’est-à-dire :

i ≠ j ⟹ 𝔼 [(X_{i} − μ)(X_{j} − μ)] = 0

Soit S_{n} = X_{1} + … X_{n}. Alors

ℙ(n^{−1}S_{n} ⟶ μ) = 1

1) Montrer que l’on peut se ramener au cas μ = 0.

2) On pose Z_{m} = sup_{1≤k≤2m+1} |X_{m^{2}+1} + … + X_{m^{2}+k}|. Montrer qu’il suffit de montrer

ℙ p.s., lim_{m→+∞} \frac{S_{m^{2}}}{m^{2}} = 0,  (6.0.1)

ℙ p.s., lim_{m→+∞} \frac{Z_{m}}{m^{2}} = 0  (6.0.2)

On considérera l’entier m(n) tel que m(n)^{2} ≤ n ≤ (m(n) + 1)^{2} et on remarquera que

|\frac{S_{n}}{n} | ≤ |\frac{S_{m(n)^{2}}}{m(n)^{2}} | + |\frac{Z_{m(n)}}{m(n)^{2}} |.

3) Montrer que ℙ (|S_{m^{2}}/m^{2}| ≥ ϵ) ≤ \frac{σ^{2}}{m^{2}ϵ^{2}}. En déduire, en utilisant le lemme de Borel-Cantelli, l’assertion (6.0.1).

4) On définit ζ_{k}^{(m)} = X_{m^{2}+1} + … + X_{m^{2}+k}. Montrer que

ℙ (\frac{Z_{m}}{m^{2}} ≥ ϵ) ≤ ∑_{k=1}^{2m+1} ℙ (|ζ_{k}^{m}| ≥ m^{2}ϵ) .

Montrer que ℙ(|ζ_{k}^{(m)}| ≥ m^{2}ε) ≤ \frac{(2m+1)σ^{2}}{m^{4}ε^{2}} . En utilisant le lemme de Borel-Cantelli, en déduire l’assertion (6.0.2) et conclure. Remarque 6.0.2. Dans [14], p. 36, on trouve un théorème de lgn pour des variables non corrélées qui ressemble à celui-ci. Il n’y est cependant prouvé que la convergence en probabilité. Exercice 6.0.11. Inégalité de Kolmogorov, ([16], tome 1, p 234-235) 0n reverra cette inégalité quand on traitera les martingales. Soit X_{1}, …, X_{n} des variables aléatoires indépendantes centrées. On pose S_{n} = X_{1} + … X_{n} et s_{k}^{2} la variance de S_{k}. On a l’inégalité suivante :

ℙ(∃k ∈ {1 … n}, |S_{k}| ≥ ts_{n}) ≤ t^{−2}.

On pose pour ν ∈ {1 … n}, Y_{ν} = 1_{|S_{ν}|≥ts_{n}}1_{{|S_{k}|<ts_{n} pour k=1,...,ν−1}}.

1) Montrer que Y_{1} + … Y_{n} = 1_{{∃k∈{1...n}, |S_{k}|≥ts_{n}}}.

2) Montrer que ∑_{k=1}^{n} 𝔼(Y_{k}S_{n}^{2}) ≤ s_{n}^{2}.

3) On pose U_{k} = S_{n} − S_{k}. En remarquant que U_{k} est indépendant de Y_{k}S_{k}, montrer que 𝔼(Y_{k}S_{n}^{2}) ≥ 𝔼(Y_{k}S_{k}^{2})

4) Montrer que Y_{k}S_{k}^{2} ≥ t^{2}s_{n}^{2}Y_{k} et déduire de 2) et 3) le résultat annoncé.

Solution

1) En effet, les évènements Y_{ν} = 1 sont disjoints et leur union est bien l’évènement qui nous intéresse.

2) En effet, ∑_{k=1}^{n} Y_{k} ≤ 1. Il suffit de multiplier par S_{n}^{2} et de prendre l’espérance.

3) 𝔼(Y_{k}S_{n}^{2}) = 𝔼(Y_{k}(S_{k} + U_{k})^{2}) = 𝔼(Y_{k}S_{k}^{2}) + 2𝔼(Y_{k}S_{k}U_{k}) + 𝔼(Y_{k}U_{k}^{2}). Le deuxième terme est nul par l’indépendance mentionnée et le troisième terme est positif.

4) L’inégalité demandée est une conséquence immédiate de la définition de Y_{k}. En utilisant successivement cette dernière inégalité, puis celle de 3) et finalement celle de 2), on a

ℙ(∃k ∈ \{1, …, n\} |S_{k}| ≥ tS_{n}) = 𝔼(Y_{1} + … + Y_{n}) ≤ \frac{1}{t^{2}s_{n}^{2}} 𝔼(∑_{k} Y_{k}S_{k}^{2})

≤ \frac{1}{t^{2}s_{n}^{2}} 𝔼(∑_{k=1}^{n} Y_{k}S_{n}^{2}) ≤ t^{−2}.

Exercice 6.0.12. Loi forte des grands nombres avec une contrainte sur la variance ([16], tome 2). Soit (W_{n})_{n∈ℕ} une suite de variables indépendantes centrées ayant des variances σ_{n}^{2} = V ar(W_{n}) telles que :

∑_{n} \frac{σ_{n}^{2}}{n^{2}} < +∞

Alors ℙ p.s. lim_{n→+∞} \frac{1}{n} ∑_{k=1}^{n} W_{k} = 0

1) Démontrer le théorème de Kronecker.

2) On pose X_{n} = W_{n}/n qui sont centrées et telles que :

∑_{n} V ar(X_{n}) < +∞

et S_{n} = ∑_{k=1}^{n} X_{k}. On va montrer qu’avec probabilité 1, ∑_{n} X_{n} converge.

2a) Montrer qu’il suffit de prouver que pour tout ϵ > 0,

lim_{n_{0}→+∞} ℙ(∃ m, n ≥ n_{0}, |S_{m} − S_{n}| > ϵ) = 0

2b) Montrer que

lim_{m→+∞} ℙ(∃ k ∈ {n_{0} … m}, |S_{n_{0}} − S_{k}| > ϵ/2) ≥ ℙ(∃ m, n ≥ n_{0}, |S_{m} − S_{n}| > ϵ)

3) Utiliser l’inégalité de Kolmogorov et conclure.

Solution 2a) Supposons que l’on ait démontré que pour tout ϵ > 0

lim_{n_{0}→+∞} ℙ(∃ m, n ≥ n_{0}, |S_{m} − S_{n}| > ϵ) = 0

On a :

ℙ({∃ϵ > 0, ∀n_{0} , ∃m, n ≥ n_{0} , |S_{m} − S_{n}| > ϵ}) ≤ ∑_{ϵ∈ℚ^{+}} ℙ({∀n_{0} , ∃m, n ≥ n_{0} , |S_{m} − S_{n}| > ϵ})

et il suffit donc de montrer que pour ϵ > 0 fixé,

ℙ({∀n_{0} , ∃m, n ≥ n_{0} , |S_{m} − S_{n}| > ϵ}) = 0

Ce dernier terme s’écrit ℙ(⋂_{n_{0}} A_{n_{0}}) où les A_{n_{0}} = {∃m, n ≥ n_{0} , |S_{m} − S_{n}| > ϵ} sont décroissants. D’où :

ℙ({∀n_{0} , ∃m, n ≥ n_{0} , |S_{m} − S_{n}| > ϵ}) = lim_{n_{0}→+∞} ℙ(A_{n_{0}}) = 0 par hypothèse.

2b) On remarque aisément en utilisant l’inégalité triangulaire que :

A_{n_{0}} ⊂ ⋃_{m≥n_{0}}{|S_{m} − S_{n_{0}}| > ϵ/2}

Or

⋃_{m≥n_{0}}{|S_{m} − S_{n_{0}}| > ϵ/2} = ⋃_{m≥n_{0}} ⋃_{m≥k≥n_{0}}{|S_{k} − S_{n_{0}}| > ϵ/2}

Et les événements B_{m} = ⋃_{m≥k≥n_{0}}{|S_{k} − S_{n_{0}}| > ϵ/2} sont croissants. D’où 2b).

3) En appliquant soigneusement l’inégalité de Kolmogorov, on a :

ℙ(∃ k ∈ \{n_{0} … m\}, |S_{n_{0}} − S_{k}| > ϵ/2) ≤ \frac{4V ar(X_{n_{0}+1} + … + X_{m})}{ϵ^{2}}

Le terme de droite s’écrit en raison de l’indépendance des X_{k},

\frac{4}{ϵ^{2}} ∑_{k=n_{0}+1}^{m} V ar(X_{k})

Prenant la limite quand m tend vers l’infini puis la limite quand n_{0} tend vers l’infini, le résultat tombe.

Exercice 6.0.13. Lemme de troncature de Kolmogorov ([30], 12.9 p. 118) Soit X_{1}, X_{2}, … des variables aléatoires indépendantes identiquement distribuées ayant la même loi que X et intégrables. Soit μ = 𝔼(X). On définit :

Y_{n} = X_{n}11_{|X_{n}|≤n}

Alors :

i) 𝔼(Y_{n}) → μ ii) ℙ(X_{n} = Y_{n} sauf pour un nombre fini de n ) = 1 iii) ∑_{n} (V ar(Y_{n})/n^{2}) < +∞ On pose Z_{n} = X11_{|X|≤n}. Montrer que la loi de Z_{n} est la même que cellle de Y_{n}.

1) Démontrer i).

2) Montrer que ∑_{n} ℙ(X_{n} ≠ Y_{n}) < +∞ et en déduire ii).

3) Montrer que ∑_{n} (V ar(Y_{n})/n^{2}) ≤ 𝔼(|X|^{2}f(|X|)) où f(z) = ∑_{n≥sup(1,z)} 1/n^{2}. Prouver que f(z) ≤ 2/ sup(1, z) et en déduire iii).

Solution

1) On pose Z_{n} = 1_{{|X|≤n}}X qui est majorée en valeur absolue par |X| intégrable et qui tend ℙ presque sûrement vers X. Le théorème de convergence dominée donne le résultat.

2) ∑_{n} ℙ(Y_{n} ≠ X_{n}) = ∑_{n} ℙ(|X_{n}| > n) = ∑_{n} ℙ(|X| > n). Or on a :

∑_{n} ℙ(|X| > n) = 𝔼 (∑_{n} 1_{{|X|>n}}) = 𝔼 ( ∑_{n<|X|} 1) ≤ 𝔼(|X|) < +∞

Par le lemme de Borel-Cantelli 1, on obtient ii).

3) Il suffit d’écrire que

∑_{n} \frac{V ar(Y_{n})}{n^{2}} ≤ ∑_{n} \frac{𝔼 (|X|^{2}; |X| < n)}{n^{2}} = 𝔼(|X|^{2}f(|X|)

L’inégalité concernant f se montre facilement et on obtient donc

∑_{n} \frac{V ar(Y_{n})}{n^{2}} ≤ 2𝔼(|X|)

Exercice 6.0.14. Loi forte des grands nombres : démonstration via les troncatures ([30]) Soit X_{1}, X_{2}, … des variables aléatoires indépendantes identiquement distribuées et inrégrables d’espérance μ. Alors

ℙ(n^{−1}S_{n} ⟶ μ) = 1

Cette démonstration se fait au moyen de deux ingrédients : le lemme de troncature de Kolmogorov et une loi forte sous contrainte de variance. Démontrer le théorème.

Solution

On pose Y_{n} = 1_{{|X_{n}|≤n}}X_{n}. D’après le ii) du lemme de troncature, Y_{n} = X_{n} sauf pour un nombre fini de n d’où, ℙ presque sûrement,

lim_{n→∞} \{\frac{1}{n} ∑_{k=1}^{n} Y_{k} − \frac{1}{n} ∑_{k=1}^{n} X_{k}\} = 0

Il nous reste donc à montrer que ℙ presque sûrement

lim_{n→∞} \frac{1}{n} ∑_{k=1}^{n} Y_{k} = μ

Or

\frac{1}{n} ∑_{k=1}^{n} Y_{k} = \frac{1}{n} ∑_{k=1}^{n} 𝔼(Y_{k}) + \frac{1}{n} ∑_{k=1}^{n} W_{k}

où W_{k} = Y_{k} − 𝔼(Y_{k}). Mais par le i) du lemme de troncature de Kolmogorov,

𝔼(Y_{k}) → μ

et par le théorème de Césaro,

lim_{n→∞} \frac{1}{n} ∑_{k=1}^{n} 𝔼(Y_{k}) = μ

Quant au deuxième terme, \frac{1}{n} ∑_{k=1}^{n} W_{k}, il se traite grâce à la loi forte des grand nombres avec une contrainte sur la variance. En effet, les W_{k} sont i.i.d. centrées et leurs variances sont données par V ar(W_{k}) = V ar(Y_{k}). Par iii) du lemme de troncature de Kolmogorov et la loi des grands nombres avec contrainte sur la variance, on conclut.

Exercice 6.0.15. La démonstration d’Etemadi (1981). Nous donnons cette démonstration sous la forme élégante proposée par [5], p. 66-67).

1) Lire attentivement les sept inégalités et égalités de la page 66 et les justifier.

2) Lire attentivement. Remarquer que le haut de la page 67 est le lemme de troncature de Kolmogorov.

Exercice 6.0.16. On rappelle le théorème de Sheffé : Si une suite de variables aléatoires (X_{n})_{n} ∈ 𝕃^{1} vérifie X_{n} ≥ 0, X_{n} → X presque sûrement, X ∈ 𝕃^{1} et 𝔼(X_{n}) → 𝔼(X), alors X_{n} → X dans 𝕃^{1}. Soit (X_{n})_{n} une suite i.i.d. de variables aléatoires intégrables. Montrer que (S_{n})_{n} = (n^{−1} ∑_{k=1}^{n} X_{k})_{n} converge dans 𝕃^{1} vers 𝔼(X_{1}).

Solution

Si Z est une variable aléatoire, on note Z^{+} = sup(Z, 0) sa partie positive et Z^{−} = sup(−Z, 0) sa partie négative si bien que Z = Z^{+} − Z^{−}. On considère les variables aléatoires i.i.d. intégrables (X_{n}^{+})_{n} d’espérance 𝔼(X_{1}^{+}) et on forme la suite (S_{n,+})_{n} définie par

S_{n,+} = n^{−1} (X_{1}^{+} + … + X_{n}^{+})

On sait que ℙ p.s., la suite (S_{n,+})_{n} converge vers 𝔼(X_{1}^{+}) et d’autre part, on a 𝔼(S_{n,+}) = 𝔼(X_{1}^{+}) donc par le théorème de Sheffé, on a que la convergence de (S_{n,+})_{n} vers la constante 𝔼(X_{1}^{+}) a lieu dans 𝕃^{1}. De même, en considérant (X_{n}^{−})_{n}, et S_{n,−} = n^{−1}(X_{1}^{−} + … + X_{n}^{−}), on a la convergence de (S_{n,−})_{n} vers 𝔼(X_{1}^{−}). Vu que S_{n} = S_{n,+} − S_{n,−} pour tout n, on en déduit immédiatement le résultat.

Remarque 6.0.3. 1. Nous n’avons pas énoncé le théorème des trois séries de Kolmogorov, que l’on pourra trouver dans [30] par exemple. Il est d’usage d’en parler lorsqu’on traite la loi des grands nombres mais il en est indépendant (même si les techniques sont les mêmes).

2. On pourra consulter [16], tome 1, pp. 243-263, et surtout les exercices pour des généralisations de la loi des grands nombres. Il sera aussi bon de s’intéresser au théorème ergodique qui est une généralisation de la loi des grans nombres pour les processus stationnaires ([18]).

3. La loi des grands nombres est énormément utilisé en statistique (pour construire des estimateurs par exemple), d’un point de vue numérique pour estimer des intégrales (méthode de Monte Carlo)...

6.1 La preuve la plus rapide de la loi forte des grands nombres

(V. S. Borkar, Probability Theory, Springer, 1995, pages 66-67).

La loi des grands nombres est justifiée par Vivek Borkar de la manière suivante : “Observez que des variables aléatoires de carré intégrable et de moyenne zéro sur un espace de probabilité (Ω, F, ℙ) forment un espace vectoriel avec produit scalaire ⟨X, Y ⟩ := 𝔼[XY]. Mais si on ajoute des variables aléatoires indépendantes et identiquement distribuées dans cet espace, c’est la même chose que d’ajouter n vecteurs orthogonaux de même longueur. Donc la moyenne arithmétique de ces vecteurs doit être d’ordre n^{−} \frac{1}{2}.” C’est exactement la ligne de raisonnement que suit la loi faible des grands nombres, qui suppose les variables aléatoires de variance bornée. La loi forte précise la loi faible. Sa démonstration très détaillée suivant la ligne de Kolmogorov consiste a tronquer les variables X_{n} pour que leurs variances soient contrôlées et que l’on puisse appliquer un argument hilbertien du même type que pour la loi faible. Ensuite, on montre que la différence entre X_{n} et sa troncature Y_{n} est asymptotiquement négligeable par le lemme de Borel-Cantelli. La preuve d’Etemadi suit toujours cette démarche, mais de manière particulièrement heureuse, en peu de lignes.

Théorème 6.1.1. Soient X_{n}, n ≥ 1, intégrables, indépendantes deux à deux et identiquement distribuées et S_{n} := ∑_{i=1}^{n} X_{i}, n ≥ 1. Alors

\frac{S_{n}}{n} → EX_{1} p.s..

Démonstration. Cette preuve est due à Etemadi. Comme X_{n}^{+} et X_{n}^{−} vérifient les mêmes hypothèses du théorème on montre tout avec X_{i} ≥ 0. Soit Y_{i} := X_{i}11_{X_{i}≤i} et S_{n}^{∗} := ∑_{i=1}^{n} Y_{i}, n ≥ 1. Soient ε > 0, α > 1 et k_{n} := [α^{n}] la partie entière de α^{n}. Dans tout ce qui suit C désigne une constante positive variant d’étape en étape. Soit μ := ℙ_{X_{i}} la loi de X_{i}. On note σ^{2}(X) la variance de X. On a alors

∑_{n=1}^{∞} ℙ (|\frac{S_{k_{n}}^{∗} − 𝔼[S_{k_{n}}^{∗}]}{k_{n}} |) ≤ C ∑_{n=1}^{∞} \frac{σ^{2}(S_{k_{n}}^{∗})}{k_{n}^{2}}

= C ∑_{n=1}^{∞} \frac{1}{k_{n}^{2}} ∑_{i=1}^{k_{n}} σ^{2}(Y_{i})

≤ C ∑_{i=1}^{∞} \frac{𝔼[Y_{i}^{2}]}{i^{2}}

= C ∑_{i=1}^{∞} \frac{1}{i^{2}} ∫_{0}^{i} x^{2}μ(dx)

= C ∑_{i=1}^{∞} \frac{1}{i^{2}} ∑_{k=0}^{i−1} ∫_{k}^{k+1} x^{2}μ(dx)

≤ C ∑_{k=0}^{∞} \frac{1}{k + 1} ∫_{k}^{k+1} x^{2}μ(dx)

≤ C ∑_{k=0}^{∞} ∫_{k}^{k+1} xμ(dx) = C𝔼X_{1} < ∞.

On a aussi

𝔼X_{1} = lim_{n→∞} ∫_{0}^{n} xμ(dx) = lim_{n→∞} 𝔼Y_{n} = lim_{n→∞} \frac{𝔼S_{k_{n}}^{∗}}{k_{n}} .

Donc par le lemme de Borel-Cantelli,

\frac{S_{k_{n}}^{∗}}{k_{n}} → EX_{i} p.s.

Mais

∑_{n=1}^{∞} ℙ(Y_{n} ≠ X_{n}) = ∑_{n=1}^{∞} ℙ(X_{n} > n)
= ∑_{n=1}^{∞} ∫_{n}^{∞} μ(dx)
= ∑_{n=1}^{∞} ∑_{i=n}^{∞} ∫_{i}^{i+1} μ(dx)
= ∑_{i=1}^{∞} i ∫_{i}^{i+1} μ(dx)
≤ EX_{1} < ∞.

Par Borel-Cantelli, ℙ(X_{n} ≠ Y_{n} i.o.) = 0. Donc

lim_{n→∞} \frac{S_{k_{n}}}{k_{n}} = 𝔼X_{1} p.s.

Pour n ≥ 1 soit m(n) ≥ 0 tel que k_{m(n)} ≤ n ≤ k_{m(n)+1}. Comme n → S_{n} est croissante,

lim inf_{n→∞} \frac{S_{n}}{n} ≥ lim inf_{n→∞} \frac{S_{k_{m}(n)}}{k_{m}(n)} \frac{k_{m}(n)}{k_{m(n)} + 1}
≥ \frac{1}{α} lim_{n→∞} \frac{S_{k_{m}(n)}}{k_{m(n)}} = \frac{1}{α}EX_{1} < ∞.

De même,

lim sup_{n→∞} \frac{S_{n}}{n} ≤ α𝔼X_{1} p.s..

Comme α > 1 est arbitraire on conclut en faisant α → 1. □

Les convergences

Dans ce chapitre, les mesures considérées sont des mesures sur ℝ^{d} mais tout ceci reste valable si on remplace ℝ^{d} par un espace métrique localement compact dénombrable à l’infini.

7.1 Convergence des mesures bornées sur ℝ^{d}

On commence par donner quelques notations utilisées tout au long du chapitre.

Ensembles de mesures (sur (ℝ^{d}, B(ℝ^{d}))) : M : ensemble des mesures positives de masse finie. M_{b} : ensemble des mesures de masse positive inférieure ou égale à b. M^{1} : ensemble des probabilités.

Ensembles de fonctions (sur (ℝ^{d}, B(ℝ^{d}))) : C_{K} : ensemble des fonctions continues à support compact. C_{0} : ensemble des fonctions continues tendant vers 0 à l’infini. C_{b} : ensemble des fonctions continues bornées.

Remarque 7.1.1. C_{0}, C_{K} munis de la norme uniforme sont séparables mais C_{b} ne l’est pas. (C_{b}, ∥·∥_{∞}) est un espace de Banach dont C_{0} est un sev fermé (mais pas C_{K}) et C_{K} est dense dans C_{0} (mais pas dans C_{b}).

On rappelle que l’on dit qu’un sous-ensemble H d’un espace vectoriel E est total ssi V ect(H) est dense dans E.

7.1.1 Topologies vague, faible et étroite

Les topologies vague, faible et étroite sont respectivement les topologies les moins finies sur M (celles qui contiennent le moins d’ouverts) rendant continues les applications μ → ∫ fdμ (avec f ∈ C_{K}, C_{0} et C_{b} respectivement). En particulier, (μ_{n})_{n} converge vers μ :

– vaguement si ∀f ∈ C_{K}, lim_{n→∞} μ_{n}(f) = μ(f)
– faiblement si ∀f ∈ C_{0}, lim_{n→∞} μ_{n}(f) = μ(f)
– étroitement si ∀f ∈ C_{b}, lim_{n→∞} μ_{n}(f) = μ(f)

On rappelle qu’une base de voisinages de μ pour ces topologies est composée des ensembles

V_{ε,f_{1}...f_{n}}^{μ} = {ν ∈ M, ∀i ∈ ℕ_{n}, |μ(f_{i}) − ν(f_{i})| ≤ ε} = ∩_{i=1}^{n}V_{ε,f_{i}}^{μ}

où ε > 0 et f_{1}, …, f_{n} appartiennent à l’espace considéré. La topologie la plus fine est l’étroite, puis vient la faible et enfin la vague. Ainsi, une suite convergeant étroitement converge faiblement et une suite convergeant faiblement converge vaguement.

Proposition 7.1.1. On a les proptiétés suivantes :

1) Sur M_{b}, les topologies vagues et faibles coïncident avec la topologie la moins fine rendant continues les applications μ → ∫ fdμ lorsque f parcourt un ensemble total H de C_{K} (resp. C_{0}).

2) Sur M^{1}, les trois topologies coïncident.

3) M_{b} est métrisable compact pour la topologie faible.

Remarque 7.1.2. 1) n’a d’intérêt que si H n’est pas trop gros, typiquement dénombrable, ce qui permet de rendre M_{b} métrisable. En fait, un résultat analogue à celui-ci pour la convergence étroite n’aurait pas d’intérêt car un ensemble H total dans C_{b} n’est pas dénombrable (et même très gros).

Démonstration. 1) On traite uniquement le cas de la convergence vague, le cas de la convergence faible étant semblable. Soit H un ensemble total de C_{K}. On peut toujours supposer que H est un espace vectoriel quitte à considérer V ect(H). Soit alors f ∈ C_{K} et g ∈ H telle que ∥f − g∥_{∞} ≤ ε. Si ν, μ ∈ M_{b}, on a

|μ(f) − ν(f)| ≤ |μ(f) − μ(g)| + |μ(g) − ν(g)| + |ν(g) − ν(f)|
≤ 2bε + |ν(g) − μ(g)|

et par suite V_{ε,g}^{μ} ⊂ V_{(2b+1)ε,f}^{μ} donc puisque la topologie vague est celle qui contient le moins d’ouverts, les deux topologies coïncident.

2) Il nous suffit donc de montrer maintenant que sur M^{1}, les topologies vagues et étroites coïncident. Il suffit pour cela de montrer que ∀ ℙ ∈ M^{1}, ∀ε > 0, ∀f ∈ C_{b}, V_{ε,f}^{ℙ} contient un voisinage pour la topologie vague. Soit (h_{p})_{p} une suite de fonctions positives de C_{K} qui convergent vers 1 simplement et en croissant. Pour toute probabilité ℚ, on a

|ℙ(f) − ℚ(f)| ≤ |ℙ(f − fh_{p})| + |ℙ(fh_{p}) − ℚ(fh_{p})| + |ℚ(fh_{p} − f)|
≤ ∥f∥_{∞} {ℚ(1 − h_{p}) + ℙ(1 − h_{p})} + |ℙ(fh_{p}) − ℚ(fh_{p})|
= ∥f∥_{∞} {2 − ℚ(h_{p}) − ℙ(h_{p})} + |ℙ(fh_{p}) − ℚ(fh_{p})|
≤ ∥f∥_{∞} {2ℙ(1 − h_{p}) + ℙ(h_{p}) − ℚ(h_{p})} + |ℙ(fh_{p}) − ℚ(fh_{p})|

Remarquons maintenant que par le théorème de la convergence monotone, lim_{p→∞} ℙ(1 − h_{p}) = 0. On fixe alors p tel que 2ℙ(1 − h_{p}) ≤ ε. Il est aisé de voir que l’inégalité précédente ne dit rien d’autre que

M^{1} ∩ V_{ε,h_{p}}^{ℙ} ∩ V_{ε,fh_{p}}^{ℙ} ⊂ M^{1} ∩ V_{(2ϵ∥f∥_{∞}+ϵ),f}^{ℙ}

autrement dit, que tout voisinage de la topologie étroite sur M^{1} contient un voisinage ouvert de la topologie vague sur M^{1}, c.q.f.d.

3) On prend (f_{n})_{n} une suite d’éléments de C_{K} dense dans C_{0}. On définit une distance d sur M_{b} par

d(μ, ν) = ∑_{n≥1} \frac{1}{2^{n}∥f∥_{∞}}|μ(f_{n}) − ν(f_{n})|

Il est aisé de montrer que c’est bien une distance. D’après 1), la topologie induite par d coïncide avec la topologie faible.

Montrons maintenant que M_{b} est faiblement compact. On peut se restreindre à montrer que M_{b} est sequentiellement compact (car métrisable). Soit donc (μ_{p})_{p} ∈ M_{b}^{ℕ}. On veut en extraire une sous-suite faiblement convergente. Or

∀n ∈ ℕ, |μ_{p}(f_{n})| ≤ b∥f_{n}∥_{∞}

Par un procédé d’extraction diagonale, on peut extraire une sous-suite (μ_{p_{k}})_{k} telle que

lim_{k→∞} μ_{p_{k}}(f_{n}) = Ψ(f_{n}), n ∈ ℕ

Par densité, il existe pour tout f de C_{K}, un réel Ψ(f) tel que

μ_{p_{k}}(f) →_{k→∞} Ψ(f)

Le théorème de Riesz assure l’existence d’une unique mesure μ telle que μ(f) = Ψ(f) pour tout f ∈ C_{K}. (Attention, [26] ne détaille pas ce passage : il passe à C_{0} directement). Il reste à montrer que μ ∈ M_{b}. On prend alors une suite h_{p} ∈ C_{K}, 0 ≤ h_{p} ≤ 1 tendant simplement en croissant vers 1. On a pour tout k, μ_{p_{k}}(h_{p}) ≤ b donc μ(h_{p}) ≤ b donc μ(ℝ^{d}) ≤ b. Ceci conclut la preuve. □ Notation : On notera le fait que (μ_{n})_{n} converge étroitement vers μ par μ_{n} ⇒ μ.

Remarque 7.1.3. Si (μ_{n})_{n} est une suite de probabilités, pour que (μ_{n})_{n} converge étroitement vers une mesure μ ∈ M, il suffit que (μ_{n}(f))_{n} converge vers μ(f) pour f appartenant à un ensemble total H de C_{K}. Mais si (μ_{n})_{n} est une suite de probabilités telle que pour tout f ∈ C_{K}, μ_{n}(f) →_{n→∞} Ψ(f) alors (μ_{n})_{n} converge faiblement vers une mesure μ de masse inférieure ou égale à 1 mais ce n’est pas forcément une probabilité (“perte de masse”). La propriété suivante précise un peu ce phénomène.

Proposition 7.1.2. Soit (μ_{n})_{n} ∈ M_{b}^{ℕ} et μ ∈ M_{b} telles que (μ_{n})_{n} converge vers μ vaguement (ou faiblement puisque les deux notions coïncident sur M_{b}). Alors (μ_{n})_{n} converge étroitement vers μ ssi lim_{n→∞} μ_{n}(ℝ^{d}) = μ(ℝ^{d}).

La preuve de cette propriété est facile et donc admise.

Remarque 7.1.4. Sur (ℝ, B(ℝ)), δ_{1/n} ⇒ δ_{0} mais δ_{1/n}({0}) = 0 ne converge pas vers δ_{0}({0}) = 1. Aussi, μ_{n} ⇒ μ n’implique pas que (μ_{n}(A)) converge vers μ(A) pour tout borélien A.

Définition 7.1.1. Soit μ une mesure sur ℝ^{d}. On dira qu’un borélien A est de μ-continuité ssi μ(∂A) = 0 (∂A désigne la frontière de A).

Proposition 7.1.3. Soit (μ_{n})_{n} ∈ M_{b}^{ℕ} et μ ∈ M_{b}. Il y a équivalence entre :

a) μ_{n} ⇒ μ

b) Pour tout fermé F, lim sup μ_{n}(F) ≤ μ(F) et lim_{n→∞} μ_{n}(ℝ^{d}) = μ(ℝ^{d}).

c) Pour tout ouvert O, lim inf μ_{n}(O) ≥ μ(O) et lim_{n→∞} μ_{n}(ℝ^{d}) = μ(ℝ^{d}).

d) Pour tout borélien A de μ-continuité, μ_{n}(A) →_{n→∞} μ(A).

Démonstration. Nous ne donnons ici que la démonstration de quelques implications. Pour plus de détails, se reporter à [26].

a) ⇒ b) : La deuxième partie de b) découle de la proposition précédente. Passons à la première. Soit ϕ_{j} : ℝ → [0, 1] continue définie par ϕ_{j}(x) = 1 si x ≤ 0, ϕ_{j}(x) = 0 si x ≥ 1/j et ϕ_{j} affine sur [0, 1/j]. On définit alors f_{j} ∈ C_{b} par f_{j}(x) = ϕ_{j}(d(x, F)) qui tend en décroissant vers la fonction caractéristique 1_{F} de F (car F fermé). D’après le théorème de convergence monotone décroissante,

μ(F) = lim_{j→∞} μ(f_{j})

donc pour tout ε > 0, il existe un entier j_{0} tel que μ(F) ≤ μ(f_{j_{0}}) ≤ μ(F) + ε. Or pour tout n ∈ ℕ, μ_{n}(F) ≤ μ_{n}(f_{j_{0}}) donc

lim sup μ_{n}(F) ≤ lim sup μ_{n}(f_{j_{0}}) = μ(f_{j_{0}}) ≤ μ(F) + ε

b) ⟺ c) : Passer au complémentaire.

c) ⇒ d) : On a A^{∘} ⊂ A ⊂ Ā et on sait b) et c) car b ⟺ c. Donc on a :

μ(A^{∘}) ≤ lim inf μ_{n}(A^{∘}) ≤ lim inf μ_{n}(A) ≤ lim sup μ_{n}(A) ≤ lim sup μ_{n}(Ā) ≤ μ(Ā)

or μ(∂A) = 0 et par conséquent, toutes les inégalités sont en fait des égalités.

c) ⇒ a) On rappelle qu’une application classique du théorème de Fubini permet d’écrire que pour toute fonction f ∈ C_{b} positive et pour toute mesure μ ∈ M_{b},

∫_{ℝ^{d}} f(x)dμ(x) = ∫_{0}^{∥f∥_{∞}} μ(f ≥ u)du

et

∫_{ℝ^{d}} f(x)dμ(x) = ∫_{0}^{∥f∥_{∞}} μ(f > u)du (∗)

Soit alors f ∈ C_{b} positive. Par le théorème de Fatou, on a

lim sup_{n} ∫_{ℝ^{d}} f(x)dμ_{n}(x) = lim sup_{n} ∫_{0}^{∥f∥_{∞}} μ_{n}(f ≥ u)du
≤ ∫_{0}^{∥f∥_{∞}} lim sup_{n} μ_{n}(f ≥ u)du

Or {f ≥ u} est fermé et on a supposé b) vraie (car b) ⇔ c)) donc on a

lim sup_{n} ∫_{ℝ^{d}} f(x)dμ_{n}(x) ≤ ∫_{0}^{∥f∥_{∞}} μ(f ≥ u)du = ∫_{ℝ^{d}} fdμ

On a de même, en utilisant (∗) et c), que

lim inf_{n} ∫_{ℝ^{d}} f(x)dμ_{n}(x) ≥ ∫_{ℝ^{d}} fdμ

On a donc montré que lim_{n→∞} ∫_{ℝ^{d}} f(x)dμ_{n}(x) = ∫_{ℝ^{d}} f(x)dμ(x) pour toute fonction continue bornée et positive. Par linéarité, on en déduit le résultat pour toute fonction f continue bornée de signe quelconque. □

7.1.2 Tension

La propriété de tension est une propriété qui permet de limiter les phénomènes de perte de masse.

Définition 7.1.2. Une suite (μ_{n})_{n} de mesures de M_{b} est tendue ssi pour tout ε > 0, il existe un compact K de ℝ^{d} tel que

sup_{n} μ_{n}(K^{c}) ≤ ε

Proposition 7.1.4. 1) Si (μ_{n})_{n} ∈ M_{b} converge étroitement vers μ ∈ M_{b} alors (μ_{n})_{n} est tendue.

2) Si (μ_{n})_{n} est tendue et si (μ_{n})_{n} ∈ (M^{1})^{ℕ} alors il existe une sous-suite (μ_{n_{k}})_{k} de (μ_{n})_{n} et une probabilité μ ∈ M^{1} telle que μ_{n_{k}} ⇒ μ.

Démonstration. 1) Soit ε > 0 fixé. Il existe une boule ouverte O telle que μ(O) ≥ μ(ℝ^{d}) − ϵ. D’autre part, par la propriété précédente, lim inf μ_{n}(O) ≥ μ(O). Donc il existe un entier N_{2} tel que pour n ≥ N_{2},

μ_{n}(O) ≥ μ(ℝ^{d}) − ϵ

D’autre part, toujours par la propriété précédente, lim_{n→∞} μ_{n}(ℝ^{d}) = μ(ℝ^{d}) donc il existe un rang N_{1} ≥ N_{2} tel que pour n ≥ N_{1}, μ_{n}(ℝ^{d}) ≤ μ(ℝ^{d}) + ϵ.

On en déduit que ∀n ≥ N_{1}, μ_{n}(Ō^{c}) ≤ μ_{n}(O^{c}) ≤ 2ϵ. N_{1} est maintenant fixé. Pour chaque n ≤ N_{1}, il existe un compact K_{n} tel que μ_{n}(K_{n}^{c}) ≤ ϵ. Donc si on pose K = ∪_{n≤N_{1}}K_{n} ∪ Ō, K est un compact et pour tout n,

μ_{n}(K^{c}) ≤ 2ϵ

ce qui prouve la tension de la suite (μ_{n})_{n}.

2) Réciproquement, si (μ_{n})_{n} est une suite de mesures tendue, on sait déjà qu’il existe une mesure μ de masse inférieure ou égale à 1 et une sous-suite (ν_{n})_{n} de (μ_{n})_{n} telle que (ν_{n})_{n} converge faiblement vers μ. Pour montrer que ν_{n} ⇒ μ et que μ ∈ M_{1}, il suffit de montrer que μ(ℝ^{d}) = 1. Or pour tout ε > 0, il existe un compact K_{ϵ} tel que μ_{n}(K_{ϵ}) ≥ 1 − ε pour tout n. Soit alors f_{ε} ∈ C_{0} une fonction telle que :

1 ≥ f_{ε} ≥ 1_{K_{ε}} ≥ 0

On a μ_{n}(f_{ε}) ≥ μ_{n}(K_{ε}) ≥ 1 − ε et quand n → ∞, on obtient donc μ(f_{ε}) ≥ 1 − ε. Puisque μ(ℝ^{d}) ≥ μ(f_{ε}), en faisant maintenant tendre ε vers 0, il en résulte que μ(ℝ^{d}) ≥ 1 et puisque l’on sait déjà que l’on a l’inégalité inverse, μ est une probabilité. □

7.2 Rappel sur les différents types de convergence

On rappelle les principales notions de convergence. Ici (X_{n})_{n} est une suite de variables aléatoires à valeurs dans ℝ^{d} et X une variable aléatoire à valeur dans ℝ^{d} toutes définies sur un même espace probabilisé (Ω, F, ℙ).

– Convergence presque sûre : X_{n} → X ℙp.s. ssi ℙ(lim_{n→∞} X_{n} = X) = 1.

– Convergence en probabilité : X_{n} → X en probabilité ssi ∀ε > 0, ℙ(|X_{n} − X| > ε) →_{n→∞} 0.

– Convergence L^{p} : X_{n} → X dans L^{p} ssi 𝔼(|X_{n} − X|^{p}) →_{n→∞} 0.

– Convergence en loi : X_{n} → X en loi ssi 𝔼(f(X_{n})) →_{n→∞} 𝔼(f(X)) pour tout f ∈ C_{b}.

La convergence en loi est juste la transcription de la convergence faible en termes de variables aléatoires. Les liens qui existent entre ces différentes notions de convergence sera vu en TD.

7.3 Convergence en loi

Définition 7.3.1. Soit X_{n} : (Ω_{n}, F_{n}, ℙ^{n}) → (ℝ^{d}, B(ℝ^{d})) une suite de variables aléatoires non nécessairement définies sur le même espace de probabilité. On dira que les X_{n} convergent en loi vers la variable aléatoire X (définie sur un certain espace de probabilité (Ω, F, ℙ)) ssi

ℙ_{X_{n}}^{n} ⇒ ℙ_{X}

c’est-à-dire

∀f ∈ C_{b}, lim_{n→∞} 𝔼^{n} [f(X_{n})] = 𝔼 [f(X)]

Remarque 7.3.1. 1) Puisque les topologies faibles, vagues et étroites coïncident sur M^{1}, dans la définition ci-dessus, on peut en fait remplacer C_{b} par C_{K} ou C_{0}.

2) On dira aussi parfois que X_{n} converge en loi vers une certaine probabilité μ et non pas vers une variable aléatoire. Ceci est à comprendre dans le sens (μ_{n})_{n} converge faiblement vers μ (où μ_{n} est la loi de X_{n}).

Notation : On utilise indifférement la notation X_{n} →_{n→∞}^{L} X ou bien X_{n} ⇒ X.

Exemple : Si X_{n} est une variable aléatoire suivant la loi binomiale B(n, λ/n) où λ > 0 est un paramètre alors (X_{n})_{n} converge en loi vers une loi de Poisson de paramètre λ (Cf. [26]).

Ce qui suit sera démontré en TD.

Proposition 7.3.1. Si (X_{n})_{n} converge en loi vers X et si f : ℝ^{d} → ℝ^{k} est continue alors (f(X_{n}))_{n} converge en loi vers f(X).

Exemple : Si (X_{n}, Y_{n}) converge en loi vers (X, Y) alors (X_{n} + Y_{n})_{n} converge en loi vers X + Y. Mais il n’est pas vrai que si (X_{n})_{n} (resp. (Y_{n})_{n}) converge en loi vers X (resp. Y) alors (X_{n} + Y_{n})_{n} converge en loi vers X + Y. C’est cependant vrai si X_{n} est indépendante de Y_{n} pour tout n et X indépendante de Y.

Proposition 7.3.2. La convergence en probabilités implique la convergence en loi. La réciproque est fausse mais vraie si la limite est une constante.

Pour les variables aléatoires discrètes, on a un critère très simple de convergence en loi.

Proposition 7.3.3. Soit (X_{n})_{n}, X des variables aléatoires sur (Ω, F, ℙ) à valeurs dans ℤ. Alors

X_{n} ⇒ X ssi ∀r ∈ ℤ, lim_{n→+∞} ℙ(X_{n} = r) = ℙ(X = r)

Convergence en loi en termes de fonctions de répartition (dimension d = 1)

Théorème 7.3.1. (X_{n})_{n} converge en loi vers X ssi lim_{n→∞} F_{X_{n}}(x) = F_{X}(x) en tout point de continuité x de F_{X}.

Démonstration.

⇒ : Si x est un point de continuité de F_{X}, alors (−∞; x] est un ensemble de continuité de ℙ_{X} donc

lim_{n→∞} F_{X_{n}}(x) = lim_{n→∞} ℙ_{X_{n}}((−∞; x]) = ℙ_{X}((−∞; x]) = F_{X}(x)

⇐ : On rappelle qu’il n’y a au plus qu’un nombre dénombrable de points de discontinuité de F_{X} (car il ne peut y avoir pour chaque ε > 0 qu’un nombre fini de sauts de taille plus grande que ε puisque F_{X} est bornée et croissante). Soit donc f ∈ C_{0}(ℝ). Pour chaque ε > 0, on peut trouver (voir TD pour plus de détails) une fonction g de la forme

g = ∑_{j=1}^{k} α_{j}1_{(a_{j};b_{j}]}, a_{j} < b_{j} ≤ a_{j+1} < b_{j+1}

avec a_{j} et b_{j} qui ne sont pas des points de discontinuité de F_{X} et

∥f − g∥_{∞} ≤ ε

On a alors

∫ gdℙ_{X_{n}} →_{n→∞} ∑_{j=1}^{k} α_{j}(F_{X}(b_{j}) − F_{X}(a_{j})) = ∫ gdℙ_{X}

Il fuffit maintenant d’appliquer l’inégalité triangulaire pour obtenir

|∫ fdℙ_{X_{n}} − ∫ fdℙ_{X} | ≤ 2ε + |∫ gdℙ_{X_{n}} − ∫ gdℙ_{X} | ≤ 3ε

dès que n est assez grand. □

Nous donnons maintenant le théorème d’Helly-Bray dont on pourra trouver une preuve élémentaire dans [30] mais, qui vu le travail précédent, apparaît comme une simple conséquence du théorème 7.3.1 et de la proposition 7.1.4.

Théorème 7.3.2. (Helly-Bray) Soit (F_{n})_{n} une suite de fonctions de répartition tendue (c’est-à-dire dont la suite de mesures de probabilité associées est tendue). Il existe alors une fonction de répartition F et une sous-suite (F_{n_{k}})_{k} de (F_{n})_{n} telle que

lim_{k→∞} F_{n_{k}}(x) = F (x)

en tout point de continuité x de F.

7.4 TD Probabilités : Modes de convergence

Exercice 7.4.1. lien entre la convergence en probabilité et la convergence en norme 𝕃^{p}, [6], p. 176 et [7], p. 227 Montrer à l’aide de l’inégalité de Markov que la convergence 𝕃^{p} implique la convergence en probabilité.

Exercice 7.4.2. Lien entre la convergence en probabilité et la convergence presque sûre, [7], pp. 175-176.

1) Montrer que la convergence presque sûre implique la convergence en probabilité. Indication : si X_{n} → X p.s., poser B_{k} = lim sup_{n}\{|X_{n} − X| ≥ \frac{1}{k} \}. Montrer que si ω ∉ ⋃_{k} B_{k}, on a lim X_{n}(ω) = X(ω). On pourra aussi appliquer le théorème de convergence dominée.

2) Montrer que la réciproque est fausse. On pourra considérer une suite (X_{n})_{n} de Bernoulli indépendantes de paramètres respectifs p_{n} = 1 − q_{n} avec lim_{n→∞} p_{n} = 0 mais tels que la série de terme général p_{n} soit divergente. (ind. : Considérer N = {X_{n} = 1 i.o.} et montrer que ℙ(N) = 1)

3) Montrer que de toute suite de variables aléatoires convergeant en probabilité, on peut extraire une soussuite convergeant presque sûrement. (ind. : Si (X_{n})_{n} converge en probabilité vers X, montrer que l’on peut construire une sous-suite (X_{n_{k}})_{k} de (X_{n})_{n} telle que ℙ(∥ X_{n_{k}} − X ∥≥ 1/k) ≤ 1/2^{k} et conclure par le lemme de Borel-Cantelli).

Exercice 7.4.3. Lien entre la convergence en probabilité et la convergence en loi, [26], p. 315. Rappel : X_{n} → X en loi signifie ℙ_{X_{n}} → ℙ_{X} étroitement, i.e.

∀f ∈ C_{b}(ℝ), ∫_{ℝ} fdℙ_{X_{n}} → ∫_{ℝ} fdℙ_{X}, ( soit 𝔼[f(X_{n})] → 𝔼[f(X)])

Soit (X_{n})_{n} une suite de variables aléatoires et X une variable aléatoire définies sur le même espace de probabilités (Ω, F, ℙ).

1) ([26], proposition 10.5) On suppose que les (X_{n})_{n} convergent en probabilité vers X. Soit f une fonction continue de ℝ^{d} dans ℝ.

a) Montrer que pour tout ϵ, a > 0, il existe η > 0 tel que

{|f(X_{n}) − f(X)| > ϵ} ⊂ {|X| > a} ∪ {|X_{n} − X| > inf(η, a)}

b) En choisissant convenablement a, en déduire que (f(X_{n}))_{n} converge en probabilité vers f(X).

2) On suppose que les (X_{n})_{n} convergent en probabilité vers X. Montrer que les (X_{n})_{n} convergent en loi vers X. Indication : on montrera que

∀ε > 0, ∀f ∈ C_{b}(ℝ), |∫_{ℝ} fdℙ_{X_{n}} − ∫_{ℝ} fdℙ_{X} | ≤ ε + 2||f||_{∞}ℙ(|f(X_{n}) − f(X)| > ε)

3) Montrer que la réciproque est fausse en considérant le contre-exemple suivant : pour tout n, X_{n} = X et X est une Bernoulli de paramètre 1/2. Montrer que (X_{n})_{n} converge en loi vers (1 − X) mais que (X_{n})_{n} ne peut pas converger en probabilité vers (1 − X).

4) Montrer néanmoins que si les X_{n} convergent en loi vers une constante a alors X_{n} convergent en probabilité vers a. (ind. : remarquer que pour ϵ > 0, si δ_{a} désigne la masse de Dirac en a et B(a, ϵ) la boule fermée de centre a et de rayon ϵ, δ_{a}(∂B(a, ϵ)) = 0. En déduire lim_{n→+∞} ℙ(∥ X_{n} − a ∥≤ ϵ) = δ_{a}(B(a, ϵ)) = 1.)

Conclusion : On vient de démontrer que la convergence en norme 𝕃^{p} et la convergence presque sûre impliquent la convergence en probabilités qui implique la convergence en loi. Les réciproques sont fausses et sont partiellement vraies si on rajoute certaines hypothèses. Regarder en détail le tableau de la hiérarchie des convergences dans [6] p. 179 et [7], p.238.

Exercice 7.4.4. [26], Exercice 14.7 Soient sur le même espace probabilisé (Ω, F, ℙ) deus suites (X_{n})_{n} et (Y_{n})_{n} de variables aléatoires qui convergent en loi respectivement vers X et Y.

1) Montrer que si pour tout n, X_{n} et Y_{n} sont indépendantes et si X et Y sont indépendantes alors (X_{n}, Y_{n})_{n} converge en loi vers (X, Y). On utilisera les fonctions caractéristiques et le théorème de Lévy ou bien les fonctions de répartition.

2) On étudit un contre-exemple dans le cas où l’on supprime l’hypothèse “pour tout n, X_{n} et Y_{n} sont indépendantes”. Soit donc X et Y deux variables aléatoires réelles indépendantes de même loi de Bernoulli de paramètre 1/2. On pose pour tout n.

X_{n} = X + 1/n, Y_{n} = (1 − X) − 1/n

Etudier la convergence en loi des trois suites (X_{n})_{n}, (Y_{n})_{n} et (X_{n} + Y_{n})_{n} et conclure.

Le lemme de Slutsky donne une alternative à l’indépendance pour assurer la propriété de convergence en loi étudiée à la première question de l’exercice précédent.

Exercice 7.4.5. Exercice 14.8, [26], lemme de Slutsky Soient sur le même espace probabilisé (Ω, F, ℙ) deus suites (X_{n})_{n} et (Y_{n})_{n} de variables aléatoires qui convergent en loi respectivement vers X et une constante y_{0}.

1) a) En utilisant le théorème de Stone-Weierstrass, montrer que l’ensemble

H = {(x, y) → f(x)g(y)|f, g ∈ C_{0}(ℝ)}

est total dans C_{0}(ℝ^{2}) (C_{0}(ℝ^{k}) est l’espace des fonctions continues sur ℝ^{k} tendant vers 0 en l’infini).

b) On rappelle que (Y_{n})_{n} converge en loi vers une constante donc converge en probabilité vers cette même constante (exercice 7.4.3). Soit f et g deux éléments de C_{0}(ℝ). Montrer que

|𝔼(f(X_{n})g(Y_{n})) − 𝔼(f(X)g(y_{0}))| ≤ ∥f∥_{∞}[ϵ + 2∥g∥_{∞}ℙ(|g(Y_{n}) − g(y_{0})| > ϵ)]
+ ∥g∥_{∞}|𝔼(f(X_{n})) − 𝔼(f(X))|

c) Conclure.

Exercice 7.4.6. Stabilité du caractère gaussien Soit (X_{n})_{n} une suite de variables aléatoires gaussiennes qui convergent en moyenne quadratique vers une variable aléatoire X. Montrer que X est une variable gaussienne. (ind. : on remarquera que la convergence en moyenne quadratique implique la convergence en loi, on passera aux fonctions caractéristiques et utilisera le théorème de convergence de Lévy.)

Exercice 7.4.7. Convergence en loi pour les variables aléatoires discrètes, [26], page 317. Soit (X_{n})_{n} une suite de variables aléatoires et X une variable aléatoire définies sur le même espace probabilisé et toutes à valeurs dans ℤ. Montrer que (X_{n})_{n} converge en loi vers X si et seulement si pour tout r ∈ ℤ, ℙ(X_{n} = r) ⟶_{n→∞} ℙ(X = r). (ind. : pour la condition nécessaire, approcher la fonction indicatrice de r par un élément de C_{K}(ℝ) à support dans [r − \frac{1}{2}, r + \frac{1}{2}], et pour la condition suffisante, remarquer que 𝔼(f(X_{n})) = ∑_{r∈K} f(r)ℙ(X_{n} = r) pour toute fonction continue à support dans le compact K.)

Soit f ∈ C_{K}(ℝ), supp(f) ⊂ [−r + \frac{1}{2}, r + \frac{1}{2}], f(r) ≠ 0. On a ∫_{ℝ} fdℙ_{X_{n}} → ∫_{ℝ} fdℙ_{X} et donc f(r)ℙ(X_{n} =

r) → f(r)ℙ(X = r). Réciproquement, par la relation donnée, on a 𝔼(f(X_{n})) → 𝔼(f(X)), ∀f ∈ C_{k}(ℝ). Donc 𝔼f(X_{n}) → 𝔼f(X) ∀f ∈ C_{K}(ℝ). Comme sur M′ les topologies faibles, vagues et étroites coïncident, on conclut.

Exercice 7.4.8. Convergence en loi et fonction de répartition, [26], pp. 318-319 Soit (X_{n})_{n} une suite de variables aléatoires et X une variable aléatoire définies sur le même espace de probabilité (Ω, F, ℙ). On note F_{n} la fonction de répartition de X_{n} et F celle de X. On a le critère suivant :

X_{n} ⟹ X ssi lim_{n→+∞} F_{n}(x) = F (x)

en tout point de continuité x de F.

1) Pour la condition nécessaire, remarquer que si x est un point de continuité de F alors (−∞; x] est un ensemble de ℙ_{X}-continuité. (C’est-à-dire que ℙ_{X}({x}) = 0 et donc P_{X}(] − ∞, y]) → P_{X}(] − ∞, x]) quand y → x.) Rappel : si μ_{n} converge étroitement vers μ, alors lim_{n} μ(A_{n}) = μ(A) pour tout borélien de μcontinuité.

2) Pour la condition suffisante, on se donne un f ∈ C_{0}(ℝ) et ϵ > 0.

a) Se rappeler pourquoi l’ensemble des points de discontinuité de F est au plus dénombrable.

b) Justifier l’existence d’une fonction g = ∑_{j=1}^{k} α_{j}1_{]a_{j};b_{j}]} où a_{j} < b_{j} ≤ a_{j+1} < b_{j+1} et a_{j} et b_{j} sont des points de continuité de F_{X} et telle que ∥ f − g ∥_{∞}≤ ϵ. (ind. : on pourra se servir du fait que f est uniformément continue).

c) Montrer que lim_{n→+∞} 𝔼(g(X_{n})) = 𝔼(g(X)) et conclure. Indication : 𝔼g(X_{n}) = ∫_{ℝ} gdℙ_{X_{n}} = ∑_{j} α_{j}(F_{n}(b_{j})− F_{n}(a_{j})) → ∑_{j} α_{j}(F (b_{j}) − F (a_{j})) = 𝔼g(X).

Exercice 7.4.9. Représentation de Skorokhod d’une fonction de répartition, [30], p. 34.

On va montrer que F : ℝ → [0, 1] est la fonction de répartition d’une variable aléatoire réelle si et seulement si F est croissante, continue à droite et si lim_{z→−∞} F (z) = 0, lim_{z→+∞} F (z) = 1.

1) Dessiner X^{+} et X^{−} (cf. qusetion 3 pour la définition) pour les fonctions F suivantes : F = 11_{ℝ^{+}}, et F (z) = 0 pour z ≤ 0, F (z) = z/2 pour 0 ≤ z ≤ 1, F (z) = 1/2 pour 1 ≤ z < 2, F (z) = 1 pour z ≥ 2.

2) Montrer que ces conditions sont nécessaires.

3) Supposons que F ait les quatre propriétés précédentes. On pose pour ω ∈ [0, 1] muni de la tribu des boréliens et de la mesure de Lebesgue,

X^{+}(ω) =: inf{z : F (z) > ω} = sup{y : F (y) ≤ ω},
X^{−}(ω) =: inf{z : F (z) ≥ ω} = sup{y : F (y) < ω}.

Remarquer que (z > X^{−}(ω)) ⇒ (F (z) ≥ ω). En utilisant la continuité à droite de F montrer que

F (X^{−}(ω)) ≥ ω et que (X^{−}(ω) ≤ c) ⇒ (ω ≤ F (X^{−}(ω)) ≤ F (c)).

Déduire que

ℙ(X^{−} ≤ c) = F (c).

4) On va montrer que X^{+} a aussi pour fonction de répartition F et que ℙ(X^{+} = X^{−}) = 1. Expliquer successivement pourquoi (ω < F (c)) ⇒ (X^{+}(ω) ≤ c), F (c) ≤ ℙ(X^{+} ≤ c), X^{−} ≤ X^{+}. En remarquant que

ℙ(X^{−} ≠ X^{+}) = ⋃_{c∈ℚ}{X^{−} ≤ c < X^{+}},

déduire en utilisant le 2) que X^{+} = X^{−} presque partout. Conclure.

3) z > X(ω) ⇒ F (z) ≥ ω par définition de X^{−}(ω). On a donc ∀z > X^{−}(ω), F (z) ≥ ω et comme F est continue à droite, F (X^{−}(ω)) ≥ ω. Si X^{−}(ω) ≤ c, on a F (X^{−}(ω)) ≤ F (c) et donc ω ≤ F (c). En résumé, X^{−}(ω) ≤ c ⇒ ω ≤ F (c) et réciproquement ω ≤ F (c) ⇒ c ≥ X^{−}(ω) par définition de X^{−}(ω). Donc X^{−}(ω) ≤ c ⇔ ω ≤ F (c). En conséquence, ℙ(X^{−} ≤ c) = ℙ(ω ≤ F (c)) = F (c) − 0 = F (c).

4) (ω < F (c)) ⇒ (X^{+}(ω) ≤ c) par définition de X^{+}. F (c) ≤ ℙ(X^{+} ≤ c) s’en déduit immédiatement puisque ℙ(ω < F (c)) = F (c). X^{−} ≤ X^{+} est évident. On a ℙ(X^{−} ≤ c ≤ X^{+}) = ℙ({X^{−} ≤ c} \ {X^{+} ≤ c}) = ℙ(X^{−} ≤ c) − ℙ(X^{+} ≤ c) ≤ F (c) − F (c) = 0. Donc ℙ(X^{−} ≠ X^{+}) = 0. On obtient X^{+} = X^{−} p.s., ce qui implique que X^{+} et X^{−} ont tous deux F comme fonction de répartition.

Remarque 7.4.1. Etant donné une fonction de répartition F, ce théorème montre comment simuler une variable aléatoire X^{−} de fonction de répartition F. Bien entendu, cette méthode suppose que l’on sache calculer X^{−} à partir de F...

Exercice 7.4.10. La représentation de Skorokhod, [30], p.182.

1) Déduire des exercices précédents que si X_{n}, de fonction de répartition F_{n}, tend presque sûrement vers X, de fonction de répartition F, alors F_{n}(x) → F (x) en tout point x de continuité de F. Notre but est de montrer une sorte de réciproque :

Théorème 7.4.1. Si F_{n} et F sont des fonctions de répartition et si F_{n} → F en tout point de continuité de F, alors il existe des v.a. X_{n} et X sur ([0, 1], B, ℙ) (où ℙ est la mesure de Lebesgue) telles que F = F_{X}, F_{n} = F_{X_{n}} et X_{n} → X p.s.

2) On pose X^{+} =: inf{z : F (z) > ω}, X^{−} =: inf{z : F (z) ≥ ω} et on définit de même X_{n}^{+} et X_{n}^{−}. On rappelle (exercice 7.4.9) que X^{+} et X^{−} ont pour fonction de répartition F et que ℙ(X^{+} = X^{−}) = 1. On fixe ω ∈ [0, 1]. Soit z un point non atomique pour F vérifiant z > X^{+}(ω). Montrer que lim sup_{n} X_{n}^{+}(ω) ≤ z et en déduire que lim sup_{n} X_{n}^{+}(ω) ≤ X^{+}(ω).

3) Adapter l’argument précédent pour montrer que lim inf_{n} X_{n}^{−}(ω) ≥ X^{−}(ω) et conclure.

Solution

2) Par définition de X^{+}, F (z) > ω. Donc pour n grand, F_{n}(z) > ω. Par la définition de X_{n}^{+}, on a alors X_{n}^{+} ≤ z et donc lim sup X_{n}^{+}(ω) ≤ z. Comme ceci est vrai ∀z > X^{+}(ω), on obtient lim sup_{n} X_{n}^{+}(ω) ≤ X^{+}(ω).

Exercice 7.4.11. (Théorème de Helly-Bray), [30] pp. 183-184. Soit (F_{n})_{n} une suite de fonctions de répartitions sur ℝ. Le but de l’exercice est de montrer qu’il existe une fonction croissante continue à droite F à valeurs dans [0, 1] et une sous-suite (F_{n_{k}})_{k} telle que

lim_{k} F_{n_{k}}(x) = F (x) en tout point de continuité x de F

1) En utilisant le principe d’extraction diagonale, montrer qu’il existe une sous-suite (F_{n_{k}})_{k} telle que pour

tout q ∈ ℚ, il existe un réel H(q) ∈ [0, 1] telle que

lim_{k→+∞} F_{n_{k}}(q) = H(q)

2) Pour x ∈ ℝ, on définit F (x) par

F (x) = lim_{\begin{matrix}q∈ℚ,q>x \\ q→x \end{matrix}} H(q)

Montrer que F est continue à droite.

3) Conclure.

Pile ou face, marches aléatoires

Ces travaux dirigés suivent [18], section 3.9 pages 71 et suivantes. Nous suivrons la présentation élémentaire (sans le formalisme martingales et chaînes de Markov). On montre tous les résultats par des raisonnements élémentaires, le principe de réflexion et un usage habile de la fonction génératrice. Cette présentation élémentaire est à connaître. L’option probabilité verra des résultats complémentaires, et retrouvera les mêmes, grâce aux martingales et aux chaînes de Markov. Le nombre des questions qu’on peut se poser sur le jeu de pile ou face est immense. En fait, la liste des questions et réponses présentée aussi dépend aussi de l’accessibilité technique du résultat. Un ouvrage entier classique, en deux tomes, le Feller, est entièrement consacré au jeu de pile ou face. Voici une liste succincte des questions que l’on se pose avec une indication des réponses démontrées dans ce chapitre.

Soit X_{n} une suite de variables de Bernoulli i.i.d. centrées de paramètre p, c’est-à-dire ℙ(X_{n} = 1) = p et ℙ(X_{n} = −1) = 1 − p = q. Soit S_{0} une v.a. indépendante des X_{i} telle que ℙ(S_{0} = k) > 0 pour tout k ∈ ℤ. On pose S_{n} = S_{0} +∑_{i=1}^{n} X_{i}. On peut interpréter S_{n} comme la fortune d’un joueur de roulette ou de pile ou face. La probabilité de gagner pour le joueur est p et sa mise est supposée unitaire. X_{n} désigne le n-ième tirage. Par exemple si le joueur joue à rouge ou noir, sa probabilité est \frac{18}{37}, car il y a 36 chiffres colorés dont 18 noirs et 18 rouges, plus le zéro. La banque ramasse tout quand le zéro sort. (Lire Le Joueur de Dostoïevsky pour tous les détails, probablement la plus belle analyse littéraire et psychologique du jeu de roulette mais avec une suite d’observations concrètes). La suite S_{n} s’appelle une marche aléatoire simple. Elle correspond aussi au mouvement aléatoire d’une particule sur ℕ, progressant de +1 avec probabilité p et reculant de −1 avec probabilité q. La marche est appelée symétrique si p = q = \frac{1}{2}.

– S_{n} est-elle une chaîne de Markov (le futur ne dépend que du présent ?). Oui, calculs élémentaires de probabilité conditionnelle.

– Ruine du joueur : le joueur commence avec une fortune de k, la banque a une fortune de N : le jeu s’arrète-t-il en temps fini ? (oui, technique de temps d’arrêt élémentaire). Permet de montrer “a la main” le théorème d’arrêt de Doob.

– Ruine du joueur : quelle est l’espérance du temps de jeu ? D_{k} = k(N − k). L’interprétation de ce résultat est passionnante. Technique d’espérance conditionnelle (discrète).

– Ruine du joueur : Probabilité de ruine du joueur : p_{k} = 1 − \frac{k}{N}. Là encore l’interprétation doit faire l’objet d’une discussion (la meilleure illustration est le film de Luigi Comencini, L’argent de la vieille).

– Le retour à l’origine partant de l’origine. Calcul de la probabilité de retour : 1 − |p − q|. Technique : usage intensif des fonctions génératrices de distributions discrètes.

– Egalement par la même technique : calcul de la probabilité de retour en exactement k pas.

– Egalement par la même technique : calcul des probabilités d’atteindre 1, 2, r partant de 0. On utilise aussi le principe de réflexion.

– Probabilité d’aller de a > 0 en b > 0 sans passer par 0 (c’est-à-dire sans se ruiner). Ce calcul utilise l’astuce remarquable du principe de réflexion.

– Une suite de résultats sur la probabilité des longueur d’excursions sans ruine permet d’établir le théorème de ballotage ou de scrutin, qui donne la probabilité (étonnament élevée) que lors d’un dépouillement de votes le résultat du dépouillement partiel contredise le résultat final. La loi de l’arcsinus montre évalue la probabilité que dans un jeu un des joueurs soit gagnant (S_{n} > 0) sur une très longue période. L’interprétation de ces résultats permet de comprendre mieux le phénomène du jeu de hasard, l’existence des casinos, les suspenses paradoxaux provoqués par le jeu. Lors d’une leçon sur pile ou face, il est essentiel d’interpréter chaque résultat donné.

8.1 Propriétés élémentaires

Exercice 8.1.1. 1) Représentation graphique standard : tirer à pile ou face 10 fois. Noter les résultats. Représenter les résultats avec en abcisse n et en ordonnée la valeur de S_{n}, avec S_{0} = 0. Joindre les points par des segments de droite.

2) Homogénéité spatiale. Montrer que

ℙ(S_{n} = j|S_{0} = a) = ℙ(S_{n} = j + b|S_{0} = a + b).  (8.1.1)

Indication : Montrer que les deux cotés sont égaux à ℙ(∑_{1}^{n} X_{i} = j − a).

3) Homogénéité temporelle Montrer que

ℙ(S_{n} = j|S_{0} = a) = ℙ(S_{m+n} = j|S_{m} = a).  (8.1.2)

Indication : Le membre de gauche est ℙ(∑_{1}^{n} X_{i} = j − a) et le membre de droite est ℙ(∑_{m+1}^{m+n} X_{i} = j − a).

4) Les marches aléatoires simples ont la propriété de Markov

ℙ(S_{m+n} = j|S_{0}, S_{1}, …, S_{m}) = ℙ(S_{m+n} = j|S_{m}), n ≥ 0.  (8.1.3)

D’abord, comprenons bien ce que veut dire cette relation, à savoir que pour toutes les valeurs possibles de a_{0}, a_{1}, ..., a_{m}, on a

ℙ(S_{m+n} = j|S_{0} = a_{0}, S_{1} = a_{1}, …, S_{m} = a_{m}) = ℙ(S_{m+n} = j|S_{m} = a_{m}).  (8.1.4)

La “démonstration” de [18] est la suivante “If one knows the value of S_{m}, then the distribution of S_{m+n} depends only on the jumps X_{m+1}, …, X_{m+n} and cannot depend on further information concerning the values of S_{0}, S_{1}, …, S_{m−1}. Vous paraît-elle suffisante ?

5) Montrer (8.1.3) en menant les calculs grâce à (8.1.4) et en utilisant la définition de la probabilité conditionnelle.

Solution (C’est juste une indication, je vous conseille de détailler un peu plus...)

ℙ(S_{m+n} = j|(S_{0} … S_{m}) = (a_{0} … a_{m})) = ℙ(∑_{m+1}^{n} X_{i} = j − a_{m}|(S_{0} … S_{m}) = (a_{0} … a_{m})) =

\frac{ℙ(∑_{m+1}^{n} X_{i} = j − a_{m})ℙ((S_{0} … S_{m}) = (a_{0} … a_{m}))}{ℙ((S_{0} … S_{m}) = (a_{0} … a_{m}))} = ℙ(∑_{m+1}^{n} X_{i} = j − a_{m}) =

= ℙ(S_{m+n} = j|S_{m} = a_{m}).

Exercice 8.1.2. Pile ou face-La ruine du joueur, [18] 1.7 p. 17 et 3.9 p. 74. Un joueur a une fortune de k et il désire atteindre en jouant à pile ou face une fortune de N, 0 < k < N. Il parie toujours sur pile, qui a probabilité p. La question est de savoir avec quelle probabilité il se ruinera avant d’atteindre son but. On désigne par A_{k} l’événement “ruine du joueur, partant d’une fortune S_{0} = k” et par B l’événement que le résultat du premier tirage est pile. On munit l’espace Ω des suites infinies de tirages de la probabilité ℙ construite par le théorème de Kolmogorov. On note ω = (ω_{1}, ω_{2}, … ω_{n}, …) un élément de Ω. On note également ω = (ω_{1}, ω^{1}) avec ω^{1} = (ω_{2}, …, ω_{n}, …).

1) Donner une définition formelle de l’événement “ruine du joueur”. On utilisera le temps d’arrêt

t_{k}(ω) = inf{n, k + ω_{1} + ⋯ + ω_{n} = 0 ou N}.

Montrer que t_{k} est mesurable. Montrer que pour 1 < k < N − 1,

ℙ(A_{k}) = pℙ(A_{k+1}) + qℙ(A_{k−1}).

On commencera par interpréter cette formule. Vérifier que cette formule est encore valable pour k = 1 ou N − 1 en remarquant que ℙ(A_{0}) = 1 et ℙ(A_{N}) = 0 Indication : montrer que pour ω ∈ {ω_{1} = 1}, on a t_{k}(ω) = t_{k+1}(ω^{1}) + 1. Attention : ni [18] ni [16] ne jugent bon de donner cette preuve. Le formalisme de [18] est discutable : ils notent ℙ_{k}(A) ce que nous notons ℙ(A_{k}), l’événement A étant alors un événement absolu appelé “ruine du joueur”. L’ennui, c’est que cet événement dépend du point de départ k et donc, A a de toutes manières une signification différente quand k change. Il vaut mieux le noter A_{k} et garder le même espace de probabilité Ω pour toutes les marches aléatoires. Pour le reste, nous suivons [18].

2) On pose p_{k} = ℙ(A_{k}). Si p = \frac{1}{2}, déduire que p_{k} = \frac{1}{2}(p_{k+1} + p_{k−1}), 0 < k < N.

3) En utilisant les valeurs de p_{0} et p_{N}, montrer que

ℙ(A_{k}) = 1 − \frac{k}{N} .

4) Interpréter cette relation. On pourra s’inspirer comme suggéré par Grimmett-Stirzaker de “Millionaires should always gamble, poor men never” (J.M. Keynes). Et voir L’argent de la vieille de Luigi Comencini.

5) Plus généralement, on a l’équation p_{k} = p.p_{k+1} + qp_{k−1}, 1 ≤ k ≤ N − 1, avec conditions au bord p_{0} = 1, p_{N} = 0. Montrer que

p_{k} = \frac{(\frac{q}{p})^{k} − (\frac{q}{p})^{N}}{1 − (\frac{q}{p})^{N}} .

6) En déduire q_{k}, la probabilité que le joueur fasse fortune.

7) Vérifier que p_{k} + q_{k} = 1. Interpréter.

8) Montrer que le temps d’arrêt est presque sûrement fini.

9) On pose D_{k} = 𝔼t_{k}. Grimmett-Stirzaker n’écrit pas cette définition mais décrit D_{k} comme “the mean number of steps before the particle hits one of the absorbing barriers, starting from k ”. Justifier la relation proposée par ces auteurs

D_{k} = p(1 + D_{k+1}) + q(1 + D_{k−1}), 1 ≤ k ≤ N − 1, D_{0} = D_{N} = 0.

Pour cela, on appliquera au temps d’arrêt les formules de l’espérance conditionnelle pour des variables aléatoires discrètes et des événements B que l’on rappelle :

𝔼Y = ∑_{x} 𝔼(Y |X = x)ℙ(X = x),  (8.1.5)

𝔼(Y |B) = ∑_{l} lℙ(Y = l|B).  (8.1.6)

10) En déduire que

D_{k} = \frac{1}{q − p} [k − N (\frac{1 − (\frac{q}{p})^{k}}{1 − (\frac{q}{p})^{N}} )] si p ≠ \frac{1}{2},

D_{k} = k(N − k) si p = \frac{1}{2}.

11) Interpréter ces résultats.

Solution

1) On a

A_{k} = {t_{k}(ω) = inf{n, k + ω_{1} + ⋯ + ω_{n} = 0 ou N} < ∞ et k + ω_{1} + ⋯ + ω_{t_{k}(ω)} = 0}.

On écrit A_{k} = (A_{k} ∩ {ω_{1} = 1}) ∪ (A_{k} ∩ {ω_{1} = −1}). Mais pour ω ∈ {ω_{1} = 1}, on a

t_{k}(ω) = inf{n, k + 1 + ω_{2} + ⋯ + ω_{n} = 0 ou N} < ∞ = t_{k+1}(ω^{1}) + 1.

On en déduit que

A_{k} ∩ {ω_{1} = 1} = {t_{k+1}(ω^{1}) < ∞ et k + 1 + ω_{2} + ⋯ + ω_{t_{k+1}(ω^{1})} = 0} ∩ {ω_{1} = 1}.

Comme les X_{i} sont i.i.d., on obtient

ℙ(A_{k} ∩ {ω_{1} = 1}) = pℙ(A_{k+1}).

On conclut aisément.

2), 3) 4) Immédiat, simple calcul. Le résultat nous dit que plus on est pauvre, moins on a de chances de devenir riche. L’interprétation est toutefois facilitée si on considère le jeu de manière symétrique : le premier joueur possède k et le second possède N − k. On peut alors reformuler la règle du jeu ainsi : le jeu s’arrète quand l’un des deux joueurs est ruiné. La probabilité de ruine du premier joueur est \frac{N−k}{N} et celle du second \frac{k}{N}. L’une tend vers 1 et l’autre vers 0 quand \frac{N}{k} tend vers l’infini. Les riches gagnent donc presque toujours. Mais, quand ils perdent, il perdent gros, comme on peut le vérifier en remarquant que l’espérance des gains des deux joueurs au moment de l’arrêt du jeu sont les mêmes et égales à zéro. En effet, l’espérance du gain du premier joueur est −kℙ(A_{k}) + (N − k)(1 − ℙ(A_{k})) = 0 et on vérifie immédiatement que celle du second est aussi zéro. Ce résultat est connu sous le nom de théorème d’arrêt de Doob ([30] page 100), mais pour appliquer directement ce théorème il faudrait d’abord démontrer que le temps d’arrêt t_{k}(ω) est presque sûrement fini. Une autre manière de calculer ℙ(A_{k}) est donc, pour ceux qui connaissent les martingales, de :

– montrer que le temps d’arrêt du jeu est presque sûrement fini.

– utiliser le théorème d’arrêt qui dit que sous cette condition, 𝔼S_{t_{k}} = 𝔼S_{0} = k, ce qui veut

exactement dire que l’espérance de gain est nulle. Il est quand même préférable de savoir que l’on peut tout faire avec des moyens élémentaires !

5) Calculs classiques avec la formule de récurrence.

6) La valeur de q_{k} s’interprète comme une probabilité de ruine en échangeant les rôles de p et q et

de k et N − k. On obtient donc q_{k} = \frac{( \frac{p}{q})^{N−k}−( \frac{p}{q})^{N}}{1−( \frac{p}{q})^{N}} .

7) 8) La relation est vite vérifiée. On en déduit que presque sûrement, le joueur se ruine ou fait fortune en temps fini, ce qui veut implique que t_{k} est presque sûrement fini.

9) On a en utilisant (8.1.6),

𝔼(t_{k}|X_{1} = −1) = ∑_{l} l\frac{ℙ(t_{k} = l; X_{1} = −1)}{ℙ(X_{1} = −1)} =

∑_{l} l\frac{ℙ(inf\{n, k − 1 + X_{2} + ⋯ + X_{n} = 0 ou N\} = l)q}{q} =

∑_{l} lℙ(inf{n, k − 1 + X_{1} + ⋯ + X_{n−1} = 0 ou N} = l) =

∑_{l} lℙ(inf{n − 1, k − 1 + X_{1} + ⋯ + X_{n−1} = 0 ou N} = l − 1) =

1 + ∑_{l}(l − 1)ℙ(t_{k−1} = l − 1) = 1 + 𝔼t_{k−1} = 1 + D_{k−1}

On a utilisé le fait que X_{2} + ⋯ + X_{n} et X_{1} + ⋯ + X_{n−1} ont la même loi, l’indépendance de X_{1} et des X_{i} pour i ≥ 2 et le fait que t_{k} est presque sûrement fini. On a de même

𝔼(t_{k}|X_{i} = +1) = 1 + D_{k+1}.

En utilisant la formule (8.1.5), appliquée à Y = t_{k} et X = X_{1}, on obtient comme demandé

D_{k} = p(1 + D_{k+1}) + q(1 + D_{k−1}).

10)-11) Simple calcul. L’interprétation n’est pas très excitante si p est très différent de q, car alors l’un des joueurs a beaucoup plus de chances que l’autre. On va donc interpréter le cas p = \frac{1}{2} et remarquer qu’aux jeux de casino, p est assez proche de \frac{1}{2} et la première formule donnée pour D_{k} peut alors s’interpréter dans la même ligne que la seconde. Le point important qui a été démontré est que

le temps de jeu D_{k} = k(N − k) est proportionnel au produit des fortunes des deux joueurs.

Ceci explique pourquoi les casinos existent. On doit d’une part avoir N − k très grand pour que le casino ne perde jamais. Cela garantit de plus un temps moyen de jeu élevé pour tous les joueurs et donc permet de les “accrocher”. La fortune du casino étant grande et fixée, on remarque que la même formule donne un temps de jeu à peu près proportionnel à la fortune du joueur. Pour s’amuser longtemps dans un casino, il vaut mieux faire de petites mises, et, à fortune égale, le temps de jeu est grosso modo double si les mises sont deux fois plus petites. On voit surgir d’ intéressantes questions de stratégie pour le casino : il faut imposer des mises pas trop petites, car sinon le client risque de ressortir par simple ennui, avant d’avoir tout perdu. Inversement, une mise minimale trop grosse va chasser trop vite les petits clients qui auront manqué les plaisirs des “haut et bas” qui font le charme du jeu. Il y a donc un problème d’optimisation de la mise minimale imposée en fonction de la fortune moyenne des clients et de l’estimation du temps de jeu optimal (une fin de soirée). L’idéal est que les clients aient le temps de s’amuser avant de sortir les poches vides.

Remarque : ce TD était complété pour les rapides par les exercices pages 65-68 et 85-86 de [26] Exercice 8.1.3. Le retour à l’origine On considère une marche aléatoire sur ℤ,

S_{n} = X_{1} + … X_{n} , S_{0} = 0

où les X_{i} sont des Bernoulli indépendantes prenant la valeur 1 avec probabilité p et la valeur −1 avec la probabilité 1 − p = q.

On pose p_{0}(n) = ℙ(S_{n} = 0) et pour n ≥ 1, f_{0}(n) = ℙ(S_{1} ≠ 0, ..., S_{n−1} ≠ 0, S_{n} = 0) la probabilité que le \underline{premier retour} en 0 se fasse après n pas. On note les fonctions génératrices associées

P_{0}(s) = ∑_{0}^{∞} p_{0}(n)s^{n}, F_{0}(s) = ∑_{n=1}^{∞} f_{0}(n)s^{n}.

On va montrer le théorème suivant

Théorème 8.1.1. On a

(a) P_{0}(s) = 1 + P_{0}(s)F_{0}(s), (b)P_{0}(s) = (1 − 4pqs^{2})^{− \frac{1}{2}} ,

(c) F_{0}(s) = 1 − (1 − 4pqs^{2})^{\frac{1}{2}} .

1) Soit A = {S_{n} = 0} et B_{k} l’évènement que le premier retour à l’origine se fait à k pas. Remarquer que

ℙ(A) = ∑_{k=1}^{n} ℙ(A|B_{k})ℙ(B_{k}).

2) Montrer que ℙ(A|B_{k}) = p_{0}(n − k).

3) Déduire que

p_{0}(n) = ∑_{k=1}^{n} p_{0}(n − k)f_{0}(k)  (8.1.7)

si n ≥ 1 et obtenir (a).

4) Montrer par un simple argument combinatoire que p_{0}(n) = Cn^{\frac{n}{2}} (pq)^{\frac{n}{2}} si n est pair, = 0 sinon et déduire (b) et (c).

5) Déduire des résultats précédents que :

– la probabilité de retour à l’origine est 1 − |p − q|. (Commencer par définir cette probabilité)

– cette probabilité n’est égale à 1 que si p = \frac{1}{2} et alors le temps moyen de retour est infini. (Commencer par définir le temps moyen de retour).

Solution

1) C’est la règle des probabilités disjointes car les B_{k} sont disjoints.

2) On a

ℙ(A ∩ B_{k}) = ℙ(S_{n} = 0, S_{k} = 0, S_{k−1} ≠ 0, ..., S_{1} ≠ 0)
= ℙ(X_{k+1} + … + X_{n} = 0, S_{k} = 0, S_{k−1} ≠ 0, ..., S_{1} ≠ 0)
= ℙ(X_{k+1} + … + X_{n} = 0)ℙ(B_{k}) = ℙ(S_{n−k} = 0)ℙ(B_{k})

car les X_{i} sont i.i.d. et les lois de X_{1} + ⋯ + X_{n−k} et de X_{k+1} + ⋯ + X_{n} sont donc égales. (On peut aussi utiliser l’homogénéité temporelle)

3) La première relation découle de 1) et 2). La seconde découle du fait que le calcul de la fonction génératrice transforme une convolution de suites en produit. Plus précisément, en utilisant la relation du 3) :

P_{0}(s)F_{0}(s) = ∑_{1}^{∞} s^{n}[∑_{k=1}^{n} f_{0}(k)p_{0}(n − k)] = ∑_{1}^{∞} s^{n}p_{0}(n) = P_{0}(s) − 1.

4) S_{n} = 0 si et seulement si la particule fait un nombre égal à \frac{n}{2} de pas vers la droite et un nombre égal vers la gauche. Ceci peut se faire de Cn^{\frac{n}{2}} manières et chacune de ces marches a probabilité (pq)^{\frac{n}{2}} . Si n est impair il est impossible que S_{n} = 0 et donc p_{0}(n) = 0. Pour (b) : à vos développements en série ! La relation (c) découle de (a) et (b).

5) La probabilité de retour à l’origine est ∑_{n=1}^{∞} f_{0}(n) = F_{0}(1) = 1 − |p − q|. Le retour à l’origine n’est certain que si F_{0}(1) = 1 et donc p = \frac{1}{2}. Le temps moyen de retour se définit comme l’espérance du temps de premier retour, soit 𝔼T_{0} = ∑_{n=1}^{∞} nf_{0}(n) = F′_{0}(1) = +∞. (La seconde égalité vient du théorème de convergence monotone).

Exercice 8.1.4. Le temps de première visite en 1 Soit T_{1} le premier temps (éventuellement infini) pour lequel la marche atteint 1. Soit F_{1} la fonction génératrice de 1_{{T_{1}<+∞}}T_{1} et pour tout entier n positif ou nul f_{1}(n) = ℙ(T_{1} = n).

1a) Montrer que f_{1}(1) = p et que pour tout entier n ≥ 2, on a la relation de récurrence f_{1}(n) = q ∑_{ν=2}^{n−1} f_{1}(ν − 1)f_{1}(n − ν)

1b) En déduire que l’on a F_{1}(s) = qsF_{1}(s)^{2} + ps, puis que F_{1} satisfait F_{1}(s) = \frac{1 − \sqrt{1 − 4pqs^{2}}}{2qs}

2) En déduire la distribution de T_{1} :

ℙ(T_{1} = 2k) = 0 , ℙ(T_{1} = 2k − 1) = \frac{(−1)^{k−1}}{2q}C_{1/2}^{k}(4pq)^{k}.

Solution 1a) Le résultat pour n = 1 étant trivial, soit donc n ≥ 2. On a :

ℙ(T_{1} = n) = ℙ(S_{n} = 1, S_{n−1} ≤ 0, …, S_{1} ≤ 0) =

∑_{ν=2}^{n−1} ℙ(X_{1} = −1, inf{j ≥ 2, −1 + X_{2} + … + X_{j} = 0} = ν, inf{k ≥ ν + 1, X_{ν+1} + … + X_{k} = 1} = n) =

q ∑_{ν=2}^{n−1} ℙ(inf{j ≥ 2; −1 + X_{2} + … + X_{j} = 0} = ν)ℙ(inf{k ≥ ν + 1, X_{ν+1} + … + X_{k} = 1} = n) =

q ∑_{ν=2}^{n−1} ℙ(inf{j ≥ 1; X_{1} + … + X_{j} = 1} = ν − 1)ℙ(inf{k ≥ 1, X_{1} + … + X_{k} = 1} = n − ν) =

q ∑_{ν=2}^{n−1} f_{1}(ν − 1)f_{1}(n − ν).

La première égalité résulte du fait que l’on est en dimension 1 et que la marche est plus proche voisin. Puisque n ≥ 2, c’est que la marche est partie à gauche (sinon T_{1} = 1) et puisque la marche est plus proche voisin, la marche ne peut redevenir strictement positive sans passer par 1. La deuxième égalité repose sur l’observation suivante : puisque n ≥ 2, la marche part à gauche, reste strictement négative jusqu’au temps ν − 1, redevient nulle à l’instant ν (pour la première fois depuis l’instant 0) et au temps n devient strictement positive égale à 1 (et pour la première fois !). La troisième et quatrième égalité sont de simples conséquences de l’indépendance et du caractère équidistribué des X_{k}.

1b) On a :

∑_{n=1}^{∞} f_{1}(n)s^{n} = qs ∑_{n=2}^{∞} (∑_{j=1}^{n−1} f_{1}(j)f_{1}(n − 1 − j)) s^{n−1} + ps

= qs ∑_{n=1}^{∞} (∑_{j=0}^{n} f_{1}(j)f_{1}(n − j)) s^{n} + ps

soit

F_{1}(s) = qsF_{1}(s)^{2} + ps

On obtient donc une équation du second degré pour F_{1}(s) et on a :

F_{1}(s) = \frac{1 ± \sqrt{1 − 4pqs^{2}}}{2qs}

et puisque F_{1}(s) tend vers 0 quand s → 0, on a donc :

F_{1}(s) = \frac{1 − \sqrt{1 − 4pqs^{2}}}{2qs}.

2) En utilisant le développement en série entière de \sqrt{1 − x}, on obtient le résultat annoncé dans la question 2. Remarquer qu’il était évident que ℙ(T_{1} = 2k) = 0 (on doit faire un nombre impair de pas pour de 0 aller en 1).

Exercice 8.1.5. Le temps de première visite en r Soit T_{r} le temps de première visite au point r. On pose f_{r}(n) = ℙ(S_{1} ≠ r, ..., S_{n−1} ≠ r, S_{n} = r), c’est-à-dire la probabilité que la première visite se produise au n-ième pas. On note sa fonction génératrice F_{r}(s) = ∑_{n=1}^{∞} f_{r}(n)s^{n}.

1) Montrer que f_{r}(n) = ∑_{k=1}^{n−1} f_{r−1}(n − k)f_{1}(k) si r > 1.

2) En déduire que pour r ≥ 1,

F_{r}(s) = [F_{1}(s)]^{r}.

3) Montrer que la probabilité que la marche aléatoire entre dans ℕ^{∗} = {1, 2, ..., n, ...} est

F_{1}(1) = \frac{1 − |p − q|}{2q} = min(1, \frac{p}{q}).

(Cette probabilité est la même que celle de passer par 1, qui est le vestibule de ℕ^{∗}.)

4) Démontrer, en considérant les probabilités conditionnelles par rapport aux valeurs possibles de X_{1}, que f_{0}(n) = qf_{1}(n − 1) + pf_{−1}(n − 1) et que donc F_{0}(s) = qsF_{1}(s) + psF_{−1}(s).

5) Montrer que F_{−1}(s) = ^{\frac{1−(1−4pqs^{2})^{\frac{1}{2}}}{2ps}} . Pour cela, on appliquera une méthode de réflexion : Soit ω une marche quelconque arrivant en −1 et ω^{∗} la marche symétrique par rapport à 0, qui arrive donc en 1. Soit ℙ_{p,q}(π) la probabilité de π. Alors ℙ_{p,q}(π) = ℙ_{q,p}(π^{∗}).

6) En déduire à nouveau F_{0}(s) : par le principe de réflexion on peut donc déduire directement F_{0} de F_{1}.

Solution

1) On reprendra point par point l’argument qui donnait la relation (8.1.7).

2) On multiplie par s^{n} la relation du 1) et on somme sur n pour obtenir F_{r}(s) = F_{r−1}(s)F_{1}(s) = F_{1}(s)^{r}.

4) L’argument suggéré conduit à échanger les rôles de p et q dans la formule donnant F_{1} pour obtenir F_{−1}.

5) Simple calcul.

8.2 Le principe de réflexion et ses conséquences

[18], 3.10, pages 75 à 82.

Dans la suite, on pose S_{0} = a, S_{n} = a + ∑_{i=1}^{n} X_{i} où X_{i} sont des variables de Bernoulli i.i.d. de paramètre p : ℙ(X_{1} = 1) = p, ℙ(X_{1} = −1) = 1 − p = q. On représente une marche aléatoire par la suite des couples temps-position, {(n, S_{n}), n ≥ 0}. On note N_{n}(a, b) le nombre de chemins distincts allant de (0, a) à (n, b) et N_{n}^{0}(a, b) le nombre de chemins allant de (0, a) à (n, b) et passant au moins une fois par 0 : de tels chemins contiennent (k, 0) pour un k tel que 0 ≤ k ≤ n.

Exercice 8.2.1. 1) Démontrer que

ℙ(S_{n} = b) = \begin{cases}C_{n}^{\frac{1}{2} (n+b−a)}p^{\frac{1}{2} (n+b−a)}q^{\frac{1}{2} (n−b+a)} si \frac{1}{2}(n + b − a) ∈ \{0, 1, ..., n\} \\ 0 sinon \end{cases}

2) Le principe de réflexion. On suppose que S_{0} = a et S_{n} = b. Montrer que si a, b > 0, alors N_{n}^{0}(a, b) = N_{n}(−a, b). On appliquera le principe de réflexion, qui consiste à associer à tout chemin de (0, −a) à (n, b) passant pour la première fois en 0 à l’instant k le chemin de (0, a) à (n, b) obtenu en changeant en leur opposé tous les points avant k. (Faire un dessin où l’axe des x représente le temps et l’axe des y la position S_{n}. La réflexion se fait par rapport à l’axe Ox.)

3) Montrer que pour tous n ∈ ℕ, a < b, tels que 0 ≤ \frac{1}{2}(n + b − a) ≤ n, on a N_{n}(a, b) = C_{n}^{\frac{1}{2} (n+b−a)}, et N_{n}(a, b) = 0 si cette condition sur n, a, b n’est pas satisfaite.

4) Montrer le théorème de scrutin : Si b > 0, alors le nombre de chemins de (0, 0) à (n, b) qui ne repassent pas par 0 est égal à \frac{b}{n}N_{n}(0, b).

5) On prend a = 0. Montrer que

ℙ(S_{1}S_{2} … S_{n} ≠ 0, S_{n} = b) = \frac{|b|}{n}ℙ(S_{n} = b)

6) En déduire que

ℙ(S_{1}S_{2} … S_{n} ≠ 0) = \frac{1}{n}𝔼|S_{n}|.

7) Interpréter ces résultats.

Solution

1) Si S_{n} = b, et s’il y a eu r pas vers la droite et l pas vers la gauche, on a a + r − l = b et r + l = n. On trouve r = \frac{1}{2}(n + b − a) et l = \frac{1}{2}(n − b + a). Le nombre de chemins distincts est le nombre de

manières de placer les r pas vers la droite parmi les n pas, soit C_{n}^{r} = C_{n}^{\frac{1}{2} (n+b−a)}. Tous les chemins ont la même probabilité p^{r}q^{l}, d’où le résultat.

2) La réflexion définit une bijection entre les chemins de a à b passant par 0 et les chemins de −a à b. Leurs nombres sont donc égaux.

3) Ce raisonnement a déja été fait au 1).

4) Comme tous les chemins ne repassant pas par 0 vont d’abord en (1, 1), leur nombre est N_{n−1}(1, b)− N_{n−1}^{0}(1, b) = N_{n−1}(1, b) − N_{n−1}(−1, b), par le 2). Un calcul facile utilisant 3) donne le résultat.

5) Prenons d’abord b > 0. Le nombre de chemins dans l’événement considéré est par le théorème de scrutin \frac{b}{n}N_{n}(0, b). et chaque chemin a \frac{1}{2}(n + b) pas vers la droite et \frac{1}{2}(n − b) pas vers la gauche. Donc

ℙ(S_{1}S_{2} … S_{n} ≠ 0, S_{n} = b) = \frac{b}{n}N_{n}(0, b)p^{\frac{1}{2} (n+b)}q^{\frac{1}{2} (n−b)} = \frac{b}{n}ℙ(S_{n} = b).

Un calcul du même type traite le cas b < 0.

6) Il suffit de sommer la relation du 5) sur toutes les valeurs de b.

7) Les formules du 5) et du 1) sont intéressantes pour le problème de la fortune du joueur : elle permettent de calculer la probabilité de fortune (S_{n} = b) sous la condition que le joueur ne se ruine pas (S_{0}...S_{n} ≠ 0).

Exercice 8.2.2. Interprétation du théorème de scrutin Ce théorème (“Ballot theorem”) est parfois traduit improprement par ”théorème de ballotage”. En fait, il s’agit plutôt du théorème de scrutin et il concerne le dépouillement des votes. La question est de savoir : supposons que le candidat A a plus de votes que le candidat B : quelle est la probabilité que cette supériorité soit vérifiée tout au long du dépouillement ?

1) Supposons que le candidat A ait α votes et que le candidat B ait β votes, avec α > β. Montrer en utilisant le théorème de scrutin que la probabilité que le candidat A ait tout au long du dépouillement un score supérieur à celui de B est égale à \frac{α−β}{α+β} .

2) Interpréter.

Solution

1) Le dépouillement se fait bulletin par bulletin. On pose pour i = 1, …, α + β X_{i} = 1 si le bulletin est pour A et −1 s’il est pour B. On suppose les X_{i} i.i.d. On a S_{0} = 0 et S_{n} représente l’avantage de A sur B. Les chemins tels que S_{k} soit toujours différent de 0 pour k ≥ 1 sont en nombre N_{n}^{0}(0, b) = \frac{b}{n}N_{n}(0, b), et comme tous les chemins arrivant en α + β sont équiprobables, la probabilité recherchée est la proportion de chemins ne repassant pas par zéro, soit \frac{b}{n} = \frac{α−β}{α+β} .

2) Remarquons d’abord que le résultat ne dépend pas de la connaissance de p, la probabilité de voter A. Dans les démocraties, α est en général proche de β (1% de différence) et un ordre de grandeur de la probabilité précédente est donc p = \frac{1}{100}. Il est donc très probable que le dépouillement soit incertain. Toutefois, on peut se demander si cette incertitude ne se produit pas, en fait, au début du dépouillement, et s’il n’y a pas stabilisation du résultat bien avant la fin du dépouillement. Peut-on utiliser directement la loi des grands nombres, le théorème central limite ou des inégalités de grande déviation pour démontrer une stabilisation des proportions ? La réponse est “non”, car nous avons une information a priori supplémentaire, à savoir S_{α+β} = α − β et par contre nous ignorons la probabilité p de vote pour A.

Exercice 8.2.3. La méthode d’inversion du temps On va montrer :

Théorème 8.2.1. La probabilité f_{b}(n) qu’une marche aléatoire S_{n} partant de 0 arrive en b > 0 pour la première fois au temps n vérifie

f_{b}(n) = \frac{|b|}{n}ℙ(S_{n} = b), n ≥ 1.

Cette conclusion ressemble beaucoup à celle du théorème de scrutin et s’en déduit grâce à la méthode d’inversion du temps. On associe à la marche aléatoire

{0, S_{1}, S_{2}, ..., S_{n}} = {0, X_{1}, X_{1} + X_{2}, ..., ∑_{1}^{n} X_{i}}

la marche aléatoire à rebours

{0, T_{1}, T_{2}, ..., T_{n}} = {0, X_{n}, X_{n} + X_{n−1}, ..., ∑_{1}^{n} X_{i}}.

1) Montrer que les deux marches ont la même loi (quelle que soit la valeur de p).

2) Montrer que la marche directe ne repasse pas par 0 et vérifie S_{n} = b si et seulement si la marche inverse vérifie T_{n} = b et que la première visite de T_{n} en b se produit au temps n (faire un dessin). En déduire le théorème.

Solution Le fait que les marches aient même loi est immédiat, puisque les X_{i} sont i.i.d. On S_{n} = b et S_{1}S_{2}...S_{n} ≠ 0 si et seulement si T_{n} = b et T_{n} − T_{n−i} = X_{1} + ... + X_{i} > 0 pour tout i ≥ 1, ce qui veut bien dire que la première visite de T_{n} en b se fait au temps n.

Exercice 8.2.4. Faire une synthèse des questions posées et des résultats obtenus sur les marches aléatoires : que sait-on ?

8.3 Lois de l’arc sinus pour les marches aléatoires

[18], 3.10, pages 80-82. Pour comprendre vraiment ce qui est démontré dans cette section, il faut absolument que vous fassiez quelques simulations longues de marches aléatoires et que vous visualisiez la fonction n → S_{n}. On observe notamment que la marche aléatoire a tendance à s’éloigner de zéro pour de longues périodes, et qu’il est en particulier assez probable qu’une marche partant de zéro ne revienne en zéro qu’après un temps assez long. Ceci ajoute une explication de plus au mystère de l’existence des casinos, qui peut se formuler ainsi : comment peut-on aller dans un endroit où l’on est statistiquement sûrs de perdre son argent ? La réponse est là encore dans la durée du plaisir obtenu à peu de frais : une mise minime donne une chance importante de jouer longtemps.

Exercice 8.3.1. Soit une marche aléatoire S_{n} = X_{1} + ... + X_{n} où les X_{i} sont i.i.d. et Bernouilli. On pose, pour indiquer le point de départ, S_{0} = 0. On suppose que ℙ(X_{i} = 1) = ℙ(X_{i} = −1) = \frac{1}{2}. On va montrer le théorème suivant.

Théorème 8.3.1. La probabilité que la dernière visite à 0 avant (et y compris) le temps 2n se produise au temps 2k est ℙ(S_{2k} = 0)ℙ(S_{2n−2k} = 0).

Tout d’abord, interprétons cette relation.

1) On appelle α_{2n}(2k) la probabilité précédente. On a donc α_{2n−2k} = u_{2k}u_{2n−2k}, en posant u_{2k} = ℙ(S_{2k} = 0). On rappelle que ℙ(S_{2k} = 0) = C_{2k}^{k}2^{−2k}. Montrer en utilisant la formule de Stirling n! ≈ n^{n}e^{−n}\sqrt{2πn} que

α_{2n}(2k) ≈ \frac{1}{π\sqrt{k(n − k)}} = \frac{1}{π\sqrt{k(n − k)}}(1 + ε(\frac{1}{k} , \frac{1}{n − k})),

cette équivalence étant valide quand n → ∞, k → ∞, et n − k → ∞ simultanément.

2) On note T_{2n} le temps de la dernière visite en 0 avant le temps 2n. Montrer que

ℙ(εn ≤ T_{2n} ≤ 2xn) ≈ ∑_{εn≤k≤xn} \frac{1}{π\sqrt{k(n − k)}} ≈ ∫_{εn}^{xn} \frac{1}{π\sqrt{u(n − u)}}du = \frac{2}{π} arcsin \sqrt{x} − \frac{2}{π} arcsin \sqrt{ε}.

En déduire que

lim inf_{n→+∞} ℙ(T_{2n} ≤ 2xn) ≥ \frac{2}{π} arcsin \sqrt{x}.

3) En déduire qu’il y a, quand n devient grand, plus d’une chance sur deux que la marche aléatoire ne repasse pas par 0 entre n et 2n et plus d’une chance sur 5 qu’elle ne repasse pas par 0 entre \frac{n}{5} et 2n.

4) Montrer la loi de l’arcsinus :

lim_{n} ℙ(T_{2n} ≤ 2xn) = \frac{2}{π} arcsin \sqrt{x}.

Solution 1), 2) et 3) viennent tous seuls. Montrons juste le 4). On a

lim_{n} ℙ(2εn ≤ T_{2n} ≤ 2xn) = \frac{2}{π} (arcsin \sqrt{x} − arcsin \sqrt{ε}) → 1,

quand x → 1 et ε → 0. Donc, pour tout ε′ il existe η tel que pour x ≥ 1 − η et ε ≤ η on ait

lim_{n}(ℙ(T_{2n} ≤ 2εn) + ℙ(T_{2n} ≥ 2xn)) ≤ ε′ et donc

lim sup_{n} ℙ(T_{2n} ≤ 2εn) ≤ ε′.

On en déduit que

lim sup_{n} |ℙ(T_{2n} ≤ 2xn) − \frac{2}{π} arcsin \sqrt{x}| ≤

lim sup_{n} |ℙ(2εn ≤ T_{2n} ≤ 2xn) − \frac{2}{π} arcsin \sqrt{x} + \frac{2}{π} arcsin \sqrt{ε} − \frac{2}{π} arcsin \sqrt{ε} + ℙ(T_{2n} ≤ 2εn)|

≤ lim sup_{n} |ℙ(2εn ≤ T_{2n} ≤ 2xn) − \frac{2}{π} arcsin \sqrt{x} + \frac{2}{π} arcsin \sqrt{ε}| + \frac{2}{π} arcsin \sqrt{ε} + ε′

= \frac{2}{π} arcsin \sqrt{ε} + ε′.

Cette dernière quantité étant arbitrairement petite, on obtient le résultat.

Exercice 8.3.2. Preuve de la loi en arc sinus pour les retours à l’origine.

1) Montrer que α_{2n}(2k) = ℙ(S_{2k} = 0)ℙ(S_{1}S_{2}...S_{2n−2k} ≠ 0). On pose dans la suite m = 2n − 2k.

2) On rappelle que

ℙ(S_{1}S_{2}...S_{n} ≠ 0, S_{n} = b) = \frac{|b|}{n}ℙ(S_{n} = b)

et que ℙ(S_{2m} = 2j) = C_{2m}^{m+j} (\frac{1}{2})^{2m} . En déduire que

ℙ(S_{1}S_{2}...S_{2m} ≠ 0) = ℙ(S_{2m} = 0).

Indication : vérifier et utiliser \frac{2k}{2m}C_{2m}^{m+k} = C_{2m−1}^{m+k−1} − C_{2m−1}^{m+k}.

Solution

1)

α_{2n}(2k) = ℙ(S_{2k} = 0)ℙ(S_{2k+1}S_{2k+2}...S_{2n} ≠ 0|S_{2k} = 0)  (8.3.1)
= ℙ(S_{2k} = 0)ℙ(S_{1}S_{2}...S_{2n−2k} ≠ 0).  (8.3.2)

2) Par la loi des probabilités disjointes,

ℙ(S_{1}S_{2}...S_{2m} ≠ 0) = 2 ∑_{k=1}^{m} \frac{2k}{2m}ℙ(S_{2m} = 2k) = 2 ∑_{k=1}^{m} \frac{2k}{2m}C_{2m}^{m+k} (\frac{1}{2})^{2m}  (8.3.3)

= 2 (\frac{1}{2})^{2m} ∑_{k=1}^{m} [C_{2m−1}^{m+k−1} − C_{2m−1}^{m+k}]  (8.3.4)

= 2 (\frac{1}{2})^{2m} C_{2m−1}^{m}  (8.3.5)
= C_{2m}^{m} (\frac{1}{2})^{2m} = ℙ(S_{2m} = 0).  (8.3.6)

Exercice 8.3.3. Loi de l’arc sinus pour les périodes de gain On dit que la marche aléatoire passe l’intervalle (k, k + 1) à droite de l’origine si S_{k} > 0 ou S_{k+1} > 0, ou les deux. On va montrer le théorème suivant :

Théorème 8.3.2. La probabilité qu’une marche aléatoire symétrique partant de 0 passe exactement 2k intervalles de temps à droite de l’origine jusqu’au temps 2n est égale à ℙ(S_{2k} = 0)ℙ(S_{2n−2k} = 0).

1) Interpréter le résultat dans les mêmes lignes que la loi arc sinus pour les retours à l’origine.

2) Lire la solution page 81-82 du Grimmett. Attention, cette solution donne les idées mais a quelques petites erreurs à corriger.

Solution

Par les mêmes équivalents que pour la loi de l’arc sinus pour les retours à l’origine, on obtient que la probabilité que la marche passe 2xn unités de temps ou moins à droite de l’origine est de l’ordre de \frac{2}{π} arcsin \sqrt{x}. Si on prend par exemple x = \frac{1}{5}, cette probabilité est de l’ordre de \frac{1}{5}. Du point de vue du jeu de pile ou face, il y a donc une chance sur cinq pour que l’un des joueurs soit gagnant pendant plus des quatre cinquièmes du temps.

100

Fonctions génératrices, poules et grands noms

9.1 Espérance conditionnelle, poules et oeufs

Source : [18], pp. 67-68

Exercice 9.1.1. Définition de l’espérance conditionnelle

Définition 9.1.1. Soient X et Y deux variables discrètes sur (Ω, F, ℙ). Pour tout x tel que ℙ(X = x) > 0, la distribution conditionnelle de Y sachant X = x, notée F_{Y |X}(.|x), est définie par

F_{Y |X}(y|x) = ℙ(Y ≤ y|X = x)

et on pose F_{Y |X}(y|x) = 0 si ℙ(X = x) = 0. La loi conditionnelle de Y sachant X = x, notée f_{Y |X}(.|x) est définie par

f_{Y |X}(y|x) = ℙ(Y = y|X = x).

1) On note f_{X}(x) = ℙ(X = x) et de même f_{X,Y} (x, y) = ℙ(X = x; Y = y) la densité jointe de X et Y. Vérifier que f_{Y |X} = \frac{f_{X,Y}}{f_{X}} et que X et Y sont indépendantes si et seulement si f_{Y |X} = f_{Y} .

Définition 9.1.2. Soit Y une variable aléatoire discrète sommable. On appelle espérance conditionnelle de Y sachant X = x la fonction ψ(x) notée et définie par :

ψ(x) = 𝔼(Y |X = x) = ∑_{y} yf_{Y |X}(y|x) = ∑_{y} ℙ(Y = y | X = x).

L’espérance conditionnelle de Y sachant X est ψ(X).

2) (L’espérance de l’espérance conditionnelle est encore l’espérance). Montrer que ψ(X) = 𝔼(Y |X) est une variable aléatoire et plus précisément qu’elle est X-mesurable. Démontrer que

𝔼 [𝔼(Y |X)] = 𝔼(Y).  (9.1.1)

On peut réécrire cette relation

𝔼(Y) = ∑_{x} 𝔼(Y |X = x)ℙ(X = x).

2) La fonction x → ℙ(Y = y | X = x) est constante sur chaque ensemble {X = x}. Donc elle est X-mesurable. La fonction ψ(x) est une limite presque sûre de fonctions X-mesurables et est donc X-mesurable. Comme Y est sommable on a

𝔼Y = ∑_{y} yℙ(Y = y) = ∑_{x,y} yℙ(Y = y, X = x) = ∑_{x} ∑_{y} ℙ(Y = y | X = x)ℙ(X = x) = 𝔼[𝔼(Y | X)].

Attention : justifier soigneusement les différentes étapes avec Fubini !

Exercice 9.1.2. La limite de Poisson. On considère N variables de Bernoulli indépendantes X_{n} d’ordre 1 et de paramètre ℙ(X_{n} = 1) = p très petit, ℙ(X_{n} = 0) = 1 − p.

1) Donner la loi (dite binômiale) de S_{N} = X_{1} + ⋯ + X_{N}, c’est-à-dire calculer ℙ(S_{n} = k). Montrer que quand N → ∞, p → 0 avec Np → λ, on a ℙ(S_{N} = k) → e^{−λ} \frac{λ^{k}}{k!} . Cette distribution sur ℕ s’appelle loi de Poisson. Vérifier que c’est une distribution de probabilité. Montrer que la loi binômiale converge étroitement vers la loi de Poisson.

2) Donner une interprétation et discuter soigneusement des exemples. (Nombre de clients arrivant à une file d’attente dans un petit intervalle de temps donné, désintégration atomique, arrivée à maturité d’oeufs de poisson,...)

Solution

1) La loi binômiale est

C_{N}^{k}(1 − p)^{N−k}p^{k} = C_{N}^{k}(1 − \frac{λ}{N})^{N−k} \frac{λ^{k}}{k!} \frac{N!}{N^{k}(N − k)!} ∼ e^{−λ} \frac{λ^{k}}{k!}

quand N → ∞. Il est immédiat de vérifier que la somme de ces derniers coefficients est 1. Ceci prouve qu’il y a “conservation de la masse”. Donc la loi binômiale, dont nous venons de voir qu’elle converge vaguement vers la loi de Poisson, converge aussi étroitement (Proposition 7.1.2).

2) Si par exemple un très grand nombre N de voyageurs a une faible probabilité p de se diriger dans un petit intervalle de temps donné vers un certain guichet, le nombre de voyageurs arrivant au guichet suit une loi de Poisson. L’exemple de la désintégration atomique est l’exemple idéal, les atomes ayant tous la même probabilité de se désintégrer. Le nombre de descendants arrivant à maturité d’un poisson donné aussi (un très grand nombre d’oeufs, une très faible probabilité de survie). L’exemple de la poule ci-dessous est plus discutable : peut-être vaut-il mieux la remplacer par un saumon sauvage...

Exercice 9.1.3. Application : une poule pond N oeufs, N suivant une loi de Poisson de paramètre λ, c’est-à-dire f_{N}(n) = ℙ(N = n) = e^{−λ} \frac{λ^{n}}{n!} . Chaque oeuf éclôt avec probabilité p, indépendamment des autres oeufs. On note q = 1 − p. Soit K le nombre de poussins. Notre but est de calculer, puis d’interpréter les valeurs de 𝔼(K|N), 𝔼K et 𝔼(N|K).

1) Montrer que f_{K|N}(k|n) = C_{n}^{k}p^{k}(1 − p)^{n−k} et que 𝔼(K|N) = pN. En déduire que 𝔼(K) = pλ. Interpréter.

2) Si vous ne l’avez jamais vue, montrer la règle de Bayes (disposer d’un moyen mnémotechnique pour s’en souvenir).

ℙ(A|B) = \frac{ℙ(B|A)ℙ(A)}{ℙ(B)}.

3) En utilisant la règle de Bayes, montrer que si n ≥ k,

f_{N|K}(n|k) = ℙ(N = n|K = k) = \frac{(qλ)^{n−k}}{(n − k)!}e^{−qλ}.

Conclure que 𝔼(N|K) = K + qλ. \underline{Interpréter}.

Solution

1) Il faut bien sûr supposer que le nombre d’oeufs N et la variable de Bernoulli d’éclosion de chacun des oeufs sont des v.a. indépendantes ! Grâce à cette indépendance :

ℙ(K = k | N = n) = \frac{ℙ(K = k, N = n)}{ℙ(N = n)} = \frac{ℙ(∑_{i=1}^{n} X_{i} = k, N = n)}{ℙ(N = n)} = ∑_{k=0}^{n} C_{n}^{k}p^{k}(1 − p)^{N−k}.

On a

𝔼(K | N = n) = ∑_{k} k \frac{ℙ(K = k, N = n)}{ℙ(N = n)} = ∑_{k=0}^{n} kC_{n}^{k}p^{k}(1 − p)^{n−k}

= pn ∑_{k=1}^{n} \frac{(n − 1)!}{(k − 1)!(n − k)!}p^{k−1}(1 − p)^{n−k} = pn(p + (1 − p))^{n−1} = pn.

2) On a

ℙ(N = n|K = k) = \frac{ℙ(K = k|N = n)ℙ(N = n)}{ℙ(K = k)} =

\frac{C_{n}^{k}p^{k}(1 − p)^{n−k}(\frac{λ^{n}}{n!} )e^{−λ}}{∑_{m≥k} C_{m}^{k}p^{k}(1 − p)^{m−k}(\frac{λ^{m}}{m!})e^{−λ}} = \frac{(qλ)^{n−k}}{(n − k)!}e^{−qλ},

car

∑_{m≥k} \frac{m!}{k!(m − k)!}p^{k}(1 − p)^{m−k} \frac{λ^{m}}{m!} = λ^{k} \frac{p^{k}}{k!} ∑_{l} \frac{(λ(1 − p))^{l}}{l!} = \frac{λ^{k}p^{k}}{k!} e^{qλ}.

Donc

𝔼(N|K = k) = ∑_{n≥k} n\frac{(qλ)^{n−k}}{(n − k)!}e^{−qλ} = ∑_{m=0}^{∞}(k + m)\frac{(qλ)^{m}}{m!} e^{−qλ} = k + qλ.

Donc 𝔼(N|K) = K + qλ. Ce n’est pas difficile à interpréter. On a 𝔼N = λ, 𝔼K = pλ. A titre de vérification des résultats, remarquer que

λ = 𝔼N = 𝔼(𝔼(N|K)) = 𝔼(K + qλ) = pλ + qλ = λ.

L’espérance du nombre d’oeufs sachant le nombre d’oeufs éclos est égale à la somme du nombre, connu, d’oeufs éclos, K, plus l’espérance du nombre d’oeufs non éclos, soit qλ. Formellement, on remplace pλ par K dans la formule λ = pλ + qλ. Voir aussi le théorème 9.2.1 plus loin qui prouve le résultat plus précis : K suit une loi de Poisson de paramètre λp.

Exercice 9.1.4. Formule générale caractérisant l’espérance conditionnelle Montrer que Z = 𝔼(Y |X) vérifie

𝔼(Zg(X)) = 𝔼(Y g(X))  (9.1.2)

pour toute fonction g telle que les deux espérances existent. Montrer qu’il y a une unique fonction Z = ψ(X) vérifiant (9.1.2) et que c’est donc Z = 𝔼(Y |X).

Solution

Par hypothèse ∑_{x} |ψ(x)g(x)|f_{X}(x) < ∞ et ∑_{x,y} |yg(x)|f_{X,Y} (x, y) < ∞. Cette dernière hypothèse permet d’appliquer Fubini et de justifier tous les calculs qui suivent :

On a 𝔼(Y |X) = ψ(X) avec ψ(x) = ∑_{y} yf_{Y |X}(y|x). Donc

𝔼(𝔼(Y |X)g(X)) = ∑_{x} ψ(x)g(x)f_{X}(x) =

∑_{x,y} yf_{Y |X}(y|x)g(x)f_{X}(x) = ∑_{x,y} yg(x)f_{X,Y} (x, y) = 𝔼(Y g(X)).

Unicité : soit Z = ψ(X) vérifiant (9.1.2). On choisit g(X) = 11_{x}(X). Cela donne

ψ(x)ℙ(X = x) = ∑_{y,z} y11_{x}(z)ℙ(X = z; Y = y)
= ∑_{y} yℙ(X = x; Y = y)
= ∑_{y} yℙ(Y = y|X = x)ℙ(X = x)

Donc ψ(x) = ∑_{y} yℙ(Y = y|X = x) si ℙ(X = x) ≠ 0. Donc Z et ψ(X) sont égales ℙ_{X}-p.s.

9.2 Fonctions génératrices

Source : [18], pp. 148-154

Si X est une variable aléatoire à valeurs dans ℕ, la fonction génératrice de X est définie comme

G_{X}(s) = 𝔼(s^{X}) = ∑_{k=0}^{∞} p_{k}s^{k}

où p_{k} = ℙ(X = k) et où on adopte la convention 0^{0} = 1.

Exercice 9.2.1. 0) Rayon de convergence de la série ?

1) Montrer que la fonction génératrice de X caractérise complètement sa loi.

2) Montrer que G_{X} est C^{∞} sur (−1; 1) et que si X est intégrable alors

lim_{s→1^{−}} GX^{′}(s) = 𝔼(X)

Donner un résultat analogue pour la variance. Montrer de même que 𝔼(X(X −1) … (X −k +1)) = G^{(k)}(1). On utilisera et montrera le théorème d’Abel : Soit a_{n} ≥ 0 et G(s) = ∑_{n∈ℕ} a_{n}s^{n}. Si G(s) est fini pour s < 1, alors lim_{s→1} G(s) = ∑_{n∈ℕ} a_{n}.

3) Montrer que si X et Y sont deux variables aléatoires à valeurs entières indépendantes alors la fonction génératrice de X + Y est le produit de G_{X} et de G_{Y}. Réciproque ?

4) Calculer les fonctions génératrices des distributions suivantes : v.a. constante X = c, variable de Bernoulli de paramètre p, distribution géométrique (ℙ(X = k) = p(1 − p)^{k−1} pour k ≥ 1), distribution de Poisson, distribution binomiale B(n, p). Vérifier sans calcul que la somme de deux variables indépendantes B(n, p) et B(m, p) est B(n + m, p).

5) On appelle fonction génératrice jointe de deux v.a. X_{1} et X_{2} à valeurs dans ℕ la fonction

G_{X_{1},X_{2}}(s_{1}, s_{2}) = 𝔼(s_{1}^{X_{1}}s_{2}^{X_{2}}).

Montrer que X_{1} et X_{2} sont indépendantes si et seulement si

G_{X_{1}, X_{2}}(s_{1}, s_{2}) = G_{X_{1}}(s_{1})G_{X_{2}}(s_{2})

pour tous s_{1} et s_{2}.

Solution

0) Le rayon de convergence de la série est supérieur ou égal à 1.

1) Remarquer que l’on a p_{k} = \frac{1}{k!}G_{X}^{(k)}(0).

2) G_{X} est une série entière et donc en tant que telle C^{∞} sur son disque de convergence. D’autre part, pour tout s ∈ (−1, 1), on a (en utilisant le théorème d’Abel)

GX^{′}(s) = ∑_{k=1}^{∞} kp_{k}s^{k−1} ↑_{s→1} ∑_{k=1}^{∞} kp_{k} = 𝔼(X)

De même, on montre que si X a un moment d’ordre 2

V ar(X) = lim_{s→1} [G_{X}^{(2)}(s) + G_{X}^{(1)}(s) − [G_{X}^{(1)}(s)]^{2}]

3) G_{X+Y} (s) = 𝔼(s^{X}s^{Y}) = 𝔼(s^{X})𝔼(s^{Y}) = G_{X}(s)G_{Y} (s) par indépendance de X et Y. La réciproque est fausse (comme elle l’est pour les fonctions caractéristiques). Ce qui est en revanche vrai, c’est que si la fonction génératrice du couple (X, Y) (définie par G_{(X,Y)}(s_{1}, s_{2}) = 𝔼(s_{1}^{X}s_{2}^{Y})) s’écrit comme le produit direct de G_{X} et G_{Y} (i.e. G_{(X,Y)}(s_{1}, s_{2}) = G_{X}(s_{1})G_{Y} (s_{2})) alors les deux variables X et Y sont indépendantes (voir la question 5)).

4) On obtient successivement G(s) = s^{c} (variable constante), G(s) = (1 − p) + ps (variable de Bernoulli), G(s) = ∑_{k=1}^{∞} s^{k}p(1 − p)^{k−1} = \frac{ps}{1−s(1−p)} (variable géométrique de paramètre p), G(s) = ∑_{k=0}^{∞} s^{k} \frac{λ^{k}}{k!} e^{−λ} = e^{λ(s−1)} (variable de Poisson), G(s) = (q + ps)^{n} (variable binomiale B(n, p), q = 1−p.) On peut voir que la somme d’une B(n, p) et d’une B(m, p) indépendantes est une B(n+m, p) de deux manières : d’une part on peut interpréter la somme comme la somme de n+m variables de Bernoulli indépendantes. Mais on peut simplement multiplier les fonctions génératrices en utilisant le 3)

5) Si X_{1} et X_{2} sont indépendantes, s_{1}^{X_{1}} et s_{2}^{X_{2}} aussi et on a donc 𝔼(s_{1}^{X_{1}}s_{2}^{X_{2}}) = 𝔼(s_{1}^{X_{1}})𝔼(s_{2}^{X_{2}}). Réciproquement, si cette relation est vraie, on a

∑_{m,n} ℙ(X_{1} = m; X_{2} = n)s_{1}^{m}s_{2}^{n} = (∑_{m} ℙ(X_{1} = m)s_{1}^{m})(∑_{n} ℙ(X_{2} = n)s_{2}^{n}).

Il suffit de développer le deuxième membre et d’identifier terme à terme pour déduire que ℙ(X_{1} = m; X_{2} = n) = ℙ(X_{1} = m)ℙ(X_{2} = n).

Exercice 9.2.2. Poules et oeufs 2 On va montrer le théorème suivant :

Théorème 9.2.1. Si X_{1}, X_{2}, ... est une suite de v.a.i.i.d. de fonction génératrice commune G_{X} et si N est une variable aléatoire à valeurs dans ℕ indépendante des X_{i} et de fonction génératrice G_{N}, alors S_{N} = X_{1} + X_{2} + … + X_{N} a pour fonction génératrice

G_{S_{N}} (s) = G_{N}(G_{X}(s)).

1) Moyen mnémotechnique : pour se souvenir de l’ordre dans lequel les fonctions sont composées, remarquer que si N est déterministe (ℙ(N = n) = 1) alors on doit retrouver la formule donnant la fonction génératrice de n v.a.i.i.d. soit G_{S_{N}} (s) = G_{X}(s)^{n}, et l’on a G_{N}(s) = s^{n}.

2) Démonstration : appliquer la formule de l’espérance conditionnelle (9.1.1) 𝔼(s^{S_{N}}) = 𝔼(𝔼(s^{S_{N}} |N)).

3) Une poule pond N oeufs, et N est une distribution de Poisson de paramètre λ. Chaque oeuf éclôt avec probabilité p et les éclosions sont des évènements indépendants. Soit K le nombre de poussins. Calculer la fonction génératrice de K et en déduire que K suit une loi de Poisson de paramètre λp.

Solution

2) Par la formule de l’espérance conditionnelle, on a

G_{S_{N}} (s) = ∑_{n} 𝔼(s^{S_{N}} |N = n)ℙ(N = n) = ∑_{n} 𝔼(s^{X_{1}+···+ X_{n}})ℙ(N = n) =

∑_{n} 𝔼(s^{X_{1}}) … 𝔼(s^{X_{n}})ℙ(N = n) =

∑_{n} G_{X}(s)^{n}ℙ(X = n) = G_{N}(G_{X}(s)).

L’avant dernière ligne s’obtient par indépendance des X_{i}.

3) On a G_{X}(s) = q + ps, G_{N}(s) = ∑_{n=0}^{∞} s^{n} \frac{λ^{n}}{n!} e^{−λ} = e^{λ(s−1)}. Donc G_{K}(s) = G_{N}(G_{X}(s)) = e^{λ(q+ps−1)} = e^{λp(s−1)}. K suit donc une loi de Poisson de paramètre λp.

9.3 Processus de branchement : l’extinction des grands noms

Source : [18], 5.4 pp. 171-174

Au dix-neuvième siècle, en 1873 exactement, H.W. Watson répond à une question posée par F. Galton la même année. Il s’agit d’expliquer la tragique et progressive disparition des grands noms de l’aristocratie anglaise. Des noms des grands personnages de Shakespeare, bien peu ont laissé descendance : où sont maintenant les Gloucester, et les Buckingham ? Les processus de Galton-Watson, appelés aussi processus de branchement, modélisent la reproduction et permettent de calculer la probabilité d’extinction. On suppose qu’une population évolue par générations et que Z_{n} désigne le nombre d’individus de la n-ième génération. Chaque membre de la n-ième génération donne le jour à une famille de membres de la n + 1-ième génération et la taille de cette famille est une variable aléatoire. On fait les hypothèses suivantes :

(a) Les tailles X_{i} des familles de tous les individus sont des variables indépendantes

(b) Toutes ces tailles X_{i} ont même loi f et pour fonction génératrice G.

On supposera dans la suite que Z_{0} = 1. On appelle G_{n}(s) = 𝔼(s^{Z_{n}}) la fonction génératrice de Z_{n}. Notre but est de montrer le théorème suivant et ses conséquences.

Théorème 9.3.1. On a G_{n}(s) = G(G(… (G(s)) …)), l’itérée n fois de G.

Exercice 9.3.1. 1) Démontrer le théorème 9.3.1.

2)On pose μ_{n} = EZ_{1} et σ_{n}^{2} = var(Z_{1}). En dérivant une fois, puis deux fois en s = 1 la relation G_{n}(s) = G(G_{n−1}(s)), montrer que 𝔼(Z_{n}) = μ^{n}, var(Z_{n}) = nσ^{2} si μ = 1,

var(Z_{n}) = \frac{σ^{2}(μ^{n} − 1)μ^{n−1}}{μ − 1} si μ ≠ 1.

3) On suppose que les tailles de familles ont la distribution géométrique ℙ(X = k) = qp^{k}. Avez-vous une interprétation pour cette hypothèse ? Vérifier que G(s) = q(1 − ps)^{−1} et, par récurrence, que

G_{n}(s) = \frac{n − (n − 1)s}{n + 1 − ns} si p = q = \frac{1}{2},

G_{n}(s) = \frac{q(p^{n} − q^{n} − ps(p^{n−1} − q^{n−1}))}{p^{n+1} − q^{n+1} − ps(p^{n} − q^{n})} si p ≠ q.

4) En déduire que

ℙ(Z_{n} = 0) = \frac{n}{n + 1} si p = q = \frac{1}{2},

ℙ(Z_{n} = 0) = \frac{q(p^{n} − q^{n})}{p^{n+1} − q^{n+1}} si p ≠ q.

5) En conclure que, sous les hypothèses précédentes, la probabilité d’extinction de la population des descendants vérifie

ℙ(extinction) = 1 si p ≤ q, ℙ(extinction) = \frac{q}{p} si p > q.

Interpréter ce résultat !

6) Le résultat précédent est valide en général comme le montre le théorème suivant Théorème 9.3.2. Quand n → ∞, ℙ(Z_{n} = 0) → η = ℙ(extinction) et η peut être calculée comme la plus petite racine positive de l’équation s = G(s). De plus, η = 1 si μ < 1 et η < 1 si μ > 1. Si μ = 1, alors η = 1 du moment que la variance de taille de famille est positive.

Interpréter ce résultat ! La démonstration n’est pas difficile ([18], p.173). La lire attentivement.

Solution

1) C’est très simple, mais la démonstration du Grimmett-Stirzaker est pourtant un peu confuse. On a Z_{n} = X_{1} + … + X_{Z^{n−1}}, où X_{i} est la taille de la famille du i-ème individu de la génération n − 1. Il s’agit d’une somme d’un nombre aléatoire de v.a.i.i.d. de fonctions génératrices G, ce nombre aléatoire Z_{n−1} ayant une loi G_{n}. Donc par le théorème 9.2.1, on a G_{n} = G_{n−1} ∘ G et on conclut parce que G_{1} = G.

2) On rappelle que si X est une v.a. de fonction génératrice G, alors 𝔼X = G′(1) et var(X) = G′′(1)+G′(1)−G′(1)^{2}. En dérivant comme indiqué, on a G′_{n}(1) = G′(1)G′_{n−1}(1) et donc μ_{n} = μμ_{n−1}, soit μ_{n} = μ^{n}. En dérivant deux fois, on obtient G′′_{n}(s) = G′′(G_{n−1}(s))G′_{n−1}(s)^{2}+G′(G_{n−1}(s))G′′_{n−1}(s), soit G′′_{n}(1) = G′′(1)μ^{2(n−1)} +μG′′_{n−1}(1). On en tire la relation de récurrence σ_{n}^{2} = σ^{2}μ^{2(n−1)} +μσ_{n−1}^{2} qui donne bien les résultats annoncés.

3) Simple calcul.

4) On a ℙ(Z_{n} = 0) = G_{n}(0), ce qui donne tout de suite le résultat annoncé en utilisant la question précédente. On définit l’évênement ”extinction” comme l’union (croissante) des évènements ”extinction au temps n”. Par la propriété fondamentale des mesures positives, on a donc ℙ(extinction) = lim ℙ(Z_{n} = 0).

Passons à l’interprétation, du point de vue de Galton et Watson : si p ≤ q, on a p ≤ \frac{1}{2} et donc la distribution des tailles décroît très vite. De plus on vérifie facilement que l’espérance du nombre de descendants par individu est G′(1) = \frac{p}{1−p}. Donc si p < \frac{1}{2}, cette espérance est inférieure à 1. Dans ce cas, il y extinction ! Si p ≥ \frac{1}{2}, l’espérance du nombre de descendants est supérieure à 1 et tend vers l’infini quand p → 1. Dans ce cas, il y a une probabilité de ”survie du nom”. Mais la probabilité d’extinction reste importante puisque elle est égale à \frac{q}{p}. Il peut y avoir extinction même dans une famille prolifique et les grands noms, donc, peuvent disparaître.

Fonctions caractéristiques et théorèmes de Lévy

Bien que l’on présente souvent la transformée de Fourier de manière autonome en probabilités, l’essentiel de la théorie, et en particulier les théorèmes d’inversion, sont plus complétement décrits grâce à la théorie des distributions. Voir par exemple [4]. Dans ce T.D. nous suivrons essentiellement [26] (chapitre 12) car la fonction caractéristique y est traitée pour des v.a. à valeurs dans ℝ^{d}. Pour un traitement très élégant et rapide dans le cas de v.a. réelles, voir le chapitre 16 de [30]. On a besoin de v.a. vectorielles à cause, notamment, du traitement des vecteurs gaussiens.

10.1 Généralités

Définition 10.1.1. Soit μ une mesure bornée sur ℝ^{d} et X une variable aléatoire de loi ℙ_{X} = μ. On appelle transformée de Fourier de μ l’application de ℝ^{d} dans ℂ définie par

(Fμ)(t) = μ̂(t) = 𝔼(e^{iX.t}) = ∫_{ℝ^{d}} e^{ix.t}dμ(x).

(Ici, x.t est le produit scalaire usuel de x et t ∈ ℝ^{d}) On appelle fonction caractéristique d’une variable aléatoire X la transformée de Fourier de sa loi μ = ℙ_{X}. Elle est notée φ_{X}.

Exercice 10.1.1. Propriétés élémentaires Montrer que

1) μ̂(0) = μ(ℝ^{d}), φ_{X}(0) = 1.

2) ∀t ∈ ℝ^{d}, |μ̂(t)| ≤ μ(ℝ^{d}), |φ_{X}(t)| ≤ 1.

3) μ̂(−t) = \overline{μ̂}(t), φ_{X}(−t) = \overline{φ_{X}(t)}.

4) Soient A ∈ L(ℝ^{d}, ℝ^{k}) et b ∈ ℝ^{k}, alors

φ_{AX+b}(t) = φ_{X}(A^{⋆}t)e^{ib.t},

où A^{⋆} désigne l’adjoint de A.

5) Les fonctions μ̂ et φ_{X} sont uniformément continues sur ℝ^{d}.Indication : Fixer ε > 0 et choisir n tel que μ(B(0, n)^{c}) ≤ ε, montrer et utiliser l’inégalité |e^{ix.u} − e^{ix.t}| ≤ ||u − t|| ||x||

Exercice 10.1.2. Exemple très important : la gaussienne On pose

g_{σ}(x) = \frac{1}{(σ\sqrt{2π})^{d}} e^{− \frac{||x||^{2}}{2σ^{2}}} .

Vous devez savoir démontrer sans aucune hésitation les relations suivantes :

(a) La fonction g_{d} est une densité de probabilité sur ℝ^{d}. Se ramener au cas de la dimension 1 et se souvenir comment l’on montre que ∫_{ℝ} e^{−x^{2}/2}dx = \sqrt{2π}.

(c) Pour tout f ∈ C_{b}(ℝ^{d}), lim_{σ→0}(f ∗ g_{σ})(x) = f(x). Pour cela, utiliser le théorème de Lebesgue après changement de variable y = σz.

(d) ĝ_{1}(t) = e^{− \frac{||t||^{2}}{2}} = (\sqrt{2π})^{d}g_{1}(t)

Pour montrer cette dernière formule riche en argument techniques, il est recommandé de la montrer par TROIS arguments différents :

– Commencer par se ramener au calcul en dimension 1 par le théorème de Fubini.

– Première méthode très simple que l’on peut trouver dans le chapitre 9 de [4] sur la transformée de Fourier. Poser g(s) = ∫ e^{isx}e^{−x^{2}}dx et montrer en utilisant le théorème de dérivation sous le signe somme que g est C^{1} et déduire de l’expression de g′ en intégrant par parties que g est solution de l’équation différentielle 2g′(s) + sg(s) = 0.

– Une autre méthode utilise la formule de Cauchy appliquée à la fonction holomorphe g(z) =

e^{− \frac{z^{2}}{2}} sur le circuit composé des segments [(−r, 0), (r, 0)], [(r, 0), (r, t)], [(r, t), (−r, t)], [(−r, t), (−r, 0)].

– Une troisième méthode élégante consiste à remarquer que

ĝ_{1}(t) = \frac{1}{\sqrt{2π}} ∫_{ℝ} e^{− \frac{(x−it)^{2}}{2}} e^{− \frac{t^{2}}{2}} .

On pose alors

f(z) := ∫_{ℝ} e^{− \frac{(x−z)^{2}}{2}} dx.

On démontre \underline{très soigneusement} en utilisant le théorème de dérivation sous le signe somme que f est holomorphe. Comme f est constante et égale à \sqrt{2π} sur ℝ (pourquoi ? ?) on conclut.

10.2 Injectivité de la transformée de Fourier

Définition 10.2.1. (Convolution d’une mesure bornée et d’une fonction). Soit μ une mesure bornée sur ℝ^{d} et f une fonction borélienne telle que, pour tout x, la fonction y → f(y−x) soit μ-intégrable. On pose

(f ∗ μ)(x) = ∫_{ℝ^{d}} f(x − y)dμ(y).

Exercice 10.2.1. Théorème d’injectivité de la transformée de Fourier sur les mesures bornées Il s’agit de montrer que deux mesures bornées sur ℝ^{d} qui ont même transformée de Fourier sont égales. Cette démonstration suit [26], pp. 202-204.

1) Soit μ une mesure bornée sur ℝ^{d}. Montrer en appliquant le théorème de Fubini et la relation (d) de l’exercice précédent que

(g_{σ} ∗ μ)(y) = \frac{1}{(\sqrt{2π})^{d}} ∫_{ℝ^{d}} μ̂(v)g_{1}(σv)e^{−iy.v}dv.

2) Expliquer pourquoi une mesure bornée sur ℝ^{d} est déterminée par la donnée pour tout f ∈ C_{K}(ℝ^{d}) des intégrales ∫_{ℝ^{d}} fdμ. Indication : il suffit de montrer que ces mesures coïncident sur les ouverts car ils forment un π-système des boréliens. On montrera brièvement que toute fonction caractéristique d’ouvert est une limite croissante de fonctions continues à support compact (En effet, soit g_{r}(x) = max(0, 1 − r||x||). Quand r → 0, cette fonction tend en croissant vers 1. Posant h_{r}(x) = inf(1, \frac{1}{r}d(x, Ω^{c})), puis k_{r}(x) = g_{r}(x)h_{r}(x), on vérifie que cette suite de fonctions convient, quand r → 0). En déduire qu’il suffit de donner une expression de ∫ fdμ en fonction de μ̂ pour montrer l’unicité.

3) Montrer en appliquant le théorème de Lebesgue que

∫_{ℝ^{d}} fdμ = lim_{σ→0} ∫_{ℝ^{d}}(f ∗ g_{σ})(x)dμ(x).

4) En appliquant le théorème de Fubini, en déduire que

∫_{ℝ^{d}} fdμ = lim_{σ→0} ∫_{ℝ^{d}} f(y)(g_{σ} ∗ μ)(y)dy.

5) En utilisant le 1), déduire que

∫_{ℝ^{d}} fdμ = \frac{1}{(\sqrt{2π})^{d}} lim_{σ→0} ∫ f(y) (∫ μ̂(v)g_{1}(σv)e^{−iy.v}dv) dy.

6) Enoncer le théorème d’injectivité de la transformée de Fourier.

7) Application : soit μ une mesure bornée sur ℝ^{d} telle que μ̂ soit Lebesgue-intégrable. Alors μ est absolument continue par rapport à la mesure de Lebesgue et sa densité est donnée par

h(x) = \frac{1}{(2π)^{d}} ∫_{ℝ^{d}} μ̂(t)e^{−ix.t}dt.

Indication : Commencer par montrer en appliquant le théorème de Lebesgue que

∫_{ℝ^{d}} μ̂(v)g_{1}(σv)e^{−iy.v}dv → \frac{1}{(\sqrt{2π})^{d}} ∫_{ℝ^{d}} μ̂e^{−iy.v}dv

Puis, appliquer à nouveau le théorème de Lebesgue dans la relation 5) avec f ∈ C_{K}(ℝ^{d}).

Exercice 10.2.2. Transformée de Fourier et indépendance ([26], pp. 204-208). On considère des mesures bornées μ_{1} et μ_{2} sur ℝ^{d_{1}} et ℝ^{d_{2}} et la mesure produit μ_{1} ⊗ μ_{2}.

1) Montrer en appliquant le théorème de Fubini (on rappelle que F désigne la tranformation de Fourier) que

[F(μ_{1} ⊗ μ_{2})] (t_{1}, t_{2}) = [Fμ_{1}](t_{1})[Fμ_{2}](t_{2}).

2) Soit X = (X_{1}, X_{2}) une v.a. à valeurs dans ℝ^{d_{1}} × ℝ^{d_{2}}. Déduire du 1) que X_{1} et X_{2} sont indépendantes si et seulement si

φ_{(X_{1},X_{2})}(t_{1}, t_{2}) = φ_{X_{1}}(t_{1})φ_{X_{2}}(t_{2}).

On utilisera l’injectivité de la transformée de Fourier.

3) Remarquer que φ_{X_{1}}(t_{1}) = φ_{X_{1},X_{2}}(t_{1}, 0).

4) Si μ_{1} et μ_{2} sont des mesures bornées sur ℝ^{d}, on a F(μ_{1} ∗ μ_{2}) = Fμ_{1}Fμ_{2}. Rappel ([26] p. 63) : la convolée de deux mesures μ_{1} et μ_{2}, μ_{1} ∗ μ_{2} est la mesure image de μ_{1} ⊗ μ_{2} par l’application somme. Cela signifie que pour toute fonction mesurable positive,

∫_{ℝ^{d}} fd(μ_{1} ∗ μ_{2}) = ∫_{ℝ^{d}×ℝ^{d}} f(x_{1} + x_{2})d(μ_{1} ⊗ μ_{2})(x_{1}, x_{2}).

(Appliquer cette formule avec f(x) = e^{ix.t} et utiliser le théorème de Fubini).

Exercice 10.2.3. Un contrexemple ([7], p. 134, exercice 13). On considère le sous-ensemble de ℝ^{2},

C = \{(x, y) ∈ [0, 1]^{2}, x − \frac{1}{2} ≤ y ≤ x ou y ≥ x + \frac{1}{2}.\}

1) Dessiner C.

2) Soit X et Y deux variables aléatoires de densité de probabilité f_{X,Y} constante sur C, nulle ailleurs. Calculer la valeur de la constante et les densités de X et Y. En déduire que X et Y ne sont pas indépendantes.

3) Calculer les fonctions caractéristiques de X, Y et X + Y pour montrer que

φ_{X}(t)φ_{Y} (t) = φ_{X+Y} (t).

Solution

Un calcul élémentaire montre que la constante vaut 2. On désigne par f_{X} la densité de X et par f_{Y} celle de Y. On a

f_{X}(x) = ∫_{−∞}^{+∞} f_{X,Y} (x, y)dy = 11_{[0,1]}(x)

et

f_{Y} (y) = 11_{[0,1]}(y).

X et Y ne sont pas indépendantes puisque

f_{X}(x)f_{Y} (y) ≠ f_{X,Y} (x, y).

Or on a

φ_{X+Y} (u) = (\frac{e^{iu} − 1}{iu})^{2} , φ_{X}(u) = φ_{Y} (u) = (\frac{e^{iu} − 1}{iu}) .

Exercice 10.2.4. ([30] p. 238) Calculer la fonction caractéristique de la loi uniforme sur [−1, 1]. Montrer qu’il n’existe pas de variables aléatoires i.i.d. X et Y telles que X −Y ait cette loi uniforme sur [−1, 1].

10.3 Le Théorème de convergence de Lévy

On note, pour b > 0, M_{b} l’ensemble des mesures positives telles que μ(ℝ^{d}) ≤ b.

Proposition 10.3.1. ([26], proposition 14.2) M_{b} est métrisable et compact pour la topologie faible (ou vague), c’est-à-dire la topologie σ(C_{0}(ℝ^{d})′, C_{0}(ℝ^{d})).

Proposition 10.3.2. ([26], proposition 14.3) Soit μ_{n} une suite de mesures de M_{b}. Si μ_{n} converge vaguement ou faiblement vers μ, alors μ_{n} → μ étroitement si et seulement si lim_{n} μ_{n}(ℝ^{d}) = μ(ℝ^{d}).

Proposition 10.3.3. ([26], corollaire 14.7) Si μ_{n} ∈ M_{b} converge étroitement vers μ ∈ M_{b}, elle est \underline{tendue}, i.e.

∀ε > 0, ∃K compact ⊂ ℝ^{d} tel que sup_{n} μ_{n}(K^{c}) ≤ ε.

Exercice 10.3.1. Soit ε > 0. Montrer en utilisant le lemme de Fubini qu’il existe une fonction f_{ε} ∈ C_{0}(ℝ^{d}) telle que pour toute mesure bornée ν ∈ ℝ^{d} on ait

∫_{[0,ε]^{d}} ν̂(t)dt = ∫_{ℝ^{d}} f_{ε}dν.

Solution On a f_{ε}(x) = Π_{j=1}^{d}g_{ε}(x_{j}) où g_{ε}(u) = \frac{e^{iεu}−1}{iu} si u ≠ 0, = ε si u = 0 est bien continue.

Exercice 10.3.2. Notre but est de montrer le théorème de Lévy :

Théorème 10.3.1. Théorème de convergence de Lévy

(a) Si μ_{n} ∈ M_{b} converge étroitement vers μ, alors μ̂_{n} → μ̂ simplement.

(b) Inversement, si μ̂_{n} → φ simplement et si φ est continue en 0, alors il existe une unique mesure μ ∈ M_{b} telle que φ = μ̂. De plus, μ_{n} → μ étroitement.

1) Montrer (a). A partir de la question suivante on s’attache à démontrer (b) et on prend les hypothèses de (b).

2) En utilisant les propositions précédentes, montrer que μ_{n} admet une sous-suite faiblement convergente, que l’on notera μ_{ψ(n)}. On appellera μ sa limite.

L’application de la proposition 10.3.1 est immédiate car μ_{n} est bornée puisque

||μ_{n}||_{C′_{0}} = sup_{||φ||≤1} ∫ φdμ_{n} ≤ μ_{n}(ℝ^{d}) = b.

3) Montrer en appliquant le théorème de Lebesgue que lim_{n} ∫_{[0,ε]^{d}} μ̂_{ψ(n)}(t)dt = ∫_{[0,ε]^{d}} φ(t)dt. Solution

Par la proposition mentionnée, il suffit de montrer lim_{k} μ_{k}(ℝ^{d}) = μ(ℝ^{d}). Or lim_{k} μ_{k}(ℝ^{d}) = lim_{k} μ̂_{k}(0) = φ(0). et μ(ℝ^{d}) = μ̂(0). Il suffit donc de montrer μ̂(0) = φ(0).

4) Soit f_{ε} définie dans l’exercice 10.3.1. Montrer successivement en utilisant le 3) que

lim_{k} ∫ f_{ε}dμ_{ψ(k)} = ∫ f_{ε}dμ,

lim_{k} ∫_{[0,ε]^{d}} μ̂_{ψ(k)}(t)dt = ∫_{[0,ε]^{d}} μ̂(t)dt,

\frac{1}{ε^{d}} ∫_{[0,ε]^{d}} μ̂(t)dt = \frac{1}{ε^{d}} ∫_{[0,ε]^{d}} φ(t)dt.

Solution du 4) La première relation découle de la convergence faible de μ_{k} et de f_{ε} ∈ C_{0}(ℝ^{d}). La seconde découle

du lemme utile car

∫_{[0,ε]^{d}} μ̂_{k}(t)dt = ∫ f_{ε}dμ_{k} → ∫ f_{ε}dμ = ∫_{[0,ε]^{d}} μ̂(t)dt.

La troisième relation vient immédiatement de la précédente et du 3).

5) a) Déduire de la question précédente que μ̂(0) = ϕ(0) et remarquer que lim_{n} μ̂_{ψ(n)}(0) = ϕ(0) =

μ̂(0).

b) En utilisant la proposition 10.3.2, montrer que (μ_{ψ(n)})_{n} converge étroitement vers μ. En déduire que μ̂ = ϕ.

c) En déduire que (μ_{n})_{n} converge faiblement vers μ puis que (μ_{n})_{n} converge étroitement vers μ.

Solution du 5) On passe à la limite dans la dernière relation du 4), φ étant continue par hypothèse, et μ̂ comme transformée de Fourier de mesure bornée. Donc μ̂(0) = φ(0). Enfin

lim_{n} μ_{ψ(n)}(ℝ^{d}) = lim_{n} μ̂_{ψ(n)}(0) = φ(0) = μ̂(0) = μ(ℝ^{d}.)

Donc μ_{ψ(n)} converge étroitement vers l’unique μ telle μ̂ = φ. Mais remarque que si μ_{ψ(n)} tend étroitement vers μ, alors par le (a) μ̂_{ψ(n)} tend simplement vers μ̂. Mais comme par hypothèse μ̂_{ψ(n)} tend simplement vers φ, on déduit que μ̂ = φ. Ce raisonnement s’appliquant à toute sous-suite extraite, toutes les sous-suites faiblement convergentes de μ_{n} ont la même limite par le théorème d’injectivité de la Transformée de Fourier. Donc la suite μ_{n} de l’espace métrique compact M(b) a une unique limite et donc toute la suite converge.

6) Sous l’hypothèse (a) ou (b), montrer que la suite des fonctions μ̂_{n} est équicontinue : on utilisera la proposition 10.3.3 et l’inégalité (que l’on démontrera) |e^{ix.t} − e^{ix.t′}| ≤ |x.(t − t′)|, où x.t désigne le produit scalaire dans ℝ^{d} de x et de t. En déduire que la suite μ̂_{n}(t) converge uniformément vers μ̂ sur tout compact.

10.4 Fonctions caractéristiques : ce qu’il faut absolument savoir

1) La défénition d’une fonction caractérisque.

2) Retrouver rapidement les propriétés élémentaires sur les fonctions caractéristiques.

3) Connaître par coeur la fonction caractéristique de la Gaussienne et connaître une méthode pour la retrouver. Savoir aussi comment calculer les fonctions caractéristiques des lois usuelles.

4) Savoir que la fonction caractéristique caractérise complètement la loi d’une v.a. (injectivité de la transformée de Fourier) .

5) Etre au courant de la formule d’inversion de Levy. Aller y jeter un oeil, ou même les deux ([30], pp. 175-177).

6) Savoir que si X et Y sont indépendantes alors la fonction caractéristique de (X, Y) s’écrit comme le produit direct des fonctions caractéristiques de X et Y et réciproquement.

7) Connaître le théorème de Lévy.

8) Savoir que si X possède un moment d’ordre n alors la fonction caractéristique de X est n-fois dérivable et le théorème de dérivation sous le signe somme s’applique. Etre au courant aussi que la réciproque est fausse : On peut avoir une fonction caractéristique dérivable en 0 sans que la variable aléatoire X ait un moment d’ordre 1 (Voir [26] ou [16] par exemple).

116

Les gaussiennes

Dans ce chapitre, nous rappelons quelques notions de base sur les lois gaussiennes (Chapitre 13 de [26]). On utilisera les notations suivantes :

La base canonique sur ℝ^{d} est notée (e_{1}, …, e_{d}) et le produit sclaire usuel < ·, · >. La base du dual est notée (e_{i}^{∗} =< ·, e_{i} >)_{i=1...d}. Pour un vecteur x ∈ ℝ^{d}, x_{1}, …, x_{d} désigneront les composantes de x dans la base canonique.

Si X est une variable (ou vecteur) aléatoire à valeurs dans ℝ^{d} dont les composantes sur la base canonique sont les variables aléatoires réelles X_{1}, …, X_{d} alors l’espérance de X est le vecteur de ℝ^{d} égal à (𝔼(X_{1}), …, 𝔼(X_{d})) et la matrice de covariance de X est la matrice symétrique carrée de taille d dont le coefficient (i, j) est donné par la covariance Cov(X_{i}, X_{j}) de X_{i} et X_{j}. La variance de X est la forme quadratique associée à la matrice de covariance de X. Si X et Y sont deux vecteurs aléatoires de ℝ^{d} alors leur matrice d’intercovariance (ou plus simplement de covariance) est la matrice carrée de taille d dont le coefficient (i, j) est donné par la covariance Cov(X_{i}, Y_{j}) de X_{i} et Y_{j}. Cette matrice n’est pas obligatoirement symétrique. On dira que X et Y sont non corrélées si et seulement si leur matrice d’intercovariance est nulle.

Une probabilité μ sur (ℝ^{d}, B(ℝ^{d})) (ou plus généralement sur un espace euclidien de dimension finie E muni de sa tribu borélienne) est dite gaussienne si et seulement si la mesure image de μ par toute forme linéaire sur ℝ^{d} est une mesure gaussienne sur ℝ. Une mesure μ est dite gaussienne sur ℝ ssi c’est la masse de Dirac en un point ou si c’est une probabilité admettant une densité par rapport à la mesure de Lebesgue de la forme

f_{m,σ^{2}}(x) = \frac{1}{\sqrt{2πσ^{2}}} exp (−\frac{(x − m)^{2}}{2σ^{2}})  (11.0.1)

où m ∈ ℝ et σ^{2} > 0. Les masses de Dirac apparaissent comme des cas dégénérés des mesures gaussiennes à densité pour lesquelles le paramètre σ^{2} dans la définition précédente est nul. Une variable aléatoire X est dite gaussienne ssi sa loi est gaussienne.

1) Montrer que si X est gaussienne réelle non dégénérée (i.e. sa loi n’est pas une masse de Dirac)

dont la densité de la loi est donnée par (11.0.1), alors X admet une moyenne égale à m et une variance égale à σ^{2}. (Pour le deuxième calcul, intégrer par parties ou utiliser le développement de Taylor en zéro de la fonction caractéristique de la gaussienne).

2) Montrer que la matrice de covariance d’une variable aléatoire est une forme quadratique positive.

∑_{ij} 𝔼(X_{i} − \overline{X_{i}})(X_{j} − \overline{X_{j}})x_{i}x_{j} = 𝔼(∑_{i} x_{i}(X_{i} − \overline{X_{i}})^{2} ≥ 0.

3) a) Montrer que si X est gaussienne alors chacune de ses composantes est une variable aléatoire réelle gaussienne.

3) b) Montrer que si X est gaussienne sur ℝ^{d} et si f est une transformation affine de ℝ^{d} dans ℝ^{k} alors la variable aléatoire f(X) est gaussienne. Pour une transformation linéaire c’est évident. Pour une translation, on remarque que a.(X + b) = a.X + a.b est une gaussienne dont la moyenne est translatée de a.b.

4) Montrer que si X est gaussienne alors elle admet des moments de tout ordre (on rappelle que X ∈ ℝ admet un moment d’ordre n ssi chacune de ses composantes sur la base canonique est une variable aléatoire admettant un moment d’ordre n ou ssi ∥ X ∥ est une variable aléatoire réelle admettant un moment d’ordre n).

5)Gaussiennes et fonctions caractéristiques On se donne une variable aléatoire X sur ℝ^{d}. Le but de la question est de montrer que X est gaussienne ssi sa fonction caractéristique ϕ_{X} s’écrit

ϕ_{X}(t) = exp [i < m, t > −\frac{1}{2} < Ct, t >]

où m ∈ ℝ^{d} et C est une matrice symétrique positive.

5) a) Commencer par montrer que dans ce cas la moyenne de X est m et sa matrice de covariance est C.

Solution On peut procéder par identification en effectuant les développements de Taylor à l’ordre 2 des exponentielles. D’une part si X est une variable aléatoire quelconque ayant ses moments d’ordre 2 et 3 bornés on a

ϕ_{X}(t) = 𝔼(e^{it.X}) = 𝔼(1 + it.X − \frac{1}{2}(t.X)^{2}) + o(t^{2}) =

1 + it.𝔼X − \frac{1}{2} ∑_{ij} t_{i}t_{j}𝔼(X_{i}X_{j}) + o(t^{2}) =

1 + it.𝔼X − \frac{1}{2} ∑_{ij} t_{i}t_{j}𝔼(X_{i} − \overline{X_{i}})(X_{j} − \overline{X_{j}}) − \frac{1}{2}(∑_{i} t_{i}𝔼X_{i})^{2} + o(t^{2}).

En développant de même ϕ_{X}(t) à l’ordre 2 pour notre variable particulière :

ϕ_{X}(t) = 1 + it.m − \frac{1}{2} < Ct, t > −\frac{1}{2}(t.m)^{2} + o(t^{2}).

On conclut immédiatement par identification.

5) b) Ensuite, on utilise le théorème d’injectivité de la transformée de Fourier. Pour calculer la fonction caractéristique d’une variable d-dimensionnelle, on pourra montrer et utiliser l’égalité suivante :

ϕ_{X}(αt) = Φ_{<X,t>}(α)

où t ∈ ℝ^{d} et α ∈ ℝ, ce qui permet de se ramener au cas unidimensionnel pour le calcul de la fonction caractéristique d’une gaussienne. La moyenne et la matrice de covariance caractérisent complètement la loi d’une gaussienne : on les appelle les paramètres de la loi gaussienne

6) Existence de lois gaussiennes Etant donné un vecteur m ∈ ℝ^{d} et une matrice symétrique positive C, montrer qu’il existe une unique mesure gaussienne de paramètre (m, C).

Solution La question de l’unicité a été réglée dans la question précédente. Pour l’existence, on remarquera qu’il suffit de prouver l’existence d’une mesure gaussienne de paramètres (0, Id_{d}) et de considérer la variable aléatoire X = m + BX_{0} où X_{0} est une variable gaussienne sur ℝ^{d} de paramètres (0, Id_{d}) (gaussienne standard) et B est une matrice symétrique positive dont le carré est C (théorème spectral des opérateurs auto-adjoints). X est alors une gaussienne de paramètres (m, C) (calculer la fonction caractéristique de X). L’existence de X_{0} est assurée car on sait exhiber la densité d’une gaussienne standard, à savoir

f(x) = \frac{1}{(2π)^{d/2}} exp (− \frac{∥ x ∥^{2}}{2})

On vérifie que la fonction caractéristique associée à cette loi est une gaussienne standard.

7) Pourquoi ne pas avoir démontré le résultat de la question 6) en exhibant comme pour la gaussienne standard une densité pour une gaussienne quelconque ?

Solution Pour une gaussienne quelconque, l’existence d’une densité par rapport à la mesure de Lebesgue n’est pas forcément assurée (cf. la question suivante pour une formulation précise). Remarquer en effet que même si X_{0} est à densité, il n’en est pas forcément de même pour BX_{0} (ce n’est en fait le cas que si B est inversible).

8) Soit X une variable gaussienne de paramètre (m, C).

a) Montrer que si C est définie positive alors X admet une densité par rapport à la mesure de

Lebesgue donnée pour tout x ∈ ℝ^{d} par

f_{m,C}(x) = \frac{1}{\sqrt{(2π)^{d} det(C)}} exp (−\frac{1}{2} ⟨C^{−1}(x − m), (x − m)⟩)

b) Montrer que si C n’est pas définie positive alors X prend presque sûrement ses valeurs dans

l’espace affine m + Im(C) et n’admet en conséquence pas de densité par rapport à la mesure de Lebesgue.

Solution Pour la question a), on utilisera le fait que l’on connait la densité d’une loi gaussienne standard et la transformation introduite dans la question 6) puis on effectuera un changement de variables. Pour la question b), en utilisant la décomposition et les notations de la question 6), remarquer que l’image de B est la même que l’image de C et que X prend ses valeurs dans le sous-espace affine m + Im(B). En fait, on pourrait montrer que X restreint à ce sous-espace admet une densité par rapport à la mesure de Lebesgue sur m + Im(B).

9) Propriétés d’indépendance des gaussiennes Soit X une variable aléatoire gaussienne à valeurs dans ℝ^{d} et ∑_{j=1}^{n} E_{j} une décomposition de ℝ^{d} en somme directe. Si x ∈ ℝ^{d}, on note x^{1}, …, x^{n} les éléments respectifs de E_{1}, …, E_{n} tels que x = x^{1} + … + x^{n}. Ainsi, la variable aléatoire X s’écrit comme X^{1} + … + X^{n} où X^{j} est une variable aléatoire à valeurs dans E_{j}. Alors, les variables aléatoires X^{j} sont gaussiennes. De plus, les X^{j} sont indépendantes si et seulement si elles sont non corrélées deux à deux.

Solution Pour la première implication, utiliser la question 3b). On se concentre maintenant sur la deuxième proposition. Pour la condition nécessaire, remarquer que si X^{j} et X^{k} sont indépendantes, le coefficient (p, q) de la matrice d’intercovariance de X^{j} et X^{k} est donné par Cov(e_{p}^{∗}(X^{j}), e_{q}^{∗}(X^{k})) et que e_{p}^{∗}(X^{j}) et e_{q}^{∗}(X^{k}) sont indépendantes. Pour la condition suffisante, soient (u^{1}, …, u^{n}) des éléments de E_{1} × … × E_{n}. Par hypothèse, puisque X est gaussienne, Y = (< X^{1}, u^{1} >, …, < X^{n}, u^{n} >) est gaussienne sur ℝ^{n} (utiliser la question 4b) avec une fonction affine bien choisie). Remarquer alors que la matrice de covariance de Y est diagonale (utiliser le fait que les X^{j} sont non corrélées deux à deux). On note Y = (Y_{1}, …, Y_{n}) la décomposition de Y sur la base canonique de ℝ^{n}. Montrer que la fonction caractéristique de Y s’écrit comme produit direct des fonctions caractéristiques des Y_{i} : ϕ_{Y} (u) = ∏_{j=1}^{n} ϕ_{Y_{j}}(u_{j}) et en déduire que les (Y_{j})_{j=1,...,n} = (< X^{j}, u^{j} >)_{j=1,...,n} sont indépendantes. En remarquant que

ϕ_{X^{j}}(u^{j}) = Φ_{Y_{j}}(1)

terminer la démonstration.

Remarque 11.0.1. Attention, dans ce théorème, on suppose que X est gaussienne. Sans cette hypothèse, le théorème est faux. On peut très bien avoir deux variables aléatoires réelles gaussiennes de covariance nulle telles que (X, Y) n’est pas gaussien. C’est cependant vrai si l’on ajoute l’hypothèse X et Y indépendantes. Voici un exemple classique, que l’on vérifiera : On pose Z = (X, Y) avec X gaussienne normale centrée et Y = U.X où U est une Bernouilli centrée de valeurs (1, −1) et paramètre \frac{1}{2}. Vérifier que Y est normale centrée. En remarquant que |Y | = |X|, montrer que Y et X ne sont pas indépendantes. Montrer finalement qu’elles ont pourtant décorrélées.

Théorème limite central

Exercice 12.0.1. Développement limité de la fonction caractéristique ([26] p. 323)

Soit X une variable aléatoire à valeurs dans ℝ admettant un moment d’ordre 2. Soit ϕ_{X} sa fonction caractéristique.

1) Montrer que pour tout réel x

exp(ix) = 1 + ix − x^{2} ∫_{0}^{1}(1 − u) exp(iux)du

2) En déduire

|exp(ix) − (1 + ix − x^{2}/2)| ≤ x^{2}

3) En appliquant la même méthode (Taylor avec reste intégral à l’ordre 3), montrer que

|exp(ix) − (1 + ix − x^{2}/2)| ≤ |x|^{3}/6

4) En déduire

|exp(ix) − (1 + ix − x^{2}/2)| ≤ inf(|x|^{2}, |x|^{3}/6)

puis

|ϕ_{X}(t) − (1 + it𝔼(X) − \frac{t^{2}}{2}𝔼(X^{2}))| ≤ t^{2}𝔼 [inf(|X|^{2}, |t||X|^{3}/6)]

Remarquer en particulier le développement limité en o(t^{2}) ainsi obtenu.

Théorème 12.0.1. ([26] p. 325, grande application du théorème de Lévy)) Soit (X_{n})_{n≥1} une suite de variables aléatoires définies sur le même espace de probabilité (Ω, F, ℙ) à valeurs dans ℝ^{d}, i.i.d. et admettant un moment d’ordre 2 (c’est-à-dire dont le carré de la norme euclidienne est intégrable). Alors la suite de terme général Y_{n} défini par

Y_{n} = \frac{1}{\sqrt{n}} ∑_{j=1}^{n}(X_{j} − 𝔼(X_{j}))

converge en loi vers une gaussienne centrée dont la matrice de covariance C est celle des X_{i}.

1) Montrer que la fonction caractéristique de Y_{n} est donnée par

ϕ_{Y_{n}}(t) = [ϕ_{<X_{1}−𝔼(X_{1}),t>} (\frac{1}{\sqrt{n}})]^{n} .

2) En déduire par le lemme précédent le développement asymptotique

ϕ_{Y_{n}}(t) = [1 − \frac{1}{2n}𝔼(< X_{1} − 𝔼(X_{1}), t >^{2}) + o (\frac{1}{n})]^{n} .

3) Montrer que pour tout z ∈ ℂ,

lim_{n→+∞} (1 + \frac{z}{n} + o(\frac{1}{n}))^{n} = exp(z)

(On utilisera le log complexe et un développement limité a l’ordre 1).

Solution On procéder comme suit. D’abord on définit le logarithme complexe pour |z| < 1 par log(1 + z) = z − \frac{z^{2}}{2} + \frac{z^{3}}{3} + . . .. Pour z ∈] − 1, 1[ cette fonction holomorphe coïncide avec log(1 + x) et on a e^{log(1+x)} = 1 + x, x ∈] − 1, 1[. Par le théorème des zéros isolés, on a donc e^{log(1+z)} = 1 + z pour |z| < 1. Enfin on a en considérant le développement en série n log(1 + \frac{z}{n} + o(\frac{1}{n})) → z. Donc en prenant l’exponentielle

e^{n log(1+ \frac{z}{n} +o( \frac{1}{n}))} = (1 + \frac{z}{n} + o(\frac{1}{n}))^{n} → e^{z}

quand n → ∞.

4) En déduire

lim_{n→+∞} ϕ_{Y_{n}}(t) = exp [−\frac{1}{2} < Ct, t >]

5) Conclure par le théorème de Lévy.

Exercice 12.0.2. Théorème central limite ”local” Dans cet exercice, nous suivons [18], pp. 195-196.

Théorème 12.0.2. Soient (X_{n})_{n} des variables aléatoires réelles i.i.d., centrées et de variance égale à 1, admettant une fonction densité intégrable g_{1}. On note ϕ(t) = ϕ_{X}(t) la fonction caractéristique commune des X_{n}. On suppose que cette fonction est intégrable. Alors la fonction densité g_{n} de U_{n} = \frac{X_{1}+···+X_{n}}{\sqrt{n}} existe et satisfait

g_{n}(x) → \frac{1}{\sqrt{2π}} e^{− \frac{1}{2} x^{2}}

quand n → ∞, et la convergence est uniforme pour x ∈ ℝ.

On utilisera systématiquement les résultats de l’exercice précédent.

1) Montrer que g_{n} existe et que g_{n}(x) = \sqrt{n}(g_{1} ∗ ⋯ ∗ g_{1})(x\sqrt{n}). Suggestion : Pour bien apprécier la rapidité de la convergence, il est conseillé de simuler sous Matlab cette convolution itérée, avec par exemple g_{1} = \frac{1}{2}11_{[−1,1]}, ou n’importe quelle autre fonction positive, paire, et d’intégrale égale à 1. On vérifiera pratiquement qu’une forme gaussienne parfaite apparaît pour g_{n} au bout de très peu d’itérations (moins d’une dizaine). Cela permet un développement numérique très simple et très convaincant. Montrer que g_{1} = \frac{1}{2}11_{[−1,1]} ne vérifie pas les hypothèses du théorème, mais que g_{1} ∗ g_{1} les vérifie. En généralisant cet exemple, déduire une forme plus générale du thèorème 12.0.2. On pourra consulter [16] pour avoir une idée plus précise de la vitesse de convergence.

2) On note ψ_{n}(t) la fonction caractéristique de U_{n}. Montrer que ψ_{n}(t) = ϕ(\frac{t}{\sqrt{n}})^{n} puis que g_{n} est donnée par g_{n}(x) = \frac{1}{2π} ∫_{ℝ} e^{−itx}ψ_{n}(t)dt.

3) Montrer que |ϕ(t)| < 1 pour t ≠ 0. Indications : supposer que cela soit faux pour un certain t, poser ϕ(t) = e^{iα} et regarder la partie réelle de l’intégrale de Fourier définissant ϕ(0) − e^{−iα}ϕ(t).

4) Montrer qu’il existe δ tel que |ϕ(t)| ≤ e^{− \frac{1}{4} t^{2}} pour |t| ≤ δ. On utilisera le fait que 1 − t ≤ e^{−t} pour tout réel t.

5) Montrer que pour tout a > 0, ϕ(\frac{t}{\sqrt{n}})^{n} → e^{− \frac{1}{2} t^{2}} uniformément pour t ∈ [−a, a]

6) Montrer que

|g_{n}(x) − \frac{1}{2π} e^{− \frac{1}{2} x^{2}}| ≤ \frac{1}{2π} ∫_{ℝ} |ϕ(\frac{t}{\sqrt{n}})^{n} − e^{− \frac{1}{2} t^{2}}|dt = I_{n}.

7) Montrer que

∫_{a≤|t|≤δ\sqrt{n}} |ϕ(\frac{t}{\sqrt{n}})^{n} − e^{− \frac{1}{2} t^{2}}|dt ≤ 2 ∫_{a}^{∞} 2e^{− \frac{1}{4} t^{2}}dt → 0

quand a → ∞.

8) On traite la partie de l’intégrale I_{n} pour laquelle |t| > δ\sqrt{n}. On pose η = sup_{|t|≥δ} |ϕ(t)| < 1. Montrer que

∫_{|t|≥δ\sqrt{n}} |ϕ(\frac{t}{\sqrt{n}})^{n} − e^{− \frac{1}{2} t^{2}}|dt ≤ η^{n−1} ∫_{ℝ} |ϕ(\frac{t}{\sqrt{n}})dt + 2 ∫_{δ\sqrt{n}}^{∞} e^{− \frac{1}{2} t^{2}} → 0

quand n → ∞.

9) Conclure en utilisant les résultats des questions 5) à 8)

10) En reprenant la démonstration pas à pas et en signalant les (petites) différences dans les formules, montrer que le théorème central limite local est encore vrai pour des variables X_{n} à valeurs dans ℝ^{d}.

Exercice 12.0.3. L’utilisation du théorème de Lévy est la clef de voute de la preuve du théorème limite central. Dans le même genre d’idée, on peut prouver le théorème dit des événements rares ([26] pp. 321-323). La preuve que l’on trouve dans [26], sans être totalement fausse, n’est pas agrégativement acceptable.

Théorème 12.0.3. Théorème des événements rares Soit pour tout n ∈ ℕ^{∗} une famille finie {A_{n,j}|1 ≤ j ≤ M_{n}} d’événements indépendants définis sur un espace probabilisé (Ω, F, ℙ). On pose p_{n,j} = ℙ(A_{n,j}) et on note

S_{n} = ∑_{j=1}^{M_{n}} 11_{A_{n,j}}

On suppose que la suite de terme général M_{n} tend en croissant vers +∞ et que

sup_{1≤j≤M_{n}} p_{n,j} →_{n→+∞} 0, ∑_{j=1}^{M_{n}} p_{n,j} →_{n→+∞} λ

où λ > 0. Alors la suite (S_{n})_{n∈ℕ^{∗}} converge en loi vers la loi de Poisson P(λ) de paramètre λ.

Avant de montrer ce théorème, remarquer qu’il généralise la convergence de la loi binomiale de paramètres (n, p) vers la loi de Poisson de paramètre λ quand np → λ. Ensuite, l’interprétation est la même, mais elle est plus souple et plus adaptée à la modélisation économique. Par exemple, p_{n,j} représente la probabilité que le client potentiel n se présente à une queue de supermarché. Les paramètres n et λ sont observables car ils peuvent être estimés comme le nombre de clients ayant passé à la caisse à un certain moment de la journée, ce nombre étant calculé sur une période très longue. Et λ représente le nombre moyen de clients observés à la caisse à un moment donné de la journée. Bien sûr p_{n,j} n’est pas observable, mais le but est de justifier la validité de la loi de Poisson du nombre de clients passant à la caisse.

1) Montrer que la fonction caractéristique de S_{n} est

ϕ_{S_{n}}(t) = ∏_{j=1}^{M_{n}} [1 + p_{n,j}(exp(it) − 1)]

2) On pose z = exp(it) − 1. Montrer qu’il existe N ≥ 1 tel que pour n ≥ N, et j ∈ {1, …, M_{n}},

1 + p_{n,j}z = exp {log [1 + p_{n,j}z]}

où log désigne une détermination principale du logarithme complexe sur le plan fendu de Cauchy.

3) Montrer que

log(1 + z) = z − z^{2} ∫_{0}^{1}(1 − u)\frac{1}{(1 + uz)^{2}}du, |z| < 1

4) Montrer que pour tout n ≥ N,

|∑_{j=1}^{M_{n}} p_{n,j}^{2} ∫_{0}^{1} \frac{1 − u}{(1 + up_{n,j}z)^{2}}du| ≤ 2 [ sup_{1≤j≤M_{n}} p_{n,j}] [∑_{j=1}^{M_{n}} p_{n,j}]

5) En déduire que ∑_{j=1}^{M_{n}} log(1 + p_{n,j}z) →_{n→+∞} λz.

6) Conclure par le théorème de Lévy. Regarder attentivement la démonstration de [26] et repérer le passage qui n’est pas très clair.

Grandes déviations

Source : [18]

Exercice 13.0.4. Fonction génératrice On appelle transformée de Laplace d’une variable aléatoire X de moyenne μ la fonction M : ℝ → ℝ^{+} définie par M(t) = 𝔼(e^{tX}). Dans toute la suite, on supposera que pour les variables aléatoires considérées, M(t) est définie et bornée dans un intervalle ouvert contenant l’origine.

1) En utilisant le développement en série entière de l’exponentielle, vérifier que

M(t) = ∑_{k=0}^{∞} \frac{𝔼(X^{k})}{k!}t^{k}

sur l’intervalle ouvert où elle est bornée et que

𝔼X = M′(0), 𝔼(X^{k}) = M^{(k)}(0), M′(t) = 𝔼(Xe^{tX}), M′′(t) = 𝔼(X^{2}e^{tX}).

Indication. Soit μ_{X} la loi de X. Ecrire

𝔼(e^{tX}) = ∫_{ℝ} ∑_{k} \frac{t^{k}x^{k}}{k!} dμ_{X} = ∫_{ℝ^{+}} ∑_{k} \frac{t^{k}x^{k}}{k!} dμ_{X} + ∫_{ℝ^{−}} ∑_{k} \frac{t^{k}x^{k}}{k!} dμ_{X}.

On peut intervertir intégration et sommation dans le premier terme de droite grâce au théorème de la convergence monotone (Beppo-Levi) et on peut intervertir dans le second terme parce que la série est alternée et donc uniformément convergente.

2) On pose Λ(t) = log M(t) la Log-Laplace de X. Montrer que

Λ(0) = log M(0) = 0, Λ′(0) = \frac{M′(0)}{M(0)} = μ.

3) Sur son intervalle de définition, Λ(t) est convexe. Plus précisément, montrer en utilisant l’inégalité de Cauchy-Schwartz que

Λ′′(t) = \frac{M(t)M′′(t) − M′(t)^{2}}{M(t)^{2}} ≥ 0.

4) On rappelle que l’inégalité de Cauchy-Schwartz (E(XY))^{2} ≤ E(X^{2})E(Y^{2})) ne devient une égalité que s’il existe λ tel que X = λY. En déduire que si X est de variance non nulle, alors Λ(t) est strictement convexe sur son intervalle de définition.

5) On définit la transformée de Fenchel-Legendre de Λ par

Λ^{∗}(a) = sup_{t∈ℝ}(at − Λ(t)), a ∈ ℝ.

Montrer que Λ^{∗} est convexe.

Exercice 13.0.5. Notre but est de montrer l’estimation de grande déviation suivante :

Théorème 13.0.4. Soient X_{1}, X_{2},... des variables i.i.d. de moyenne μ et telles que M(t) = 𝔼(e^{tX}) soit fini dans un intervalle ouvert contenant 0. On pose S_{n} = (X_{1} + ⋯ + X_{n}). Soit a > μ tel que ℙ(X > a) > 0. Alors Λ^{∗}(a) > 0 et

−\frac{1}{n} log ℙ(S_{n} > an) → Λ^{∗}(a) quand n → ∞.

Faisons le point : la loi des grands nombres nous dit que \frac{1}{n}S_{n} → μ presque sûrement. Le théorème central limite nous dit que les déviations typiques de S_{n} − nμ sont de l’ordre de c\sqrt{n}. Donc, les probabilités ℙ(S_{n} − μ) ≥ n^{α}) avec α > \frac{1}{2} sont petites et le théorème nous donne une estimation asymptotique précise de cette petitesse pour α = 1.

PREMIÈRE PARTIE

1) Montrer que l’on peut supposer sans perte de généralité que μ = 0 : on supposera le théorème démontré pour μ = 0 et si ce n’est pas le cas, on remplacera X_{i} par X_{i} − μ.

2) En changeant X_{i} en −X_{i} et en appliquant le théorème, donner aussi la limite de \frac{1}{n} log ℙ(S_{n} < na), pour a < μ.

3) On va montrer que Λ^{∗}(a) > 0. Soit σ^{2} = var(X). Montrer que

at − Λ(t) = log(\frac{e^{at}}{M(t)}) = log \frac{1 + at + o(t)}{1 + \frac{1}{2}σ^{2}t^{2} + o(t^{2})}

pour t petit et en déduire que Λ^{∗}(a) > 0.

4) Déduire de Λ′(0) = E(X) = 0 que

Λ^{∗}(a) = sup_{t>0}(at − Λ(t)), a > 0.

5) Dans cette question et les suivantes, on procède comme pour l’inégalité de Hoeffding. Remarquer que e^{tS_{n}} > e^{nat}11_{S_{n}>na} et en déduire que

ℙ(S_{n} > na) ≤ e^{−n(at−Λ(t))}.

6) En déduire que

\frac{1}{n} log ℙ(S_{n} > na) ≤ − sup_{t>0}(at − Λ(t)) = −Λ^{∗}(a).

Cette majoration donne la ”moitié” du théorème ; il va falloir maintenant minorer.

DEUXIÈME PARTIE Dans cette partie, on va faire une hypothèse sur Λ^{∗} qui est vérifiée en pratique.

Définition 13.0.1. On dira qu’on est dans le cas ”régulier” en a si le maximum définissant Λ^{(}a) est atteint dans l’intérieur de l’intervalle de définition de M(t). On notera τ = τ(a) cette valeur de t.

Soit T := sup{t, M(t) < ∞.}.

1) Vérifier que

Λ^{∗}(a) = aτ − Λ(τ), Λ′(τ) = a.

2) On note F (u) = ℙ(X ≤ u) la fonction distribution de X. On va lui associer une fonction auxiliaire par un ”changement exponentiel de distribution” défini comme suit. On pose dF̃(u) = \frac{e^{τu}}{M(τ)}dF (u), ou en d’autres termes,

F̃(y) = \frac{1}{M(τ)} ∫_{−∞}^{y} e^{τu}dF (u).

On considère X̃_{1}, X̃_{2}, … des variables aléatoires indépendantes ayant toutes F̃ comme distribution et on pose S̃_{n} = X̃_{1} + ⋯ + X̃_{n}.

3) En utilisant la formule générale M(t) = 𝔼(e^{tX}) = ∫_{ℝ} e^{tu}dF (u), montrer que

M̃(t) = \frac{M(t + τ)}{M(τ)}.

4) En déduire que

𝔼(X̃_{i}) = M̃′(0) = a,
var(X̃_{i}) = 𝔼(X̃_{i}^{2}) − 𝔼(X̃_{i})^{2} = M̃′′(0) − M̃′(0)^{2} = Λ′′(τ).

5) Montrer que la transformée de Laplace de S̃_{n} est

(\frac{M(t + τ)}{M(τ)})^{n} = \frac{1}{M(τ)^{n}} ∫_{ℝ} e^{(t+τ)u}dF_{n}(u),

où F_{n} est la fonction de distribution de S_{n}. En déduire que la fonction de distribution F̃_{n} de S̃_{n} vérifie

dF̃_{n}(u) = \frac{e^{τu}}{M(τ)^{n}} dF_{n}(u).

6) Soit b > a. Déduire de la question précédente que

ℙ(S_{n} > na) ≥ e^{−n(τb−Λ(τ))}ℙ(na < S̃_{n} < nb).

7) En utilisant le fait que la moyenne des X̃_{i} est a et le théorème central limite et la loi des grands nombres, montrer que ℙ(na < S̃_{n} < nb) → \frac{1}{2}. Déduire de ce fait et de la question précédente que

lim inf_{n→∞} \frac{1}{n} log ℙ(S_{n} > na) ≥ −(τb − Λ(τ)) → −Λ^{∗}(a) quand b → a.

TROISIÈME PARTIE

1) On se place sous les mêmes hypothèses que dans la deuxième partie, sauf que l’on considère maintenant le cas non régulier. Pour se ramener au cas régulier, on fixe c > a et on pose X^{c} = inf(X, c). On note M^{c}(t) la transformée de Laplace associée et on pose Λ^{c}(t) = log M^{c}(t).

2) Montrer que M^{c}(t) < ∞ pour tout t > 0, que 𝔼(X^{c}) → 0 quand c → ∞ et que 𝔼(X^{c}) ≤ 0.

3) Montrer qu’il existe b ∈]a, c[ tel que ℙ(X > b) > 0 et en déduire que

at − Λ^{c}(t) ≤ at − log(e^{tb}ℙ(X > b)) → −∞ quand t → ∞.

4) En conclure que la suite X_{i}^{c} est dans le ”cas régulier” de la partie précédente c’est à dire que le sup de at − Λ^{c}(t) pour t > 0 est atteint en une valeur τ^{c} ∈]0, ∞[, et finalement que

\frac{1}{n} log ℙ(∑_{i=1}^{n} X_{i}^{c} > na) → −(Λ^{c})^{∗}(a) quand t → ∞.

(On pose Λ^{c^{∗}} := sup_{t>0}(at − Λ^{c}(t)) = aτ^{c} − Λ^{c}(τ^{c})).

5) Montrer que Λ^{c∗}(a) ↓ Λ^{∞∗} quand c → +∞. et que 0 ≤ Λ^{∞∗} < ∞.

6) Montrer que

\frac{1}{n} log ℙ (S_{n} > na) ≥ \frac{1}{n} log ℙ (∑_{i=1}^{n} X_{i}^{c} > a) .

7) Expliquer pourquoi il suffit, pour conclure le théorème dans le cas irrégulier, de montrer que Λ^{∞∗} ≤ Λ^{∗}(a).

8) Pour montrer cette dernière relation, procéder comme suit : Montrer que l’ensemble I_{c} = {t ≥ 0, at−Λ^{c}(t) ≥ Λ^{∞∗}} est non vide. Montrer que I_{c} est un intervalle fermé compact. Montrer que les intervalles I_{c} sont emboîtés quand c croît et en déduire qu’il existe ζ ∈ ∩_{c>a}I_{c}. Montrer finalement que Λ^{c}(ζ) → Λ(ζ) quand c → ∞ et que aζ − Λ(ζ) = lim_{c→∞}(aζ − Λ^{c}(ζ)) ≥ Λ^{∞∗}. Conclure.

Espérance conditionnelle

Dans ce chapitre, (Ω, F, ℙ) désignera un espace probabilisé et G sera une sous-tribu de F. Nous donnerons pour simplifier la notion d’espérance conditionnelle en dimension 1 (variables aléatoires réelles). Bien entendu, tout ceci se généralise sans peine au cas multidimmensionnel (vecteurs aléatoires).

14.1 Introduction : variables aléatoires discrètes

On se donne deux variables aléatoires discrètes X et Z à valeurs dans ℤ à support fini. L’idée intuitive de probabilité conditionnelle nous amène à prendre pour valeur de la “probabilité de {X = i} sachant {Z = j}” la quantité suivante

ℙ(X = i|Z = j) = \frac{ℙ(X = i, Z = j)}{ℙ(Z = j)}

pour j appartenant au support de Z. Si j n’appartient pas au support de Z, cette définition n’a pas de sens. Par suite, l’espérance de X sachant {Z = j} sera définie comme

𝔼(X|Z = j) = ∑_{i∈ℤ}iℙ(X = i|Z = j)

Définissons maintenant l’espérance conditionnelle de X sachant Z comme la variable aléatoire Y (ω) = 𝔼(X|Z)(ω) donnée par

Y (ω) = ∑_{j} 11_{Z^{−1}({j})}(ω)𝔼(X|Z = j)

En particulier, si ω n’appartient pas au support de Z, Y (ω) = 0.

1) Remarquons que pour tout borélien B ∈ σ(Z), c’est-à-dire B ⊂ P(Z^{−1}({z}) ; z ∈ Support(Z)), on a

𝔼(Y 11_{B}) = 𝔼(X11_{B})

2) Y est σ(Z) mesurable.

La question qui se pose est de savoir comment généraliser cette notion d’espérance conditionnelle lorsque Z n’est pas à valeurs discrètes. En particulier, on remarqura que si Z est à densité, l’événement {Z = z} est pour tout réel z de probabilité nulle si bien que la définition même de probabilité conditionnelle devient délicate. La première idéee consisterait à approximer l’événement {Z = z} par lim_{ε→0}{Z ∈ (z − ε; z + ε)} et l’on peut effectivement procéder ainsi mais cela devient assez vite compliqué. On va procéder tout autrement.

14.2 Théorème d’existence et d’unicité

Théorème 14.2.1. Soit X une variable aléatoire sur (Ω, F, ℙ) intégrable. Il existe une variable aléatoire Y telle que :

1) Y est G-mesurable.

2) 𝔼(|Y |) < +∞.

3) ∀G ∈ G, ∫_{G} Y dℙ = ∫_{G} Xdℙ.

De plus, si Ỹ est une autre variable aléatoire vérifiant ces trois propriétés alors Y = Ỹ ℙ p.s. On parlera alors de Y comme d’une version de l’espérance conditionnelle 𝔼(X|G) qui est un élément de L^{1}(Ω, G, ℙ). Par abus de langage, on parlera de Y (ou toute autre version) comme de l’espérance conditionnelle de X sachant G.

Avant d’entamer la preuve de l’existence de l’espérance conditionnelle, faisons quelques remarques.

Remarque 14.2.1. Si l’on veut prouver 3), on peut se restreindre à montrer l’égalité pour des G qui appartiennent à un π-système contenant Ω et générant G (Théorème de la classe monotone). D’autre part, si on a 3), par le théorème de la classe monotone, on a aussi que

𝔼(Y U) = 𝔼(XU)

pour toute variable aléatoire U qui est G-mesurables bornée. Dans la démonstration, nous aurons besoin de considérer les espaces quotients 𝕃^{2}(Ω, G, ℙ) et 𝕃^{2}(Ω, F, ℙ). On a bien sûr l’inclusion triviale L^{2}(Ω, G, ℙ) ⊂ L^{2}(Ω, F, ℙ). Cette inclusion passe au quotient puisque si X, Y ∈ L^{2}(Ω, G, ℙ) définissent le même élément dans 𝕃^{2}(Ω, G, ℙ), c’est que {Y ≠ X} ∈ G est de ℙ probabilité nulle donc que X et Y définissent aussi le même élément dans 𝕃^{2}(Ω, F, ℙ). D’autre part, 𝕃^{2}(Ω, G, ℙ) est fermé dans 𝕃^{2}(Ω, F, ℙ).

Démonstration. (du théorème (14.2.1)). Existence : On commence par traiter le cas où X admet un moment d’ordre 2. 𝕃^{2}(Ω, G, ℙ) est un sev complet de 𝕃^{2}(Ω, F, ℙ) pour la norme ∥ · ∥_{2} dérivant du produit-scalaire noté < ·, · >. On désigne alors par Y la projection orthogonale de X sur 𝕃^{2}(Ω, G, ℙ). Par définition de la projection orhogonale,

∀Z ∈ 𝕃^{2}(Ω, G, ℙ), < X − Y, Z >= 0

donc 𝔼(X11_{G}) = 𝔼(Y 11_{G}) pour tout G ∈ G. Ceci prouve l’existence de l’espérance conditionnelle pour les variables aléatoires ayant des moments d’ordre 2. Passons maintenant au cas général. Soit X ∈ 𝕃^{1}(Ω, F, ℙ). En l’écrivant comme différence de sa partie positive et de sa partie négative : X = X^{+} − X^{−}, il est clair que l’on peut se ramener au cas où X est positive. On suppose donc maintenant que X est positive. Soit pour tout entier n, X_{n} = X ∧ n ∈ 𝕃^{2}. On peut donc par ce qui précède prendre son espérance conditionnelle par rapport à G, Y_{n} = 𝔼(X_{n}|G). D’autre part, X_{n} tend simplement en croissant vers X et on va voir que de même, (Y_{n})_{n} tend en croissant vers une certaine limite Y.

Lemme 14.2.1. 0 ≤ Y_{n} ≤ Y_{n+1}, ℙ p.s.

Démonstration. On prouve que si U ≥ 0 admet un moment d’ordre 2 alors W = 𝔼(U|G) ≥ 0. Si ℙ(W < 0) > 0 alors il existe n tel que ℙ(W < −1/n) > 0 et {W < −1/n} ∈ G donc

0 ≤ 𝔼(U11_{W <−1/n}) = 𝔼(W 11_{W <−1/n}) ≤ −1/n

ce qui est exclu. On en déduit immédiatement le lemme (par linéarité de l’espérance conditionnelle sur 𝕃^{2}(Ω, F, ℙ)). □

On pose Y = lim sup Y_{n} qui est G-mesurable. Pour tout G ∈ G,

𝔼(Y 11_{G}) = lim_{n→∞} 𝔼(Y_{n}11_{G}) par convergence monotone
= lim_{n→∞} 𝔼(X_{n}11_{G})
= 𝔼(X11_{G}) par convergence monotone

En particulier, avec G = Ω, 𝔼(Y) = 𝔼(X) < +∞. Unicité : Soit Y et Ỹ deux variables aléatoires vérifiant 1), 2) et 3). On veut montrer que Y = Ỹ, ℙ presque sûrement. On a donc :

∀G ∈ G, 𝔼(11_{G}(Y − Ỹ)) = 0

Si ℙ(Y = Ỹ) < 1 alors quitte à permuter Y et Ỹ, on a

ℙ(Y > Ỹ) > 0

Or lim_{n→∞} ℙ(Y − Ỹ > 1/n) = ℙ(Y > Ỹ) et il existe donc n tel que ℙ(Y − Ỹ > 1/n) > 0. Mais G_{n} = {Y − Ỹ > 1/n} ∈ G par 1) donc

𝔼(11_{G_{n}}(Y − Ỹ)) = 0 ⇒ \frac{1}{n}ℙ(Y − Ỹ > 1/n) ≤ 0 : exclu

Ceci conclut la preuve de l’unicité et du théorème. □

Remarque 14.2.2. 1) Quand on considère au lieu de G la tribu engendrée par une variable aléatoire Z (resp. une famille de variables aléatoires (Z_{i})_{i∈I}), il est d’usage de noter l’espérance conditionnelle de X sachant σ(Z) par 𝔼(X|Z) (resp. 𝔼(X|Z_{i}, i ∈ I)).

2) On remarquera que 𝔼(X|Z) est σ(Z)-mesurable donc elle s’écrit sous la forme f(Z) où f est une certaine fonction borélienne.

14.3 Variables à densité

Soit X et Z deux variables aléatoires réelles (pour simplifier les écritures) telles qu’elles aient une densité jointe f_{X,Z}(x, z). On rappelle que X (resp. Z) a alors une densité notée f_{Z}(z) = ∫ f_{X,Z}(x, z)dx (resp. f_{X}(x) = ∫ f_{X,Z}(x, z)dz). On pose alors

f_{X|Z}(x|z) = 11_{f_{Z}(z)≠0} \frac{f_{X,Z}(x, z)}{f_{Z}(z)}

Soit h une fonction borélienne (bornée pour simplifier) ; quelle est l’espérance conditionnelle de h(X) sachant Z? Si g est une fonction borélienne bornée, par le théorème de Fubini, on a la suite d’égalités suivantes :

𝔼(h(X)g(Z)) = ∫ h(x)g(z)f_{X,Z}(x, z)dxdz
= ∫_{ℝ^{2}} g(z)f_{Z}(z)f_{X|Z}(x, z)h(x)dxdz
= ∫_{ℝ} g(z)f_{Z}(z) (∫_{ℝ} f_{X|Z}(x, z)h(x)dx)
= 𝔼(g(Z)θ(Z))

où θ(z) = ∫_{ℝ} f_{X|Z}(x, z)h(x)dx. On a donc prouvé que

𝔼(h(X)|Z)(ω) = θ(Z(ω)) = ∫_{ℝ} f_{X|Z}(x, Z(ω))h(x)dx

14.4 Variables discrètes

En se reportant à la section 1, on vérifiera sans peine que si X et Z sont deux variables aléatoires discrètes à valeurs dans ℤ, on a :

𝔼(X|Z) = ∑_{j} j (∑_{i} 11_{Z=i}ℙ(X = j|Z = i))

Le terme

∑_{j} j11_{{Z=i}}ℙ(X = j|Z = i)

est souvent noté

𝔼(X|Z = i)

14.5 Noyaux et lois conditionnelles

Ce paragraphe est tiré de [26] et donné sans la démonstration des propriétés. On s’y reportera pour de plus amples détails (mais ce qui est ici doit être su). La notion de loi conditionnelle est plus profonde que celle d’espérance conditionnelle qui n’est d’ailleurs que “l’espérance par rapport à la loi conditionnelle”. (E, E) et (F, F) sont deux espaces probabilisés (qui seront ici en fait des (ℝ^{k}, B(ℝ^{k}))).

Définition 14.5.1. ν : E × F → [0, 1] est un noyau (ou probabilité) de transition si il satisfait :

1. ∀x ∈ E, ν(x, ·) est une probabilité sur (F, F).

2. ∀B ∈ F, ν(·, B) est E-mesurable.

Définition 14.5.2. Si X ∈ ℝ^{d} et Y ∈ ℝ^{k} sont deux variables aléatoires, on appelle loi conditionnelle de Y sachant X un noyau ν sur (ℝ^{d} × B(ℝ^{k})) tel que :

ℙ_{(X,Y)} = ℙ_{X} · ν

c’est-à-dire

ℙ(X ∈ A; Y ∈ B) = ∫_{x∈A} ν(x, B)dℙ_{X}(x)

On notera, et ce n’est qu’une notation, un tel noyau ν de la manière suivante :

ν(x, B) = ℙ(Y ∈ B|X = x) ou ν(x, B) = ℙ_{Y} (B|X = x)

Remarquer par exemple que si X est à densité, {X = x} est un ensemble de probabilité nulle. Il est donc hors de question de la définir par :

ℙ(Y ∈ B|X = x) = \frac{ℙ(Y ∈ B; X = x)}{ℙ(X = x)}

Cependant cette formule est vraie dans le cas où ℙ(X = x) ≠ 0.

Il reste à savoir quand on a l’existence de lois conditionnelles. La réponse à cette question est apportée par le théorème non trivial suivant.

Théorème 14.5.1. : théorème de Jirina Si X et Y sont deux variables aléatoires à valeurs dans des (ℝ^{k}, B(ℝ^{k})) alors il existe toujours une loi conditionnelle de Y sachant X.

Le théorème suivant est une généralisation du théorème de Fubini dans le cadre conditionnel.

Théorème 14.5.2. Soit (X, Y) une variable aléatoire à valeurs dans un espace probabilisable quelconque (E × F, E ⊗ F) telle qu’existe une loi conditionnelle ℙ(Y ∈ ·|X = ·) de Y sachant X. Soit f une application mesurable de l’espace probabilisable (E × F, E ⊗ F) dans (ℝ̄, B(ℝ̄)).

a) Si f est positive, l’application x → ∫_{F} f(x, y)dℙ_{Y} (dy|X = x) est E-mesurable et on a :

∫_{E×F} f(x, y)dℙ_{(X,Y)}(x, y) = ∫_{E} [∫_{F} f(x, y)dℙ_{Y} (dy|X = x)] dℙ_{X}(x)

b) Si f est de signe quelconque et ℙ_{(X,Y)}-intégrable, pour ℙ_{X} presque tout x, l’application partielle f(x, ·) est ℙ_{Y} (·|X = x)-intégrable, et l’application définie ℙ_{X}-presque sûrement par x → ∫_{F} f(x, y)dℙ_{Y} (dy|X = x) est ℙ_{X}-intégrable et l’égalité précédente est encore vraie.

Il est alors aisé d’établir le corrolaire suivant.

Proposition 14.5.1. (Propriété de transfert conditionnel) Si X ∈ ℝ^{p} et Y ∈ ℝ^{k} sont deux variables aléatoires et f : ℝ^{p+k} → ℝ^{q} borélienne, alors

ℙ(f(X, Y) ∈ ·|X = x) = ℙ(f(x, Y) ∈ ·|X = x)

En particulier, si X et Y sont indépendantes, on a

ℙ(f(X, Y) ∈ ·|X = x) = ℙ(f(x, Y) ∈ ·)

Terminons par une définition avant de faire le lien avec l’espérance conditionnelle.

Définition 14.5.3. Soit Y une variable aléatoire et (X_{1}, …, X_{n}) une suite finie de variables aléatoires. On dira que relativement à Y = y les variables aléatoires (X_{1}, …, X_{n}) ont pour loi μ_{y} (probabilité sur ℝ^{n} dépendant de y) ssi il existe une loi conditionnelle de (X_{1}, …, X_{n}) relativement à Y telle que ℙ_{Y} p.s.

ℙ_{(X_{1},...,X_{n})}(·|Y = y) = μ_{y}(·)

En particulier, on dira que (X_{1}, …, X_{n}) sont indépendantes conditionnellement à Y = y ssi la loi conditionnelle de (X_{1}, …, X_{n}) relativement à Y est une loi produit.

L’espérance conditionnelle de la variable aléatoire X relativement à une autre variable aléatoire Y est

𝔼(X|Y)(ω) = ∫_{ℝ} xdℙ_{X}(dx|Y = Y (ω))

Il suffit en effet de remarquer que la fonction définie par le membre de droite vérifie les propriétés caractéristiques de l’espérance conditionnelle. L’espérance conditionnelle apparaît donc comme “l’espérance relativement à la loi conditionnelle”.

14.6 TD Probabilités : Espérance conditionnelle

Exercice 14.6.1. Les propriétés fondamentales : les lire ([30] p. 88 et la dernière page) Soit (Ω, F, ℙ) un espace de probabilité. On suppose que X, F-mesurable, vérifie 𝔼|X| < ∞. G et H sont des sous-tribus de F. On rappelle qu’il existe une unique v.a. G-mesurable et sommable, notée 𝔼(X|G) telle que

∀G ∈ G, ∫_{G} 𝔼(X|G)dℙ = ∫_{G} Xdℙ.  (14.6.1)

(L’unicité est vraie modulo un ensemble de mesure nulle). De manière plus condensée :

∀G ∈ G, 𝔼(𝔼(X|G); G) = E(X; G),

où E(X; G) = ∫_{G} Xdℙ.

(a) On pose Y = 𝔼(X|G), alors 𝔼(Y) = 𝔼(X).

(b) Si X est G-mesurable, alors 𝔼(X|G) = X p.p.

(c) Linéarité 𝔼(aX_{1} + a_{2}X_{2}|G) = a_{1}𝔼(X_{1}|G) + a_{2}𝔼(X_{2}|G), p.p.

(d) Positivité Si X ≥ 0, alors 𝔼(X|G) ≥ 0, p.p.

(e) C-Convergence monotone Si 0 ≤ X_{n} ↑ X, alors 𝔼(X_{n}|G) ↑ 𝔼(X|G), p.p.

(f) C-Fatou Si X_{n} ≥ 0, alors 𝔼(lim inf X_{n}|G) ≤ lim inf 𝔼(X_{n}|G), p.p.

(g) C-Convergence dominée Si ∀n |X_{n}(ω)| ≤ V (ω), 𝔼V < ∞ et X_{n} → X p.p., alors

𝔼(|X_{n} − X| |G) → 0, p.p.

(Par Jensen juste après, on déduit que 𝔼(X_{n} |G) → 𝔼(X |G), p.p.

(h) C-Jensen Si c : ℝ → ℝ est convexe et 𝔼|c(X)| < ∞, alors

𝔼(c(X)|G) ≥ c(𝔼(X|G)), p.p.

Corollaire : ||𝔼(X|G)||_{p} ≤ ||X||_{p}.

(i) Emboitement Si H est une sous-tribu de G, alors

𝔼(𝔼(X|G)|H) = 𝔼(X|H), p.p.

(j) ”Sortir ce qui est connu” Si Z est G-mesurable et bornée, alors 𝔼(ZX|G) = Z𝔼(X|G), p.p. .

Généralisations : encore vrai si X ∈ L^{p} et Z ∈ L^{p′}, ou si X ∈ (mF)^{+}, Z ∈ (mG)^{+}, 𝔼(X) < ∞ et 𝔼(ZX) < ∞.

(k) Rôle de l’indépendance Si H est indépendant de σ(σ(X), G), alors 𝔼(X|σ(G, H)) = 𝔼(X|G), p.p.

En particulier, si X est indépendant de H, alors 𝔼(X|H) = E(X). Exercice 14.6.2. Les propriétés fondamentales : les démontrer ([30] p. 89, 90)

(a) Provient de la relation fondamentale (14.6.1) appliquée à G = Ω.

(b) Découle de l’unicité de la fonction G-mesurable satisfaisant (14.6.1), i.e. de l’unicité de l’espérance conditionnelle.

(c) De même (expliquer !).

(d) Considérer l’ensemble G = \{𝔼(X|G) < −\frac{1}{n}\} et appliquer la relation fondamentale.

(e) Poser Y = lim sup 𝔼(X_{n}|G), montrer qu’elle est G-mesurable, qu’elle est la limite presque partout des 𝔼(X_{n}|G). Montrer que lim_{n} 𝔼(𝔼(X_{n}|G); G) = 𝔼(Y; G) et conclure.

(f) Reprendre la démonstration qui dérive le lemme de Fatou du théorème de converge monotone pour déduire C-Fatou de C-convergence monotone. (Poser Y_{n} = 𝔼(X_{n}, G), puis Z_{n} = inf_{k≥n} Y_{n} et lui appliquer C-monotone.)

(g) Reprendre la démonstration qui déduit le théorème de convergence monotone du lemme de Fatou pour déduire C-convergence dominée de C-Fatou. (h)

(h1) Soit c : ℝ → ℝ convexe. Montrer qu’il existe une suite dénombrable (a_{n}, b_{n})_{n} ∈ ℝ^{2} telle que

c(x) = sup_{n}(a_{n}x + b_{n}), x ∈ ℝ.

(Remarquer que c est continue, d’épigraphe donc fermé, et utiliser par exemple Hahn-Banach : Il y a un hyperplan séparant tout point n’appartenant pas à un convexe fermé de ce convexe).

(h2) Déduire que

𝔼(c(X)|G) ≥ a_{n}𝔼(X|G) + b_{n}

et conclure. Pour montrer l’extension de (h), prendre c(x) = |x|^{p}.

(i) A vous !

(j) La propriété est linéaire : Appliquer la ”machine standard”, c’est-à-dire montrer que la propriété est vraie quand Z est une fonction indicatrice d’élément G de G, puis une fonction en escalier positive, puis une fonction G-mesurable positive quelconque, puis une fonction G-mesurable quelconque telle que 𝔼(|ZX|) < ∞. Vérifier que la preuve s’applique aux généralisations indiquées.

(k) Supposer s.p.d.g. que X ≥ 0 et 𝔼(X) < ∞.

(k1) Montrer que si G ∈ G et H ∈ H, alors

𝔼(X; G ∩ H) = E(X11_{G})ℙ(H).

(k2) Poser Y = 𝔼(X|G). Montrer que

𝔼((Y 11_{G})11_{H}) = 𝔼(Y 11_{G})ℙ(H).

(k3) Déduire que les mesures F → 𝔼(X; F) et F → 𝔼(Y; F) définies sur σ(G, H) coïncident sur le π-système des ensembles de la forme G ∩ H (G ∈ H), H ∈ H) et donc sur σ(G, H). Conclure.

Exercice 14.6.3. Comprendre de quoi on parle Soit (Ω, F, ℙ) un espace de probabilité et A_{1}, …, A_{n} une partition de Ω en ensembles mesurables et G la sous-tribu engendrée par ces ensembles. Décrire cette tribu et calculer E(X|G), pour X F-mesurable.

Exercice 14.6.4. Lois de Bernoulli et uniforme ([26] Ex. 11.2 p.171) Soient n variables aléatoires X_{1}, X_{2}, …, X_{n} indépendantes de même loi de Bernoulli de paramètre p ∈ (0, 1). On note X le vecteur aléatoire X = (X_{1}, X_{2}, …, X_{n}) à valeurs dans {0, 1}^{n} et S_{n} = ∑_{i=1}^{n} X_{i}. Montrer que conditionnellement à S_{n} = s, le vecteur X est réparti selon une loi uniforme sur l’hyperplan {(k_{1}, k_{2}, …, k_{n})| ∑_{i=1}^{n} k_{i} = s} pour 0 ≤ s ≤ n.

Exercice 14.6.5. Application importante Soient X_{1}, X_{2}, … X_{n} des variables aléatoires i.i.d. sommables et S_{n} = X_{1} + … + X_{n}. On va

montrer que 𝔼(X_{1}|S_{n}) = ⋯ = 𝔼(X_{n}|S_{n}) = \frac{S_{n}}{n}. On pose

G_{n} = σ(S_{n}, S_{n+1}, …) = σ(S_{n}, X_{n+1}, X_{n+2}, …).

1) Montrer en utilisant (k) que

𝔼(X_{1}|G_{n}) = 𝔼(X_{1}|S_{n}).

2) Montrer que 𝔼(X_{1}|S_{n}) = ⋯ = 𝔼(X_{n}|S_{n}). (On montrera que pour tout borélien B, 𝔼(X_{1}; S_{n} ∈ B) = ⋯ = 𝔼(X_{n}; S_{n} ∈ B).)

3) En déduire que

𝔼(X_{1}|S_{n}) = ⋯ = 𝔼(X_{n}|S_{n}) = \frac{1}{n}𝔼(X_{1} + ⋯ + X_{n}|S_{n}) = \frac{1}{n}S_{n}.

Exercice 14.6.6. Densités conditionnelles 1 Théorème 14.6.1. (rappel ([30] p. 87) et application : [7] p. 212). Soient X et Z deux v.a. qui ont une densité de probabilité jointe f_{X,Z}(x, z). Alors f_{Z}(z) = ∫_{ℝ} f_{X,Z}(x, z)dx est une densité de probabilité pour Z. On définit la densité conditionnelle f_{X|Z} de X sachant Z par

f_{X|Z}(x|z) := \frac{f_{X,Z}(x, z)}{f_{Z}(z)} si f_{Z}(z) ≠ 0, = 0 sinon.

On pose alors

g(z) := ∫_{ℝ} h(x)f_{X|Z}(x|z)dx.

Alors l’espérance conditionnelle de h(X) sachant σ(Z) est égale à g(Z) :

𝔼(h(X)|σ(Z)) = g(Z) = ∫_{ℝ} h(x)f_{X|Z}(x|Z)dx.

Soient X, Y, Z trois variables aléatoires réelles telles que

1) X est uniformément répartie sur [0, 1] ;

2) Sachant que X = x, Y admet une densité conditionnelle f_{Y |X}(y|x) donnée par

f_{Y |X}(y|x) = \begin{cases}(y − x)e^{−(y−x)} si y > x \\ 0 sinon \end{cases}

3) Sachant que X = x et Y = y, Z admet une densité conditionnelle f_{Z|(X,Y)}(z|(x, y)) définie par

f_{Z|(X,Y)}(z|(x, y)) = \begin{cases}(y − x)e^{−z(y−x)} si z > 0 \\ 0 sinon \end{cases}

pour (x, y) ∈ A = {(x, y) ∈ ℝ^{2}|x ∈ [0, 1] et y > x}.

1) Montrer que (X, Y, Z) admet une densité sur ℝ^{3} donnée par

f_{(X,Y,Z)}(x, y, z) = (y − x)^{2}e^{−(y−x)(z+1)}11_{B}(x, y, z)

où B = {(x, y, z) ∈ ℝ^{3}|x ∈ [0, 1], y > x, z > 0}.

2) Montrer que la loi de Z est donnée par la densité

f_{Z}(z) = \frac{2}{(z + 1)^{3}}11_{z>0}

3) Montrer que la loi conditionnelle de (X, Y) sachant Z = z est donnée par la densité conditionnelle

f_{(X,Y)|Z}((x, y)|z) = \frac{1}{2}(z + 1)^{3}(y − x)^{2}e^{−(y−x)(z+1)}11_{A}(x, y)

4) Calculer 𝔼(\sqrt{Y − X}|Z = z), puis 𝔼(\sqrt{Y − X}).

5) On pose U = Y − X et V = Z(Y − X). Montrer que (X, U, V) admet pour densité

f_{(X,U,V)}(x, u, v) = 11_{[0,1]}(x)ue^{−u}11_{u>0,v>0}

6) X, U, V sont-elles indépendantes ?

Exercice 14.6.7. Densités conditionnelles 2 Soient X_{1}, …, X_{n} des variables aléatoires i.i.d. de densité commune f(x) et de fonction de

répartition F (x) = ∫_{−∞}^{x} f(u)du. On pose

Y = max(X_{1}, …, X_{n}) et Z = min(X_{1}, …, X_{n}).

1) En remarquant que F_{Y,Z}(y, z) = ℙ(Y ≤ y) − ℙ(Y ≤ y, Z > z), montrer que

F_{Y,Z}(y, z) = F (y)^{n} − (F (y) − F (z))^{n} si y ≥ z,
et F_{Y,Z}(y, z) = F (y)^{n} si y < z.

2) En déduire que

f_{Y,Z}(y, z) = n(n − 1)(F (y) − F (z))^{n−2}f(y)f(z)11y ≥ z.

3) En déduire une formule intégrale pour 𝔼(Z|Y).

4) Si les X_{n} sont équiréparties sur [0, 1], en déduire que

f_{Z|Y} (z, y) = (n − 1)\frac{(y − z)^{n−2}}{y^{n}} 11_{0≤z≤y≤1}.

Exercice 14.6.8. Processus de Poisson ([26] exercice 11.3, pp. 171-177) Soit (W_{n})_{n∈ℕ^{∗}} une suite croissante de variables aléatoires positives telles que W_{0} = 0. Soit, pour n ∈ ℕ^{∗}, la variable aléatoire T_{n} = W_{n} − W_{n−1}. On suppose que les variables aléatoires T_{n} forment une famille de variables aléatoires indépendantes de même loi exponentielle exp(λ) où λ est un réel strictement positif. On pose X_{0} = 0 et pour tout t > 0,

X_{t} = ∑_{n∈ℕ^{∗}} 1_{{W_{n}≤t}}

La famille de variables aléatoires (X_{t})_{t∈ℝ^{+}} est appelée processus de Poisson d’intensité λ.

1) Montrer que ℙ presque sûrement t → X_{t} est une fonction càdlàg (continue à droite avec des limites à gauches) croissante et que les points de discontinuités sont les W_{n}.

2) Soit s, t tels que 0 ≤ s < t. Calculer l’intégrale définie pour tout n ∈ ℕ^{∗} par

I_{n}(s, t) = ∫_{ℝ}^{n} 1_{(s≤x_{1}≤...≤x_{n}≤t)}dx_{1} … dx_{n}

On pourra soit procéder par récurrence comme Ouvrard, soit remarquer que si S_{n} désigne le groupe des permutations sur {1, …, n}, on a

∀σ ∈ S_{n}, I_{n}(s, t) = ∫_{ℝ^{n}} 1_{(s≤x_{σ(1)}≤...≤x_{σ(n)}≤t)}dx_{1} … dx_{n}

et

∑_{σ∈S_{n}} 1_{(s≤x_{σ(1)}≤...≤x_{σ(n)}≤t)} = 1_{(x_{1},...,x_{n})∈[s,t]^{n}}

3) Calculer pour tout n ∈ ℕ^{∗} et toute famille (f_{j})_{j∈{1,...,n} de fonctions positives mesurables bornées sur ℝ la quantité

𝔼 [1_{(X_{t}=n)} ∏_{j=1}^{n} f_{j}(W_{j})]

En déduire la loi de X_{t} et une loi conditionnelle de (W_{1}, …, W_{n}) sachant {X_{t} = n}.

Commencer par remarquer que {X_{t} = n} = {W_{n} ≤ t} ∩ {W_{n+1} > t} et remplacer dans la quantité à calculer les W_{k} par ∑_{i=1}^{k} T_{i}. En utilisant la loi des T_{i} et leur indépendance, montrer que

𝔼 [1_{(X_{t}=n)} ∏_{j=1}^{n} f_{j}(W_{j})] = ∫_{(ℝ_{+})^{n+1}} [1_{(∑_{i=1}^{n} t_{i}≤t)∩(∑_{i=1}^{n+1} t_{i}>t)} ∏_{j=1}^{n} f_{j} (∑_{i=1}^{j} t_{i})]

× λ^{n+1} exp (−λ ∑_{i=1}^{n+1} t_{i}) dt_{1} … dt_{n+1}

Faire le changement de variables w_{1} = t_{1}, w_{2} = t_{1} + t_{2}, …, w_{n+1} = t_{1} + … + t_{n+1} et en déduire

𝔼 [1_{(X_{t}=n)} ∏_{j=1}^{n} f_{j}(W_{j})] = λ^{n} exp(−λt)

× [∫_{ℝ^{n}} ∏_{j=1}^{n} f_{j}(w_{j})1_{(0≤w_{1}≤w_{2}...≤w_{n}≤t)}dw_{1} … dw_{n}]

En faisant dans cette formule, f_{j} = 1, montrer que X_{t} suit une loi de Poisson de paramètre λt. En déduire que (W_{1}, …, W_{n}) admet une densité conditionnelle sachant (X_{t} = n) donnée par

f_{(W_{1},...,W_{n})}(w_{1}, …, w_{n}|X_{t} = n) = \frac{n!}{t^{n}}1_{(0≤w_{1}≤w_{2}...≤w_{n}≤t)} (loi de Dirichlet)

4) Montrer que le processus (X_{t})_{t∈ℝ_{+}} est à accroissements indépendants, c’est-à-dire que pour toute suite finie de réels positifs ordonnés 0 = t_{0} ≤ t_{1} ≤ … ≤ t_{k} = t, (X_{t_{i+1}} −X_{t_{i}})_{i=0,...,k−1} est une famille de variables aléatoires indépendantes et donner la loi de X_{t} − X_{s} pour s ≤ t.

Soient α_{1}, α_{2}, …, α_{k} des entiers positifs quelconques. Notons n leur somme. On pose l_{j} = α_{1} + … + α_{j}. En utilisant la question précédente, montrer

ℙ [∩_{j=1}^{k}(X_{t_{j}} − X_{t_{j−1}} = α_{j}))] = λ^{n} exp(−λt)ψ(t_{1}, …, t_{k})

où

Ψ(t_{1}, …, t_{k}) = ∫_{ℝ^{n}} ∏_{j=1}^{k−1} 1_{(w_{l_{j}} ≤t_{j})∩(w_{l_{j+1}}>t_{j})} × 1_{(0≤w_{1}≤w_{2}...≤w_{n}≤t)}dw_{1} … dw_{n}

En déduire

ℙ [∩_{j=1}^{k}(X_{t_{j}} − X_{t_{j−1}} = α_{j})] = ∏_{j=1}^{k} exp(−λ(t_{j} − t_{j−1}))\frac{(λ(t_{j} − t_{j−1}))^{α_{j}}}{α_{j}!}

Cette formule démontre alors deux choses. D’une part l’indépendance des variables aléatoires (X_{t_{i+1}} − X_{t_{i}})_{i=0,...,k−1} et d’autre part que la loi de X_{t} − X_{s} est une loi de Poisson de paramètre λ(t − s).

Martingales et inégalités maximales

15.1 Williams ou Ouvrard ?

Ouvrard ([26]) et Williams ([30]) démontrent le théorème de convergence des martingales bornées dans 𝕃^{2} et le théorème de convergence des martingales bornées dans 𝕃^{1} de deux manièrent différentes.

Williams commence par montrer le théorème général de convergence presque sûre des martingales bornés dans 𝕃^{1}, qui se prouve facilement dès que l’on a établi le lemme de passage. Quand il considère une martingale bornée dans 𝕃^{2}, il montre alors que c’est une suite de Cauchy dans 𝕃^{2} (mettant à profit l’orthogonalité des accroissements) puis utilise le lemme de Fatou conjugué au théorème de convergence des martingales bornées dans 𝕃^{1}.

Ouvrard opère différement. Il ne démontre pas le théorème de convergence des martingales bornées dans 𝕃^{1}. Il commence par prouver le théorème d’inégalité maximale de Doob. Il en déduit l’inégalité de Doob qui dit que si (X_{n})_{n} est une martingale bornée dans 𝕃^{2} alors X^{∗} = sup_{n} |X_{n}| est dans 𝕃^{2} et de plus on a l’inégalité de Doob

∥X^{∗}∥_{𝕃^{2}} ≤ 2 sup_{n} ∥X_{n}∥_{𝕃^{2}}

Le théorème de convergence pour les martingales bornées dans 𝕃^{2} apparaît alors comme un corolaire de cette inégalité. Plus exactement, comme Williams, il montre que la martingale est de Cauchy dans 𝕃^{2}, et il démontrer qu’il y a convergence presque sûre de la martingale grâce à l’inégalité de Doob. Il démontre ensuite le théorème de convergence presque sûre des martingales bornées dans 𝕃^{1} et le voit comme une conséquence du théorème de convergence des martingales bornées dans 𝕃^{2}. La démonstration est assez longue et fastidieuse.

En résumé, Williams commence par 𝕃^{1} pour en déduire ce qui se passe dans 𝕃^{2} alors qu’ Ouvrard fait le contraire. Votons Williams !

15.2 Martingales et temps d’arrêt

15.3 Martingales

Dans la suite, (Ω, F, ℙ) désignera un espace probabilisé.

15.3.1 Filtrations et processus adaptés

Définition 15.3.1. On dit que (Ω, F, (F_{n})_{n}, ℙ) est un espace filtré sssi :

1) (Ω, F, ℙ) est un espace probabilisé.

2) (F_{n})_{n} est une suite de sous-tribus de F, croissante (au sens de l’inclusion). On dit alors que (F_{n})_{n} est une filtration et on pose

F_{∞} = σ (∪_{n≥1}F_{n}) ⊂ F

Exemple fondamental : On se donne une suite de variables aléatoires (W_{n})_{n≥0}. On pose alors F_{n} = σ{W_{0}, …, W_{n}}. (F_{n})_{n} est appelée la filtration naturelle associée à la suite de variables aléatoires (W_{n})_{n≥0}.

Définition 15.3.2. Un processus sur (Ω, F, ℙ) est une suite (W_{n})_{n} de variables aléatoires sur Ω. Un processus sera dit adapté par rapport à une filtration (F_{n})_{n} ssi pour tout entier n, W_{n} est F_{n}-mesurable.

Remarque 15.3.1. Un procesus (W_{n})_{n} est toujours adapté par rapport à sa filtration naturelle.

Ces notions sont souvent utilisés pour modéliser un certain nombre de processus physiques, biologiques, économiques... On peut en effet voir n comme le temps (discrétisation du temps mais les notions introduites se généralisent dans un cadre continu). F_{n} est l’information que l’on connaît au temps n (grâce aux observations). Par exemple, si (F_{n})_{n} est la filtration naturelle associée à un processus (W_{n})_{n} et si l’on peut observer (W_{n})_{n} alors on connaît F_{n} et donc f(W_{0}, …, W_{n}) pour toute fonction borélienne f. Dire qu’un processus (X_{n})_{n} est adapté par rapport à une filtration (F_{n})_{n}, c’est dire que l’au temps n, on connaît la valeur de X_{n}.

Rappel : X_{n} est σ(W_{0}, …, W_{n})-mesurable ssi il existe une fonction f : ℝ^{n+1} → ℝ borélienne telle que X_{n} = f(W_{0}, …, W_{n}).

Définition 15.3.3. Un processus (X_{n})_{n} sera dit prévisible par rapport à une filtration (F_{n})_{n} ssi pour tout n ≥ 1, X_{n} est F_{n−1} mesurable.

Remarque 15.3.2. A la différence d’un processus adapté, un processus prévisible est un processus que l’on peut prévoir (d’où son nom). En effet, si pour simplifier, on se place dans le cadre d’une filtration naturelle associée à un processus (W_{n})_{n} alors (X_{n})_{n} est prévisible ssi il existe une fonction borélienne f telle que

X_{n} = f(W_{0}, …, W_{n−1})

Autrement dit, on connaît X_{n} dès que l’on a pris connaissance du passé strict (c’est-à-dire W_{0}, …, W_{n−1}).

15.3.2 Martingale, Sur-martingale, Sous-martingale

Définition 15.3.4. Un processus (X_{n})_{n} est une (F_{n})_{n}-martingale ssi :

1) (F_{n})_{n} est une filtration ;

2) (X_{n})_{n} est adapté.

3) ∀n ∈ ℕ, 𝔼(|X_{n}|) < +∞

4) ∀n ∈ ℕ, 𝔼(X_{n+1}|F_{n}) = X_{n}. Un processus X sera une sur-martingale par rapport à (F_{n})_{n} ssi il vérifie 1),2),3) et

4′) ∀n ∈ ℕ, 𝔼(X_{n+1}|F_{n}) ≤ X_{n}

Un processus X sera une sous-martingale par rapport à (F_{n})_{n} ssi il vérifie 1),2),3) et

4′′) ∀n ∈ ℕ, 𝔼(X_{n+1}|F_{n}) ≥ X_{n}

Remarque 15.3.3. 1. X est une sur-martingale ssi −X est une sous-martingale.

2. X martingale ssi c’est à la fois une sur et une sous-martingale.

3. X est une martingale ssi X_{0} est intégrable et X − X_{0} est une martingale.

4. L’ensemble des martingales a une structure d’espace vectoriel (ce qui est bien entendu faux pour les surmartingales et les sous martingales).

Proposition 15.3.1. Si X est une martingale (resp. sur-martingale, sous-martingale) alors (𝔼(X_{n}))_{n} est une suite constante (resp. décroisssante, resp. croissante).

15.3.3 Exemples

a) Somme de variables aléatoires indépendantes centrées Soit (X_{i})_{i} une suite de variables aléatoires indépendantes, intégrables et centrées. On pose S_{0} = 0 et S_{n} = X_{1} + … X_{n}. Soit (F_{n})_{n} la filtration naturelle associée aux (X_{i})_{i} et F_{0} = {0, ∅}.

(S_{n})_{n} est une martingale puisque pour tout n ≥ 1, on a :

𝔼(S_{n}|F_{n−1}) = 𝔼(S_{n−1}|F_{n−1}) + 𝔼(X_{n}|F_{n−1}) = S_{n−1} + 𝔼(X_{n}) = S_{n−1}

Bien entendu, si les X_{i} ne sont pas centrées mais de moyenne a alors (S_{n} − na)_{n} est une martingale.

b) Produits de variables aléatoires indépendantes de moyenne 1 Soit X_{1}, …, X_{n}, … une suite de variables aléatoires indépendantes de moyenne 1 et soit X_{0} = 1. Soit (F_{n})_{n} la filtration naturelle associée à (X_{n})_{n}. On pose

M_{n} = ∏_{k=0}^{n} X_{k}

(M_{n})_{n} est une martingale car pour tout n ≥ 1, on a

𝔼(M_{n}|F_{n−1}) = 𝔼(X_{n}M_{n−1}|F_{n−1}) = M_{n−1}𝔼(X_{n}) = M_{n−1}

Là aussi, dans le cas où les X_{i} ne sont pas de moyenne 1 mais de moyenne a ≠ 0, on considerera M_{n} = a^{−n} ∏_{k=0}^{n} X_{k}.

c) Martingale obtenue par filtrage On se donne ζ ∈ L^{1}(Ω, F, ℙ) et une filtration (F_{n})_{n}. Pour tout n ≥ 0, on pose

𝔼(ζ|F_{∞}) = ζ_{n}

(ζ_{n})_{n} est une martingale.

Questions : Soit (M_{n})_{n} une martingale.

1) Est-ce qu’il existe une variable aléatoire M_{∞} telle que lim_{n→+∞} M_{n} = M_{∞}? Dans quel sens a lieu cette convergence ? (presque sûre, en probabilité, en loi, dans L^{1}, L^{2}, L^{p})

2) Si on a convergence, a-t-on 𝔼(M_{0}) = 𝔼(M_{∞}) ?

3) Dans le cas c), est-ce que l’on a

ζ_{∞} = 𝔼(ζ|F_{n}) si lim_{n→∞} ζ_{n} = ζ_{∞}

15.3.4 Illustration

On rappelle que l’on avait vu qu’une interprétation possible des notions de filtration, processus adaptés... était la suivante : n représente le temps et F_{n} l’information dont on dispose au temps n. (X_{n})_{n} est (F)_{n}-adapté signifie qu’au temps n, je connais X_{n} et (X_{n})_{n} est prévisible signifie qu’au temps n − 1, je connais X_{n}. Avant de passer à l’interprétation de la notion de martingale, faisons un bref rappel sur la notion d’espérance conditionnelle. Si X est dans L^{2}(Ω, F, ℙ) et Y est une variable aléatoire alors 𝔼(X|σ(Y)) est la meilleure fonction f(Y) de Y qui approche X au sens L^{2}. Supposons donc maintenant que X_{n} − X_{n−1} représente le profit que l’on fait au temps n en misant 1 euro dans un jeu de hasard (X_{n} représente donc le profit cumulé au temps n). Il est assez naturel de supposer que X_{n} − X_{n−1} est F_{n}-mesurable (au temps n, on a vu le résultat du jeu et l’on sait le profit que l’on a obtenu). Si le jeu est parfaitement équitable, on ne doit rien pouvoir prévoir. On peut traduire cette hypothèse de la manière suivante. L’approximation de (X_{n}−X_{n−1}) au vu de l’information disponible au temps n−1, qui compte-tenu de ce qui précède est égale à 𝔼(X_{n} −X_{n−1}|F_{n−1}), doit être nulle. Autrement dit, on demande à (X_{n})_{n} d’être une martingale. Si (X_{n})_{n} est une sur-martingale alors le jeu est favorable au casino et si c’est une sous-martingale, le jeu est favorable au joueur. Admettons que le casino se débrouille pour faire de (X_{n})_{n} une martingale (ou une sur-martingale). Est-ce que je peux me débrouiller pour gagner de l’argent en variant à chaque instant la mise (au lieu de mettre un euro à chaque fois) ? Appelons C_{n} la mise placée au temps n. L’hypothèse naturelle à faire sur (C_{n})_{n} est de supposer que c’est un processus prévisible : on mise au vu de l’information dont on dispose au temps précédent de celui de la mise. Au temps n, on gagne donc

Y_{n} = ∑_{k=1}^{n} C_{k}(X_{k} − X_{k−1})

On appelle Y la transformée de X par C et l’on note Y_{n} = (C · X)_{n} (c’est la version discrétisée de l’intégrale stochastique relativement à une martingale).

Proposition 15.3.2. Supposons pour simplifier que X soit une sur-martingale et C un processus prévisible borné (pour tout n, |C_{n}(ω)| ≤ K). Alors C · X est une sur-martingale.

Ainsi, au temps n, mon esérance de gain est 𝔼(Y_{n}) ≤ 𝔼(Y_{0}) = 0 et l’on est toujours perdant !

15.3.5 Temps d’arrêt

Définition 15.3.5. Soit (Ω, F, (F_{n})_{n}, ℙ) un espace probabilisé. Une application T de Ω dans ℕ̄ = {0, 1, …, ∞} est un temps d’arrêt ssi

∀n ∈ ℕ̄, {T ≤ n} ∈ F_{n}

Remarque 15.3.4. Un peu de manipulation ensembliste montre que cette condition est équivalente à l’une des conditions suivantes :

1) ∀n ∈ ℕ̄, {T = n} ∈ F_{n}.

2) ∀n ∈ ℕ, {T ≤ n} ∈ F_{n}.

3) ∀n ∈ ℕ, {T = n} ∈ F_{n}.

Si on reprend à nouveau la modélisation précédente, on comprend aisément l’introduction de la notion de temps d’arrêt. On a vu que l’on ne pouvait gagner en variant la mise. Peut-être peut on gagner en s’arrêtant non plus à un temps donné n mais à un temps aléatoire. Cependant on doit faire un certain nombre d’hypothèses sur ce temps aléatoire T. En effet, il est réaliste de supposer que je m’arrêterai au temps n au vu de l’information dont je dispose au temps n (et non pas au temps n + 1 par exemple...). Autrement dit, on doit imposer à T de satisfaire {T = n} ∈ F_{n}, c’est-à-dire d’être un temps d’arrêt.

Exemple : Soit (A_{n})_{n} un processus adapté et B ∈ B(ℝ). On définit T_{B} = inf{n ≥ 0; A_{n} ∈ B} comme le premier temps d’entrée dans B (éventuellement infini si l’ensemble est vide). T_{B} est un temps d’arrêt car

{T ≤ n} = ∪_{k≤n}{A_{k} ∈ B} ∈ F_{n}

Contre-exemple : Le temps de sortie de B noté L_{B} = sup{n, A_{n} ∈ B} n’est pas un temps d’arrêt (en général).

15.3.6 Sur-martingales arrêtées

Théorème 15.3.1. Si X est une martingale (resp. sur-martingale, sous-martingale) et T un temps d’arrêt alors X^{T} = (X_{T ∧n})_{n≥0} est appelée martingale (resp. sur-martingale, sous-martingale) arrêtée en T. C’est une martingale (resp. sur-martingale, sous-martingale). En particulier, on a pour tout entier n,

𝔼(X_{n}^{T}) = 𝔼(X_{T ∧n}) = 𝔼(X_{0}), (resp. ≤, ≥)

Remarque 15.3.5. Ce théorème dit en outre que pour tout n ∈ ℕ, X_{T ∧n} est dans L^{1}. Il ne suppose aucune condition sur le temps d’arrêt.

Démonstration. On a juste à montrer le théorème pour X surmartingale puisque X sousmartingale équivaut à −X sur-martingale et X est une martingale ssi c’est à la fois une surmartingale et une sous-martingale.

1) X_{T ∧n} est F_{n}-mesurable car

X_{T ∧n}(ω) = ∑_{k=0}^{n−1} X_{k}(ω)1_{T (ω)=k} + X_{n}(ω)1_{{T (ω)≥n}}

C’est une somme de variables aléatoires F_{n}-mesurables.

2) Pour tout n ∈ ℕ, X_{T ∧n} est intégrable car |X_{T ∧n}| ≤ (∑_{k=0}^{n−1} |X_{k}|) + |X_{n}|. 3)On a :

𝔼(X_{T ∧n}|F_{n−1}) = ∑_{k=0}^{n−1} 𝔼(X_{k}1_{T =k}|F_{n−1}) + 𝔼(X_{n}1_{T ≥n}|F_{n−1})

= ∑_{k=0}^{n−1} 1_{T =k}𝔼(X_{k}|F_{n−1}) + 1_{T ≥n}𝔼(X_{n}|F_{n−1})

≤ ∑_{k=0}^{n−1} 1_{T =k}X_{k} + 1_{T ≥n}X_{n−1} = X_{T ∧n−1}
□

Si (X_{n})_{n} est une martingale et si T est un temps d’arrêt alors pour tout entier n, on a

𝔼(X_{T ∧n}) = 𝔼(X_{0})

A-t-on 𝔼(X_{T}) = 𝔼(X_{0}) ? Un contre exemple est le suivant. Soit (X_{n})_{n} une marche aléatoire telle que X_{0} = 0 et 𝔼(X_{n+1} − X_{n}) = 0. (X_{n})_{n} est une martingale. Soit T = inf{n ∈ ℕ; X_{n} = 1} le temps d’entrée en 1. On a vu que c’était un temps d’arrêt (par rapport à la filtration naturelle de X). Pourtant, on a

𝔼(X_{T}) = 1 ≠ 𝔼(X_{0}) = 0

15.3.7 Théorème d’arrêt de Doob

Théorème 15.3.2. (Théorème d’arrêt de Doob)

a) Soit T un temps d’arrêt et X une sur-martingale. Alors X_{T} est bien définie et intégrable avec

𝔼(X_{T}) ≤ 𝔼(X_{0})

dans l’une des 3 conditions suivantes :

1) T est bornée (i.e. : ∃N ≥ 0, ∀ω ∈ Ω |T (ω)| ≤ N).

2) X est bornée (i.e. ∃K ∈ ℝ_{+}, ∀n ∈ ℕ, ∀ω ∈ Ω, |X_{n}(ω)| ≤ K) et T est ℙ p.s. fini.

3) 𝔼(T) < +∞ (donc T fini p.s.) et il existe K ∈ ℝ_{+} tel que

∀n ∈ ℕ, ∀ω ∈ Ω, |X_{n+1}(ω) − X_{n}(ω)| ≤ K

b) En particulier, si 1), 2) ou 3) a lieu et si X est une martingale alors 𝔼(X_{T}) = 𝔼(X_{0}).

Démonstration. b) est évident compte-tenu du fait que X est une martingale ssi X et −X sont des sur-martingales.

a) On sait que (X_{T ∧n})_{n} est une sur-martingale donc

𝔼(X_{T ∧n} − X_{0}) ≤ 0

Pour 1), on prend n = N et on a le résultat. Pour 2), on utilise le théorème de convergence dominée vu que

|X_{T ∧n}| ≤ K et lim_{n→+∞} X_{T ∧n} = X_{T} (T fini)

Pour 3), on remarque que

|X_{T ∧n} − X_{0}| ≤ ∑_{k=1}^{T ∧n} |X_{k} − X_{k−1}| ≤ T K

et 𝔼(T) < +∞ d’où le résultat par le théorème de convergence dominée. □

Corollaire 15.3.1. Soit M une martingale à incréments bornés (i.e. ∀n ≥ 1, |M_{n} − M_{n−1}| ≤ K pour une constante K > 0) et soit C un processus prévisible borné par une constante et T un temps d’arrêt intégrable 𝔼(T) < +∞. On a alors

𝔼((C · M)_{T}) = 0

Démonstration. On a vu que Y_{n} = (C · M)_{n} était une martingale et d’autre part, on a

|Y_{n} − Y_{n−1}| ≤ |C_{n}(M_{n} − M_{n−1})| ≤ K_{2}K_{1}

On conclut par le cas 3) du théorème précédent. □

Proposition 15.3.3. Soit X une sur-martingale positive et T un temps d’arrêt ℙ p.s. fini alors

𝔼(X_{T}) ≤ 𝔼(X_{0})

Démonstration. (X_{n})_{n} est une sur-martingale de L_{+}^{1} et x ∈ ℝ_{+} → x∧K est concave croissante bornée. Il est facile de montrer que si (X_{n})_{n} est une surmartingale positive et ϕ : ℝ_{+} → ℝ_{+} est croissante concave bornée alors (ϕ(X_{n}))_{n} est une surmartingale positive bornée (utiliser le théorème de Jensen version conditionnelle). On en déduit que (X_{n} ∧ K)_{n} surmartingale positive bornée et d’après le théorème de Doob, cas 2),

𝔼(X_{T} ∧ K) ≤ 𝔼(X_{0})

On conclut par le théorème de convergence monotone en faisant tendre K vers l’infini. □ Application Soit (X_{n})_{n} une suite de Bernoulli de paramètre 1/2 indépendantes : ℙ(X_{n} = 1) = ℙ(X_{n} = −1) = 1/2. On pose S_{0} = 0 et S_{n} = X_{1} + … + X_{n} et F_{n} = σ(X_{1}, …, X_{n}) = σ(S_{0}, …, S_{n}). Soit enfin T = inf{n ≥ 0; S_{n} = 1} qui est un temps d’arrêt. On cherche à connaître la distribution de T. On montrera aisément que pour tout θ,

M_{n}^{θ} = (\frac{1}{cosh θ})^{n} exp(θS_{n})

définit une martingale bornée de moyenne 1. Soit θ > 0. Pour tout n ∈ ℕ, on a

𝔼(M_{T ∧n}^{θ}) = 1 = 𝔼 ((\frac{1}{cosh θ})^{T ∧n} exp(θS_{T ∧n}))

On remarque que ℙ presque sûrement,

lim_{n→∞} M_{T ∧n}^{θ} = 1_{\{T <+∞\}} \frac{e^{θ}}{(cosh θ)^{T}}

donc d’après le théorème de convergence dominée,

𝔼 [1_{\{T <+∞\}} \frac{1}{(cosh θ)^{T}} ] = e^{−θ}

En faisant tendre θ vers 0 et en utilisant le théorème de convergence monotone, on déduit que ℙ(T < +∞) = 1. On peut donc oublier l’indicatrice dans l’égalité précédente. Effectuant alors le changement de variables α = 1/ cosh(θ), on obtient

𝔼(α^{T}) = \frac{1}{α} [1 − \sqrt{1 − α^{2}}]

En particulier, on a

ℙ(T = 2m) = 0 et ℙ(T = 2m − 1) = (−1)^{m+1}C(1/2, m)

15.4 TD : Jeux, ruine, temps d’arrêt

Exercice 15.4.1. Tribu engendrée par un nombre fini de v.a. discrètes Pour modéliser le jeu de pile ou face et tous les jeux répétés, pour les chaînes de Markov, pour les marches aléatoires, etc., on est amené à considérer une tribu engendrée par un nombre fini de variables aléatoires discrètes, F = σ(X_{1}, …, X_{n}). Les X_{k} sont à valeurs dans un ensemble de valeurs fini ou dénombrable. Pour fixer les notations et sans perte de généralité, on supposera que l’ensemble de ces valeurs est ℕ.

On considère tous les événements atomiques du type A_{m} = [X_{1} = m_{1} … X_{n} = m_{n}], où m = (m_{1}, …, m_{n}) ∈ ℕ^{n}. Remarquer que ceux de ces événements qui sont non-vides constituent une partition de Ω et montrer que tout autre événement F-mesurable est une union finie ou dénombrable d’atomes.

Exercice 15.4.2. Probabilité conditionnelle Soit A un événement de (Ω, F, ℙ) et G une sous-tribu de F. On appelle probabilité conditionnelle de A sachant G et on note ℙ(A|G) la variable aléatoire définie par

ℙ(A|G) = 𝔼(11_{A}|G).

1) On suppose que G est engendrée par une partition finie ou dénombrable de Ω,. Il existe donc I fini ou dénombrable tel que tout élément B de G puisse s’écrire sous la forme B = ∪_{i∈J}B_{i} où J ⊂ I; les B_{i} forment une partition dénombrable de Ω. Montrer que

ℙ(A|G) = ∑_{i} ℙ(A|B_{i})11_{B_{i}}.  (15.4.1)

1) Réponse : On pose X = ℙ(A|G) et Y = ∑_{i} ℙ(A|B_{i})11_{B_{i}}. Y est évidemment G-mesurable. Par unicité de l’espérance conditionnelle, il suffit de montrer que ∀B ∈ G, E(X; B) = E(Y; B). Or par hypothèse, on peut écrire B = ∪_{i∈J}B_{i}, où J est fini ou dénombrable.

Par les définitions de l’espérance conditionnelle et de la probabilité conditionnelle, on a, puisque B est G-mesurable,

∫_{B} X = ∫_{B} 𝔼(11_{A}|G) = ∫_{B} 11_{A} = ∑_{i∈J} ℙ(A; B_{i}) = ∫_{B} ∑_{J∈I} \frac{ℙ(A; B_{i})}{ℙ(B_{i})}11_{B_{i}} = ∫_{B} Y.

Exercice 15.4.3. ”Tout ce qui a une chance raisonnable d’arriver se produira tôt ou tard” ([30], exercice E10.5 p. 233) Soit F une filtration (avec F_{0} = {∅, Ω} et T un temps d’arrêt tels que pour un certain N ∈ ℕ et un certain ε > 0,

∀n, ℙ(T ≤ n + N|F_{n}) > ε, p.s.

1) Montrer par récurrence en utilisant ℙ(T > kN) = ℙ(T > kN; T > (k − 1)N) que pour k = 1, 2, …,,

ℙ(T > kN) ≤ (1 − ε)^{k}.

1) Réponse : On procède par récurrence. Quand n = 0, on a bien la propriété par hypothèse car F_{0} = {∅, Ω} et donc ℙ(T > N)11_{Ω} = ℙ(T > N|F_{0}) = 1 − ℙ(T ≤ N|F_{0}) ≤ 1 − ε. De plus,

ℙ(T > kN) = ℙ(T > kN; T > (k − 1)N) = ∫_{T >(k−1)N} 11_{T >kN} = ∫_{T >(k−1)N} 𝔼(11_{T >kN}|F_{(k−1)N})

(car l’ensemble [T > (k − 1)N] est F_{(k−1)N}-mesurable)

≤ (1 − ε)ℙ(T > (k − 1)N) par hypothèse.

2) En déduire que 𝔼(T) < ∞.

2) Réponse : On a

𝔼(T) = ∑_{n} nℙ(T = n) ≤ ∑_{n} nℙ(T > n − 1)
≤  ∑_{k} ∑_{(k−1)N≤n≤kN} nℙ(T > n − 1)
≤  N ∑_{k} kNℙ(T > (k − 1)N − 1)
≤  N ∑_{k} kNℙ(T > (k − 2)N)
≤  N^{2} ∑_{k} k(1 − ε)^{k−2} < ∞

Exercice 15.4.4. ABRACADABRA : une très longue attente (Grimmett-Stirzaker One thousand exercises in probability, exercice 16 p. 124 et [30], exercice E10.6 p. 233) On va résoudre par martingale le problème suivant : Quelle est l’attente moyenne au jeu de pile ou face pour qu’une séquence préfixée se produise ? Prenons l’exemple de la séquence P P P (pile trois fois). Un très grand casino contient une infinité de joueurs G_{1}, G_{2}, … qui disposent chacun d’une fortune de 1 euro. Un croupier tire à pile ou face (probabilités p et q = 1 − p toutes les secondes. Au temps n, le joueur G_{n} se met à parier de la manière suivante : il place 1 sur Pile. Le casino étant équitable, il touche en cas de succès \frac{1}{p} (expliquer pourquoi). Il place alors à nouveau cette fortune sur Pile. Il continue ainsi à parier toute sa fortune sur Pile jusqu’à ce qu’il aie gagné trois fois de suite (P P P) ou qu’il perde tout. Dans les deux cas, il quitte alors le casino.

1) Soit S_{n} le profit (ou la perte) cumulé(e) du casino après le n-ième tirage. Montrer que S_{n} est une martingale.

1) Réponse : Soit Y_{n} la v.a. associée au n-ième tirage (Y_{n} = F ou P) et F_{n} = σ(Y_{1}, …, Y_{n}). Soit X_{n} la somme des gains et pertes des joueurs après le n-ième coup. Comme X_{n} est une fonction déterministe des résultats Y_{n} des n coups précédents, elle est F_{n}-mesurable. Comme le jeu est équitable, la moyenne de X_{n} est nulle. De plus, le nombre de joueurs est plus petit que 3 et leur enjeu plus petit que p^{−3}. Donc X_{n} est sommable. S_{n} est donc l’exemple classique de martingale, à savoir une somme de v.a. sommables indépendantes et de moyenne nulle X_{n}.

2) Soit T le nombre de tirages effectués avant la première apparition de P P P. Montrer que T est un temps d’arrêt, montrer que E(T) < ∞. Utiliser le résultat de l’exercice 15.4.3.

2) Réponse : La décision T = n est une fonction déterministe des résultats de Y_{1}, …, Y_{n} et est donc F_{n}- mesurable. C’est donc un temps d’arrêt. Pour montrer que E(T) < ∞, il suffit de vérifier que l’hypothèse de l’exercice 15.4.3 est vérifiée : ℙ(T ≤ n + N|F_{n}) > ε, a.s.. On le montre pour N = 3. Notons Ω_{n} = {P, F }^{n} l’ensemble des résultats possibles pour les n premiers tirages. La tribu F_{n} est engendrée par la partition en événements atomiques B_{i} = [(Y_{1}, …, Y_{n}) = i], i décrivant Ω_{n}. Par la formule (15.4.1), on a pour tout événement A, ℙ(A|F_{n}) = ∑_{i∈Ω_{n}} ℙ(A|B_{i})11_{B_{i}}. On choisit A = [T ≤ n + 3]. En effet, une séquence P P P peut se produire aux trois coups suivants avec probabilité ε = p^{3} et on a

ℙ(T ≤ n + 3|F_{n}) ≥ ∑_{i∈Ω_{n}} ℙ([(X_{n+1}X_{n+2}X_{n+3}) = (P P P)]|B_{i})11_{B_{i}} = p^{3} ∑_{i} 11_{B_{i}} = p^{3}.

3) En déduire que 𝔼(T) = p^{−1} + p^{−2} + p^{−3}.

3) Réponse : On applique le théorème de temps d’arrêt de Doob (10.10 (c) de Williams page 100-101). Donc E(S_{T}) = 0. Mais, au moment où le jeu s’arrète, les joueurs G_{1}, …, G_{n} ont misé chacun -1 et seuls G_{n−2}, G_{n−1} et G_{n} ont gagné respectivement p^{−3}, p^{−2} et p^{−1}. Donc E(S_{T}) = 0 donne p^{−1}+p^{−2}+p^{−3}−𝔼T = 0.

4) Adapter le raisonnement pour calculer le temps moyen d’attente de P F P.

4) Réponse : on trouve 𝔼(N) = p^{−1} + p^{−2}q^{−1}.

5) Dans le même esprit : le casino possède un singe qui tape au hasard sur les 26 touches majuscules à la vitesse de 60 caractères par minute. Montrer que le temps moyen d’attente de la séquence ABRACADABRA est 26^{11} + 26^{4} + 26. Donner un ordre de grandeur en années du temps d’attente.

6) Un paradoxe ? Les calculs précédents prouvent que le temps moyen d’attente de P P (deux fois Pile) dans le cas p = \frac{1}{2} est égal à 2 + 4 = 6 alors que le temps d’attente de P F est de 4. Ceci peut paraître contreintuitif, puisque les séquences P P et P F sont équiprobables ! De même, on vient de voir que le temps d’attente de ABRACADABRA est supérieur au temps d’attente de, disons, ABCDEFGHIJK, qui est une séquence de même longueur et donc équiprobable. Discuter ce paradoxe. Vous convaincre par une simulation de pile ou face (utiliser directement une monnaie) que l’expérience confirme bien la différence de temps d’attente pour P P et P F.

Exercice 15.4.5. La ruine du joueur : quelles chances de gagner et au bout de combien de temps ? Soient X_{1}, X_{2}, … des v.a.i.i.d. avec P (X = 1) = p, P (X = −1) = q = 1 − p et 0 < p < 1. Supposons que a et b soient deux entiers avec 0 < a < b. On définit

S_{n} := a + X_{1} + ⋯ + X_{n}, T := inf{n, S_{n} = 0 ou S_{n} = b}.

La fortune initiale du joueur de pile ou face est représentée par a et il compte s’arréter s’il a atteint b. On peut aussi interpréter ce modèle comme un jeu à deux : alors la fortune initiale du premier joueur est a et celle du second est b − a. S_{n} − a représente alors le gain cumulé du premier joueur et a − S_{n} les pertes cumulées du second. Chacun des joueurs stoppe quand il est ruiné, i.e. quand S_{n} = 0 ou S_{n} = b. Soit F_{n} = σ(X_{1}, …, X_{n}) et F_{0} = {∅, Ω}.

1) Vérifier que la condition de l’exercice 15.4.3 est vérifiée.

1) Réponse : On procède comme au 2) de l’exercice 4, avec N = b. On note Ω_{n} = {−1, +1}^{n}. Alors F_{n} est engendrée par les évênements atomiques B_{i} = [(X_{1}, … X_{n}] = i], i ∈ Ω_{n}. On applique la formule (15.4.1) avec A = [T ≤ n + b] :

ℙ(T ≤ n + b|F_{n}) = ∑_{i∈Ω_{n}} P (T ≤ n + b|B_{i})11_{B_{i}}.  (15.4.2)

On a ℙ(T ≤ n + b|B_{i}) = ℙ(T ≤ n|B_{i}) + ℙ(n < T ≤ n + b|B_{i}). Or : T > n ⇒ a + i_{1} + ⋯ + i_{n} ∈]0, b[. Donc [n < T ≤ n + b] ∩ B_{i} ⊃ [X_{n+1} = ⋯ = X_{n+b} = 1] ∩ B_{i}. Donc

ℙ(T ≤ n + b|B_{i}) ≥ ℙ(X_{n+1} = ⋯ = X_{n+b} = 1|B_{i}) = ℙ(X_{n+1} = ⋯ = X_{n+b} = 1) = p^{b}.

En effet, B_{i} ∈ F_{n} est indépendant des X_{n+k}, k ≥ 1. Donc (15.4.2) donne ℙ(T ≤ n + b|F_{n}) ≥ p^{b}. En fait, comme dans l’exercice 4, ce long raisonnement conduit à une inégalité évidente, mais il était bon de détailler sa preuve pour vérifier que nos impressions sur la probabilité conditionnelle sont justes.

2) On pose M_{n} = (\frac{q}{p})^{S_{n}} et N_{n} = S_{n} − n(p − q). Montrer que ce sont des martingales et déduire les valeurs de ℙ(S_{T} = 0) et E(T).

2) Réponse : M_{n} est un produit de v. a. indépendantes, positives et de moyenne 1. N_{n} est une somme de v.a. aléatoires indépendantes sommables et de moyenne nulle. La suite tout seul.

15.5 Le théorème de convergence des martingales

Dans la suite, (Ω, F, ℙ) désignera un espace probabilisé muni d’une filtration (F_{n})_{n}.

On considère un processus adapté X et a < b deux réels, N un entier non nul. La suite finie de réels, pour ω donné, {X_{0}(ω), …, X_{N}(ω)} est appelée la trajectoire de X entre les instants 0 et N. Nous introduisons quelques notations.

⋆) U_{N}^{[a,b]}(ω) est défini comme le plus grand entier k ≥ 1 tel qu’il existe deux suites d’entiers non nuls (s_{1}, …, s_{k}) et (t_{1}, …, t_{k}) avec

0 ≤ s_{1} < t_{1} < … < s_{k} < t_{k} ≤ N
∀i ∈ {1, …, k}, X_{s_{i}}(ω) < a et X_{t_{i}}(ω) > b

U_{N}^{[a,b]} apparaît comme le nombre de passages croissants de a à b par la trajectoire de X entre 0 et N.

⋆) On définit le processus prévisible (C_{n})_{n} ∈ {0, 1}^{ℕ} de la manière suivante :

\begin{matrix}C_{1} = 1_{\{X_{0}<a\}} \\ C_{n} = 1_{\{C_{n−1}=1\}}1_{\{X_{n−1}≤b\}} + 1_{\{C_{n−1}=0\}}1_{\{X_{n−1}<a\}} \end{matrix}

⋆) On notera enfin par Y = (C · X) la transformée de X par C, c’est-à-dire le processus donné par

Y_{n}(ω) = ∑_{k=1}^{n} C_{k}(ω)(X_{k}(ω) − X_{k−1}(ω))

Le théorème de convergence des martingales bornées dans L^{1} est basé sur la remarque suivante facile à démontrer :

Y_{N}(ω) ≥ (b − a)U_{N}^{[a,b]}(ω) − [X_{N}(ω) − a]^{−}

Lemme 15.5.1. (de passage de Doob) Si X est une sur-martingale alors, avec les notations introduites précedemment, on a

𝔼(U_{N}^{[a,b]}) ≤ \frac{𝔼((X_{N} − a)^{−})}{b − a}

Démonstration. C est un processus prévisible positif borné et X est une sur-martingale donc Y = C · X est une sur-martingale (cf la section précédente). Donc

𝔼(Y_{N}) ≤ 𝔼(Y_{0}) = 0

On reporte dans l’inégalité précédente et on obtient le résultat. □

Corollaire 15.5.1. Soit X une surmartingale bornée dans L^{1} dans le sens où M = sup_{n} 𝔼(|X_{n}|) < +∞. On note

U_{∞}^{[a,b]} = lim_{n→∞} U_{n}^{[a,b]}

On a : (b − a)𝔼_{∞}^{[a,b]} ≤ |a| + M et par suite

ℙ(U_{∞}^{[a,b]} = ∞) = 0

On obtient alors le théorème principal de cette section sur la convergence des martingales.

Théorème 15.5.1. (de convergence de Doob) Soit X une sur-martingale bornée dans L^{1}. ℙ presque sûrement, la limite notée X_{∞}(ω) de (X_{n}(ω))_{n} existe et est finie. De plus, la variable aléatoire X_{∞} est F_{∞}-mesurable et dans L^{1}.

Démonstration. Soit Λ = {ω ∈ Ω; (X_{n}(ω))_{n} ne converge pas dans ℝ}. On veut montrer que cet ensemble est de probabilité nulle.

Or Λ = ∪\begin{matrix}a,b∈ℚ \\ a<b \end{matrix}Λ_{a,b} où

Λ_{a,b} = {ω ∈ Ω; lim inf X_{n}(ω) < a < b < lim sup X_{n}(ω)}

et

Λ_{a,b} ⊂ {ω ∈ Ω; U_{∞}^{[a,b]}(ω) = ∞}

donc ℙ(Λ_{a,b}) = 0 par le lemme de passage de Doob et par σ-additivité de ℙ, ℙ(Λ) = 0. D’autre part, par le lemme de Fatou,

𝔼(|X_{∞}|) = 𝔼(lim inf |X_{n}|) ≤ lim inf 𝔼(|X_{n}|) < +∞
□

Remarque 15.5.1. Pour l’instant, rien ne garantit qu’il y ait convergence dans L^{1}.

Corollaire 15.5.2. Si X est une sur-martingale positive alors X_{∞} = lim X_{n} existe ℙ p.s.

Démonstration. 0 ≤ 𝔼(|X_{n}|) = 𝔼(X_{n}) ≤ 𝔼(X_{0}) < +∞ et il suffit d’appliquer le théorème de convergence de Doob. □

154

Martingales bornées dans L^{2}.

16.1 Le théorème de base de convergence des martingales de L^{2}

Dans la suite, (Ω, F, ℙ) désignera un espace probabilisé muni d’une filtration (F_{n})_{n}. Dans cette section, nous considérerons des martingales dans L^{2}. La structure particulière d’espace de Hilbert de L^{2} facilitera de beaucoup notre étude.

16.1.1 Martingales de L^{2} : orthogonalité des accroissements

Définition 16.1.1. On dira qu’une martingale (M_{n})_{n} est bornée dans L^{2} ssi sup_{n} ∥M_{n}∥_{2} < +∞.

Notation : On note < X, Y >= 𝔼(XY) le produit scalaire sur L^{2}(Ω, F, ℙ) et ∥ · ∥_{2} la norme associée.

Une propriété fondamentale des martingales est l’orthogonalité de ses accroissements, c’est-à-dire que si l’on a des entiers tels que s ≤ t ≤ u ≤ v alors

< M_{t} − M_{s}, M_{v} − M_{u} >= 0

En effet, on a

𝔼((M_{t} − M_{s})M_{v}) = 𝔼(𝔼((M_{t} − M_{s})M_{v}|F_{u}))
= 𝔼((M_{t} − M_{s})𝔼(M_{v}|F_{u})) = 𝔼((M_{t} − M_{s})M_{u})

et la formule

M_{n} = M_{0} + ∑_{k=1}^{n}(M_{k} − M_{k−1})

exprime M_{n} comme une somme d’éléments orthogonaux. Le théorème de Pythagore donne donc

∥M_{n}∥_{2}^{2} = ∥M_{0}∥_{2}^{2} + ∑_{k=1}^{n} ∥M_{k} − M_{k−1}∥_{2}^{2}

Théorème 16.1.1. Soit M une martingale de L^{2}, c’est-à-dire que pour tout n ∈ ℕ, M_{n} ∈ L^{2}. (M_{n})_{n} est uniformément bornée dans L^{2} ssi

∑_{k=1}^{∞} ∥M_{k} − M_{k−1}∥_{2}^{2} < +∞

Dans ce cas, lim_{n→∞} M_{n} = M_{∞} ℙ p.s. et dans L^{2}.

Démonstration. La première partie du théorème est évidente d’après ce qui précède. L^{2} est complet et le théorème de Doob assure que lim_{n→+∞} M_{n} = M_{∞} ℙ p.s. D’autre part,

𝔼((M_{n+r} − M_{n})^{2}) ≤ ∑_{k=n+1}^{n+r} 𝔼((M_{k} − M_{k−1})^{2})

et par le lemme de Fatou, quand r tend vers +∞, on a

𝔼((M_{∞} − M_{n})^{2}) ≤ ∑_{k=n+1}^{∞} 𝔼((M_{k} − M_{k−1})^{2})

et ce reste de série convergente (première partie du théorème) tend vers 0 quand n tend vers +∞, ce qui prouve la deuxième partie du théorème. □

16.1.2 Décomposition de Doob

Définition 16.1.2. Un processus (A_{n})_{n} sera dit prévisible nul en 0 ssi A_{0} = 0 et pour tout n ≥ 1, A_{n} est F_{n−1}-mesurable.

Théorème 16.1.2. (de décomposition de Doob)

a) Soit (X_{n})_{n≥1} un processus adapté dans L^{1}. Alors X a une décomposition de Doob :

X = X_{0} + M + A

où M est une martingale nulle en 0 et A un processus prévisible nul en 0. De plus cette décomposition est unique dans le sens où si X = X_{0} + M̃ + Ã, M̃ martingale nulle en 0 et Ã processus prévisible nul en 0, alors :

ℙ(∀n ∈ ℕ, M_{n} = M̃_{n}, A_{n} = Ã_{n}) = 1

b) X est une sous-martingale ssi le processus A est croissant dans le sens suivant :

∀n ∈ ℕ, A_{n} ≤ A_{n+1} ℙ p.s.

Démonstration. ⋆) Si la décomposition existe, on doit avoir

𝔼(X_{n} − X_{n−1}|F_{n−1}) = 𝔼(M_{n} − M_{n−1}|F_{n−1}) + 𝔼(A_{n} − A_{n−1}|F_{n−1})
= 0 + A_{n} − A_{n−1}

donc A_{n} = ∑_{k=1}^{n} 𝔼(X_{k} − X_{k−1}|F_{k−1}) ℙ p.s. et M_{n} = X_{n} − X_{0} − A_{n} = X_{n} − X_{0} − ∑_{k=1}^{n} 𝔼(X_{k} − X_{k−1}|F_{k−1}), n ≥ 1.

Ceci prouve l’unicité de la décomposition. ⋆) Pour ce qui est de l’existence de la décomposition, on définit A_{n} et M_{n} par les formules précédentes. Il est facile de vérifier que M est une martingale nulle en 0 et A un processus prévisible nul en 0. ⋆) X est une sous-martingale ssi

∀n ≥ 1, 𝔼(X_{n}|F_{n−1}) ≥ X_{n−1}

ce qui est équivalent, d’après la formule définissant A, à

∀n ≥ 1, A_{n} − A_{n−1} ≥ 0
□

16.1.3 Le crochet d’une martingale < M >

Proposition 16.1.1. Soit M une martingale de L^{2} nulle en 0. Alors M^{2} est une sous-martingale.

Démonstration. Utiliser la propriété de Jensen version conditionnelle. □ On écrit la décomposition de Doob de la sous-martingale M^{2} sous la forme M^{2} = N + A où N

martingale nulle en 0 et A processus prévisisble croissant nul en 0. On posera A_{∞} = lim_{n→∞} A_{n}.

Définition 16.1.3. Le processus prévisible (A_{n})_{n} est appelé le crochet de M et noté < M >.

Proposition 16.1.2. Une martingale M de L^{2} est uniformément bornée dans L^{2} ssi 𝔼(< M >_{∞} ) < +∞.

Remarque 16.1.1. On a A_{n} − A_{n−1} = 𝔼(M_{n}^{2} − M_{n−1}^{2}|F_{n−1}^{2}) = 𝔼((M_{n} − M_{n−1})^{2}|F_{n−1}).

Lien entre la convergence de M et la finitude de < M >_{∞}

Soit M une martingale de L^{2} nulle en 0. Notons le crochet de M par < M >= A. Le théorème suivant éclaircit le lien qui existe entre bornitude du crochet et la convergence de la martingale.

Théorème 16.1.3. a) lim_{n→∞} M_{n}(ω) existe pour ℙ p.s. tous les ω tels que A_{∞}(ω) < +∞.

b) Si M a des accroissements uniforméments bornés (i.e. ∀n ≥ 1, ∀ω ∈ Ω, |(M_{n}(ω) − M_{n−1}(ω))| ≤ K)). Alors : lim_{n→∞} M_{n}(ω) existe ssi A_{∞}(ω) < +∞.

Démonstration. a) A est prévisible donc ∀k ∈ ℕ, S_{k} = inf{n; A_{n+1} > k} est un temps d’arrêt. D’autre part, A^{S_{k}} est un processus prévisible nul en 0 (le vérifier) borné par k. (M^{2} − A)^{S_{k}} est une martingale en tant que martingale arrêtée. Puisque sup_{n} 𝔼((M_{n}^{S_{k}})^{2}) = sup_{n} 𝔼(A_{n}^{S_{k}}) ≤ k, M^{S_{k}} est bornée dans L^{2} et lim_{n→∞} M_{n∧S_{k}} existe ℙ p.s. et dans L^{2}. Or on a

{A_{∞} < +∞} = ∪_{k}{S_{k} = ∞}

d’où sur {A_{∞} < +∞}, il existe k (fixé) tel que S_{k} = ∞ et lim M_{n∧S_{k}} = lim M_{n} existe donc.

b) Si l’on avait ℙ(A_{∞} = ∞, sup_{n} |M_{n}| < +∞) > 0 alors pour un c > 0, ℙ(T_{c} = ∞, A_{∞} = ∞) > 0 où l’on a posé T_{c} = inf{r; |M_{r}| > c}. En effet,

{A_{∞} = ∞, sup_{n} |M_{n}| < ∞} = ∪_{c∈ℕ}{A_{∞} = ∞, T_{c} = ∞}

donc

0 < ℙ [A_{∞} = ∞, sup_{n} |M_{n}| < ∞] ≤ ∑_{c∈ℕ}ℙ(A_{∞} = ∞; T_{c} = ∞)

et il existe un c ∈ ℕ tel que ℙ(T_{c} = ∞, A_{∞} = ∞) > 0. Or 𝔼(M_{T_{c}∧n}^{2} − A_{T_{c}∧n}) = 0 et M^{T_{c}} est bornée par c + K d’où

𝔼(A_{T_{c}∧n}) ≤ (c + K)^{2}

Par le théorème de convergence monotone pour le processus croissant A, on aurait

+∞ · ℙ(T_{c} = ∞, A_{∞} = ∞) ≤ (c + K)^{2}

ce qui est bien entendu exclu. En conclusion, on a

ℙ(A_{∞} = ∞, sup_{n} |M_{n}| < ∞) = 0

En utilisant a), on finit aisément la preuve. □

16.1.4 Application

Théorème 16.1.4. Soit (X_{k})_{k} une suite de variables aléatoires indépendantes telles que pour tout k ∈ ℕ, on ait

𝔼(X_{k}) = 0, σ_{k}^{2} = V ar(X_{k}) < +∞

a) Alors ∑_{k} σ_{k}^{2} < +∞ ⇒ ∑_{k} X_{k} converge ℙ p.s.

b) Si les (X_{k})_{k} sont bornées par une constante K ≥ 0 tel que |X_{k}| ≤ K pour tout k, ℙ p.s. alors

(∑_{k} X_{k}) converge p.s. ⇒ ∑_{k} σ_{k}^{2} < +∞

Démonstration. On rappelle que la loi du 0−1 nous dit que ℙ (∑_{k} X_{k} converge ) ∈ {0, 1}. Soit la filtration (F_{n})_{n} associée au processus X = (X_{0}, X_{1}, …, X_{n}, …) et M_{n} = X_{1} +…+X_{n}, M_{0} = 0. M est une martingale. La décomposition de Doob de la sous-martingale M^{2} est donnée par

M_{n}^{2} = N_{n} + A_{n}

où N est une martingale nulle en 0 et A_{n} = ∑_{k=1}^{n} σ_{k}^{2}. Le théorème précédent donne le résultat. □

A titre d’exemple, on se donne une suite de signes aléatoires ϵ, c’est-à-dire une suite de variables aléatoires indépendantes (ϵ_{n})_{n} telles que ℙ(ϵ_{n} = 1) = ℙ(ϵ_{n} = −1) = 1/2 et une suite déterministe de réels (a_{n})_{n}. Le théorème précédent montre que ∑_{n} ϵ_{n}a_{n} converge ℙ p.s. ssi ∑_{n} a_{n}^{2} < +∞.

16.2 TD Probabilités : Inégalités maximales

Ce td est composé d’un théorème relatif à une inégalité maximale qu’il faut connaître et savoir démontrer. Le deuxième théorème est une conséquence du premier (à savoir retrouver). Le troisième théorème concerne la loi du log-itéré (dont on trouvera l’énoncé complet dans [30] en appendice) dans le cas “facile” des lois normales. On trouvera dans [16] un énoncé semblable avec cette fois-ci des lois de Bernoulli au lieu des lois normales. Enfin, le td se termine par un exercice modélisant un portefeuille d’actions tiré de [26] qui peut aussi servir à illustrer (y réfléchir) les exposés sur la loi des grands nombres et le TCL.

Théorème 16.2.1. Inégalité maximale de Doob : [30], chap. 14 Soit (Z_{n})_{n} une sous martingale positive par rapport à une filtration (F_{n})_{n}. Alors pour tout c > 0, on a

cℙ ( sup_{0≤k≤n} Z_{k} ≥ c) ≤ 𝔼 (Z_{n})

1) Soit pour tout k ∈ {0, …, n}, F_{k} = {Z_{0} < c} ∩ {Z_{1} < c} ∩ … ∩ {Z_{k−1} < c} ∩ {Z_{k} ≥ c} avec F_{0} = {Z_{0} ≥ c}. Montrer que F = {sup_{0≤k≤n} Z_{k} ≥ c} est la réunion disjointe des F_{k} et que pour tout k, F_{k} ∈ F_{k}.

2) Utiliser la propriété de sous-martingale pour montrer que cℙ(F_{k}) ≤ 𝔼(Z_{n}; F_{k}) et conclure.

Solution

1) Pour tout ω, il y a une première valeur de k telle que Z_{k}(ω) ≥ c. Donc cet ω est dans F_{k}. Les Z_{i} sont F_{k}-mesurables pour i ≤ k. Donc les ensembles Z_{i} < c et Z_{k} ≥ c sont F_{k} mesurables et il en est donc de même de F_{k}.

2) En vertu de la propriété de sous-martingale et comme F_{k} est F_{k}-mesurable, 𝔼(Z_{n}; F_{k}) ≥ 𝔼(Z_{k}; F_{k}) ≥ cℙ(F_{k}). On somme sur tous les k = 1, ..., n et on obtient le résultat parce que F est l’union disjointe des F_{k} et que 𝔼(Z_{n}; F) ≤ 𝔼Z_{n}.

Exercice 16.2.1. Inégalité de Kolmogorov : [30], chap. 14

Théorème 16.2.2. Soit (X_{n})_{n} une suite de variables aléatoires indépendantes centrées et de variances respectives σ_{n}^{2} finies. On pose S_{n} = X_{1} + … + X_{n} et V_{n} = V ar(S_{n}) = σ_{1}^{2} + … + σ_{n}^{2}. Alors pour tout c strictement positif, on a :

c^{2}ℙ ( sup_{1≤k≤n} |S_{k}| ≥ c) ≤ V_{n}

1) Montrer que S_{n}^{2} est une sous-martingale.

2) Plus généralement, montrer que si M est une martingale et c une fonction convexe telle que ∀n 𝔼(|c(M_{n})|) < ∞, alors c(M) est sous-martingale.

3) Appliquer maintenant le théorème précédent. Comparer avec l’inégalité qu’on peut obtenir directement pour |S_{n}| par Tchebycheff et en déduire que l’inégalité est bien un raffinement.

Solution

1) On remarque que S_{n} − S_{k} et S_{k} sont indépendantes et centrées. On a donc 𝔼(S_{n}^{2}|F_{k}) = 𝔼((S_{n} − S_{k})^{2} + S_{k}^{2} + 2S_{k}(S_{n} − S_{k})|F_{k}) ≥ 𝔼(S_{k}^{2}|F_{k}) + 2𝔼(S_{k}(S_{n} − S_{k})|F_{k}) = 𝔼(S_{k}^{2}|F_{k}) + S_{k}𝔼(S_{n} − S_{k}|F_{k}) (par la propriété (j) de l’espérance conditionnelle) = 𝔼(S_{k}^{2}|F_{k}) + S_{k}𝔼(S_{n} − S_{k}|F_{k}) = 𝔼(S_{n} − S_{k}) = 0 p.s. par la propriété (k).

2) Cela vient de la propriété (h) de l’espérance conditionnelle : si c : ℝ → ℝ est convexe et si 𝔼|c(X)| < ∞, alors 𝔼(c(X)|G) ≥ c(𝔼(X|G)). On a donc pour k ≤ n, 𝔼(c(M_{n})|G_{k}) ≥ c(𝔼(M_{n}|G_{k})) = c(M_{k}).

3) On a 𝔼(S_{n}^{2}) = V ar(S_{n}) = σ_{1}^{2} + ⋯ + σ_{n}^{2} et donc l’application du 1) est directe. Pour |S_{n}|, on peut directement appliquer l’inégalité de Tchebycheff : ℙ(|S_{k}|) ≥ c) ≤ \frac{V ar(S_{k})}{c^{2}} et donc c^{2} sup_{k} ℙ(|S_{k}| ≥ c) ≤ V_{n} pour tout k. L’inégalité de Doob est donc une amélioration nette : elle nous autorise à commuter sup et ℙ dans la formule précédente.

Théorème 16.2.3. Un cas particulier de la loi du log itéré : [30], chap. 14 Soit (X_{n})_{n} une suite i.i.d. de normales standard. On pose S_{n} = X_{1} + … + X_{n}. Alors, presque sûrement, on a :

lim sup \frac{S_{n}}{(2n log log n)^{1/2}} = 1

et

lim inf \frac{S_{n}}{(2n log log n)^{1/2}} = −1

1) Montrer que la deuxième partie du théorème est équivalente à la première en considérant −X_{i} au lieu de X_{i}.

2) On pose ϕ(y) = (2π)^{−1/2} exp(−y^{2}/2) et Φ(x) = ∫_{−∞}^{x} ϕ(y)dy.

a) En remarquant que ϕ′(y) = −yϕ(y), montrer que pour tout x strictement positif, x^{−1}ϕ(x) ≥

(1 − Φ(x)).

b) En remarquant que (y^{−1}ϕ(y))′ = −(1 + y^{−2})ϕ(y), montrer que pour tout x > 0, ϕ(x) ≤ (x +

x^{−1})(1 − Φ(x)).

c) En déduire un encadrement de ℙ(X > x) pour x > 0.

3) Montrer que ℙ(S_{n} > \sqrt{2n log log n}) ≤ \frac{1}{log n\sqrt{4π log log n}}. Montrer que cette inégalité est aussi une équivalence. Comparer avec le résultat du théorème.

4) Obtention d’une borne exponentielle. a) Soit (F_{n})_{n} la filtration naturelle associée aux X_{i}. Montrer

que exp(θS_{n}) est une sous-martingale relativement à cette filtration pour tout θ réel.

b) En déduire, en utilisant l’inégalité maximale de Doob, que pour θ > 0,

ℙ ( sup_{1≤k≤n} S_{k} ≥ c) ≤ e^{−θc+ \frac{1}{2}θ^{2}n}

c) En déduire

ℙ ( sup_{1≤k≤n} S_{k} ≥ c) ≤ e^{− \frac{1}{2}c^{2}/n}

5) Obtention d’une borne sup. On se donne un K > 1 proche de 1 et on pose c_{n} = Kh(K^{n−1}) où h(x) = \sqrt{2x log log x}.

a) En utilisant BC1, montrer que presque sûrement, pour n assez grand, si k est un entier compris

entre K^{n−1} et K^{n}, S_{k} ≤ Kh(k).

b) En déduire que lim sup h(k)^{−1}S_{k} ≤ 1.

6) Obtention d’une borne inf. Soit N un entier très grand. Soit ϵ un réel strictement positif petit. Soit F_{n} = {S_{N^{n+1}} − S_{N^{n}} > (1 − ϵ)h(N^{n+1} − N^{n})}.

a) En utilisant la question 1), montrer que

ℙ(F_{n}) ≥ (y + y^{−1})^{−1}ϕ(y)

où y = (1 − ϵ){2 log log(N^{n+1} − N^{n})}^{1/2}.

b) Utiliser BC2 pour montrer que presque sûrement, une infinité de F_{n} ont lieu.

c) En déduire que l’on a presque sûrement pour une infinité de n

S_{N^{n+1}} > (1 − ϵ)h(N^{n+1} − N^{n}) + S_{N^{n}}

d) attention : étape non expliquée dans [30]. En appliquant le résultat du 5)b) aux −X_{i}, on a presque sûrement, pour tout ε > 0, S(N^{n}) ≥ −(1 + ε)h(N^{n}) pour n assez grand.

e) Montrer alors que lim sup h(k)^{−1}S_{k} ≥ (1 − ϵ)(1 − N^{−1})^{1/2} − 2N^{−1/2}. Conclure.

Solution

1) Immédiat

2) a) En intégrant entre x et +∞ la relation différentielle, on obtient −ϕ(x) = − ∫_{x}^{+∞} yϕ(y) ≤ −x ∫_{x}^{+∞} ϕ(y) = −x(1 − Φ). Donc (1 − Φ) = ∫_{x}^{+∞} ϕ(y)dy ≤ \frac{ϕ(x)}{x}.

b) En intégrant la relation proposée, on a −x^{−1}ϕ(x) = ∫_{x}^{+∞}(1 + y^{−2})ϕ(y) ≥ −(1 + x^{−2})(1 − Φ). En combinant a) et b), on obtient

\frac{x^{−1}}{1 + x^{2}} e^{− \frac{x^{2}}{2}} ≤ ∫_{x}^{+∞} e^{− \frac{y^{2}}{2}} = \sqrt{2π}ℙ(X > x) ≤ x^{−1}e^{− \frac{x^{2}}{2}} .

3) Comme S_{n} est une somme de n variables i.i.d.n.c., elle est gaussienne centrée de variance n. Donc, en utilisant la majoration donnée au 2),

ℙ(S_{n} > \sqrt{2n log log n}) = ∫_{√\overline{2n log log n}}^{+∞} \frac{1}{\sqrt{2πn}}e^{− \frac{x^{2}}{2n}} =

∫_{√\overline{2 log log n}}^{+∞} \frac{1}{\sqrt{2π}} e^{− \frac{x^{2}}{2}} ≤ \frac{1}{\sqrt{2π}} \frac{e^{− log log n}}{\sqrt{2 log log n}} = \frac{1}{log n\sqrt{4π log log n}}.

Les deux résultats sont compatibles et complémentaires mais aucun des deux n’implique l’autre, car on vient d’obtenir un ordre de grandeur pour la probabilité que ne peut donner la loi du log itéré.

4) a) Ceci découle immédiatement de la convexité de l’exponentielle et du résultat de l’exercice 16.2.1, question 2).

4)b) On a en utilisant l’inégalité de Doob

ℙ(sup_{k≤n} S_{k} ≥ c) = ℙ(sup_{k≤n} e^{θS_{k}} ≥ e^{θc}) ≤ e^{−θc}𝔼(e^{θS_{n}}).

Comme les X_{i} sont indépendantes, on a 𝔼e^{θS_{n}} = (𝔼e^{θX})^{n}. De plus, 𝔼e^{θX} = ∫ e^{θx} \frac{1}{\sqrt{2π}} e^{− \frac{x^{2}}{2}} dx = e^{\frac{θ^{2}}{2}} , ce qui donne le résultat.

4) c) Il suffit de choisir la valeur de θ qui donne la meilleure inégalité, à savoir θ = \frac{c}{n}.

5) On a

ℙ( sup_{k≤K^{n}} S_{k} ≥ c_{n}) ≤ e^{− \frac{c^{2}_{n}}{2K^{n}}} = (n − 1)^{−K}(log K)^{−K}.

Cette série étant convergente, Borel-Cantelli 1 nous dit que presque sûrement, pour n assez grand et K^{n−1} ≤ k ≤ K^{n},

S_{k} ≤ sup_{k≤K^{n}} ≤ c_{n} = Kh(K^{n−1}) ≤ Kh(k).

Donc pour K > 1,

lim sup_{k} h(k)^{−1}S_{k} ≤ K, p.s.,

ce qui donne la première majoration en faisant tendre K vers 1.

6)a) On écrira S(n) pour S_{n} pour des raisons typographiques. S(N^{n+1}) − S(N^{n}) est une variable gaussienne dont on note la variance J = N^{n+1} − N^{n}. Par l’inégalité prouvée au 1)b), on a donc

ℙ(F_{n}) = ∫_{(1−ε)\sqrt{2K log log K}}^{+∞} \frac{1}{\sqrt{2πK}} e^{− \frac{x^{2}}{2K}} = ∫_{y}^{+∞} \frac{1}{\sqrt{2π}} e^{− \frac{y^{2}}{2}} ≥ \frac{y + y^{−1}}{\sqrt{2π}} e^{− \frac{y^{2}}{2}} .

6) b)c) On a pour une constante C, ℙ(F_{n}) ≥ \frac{C}{log log N^{n+1}} \frac{1}{[log(N^{n+1}−N^{n})]^{(1−ε)^{2}}} , clairement une série divergente. Or, les F_{n} sont indépendants. Donc, presque sûrement, un nombre infini de F_{n} se produit, c’est-à-dire

S(N^{n+1}) > (1 − ε)h(N^{n+1} − N^{n}) + S(N^{n})

pour une infinité de n.

6) e) On obtient donc

lim sup_{n} \frac{S(N^{n+1})}{h(N^{n+1})} ≥ lim sup_{n} \frac{(1 − ε)h(N^{n+1} − N^{n}) − 2(1 + ε)h(N^{n})}{h(N^{n+1})} =

lim sup_{n} \frac{(1 − ε)\sqrt{N^{n+1} − N^{n}}\sqrt{log log(N^{n+1} − N^{n})} − 2(1 + ε)\sqrt{2N^{n} log log N^{n}}}{\sqrt{N^{n+1} log log N^{n+1}}}
≈ (1 − ε)(1 − N^{− \frac{1}{2}} )^{\frac{1}{2}} − 2(1 + ε)N^{− \frac{1}{2}} .

Il suffit alors de faire N arbitrairement grand et ε arbitrairement petit.

Exercice 16.2.2. Un modèle de portefeuille d’actions : [26] pp. 405-410 S = (S_{n})_{n≥0} est un processus stochastique décrivant l’évolution temporelle (le temps est discret) d’une action boursière avec bruit. Plus exactement, la suite de v.a. (S_{n})_{n} est définie par :

S_{0} = s_{0} > 0, et si n ∈ ℕ^{∗}, S_{n} = (1 + μ)S_{n−1} + σS_{n−1}ϵ_{n}

où (ϵ_{n})_{n} est un processus de bruits qui est ici une suite de Bernoulli indépendantes prenant les valeurs ±1 avec même probabilité. μ et σ sont deux paramètres vérifiant |σ| < 1 + μ. On note λ = \sqrt{(1 + μ)^{2} − σ^{2}}. Et enfin soit F_{n} la filtration naturelle associée au processus S.

1) Soit f la fonction définie sur ℝ^{2} par f(x, y) = (1 + μ)x + σxy. Montrer que pour tout x ≥ 0, f(x, 1) ≥ 0 et f(x, −1) ≥ 0.

2) a) Calculer 𝔼(S_{n}|F_{n−1}) et montrer que S est une martingale pour μ = 0, une sous-martingale

pour μ > 0 et une sur-martingale pour μ < 0.

b) On se place dans le cas μ < 0. Montrer que (S_{n})_{n} converge presque sûrement. Etablir une rela-

tion de récurrence sur 𝔼(S_{n}) et en déduire que la limite de (S_{n})_{n} est nulle.

3) Vérifier que S_{n} est de carré intégrable et montrer que 𝔼(S_{n}^{2}) = s_{0}^{2} [(1 + μ)^{2} + σ^{2}]^{n}.

4) Soit Z le processus log(S). Montrer que selon que λ est supérieur, égal ou inférieur à 1, Z est une sous-martingale, une martingale, ou une sur-martingale.

a) Montrer que pour tout entier n ≥ 1,

Z_{n} = Z_{0} + ∑_{j=1}^{n} log(1 + μ + σϵ_{j})

b) En déduire, en utilisant la loi des grands nombres, que (Z_{n})_{n} converge presque sûrement vers

+∞ et \frac{Z_{n}}{n} converge presque sûrement vers 0 si λ > 1, 0 si λ = 1 et −∞ si λ < 1.

5) On se place dans le cas particulier |σ| < 2^{−1/2} et (1 + μ)^{2} + σ^{2} < 1.

a) Vérifier que l’on est dans le cas où −S est une sous-martingale.

b) Ecrire la décomposition de Doob de −S = M + A avec M martingale de carré intégrable et A

processus croissant prévisible nul en 0 de carré intégrable. Plus exactement, montrer que :

A_{n} = −μ ∑_{j=0}^{n−1} S_{j}

M_{0} = s_{0}, et si n ≥ 1, M_{n} = −S_{n} + μ ∑_{j=1}^{n−1} S_{j}

c) Montrer que le crochet de M s’écrit :

< M >_{n}= σ^{2} ∑_{j=0}^{n−1} S_{j}^{2}

d) En utilisant la question 3), montrer que (M_{n})_{n} converge presque sûrement.

6) On définit le processus R par R_{n} = λ^{−\sqrt{n}}S_{n}^{1/\sqrt{n}} et on pose ρ^{2} = \frac{1}{4} \{log (\frac{1 + μ + σ}{1 + μ − σ})\}^{2}.

a) Montrer que

log(R_{n}) = \frac{1}{\sqrt{n}} [Z_{0} + ∑_{j=1}^{n}(log(1 + μ + σϵ_{j}) − log(λ))]

b) Montrer à l’aide du TCL que la suite des lois (ℙ_{log R_{n}})_{n} converge étroitement vers une loi N (0, ρ^{2}).

c) En déduire que (R_{n})_{n} converge étroitement vers la probabilité de densité par rapport à la mesure de Lebesgue donnée par :

1_{y>0} \frac{1}{|ρ|y\sqrt{2π}} exp (−\frac{(log y)^{2}}{2ρ^{2}})

C’est la loi Log-normale de paramètres 0 et ρ^{2}.

Martingales uniformément intégrables

Bibliographie : [30] chapitres 13 et 14, [5], section 1.3.

17.1 L’uniforme intégrabilité

Remarque 17.1.1. Fatou inverse : Si f_{n} ≥ 0 mesurables, f_{n} ≤ g et g ∈ 𝕃^{1}, alors ∫ lim sup f_{n} ≥ lim sup ∫ f_{n}. Démonstration : appliquer Fatou à (g − f_{n}).

Théorème 17.1.1. Soit X ∈ 𝕃^{1} = 𝕃^{1}(Ω, F, ℙ). Alors pour tout ε > 0 il existe δ > 0 tel que pour tout F ∈ F, ℙ(F) < δ implique 𝔼(|X|; F) < ε.

Démonstration. Sinon, il existe ε_{0} > 0 et une suite F_{n} d’éléments de F tels que ℙ(F_{n}) < 2^{−n} et 𝔼(|X|; F_{n}) ≥ ε_{0}. Soit H := lim sup F_{n}. Alors Borel Cantelli implique que ℙ(H) = 0. En utilisant Fatou inverse :

0 = 𝔼(|X|; H) ≥ lim sup 𝔼(|X|; F_{n}) ≥ ε_{0}, contradiction.
□

Corollaire 17.1.1. Si X ∈ 𝕃^{1} et ε > 0. Alors il existe K ∈ [0, ∞) tel que

𝔼(|X|; |X| > K) < ε.

Démonstration. On a ℙ(|X| > K) ≤ \frac{𝔼(|X|)}{K}. Donc pour K assez grand on peut avoir ℙ(|X| > K) < δ, où on fixe δ comme dans le théorème 17.1.1. □

Définition 17.1.1. Une classe C de variables aléatoires est dite uniformément intégrable (UI) si pour tout ε > 0, il existe K ∈ [0, ∞) tel que

𝔼(|X|; |X| > K) < ε, ∀X ∈ C.

Remarque 17.1.2. On a alors avec K_{1} associé à ε = 1, 𝔼(|X|) ≤ 𝔼(|X|; |X| > K_{1}) + 𝔼(|X|; |X| ≤ K_{1}) ≤ 1 + K_{1} et donc une famille UI est aussi bornée dans 𝕃^{1}. Il n’est pas vrai qu’une famille bornée dans 𝕃^{1} est UI : prendre sur [0, 1] muni de la mesure de Lebesgue, f_{n} = n11_{0, \frac{1}{n}}.

Proposition 17.1.1. Si C est bornée dans L^{p} pour un p > 1, alors elle est uniformément intégrable. Si C a un chapeau intégrable Y elle est uniformément intégrable.

Démonstration.

𝔼(|X|; |X| > K) ≤ K^{1−p}𝔼(|X|^{p}; |X| > K) ≤ K^{1−p} sup_{C} 𝔼(|X|^{p});

𝔼(|X|; |X| > K) ≤ 𝔼(Y; |X| > K) ≤ 𝔼(Y; |Y | > K)

et on applique le corollaire 17.1.1.

□

Voici un excellent développement : Le théorème de de la Vallée-Poussin donne une caractérisation intuitive et facile à montrer des familles UI de 𝕃^{1}. ([5] p. 10).

Théorème 17.1.2. C est UI si et seulement s’il existe une fonction mesurable croissante G : ℝ^{+} → ℝ^{+} telle que

lim_{t→∞} \frac{G(t)}{t} → +∞ et sup_{X∈C} E(G(|X|) < ∞.

Il est aussi important de savoir donner une condition d’uniforme intégrabilité adaptée à ℝ^{N}. C’est la suivante :

Définition 17.1.2. On dit que C ⊂ 𝕃^{1}(ℝ^{N}) est uniformément intégrable si pour tout ε > 0 il existe R > 0 et K > 0 tels que pour tout f ∈ C,

∫_{|x|≥R} f(x)dx < ε et ∫_{|f|≥K} f(x)dx < ε.

La plupart des thèorèmes qui suivent se généralisent avec cette définiton de l’UI sur ℝ^{N}.

17.1.1 Les espérances conditionnelles d’une même variable X sont équiintégrables

Théorème 17.1.3. Soit X ∈ 𝕃^{1}. Alors la classe {𝔼(X|G) : G est une sous-tribu de F} est uniformément intégrable.

Démonstration. On fixe ε > 0 et choisit δ tel que pour F ∈ F, on ait

ℙ(F) < δ ⇒ 𝔼(|X|; F) < ε.

Enfin, on choisit K tel que \frac{𝔼(|X|)}{K} < δ. Soit G une sous-algèbre et Y une version quelconque de 𝔼(X|G); Par Jensen appliquée à l’espérance conditionnelle ,

|Y | = |𝔼(X|G)| ≤ 𝔼(|X| |G), p.p.  (17.1.1)

Donc 𝔼(|Y |) ≤ 𝔼(|X|) et

Kℙ(|Y | > K) ≤ 𝔼(|Y |) ≤ 𝔼(|X|),

et donc ℙ(|Y | > K) < δ. Mais {|Y | > K} ∈ G, et donc par la définition de probabilité conditionnelle et par (17.1.1),

𝔼(|Y |; |Y | ≥ K) ≤ 𝔼(𝔼(|X| |G); |Y | ≥ K) = 𝔼(|X|; |Y | ≥ K) < ε.
□

17.1.2 Convergence en probabilité

Lemme 17.1.1. (Vitali) Soit C un borné de ℝ^{N} et f_{k} est une suite de fonctions équiintégrable dans 𝕃^{1}(C) qui converge presque partout vers une fonction f. Alors f_{k} converge vers f dans 𝕃^{1}(C).

On peut faire mieux avec la convergence en probabilité et donner une équivalence compléte !

Définition 17.1.3. On dit que X_{n} → X en probabilité si pour tout ε > 0,

ℙ(|X_{n} − X| > ε) → 0 quand n → ∞.

Lemme 17.1.2. Si X_{n} → X p.p. alors X_{n} → X en probabilité.

Démonstration. Supposons que X_{n} → X p.p. (rappel : les lemmes Fatou, Beppo-Levy, convergence monotone, s’appliquent aux fonctions caractéristiques d’ensembles avec les correspondances suivantes :

– ℙ(A) = 𝔼(11_{A}),

– à la limite sup de fonctions caractéristiques 11_{A_{n}} d’ensembles A_{n} correspond l’évênement [A_{n}, infiniment souvent (i.s.) ]

– à leur limite inf : [A_{n}, finalement (eventually) ].)

Par le lemme de Fatou appliqué aux ensembles,

0 = ℙ((X_{n} ↛ X)) ≥ ℙ(|X_{n} − X| > ε i.s. ) = ℙ(lim sup |X_{n} − X| > ε) ≥ lim sup ℙ(|X_{n} − X| ≥ ε).

□

17.1.3 Théorème de convergence bornée

Théorème 17.1.4. Soit X_{n} une suite de v.a. et X une v.a. Si X_{n} → X en probabilité et s’il existe une borne K ∈ ℝ^{+}, telle que |X_{n}| ≤ K pour tout n, alors

𝔼(|X_{n} − X|) → 0.

Démonstration. On vérifie que ℙ(|X| ≤ K) = 1. Or pour tout k ∈ ℕ^{∗},

ℙ(|X| > K + k^{−1}) ≤ ℙ(|X − X_{n}| > k^{−1}) → 0.

Donc ℙ(|X| > K) = ℙ(∪_{k}[|X| > K + k^{−1}]) = 0. On a alors pour tout ε > 0,

𝔼(|X_{n} −X| = 𝔼(|X_{n} −X|; |X_{n} −X| > ε)+𝔼(|X_{n} −X|; |X_{n} −X| ≤ ε) ≤ 2Kℙ(|X_{n} −X| > ε)+ε < 2ε

pour n assez grand. □

17.1.4 Condition nécessaire et suffisante de convergence 𝕃^{1}.

Théorème 17.1.5. Soit (X_{n}) une suite de 𝕃^{1} et X ∈ 𝕃^{1}. Alors X_{n} → X dans 𝕃^{1} si et seulement si

(i) X_{n} → X en probabilité. (ii) La suite X_{n} est UI.

Démonstration. On tronque X_{n} pour la rendre bornée en posant X_{n}^{k} = max(−k, min(k, X_{n})). Par définition de UI, on peut choisir K tel que

𝔼(|X_{n}^{k} − X_{n}|) < ε, 𝔼(|X^{k} − X)| < ε.

Comme |X_{n}^{k} − X^{k}| ≤ |X_{n} − X|, X_{n}^{k} → X^{k} en probabilité. Par le théorème de convergence bornée, on déduit que X_{n}^{k} → X^{k} dans 𝕃^{1}. L’inégalité triangulaire permet de conclure que X_{n} → X dans 𝕃^{1}.

Réciproque : Si X_{n} ∈ 𝕃^{1}, X_{n} → X dans 𝕃^{1}, alors X_{n} → X en probabilité et X_{n} est UI. La première relation est une conséquence de l’inégalité de Markov,

ℙ(|X_{n} − X| > ε) ≤ \frac{1}{ε}𝔼(|X_{n} − X|).

Montrons que X_{n} est UI. On choisit N assez grand pour que 𝔼(|X_{n} − X|) < ε. On remarque que toute famille finie dans 𝕃^{1} est UI et donc il nous suffit de régler le sort des X_{n} pour n ≥ N. On fixe δ tel que ℙ(F) < δ ⇒ 𝔼(X; F) < ε. Par l’inégalité de Markov à nouveau

ℙ(|X_{n}| > K) ≤ K^{−1} sup_{n} 𝔼(|X_{n}|) < δ

pour K assez grand. Donc pour n ≥ N,

𝔼(|X_{n}|; |X_{n}| > K) ≤ 𝔼(|X|; |X_{n}| > K) + 𝔼(|X − X_{n}|) < 2ε.
□

17.2 Martingales UI

Définition 17.2.1. On dit que M est une martingale UI si c’est une martingale dans le cadre habituel (Ω, F_{n}, ℙ) et si M_{n} est une suite UI. Comme M est UI, elle est bornée dans 𝕃^{1} et donc M_{∞} := lim M_{n} existe presque sûrement : 𝔼(|M_{n} − M_{∞}|) → 0.

Théorème 17.2.1. Soit M une martingale UI. Alors M_{∞} := lim M_{n} vérifie

M_{n} = 𝔼(M_{∞}|F_{n}).

Démonstration. Pour F ∈ F_{n}, et r ≥ n, on a

𝔼(M_{r}; F) = 𝔼(E(M_{r}|F_{n}); F) = 𝔼(M_{n}; F).

Mais

|𝔼(M_{r}; F) − E(M_{∞}; F)| ≤ 𝔼(|M_{r} − M_{∞}|; F) ≤ 𝔼(|M_{r} − M_{∞}|) → 0.

Donc

𝔼(M_{∞}; F) = 𝔼(M_{n}; F).  (17.2.1)
□

17.2.1 Théorème ”montant” de Lévy.

Théorème 17.2.2. Soit ξ ∈ 𝕃^{1}(Ω, F, ℙ), et soit M_{n} := 𝔼(ξ|F_{n}). Alors M est une martingale UI et

M_{n} → ξ := 𝔼(ξ|F_{∞}), p.s. et dans 𝕃^{1}.

Démonstration. M est une martingale par la propriété des tours : si r ≥ n,

𝔼(M_{r}|F_{n}) = 𝔼(𝔼(ξ|F_{r})|F_{n}) = 𝔼(ξ|F_{n}) = M_{n}.

On sait que M est UI (Théorème 17.1.3) donc M_{∞} := lim M_{n} existe p.s. et dans 𝕃^{1}. Il reste à montrer que M_{∞} = η p.s. où η := 𝔼(ξ|F_{∞}). On suppose SPDG que ξ ≥ 0 et on considère les mesures Q_{1} et Q_{2} telles que

Q_{1}(F) := 𝔼(η; F), Q_{2}(F) = 𝔼(M_{∞}; F), F ∈ F_{∞}.

Si F ∈ F_{n}, comme 𝔼(η|F_{n}) = 𝔼(𝔼(ξ|F_{∞})|F_{n}) = 𝔼(ξ|F_{n})(= M_{n}) par la propriété des tours, on a en utilisant (17.2.1),

𝔼(η; F) = 𝔼(M_{n}; F) = 𝔼(M_{∞}; F).

Donc Q_{1} et Q_{2} coïncident sur le π-système ∪_{n}F_{n} et donc aussi sur F_{∞} = σ(∪_{n}F_{n}).

Mais η et M_{∞} sont F_{∞}-mesurables (poser M_{∞} := lim sup M_{n}). Donc F := [η > M_{∞}] ∈ F_{∞}, et comme Q_{1}(F) = Q_{2}(F),

𝔼(η − M_{∞}; η > M_{∞}) = 0.

Donc ℙ(η > M_{∞}) = 0 et de même ℙ(M_{∞} > η) = 0.

□

Exemple 1. Prendre M ∈ 𝕃^{1}([0, 1]^{2}) et F_{n} la tribu engendrée par la partition de [0, 1]^{2} en carrés dyadiques d’arète 2^{−n}. Alors M_{n} est la fonction en escalier égale à la moyenne de M sur chaque cube dyadique. Dans ce cas, F_{∞} est la tribu des Boréliens, et M_{n} → M. Remarque : si f ∈ 𝕃^{2}, on savait déja qu’on a convergence 𝕃^{2} par le théorème des projections dans un Hilbert : pourquoi ?

17.2.2 La loi du 0-1 par martingale

Théorème 17.2.3. Soit X_{1}, X_{2}, … une suite de v.a. indépendantes. On pose

T_{n} := σ(X_{n+1}, X_{n+2}, …), T = ∩_{n}T_{n}.

Alors si F ∈ T , ℙ(F) = 0 ou 1.

Démonstration. Soit F_{n} = σ(X_{1}, X_{2}, …, X_{n}). Soit F ∈ T et η := 11_{F}. Comme η est sommable, on a par le théorème ”montant” de Lévy que

η = 𝔼(η|F_{∞}) = lim 𝔼(η|F_{n}), p.s.

Mais pour tout n, η est T_{n}-mesurable et donc indépendant de F_{n}. Donc par la propriété (k) de l’espérance conditionnelle,

𝔼(η|F_{n}) = 𝔼(η) = ℙ(F), p.s.

Donc η = ℙ(F), p.s. et comme η ne prend que les valeurs 0 et 1, c’est fini. □

17.2.3 Théorème de Lévy ”descendant”

Théorème 17.2.4. Soit (Ω, F, ℙ) et {G_{−n}; n ∈ ℕ} une suite de sous-tribus de F telles que

G_{−∞} := ∩_{k}G_{−k} ⊂ ⋯ ⊂ G_{−(n+1)} ⊂ ⋯ ⊂ G_{−1}.

Soit γ ∈ 𝕃^{1}(Ω, F, ℙ) et posons

M_{n} := 𝔼(γ|G_{n}).

Alors

M_{−∞} := lim M_{−n} existe p.s. et dans 𝕃^{1},

et

M_{−∞} = 𝔼(γ|G_{−∞}), p.s.

Démonstration. En appliquant le lemme de passage de Doob à la martingale (M_{k}, G_{k}, −N ≤ k ≤ −1), on montre exactement comme pour le théorème de convergence de Doob que M_{−n} converge presque partout. Du théorème 17.1.3, on déduit que M_{−n} est équiintégrable, et donc que M_{−n} converge dans 𝕃^{1}. Reste à montrer que M_{−∞} = 𝔼(γ|G_{−∞}). On pose M_{−∞} = lim sup M_{−n} pour avoir que M est G_{−∞}-mesurable. Soit G ∈ G_{−∞} ⊂ G_{−r}. :

𝔼(γ; G) = 𝔼(M_{−r}; G) → 𝔼(M_{−∞}; G)

car M_{−r} → M_{−∞} dans 𝕃^{1}.

□

17.2.4 Preuve de la LGN par martingale

Théorème 17.2.5. Soient X_{1}, X_{2}, … des v.a.i.i.d. avec pour tout k, 𝔼(X_{k}) < ∞. Soit μ = 𝔼(X_{k}) et S_{n} := X_{1} + ⋯ + X_{n}. Alors

\frac{S_{n}}{n} → μ, p.s. et dans 𝕃^{1}.

Démonstration. On pose

G_{−n} = σ(S_{n}, S_{n+1}, …), G_{−∞} = ∩_{n}G_{−n}.

On sait que

E(X_{1}|G_{n}) = \frac{1}{n}S_{n}, p.s.

Par le lemme de Lévy descendant, L := lim \frac{1}{n}S_{n} existe p.s. et dans 𝕃^{1}. On pose L := lim sup \frac{1}{n}S_{n} pour avoir une définition partout. Or, pour tout k,

L = lim sup \frac{X_{k+1} + ⋯ + X_{k+n}}{n} ,

ce qui veut dire que L est T_{k} mesurable, où T_{k} = σ(X_{k+1}, …). Par la loi du 0-1, il existe c ∈ ℝ tel que ℙ(L = c) = 1. Reste à calculer c :

c = 𝔼(L) = lim 𝔼(\frac{1}{n}S_{n}) = μ.

□

17.3 TD probabilité : Deuxième théorème d’arrêt : [26] p. 391

Définition 17.3.1. Une martingale M par rapport à une filtration (F_{n})_{n} est dite fermable s’il existe une variable aléatoire M_{∞} qui est F_{∞}-mesurable et intégrable et telle que pour tout n :

M_{n} = 𝔼(M_{∞}|F_{n})

Bien entendu, une martingale fermable est uniformément intégrable et donc converge presque sûrement et dans 𝕃^{1} vers M_{∞}. La réciproque est vraie : si M est uniformément intégrable alors elle est fermable.

On va commencer par donner un résultat relatif aux martingales arrêtées. Soit donc M une martingale et T un temps d’arrêt.

1) On définit la tribu des événements antérieurs à T par

F_{T} = {A ∈ F_{∞}|∀n ∈ ℕ, A ∩ {T = n} ∈ F_{n}}

Montrer que c’est bien une tribu.

2) Montrer que si S et T sont deux temps d’arrêt bornés par k ∈ ℕ tels que S ≤ T alors F_{S} ⊂ F_{T}. Solution

Si A ∈ F_{S}, on a ∀n ∈ ℕ, A ∩ {S = n} ∈ F_{n}. Alors, comme S ≤ T,

A ∩ {T = n} = ( ⋃_{k≤n} A ∩ {S = k}) ∩ {T = n} ∈ F_{n} ∩ F_{n} = F_{n}.

3) On conserve les notations des questions précédentes. Soit A ∈ F_{S}. On définit R par R = S11_{A} + k11_{A^{c}}.

a) Montrer que R est un temps d’arrêt borné par k.

Solution {R = n} = {S = n} ∩ A si n ≠ k, et {R = k} = {S = k} ∩ A ∪ (A^{c} ∩ ∪_{l<k}{S = k}) car S est borné par k.

b) Appliquer le premier théorème d’arrêt (celui vu en cours pour les temps d’arrêt bornés) et en déduire 𝔼(M_{R}) = 𝔼(M_{0}) = 𝔼(M_{k}). En déduire 𝔼(_{i}ndic_{A}M_{S}) = 𝔼(11_{A}M_{k}).

Solution En effet, 𝔼M_{R} = 𝔼(11_{A}M_{S}) + 𝔼(11_{A^{c}}M_{k}) = 𝔼M_{k} = E(M_{k}11_{A}) + 𝔼(M_{k}11A^{c}).

c) En déduire X_{S} = 𝔼(M_{k}|F_{S}). Remarquer que de même, M_{T} = 𝔼(M_{k}|F_{T}).

d) Conclure que M_{S} = 𝔼(M_{T} |F_{S}).

Solution Par la propriété des tours,

𝔼(M_{T} |F_{S}) = 𝔼(𝔼(M_{k}|F_{T})|F_{S}) = 𝔼(M_{k}|F_{S}) = M_{S}.

On vient donc de démontrer le résultat suivant :

Théorème 17.3.1. Soit M une martingale et S ≤ T deux temps d’arrêt bornés. On a alors

M_{S} = 𝔼(M_{T} |F_{S})

On se propose maintenant de démontrer le théorème suivant.

Théorème 17.3.2. Soit M une martingale uniformément intégrable (donc fermable). On note M_{∞} sa limite presque sûre et dans 𝕃^{1}. Soit T un temps d’arrêt (fini ou pas). On a le théorème d’arrêt de Doob :

M_{T} est dans 𝕃^{1} et 𝔼(M_{T}) = 𝔼(M_{0})

Remarque 17.3.1. Il y a en fait équivalence, à savoir que si M est une martingale, elle est fermable ssi elle vérifie la propriété précédente pour tous les temps d’arrêt T.

1) Le but de cette question est de montrer que la famille de variables aléatoires {M_{T ∧n}|n ∈ ℕ} est uniformément intégrable.

a) On rappelle que si X est une v.a. intégrable alors la famille { 𝔼(X|G)| G sous-tribu de F } est uniformément intégrable.

b) En se servant du théorème précédent, montrer que si T est un temps d’arrêt borné alors M_{T} = 𝔼(M_{∞}|F_{T}). ( ind. : On remarquera pour cela que M étant fermable, on a pour tout k, M_{k} = 𝔼(M_{∞}|F_{k}) et d’autre part, par le théorème précédent, M_{T} = 𝔼(M_{k}|F_{T}) pour k assez grand. On conclura ensuite en observant que F_{T} ⊂ F_{k} et que donc par la propriété des tours, M_{T} = 𝔼(𝔼(M_{∞}|F_{k})|F_{T}) = 𝔼(M_{∞}|F_{T}).

c) Montrer que {T ∧ n |n ∈ ℕ} est une suite de temps d’arrêt bornés. En déduire que la famille de variables aléatoires {M_{T ∧n}|n ∈ ℕ} est uniformément intégrable. (Application directe du b)).

2) Montrer que la martingale arrêtée M^{T} converge presque sûrement et dans 𝕃^{1} vers M_{T} (ind. : on regardera ce qui se passe sur les événements {T < +∞} et {T = ∞}).

3) En déduire le théorème.

Solution Par définition, M_{n}^{T} = M_{T ∧n}. C’est une martingale UI par le 1) et donc elle converge p.s. et dans L^{1}. Sur {T < ∞}, M_{T ∧n} → M_{T} quand n → ∞. Sur {T = ∞}, M_{T ∧n} = M_{n} → M_{∞} = M_{T} p.s.

17.4 TD Probabilités : Optimisation d’une vente ([18] p. 511)

Un étudiant ayant brillament réussi l’agrégation désire se débarasser de son Williams en en tirant le maximum de profit. Pour cela, il ouvre le Grimmett et cherche si il n’y aurait pas moyen d’optimiser cette vente. Toutes les semaines, il passe donc une annonce dans “La Sauce” où il propose de le vendre. Il sait que chaque semaine, il lui sera fait une offre dont le prix est modélisé par une variable aléatoire X_{n} (n pour indiquer que c’est la n-ème semaine). On supposera les (X_{n})_{n} i.i.d. ayant une fonction de densité f et une moyenne finie p > 0. D’autre part, le fait de stocker ce livre sacré l’oblige à louer une pièce dans laquelle il l’entrepose et qui lui coûte chaque semaine un prix constant c. On supposera de plus que notre petit agrégé, en bon petit épargnant qu’il est, place son argent dès qu’il en a sur un compte avec un taux d’intérêt par semaine constant égal à α.

1) Expliquer pourquoi il est raisonnable de vendre le livre la semaine T où T est un temps d’arrêt (par rapport à la filtration naturelle asssociée aux X_{i}) qui maximise :

μ(T) = 𝔼 ((1 + α)^{−T} X_{T} − ∑_{n=1}^{T}(1 + α)^{−n}c)

Solution Si l’étudiant avait vendu son livre dès l’agrégation en poche, il aurait à la date n empoché, grâce à l’épargne, une somme égale à X_{0}(1 + α)^{n}. Supposons maintenant qu’il ait attendu pour le vendre la date n : la première semaine, il aura non seulement perdu le prix de la location de la pièce mais aussi l’intérêt qu’il aurait pu gagner en épargnant cet argent soit c(1 + α) ; au bout de la deuxième semaine, il aura de la même manière perdu c(1 + α) mais aussi l’argent de la première semaine qu’il aurait placé depuis le début et qui lui aurait donc rapporté c(1 + α)^{2} ;... et finalement à la semaine n, (vu qu’il ne louera pas la pièce cette semaine), tout se passe comme s’il avait perdu ∑_{k=0}^{n−1} c(1 + α)^{k}. D’un autre côté, il aura gagné X_{n}. Pour estimer quantitativement l’intérêt de vendre au temps n plutôt qu’au temps 0, on calcule le bénéfice fait au temps n si la vente s’est faite au temps n. Mais ce bénéfice n’est exercé qu’au temps n. Pour comparer les différentes opérations possibles, les bénéfices sont actualisés au temps 0, à savoir que gagner la quantité C au temps n représente une valeur actualisée au temps 0 de (1 + α)^{−n}C. C’est en effet ce dernier capital qui rendrait C au temps n pour un taux constant de α. La valeur actualisée à maximiser est donc

\frac{X_{n} + ∑_{k=0}^{n−1} c(1 + α)^{k}}{(1 + α)^{n}} = (1 + α)^{−n}X_{n} − ∑_{k=1}^{n}(1 + α)^{−k}c.

2) On pose Z_{n} = X_{n} + c/α. Montrer qu’il existe un unique γ ayant la propriété

αγ = ∫_{γ}^{∞} ℙ(Z_{n} > y)dy

Solution La fonction h : γ → αγ − ∫_{γ}^{∞} ℙ(Z_{n} > y)dy est continue et strictement croissante avec h(0) = −𝔼(Z_{n}) (calcul classique consistant à écrire ℙ(Z_{n} > y) = 𝔼(1_{Z_{n}>y}) et à utiliser Fubini). Donc h(0) < 0 puisque les X_{i} sont positives. D’autre part, h tend vers +∞ en +∞ (puisque toujours en utilisant Fubini, ∫_{γ}^{∞} ℙ(Z_{n} > y)dy = 𝔼((Z_{n} − γ)^{+})). Le théorème des valeurs intermédiaires permet de conclure.

Remarquer que tout revient maintenant avec ces notations à maximiser sur les temps d’arrêt finis (on suppose que l’on veut absolument vendre le Williams) la quantité

𝔼 {(1 + α)^{−T} Z_{T} }

Cette quantité a toujours un sens dès que T est fini (mais elle peut-être infinie a priori).

Solution On a

(1 + α)^{−T} X_{T} − ∑_{k=1}^{T}(1 + α)^{−k}c = (1 + α)^{−T} (X_{T} + \frac{c}{α}) − \frac{c}{α}.

Donc

μ(T) = E((1 + α)^{−T} (X_{T} + \frac{c}{α})) − \frac{c}{α} = E(Z_{T} (1 + α)^{−T}) − \frac{c}{α}.

3) Montrer que (V_{n})_{n} définie par V_{n} = (1 + α)^{−n} sup(Z_{n}, γ) est une surmartingale.

Solution

Remarquons que les (V_{n})_{n} sont indépendantes et qu’il suffit donc de prouver que les V_{n} vérifient 𝔼(V_{n+1}) ≤ V_{n}. Or 𝔼(sup(Z_{n}, γ)) = γ + ∫_{γ}^{∞} ℙ(Z_{n} > y)dy (toujours Fubini), ce qui est égal par choix de γ à (1 + α)γ. Donc E(V_{n}) = (1 + α)^{−n+1}γ qui est bien décroissante avec n. Détail du calcul :

γ + ∫_{γ}^{+∞} ℙ(Z_{n} > y)dy = γ + ∫_{γ}^{+∞} 𝔼11_{Z_{n}>y}dy =

γ + 𝔼 ∫_{γ}^{+∞} 11_{Z_{n}>y}dy = γ + 𝔼(Z_{n} − γ)^{+} = 𝔼 sup(Z_{n}, γ).

4) Remarquer que \frac{c}{α} est le coût du loyer jusqu’à la fin des temps. Une stratégie sera dite bonne si elle consiste à prendre un prix déterministe fixé τ dans le support de Z_{1} (c’est-à-dire τ − c/α dans le support de X_{1}) et prendre pour T_{τ} le temps d’arrêt qui consiste à vendre dès que le prix offert dépasse τ − c/α (on suppose τ ≥ c/α), c’est-à-dire dès que Z_{n} dépasse τ. Trouver le τ pour lequel parmi toutes les bonnes stratégies, μ(T_{τ}) est maximal.

Solution Soit G la fonction de répartition des Z_{n}. Par définition de T_{τ} et puisque les X_{i} sont i.i.d. la loi de

T_{τ} est donnée par :

ℙ(T = n) = G(τ)^{n}(1 − G(τ))

(ne pas oublier que l’on commence à la semaine 0 et {T = n} = {Z_{0} ≤ τ, …, Z_{n−1} ≤ τ, Z_{n} > τ})

Remarquer que T n’est jamais infini car τ a été pris dans le support de Z_{1} si bien que G(τ) ≠ 1.

μ(T_{τ}) + c/α = ∑_{n=0}^{∞} 𝔼 ((1 + α)^{−T} Z_{T} 11_{T =n})
= ∑_{n=0}^{∞}(1 + α)^{−n}𝔼 (Z_{n}11_{Z_{n}>τ} 11_{{Z_{0}≤τ,...,Z_{n−1}≤τ}})
= ∑_{n=0}^{∞}(1 + α)^{−n}𝔼 (Z_{n}11_{{Z_{n}>τ}}) ℙ(Z_{0} ≤ τ) … ℙ(Z_{n−1} ≤ τ)
= ∑_{n=0}^{∞}(1 + α)^{−n}G(τ)^{n}𝔼 (Z_{1}11_{{Z_{1}>τ}})
= \frac{1 + α}{1 + α − G(τ)} \{τ(1 − G(τ)) + ∫_{τ}^{∞}(1 − G(y))dy\} (= φ(τ)).

La dernière égalité résulte une fois de plus de l’utilisation de Fubini en écrivant :

𝔼(Z_{1}1_{{Z_{1}>τ}}) = 𝔼 (∫_{0}^{∞}(1_{y<Z_{1}}1_{τ<Z_{1}})dy)

En effet

𝔼(Z_{1}11_{Z_{1}>τ}) = 𝔼(sup(Z_{1}, τ)) − τℙ(Z_{1} ≤ τ) =
τ + ∫_{τ}^{+∞} ℙ(z_{1} > y)dy − τℙ(z_{1} ≤ τ) = τ(1 − G(τ)) + ∫_{τ}^{+∞}(1 − G(y))dy.

La fonction φ(τ) malgré son aspect repoussant s’étudie bien. On pose G′ = f. On a

φ′(τ) = \frac{1 + α}{(1 + α − G(τ))^{2}} f(τ)(τ(1−G(τ))+∫_{τ}^{+∞}(1−G(y))dy)+\frac{1 + α}{1 + α − G(τ)}(1−G(τ)−τf(τ)−1+G(τ)) =

\frac{1 + α}{(1 + α − G(τ))^{2}} f(τ)(τ(1 − G(τ)) + ∫_{τ}^{+∞}(1 − G(y))dy − τ(1 + α − G(τ))) =

= −\frac{1 + α}{(1 + α − G(τ))^{2}} f(τ)h(τ).

Le signe de la dérivée est le même que celui de −f(τ)h(τ), où h est définie dans le 2), et donc la fonction est maximale pour τ = γ. On a alors

μ(T_{γ}) = γ(1 + α) − c/α.

En effet,

\frac{c}{α} + μ(T_{γ}) = \frac{1 + α}{1 + α − G(γ)}(γ(1 − G(γ)) + ∫_{γ}^{+∞} ℙ(Z_{1} > y)dy) =

\frac{1 + α}{1 + α − G(γ)}(γ(1 − G(γ)) + αγ) = γ(1 + α).

Donc μ(T_{γ}) = γ(1 + α) − \frac{c}{α}.

5) Considérer maintenant une stratégie quelconque telle que T < +∞. Montrer en utilisant le théorème de convergence des surmartingales UI que cette stratégie est moins bonne que la meilleure des bonnes stratégies et conclure.

Solution Considérons une stratégie générale avec un temps d’arrêt T fini. On sait que (V_{T ∧m})_{m}, définie à la

question 3), est une surmartingale et que 𝔼(V_{T ∧m}) ≤ 𝔼(V_{0}) = γ(1 + α) car V est une surmartingale arrêtée. Mais cette surmartingale arrêtée est en fait UI car :

|V_{T ∧m}| ≤ ∑_{i=0}^{∞} |V_{i}| , ∑_{i} 𝔼(|V_{i}|) < +∞

Donc lim_{m→∞} V_{T ∧m} = V_{T} dans L^{1} d’où :

𝔼(V_{T}) ≤ 𝔼(V_{0})

Or μ(T) ≤ 𝔼(V_{T}) − c/α ≤ μ(T_{γ}). La stratégie de la question précédente est donc la meilleure.

17.5 TD Probabilités : Théorème de Radon-Nykodim

Le but de ce TD est de donner une démonstration via les martingales du thórème de Radon-Nykodim (une autre référence pour ce théorème qui peut être démontré sans les martingales est bien-sûr [27]).

Théorème 17.5.1. Soit (Ω, F, ℙ) un espace probabilisé et ℚ une mesure finie sur (Ω, F) absolument continue par rapport à ℙ, c’est-à-dire :

F ∈ F, ℙ(F) = 0 ⟹ ℚ(F) = 0

Il existe alors une v.a. dans L^{1}(Ω, F, ℙ) telle que ℚ = Xℙ, c’est-à-dire :

∀F ∈ F, ℚ(F) = ∫_{F} Xdℙ

X est appelée une version de la dérivée de Radon-Nikodym de ℚ par rapport à ℙ. Deux versions de X sont égales ℙ-p.s. et X est notée :

\frac{dℚ}{dℙ} = X

Nous supposerons la tribu F séparable, c’est-à-dire engendrée par un nombre dénombrable d’événements (F_{n})_{n≥0}. [30] montre comment, une fois ceci connu, on passe au cas général (grosso modo, on approxime la tribu par des tribus séparables) : s’y reporter pour plus de détails. Dans la suite, 𝔼 désignera l’espérance relativement à ℙ.

1) Montrer en raisonnant par l’absurde et en utilisant BC1 que pour tout ϵ > 0, il existe δ > 0 tel que pour tout événement F ∈ F,

ℙ(F) < δ ⟹ ℚ(F) < ϵ

Solution Si tel n’était pas le cas, on pourrait trouver une suite (G_{n})_{n} dévénements tels que ℙ(G_{n}) ≤ 2^{−n} et cependant ℚ(G_{n}) ≥ ϵ. On considère \overline{lim}G_{n} qui par BC1 est de ℙ- probabilité 0 mais par Fatou de ℚ-probabilité superieure à ϵ d’où la contradiction.

2) On définit maintenant la filtration F_{n} = σ{F_{1}, …, F_{n}}. Un atome A de F_{n} est un élément de F_{n} qui s’écrit H_{1} ∩ H_{2} ∩ … ∩ H_{n} ou H_{i} est soit F_{i}, soit F_{i}^{c}. Montrer que l’ensemble des r(n) atomes de F_{n}, notés A_{n,1}, …, A_{n,r(n)} forment une partition de Ω et que F_{n} est constituée des 2^{r(n)} réunions (disjointes) possibles d’atomes.

Solution Il est bien évident que deux atomes distincts sont disjoints (puisqu’il existe un indice i pour lequel l’un intersecte F_{i} et l’autre F_{i}^{c}). D’autre part, tout élément ω de Ω est contenu dans un atome (composer l’atome de la manière suivante : pour chaque i, prendre F_{i} si ω ∈ F_{i} et prendre F_{i}^{c} sinon).

3) On définit alors une fonction X_{n} de Ω dans [0, ∞) de la manière suivante : Si ω ∈ A_{n,k} alors : X_{n}(ω) = ℚ(A_{n,k})/ℙ(A_{n,k}) si ℙ(A_{n,k}) > 0 et X_{n}(ω) = 0 sinon.

a) Montrer que X_{n} ∈ L^{1}(Ω, F_{n}, ℙ) et que l’on a pour tout événement F de F_{n}

𝔼(X_{n}1_{F}) = ℚ(F)  (17.5.1)

Solution Il suffit d’écrire F comme la réunion disjointe d’événements atomiques et d’utiliser la linéarité de l’espérance. On montre que X_{n} est intégrable en appliquant ceci à l’ensemble F = Ω.

b) Remarquer que X_{n} est la dérivée de Radon-Nikodym de ℚ restreinte à F_{n} relativement à ℙ restreinte à F_{n}.

4) Montrer que X_{n} est une martingale positive relativement à la filtration F_{n} et prouver l’existence d’une v.a.r. X_{∞} telle que ℙ p.s. :

lim_{n→+∞} X_{n} = X_{∞}

Solution Seule la preuve que (X_{n}) est une martingale est à donner, le reste résultant directement du théorème de convergence des martingales bornées dans L^{1} (car elle est positive). D’après (17.5.1), on a pour tout F ∈ F_{n−1}, puisque F appartient à F_{n} :

𝔼(X_{n}1_{F}) = ℚ(F) = 𝔼(X_{n−1}1_{F})

5) Prouver que X est une martingale uniformément intégrable.

Solution On choisit K tel que K^{−1}ℚ(Ω) < δ (car ℚ est de masse finie). Une inégalité de Markov, suivie de l’utilisation de (17.5.1) permet alors d’écrire :

ℙ(X_{n} > K) ≤ K^{−1}𝔼(X_{n}) = K^{−1}ℚ(Ω) < δ

En utilisant à nouveau (17.5.1) avec F = {X_{n} > K} combiné avec le résultat de la question 1), on obtient alors :

𝔼(X_{n}1_{{X_{n}>K}}) < ϵ

et la martingale X est UI.

6) Montrer que la convergence de X_{n} vers X_{∞} se fait dans L^{1}.

7) Conclure dans le cas où F est séparable.

Solution Les deux mesures ℚ et F → 𝔼(X_{∞}1_{F}) coincident sur le π-système ∪F_{n} qui engendre F et sont de même masse : elles coincident donc sur F.

8) Prouver l’unicité ℙ p.s. de la dérivée de Radon-Nikodym.

Solution C’est la machine standard .

Théorie financière

Cette section est un résumé des chapitres 1 et 2 de [24].

18.1 Le problème des options

L’exposé est centré sur le problème des options. Une option est un titre donnant à son détenteur le droit, et non l’obligation, d’acheter ou de vendre (selon qu’il s’agit d’une option d’achat ou de vente) une certaine quantité d’un actif financier, à une date convenue et à un prix fixé d’avance. La description précise d’une option se fait à partir des éléments suivants :

- la nature de l’option : on parle de call pour une option d’achat et de put pour une option de vente.

- l’actif sous-jacent, sur lequel porte l’option : dans la pratique, il peut s’agir d’une action, d’une obligation, d’une devise etc.

- le montant, c’est-à-dire la quantité d’actif sous-jacent à acheter ou à vendre.

- l’échéance ou date d’expiration, qui limite la durée de vie de l’option ; si l’option peut être exercée à n’importe quel instant précédent l’échéance, on parle d’option américaine, si l’option ne peut être exercée qu’à l’échéance, on parle d’option européenne.

- le prix d’exercice, qui est le prix (fixé d’avance) auquel se fait la transaction en cas d’exercice de l’option.

L’option elle-même a un prix appelé la prime. Lorsque l’option est cotée sur un marché organisé, la prime est donnée par le marché. En l’absence de cotation, le calcul de la prime se pose.

Examinons, pour fixer les idées, le cas d’un call européen, d’échéance T, sur une action, dont le cours à la date t est donné par S_{t}. Soit K le prix d’exercice. On voit qu’à l’échéance, la valeur du call est donnée par la quantité :

(S_{T} − K)_{+} = sup(S_{T} − K, 0)

Pour le vendeur de l’option, il s’agit, en cas d’exercice, d’être en mesure de fournir une action au prix K et, par conséquent de pouvoir produire à l’échéance une richesse égale à (S_{T} − K)_{+}. Au moment de la vente de l’option, que l’on prendra pour origine des temps, le cours S_{T} est inconnu et deux questions se posent :

1) Combien faut-il faire payer à l’acheteur de l’option, autrement dit comment évaluer à l’instant t = 0 une richesse (S_{T} − K)_{+} disponible à la date T ? C’est le problème du pricing.

2) Comment le vendeur, qui touche la prime à l’instant 0, parviendra-t-il à produire la richesse (S_{T} − K)_{+} à la date T ? C’est le problème de la couverture.

18.2 Le formalisme des modèles discrets

L’hypothèse de base, retenue dans tous les modèles, est que, dans un marché suffisamment fluide, il est impossible de faire des profits sans prendre de risques. Nous traduirons dans la suite cette hypothèse en termes mathématiques. Dans la suite, (Ω, F, ℙ) désignera un espace probabilisé fini que l’on munit d’une filtration (finie) {∅, Ω} = F_{0} ⊂ F_{1} ⊂ … ⊂ F_{N} = F = P(Ω). F_{n} représente l’information dont on dispose au temps n. La date N est la date d’échéance des options. On fera l’hypothèse que

∀ω ∈ Ω, ℙ({ω}) > 0

On supose d’autre part qu’il y a sur le marché d + 1 actifs financiers dont les prix à l’instant n sont donnés par des variables aléatoires S_{n}^{0}, S_{n}^{1}, …, S_{n}^{d} qui sont F_{n}-mesurables. Le vecteur S_{n} = (S_{n}^{0}, S_{n}^{1}, …, S_{n}^{d}) est le vecteur des prix à l’instant n. L’actif numéroté 0 représente les placements sans risque avec un taux d’intérêt r et on posera S_{0}^{0} = 1. Ainsi S_{n}^{0} = (1 + r)^{n} et β_{n} = 1/S_{n}^{0} est appelé le coefficient d’actualisation : c’est la somme d’argent qui investie à l’instant 0 dans l’actif sans risque permet de disposer de 1 euro à l’instant n. Les autres actifs sont appelés les actifs à risque. Les actifs actualisés sont définis par

S̃_{n} = β_{n}S_{n}

18.3 Les stratégies

Une stratégie de gestion est définie par un processus aléatoire ϕ = ((ϕ_{n}^{0}, …, ϕ_{n}^{d}))_{0≤n≤N} à valeurs dans ℝ^{d+1}. A chaque instant n, elle donne les quantités ϕ_{n}^{0}, …, ϕ_{n}^{d} des différents actifs détenues en portefeuille. On supposera que le processus ϕ est prévisible (le portefeuille ϕ_{n} à la date n est constitué au vu des informations disponibles à la date (n − 1) et conservé tel quel au moment des cotations à la date n). La valeur du portefeuille à l’instant n est donnée par le produit scalaire :

V_{n}(ϕ) = ϕ_{n} · S_{n} = ∑_{i=0}^{d+1} ϕ_{n}^{i}S_{n}^{i}

Une stratégie sera dite auto-financée si il n’y a ni apports, ni retraits de fonds. La variation de la valeur du portefeuille est donc uniquement due aux gains procurés par l’agitation des cours. Cette condition d’autofinancement se traduit par

ϕ_{n} · S_{n} = ϕ_{n+1} · S_{n}

18.4 Marché viable

Pour l’instant, rien n’interdit aux quantités d’actifs ϕ_{n}^{i} d’être négatives, c’est-à-dire que l’on a des dettes libellées en actifs à risques. Les emprunts et ventes à découverts sont autorisés dans notre modèle mais on impose néanmoins qu’à tout instant, la valeur du portefeuille soit positive.

Une stratégie sera dite admissible si elle est autofinancée et si à tout instant, la valeur du portefeuille correspondant est positif ou nul. Une stratégie d’arbitrage est une stratégie admissible de valeur initiale nulle et de valeur finale non nulle.

D’après l’hypothèse de base qui consiste à dire que l’on ne peut pas gagner sans prendre de risque, on doit refuser aux stratégies d’arbitrage le droit à l’existence (ce qui est une hypothès de droite). Un tel marché est alors appelé un marché viable. Cette hypothèse maintenant mathématiquement formulée conduit assez simplement au théorème suivant :

Théorème 18.4.1. Le marché est viable ssi il existe une probabilité ℙ^{∗} équivalente à ℙ sous laquelle les prix actualisés des actifs S̃ sont des martingales.

Démonstration. La démonstration de ce théorème est élémentaire et géométrique mais demande un peu de travail. □

18.5 Marché complet et évaluation des options

On définit une option européenne d’échéance N comme une variable aléatoire h ≥ 0 F_{N}- mesurable et qui représente le profit que permet l’exercice de l’option. Ainsi pour un call sur une unité d’actif 1, au prix d’exercice K, on a

h = (S_{N}^{1} − K)_{+}

et pour une option de vente ou put sur une unité d’actif 1 au prix d’exercice K, on a

h = (K − S_{N}^{1})_{+}

On dira que l’actif conditionnel défini par h est simulable (ou atteignable) s’il existe une stratégie admissible dont la valeur à l’instant N est égale à h. On dira que le marché est complet si tout actif conditionnel est simulable. Imposer qu’un marché est complet est une hypothèse restrictive dont la justification économique n’est pas claire. Le modèle de Cox-Ross-Rubinstein, que nous étudierons en détail, est un exemple de marché viable et complet.

Théorème 18.5.1. Un marché viable est complet si, et seulement si, il existe une seule probabilité ℙ^{∗} équivalente à ℙ sous laquelle les prix actualisés des actifs soient des martingales.

On suppose le marché viable et complet et on note ℙ^{∗} l’unique probabilité sous laquelle les prix actualisés des actifs sont des martingales. Soit un actif conditionnel défini par une variable aléatoire h positive et F_{N}-mesurable et soit ϕ une stratégie admissible simulant h, c’est-à-dire vérifiant

∀n ∈ {0, …, N}, V_{n}(ϕ) ≥ 0, ϕ_{n} · S_{n} = ϕ_{n+1} · S_{n}, V_{N}(ϕ) = h

La suite des valeurs de portefeuilles actualisées (Ṽ_{n})_{0≤n≤N} définie par

Ṽ_{n}(ϕ) = β_{n}V_{n}(ϕ)

est une martingale sous ℙ^{∗} (en tant que transformée de martingale). On a donc

V_{n}(ϕ) = (1 + r)^{n−N}𝔼^{∗} (h|F_{n}) , n = 0, …, N

Il est alors naturel d’appeler V_{n}(ϕ) la valeur de l’option au temps n : c’est la richesse qui, détenue à l’instant n, permet, en suivant la stratégie ϕ à partir de l’instant n, de produire exactement la richesse h à l’instant N. Si à l’instant 0, un investisseur vend l’option au prix

𝔼^{∗}((1 + r)^{−N}h)

il a la possibilité, en suivant une stratégie simulante ϕ, de restituer la richesse promise h à l’instant N, c’est-à-dire qu’il peut se couvrir parfaitement.

18.6 Le modèle de Cox, Ross et Rubinstein

C’est une version discrétisée du modèle de Black-Scholes (modèle continu) dans lequel il y a un seul actif à risque, de prix S_{n} à l’instant n et un actif sans risque de rendement certain r sur une periode si bien que S_{n}^{0} = (1 + r)^{n}. On fait les hypothèses suivantes sur l’évolution du cours de l’actif risqué : entre deux periodes consécutives, la variation relative des cours est soit a, soit b, avec −1 < a < b :

S_{n+1} = \begin{cases}S_{n}(1 + a) \\ S_{n}(1 + b) \end{cases}

Le cours initial S_{0} est donné. On a ici Ω = {1 + a, 1 + b}^{N}, chaque N-uple représentant les valeurs successives de T_{n} = S_{n}/S_{n−1}. F_{n} = σ(S_{1}, …, S_{n}). On suppose que la probabilité considérée dans ce modèle ℙ assure une probabilité strictement positive à tous les singletons.

1) Sous l’hypothèse de viabilité, on montre que le modèle dépend en fait d’un paramètre r ∈ (a, b) et que le marché est complet. La valeur d’un call d’échéance N et de prix d’exercice K à l’instant n peut être calculé et est donné par C_{n} = c(n, S_{n}) où

c(n, x) = (1 + r)^{(N−n)} ∑_{j=0}^{N−n} C_{N−n}^{j}p^{j}(1 − p)^{N−n−j}(x(1 + a)^{j}(1 + b)^{(N−n−j)} − K)_{+}

Ici p = (b − r)/(b − a). On peut aussi établir la relation dite de parité entre un call C_{n} et un put P_{n} de prix d’exercice K et d’échéance N

C_{n} − P_{n} = S_{n} − K(1 + r)^{−(N−n)}

2) On peut aussi calculer la stratégie de couverture parfaite d’un call. Elle est définie par une quantité d’actif risqué H_{n} = Δ(n, S_{n−1}) à détenir à l’instant n , où Δ est la fonction définie par

Δ(n, x) = \frac{c(n, x(1 + b)) − c(n, x(1 + a))}{x(b − a)}

3) On peut “rendre continu” ce modèle. Pour cela, on fait tendre N vers l’infini en imposant les relations suivantes

\begin{cases}r_{N} = RT/N \\ log((1 + a_{N})/(1 + r_{N})) = −σ/\sqrt{N} \\ log((1 + b_{N})/(1 + r_{N})) = σ/\sqrt{N} \end{cases}

R s’interprète comme le taux d’intérêt instantanné entre les instants 0 et T et σ^{2} comme la variance limite de log(S_{N}) quand N tend vers l’infini, S_{N} représentant le cours de l’action à la date T. On obtient alors une valeur limite pour la valeur du put à l’instant 0 donnée par

P_{0} = Ke^{−RT} F (−d_{2}) − S_{0}F (−d_{1})

où F est la fonction de répartition d’une gaussienne standard et d_{1}, d_{2} sont deux fonctions connues dépendant de K, R, T et σ. On obtient une formule similaire pour le call ainsi qu’une version continue de la relation de parité call-put. On remarquera que le seul paramètre non directement observable sur le marché est σ. Son évaluation se fait souvent par des méthodes statistiques.

18.7 Enveloppes de Snell et options américaines

Le but de cette section est de traiter l’évolution et la couverture des options américaines. Un lien avec le problème d’arrêt optimal sera mis en évidence. On se place dans le cadre d’un marché complet et viable et on note ℙ^{∗} l’unique probabilité sous laquelle les cours actualisés S̃_{n} sont des martingales. A la différence des options européennes, une option américaine peut êtr exercée à tout moment entre les instants 0 et N. Nous la définissons comme une suite Z_{n} positive et adaptée à la filtration (F_{n})_{n}. Z_{n} représente le profit que permet l’exercice de l’option à l’instant n. Par exemple, pour un call américain au prix d’exercice K sur une unité d’actif dont le cours est donné par (S_{n})_{n}, on a Z_{n} = (S_{n} − K)_{+}. Quelle est la valeur de l’option américaine associée ? Raisonnons par récurrence en marche arrière. Au temps N, U_{N} = Z_{N}. Pour calculer U_{N−1}, mettons nous à la place de celui qui vend l’option. Si le client exerce l’option au temps N − 1, le vendeur doit être capable de fournir une richesse Z_{N−1}. Si par contre, le client exerce au temps N, le vendeur doit être capable de fournir une richesse Z_{N}. Le vendeur doit donc encaisser au temps N −1 une richesse au moins égale à Z_{N−1} et à partir de cette richesse être capable de fournir l’instant d’après une richesse égale à Z_{N}. La somme qui, disponible à l’instant N − 1, permet d’obtenir à l’instant N une richesse Z_{N}, c’est la valeur à l’instant N − 1 d’une stratégie admissible de valeur finale Z_{N−1}, c’est-à-dire S_{N−1}^{0}𝔼^{∗}(Z_{N}/S_{N}^{0}|F_{N−1}). La valeur de l’option à l’instant N − 1 est donc donnée par :

U_{N−1} = max (Z_{N−1}, S_{N−1}^{0}𝔼^{∗}(Z̃_{N}|F_{N−1}))

où Z̃_{N} = Z_{N}/S_{N}^{0} est la valeur actualisée de Z_{N}. On rappelle que S_{n}^{0} = (1 + r)^{n}. En raisonnant de même aux temps antérieurs, on en déduit que la valeur de l’option au temps n est donnée par :

U_{n−1} = max (Z_{n−1}, S_{n−1}^{0}𝔼^{∗} (U_{n}/S_{n}^{0}|F_{n}))

On est alors naturellement amené à définir la notion d’enveloppe de Snell. On passe dans un cadre un peu plus abstrait et on suppose désormais que (Ω, F, (F_{n})_{0≤n≤N}, ℙ) est un espace filtré sur un ensemble Ω fini avec F_{0} la tribu triviale et F_{N} = F.

Définition 18.7.1. Soit (Z_{n})_{0≤n≤N} une suite adaptée à la filtration (F)_{n}. On appelle enveloppe de Snell de la suite (Z_{n})_{n} le processus adapté (U_{n})_{n≤n≤N} défini par :

\begin{cases}U_{N} = Z_{N} \\ U_{n} = max (Z_{n}, 𝔼(U_{n+1}|F_{n}) \end{cases}  (18.7.1)

Proposition 18.7.1. L’enveloppe de Snell (U_{n})_{n} d’une suite (Z_{n})_{n} est la plus petite surmartingale majorant (U_{n})_{n}.

Démonstration. Par définition, (U_{n})_{n} est une surmartingale majorant (Z_{n})_{n}. Si (T_{n})_{n} est une autre surmartingale majorant (Z_{n})_{n} alors T_{N} ≥ U_{N} et si T_{n} ≥ U_{n}, on a :

T_{n−1} ≥ 𝔼(T_{n}|F_{n−1}) ≥ 𝔼(U_{n}|F_{n−1})

et donc

T_{n−1} ≥ sup (Z_{n−1}, 𝔼(U_{n}|F_{n−1})

ce qui démontre la proposition. □

Ceci suggère que si l’on arrête convenablement la suite (U_{n})_{n}, on obtient une martingale. C’est effectivement le cas puisque l’on a la propriété suivante.

Proposition 18.7.2. La variable aléatoire ν_{0} définie par ν_{0} = inf{n ≥ 0|U_{n} = Z_{n}} est un temps d’arrêt et la suite arrêtée (U_{n∧ν_{0}})_{0≤n≤N} est une martingale.

Démonstration. TRès facile. □ Dans la suite, on notera T_{n,N} l’ensemble des temps d’arrêt qui prennent leurs valeurs dans

{n, n + 1, …, N}.

Corollaire 18.7.1. (arrêt optimal) Le temps d’arrêt ν_{0} vérifie :

U_{0} = 𝔼(Z_{ν_{0}}|F_{0}) = sup_{ν∈T_{0,N}} 𝔼(Z_{ν}|F_{0})

On appelle alors temps d’arrêt optimal pour la suite (Z_{n})_{n} tout d’arrêt ν qui vérivie

𝔼(Z_{ν}|F_{0}) = sup_{μ∈T_{0,N}} 𝔼(Z_{μ}|F_{0})

Démonstration. U^{ν_{0}} est une martingale et si ν ∈ T_{0,N} alors U^{ν} est une surmartingale. On a donc

U_{0} ≥ 𝔼(U_{N}^{ν}|F_{0}) = 𝔼(U_{ν}|F_{0}) ≥ 𝔼(Z_{ν}|F_{0})

Or U_{0} = U_{0}^{ν_{0}} = 𝔼(U_{N}^{ν_{0}}|F_{0}) = 𝔼(Z_{ν_{0}}|F_{0}) et le résulatat tombe. □ On a le théorème suivant qui caractérise plus ou moins les temps d’arrêt optimaux.

Théorème 18.7.1. Untemps d’arrêt ν est optimal ssi :

\begin{cases}Z_{ν} = U_{ν} \\ U^{ν}  est une martingale \end{cases}  (18.7.2)

Démonstration. Si la suite U^{ν} est une martingale alors U_{0} = 𝔼(U_{ν}|F_{0}) et par conséquent si Z_{ν} = U_{ν}, on a U_{0} = 𝔼(Z_{ν}|F_{0}) ce qui entraîne l’optimalité de ν par le corrolaire précédent. Réciproquement, si ν est optimal, on a

U_{0} = 𝔼(Z_{ν}|F_{0}) ≤ 𝔼(U_{ν}|F_{0})

Mais puisque U^{ν} est une surmartingale, on a aussi l’inégalité inverse et donc 𝔼(U_{ν}|F_{0}) = 𝔼(Z_{ν}|F_{0}). Puisque U_{ν} ≥ Z_{ν}, on a U_{ν} = Z_{ν}. D’autre part, puisque U^{ν} est une surmartingale, on a

U_{0} ≥ 𝔼(U_{n}^{ν}|F_{0}) ≥ 𝔼(U_{ν}|F_{0})

Or ce qui précède montre que 𝔼(U_{ν}|F_{0}) = U_{0}. Il en résulte que

𝔼(U_{n}^{nu}|F_{0}) = 𝔼(U_{ν}|F_{0}) = 𝔼(𝔼(U_{ν}|F_{n})|F_{0})

Mais on a U_{n}^{ν} ≥ 𝔼(U_{ν}|F_{n}) et donc U_{n}^{ν} = 𝔼(U_{ν}|F_{n}), ce qui prouve que U^{ν} est une martingale. □

On rappelle la propriété suivante de décomposition des surmartingales (ou “décomposition de Doob”). Soit (U_{n})_{0≤n≤N} une surmartingale. Il existe alors une martingale (M_{n})_{0≤n≤N} et un processus prévisible croissant nul en 0 noté (A_{n})_{0≤n≤N} tel que

U_{n} = M_{n} − A_{n}

Cette décomposition est de plus unique. Supposons maintenant que (U_{n})_{n} soit l’enveloppe de Snell d’une suite adaptée (Z_{n})_{n}. Cette propriété permet de caractériser le plus grand temps d’arrêt optimal pour (Z_{n}) à l’aide du processus croissant (A_{n})_{n} intervenant dans la décomposition de Doob de (U_{n})_{n}.

Proposition 18.7.3. Le plus grand temps d’arrêt optimal pour la suite (Z_{n})_{n} est donné par :

ν_{max} = \begin{cases}N  si A_{N} = 0 \\ inf\{n, A_{n+1} ≠ 0\}  si A_{N} ≠ 0 \end{cases}  (18.7.3)

Démonstration. Il est facile de voir que ν_{max} est un temps d’arrêt. Du fait que A_{j} = 0 pour j ≤ ν_{max}, on en déduit que U^{ν_{max}} = M^{ν_{max}} ce qui entraîne que U^{ν_{max}} est une martingale. Pour avoir l’optimalité, il suffit de montrer l’égalité :

U_{ν_{max}} = Z_{ν_{max}}

Or

U_{ν_{max}} = ∑_{j=0}^{N−1} 11_{{ν_{max}=j}}U_{j} + 11_{{ν_{max}=N}}U_{N}

= ∑_{j=0}^{N−1} 11_{{ν_{max}=j}} sup {Z_{j}, 𝔼(U_{j+1}|F_{j})} + 11_{{ν_{max}=N}}Z_{N}

On a 𝔼(U_{j+1}|F_{j}) = M_{j} − A_{j+1} et sur l’ensemble {ν_{max} = j}, A_{j} = 0 et A_{j+1} > 0 donc U_{j} = M_{j} et 𝔼(U_{j+1}|F_{j}) = M_{j} − A_{j+1} < U_{j}. Par suit U_{j} = Z_{j} sur cet ensemble. On a donc démontré l’égalité voulue.

Pour démontrer que c’est le plus grand temps d’arrêt optimal, on utilise le fait que si ℙ(ν > ν_{max}) > 0 alors on a

𝔼(U_{ν}) = 𝔼(M_{ν}) − 𝔼(A_{ν}) = 𝔼(U_{0}) − 𝔼(A_{ν}) < 𝔼(U_{0})

et par conséquent U^{ν} ne peut pas être une martingale. □

Voyons maintenant comment ces résultats sur le contrôle optimal donnent des informations sur l’exercice et la couverture des options américaines. Pour simplifier les notations, on note ℙ l’unique probabilité sous laquelle les actifs actualisés sont des martingales. Nous avons vu que la valeur actualisée (Ũ_{n})_{n} d’une option américaine décrite par une suite (Z_{n})_{n} était l”enveloppe de Snell de la suite actualisée (Z̃_{n})_{n}. Question : Comment le vendeur de l’option peut-il se couvrir parfaitement ? Réponse : On peut écrire Ũ sous la forme M̃ − Ã où M̃ est une martingale et Ã est un processus croissant prévisible nul en 0. Puisque le marché est complet, il existe une stratégie autofinancée ϕ telle que :

V_{N}(ϕ) = S_{N}^{0} M̃_{N}

c’est-à-dire Ṽ_{N}(ϕ) = M̃_{N}. Comme la suite (Ṽ_{N}(ϕ)) est une martingale (en tant que transformée de martingale), on a

Ṽ_{n}(ϕ) = M̃_{n}

et donc

U_{n} = V_{n}(ϕ) − A_{n}

A partir de cette expression, on voit comment le vendeur de l’option peut se couvrir. A l’instant 0, il doit encaisser la prime U_{0} = V_{0}(ϕ) et suivre la stratégie ϕ. A l’instant n, il est capable de produire une richesse V_{n}(ϕ) qui majore U_{n} donc Z_{n}. Dans le cadre du modèle de Cox-Ross-Rubinstein, on peux calculer assez facilement la strtégie ϕ dans le cas d’un put américain (exercice 4, Ch.2, p.37-38 de [24]). Question : Quelle est la date d’exercice optimale pour l’acheteur de l’option ? Réponse : La date d’exercice est à choisir parmi les temps d’arrêt. Le détenteur de l’option n’a pas intérêt à exercer à un temps n où U_{n} > Z_{n} car il perdrait un actif de valeur U_{n} (l’option) contre une richess égale à Z_{n}. Donc une date τ d’exercice optimal est telle que U_{τ} = Z_{τ}. Par ailleurs, il n’a pas intérêt à exercer après l’instant ν_{max} car à cet instant, en vendant l’option, il peut se constituer une richesse égale à U_{nu_{max}} = V_{ν_{max}}(ϕ) et, en suivant à partir de cet instant la stratégieϕ, il se constitue un portefeuille dont la valeur est strictement plus grande que celle de l’option aux instants ν_{max} + 1, …, N. La seconde condition est donc τ ≤ ν_{max}, donc Ũ_{τ} est une martingale. En conclusion, τ doit être un temps d’arrêt optimal.

Exercice 18.7.1. Soit E un ensemble fini et (X_{n})_{n≥0} une chaîne de Markov sur E de matrice de transition P. Sooit (Z_{n})_{n} une suite adaptée définie par Z_{n} = ψ(n, X_{n}) où ψ est une fonction de ℕ×E dans ℝ. Montrer que l’enveloppe de Snell (U_{n})_{n} de la suite (Z_{n})_{n} est donnée par U_{n} = u(n, X_{n}) où u est la fonction définie par les relations suivantes :

u(N, x) = ψ(N, x)
u(n, ·) = max(ψ(n, ·), P u(n + 1, ·)), n ≤ N − 1

Exercice 18.7.2. (exercice 4, Ch. 2, [24]) On considère le modèle de Cox-Ross-Rubinstein et on adopte les notations de la précédente section.

1) Montrer que le prix P_{n} à l’instant n du put américain d’échéance N, de prix d’exercice K sur

une action peut s’écrire :

P_{n} = P_{am}(n, S_{n})

où P_{am}(n, x) est définie par P_{am}(N, x) = (K − x)_{+} et, pour n ≤ N − 1,

P_{am}(n, x) = max ((K − x)_{+}, \frac{f(n + 1, x)}{(1 + r)})

avec f(n + 1, x) = pP_{am}(n + 1, x(1 + a)) + (1 − p)P_{am}(n + 1, x(1 + b)) et p = \frac{b − r}{b − a}.

2) Montrer que la fonction P_{am}(0, ·) peut se mettre sous la forme :

P_{am}(0, x) = sup_{ν∈T_{0,N}} 𝔼^{∗}((1 = r)^{−ν}(K − xV_{ν})_{+})

où la suite de variables aléatoires (V_{n})_{0≤n≤N} est définie par : £V_{0} = 1 et, pour n ≥ 1, V_{n} = ∏_{i=1}^{n} U_{i} où les U_{i} sont des variables aléatoires dont on préisera la loi conjointe sous ℙ^{∗}.

3) A partir de la formule de la question précédente, montrer que la fonction x → P_{am}(0, x) est

convexe et décroissante.

4) On suppose a < 0. Montrer qu’il existe un réel x^{∗} ∈ [0, K] tel que pour x ≤ x^{∗}, P_{am}(0, x) =

(K − x)_{+} et pour x ∈ (x^{∗}, K/(1 + a)^{N}), P_{am}(0, x) > (K − x)_{+}.

5) Un agent détient le put américain à l’instant 0. Pour quelles valeurs du cours spot S_{0} a-t-il

intérêt à exercer immédiatement son option ?

6) Montrer que la stratégie de couverture du put américain est définie par une quantité d’actif

risqué H_{n} = Δ(n, S_{n−1}) à détenir à l’instant n où Δ est une fonction que l’on exprimera à partir de la fonction P_{am}.

188

Chaînes de Markov

19.1 Analyse bibliographique brève

Ce sujet est exposé dans beaucoup de livres et à des niveaux très différents, avec des longueurs très différentes. Les trois critères que nous avons retenus sont :

1. Formalisation correcte : formalisation totale des chaînes, construction formelle correcte, preuve d’existence et preuve propre de la propriété de Markov forte.

2. Longueur d’exposition sous contrôle (les ouvrages consacrent de 12 à 100 pages à ce thème.)

3. Exemples applicatifs intéressants et en suffisance.

4. Lien avec les techniques de martingales développé.

En fait, aucun ouvrage ne répond à tous les critères comme le montre la liste suivante (nous mettons les numéros des critères qui sont respectés).

– [18], Grimmett et Stirzaker Probability and Random Processes 3, 4

– [14], Durrett Probability, Theory and Examples 3, 4

– [5], Borkar Probability theory 1, 2

– [9], Brzezniak et Zastawniak (Basic Stochastic Processes) 2, 3

– [17], Foatta et Fuchs (Processus stochastiques) 2, 3

– [29], Varadhan Probability theory 1, 3, 4

– [3], Billingsley Probability and Measure : pas de chaînes de Markov

– [28], Taylor (Introduction to measure and probability) : très peu de chaînes de Markov

– [15], Durrett Essentials of Stochastic Processes 2, 3. Très bien pour les exemples

– [2], Bauer Probability Theory : 1

– [8], Brémaud Markov chains, Gibbs fields, Monte Carlo simulations and queues. 3, 4

– [12], Dacunha-Castelle-Duflo Probability and Statistics 1, 2

– [1], Baldi, Mazliak, Priouret Martingales et Chaînes de Markov 1, 2, 4.

– [26], Ouvrard 1, 3, 4 Les ouvrages les plus recommandables pour la correction sont [1] et [26]. Les ouvrages les meilleurs pour les applications sont [14], [15] et [8]. Pour le cours, nous suivrons [1], qui réunit les avantages d’être écrit dans notre langue, d’être formellement correct et très court (20 pages). Il contient des exercices applicatifs en suffisance, mais n’est pas à la hauteur de [8], [14] et [15] pour un exposé amenant à des applications.

19.2 Préliminaires

19.2.1 Théorème de Kolmogorov

Théorème 19.2.1. Soit μ_{n}, n ∈ ℕ une famille de probabilités sur les espaces produits (E^{n+1}, σ(E^{n+1})) vérifiant

∀n, μ_{n−1}(A_{0} × A_{1} × ⋯ × A_{n−1}) = μ_{n}(A_{0} × A_{1} × ⋯ × A_{n−1} × E). (T)

Alors il existe une unique probabilité ℙ sur l’espace canonique (Ω, F) définie par

Ω = E^{ℕ}, ω = (ω_{n})_{n∈ℕ}, X_{n}(ω) = ω_{n}, F_{n} = σ(X_{k}, k ≤ n), F = σ(X_{k}, k ≥ 0),  (19.2.1)

et telle que le processus (Ω, F, F_{n}, X_{n}, ℙ) ait les μ_{n} comme lois de répartition finies, c’est-à-dire

μ_{n}(A_{0} × A_{1} × ⋯ × A_{n−1} × A_{n}) = ℙ(X_{0} ∈ A_{0}, …, X_{n} ∈ A_{n}).

Ce théorème est la réciproque de la remarque suivante sur les processus adaptés : Soient X = (Ω, F, F_{n}, X_{n}, ℙ), n ∈ ℕ, une filtration et un processus adapté à valeurs dans (E, E). Alors on note μ_{n} la loi de la variable aléatoire (X_{0}, X_{1}, …, X_{n}) définie sur (E^{n+1}, σ(E^{n})). Vu que

μ_{n}(A_{0} × A_{1} × ⋯ × A_{n}) = ℙ(X_{0} ∈ A_{0}, …, X_{n} ∈ A_{n}),

on a bien la relation (T).

19.3 Temps d’arrêt et tribu des événements antérieurs

Soit (Ω, F, (F_{n})_{n≥0}, ℙ) une filtration. On pose F_{∞} = σ(∪_{n≥0}F_{n}).

Définition 19.3.1. (i) on appelle temps d’arrêt de la filtration toute application ν : Ω → \overline{ℕ} telle que pour tout n ≥ 0, on ait

{ν ≤ n} ∈ F_{n}.

(ii) On appelle tribu des événements antérieurs à ν, notée F_{ν}, la tribu

F_{ν} = {A ∈ F_{∞}, ∀n ≥ 0, A ∩ {ν ≤ n} ∈ F_{n}}.

Soit X un processus adapté. On veut définir le ”processus arrêté à l’instant ν”, i.e. X_{ν}(ω) = X_{ν(ω)}(ω). Comme il y a un problème lorsque ν(ω) = +∞, une manière de procéder est de poser X_{ν} = δ sur {ν = +∞}, où δ est un élément isolé adjoint à E que l’on appelle cimetière.

Avec cette convention, on définit X_{ν} = X_{n} sur \{ν = n\}, n ∈ \overline{ℕ}. Alors X_{ν} est F_{ν}-mesurable car

\{X_{ν} ∈ B\} ∩ \{ν = n\} = \{X_{n} ∈ B\} ∩ \{ν = n\} ∈ F_{n}, n ∈ \overline{ℕ}.

En résumé, ”le processus arrêté est mesurable par rapport à la tribu des événements antérieurs”. La proposition suivante nous sera utile.

Proposition 19.3.1. Soient X une v.a. positive ou intégrable et ν un temps d’arrêt. On pose pour tout n ∈ \overline{ℕ}, X_{n} = 𝔼(X|F_{n}). Alors sur \{ν = n\}, 𝔼(X|F_{ν}) = 𝔼(X|F_{n}), ce qui veut dire :

𝔼(X|F_{ν}) = X_{ν}, p.s.  (19.3.1)

Démonstration. On vérifie (19.3.1) pour X ≥ 0. Soit Z ≥ 0 et F_{ν}-mesurable. Alors Z11_{ν=n} est F_{n}-mesurable et on a donc

𝔼(ZX_{ν}) = ∑_{n∈\overline{ℕ}}𝔼(ZX_{n}11_{ν=n}) = ∑_{n∈\overline{ℕ}}𝔼(Z11_{ν=n}X) = 𝔼(ZX).

Remarquer que 11_{ν=+∞} est F_{∞}-mesurable, puisque {ν = +∞} = (∪_{n∈ℕ}{ν = n})^{c}. □

Remarque 19.3.1. Pour montrer que Y = 𝔼(X|F), il faut et il suffit de montrer que 𝔼(Y Z) = 𝔼(XZ) pour toute fonction Z ≥ 0 et F-mesurable : c’est comme cela que nous venons de procéder. En effet, par définition de l’espérance conditionnelle, Y = 𝔼(X|F) si et seulement si 𝔼(Y Z) = 𝔼(XZ) pour tout Z = 11_{A} avec A F-mesurable. Cette dernière relation est encore vraie par la machine standard pour tout Z ≥ 0, F-mesurable.

19.4 Chaînes de Markov : la construction

19.4.1 Matrices de transition

Dans la suite, E est un ensemble d’états, fini ou dénombrable et E la tribu de toutes les parties de E, tribu engendrée par les atomes. On note

– E^{+} : applications E → ℝ^{+}. Exemple : les fonctions caractéristiques de sous-ensembles de E, ce sont des vecteurs colonne. 11_{E} est un tel vecteur colonne valant 1 sur les lignes de x ∈ E, 0 ailleurs.)

– M^{+} : mesures positives sur E notées μ = (μ(x))_{x∈E}. Exemple : les lois initiales sur E. Ce sont des vecteurs ligne et on peut faire les produits μ.f pour μ ∈ M^{+}, f ∈ E^{+}.

– P, Q, R, matrices positives (P (x, y) ∈ \overline{ℝ}^{+}), x, y ∈ E. Le produit de deux matrices se définit par QR(x, y) = ∑_{z∈E} Q(x, z)R(z, y), avec la convention importante : +∞ × 0 = 0.

– Si f ∈ E^{+}, (Qf)(x) = ∑_{y∈E} Q(x, y)f(y).

– Si μ ∈ M^{+}, (μQ)(y) = ∑_{x∈E} μ(x)Q(x, y).

Définition 19.4.1. On appelle matrice de transition sur E une famille (P (x, y))_{x,y∈E} de réels telle que pour tous x, y ∈ E,

P (x, y) ≥ 0, ∑_{y∈E} p(x, y) = 1.

Ceci implique que ∀x ∈ E, l’application A → P (x, A) = ∑_{y∈A} P (x, y) est une probabilité sur E.

P ≥ 0 est une matrice de transition si et seulement si P 1 = 1 (où 1 := 11_{E}.) En conséquence, le produit de deux matrices de transition est une matrice de transition. Si μ est une probabilité et P une matrice de transition, μP est une probabilité.

Définition 19.4.2. Soient μ une probabilité et P une matrice de transition sur E. On appelle chaîne de Markov de loi initiale μ et de matrice de transition P, un processus aléatoire (Ω, F, F_{n}, X_{n}, ℙ) à valeurs dans E et tel que

(i) ℙ(X_{0} ∈ A) = μ(A), ∀A ⊂ E

(ii) ℙ(X_{n+1} ∈ A|F_{n}) = P (X_{n}, A) p.s., ∀A ⊂ E, n ≥ 0.

Remarque 19.4.1. La relation (ii) implique en particulier que ℙ(X_{n+1} ∈ A|F_{n}) = ℙ(X_{n+1} ∈ A|X_{n}). En effet, la v.a. P (X_{n}, A) est X_{n}-mesurable et par la propriété des tours :

ℙ(X_{n+1} ∈ A|X_{n}) = ℙ(ℙ(X_{n+1} ∈ A|F_{n})|X_{n}) = ℙ(P (X_{n}, A)|X_{n}) = P (X_{n}, A).

Proposition 19.4.1. Si F_{n} = F_{n}^{0} = σ(X_{0}, X_{1}, …, X_{n}) est la ”filtration naturelle du processus”, la tribu F_{n}^{0} est engendrée par la partition de Ω en événements {X_{0} = a_{0}, X_{1} = a_{1}, …, X_{n} = a_{n}}, (a_{0}, a_{1}, …, a_{n}) ∈ E^{n}. Alors (ii) peut être remplacée par

(ii1) ℙ(X_{n+1} = b|X_{n} = a_{n}, X_{n−1} = a_{n−1}, …, X_{0} = a_{0}) = P (a_{n}, b),

pour tous n ≥ 0, tous (a_{0}, a_{1}, …, a_{n}, b) ∈ E^{n+2} et tels que ℙ(X_{n} = a_{n}, …, X_{0} = a_{0}) > 0.

Démonstration. Il suffit de se rappeler que quand F est engendrée par des événements d’une partition dénombrable Ω_{i}, on a

ℙ(X ∈ A|F) = ∑_{i} ℙ(A|Ω_{i})11_{Ω_{i}},

et comme l’ensemble des valeurs est aussi dénombrable, cela revient à écrire

∀b ∈ E, ℙ(X = b|F) = ∑_{i} ℙ(X = b|Ω_{i})11_{Ω_{i}}.

Par (ii), ℙ(X_{n+1} ∈ A|F_{n}) = P (X_{n}, A) p.s. ⇔ ∀b ∈ E, ℙ(X_{n+1} = b|F_{n}) = P (X_{n}, b) p.s. En appliquant la relation précédente avec Ω_{i} = {(a_{0}, …, a_{n})}, cette dernière relation est équivalente à (ii1). En effet,

(ii) ⇔ (∀b, ℙ(X_{n+1} = b|F_{n}) = P (X_{n}, b))

⇔ ∑_{i} ℙ(X_{n+1} = b|Ω_{i})11_{Ω_{i}} = P (X_{n}, b)

⇔ (∀b, ∀(a_{0}, ..., a_{n}), ℙ(X_{n+1} = b|X_{0} = a_{0}, ..., X_{n} = a_{n}) = P (a_{n}, b)).
□

Théorème 19.4.1. (i) Soit X = (Ω, F, F_{n}, X_{n}, ℙ) une chaîne de Markov à valeurs dans E de loi initiale μ et de matrice de transition P. On a, pour tout (a_{0}, …, a_{n}) ∈ E^{n+1},

ℙ(X_{0} = a_{0}, X_{1} = a_{1}, …, X_{n} = a_{n}) = μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}).  (19.4.1)

(ii) Réciproquement, si un processus X = (Ω, F, X_{n}, ℙ) à valeurs dans E vérifie (19.4.1) pour une probabilité μ et une matrice de transition P sur E, alors X est une chaîne de Markov de loi initiale μ et de matrice de transition P par rapport à la filtration naturelle (F_{n}^{0})_{n≥0}.

Démonstration. (i)

ℙ(X_{0} = a_{0}, …, X_{n−1} = a_{n−1}, X_{n} = a_{n}) =
𝔼(11_{X_{0}=a_{0},..., X_{n−1}=a_{n−1}}11_{X_{n}=a_{n}}) = (définition de l’espérance conditionnelle)
𝔼(11_{X_{0}=a_{0},..., X_{n−1}=a_{n−1}}𝔼(11_{X_{n}=a_{n}}|F_{n−1})) = (définition chaîne de Markov, (ii))
𝔼(11_{X_{0}=a_{0},..., X_{n−1}=a_{n−1}}P (X_{n−1}, a_{n})) =
ℙ(X_{0} = a_{0}, …, X_{n−1} = a_{n−1})P (a_{n−1}, a_{n}).

(ii) Réciproque. Comme on considère la filtration naturelle F_{n}^{0}, il suffit de vérifier la ”forme simple” de (ii), à savoir (ii1). Or, en utilisant (19.4.1),

ℙ(X_{n+1} = b|X_{n} = a_{n}, …, X_{0} = a_{0}) = \frac{ℙ(X_{0} = a_{0}, …, X_{n} = a_{n}, X_{n} = b)}{ℙ(X_{0} = a_{0}, …, X_{n} = a_{n})} =

\frac{μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})P (a_{n}, b)}{μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})} = P (a_{n}, b).

□

19.4.2 Conséquences de la relation (19.4.1)

1. Soit f : E^{n+1} → ℝ positive ou bornée. Alors (il suffit de sommer)

𝔼(f(X_{0}, …, X_{n})) = ∑_{a_{0},..., a_{n}∈E} f(a_{0}, …, a_{n})μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})  (19.4.2)

2. Si on choisit f(x_{0}, …, x_{n}) = 11_{A_{0}}(x_{0}) … 11_{A_{n}}(x_{n}), A_{i} ∈ E,

ℙ(X_{0} ∈ A_{0}, …, X_{n} ∈ A_{n}) = ∑_{a_{0}∈A_{0},...,a_{n}∈A_{n}} μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})  (19.4.3)

Si, dans (19.4.3), on choisit A_{i} = {a_{i}} pour certains indices et A_{j} = E pour d’autres, on a pour l_{1}, …, l_{k} ∈ ℕ,

ℙ(X_{0} = a_{0}, X_{l_{1}} = a_{1}, …, X_{l_{1}+···+l_{k}} = a_{k}) = μ(a_{0})(P^{l_{1}})(a_{0}, a_{1}) … (P^{l_{k}})(a_{k−1}, a_{k}). (19.4.4)

Démonstration de (19.4.4). Le mieux est de traiter un exemple, le cas général se faisant par récurrence sur le même principe. On a par la relation (19.4.3),

ℙ(X_{0} = α_{0}, X_{1} ∈ E, X_{2} ∈ E, X_{3} = α_{3}) = ∑_{a_{1},a_{2}∈E} μ(α_{0})P (α_{0}, a_{1})P (a_{1}, a_{2})P (a_{2}, α_{3}) =

= μ(α_{0}) ∑_{a_{2}∈E} P^{2}(α_{0}, a_{2})P (a_{2}, α_{3}) = μ(α_{0})P^{3}(α_{0}, α_{3}).

3. Conséquence de (19.4.1) : si ℙ(X_{0} = a_{0}, …, X_{n} = a_{n}) > 0,

ℙ(X_{n+1} = b_{1}, …, X_{n+k} = b_{k} | X_{0} = a_{0}, …, X_{n} = a_{n}) = P (a_{n}, b_{1}) … P (b_{k−1}, b_{k}). (19.4.5)

4. Par application de (19.4.4), ℙ(X_{n+k} = b | X_{0} = a_{0}, …, X_{n} = a_{n}) = P^{k}(a_{n}, b).

19.5 Construction de l’espace canonique d’une matrice de transition

Théorème 19.5.1. Soient μ une probabilité et P une matrice de transition sur E. Alors il existe une chaîne de Markov à valeurs dans E, de loi initiale μ et de matrice de transition P. Plus précisément :

Ω = E^{ℕ}, ω = (ω_{n})_{n≥0}, X_{n}(ω) = ω_{n}, F_{n} = σ(X_{k}, k ≤ n), F = σ(X_{k}, k ≥ 0)

et il existe une unique probabilité ℙ sur cet espace canonique vérifiant :

ℙ(X_{0} = a_{0}, …, X_{n} = a_{n}) = μ_{n}(a_{0}, …, a_{n}) := μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}).  (19.5.1)

Démonstration. Par le théorème de Kolmogorov, il suffit de vérifier que

(a) μ_{n} est une probabilité sur E^{n+1}

(b) La condition de compatibilité (T) est vérifiée :

μ_{n−1}(A_{0} × A_{1} × ⋯ × A_{n−1}) = μ_{n}(A_{0} × A_{1} × ⋯ × A_{n−1} × E).

\underline{Preuve de (a) :} μ_{n}(a_{0}, …, a_{n}) = μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}). On somme successivement sur a_{n} ∈ E, puis a_{n−1} ∈ E, etc. jusqu’à a_{0} ∈ E et on trouve que ∑_{a_{0},...a_{n}∈E^{n+1}} μ_{n}(a_{0}, …, a_{n}) = 1.

\underline{Preuve de (b)}. Il suffit de montrer que

μ_{n−1}(a_{0}, …, a_{n−1}) = μ_{n}({a_{0}} × ⋯ × {a_{n−1}} × E),

et c’est immédiat en reprenant la relation (19.5.1) et en sommant par rapport à a_{n} : on obtient ainsi

μ_{n}({a_{0}} × ⋯ × {a_{n−1}} × E) = μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−2}, a_{n−1}) × 1 = μ_{n−1}(a_{0}, …, a_{n−1}).
□

19.6 La chaîne de Markov canonique associée à une matrice de transition

Soient P une matrice de transition sur E et μ ∈ M^{+}, μ.1 = 1 une mesure de probabilité sur E. On appelle ℙ_{μ} la probabilité construite sur l’espace canonique Ω par le théorème de Kolmogorov. Si μ = δ_{x}, on note ℙ_{μ} = ℙ_{x}. En utilisant de nouveau (19.4.1), on a

ℙ_{μ}(A) = ∑_{x∈E} μ(x)ℙ_{x}(A) si A = {X_{0} = a_{0}, …, X_{n} = a_{n}}.  (19.6.1)

Par le théorème de la classe monotone, on déduit que (19.6.1) est encore vraie pour tout A ∈ F.

Définition 19.6.1. Soit P une matrice de transition sur E. On appelle chaîne de Markov canonique de matrice de transition P le quintuplet (Ω, F, F_{n}, X_{n}, (ℙ_{x})_{x∈E}) où (Ω, F_{n}, F, X_{n}) est l’espace canonique associé à E et, pour chaque x, ℙ_{x} est une probabilité sur (Ω, F) vérifiant pour tout (a_{0}, … a_{n}),

ℙ_{x}(X_{0} = a_{0}, …, X_{n} = a_{n}) = 11_{x}(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}).  (19.6.2)

La relation (19.6.1) permet de définir ℙ_{μ} et alors (Ω, F, (F_{n})_{n≥0}, X_{n}, ℙ_{μ}) est une chaîne de Markov de loi initiale μ et de matrice de transition P.

Proposition 19.6.1.

ℙ_{x}(X_{n} = y) = P^{n}(x, y), 𝔼_{x}(f(X_{n})) = (P^{n}f)(x)  (19.6.3)
𝔼_{μ}(f(X_{n})) = ∑_{x∈E} μ(x)(P^{n}f)(x) = μ(P^{n}f) = (μP^{n})f.  (19.6.4)

Les derniers produits peuvent être vus comme des produits matriciels. La relation (19.6.4) veut dire : ”Si μ est la loi de X_{0}, μP^{n} est la loi de X_{n}”.

Démonstration. La première relation de (19.6.3) découle de (19.4.4) : ℙ_{x}(X_{n} = y) = ℙ_{x}(X_{0} = x, X_{n} = y) = P^{n}(x, y). Pour la seconde relation, on applique (19.4.2) :

𝔼_{x}(f(X_{n})) = ∑_{a_{0},...,a_{n}∈E} f(a_{n})11_{x}(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})
= ∑_{a_{1},...a_{n}∈E} f(a_{n})P (x, a_{1}) … P (a_{n−1}, a_{n})
= ∑_{a_{n}∈E} f(a_{n})P^{n}(x, a_{n}) = (P^{n}f)(x).

La relation (19.6.4) découle de (19.6.1) et de la relation précédente. □

19.6.1 Canonisation d’un processus de Markov

Une chaîne de Markov n’est pas en général définie sur l’espace canonique. Soit X′ = (Ω′, F′, F′_{n}, X′_{n}, ℙ′) une chaîne de Markov de loi initiale μ et de matrice de transition ℙ et soit la chaîne canonique X = (Ω, F, F_{n}, X_{n}, (ℙ_{x})_{x∈E}) associée à P. Alors pour tout (a_{0}, … a_{n}) ∈ E^{n+1}, on a

ℙ′(X′_{0} = a_{0}, …, X′_{n} = a_{n}) = μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})
= ℙ_{μ}(X_{0} = a_{0}, …, X_{n} = a_{n}).

Donc, par le théorème de la classe monotone 2.4, on a pour toute φ ∈ bF ou F^{+},

𝔼′(φ(X′_{0}, X′_{1}, …, X′_{n}, …)) = 𝔼_{μ}(φ(X_{0}, X_{1}, …, X_{n}, …)).

Les deux processus X et X′ ont donc même loi. Donc, tous les calculs d’espérance et de probabilité concernant X′ peuvent se faire avec X.

19.7 Calculs sur la chaîne canonique et propriété de Markov forte

Définition 19.7.1. Sur l’espace canonique

(Ω = E^{ℕ}, ω = (ω_{n})_{n≥0}, X_{n}(ω) = ω_{n}, F_{n} = σ(X_{k}, k ≤ n), F = σ(X_{k}, k ≥ 0)),

on définit l’opérateur de translation θ : Ω → Ω, ω = (ω_{n})_{n≥0} → (ω_{n+1})_{n≥0}. On pose θ_{p} = θ^{p} et θ_{p} est mesurable de (Ω, σ(X_{k}, k ≥ p)) dans (Ω, F). On a :

X_{n} ∘ θ_{p} = X_{n+p}.

On peut interpréter θ_{p} comme un opérateur de remise à zéro des compteurs à l’instant p, i.e. d’oubli de tout ce qui s’est passé strictement avant p. On considère un temps d’arrêt τ. On pose Ω_{τ} = {τ < +∞} et on définit θ_{τ} sur Ω_{τ} par θ_{τ} = θ_{n} sur {τ = n}. On a alors sur Ω_{τ} :

∀n ≥ 0, X_{n} ∘ θ_{τ} = X_{n+τ} .

Lemme 19.7.1. (4.10 page 90) On a :

ℙ_{μ}(X_{n+1} = b_{1}, …, X_{n+k} = b_{k}|F_{n}) = ℙ_{X_{n}}(X_{1} = b_{1}, …, X_{k} = b_{k}).

(Dans le second membre, μ disparaît mais la dépendance de μ se fait via X_{n}).

Remarque 19.7.1. Une des notations précédentes peut paraître abusive : il s’agit de ℙ_{X_{n}}(X_{1} = b_{0}, …, X_{k} = b_{k}). En effet, X_{n} apparaît dans cette notation comme le point de départ et aussi comme un élément de la suite X_{0}, …, X_{k}. Il faut comprendre ce terme comme ℙ_{X_{n}(ω)}({ρ ∈ Ω, ρ_{0} = b_{0}, …, ρ_{k} = b_{k}}). On a donc fait un abus de notation du type ∫_{0}^{x} f(x)dx, où x est utilisée comme variable explicite et muette à la fois.

Démonstration. Par la propriété (19.4.5),

ℙ_{μ}(X_{n+1} = b_{1}, …, X_{n+k} = b_{k}|X_{0} = a_{0}, …, X_{n} = a_{n}) = P (a_{n}, b_{1}) … P (b_{k−1}, b_{k}).

Mais, posant A = {X_{n+1} = b_{1}, …, X_{n+k} = b_{k}}, on a

ℙ_{μ}(A|F_{n}) = ∑_{a_{0},...a_{n}∈E} ℙ_{μ}(A|X_{0} = a_{0}, …, X_{n} = a_{n})11_{X_{0}=a_{0},..., X_{n}=a_{n}} =

∑_{a_{0},...a_{n}∈E} P (a_{n}, b_{1}) … P (b_{k−1}, b_{k})11_{X_{0}=a_{0},..., X_{n}=a_{n}}

= P (X_{n}, b_{1}) … P (b_{k−1}, b_{k}) ∑_{a_{0},...a_{n−1}∈E} 11_{X_{0}=a_{0},...X_{n−1}=a_{n−1}} = ℙ_{X_{n}}(X_{1} = b_{1}, …, X_{k} = b_{k}),

□

Théorème 19.7.1. (Propriété de Markov, théorème 4.5) Soit X une chaîne de Markov canonique. On a pour tout n ≥ 0, toute φ ∈ bF ou F^{+} et toute loi initiale μ,

𝔼_{μ}(φ ∘ θ_{n}|F_{n}) = 𝔼_{X_{n}}(φ), p.s.,  (19.7.1)

(qui est une fonction de X_{n}) ou, de manière équivalente, pour tout n ≥ 0, toute φ ∈ bF, toute ψ ∈ bF_{n}, (resp. φ ∈ F^{+}, ψ ∈ F_{n}^{+}) et toute loi initiale μ :

𝔼_{μ}(ψφ ∘ θ_{n}) = 𝔼_{μ}(ψ𝔼_{X_{n}}(φ)).  (19.7.2)

Démonstration. Prenons d’abord φ = 11_{X_{0}=b_{0},..., X_{k}=b_{k}}. Alors

𝔼_{μ}(φ ∘ θ_{n}|F_{n}) = 𝔼_{μ}(11_{X_{n}=b_{0},..., X_{n+k}=b_{k}}|F_{n}) =

11_{X_{n}=b_{0}}ℙ_{μ}(X_{n+1} = b_{1}, …, X_{n+k} = b_{k}|F_{n}) = 11_{X_{n}=b_{0}}ℙ_{X_{n}}(X_{1} = b_{1}, …, X_{k} = b_{k}) = 𝔼_{X_{n}}(φ).

La troisième égalité découle du lemme 19.7.1. Expliquons la dernière égalité. Comme φ est une fonction caractéristique, on a immédiatement

𝔼_{X_{n}}(φ) = ℙ_{X_{n}}(X_{0} = b_{0}, …, X_{k} = b_{k}) = 0 si b_{0} ≠ X_{n}, = ℙ_{X_{n}}(X_{1} = b_{1}, …, X_{k} = b_{k}) si b_{0} = X_{n}.

Nous avons donc prouvé (19.7.1) quand φ = 11_{X_{0}=a_{0},..., X_{n}=a_{n}} et on peut appliquer le théorème de la classe monotone, puisque les ensembles {X_{0} = a_{0}, …, X_{n} = a_{n}), n ∈ ℕ forment un π-système de F. (Théorème 2.5 page 19 du Baldi-Mazliak-Priouret). Montrons maintenant (19.7.2) : c’est juste la définition de l’espérance conditionnelle étendue de ψ = 11_{A}, A F_{n}-mesurable à bF_{n} ou à F_{n}^{+} par la machine standard. □

Théorème 19.7.2. (Propriété de Markov forte, théorème 4.6). Soient X une chaîne de Markov canonique et τ un temps d’arrêt. On a pour tout n ≥ 0, toute φ ∈ bF (ou F^{+}), toute ψ ∈ bF_{τ} (ou F_{τ}^{+}) et toute loi initiale μ,

𝔼_{μ}(11_{τ<+∞}φ ∘ θ_{τ} |F_{τ}) = 11_{τ<+∞}𝔼_{X_{τ}} (φ) p.s. ,
𝔼_{μ}(11_{τ<+∞}ψφ ∘ θ_{τ}) = 𝔼_{μ}(11_{τ<+∞}ψ𝔼_{X_{τ}} (φ))  (19.7.3)

(Comparer ces relations avec (19.7.1) et (19.7.1)).

Démonstration. On rappelle (Proposition 2.7 page 21) que si X ≥ 0 est un processus, ν un temps d’arrêt, X_{n} = 𝔼(X|F_{n}), alors sur {ν = n}, on a par définition,

𝔼(X|F_{ν}) = 𝔼(X|F_{n}) p.s.

Appliquons cette relation, puis la propriété de Markov (19.7.1) :

𝔼_{μ}(φ ∘ θ_{τ} |F_{τ}) = 𝔼_{μ}(φ ∘ θ_{n}|F_{n}) = 𝔼_{X_{n}}(φ), ℙ_{μ} − p.s. sur {τ = n}.

Donc

∑_{n} 11_{τ=n}𝔼_{μ}(φ ∘ θ_{τ} |F_{τ}) = ∑_{n} 11_{τ=n}𝔼_{X_{n}}(φ) = 11_{τ<+∞}𝔼_{X_{τ}} (φ), ℙ_{μ} − p.s.

Mais ∑_{n} 11_{τ=n} est F_{τ} -mesurable et donc

∑_{n} 11_{τ=n}𝔼_{μ}(φ ∘ θ_{τ} |F_{τ}) = 𝔼_{μ}(11_{τ<+∞}φ ∘ θ_{τ} |F_{τ}),

ce qui prouve la première relation annoncée. La seconde, (19.7.3) s’en déduit de la même manière que (19.7.2) de (19.7.1). □

19.8 Première grande application : la probabilité de retour

Lemme 19.8.1. Soient τ et σ deux temps d’arrêt. Alors ρ défini par ρ = τ + σ ∘ θ_{τ} sur {τ < ∞} et ρ = +∞ sinon est aussi un temps d’arrêt. De plus,

{ρ < +∞} = {τ < +∞} ∩ {σ ∘ θ_{τ} < +∞}, X_{ρ} = X_{σ} ∘ θ_{τ} sur {ρ < +∞}.

La démonstration est immédiate : un ensemble ρ = n s’exprime en fonction des ensembles τ = k et σ ∘ θ_{k} = l pour de valeurs de k et l inférieures ou égales à n. Le lemme précédent nous permet de définir les temps de passage par x successifs après 0 comme des temps d’arrêt. On pose

σ_{x} := inf{n ≥ 1, X_{n} = x} = σ_{x}^{1},
σ_{x}^{n} := σ_{x}^{n−1} + σ_{x} ∘ θ_{σ_{x}^{n−1}} si σ_{x}^{n−1} < +∞,
σ_{x}^{n} := σ_{x}^{n−1} = +∞ sinon.

Proposition 19.8.1. Soit X une chaîne de Markov canonique de matrice de transition P. Alors

ℙ_{x}(σ_{x}^{n} < +∞) = ℙ_{x}(σ_{x} < +∞)^{n}.  (19.8.1)

Démonstration.

ℙ_{x}(σ_{x}^{n} < +∞) = ℙ_{x}(σ_{x}^{n−1} + σ_{x} ∘ θ_{σ_{x}^{n−1}} < +∞)
= ℙ_{x}(σ_{x}^{n−1} < +∞, σ_{x} ∘ θ_{σ_{x}^{n−1}<+∞})
= 𝔼_{x}(11_{σ_{x}^{n−1}<+∞}11_{σ_{x}<+∞} ∘ θ_{σ_{x}^{n−1}}).

Mais, dans ce dernier terme, on peut appliquer la propriété de Markov forte (19.7.3) avec φ = 11_{σ_{x}<+∞}, et on obtient

ℙ_{x}(σ_{x}^{n} < +∞) = 𝔼_{x}(11_{σ_{x}^{n−1}<+∞}𝔼_{X_{σ{n−1 \atop x}}} (11_{σ_{x}<+∞})) = 𝔼_{x}(11_{σ_{x}^{n−1}<+∞}ℙ_{x}(σ_{x} < +∞)),

(car X_{σ_{x}^{n−1}} = x sur {σ_{x}^{n−1} < +∞})

= ℙ_{x}(σ_{x}^{n−1} < +∞)ℙ_{x}(σ_{x} < +∞).
□

19.9 Opérateurs potentiels

Définition 19.9.1. Soient P une matrice de transition et X la chaîne canonique associée. On appelle matrice potentielle de P (ou de X) la matrice

U = I + P + ⋯ + P^{n} + ⋯ = ∑_{k≥0} P^{k}.

Lemme 19.9.1. Si A ⊂ E et N_{A}(ω) désigne le nombre de visites de la trajectoire ω à A, on a

N_{A} = ∑_{k≥0} 11_{A}(X_{k}), 𝔼_{x}(N_{A}) = U(x, A), E_{x}(N_{y}) = U(x, y).  (19.9.1)

Démonstration. La première formule est la définition du nombre de visites de A. On rappelle la formule (4.13) : 𝔼_{x}(f(X_{n})) = (P^{n}f)(x). En appliquant cette formule à f = 11_{A},

𝔼_{x}(N_{A}) = 𝔼_{x}(∑_{k≥0} 11_{A}(X_{k})) = ∑_{k≥0} 𝔼_{x}(11_{A}(X_{k})) =

∑_{k≥0}(P^{k}11_{A})(x) = (U11_{A})(x) = δ_{x}U11_{A} = U(x, A).

La troisième formule est l’application de la précédente à A = {x}. □

19.10 Récurrence et transience

Théorème 19.10.1. Soit x ∈ E. On rappelle que U(x, x) = E_{x}(N_{x}).

(i) Si U(x, x) = +∞, alors ℙ_{x}(σ_{x} < +∞) = 1 et ℙ_{x}(N_{x} = +∞) = 1. Le point x est dit récurrent. (ii) Si U(x, x) < +∞, alors ℙ_{x}(σ_{x} < +∞) < 1 et ℙ(N_{x} < +∞) = 1. Le point x est dit transitoire (transient).

On passe donc par ce théorème de l’espérance à la probabilité : si le point est récurrent, presque toutes les trajectoires passent une infinité de fois par x. Si x est transitoire, presque toutes les trajectoires ne passent qu’un nombre fini de fois par x.

Démonstration. On vérifie que

N_{x} = 11_{{x}}(X_{0}) + ∑_{n≥1} 11_{σ_{x}^{n}<+∞}  (19.10.1)

Deux cas sont possibles.

(i) ℙ_{x}(σ_{x} < +∞) = 1. Alors pour tout n ≥ 0, ℙ_{x}(σ_{x}^{n} < +∞) = 1 par (19.8.1). Donc par (19.10.1), N_{x} = +∞ ℙ_{x}-p.s. et U(x, x) = 𝔼_{x}(N_{x}) = +∞. (ii) ℙ_{x}(σ_{x} < ∞) = a < 1. Alors par (19.10.1), U(x, x) = 𝔼_{x}(N_{x}) = 1 + ∑_{n≥1} ℙ_{x}(σ_{x}^{n} < +∞) = 1 + ∑_{n≥1} a^{n} < +∞. On en déduit que N_{x} < +∞ ℙ_{x}-p.s. □

Proposition 19.10.1. Si x ≠ y, alors U(x, y) = ℙ_{x}(σ_{y} < +∞)U(y, y). En particulier, U(y, y) ≥ U(x, y).

Démonstration. On va utiliser la propriété de Markov forte, et les relations X_{σ_{y}} = y sur {σ_{y} < +∞}, N_{y} = 11_{σ_{y}<+∞}N_{y} ∘ θ_{σ_{y}}, ℙ_{x}-p.s. (On a x ≠ y, donc le compte de N_{y} commence en σ_{y}).

U(x, y) = 𝔼_{x}(N_{y}) = 𝔼_{x}(11_{σ_{y}<+∞}N_{y} ∘ θ_{σ_{y}}) = 𝔼_{x}(11_{σ_{y}<+∞}𝔼_{X_{σy}} (N_{y})) =
𝔼_{x}(11_{σ_{y}<+∞}𝔼_{y}(N_{y})) = ℙ_{x}(σ_{y} < +∞)U(y, y),

par (19.9.1).

□

Remarque 19.10.1. Si E est fini, il existe au moins un état récurrent. En effet, ∑_{y∈E} N_{y} = N_{E} = +∞ p.s., d’où

∑_{y∈E} U(x, y) =^{(19.9.1)} 𝔼_{x}(∑_{y∈E} N_{y}) = 𝔼_{x}(N_{E}) = +∞.

Il existe donc y ∈ E tel que U(x, y) = +∞. Par la proposition 19.10.1, U(y, y) ≥ U(x, y) = +∞ et donc y est récurrent.

19.10.1 Communications entre deux états

On note τ_{x} = inf{n ≥ 0, X_{n} = x}. (Attention : la chaîne ne part pas nécessairement de x. Si X_{0} = x, on a appelé σ_{x} le temps de premier retour, qui est donc distinct de τ_{x} = 0. Si la chaîne ne part pas de x, on a σ_{x} = τ_{x}.) On dit que x conduit à y et on note x → y si ℙ_{x}(τ_{y} < +∞) > 0. Donc x → x et pour y ≠ x, on a ℙ_{x}(τ_{y} < +∞) = ℙ_{x}(σ_{y} < +∞). Puisque {σ_{y} < +∞} = ∪_{n≥1}{X_{n} = y}, les trois conditions suivantes sont équivalentes :

(a) ℙ(σ_{y} < +∞) > 0.

(b) Il existe n ≥ 1 tel que P^{n}(x, y) > 0

(c) U(x, y)(= 𝔼_{x}(N_{y})) > 0.

Lemme 19.10.1. Si x → y et y → z, on a x → z

Démonstration. En effet, comme il y a moins de chemins allant de x à z en passant par y que de chemins allant de x à z (par “moins”, on entend une inclusion entre deux ensembles de chemins),

ℙ_{x}(τ_{z} < +∞) ≥ ℙ_{x}(τ_{y} + τ_{z} ∘ θ_{τ_{y}} < +∞) =
𝔼_{x}(11_{τ_{y}<+∞}11_{τ_{z}<+∞} ∘ θ_{τ_{y}}) = 𝔼_{x}(11_{τ_{y}<+∞}ℙ_{X_{τy}} (τ_{z} < +∞)) =
ℙ_{x}(τ_{y} < +∞)ℙ_{y}(τ_{z} < +∞) > 0.
□

Proposition 19.10.2. Si x est récurrent et x → y, alors

(i) U(y, y) = +∞ et y est récurrent (ii) y → x (iii) ℙ_{x}(N_{y} = +∞) = 1 et, par symétrie, ℙ_{y}(N_{x} = +∞) = 1.

Démonstration. (i) Par l’équivalence des trois propriétés (a), (b) et (c), il existe n tel que P^{n}(x, y) > 0. Donc en utilisant la proposition 19.10.1,

U(y, y) ≥ U(x, y) = ∑_{k≥0} P^{k}(x, y) ≥ ∑_{k≥0} P^{n+k}(x, y) ≥ ∑_{k≥0} P^{k}(x, x)P^{n}(x, y) = U(x, x)P^{n}(x, y) = +∞.

Donc U(y, y) = +∞ et y est récurrent. (ii) Puisque x est récurrent, la chaîne visite x ℙ_{x}-presque sûrement. Donc, sur {σ_{y} < +∞}, on a σ_{x} ∘ θ_{σ_{y}} < +∞ ℙ_{x}-p.s. et vu que x → y,

0 < ℙ_{x}(σ_{y} < +∞) = ℙ_{x}(σ_{y} < +∞, σ_{x} ∘ θ_{σ_{y}} < +∞) = ℙ_{x}(σ_{y} < +∞)ℙ_{y}(σ_{x} < +∞).

D’où ℙ_{y}(σ_{x} < +∞) = 1 et y → x. Par symétrie, ℙ_{x}(σ_{y} < +∞) = 1. (iii) Plus généralement,

ℙ_{x}(σ_{y}^{n} < +∞) = ℙ_{x}(σ_{y}^{n−1} < +∞, σ_{y} ∘ θ_{σ_{y}^{n−1}} < +∞) =
ℙ_{x}(σ_{y}^{n−1} < +∞)ℙ_{y}(σ_{y} < +∞) = ℙ_{x}(σ_{y}^{n−1} < +∞) = ⋯ = ℙ_{x}(σ_{y} < +∞) = 1.

D’où ℙ_{x}(N_{y} = +∞) = 1 et par symétrie ℙ_{y}(N_{x} = +∞) = 1.

□

Corollaire 19.10.1. Il existe une partition (C_{i})_{i∈I} des états récurrents de E telle que

(i) si x, y ∈ C_{i}, U(x, y) = +∞ et ℙ_{x}(N_{y} = +∞) = 1, (ii) si x ∈ C_{i} et y ∈ C_{j}, i ≠ j, U(x, y) = 0 et ℙ_{x}(N_{y} = 0) = 1.

Démonstration. On dit que x et y communiquent si x → y et y → x, ce qu’on écrit x ↔ y, une relation d’équivalence. Soit C une classe d’équivalence pour cette relation. Si cette classe C contient un état récurrent, ils le sont tous par la proposition 19.10.2 et ne conduisent à aucun état qui ne soit dans C_{i}. □

19.11 Lien entre martingale et chaîne de Markov

Définition 19.11.1. Soit P une matrice de transition. Une fonction f ∈ E^{+} est dite excessive si f ≥ P f, et invariante si f = P f. Une mesure μ est dite excessive si μP ≤ μ, invariante si μP = μ. (Par exemple, f = 1 est invariante).

Proposition 19.11.1. Si f ∈ E^{+} est une fonction excessive (resp. invariante), alors Y_{n} = f(X_{n}) est une surmartingale (resp. une martingale) positive pour toute loi ℙ_{μ} associée à une distribution initiale μ.

Démonstration. Par la propriété de Markov, on a presque sûrement

𝔼_{μ}^{F_{n}}(Y_{n+1}) = 𝔼_{μ}^{F_{n}}(f(X_{1}) ∘ θ_{n}) = 𝔼_{X_{n}}(f(X_{1})) = P f(X_{n}) ≤ f(X_{n}) = Y_{n}.

(Rappel, 𝔼_{x}(f(X_{k})) = (P^{k}f)(x), formule (4.13) : la loi de X_{k} est δ_{x}.P^{k}.) □

19.12 Chaînes irréductibles récurrentes

Définition 19.12.1. Soit P une matrice de transition sur E. Une partie F de E est dite close si pour tout x ∈ F, on a ℙ_{x}(X_{n} ∈ F pour tout n ≥ 0) = 1. Si F = {x}, l’état x est dit absorbant. Si E est la seule partie close, la chaîne (ou sa matrice de transition) est dite irréductible.

ATTENTION : LA PREUVE DE LA PROPOSITION QUI SUIT EST TRES SUCCINCTE DANS [1].

Proposition 19.12.1. On a les propriétés suivantes

1. F est close si et seulement si pour tout x ∈ F, P (x, F) = 1 ou si et seulement si, pour tout x ∈ F et tout y ∉ F, U(x, y) = 0.

2. P est irréductible si et seulement si ∀x, y ∈ E, U(x, y) > 0.

3. Dans une chaîne irréductible, ou bien tous les états sont récurrents (alors U(x, y) = +∞ pour tous x, y ∈ E), ou bien tous les états sont transitoires (alors 0 < U(x, y) < +∞.). On parle de chaîne récurrente dans le premier cas et de chaîne transitoire dans le second.

4. Une chaîne irréductible sur un ensemble d’états finis est récurrente.

5. Si X est irréductible et si X possède une probabilité invariante, alors X est récurrente.

Démonstration. On rappelle (19.9.1) : U(x, y) = 𝔼_{x}(N_{y}) = ∑_{k} ℙ_{x}(X_{k} = y) en conséquence, U(x, y) > 0 si et seulement si x communique avec y, i.e. si ℙ_{x}(σ_{y} < +∞) > 0.

1. (∀x ∈ F, P (x, F) = 1) équivaut à (P 11_{F} ≥ 11_{F}) et donc à (∀n, P^{n}11_{F} ≥ 11_{F}), soit à (P^{n}(x, F) = 1 pour x ∈ F), soit encore à (ℙ_{x}(X_{n} ∈ F) = 1 pour tout x ∈ F) et donc à ”F est close”. Si F est close, on a P^{n}(x, F) = 1 pour tout x ∈ F. Donc P^{n}(x, y) = 0 si y ∉ F et donc U(x, y) = ∑_{n} P^{n}(x, y) = 0. Réciproquement, si U(x, y) = 0 pour x ∈ F et y ∉ F, on déduit que P^{n}(x, y) = 0 pour tout x ∈ F, y ∉ F. Donc ∀x ∈ F, P^{n}(x, F) = 1 et donc F est close.

2. Si ∀x, y, U(x, y) > 0 : s’il existait une partie close F ⊂ E et x ∈ F, y ∈ F^{c} : comme U(x, y) > 0, par la définition de U il existe n tel que ℙ_{x}(X_{n} = y) > 0, et donc ℙ_{x}(X_{n} ∈ F) < 1, ce qui contredit la clôture de F.

Réciproquement, supposons que E soit irréductible et montrons que U(x, y) > 0 pour tous x, y ∈ E. Remarquons pour commencer que U(x, y) > 0 et U(y, z) > 0 impliquent qu’il existe n et p tels que P^{n}(x, y) > 0 et P^{p}(y, z) > 0 et donc P^{n+p}(x, z) > 0, ce qui donne U(x, z) > 0. Posons E_{x} = {y, U(x, y) > 0}. Alors si pour un y ∈ E_{x} on a U(y, z) > 0, la remarque précédente entraîne que z ∈ E_{x}. Donc U(y, z) = 0 pour tous y ∈ E_{x} et z ∉ E_{x}, ce qui veut dire par le 1. que E_{x} est close. Comme E est irréductible on déduit que E = E_{x}, et donc on a U(x, y) > 0 pour tous x, y ∈ E.

3. Dans une chaîne irréductible, tous les états communiquent. Si un état est récurrent, alors tous le sont car on a montré que x → y et x récurrent impliquent y est récurrent. Donc l’alternative est : tous les états récurrents ou tous les états transitoires. On rappelle la proposition 19.10.1 : U(x, y) = ℙ_{x}(σ_{y} < +∞)U(y, y). On rappelle de plus que y est récurrent si et seulement si U(y, y) = +∞. Donc si un état y est récurrent, on a U(x, y) = +∞ pour tous x, y ∈ F. Si tous les états sont transitoires, on a U(x, x) < +∞ pour tout x ∈ F et donc U(x, y) < +∞ pour tous x, y ∈ F.

4. Application : si la chaîne irréductible est à états finis, il y a au moins un état récurrent (remarque 19.10.1) et donc la chaîne est récurrente.

5. Si λ est une probabilité invariante, on a

λ(y) = (λP^{n})(y) = ∑_{x∈E} λ(x)P^{n}(x, y).

Si la chaîne était transiente, on aurait U(x, y) < +∞ pour tous x, y ∈ E et donc P^{n}(x, y) → 0 quand n → ∞. Comme P^{n}(x, y) ≤ 1, on peut appliquer le théorème de Lebesgue dans la relation précédente et on obtiendrait λ(y) = 0, ce qui est absurde.

□

Proposition 19.12.2. Si X est une chaîne de Markov canonique irréductible et récurrente et si f est une fonction excessive, alors f est constante.

Démonstration. f(X_{n}), n ≥ 0 est une surmartingale positive (Proposition 4) et donc converge p.s. pour toute loi initiale μ vers une variable aléatoire Z. Soit x ≠ y. On a (p.s.) X_{n} = x pour une infinité de x et X_{n} = y pour une infinité de y. Donc Z = f(x) = f(y). □

Proposition 19.12.3. Soit P une chaîne canonique et μ une mesure invariante telle que 0 < μ(x) < +∞ pour tout x ∈ E. On définit la ”chaîne duale” P̂ par

P̂(x, y) = \frac{μ(y)}{μ(x)}P (y, x).

Alors P̂ est bien une matrice de transition. Si P est récurrente irréductible, alors la chaîne duale l’est aussi.

Démonstration.

∑_{y∈E} P̂(x, y) = \frac{1}{μ(x)} ∑_{y∈E} μ(y)P (y, x) = \frac{1}{μ(x)}(μP)(x) = \frac{1}{μ(x)}μ(x) = 1.

Donc, P̂ est une matrice de transition.

P̂^{2}(x, y) = ∑_{z} P̂(x, z)P̂(z, y) = ∑_{z} \frac{μ(z)}{μ(x)}P (z, x)\frac{μ(y)}{μ(z)}P (y, z) = \frac{μ(y)}{μ(x)}P^{2}(y, x).

De même, on a P̂^{n}(x, y) = \frac{μ(y)}{μ(x)}P^{n}(y, x) et donc

Û(x, y) = \frac{μ(y)}{μ(x)}U(y, x).

Donc Û(x, y) = +∞ et donc la chaîne duale est aussi récurrente irréductible. □

Théorème 19.12.1. Soit X une chaîne irréductible récurrente. Alors X possède une mesure invariante μ unique à une constante multiplicative près. De plus, pour tout y ∈ E, 0 < μ(y) < +∞. Enfin, pour x ∈ E, la mesure invariante μ_{x} telle que μ_{x}(x) = 1 est donnée par

μ_{x}(y) = 𝔼_{x} ( ∑_{k=0}^{σ_{x}−1} 11_{{y}}(X_{k})) .

Démonstration. On fixe x ∈ E et on pose

μ′_{x}(y) = 𝔼_{x} (∑_{k=1}^{σ_{x}} 11_{{y}}(X_{k})) .

μ′_{x}(y) est donc le nombre moyen de passages par y entre k = 1 et le retour en x, alors que μ_{x}(y) est le nombre moyen de passages par y entre k = 0 et le retour en x, non compris. Si y ≠ x, on en déduit immédiatement que μ_{x}(y) = μ′_{x}(y). On a aussi μ_{x}(x) = μ′_{x}(x) = 1 et donc μ_{x} = μ′_{x}. De plus,

μ_{x}(E) = μ_{x}.11_{E} = 𝔼_{x}(σ_{x}).  (19.12.1)

(nombre moyen de passages avant le retour à x).

(i) On montre que μ_{x} est invariante. On commence par calculer, pour f ∈ E^{+}, μ_{x}.f :

μ_{x}.f = ∑_{y∈E} 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} 11_{{y}}(X_{k}))f(y) = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} ∑_{y} 11_{{y}}(X_{k})f(y)) = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} f(X_{k})).

On obtient la formule utile

μ_{x}.f = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} f(X_{k}))  (19.12.2)

On en déduit que

μ_{x}P.f = μ_{x}.P f = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} P f(X_{k})) = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} 𝔼_{X_{k}}(f(X_{1}))) = ∑_{k≥0} 𝔼_{x}(11_{{k<σ_{x}}}𝔼_{X_{k}}(f(X_{1})))

(En effet, la relation (4.13), 𝔼_{μ}(f(X_{n})) = μ.P^{n}f, donne P f(X_{k}) = δ_{X_{k}}.P f = 𝔼_{X_{k}}(f(X_{1})).) Vu que {k < σ_{x}} ∈ F_{k}, en appliquant (en sens inverse pour une fois) la propriété de Markov (4.18), on obtient

μ_{x}P.f = ∑_{k≥0} 𝔼_{x}(11_{k<σ_{x}}f(X_{k+1})) = 𝔼_{x}(∑_{k=1}^{σ_{x}} f(X_{k})) = μ′_{x}.f = μ_{x}.f.

(ii) On montre que pour tout y ∈ E, on a 0 < μ_{x}(y) < +∞.

Lemme 19.12.1. Soit P irréductible et λ une mesure telle que λ ≥ λ.P. Si, pour un x ∈ E, λ(x) = 0 (resp. λ(x) < +∞), alors pour tout y, λ(y) = 0 (resp. λ(y) < +∞).

En effet, soit x ≠ y. Il existe n ≥ 1 tel que P^{n}(y, x) > 0. Comme λ ≥ λP^{n}, on a

λ(x) ≥ ∑_{z∈E} λ(z)P^{n}(z, x) ≥ λ(y)P^{n}(y, x).

(iii) On montre l’unicité de la mesure invariante μ_{x}. Soit λ une mesure excessive (en particulier invariante) avec λ(y) < +∞ pour tout y ∈ E. On pose f(y) = \frac{λ(y)}{μ_{x}(y)}. Alors f est une fonction excessive pour la chaîne duale P̂, avec μ = μ_{x}. En effet,

P̂f(y) = ∑_{z∈E} P̂(y, z)\frac{λ(z)}{μ_{x}(z)} = ∑_{z∈E} \frac{μ_{x}(z)}{μ_{x}(y)}P (z, y)\frac{λ(z)}{μ_{x}(z)} = \frac{1}{μ_{x}(y)}λP (z) ≤ \frac{1}{μ_{x}(y)}λ(y) = f(y).

Par la proposition 19.12.2, cela implique que f est constante.

□

Théorème 19.12.2. Soit X une chaîne irréductible récurrente de mesure invariante μ. Il y a deux cas possibles,

(i) μ(E) = +∞. Alors, pour tout x ∈ E, 𝔼_{x}(σ_{x}) = +∞. La chaîne est dite récurrente nulle. (ii) μ(E) < +∞. Alors, pour tout x ∈ E, 𝔼_{x}(σ_{x}) < +∞. La chaîne est dite récurrente positive.

Dans ce cas l’unique probabilité invariante est donnée par

π(x) = \frac{1}{E_{x}(σ_{x})}.

Démonstration. Soit on a μ(E) = +∞ pour toute mesure invariante μ, soit μ(E) < ∞. Mais par (19.12.1), μ(E) = 𝔼_{x}(σ_{x}) et donc 𝔼_{x}(σ_{x}) = +∞. pour tout x ou bien 𝔼_{x}(σ_{x}) < ∞ pour tout x. Dans le second cas, il y a une unique mesure invariante π(y) = \frac{μ_{x}(y)}{μ_{x}(E)} = \frac{μ_{x}(y)}{𝔼_{x}(σ_{x})} et en particulier

π(x) = \frac{μ_{x}(x)}{𝔼_{x}(σ_{x})} = \frac{1}{𝔼_{x}(σ_{x})}. □

Remarque 19.12.1. Un exemple simple et générique de chaîne récurrente nulle. Si E est infini et si P est une matrice doublement stochastique, alors (1, …, 1, …) est une mesure invariante (pourquoi ?). On en déduit alors que la chaîne est récurrente nulle. Prenons comme exemple une marche aléatoire symétrique sur ℤ^{N}. La matrice de la chaîne de Markov associée est bistochastique et a donc (..., 1, 1, ..., 1, ...) comme mesure invariante. Or, on sait qu’une telle chaîne est récurrente si et seulement si N ≤ 2. Si N ≥ 3, elle est transiente, bien qu’ayant une mesure invariante.

19.13 Théorèmes ergodiques

Théorème 19.13.1. Soit X une chaîne irréductible récurrente de mesure invariante μ. Soient f, g ∈ L^{1}(μ) avec μ.g ≠ 0. Alors

\frac{∑_{0}^{n} f(X_{k})}{∑_{0}^{n} g(X_{k})} → \frac{μ.f}{μ.g} , p.s.

Démonstration du théorème ergodique 19.13.1 On fixe x ∈ E et on considère μ = μ_{x} la mesure invariante valant 1 en x et σ_{x}^{p} = σ^{p} le p-ième retour en x. Soit λ une loi initiale arbitraire. Soit f ∈ L^{1}(μ), i.e. vérifiant ∑_{x∈E} |f(x)|μ(x) < +∞, on pose

Z_{0} = ∑_{k=0}^{σ^{1}−1} f(X_{k})

Z_{p} = Z_{0} ∘ θ_{σ^{p}} = ∑_{0}^{σ^{1}−1} f(X_{k}) ∘ θ_{σ^{p}} = ∑_{k=σ^{p}}^{σ^{p+1}−1} f(X_{k}).

Par la relation (19.12.2), 𝔼_{x}(Z_{0}) = μ.f et par la propriété de Markov,

𝔼_{λ}(Z_{p}) = 𝔼_{λ}(𝔼_{X_{σ^{p}}} (Z_{0})) = 𝔼_{x}(Z_{0}) = μ.f.

Pour la loi ℙ_{λ}, les v.a. Z_{1},..., Z_{p},... sont indépendantes, de même loi, d’espérance μ.f : voir le lemme 19.13.1 ci-dessous. Par la loi forte des grands nombres,

\frac{1}{n} ∑_{0}^{σ^{n}} f(X_{k}) = \frac{Z_{0}}{n} + \frac{1}{n}(Z_{1} + ... + Z_{n−1}) + \frac{f(x)}{n} → μ.f, ℙ_{λ} − p.s.

A m ∈ ℕ on associe l’unique entier ν(m) tel que σ^{ν(m)} ≤ m ≤ σ^{ν(m)+1}, alors ν(m) → +∞ et

ν(m) ≤ ∑_{0}^{m} 11_{x}(X_{k}) = ν(m) + 11_{x}(X_{0}) ≤ ν(m) + 1.

Si on suppose f ≥ 0,

\frac{ν(m)}{ν(m) + 1} \frac{∑_{0}^{σ^{ν(m)}} f(X_{k})}{ν(m)} ≤ \frac{∑_{0}^{m} f(X_{k})}{∑_{0}^{m} 11_{x}(X_{k})} ≤ \frac{ν(m) + 1}{ν(m)} \frac{∑_{0}^{σ^{ν(m)+1}} f(X_{k})}{ν(m) + 1}

et, les termes latéraux tendant vers μ.f ℙ_{λ}-p.s., on a donc

\frac{∑_{0}^{m} f(X_{k})}{∑_{0}^{m} 11_{x}(X_{k})} → μ.f, ℙ_{λ} − p.s.

En écrivant f = f^{+} − f^{−}, on a obtient la relation précédente pour f ∈ L^{1}(μ). Si de plus μ.g ≠ 0, on peut écrire cette relation pour f et g et faire le quotient, ce qui prouve le théorème.

ATTENTION : LA PREUVE DU LEMME 19.13.1 EST LAISSEE EN EXERCICE DANS [1].

Lemme 19.13.1. Pour la loi ℙ_{λ}, les v.a. Z_{1},..., Z_{p},... sont indépendantes, de même loi, d’espérance μ.f.

Démonstration. On a Z_{p} = Z_{0} ∘θ_{σ^{p}}. Par la propriété forte de Markov on en déduit pour toute g, fonction réelle positive ou bornée et tout p ≥ 1 :

𝔼_{λ}(g(Z_{p})) = 𝔼_{λ}(g ∘ Z_{0} ∘ θ_{σ^{p}}) = 𝔼_{λ}(E_{x_{σ^{p}}} (g(Z_{0}))) = 𝔼_{λ}(E_{x}(g(Z_{0}))) = 𝔼_{x}(g(Z_{0})).

(Remarquer que σ^{p} < +∞ p.s. par hypothèse). Donc les Z_{p}, p ≥ 1 ont toutes la même loi. Montrons ensuite que Z_{k+p} et Z_{p} sont indépendantes pour p, k ≥ 1. Pour tous s, t ∈ ℝ on a, en utilisant à la troisième ligne la propriété de Markov forte et à la quatrième X_{σ^{k}} = x :

ℙ_{λ}(Z_{k+p} ≤ s, Z_{k} ≤ t) = 𝔼_{λ}(11_{Z_{k+p}≤s}11_{Z_{k}≤t})
= 𝔼_{λ}(11_{Z_{k}≤t}11_{{Z_{p}≤s}} ∘ θ_{σ^{k}})
= 𝔼_{λ}(11_{Z_{k}≤t}𝔼_{X_{σ^{k}}} (11_{Z_{p}≤s}))
= ℙ_{λ}(Z_{k} ≤ t)ℙ_{x}(Z_{p} ≤ s).

Pour déduire que Z_{k+p} et Z_{p} sont indépendantes, il suffit donc de vérifier que ℙ_{x}(Z_{p} ≤ s) = ℙ_{λ}(Z_{p} ≤ s). Mais, en utilisant de nouveau la propriété de Markov forte,

ℙ_{λ}(Z_{p} ≤ s) = 𝔼_{λ}(11_{Z_{p}≤s}) = 𝔼_{λ}(11_{Z_{0}≤s} ∘ θ_{σ^{p}}) = 𝔼_{λ}(𝔼_{X_{σ^{p}}} (11_{Z_{p}≤s})) = ℙ_{x}(Z_{0} ≤ s).

Donc

ℙ_{x}(Z_{p} ≤ s) = ℙ_{x}(Z_{0} ≤ s) = ℙ_{λ}(Z_{p} ≤ s).
□

19.14 Conséquences du théorème ergodique

Proposition 19.14.1.

\frac{nombres de visites de X en y avant n}{nombre de visites de X en x avant n} → \frac{μ(y)}{μ(x)}, p.s.

Démonstration. Prendre f = 11_{{y}} et g = 11_{{x}}. □

Proposition 19.14.2. Soit X une chaîne irréductible, récurrente positive, de probabilité invariante π. Alors, pour toute f ∈ L^{1}(π),

\frac{1}{n} ∑_{0}^{n−1} f(X_{k}) → π.f, p.s.

Démonstration. Prendre g = 1 et μ = π, la probabilité invariante (on a π.g = 1). □

Proposition 19.14.3. (i) Si X est une chaîne irréductible, récurrente positive, de probabilité invariante π, alors, pour tout x ∈ E,

\frac{1}{n} ∑_{0}^{n−1} 11_{x}(X_{k}) → π(x) p.s.

π(x) est donc la fréquence de passage de la chaîne par x. (ii) Si X est une chaîne irréductible récurrente nulle, alors, pour tout x ∈ E,

\frac{1}{n} ∑_{0}^{n−1} 11_{x}(X_{k}) → 0, p.s.

Démonstration. (i) découle de la proposition antérieure. Montrons (ii). Par hypothèse (théorème 19.12.2) on a μ(E) = +∞. Pour F ⊂ E fini, on a par le théorème 19.13.1

\frac{∑_{0}^{n} 11_{x}(X_{k})}{n + 1} ≤ \frac{∑_{0}^{n} 11_{x}(X_{k})}{∑_{0}^{n} 11_{F} (X_{k})} → \frac{μ(x)}{μ(F)} = \frac{1}{μ(F)} p.s.

pour tout F fini, arbitrairement grand. Donc

lim sup_{n} \frac{∑_{0}^{n} 11_{x}(X_{k})}{n + 1} ≤ \frac{1}{μ(F)} p.s.

Comme μ(E) = +∞, on peut prendre μ(F) arbitrairement grand. □

Corollaire 19.14.1. (i) Si X est récurrente positive de probabilité invariante π,

\frac{1}{n} ∑_{k=0}^{n−1} P^{k}(y, x) →_{n→∞} π(x),

(ii) si X et récurrente nulle,

\frac{1}{n} ∑_{k=0}^{n−1} P^{k}(y, x) →_{n→∞} 0.

Démonstration. Appliquer 𝔼_{y} aux formules de la proposition 19.14.3. Comme le terme de gauche de ces formules est borné par 1, on peut appliquer le théorème de Lebesgue, i.e. intervertir 𝔼_{y} et la sommation en k. Mais 𝔼_{y}(11_{x}(X_{k})) = P^{k}(y, x) (formule (19.6.4)) ce qui donne le résultat.

□

19.15 Périodicité

L’exemple suivant montre que la convergence en moyenne de Cesaro de P^{n}(y, x) vers π(x) n’implique pas une convergence ordinaire. Il suffit de prendre

P = ( \begin{matrix}0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \end{matrix} ) .

On vérifie aisément que P^{3n} = I, P^{3n+1} = P, P^{3n+2} = P^{2} et que la suite P^{n}(1, 2) vaut 0, 1, 0, 0, 1, 0, 0, 1, …, est périodique et ne converge pas.

Définition 19.15.1. Soit P une matrice de transition. Pour x ∈ E, on pose

I(x) = {n > 0, P^{n}(x, x) > 0.}

Le p.g.c.d. de l’ensemble I(x) s’appelle la période de x et se note a(x).

Proposition 19.15.1. Si X est une chaîne irréductible, tous les états ont même période. La chaîne est dite apériodique si cette période est 1.

Démonstration. Soient x et y deux états de périodes a(x) et a(y) respectivement. Comme x communique avec y, il existe k tel que P^{k}(x, y) > 0 et de même il existe l tel que P^{l}(y, x) > 0. Donc k +l ∈ I(x) et de même l +k ∈ I(y). On déduit que a(y) divise k +l et aussi que l +a(x)+k ∈ I(y). Donc a(y) divise aussi a(x). Réciproquement, a(x) divise a(y) et donc les deux périodes sont égales. □

Théorème 19.15.1. Soit X une chaîne irréductible, apériodique, récurrente positive de probabilité invariante π. Alors P^{n}(x, y) → π(y) pour tous x, y ∈ E.

Théorème 19.15.2. Soit X une chaîne irréductible, récurrente positive de probabilité invariante π, de période d. Alors pour tout x, y ∈ E, il existe r, 0 ≤ r < d, avec r = 0 si x = y, tel que, pour tout s, 0 ≤ s < d,

lim_{n→∞} P^{nd+r}(x, y) = dπ(y), P^{nd+s}(x, y) = 0 pour s ≠ r.

Théorème 19.15.3. Soit X une chaîne irréductible, récurrente nulle. Alors on a P^{n}(x, y) → 0 quand n → ∞, pour tout x, y ∈ E.

Ce résultat est vrai que la chaîne soit périodique ou non.

19.16 Chaînes de Markov à espaces d’états finis ([8] pp. 195-199)

Quand on considère une chaîne de Markov à espace d’états finis, l’étude du comportement asymptotique de la chaîne se ramène à l’étude de la convergence de la suite (P^{n})_{n} des itérés de la matrice de transition P. P est une matrice stochastique, c’est-à-dire à coefficients positifs avec la somme des éléments de chaque ligne valant 1. Ces matrices ont des propriétés spectrales très particulières que nous allons décrire maintenant.

Définition 19.16.1. Une matrice A = {a_{i,j}}_{1≤i,j≤r} à coefficients réels est dite positive (resp. strictement positive) ssi ses coefficients sont positifs (resp. strictement positifs). Une matrice positive est dite stochastique ssi ∑_{j=1}^{r} a_{i,j} = 1 pour tout i et sous-stochastique si ∑_{j=1}^{r} a_{i,j} ≤ 1 pour tout i avec une inégalité stricte pour au moins un i.

On notera A ≥ 0 (resp. A > 0) pour signifier que A est positive (resp. strictement positive).

Définition 19.16.2. Le graphe de communictaion d’une matrice positive A est le graphe orienté avec pour espace d’états E = {1, …, r} et pour ensemble d’arètes les couples (i, j) tels que a_{i,j} > 0.

Définition 19.16.3. Une matrice positive A est dite irreductible (resp. irréductible aperiodique) ssi elle a meme graphe de communication qu’une matrice stochastique irréductible (resp.aperiodique irréductible). Elle est dite primitive s’il existe un entier k tel que A^{k} > 0.

Proposition 19.16.1. Une matrice est irréductible aperiodique ssi elle est primitive.

On rappelle que si M est une matrice carrée et λ une valeur propre de M, la multiplicité algébrique de M est la multiplicité de λ dans le polynôme caractéristique de M et la multiplicité géométrique de λ est la dimension du sous-espace propre de M associé à λ.

Théorème 19.16.1. Théorème de Perron-Frobenius Soit A une matrice primitive de taille r. Il existe une valeur propre réelle λ_{1} > 0 de multiplicité algébrique et géométrique égales à 1. Les autres valeurs propres λ_{2}, …, λ_{r} de A sont de module strictement inferieurs à λ_{1}. D’autre part, le vecteur à gauche u_{1} (vecteur ligne) et le vecteur à droite v_{1} (vecteur colonne)associés à λ_{1} peuvent etre choisis strictements positifs et tels que u_{1}v_{1} = 1.

On suppose que : λ_{1} > |λ_{2}| ≥ … ≥ |λ_{r}|

Si |λ_{2}| = |λ_{j}| pour un j ≥ 3 alors m_{2} ≥ m_{j} où m_{j} est la multiplicité algébrique de λ_{j}. Aussi, on a :

A^{n} = λ_{1}^{n}v_{1}u_{1} + O(n^{m_{2}−1}|λ_{2}|^{n})

Si de plus A est stochastique (resp. sous-stochastique) alors λ_{1} = 1 (resp. λ_{1} < 1).

Si A est stochastique mais non irréductible les multiplicités géométriques et algébriques de la valeur propre λ_{1} = 1 sont égales au nombre de classes de communication.

Si la matrice A est stochastique, irréductible avec une periode d > 1, il y a exactement d valeurs propres distinctes de module 1, les racines d-ièmes de l’unité, et les autres valeurs propres sont de module strictement inferieur à 1.

Aussi, si P est la matrice de transition d’une chaîne de Markov irréductible aperiodique sur E = {1, …, r} (donc primitive) alors :

v_{1} = 1, u_{1} = π

où π est l’unique probabilité stationnaire. Ainsi,

P^{n} = 1π + O(n^{m_{2}−1}|λ_{2}|^{n})

On remarquera que la vitesse de convergence est géométrique. Pour des problèmes de simulations, il est important de disposer de majorants de la seconde plus grande valeur propre (SLEM). C’est l’objet d’une bonne partie du chapitre 6 de [8].

19.17 TD Probabilités : Chaînes de Markov I

Exercice 19.17.1. Marches aléatoires sur ℤ : [1], exercice 4.16 On considère une marche aléatoire X_{0} = 0, X_{n} = Z_{1} +…+Z_{n} où les Z_{i} sont des variables aléatoires de loi de Bernoulli indépendantes à valeurs dans {−1, 1} prenant la valeur 1 avec probabilité p ∈ (0, 1).

1) Montrer que (X_{n})_{n} est une chaîne de Markov dont on précisera la matrice de transition.

2) Montrer que la chaîne est irréductible et de periode 2 (ind. : on pourra montrer que si P est la matrice de transition de la chaîne, P^{2}(i, i) ≥ p(1 − p))

3) On suppose p ≠ 1/2. En utilisant la loi des grands nombres, montrer que la chaîne est transiente.

4) On suppose p = 1/2.

a) On pose Y_{n} = \frac{1}{2}(Z_{n} + 1) et T_{n} = \frac{1}{2}(X_{n} + n). Donner la loi de Y_{n} et de T_{n}. En déduire que si

n est impair alors P^{n}(0, 0) = 0 et si n est pair alors P^{n}(0, 0) = C_{n}^{n/2}(1/2)^{n}.

b) En déduire que la chaîne est récurrente.

c) Trouver une mesure invariante pour la chaîne de masse infinie et en déduire que la chaîne est récurrente nulle.

Exercice 19.17.2. Processus de naissance et de mort discret : [26], p. 502-504 On considère une population dans laquelle à chaque instant n un individu peut disparaître ou apparaître avec une probabilité dépendant uniquement de la taille de la population à l’instant n. La taille de la population à l’instant n est notée X_{n}. On modélise cette population par une chaîne de Markov à valeurs dans ℕ dont la chaîne canonique est notée (Ω, {F_{n}}_{n}, (X_{n})_{n}, ℙ_{x}). La matrice de transition M est donnée pour x ∈ ℕ par :

M(x, x + 1) = p_{x} , M(x, x − 1) = q_{x} , M(x, x) = r_{x}

avec p_{x}, q_{x}, r_{x} ≥ 0 , p_{x} + q_{x} + r_{x} = 1 Soit a, b deux entiers tels que 0 ≤ a < b. On notera T_{x} = inf{n ≥ 1; X_{n} = x} le temps d’entrée en x (éventuellement infini).

1) Démontrer que pour tout x, on a

ℙ_{x}(T_{a} < T_{b}) = M(x, a) + ∑_{z≠a,b} ℙ_{z}(T_{a} < T_{b})M(x, z)

2) On suppose que a = 0 et que a et b sont des barrières, c’est-à-dire que q_{0} = p_{b} = 0 et qu’elles sont élastiques dans la mesure où r_{a}, r_{b} > 0. On suppose que p_{x} > 0 pour tout x ∈ (0, b). On pose enfin f(x) = ℙ_{x}(T_{0} < T_{b}).

a) En utilisant la question précédente, montrer que f est solution de l’équation du second ordre avec conditions aux limites (problème de Dirichlet discret) :

f(x) = p_{x}f(x + 1) + q_{x}f(x − 1) + r_{x}f(x) si 1 < x < b
f(1) = p_{1}f(2) + q_{1} + r_{1}f(1)
f(b − 1) = q_{b−1}f(b − 2) + r_{b−1}f(b − 1)

b) Montrer que si l’on pose f(0) = 1, f(b) = 0 alors

f(x + 1) − f(x) = \frac{q_{x}}{p_{x}}(f(x) − f(x − 1))

c) En posant a_{0} = 1 et pour x ∈ (0, b), a_{x} = \frac{q_{1} … q_{x}}{p_{1} … p_{x}}, montrer que :

f(x) = \frac{∑_{y=x}^{b−1} a_{y}}{∑_{y=0}^{b−1} a_{y}}

3) En supposant que p_{x} = p et q_{x} = q soient constants pour x ∈ (0, b), étudier le comportement de f selon les valeurs de p et q.

Exercice 19.17.3. [1], exercice 4.13 p. 112 Le but de cet exercice est de classer suivant les valeurs desnombres p_{k}, q_{k} ≥ 0 les états de la chaîne de Markov sur ℕ de matrice de transition Q donnée par

Q(0, 0) = α, Q(0, 1) = 1 − α, 0 < α < 1
Q(1, 2) = β, Q(1, 3) = 1 − β, 0 < β < 1
Q(k, 1) = p_{k}, Q(k, k + 2) = q_{k} = 1 − p_{k}, 0 < p_{k} < 1, k ≥ 2

1) Montrer que F = {1, 2, …} est une classe close et que 0 est transient.

2) Montrer que tous les états de F communiquent entre eux et qu’ils sont donc ou tous transients, ou tous récurrents.

3) On note σ_{1} = inf{n ≥ 1|X_{n} = 1}.

a) Montrer que pour tout n ≥ 2, on a

ℙ_{1}(σ_{1} = n) = βq_{2}q_{4} … q_{2(n−2)}p_{2(n−1)} + (1 − β)q_{3}q_{5} … q_{2n−3}p_{2n−1}

et ℙ_{1}(σ_{1} = 1) = 0.

b) En déduire que

ℙ_{1}(σ_{1} < +∞) = 1 − β ∏_{k=1}^{∞} q_{2k} − (1 − β) ∏_{k=1}^{∞} q_{2k+1}

et conclure.

Exercice 19.17.4. [1], exercice 4.8 p. 109 Pour modéliser l’évolution des configurations génétiques dans une population, on est amené à considérer la chaîne de Markov suivante. Soit P la matrice de transition sur E = {0, 1, …, N} définie par

P (i, j) = C_{N}^{j} (\frac{i}{N})^{j} (1 − \frac{i}{N})^{N−j}

1) Calculer P (0, j) et P (N, j). La chaîne est-elle irréductible ? Quels sont les états récurrents ?

2) Soit X = (Ω, F, (F_{n})_{n≥0}, (X_{n})_{n≥0}, (ℙ_{x})_{x∈E}) la chaîne de Markov canonique associée. Montrer que pour tout x ∈ E, X est une ℙ_{x}-martingale et que la limite

lim_{n→∞} X_{n} = X_{∞}

existe ℙ_{x}-p.s.. Déterminer la loi de X_{∞}.

Exercice 19.17.5. Lien entre martingale et chaîne de Markov, [1], exercice 4.5 Le lien qui existe entre martingales et chaînes de Markov est beaucoup plus important que celui mis en évidence ici. On pourra consulter le chapitre de [1] relatif à ce sujet ou encore _{c}iteBr. Soit E un ensemble dénombrable et (X_{n})_{n} une chaîne de Markov de matrice de transition P sur E.

On note H l’espace vectoriel des fonctions bornées sur E et {F_{n}}_{n} la filtration naturelle associée. On définit l’opérateur A sur H par A = P − I. Montrer que pour tout f ∈ H,

f(X_{n}) − ∑_{k=0}^{n−1} Af(X_{k})

est une (F_{n})_{n}-martingale.

Chaînes de Markov et télécommunications

20.1 TD Probabilités : Un exemple de télécommunication

Exercice 20.1.1. Critère de Dynkin, [1], ex. 4.35 Il est en général faux que si X est une chaîne de Markov alors ψ(X) est une chaîne de Markov. Le critère suivant donne une condition suffisante pour qu’il en soit ainsi. Soit ((X_{n})_{n}, (F_{n})_{n}, P) une chaîne de Markov sur E de matrice de transition P. Soit ψ : E → F une application surjective telle que, pour tout j ∈ F, on ait :

P (x, ψ^{−1}(j)) = P (y, ψ^{−1}(j)) si ψ(x) = ψ(y)

On définit alors pour i, j ∈ F,

Q(i, j) = P (x, ψ^{−1}(j))

où x est un état quelconque de E tel que ψ(x) = i.

a) Montrer que Q est une matrice de transition et que si Y_{n} = ψ(X_{n}) alors Y est une (F_{n})_{n} chaîne de Markov.

b) Montrer que si π est une probabilité stationnaire pour P, la loi image π ∘ψ^{−1} est une probabilité stationnaire pour Q.

Exercice 20.1.2. Produit de chaînes de Markov, [1], ex. 4.42 On considère deux chaînes de Markov canoniques

X = (Ω, F, F_{n}, (X_{n})_{n}, (ℙ_{x})_{x})

et

X′ = (Ω′, F′, Fn^{′}, (Xn^{′})_{n}, (ℙx^{′})_{x})

à valeurs dans E et E′ de matrices de transitions respectives Q et Q′. On pose :

\overline{Ω} = Ω × Ω′, \overline{F} = F ⊗ F′, \overline{X} = (X, X′), \overline{ℙ}_{(x,x′)} = ℙ_{x} ⊗ ℙ_{x′}

1) Montrer que \overline{X} = X ⊗ X′ = (\overline{Ω}, \overline{F}, (\overline{X}_{n})_{n}, \overline{ℙ}_{(x,x′)}) est une chaîne de Markov à valeurs dans \overline{E} = E × E′ et de matrice de transition \overline{Q} définie par \overline{Q}((x, x′), (y, y′)) = Q(x, y)Q′(x′, y′).

2) Calculer \overline{Q}^{n} pour tout n.

3) Montrer que si ν (resp. ν′) est une mesure invariante pour X (resp. X′) alors ν ⊗ ν′ en est une

pour pour \overline{X}.

Remarque 20.1.1. On pourra démontrer que si (a, a′) est un état récurrent pour \overline{X} alors a est récurrent pour X et a′ l’est pour X′ mais que la réciproque est fausse (considérer des marches aléatoires simples sur ℤ et les coupler habilement en mettant à profit le rôle de la dimension dans le caractère transient d’une marche aléatoire simple).

Exercice 20.1.3. Un problème de télécommunications, [1], Problème 4.14 Un canal de transmission de données peut recevoir des messages à partir de m sources indépendantes. Chacune des sources peut être active (1) ou inactive (0). Si on les observe à des intervalles de temps fixés, chacune d’elles passe de l’état 0 à l’état 1 avec probabilité α et de 1 à 0 avec probabilité β et persiste dans les états 0 et 1 avec probabilités 1 − α et 1 − β respectivement. On suppose que les comportements des sources sont imdépendantes et 0 < α, β < 1. On modélise le comportement de chaque source par une chaîne de Markov à espace d’états {0, 1} et de matrice de transition

P = ( \begin{matrix}1 − α & α \\ β & 1 − β \end{matrix} )

On note X la chaîne de Markov canonique sur {0, 1} de matrice de transition P.

1) Montrer que l’unique probabilité stationnaire de cette chaîne est donnée par :

μ_{0} = \frac{β}{α + β}, μ_{1} = \frac{α}{α + β}

2) On considère l’ensemble E = {0, 1}^{m} des vecteurs binaires de longueur m et sur E la chaîne produit Y = ⊗^{m}X.

a) Montrer que μ^{⊗^{m}} est une probabilité stationnaire pour Y.

b)Montrer que Y est irréductible et en déduire que Y ne possède qu’une seule probabilité stationnaire.

c) Montrer que X est aperiodique et en déduire qu’il en est de même de Y.

3) Y modélise les m sources indépendantes. Soit Z = Y_{1} + … + Y_{m} le nombre de sources actives.

a) Montrer que (Y_{n})_{n} converge en loi vers μ^{⊗^{m}}.

b) En déduire que (Z_{n})_{n} converge en loi vers une loi binomiale de paramètre (m, (α + β)^{−1}α).

c) En déduire que le nombre moyen de sources actives pour n grand est m(α + β)^{−1}α.

Remarque 20.1.2. En utilisant le critère de Dynkin, on peut montrer que Y est une chaîne de Markov, ce qui se comprend facilement puisque les sources sont indépendantes (cf. [1]).

L’exercice suivant utilise à nouveau le théorème de Foster vu dans le td sur le protocole de transmission Aloha.

Exercice 20.1.4. : Un modèle de file d’attente, problème 4.8, [1] Soit (Y_{n}, Z_{n})_{n≥0} une suite de v.a. indépendantes telles que chacune des suites (Y_{n})_{n} et (Z_{n})_{n} soient composées de variables intégrables à valeurs dans ℕ intégrables. Z_{n} représente le nombre de clients servis dans le n-ième intervalle intervalle de temps alors que Y_{n} représente le nombre de clients qui arrivent dans la queue à la fin de l’intervalle de temps. On pose F_{n} = σ(Y_{i}, Z_{i}; i ≤ n) et on suppose qu’il existe un entier K > 1 tel que :

ℙ(Z_{1} > K) = 0, ℙ(Y_{1} ≥ K) > 0

et

ℙ(Z_{1} = 1) > 0, ℙ(Y_{1} = 0) > 0, 𝔼(Y_{1}), 𝔼(Z_{1})

On pose enfin :

X_{0} = i ∈ ℕ, X_{n+1} = (X_{n} − Z_{n+1})^{+} + Y_{n+1}

1) Montrer que X est une {F}_{n} chaîne de Markov dont la matrice de transition est :

P (x, y) = ℙ(Y_{1} + (x − Z_{1})^{+} = y)

2) Montrer que la condition de Foster est satisfaite pour F = {0, …, K} et h(x) = x.

3) Montrer que X est irréductible et en déduire qu’elle est récurrente positive. Pour cela, on montrera que chaque état communique à son voisin de gauche et que si k > K est tel que ℙ(Y_{1} = k) > 0 alors x communique avec x + k − 1.

20.2 TD Probabilités : Système de transmission Aloha

Tout ce td est tiré de [8].

Exercice 20.2.1. Exercice 2.7.2 de [8] non corrigé Soit (X_{n})_{n} une chaîne de Markov homogène canonique sur E, dénombrable. Soit F un sous-ensemble fini de l’espace des états E. Soit τ_{1} = inf{n ≥ 1|X_{n} ∈ F }, τ_{2} = inf{n ≥ τ_{1} + 1|X_{n} ∈ F }, … le temps successifs de retour dans F. On suppose que pour tout j ∈ F, ℙ_{j}(τ_{1} < +∞) = 1. Alors

1. Pour tout n, τ_{n} est fini presque sûrement.

2. Le processus (Y_{n})_{n} = (X_{τ_{n}})_{n} est une chaîne de Markov homogène sur F.

Solution

On travaille avec la chaîne canonique et on remarque que :

τ_{n} = τ_{n−1} + τ_{1} ∘ θ_{τ_{n−1}} si τ_{n−1} < +∞ et +∞ sinon

La propriété forte de Markov permet alors d’écrire, pour une fonction Φ bornée et pour x ∈ F :

𝔼_{x} [1_{{τ_{n}<+∞}}Φ(X_{τ_{n}})|F_{τ_{n−1}}] = 1_{{τ_{n−1}<+∞}}𝔼_{X_{τ_{n−1}}} (Φ(X_{τ_{1}}))

Appliquant ceci à Φ = 1, on a ℙ_{x}(τ_{n} < +∞) = ℙ_{x}(τ_{n−1} < +∞) = … = ℙ_{x}(τ_{1} < +∞) = 1 ce qui établit la première affirmation.

Pour la deuxième, il suffit de remarquer que l’on peut maintenant ôter les indicatrices et en posant G_{n} = F_{τ_{n}}, on a :

𝔼_{x}(Φ(Y_{n})|G_{n+1}) = 𝔼_{Y_{n−1}}(Φ(Y_{1}))

ce qui prouve que Y est bien une G_{n} chaîne de Markov homogène sur F.

20.2.1 Description du modèle

On modélise un système de transmission satellitaire de la manière suivante. Des utilisateurs transmettent des messages dont la taille est bornée par une certaine constante K à travers un canal à des moments t_{n}, n ∈ ℕ fixés par avance tels que t_{n+1} −t_{n} ≥ K. Dans la suite, on prendra t_{n} = n et K = 1. On suppose de plus que dès que deux messages sont émis au même moment, ils s’annulent et l’on doit recommencer (un seul message peut-être émis à la fois). D’autre part, l’utilisateur sait si son message a été transmis ou pas et décide donc le cas échéant de tenter de le renvoyer avec une certaine probabilité ν ∈ (0, 1), le message passant alors dans un état dit “semi-bloqué”. Un message émis pour la première fois (c’est-à-dire non semi-bloqué) arrivant alors qu’aucun autre message “semi-bloqué” ne tente de réemettre est immédiatement transmis. Sinon, il passe dans l’état de message “semi-bloqué”. Ces règles montrent en particulier que deux messages émis pour la première fois mais arrivant en même temps deviendront aussitôt des mesages semi-bloqués. Les trois règles fondamentales à retenir sont donc les suivantes :

1. Les transmissions et les retransmissions ne peuvent se faire qu’aux instants 1, 2, . . ..

2. Tous les messages semi-bloqués (c’est-à-dire ceux ayant déjà essayé d’être transmis mais sans succès) tentent de retransmettre indépendament des autres avec probabilité ν à chaque instant. On dit que la retransmission se fait selon une loi de Bernoulli.

3. Les messages émis pour la première fois, s’ils arrivent alors que le canal est libre (c’est-à-dire pas de messages semi-bloqués en train d’essayer de retransmettre) sont immédiatement transmis.

On notera X_{n} le nombre de messsages semi-bloqués à l’instant n et A_{n} est le nombre de messages qui arrivent à l’instant n (ce sont donc des messages qui tentent d’être émis pour la première fois). On suppose que (A_{n})_{n≥0} est i.i.d. telle que :

ℙ[A_{n} = i] = a_{i} , λ = 𝔼(A_{n})

On supposera de plus que a_{0} + a_{1} ∈ (0, 1) et a_{0} > 0. λ est appelée l’intensité du traffic.

Ce système de transmission est connu sous le nom de système ALOHA.

20.2.2 Instabilité de ALOHA

1) Expliquer pourquoi si X_{n} = k, alors la probabilité que i parmis eux tentent de réémettre est donnée par :

b_{i}(k) = C_{k}^{i}ν^{i}(1 − ν)^{k−i}

2) La modélisation mathématique de ce système de transmission consiste à voir (X_{n})_{n} comme une chaîne de Markov à valeurs dans ℕ avec pour matrice de transition :

p_{i,j} = b_{1}(i)a_{0} si j = i − 1,
p_{i,j} = [1 − b_{1}(i)]a_{0} + b_{0}(i)a_{1} si j = i,
p_{i,j} = [1 − b_{0}(i)]a_{1} si j = i + 1,
p_{i,j} = a_{j−i} si j ≥ i + 2.

a) Expliquer pourquoi la probabilité de transition est celle donnée ci-dessus.

b) Montrer que cette chaîne est irréductible.

3) Le but de la question est de prouver que le système ALOHA est instable dans le sens suivant : “la chaîne n’est pas récurrente positive”.

a) Expliquer pourquoi ce critère est mathématiquement acceptable. Quels autres critères pourrait on demander ?

b) Montrer que l’instabilité est la négation de l’existence d’une distribution stationnaire π.

4) Montrer que si une distribution stationnaire pour la chaîne existait alors elle devrait satisfaire :

π(i) = π(i){[1 − b_{1}(i)]a_{o} + b_{0}(i)a_{1}} + π(i − 1)[1 − b_{0}(i − 1)]a_{1}
+ π(i + 1)b_{1}(i + 1)a_{0} + ∑_{l=2}^{∞} π(i − l)a_{l}

avec π(j) = 0 si j < 0.

5) On pose P_{N} = ∑_{i=0}^{N} π(i).

a) Montrer que

P_{N}(1 − a_{0}) = π(N)b_{0}(N)a_{1} + π(N + 1)b_{1}(N + 1)a_{0} + ∑_{l=1}^{N} a_{l}P_{N−l}

b) Montrer que

∑_{l=1}^{N} a_{l}P_{N−l} ≤ P_{N−1}(1 − a_{0})

c) En déduire

\frac{π(N + 1)}{π(N)} ≥ \frac{(1 − a_{0}) − (1 − ν)^{N}a_{1}}{(N + 1)ν(1 − ν)^{N}a_{0}}

6) Conclure.

20.2.3 Quelques outils théoriques : fonctions de Liapounov

Nous allons tenter de résoudre ce problème d’instabilité. Commençons par donner un critère de récurrence positive plus maniable que l’existence d’une probabilité stationnaire.

Lemme 20.2.1. Soit (X_{n})_{n} une chaîne de Markov irréductible homogène par rapport à sa filtration naturelle (F_{n})_{n}. Soit F un sous-ensemble fini de l’espace des états E. Soit τ = inf{n ≥ 1|X_{n} ∈ F } le premier temps de retour dans F. Si pour tout j ∈ F, 𝔼_{j}[τ] < +∞ alors la chaîne est récurrente positive.

1) On définit comme dans l’exercice les temps successifs de retour en F de X, τ_{n}, et la chaîne de Markov Y_{n} = X_{τ_{n}}. Montrer que Y_{n} est irréductible.

2) En déduire que Y est positive récurrente.

3) On pose T_{i} le premier temps de retour en i ∈ F de la chaîne X et T̃_{i} celui de la chaîne Y. La question 2) permet d’écrire 𝔼_{i}(T̃_{i}) < +∞. On pose alors S_{0} = τ_{1} et S_{k} = τ_{k+1} − τ_{k} pour k ≥ 1. Montrer que

T_{i} = ∑_{k=0}^{∞} S_{k}1_{{k<T̃_{i}}}

4) En déduire 𝔼_{i}[T_{i}] = ∑_{k=0}^{∞} 𝔼_{i}[S_{k}1_{{k<T̃_{i}}}].

5)

a) Montrer que {k < T̃_{i}} ∈ F_{τ_{k}}.

b) En utilisant la propriété forte de Markov, montrer que pour tout l ∈ F, on a

𝔼_{i}[S_{k}1_{{k<T̃_{i}}}1_{{X_{τ_{k}} =l}}] = 𝔼_{i}[S_{k}|X_{τ_{k}} = l]ℙ_{i}(k < T̃_{i}, X_{τ_{k}} = l)

6)

a) Montrer que 𝔼_{i}[S_{k}|X_{τ_{k}} = l] = 𝔼_{l}[τ].

b) En déduire

𝔼_{i}(T_{i}) ≤ (sup_{l∈F} 𝔼_{l}(τ)) ∑_{k=0}^{∞} ℙ_{i}(T̃_{i} > k) = (sup_{l∈F} 𝔼_{l}(τ)) 𝔼_{i}(T̃_{i}) < +∞

et conclure.

Théorème 20.2.1. Théorème de Foster Soit P une matrice de transition irréductible sur un espace d’état dénombrable E associée à une chaîne de Markov X. On suppose qu’il existe une fonction h : E → ℝ telle que inf_{i} h(i) > −∞ et vérifiant :

∑_{k∈E} p_{ik}h(k) = 𝔼_{i}(h(X_{1})) < +∞ pour tout i ∈ F,

∑_{k∈E} p_{ik}h(k) = 𝔼_{i}(h(X_{1})) ≤ h(i) − ϵ pour tout i ∉ F,

pour un ϵ > 0 et un ensemble fini F.

Prouvons ce théorème.

1) Montrer que l’on peut se ramener au cas où h ≥ 0.

2) On appelle τ = inf{n ≥ 1|X_{n} ∈ F } le premier temps de retour dans F et {F_{n}}_{n} la filtration naturelle associée à X. On définit Y_{n} = h(X_{n})1_{{n<τ}}.

a) Montrer que l’on a

𝔼_{i}(Y_{n+1}|F_{n}) = 𝔼_{i}[Y_{n+1}1_{{n<τ}}|F_{n}] + 𝔼_{i}[Y_{n+1}1_{{n≥τ}}|F_{n}]

b) Puis

𝔼_{i}(Y_{n+1}|F_{n}) = 𝔼_{i}[h(X_{n+1})1_{{n<τ}}|F_{n}] = 1_{{n<τ}}𝔼_{i}[h(X_{n+1})|F_{n}]

c) Et enfin

𝔼_{i}(Y_{n+1}|F_{n}) ≤ 1_{{n<τ}}h(X_{n}) − ϵ1_{{n<τ}}

3)

a) Montrer que ∑_{k=0}^{∞} ℙ_{i}(τ > k) = 𝔼_{i}(τ).

b) Déduire de la question 2c) l’inégalité suivante 0 ≤ 𝔼_{i}(Y_{n+1}) ≤ 𝔼_{i}(Y_{n}) − ϵℙ(τ > n)

4) En remarquant que Y est positive, montrer 𝔼_{i}(τ) ≤ ϵ^{−1}h(i) < +∞ pour i ∉ F

5) Si j ∈ F, montrer en utilisant la propriété forte de Markov que

𝔼_{j}[τ] = 1 + ∑_{i∉F} p_{ji}𝔼_{i}[τ]

6) Déduire de 4) et 5) que si j ∈ F, alors 𝔼_{j}(τ) < +∞.

7) Utiliser le lemme précédent et conclure. Ceci termine la preuve du théorème. Corollaire 20.2.1. Lemme de Pake Soit (X_{n})_{n} une chaîne de Markov irréductible sur ℕ telle que pour tout n ≥ 0 et tout i ∈ E,

𝔼[X_{n+1}|X_{n=i}] < +∞

et

lim sup_{i→∞} 𝔼[X_{n+1} − X_{n}|X_{n} = i] < 0

Alors (X_{n})_{n} est récurrente positive.

Appliquer le théorème de Foster avec 2ϵ = − lim sup_{i→∞} 𝔼[X_{n+1} − X_{n}|X_{n} = i],h(i) = i et F = {i; i ≤ i_{o}} où i_{0} est un entier suffisament large.

Remarque 20.2.1. La fonction h dans le théorème de Foster est appelée une fonction de Lyapounov car elle joue le même rôle que celui joué par les fonctions de Lyapounov “classiques” dans la théorie de la stabilité pour les équations différentielles. h a en effet tendance à décroître le long des trajectoires du processus, du moins en dehors d’un certain ensemble d’états (F). Puisque h est positive (cf. la démonstration), cette fonction ne va pas pouvoir éternellement décroître et va donc un jour ou l’autre rentrer dans F. (p. 169)

20.2.4 Stabilisation du protocole Aloha

On a vu dans la première section que le protocole ALOHA était, avec une retransmission de probabilité ν, instable. Nous allons voir comment, en autorisant la probabilité de retransmission ν(·) à dépendre du nombre de messages semi-bloqués et à condition que l’intensité du traffic soit suffisament faible, on peut rendre le protocole stable si a_{0} > a_{1}, hypothèse que nous faisons dans la suite. La description est donc toujours la même que dans la première section mais maintenant, ν n’est plus une constante mais une fonction du nombre de messages semi-bloqués. Si X_{n} = k est le nombre de messages semi-bloqués, on note toujours b_{i}(k) la probabilité que i parmi eux soient réémis.

Remarque 20.2.2. Dans le cas où l’on ne suppose pas a_{0} > a_{1}, on peut montrer que le protocole reste instable même si l’on autorise une probabilité de retransmission non constante.

1) Montrer que :

𝔼 [X_{n+1} − X_{n}|X_{n} = i] = λ − b_{1}(i)a_{0} − b_{0}(i)a_{1}

2) En utilisant le lemme de Pake, montrer qu’il suffit de trouver une fonction ν telle que :

λ ≤ lim_{i→∞}(b_{1}(i)a_{0} + b_{0}(i)a_{1}) − ϵ

où ϵ > 0.

3) Montrer que cette condition est équivalente à :

λ ≤ g_{i}(ν(i)) − ϵ

où g_{k}(ν) = (1 − ν)^{k}a_{1} + kν(1 − ν)^{k−1}a_{0}.

4) En déduire qu’une condition de stabilité est :

λ < a_{0} exp \{\frac{a_{1}}{a_{0}} − 1\}

5) Critiquer ce protocole.

La principale critique que l’on puisse faire à ce protocole est que pour le rendre stable, notre stratégie suppose que chaque utilisateur connaisse le nombre de messages semi-bloqués. Ce n’est pratiquement pas faisable. Ce qui est réaliste, c’est de concevoir une probabilité de retransmission qui se ferait en fonction de l’information suivante : “y a-t-il collision, transmission d’un message ou pas ?”. On peut montrer que ces stratégies sont effectivement stables.

Remarque 20.2.3. Pour un autre protocole, voir [8] pp.174-178. Un autre exemple intéressant traité par [8] est une marche aléatoire 2-dimensionnelle avec des barrières réléchissantes sur l’axe des ordonnées et des abscisses. Le processus reste donc toujours dans le quadrant positif. Le critère de Foster est aussi donné p. 135, problème corrigé 4.8 dans [1] (en particulier, l’exercice du début y est démontré). Une application y est donnée pour un modèle (simple) de file d’attente.

222

Formulaire des chaînes de Markov

L’espace canonique Ω = 𝔼^{ℕ}, ω = (ω_{n})_{n∈ℕ}, X_{n}(ω) = ω_{n}, F_{n} = σ(X_{k}, k ≤ n), F = σ(X_{k}, k ≥ 0) Temps d’arrêt de la filtration ν : Ω → \overline{ℕ} t.q. ∀n, \{ν ≤ n\} ∈ F_{n}. Tribu des événements antérieurs à ν, F_{ν} = {A ∈ F_{∞}, ∀n ≥ 0, A ∩ {ν ≤ n} ∈ F_{n}}. Si X une v.a. positive ou intégrable et ν un temps d’arrêt,

𝔼(X|F_{ν}) = X_{ν}, p.s. (19.3.1)

E est un ensemble d’états, fini ou dénombrable et E la tribu de toutes les parties de E.

E^{+} : applications E → \overline{E}^{+}, ce sont des vecteurs colonne.

M^{+} : mesures positives sur E notées μ = (μ(x))_{x∈E}. Ce sont des vecteurs ligne et on peut faire les produits μ.f pour μ ∈ M^{+}, f ∈ E^{+}.

P, Q, R, matrices positives (P (x, y) ∈ \overline{ℝ}^{+}), x, y ∈ E. Produit : (QR)(x, y) = ∑_{z∈E} Q(x, z)R(z, y),. Convention : +∞ × 0 = 0.

Si f ∈ E^{+}, (Qf)(x) = ∑_{y∈E} Q(x, y)f(y). Si μ ∈ M^{+}, (μQ)(y) = ∑_{x∈E} μ(x)Q(x, y).

Matrice de transition sur E : P (x, y) ≥ 0, ∑_{y∈E} p(x, y) = 1. P ≥ 0 est une matrice de transition si et seulement si P 1 = 1

Une chaîne de Markov de loi initiale μ et de matrice de transition P est un processus aléatoire (Ω, F, F_{n}, X_{n}, ℙ) à valeurs dans E et tel que

(i) ℙ(X_{0} ∈ A) = μ(A), ∀A ⊂ E (ii) ℙ(X_{n+1} ∈ A|F_{n}) = P (X_{n}, A) p.s., ∀A ⊂ E, n ≥ 0.

F_{n} = F_{n}^{0} = σ(X_{0}, X_{1}, …, X_{n}) est la ”filtration naturelle du processus”,

(ii1) Si ℙ(X_{n} = a_{n}, …, X_{0} = a_{0}) > 0 alors

ℙ(X_{n+1} = b|X_{n} = a_{n}, X_{n−1} = a_{n−1}, …, X_{0} = a_{0}) = P (a_{n}, b)

ℙ(X_{0} = a_{0}, X_{1} = a_{1}, …, X_{n} = a_{n}) = μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}), (19.4.1)

𝔼(f(X_{0}, …, X_{n})) = ∑_{a_{0},..., a_{n}∈E} f(a_{0}, …, a_{n})μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}) (19.4.2)

ℙ(X_{0} ∈ A_{0}, …, X_{n} ∈ A_{n}) = ∑_{a_{0}∈A_{0},...,a_{n}∈A_{n}} μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}) (19.4.3)

ℙ(X_{0} = a_{0}, X_{l_{1}} = a_{1}, …, X_{l_{1}+···+l_{k}} = a_{k}) = μ(a_{0})(P^{l_{1}})(a_{0}, a_{1}) … (P^{l_{k}})(a_{k−1}, a_{k}) (19.4.4)

ℙ(X_{n+1} = b_{1}, …, X_{n+k} = b_{k} | X_{0} = a_{0}, …, X_{n} = a_{n}) = P (a_{n}, b_{1}) … P (b_{k−1}, b_{k}) (19.4.5)

ℙ(X_{0} = a_{0}, …, X_{n} = a_{n}) = μ_{n}(a_{0}, …, a_{n}) := μ(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n}) (19.5.1)

ℙ_{μ}(A) = ∑_{x∈E} μ(x)ℙ_{x}(A) si A = {X_{0} = a_{0}, …, X_{n} = a_{n}} (19.6.1)

ℙ_{x}(X_{0} = a_{0}, …, X_{n} = a_{n}) = 11_{x}(a_{0})P (a_{0}, a_{1}) … P (a_{n−1}, a_{n})

ℙ_{x}(X_{n} = y) = P^{n}(x, y), 𝔼_{x}(f(X_{n})) = (P^{n}f)(x) (19.6.3)

𝔼_{μ}(f(X_{n})) = ∑_{x∈E}(P^{n}f)(x) = μ(P^{n}f) = (μP^{n})f. (19.6.4)

”Si μ est la loi de X_{0}, μP^{n} est la loi de X_{n}”. Opérateur de translation θ : Ω → Ω, ω = (ω_{n})_{n≥0} → (ω_{n+1})_{n≥0}. On pose θ_{p} = θ^{p}. X_{n} ∘ θ_{p} = X_{n+p}. Soit un temps d’arrêt τ. Sur {τ < +∞} : ∀n ≥ 0, X_{n} ∘ θ_{τ} = X_{n+τ} . Propriété de Markov. Si φ ∈ bF ou F^{+} ψ ∈ bF_{n} ou F_{n}^{+},

𝔼_{μ}(φ ∘ θ_{n}|F_{n}) = 𝔼_{X_{n}}(φ), p.s., (19.7.1)

𝔼_{μ}(ψφ ∘ θ_{n}) = 𝔼_{μ}(ψ𝔼_{X_{n}}(φ)). (19.7.2)

Propriété de Markov forte. Pour φ ∈ bF (ou F^{+}), toute ψ ∈ bF_{τ} (ou F_{τ}^{+}),

𝔼_{μ}(11_{τ<+∞}φ ∘ θ_{τ} |F_{τ}) = 11_{τ<+∞}𝔼_{X_{τ}} (φ) p.s. , 𝔼_{μ}(11_{τ<+∞}ψφ ∘ θ_{τ}) = 𝔼_{μ}(11_{τ<+∞}ψ𝔼_{X_{τ}} (φ)). (19.7.3)

Temps de passage par x successifs après 0 :

σ_{x} := inf{n ≥ 1, X_{n} = x} = σ_{x}^{1},

σ_{x}^{n} := σ_{x}^{n−1} + σ_{x} ∘ θ_{σ_{x}^{n−1}} si σ_{x}^{n−1} < +∞,

σ_{x}^{n} := σ_{x}^{n−1} = +∞ sinon.

ℙ_{x}(σ_{x}^{n} < +∞) = ℙ_{x}(σ_{x} < +∞)^{n}. (19.8.1)

Matrice potentielle de P (ou de X) : U = I + P + ⋯ + P^{n} + ⋯ = ∑_{k≥0} P^{k}.

N_{A}(ω) désigne le nombre de visites de la trajectoire ω à A.

N_{A} = ∑_{k≥0} 11_{A}(X_{k}), 𝔼_{x}(N_{A}) = U(x, A), E_{x}(N_{y}) = U(x, y). (19.9.1)

(i) Si U(x, x) = +∞, alors ℙ_{x}(σ_{x} < +∞) = 1 et ℙ_{x}(N_{x} = +∞) = 1. Le point x est dit récurrent.

(ii) Si U(x, x) < +∞, alors ℙ_{x}(σ_{x} < +∞) < 1 et ℙ(N_{x} < +∞) = 1. Le point x est dit transitoire (transient).

N_{x} = 11_{{x}}(X_{0}) + ∑_{n≥1} 11_{σ_{x}^{n}<+∞} (19.10.1)

Si x ≠ y, alors U(x, y) = ℙ_{x}(σ_{y} < +∞)U(y, y). On dit que x conduit à y et on note x → y si ℙ_{x}(τ_{y} < +∞) >

0. Les trois conditions suivantes sont équivalentes : (1) ℙ(σ_{y} < +∞) > 0, (2) ∃n ≥ 1 tel que P^{n}(x, y) > 0 et (3) U(x, y)(= 𝔼_{x}(N_{y})) > 0.

1. F est close si et seulement si pour tout x ∈ F, P (x, F) = 1 ou si et seulement si, pour tout x ∈ F et tout y ∉ F, U(x, y) = 0.

2. P est irréductible si et seulement si ∀x, y ∈ E, U(x, y) > 0.

3. Dans une chaîne irréductible, ou bien tous les états sont récurrents, ou bien tous les états sont transitoires. On parle de chaîne récurrente dans le premier cas et de chaîne transitoire dans le second. Dans le premier cas U(x, y) = +∞ pour tous x, y ∈ E et dans le second, 0 < U(x, y) < +∞.

Soit X une chaîne irréductible récurrente. Alors X possède une mesure invariante μ unique à une constante multiplicative près. De plus, pour tout y ∈ E, 0 < μ(y) < +∞. Enfin, pour x ∈ E, la mesure invariante μ_{x} telle que μ_{x}(x) = 1 est donnée par

μ_{x}(y) = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} 11_{{y}}(X_{k})).

μ_{x}.f = 𝔼_{x}( ∑_{k=0}^{σ_{x}−1} f(X_{k})). (19.12.2)

Soit X une chaîne irréductible récurrente de mesure invariante μ.

(i) μ(E) = +∞. Alors, pour tout x ∈ E, 𝔼_{x}(σ_{x}) = +∞. La chaîne est dite récurrente nulle.

(ii) μ(E) < +∞. Alors, pour tout x ∈ E, 𝔼_{x}(σ_{x}) < +∞. La chaîne est dite récurrente positive. Dans ce cas l’unique probabilité invariante est donnée par

π(x) = \frac{1}{E_{x}(σ_{x})}.

226

Processus de Poisson

22.1 Définitions et propriétés

Nous présentons ici les définitions et propriétés élémentaires relatifs au processus de Poisson telles qu’on peut les trouver dans [8]. On peut dire beaucoup plus de choses sur le processus de Poisson que ce qui est dit ici. On trouvera de nombreuses informations dans [22]. Les processus de Poisson sont souvent mal présentés dans les livres de probailités élémentaires. [8] fait à peu près exeption...

Définition 22.1.1. Un processus de pointage sur le demi axe positif ℝ^{+} est une suite (T_{n})_{n≥0} de variables aléatoires strictement positives (ℙ p.s.) telles que presque sûrement :

i) T_{0} = 0 ii) 0 < T_{1} < T_{2} < … iii) lim_{n→∞} T_{n} = +∞

La suite (S_{n})_{n} définie par S_{n} = T_{n} − T_{n−1} est appelée la suite des inter-événements ou des inter-arrivées (terme clair dans le contexte des files d’attente). Pour tout interval (a, b] de ℝ^{+}, on définit la variable aléatoire

N((a, b]) = ∑_{n≥1} 11_{(a,b]}(T_{n})

et on simplifie souvent l’écriture en notant N(a, b) au lieu de N((a, b]). Dans le cas particulier où (a, b] = (0, b], on pose N(b) = N((0, b]). En particulier, on a N(0) = 0 et N(a, b) = N(b) − N(a).

Proposition 22.1.1. Soit (T_{n})_{n} un processus de pointage sur l’espace probabilisé (Ω, F, ℙ). Pour ℙ presque tout ω ∈ Ω, la trajectoire t → N(t, ω) est croissante, continue à droite avec des limites à gauche (càdlàg).

La famille de variables aléatoires {N(t)}_{τ≥0} est appelée le processus de comptage associé au processus de pointage (T_{n})_{n}.

Définition 22.1.2. Un processus de pointage N sur le demi-axe positif est appelé un processus de Poisson homogène avec intensité λ > 0 si :

i) Pour tout temps t_{i}, i ∈ {1, …, k} tels que 0 ≤ t_{1} ≤ t_{2} ≤ … ≤ t_{k}, les variables aléatoires N(t_{i}, t_{i+1}], i ∈ {1, …, k − 1} sont indépendantes. ii) Pour tout interval (a, b] ⊂ ℝ^{+}, N(a, b] est une variable aléatoire de Poisson avec moyenne λ(a − b). Ainsi pour tout entier k ≥ 0,

ℙ(N(a, b) = k) = e^{−λ(b−a)} \frac{[λ(b − a)]^{k}}{k!}

et en particulier

𝔼[N(a, b)] = λ(b − a)

Dans ce sens, λ s’interprète comme une “densité de points”.

La condition i) porte le nom de “propriété d’indépendance des accroissements”. En particulier, d’après le théorème des coallitions, N(a, b) est indépendant de (N(s), s ∈ (0, a]). Pour cette raison, on dit souvent que le processus de Poisson est dans mémoire. Passons maintenant au premier théorème important concernat les processus de Poisson.

Théorème 22.1.1. Soit N un processu de Poisson d’intensité λ. La suite d’interévénements (S_{n})_{n} est une suite de variables aléatoires i.i.d. de loi exponentielle de paramètre λ.

Démonstration. On reproduit la démonstration de [18] mais sans la faute (d’expression) ! On considère S_{1} = T_{1} et on va montrer que S_{1} est distribuée selon une loi exponentielle de paramètre λ. En effet, on a

ℙ(S_{1} > t) = ℙ(N(t) = 0) = e^{−λt}

Maintenant, nous allons conditionner relativement à S_{1}. La preuve de [18] est la suivante :

ℙ(S_{2} > t|S_{1} = t_{1}) = ℙ(pas d’arrivée dans(t_{1}, t_{1} + t]|S_{1} = t_{1})

L’événement {S_{1} = t_{1}} est relié aux arrivées durant l’intervalle de temps [0, t_{1}] tandis que l’événement pas d’arrivées dans (t_{1}, t_{1} + t] est relié aux arrivées après le temps t_{1}. Ces événements sont indépendants ... Arrêtons nous ! Que signifie “{S_{1} = t_{1}} est indépendant de ...” puisque cet événement est de probabilité nulle ? En fait cela ne signifie pas grand chose si c’est énoncé tel quel (bien qu’il soit clair que ce soit clair dans l’esprit de [18]). La bonne formulation (jusqu’à preuve du contraire) doit se faire via les lois conditionnelles. On rappelle la propriété suivante :

Proposition 22.1.2. (Propriété de transfert conditionnel) Si X ∈ ℝ^{p} et Y ∈ ℝ^{k} sont deux variables aléatoires et f : ℝ^{p+k} → ℝ^{q} borélienne, alors

ℙ(f(X, Y) ∈ ·|X = x) = ℙ(f(x, Y) ∈ ·|X = x)

En particulier, si X et Y sont indépendantes, on a

ℙ(f(X, Y) ∈ ·|X = x) = ℙ(f(x, Y) ∈ ·)

Ce que l’on peut dire est : la variable aléatoire S_{1} est indépendante de la variable aléatoire N(t_{1} + t) − N(t) et par la propriété de transfert conditionnel, on a :

ℙ(S_{2} > t|S_{1} = t_{1}) = ℙ(11_{{0}}(N(S_{1} + t) − N(S_{1}))|S_{1} = t_{1}) = ℙ(11_{{0}}(N(t_{1} + t) − N(t_{1}))) = e^{−λt}

ce qui prouve que S_{2} est indépendant de S_{1} et a une distribution exponentielle de paramètre λ. La preuve se poursuit par récurrence en en conditionnant l’événement {S_{n+1} > t} relativement à {S_{1} = t_{1}, …, S_{n} = t_{n}} □

On passe maintenant à un théorème assez simple et naturel. Ques se passe-t-il si l’on met en compétition deux processus de Poisson indépendants ?

Avant d’énoncer le théorème, commençons par une remarque élémentaire. On se donne deux processus de Poisson indépendants N^{1} et N^{2} d’intensités respectives λ_{1} et λ_{2} et définis via leurs temps d’arrivée (T_{n}^{1})_{n} et (T_{n}^{2})_{n}. Il est facile de voir que (T_{n}^{1})_{n} et (T_{n}^{2})_{n} n’ont pas de points en commun (ormis 0). En effet, cela résulte du théorème précédent puisque pour tout k, ℓ ≥ 1, T_{k}^{1} et T_{ℓ}^{2} ont une densité par rapport à la mesure de Lebesgue et sont indépendantes si bien que ℙ(T_{k}^{1} = T_{ℓ}^{2}) = 0.

Théorème 22.1.2. Sous les conditions précédentes, le processus de pointage (T_{n})_{n} défini par la réunion de {T_{n}^{1}; n ≥ 1} et {T_{n}^{2}; n ≥ 1} est un processus de pointage associé à un processus de Poisson de paramètre λ = λ_{1} + λ_{2}.

Démonstration. Il suffit de remarquer que le processus de comptage N associé au processus de pointage (T_{n})_{n} vérifie N(a, b) = N^{1}(a, b) + N^{2}(a, b). Cependant, a priori, il n’est pas évident que lim_{n→∞} T_{n} = +∞. On vérifie sans peine que 𝔼(N(a)) = λa < +∞ donc que presque sûrement pour tout a > 0, N(a) < +∞, ce qui est équivalent à lim_{n→∞} T_{n} = +∞. □

On peut généraliser le théorème de superposition précédent avec un nombre infini (dénombrable) de processus de Poisson indépendants.

Théorème 22.1.3. Soit {N^{i}}_{i} une suite de processud de Poisson indépendants avec des intensités respectives λ_{i} > 0 telles que λ = ∑_{i} λ_{i} < +∞. Soit (T_{n})_{n} le processus de pointage obtenu par réunion des processus de pointage des (N^{i})_{i} (remarquer qu’il n’ya pas risque de superposition d’un T_{k}^{i} avec un T_{ℓ}^{j} pour i ≠ j). Le processus de comptage associé à (T_{n})_{n} est un processus de Poisson d’intensité λ.

D’autre part, dénotons par Z = T_{1} le premier temps d’arrivée de N = ∑_{i} N^{i} et par J l’indice du processus de Poisson responsable du premier saut de N. Alors Z et J sont indépendants ; la loi

de Z est une exponentielle de paramètre λ et la loi de J est donnée par ℙ(J = i) = \frac{λ_{i}}{λ}.

Démonstration. La première partie du théorème se démontre comme dans le théorème précédent. En particulier, la loi de Z est une exponentielle de paramètre λ. Le fait que J soit bien définie résulte du fait que la probabilité pour que deux processus N^{i} et N^{j} aient un saut en commun est nulle. On va d’abord considérer le cas d’un nombre fini K de processus de Poisson indépendants. On a à montrer que si (X_{1}, …, X_{K}) sont K variables aléatoires indépendantes de loi exponentielle de paramètres respectifs λ_{1}, …, λ_{K}, si Z_{K} = inf(X_{1}, …, X_{K}) et si J_{K} est définie par X_{J_{K}} = Z_{K} alors

ℙ(J_{K} = i, Z_{K} ≥ a) = \frac{λ_{i}}{λ_{1} + … + λ_{K}} exp\{−(λ_{1} + … + λ_{K})a\}

Cette égalité se montre facilement. Pour étendre ce résultat au cas K = +∞, on remarque que l’événement {J_{K} = i, Z_{K} ≥ a} décroît avec K vers l’événement {J = 1, Z ≥ a}. □

22.2 TD Probabilités : Processus de Poisson

On considère un processus de Poisson d’intensité λ. On note (T_{k})_{k=0...∞} les instants de sauts avec T_{0} = 0 et S_{k} = T_{k} − T_{k−1} les temps d’inter-arrivées qui sont donc des variables i.i.d. de loi exponentielle de paramètre λ.

Théorème 22.2.1. Montrer que pour tout n ≥ 1, la loi de (T_{1}, …, T_{n}) conditionnnellement à {N(t) = n} est celle d’une loi de Dirichlet de paramètre n sur (0, t).

On pourra trouver cette propriété démontrée dans [21] ou dans [26].

Exercice 22.2.1. Un modèle de compteur ([21] pp. 128-131) Soit N(t) un processus de Poisson de paramètre λ dont les temps de sauts sont notés t_{i} (les variables aléatoires s_{i} = t_{i} − t_{i−1} sont donc i.i.d. de loi exponentielle de paramètre λ). Des signaux arrivent alors aux instants t_{i} avec une amplitude X_{i} et leurs effets décroissent de manière exponentielle une fois arrivés. Le détecteur est d’autre part linéaire et par suite, les amplitudes des signaux s’ajoutent. Aussi, au temps t, l’amplitude détectée par le détecteur est :

η(t) = ∑_{i=1}^{N(t)} X_{i} exp(−α(t − t_{i}))

On suppose les X_{i} indépendantes du processus de Poisson des arrivées et i.i.d. ayant pour loi une loi à densité h supportée par ℝ^{+} et supposée continue pour simplifier. Soit ψ la fonction caractéristique des X_{i} et ϕ_{t} celle de η_{t}.

1) Soit (τ_{1}, …, τ_{n}) n variables aléatoires indépendantes uniformes sur (0, t) indépendantes de (X_{1}, …, X_{n}). On note (τ_{1}^{∗}, …, τ_{n}^{∗}) les variables aléatoires définies par :

τ_{1}^{∗} = inf{τ_{1}^{∗}, …, τ_{n}^{∗}}, τ_{k+1}^{∗} = inf{{τ_{1}, …, τ_{n}}\{τ_{1}^{∗}, …, τ_{k}^{∗}}}

a) Soit Xk^{′} = X_{j} où τ_{k}^{∗} = τ_{j} pour tout k = 1, …, n. Montrer que les Xk^{′} sont des variables aléatoires

bien définies (à un ensemble de probabilité nulle près). Solution Les variables aléatoires (τ_{i})_{i} sont des variables aléatoires indépendantes à densité (par rapport à la mesure de Lebesgue). Par suite, la probabilité qu’il existe un couple d’entiers distincts (i, j) avec τ_{i} = τ_{j} est nulle. Les variables aléatoires (Xi^{′})_{i} sont donc bien définies.

b) Montrer que les (Xk^{′})_{k=1...,n} forment une suite de variables aléatoires indépendantes identiquement distribuées de même loi que X_{1} et indépendantes des (τ_{k})_{k=1,...,n}. Solution Soit H, f_{1}, …, f_{n} des fonctions boréliennes bornées. On a :

\begin{matrix}𝔼 [H(τ_{1}, …, τ_{n})f_{1}(X1^{′}) … f_{n}(Xn^{′})] \\ = ∑_{σ∈Σ_{n}} 𝔼 [11_{\{τ_{σ(1)}<...<τ_{σ(n)}\}}H(τ_{1}, …, τ_{n})f_{1}(X_{σ(1)}) … f_{n}(X_{σ(n)})] \\ = ∑_{σ∈Σ_{n}} 𝔼 [11_{\{τ_{σ(1)}<...<τ_{σ(n)}\}}H(τ_{1}, …, τ_{n})] 𝔼 [f_{1}(X_{σ(1)}) … f_{n}(X_{σ(n)})] \\ = ∑_{σ∈Σ_{n}} 𝔼 [11_{\{τ_{σ(1})<...<τ_{σ(n)}\}}H(τ_{1}, …, τ_{n})] 𝔼 [f_{1}(X_{1}) … f_{n}(X_{n})] \\ = 𝔼 [H(τ_{1}, …, τ_{n})] 𝔼 [f_{1}(X_{1})] … 𝔼 [f_{n}(X_{n})] \end{matrix}  (22.2.1)

L’égalité entre la deuxième et troisième ligne découle de l’indépendance entre les τ_{i} et les X_{i}. L’égalité entre la troisième et la quatrième provient de l’équidistribution et de l’indépendance des X_{i}. Ceci prouve le résultat annoncé.

2)a) Montrer que conditionnellement à {N_{t} = n}, (X_{1}, …, X_{n}, t_{1}, …, t_{n}) sont distribuées comme

(X_{1}, …, X_{n}, τ_{1}^{∗}, …, τ_{n}^{∗}). Solution Ceci provient du théorème rappelé au-dessus.

b) Montrer que pour toute fonction borélienne à valeurs complexes f, on a :

𝔼 (f (∑_{i=1}^{n} X_{i} exp(−α(t − τ_{i}^{∗})))) = 𝔼 (f (∑_{i=1}^{n} Xi^{′} exp(−α(t − τ_{i}^{∗}))))

Solution On vient de voir que les (Xi^{′})_{i} étaient indépandantes entre elles de même loi que les (X_{i})_{i} et d’autre part indépendantes des (τ_{i})_{i} (comme les (X_{i})_{i}) donc des (τ_{i}^{∗})_{i}. On a par conséquent que

la loi de (X_{1}, …, X_{n}, τ_{1}^{∗}, …, τ_{n}^{∗}) est la même que celle de (X1^{′}, …, Xn^{′}, τ_{1}^{∗}, …, τ_{n}^{∗}), ce qui donne

immédiatement le résultat.

b) Montrer que

𝔼 (f (∑_{i=1}^{n} Xi^{′} exp(−α(t − τ_{i}^{∗})))) = 𝔼 (f (∑_{i=1}^{n} X_{i} exp(−α(t − τ_{i}))))

Solution Les deux sommes à l’interieur des espérances sont égales à une réindexation près.

Les dernières questions sont des trivialités.

3) On pose Y_{t}(i) = X_{i} exp(−α(t − τ_{i})).

a) Montrer que les (Y_{i})_{i=1...n} sont i.i.d.. On notera θ_{t} leur fonction caractéristique.

b) Montrer que :

θ_{t}(s) = \frac{1}{t} ∫_{0}^{t} ψ(se^{−αv})dv

4) En déduire que :

ϕ_{t}(w) = exp (−λ ∫_{0}^{t}(1 − ψ(we^{−αv})dv)

22.3 Processus de Poisson (version élégante)

Cette introduction conclue à la hâte est tirée de [22].

22.3.1 Généralités

Bien que pouvant être développée sur des espace plus généraux, nous restreindrons notre étude aux espaces multidimensionnels ℝ^{d}. On notera B(ℝ^{d}) la tribu des boréliens de ℝ^{d}. Dans toute la suite (Ω, F, ℙ) désignera un espace probabilisé fixé.

On dira qu’une fonction Π de Ω dans B(ℝ^{d}) est un ensemble aléatoire dénombrable si et seulement si :

i) Pour tout ω ∈ Ω, Π(ω) est un borélien dénombrable (bien entendu, ici, le fait que Π soit à valeurs dans B(ℝ^{d}) est superfétatoire). ii) Pour tout borélien A, la fonction N(A) : Ω → ℕ ∪ {∞} définie par N(A)(ω) = Card(Π(ω) ∩ A) est mesurable.

Définition 22.3.1. Un processus de Poisson sur ℝ^{d} est un ensemble aléatoire (sur ℝ^{d}) dénombrable tel que :

i) Pour toute séquence finie d’ensembles disjoints, les variables aléatoires N(A_{1}), …, N(A_{n}) sont indépendantes. ii) N(A) a pour loi une loi de Poisson de paramètre μ(A) ∈ [0, +∞].

Remarque 22.3.1. La convention adoptée est la suivante. Une loi de Poisson de paramètre 0 est la masse de Dirac en 0. Une loi de Poisson de paramètre infini est la masse de Dirac concentrée sur +∞.

Il est aisé de remarquer que μ : B(ℝ^{d}) → [0, +∞] est en fait une mesure (de masse non nécessairement finie) que l’on appelle la mesure moyenne du processus. Toute mesure μ ne peut être une mesure moyenne. En effet, supposons que μ soit une mesure moyenne associée à un processus de Poisson Π et qu’elle soit atomique. Il existe alors x ∈ ℝ^{d} tel que m = μ({x}) > 0 et μ({x}) = 𝔼(N({x}) ≤ 1 car N({x}) ≤ 1. Or on a

ℙ(N({x}) ≥ 2) = 1 − e^{−m} − me^{−m} > 0

et il y a contradiction avec le fait que N({x}) ≤ 1.

Ainsi, une mesure moyenne doit être non atomique.

Dans le cas où la mesure moyenne du processus de Poisson est absolument continue par rapport à la mesure de Lebesgue avec une densité λ(x), on dit que λ est l’intensité du processus (en dimension 1, on parle de taux). Dans le cas où λ est une fonction constante, on parle de processus homogène ou uniforme.

22.4 Superposition, restriction et transformation

Théorème 22.4.1. (de superposition) Soit Π_{1}, Π_{2}, … une collection dénombrable de processus de Poisson sur ℝ^{d} tels que Π_{n} ait pour mesure moyenne μ_{n}. Alors la superposition Π des Π_{n} définie par

Π = ∪_{n=1}^{∞}Π_{n}

est un processus de Poisson de mesure moyenne

μ = ∑_{n=1}^{∞} μ_{n}

Théorème 22.4.2. (de restriction) Soit Π un processus de Poisson avec mesure moyenne μ et soit S un borélien de ℝ^{d}. Alors l’ensemble aléatoire dénombrable

Π_{1} = Π ∩ S

est un processus de Poisson sur ℝ^{d} avec mesure moyenne

μ_{1}(A) = μ(A ∩ S)

et un processus de Poisson sur S de mesure moyenne la restriction de μ à S.

Théorème 22.4.3. (de transformation) Soit Π un processus de Poisson avec une mesure moyenne μ σ-finie sur ℝ^{d} et soit f : ℝ^{d} → ℝ^{k} une fonction mesurable telle que la mesure image μ^{∗} de μ par f soit non atomique. Alors f(Π) est un processus de Poisson de mesure moyenne μ^{∗}.

22.4.1 Théorème d’existence

Nous passons maintenant à la question de l’existence d’un processus de Poisson associé à une mesure donnée (non atomique) μ.

Théorème 22.4.4. Soit μ une mesure non atomique sur ℝ^{d} qui peut s’écrire

μ = ∑_{n=1}^{∞} μ_{n}, μ_{n}(ℝ^{d}) < ∞

Alors il existe un processus de Poisson sur ℝ^{d} ayant μ pour mesure moyenne.

Remarque 22.4.1. La condition sur μ est moins restrictive que la condition de σ-finitude qu’elle implique.

La démonstration de l’existence est en fait basée sur une description du processus de Poisson qui est la suivante. Soit Π un processus de Poisson associée à une mesure moyenne μ supposée de masse finie. On cherche à déterminer la loi de Π conditionnellement à N(ℝ^{d}) = n, qui est donc un ensemble aléatire à n points. Soit p la probabilité définie par π(·) = μ(·)/μ(ℝ^{d}) et X_{1}, …, X_{n} n variables aléatoires indépendantes de loi p. Du fait que la mesure μ est non atomique, la probabilité pour qu’il existe i ≠ j tels que X_{i} = X_{j} st nulle. Conditionnellement à N(ℝ^{d}) = n, Π est distribué comme {X_{1}, …, X_{n}} (voir Kingman pour une formulation précise).

22.4.2 Processus de Poisson marqués

Théorème 22.4.5. (théorème de la boîte de peinture) Soit Π un processus de Poisson sur ℝ^{d} de mesure moyenne μ. Supposons que les points de Π soient colorés aléatoirement avec k couleurs, la probabilité de colorer un point avec la couleur i étant p_{i}. On suppose que le coloriage se fait de manière indépendante et indépendamment des points de Π. Soit Π_{i} l’ensemble des points de Π qui ont été coloriés avec la couleur i. Alors les Π_{i} sont des processus de Poisson indépendants avec pour mesure moyennes respectives μ_{i} = p_{i}μ.

Nous passons maintenant à une généralisation du théorème précédent connu sous le nom de théorème de marquage. L’idée est la suivante. On se donne un processus de Poisson Π et en chaque point X ∈ Π, on attache une marque m_{X}. La loi de m_{X} peut dépendre de X mais non des autres points de Π et donc les m_{X} sont indépendantes. Cette formulation demeure trop floue. En effet, les m_{X} sont donc indexés par les point X de Π mais cet ensemble est aléatoire. On pourrait être tenté de se donner dès le départ une famille (m_{x})_{x} de variables aléatoires indexées par x ∈ ℝ^{d} indépendantes entre elles et indépendante de Π mais se pose alors l’existence d’une telle famille. La manière la plus simple de décrire ce que l’on veut est d’utiliser la notion de noyaux de transition que l’on a vu dans le chapitre sur l’espérance conditionnelle. Soit Π un processus de Poisson sur ℝ^{d} avec mesure moyenne μ. On se donne un autre espace mesuré ℝ^{k} muni de la tribu des boréliens et qui sera l’espace des marques. On considère d’autre part une probabilité de transition p : ℝ^{d}×B(ℝ^{k}) → [0, 1], c’est-à-dire une application telle que pour tout x ∈ ℝ^{d}, p(x, ·) soit une probabilité et pour tout borélien B de ℝ^{k}, l’application p(·, B) soit mesurable. Un marquage de Π est un ensemble aléatoire sur ℝ^{d} × ℝ^{k} de la forme

Π^{∗} = {(X, m_{X}); X ∈ Π}

tel que

i) La projection de Π^{∗} sur ℝ^{d} soit Π. ii) Conditionnellement à Π, la distribution des (m_{X})_{X∈Π} est une suite de variables aléatoires indépendantes de distributions respectives π(X, ·).

Théorème 22.4.6. L’ensemble aléatoire dénombrable Π^{∗} est un processus de Poisson sur ℝ^{d} × ℝ^{k} avec mesure moyenne μ^{∗} donnée par

μ^{∗}(C) = ∫_{C} μ(dx)p(x, dm)

Un corrolaire immédiat est le théorème de déplacement

Théorème 22.4.7. (de déplacement) Soit Π un processus de Poisson sur ℝ^{d} avec une intensité λ(x). On suppose que les points de Π sont déplacés de manière aléatoire et chaque déplacement est exécuté indépendamment des autres. On suppose que la loi du déplacement d’un point de Π situé en x ∈ ℝ^{d} est une loi à densité ρ(x, ·). Alors les point déplacés forment un processus de Poisson Π′ avec intensité λ′ donnée par

λ′(y) = ∫_{ℝ^{d}} λ(x)ρ(x, y)dx

En particulier, si l’intensité est une fonction constante égale à λ et si ρ(x, y) est une fonction de y − x alors λ(y) = λ pour tout y.

Remarque 22.4.2. La formulation de ce théorème peut paraître floue. Pour en donner une formulation rigoureuse, il suffit de paraphraser ce théorème à l’aide de noyaux de transition comme on l’a fait pour le théorème de marquage.

On trouvera dans [22] les preuves et des applications de ces théorèmes à des modèles écologiques, de traffic routier ...

236

Limites hydrodynamiques

Ce td est issu du chapitre 1 de [23]. Il pourra servir à illustrer les leçons concernant la loi des grands nombres et le théorème limite central, les variables de Poisson et la transformée de Laplace.

Dans ce qui suit, nous modéliserons un fluide par un ensemble de particules indistingables qui évoluent de manière aléatoire et indépendante. Cette description est donc en premier lieu microscopique. Un état d’équilibre est un état statistique, c’est-à-dire décrit par une probabilité sur l’espace des phases des particules constituant le fluide. Dans l’étude des systèmes thermodynamiques hors équilibre (c’est-à-dire que les particules ne sont pas distribuées selon une mesure d’équilibre), une hypothèse fondamentale appelée l’hypothèse de l’équilibre local est souvent admise. Celle-ci consiste à supposer qu’à chaque instant t, on peut diviser le système étudié, qui dans son ensemble est hors équilibre, en “cellules” de taille intermédiaire - assez petites pour que les propriétés thermodynamiques du système y varient peu, mais assez grandes pour pouvoir être traitées comme des sous-systèmes thermodynamiques en contact avec leur environnement. On peut alors définir des grandeurs thermodynamiques locales, uniformes à l’interieur de chaque cellule, mais variant d’une cellule à l’autre. Notre fluide ne sera décrit au niveau macroscopique que par une seule variable thermodynamique, la densité de particules. D’autre part, à chaque valeur de la densité correspondra un équilibre. Partant d’une densité non uniforme (dans l’espace) sur ce système, on s’attend à ce qu’au cours du temps, la densité varie. Il faut en fait pour comprendre le concept d’équilibre local introduire deux échelles de temps distinctes. Le premier, et le plus petit de ceux-ci, est la durée (moyenne) d’une collision τ_{0}. Le deuxième temps, beaucoup plus grand est le temps de ralaxation vers un équilibre local τ_{R} ≫ τ_{0}. Celui-ci est en effet le résultat de très nombreuses collisions. Pour que l’hypothèse d’équilibre local soit valide, il faut donc que τ_{0} ≪ τ_{R}. Nous verrons dans la suite comment cette hypothèse apparaît naturellement et nous démontrerons (dans un cas très simple) l’hypothèse d’équilibre local. Si l’on veut faire rentrer le modèle proposé dans les thèmes du programme, on pourra toujours assimiler les particules à des individus, des bactéries où des paquets d’informations qui transitent d’un site à un autre...

On utilisera les notations suivantes. Pour N ≥ 1, 𝕋_{N} = (ℤ/Nℤ) est le tore à N points, 𝕋_{N}^{d} = (𝕋_{N})^{d} le tore à N points d-dimensionnel et 𝕋^{d} le tore d-dimensionnel [0, 1)^{d}. On se fixe une probabilité de transition p sur ℤ^{d} à support fini et supposée de moyenne m = ∑_{x∈ℤ^{d}} p(x)x ≠ 0 (tout ce qui suit peut être établi avec m = 0 mais le résultat obtenu est alors sans intérêt).

23.1 Marche aléatoires à temps continu

Une manière conventionnnelle de se représenter une marches aléatoire à temps continu sur ℤ^{d} est de considérer une famille (Y_{n})_{n≥0} de variables aléatoires indépendantes surℤ^{d} de loi {p(z)}_{z∈ℤ^{d}}, un processus de Poisson indépendants (N_{t})_{t≥0} de paramètre 1 et indépendant des Y_{n} et enfin une variable aléatoire indépendante du reste de variables aléatoires X_{0} représentant la position initiale de la marche aléatoires. Le processus (X_{t})_{t≥0} est alors donné par :

X_{t} = X_{0} + ∑_{k=1}^{N_{t}} Y_{k}

On note p_{t}(x) la probabilité de transition de la marche aléatoire, définie par

p_{t}(x) = ℙ_{0}(X_{t} = x)

Ici la notation ℙ_{z} désigne la loi de la marche aléatoire partant de z (c’est-à-dire X_{0} = z).

1) Montrer que

p_{t}(x) = ∑_{k=0}^{∞} e^{−t} \frac{t^{k}}{k!}p^{⋆k}(x)

où p^{⋆k} est le produit de convolution k-ième de p.

2) Le but de cette question est d’établir la loi (faible) des grands nombres pour les marches aléatoires à temps continu.On se propose donc de montrer que

lim_{t→∞} \frac{X_{t}}{t} = m p.s.

a) Montrer que cette propriété impliquera que pour tout ϵ > 0, et tout t > 0 fixé,

lim_{N→∞} ℙ [|\frac{X_{tN}}{N} − mt| ≤ ϵ] = 1

b) Montrer que ℙ p.s. lim_{t→+∞} N_{t} = +∞.

c) En utilisant la loi des grands nombres, montrer que ℙ p.s.,

lim_{t→∞} \frac{N_{t}}{t} = 1

d) Conclure par la loi des grands nombres.

3) On considère N un entier fixé. Soit (Z_{t})_{t} une marche aléatoire partant de z ∈ ℤ^{d} de probabilité de transition p. Une marche aléatoire (X_{t})_{t} sur 𝕋_{N}^{d} est définie par

X_{t} = Z_{t} mod N

Montrer que pour une marche aléatoire (X_{t})_{t} sur le tore 𝕋_{N}^{d} partant de 0, la probabilité de transition p_{t}^{N} est donnée par

p_{t}^{N}(z) = ℙ_{0}(X_{t} = z) = ∑_{u∈ℤ^{d}} p_{t}(z + Nu)

23.2 Système de particules libres

Le processus que l’on cherche à modéliser est un système de particules évoluant de manière indépendantes selon des marches aléatoires sur 𝕋_{N}^{d}. Les particules sont supposées indistingables et seules leur localisation importe. La dynamique est construite de manière à conserver le nombre de particules mais rien ne nous empêche de considérer au départ un nombre aléatoire de particules. Soit donc K une variable aléatoire à valeurs dans ℕ. On se donne (X^{i}, …, X_{0}^{n}, …)_{n≥1} une suite de marches aléatoires indépendantes de K à valeurs dans 𝕋_{N}^{d} de même probabilité de transition p_{t}^{N}. Le processus (η_{t}^{K})_{t≥0} est alors défini par

η_{t}^{K}(x) = ∑_{i=1}^{K} 11_{{X_{t}^{i}=x}}

L’espace des configurations (ou états) de ce processus est ℕ^{𝕋_{N}^{d}}. A chaque instant t, et pour chaque site x de 𝕋_{N}^{d}, η_{t}(x) est le nombre de particules situées sur le site x. Nous appelerons ce processus un système de particules libres sur le tore.

1) Montrer que la loi du nombre de particules ∑_{x∈𝕋_{N}^{d}} η_{t}(x) est une constante dans le temps.

Ainsi, si initialement, on a un nombre déterministe K de particules alors au temps t, on aura encore K particules (la dynamique ne cconnaît ni création, ni destruction de particules).

23.3 Mesures invariantes

Définition 23.3.1. Pour une fonction ρ : 𝕋^{d} → ℝ_{+} lisse, on appelle mesure de Poisson sur ℕ^{𝕋_{N}^{d}} associée à la fonction ρ la probabilité produit ν_{ρ}^{N} = ⊗_{x∈𝕋_{N}^{d}}μ_{x} sur ℕ^{𝕋_{N}^{d}} telle que la marginale μ_{x} soit une loi de Poisson de paramètre ρ(x/N). Pour tout α > 0 fixé, on notera ν_{α} la mesure produit sur ℕ^{ℤ^{d}} dont les marginales sont des mesures de Poisson de paramètre α.

2) a) Montrer que la loi d’une variable aléatoire η à valeurs dans ℕ^{𝕋_{N}^{d}} est caractérisée par sa

transformée de Laplace multi-dimensionnel

L(λ) = 𝔼 [exp {− ∑_{x∈𝕋_{N}^{d}} λ(x)η(x)}]

où λ : 𝕋_{N}^{d} → ℝ_{+} fonction quelconque.

b) Montrer que l’on a la propriété suivante :

Proposition 23.3.1. Si les particules sont initialement distribuées selon une mesure de Poisson associée à une fonction constante α > 0 alors au temps t ≥ 0, elles sont distribuées selon la même mesure de Poisson associée à la fonction constante α. Autrement dit, les mesures de Poisson sont invariantes pour le système de particules.

ind. : on calculera la transformée de Laplace de (η_{t}(x))_{x∈𝕋_{N}^{d}}

3) Quelle est la densité de particules lorsque le système est à l’équilibre sous une mesure de Poisson associée à la fonction α?

4) Existe-t-il d’autres mesures invariantes pour le système de particules libres (N fixé) ?

La réponse nécessite un peu de connaissance sur les chaînes de Markov à temps continu. Le processus des particules libres est en fait un processus de Markov (à temps continu !) à espace d’états dénombrable. Supposons que p soit irréductible, c’est-à-dire que {z; p(z) > 0} génère (en tant que groupe additif) tout ℤ^{d} (sinon la réponse à la question est délicate). Alors, vu que le nombre de particules est conservées, partant d’une configuration initiale déterministe fixée, le nombre de particules K est une constante (non aléatoire fixée). Il y a un ensemble dénombrable de classe irréductibles (au moins) indexé par K ∈ ℕ (représentant le nombre de particules) que l’on note (C_{K})_{K}. Puisque p est supposée irréductible, sur chacune des classes précédentes C_{K}, le système de particules libres est lui-même un processus markovien à espace d’états fini et irréductible (l’espace d’état du processus est alors en fait {0, …, K}^{𝕋_{N}^{d}} qui est fini). Chaque classe irréductible C_{K} possède donc une seule mesure invariante μ_{K}. Les mesures invariantes du système sont donc données par les combinaisons convexes des (μ_{K})_{K∈ℕ}. Les mesures de Poissons précédentes ne sont que des cas particuliers. Cependant, l’ensemble des mesures invariantes forment un ensemble convexe et on peut montrer que les point extrémaux de cet ensemble sont les mesures de Poisson.

23.4 Equivalence des ensembles

On a vu dans la section précédente que les mesures de Poisson étaient invariantes pour la dynamique. Néanmoins, puisque le nombre de particules est conservées, les mesures de Poissons conditionnées à un nombre de particules fixé sont aussi invariantes. Néanmoins, les deux points de vue sont équivalents lorsque l’on regarde ce qui se passe pour N tend vers l’infini.

Cette équivalence est connue, dans un contexte plus général, sous le terme de ce que les physiciens appellent l’équivalence des ensembles. L’équivalence des ensembles établit une correspondance entre les mesures dites grand-canonique (les mesures de Poisson pour nous) et les mesures canoniques (les mesures de Poisson conditionnées à un nombre fixé de particules).

On considère une fonction constante notée α égale à α et on considère la mesure μ_{α,K}^{N} sur {η ∈ ℕ^{𝕋_{N}^{d}}; ∑_{x∈𝕋_{N}^{d}} η(x) = K} donnée par

μ_{α,K}^{N} = ν_{α}^{N}(·| ∑_{x∈𝕋_{N}^{d}} η(x) = K)

1) Montrer que cette mesure ne dépend pas de α et est en fait la mesure multiniomiale sur {0, …, K}^{𝕋_{N}^{d}}.

2) Montrer que c’est une mesure invariante du système de particules libres (c’est en fait ce que l’on a noté μ_{K}^{N}).

3) Soit β > 0 un paramètre positif fixé. Montrer que pour tout entier r > 0 fixé, pour toute suite (k_{1}, …, k_{r}) ∈ ℕ^{r} et (x_{1}, …, x_{r}) ∈ ℤ^{r},

lim_{N→∞} μ_{α,N^{d}β}(η(x_{1}) = k_{1}, …, η(x_{r}) = k_{r}) = ν_{β}(η(x_{1}) = k_{1}, …, η(x_{r}) = k_{r})

On a un résultat similaire assez simple d’équivalence des ensemble dans un cadre continu (ici entre les mesures micro-canoniques et les mesures canoniques). On considère des particules libres 1, …, x, …, N indiscernables. La particule x possède la quantité de mouvement p_{x}, et n’interagit pas avec les autres. L’énergie de l’ensemble des particules est donc uniquement donnée par son énergie cinétique ∑_{x=1}^{N} p_{x}^{2} qui est conservée lors du mouvement des particules. Supposons que notre système soit isolé et à l’équilibre. Soit E l’énergie du système. Le principe d’équirépartition de l’énergie nous dit que les vitesses (p_{x})_{x=1,...,N} se répartissent de manière uniforme sur la surface d’énergie. On cherche à savoir ce qui se passe pour une observable locale à la limite thermodynamique (i.e. N tend vers l’infini). En termes mathématiques, la question est la suivante. Soit f : ℝ^{k} → ℝ une foncton continue bornée avec k un entier fixé et E > 0 un réel. Pour tout N plus grand que k, on introduit ν_{N,E} la mesure uniforme sur la sphère S_{E}^{N−1} de ℝ^{N} de rayon \sqrt{NE} :

S_{E}^{N−1} = {(x_{1}, …, x_{N});  ∑_{i=1}^{N} x_{i}^{2} = NE}

On rappelle que cette mesure est l’unique probabilité sur S_{E}^{N−1} stable par les rotations de ℝ^{N}.

1) Soit (ζ_{1}, …, ζ_{N}) N variables normales standard uniformes. Montrer à l’aide de cette caractérisation

que la loi de Y = \begin{matrix}√ & \overline{NE} \\ √ & \overline{∑_{i=1}^{N} ζ_{i}^{2}} \end{matrix}(ζ_{1}, …, ζ_{N}) est ν_{N,E}.

2) A l’aide de la loi des grands nombres, montrer que

lim_{N→∞} ν_{N,E}(f(x_{1}, …, x_{k})) = μ_{k,E}(f)

où μ_{k,E} est une loi Gaussienne sur ℝ^{k} de moyenne nulle et de matrice de covariance E^{−1}Id (i.e. la distributionde Maxwell avec température E).

23.5 Equilbre local

Définition 23.5.1. Soit (μ_{N})_{N≥1} une suite de probabilités sur ℕ^{𝕋_{N}^{d}}. On dit que c’est un équilibre local de profil ρ_{0} : 𝕋^{d} → ℝ_{+} (fonction lisse) ssi pour tout u ∈ 𝕋^{d}, et toute fonction f : ℕ^{ℤ^{d}} → ℝ ne dépendant que d’un nombre fini de sites,

lim_{N→∞} 𝔼_{μ^{N}} [f(τ_{[uN]}η)] = 𝔼_{ν_{ρ_{0}(u)}}(f)

On se propose de démontrer le théorème suivant, dit de conservation de l’équilibre local :

Théorème 23.5.1. On considère une fonction ρ_{0} : 𝕋^{d} → ℝ_{+} lisse. Soit (μ^{N})_{N≥1} un équilibre local associé au profil ρ_{0}. Pour tout t ≥ 0, on note μ_{t}^{N} la loi du processus η_{t} initialement distribué selon μ^{N}. Pour tout t ≥ 0, (μ_{tN}^{N})_{N≥1} est un équilibre local de profil ρ_{t} = ρ(t, ·) où ρ est solution de l’équation aux dérivées partielles suivantes

∂_{t}ρ + m · ∇ρ = 0

avec condition initiale ρ_{0}.

1) Montrer que

𝔼_{ν_{ρ_{0}}^{N}} (exp − ∑_{x∈𝕋_{N}^{d}} λ(x)η_{t}(x)) = exp ( ∑_{y∈𝕋_{N}^{d}}(e^{−λ(y)} − 1)ψ_{N,t}(y))

où

Ψ_{N,t}(y) = ∑_{x∈𝕋_{N}^{d}} p_{t}^{N}(y − x)ρ_{0}(x/N)

2) Montrer que

lim_{N→∞} ψ_{N,t}([uN]) = ρ_{0}(u)

Cette propriété montre que le temps microscopique est trop court pour atteindre un équilibre local et est à relier à l’hypothèse t ∼ τ_{0} ≪ τ_{R}.

3) Montrer que pour tout ϵ > 0,

lim_{N→∞} ∑_{x; |x/N−mt|≤ϵ} p_{tN}(x) = 1

4) Conclure.

23.6 Quelques remarques

Nous avons ici traité le cas de marches aléatoires de moyenne non nulle, non pas parce que pour m = 0, le résultat est faux mais parce que pour m = 0, il ne dit rien d’intéressant (le profil ne change pas dans l’échelle de temps tN). Pour le cas m = 0, il faut considérer une échelle de temps plus grande en tN^{2}. Dans ce cas, le profil qui apparaît est décrit par une équation aux dérivées partielles du second ordre. Plus exactement, on introduit la matrice σ définie par

σ_{i,j} = ∑_{x∈ℤ^{d}} x_{i}x_{j}p(x)

En utilisant un théorème limite centrale pour les marches aléatoires à temps continu, on obtient le théorème suivant.

Théorème 23.6.1. Supposons qu’un système de particules évolue selon des marches aléatoires indépendantes avec une moyenne m = 0 et qu’initialement on ait un équilibre local asssocié à un profil lisse ρ_{0}. Dans une échelle de temps diffusive (c’est-à-dire en tN^{2}), il y a conservation de l’équilibre local et l’évolution du profil est donné par la solution de l’équation aux dérivées partielles suivantes :

\begin{cases}∂_{t}ρ = ∑_{1≤i,j≤d} σ_{i,j}∂_{u_{i},u_{j}}^{2}ρ \\ ρ(0, u) = ρ_{0}(u) \end{cases}

Dans la théorie des limites hydrodynamiques, l’équation qui apparaît ici est appelée l’équation hydrodynamique du système. On peut considérer des cas plus complexes que celui-ci. Par exemple, on peut imposer aux particules d’évoluer comme des marches aléatoires à temps continu mais refuser que plus d’une particule occupe un site (on parle alors du processus d’exclusion simple). Là aussi, une équation hydrodynamique peut-être établie. Selon que p est à moyenne nulle ou pas, les échelles de temps à considérer ne sont pas les mêmes (échelle diffusive en N^{2} ou Eulérienne en N) et les équations hydrodynamiques obtenues sont différentes (équation type équation de la chaleur ou équqtion de Burgers).

244

Simulations de variables aléatoires et applications

24.1 La méthode MCMC

Ce cours-td est issu de quatres sources ([1], [8],[19] et [25]). Le meilleur exposé est sans nul doute [19]. Néanmoins, pour ce qui est des motivations de l’étude du modèle d’Ising, [25] est nécessaire même si [8] l’aborde d’une manière moins agréable. Ce qui concerne les mesures de Gibbs en volume infini est donné sans preuves (cf. [25] pour de plus amples détails). La seule raison d’exposer ces résultats est de donner une motivation non dénuée d’intérêt à la simulation d’une mesure de Gibbs. D’autre part, la “convergence” de l’algorithme de Propp-Wilson n’est pas donné dans [19] mais il l’est dans [1], exercice 4.38 p.123.

24.1.1 Les méthodes classiques

On peut distinguer trois grandes méthodes de simulations de variables aléatoires.

1. Méthode de l’inverse : On cherche à simuler une variable aléatoire Z de fonction de répartition F. Pour ce faire, on simule une variable aléatoire uniforme sur [0, 1]. Soit F^{−1} la pseudo inverse de F alors F^{−1}(U) a pour loi F.

2. Méthode de rejet : On cherche à simuler une variable aléatoire Z ayant une densité f. On suppose que l’on est capable de générere une suite i.i.d. de variables aléatoires (Y_{n})_{n} ayant une loi à densité g telle que

\frac{f(x)}{g(x)} ≤ c

Soit (U_{n})_{n} une suite i.i.d. de variables aléatoires uniformément distribuées sur [0, 1]. On définit τ comme le premier instant n pour lequel on a

U_{n} ≤ \frac{f(Y_{n})}{cg(Y_{n})}

et

Z = Y_{τ}

Alors Z est une loi ayant pour densité f.

3. Méthode MCMC (Monte Carlo Markov Chain) : c’est celle que nous allond décrire plus en détail maintenant.

Avant de décrire la méthode MCMC (dans le cas d’une loi discrète), commençons par donner quelques critiques en ce qui concerne les deux premières méthodes. Les méthodes de l’inverse et de rejet ont des contre-parties quand Z est une variable discrète de loi π sur un ensemble fini E supposé très grand. La méthode de l’inverse consiste à générer une variable uniforme U sur [0, 1] et à poser Z = i ssi ∑_{l=1}^{i−1} π_{l} ≤ U < ∑_{l=1}^{i} π_{l}. Quand la taille de E est très grande, on a une partition de l’intervalle [0, 1] constituée de petits intervalles. Savoir où U se trouve exactement demande donc un grand coût en précision de calculs. Dans une simulation où E n’est pas une suite d’entiers mais un espace de configurations plus ou moins compliqué, il est nécessaire de définir un codage de l’espace des configurations (et de coder et décoder) ce qui peut être assez lourd.

La méthode de rejet dans le cas discret utilise une distribution p sur E telle que \frac{π_{i}}{p_{i}} ≤ c pour

tout i ∈ E. Le problème vient du fait que bien souvent π est connue à une constante de normalisation près si bien que la méthode de rejet (tout comme la méthode de l’inverse) devient inutilisable.

24.1.2 Le principe de la méthode MCMC

La méthode MCMC est la suivante. On construit une chaîne de Markov irréductible aperiodique sur E avec π pour distribution stationnaire. Puisque E est fini, la chaîne est ergodique et pour tout i ∈ E et toute distribution initiale μ,

lim_{n→∞} ℙ_{μ}(X_{n} = i) = π_{i}

Aussi, quand n est “grand, on peut considérer que X_{n} a une distribution proche de π. Bien entendu, il se pose deux problème majeur dans cette méthode :

1) Comment construire une chaîne X ayant π pour distribution stationnaire ?

2) Comment évaluer si la distribution de X_{n} est proche de pi? Ou plus exactement, comment obtenir une estimation de la vitesse de convergence de la loi de X_{n} vers π en fonction de n?

Un élément de réponse à la première question est fournie par les algorithme de Métropolis (1953) et Barker (1965). On remarquera au passage que ce dernier algorithme ne nécessite la connaisance de π qu’à un facteur multiplicatif près. Pour ce qui est de la deuxième question, on sait que la vitesse de convergence est géométrique et donnée par la deuxième plus grande valeur propre de la matrice de transition. Tout revient alors à obtenir une bonne estimation de cette seconde valeur propre... On trouvera tous les compléments utiles dans le chapitre 6 de [8].

Exercice 24.1.1. Algorithme de Metropolis ([1] exercice 4.37) Soit E un ensemble d’états fini et P une matrice de transition sur E symétrique et irréductible. Soit π une probabilité sur E telle que π(x) > 0 pour tout x ∈ E. On définit sur E une nouvelle matrice de transition Q par

Q(x, y) = \begin{cases}P (x, y) si x ≠ y et π(y) ≥ π(x) \\ P (x, y)\frac{π(x)}{π(y)} si π(y) < π(x) \\ 1 − ∑_{z≠x} Q(x, z) si y = x \end{cases}

a) Montrer que la loi π est réversible pour Q et donc invariante.

b) Montrer que Q est irréductible.

c) On suppose que π n’est pas la distribution uniforme (sinon on aurait Q = P). On note M l’ensemble des états x ∈ E tels que π(x) = sup_{y∈E} π(y).

c1) Montrer qu’il existe x_{0} ∈ M tel que P (x_{0}, y) > 0 pour un certain y ∉ M. En déduire que Q(x_{0}, z) < P (x_{0}, z) pour un z ∈ E au moins. Monter que Q(x_{0}, x_{0}) > 0.

c2) Montrer que Q est apériodique.

On a donc montré que π est réversible pour Q donc invariante et que Q est irréductible et aperiodique. Par le théorème ergodique, on est assuré que pour n assez grand, la loi de la chaîne de Markov (X_{n})_{n} de matrice de transition Q est proche de π. Cette méthode de simulation est particulièrement intéressante lorsque l’on ne connaît π qu’à une constante multiplicative près (c’est ce qui arrive fréquemment en mécanique statistique où la fonction de répartition est inconnue, ou du moins si E est si grand que la calculer a un coût trop grand). Une exellente application, malheureusement en dehors des thèmes du programme et assez difficile mais faisable, de l’algoritme de Metropolis est l’illustration de la transition de phase dans le modèle d’Ising (Cf. [8], [25]).

24.1.3 Simulation d’une chaîne de Markov

La question est la suivante. Comment simuler une chaîne de Markov (X_{0}, …, X_{n}, …) à espace d’états fini S = {s_{1}, …, s_{k}}, de matrice de transition P, avec la distribution μ pour loi initiale. Nous admettons que nous pouvons simuler une suite (U_{0}, …, U_{n}, …) (en fait, une suite finie...) de variables aléatoires uniformes indépendantes sur [0, 1]. Les deux ingrédients principaux sont la fonction d’initiation ψ et la fonction de mise à jour ϕ. On les définit de la manière suivante.

ψ(x) = \begin{cases}s_{1}  pour x ∈ [0, μ(s_{1})) \\ s_{2}  pour x ∈ [μ(s_{1}), μ(s_{1}) + μ(s_{2})) \\ · \\ · \\ s_{i}  pour x ∈ [∑_{j=1}^{i−1} μ(s_{j}), ∑_{j=1}^{i} μ(s_{j})) \\ s_{k}  pour x ∈ [∑_{j=1}^{k−1} μ(s_{j}), 1] \end{cases}  (24.1.1)

et pour i ∈ {1, …, k},

ϕ(s_{i}, x) = \begin{cases}s_{1}  pour x ∈ [0, P_{i,1}) \\ s_{2}  pour x ∈ [P_{i,1}, P_{i,1} + P_{i,2}) \\ · \\ · \\ s_{j}  pour x ∈ [∑_{l=1}^{j−1} P_{i,l}, ∑_{l=1}^{j} P_{i,l}) \\ s_{k}  pour x ∈ [∑_{l=1}^{k−1} P_{i,l}, 1] \end{cases}  (24.1.2)

Soit (U_{0}, …, U_{n}, …) une suite de variables aléatoires uniformes sur [0, 1] indépendantes. On pose X_{0} = ψ(U_{0}), X_{1} = ϕ(X_{0}, U_{1}), …, X_{n} = ϕ(X_{n−1}, U_{n}), …).

1) Montrer que (X_{n})_{n} est une chaîne de Markov de matrice de transition P, de loi initiale μ. 2) En

déduire un algorithme pour simuler une chaîne de Markov donnée.

24.1.4 Un modèle d’exclusion

Soit Λ_{m} = {1, …, m}^{2} un carré dans ℤ^{2} de longuer m. Une configuration ζ sur Λ_{m} est une fonction de Λ_{m} dans {0, 1}. Une configuration ζ est dite faisable si pour tout x et y de Λ_{m}, |x−y| = 1 implique ζ(x)η(y) = 0 (autrement dit, on ne peut pas avoir deux sites adjacents occupés avec des 1). Soit Z_{m} le nombre de configurations faisables. On définit une probabilité μ_{m} sur l’espace Ω_{m} = {0, 1}^{m} des configurations par :

μ_{m}(ζ) = Z_{m}^{−1}11_{{ζ faisable}}  (24.1.3)

1) Soit n(ζ) le nombre de 1 dans la configuration ζ. On s’intéresse à l’estimation de μ(n). Pour cela, on doit simuler une variable aléatoire X ayant pour loi (ou approximativement) la loi μ. Admettons que l’on dispose d’une procédure permettant de simuler une telle variables aléatoire. Comment faire pour estimer (en terme de simulation) la quantité μ(n) ?

2) On se propose maintenant de donner un algorithme MCMC pour ce modèle d’exclusion, i.e.

simuler par la méthode MCMC une variable aléatoire X ayant pour loi μ_{m}.

a) Pourquoi une méthode MCMC s’avère nécessaire pour m grand ?

b) Vérifier que l’algorithme suivant convient :

1. Choisir un site s dans Λ_{m} de manière aléatoire et uniforme.

2. Simuler une variable aléatoire de Bernoulli U de paramètre 1/2.

3. Si U = 1 et si tous les voisins de s ont pour valeur 0 alors mettre la nouvelle valeur de s à 1, sinon mettre à 0.

4. Pour les autres sites (i.e. différents de s), ne rien faire.

c) Le simuler.

3) Donner une interprétation en termes de “modèle de télécommunication” et de “dynamique des

populations” de cette mesure.

24.2 Critique de la méthode MCMC

On peut adresser deux grandes critiques à la méthodes MCMC. A) L’argument théorique qui fonde la méthode MCMC est le théorème qui dit que la loi μ_{n} au temps n d’une chaîne de Markov irréductible aperiodique (partant de n’importe quel état) converge vers sa distribution stationnaire π (distribution que l’on cherche à simuler). Bien entendu, ce n’est qu’une convergence et cela n’implique pas l’existence d’un n pour lequel μ_{n} = π. Il y a donc toujours une erreur lorsque l’on approxime π par μ_{n}. B) Pour rendre cette erreur petite, on doit être capable d’une manière ou d’une autre d’estimer cette erreur (erreur que l’on mesure au moyen de la distance en variation).

Le problème soulevé en A) est un problème inhérent à toute simulation numérique et on s’en accomode aisément, d’autant plus que l’ordinateur lui-même ne donne que des résultats approximatifs (quelque soit la précision dont il dispose, ℝ lui reste terra incognita). Le second problème B) est quant à lui beaucoup plus serieux. Il s’est avérer qu’estimer cette erreur (i.e. majorer d(μ_{n}, π)) était très difficile. Nous disposons cependant de résultats dans ce sens (théorème 8.1 p.56 de [19] par exemple). En pratique, on opère en général de la manière suivante. On simule la chaîne de Markov jusqu’à un temps n de l’ordre 10^{5} et on croise les doigts ! Dans la section suivante, nous présentons un algorithme “parfait” dans le sens où il simule une loi qui est exactement égale à la distribution π cherchée. Bien entendu, cet algorithme possède lui aussi des désavantages que nous expliciterons.

24.3 L’algorithme de Propp-Wilson

On adpote les notations classsiques de ce chapitre. Soit une chaîne de Markov (X_{0}, …, X_{n}, …) à espace d’états fini S = {s_{1}, …, s_{k}}, de matrice de transition P, avec la distribution μ pour loi initiale. La fonction de mise à jour est notée ϕ : S × [0, 1] → S. On considère une suite de nombre N_{1} = 1, …, N_{m} = 2^{m−1}, . . .. Soit (U_{0}, U_{−1}, …, U_{−n}, …) une suite de variables aléatoires uniformes indépendantes sur [0, 1]. L’algorithme est le suivant :

1. Prendre m = 1.

2. Pour tous les s ∈ {s_{1}, …, s_{k}}, simuler la chaîne de Markov partant de −N_{m} dans l’état s jusqu’au temps 0 en utilisant ϕ et les variables aléatoires U_{−N_{m}+1}, …, U_{−1}, U_{0} (ce sont les mêmes pour les k trajectoires simulées).

3. Si les k chaînes dans l’étape 2 se terminent dans le même état s′ au temps 0 alors l’algorithme se termine et donne s′. Autrement, il passe à l’étape 4.

4. Incrémenter m de 1 et continuer avec l’étape 2.

Quelques commentaires sur cet algorithme. Première chose, il est important de dire que à la m-ème étape, l’algorithme réutilise certaine les variables aléatoires (U_{−N_{m−1}+1}, …, U_{0}) de l’étape m − 1. Ceci est économique en appelle de simulation de variables aléatoires uniformes mais coûteux en mémoire puisque l’on doit conserver en mémoire les variables aléatoires du passé. Néanmoins, ceci est nécessaire pour que l’algorithme marche (un exemple est donné dans [19] où l’algorithme ne fonctionne pas si l’on ne réutilise pas les anciennes uniformes). Deuxièmement, a priori, l’algorithme contient une boucle infinie. Il peut très bien ne jamais terminer. En fait, un résultat (que nous ne prouverons pas mais que l’on peut trouver dans [1], exercice 4.38) dit que l’on peut choisir une bonne fonction ϕ, que nous dirons valide, telle que avec probabilité 1, l’algorithme termine toujours. Mais un mauvais choix de la fonction ϕ peut conduire à une boucle infinie (cf. le problème élémentaire 10.2 de [19]). Troisièmement, il peut sembler étrange de partir dans le “passé”, en plus à des temps en −2^{m}. Boh ! Nous passons maintenant à la preuve du théorème suivant :

Théorème 24.3.1. Soit P la matrice de transition d’une chaîne de Markov irréductible et aperiodique à espace d’états S = {s_{1}, …, s_{k}} et ayant pour distribution stationnaire π = (π_{1}, …, π_{k}). Soit ϕ une fonction de mise à jour valide pour P et considérons l’algorithme de Propp-Wilson. On suppose que l’algorithme se termine avec probabilité 1 et on note Y la sortie de l’algorithme. Alors pour tout i ∈ {1, …, k},

ℙ(Y = s_{i}) = π_{i}

1) Fixons s_{i} ∈ S. Il suffit de prouver que pour tout ϵ > 0, on a

|ℙ(Y = s_{i}) − π_{i}| ≤ ϵ

Montrer qu’il existe M tel que

ℙ(l’algorithme n’a pas besoin de faire plus de M étapes) ≥ 1 − ϵ

2) On fixe un tel M. On considère une chaîne de Markov Ỹ partant du temps −N_{M} avec la même fonction de mise à jour ϕ et la même suite d’uniformes U_{−N_{M} +1}, …, U_{0} mais avec pour loi initiale (au temps −N_{M}) la probabilité stationnaire π. Monter que

ℙ(Y ≠ Ỹ_{0}) ≤ ϵ

3) En déduire |ℙ(Y = s_{i}) − π_{i}| ≤ ϵ.

Passons maintenant à la critique de cet algorithme. Nous nous intéressons à la simulation de distributions π sur S lorsque le cardinal k de S est très grand. L’algorithme de Propp-Wilson propose une solution qui demande de simuler à chaque étape k trajectoires de la chaîne. L’algorithme semble donc à priori inutilisable... Cependant, nous allons voir que si la chaîne considérée possède certaines propriétés de monotonie alors on peut réduire considérablement le nombres de trajectoires à simuler (en appliquant le principe du sandwich). L’algorithme devient alorsintéréssant. Nous allons commencer par un cas instructtif (mais sans aucun intérêt pratique) puis passer à un cas réellement intéressant (modèle d’Ising).

Exercice 24.3.1. On désire simuler la probabilité uniforme π sur {1, …, k} avec l’algorithme de Propp-Wilson en appliquant le principe du sandwich.

1) Montrer que la marche aléatoire simple symétrique sur {1, …, k} avec barrière réfléchissante

en 1 et en k admet π pour probabilité stationnaire.

2) Monter que la fonction ϕ définie par :

ϕ(1, ·) = 11_{[0,1/2)} + 2.11_{[1/2,1]}
ϕ(k, ·) = (k − 1).11_{[0,1/2)} + k.11_{[1/2,1]}
ϕ(i, ·) = (i − 1).11_{[0,1/2)} + (i + 1).11_{[1/2,1]}, i ∈ {2, …, k − 1}

est une fonction de mise à jour.

3) Montrer que la fonction ϕ vérifie

i ≤ j ⇒ ϕ(i, ·) ≤ ϕ(j, ·)

4) En déduire que toute trajectoire démarrant dans un état i_{i}n{2, …, k − 1} reste entre les tra-

jectoires partant respectivement de 1 et de k. Expliquer le terme “principe du sandwich”.

5) Proposer une nouvelle version de l’algorithme de Propp-Wilson qui économise le nombre

d’opérations.

6) Implémenter l’algorithme.

24.4 Le modèle d’Ising

Soit S un ensemble fini de ℤ^{2}. Les point s ∈ S sont appelés les sites. On introduit aussi l’espace des états Λ = {±1} et l’espace des configurations E = Λ^{S}.

Définition 24.4.1. Un champ aléatoire sur S est une collection X = {X(s)}_{s∈S} de variables aléatoires à valeurs dans Λ, où si l’on préfère une variable aléatoire à valeurs dans Λ.

On dira qu’un site y ∈ S est un voisin de x ∈ S si et seulement si la distance (euclidienne standard) de x à y est égale à 1 : |x − y| = 1. On notera alors x ∼ y. L’ensemble des voisins de x dans S est noté N_{x}(S) = {y ∈ S; |y − x| = 1} et on pose Ñ_{x}(S) = N_{x}(S) ∪ {x}. On remarquera que si S = ℤ^{2} alors pour tout x, le cardinal de N_{x}(ℤ^{2}) est 4.

Définition 24.4.2. On dira que le champ aléatoire X est un champ aléatoire Markovien sur S si il vérifie : pour toute configuration x ∈ E et pour tout site s ∈ S

ℙ(X(s) = x(s)|X(S\s) = x(S\s)) = ℙ(X(s) = x(s)|X(N_{s}) = x(N_{s}))  (24.4.1)

Dans ce cas, la fonction π^{s} : E → [0, 1] définie par π^{s}(x) = ℙ(X(s) = x(s)|X(N_{s}) = x(N_{s})) est appelée spécification locale du champ.

Sous une condition de positivité assez faible sur la spécification locale, on peut montrer qu’il existe au plus une seule distribution de champ aléatoire Markovien pour une spécification locale donnée.

24.4.1 Distribution de Gibbs

Définition 24.4.3. On appelle clique sur S tout singleton {s} avec s ∈ S ou bien toute paire {s, t} de voisins s, t ∈ S. Une clique à deux éléments est dite maximale (ou bien non triviale).

Définition 24.4.4. Un potentiel V sur E = Λ^{S} est une collection {V_{C}}_{C⊂S} de fonctions de E dans ℝ telles que :

i) V_{C} = 0 si C n’est pas une clique. ii) V_{C} ne dépend de x qu’à travers les valeurs de x(C) (i.e. V_{C} est à portée dans C).

La fonction énergie E associé à un tel potentiel est définie par :

E(x) = ∑_{C⊂S} V_{C}(x), x ∈ E

Soit T > 0. La distribution π_{T} définie par

π_{T} (x) = Z_{T}^{−1} exp (−\frac{E(x)}{T}) , x ∈ E

où Z_{T} est une constante de normalisation (dite fonction de partition) est appelée distribution de Gibbs à température T associée au potentiel V.

Exemple : Modèle d’Ising. C’est le modèle le plus simple que l’on puisse concevoir. On prend S = {1, …, m}^{2} et pour potentiel V,

V_{{s}}(x) = −Hx(s), V_{{s,t}}(x) = −Jx(s)x(t)

où H ∈ ℝ est le champ magnétique externe et J ∈ ℝ^{+} est l’énergie interne d’un dipôle magnétique.

Théorème 24.4.1. Les distributions de Gibbs associées à un potentiel V = {V_{C}}_{c⊂S} et à une température T sont des champs Markoviens. Plus exactement, soit X un champ aléatoire dont la loi est donnée par la distribution π_{T} de la définition précédente, alors X est un champ Markovien et ses spécifications locales sont données par :

π^{s}(x) = \frac{exp(−T^{−1} ∑_{C∋x} V_{C}(x))}{∑_{λ∈Λ} exp(−T^{−1} ∑_{C∋x} V_{C}(λ, x(S\\{s\})}  (24.4.2)

Remarque 24.4.1. La réciproque est quasi-vraie (il faut rajouter la condition de positivité dont on a parlé succintement). On pourra consulter [8] pour une démonstration (où l’on verra une application inattendue de la formule de Möbius...).

24.4.2 Distribution de Gibbs en volume infini et transition de phase

On cherche à étendre la notion de mesure de Gibbs lorsque S est infini : S = ℤ^{2}). Il est naturel, compte-tenu de la définition (24.4.1) de dire qu’une probabilité μ sur l’espace des configurations {±1}^{S} est une mesure de Gibbs associée au potentiel V à température T > 0 si elle vérifie les équations (dites DLR) suivantes :

μ(X(s) = x(s)|X(S\s) = x(S\s)) = \frac{exp(−T^{−1} ∑_{C∋x} V_{C}(x))}{∑_{λ∈Λ} exp(−T^{−1} ∑_{C∋x} V_{C}(λ, x(S\\{s\})}

On dénote par G(T) l’ensemble des mesures de Gibbs associée à ce potentiel à température T. Pour simplifier, on prendra le potentiel associé au modèle d’Ising avec le champ magnétique externe H égal à 0. On cherche maintenant à caractériser les éléments de G. Pour cela, nous avons besoin d’introduire, en volume fini (S fini), les mesures de Gibbs avec conditions aux bords qui généralisent les mesures de Gibbs introduites précedemment. Soit S une ensemble fini et W un sous-ensemble de S (en général l’interieur de S). On se donne une configuration ζ sur S\W, c’est-à-dire un élément de {0, 1}^{S\W}. La mesure de Gibbs π_{T,ζ} avec conditions aux bords ζ sur S\W à température T > 0 est définie par :

∀η ∈ \{−1, 1\}^{W} , π_{T,ζ}(η) = Z_{T,ζ}^{−1} exp (−\frac{E(η^{ζ})}{T})

where Z_{T,ζ} est une fonction de normalisation et η^{ζ} est la configuration sur {−1, +1}^{S} obtenue en concaténant η et ζ. Deux cas particulièrement importants de mesures de Gibbs avec conditions aux bords peuvent être considérés. Prenons S_{m} = {1, …, m}^{2} où m ≥ 2 et W_{m} = {2, …, m − 1}^{2}. On prend ζ la configuration sur {−1, 1}^{S_{m}\W_{m}} composée uniquement de +1 (resp. de −1) et on note la mesure π_{T,ζ} obtenue π_{T,m}^{+} (resp. π_{T,m}^{−}).

On peut alors démontrer le théorème suivant qui sert à caractériser l’ensemble des mesures de Gibbs en volume infini.

Théorème 24.4.2. On considère le modèle d’Ising à température T.

1. La limite (faible) de (π_{T,m}^{+})_{m} (resp. de π_{T,m}^{−})_{m}) existe. On la note π_{T}^{+} (resp. π_{T}^{−}).

2. π_{T}^{±} sont des éléments de G.

On dit qu’il y a transition de phases lorsque l’ensemble G_{T} contient plus d’un élément. D’après le théorème précédent, on voit que si π_{T}^{+} ≠ π_{T}^{−}, il y a transition de phase et on peut même démontrer la réciproque. On peut aller encore plus loin avec le théorème suivant.

Théorème 24.4.3. Il y a transition de phase si et seulement si π_{T}^{+}(η(0) = 1) ≠ π_{T}^{−}(η(0) = 1). D’autre part il existe une température critique T_{c} telle que si T > T_{c}, il n’y apas transition de phase et si T < T_{c}, il y a transition de phase.

Finissons par quelques remarques. Nous avons ici considéré le cadre de la dimension d = 2. Tout ceci se généralise en dimension d quelconque. On peut démontrer que pour d = 1, T_{c} = 0 (il n’y a jamais transition de phase). Pour d = 2, on connaît la valeur exacte de T_{c}, T_{c} = 2 [log(1 + \sqrt{2})] (pour J = 1). En dimension d ≥ 3, c’est un problème ouvert. Le fait qu’à haute température, il y ait transition de phase est assez facile à montrer (argument de Peierls).

24.4.3 Simulation d’une distribution de Gibbs par la méthode MCMC

On considère un processus (X_{n})_{n∈ℕ} à valeurs dans l’espace des configurations E. Autremant dit, pour tout n ∈ ℕ, X_{n} est une champ aléatoire.Supposons qu’il existe une chaîne de Markov irréductible aperiodique (X_{n})_{n∈ℕ} à valeurs dans E telle que sa distribution stationnaire soit donnée parπ_{T}. Alors on a

lim_{n→∞} d_{V} (ℙ_{X_{n}}, π_{T}) = 0  (24.4.3)

où d_{V} (μ, ν) est la distance en variation entre les deux probabilités μ et ν définie par

d_{V} (μ, ν) = ∑_{i∈E} |μ(i) − ν(i)|

On trouvera une preuve de ceci dans [8] ou [19]. Cette propriété donne une idée de comment simuler une variable aléatoire X ayant la probabilité π_{T}. La difficulté qui se présente lorsque l’on désire similer une variable aléatoire ayant pour loi π_{T} est que l’on ne connaît pas la fonction de partition Z_{T} et que le calcul de celle-ci, lorsque E est très grand (de l’ordre de 2^{|S|}), s’avère coûteux en temps et en précision.

L’échantillonage de Gibbs est le suivant. C’est en fait une version de l’algorithme de Metropolis. On se donne une probabilité (q_{s})_{s∈S} strictement positive (par exemple q_{s} = 1/|S|,i.e. la distribution un iforme sur S). La transition de probabilité qui permet de passer de X_{n} = x à X_{n+1} = y est obtenu de la manière suivante. On choisit un site s ∈ S avec probabilité q_{s}. x est alors changée en y uniquement sur le site s, i.e. x(S\{s}) = y(S\{s}) ; sur le site s x(s) est changé en y(s) = ±1 avec la probabilité

π(y(s)|x(S\s))

La matrice de transition de la chaîne de Markov (X_{n})_{n} ainsi construite est

ℙ(X_{n+1} = y|X_{n} = x) = q_{s}π(y(s)|x(S\s))11_{y(S\s)=x(s\s)}

La chaîne correspondante est irréductible et aperiodique (pourquoi ?). Pour cette chaîne, π_{T} est la distribution stationnaire car elle satisfait la condition de “bilan détaillé”. Le problème beaucoup plus compliqué est de savoir à quel moment (i.e. pour quel n) on peut considérer que la loi de X_{n} est qusi égale à π_{T}. On consultera encore [?] à ce sujet. Un échantillonage plus astucieux existe. Il consiste, au lieu de ne changer que la valeur d’un site à chaque unité de temps, de changer la valeur des |S| sites (cf. problème 7.6.2 de [8]).

24.4.4 Simulation via l’algorithme de Propp-Wilson pour le modèle d’Ising

On considère le modèle d’Ising à température β^{−1} > 0. L’espace des configurations est Ω_{m} = {−1, +1}^{Λ_{m}} où Λ_{m} = {1, …, m}^{2}. La probabilité que l’on considère sur l’espace des configurations est donnée par :

μ_{m,β}(ζ) = Z_{m,β}^{−1} exp (β ∑_{x∼y} ζ(x)ζ(y))

où Z_{m,β} est une constante de normalisation (fonction de partition). Si x est un site de Λ_{m}, on dénote par k_{+}(x, ζ) (resp. k_{−}(x, ζ)) le nombre de voisins de x qui ont pour valeur +1 (resp. −1).

1) Montrer que si ζ_{0} est un élément de Ω_{m} fixé

μ_{m,β}(ζ(x) = 1|ζ(Ω_{m}\\{x\}) = ζ_{0}(Ω_{m}\\{x\})) = \frac{exp (2β(k_{+}(x, ζ_{0}) − k_{−}(x, ζ_{0}))}{exp (2β(k_{+}(x, ζ_{0}) − k_{−}(x, ζ_{0})) + 1}

2) On introduit un ordre partiel sur Ω_{m} donné par ζ_{0} ≤ η_{0} si et seulement si pour tout site x, ζ_{0}(x) ≤ η_{0}(x). Montrer que :

μ_{m,β}(ζ(x) = 1|ζ(Ω_{m}\{x}) = ζ_{0}(Ω_{m}\{x})) ≤ μ_{m,β}(ζ(x) = 1|ζ(Ω_{m}\{x}) = η_{0}(Ω_{m}\{x}))

3) Montrer qu’il existe une configuration maximale et une configuration minimale pour cet ordre.

4) Soit (U_{n})_{n} une suite de variables aléatoires uniformes sur [0, 1] indépendantes. On définit le processus de markov (X_{n}) sur Ω_{m} de la manière suivante. Pour passer de X_{n} à X_{n+1}, on choisit un site x de Λ_{m} de manière aléatoire et uniforme. On laisse inchangés les sites de X_{n} autres que x. X_{n+1}(x) est égal à 1 si

U_{n+1} < \frac{exp (2β(k_{+}(x, X_{n}) − k_{−}(x, X_{n}))}{exp (2β(k_{+}(x, X_{n}) − k_{−}(x, X_{n})) + 1}

et −1 sinon.

a) Montrer que (X_{n})_{n} admet μ_{m,β} pour probabilité stationnaire et que la chaîne est aperiodique et irréductible.

b) Monter que le principe du sandwich dans l’algorithme de Propp-Wilson s’applique pour cette chaîne.

c) Simuler une variable aléatoire de loi μ_{m,β} via l’algorithme de Propp-Wilson.

24.4.5 Simulation de la transition de phase

On propose d’illustrer par simulation informatique la transition de phase pour le modèle d’Ising H = 0 et J = 1.

1) Soit m ≥ 1 et T > 0. A l’aide de l’algoritme de Propp-Wilson, écrire une procédure qui simule une variable aléatoire ayant pour loi π_{T,m}^{+} (resp. π_{T,m}^{−}) sur le carré {1, …, m}^{2}. On note cette fonction sim^{+}(m, T) (resp π^{−}(m, T)). Ce sont des tableaux de longueur m^{2}.

2) Ecrire une fonction mom−magn^{+}(T, m) (resp. mom−magn^{−}(T, m)) qui approxime π_{T,m}^{+}(ζ(0)) (resp. π_{T,m}^{−}(ζ(0))). Pour calculer cette espérance, on fera appel un certain nombre de fois à sim^{+}(m, T) (resp. sim^{−}(m, T)) et on effectuera une moyenne empirique. mom − magn^{±}(T, m) aura pour sortie un nombre.

3) Sur un graphique, tracer mom − magn^{±}(m, T) en fonction de T. On choisira m de taille assez grande pour considérer que m → ∞ et pas trop grand pour que les ismulations ne durent pas plus de 10 minutes.

4) Observer que les deux courbes sont approximativement égales pour T > T_{c} à la valeur 1/2 mais pas pour T < T_{c}.

5) Attention, les simulations peuvent être assez longues. En particulier, on constatera que l’algorithme prend beaucoup plus de temps lorsque T est aux environs de T_{c}. On évitera donc de prendre des valeurs trop proches de T_{c}.

24.5 Méthode de gradient stochastique

Une application à des méthodes de simulation apparaît dans ce que l’on appelle la méthode de gradient stochastique. Soit E un ensemble fini et U : E → ℝ une fonction appelée fonction de coût et que l’on cherche à minimiser. Autrement dit, on cherche à déterminer les i_{0} de E tels que

U(i_{0}) ≤ U(i) pour tout i ∈ E

Un tel élément est appelé un minimum global de la fonction de coût. L’algorithme de de gradient classique (ou déterministe) est le suivant et est grosso modo, une version discrète de la méthode du gradient. Pour chaque état i ∈ E, on se donne un ensemble (petit) N(i) de sites de E appelés les voisins de i. Supposons qu’à une certaine étape, une solution i est examinée. A l’étape suivante, un site j est choisi dans l’ensemble N(i) des voisins de i et on compare U(i) avec U(j). Si U(i) est plus petit, on s’arrête là. Si U(j) est plus petit, alors on repart de nouveau avec j qui joue maintenant le rôle de i. Puisque E est finie, l’algorithme s’arrêtera. Cependant, rien n’exclut qu’en fait de minimum global, ce soit un minimum local que l’on obtienne (c’est-à-dire que l’on tombe sur i tel que U(i) ≤ U(j) pour tout j ∈ N(i)). L’idée de l’algorithme de gradient stochastique est de donner la possibilité (avec une petite probabilité) à chaque étape de ne pas choisir le minimum entre U(i) et U(j). On évite ainsi de rester coincé sur un minimum local.

On se donne une suite de voisinages N(i) qui communiquent : Pour tout couple i, j ∈ E d’états, il existe une trajectoire de i à j, c’est-à-dire une suite finie d’états i_{1}, …, i_{m} ∈ E tels que i_{1} ∈ N(i), i_{2} ∈ N(i_{1}), …, j ∈ N(i_{m}).

On définit maintenant une matrice de transition irréductible (Q_{i,j})_{i,j∈E} telle que Q_{i,j} > 0 si et seulement si i = j ou j ∈ N(i). On supposera de plus que Q est symmétrique.

L’échantillonage de Métropolis est le suivant. On se donne un paramètre T > 0 et on pose

α_{i,j}(T) = inf \{1, e\frac{(U(i) − U(j)}{T}\}

On définit d’autre part une matrice de transition irréductible P (T) par

P_{i,j}(T) = Q_{i,j}α_{i,j}(T)

1) Montrer que si U n’est pas une constante alors P (T) est irréductible et aperiodique.

2) Montrer que P (T) admet une probabilité stationnaire donnée par :

∀i ∈ E, π_{i}(T) = \frac{e^{−U(i)/T}}{∑_{k∈E} e^{−U(k)/T}}

3) Soit H l’ensemble des minimas globaux

H = {i ∈ E; ∀j ∈ E, U(i) ≤ U(j)}

Montrer que

lim_{T →0} π_{i}(T) = \begin{cases}\frac{1}{|H|} & si i ∈ H \\ 0 si i ∉ H \end{cases}

Ces résultats suggèrent la procédure suivante. On initialise l’algorithme avec une valeur du paramètre T = T_{0} et on simule la chaîne de Markov de matrice de transition P (T_{0}). Au bout d’un temps suffisament long, la distribution de la chaîne sera proche de la probabilité π(T_{0}). A l’étape suivante, on choisit une valeur du paramètre T = T_{1} < T_{0} et à nouveau on simule la chaîne de Markov de matrice de transition P (T_{1}) partant de la distribution obtenue (qui est proche de π(T_{0}) donc proche de lim_{T →0} π(T)). On attend un temps suffisament long pour que la distribution de la chaîne simulée soit proche de la distribution stationnaire π(T_{1}). On continue ainsi de suite avec une suite de paramètres (T_{k})_{k≥0} qui tend vers 0. Toute la difficulté consiste alors à savoir quel temps a_{k} il faut attendre entre deux changements de paramètres T_{k} → T_{k+1} pour être proche de la distribution stationnaire et quel doit être l’ordre de grandeur du passage de T_{k} à T_{k+1}. Une condition nécessaire et suffisante a été donnée par Hajek (1988) mais elle est en pratique inutilisable. Elle énonce qu’il existe une constante γ telle que l’algorithme précédent converge quelque soit l’état initial si et seulement si

∑_{k=1}^{∞} e^{− \frac{γ}{a_{k}}} = ∞

En particulier, on peut choisir a_{k} de la forme

a_{k} = \frac{a}{log(k + 1)}

pour a ≥ γ. Bien entendu, on ne connaît pas la valeur de γ.

Un exemple élémentaire (Exemple 13.4 p. 104-105 de [19]) montre que si l’on choisit un refroidissement (i.e. une décroissance des T_{k}) trop rapide, alors l’algorithme peut defaillir. On considère un ensemble E à 4 éléments s_{1}, …, s_{4} et une fonction f définie par :

f(s_{1}) = 1,  f(s_{2}) = 2,  f(s_{3}) = 0,  f(s_{4}) = 2

On veut appliquer la méthode du gradient stochastique pour trouver le minimu de f.

1) Montrer que la matrice de transition de la chaîne de Markov qui permet d’appliquer l’algorithme pour une température T est donnée par :

( \begin{matrix}1 − e^{−1/T} & 0.5e^{−1/T} & 0 & 0.5e^{−1/T} \\ 0.5 & 0 & 0.5 & 0 \\ 0 & 0.5e^{−2/T} & 1 − e^{−2/T} & 0.5e^{−2/T} \\ 0.5 & 0 & 0.5 & 0 \end{matrix} )  (24.5.1)

Soit (T_{k}) la suite des températures que l’on choisit dans l’algorithme et a_{k} les temps de simulation avec température T_{k}. On commence donc par prendre une valeur X_{0}. On simule une chaîne de Markov partant de X_{0} avec la température T_{0} dans l’algorithme de Métropolis et au bout d’un certain temps a_{0}, on arrête là avec la température T_{0}. On a un nouvel état X_{1}. On part de ce nouvel état et on simule via Metropolis une chaîne de Markov mais à la température T_{1} pendant a_{1} et opn continue ainsi de suite. On suppose que l’on choisit s_{1} pour valeur de X_{0}. Soit A l’événement :”pour tout k, X_{k} = s_{1}.

1) Montrer que

ℙ(A) = ∏_{i=1}^{∞}(1 − e^{−1/T_{i}})^{a_{i}}

2) Supposons que l’on choisisse d’appliquer l’algorithme avec a_{i} = t_{0} = 10^{5}. Montrer que si a_{i} = i^{−1} alors l’algorithme ne fonctionnera pas toujours.

Remarque : Dans [19], il semble que a_{i} = 1, ce qui est très étrange... Néanmoins, cela ne modifie en rien l’argumentation finale.

258

Le modèle de Cox-Ross-Rubinstein, Fanny Godet

Le modèle de Cox-Ross-Rubinstein est une version discrétisée du modèle de Black-Scholes dans laquelle on considère deux actifs : un actif sans risque et un actif risqué. Tous les programmes sont rédigés en Matlab.

Simulation d’une variable aléatoire discrète

Le programme ci-dessous simule une variable aléatoire discrète X lorsque qu’on lui donne le vecteur x des valeurs que peut prendre X et le vecteur p des probabilités associées. On utilise pour cela la fonction rand de Matlab qui permet de simuler une variable aléatoire de distribution uniforme sur [0,1].

function z = simulationdiscrete(x,p)
%le vecteur p représente les probabilités des composantes x_i
if sum(p)~=1
    error('la somme des probabilités doit etre égale à 1')
elseif size(p)~=size(x)
    error('x et p doivent etre de meme longueur')
else
[n,m]=size(x);
u=rand(1,1);
sp=cumsum(p);
pp=[0 p(1:(n-1))];
spp=cumsum(pp);
k=find((u>=spp)&(u<sp));
z=x(k(1));
end

Simulation du cours de l’actif risqué et des cours des call et put sur l’actif risqué

Le rendement de l’actif sans risque est noté r. Le cours de l’actif risqué est donné par la formule suivante avec −1 < a < b :

S_{n+1} = \{ \begin{matrix}S_{n}(1 + a) avec une probabilité p \\ S_{n}(1 + b) avec une probabilité 1 − p \end{matrix}

Pour obtenir que le marché est viable et complet, j’ai démontré durant mon exposé qu’il est nécessaire et suffisant de vérifier les conditions suivantes :

r ∈]a, b[ et p = \frac{b − r}{b − a}

Dans les programmes suivants, j’ai appelé ’départ’ la valeur initiale de l’actif risqué, ’longueur’ le temps pendant lequel j’étudie les cours (qui correspond à N l’échéance des options) et enfin ’K’ le prix d’exercice de l’option.

La fonction trajectoire simule la valeur du cours de l’actif risqué.

function s=trajectoire(depart,a,b,r,longueur)
p=(b-r)/(b-a);
p=[p (1-p)];
x=[(1+a) (1+b)];
z=depart*ones(1,longueur);
for j=2:longueur
    z(j)=z(j-1)*simulationdiscrete(x,p);
end
s=z;

La fonction call simule le cours du call à l’instant n en fonction du cours de l’actif risqué à l’instant n noté s et de l’instant n.

call(n, s) = ∑_{j=0}^{N−n} C_{N−n}^{j}p^{j}(1 − p)^{N−n−j} (s(1 + a)^{j}(1 + b)^{N−n−j} − K)_{+}

function c=valeurcall(n,s,r,N,a,b,K)
p=(b-r)/(b-a);
ta=(1+a)*ones(N-n,1);
ta=[1 ;ta(1:N-n)];
ta=cumprod(ta);
tb=(1+b)*ones(N-n,1);
tb=[1 ;tb(1:N-n)];
tb=cumprod(tb);
tb=[tb((N-n+1):-1:1)];
t=(s*ta.*tb)-K;
tpos=[(t>0)];
t=t.*tpos;
c=(1+r)^(n-N)*dbinom(0:(N-n),(N-n),p)*t;

La fonction put calcule la valeur du put à l’instant n. Pour cela j’ai utilisé la relation de parité call-put :

call(n, s) − put(n, s) = s − K(1 + r)^{n−N}

function p=valeurput(n,s,r,N,a,b,K)
p=valeurcall(n,s,r,N,a,b,K)-s+K*(1-r)^(n-N);

Les simulations

J’ai décidé d’étudier les cours au jour le jour pendant un an. J’ai choisi un rendement sans risque de 3% par an et un cours de départ de l’actif risqué à 100 euros.

longueur=365;
r=(1.03)^(1/365)-1;
depart=100;
K=120;
a=-0.02;
b=0.02;
s=trajectoire(depart,a,b,r,longueur);
c=zeros(longueur,1);
p=zeros(longueur,1);
for j=1: longueur
    c(j)=valeurcall(j-1,s(j),r,longueur,a,b,K);
    p(j)=valeurput(j-1,s(j),r,longueur,a,b,K);
end
hold on
ylabel('Cours des actions')
xlabel('t en jours')
plot(1:365,s','b',1:365,c,'r:',1:365,p,'g-.',1:365,K,'y-.');
hold off
print -eps dessous.eps

En trait plein est dessiné le cours de l’action, en pointillé le cours du put et en pointillé plus léger le cours du call. Le trait horizontal correspond au prix d’exercice de l’option.

Fig. 25.1 – K est supérieur au cours de l’actif.

Ici près de la date d’échéance la valeur du put se rapproche de la différence entre K et le cours de l’actif alors que le cours du call tend vers 0. En effet il n’y a aucun interêt à posséder le droit d’acheter l’actif à un prix plus élevé que celui pratiqué par le marché.

Fig. 25.2 – K est inférieur au cours de l’actif.

Dans ce cas on voit que près de la date d’échéance le cours du call vaut approximativement la différence entre le cours de l’action et K.

Fig. 25.3 – K est au niveau du cours de l’actif. 264

Théorie de l’information et de la communication

Sources : Claude E. Shannon A mathematical source of communication Pierre Brémaud Introduction aux probabilités, Chapitre 5, Springer Thomas M. Cover, Joy A. Thomas, Elements of information theory (pages 194-197), Wiley, 1991.

26.1 Introduction

Ces notes, qui donnent toutes les démonstrations, parfois sous forme d’exercice, sont basées essentiellement sur le fameux livre de Shannon. Celui-ci a l’avantage d’être très pédagogique, ayant été écrit pour des ingénieurs. L’exposé étant parfois légérement elliptique du point de vue mathématique, on le complète facilement à l’aide du Brémaud (Chapitre 5) et du Cover-Thomas (trois pages). Dans son livre, Shannon introduit la notion d’entropie en théorie des transmissions (cette notion était avant lui connue en physique statistique dans un contexte très différent). Le livre de Shannon contient tous les points de départ des thèmes qui seront ensuite développés en ce qu’on appellera plus tard la ”théorie de l’information”. Les nombreux livres sur la théorie de l’information suivent, cinquante ans après, exactement le même plan que celui de Shannon ! Shannon commence par réduire le problème de la transmission à celui de la transmission d’une série de symboles émis par une source aléatoire. La source émet des symboles (représentant par exemple des phrases en français). L’incertitude du récepteur concernant le symbole qui va être transmis est grande mais pas totale, puisque certains symboles (certaines phrases) sont plus probables que d’autres. On suppose connue la probabilité de chaque symbole. Dans le cas du langage, Shannon montre que l’on peut évaluer cette probabilité en modélisant l’émission d’un texte comme la production d’une chaîne de Markov. Les probabilités de transition (lettre à lettre, ou plutôt mot à mot) de cette chaîne de Markov peuvent être apprises en analysant un texte de taille suffisante. Shannon montre par une simulation numérique très simple que si on respecte les probabilités de transition mot à mot, on peut déja synthétiser un texte qui ressemble vraiment à de l’anglais ! On peut donc supposer connue, ou calculable, la probabilité de chaque symbole (phrase) possible. Alors, dans la communication, tout se passe comme si la source (l’émetteur) tirait au sort un symbole et l’envoyait au récepteur. Voici quelques exemples tirés du livre de Shannon.

1. Approximation d’ordre zéro (symboles indépendants et équiprobables).

XFOML RXKHRRJFFJUJ ZLPWCFWKCYJ FFJEYVKCQSGHYD QPAAMKBZAACIUBZLH-JQD.

2. Approximation d’ordre un (symboles indépendants mais respectant les fréquences d’un texte anglais). OCRO HLI RGWR NMIELWIS EU LL NBNESEBYA TH EEI ALHENHTTPA OOBTTVA NAH BRL.

3. Approximation d’ordre 2 (fréquence des couples de lettres comme en anglais).

ON IE ANTSOUTINYS ARE T INCTORE ST BE S DEAMY ACHIN D ILONASIVE TUCOOWE AT TEATSONARE FUSO TIZIN ANDY TOBE SEACE CTISBE.

4. Approximation d’ordre 3 (fréquence des triples de lettres correcte).

IN NO IST LAT WHEY CRATICT FROURE BIRS GROCID PONDENOME OF DEMONS-TURES OF THE REPTAGIN IS REGOACTIONA OF CRE.

5. Approximation d’ordre 1 en mots : plutôt que de passer aux tétragrammes, il est plus facile de sauter aux unités en mots. La fréquence des mots est correcte : REPRESENTING AND SPEEDILY IS AN GOOD APT OR COME CAN DIFFERENT NATURAL HERE HE THE A CAME THE TO OF TO EXPERT GRAY COME TO FUR-NISHES THE LINE MESSAGE HAD BE THESE ;

6. Approximation d’ordre deux : les probabilités de transition entre mots successifs sont correctes (et rien d’autre). THE HEAD AND IN FRONTAL ATTACK ON AN ENGLISH WRITER THAT THE CHA-RACTER OF THIS POINT IS THEREFORE ANOTHER METHOD FOR THE LETTERS THAT THE TIME OF WHO EVER TOLD THE PROBLEM FOR AN UNEXPECTED ;

Shannon remarque : ”The resemblance to ordinary English text increases quite noticeably at each of the above steps. Note that these samples have reasonably good structure out to about twice the range that is taken into account in their construction. Thus in 3. the statistical process insures reasonable text for two-letter sequences, but four-letter sequences from the sample can usually be fitted into good sentences. In 6. sequences of four or more words can easily be placed in sentences without unusual or strained constructions.”

26.1.1 L’entropie d’une source

Shannon définit une source, comme un ensemble X X de symboles possibles avec leurs probabilités p(x) et cherche à définir son entropie comme une mesure de l’incertitude laissée au récepteur.

La définition formelle est

H(X) = − ∑_{x∈X} p(x) log p(x)

où X est la variable aléatoire dont la valeur est le symbole émis. (Sauf mention contraire, on note log pour le logarithme en base 2 et log_{D} pour le logarithme en base D). Pour expliquer cette définition de l’entropie de diverses manières, Shannon a recours à des arguments tirés de la loi des grands nombres. Aussi ne va-t-il pas considérer des symboles émis isolément, mais bien des suites de n symboles, où n est grand. Nous appellerons ces séquences des messages, et ces séquences sont composées de n symboles tous tirés de manière aléatoire indépendante selon la distribution de probabilité p(x).

L’entropie d’une source s’interprétera alors de trois manières :

– l’entropie est la longueur moyenne minimale des mots codant tous les symboles dans un alphabet binaire : Shannon montre que l’on peut coder de manière optimale en associant à chaque symbole x de probabilité p(x) un code binaire (nombre fait de 0 et 1) de longueur inférieure ou égale à − log p(x) + 1.

– l’entropie est la capacité minimale moyenne d’un canal capable de transmetre les messages issus de la source

– l’entropie est la moyenne du logarithme du nombre de ”messages typiques” quand la source envoie un nombre n assez grand de symboles successifs indépendants. En effet, toutes les séquences de symboles x_{1}x_{2} … x_{n} sont possibles, mais elles ne sont pas du tout équiprobables : par la loi des grands nombres, la fréquence d’apparition dans la séquence du symbole x tend vers p(x) quand n → ∞. Il y donc \underline{beaucoup moins} de messages typiques que de messages possibles. Le nombre de messages typiques est 2^{nH} où H est l’entropie, alors que le nombre de messages réels est (Card X)^{n} = 2^{n log Card(X)}.

Le principe du codage optimal est très intuitif : les messages sont codés par des codes d’autant plus courts qu’ils sont fréquents (codages de Elias-Fano-Shannon, ou de Huffman, voir le Brémaud, et le T.P. d’Agnès Desolneux). Dans tous les cas on retombe sur la même formule ; l’entropie est égale à − ∑_{x∈X X} p(x) log p(x).

26.1.2 Transmission dans un canal bruité

Ensuite, Shannon s’occupe de transmission dans un ”canal bruité” : son problème est de savoir si celle-ci est réalisable, et à quel prix en termes de redondance dans l’envoi. Shannon s’inspire de ses expériences d’enfant avec le télégraphe : il sait qu’un message peut être corrigé par le récepteur à cause de la ”redondance” du langage. Pour l’anglais, comme il le mesurera plus tard, cette redondance est de l’ordre de 50 pour cent : on peut supprimer jusqu’à la moitié des lettres, ou des mots, d’un message en anglais et qu’il soit encore reconstructible (essayer !). De plus, plus le message est long et plus la reconstruction est facile. Cette intuition va être transformée par Shannon en un théorème fondamental. Ce résultat de Shannon, obtenu pourtant par un argument mathématique non constructif, suscitera l’enthousiasme des ingénieurs. Il introduit la notion d’entropie relative, H(Y |X), où X est la source de messages aléatoires et Y est la sortie du canal, également une variable aléatoire. H(Y |X) mesure l’incertitude sur le message envoyé X sachant que l’on a reçu Y. C’est donc une mesure de l’incertitude produite par le canal, une mesure du ”bruit” dans celui-ci.

Dans son théorème fondamental, Shannon montre qu’il est possible d’ obtenir un taux d’erreur aussi bas que désiré. La transmission dans le bruit est donc possible et Shannon définit la capacité abstraite d’un canal comme max_{X} H(X) − H(X|Y) pour toutes les sources X utilisées comme entrées. (La capacité est la différence entre quantité d’information envoyée (H(X)) et l’incertitude générée sur ce qui est envoyé, H(X|Y)). Il montre ensuite que toute source d’entropie inférieure ou égale à cette capacité est transmissible avec un taux d’erreur arbitrairement bas.

26.1.3 Plan

Dans ces notes, qui combinent exercices élémentaires et démonstrations, nous allons (les numéros correspondent aux différents exercices) :

1. donner les formulaires de l’entropie et de l’entropie relative

2. caractériser l’entropie comme le logarithme du nombre moyen de séquences typiques de messages typiques quand la source émet une longue suite 3. définir la capacité d’un canal non bruité

4. montrer que toute source d’entropie inférieure ou égale à la capacité peut être transmise

5. compter les entrées et sorties typiques pour un canal bruité

6. définir la capacité d’un canal bruité

7. prouver le théorème fondamental de Shannon selon lequel la transmission est possible dans un canal bruité. Ce théorème est d’une élégance extrème. Il prouve l’existence d’un codage optimal par un argument de moyenne sur tous les codes possibles.

Ce dernier résultat a montré la possibilité de codes correcteurs d’erreur avant que de tels codages ne commencent à être trouvés. Leur théorie est loin d’être terminée.

26.2 Les étapes du codage : vocabulaire

– symbole : on peut penser comme unités significatives minimales aux phrases. Chaque phrase possible est dans le modèle de Shannon représentée par un symbole x dans un ”alphabet” X qui est donc fini mais très grand. (A comparer au langage de Sancho Panza dans Don Quichotte, qui ne parle que par proverbes : chaque proverbe a une fréquence et c’est une concaténation de proverbes qui constitue un discours de Sancho Panza.)

– Chaque phrase x a une probabilité p(x). Comment la calculer ? On modélise la langue comme le résultat d’une chaîne de Markov : on mesure pour chaque paire de mots M et N la probabilité p(M|N) que M suive N, mesurée comme le rapport entre le nombre d’apparitions de NM divisé par le nombre d’apparitions de N. Il suffit pour cela de parcourir quelques milliers de documents dans la langue concernée. On interprète p(M|N) comme la probabilité conditionnelle de lire M sachant qu’on a lu N. Le stockage en machine de ces probabilités est faisable : 10^{5} mots usuels et donc 10^{10} probabilités conditionnelles. On stocke aussi les probabilités d’apparition de chaque mot. On peut alors générer une ”phrase typique de longueur n”, x = M_{1}M_{2} … M_{n} de la langue en tirant au sort le premier mot M_{1} avec la distribution de probabilité p(M), le second avec la distribution de probabilité p(M|M_{1}), etc. Chomsky et Schützenberger ont démontré qu’un modèle markovien était insuffisant pour rendre compte de la structure syntaxique récursive du langage. Toutefois, le modèle markovien donne des résultats très acceptables, comme le prouve le fait que les phrases générées, apprises de journaux, ressemblent assez à la production journalistique moyenne.

– message : il s’agit d’une concaténation de symboles tirés selon la distribution p(x). Si chaque symbole représente une phrase, alors un message est une concaténation de symboles et représente donc un long texte. Chaque symbole est tiré indépendamment des autres, et un message de longueur n est donc simplement une suite de variables indépendantes et identiquement distribuées.

– variations du calcul d’entropie : Il est clair que le calcul de l’entropie d’un texte n’est pas le même si on utilise comme unité le caractère, ou le mot, ou la phrase. Shannon montre bien que plus les unités dont on calcule la probabilité sont longues et plus l’entropie décroît et serre de près la vraie incertitude sur le texte.

– codage d’une source par une autre : Soient deux sources différentes X_{1} et X_{2}. Les messages de longueur n émis par la source X_{1} peuvent être associés à des messages de longueur m émis par la source X_{2}, à condition que m soit assez long. Ainsi, les caractères de l’alphabet peuvent-être codés comme séquences de huit bits (mots composés de 0 et de 1). On appelle une telle application un codage. Les codages optimaux permettront d’adapter la longueur des symboles à leur fréquence, les symboles fréquents étant codès par des mots très courts et les symboles infréquents par des codes longs. Cette propriété du codage est déja patente dans le langage courant : ”oui”, ”non”, ”et”, ”quoi ?”, ”homme”, ”chat”, ”chien” sont courts et fréquents, ”anticonstitutionnellement” et ”rhinocéros” sont longs et rares.

Exercice 26.2.1. Formulaire de Shannon (source : Shannon) On définit l’entropie d’une v.a. discrète X dont les valeurs x sont dans l’alphabet fini X X, et idem pour un couple de variables aléatoires (X, Y) à valeurs dans X X × Y :

H(X) = − ∑_{x} p(x) log p(x), H(X, Y) = − ∑_{x,y} p(x, y) log p(x, y).

Montrer que l’entropie est l’espérance de g(X), avec g(X) = log \frac{1}{p(X)}.

Exemple important : on prend pour X la variable de Bernouilli, X = 1 avec probabité p, X = 0 avec probabilité 1 − p. Alors

H(X) = −p log p − (1 − p) log(1 − p),

que l’on notera H(p). Vérifier que H(X) = 1 bit quand p = \frac{1}{2}. Tracer le graphe de H(p) et montrer qu’elle vaut 0 en 0 et 1 est est maximale en p = \frac{1}{2}. Interprétation : l’incertitude sur X est maximale quand p = \frac{1}{2} et minimale quand X est déterministe. L’entropie est une mesure de l’incertitude sur la valeur de X.

Proposition 26.2.1. L’entropie jointe de deux variables aléatoires est plus petite que la somme des entropies. Il y a égalité si et seulement si les deux variables aléatoires sont indépendantes

H(X, Y) ≤ H(X) + H(Y).

Lemme 26.2.1. Soient p et q deux distributions de probabilité discrètes. Alors ∑ p(x) log \frac{p(x)}{q(x)} ≥ 0. Il y a égalité si et seulement si p(x) = q(x) pour tout x.

Démonstration de la proposition 26.2.1 . On applique le lemme 26.2.1 aux distributions p(x, y) et p(x)p(y).

∑ p(x, y) log \frac{p(x, y)}{p(x)p(y)} ≥ 0,

ce qui donne

− ∑_{x,y} p(x, y) log p(x, y) ≤ − ∑_{x,y} p(x, y) log p(x) − ∑_{x,y} log p(y),

l’égalité n’étant vérifiée que si p(x, y) = p(x)p(y). Comme ∑_{y} p(x, y) = p(x) et ∑_{x} p(x, y) = p(y), on obtient le résultat annoncé. □

Démonstration du lemme 26.2.1. On utilise la stricte concavité du logarithme.

− ∑ p(x) log \frac{p(x)}{q(x)} = ∑ p(x) log \frac{q(x)}{p(x)} ≤ log(∑ p(x)\frac{q(x)}{p(x)}) = log 1 = 0,

l’inégalité étant une égalité si et seulement si toutes les valeurs \frac{p(x)}{q(x)} sont égales entre elles, auquel cas la valeur commune est évidemment 1. □

Entropie conditionnelle de Y sachant X : c’est ”la moyenne de l’entropie de Y pour chaque valeur de X, pondérée par la probabilité d’avoir cette valeur particulière de X”. (Vérifier que la formule qui suit correspond à cette définition !)

H(Y |X) = − ∑_{x,y} p(x, y) log p(y|x).

”This quantity measures how uncertain we are of Y on the average when we know X.” En utilisant la définition de la probabilité conditionnelle :

p(y|x) = \frac{p(x, y)}{∑_{y} p(x, y)},

H(Y |X) = − ∑_{x,y} p(x, y) log p(x, y) + ∑_{x,y} p(x, y) log ∑_{y} p(x, y) = H(X, Y) − H(X).

Donc

H(X, Y) = H(X) + H(Y |X).

”The uncertainty (or entropy) of the joint event X, Y is the uncertainty of X plus the uncertainty of Y when X is known”. Utilisons la proposition 26.2.1 :

H(X) + H(Y) ≥ H(X, Y) = H(X) + H(Y |X).

Donc

H(Y) ≥ H(Y |X).

”The uncertainty of Y is never increased by knowledge of X. It will be decreased unless X and Y are independent events, in which case it is not changed”.

Exercice 26.2.2. Messages typiques (énoncé et démontré dans le Brémaud page 99 : essentiel !) Nous gardons les notations du Brémaud. En pratique D = 2. Soit X_{n} une suite de v.a.i.i.d. à valeurs dans un ensemble fini de symboles X X = {∞, ∈, ..., ∥} et telles que P (X_{n} = i) = p_{i}, i = 1, ..., k. Soit X X^{\} l’ensemble des suites (messages) de longueur n : il y en a k^{n}. On considère l’entropie de la répartition (p_{i})_{1≤i≤k},

H_{D}(p_{1}, ..., p_{k}) = −Σ_{i=1}^{i=k}p_{i} log_{D} p_{i}.

On définit l’ensemble des ”messages typiques”

C_{n} = {(i_{1}, ..., i_{n}) ∈ M^{n}, D^{−n(H_{D}+ε)} ≤ p_{i_{1}}...p_{i_{n}} ≤ D^{−n(H_{D}−ε)}}.

1) Montrer que E(− log_{D} p_{X_{n}}) = H_{D}.

2) Déduire que

P (\{|\frac{1}{n}Σ_{l=1}^{n}(− log_{D} p_{X_{l}}) − H_{D}| ≥ ε\}) = P ((X_{1}, ..., X_{n}) ∈ C_{n}^{c}) ≤ \frac{V ar(− log_{D} p_{X_{1}})}{nε^{2}}.

3) Montrer que

P ((X_{1}, ..., X_{n}) ∈ C_{n})) ≥ D^{−n(H_{D}+ε)} Card(C_{n}).

Déduire que Card(C_{n}) ≤ D^{(H_{D}+ε)n}.

4) Réciproque. Supposons que l’on ait pu trouver C̃_{n} ⊂ X X^{\} tel que lim_{n→+∞} P ((X_{1}, ..., X_{n}) ∈ C̃_{n}) = 1 et Card(C̃_{n}) ≤ D^{Kn}. On va montrer que K ≥ H_{D}.

4a) Montrer que lim_{n→∞} P ((X_{1}, ..., X_{n}) ∈ C_{n} ∩ C̃_{n}) = 1.

4b) Montrer que P ((X_{1}, ..., X_{n}) ∈ C_{n} ∩ C̃_{n}) ≤ D^{−n(H_{D}−ε)}D^{Kn} et conclure.

5) On prend D = 2, X X = \{′, ∞\}, p_{1} = p, p_{2} = (1 − p). Si p_{1} = p_{2} = \frac{1}{2}, vérifier que H_{2} = 1 et que le nombre de suites typiques est 2^{n}. (Pas de compression possible). Cas général : étudier la forme de H_{2}(p) = −p log p−(1−p) log(1−p) et en déduire le comportement des suites typiques.

Corrigé : Brémaud, Introduction aux probabilités, pages 97 à 102.

Exercice 26.2.3. Capacité d’un canal discret non bruité. Cette définition est donnée par Shannon page 37. Soit un canal tranmettant des séquences de symboles sans erreur. On appelle capacité du canal la quantité (mesurée en bits/seconde)

C = lim_{T →∞} \frac{log N(T)}{T}  (26.2.1)

où N(T) est le nombre maximal de messages distincts transmissibles pendant le temps T. Remarquer que cette définition ne se préoccupe pas de l’alphabet ou du type de codage discret ou physique dans lequel les messages sont transmis. On obtient une définition intrinsèque en considérant uniquement le nombre de messages distincts. Si par exemple le canal déterministe tranmet des séquences arbitraires de 0 ou 1 au débit de un symbole par seconde, on a 2^{T} messages possibles et on a donc bien une transmission à un bit par seconde. Cette définition de la capacité est aussi une hypothèse, à savoir l’existence de la limite (26.2.1).

Exercice 26.2.4. Application : transmission d’une source par un canal déterministe. L’énoncé qui suit et sa démonstration suivent très directement, et avec les mêmes notations, la démonstration originale de Shannon (page 59). Une deuxième démonstration proposée ensuite par Shannon donne un codage explicite, appelé depuis codage de Shannon-Elias-Fano. (Voir Brémaud pages 85-95). L’intérêt de la démonstration qui suit est qu’elle s’appuie entièrement sur l’évaluation du nombre de messages typiques grâce à l’entropie de la source. Le problème est de savoir comment lier la capacité d’un canal à l’entropie de la source dont on veut transmettre la production via ce canal. Comme la définition de la capacité est asymptotique (une limite quand des messages arbitrairement longs sont transmis), on considère aussi des messages arbitrairement longs émis par la source, c’est-à-dire des séquences de n symboles avec n → +∞.

Définition 26.2.1. Soit un système de transmission formé d’une source et d’un procédé de codage de cette source permettant son entrée dans un canal déterministe. On appelle débit maximal asymptotique du système la quantité lim sup_{n→∞} \frac{n}{T_{n}}, où T_{n} est le temps minimal garantissant la transmission d’une séquence de n symboles. On note aussi ET̃_{n} l’espérance du temps pour transmettre n symboles, autrement dit le temps moyen de transmission de n symboles de la source. On appelle ”débit moyen” du système de transmission, mesuré en symboles par seconde, la quantité

lim inf_{n→∞} \frac{n}{ET̃_{n}} .

Théorème 26.2.1. Soient une source d’entropie H (en bits par symbole) et un canal de capacité C (en bits par seconde). Alors pour tout ε > 0, il est possible de coder l’output de la source de telle sorte que la transmission dans le canal se fasse avec un débit moyen de \frac{C}{H} −ε symboles par seconde. Il n’est pas possible de transmettre avec un débit maximal strictement supérieur à \frac{C}{H}. En d’autres termes,

lim sup_{n→∞} \frac{n}{T_{n}} ≤ \frac{C}{H} et lim inf \frac{n}{ET̃_{n}} ≥ \frac{C}{H} .

Démonstration Montrons d’abord la deuxième partie : pour n grand, le cardinal de l’ensemble des messages de n symboles qui peuvent être émis par la source est supérieur ou égal à 2^{n(H−ε)} (exercice 2). Soit T_{n} le temps de transmission minimal requis pour être sûrs de transmettre l’un quelconque de ces messages. Par la définition de la capacité,

N(T_{n}) ≥ 2^{n(H−ε)}.

Comme T_{n} → ∞, on a pour n assez grand

\frac{log N(T_{n})}{T_{n}} ≤ C + ε

En combinant ces deux inégalités, on obtient

C + ε ≥ \frac{n(H − ε)}{T_{n}}

et donc

\frac{T_{n}}{n} ≥ \frac{H − ε}{C + ε}.

D’où lim inf_{n→∞} \frac{T_{n}}{n} ≥ \frac{H}{C} et donc lim sup_{n→∞} \frac{n}{T_{n}} ≤ \frac{C}{H}

Montrons maintenant la première partie : Pour n grand, on divise l’ensemble des messages de n symboles produits par la source en deux groupes, l’un contenant moins de 2^{n(H+η)} messages est l’ensemble des ”messages typiques”. L’autre, son complémentaire, contient moins de 2^{Rn} messages, où R est le logarithme du nombre de symboles différents. En effet, on a Card(X) symboles, donc Card(X)^{n} = 2^{n log Card(X)} suites possibles de n symboles. La probabilité du second groupe (les messages non typiques) est plus petite que μ. Quand n tend vers l’infini, on peut faire tendre η et μ vers zéro. Par ailleurs, on peut envoyer par le canal un nombre de messages différents de durée T supérieure ou égale à 2^{(C−θ)T}, où θ est arbitrairement petit quand T est grand. Ceci découle de la définition de la capacité. On choisit alors

T = n(\frac{H}{C} + λ).

On a donc dans ce temps la possibilité d’envoyer 2^{n(C−θ)( \frac{H}{C} +λ)} messages. On peut donc coder chacun des messages typiques de la source, à condition que (H + η) ≤ (C − θ)(\frac{H}{C} + λ), soit

λ ≥ \frac{1}{C − θ} (η + θ \frac{H}{C}),

condition réalisable avec λ arbitrairement petit pour n grand. Tous les messsages typiques de longueur n sont donc transmissibles en temps T. Reste à transmettre les messages non typiques, qui sont au plus 2^{nR}. En reprenant le raisonnement précédent, on voit qu’on peut les transmettre en un temps T_{1} = n(\frac{R}{C} + φ), où φ peut être arbitrairement petit pour n assez grand. Les messages non typiques sont beaucoup plus nombreux que les messages typiques et demandent un temps de transmission plus long. Mais ils sont rares. On peut donc estimer le temps moyen de transmission d’un message de n symboles issu de la source, l’espérance étant calculée sur l’espace produit X X^{n} :

ET̃_{n} ≤ (1 − μ)T + μT_{1} = n[(1 − μ)(\frac{H}{C} + λ) + μ(\frac{R}{C} + φ)].

Si on divise ce temps moyen par n on obtient le temps moyen de transmission par symbole et son inverse est le nombre de symboles transmis par unité de temps. Comme μ, λ, φ peuvent être rendus arbitrairement petits pour n grand, on obtient comme annoncé

lim inf \frac{n}{ET̃_{n}} ≥ \frac{C}{H} .

□

Exercice 26.2.5. Messages et sorties typiques pour un canal bruité (Cover-Thomas 8.6 page 195) On considère une source, c’est-à-dire une variable aléatoire X discrète de loi p(x), x ∈ X X. Un canal de transmission bruité transmet X avec erreur. Le résultat est une variable aléatoire Y de loi p(y). On note p(x, y) la loi jointe de x et de y. Dans le cas d’un canal non bruité, on aurait p(x, x) = p(x) pour tout x, p(x, y) = 0 pour x ≠ y. On note H(X), H(Y) et H(X, Y) les entropies de X, de Y et de (X, Y) respectivement. Cette dernière entropie s’appelle l’entropie jointe de X et Y. Si la source émet une séquence de n messages indépendants et équidistribués, on note X^{n} la variable aléatoire correspondante et Y^{n} la sortie (output). Les valeurs de X^{n} se notent x^{n} ∈ X X^{\} et celles de Y^{n} se notent y^{n} ∈ Y^{n}.

Définition 26.2.2. On appelle ensemble de couples message-sortie typiques relativement à la distribution p(x, y) l’ensemble A_{ε}^{n} des suites {(x^{n}, y^{n})} qui ont leurs entropies empiriques proches à ε près des entropies réelles, à savoir que A_{ε}^{n} = B_{ε}^{n} ∩ C_{ε}^{n} ∩ D_{ε}^{n} avec

B_{ε}^{n} = \{(x^{n}, y^{n}) ∈ X X^{\} × Y^{\} : | − \frac{∞}{\} log √(§^{\}) − H(X)| < ε\},  (26.2.2)
C_{ε}^{n} = \{(x^{n}, y^{n}) ∈ X X^{\} × Y^{\} : | − \frac{∞}{\} log √(†^{\}) − H(Y)| < ε\},  (26.2.3)
D_{ε}^{n} = \{(x^{n}, y^{n}) ∈ X X^{\} × Y^{\} : | − \frac{∞}{\} log √(§^{\}, †^{\}) − H(X , Y)| < ε\},  (26.2.4)

où p(x^{n}) = Π_{i=1}^{n}p(x_{i}), p(y^{n}) = Π_{i=1}^{n}p(y_{i}), p(x^{n}, y^{n}) = Π_{i=1}^{n}p(x_{i}, y_{i}) en raison de l’indépendance des n messages successifs.

Lemme 26.2.2. Soit (X^{n}, Y^{n}) une suite de longueur n de v.a.i.i.d. selon la loi p(x^{n}, y^{n}) = Π_{i=1}^{n}p^{(}x_{i}, y_{i}). Alors

1. ℙ((X^{n}, Y^{n}) ∈ A_{ε}^{n}) → 1 quand n → ∞.

2. Card({y^{n}, (x^{n}, y^{n}) ∈ A_{ε}^{n}}) ≤ 2^{n(H(Y |X)+2ε)}

3. Card({x^{n}, (x^{n}, y^{n}) ∈ A_{ε}^{n}}) ≤ 2^{n(H(X|Y)+2ε)}

Démonstration Montrons la première relation. Notons p_{1} : (x^{n}, y^{n}) → x^{n} et p_{2} : (x^{n}, y^{n}) → y^{n} les projections sur X^{n} et Y^{n} respectivement. Le résultat de l’exercice 2 nous assure que quand n → ∞,

ℙ(B_{ε}^{n}) → 1  (26.2.5)
ℙ(p_{1}(C_{ε}^{n}) × Y^{n}) = ℙ(p_{1}(C_{ε}^{n})) → 1  (26.2.6)
ℙ(X^{n} × p_{2}(D_{ε}^{n})) = ℙ(p_{2}(D_{ε}^{n})) → 1.  (26.2.7)

La relation 1 découle alors de la remarque générale que si des suites d’ensembles B_{i}^{n}, i = 1, …, k vérifient ℙ(B_{i}^{n}) → 1 quand n → ∞, alors ℙ(∩_{i=1}^{k}B_{i}^{n}) → 1 aussi. On applique cette remarque à l’intersection des trois ensembles précédents,

A_{n}^{ε} = B_{ε}^{n} ∩ (p_{1}(C_{ε}) × Y^{n}) ∩ (X^{n} × p_{2}(D_{ε}^{n})).

Montrons maintenant la relation 2. On a par hypothèse ℙ(X^{n} = x^{n}) = p(x^{n}) = 2^{−n(H(X)±ε)} et ℙ((X^{n}, Y^{n}) = (x^{n}, y^{n})) = p(x^{n}, y^{n}) = 2^{−n(H(X,Y)±ε)}. Donc

p(x^{n}) = ∑_{y^{n}} p(x^{n}, y^{n}) ≥ ∑_{y^{n}, (x^{n},y^{n})∈A_{ε}^{n}} p(x^{n}, y^{n}) ≥ Card({y^{n}, (x^{n}, y^{n}) ∈ A_{ε}^{n}}) inf (x^{n}, y^{n}) ∈ A_{ε}^{n}p(x^{n}, y^{n}).

Donc

Card({y^{n}, (x^{n}, y^{n}) ∈ A_{ε}^{n}}) ≤ 2^{−n(−H(X,Y)+H(X)+2ε)} = 2^{n(H(Y |X)+2ε)}.
□

Exercice 26.2.6. Capacité d’un canal bruité On définit un canal discret comme un système disposant d’un alphabet d’entrée X X et d’un alphabet de sortie Y et d’une matrice de probabilités de transition p(y|x) donnant la probabilité d’observer le symbole y en sortie quand le symbole x a été envoyé. Un tel canal est dit ”sans mémoire” car la distribution de probabilité de la sortie à chaque temps dépend uniquement de l’entrée et est indépendante des entrées et sorties précédentes. Shannon page 70 : On commence par définir le rate of transmission du canal (le débit) pour une source X et la sortie correspondante Y par

R = I(X; Y) = H(X) − H(X|Y) = H(Y) − H(Y |X) = H(X) + H(Y) − H(X, Y).

The first defining expression has already been defined as the amount of information sent less the uncertainty of what was sent. The second measures the amount received less the part of this which is due to noise. The third is the sum of the two amounts less the joint entropy and therefore in a sense is the number of bits per second common to the two. Thus, all three expressions have a certain intuitive significance. La capacité d’un canal va être définie comme le débit maximal pour toutes les sources possibles X.

Définition 26.2.3. On appelle capacité d’un canal discret sans mémoire la quantité

C = max_{p(x)} I(X; Y),

le maximum étant pris sur toutes les sources, i.e. toutes distributions de probabilité possibles p(x), x ∈ X à l’entrée.

Exemple 1 Si le canal transmet intégralement une entrée binaire sans erreur, la matrice de transition est l’identité. On a Y = X et donc I(X; X) = H(X) − H(X|X) = H(X). Donc la capacité est maximisée quand l’entropie de la source binaire est maximisée, ce qui donne comme attendu p(0) = p(1) = \frac{1}{2} et C = H(p) = 1 bit.

Exemple 2 : canal binaire symétrique On prend X X = Y = {′, ∞} et

p(y = 1|x = 1) = p(y = 0|x = 0) = 1 − p, p(y = 1|x = 0) = p(y = 0|x = 1) = p.

On rappelle que l’entropie d’un canal binaire (variable de Bernouilli (p, 1−p)), est H(p) = −p log p− (1 − p) log(1 − p). On a

H(Y)−H(Y |X) = H(Y)−∑ p(x)H(Y |X = x) = H(Y)−∑ p(x)H(p) = H(Y)−H(p) ≤ 1−H(p).

On obtient l’égalité en prenant X uniforme, car alors Y l’est alors aussi et on a H(Y) = 1. Donc C = 1 − H(p).

Exercice 26.2.7. Le théorème fondamental pour un canal discret bruité

Théorème 26.2.2. (Shannon pages 71, 72, 73) Soit un canal discret de capacité C et une source discrète d’entropie R.

(a) Si R ≤ C il existe un système de codage tel que la sortie de la source puisse être transmise sur le canal avec une fréquence arbitrairement petite d’erreurs.

(b) Si R > C il est possible de coder la source de manière que l’incertitude sur les messages H(X|Y) soit inférieure à R − C + ε où ε est arbitrairement petit.

(c) Il n’y a pas de méthode de codage qui donnerait une incertitude sur les messages H(X|Y) inférieure à R − C.

Démonstration (a) Soit une source X_{0} de débit approchant la capacité maximale C. On va l’utiliser comme entrée dans le canal. Considérons toutes les suites possibles transmises et reçues, d’une durée assez longue n. Dans toute la suite, les ε, η, θ désignent des réels positifs qui tendent vers zéro quand le débit de la source X_{0} se rapproche de la capacité maximale du canal ou quand la durée de transmission n → ∞. Pour ne pas alourdir les notations, on continuera à noter ε pour Cε quand C est une constante indépendante de n. Enfin on notera 2^{a±ε} un nombre quelconque b vérifiant 2^{a−ε} ≤ b ≤ 2^{a+ε}.

Nous considérons l’ensemble A_{ε}^{n} des couples typiques (x^{n}, y^{n}) de couples typiques formés euxmêmes de messages typiques envoyés et de messages typiques reçus (Définition 26.2.2).

1. Les suites transmises sont dans deux groupes : les messages typiques, dont le nombre est environ 2^{n(H(X)±ε)} et les autres, dont la probabilité totale est inférieure à η.

2. De même, les suites reçues forment un ensemble de suites typiques de nombre 2^{n(H(Y)±ε)} et de probabilité totale supérieure à 1 − η. On note M_{0} cet ensemble de messages typiques.

3. Par le lemme 26.2.2, chaque sortie typique peut être produite par au plus 2^{n(H(X|Y)+ε)} entrées.

4. De même, chaque entrée typique peut produire au plus 2^{n(H(Y |X)±ε)} sorties (on ne va pas utiliser cette dernière propriété.)

Soit maintenant une autre source X émettant avec un débit R < C (i.e. ayant une entropie inférieure à C.) On pose R = C −θ. Dans le temps n, cette source peut avoir 2^{n(R±ε)} messages typiques. Nous noterons M cet ensemble de messages typiques. Nous allons coder ceux-ci en les associant à des messages typiques de longueur n de la source X_{0}. Ces messages seront donc utilisés comme codes. Chaque codage est donc une application ℂ : M → M_{0} obtenue en tirant au hasard pour chaque message dans M (avec distribution uniforme) un élément de M_{0} qui devient son code. Les autres messages, non typiques, ne sont pas codés, ce qui donne une probabilité d’erreur plus petite que η. Supposons qu’on observe une sortie y_{1}. On va maintenant évaluer la probabilité d’erreur : quelle est la probabilité que y_{1} ait été associée à plus d’un message issu de M? Par (3), on sait que y_{1} a pu être produite par au plus 2^{n(H(X|Y)+ε)} messages x_{0} appartenant à M_{0}. La probabilité que chaque x_{0} ∈ M_{0} soit un code est 2^{n(R−H(X)±ε)}, car on a distribué 2^{n(R±ε)} messages uniformément dans 2^{n(H(X)±ε)} codes. Donc la probabilité que y_{1} soit issu d’un message de X (en dehors du message qui l’a provoqué) est majorée de la manière suivante

ℙ(erreur sur y_{1}) ≤ 2^{n(R−H(X)±ε)}2^{n(H(X|Y)+2ε)}.

Mais R = H(X) − H(X|Y) − θ, avec θ > 0. Donc

ℙ(erreur sur y_{1}) ≤ 2^{n(R−H(X)+ε+H(X|Y)+2ε)} = 2^{−n(θ−3ε)}

Comme η a été fixé (aussi petit qu’on veut) et que l’on peut à η fixé prendre ε aussi petit qu’on veut pour n assez grand, on déduit que la probabilité d’erreur pour \underline{chaque} message est arbitrairement petite, ce qui prouve (a) pour R < C.

(b) Si R ≥ C, on peut encore appliquer la construction précédente en choisissant de ne coder que 2^{n(C−ε)} messages des 2^{n(R±ε)} typiques. On ”jette” les autres. Ce n’est quand même pas très intéressant, puisque la plupart des messages typiques ne sont pas transmis !

(c) Supposons que l’on puisse transmettre par un canal de capacité C les messages d’une source X d’entropie R = C + a, avec a > 0 et que l’incertitude sur le message vérifie H(Y |X) = a − ε avec ε > 0. Alors H(X) − H(X|Y) = C + ε et cela contredit la définition de C comme le maximum de H(X) − H(X|Y) pour toutes les sources en entrée.

La question de la fin. Expliquer le raisonnement suivant de Shannon, qui conclut la démonstration précédente :

Actually more has been proved than was stated in the theorem. If the average of a set of positive numbers is within ε of zero, a fraction of at most \sqrt{ε} can have values greater than \sqrt{ε}. Since ε is arbitrarily small we can say that almost all the systems are arbitrarily close to the ideal.

En d’autres termes, presque tous les codes considérés précédemment sont des codes correcteurs d’erreurs : on peut tirer un code au hasard et il fonctionnera.

Alors, pourquoi est-il difficile en pratique de fabriquer un code correcteur d’erreur ?

26.3 Entropie, entropie relative, information mutuelle

Conseils de lecture : Claude E. Shannon et Warren Weaver The mathematical theory of communication University of Illinois Press 1998. (Très bon marché, commander par Amazon.com par exemple). Thomas M. Cover et Joy A. Thomas Elements of Information Theory, Wiley Series Telecommunications, Chapitres 2, 5 et 8 (ces chapitres forment un tout et peuvent être lus indépendamment du reste) Pierre Brémaud Introduction aux probabilités, Springer.

Exercice 26.3.1. La définition de l’entropie, opus cit. p. 49 Soit un ensemble fini d’événements dont les probabilités sont p_{1}, …, p_{n}. On connaît les p_{i}, mais on est dans l’incertitude sur quel événement va se produire. L’entropie H(p_{1}, …, p_{n}) va être définie comme une mesure de l’incertitude qui nous est laissée. Afin de comprendre les axiomes qui vont mener à la définition de l’entropie, il faut réaliser qu’une présentation d’un ensemble d’événements disjoints peut faire l’objet de regroupements et être donc présenté en arbre : par exemple, on peut regrouper les k premiers événements en un seul événement de probabilité p′_{1} et on obtient donc les deux suites de probabilités p′_{1} = ∑_{i=1}^{k} p_{i}, p_{k+1}, …, p_{n}, le premier événement étant décomposé à son tour en π_{1}, …, π_{k} avec π_{i} = \frac{p_{i}}{p_{1}+···+p_{k}}. Dans un cas on a n événements et dans l’autre un premier tirage entre n − k + 1 événements disjoints, suivi d’un deuxième tirage conditionnel entre k événements. On a donc deux présentations des mêmes événements : (p_{1}, … p_{n}), ou bien ((p′_{1}, π_{1}), … (p′_{1}, π_{k}), p_{k+1}, … p_{n}) On pose les axiomes intuitifs suivants.

1. H est continue

2. Supposons que les p_{i} sont égaux, p_{i} = \frac{1}{n}. Alors H doit être une fonction croissante de n

3. Si on recompose les n événements comme expliqué ci-dessous, il est clair que l’incertitude finale est la même. On exige donc

H(p_{1}, …, p_{n}) = H(p′_{1}, p_{k+1}, … p_{n}) + p′_{1}H(π_{1}, … π_{k}).

Il s’agit de montrer que sous les axiomes 1, 2 et 3, on a pour une constante positive K,

H(p_{1}, …, p_{n})) = −K ∑_{i=1}^{n} p_{i} log p_{i}.

1) On pose H(\frac{1}{n}, … \frac{1}{n}) = A(n). Montrer d’abord en utilisant l’axiome 3 que A(s^{m}) = mA(s). Si t est un autre entier, on peut trouver pour n aussi grand qu’on veut m tel que s^{n} ≤ t^{n} < s^{m+1}. En déduire en utilisant la monotonie (axiome 2) que \frac{m}{n} ≤ \frac{A(t)}{A(s)} ≤ \frac{m}{n} + \frac{1}{n} et finalement que A(t) = K log t.

2) Supposons que p_{i} = \frac{n_{i}}{∑_{1}^{n} n_{i}} sont des probabilités commensurables. Montrer en utilisant à nouveau l’axiome 3 que

K log ∑ n_{i} = H(p_{1}, …, p_{n}) + K ∑ p_{i} log n_{i}.

3) Traiter ensuite le cas non commensurable en approchant les p_{i} par des rationnels et en utilisant l’axiome 2 de continuité.

Exercice 26.3.2. Entropie relative et information mutuelle

Soit deux distributions de probabilité p(x) et q(x). On appelle distance de Kullback Leibler, ou entropie relative des deux distributions p(x) et q(x) la quantité

D(p||q) = ∑_{x∈X X} p(x) log \frac{p(x)}{q(x)} = 𝔼_{p} log \frac{p(X)}{q(X)}.

L’entropie relative est une mesure de la distance entre deux distributions.

Soient deux variables aléatoires discrètes X et Y avec une distribution jointe p(x, y). On note p(x) = ∑_{y∈X X} p(x, y) et p(y) = ∑_{x∈X X} p(x, y) les deux distributions marginales de X et Y respectivement. Alors on appelle information mutuelle I(X, Y) l’entropie relative entre la distribution jointe p(x, y) et la distribution produit p(x)p(y),

I(X, Y) = ∑_{x∈X X} ∑_{y∈X X} p(x, y) log \frac{p(x, y)}{p(x)p(y)} = D(p(x, y)||p(x)p(y)) = 𝔼_{p(x,y)} log \frac{p(X, Y)}{p(X)p(Y)}.

Démontrer que

I(X, Y) = H(X) − H(X|Y) = H(Y) − H(Y |X),
I(X, Y) = I(Y, X) = H(X) + H(Y) − H(X, Y), I(X, X) = H(X).

Remarquer que I(X, Y) = 0 si X et Y sont indépendantes.

Soient X_{1},, X_{2}, ..., X_{n} des variables aléatoires discrètes de distribution jointe p(x_{1}, x_{2}, … x_{n}). Montrer en utilisant uniquement (??) que

H(X_{1}, X_{2}, … X_{n}) = ∑_{i=1}^{n} H(X_{i}|X_{i−1}, …, X_{1}).  (26.3.1)

Montrer en utilisant les définitions de D et de la probabilité conditionnelle que

D(p(x, y)||q(x, y)) = D(p(x)||q(x)) + D(p(y|x)||q(y|x)).

Exercice 26.3.3. On rappelle l’inégalité de Jensen : Soit f une fonction convexe et X une variable aléatoire discrète, alors

𝔼f(X) ≥ f(𝔼X).

Si f est strictement convexe, l’égalité n’est vraie que si X = 𝔼X presque sûrement, i.e. X est constante. Montrer cette inégalité pour une variable aléatoire discrète.

Soient p(x) et q(x), x ∈ X X deux distributions de probabilité discrètes. En utilisant l’inégalité de Jensen appliquée au logarithme, qui est strictement concave, montrer que

D(p||q) ≥ 0

et que l’égalité est vraie si et seulement si p(x) = q(x) pour tout x.

En déduire que pour tout couple de variables aléatoires, (X, Y), on a

I(X, Y) ≥ 0

et égalité si et seulement si X et Y sont indépendantes.

En déduire aussi que H(X) ≤ log |X X |, où |X X | représente le nombre d’éléments dans l’image de X et il y a égalité si et seulement si X a une distribution uniforme sur X X. (Exprimer que D(p||u) ≥ 0, où u(x) = \frac{1}{|X X |} est la distribution uniforme sur X X).

Déduire aussi de la positivité de l’entropie relative que H(X|Y) ≤ H(X).

Déduire finalement que

H(X_{1}, X_{2}, … X_{n}) ≤ ∑_{i=1}^{n} H(X_{i}),

et que l’on a égalité si et seulement si les X_{i} sont indépendantes. (Utiliser la question précédente et (26.3.1)).

280

Bibliographie

[1] Baldi P., Mazliak L., Priouret P., Martingales et chaînes de Markov, Hermann, (2000)

[2] Bauer, Probability Theory,, (****)

[3] Billingsley P., Probability and Measure, Wiley, (1979)

[4] Bony J.M., Cours d’Analyse, Ellipses, (****)

[5] Borkar V., Probability Theory, Springer, (****)

[6] Brémaud P., An Introduction to Probabilistic Modeling, Springer, (1997)

[7] Brémaud P., Introduction aux probabilités : Modélisation des phénomènes aléatoires, Springer, (1997)

[8] Brémaud P., Markov Chains : Gibbs fields, Monte Carlo simulation, and queues, Springer Verlag, (1999)

[9] Brzesniak et Zastawniak, Basic Stochastic Processe, , (****)

[10] Buchwalter H., Le Calcul inrégral, Ellipses, (1991)

[11] Chambert-Loir A., Exercices d’analyse pour l’agrégation I/II/III, Masson (1994/95/96)

[12] Dacuhna, Castelle et Duflo, Probability and Statistics, , (****)

[13] J. Dieudonné, Calcul infinitésimal, Hermann, (1967)

[14] Durrett R., Probability : Theory and examples, Duxburry, (1995)

[15] Durrett R., Essential of Stochastic Processes, Springer, (1999)

[16] Feller W., An iIntroduction to Probability Theory and Its Applications, Vol. I/II, Wiley and Sons, Third Edition (1970)

[17] Foata D., Fuchs A., Processus stochastiques : Processus de Poisson, chaînes de Markov et martingales, Dunod, (2002)

[18] Grimmett G., Stirzaker D., Probability and Random Processes, Oxford University Press, Third Edition, (2001)

[19] Häggström O., Finite Markov Chains and Algorithmic Applications, Cambridge University Press, (2002)

[20] Hauchecorne B., Les contre-exemples en mathématiques, Ellipses, (1988)

[21] KarlinS., Taylor H.M., A First Course in Stochastic Processes/ A Second Course in Stochastic Processes, Springer, (1999)

[22] Kingman J.F.C., Poisson processes, Oxford Science Publications, (1993)

[23] Kipnis C., Landim C., Scaling limits of interacting particle systems, Springer, (1999)

[24] Lamberton D., Lapeyre P., Introduction au calcul stochastique appliqué à la finance, Ellipses, (1999)

[25] Liggett T., Interacting Particle Systems, Springer Verlag, (1985)

[26] J.-Y. Ouvrard, Probabilités 2, maîtrise-agrégation, Cassini, (2000)

[27] W. Rudin, Analyse réelle et complexe, Masson, (1975)

[28] Taylor, Introduction to measure and probability,, (****)

[29] S.R.S. Varadhan, Probability Theory, Courant Lecture Notes in Mathematics, (2001)

[30] D. Williams, Probability with martingales, Cambridge University Press, (1991)