Ecole Normale Supérieure de Cachan. Magistère de Mathématiques, cours d’Analyse Fonctionnelle

Transforme de Fenchel

Dans toute la suite, E désigne un espace vectoriel normé et E′ son dual.

1. Soit f : IR^{N} → IR ∪ {+∞, −∞} une fonction.

(a) Montrer que f est semicontinue inférieurement (s.c.i.) si et seulement si l’épigraphe {(x, λ), f(x) ≤ λ}. est fermé. Rappel : on dit que f est semicontinue inférieurement en x si f(x) ≤ lim inf f(x_{n}) pour toute suite x_{n} → x. On notera Epi(f) l’épigraphe de f.

(b) Montrer que f est convexe si et seulement si son épigraphe est convexe.

(c) Montrer que si f_{i} est une famille de fonctions convexes alors sup_{i} f_{i} est convexe et que si f_{i} est une famille de fonctions s.c.i. alors sup_{i} f_{i} est s.c.i..

2. (a) Soit f : E → IR ∪ {+∞}. On dira que f est propre si son domaine {x, f(x) ≠ +∞} est non vide. On appelle Transformée de Fenchel-Legendre de f la fonction f : E′ → IR ∪ {+∞} définie par

f^{⋆}(y) = sup_{x∈E} < y, x > −f(x).

Déduire de la question précédente que f^{⋆} est convexe et s.c.i.. De même, si f : E′ → IR ∪ {+∞}, on considère

f^{⋆}(x) = sup_{y∈E′} < y, x > −f(y).

Montrer que f^{⋆} est convexe s.c.i..

(b) Donner un exemple de fonction propre f telle que f^{⋆} ne soit pas propre. Montrer que si f est convexe s.c.i. et propre, f^{⋆} l’est aussi. Indication : si f est propre (∃x_{0}, f(x_{0}) < +∞) séparer par un hyperplan de E × IR l’épigraphe et le point (x_{0}, f(x_{0}) − 1). En déduire que f^{⋆} est propre.

3. Soit E un espace vectoriel normé. On dit que C un cône ”pointu”, si c’est un cône tel qu’il existe y ∈ E′ vérifiant < y, x >≤ 0 pour tout x ∈ C. De méme, C′ est appelé un cône pointu de E′ s’il existe x ∈ E tel que < y, x >≤ 0 pour tout y ∈ C′. On pose si C ⊂ E

C^{⋆} = {y ∈ E′, ∀x ∈ C, < y, x >≤ 0}

et de même, si C′ ⊂ E′,

C^{′⋆} = {x ∈ E, ∀y ∈ C′, < y, x >≤ 0}.

Remarquer que si C est non vide, alors C^{⋆} est un cône convexe fermé pointu. Montrer en utilisant un théorème de séparation de Hahn-Banach que C ⊂ E est un cône convexe fermé pointu si et seulement si C^{⋆⋆} = C.

4. (a) On associe à chaque fonction propre f : E → IR ∪ {+∞} le cône pointu de E × IR^{2},

C(f) = IR^{+}{(x, λ, −1), λ ≥ f(x)}

et à g : E′ → IR ∪ {+∞} le cône pointu de E′ × IR^{2},

C′(g) = IR^{+}{(y, −1, μ), μ ≥ g(x)}.

Remarquer que (E × IR^{2})′ est identifiable à E′ × IR^{2}. On notera

< (y, α, β), (x, λ, μ) >=< y, x > +αλ + βμ

le crochet de mise en dualité de ces espaces. Vérifier que

C′(f^{⋆}) = C(f)^{⋆} et C(g^{⋆}) = C′(g)^{⋆}.

(b) Remarquer que C(f) est un cône convexe pointu non vide si et seulement si f est convexe s.c.i. et propre.

5. En déduire en utilisant le 3) qu’une fonction est convexe s.c.i. si et seulement si f^{⋆⋆} = f.

6. Exemple 1. Soit C un convexe de E. On considère sa fonction caractéristique, 11_{C}(x) = 0 si x ∈ C, 11_{C}(x) = +∞ sinon.

(a) Calculer 11^{⋆}(y).

(b) On pose |y|_{C} = 11^{⋆}(y). Montrer que c’est une semi-norme sur E′ si et seulement si C est symétrique par rapport 0. (Remarque utile : f(−x)^{⋆} = f^{⋆}(−x).)

7. Exemple 2.

(a) Soit E = IR . On pose pour 1 < p < +∞, f(x) = |x|^{p}. Calculer f^{⋆}(y). (On posera p′ = \frac{p−1}{p}.) Vérifier par le calcul que l’on a bien f^{⋆⋆} = f.

(b) On prend E = IR^{N} muni de la norme euclidienne et on identifie E′ et E. On pose pour 1 < p < +∞, g(x) = ||x||^{p}. Calculer g^{⋆}(y).

8 Montrer que si f est une fonction quelconque E → IR ∪ {+∞} minorée par une forme affine : f(x) ≥< y_{0}, x > +α, alors f^{⋆} est propre. (Raisonner comme au 2). Montrer que l’épigraphe de f^{⋆⋆} est l’enveloppe convexe fermée de l’épigraphe de f : Interpréter aussi f^{⋆⋆} comme la plus grande fonction convexe g s.c.i. telle que g ≤ f et utiliser que f ≥ g ⇒ f^{⋆} ≤ g^{⋆}.