Ecole Normale Supérieure de Cachan. Agrégation

Transformée de Fenchel

Dans toute la suite, E désigne un espace vectoriel normé et E′ son dual.

1. Soit f : IR^{N} → IR ∪ {+∞, −∞} une fonction.

(a) Montrer que f est semicontinue inférieurement (s.c.i.) si et seulement si l’épigraphe {(x, λ), f(x) ≤ λ}. est fermé. Rappel : on dit que f est semicontinue inférieurement en x si f(x) ≤ lim inf f(x_{n}) pour toute suite x_{n} → x. On notera Epi(f) l’épigraphe de f.

(b) Montrer que f est convexe si et seulement si son épigraphe est convexe.

(c) Montrer que si f_{i} est une famille de fonctions convexes alors sup_{i} f_{i} est convexe et que si f_{i} est une famille de fonctions s.c.i. alors sup_{i} f_{i} est s.c.i..

1. (a) Supposons que f soit s.c.i. et soit (x_{n}, λ_{n}) une suite dans l’épigraphe convergeant vers (x, λ). On a λ_{n} ≥ f(x_{n}) et donc

f(x) ≤ lim inf_{n} f(x_{n}) ≤ lim inf_{n} λ_{n} = lim_{n} λ.

Donc (x, λ) est encore dans l’épigraphe Epi(f) et celui-ci est donc fermé.

Réciproquement, supposons que l’épigraphe soit fermé et montrons que f est alors s.c.i.. Considérons une suite x_{n} et posons λ = lim inf_{n} f(x_{n}). Remarquer que cette limite n’est pas nécessairement finie, mais existe toujours comme limite d’une suite décroissante dans IR ∪ {−∞}. Par extraction d’une sous-suite, on peut supposer que λ = lim_{n} f(x_{n}). On veut montrer que f(x) ≤ λ. Si λ = +∞, c’est vrai. Si −∞ < λ < +∞, on a (x_{n}, λ_{n}) → (x, λ) et comme l’épigraphe est fermé, on a f(x) ≤ λ. Si λ = −∞, on a f(x_{n}) → −∞ et donc pour tout k et pour n assez grand, f(x_{n}) < −k. Donc (x_{n}, −k) est dans l’épigraphe et comme celui-ci est fermé, (x, −k) est dans l’épigraphe. Donc f(x) ≤ −k pour tout k et on a encore f(x) ≤ λ.

(b) Supposons que f soit convexe. Si (x, λ) et (y, μ) sont dans l’épigraphe, on a f(x) ≤ λ et f(y) ≤ μ. Soient α et β positifs ou nuls tels que α + β = 1. On a

αλ + βμ ≥ αf(x) + βf(y) ≥ f(αx + βy).

Donc (αx + βy, αλ + βμ) est dans l’épigraphe. Réciproquement, supposons que l’épigraphe de f soit convexe. Alors pour tous x et y les points (x, f(x)) et (y, f(y)) sont dedans. Donc aussi le point (αx+βy, αf(x)+βf(y)). On a donc αf(x)+βf(y) ≥ f(αx + βy), qui prouve que f est convexe.

(c) En utilisant les épigraphes, cela découle du fait qu’une intersection de convexes est convexe et qu’une intersection de fermés est fermée.

2. (a) Soit f : E → IR ∪ {+∞}. On dira que f est propre si son domaine {x, f(x) ≠ +∞} est non vide. On appelle Transformée de Fenchel (parfois aussi Legendre, Moreau) de f la fonction f : E′ → IR ∪ {+∞} définie par

f^{⋆}(y) = sup_{x∈E} < y, x > −f(x).

Déduire de la question précédente que f^{⋆} est convexe et s.c.i.. De même, si f : E′ → IR ∪ {+∞}, on considère

f^{⋆}(x) = sup_{y∈E′} < y, x > −f(y).

Montrer que f^{⋆} est convexe s.c.i..

(b) Donner un exemple de fonction propre f telle que f^{⋆} ne soit pas propre. Montrer que si f est convexe s.c.i. et propre, f^{⋆} l’est aussi. Indication : si f est propre (∃x_{0}, f(x_{0}) < +∞) séparer par un hyperplan de E × IR l’épigraphe et le point (x_{0}, f(x_{0}) − 1). En déduire que f^{⋆} est propre.

2. (a) L’épigraphe de f^{⋆} est une intersection de demi-espaces fermés. Il est donc convexe et fermé et par la question précédente (a) et (b) on déduit que f^{⋆} est convexe s.c.i..

(b) On peut prendre f(x) = \sqrt{|x|} pour x ∈ IR. Alors f^{⋆}(y) ≡ +∞. Si f est convexe et propre, il existe au moins un point (x_{0}, f(x_{0})) dans l’épigraphe et donc (par exemple) le point (x_{0}, f(x_{0}) − 1) n’est pas dans l’épigraphe. On peut donc appliquer le théorème de Hahn-Banach (version fermé-compact) à ce point et à l’épigraphe, considérés comme des parties de E × IR. Il existe donc (y, λ) ∈ (E × IR)′ = E′ × IR et une constante α ∈ IR tels que ∀(x, μ) ∈ Epi(f), < y, x > +λμ ≤ α et < y, x_{0} > +λ(f(x_{0}) − 1) > α. A cause de la deuxième relation, on ne peut pas avoir λ = 0. En faisant μ → +∞, on voit que nécessairement λ < 0. On déduit donc que

∀(x, μ) ∈ Epi(f), μ ≥ \frac{α}{λ}− < \frac{y}{λ}, x > .

En particulier,

∀x ∈ E, f(x) ≥ \frac{α}{λ}− < \frac{y}{λ}, x > .

Alors

f^{⋆}(−\frac{y}{λ}) = sup_{x} < −\frac{y}{λ}, x > −f(x) ≤ −\frac{α}{λ} < +∞.

3. Soit E un espace vectoriel normé. On dit que C un cône si IR^{+}C ⊂ C. On dit que ce cône est propre si C ≠ 0, C ≠ E. On pose si C ⊂ E,

C^{⋆} = {y ∈ E′, ∀x ∈ C, < y, x >≤ 0}

et de même, si C′ ⊂ E′,

C^{′⋆} = {x ∈ E, ∀y ∈ C′, < y, x >≤ 0}.

(a) Montrer en utilisant un théorème de Hahn-Banach que C est un cône propre si et seulement si C^{⋆} est un cône propre.

(b) Montrer que C ⊂ C^{⋆⋆}. Montrer que Montrer en utilisant un théorème de séparation de Hahn-Banach que C ⊂ E est un cône convexe fermé si et seulement si C^{⋆⋆} = C.

3. C^{⋆} est l’intersection des demi-espaces fermés H_{α,x} = {y, < y, x >≤ 0} qui sont des cônes convexes fermés et c’est donc un cône convexe fermé .

On a évidemment C ⊂ C^{⋆⋆}. Supposons qu’il existe x_{0} ∈ C^{⋆⋆} tel que x_{0} ∉ C. Alors on peut trouver, par le théorème de séparation de Hahn-Banach (version fermé-compact), y ∈ E′ et une constante λ tels que < y, x_{0} > > λ > < y, x > pour tout x ∈ C. Comme C contient 0, on a λ > 0. Comme C est un cône, on peut remplacer x par αx et faire α → +∞. En divisant par α il vient alors dans l’inégalité de droite 0 ≥ < y, x >, qui prouve que y ∈ C^{⋆}. Mais par définition de C^{⋆⋆}, on doit alors avoir < y, x_{0} >≤ 0, ce qui donne une contradiction.

4. (a) On associe à chaque fonction convexe propre f : E → IR ∪ {+∞} le cône convexe propre de E × IR^{2},

C(f) = IR^{+}{(x, λ, −1), λ ≥ f(x)}

et à g : E′ → IR ∪ {+∞}, propre, le cône convexe propre de E′ × IR^{2},

C′(g) = IR^{+}{(y, −1, μ), μ ≥ g(x)}.

Remarquer que (E × IR^{2})′ est identifiable à E′ × IR^{2}. On notera

< (y, α, β), (x, λ, μ) >=< y, x > +αλ + βμ

le crochet de mise en dualité de ces espaces. Vérifier que

C′(f^{⋆}) = C(f)^{⋆} et C(g^{⋆}) = C′(g)^{⋆}.

(b) Remarquer que C(f) est un cône convexe ferm non vide si et seulement si f est convexe s.c.i. et propre.

4. (a) Vérifions par exemple la première de ces relations. On a

(y, −1, μ) ∈ C′(f^{⋆}) ⇔

f^{⋆}(y) ≤ μ ⇔ sup_{x} < y, x > −f(x) − μ ≤ 0 ⇔

∀x, tel que f(x) ≤ λ, < y, x > −λ − μ ≤ 0 ⇔

∀x, tel que f(x) ≤ λ, < (y, −1, μ), (x, λ, −1) >≤ 0 ⇔
(y, −1, μ) ∈ C(f)^{⋆}.

Donc

C′(f^{⋆}) = C(f)^{⋆}.

(b) Il est clair que C(f) est non vide, convexe et fermé si et seulement si Epi(f) est non vide, convexe, et fermé. Par la question 1, cela équivaut à dire que f est convexe, propre et s.c.i..

5. En déduire en utilisant le 3) qu’une fonction est convexe s.c.i. si et seulement si f^{⋆⋆} = f.

5. Par le 3), C(f) est un cône convexe fermé propre si et seulement si C(f) = C(f)^{⋆⋆}. Mais par la question précédente, C(f)^{⋆⋆} = (C′(f^{⋆}))^{⋆} = C(f^{⋆⋆}). Donc C(f) est un cône convexe fermé propre si et seulement si C(f) = C(f^{⋆⋆}), qui est équivalent à f = f^{⋆⋆}.

6. Exemple 1. Soit C un convexe de E. On considère sa fonction caractéristique, 11_{C}(x) = 0 si x ∈ C, 11_{C}(x) = +∞ sinon.

(a) Calculer 11^{⋆}(y).

(b) On pose |y|_{C} = 11^{⋆}(y). Montrer que c’est une semi-norme sur E′ si et seulement si C est symétrique par rapport 0. (Remarque utile : f(−x)^{⋆} = f^{⋆}(−x).)

6 (a) On a 11_{C}^{⋆}(y) = sup_{x∈C} < y, x >= |y|_{C}.

(b) L’inégalité triangulaire est immédiate. Si C est symétrique par rapport à 0, il contient 0 et on a bien |y|_{C} ≥ 0. On vérifie aisément |λy|_{C} = λ|y|_{C} si λ > 0. Si C est symétrique par rapport à 0, |y|_{C} = | − y|_{C} et on a donc bien une semi-norme. Réciproquement, si |y|_{C} est une semi-norme, on a |y|_{C} = | − y|_{C} pour tout y. Donc 11^{⋆}(−y) = 11^{⋆}(y) et donc 11^{⋆⋆}(−y) = 11^{⋆⋆}(y) par la remarque utile, ce qui donne C = −C.

7. Exemple 2.

(a) Soit E = IR . On pose pour 1 < p < +∞, f(x) = |x|^{p}. Calculer f^{⋆}(y). (On posera p′ = \frac{p−1}{p}.) Vérifier par le calcul que l’on a bien f^{⋆⋆} = f.

(b) On prend E = IR^{N} muni de la norme euclidienne et on identifie E′ et E. On pose pour 1 < p < +∞, g(x) = ||x||^{p}. Calculer g^{⋆}(y).

7 (a) On obtient dans le cas de E = IR :

f^{⋆}(y) = sup_{x} yx − |x|^{p} = ((\frac{1}{p})^{\frac{1}{p−1}} − (\frac{1}{p})^{\frac{p}{p−1}} )|y|^{\frac{p}{p−1}} .

(b) On calcule sup_{x∈IR}(x, y)−||x||^{p}, où (x, y) dénote le produit scalaire dans IR^{N}. Si x réalise le maximum, il vérifie par différentiation y = ||x||^{p−2}x, et on déduit par substitution que la valeur du maximum est f^{⋆}(y) = ((\frac{1}{p})^{\frac{1}{p−1}} − (\frac{1}{p})^{\frac{p}{p−1}} )||y||^{\frac{p}{p−1}} .

8 Montrer que si f est une fonction quelconque E → IR ∪ {+∞} minorée par une forme affine : f(x) ≥< y_{0}, x > +α, alors f^{⋆} est propre. (Raisonner comme au 2). Montrer que l’épigraphe de f^{⋆⋆} est l’enveloppe convexe fermée de l’épigraphe de f : Interpréter aussi f^{⋆⋆} comme la plus grande fonction convexe g s.c.i. telle que g ≤ f et utiliser que f ≥ g ⇒ f^{⋆} ≤ g^{⋆}.

8 Pour montrer que f^{⋆} est propre, on raisonne comme au 2) et on obtient f^{⋆}(y_{0}) < +∞. Appelons g la plus grande fonction convexe s.c.i. telle que g ≤ f. Il est immédiat que son épigraphe est le plus petit convexe fermé contenant Epi(f). On sait déja que Epi(f^{⋆⋆}) contient Epi(f) (questions 3, 4). Donc f^{⋆⋆} ≤ f par la définition de g, on a f ≥ g ≥ f^{⋆⋆}. Mais f ≥ g ⇒ f^{⋆⋆} ≥ g^{⋆⋆} = g. Donc g = f^{⋆⋆}.