2020/2021 Semestre d’automne - L3 MathEco

Université Lyon I Théorie de la mesure et Topologie

Feuille d’exercices VI.
Ensembles et fonctions convexes

Exercice 1. Montrer que les ensembles Ci suivants sont convexes et trouver les cônes
tangents TCi (0) en 0 = (0, 0) :
1. C1 = [0, +∞[×R, 2. C2 = [0, +∞[2 , 3. C3 = [−1, 1]2 , 4. C4 = {(x, y) ∈ [0, 1]2 :
x ≤ y}.

Correction 1. Une partie C d’un espace vectoriel réel est convexe si elle contient tout
le segment compris entre deux quelconques de ses points.
Pour simplifier la tâche, nous allons montrer que le produit A1 × A2 ⊂ Rk1 +k2 de deux
parties convexes A1 ⊂ Rk1 et A2 ⊂ Rk2 est convexe : Soient (x0 , y0 ) et (x1 , y1 ) deux
points de A1 × A2 , alors x0 , x1 ∈ A1 et y0 , y1 ∈ A2 . Le segment entre les deux points se
paramétrise par
s(t) = (1 − t) · (x0 , y0 ) + t · (x1 , y1 )
avec t ∈ [0, 1]. On voit que


s(t) = (1 − t) · x0 + t · x1 , (1 − t) · y0 + t · y1 ,

c’est-à-dire, la première composante de s(t) est le segment entre x0 et x1 en Rk1 et la

deuxième composante de s(t) est le segment entre y0 et y1 en Rk2 . Comme A1 et A2 sont
convexes, on obtient que (1 − t) · x0 + t · x1 ∈ A1 et (1 − t) · y0 + t · y1 ∈ A2 pour tout
t ∈ [0, 1], ou autrement dit, s(t) ∈ A1 × A2 . Ceci montre que A1 × A2 est convexe.
Pour (1), (2), (3), on sait que tout intervalle de R est convexe peu importe qu’il soit ouvert
ou fermé, borné ou non-borné. Clairement les parties C1 , C2 et C3 sont donc convexes
comme produits de parties convexes.
Pour partie (4), suppose que (x0 , y0 ) et (x
1 , y1 ) ∈ C4 , alors x0 , x1 , y0 , y1 ∈ [0, 1] et x0 ≤
y0 et x1 ≤ y1 . Soit s(t) = sx (t), sy (t) le segment entre (x0 , y0 ) et (x1 , y1 ). Comme
[0, 1] × [0, 1] est un convexe, il est clair que le segment s(t) reste dans [0, 1] × [0, 1] et il
faut juste vérifier sx (t) ≤ sy (t) pour s’assurer que s(t) ∈ C4 . Ici x0 ≤ y0 et x1 ≤ y1 donc
sx (t) = (1 − t) · x0 + t · x1 ≤ (1 − t) · y0 + t · y1 = sy (t) et C4 est convexe.
Rappelons-nous la définition du cône tangent :
Le cône tangent (au sens de l’analyse convexe) du convexe S dans un e.v.n.
E au point x ∈ S est
u − x
TS (x) := : u ∈ S, s > 0 = R∗+ · (S − x),
s
Pour le produit de deux ensembles convexes A1 × A2 , nous allons montrer que

TA1 ×A2 (x, y) = TA1 (x) × TA2 (y) . (1)

Soit (x0 , y 0 ) ∈ R∗+ · A1 × A2 − (x, y) , alors il existe un t ∈ R∗+ et
(x00 , y 00 ) ∈ A1 × A2 tq

x0 = t (x00 − x) et y 0 = t (y 00 − y). Ceci implique 0 ∗

 que x ∈ R+
· A1 −
0
 x et y ∈ R+
∗
· A2 − y
ou autrement dit R∗+ · A1 × A2 − (x, y) ⊂ R∗+ · A1 − x × R∗+ · A2 − y .

0 ∗


Pour prouver l’inclusion dans le sens inverse, soit maintenant x ∈ R + · A 1 − x et
y 0 ∈ R∗+ · A2 − y , alors il existent t1 , t2 ∈ R∗+ , x00 ∈ A1 et y 00 ∈ A2 tq x0 = t1 (x00 − x)

et y 0 = t2 (y 00 − y). Si t1 ≥ t2 , on va factoriser t1 , sinon il faudrait factoriser t2 , ce qui ne

change pas l’idée principale du calcul

(x0 , y 0 ) = t1 x00 − x, tt21 (y 00 − y) = t1 x00 − x, tt21 (y 00 − y) + y − y

 
= t1 x00 − x, tt21 y 00 + t1t−t



1
2
y − y = t 1 x̃ − x, ỹ − y ,

où x̃ = x00 et ỹ = tt12 y 00 + t1t−t

1
2
y. Comme s = tt21 ∈ [0, 1] et t1t−t
1
2
= 1 − s, nous avons montré
0
que ỹ se trouve sur le segment entre y et y, donc
par la convexité de A2 , ỹ ∈ A2 .
Ceci montre que (x0 , y 0 ) ∈ R∗+ · A1 × A2 − (x, y) et avec le résultat précèdent


 

R∗+ · A1 × A2 − (x, y) = R∗+ · A1 − x × R∗+ · A2 − y .

Pour obtenir le cône tangent, on prend l’adhérence de deux côté


 

TA1 ×A2 (x, y) = R∗+ · A1 − x × R∗+ · A2 − y .

Pour toutes parties A ⊂ Rk1 et B ⊂ Rk2 , l’adhérence d’un produit est égale au produit
des adhérences, c’est-à-dire
A×B =A×B .
Dans une direction, l’inclusion est évidente parce que l’adhérence A × B et le sous-
ensemble fermé le plus petit contenant A × B et le produit A × B est fermé et contient
bien A × B, donc A × B ⊂ A × B. Pour l’autre inclusion, nous pouvons utiliser qu’il
existe pour tout x∞ ∈ A et tout y∞ ∈ B une suite (xn ) ⊂ A et une suite (yn ) ⊂ B tq
xn → x∞ et yn → y∞ . Ceci implique que (xn , yn ) ⊂ A × B est une suite qui converge vers
(x∞ , y∞ ) et (x∞ , y∞ ) ∈ A × B.
On obtient donc

 

R∗+ · A1 − x × R∗+ · A2 − y

 

= R∗+ · A1 − x × R∗+ · A2 − y = TA1 (x) × TA2 (y)

et nous avons réussi à prouver l’équation (1).

Avec ce résultat on obtient donc

TC1 (0) = [0, ∞[×R, TC2 (0) = [0, +∞[2 , TC3 (0) = R2

et pour TC4 (0) note que R∗+ C4 − 0 = R∗+ C4 est {(x, y) : x ≥ 0, y ≥ 0, x ≤ y . Cet

ensemble est fermé, on trouve TC4 (0) = {(x, y) : x ≥ 0, y ≥ 0, x ≤ y .

 Exercice 2. 1. Soient A, B deux convexes. Montrer que A ∩ B est convexe.
Est-ce que A ∪ B est convexe ?
2. Soit A = {0} ∪ ]0, +∞[2 . Montrer que A est convexe dans R2 et calculer TA (0).
3. Soit B =] − ∞, 0] × R, calculer TB (0) et TA∩B (0).
4. Soient A, B deux convexes généraux avec c ∈ A ∩ B, trouver une relation entre
TA∩B (c) et TA (c) ∩ TB (c).

Correction 2. 1. Comme A et B sont convexes, elles contiennent tout le segment

compris entre deux quelconques de leur points.
Si x, y ∈ A ∩ B alors le segment [x, y] ⊂ A car A est convexe et [x, y] ⊂ B car B
est convexe. Ceci montre que [x, y] ⊂ A ∩ B et A ∩ B est convexe.
Par contre, soient A = {0} ⊂ R et B = {1} ⊂ R, alors A ∪ B = {0, 1} n’est
pas connexe et certainement pas convexe. En générale donc, la réunion de deux
convexes n’est pas convexe.
2. Clairement ]0, +∞[2 est convexe comme produit de deux convexes. Pour montrer
que A est convexe, il suffit de vérifier que tout segment entre 0 et un point (x, y) ∈
]0, +∞[2 est compris dans A.
Le segment est de la forme (1 − t) · 0 + t · (x, y) = t · (x, y) = (tx, ty) avec t ∈ [0, 1].
Si t 6= 0, alors (tx, ty) ∈]0, +∞[2 , si t = 0, alors (tx, ty) = 0, donc le segment
entier est contenu dans A et A est convexe.
Pour trouver le cône tangent, on vérifie sans problème que

R∗+ A − 0 = R∗+ A = A

et l’adhérence de R∗+ A − 0 est TA (0) = [0, ∞[2 .

3. En exo 1, nous avons vu que le cône tangent d’un produit de convexes et le produit
des cônes tangents correspondants, ici donc TB (0) =] − ∞, 0] × R. L’intersection
A∩B = {0} consiste seulement de l’origine et son cône tangent est TA∩B (0) = {0}.
4. Si x0 = t·(x−c) avec x ∈ A∩B et t > 0, alors 0 ∗ 0 ∗



x ∈ R + · A−c et x ∈ R + · B −c


,
ce qui implique l’inclusion R∗+ · A ∩ B − c ⊂ R∗+ · A − c ∩ R∗+ · B − c .

Pour l’inclusion dans le sens inverse, soit x0 = tA · (xA − c) et x0 = tB · (xB − c) avec

xA ∈ A, xB ∈ B, et tA , tB > 0. Suppose que tB ≥ tA , alors xB = ttBA · (xA − c) + c =
tA
tB
· xA + tBt−t
B
A
· c. Comme s = ttBA ∈]0, 1] et tBt−t B
A
= 1 − s, on voit que xB se
trouve sur le segment entre xA
et c, c’est-à-dire, xB ∈ A,
donc xB ∈ A ∩ B. Si
x0 ∈ R∗+ · A − c ∩ R∗+ · B − c , alors x0 ∈ R∗+ · A ∩ B − c et nous avons montré


 

R∗+ · A ∩ B − c = R∗+ · A − c ∩ R∗+ · B − c .

Si l’on prend l’adhérence de deux côtés on trouve


 

TA∩B (c) = R∗+ · A − c ∩ R∗+ · B − c .

Malheureusement (ou non ; selon vos goûts), en générale X ∩ Y 6= X ∩ Y comme

peut être vérifié par exemple avec X = Q et Y = R \ Q, car X ∩ Y = ∅, mais
 X ∩ Y = R ∩ R = R ! À la place, nous avons X ∩ Y ⊂ X ∩ Y car X ∩ Y est le
fermé le plus petit contenant X ∩ Y ; le côté droite contient X ∩ Y et est fermé.
Pour notre question ici, on trouve que

 

TA∩B (c) = R∗+ · A − c ∩ R∗+ · B − c

 

⊂ R∗+ · A − c ∩ R∗+ · B − c = TA (0) ∩ TB (0)

et la partie 3 ci-dessus montre que nous ne pouvons pas s’attendre mieux.

Exercice 3. Montrer les inégalités suivantes, à l’aide de raisonnements de convexité :

1. ∀x ∈ R, ex ≥ 1 + x.
2. ∀x > 0, ln(x) ≤ x − 1.
π 2
3. ∀x ∈ [0, ], x ≤ sin(x) ≤ x.
2 π
√ x
4. ∀x > −1, 1 + x ≤ 1 + .
2
Correction 3. Par un théorème du cours, une fonction différentiable f : C → R qui est
définie sur un ouvert convexe C d’un e.v.n. E, est convexe ssi pour tout u, v ∈ U :

f (u) − f (v) ≥ df (v) · (u − v) .

Selon un autre résultat du cours, f : I → R differentiable et définie sur un intervalle

ouvert I ⊂ R est convexe si et seulement si f 0 est croissante (en particulier, si f est deux
fois differentiable, f est convexe si f 00 ≥ 0).
d2 x
1. Comme dx2
e = ex > 0, alors ex est convexe. Selon le premier résultat, nous avons
0 0
ex − ex ≥ f 0 (x0 ) · (x − x0 ) = ex · (x − x0 ) .

Si l’on pose x0 = 0, nous trouvons l’inégalité désirée.

2
d d 1 1
2. Comme dx 2 ln x = dx x = − x2 < 0, alors f (x) = − ln x est convexe. À nouveau

avec le résultat du cours, on trouve

1
ln x0 − ln x = f (x) − f (x0 ) ≥ f 0 (x0 ) · (x − x0 ) = − 0
· (x − x0 ) .
x
Pose x0 = 1, alors
− ln x ≥ −x + 1 .
d2
3. Comme dx2 sin x = − sin x, la fonction f (x) = − sin x est convexe sur l’intervalle
[0, π]. On trouve donc

sin x0 − sin x = f (x) − f (x0 ) ≥ f 0 (x0 ) · (x − x0 ) = − cos x0 · (x − x0 ) .

Si on évalue en x0 = 0, on trouve

− sin x ≥ −x .
 Pour l’autre inégalité, on se sert de la définition de la convexité : toute segment
droit entre deux points du graphe de f se trouve au-dessus du graphe, c’est-à-dire,
pour tout λ ∈]0, 1[

λ f (x) + (1 − λ) f (x0 ) ≥ f λ x + (1 − λ) x0 .

En choisissant x = 0 et x0 = π/2, on trouve pour tout λ ∈]0, 1[

λ − 1 = λ f (0) + (1 − λ) f (π/2) ≥ f (1 − λ) π/2 = − sin (1 − λ) π/2

ou

1 − λ ≤ sin (1 − λ) π/2 .
En remplaçant (1 − λ) π/2 par la variable x, nous trouvons π2 x = 1 − λ et λ est
bien entre ]0, 1[, donc
2
x ≤ sin x .
π
√
4. La fonction g(x) = 1 + x a deuxième dérivé g 00 (x) = − 14 (√1+x)
1
3 < 0, alors
√
f (x) = − 1 + x est convexe. On trouve avec

f (x) − f (x0 ) ≥ df (x0 ) · (x − x0 ) .

où en remplace x0 = 0 pour obtenir

√ 1 1
− 1 + x + 1 = f (x) − f (0) ≥ df (0) · x = − √ · x = − · x
2 1 2
qui donne l’inégalité cherchée.
Exercice 4. Montrer que la fonction définie par
( x
e −1
x
pour x 6= 0
f (x) =
1 pour x = 0

est croissante sur R.

Correction 4. Selon le cours, une fonction g : I → R est convexe si et seulement si pour
tout a ∈ I, la fonction
g(x) − g(a)
4a g(x) =
x−a
est croissante sur I \ {a}.
x
Ici, on reconnaît e x−1 comme la fonction 4a g(x) pour g(x) = ex et a = 0. Comme ex
est convexe, on déduit que f est croissante sur R \ {0}. Finalement, on sait que ex est
differentiable en x = 0, ce qu’implique que 40 g(x) a une extension continue en x = 0, et
d 
limx→0 40 g(x) = dx x=0
exp x = e0 = 1, mais c’est bien la valeur de f en 0 donnée dans
l’exo, f (x) est donc une fonction continue.
Clairement, une fonction qui est continue en 0 et croissante sur R \ {0} est croissante sur
tout R, car choisie n’importe quel x > 0, alors



f (x) − f (0) = f (x) − f (ε) + f (ε) − f (0) .
La première parenthèse est toujours positive pour 0 < ε < x, donc

f (x) − f (0) ≥ f (ε) − f (0) .

Comme |f (ε) − f (0)| → 0 si ε → 0, et comme le côté gauche est indépendant de ε, nous

obtenons
f (x) − f (0) ≥ 0 .
Pour x < 0, le calcul est analogue. On a donc prouvé que f est croissante sur tout R.

Exercice 5. Soit f la fonction définie par la formule f (x) = x2k , pour k ∈ N∗ .

1. En calculant la dérivée seconde, montrer que f est strictement convexe sur ]−∞, 0[
et sur ]0, +∞[.
2. Montrer que f est strictement convexe sur R.

Correction 5. 1. f 0 (x) = 2k x2k−1 et f 00 (x) = 2k (2k − 1) x2k−2 . Si k = 1, alors

f (x) = 2 > 0 et f est strictement convexe sur tout R, si k > 1, alors f 00 (x) est
00

strictement positive sur R∗ , mais en x = 0 la deuxième dérivé s’annule. On trouve

donc que f est strictement convexe sur ] − ∞, 0[ et sur ]0, +∞[ (R∗ n’est pas un
domaine convexe).
2. Pour vérifier la convexité stricte sur tout R, nous utilisons la définition : Il faut
pour tout x, x0 ∈ R avec x 6= x0 , la segment par entre x, f (x) et


montrer que
x0 , f (x0 ) se trouve (sauf pour les points initiales et finales) strictement au-dessus

du graphe de f , c’est-à-dire, pour tout λ ∈]0, 1[

λ f (x) + (1 − λ) f (x0 ) > f λ x + (1 − λ) x0 .

Si x0 = 0, on obtient l’inégalité stricte

λ f (x) = λ x2k > λ2k x2k = f λ x ,

car λ ∈]0, 1[. Soient x, x0 > 0, comme f est strictement convexe sur ]0, ∞[ nous
trouvons
λ f (x) + (1 − λ) f (x0 ) > f λ x + (1 − λ) x0 .

Clairement f (x0 ) = f (−x0 ), donc

2k
λ f (x) + (1 − λ) f (−x0 ) > f λ x + (1 − λ) x0 = λ x + (1 − λ) x0


.

Nous finissons la preuve avec (a − b)2k ≤ (a + b)2k pour a, b > 0 car (a − b)2 =
a2 − 2ab + b2 ≤ a2 + 2ab + b2 = (a + b)2 et car la fonction x 7→ xk est croissante
sur [0, ∞[.

Exercice 6. Soient E, F des e.v. sur R.

1. Soient f : E → R, g : R → R deux fonctions telles que f est convexe et g est
convexe et croissante. Montrer que g ◦ f est convexe.
2. Si f : E → R est convexe et A : F → E linéaire, montrer que f ◦ A est convexe.

p
3. Montrer que f (x, y) = |2x + 3y| + |x − y| est convexe sur R2 pour p ∈ [1, +∞[.
Correction 6. 1. Soit u, v ∈ E et λ ∈]0, 1[, alors par la convexité de f nous avons


f λu + (1 − λ) v ≤ λ f (u) + (1 − λ) f (v) .

Grâce à la monotonicité de g nous pouvons appliquer g des deux côtés

g ◦ f λu + (1 − λ) v ≤ g λ f (u) + (1 − λ) f (v) .

Maintenant on utilise sur le côté droite que g est convexe pour voir que g ◦ f est
convexe.
2. La linéarité de A nous permet d’écrire




f A λu + (1 − λ) v = f λ Au + (1 − λ) Av

et la convexité de f fait que

f λ Au + (1 − λ) Av ≤ λ f (Au) + (1 − λ) f (Av) ,

donc f ◦ A est bien convexe.

3. La fonction f se compose de g(x, y) = |2x + 3y| + |x − y| et u 7→ uk . La deuxième
fonction est convexe et croissante sur [0, ∞[. Avec la partie 1 de cet exercice, il
suffit de montrer que g est convexe. Comme vu dans le cours, la somme de deux
fonctions convexes est convexe, if faut donc montrer que (x, y) 7→ |2x + 3y| et
(x, y) 7→ |x − y| sont convexes.
L’application x 7→ |x| est convexe, car

|λx + (1 − λ) x0 | ≤ λ |x| + (1 − λ) |x0 |

par l’inégalité triangulaire. (x, y) 7→ 2x + 3y et (x, y) 7→ x − y sont des fonctions

linéaires et nous finissons en appliquant partie (2) de cet exercice.

Exercice 7. 1. Prouver que la fonction f définie par f (x, y) = xy n’est pas convexe
sur R , mais que les fonctions g, h définies par g(x, y) = x2 + y 2 et h(x, y) =
2

x2 + y 2 + xy le sont.
2. Montrer que les trois fonctions suivantes sont séparément convexes en x (pour
chaque y) et en y (pour chaque x).

i(x, y) = exp(x + y), j(x, y) = exp(xy), k(x, y) = exp x + exp y .

Lesquelles sont des fonctions convexes sur R2 ?

 Rappels : La hessienne d’une fonction f : Rn → R de classe C 2 est la matrice
 ∂ 2f 
Hf (x1 , . . . , xn ) = (x1 , . . . , xn )
∂xi ∂xj 16i,j6n

2 2
de ses dérivés partielles secondes. La matrice est symétrique car ∂x∂i ∂x
f
j
= ∂x∂j ∂x
f
i
.
t n
Une matrice symétrique A est dite positive si vAv ≥ 0 quelque soit v ∈ R , elle
est dite définie positive si ∀v 6= 0 : t vAv > 0.
Pour tester si A est définie positive, il existe le


Critère de Sylvester : Pour qu’une matrice A = aij 16i,j6n , réelle
symétrique,
soit définie positive, il faut et suffit que les n matrices
Ap = aij 16i,j6p pour p de 1 à n, aient leur déterminant strictement
positif, autrement dit que les n mineurs principaux dominants soient
strictement positifs.
Attention : Si det Ap ≥ 0pour tous les p de 1 à n, ce ne suffit pas pour dire que
0 0
A est positive (exemple ) par contre nous pouvons déduire un critère
0 −1
facile pour montrer que A n’est pas positive :


Soit A = aij 16i,j6n , une matrice réelle symétrique. Si le déterminant


d’une des n matrices Ap = aij 16i,j6p pour p de 1 à n est strictement
négative, alors A n’est pas positive.
Preuve : Toute matrice symetrique A admet une base de vecteurs propres
v1 , . . . , vn associés aux valeurs propres λ1 , . . . , λn . Il est facile de se convaincre que
A est positive si et seulement si tous les valeurs propres sont positives et définie
positive si et seulement si tous les valeurs propres sont strictement positives.
En particulier, si A est positive, nous pouvons legèrement pousser toutes les
valeurs propres qui s’annulent vers ]0, ∞[ pour trouver une matrice symétrique A0
définie positive arbitrairement proche de A. Le critère de Sylvester nous dit que
les sous-déterminants de A0 sont strictement positives et par continuité il faut
donc que les déterminants de toutes sous-déterminants Ap de A soit au moins
positives.
Exercice : ajouter les détails.

Correction 7. 1. Toutes les fonctions mentionnées sont lisses, nous pouvons donc
calculer leur hessiennes.
     
0 1 2 0 2 1
Hf (x, y) = , Hg(x, y) = , Hh(x, y) =
1 0 0 2 1 2

On voit que selon le choix du vecteur (a, b),

   
a a

Hf (x, y) , = 2ab
b b

peut être positive (par exemple (a, b) = (1, 1)) ou négative (par exemple (a, b) =
(1, −1)). Selon le critère expliqué au cours, f n’est ni convexe ni concave.
 Les formes symétriques Hg(x, y) et Hh(x, y) sont définies positives. C’est facile à
vérifier avec :
et on déduit que g et h sont strictement convexes.
2. Les fonctions sont lisses, nous obtenons pour leur hessiennes
   2 
1 0 y 1 + xy
Hi(x, y) = exp(x + y) · , Hj(x, y) = exp(xy) · ,
0 1 1 + xy x2
 
exp x 0
Hk(x, y) = .
0 exp y

Avec le critère de Sylvester, nous voyons que Hi et Hk sont positive définies, par
contre Hj ne l’est pas car det Hj = − exp(2xy) · (1 + 2xy) qui n’est ni positive ni
négative. Ceci implique que i et k sont strictement convexe et j n’est même pas
convexe.
Dans tous les trois cas, nous voyons que les fonctions sont séparement convexes en
x et en y, car leur dérivés respectives correspondent aux valeurs sur la diagonale
de l’héssienne.
Exercice 8. Lesquels parmi les fonctions suivantes sont convexes sur [−1, 1]2 :

x3 + y 3 x4 + y 4 x3
h1 (x, y) = , h2 (x, y) = , h3 (x, y) = x2 +y 2 + , h4 (x, y) = x4 +y 4 −4xy .
6 12 3
Correction 8. Toutes les trois fonctions sont lisses. Calculons donc les hessiennes :
   2 
x 0 x 0
Hh1 (x, y) = , Hh2 (x, y) = ,
0 y 0 y2
   
1 + 2x 0 12x2 −4
Hh3 (x, y) = , Hh4 (x, y) = .
0 1 −4 12y 2

Clairement Hh1 n’est ni positive ni négative pour x < 0 et y > 0 ou x > 0 et y < 0. En
particulier, h1 n’est pas convexe (ni concave).
La matrice Hh2 est définie positive sur l’ensemble où x 6= 0 et y 6= 0. Ceci suffit pour
dire que pour tel (x, y), t v · Hh2 (x, y) · v ≥ 0 pour tout v ∈ R2 . Comme Hh2 est continue,
on garde v fix et pousse x → 0 ou y → 0, et on obtient t v · Hh2 (0, y) · v ≥ 0 et
t
v · Hh2 (x, 0) · v ≥ 0. Ceci implique que h2 est convexe.
La matrice Hh3 est définie positive sur x > −1/2, mais h3 n’est pas convex pour x <
−1/2. La matrice Hh4 est seulement définie positive si 9x2 y 2 > 1, c-à-d, |x| |y| > 1/3. Ni
h3 ni h4 ne sont convexes.

Exercice 9. Soit f (x, y, z) = (2x + y)2 + (2x + z)2 − x2 .

1. Montrer que les restrictions de f aux sous-espaces :

C1 = {(x, y, 0), (x, y) ∈ R2 }, C2 = {(x, 0, z), (x, z) ∈ R2 }, C3 = {(0, y, z), (y, z) ∈ R2 }

sont convexes.
2. Est-ce que f est convexe sur R3 ?
Correction 9. Calculons l’héssienne de f :
   
14 4 4 7 2 2
Hf (x, y, z) =  4 2 0 = 2 · 2 1 0 .
4 0 2 2 0 1

1. Chacune de sous-déterminants
     
14 4 2 0 14 4
= 12, = 4, = 12
4 2 0 2 4 2

est strictement positive (et 14, 2, 14 aussi). Les matrices sont donc définie positive
et les restrictions de f au hyperplan x = 0, au hyperplan y = 0 et au hyperplan
z = 0 sont strictement convexe.
2. Pour montrer que f n’est pas convexe, observons d’abord que les sous-déterminants
 
14 4
14 > 0, det = 22 ·(7−4) = 12 > 0, det Hf = 23 ·(−1) = −8 < 0 .
4 2

ne sont pas toutes positives, donc Hf n’est pas définie positive, et f n’est donc
convexe.
Exercice 10. On s’intéresse au problème de minimiser la fonction f définie par :

f (x, y) = x2 − 2x + y 4

sur le pavé A := {(x, y) ∈ R2 : 0 ≤ x ≤ 1/2, 0 ≤ y ≤ 2} = [0, 12 ] × [0, 2].

1. Montrer que A est convexe.
2. Prouver que f est convexe sur A.
3. Montrer qu’il existe une solution unique du problème (Indication : rappeler pour-
quoi A est compact).
4. Trouver la solution.
Correction 10. 1. A est convexe comme produit de deux intervalles.
2. L’hessienne de f est  
2 0
Hf (x, y) = .
0 12y 2
On obtient que f est convexe sur [0, 1/2] × [0, 2] (car t v · Hf · v = 2a2 + 12y 2 b2 ≥ 0
pour v = (a, b)) et même strictement convexe sur [0, 1/2]×]0, 2].
3. A est compact car fermé et borné. Toute fonction continue atteint un minimum sur
un compact, mais il se pourrait qu’il y en a plusieures. Une fonction strictement
convexe sur un convexe n’a qu’au plus un minimum (comparez avec exo 11.2).
Suppose que (x0 , y0 ) et (x1 , y1 ) sont deux minima de f . En particulier f (x0 , y0 ) =
f (x1 , y1 ). Par la convexité, nous avons






f (1 − s) x0 , y0 + s x1 , y1 ≤ (1 − s) f x0 , y0 + s f x1 , y1
 pour tout λ ∈]0, 1[ et on déduit que f est constant sur le segment entre (x0 , y0 ) et
(x1 , y1 ).
On va distinguer deux cas : Si y1 6= 0, l’intérieure du segment se trouve aussi
dans [0, 1/2]×]0, 2]. Le minimum de de la restriction de f à [0, 1/2]×]0, 2] n’est pas
unique, ce qui est une contradiction à la convexité stricte.
On obtient donc que forcement x0 = y0 = 0, mais on voit que la restriction f (·, 0)
est convexe sur [0, 1/2], il faut donc que le minimum de f (·, 0) soit unique.
4. Le gradient de f est ∇f = (2x − 2, 4 y 3 ). Le seul point où ∇f s’annule est (1, 0),
mais ce point ne se trouve pas dans le domaine A. Forcement, f atteint donc son
minimum sur le bord de A.
En regardant les quatres fonctions f1 (x) = f (x, 0) = x2 − 2x, f2 (x) = f (x, 2) =
x2 − 2x + 4, f3 (y) = f (0, y) = y 4 , f4 (y) = f (1/2, y) = −3/4 + y 4 , nous trouvons les
respetivement que le minimum globale de f1 est x = 1, mais pas se trouvant sur
[0, 1/2], le minimum est x = 1/2, le minimum de f2 est aussi x = 1/2, le minimum
de f3 est y = 0 et le minimum de f4 est y = 0. Le minimum de f est donc le point
(x, y) = (1/2, 0).

Exercice 11. On s’intéresse au problème de minimiser la fonction

x4 x2 y 3 x2 y 2
f (x, y) = + + + +4
12 12 2 2
sur le pavé A := {(x, y) ∈ R2 : −1 ≤ x ≤ 1, −1 ≤ y ≤ 1}.
1. Prouver que f est strictement convexe sur A.
2. Montrer qu’il existe une solution unique du problème.
3. Trouver la solution.
Correction 11. 1. A est le produit de deux intervalles et donc convexe. f est lisse
en son hessienne est
3
!
xy 2
x2 + y6 + 1 2
Hf (x, y) = xy 2 x2 y .
2 2
+1
3
Avec le critère de Sylvester, il faut montrer que x2 + y6 + 1 et det Hf sont positifs.
3
Pour la première condition avec y ≥ −1 sur A, nous obtenons la borne x2 + y6 +1 ≥
3 4 2 4 3
x2 − 16 +1 ≥ 56 > 0. Le déterminant nous donne det Hf = x2y +x2 − x 6y + y6 +1 ≥
− 12 − 16 − 61 + 1 = 16 > 0 à nouveau car |x| et |y| sont bornés par 1.
Ceci montre que f est strictement convexe sur A.
2. A est un compact et nous savons qu’une fonction continue atteint toujours un
minimum sur un compact. Pour montrer l’unicité, soient (x0 , y0 ) et (x1 , y1 ) des mi-

que (x0 , y0 ) 6= (x1 , y1 ).
nima (donc en particulier f (x0 , y0 ) = f (x1 , y1 ))
et suppose
Comme A est convexe, tout point (1−s) x0 , y0 +s x1 , y1 sur le segment joignant
les deux points apartient à A et la convexité stricte de f nous donne






f (1 − s) x0 , y0 + s x1 , y1 < (1 − s) f x0 , y0 + s f x1 , y1 .
 Nous voyons en contradiction que (x0 , y0 ) et (x1 , y1 ) étaient les minima de f que
f est encore plus petit sur tous les point intermédiaire. On déduit que (x0 , y0 ) =
(x1 , y1 ).
3. Le minimum de f se trouve à l’intérieure de A ou sur son bord. Une condition
necéssaire pour avoir un minimum en un point à l’intérieure
de A est que ∇f
3 3 2 2 3
s’annule dans ce point. On a ∇f = x3 + xy6 + x, x 4y + y = x3 (x2 + y2 +
2 3
3), y ( x4y + 1) . La seule solution de ∇f = (0, 0) est (x, y) = (0, 0) car x2 + y2 + 3

ne peut pas s’annuler sur A.

Comme Hf (0, 0) est définie positive, le minimum se trouve de f se trouve donc
en (0, 0).

Exercices plus difficiles

Exercice 14. 1. Soit C une partie fermée dans E e.v.n. telle que si x, y ∈ C alors
x+y
2
∈ C. Prouver que C est convexe.
2. Soit C convexe fermé de E. Soit f : C → R une fonction continue telle que
 
x+y f (x) + f (y)
∀x, y ∈ C f ≤ .
2 2

Montrer que f est convexe.

3. Même question C est juste convexe mais pas fermé. (Indication : utiliser l’ex. 13)
Correction 14. 1. Idée : Si avec x0 , x1 ∈ C, on a toujours que le point a mi-distance
1
x1/2 := 2 (x0 +x1 ) entre x0 et x1 se trouve aussi dans C, on déduit que le point à mi-
distance entre x0 et x1/2 et le point à mi-distance entre x1/2 et x1 se trouvent aussi
dans C et nous pouvons alors repéter cette construction arbitrairement souvent
pour recupérer tous les points entre x0 et x1 de la forme
a 2n − a
xa/2n := x 0 + x1
2n 2n
avec n ∈ N et a ∈ {0, . . . , 2n }. Les nombres de la forme a/2n sont denses dans
[0, 1], nous pouvons donc trouver pour n’importe quel s∞ ∈ [0, 1] une suite sj où
est de la forme sj = aj /2nj tel que sj → s∞ .
Les points xsj sont tous dans C et ils convergent vers x∞ et comme C est fermé,
nous voyons que x∞ ∈ C. Ceci montre que tout le segment entre x0 et x1 se trouve
dan C, et C est donc convexe.
2. Pour prouver que f est convexe, il faut montrer pour tout s ∈]0, 1[ que


f (1 − s) x + sy ≤ (1 − s) f (x) + s f (y) . (2)

On voit que l’inégalité est vraie pour tout s = 1/4 car

f (1 − 1/4) x + 1/4 y = f 1/2 x + 1/4 x + 1/4y



= f 1/2 x + 1/2 (1/2 x + 1/2 y) ≤ (1 − 1/2) f (x) + 1/2 f 1/2 x + 1/2 y


≤ 1/2 f (x) + 1/2 1/2 f (x) + 1/2 f (y) . = 3/4 f (x) + 1/4 f (y) .
 Et nous pouvons de la même façon montrer qu’elle est vraie pour tout s de la
forme a/2n .
Pour un s∞ ∈]0, 1[ nous trouvons avec la même construction utilisé ci-dessus une
suite (sn ) qui converge vers s∞ ∈ C et l’inégalité (2) est vraie pour tous les sk .
Par continuité de f , l’inégalité reste vraie pour s∞ et nous avons montrer que f
est convexe.

Correction des Exercices d’entraînements

Exercice 22. Montrer que les Ci sont convexes et trouver les cônes normaux NCi (aj ) :
1. C5 = {(x, y) ∈ R2 : x2 + y 2 ≤ 1} en a1 = (0, 0) et en a2 = (0, 1).
C5 = B(0, 1) est la boule fermée pour la norme euclidienne donc convexe. a1 ∈
B(0, 1) = Int(B(0, 1)) donc d’après le cours NC5 (a1 ) = {0}.

Le calcul de NC5 (a2 ) est plus dur (on passe par le calcul du tangent jamais fit en TD
pour se ramener à une calcul de la forme vue en TD). On calcule TC5 (a2 ) = {(x, y) :
y ≤ 0} = R×] − ∞, 0]. On rappelle que TC5 (a2 ) = R+ (C5 − a2 ) Si (x, y) ∈ C5 alors
y 2 ≤ 1 donc y ≤ 1 donc (x, y) − (0, 1) = (x, y − 1) ∈ R×] − ∞, 0] qui est fermé
donc TC5 (a2 ) ⊂ R×] − ∞, 0].
Réciproquement, on va dire que pour toute direction du demi-plan ouvert R×] −
∞, 0[⊂ R+ (C5 − a2 ). En effet si y < 0 on cherche λ > 0 telle que (λx, 1 + λy) ∈ C5
ce qui donne λ2 x2 + 1 + λ2 y 2 + 2λy ≤ 1, il suffit 0 < λ = 2|y|/(x2 + y 2 ). En prenant
l’adhérence, on obtient :

R×] − ∞, 0] ⊂ R×] − ∞, 0[ ⊂ R+ (C5 − a2 ) = TC5 (a2 ).

La première inclusion vient de (x, y − 1/n) ∈ R×] − ∞, 0[ pour y ≤ 0 et converge

vers (x, y) donc la caractérisation séquentielle implique l’inclusion.

On a vu en cours que
NC5 (a2 ) = NTC5 (a2 ) (a2 ).
Donc on montre comme à l’exo 1 que cela vaut R+ (0, 1). D’abord, (0, 1) ∈ NC5 (a2 )
est évident car si (x, y) ∈ C5 h(x, y − 1), (0, 1)i = y − 1 ≤ 0. De même,(0, −1) 6∈
NC5 (a2 ).
Donc par le cours, comme NC5 (a2 ) est un cône, on a obtenu

R+ (0, 1) ⊂ NC5 (a2 ).

Réciproquement, a2 ∈ [(−1, 1), (1, 1)] ⊂ TC5 (a2 ) donc

NC5 (a2 ) = NTC5 (a2 ) (a2 ) ⊂ N[(−1,1),(1,1)] (a2 ) = R(2, 0)⊥ = R(0, 1).

Comme on a vu (0, −1) 6∈ NC5 (a2 ). Donc NC5 (a2 ) ⊂ R(0, 1), on déduit NC5 (a2 ) ⊂
R+ (0, 1) ce qui est l’autre inclusion voulue.
 2. C6 = {(x, y) ∈ R2 : |x − 1| + |y| ≤ 1} = B||.||1 ((1, 0), 1) est une boule fermé
donc convexe (pour la norme ||(x, y)||1 = |x| + |y| cf TD 5). On veut calculer les
cônes normaux a1 = (0, 0), en a3 = (1, 0) et en a4 = (1/2, 1/2). Comme avant
Int(C6 ) = B||.||1 ((1, 0), 1) = {(x, y) ∈ R2 : |x − 1| + |y| < 1} a3 ∈ Int(C6 ) et donc
d’après le cours NC6 (a3 ) = {0}.

Montrons que NC6 (a4 ) = R+ (−1, 1).

On montre d’abord que (−1, 1) ∈ NC6 (a4 ) si (x, y) ∈ C6 , on regarde :
h(x, y) − (a4 ), (−1, 1)i = −(x − 1/2) + (y − 1/2) = y − x ≤ 0 car (1 − x) + y ≤
|x − 1| + |y| ≤ 1 donc y − x ≤ 0 sur C6 donc (−1, 1) ∈ NC6 (a4 ).
Réciproquement, a4 ∈ [(0, 0), (1, 1)] ⊂ C6 on déduit NC6 (a4 ) ⊂ N[(0,0),(1,1)] (a4 ) =
R(1, 1)⊥ = R(−1, 1) vu que a4 est dans le segment privé des extrémités. Il reste à
voir que (1, −1) n’est pas dans NC6 (a4 ), en effet, h(x, y) − (a4 ), (1, −1)i = x − y ce
n’est pas négatif en (1, 0) ∈ C6 , donc NC6 (a4 ) ⊂ R+ (−1, 1), ce qui donne l’égalité.

Montrons que NC6 (a1 ) = R+ (−1, 1) + R+ (−1, −1). On raisonne par double inclu-
sion :
Comme avant, on commence par montrer que (−1, 1), (−1, −1) sont dans le cône
normal. on calcule donc pour (x, y) ∈ C6 h(x, y) − (a1 ), (−1, 1)i = −(x − 0) + (y −
0) = y − x ≤ 0 comme avant donc (−1, 1) ∈ NC6 (a1 ).
De même h(x, y) − (a1 ), (−1, −1)i = −(x − 0) − (y − 0) = −y − x ≤ 0
(1 − x) − y ≤ |x − 1| + |y| ≤ 1 donc (−1, −1) ∈ NC6 (a1 ). Comme NC6 (a1 ) est un
cône convexe, on déduit :

R+ (−1, 1) + R+ (−1, −1) ⊂ NC6 (a1 ).

Réciproquement, on considère a1 = (0, 0) ∈ [(0, 0), (1, 1)] ⊂ C6 , donc par le cours
NC6 (a1 ) ⊂ N[(0,0),(1,1)] (a1 ) = R(1, 1)⊥ + R+ (−1, −1) = R(−1, 1) + R+ (−1, −1) =
{(x, y) : y ≤ −x} (car a1 est sur le bord du segment). On considère enfin
a1 = (0, 0) ∈ [(0, 0), (1, −1)] ⊂ C6 NC6 (a1 ) ⊂ N[(0,0),(1,−1)] (a1 ) = R(1, −1)⊥ +
R+ (−1, 1) = R(−1, −1) + R+ (−1, 1) = {(x, y) : y ≥ x}.
En prenant l’intersection on obtient NC6 (a1 ) ⊂ {(x, y) : −x ≥ y ≥ x}. L’examen
de ces conditions identifie ceci à un sous-ensemble de R+ (−1, 1) + R+ (−1, −1)
en écrivant (x, y) = −(y + x)/2(−1, −1) + (y − x)/2(−1, 1) vu les deux nombres
(y − x)/2, −(y + x)/2 ≥ 0. Cela donne l’inclusion réciproque

NC6 (a1 ) ⊂ R+ (−1, 1) + R+ (−1, −1).

Exercice 23. On s’intéresse au problème de minimiser la fonction

f (x, y) = x4 + x2 y 3 + 9x2 + 8y 2 + 4

sur le pavé A := {(x, y) ∈ R2 : −1 ≤ x ≤ 1, −1 ≤ y ≤ 1}.

1. Prouver que f est strictement convexe sur A.

∂f ∂f
= 4x3 + 2xy 3 + 18x, = 3y 2 x2 + 16y
∂x ∂y
 ∂ 2f ∂ 2f ∂ 2f
= 12x2 + 2y 3 + 18, = 6yx2 + 16, = 6xy 2
∂x2 ∂y 2 ∂x∂y
Comme

d2 f (x, y).((h, k), (h, k)) = (12x2 + 2y 3 + 18)h2 + 6xy 2 2hk + (6yx2 + 16)k 2
≥ (2y 3 + 18)h2 + (6yx2 + 16)k 2 + 6xy 2 kh
k2
≥ (18 − 4)h2 + (16 − 12)k 2 − 12( + h2 ) = 2h2 + k 2
4
≥ h2 + k 2 = hI2 (h, k), (h, k)i
√
pour |y|, |x| < 3 2, de sorte qu’on a utilisé à l’avant-dernière ligne |y 3 |, |yx2 |, |xy 2 | <
2
2, et 2hk ≤ ( k4 + h2 ).
On obtient donc√ H(f
√ )(x, y) ≥ I2 , donc par le cours f est strictement convexe sur
l’ouvert ] − 2, + 2[2 ⊃ A
3 3

2. Montrer qu’il existe une solution unique du problème (Indication : rappeler pour-
quoi A est compact)
Par continuité, la fonction admet un minimum sur le compact A (boule fermé donc
fermé borné en dimension finie), il est unique par convexité stricte.
3. On trouve la solution en cherchant les minima locaux. On remarque que (0, 0)
annule le gradient, c’est donc un point critique sur l’ouvert Int(A), donc c’est
l’unique minimum sur tout A. (par exemple on utilise le théorème de minimisation
sur un convexe et −∇f (0, 0) ∈ NA (0) = {0} vu 0 ∈ Int(A)).
Exercice 24. Lesquels parmi les fonctions suivantes sont convexes sur R2 .

f0 (x, y) = x2 +y 2 +x4 , f1 (x, y) = x2 +y 2 +x3 , f2 (x, y) = x4 +y 4 −4xy, f3 (x, y) = cos(x+y),

f4 (x, y) = xey + yex , f5 (x, y) = |x + 1| + |y|, f6 (x, y) = (|x + 1| + |y|)2 .

On commence f0 , f1 , f2 qui sont des polynômes donc de classe C ∞ .
 
2 + 12x2 0
1. Hf0 (x, y) = . qui est positive car ces valeurs propres 2+12x2 , 2 ≥
0 2
0, donc f0 est convexe sur R2 .
   
2 + 6x 0 −4 0
2. Hf1 (x, y) = , mais Hf1 (−1, 0) = , a un déterminant
0 2 0 2
−8 négatif, donc Hf1 (−1, 0) n’est pas positive et donc f1 n’est pas convexe sur
R2 .    
12x2 −4 0 −4
3. Hf2 (x, y) = , mais Hf2 (0, 0) = , a un déterminant
−4 12y 2 −4 0
−16 négatif, donc Hf2 (0, 0) n’est pas positif et donc f2 n’est pas convexe sur R2 .
4. f3 est périodique non constante, on se doute qu’elle ne va pas être convexe (mais
ce n’est pas une preuve, on n’a pas vu de résultat de ce type en cours), elle est
C ∞ par composition de cos et d’une  fonction linéaire, ∇f3 (x, y) = (− sin(x +
−cos(x + y) −cos(x + y)
y), − sin(x + y)), donc Hf3 (x, y) = , par exemple
−cos(x + y) −cos(x + y)
  
−1 −1
Hf3 (0, 0) = , son déterminant rt − s2 = 0 mais r = −1 < 0 donc
−1 −1
Hf3 (0, 0) n’est pas positive, donc f3 n’est pas convexe.
∂ 2 f4 2 2
5. ∂x2
= yex , ∂∂yf24 (x, y) = xey , ∂x∂y
(x, y) ∂ f4
(x, y) = ex + ey .
−e−1 2e−1
 
Hf4 (−1, 1) = . On a donc rt − s2 = e−1 (1 − 4) < 0, donc
2e−1 −e−1
Hf4 (−1, 1) n’est pas positive et f4 n’est donc pas convexe sur R2 .
6. f5 , f6 ne sont pas même C 1 à cause des valeurs absolues, on ne peut pas dériver,
on n’utilise une méthode proche de l’exercice 6.
f5 (x, y) = ||(x, y) + (1, 0)||1 vu ||(x, y)||1 = |x| + |y|, est la composée de la norme
qui est convexe (par le cours), avec la fonction affine A(x, y) = (x, y) + (1, 0). On
remarque que : A(λ(x, y) + (1 − λ)(x0 , y 0 )) = λ(A(x, y)) + (1 − λ)(A(x0 , y 0 ))
Donc, on obtient la convexité en utilisant la convexité de la norme pour λ ∈ [0, 1] :

||A(λ(x, y)+(1−λ)(x0 , y 0 ))|| = ||λ(A(x, y))+(1−λ)(A(x0 , y 0 ))||1 ≤ λ||A(x, y)||1 +(1−λ)||A(x0 , y 0 )||1

7. f6 est la composée de f5 convexe et g(x) = x2 (une fonction croissante convexe)

donc par l’exercice 6 : f6 = g ◦ f5 est convexe. Concrètement, on peut (utiliser la
convexité de f5 :f5 (λ(x, y) + (1 − λ)(x0 , y 0 ) ≤ λf5 (x, y) + (1 − λ)f5 (x0 , y 0 ) auquel
on applique la croissance de g, puis on utilise la convexité de g) :

g◦f5 (λ(x, y)+(1−λ)(x0 , y 0 )) ≤ g(λf5 (x, y)+(1−λ)f5 (x0 , y 0 )) ≤ λ(g◦f5 (x, y))+(1−λ)(g◦f5 (x0 , y 0 ))

Exercice 25. Lesquels parmi les fonctions suivantes sont convexes sur [0, 1]2 :

x3 + y 3 x4 + y 4 p
g1 (x, y) = , g2 (x, y) = , g3 (x, y) = − 2 − (x2 + y 2 )
6 12
x2 y 2 x3
g4 (x, y) = , g5 (x, y) = cos(xy), g6 (x, y) = x2 + y 2 + .
2 6
∞
ON commence g1 , g2 , g4 , g6 qui sont des polynômes donc C , on calcule donc les dérivées
secondes.  
x 0
1. Hg1 (x, y) = . C’est positif sur [0, 1]2 et même R2+ (car à valeur propre
0 y
positive) mais pas sur un voisinage ouvert. Par contre, c’est le cas sur l’ouvert
]0, +∞[2 , où g1 est donc convexe (on va étendre la convexité par continuité). Pour
(x, y), (x0 , y 0 ) ∈ R2+ , on a (x + 1/n, y + 1/n) ∈]0, +∞[2 donc la convexité s’écrit
pour λ ∈ [0, 1] :

g1 (λ(x+1/n, y+1/n)+(1−λ)(x0 +1/n, y 0 +1/n)) ≤ λg(x+1/n, y+1/n)+(1−λ)g(x0 +1/n, y 0 +1/n),

en passant à la limite n → ∞ vu g continue, on obtient l’inégalité voulue :

g1 (λ(x, y) + (1 − λ)(x0 , y 0 )) ≤ λg(x, y) + (1 − λ)g(x0 , y 0 ),

 

x2 0
2. g2 est plus simple car Hg2 (x, y) = est à valeurs propres positives sur
0 y2
R2 donc g2 convexe sur R2 donc sur [0, 1]2 .
 2 
2 2 y 2xy
3. ∇g4 (x, y) = (xy , yx ) donc Hg4 (x, y) = .
2xy x2
le déterminant rt − s2 = x2 y 2 − 4x2 y 2 ≤ 0 et en (1/2, 1/2) vaut −3/16 < 0 donc
Hg4 (1/2, 1/2) n’est pas positive, donc g4 n’est pas convexe.
 
2+x 0
4. Hg6 (x, y) = . à des valeurs propres positives sur l’ouvert ]−2, +∞[×R
0 2
donc g6 est convexe sur cet ouvert donc sur [0, 1]2 .
5. g5 est C ∞ comme composée de cosinus et d’un polynôme. ∇g5 (x, y) = (−y sin(xy), −x sin(xy)),
donc
 
−y 2 cos(xy) − sin(xy) − xy cos(xy)
Hg5 (x, y) = ,
− sin(xy) − xy cos(xy) −x2 cos(xy)

r = −y 2 cos(xy) est négatif en (1, 1) (cos(1) ∈ [0, 1]) donc Hg5 (1, 1) n’est pas
positive donc g5 n’est pas convexe.
6. Reste le cas le plus dur, celui de g3 (On a l’intuition que g3 est le √graphe de
la partie d’ordonnée négative d’une sphère de centre 0 et de rayon 2, ce qui
semble convexe visuellement... Il serait facile de voir par composition que −g3
est la compose d’une fonction concave croissante (la racine) et d’une fonction
concave, qui est donc concave, on le montre par dérivation), Si x<1 ou y<1, on a
x2 + y 2 < 2 donc g3 est a composée
√ d’un polynôme
√ à valeur strictement positif sur
[0, 1] \ {(1, 1)} ⊂ B||.|||2 (0, 2) et de x 7→ − x qui est C ∞√sur ]0, ∞[ (mais pas
2

dérivable en 0). Donc par composée g3 est C ∞ sur B||.|||2 (0, 2).
On calcule les dérivées premières et secondes : ∇g3 (x, y) = ( √ x 2 2 , √ y 2 2 )
2−(x +y ) 2−(x +y )

x2
 xy

√ 1
+ (2−(x2 +y 2 ))3/2 (2−(x2 +y 2 ))3/2
2−(x2 +y 2 )
Hg3 (x, y) =  xy y2

(2−(x2 +y 2 ))3/2
√ 12 2 + (2−(x2 +y 2 ))3/2
2−(x +y )
2−y 2 xy
!
(2−(x2 +y 2 ))3/2 (2−(x2 +y 2 ))3/2
= xy 2−x2 ,
(2−(x2 +y 2 ))3/2 (2−(x2 +y 2 ))3/2

Son déterminant

rt−s2 = ((2−x2 )(2−y 2 )−x2 y 2 )/(2−(x2 +y 2 ))3 = (4−2x2 −2y 2 )/(2−(x2 +y 2 ))3 ≥ 0

est positif si x2 + y 2 √
< 2 et r ≥ 0 donc Hg3 (x, y) est positive sur la boule ouverte
euclidienne B||.|||2 (0, 2). Par continuité comme pour g1 , g3 est aussi convexe sur
l’adhérence (la boule fermé) qui contient [0, 1]2 , ceci conclut à g3 convexe sur cet
ensemble.