ENSEA Année Universitaire 2020-2021

ISE

TD2 d’Optimisation non linéaire avec contraintes

Exercice 1
1) Soit
x21 + x22 + x23 = 1
C = {x ∈ R3 : }.
x1 + x1 + x3 = 1
On considère le problème :
{
min f (x) = 2x1 − x2 − x3
x∈C
a) Montrer que le problème admet une solution optimale.
b) Quel est le lagrangien de ce problème ?
c) Ecrire les conditions nécessaires d’optimalité de Lagrange.
d) Déterminer la solution de ce problème
2) On considère la matrice A ∈ M3 (R) et le vecteur b ∈ R3 définis par :
   
2 −1 0 −3
A =  −1 2 −1  , b =  1 
0 −1 2 2

On considère la fonction f : x ∈ R3 7→ 12 ⟨Ax, x⟩ − ⟨b, x⟩ et le problème (P) inf x∈C f (x) avec :
{ }
C = x ∈ R3 : x2 + x3 = 0 .

i) Le problème (P) admet-il une solution optimale ? Est-elle unique ?

ii) Ecrire les conditions d’optimalité que doit vérifier la solution de (P). Résoudre le problème.
3) On considère le problème d’optimisation suivant :

sup xy
x2 + y 2 = 1
1) Prouver l’existence d’une solution.
Résoudre le problème à l’aide des multiplicateurs de Lagrange.
Exercice 2
Etant donné A ∈ Mn (R) symétrique et b ∈ Rn , on considère le problème d’optimisation suivant :

{
min f (x) = 1
2 ⟨Ax, x⟩ + ⟨b, x⟩
(P )
∥x∥ = 1

1) On suppose b = 0 . Résoudre le problème (P ).

2) Soit λ1 la plus grande valeur propre de A et p un réel strictement inférieur à −λ1 . On pose

Ap = A + pIn et fp : x ∈ Rn 7−→ fp (x) = 1

2 ⟨Ap x, x⟩ + ⟨b, x⟩

où In désigne la matrice identité d’ordre n.

a) Montrer que fp est strictement concave.
b) On considère le problème d’optimisation suivant :

{
min fp (x)
(P̃p )
∥x∥ ≤ 1

1
 Montrer que :
inf {fp (x) : ∥x∥ ≤ 1} = inf {f (x) : ∥x∥ = 1} + 12 p
et que les solutions de (P ) et (P̃p ) sont les mêmes.
Exercice 3
Minimiser la fonction f (x) = x21 + x22 − 14x1 − 6x2 − 7 sous les contraintes x1 + x2 ≤ 2, x1 + 2x2 ≤ 3.
On précisera l’existence et l’unicité de la solution optimale.
Exercice 4
Résoudre 
 min f (x) = 12 ⟨Ax, x⟩ − ⟨b, x⟩
x1 ≥ 1

x2 − 2x3 = 1
avec    
1 −1 0 −1
 −1 2 0  et b =  1 
0 −1 3 −1
Comparer avec la solution sans contraintes.
Exercice 5
On considère le problème (P ) ci-dessous.

max f (x) = x1 x2 x3
sous contraintes 0 ≤ xi ≤ 42, i = 1, 2, 3
x1 + 2x2 + 2x3 ≤ 72
1) Prouver que le problème admet une solution optimale au moins.
2) Vérifier qu’il est équivalent au problème convexe sous contraintes linéaires

min g(x) = − ln x1 − ln x2 − ln x3
sous contraintes xi ≤ 42, i = 1, 2, 3
x1 + 2x2 + 2x3 ≤ 72
xi > 0, i = 1, 2, 3
et en déduire qu’il admet une unique solution optimale (b b2 , x
x1 , x b3 ).
3) Ecrire les conditions de Kuhn Tucker. Prouver que la contrainte : x1 + 2x2 + 2x3 ≤ 72 est saturée
en (b b2 , x
x1 , x b3 ), et que x
b2 = x
b3 . Résoudre finalement le problème (P ).
Exercice 6
On considère le problème :
∑
max f∑(x) = ni=1 ln(xi + ai )
n
(P) sous contraintes i=1 xi = 1
x≥0
où a = (a1 , · · · , an )T est un vecteur de Rn donné dont toutes les composantes sont strictement positives.
1) Prouver l’existence d’une solution optimale x b de (P)
2) Ecrire les conditions de Kuhn Tucker pour (P).
3) Prouver l’existence d’un réel ξ tel que : x bi = max(0, ξ − ai ), (i = 1, · · · , n).
4) On donne : n = 4 et a = ( 14 , 12 , 34 , 1)T . Trouver xb.
Exercice 7
La plus courte distance entre un point x0 et un hyperplan {x : Ax = b} où les lignes de A sont
linéairement indépendantes, peut s’écrire comme un problème de programmation quadratique :

min 21 (x − x0 )T (x − x0 )
Ax = b

2
 1) a) Montrer que le problème admet une solution optimale. Est-elle unique ?
b) Montrer que la matrice AAT est inversible, que le multiplicateur à l’optimum est

λ∗ = −(AAT )−1 (b − Ax0 )

et qu’une solution est

x∗ = x0 + AT (AAT )−1 (b − Ax0 ).
2) Déterminer la plus petite distance entre x0 et l’hyperplan dans le cas où A est un vecteur ligne.
Exercice 8
Soit K une partie convexe non vide et fermée de Rn .
Montrer pour tout x ∈ Rn , il existe un unique point p(x) ∈ K tel que :

∥p(x) − x∥2 = inf ∥y − x∥2

y∈K

Justifier que p(x) est l’unique point de K tel que :

⟨p(x) − x, p(x) − y⟩ ≤ 0 ∀ y ∈ K.

Exercice 9
Considérons le programme mathématique (P M ) :


 min f (x) = 9x21 + 4x22 − 18x1 − 16x2 + 25

−3x1 − x2 ≤ −6
(P M )

 3x1 + 2x2 ≤ 9

x2 ≥ 0
1) Résoudre le programme (P M ) en s’aidant uniquement des conditions de Kuhn et Tucker.
2) Vérifier graphiquement la solution.
Exercice 10
On considère le problème (P ).

f (x) = x21 + x22 − 29 x1 − 4x2 +

min 145
16
 x2 − x21 ≥ 0
x1 + x2 ≤ 6

x1 , x2 ≥ 0

1) Ce problème est-il convexe ?

2) Déterminer tous les points vérifiant les conditions de Kuhn-Tucker. En déduire une solution opti-
male de (P ).
3) Résoudre graphiquement (P ).
Exercice 11
Résoudre les programmes mathématiques suivants

{ f (x) = −x1 + 2x1 + x2 { = −x1 − y + 14x1 + 6x2 + 7

max 2 max f (x) 2 2

x1 + x2 ≤ 1 x1 + x2 ≤ 2
x1 x2 ≥ 0 x1 + 2x2 ≤ 3
Exercice 12
Un atelier peut fabriquer des articles de deux types, A1 et A2 , sur une machine donnée, disponible 100
heures par mois compte tenu des heures de règlages et d’entretien. Les articles de type A1 sont fabriqués
à la cadence de 50 articles par heure, et les articles de type A2 à la cadence de 25 articles par heure. La
capacité d’absorption du marché étant limitée, on ne peut écouler par mois plus de 3000 articles de type

3
A1 , ni plus de 2000 articles de type A2 . En raison d’un système de prix dégressifs consentis aux clients,
le prix de chaque article décroit légèrement avec la quantité vendue : ainsi un article de type A1 rapporte
30(1 − 6000
x1
) unités monétaires lorsqu’on vend x1 et un article de type A2 rapporte 20(1 − 4000 x2
) lorsqu’on
en vend x2 .
1) Montrer que le problème de l’atelier peut être mis sous la forme d’un programme mathématique.
2) Le point x∗ = (2600, 1200) vérifie-t-il les conditions de Kuhn et Tucker ? Est-il une solution
optimale ?
3) Résoudre graphiquement le problème.
Exercice 13 On considère la matrice A ∈ M3 (R) et le vecteur b ∈ R3 définis par :
   
2 −1 0 −3
A =  −1 2 −1  , b =  1 
0 −1 2 2

On considère la fonction f : x ∈ R3 →
7 12 ⟨Ax, x⟩ − ⟨b, x⟩ et le problème (P) inf x∈C f (x) avec :
{ }
C = x ∈ R3 : x2 + x3 = 0, x1 ≥ 0 .
Dans chacun des cas ci-dessus
1) Le problème (P) admet-il une solution optimale ? Est-elle unique ?
2) Ecrire les conditions d’optimalité que doit vérifier la solution de (P). Résoudre (P).
Exercice 14
Soit A une matrice symétrique définie positive d’ordre n, B une matrice (p, n) de rang p et c ∈ Rn ,
c∈
/ B T (Rp ).
Résoudre le problème suivant :
α = inf [⟨c, x⟩ : x ∈ Rn , Bx = 0, ⟨Ax, x⟩ ≤ 1]
Exercice 15
Soit a ∈ Rn , Ω = {x ∈ Rn : ∥x∥ < 1} et
Ω→R
fa :
x 7→ − ln(1 − ∥x∥2 ) + ⟨a, x⟩
1) Montrer que fa est strictement convexe sur Ω.
2) Résoudre le problème

min fa (x) (Pa )

x∈Ca

où { }
Ca = x ∈ Rn : ∥x∥ ≤ 12 , ⟨a, x⟩ ≤ 0 .
Exercice 15
Soit A une matrice m × n et b un vecteur de Rm .
1) Calculer le gradient et la matrice hessienne de la fonction f définie sur Rn par f (x) = ∥Ax − b∥2
où ∥ · ∥ désigne la norme euclidienne sur Rm . Cette fonction est-elle coercive ?
2) On considère le problème (P ) suivant dans lequel la matrice A est de rang maximal en colonnes et
c ∈ Rn :
[ ]
(P) inf f (x) = ∥Ax − b∥2 : ⟨c, x⟩ ≤ 0 .
a) Le problème ci-dessus admet-il une solution optimale ?
b) Donner l’expresion du Lagrangien associé à (P ).
c) On considère (P ) dans le cas où
   
1 3 −3 ( )
−2
A =  −1 1  , b =  4  et
1
1 1 1

4
 Résoudre (P ) explicitement en utilisant le théorème de Karush-Kuhn-Tucker.

Exercice 16
Si x et y sont deux vecteurs de Rn , on note ⟨x, y⟩ le produit scalaire usuel et ∥x∥ la norme euclidienne
associée. On considère Rn muni de la topologie associée à cette norme.
On identifiera dans certaines questions, les éléments de Rn avec des matrices colonnes.
Si A est une matrice carrée d’ordre n, à coefficients réels, on note

∥A∥ = sup {∥Ax∥ : x ∈ Rn , ∥x∥ ≤ 1} .

Dans tout le problème U désigne une partie convexe fermée non vide de Rn .
Soit A une matrice carrée symétrique d’ordre n, à coefficients réels telle que :

∀h ∈ Rn , ⟨Ah, h⟩ ≥ 0
Soit a un élément fixé de Rn : on considère l’application f de Rn dans R définie par
1
f (x) = ⟨Ax, x⟩ − ⟨a, x⟩ .
2
On se propose d’étudier l’ensemble P des éléments x∗ de U tels que

∀x ∈ U, f (x∗ ) ≤ f (x)
1) Montrer que x∗ est dans P si et seulement si x∗ est dans U et ⟨Ax∗ − a, x − x∗ ⟩ ≥ 0 pour tout x
de U.
Montrer que P est un convexe (éventuellement vide) de Rn .
2) On suppose dans cette partie que pour tout h non nul de Rn , on a ⟨Ah, h⟩ > 0.
Montrer que f est strictement convexe et qu’il existe α > 0 tel que pour tout h de Rn , on ait
⟨Ah, h⟩ ≥ α ∥h∥2 .
Montrer que P est non vide. Est-il réduit à un élément ?
3) On suppose dans cette partie que U est bornée, et que pour tout h de Rn , on a ⟨Ah, h⟩ ≥ 0.
a) Montrer que P est non vide. Est-il réduit à un élément ?
b) Soit x0 dans U . On pose pour tout k dans N,

xk+1 = PU (xk − ρ(Axk − a))

où ρ est un réel qui sera déterminé ultérieurement et PU la projection sur U .
Montrer que
⟨ ⟩ 1⟨ ⟩
f (xk+1 ) − f (xk ) = Axk − a, xk+1 − xk + A(xk+1 − xk ), xk+1 − xk ,
2
et
⟨ ⟩ 2
ρ Axk − a, xk+1 − xk + xk+1 − xk ≤0