You are on page 1of 40

Otimizao Multiobjetivo

Otimizao restrita
Prof. Frederico Gadelha Guimares
fredericoguimaraes@ufmg.br
Universidade Federal de Minas Gerais
Programa de Ps-Graduao em Engenharia Eltrica, Brasil
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Sumrio
Otimizao com restries
Mtodo de Lagrange
Mtodo de Penalidades
Mtodo do Lagrangeano Aumentado
2/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Problemas de otimizao restrita

Formulao geral de problemas de otimizao:


min
x
f (x) R, x F
F =
_

_
g
i
(x) 0; i = 1, . . . , p (restries de desigualdade)
h
j
(x) = 0; j = 1, . . . , q (restries de igualdade)
x X
3/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange

Conforme vimos, a soluo do problem restrito a seguir


minf (x) sujeito a h(x) = 0
um ponto crtico da funo
L(x, ) = f (x) +h(x)

Ponto crtico implica que:


_

x
L

L
_
= 0
4/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange
Funo Lagrangeana
O ponto crtico da funo Lagrangeana leva a um sistema com n + 1
equaes e n + 1 incgnitas:
F(x, ) =
_

x
L(x, ) = f (x) +h(x) = 0

L(x, ) = h(x) = 0

O Mtodo de Lagrange consiste na soluo desse sistema de


equaes determinando (x

).
5/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange
Exemplo
Seja o problema
minf (x) = 3x
1
+ 4x
2
s.a. h(x) = x
2
1
+ x
2
2
1 = 0
Determine a soluo usando o mtodo de Lagrange.
6/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange

No caso geral:
min
x
f (x) R, x F
F =
_
g
i
(x) 0; i = 1, . . . , p (restries de desigualdade)
h
j
(x) = 0; j = 1, . . . , q (restries de igualdade)
temos:
L(x, , ) = f (x) + g

+ h

7/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange

A soluo do problema restrito a soluo do sistema de n+p+q


equaes
F(x, , ) =
_
_
_

x
L(x, , ) = f (x) + J
h
(x)

+ J
g
(x)

= 0

L(x, , )
i
g
i
(x) = 0

L(x, , ) = h(x) = 0
com:
J
g
(x)

= [g
1
(x) g
p
(x)]
np
J
h
(x)

= [h
1
(x) h
q
(x)]
nq
8/ 37
Otimizao com restries Literatura Especializada
Mtodo de Lagrange
Mtodo de Lagrange
Infelizmente, o Mtodo de Lagrange no muito prtico, pelas
seguintes razes:

A construo do sistema de equaes pressupe acesso s ex-


presses analticas de f (x), g
i
(x), h
j
(x);

A resoluo do problema de otimizao no linear original requer


a soluo de um sistema de equaes no lineares;
9/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Sumrio
Otimizao com restries
Mtodo de Lagrange
Mtodo de Penalidades
Mtodo do Lagrangeano Aumentado
10/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Introduo

A abordagem dos Mtodos de Penalidades consiste na trans-


formao do problema restrito original num problema irrestrito
equivalente (dois problemas so ditos equivalentes se possuem
a mesma soluo);

Mtodo indireto para otimizao restrita;


11/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Introduo
No mtodo de Penalidades, penalidades so adicionadas
funo-objetivo:
1. Mtodos de penalidade interior ou mtodos Barreira: pontos
gerados devem ser sempre viveis e qualquer tentativa de sair da
regio factvel penalizada.
2. Mtodos de penalidade exterior ou mtodos de Penalidade:
qualquer violao de alguma restrio penalizada no valor da
funo-objetivo.
12/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidades
Em geral, em problemas restritos a soluo reside na fronteira da
regio factvel:

Nos mtodos de penalidade interior, a soluo tima aproxi-


mada internamente por uma sequncia de solues do problema
irrestrito transformado;

Nos mtodos de penalidade exterior, a soluo tima aproxi-


mada externamente por uma sequncia de solues do problema
irrestrito transformado;
13/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Funo de penalidade
Uma funo de penalidade deve atender as seguintes condies:
_
p(x) > 0, se x / F
p(x) = 0, se x F
14/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Funo de penalidade
No caso de um problema com uma restrio de igualdade:
minf (x)
s.a h(x) = 0
minf (x) + u [h(x)]
2
. .
p(x,u)
No caso de um problema com uma restrio de desigualdade:
minf (x)
s.a g(x) 0
minf (x) + u max [0, g(x)]
2
. .
p(x,u)
15/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Funo de penalidade
De forma geral temos:
p(x, u) = u
_
_
_
p

i =1
max [0, g
i
(x)]
2
+
q

j =1
[h
j
(x)]
2
_
_
_
16/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Exemplo
Seja o problema minf (x), com f (x) = x, sujeito a g(x) = x +3 0.
17/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Exemplo
Seja o problema minf (x), com f (x) = x, sujeito a g(x) = x +3 0.
Soluo
Usando p(x) = max[0, g(x)]
2
, tem-se:
p(x) =
_
0, x 3
(3 x)
2
, x < 3
Para x < 3, f (x) + p(x, u) = x + u(3 x)
2
. Assim:
df
dx
= 1 2u(3 x) = 0 x

= 3
1
2u
Com u , temos x

.
17/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Exemplo
Seja o problema
minf (x) = (x
1
5)
2
+ (x
2
6)
2
s.a h(x) = x
1
2 = 0
18/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Exterior
Algorithm 1: Mtodo de Penalidade Exterior
Input: x
0
X, u
0
> 0, funo-objetivo f () e restries g() e h()
k 0; 1
while critrio de parada do 2
Comeando de x
k
, encontre x
k+1
arg min
x
f (x) + p(x, u
k
); 3
u
k+1
u
k
, com > 1 ; 4
k k + 1; 5
end 6
19/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior

No mtodo de barreira, deve-se construir uma funo que penal-


iza tentativas de sair da regio factvel.
Funo de barreira
Uma funo de barreira deve atender as seguintes condies:
_
b(x) , se x F
b(x) 0
+
, se x F
20/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior

b(x) uma funo barreira no negativa e contnua emF e tende


a innito medida que aproximamos da fronteira.

Formulando o problema como a minimizao de f (x) + b(x, u),


com u 0
+
, gera-se uma sequncia de solues no interior de
F que converge para x

.
21/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Funo de barreira
Uma possvel funo barreira
minf (x)
s.a g(x) 0
minf (x) + (u) log [g(x)]
. .
b(x,u)
22/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Funo de barreira
Uma possvel funo barreira
minf (x)
s.a g(x) 0
minf (x) + (u) log [g(x)]
. .
b(x,u)
Outra opo mais usada na prtica :
minf (x)
s.a g(x) 0
minf (x) + (u)
1
g(x)
. .
b(x,u)
22/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Funo de barreira
De forma geral temos:
b(x, u) = u
_
p

i =1
1
g
i
(x)
_

Observe que no possvel denir uma funo barreira para re-


stries de igualdade!
23/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Exemplo
Seja o problema minf (x), com f (x) = x, sujeito a g(x) = x +3 0.
24/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Exemplo
Seja o problema minf (x), com f (x) = x, sujeito a g(x) = x +3 0.
Soluo
Usando a funo barreira, tem-se:
f (x) + b(x, u) = x + u
1
x 3
Assim:
d
dx
_
x + u
1
x 3
_
= 1 u
1
(x 3)
2
= 0 x

= 3 +

u
Com u 0
+
, temos x

3
+
.
24/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Mtodo de Penalidade Interior
Algorithm 2: Mtodo de Penalidade Interior
Input: x
0
F, u
0
> 0, funo-objetivo f () e restries g() e h()
k 0; 1
while critrio de parada do 2
Comeando de x
k
, encontre x
k+1
arg min
x
f (x) + b(x, u
k
); 3
u
k+1
u
k
, com 0 < < 1 ; 4
k k + 1; 5
end 6
25/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Consideraes nais
A teoria prev que a soluo converge para a soluo tima quando
u
k
(ou u
k
0
+
), porm:

A Hessiana da funo-objetivo penalizada depende de u


k
e pode
apresentar mal-condicionamento numrico;

A variao de u
k
deve ser gradual;

A preciso nal ca bastante limitada;


26/ 37
Otimizao com restries Literatura Especializada
Mtodo de Penalidades
Consideraes nais
Diversas modicaes podem ser feitas na abordagem por
penalidades:

Usar termos de penalidade distintos para cada restrio evitando


problemas de escala;

Penalizar apenas a restrio mais violada;

Penalidades mistas;
27/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Sumrio
Otimizao com restries
Mtodo de Lagrange
Mtodo de Penalidades
Mtodo do Lagrangeano Aumentado
28/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Introduo

Conforme vimos, uma das diculdades dos mtodos de penal-


idade o mal-condicionamento numrico causado ao se fazer
u ou u 0
+
;

Omtodo LA uma extenso dos mtodos de penalidades, porm


semo problema de tornar a funo de penalidade mal-condicionada
com o aumento de u;
29/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado
Seja o problema
minf (x) sujeito a h(x) = 0
Usando a funo de penalidade, temos:
p(x) = f (x) +
u
2
[h(x)]
2
de tal forma que quando u , temos x x

e:
p(x

) = f (x

) +uh(x

)h(x

) = 0
Da funo Lagrangeana, sabemos que:
L(x

) = f (x

) +

h(x

) = 0
30/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado

Comparando as duas expresses, observa-se que


lim
xx

uh(x)

O produto uh(x) traz, no limite, a diculdade de um produto 0;

No mtodo LA, consideramos a seguinte funo Lagrangeana


Aumentada:
L
A
(x, , u) = L(x, ) +
u
2

i
[h
i
(x)]
2
= f (x) +

i
h
i
(x) +
u
2

i
[h
i
(x)]
2
31/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado

Otimo da funo Lagrangeana Aumentada coincide como timo


da funo Lagrangeana;

Em um ponto no crtico x = x

x
L
A
(x, , u) = f (x) +

i
[
i
+ uh
i
(x)] h
i
(x)

Prximo ao ponto soluo, espera-se:

i
+ uh
i
(x)

32/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado

A equao anterior sugere uma frmula de atualizao recursiva


dos multiplicadores de Lagrange:

k+1
i
=
k
i
+ u
k
h
i
(x
k
)

No h necessidade de fazer u ;

A minimizao de L
A
mais estvel numericamente;
33/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado

De forma geral, temos:


L
A
(x, , , u) =f (x) +

i
g
i
(x) +

j
h
j
(x)+
+
u
2

i
max [0, g
i
(x)]
2
+
u
2

j
[h
j
(x)]
2
ou ainda
L
A
(x, , , u) =f (x) +
u
2
_
_
_

i
_
max
_
g
i
(x),

i
u
__
2
+

j
_
h
j
(x) +

j
u
_
2
_
_
_
34/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado
Algorithm 3: Mtodo do Lagrangeano Aumentado
Input: x
0
X,
0
,
0
, u
0
, funo-objetivo f () e restries g() e h()
k 0; 1
while critrio de parada do 2
Comeando de x
k
, encontre x
k+1
arg min
x
L
A
(x,
k
,
k
, u
k
); 3

k+1
i

k
i
+ u
k
max
_
g
i
(x
k+1
),

k
i
u
k
_
;
4

k+1
j

k
j
+ u
k
h
j
(x
k+1
) ;
5
u
k+1
u
k
; 6
k k + 1; 7
end 8
35/ 37
Otimizao com restries Literatura Especializada
Mtodo do Lagrangeano Aumentado
Mtodo do Lagrangeano Aumentado
Vantagens

A penalidade u no precisa tender a innito, pode ser aumentado


de forma suave;

A soluo inicial no precisa ser factvel;

possvel encontrar g
i
(x) = 0 e h
j
(x) = 0 com preciso;

Os multiplicadores de Lagrange diferentes de zero identicam as


restries ativas no ponto soluo;
36/ 37
Otimizao com restries Literatura Especializada
Literatura Especializada
Singiresu S. Rao, Engineering Optimization: Theory and Practice, Wiley, 4th ed.,
2009.
Mokhtar S. Bazaraa, Hanif D. Sherali, C. M. Shetty, Nonlinear Programming: The-
ory and Algorithms, Wiley-Interscience, 3rd ed., 2006.
R. Fletcher, Practical Methods of Optimization, Wiley, 2000.
Geraldo R. Mateus, Henrique P. L. Luna, Programao No Linear, V Escola de
Computao, Belo Horizonte, UFMG, 1986.
J. A. Ramrez, F. Campelo, F. G. Guimares, R. H. C. Takahashi, Notas de Aula de
Otimizao, 2010.
Incio
37/ 37

You might also like