You are on page 1of 56

Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad

Pengantar Optimisasi: Constrained Problem


Rieske Hadianti
KK Matematika Industri dan Keuangan
Institut Teknologi Bandung
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Outline
1 Masalah
2 Optimization Problems with Linear Equality Constraints
3 Problems with Linear Inequality Constraints
4 Masalah Non-Linear Umum
5 Sequential Quadratic Programming
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Masalah dengan kendala
Misalkan f C
2
. (himpunan fungsi dari R
n
ke R yang
turunan-turunan parsialnya ada dan kontinyu) Kita mempunyai
masalah optimisasi
minimumkan f (x),
terhadap g
i
(x) = 0, i E
h
j
(x) 0, j I.
(1)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Contoh
minimumkan x
1
,
terhadap x
2
1
+ x
2
2
4
x
2
1
1.
Di contoh ini, E = , dan h
1
(x) = 4 x
2
1
x
2
2
, h
2
(x) = x
2
1
1.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Masalah:
minimumkan f (x),
terhadap Ax = b.
(2)
Contoh
minimumkan f (x) = x
2
1
2x
1
+ x
2
2
x
2
3
+ 4x
3
,
terhadap x
1
x
2
+ x
3
= 2.
(3)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Masalah (3) dapat dituliskan menjadi masalah tanpa kendala
minimumkan 2x
2
2
+ 3x
2
3
4x
2
x
3
+ 2x
2
,
dan dengan menyelesaikan second order sucient conditions
didapat solusi optimalnya
x
1
=
5
2
, x
2
=
3
2
, x
3
= 1,
dengan nilai optimal
7
2
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Bagaimana menyelesaikan masalah dengan banyaknya kendala
lebih dari 1?
Misalkan A berdimensi m n. Misalkan x adalah suatu titik
feasible. Maka titik feasible lainnya dapat dituliskan menjadi
x = x + p,
dengan p suatu feasible direction.
Ax = A(x + p) = Ax + Ap = b + Ap.
Karena x adalah titik feasible, maka haruslah Ap = 0 atau
p N(A) = {v|Av = 0}.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Jika Z adalah null space dari A, maka Z memiliki matriks basis
yang berdimensi n r , dengan r n m. Misalkan matriks basis
iniadalah Z. Maka
N(A) = {Zv|v R
r
}.
Masalah optimisasi (2) dapat dituliskan menjadi masalah
minimumkan
v R
r
(v) = f(x + Zv). (4)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
(v) = Z
T
f(x + Zv) = Z
T
f(x)
dan

2
(v) = Z
T

2
f(x + Zv)Z = Z
T

2
f(x)Z.
Second order necessary conditions untuk masalah (2) adalah:
Jika x

adalah titik minimum lokal dari masalah (2), maka:


1 Z
T
f(x

) = 0,
2 Z
T

2
f(x

)Z bersifat semi defenit posistif.


Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Second order sucient conditions
Jika x

memenuhi:
1 Ax

= b,
2 Z
T
f(x

) = 0,
3 Z
T

2
f(x

)Z bersifat defenit posistif,


di mana Z adalah matriks basis dari N(A), maka x

adalah titik
minimum lokal dari masalah (2).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Kembali ke contoh
minimumkan f (x) = x
2
1
2x
1
+ x
2
2
x
2
3
+ 4x
3
,
terhadap x
1
x
2
+ x
3
= 2.
(5)
Kendalanya berbentuk
Ax = 2
dengan
A =
_
1 1 2
_
.
_
1 1 2
_
_
_
v
1
v
2
v
3
_
_
= 0
dipenuhi oleh v
1
= v
2
2v
3
. Pilih Z =
_
_
1 2
1 0
0 1
_
_
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Z
T
f(x) =
_
1 1 0
2 0 1
_
_
2x
1
2
2x
2
2x
3
+ 4
_
=
_
2x
1
2 + 2x
2
4x
1
2x
3
+ 8
_
=
_
0
0
_
dan
x
1
x
2
+ x
3
= 2
memberikan
x
1
=
5
2
, x
2
=
3
2
, x
3
= 1.
Z
T

2
f(x

)Z =
_
1 1 0
2 0 1
_
_
2 0 0
0 2 0
0 0 2
__
1 2
1 0
0 1
_
=
_
4 4
4 6
_
,
bersifat denit positif. Maka
x
1
=
5
2
, x
2
=
3
2
, x
3
= 1
adalah solusi optimal dari masalah (5).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Pengali Langrange
Jika f : R
n
R, maka f (x) R
n
.
f (x) = Zv + A
T
,
dengan
Zv di null space dari matriks A,
A
T
di range dari matriks A, R
m
.
Z
T
f(x

) = Z
T
Zv

+ Z
T
A
T

= Z
T
Zv

+ (AZ)
T

= Z
T
Zv

.
Z
T
f(x

) = Z
T
Zv

= 0 dipenuhi oleh Zv

= 0. Kesimpulan:
f (x

) = A
T

. (rst order necessary condition)


Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Bentuk lain dari second order sucient conditions
Jika x

memenuhi:
1 f (x

) = A
T

,
2 Z
T

2
f(x

)Z bersifat defenit posistif,


di mana Z adalah matriks basis dari N(A), maka x

adalah titik
minimum lokal dari masalah (2).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Contoh
minimumkan f (x) = x
2
1
+ 2x
2
2
,
terhadap x
1
+ x
2
= 1.
(6)
Jawab:
f (x) =
_
2x
1
4x
2
_
,
2
f(x) =
_
2 0
0 4
_
_
2x
1
4x
2
_
=
_
1
1
_
,
sehingga x
1
=

2
, x
2
=

4
. Kita substitusikan ke kendala untuk
mendapatkan
=
4
3
, x
1
=
4
6
, x
2
=
1
3
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Cek jenis keoptimalan
Z
T

2
f(
4
6
,
1
3
)Z = ( 1 1 )
_
2 0
0 4
__
1
1
_
= ( 6 ),
bersifat denit positif. Kesimpulan: titik (
4
6
,
1
3
) adalah titik
minimum lokal dari masalah.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Latihan
1
minimumkan f (x) = 3x
2
1

1
2
x
2
2

1
2
x
2
3
+ x
1
x
2
x
1
x
3
+ 2x
2
x
3
,
terhadap 2x
1
x
2
+ x
3
= 2.
(7)
2
minimumkan f (x) = (x
1

3
2
)
2
+ (x
2
5)
2
,
terhadap x
1
+ x
2
+ x
3
= 2
2x
1
+ 3x
2
+ x
4
= 11.
(8)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Pengali dan Fungsi Lagrange
Telah kita tunjukkan bahwa necessary condition for optimality dari
masalah (2) adalah f (x

) = A
T

. Vektor

dinamakan vektor
pengali Lagrange.
Denisikan fungsi
L(x, ) = f(x)
T
(Ax b).
Fungsi L(x, ) dinamakan fungsi Lagrange dari masalah (2).
1
x
L(x, ) = f(x)
T
A
2

L(x, ) = Ax b
Necessary conditions untuk masalah (2) dapat dituliskan menjadi

x
L(x, ) = 0 dan

L(x, ) = 0.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Shadow Price
Jika x

titik minimum lokal, maka untuk titik feasible x yang lain,


f (x) f (x

) + (x x

)
T
f(x

)
= f (x

) + (x x

)
T
A
T

= f (x

) +
T

.
Karena itu, vektor

dinamakan vektor shadow price.


Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Problems with Linear Inequality Constraints
minimumkan f (x),
terhadap Ax b.
(9)
Kemungkinan lokasi solusi optimal:
Di interior Ax b, (semua ketaksamaan dibuat A
i
x > b
i
)
Di batas Ax b. (minimal ada satu i di mana A
i
x = b
i
)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Kendala aktif
Pandang masalah optimisasi
minimumkan f (x) = (x
1
2)
2
+ (x
2
3)
2
,
terhadap 3x
1
+ 2x
2
6
x
1
+ x
2
3,
x
1
2.
(10)
Masalah optimisasi tersebut mempunyai solusi optimum di titik
(x
1
, x
2
) = (2, 3) . Kendala 3 dibuat aktif di titik ini.
Denisi
Kendala a
i
x b
i
dikatakan kendala aktif di x jika a
i
x = b
i
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Misalkan x

adalah titik minimum lokal dari masalah (9). Maka x

adalah titik minimum lokal dari masalah


minimumkan f (x)
terhadap

Ax =

b,
(11)
dengan

A adalah submatriks dari A yang bersesuaian dengan


kendala-kendala aktif di x

b adalah sub vektor b yang bersesuaian dengan


kendala-kendala aktif di x

Jika Z adalah matriks basis dari ruang nol



A, maka
1 f (x

) =

A
T

2 Z
T

2
f(x

)Z bersifat semi denit posistif.


Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Akan ditunjukkan bahwa

0.
Tanpa mengurangi keumuman, andaikan

1
< 0. Misalkan
e
1
=
_
1 0 0
_
T
. Karena baris-baris dari

A saling bebas,
maka p

Ap = e
1
0, atau p adalah suatu feasible direction
dari kendala masalah (9) di x

.
p
T
f(x

) = p
T

A
T

= e
T
1

1
< 0.
Kontradisksi dengan x

titik minimum lokal. Jadi haruslah

0.
Jadi, jika x

titik minimum lokal dari masalah (9), maka


1 f (x

) = A
T

0
3

i
(a
T
i
x

b
i
) = 0, i = 1, 2, , m. (setiap kendala tidak
aktif harus mempunyai pengali Lagrange yang bernilai 0,
untuk memperluas dari f (x

) =

A
T

ke f (x

) = A
T

)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Akan ditunjukkan bahwa

0.
Tanpa mengurangi keumuman, andaikan

1
< 0. Misalkan
e
1
=
_
1 0 0
_
T
. Karena baris-baris dari

A saling bebas,
maka p

Ap = e
1
0, atau p adalah suatu feasible direction
dari kendala masalah (9) di x

.
p
T
f(x

) = p
T

A
T

= e
T
1

1
< 0.
Kontradisksi dengan x

titik minimum lokal. Jadi haruslah

0.
Jadi, jika x

titik minimum lokal dari masalah (9), maka


1 f (x

) = A
T

0
3

i
(a
T
i
x

b
i
) = 0, i = 1, 2, , m. (setiap kendala tidak
aktif harus mempunyai pengali Lagrange yang bernilai 0,
untuk memperluas dari f (x

) =

A
T

ke f (x

) = A
T

)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Necessary Conditions for Optimality
Jika x

titik minimum lokal dari masalah (9), maka


1 f (x

) = A
T

0
3

i
(a
T
i
x

b
i
) = 0, i = 1, 2, , m
4 Z
T

2
f(x

)Z bersifat semi denit posistif,


dengan Z adalah matriks basis dari ruang nol

A.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Sucient Conditions for Optimality
Jika x

dan

memenuhi:
1 Ax

b,
2 f (x

) = A
T

,
3

0,
4

i
(a
T
i
x

b
i
) = 0, i = 1, 2, , m dipenuhi secara murni,
5 Z
T

2
f(x

)Z bersifat denit posistif,


dengan Z adalah matriks basis dari ruang nol

A, maka x

adalah
titik minimum lokal dari masalah (9).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Bukti necessary condistions
Misalkan x

memenuhi empat syarat pertama. Syarat keempat


menyatakan bahwa jika x

membuat beberapa kendala aktif


dengan sub-matrix dari A yang bersesuaian dengan kendala aktif
tersebut adalah

A, maka pengali Lagrange yang bersesuaian
dengan kendala-kendala tersebut, misalnya

, adalah vektor yang


positif. Misalkan p adalah feasible direction di x

. Maka
p
T
f(x

) = p
T
A
T

= p
T

A
T

> 0
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Kembali ke masalah optimisasi (10)
minimumkan f (x) = (x
1
2)
2
+ (x
2
3)
2
,
terhadap 3x
1
+ 2x
2
6
x
1
+ x
2
3, x
1
2.
(12)
C1 C2 C3
1

2

3
x
1
x
2
Keoptimalan
0 0 0 2 3 min lokal
0 0 0
12/13 0 0 8/13 27/13 bukan optimal
0 2 0 1 4 bukan optimal
0 0 0 2 3 min lokal
4/5 8/5 0 0 3 max lokal
3 0 9 2 0 max lokal
0 4 4 2 5 max lokal
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Latihan
1 Dengan menggunakan syarat-syarat cukup untuk keoptimalan,
tunjukkan mana di antara titik-titik (0, 0)
T
, (4, 0)
T
dan
_
4
3
,
8
3
_
T
yang merupakan titik maksimum lokal dari fungsi
f (x) =
1
2
(x
1
1)
2
+ (x
2
2)
2
dengan kendala
2x
1
x
2
0,
x
1
x
2
4,
x
2
0.
2 Tentukan titik minimum dan titik maksimum dari fungsi
f (x, y) = 48xy 32x
3
24y
2
di daerah
0 x 1, 0 y 1.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Masalah
1
minimumkan f (x)
terhadap g
i
(x) = 0, i = 1, 2, , m
(13)
2
minimumkan f (x)
terhadap g
i
(x) 0, i = 1, 2, , m
(14)
Contoh
1
minimumkan f (x) = x
2
1
x
2
2
terhadap x
2
1
+ 2x
2
2
= 4
(15)
2
minimumkan f (xx
1
terhadap (x
1
+ 1)
2
+ x
2
1
x
2
1
+ x
2
2
2.
(16)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Contoh
minimumkan f (x) = x
1
terhadap (x
1
+ 1)
2
+ x
2
1
x
2
1
+ x
2
2
2.
(17)
Denisi
1 Titik x

dikatakan titik reguler dari masalah (13) jika


{g
1
(x

), , g
m
(x

)} bebas linear.
2 Misalkan I
x

adalah himpunan nomor kendala yang aktif di x

.
Titik x

dikatakan titik reguler dari masalah (14) jika


{g
i
(x

)|i I
x

} bebas linear.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Fungsi Lagrange untuk masalah (13) dan (14)
L(x, ) = f(x)
m

i=1

i
g
i
(x) = f(x)
T
g(x).
Syarat perlu untuk keoptimalan masalah (13):
Misalkan x

titik minimum lokal dari masalah (13). Misalkan Z


adalah matriks basis dari ruang nol g(x

)
T
. Jika x

titik reguler
dari kendala-kendala (13), maka terdapat

sehingga
1
x
L(x

) = 0 atau Zf(x

) = 0
2 Z
T
L
xx
(x, )Z bersifat semi denit posistif.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Syarat perlu untuk keoptimlan masalah (14)
Jika x

titik minimum lokal dari masalah (14). Misalkan Z adalah


matriks basis dari matriks Jacobi kendala-kendala aktif di x

. Jika
x

titik reguler dari kendala-kendala aktif, maka terdapat

sehingga
1
x
L(x

) = 0 atau Zf(x

) = 0
2

0
3

i
g
i
(x

) = 0, i = 1, 2, , m
4 Z
T
L
xx
(x, )Z bersifat semi denit posistif.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Sucient Conditions for Optimality for Problem (13)
Misalkan x

memenuhi g(x

) = 0. Jika x

dan

memenuhi:
1 L(x

) = 0,
2 Z
T
L
xx
(x, )Z bersifat denit posistif,
dengan Z adalah matriks basis dari Jacobian g(x

), maka x

adalah titik minimum lokal dari masalah (13).


Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Sucient Conditions for Optimality for Problem (14)
Misalkan x

memenuhi g(x

) = 0. Jika x

dan

memenuhi:
1 L(x

) = 0,
2

0
3

i
(g
i
(x

)) = 0, i = 1, 2, , m dipenuhi secara murni,


4 Z
T
L
xx
(x, )Z bersifat denit posistif,
dengan Z adalah matriks basis dari ruang Jacobian dari
kendala-kendala yang non-degenerate (kendala-kendala dengan
pengali Lagrange yang positif), maka x

adalah titik minimum


lokal dari masalah (14).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Kembali ke contoh 4
Pandang kembali masalah
minimumkan f (x) = x
1
terhadap (x
1
+ 1)
2
+ x
2
2
1
x
2
1
+ x
2
2
2.
(18)
Fungsi Lagrange:
L(x, ) = x
1

1
((x
1
+ 1)
2
+ 2x
2
1)
2
(x
2
1
x
2
2
+ 2)
L
x
(x, ) =
_
1
0
_

1
_
2(x
1
+ 1)
2x
2
_

2
_
2x
1
2x
2
_
(19)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Jika kedua kendala tidak aktif, maka tidak ada solusi untuk
L
x
(x, ) = 0
Jika kedua kendala aktif, maka terdapat dua titik yang
memenuhi, yaitu:
x = (1, 1) dengan
1
=
1
2
dan
2
=
1
2
x = (1, 1) dengan
1
=
1
2
dan
2
=
1
2
Jika kendala 1 aktif, kendala 2 tidak aktif (
2
= 0),maka titik
yang memenuhi adalah x = (0, 0) dengan
1
=
1
2
,
Jika kendala 1 tidak aktif, kendala 2 aktif, maka yang
memenuhi adalah x = (

2, 0) dengan
2
=
1
2

2
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Cek keoptimalan
Titik x = (1, 1) dengan
1
=
1
2
dan
2
=
1
2
g(x) =
_
0 2
2 2
_
, mempunyai ruang nol {(0, 0)
T
}, tidak
punya basis. Jadi second order sucient condition otomatis
dipenuhi. Karena
1
=
1
2
> 0 dan
2
=
1
2
> 0, maka titik ini
adalah titik minimum lokal.
Titik x = (1, 1) dengan
1
=
1
2
dan
2
=
1
2
, titik
minimum lokal.
x = (0, 0) dengan
1
=
1
2
,
2
= 0. g
1
(x) =
_
2
4
_
. Pilih
Z = (2, 1)
T
.
Z
T
L
xx
(x, )Z = 1.
Jadi x = (0, 0) bukan titik ekstrim.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Cek keoptimalan (2)
Titik x = (

2, 0)
T
. g
2
(x) =
_
2

2
0
_
. Pilih Z = (0, 1)
T
.
Z
T
L
xx
(x, )Z =
1
sqrt(2)
.
Jadi x = (
_
(2), 0)
T
titik maksimum lokal.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Latihan
1 Tentukan solusi dari masalah
minimumkan x
2
1
+ 2x
2
2
+ x
1
x
2
6x
1
2x
2
12x
3
terhadap x
1
+ x
2
+ x
3
= 2,
x
1
2x
2
3
x
1
0
x
2
0
x
3
0
2 Tentukan semua titik ekstrem dari fungsi
f (x, y) = 48xy 32x
3
24y
2
di daerah yang dibatasi
0 x 2, y = x
2
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Sequential Quadratic Programming
Metode optimisasi untuk menyelesaikan masalah
minimumkanf (x)
terhadap g(x) = 0.
(20)
Fungsi Lagrange untuk masalah di atas
L(x, ) = f(x)
T
g(x).
Kita akan membangun iterasi
x
k+1
= x
k
+ p
k

k+1
=
k
+
k
.
Bagaimana menentukan p
k
dan
k
?
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Hampiran kuadratik untuk L(x, )
L(x
k+1
,
k+1
) L(x
k
,
k
) +
_
p
k

k
_
T
L(x
k
,
k
)
+
1
2
_
p
k

k
_
T

2
L(x
k
,
k
)
_
p
k

k
_
.
L(x
k+1
,
k+1
) L(x
k
,
k
) +
2
L(x
k
,
k
)
_
p
k

k
_
.
Jika diinginkan L(x
k+1
,
k+1
) = 0, maka

2
L(x
k
,
k
)
_
p
k

k
_
= L(x
k
,
k
).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Catat bahwa
L(x
k
,
k
) =
_

x
L(x
k
,
k
)

L(x
k
,
k
)
_
=
_
f (x
k
,
k
)
T
g(x
k
)
g(x
k
)
_

2
L(x
k
,
k
) =
_
_

2
xx
L(x
k
,
k
)
2
x
L(x
k
,
k
)

2
x
L(x
k
,
k
)
2

L(x
k
,
k
)
_
_
=
_

2
xx
L(x
k
,
k
) g(x
k
)
g(x
k
)
T
0
_
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Iterasi Sequential Quadratic Programming
x
k+1
= x
k
+ p
k
,

k+1
=
k
+
k
,
dengan p
k
dan
k
memenuhi
_

2
xx
L(x
k
,
k
) g(x
k
)
g(x
k
)
T
0
__
p
k

k
_
=
_
f (x
k
,
k
)
T
g(x
k
)
g(x
k
)
_
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Latihan
Terapkan sequential quadratic programming pada masalah
optimisasi
minimumkan f (x
1
, x
2
) = (x
1
2)
3
+ (x
2
1)
2
terhadap x
1
2x
2
+ 1 = 0,
untuk mendapatkan solusi optimal dari masalah tersebut. Gunakan
tebakan awal x
0
T
= (2,
3
2
) dan
0
=
5
6
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Jawab: Misalkan g(x
1
, x
2
) = x
1
2x
2
+ 1
L(x
1
, x
2
, )
Iterasi :
x
k+1
= x
k
+
_
p1
k
p2
k
_

k+1
=
k
+ p3
k
,
dengan p1
k
, p2
k
dan p3
k
adalah solusi dari sistem persamaan
_

2
xx
L g
g
T
0
_
_
_
p1
k
p2
k
p3
k
_
_
=
_
_

L
x
1

L
x
2
g(x
1
, x
2
)
_
_
atau
_
_
6(x
1
1) 0 1
0 2 2
1 2 0
_
_
_
_
p1
k
p2
k
p3
k
_
_
=
_
_
3(x
1
2)
2
+
2(x
2
2) 2
x
1
2x
2
+ 1
_
_
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Iterasi 1:
_
_
0 0 1
0 2 2
1 2 0
_
_
_
_
p1
k
p2
k
p3
k
_
_
=
_
_
5/6
4/6
0
_
_
,
sehingga kita dapatkan
p1
1
= 2/6, p2
1
= 1/6, p3
1
= 5/6.
x
1
=
_
2
3
2
_
+
_
2
6
1
6
_
=
_
7
3
10
6
_
(21)

1
=
5
6

5
6
= 0. (22)

x
L
_
7
3
,
10
6
, 0
_
=
_
3
9

4
6
_
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Iterasi 2:
_
_
2 0 1
0 2 2
1 2 0
_
_
_
_
p1
k
p2
k
p3
k
_
_
=
_
_

3
9
4
6
0
_
_
,
sehingga kita dapatkan
p1
1
= 0, p2
1
= 0, p3
1
= 1/3.
x
2
= x
1

2
=
1
3
.

x
L
_
7
3
,
10
6
,
1
3
_
=
_
0
0
_
.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Cek jenis keoptimalan

2
f
_
7
3
,
10
6
_
=
_
2 0
0 2
_
, dan Z =
_
2
1
_
.
Z
T

2
f
_
7
3
,
10
6
_
Z > 0.
Maka
_
7
3
,
10
6
_
T
adalah local minimizer.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Penalty Method
Misalkan kita mempunyai masalah
minimumkan f (x)
terhadap x S.
(23)
Kendala x S, dapat dinyatakan oleh
g
i
(x) = 0, i = 1, , m,
g
i
(x) 0, i = 1, , n,
g
i
(x) = 0, i = 1, , m, h
i
(x) 0, i = 1, , n.
Masalah optimisasi (23) dapat diselesaikan lewat masalah tanpa
kendala
minimumkan f (x) + cP(x). (24)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Fungsi penalty
Fungsi P(x) didenisikan untuk memberikan penalty jika kita
berada di luar daerah feasible S. Maka,
P(x) = 0 jika x S,
P(x) > 0 jika x S,
P(x) kontinyu.
Contoh
Untuk masalah optimisasi
minimumkan f (x)
terhadapg
i
(x) = 0, i = 1, 2, , m,
(25)
kita dapat memilih P(x) =

m
i=1
g
2
i
(x).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Latihan
1 Tentukanlah fungsi penalty untuk masalah
minimumkan f (x)
terhadapg
i
(x) 0, i = 1, 2, , m,
(26)
2 Tentukanlah fungsi penalty untuk masalah
minimumkan f (x)
terhadapg
i
(x) = 0, i = 1, 2, , m,
h
i
(x) 0, i = 1, n.
(27)
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Algoritma Penalty Method
Inisiasi: , x
1
, c
1
> 0, > 0.
Langkah:
1 k = 1
2 minimumkan q(x, c
k
) = f(x) + c
k
P(x). Misalkan solusinya
adalah x
k
.
3 Jika c
k
P(x
k
) < , solusi = x
k
, stop. Jika tidak,
c
k+1
= c
k
, k = k + 1,
kembali ke langkah 2.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Barrier Method
Metode ini adalah metode optimisasi untuk menyelesaikan masalah
minimumkan f (x)
terhadap g
i
(x) 0, i = 1, 2, , m.
Serupa dengan Penalty Method, masalah dengan kendala di atas
diubah menjadi masalah tanpa kendala
minimumkan f (x) + B(x).
Bagaimana mendenisikan B(x)?
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Barrier function
Barrier function B(x) haruslah memenuhi:
1 B kontinyu,
2 B(x) 0, untuk setiap x di daerah feasible,
3 B(x) jika x mendekati batas daerah feasible.
Contoh Barrier Function:
1 B(x) =

m
i =1
1
g
i
(x)
2 B(x) =

m
i =1
ln(min(1, g
i
(x))).
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem
Outline Prob LinEqCon LinIneq Masalah Non-Linear Umum SeqQuad
Algoritma Barrier Method
Inisiasi: ,
1
(> 0), (0, 1).
Langkah:
1 k = 1
2 minimumkan f (x) +
k
B(x). Misalkan solusinya adalah x
k
.
3 Jika
k
B(x
k
) < , solusi = x
k
, stop. Jika tidak,

k+1
=
k
, k = k + 1,
kembali ke langkah 2.
Rieske Hadianti KK Matematika Industri dan KeuanganInstitut Teknologi Bandung
Pengantar Optimisasi: Constrained Problem

You might also like