Condiciones de Karush-Kuhn-Tucker

Departamento de Matem aticas, CSI/ITESM 21 de abril de 2010

Indice
16.1. Historia . . . . . . . . 16.2. Formulaci on . . . . . . 16.3. Uso de las Condiciones 16.4. Ejemplo 1 . . . . . . . 16.5. Ejemplo 2 . . . . . . . 16.6. Ejemplo 3 . . . . . . . 16.7. Ejercicios . . . . . . . . . . . . . . . KKT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 3 3 4 5 8

16.1.

Historia

Las condiciones necesarias que deben satisfacer los o ptimos de problemas de optimizaci on no lineal con restricciones de desigualdad fueron publicadas por primera vez (1939) en la tesis de Maestr a de William Karush (1917-1997) (en aqu el entonces estudiante de matem aticas de la Universidad de Chicago) (W. Karush (1939): Minima of Functions of Several Variables with Inequalities as Side Constraints. M.Sc. Dissertation. Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois.), aunque fueron renombradas tras un art culo en una conferencia de Harold W. Kuhn y Albert W. Tucker en 1951. (H. W. Kuhn, Tucker, A. W.: Nonlinear programming (Proceedings of 2nd Berkeley Symposium, University of California Press, 1951, Berkeley.) Las condiciones de Karush-Kuhn-Tucker (KKT) son una generalizaci on del m etodo de los multiplicadores de Lagrange para restricciones de desigualdad.

16.2.

Formulaci on

Considere el problema de optimizaci on Min f (x1 , x2 , . . . , xn ) sujeto a g 1 (x 1 , x 2 , . . . , xn ) 0 g 2 (x 1 , x 2 , . . . , xn ) 0 . . . g m (x 1 , x 2 , . . . , xn ) 0 El m etodo de soluci on procede de la siguiente manera. Cambiemos cada restricci on de desigualdad gi 0 a una restricci on de igualdad introduciendo una variable si de la siguiente manera: g i 0 g i + s2 i =0 (1)

De acuerdo a la t ecnica de los multiplicadores de Lagrange se construye la funci on:

m

F (x, , s) = f (x) +
i=1

i ( g i + s 2 i)

(2)

Los puntos que minimizan a f sujeta a las restricciones gi 0 (1 i m) est an dentro de los puntos cr ticos de F : Que hacen cero las parciales con respecto a las variables xj (j = 1, . . . , n): f F = + xj xj
m

i
i=1

gi =0 xj

Que hacen cero las parciales con respecto a las variables i (i = 1, . . . , m): F = g i + s2 i = 0 gi 0 i Que hacen cero las parciales con respecto a las variables si (i = 1, . . . , m): F = 2 i s i = 0 i s i = 0 i g i = 0 si Lo anterior se resume en el siguiente teorema que indica las condiciones que deben satisfacer los puntos que minimizan la funci on sujeta a las restricciones. Teorema Suponga una formulaci on para el problema anterior de minimizaci on. Si x0 = (a1 , a2 , . . . , an ) es un optimo, entonces deben existir n umeros reales llamados multiplicadores 1 , 2 ,. . . ,m no negativos tales que (a1 , a2 , . . . , an , 1 , . . . , m ) es un punto cr tico para F . Es decir que se cumple:
(x o ) + f xj

Bloque I + = 0 j = 1, 2 . . . , n Bloque II: Condici on de Holgura Complementaria i g i ( x o ) = 0 i = 1, 2, . . . , m Bloque III gi 0 i = 1, 2, . . . , m

gi (xo ) m i=1 i xj

(3)

Observe que los valores de si se obtienen de la relaci on gi + s2 i = 0 y de que gi 0. Si ahora el problema es de maximizaci on: Max f (x1 , x2 , . . . , xn ) sujeto a g 1 (x 1 , x 2 , . . . , xn ) 0 g 2 (x 1 , x 2 , . . . , xn ) 0 . . . g m (x 1 , x 2 , . . . , xn ) 0 (4)

Para su soluci on lo cambiamos a un problema de minimizaci on para f (x). En este caso la funci on F queda en la forma:
m

F (x, , s) = f (x) +
i=1

i ( g i + s 2 i)

De tal forma que las condiciones que deben satisfacer los o ptimos ahora quedan de acuerdo al siguiente teorema. Teorema Suponga una formulaci on para el problema anterior en el caso de maximizaci on. Si x0 = (a1 , a2 , . . . , an ) es un optimo, entonces deben existir n umeros reales llamados multiplicadores 1 , 2 ,. . . ,m no negativos tales que (a1 , a2 , . . . , an , 1 , . . . , m ) es un punto cr tico para F . Es decir, que se cumple:
(x o ) f xj + gi (xo ) m i=1 i xj

Bloque I = 0

j = 1, 2 . . . , n (5)

Bloque II i gi (xo ) = 0 i = 1, 2, . . . , m Bloque III gi 0 i = 1, 2, . . . , m

16.3.

Uso de las Condiciones KKT

La forma de operar las condiciones de KKT ser a la siguiente: Como lo que buscamos es el punto xo y de inicio se desconoce, entonces las ecuaciones de las condiciones de los bloques I y II se piensan como un sistema de ecuaciones en las variables xj s y j s: Se intenta resolver tal sistema de ecuaciones y en caso de encontrarse en las soluciones se revisan una a una para ver cual de ella cumple que los j s son no negativos y que tambi se cumplen las restricciones gi 0 en los puntos encontrados. Normalmente se realiza una tabla donde se hace la vericaci on. Observe tambi en es posible trabajar el problema de maximizaci on resolviendo el problema de minimizaci on pero conservando aquellos puntos que tengan los valores de los multiplicadores no positivos.

16.4.

Ejemplo 1

Encuentre los valores m nimo y m aximo de la funci on f (x1 , x2 ) = 3 x1 x2 sujeta a las restricciones 0 x1 , 0 x2 y 2 x1 + x2 2. Soluci on Primero cambiemos las restricciones a la forma gi 0: 0 x1 g1 = x1 0 0 x2 g2 = x2 0 x1 + x2 2 g3 = 2 x1 + x2 2 0 Resolvamos el problema de minimizaci on primeramente. En este caso las condiciones son:
f (xo ) x1 f (xo ) x2

gi (xo ) m i=1 i x1

Bloque I = 1 + 2 1 2

=0

gi (xo ) + m = 1 + 1 3 =0 i=1 i x1 Bloque II: Condici on de Holgura Complementaria 1 g1 = 1 (2 x1 + x2 2) = 0 2 g 2 = 2 x 1 =0 3 g 3 = 3 x 2 =0

El sistema de ecuaciones es resuelto en Maple y se arma la siguiente tabla. x1 0 1 0 x2 0 0 2 1 0 1/2 1 2 -1 0 1 3 -1 -1/2 0 g1 -2 0 0 g2 0 -1 0 g3 0 0 -2 f 3 2 1

En la tabla vemos que s olo el u ltimo rengl on tiene valores de los multiplicadores no negativos. Por tanto, el m nimo valor de f (x1 , x2 ) lo alcanza en P (0, 2) y es 1. Para determinar el m aximo las condiciones quedan:
(x o ) f x1 (x o ) f x2

Bloque I + = 1 + 2 1 2 =0 + = 1 + 1 3 =0 Bloque II: Condici on de Holgura Complementaria 1 g1 = 1 (2 x1 + x2 2) = 0 2 g 2 = 2 x 1 =0 3 g 3 = 3 x 2 =0

gi (xo ) m i=1 i x1 gi (xo ) m i=1 i x1

El sistema de ecuaciones es resuelto en Maple y se arma la siguiente tabla. x1 0 1 0 x2 0 0 2 1 0 -1/2 -1 2 1 0 -1 3 1 1/2 0 g1 -2 0 0 g2 0 -1 0 g3 0 0 -2 f 3 2 1

En la tabla vemos que s olo el primer rengl on tiene valores de los multiplicadores no negativos. Por tanto, el m aximo valor de f (x1 , x2 ) lo alcanza en Q(0, 0) y es 3. Observamos que las tablas para minimizaci on y para maximizaci on son id enticas salvo que los valores de los multiplicadores est an cambiados de signo. Por tanto, la estrategia conveniente para optimizar una funci on sujeta a restricciones de desigualdad por el m etodo de las condiciones de KKT ser a: 1. Plantear el problema como si se tratar a s olo de minimizaci on y resolver el sistema de ecuaciones correspondientes. 2. Eliminar aquellos puntos encontrados que no satisfacen las restricciones gi 0. 3. Eliminar aquellos puntos que tienen a la vez multiplicadores positivos y negativos. 4. Para minimizaci on: escoger dentro de aquellos puntos que tienen multiplicadores no negativos aqu el que tienen la menor evaluaci on de la funci on objetivo. on: escoger dentro de aquellos puntos que tienen multiplicadores no positivos aqu el que 5. Para maximizaci tienen la mayor evaluaci on de la funci on objetivo.

Figura 1: Preparativos y puntos cr ticos del ejemplo 2

Figura 2: Sustituci on de los puntos cr ticos en [x, y, t, g, f ]

16.5.

Ejemplo 2

Encuentre los m aximos y m nimos absolutos de la funci on: f (x, y ) = x2 + y 2 + y 1 En la regi on S denida por S = (x, y ) R2 |x2 + y 2 1 Soluci on Utilizaremos las condiciones KKT para caracterizar los m aximos y los m nimos. Aqu g = g (x, y ) = x2 + y 2 1 0. En la gura 1 aparecen los preparativos para la soluci on del problema, as como sus puntos cr ticos. El orden de las variables en la matriz es x y t. En la gura 2 aparecen las coordenadas de los puntos cr ticos y las evaluaciones de g y de f en cada uno de los puntos cr ticos. Lo que se resume en la siguiente tabla. x 0 0 0 Observe que: Los tres puntos cumplen la restricci on g (x, y ) 0. Para minimizaci on, s olo el primer punto al tener t = 0 cumple t 0. Por tanto, P (0, 1/2) debe ser el m nimo. Para maximizaci on, los puntos dos y tres al tener t = 1/2 y t = 3/2 son los candidatos a m aximos de la funci on. Deber a escogerse aqu el que tiene un mayor valor de f . Por lo tanto, f (x = 0, y = 1/2) = 5/4 es el m nimo de la funci on y f (x = 0, y = 1) = 1 es el valor m aximo. y -1/2 -1 1 t 0 -1/2 -3/2 g -3/4 0 0 f -5/4 -1 1

16.6.

Ejemplo 3

Un comerciante puede comprar hasta 17.25 onzas de un producto qu mico A a 10 d olares cada onza. Se puede convertir una onza del producto qu mico A en una onza del producto I a un costo de 3 d olares a onza. Asimismo, una onza del qu mico A se puede convertir en una onza del producto II a un costo de 5 d olares la onza. Si se producen x1 onzas del producto I se vender a a 30 x1 d olares la onza, mientras que si se producen x2 onzas del producto II se vender a a 50 x2 d olares la onza. Determine c omo el comerciante puede maximizar sus ganancias. Soluci on: Variables de Decisi on x1 = Onzas del producto I producidas x2 = Onzas del producto II producidas Objetivo Lo que debe hacerse es maximizar las ganancias que se obtiene restando a las ventas los costos, tanto de materia prima como de producci on: Max z = x1 (30 x1 ) + x2 (50 x2 ) 3 x1 5 x2 10 (x1 + x2 ) Restricciones x1 + x2 17.25, 0 x1 , 0 x2 Nos olvidaremos de las restricciones de no-negatividad para la x1 y x2 y posteriormente ltramos las soluciones encontradas. As : f = x1 (30 x1 ) + x2 (50 x2 ) 3 x1 5 x2 10 (x1 + x2 ) g1 = x1 + x2 17.25 0 g2 = x1 0 g3 = x2 0 Las condiciones de KKT que debe satisfacer el o ptimo son:
f x 1 f x 2

+ +

3 i=1 i 3 i=1 i

Bloque I = 17 + 2 x1 + 1 2 = 35 + 4 x2 + 1 3 Bloque II 1 (g1 ) = 1 (x1 + x2 17.25) 2 ( g 2 ) = 2 x 1 3 ( g 3 ) = 3 x 2

gi x1 gi x1

= 0 = 0 = 0 = 0 = 0

Resolviendo el sistema anterior con Maple obtenemos los siguientes puntos. En la tabla se tabula cada una de las restricciones evaluada en el punto correspondiente. Recuerde que las s deben ser positivas y las restricciones deben cumplirse (gi 0): x1 0 8.50 17.25 0 8.50 0 4.125 x2 0 0 0 17.5 17.5 17.25 13.125 1 0 0 -17.5 0 0 .500 8.75 2 -17. 0 0 -17. 0 -16.5 0 3 -35. -35. -52.5 0 0 0 0 6 g 1 (x ) -17.25 -8.75 0 .25 8.75 0 0 g 2 (x ) 0 -8.50 -17.25 0 -8.50 0 -4.125 g 2 (x ) 0 0 0 -17.5 -17.5 -17.25 -13.125 f (x ) 0 72.25 -4.3125 306.25 378.5 306.1875 340.21875

Figura 3: Preparativos en la TI para el ejemplo 3 El puntos correspondientes a los renglones 1, 2, 3, 4 y 6 se cancelan pues tienen al menos un negativo. El rengl on 5 se cancela pues una de las restricciones no se cumple: g1 debe ser 0. Por consiguiente, el u nico punto sobrevieviente es el del rengl on 7: x1 = 4.125 y x2 = 13.125 con una evaluaci on de 340.21875. Nota Si se utiliza LINGO para resolver el problema codic andolo como MAX=x1*(30-x1)+x2*(50-x2)-3*x1-5*x2-10*(x1+x2); x1+x2<=17.25; se obtiene: Local optimal solution found. Objective value: 340.2188 Variable X1 X2 Row 1 2 Esto coincide con nuestro c alculo. Hagamos las operaciones utilizando la calculadora TI. En la gura 3 se muestran las pantallas donde inician los preparativos: primeramente se limpian las variables que ser an usadas: x1, x2, t1 (en lugar de 1 ), t2 (en lugar de 2 ), y t3 (en lugar de 3 ). Es conveniente manejar las restricciones en la forma gi 0. Las variables g 1, g 2 y g 3 codicar an los lados izquierdos de las restricciones. Las ecuaciones del bloque I se denir an utilizando variables e1 y e2 que representan los lados izquierdos de ellas. As e1 = e2 =
f x1 f x2

Value 4.12500 13.12500 Slack or Surplus 340.2188 0.0000000

Reduced Cost 0.000000 0.0000000 Dual Price 1.000000 -8.75000

3 i=1 ti 3 i=1 ti

gi x1 gi x2

En la gura 4 se muestran las ecuaciones del bloque II y la soluci on del sistema para los puntos cr ticos as como su conversi on a matriz. Sistema e1 = 0 e2 = 0 e3 = 0 e4 = 0 e5 = 0 Para x1, x2, t1, t2, t3 7

e3 = t1 g 1 e4 = t2 g 2 e5 = t3 g 3

Figura 4: Formaci on del sistema para los puntos cr ticos del ejemplo 3

Figura 5: Puntos cr ticos del ejemplo 3

En la gura 5 se muestran las ra ces del sistema que dene los puntos cr ticos. Observe que estas 7 ra ces coinciden con los resultados de Maple. Recuerde que en la primer columna aparece el valor de x1, en la segunda el de x2, en la tercera el de t1, en la cuarta el de t2 y en la quinta el de t3. Como los valores de ti esperados deben ser positivos esto descarta todos excepto los correspondientes a los renglones 1 y 3: P (x1 = 4.125, x2 = 13.125, t1 = 8.75, t2 = 0, t3 = 0) y Q(x1 = 8.5, x2 = 17.5, t1 = 0, t2 = 0, t3 = 0) Recuerde que algunos de estos puntos cr ticos pueden no cumplir las restricciones y deben pasarse por la vericaci on. En la gura 6 se muestran los vectores [g 1, g 2, g 3] resultantes de sustituir en las restricciones los puntos. Recuerde que las restricciones son del tipo gi 0. Obervamos que el punto Q se descarta pues g 1(Q) = 8.75 > 0 y que el punto P las cumple. Por tanto, el u nico punto m aximo de f sujeto a las restricciones es P (x1 = 4.125, x2 = 13.125, t1 = 8.75, t2 = 0, t3 = 0) y que tiene una evaluaci on de 340.219

16.7.

Ejercicios

Los siguientes ser an los ejercicios de tarea para este tema. Ejercicio 1 Utilizando las condiciones de KKT resuelva el problema: Max z = x1 x2

Figura 6: Vericaci on de restricciones para el ejemplo 3

sujeto a la condici on: g 1 (x 1 , x2 ) = x1 2 + x 2 2 1 0 Indique en orden los valores de x1 , x2 y de z . Ejercicio 2 Utilice las condiciones de KKT para encontrar la soluci on o ptima del siguiente problema: Min z = (x1 3)2 + (x2 5)2 sujeto a: g (x 1 , x2 ) = x1 + x 2 7 0 x1 0 x2 0 Indique en orden los valores de x1 , x2 y de z . Ejercicio 3 Utilice las condiciones de KKT para encontrar la soluci on o ptima del siguiente problema: Max z = (x1 1)2 + (x2 2)2 sujeto a: g 1 (x 1 , x2 ) g 2 (x 1 , x2 ) x1 x2 = = x1 + x2 1 = 0 x1 + x2 2 0 0 0

Indique en orden los valores de x1 , x2 y de z . on g1 = 0 mediante las dos restricciones g1 0 y g1 0 (g1 0). Sugerencia: Codique la restricci Ejercicio 4 Una compa n a de energ a el ectrica enfrenta demandas de energ a durante los tiempos de carga m axima y no m axima. Si cobra un precio de p1 d olares el kilowatt-hora durante el tiempo de carga m axima, entonces los clientes pedir an 60 0.5 p1 kwh de energ a. Si se cobra un precio de p2 d olares el kilowatt-hora, entonces los clientes pedir an 40 p2 kwh. La compa n a tiene que tener la suciente capacidad para satisfacer la demanda durante los dos tiempos. A la compa n a le cuesta 10 d olares al d a mantener cada kilowatt-hora de capacidad. Determine c omo la compa n a puede maximizar los ingresos diarios menos los costos de operaci on. Indique la capacidad de la compa n a en kwh, el precio en d olares durante el tiempo de demanda m axima, y el precio en d olares fuera de demanda m axima. Ejercicio 5 Se disponen semanalmente de un total de 160 horas de mano de obra a 15 d olares la hora. Se puede conseguir mano de obra adicional a 25 d olares la hora. Se puede obtener capital en cantidades ilimitadas a un costo de 5 d olares la unidad de capital. Si se disponen de K unidades de capital y de L horas de mano de obra, entonces se pueden producir L1/2 K 1/3 m aquinas. Se vende cada m aquina a 270 d olares. C omo puede la empresa maximizar sus ganancias? Indique 9

el total de horas de mano de obra a utilizar, el total de unidades de capital, y el total de m aquinas a producir.

10