clasenl05s0109

Programación No LinealProgramación No Lineal55Postgrado de Investigación de OperacionesPostgrado de Investigación de OperacionesPostgrado de Investigación de OperacionesPostgrado de Investigación de Operaciones

Prof. Gonzalo Müller [email protected]

Facultad de IngenieríaUniversidad Central de Venezuela

Clase AnteriorClase Anterior

� Programación Convexa.

� Conjuntos convexos:

x = α x1 + (1 – α) x2, ∀α∈ [0, 1], x ∈ S

� Combinación convexa → Combinación lineal no negativa → Combinación lineal.

Programación No Lineal – Prof. Gonzalo Müller – Clase 5 – NC&GM – 2

negativa → Combinación lineal.

� Combinación convexa:

x = α1 x1 + α2 x2 + … + αm xm, αk ≥ 0, Σ αk = 1

� Punto Interior, Punto Exterior, Frontera, Conjunto Abierto, Conjunto Cerrado.


� Clausura, Conjunto Acotado, Conjunto Compacto.

� Capsula Convexa: Politope y Simplex.

� Teorema de Carathéodory.

� Conjuntos convexos separados.

�


� Hiperplano.

� Semiespacios.

� Hiperplano separador.


� Tipos de separación: apropiada, estricta y fuerte.

� Separación fuerte → Separación estricta → Separación apropiada.

� Separación entre un conjunto convexo y un punto.

� Hiperplano soporte: Hiperplano propio.


� Hiperplano soporte: Hiperplano propio.

� Soporte en la frontera de un conjunto convexo.

� Cota Superior, Cota inferior, Supremo, Ínfimo, Máximo, Mínimo.

Existencia de un mínimoExistencia de un mínimo

� Mínimo de una función f:

Sea S ⊂ En, x* es la solución del problema O(f, S) si:

f(x*) ≤ f(x)

∀x∈S ^ x*∈S


∀x∈S ^ x*∈S


{{{{ }}}}

{{{{ }}}}

f : (a,b] R

f(b) inf f(x) : x (a,b]

y

b min f(x) : x (a,b]

→→→→

= ∈= ∈= ∈= ∈

= ∈= ∈= ∈= ∈


{{{{ }}}}

f : (a,b) R

f(b) inf f(x) : x (a,b)

y

b no es el mínimo pues b (a,b)

→→→→

= ∈= ∈= ∈= ∈

∉∉∉∉


{{{{ }}}}

f : (a,b] R

inf f(x) : x (a,b]

y

f(b)

luego el mínimo no existe

→→→→

α = ∈α = ∈α = ∈α = ∈

α ≠α ≠α ≠α ≠

αααα


x

f : (a, ) R

lím f(x)

y no existe mínimo

→∞→∞→∞→∞

∞ →∞ →∞ →∞ →

= −∞= −∞= −∞= −∞

luego el mínimo no existe


� Teorema de Weierstrass (Condición de suficiencia para la existencia de un mínimo):

Si S ⊂ En, S ≠ ∅ y S es compacto toda funcióncontinua f: S → E tiene mínimo.


Esto es, el problema

min f(x)

s.a: → Tiene solución

x ∈ S

Funciones ConvexasFunciones Convexas

�� FunciónFunción ConvexaConvexa: Una función f en E1 es convexasobre un conjunto convexo S ⊆ En si para dos puntoscualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

α∈[0, 1]

Una función convexa sobre S siempre es continua en su interior


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)

S Conjunto convexo


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2

S Conjunto convexo


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)

S Conjunto no convexo


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2

S Conjunto no convexo


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)

S Conjunto convexo


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2

S Conjunto convexo


�� FunciónFunción EstrictamenteEstrictamente ConvexaConvexa: Una función f en E1

es estrictamente convexa sobre un conjunto convexoS ⊆ En si para dos puntos cualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) < αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2) < αf(x1) + [1 – α]f(x2)

α∈(0, 1)


f(αx1 + [1 – α]x2) < αf(x1) + [1 – α]f(x2)

αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2)

f(x2)

f(x1)

x1 x2

Una función estrictamente convexa no admite segmentos rectos


Ejemplo 5.1: Demostrar que la siguiente función es convexa sobre R:

f(x) = x2 – 1




f(x) = x2 – 1

Sean dos puntos x1, x2∈R:



x1 = x1, x2 = x2



f(x) = x2 – 1




x1 = x1, x2 = x2Si f(x) es convexa entonces:

f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)


αf(x1) + [1 – α]f(x2):



αf(x1) + [1 – α]f(x2):

αf(x1) + [1 – α]f(x2) = α(x12 – 1)+[1 – α](x22 – 1)

αf(x1) + [1 – α]f(x2) = αx12 – α + x22 – αx22 – 1 + α

αf(x1) + [1 – α]f(x2) = αx12 + x22 – αx22 – 1

αf(x ) + [1 – α]f(x ) = α[x 2 – x 2] + x 2 – 1


αf(x1) + [1 – α]f(x2) = α[x12 – x22] + x22 – 1


αf(x1) + [1 – α]f(x2):

αf(x1) + [1 – α]f(x2) = α(x12 – 1)+[1 – α](x22 – 1)

αf(x1) + [1 – α]f(x2) = αx12 – α + x22 – αx22 – 1 + α

αf(x1) + [1 – α]f(x2) = αx12 + x22 – αx22 – 1

αf(x ) + [1 – α]f(x ) = α[x 2 – x 2] + x 2 – 1


αf(x1) + [1 – α]f(x2) = α[x12 – x22] + x22 – 1

f(αx1 + [1 – α]x2):


αf(x1) + [1 – α]f(x2):

αf(x1) + [1 – α]f(x2) = α(x12 – 1)+[1 – α](x22 – 1)

αf(x1) + [1 – α]f(x2) = αx12 – α + x22 – αx22 – 1 + α

αf(x1) + [1 – α]f(x2) = αx12 + x22 – αx22 – 1

αf(x ) + [1 – α]f(x ) = α[x 2 – x 2] + x 2 – 1


αf(x1) + [1 – α]f(x2) = α[x12 – x22] + x22 – 1

f(αx1 + [1 – α]x2):

f(αx1+[1 – α]x2) = (αx1 + [1 – α]x2)2 – 1

f(αx1+[1 – α]x2) = α2x12+2α[1 – α]x1x2+[1 – α]2x22–1

f(αx1+[1 – α]x2) = α2x12+[2α–2α2]x1x2+[1–2α+α2]x22–1


f(αx1+[1 – α]x2) = α2x12+2αx1x2–2α2x1x2+x22–2αx22 + α2x22– 1

f(αx1+[1 – α]x2) = α[2x1x2–2x22]+α2[x12 –2x1x2 + x22]+x22 – 1

f(αx1+[1 – α]x2) = α[2x1x2–2x22]+ α2(x1 –x2)2+ x22 – 1


f(αx1+[1 – α]x2) = α[2x1x2–2x22]+ α2(x1 –x2)2+ x22 – 1

f(αx1+[1 – α]x2) = – α[–2x1x2+x22]+ α2(x1 –x2)2+ x22 –1 + αx12 – αx12 – αx22

f(αx1+[1 – α]x2) = – α[x12–2x1x2+x22]+ α2(x1 –x2)2+ x22

– 1 + α[x12 –x22]


f(αx1+[1 – α]x2) = – α (x1 –x2)2 + α2(x1 –x2)2+ x22 – 1 + α[x12 –x22]

f(αx1+[1 – α]x2)=(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1




f(αx1+[1 – α]x2)=(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1

f(αx + [1 – α]x ) ≤ αf(x ) + [1 – α]f(x ):


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2):



f(αx1+[1 – α]x2)=(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1

f(αx + [1 – α]x ) ≤ αf(x ) + [1 – α]f(x ):


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2):

(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1≤ α[x12 – x22] + x22 – 1

(α2 – α)(x1 –x2)2 ≤ 0



f(αx1+[1 – α]x2)=(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1

f(αx + [1 – α]x ) ≤ αf(x ) + [1 – α]f(x ):


f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2):

(α2 – α)(x1 –x2)2+α[x12 –x22]+x22 –1≤ α[x12 – x22] + x22 – 1

(α2 – α)(x1 –x2)2 ≤ 0 → f(x) = x2 – 1 es convexa


�� FunciónFunción CóncavaCóncava: Una función f en E1 es cóncavasobre un conjunto convexo S ⊆ En si para dos puntoscualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) ≥ αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2) ≥ αf(x1) + [1 – α]f(x2)

α∈[0, 1]


f(αx1 + [1 – α]x2) ≥ αf(x1) + [1 – α]f(x2)

f(αx1 + [1 – α]x2)


αf(x1) + [1 – α]f(x2)

f(x2)

f(x1)

x1 x2

Si f(x) es convexa entonces –f(x) es cóncava, y viceversa


�� FunciónFunción EstrictamenteEstrictamente CóncavaCóncava: Una función f en E1

es estrictamente cóncava sobre un conjunto convexoS ⊆ En si para dos puntos cualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) > αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2) > αf(x1) + [1 – α]f(x2)

α∈[0, 1]


f(αx1 + [1 – α]x2) > αf(x1) + [1 – α]f(x2)

f(αx1 + [1 – α]x2)


αf(x1) + [1 – α]f(x2)

f(x2)

f(x1)

x1 x2

Una función estrictamente cóncava no admite segmentos rectos


� Es Convexa ?



� Es Cóncava ?



No es ni cóncava ni convexa sobre el conjunto convexo S en estudio.

f(αx1 + [1 – α]x2)


αf(x1) + [1 – α]f(x2)

f(x2)

f(x1)

x1 x2

S


�� FunciónFunción ConvexaConvexa: Una función f en E1 es convexasobre un conjunto convexo S ⊆ En si para n puntoscualquiera:

f(α1x1+α2x2+··· +αnxn) ≤ α1f(x1)+α2f(x2)+··· +αnf(xn)


f(α1x1+α2x2+··· +αnxn) ≤ α1f(x1)+α2f(x2)+··· +αnf(xn)

x1, x2,…, xn∈S

α1+α2+··· +αn = 1


� Propiedades de un función convexa:




� Si una función f es convexa y k ≥ 0 entonces kf esconvexa.





� La suma de dos funciones convexas (cóncavas) esuna función convexa (cóncava).


una función convexa (cóncava).




� La suma de dos funciones convexas (cóncavas) esuna función convexa (cóncava).


una función convexa (cóncava).

� Corolario:

� La combinación lineal no negativa de funcionesconvexas es una función convexa.



f(x) = 2x2 + x – 2




f(x) = 2x2 + x – 2

f(x) = f (x) + f (x)


f(x) = f1(x) + f2(x)

si f1(x) y f2(x) son convexas entonces f(x) es convexa:

f1(x) = 2x2 – 2

f2(x) = x


f1(x) = 2x2 – 2 = 2 f3(x)



f1(x) = 2x2 – 2 = 2 f3(x)

si f3(x) es convexa entonces 2 f3(x) es convexa



f1(x) = 2x2 – 2 = 2 f3(x)


f3(x) = x2 – 1 es convexa → f1(x) es convexa



f1(x) = 2x2 – 2 = 2 f3(x)


f3(x) = x2 – 1 es convexa → f1(x) es convexa


f2(x) = x es convexa si dados dos puntos x1, x2 se satisface:

f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)


f(αx1 + [1 – α]x2) = αx1 + [1 – α]x2αf(x1) + [1 – α]f(x2) = αx1 + [1 – α]x2




↓

f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)


Se satisface



↓

f(αx1 + [1 – α]x2) ≤ αf(x1) + [1 – α]f(x2)


Se satisface

↓

f1(x) y f2(x) es convexa

↓

f(x) es convexa


� Propiedades de una función convexa:

� Una función convexa puede ser discontinua y estasdiscontinuidades solo pueden ocurrir en losextremos del dominio efectivo.

� El dominio efectivo ED:


� El dominio efectivo ED:

ED(f) = {x | x∈En, f(x) < +∞}


� Si f es una función convexa sobre un conjuntoconvexo S ⊂ En,

Entonces, el conjuntoW = {x | x ∈ S, f(x) ≤ c}

∀c ∈ E


Función convexa

f(x)


� Si f es una función convexa sobre un conjuntoconvexo S ⊂ En,

Entonces, el conjuntoW = {x | x ∈ S, f(x) ≤ c}

∀c ∈ E


c

W

Conjunto convexoFunción convexa

f(x)


� Todo mínimo local de una función convexa f sobreEn es un mínimo global de f sobre En.




� Si f es una función convexa sobre En y S ⊂ En es unconjunto convexo, entonces todo mínimo local de fen x*∈ S es un mínimo global sobre todo S.


en x ∈ S es un mínimo global sobre todo S.



� Si f es una función convexa sobre En y S ⊂ En es unconjunto convexo, entonces todo mínimo local de fen x*∈ S es un mínimo global sobre todo S.


en x ∈ S es un mínimo global sobre todo S.

� Si f es una función estrictamente convexa sobre En

y S ⊂ En es un conjunto convexo, entonces elmínimo local de f en x*∈ S es el único mínimoglobal sobre todo S.

Optimización de Funciones ConvexasOptimización de Funciones Convexas

Ejemplo 5.3: Determinar el óptimo de la siguiente función:

f(x) = x2 – 1



Ejemplo 5.3: Determinar el óptimo de la siguiente función:

f(x) = x2 – 1

Condición suficiente para un mínimo local estricto de


Condición suficiente para un mínimo local estricto de O(f):

∇f(x*) = 0 ^ zT∇2f(x*)z > 0

∀∀∀∀ z ≠ 0, z∈En


∇f(x) = 2x = 0

↓

x = 0

Dado z = z:

∇2f(x) = 2


∇2f(x) = 2

zT∇2f(x*)z = 2 · z2

2 · z2 > 0 ∀∀∀∀ z, z ≠ 0


∇f(x) = 2x = 0

↓

x = 0

Dado z = z:

∇2f(x) = 2


∇2f(x) = 2

zT∇2f(x*)z = 2 · z2

2 · z2 > 0 ∀∀∀∀ z, z ≠ 0→ Mínimo Local Estricto


∇f(x) = 2x = 0

↓

x = 0

Dado z = z:

∇2f(x) = 2


∇2f(x) = 2

zT∇2f(x*)z = 2 · z2


f(x) es convexa → Mínimo GLOBAL Estricto


∇f(x) = 2x = 0

↓

x = 0

Dado z = z:

∇2f(x) = 2


∇2f(x) = 2

zT∇2f(x*)z = 2 · z2


f(x) es convexa → Mínimo GLOBAL Estricto

f(x) es estrictamente convexa → Único Mínimo GLOBAL


� Problema de optimización convexa:

Dada una función f convexa:

f: En → E1

Dado un conjunto S definido por:


S: gk ≥ 0, hj = 0

gk: funciones cóncavas

hj: funciones lineales

� S constituye un conjunto convexo cerrado.


El Problema de Optimización Convexa OC(f, S) consiste en encontrar x* ∈ S tal que:

f(x*) ≤ f(y)

∀ y ∈ S


∀ y ∈ S

por si solas hj son funciones no lineales convexas y/o

concavas, pero no constituyen un conjunto convexo


� Teorema de Kuhn-Tucker (Condición Necesaria)

Dadas f, gk y hj funciones diferenciables continuasconvexa, cóncavas y lineales en S, respectivamente.

Si existen un x* que satisfaga:

gk ≥ 0, hj = 0


gk ≥ 0, hj = 0

y existen vectores λ* y µ* tales que:

∇x, λL (x*, λ*, µ*) = 0

µk* gk(x*) = 0 k=1,…,m

µ* ≥ 0

Entonces, x* es un óptimo global de OC(f, S)


� Condición de Slater

Un problema de optimización O(f, S) es fuertemente consistente si existe un punto x0 tal que:

gk(x0) > 0 k=1,…, m

h (x0) = 0 j=1,…, p


hj(x0) = 0 j=1,…, p


� Teorema de Kuhn-Tucker

(Condición Necesaria y Suficiente)

Dado un problema OC(f, S) fuertemente consistente y f,gk y hj funciones diferenciables continuas convexa,cóncavas y lineales en S, respectivamente, y hj linealmenteindependientes.


independientes.

Si x* es un óptimo de OC(f, S). Entonces, existen vectores λ* y µ* tales que:

∇x, λL (x*, λ*, µ*) = 0

µk* gk(x*) = 0 k=1,…,m

µ* ≥ 0


Ejemplo 5.4: Determinar la solución del siguiente problema:

min x12 + x22 – 1

s. a:

(x – 4)2+ x 2 ≤ 18


(x1 – 4)2+ x22 ≤ 18

x1 + x2 = 4



min x12 + x22 – 1

s. a:

(x – 4)2+ x 2 ≤ 18


(x1 – 4)2+ x22 ≤ 18

x1 + x2 = 4

Convexa



min x12 + x22 – 1

s. a:

– (x – 4)2 – x 2 ≥ – 18


– (x1 – 4)2 – x22 ≥ – 18

x1 + x2 = 4

Cóncava


Las funciones pertinentes:

f(x) = x12 + x22 – 1

g1(x) = 18 – (x1 – 4)2 – x22

h1(x) = x1 + x2 – 4


Construir el Langrangeano:

L(x, λ, µ) = x12 + x22 – 1 – µ1(18 – (x1 – 4)2 – x22) – λ1(x1 + x2 – 4)


Encontrar el punto estacionario:

∇x, λL(x, λ, µ) = 2x1 + 2µ1(x1 – 4) – λ12x2 + 2µ1x2 – λ1x1 + x2 – 4


↓

2x1 + 2µ1(x1 – 4) – λ1 = 0

2x2 + 2µ1x2 – λ1 = 0

x1 + x2 – 4 = 0

µ1(18 – (x1 – 4)2 – x2 2) = 0


µ1(18 – (x1 – 4)2 – x2 2) = 0:

µ1 = 0

ó

18 – (x1 – 4)2 – x2 2 = 0


µ1 = 0:

2x1 – λ1 = 0 → λ1 = 2x12x2 – λ1 = 0 → λ1 = 2x2x1 = x2


x1 + x1 = 4

2x1 = 4

x1 = 2 x2 = 2 λ1 = 4 µ1 = 0

↓


Se satisfacen las condiciones de Kuhn-Tucker

↓

Es un óptimo → Es un mínimo local → Es un mínimo global


18 – (x1 – 4)2 – x2 2 = 0:

x2 2 = 18 – (x1 – 4)2

Además debe satisfacer:

x1 + x2 = 4


↓

x1 = 4 – x2x2 2 = 18 – (4 – x2 – 4)2

x2 2 = 18 – x22


2x2 2 = 18

x2 = ±3

x2 = +3:

x1 = 4 – x2 = 4 – 3= 1


El nuevo sistema será:

2(1) + 2µ1(1 – 4) – λ1 = 0

2(3) + 2µ13 – λ1 = 0

2 – 6µ1 – λ1 = 0

6 + 6µ1 – λ1 = 0


λ1 = 2 – 6µ1

6 + 6µ1 – (2 – 6µ1) = 0

6 + 6µ1 – 2 + 6µ1 = 0

4 + 12µ1 = 0

µ = – 1/3 < 0


µ1 = – 1/3 < 0

↓

No Satisfacen las condiciones de Kuhn-Tucker

↓

No es un óptimo


x2 = –3:

x1 = 4 – x2 = 4 + 3= 7

El nuevo sistema será:

2(7) + 2µ1(7 – 4) – λ1 = 0


–2(3) – 2µ13 – λ1 = 0

14 + 6µ1 – λ1 = 0

– 6 – 6µ1 – λ1 = 0


λ1 = 14 + 6µ1

– 6 – 6µ1 – (14 + 6µ1) = 0

– 6 – 6µ1 – 14 – 6µ1 = 0

– 20 – 12µ1 = 0

µ = – 5/3 < 0


µ1 = – 5/3 < 0

↓

No Satisfacen las condiciones de Kuhn-Tucker

↓

No es un óptimo

Recuerde que si la función es

estrictamente convexa solo un

punto debería satisfacer las

condiciones de Kuhn-Tucker

Funciones Convexas DiferenciablesFunciones Convexas Diferenciables

�� FunciónFunción ConvexaConvexa: Una función f en E1 diferenciablesobre un conjunto convexo S ⊆ En es convexa si parados puntos cualquiera x1, x2∈S se satisface:

f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)


f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)

f(x2)



f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)


f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)

f(x2)

f(x1) + (x2 – x1)T∇f(x1)



f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)


f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)

f(x2)

f(x1) + (x2 – x1)T∇f(x1)

f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)



diferenciable sobre un conjunto convexo S ⊆ En esestrictamente convexa si para dos puntos cualquierax1, x2∈S se satisface:


f(x2) > f(x1) + (x2 – x1)T∇f(x1)


Ejemplo 5.5: Demostrar que la siguiente función diferenciable es convexa:

f(x) = x2 – 1




f(x) = x2 – 1




x1 = x1, x2 = x2



f(x) = x2 – 1





f(x2) ≥ f(x1) + (x2 – x1)T∇f(x1)


f(x) = x2 – 1, ∇f(x) = 2x

x22 – 1 ≥ x12 – 1 + (x2 – x1)T 2x1x22 ≥ x12 + (x2 – x1) 2x1x22 ≥ x12 + 2x1x2 – 2x12


x22 ≥ 2x1x2 – x12

x22 – 2x1x2 + x12 ≥ 0

(x2 – x1)2 ≥ 0

↓

f(x) = x2 – 1 es convexa


�� FunciónFunción ConcavaConcava: Una función f en E1 diferenciablesobre un conjunto convexo S ⊆ En es concava si parados puntos cualquiera x1, x2∈S se satisface:

f(x2) ≤ f(x1) + (x2 – x1)T∇f(x1)


f(x2) ≤ f(x1) + (x2 – x1)T∇f(x1)


�� FunciónFunción EstrictamenteEstrictamente ConcavaConcava: Una función f en E1

diferenciable sobre un conjunto convexo S ⊆ En esestrictamente concava si para dos puntos cualquierax1, x2∈S se satisface:


f(x2) < f(x1) + (x2 – x1)T∇f(x1)


�� FunciónFunción ConvexaConvexa: Una función f en E1 diferenciablesobre un conjunto convexo S ⊆ En es convexa sobreéste si para dos puntos cualquiera x1, x2∈S se satisface:

(x2 – x1)T [∇f(x2) – ∇f(x1)] ≥ 0


(x2 – x1)T [∇f(x2) – ∇f(x1)] ≥ 0



diferenciable sobre un conjunto convexo S en En esestrictamente convexa sobre éste si para dos puntoscualquiera x1, x2∈S se satisface:


(x2 – x1)T [∇f(x2) – ∇f(x1)] > 0



f(x) = x2 – 1




f(x) = x2 – 1




x1 = x1, x2 = x2



f(x) = x2 – 1





(x1 – x2)T [∇f(x1) – ∇f(x2)] ≥ 0


f(x) = x2 – 1, ∇f(x) = 2x

(x1 – x2)T [2x1 – 2x2] ≥ 0

(x1 – x2) [2x1 – 2x2] ≥ 0

2(x1 – x2)(x1 – x2) ≥ 0


2(x1 – x2)2 ≥ 0

↓

f(x) = x2 – 1 es convexa


�� FunciónFunción ConvexaConvexa: Una función f en E1 diferenciablesobre un conjunto convexo S ⊆ En es convexa sobreéste si para dos puntos cualquiera x1, x2∈S se satisface:

(x2 – x1)T [∇f(x2) – ∇f(x1)] ≥ 0


(x2 – x1)T [∇f(x2) – ∇f(x1)] ≥ 0



diferenciable sobre un conjunto convexo S en En esestrictamente convexa sobre éste si para dos puntoscualquiera x1, x2∈S se satisface:


(x2 – x1)T [∇f(x2) – ∇f(x1)] > 0


�� FunciónFunción ConvexaConvexa: Una función f en E1 doblementediferenciable sobre un conjunto convexo abierto S ⊂

En es convexa sobre éste si su hessiano es semi-definido positivo:


z T· ∇2f(x)· z ≥ 0

∀∀∀∀ z ∈ En

∀∀∀∀ x ∈ S


�� FunciónFunción CóncavaCóncava: Una función f en E1 doblementediferenciable sobre un conjunto convexo abierto S ⊂

En es cóncava sobre éste si su hessiano es semi-definido negativo:

z T· ∇2f(x)· z ≤ 0


z · ∇ f(x)· z ≤ 0

∀∀∀∀ z ∈ En

∀∀∀∀ x ∈ S

Las condiciones de 2º Orden no

son aplicables a las estrictamente



f(x) = x2 – 1




f(x) = x2 – 1

Dado z = z:

Si f(x) es convexa entonces:



z T· ∇2f(x)· z ≥ 0



f(x) = x2 – 1

Dado z = z:




z T· ∇2f(x)· z ≥ 0

∇f(x) = 2x, ∇2f(x) = 2

z · 2· z ≥ 0

z2 · 2 ≥ 0 → f(x) es convexa

Optimización de Funciones Convexas D.Optimización de Funciones Convexas D.

�� Minimizando una función diferenciable convexa Minimizando una función diferenciable convexa (Condición Necesaria y Suficiente)

Sea el siguiente problema de O(f, S) de una función f diferenciable convexa sobre un conjunto convexo S:

� Si x* es una solución óptima.



Entonces ∇f(x*)T(x – x*) ≥ 0 para todos los x∈S

� Si S es un conjunto abierto.

Entonces ∇f(x*) = 0

No es necesario verificar

condiciones de 2º Orden

Convexidad GeneralizadaConvexidad Generalizada

�� FunciónFunción CuasiconvexaCuasiconvexa: Una función f en E1 escuasiconvexa sobre un conjunto convexo S en En sipara dos puntos cualquiera x1, x2∈ S:

f(αx1 + [1 – α]x2) ≤ max{f(x1),f(x2)}


f(αx1 + [1 – α]x2) ≤ max{f(x1),f(x2)}

α ∈[0, 1]


�� FunciónFunción CuasiconvexaCuasiconvexa: Una función f en E1 escuasiconvexa sobre un conjunto convexo S en En sipara dos puntos cualquiera x1, x2∈ S:

f(αx1 + [1 – α]x2) ≤ max{f(x1),f(x2)}


f(αx1 + [1 – α]x2) ≤ max{f(x1),f(x2)}

α ∈[0, 1]

↓

si f(x1) ≥ f(x2) entonces f(αx1 + [1 – α]x2) ≤ f(x1) para todo x1, x2 ∈ S.


f(αx1 + [1 – α]x2) ≤ max{f(x1),f(x2)}

max{f(x1),f(x2)}


1 2

f(x2)

f(x1)

x1 x2

f(λx1+ [1 – λ]x2)


�� Propiedades de una función CuasiconvexaPropiedades de una función Cuasiconvexa:

� No todo mínimo local es un mínimo global.





� Un mínimo local no global no puede ser estricto.

� Si x ∈ S es un mínimo estricto de f, entonces estambién un mínimo global de f sobre S.


también un mínimo global de f sobre S.




� Un mínimo local no global no puede ser estricto.

� Si x ∈ S es un mínimo estricto de f, entonces estambién un mínimo global de f sobre S.


también un mínimo global de f sobre S.

� Puede contener discontinuidades.


�� FunciónFunción FuertementeFuertemente CuasiconvexaCuasiconvexa: Una función f enE1 es fuertemente cuasiconvexa sobre un conjuntoconvexo S en En si para dos puntos cualquiera x1,x2∈S, tales que x1 ≠ x2:


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

∀α ∈ (0, 1)


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

f(x )

max{f(x1),f(x2)}


f(x2)

f(x1)

x1 x2

f(λx1+ [1 – λ]x2)

Una función fuertemente cuasiconvexa

no admite segmentos horizontales


�� Propiedades de una función Fuertemente Propiedades de una función Fuertemente CuasiconvexaCuasiconvexa:

� Un mínimo local es el único mínimo y por ende elúnico mínimo global.



�� Propiedades de una función Fuertemente Propiedades de una función Fuertemente CuasiconvexaCuasiconvexa:

� Un mínimo local es el único mínimo y por ende elúnico mínimo global.

� Toda función Estrictamente Convexa también es


� Toda función Estrictamente Convexa también esFuertemente Cuasiconvexa.

� Toda función Fuertemente Cuasiconvexa esCuasiconvexa.


�� FunciónFunción EstrictamenteEstrictamente CuasiconvexaCuasiconvexa: Una función fen E1 es estrictamente cuasiconvexa sobre unconjunto convexo S en En si para dos cualquiera x1, x2

∈ S, tales que f(x1) ≠ f(x2):


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

∀α ∈ (0, 1)


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

max{f(x1),f(x2)}


f(x1)=f(x2)

x1 x2

f(αx1+ [1 – α]x2)

puntos no válidos: f(x1)=f(x2)


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

max{f(x1),f(x2)}


f(x2)

f(x1)

x1 x2

f(αx1+ [1 – α]x2)

No se satisface:

f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}


f(αx1 + [1 – α]x2) < max{f(x1),f(x2)}

max{f(x1),f(x2)}


Una función estrictamente cuasiconvexa solo

admite un segmento horizontal en el mínimo

f(x2)

f(x1)

x1 x2

f(αx1+ [1 – α]x2)

f(x1*) =f(x2*)


�� Propiedades de una función Estrictamente Propiedades de una función Estrictamente CuasiconvexaCuasiconvexa:

� Todo mínimo local es un mínimo global.





� Toda función Convexa también es EstrictamenteCuasiconvexa.


Cuasiconvexa.






Cuasiconvexa.

� Toda función Fuertemente Cuasiconvexa tambiénes Estrictamente Cuasiconvexa.






Cuasiconvexa.

� Toda función Fuertemente Cuasiconvexa tambiénes Estrictamente Cuasiconvexa.

� No toda función Estrictamente Cuasiconvexa esCuasiconvexa.


Ejemplo 5.8: La siguiente función diferenciable es estrictamente cuasiconvexa pero no cuasiconvexa:

1 x = 0

f(x) = (Karamardian 1967)

0 x ≠ 0


0 x ≠ 0



1 x = 0


0 x ≠ 0


0 x ≠ 0

1. Solo es posible evaluar si es estrictamente cuasiconvexa para x1 = 0 y x1 ≠ 0 o viceversa de lo contrario f(x1) = f(x2). f(αx1 + [1 – α]x2) < 1



1 x = 0


0 x ≠ 0


0 x ≠ 0

1. Solo es posible evaluar si es estrictamente cuasiconvexa para x1 = 0 y x1 ≠ 0 o viceversa de lo contrario f(x1) = f(x2). f(αx1 + [1 – α]x2) < 1

2. Si x1 > 0, x2 <0 para algun α f(αx1 + [1 – α]x2) = 1

1 > max{f(x1),f(x2)} → f(x) no es cuasiconvexa


�� FunciónFunción CuasicóncavaCuasicóncava: Una función f en E1 escuasicóncava sobre un conjunto convexo S en En sipara dos puntos cualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) ≥ min{f(x1),f(x2)}


f(αx1 + [1 – α]x2) ≥ min{f(x1),f(x2)}

α ∈(0, 1)


�� FunciónFunción CuasicóncavaCuasicóncava: Una función f en E1 escuasicóncava sobre un conjunto convexo S en En sipara dos puntos cualquiera x1, x2∈S:

f(αx1 + [1 – α]x2) ≥ min{f(x1),f(x2)}


f(αx1 + [1 – α]x2) ≥ min{f(x1),f(x2)}

α ∈(0, 1)

↓

si f(x1) ≥ f(x2) entonces f(αx1 + [1 – α]x2) ≥ f(x2) para todo x1, x2 ∈ S.


f(αx1 + [1 – α]x2) ≥ min{f(x1),f(x2)}

f(λx1+ [1 – λ]x2)


f(x1)

f(x2)

x1 x2

min{f(x1),f(x2)}

Convexidad Generalizada DiferenciableConvexidad Generalizada Diferenciable

�� FunciónFunción CuasiconvexaCuasiconvexa: Una función f en E1

diferenciable sobre un conjunto convexo S ⊂ En escuasiconvexa sobre éste si y sólo si para dos puntoscualquiera x1, x2∈S tales que f(x1) ≤ f(x2) se satisface:


(x1 – x2)T ∇f(x2) ≤ 0


�� FunciónFunción CuasiconcavaCuasiconcava: Una función f en E1

diferenciable sobre un conjunto convexo S ⊂ En escuasiconcava sobre éste si y sólo si para dos puntoscualquiera x1, x2∈S tales que f(x1) ≥ f(x2) se satisface:


(x1 – x2)T ∇f(x2) ≥ 0


Ejemplo 5.9: Demostrar que la siguiente función diferenciable es cuasiconvexa:

f(x) = x2 – 1




f(x) = x2 – 1




x1 = x1, x2 = x2, x2 ≥ x1 →f(x2) ≥ f(x1)



f(x) = x2 – 1




x1 = x1, x2 = x2, x2 ≥ x1 →f(x2) ≥ f(x1)


(x1 – x2)T ∇f(x2) ≤ 0


∇f(x) = 2x

(x1 – x2) 2x2≤ 0

2x1x2 – 2x22 ≤ 0

2x1x2 ≤ 2x22


x1 ≤ x2


∇f(x) = 2x

(x1 – x2) 2x2≤ 0

2x1x2 – 2x22 ≤ 0

2x1x2 ≤ 2x22


x1 ≤ x2↓

f(x) = x2 – 1 es cuasiconvexa

Conceptos fundamentalesConceptos fundamentales

� Hessiano Bordeado ∇2f(x): Matriz hessiana bordeada de una función f doblemente diferenciable en x es:

∂

∂

∂

∂

x

)f(...

x

)f(0

xx


∂∂

∂

∂∂

∂

∂

∂

∂∂

∂

∂∂

∂

∂

∂

∂∂

=∇

kk

2

1k

2

k

k1

2

11

2

1

k1

2

xx

)f(...

xx

)f(

x

)f(...

...

...xx

)f(

xx

)f(

x

)f(xx

)f(

xxx

xxx

x


�� FunciónFunción CuasiconvexaCuasiconvexa (Condición Necesaria):

Si una función real f doblemente diferenciable sobreun conjunto convexo abierto S ⊂ Rn es cuasiconvexa,entonces:


|∇2f(x)k| ≤ 0 k= 2,…, n

∀x∈S


�� FunciónFunción EstrictamenteEstrictamente CuasiconvexaCuasiconvexa (CondiciónNecesaria y Suficiente):

Si una función real f doblemente diferenciable sobreun conjunto convexo abierto S ⊂ Rn es estrictamentecuasiconvexa, entonces:


cuasiconvexa, entonces:

|∇2f(x)k| < 0 k= 1,…, n

∀x∈S


�� Función Cuasiconcava Función Cuasiconcava (Condición Necesaria):

Si una función real f doblemente diferenciable sobre un conjunto convexo abierto S ⊂ Rn es cuasiconcava, entonces:


(– 1)k|∇2f(x)k| ≤ 0 k= 2,…, n

∀x∈S


�� FunciónFunción EstrictamenteEstrictamente CuasiconcavaCuasiconcava (CondiciónNecesaria y Suficiente):

Si una función real f doblemente diferenciable sobreun conjunto convexo abierto S ⊂ Rn es estrictamentecuasiconcava, entonces:


cuasiconcava, entonces:

(– 1)k|∇2f(x)k| < 0 k= 1,…, n

∀x∈S




Dado un problema OC(f, S) fuertemente consistente yf, gk y hj funciones diferenciables continuas convexa,cuasicóncavas y lineales en S, respectivamente, y hj


cuasicóncavas y lineales en S, respectivamente, y hj

linealmente independientes y ∇gk(x*) ≠ 0 ∀gk(x*) = 0

Si x* es el óptimo de OC(f, S). Entonces, existenvectores λ* y µ* tales que:

∇xL (x*, λ*, µ*) = 0 µ*g(x*) = 0 µ* ≥ 0


�� FunciónFunción PseudoconvexaPseudoconvexa: Una función real fdiferenciable sobre un conjunto convexo abierto S⊂

Rn es pseudoconvexa sobre éste si para dos puntoscualquiera x1, x2∈ S tales que f(x2) ≥ f(x1) se satisface:

[x2 – x1]T ∇f(x1) ≥ 0


[x – x ] ∇f(x ) ≥ 0

Una función pseudoconvexa es una función estrictamente

cuasiconvexa que no admite puntos de inflexión


�� Propiedades de una función PseudoconvexaPropiedades de una función Pseudoconvexa:

� Toda función Convexa Diferenciable también esPseudoconvexa.





� Toda función Pseudoconvexa también esEstrictamente Cuasiconvexa.


Estrictamente Cuasiconvexa.




� Toda función Pseudoconvexa también esEstrictamente Cuasiconvexa.


Estrictamente Cuasiconvexa.


� Si x* es el mínimo entonces ∇f(x*) = 0.


�� Función Estrictamente PseudoconvexaFunción Estrictamente Pseudoconvexa: Una función real f diferenciable sobre un conjunto convexo S⊂ Rn

es estrictamente pseudoconvexa sobre éste si para dos puntos cualquiera x1, x2 ∈ S, x1 ≠ x2, tales que f(x2) >f(x1) se satisface:


[x2 – x1]T ∇f(x1) ≥ 0

Una función estrictamente pseudoconvexa es una función

fuertemente cuasiconvexa que no admite puntos de inflexión


�� Propiedades de una función Estrictamente Propiedades de una función Estrictamente PseudoconvexaPseudoconvexa:

� Toda función Pseudoconvexa también esFuertemente Cuasiconvexa.



�� Propiedades de una función Estrictamente Propiedades de una función Estrictamente PseudoconvexaPseudoconvexa:

� Toda función Pseudoconvexa también esFuertemente Cuasiconvexa.

� El único mínimo local es el único mínimo global.


� El único mínimo local es el único mínimo global.



Ejemplo 5.10: Demostrar que la siguiente función diferenciable es pseudoconvexa:

f(x) = x2 – 1




f(x) = x2 – 1




x1 = x1, x2 = x2, x2 ≥ x1 →f(x2) ≥ f(x1)



f(x) = x2 – 1




x1 = x1, x2 = x2, x2 ≥ x1 →f(x2) ≥ f(x1)


[x2 – x1]T ∇f(x1) ≥ 0


∇f(x) = 2x

[x2 – x1] T 2x1≥ 0

(x2 – x1) 2x1≥ 0

2x1x2 – 2x12 ≥ 0


2x1x2 ≥ 2x12

x2 ≥ x1


∇f(x) = 2x

[x2 – x1] T 2x1≥ 0

(x2 – x1) 2x1≥ 0

2x1x2 – 2x12 ≥ 0


2x1x2 ≥ 2x12

x2 ≥ x1↓

f(x) = x2 – 1 es pseudoconvexa




Dado un problema OC(f, S) fuertemente consistente y f, gk y hj funciones diferenciables sobre un conjunto convexo abierto S⊂ Rn.


convexo abierto S⊂ Rn.

Si f es pseudoconvexa y todas las gk(x*) = 0 son cuasiconcavas y las hj son cuasiconvexas y cuasiconcavas (es decir, están acotadas).

Si x* es el óptimo global de OC(f, S)


Entonces, existen vectores λ* y µ* tales que:

∇xL (x*, λ*, µ*) = 0

µk* gk(x*) = 0 k=1,…,m


gk(x*) ≥ 0 k=1,…,m

hj(x*) = 0 j=1,…,p

µ* ≥ 0


ó

∇x,λL (x*, λ*, µ*) = 0

µk* gk(x*) = 0 k=1,…,m


gk(x*) ≥ 0 k=1,…,m

µ* ≥ 0


�� Función PseudocóncavaFunción Pseudocóncava: Una función f en E1

diferenciable sobre un conjunto convexo S en En es pseudocóncava sobre éste si para dos puntos cualquiera x1, x2 ∈ S tales que f(x2) ≤ f(x1) se satisface:

[x2 – x1]T ∇f(x1) ≤ 0


[x – x ] ∇f(x ) ≤ 0

Si una función es pseudoconvexa y

pseudoconcava es llamada pseudolineal


Ejemplo 5.11:

min 6(x1– 10)2 + 4(x2– 25)2

s. a:

x12+ (x2– 5)2 ≤ 50


x12+ 3x22 ≤ 200

(x1– 6)2+ x22 ≤ 37


Ejemplo 5.12:

min 6(x1– 10)2 + 4(x2– 25)2

s. a:

x12+ (x2– 5)2 ≤ 50


x12+ 3x22 ≤ 200

x1 – 6sen2(x2) = 1

ResumenResumen

� Mínimo de una función f: x*∈S y inf(f(x))=f(x*).

� Teorema de Weierstrass (Condición de suficiencia para la existencia de un mínimo): S es compacto y f función continua.

� Función Convexa.


� Función Convexa.

� Función Estrictamente Convexa: no admite segmentos rectos.

� Función Cóncava.

� Si f(x) es convexa entonces –f(x) es cóncava, y viceversa.

ResumenResumen



� La suma de dos funciones convexas es una funciónconvexa.


convexa.

� Composición de funciones convexas.

� Todo mínimo local de una función convexa f es unmínimo global de f.

� Todo mínimo local de una función estrictamente esel único mínimo global sobre todo S.

ResumenResumen

� Problema de optimización convexa: OC(f, S).

� Teorema de Kuhn-Tucker.

� Condición de Slater.

� Función Convexa Diferenciable.

�


� Función Estrictamente Convexa Diferenciable.


Entonces ∇f(x*)T(x–x*) ≥ 0 para todos los x∈S

Si S es un conjunto abierto:

Entonces ∇f(x*) = 0

ResumenResumen

� Función Cuasiconvexa.� Función Fuertemente Cuasiconvexa: no admite segmentos horizontales� Un mínimo local es el único mínimo y por ende elúnico mínimo global.

� Función Estrictamente Cuasiconvexa: solo admite un


� Función Estrictamente Cuasiconvexa: solo admite un segmento horizontal en el mínimo.� Todo mínimo local es un mínimo global.

� Función Cuasiconvexa Diferenciable. � Función Cuasicóncava Diferenciable,� Hessiano Bordeado ∇2f(x).

ResumenResumen

� Teorema de Kuhn-Tucker: gk cuasicóncavas .

� Función Pseudoconvexa: similar a una estrictamente cuasiconvexa.




� Si x es el mínimo entonces ∇f(x ) = 0.

� Teorema de Kuhn-Tucker: f es pseudoconvexa, hj son cuasiconvexas y cuasiconcavas.

clasenl05s0109

Documents