optimización sin restricciones -...
Post on 05-Nov-2018
215 Views
Preview:
TRANSCRIPT
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Optimizacion sin restricciones
Jesus Getan y Eva Boj
Facultat d’Economia i EmpresaUniversitat de Barcelona
Marzo de 2014
Jesus Getan y Eva Boj Optimizacion sin restricciones 1 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Problema generalFormulacion del problemaCaracterizacion del optimo
Presentacion del problemaIntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Caracterizacion de maximos y mınimosVision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
Jesus Getan y Eva Boj Optimizacion sin restricciones 2 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
El problema general de optimizacion sin restricciones se puedeenunciar ası:
Dada una funcionf : F ⊆ Rn −→ R
~x 7→ z = f (~x),
encontrar los valores ~x ∈ F , tales que maximizan o minimizan elvalor de la funcion en F .
A la funcion f le llamaremos funcion objetivo y al conjunto Fconjunto factible.
Jesus Getan y Eva Boj Optimizacion sin restricciones 3 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
Proponemos la formulacion general de un programa matematicomediante:
Opt f (~x),sujeta a: ~x ∈ F ,
donde la palabra Opt se interpretara como maximo o mınimosegun sea el problema que tratemos.
Jesus Getan y Eva Boj Optimizacion sin restricciones 4 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
Puesto que estamos hablando de buscar maximos y mınimos defunciones, el primer paso a realizar es caracterizarlos.
DefinitionSea la funcion f : D ⊂ Rn −→ R donde D es el domino de lafuncion y un punto ~xo ∈ D.Decimos que:
El punto ~xo es un maximo local de f en D ⇔∃ δ > 0 tal que f (~x) ≤ f (~xo) para todo ~x ∈ D ∩ Bδ(~x
o) .
El punto ~xo es un maximo global de f en D ⇔f (~x) ≤ f (~xo) para todo ~x ∈ D.
Jesus Getan y Eva Boj Optimizacion sin restricciones 5 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
DefinitionEl punto ~xo es un mınimo local de f en D ⇔∃ δ > 0 tal que , f (~x) ≥ f (~xo) para todo ~x ∈ D ∩ Bδ(~x
o) .
El punto ~xo es un mınimo global de f en D ⇔f (~x) ≥ f (~xo) para todo ~x ∈ D .
Observamos que un punto es maximo global cuando su imagen esmayor que la de cualquier otro punto del dominio; en cambio, unpunto es maximo local cuando su imagen es mayor que la imagende cualquier punto que se halle en un cierto entorno suyo, aunque,fuera de este entorno pueden existir puntos con mayor imagen queel.
Jesus Getan y Eva Boj Optimizacion sin restricciones 6 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
a) Cuando ~x 6= ~xo y las desigualdades son estrictas, decimos quelos optimos son estrictos.
b) Todo optimo global (o absoluto) es tambien optimo local (orelativo).
Jesus Getan y Eva Boj Optimizacion sin restricciones 7 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Formulacion del problemaCaracterizacion del optimo
TheoremSean f : D ⊂ Rn −→ R y ~xo ∈ D.
Si ~xo es un maximo o mınimo global de f en D entonces, ~xo esun maximo o mınimo local de f en D respectivamente.
Jesus Getan y Eva Boj Optimizacion sin restricciones 8 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Los preguntas basicas que nos podemos plantear para estudiar trashaber modelizado ciertas situaciones como programasmatematicos, son los siguientes:
I ¿Cuando podemos afirmar que un programa matematico tienesolucion?, es decir, ¿cuando podemos asegurar la existencia deoptimos locales o globales?
I Suponiendo que existen, ¿como se calculan estos optimos?
Jesus Getan y Eva Boj Optimizacion sin restricciones 9 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Para resolver el segundo problema, de momento, consideraremosun metodo geometrico consistente en dibujar el conjunto factibledel problema junto con las curvas de nivel de la funcion y analizarlos valores que toma la funcion sobre los puntos del conjuntofactible para determinar los valores maximo y mınimo. Estemetodo solo se puede llevar a cabo con funciones y conjuntosfactibles de una o dos variables y, aun ası, el trazado de las curvasde nivel de la funcion sobre el conjunto factible puede sercomplicado. Mas adelante, y en el caso de funciones diferenciables,encontraremos condiciones para calcular los optimos de la funcion.
Jesus Getan y Eva Boj Optimizacion sin restricciones 10 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
En cuanto a la primera cuestion, la existencia y naturaleza de losoptimos depende fundamentalmente de las caracterısticas de lafuncion y del dominio.
Sera objeto de estudio en otras secciones.
Jesus Getan y Eva Boj Optimizacion sin restricciones 11 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Dada la funcion f : D ⊂ Rn −→ R, definimos la curva de nivelpara k ∈ R como el conjunto Ck de puntos del dominio dondefuncion f tiene valor constante k , es decir,
Ck = {~x ∈ D | f (~x) = k }.
Su representacion solo es posible para n = 2 y n = 3 .
Jesus Getan y Eva Boj Optimizacion sin restricciones 12 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Geometricamente podemos localizar los optimos de un programamatematico encontrando los puntos del conjunto factible por losque pasa la curva de nivel de valor maximo o mınimo.
Jesus Getan y Eva Boj Optimizacion sin restricciones 13 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Introducimos un teorema de existencia de solucion de un problemade optimizacion que depende de las caracterısticas de la funcionobjetivo y del dominio. Observamos los siguientes ejemplos:
Jesus Getan y Eva Boj Optimizacion sin restricciones 14 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Example
Sea la funcion f : [0, 1) ⊂ R −→ Rx 7−→ f (x) = x2.
en [0, 1) tiene un mınimo
global en x = 0 y no tiene maximo global.
Jesus Getan y Eva Boj Optimizacion sin restricciones 15 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Example
La funcion f : [0, 1] ⊂ R −→ Rx 7−→ f (x) = x2.
en [0, 1] tiene un mınimo
global en x = 0 y un maximo global en x = 1 .
Jesus Getan y Eva Boj Optimizacion sin restricciones 16 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Example
La funcion f : [0, 2] ⊂ R −→ R definida por
f (x) =
{x2 si 0 ≤ x < 1,12 si 1 ≤ x ≤ 2,
tiene un mınimo global en x = 0 y no tiene maximo.
Jesus Getan y Eva Boj Optimizacion sin restricciones 17 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Estos ejemplos nos muestran que si el dominio no es compacto(cerrado y acotado) o la funcion objetivo no es continua en eldominio, el programa matematico puede no tener solucion, elteorema siguiente nos asegura que en caso contrario podemosafirmar la existencia de optimos globales.
Jesus Getan y Eva Boj Optimizacion sin restricciones 18 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
Teorema de Weierstrass
TheoremSea D un subconjunto compacto de Rn y f : D ⊂ Rn −→ Runa funcion continua en D . Entonces, f posee un maximo globaly un mınimo global en D , es decir,
∃ ~x1 , ~x2 ∈ D tal que f (~x1) ≤ f (~x) ≤ f (~x2) (~x ∈ D) .
Jesus Getan y Eva Boj Optimizacion sin restricciones 19 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
El Teorema de Weierstrass nos asegura la existencia de optimosglobales bajo ciertas condiciones pero no afirma que el optimo seaunico (la funcion y = sin x en el intervalo [0, 4π] tiene dosmaximos globales y dos mınimos globales).
Jesus Getan y Eva Boj Optimizacion sin restricciones 20 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion
El Teorema de Weierstrass tampoco dice que la continuidad de lafuncion y la compacidad del dominio sean necesarias para laexistencia de optimos globales. La funcion
f (x) =
4x
x2 + 4si −∞ ≤ x < 0,
12 si x = 0,
4x
x2 + 4si 0 < x ≤ +∞.
tiene maximo global y mınimo global y sin embargo la funcion fno es continua y el dominio no es compacto.
Jesus Getan y Eva Boj Optimizacion sin restricciones 21 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
Dada z = f (x1, x2) tal que f ∈ C2, en primer lugarcaracterizaremos los optimos en ~xo ∈ D ⊆ Rn geometricamente, esdecir mediante el plano tangente a la funcion en ~xo . La ecuaciondel plano tangente a f en ~xo es:
z = f (xo1 , x
o2 ) +
(∂
∂x1f (xo
1 , xo2 ),
∂
∂x2f (xo
1 , xo2 )
)(x1 − xo
1
x2 − xo2
)
escrito de otra forma
z = f (xo1 , x
o2 ) +
∂
∂x1f (xo
1 , xo2 ) (x1 − xo
1 ) +∂
∂x2f (xo
1 , xo2 ) (x2 − xo
2 ) .
Jesus Getan y Eva Boj Optimizacion sin restricciones 22 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
Si ~xo ∈ D ⊆ Rn es un optimo de f en D, entonces el planotangente es horizontal, es decir,
∂∂x1
f (xo1 , x
o2 ) = 0 y ∂
∂x2f (xo
1 , xo2 ) = 0,
luego z = f (xo1 , x
o2 ).
Jesus Getan y Eva Boj Optimizacion sin restricciones 23 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
Generalizando lo anterior podemos enunciar el siguiente teoremapara la funcion f : D ⊂ Rn → R , diferenciable en D. Vamos a darcondiciones necesarias o suficientes para que un punto del interiordel dominio D sea optimo local de la funcion f .
Si D es abierto estas condiciones pueden aplicarse a todos lospuntos del dominio D .
Jesus Getan y Eva Boj Optimizacion sin restricciones 24 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
TheoremSea f : D ⊂ Rn → R difenciable en D, con D abierto. Si ~xo ∈ Des un optimo local de f en D, entonces ∇f (~xo) = ~0.
Jesus Getan y Eva Boj Optimizacion sin restricciones 25 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
Dem: Sea ~xo ∈ D es un maximo local, sus derivadas parciales son
∂∂xi
f (xo1 , x
o2 ) = lim
h→0
f (~xo+h~ei )−f (~xo)h y i = 1...n. Entonces, para cada
i tenemos
limh→0+
f (~xo + h~ei )− f (~xo)
h
(numerador < 0
denominador > 0
)= < 0,
limh→0−
f (~xo+h~ei )−f (~xo)h
(numerador >0denominador >0
)= > 0,
como el lımite existe, la unica posibilidad es que ea cero. Porinduccion se acaba la demostracion del teorema. �
Jesus Getan y Eva Boj Optimizacion sin restricciones 26 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
El recıproco no es cierto, como demuestra el ejemplo,
f (x1, x2) = x1x2 en ~xo = (0, 0),
en el cual se anula el gradiente pero no es optimo es punto de silla.
Llamamos puntos crıticos a los puntos en los que se anula elgradiente de la funcion objetivo.
Jesus Getan y Eva Boj Optimizacion sin restricciones 27 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
TheoremSea f : D ⊂ Rn → R, con f ∈ C2 y D abierto. Sea ~xo ∈ D tal que∇f (~xo) = ~0. Entonces,
el punto ~xo ∈ D es mınimo local de f en D ⇒ Hf (~xo)semidefinida positiva.
el punto ~xo ∈ D es maximo local de f en D ⇒ Hf (~xo)semidefinida negativa.
Jesus Getan y Eva Boj Optimizacion sin restricciones 28 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
El recıproco no es cierto, como demuestra el ejemplo,
f (x1, x2) = x31 + x2
2 en ~xo = (0, 0),
en el cual se anula el gradiente, la hessiana es semidefinida positivapero no es mınimo, es punto de silla.
Jesus Getan y Eva Boj Optimizacion sin restricciones 29 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
DefinitionDado ~xo ∈ D con D abierto. El punto ~xo es un punto de silla def en D ⇔ se cumplen las dos condiciones siguientes{
(i)~xo es punto crıtico,(ii) ∀r > 0 , ∃~x1 , ~x2 ∈ Br (~xo) ∩ D tales que f (~x1) < f (~xo) < f (~x2).
Jesus Getan y Eva Boj Optimizacion sin restricciones 30 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
TheoremSea f ∈ C2. Sea ~xo ∈ D con D conjunto abierto tal que∇f (~xo) = ~0 .
Que Hf (~xo) sea definida positiva ⇒ ~xo es mınimo local.
Que Hf (~xo) sea definida negativa ⇒ ~xo es maximo local.
Que Hf (~xo) sea semidefinida positiva en todo un entorno de~xo ⇒ ~xo es mınimo local.
Que Hf (~xo) sea semidefinida negativa en todo un entorno de ~xo
⇒ ~xo es maximo local.
Que Hf (~xo) sea indefinida ⇒ ~xo es punto de silla.
Jesus Getan y Eva Boj Optimizacion sin restricciones 31 / 32
Optimizacion sin restriccionesProblema general
Presentacion del problemaCaracterizacion de maximos y mınimos
Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden
El teorema recıproco no es cierto, como muestran los siguientesejemplos.
(i) f (x1, x2) = x41 + x4
2 en ~xo = (0, 0),
(ii) f (x1, x2) = x31 + x2
2 en ~xo = (0, 0).
En (i) la hessiana es semidefinida positiva y en el punto la funcionalcanza su valor mınimo.
En (ii) la hessiana es semidefinida positiva y en el punto la funcionposee un punto de silla
Jesus Getan y Eva Boj Optimizacion sin restricciones 32 / 32
top related