8/18/2019 Condicion de Segundo Orden

1/18

Condición de Segundo Orden para un Ḿınimo Global

Juan Carlos Girón Rojas

Universidad Nacional del Callao

1 of 18

8/18/2019 Condicion de Segundo Orden

2/18

Sumário

1.   INTRODUCCIÓN

2.   MATRIZ HESSIANA

3.  FORMULA DE TAYLOR DE SEGUNDO ORDEN4.   FUNCIÓN CONVEXA Y MÍNIMO

5.   PROPOSICIÓN1: HESSIANA Y FUNCIÓN CONVEXA

6.   PROPOSICIÓN2: FUNCIÓN CONVEXA Y MÍNIMO GLOBAL

7.   CONDICIÓN DE SEGUNDO ORDEN PARA UN MÍNIMOGLOBAL

2 of 18

8/18/2019 Condicion de Segundo Orden

3/18

INTRODUCCIÓN

Mientras la prueba de la primera derivada identifica los puntos quepueden ser extremos, esta prueba no distingue si un punto es ḿınimo,máximo, o ninguno de los dos. Cuando la función objetivo es dosveces diferenciable, estos casos pueden ser distinguidos estudiando la

segunda derivada o la matriz de las segundas derivadas (llamadamatriz Hessiana) en problemas irrestrictos, o la matriz de lassegundas derivadas de la función objetivo y las restricciones llamadala frontera Hessiana en problemas restrictos.Las condiciones que distinguen a los máximos, o ḿınimos, de otros

puntos estacionarios son llamadas condiciones de segundo orden. Siun candidato a solución satisface las condiciones de primer orden y lascondiciones de segundo orden también, es suficiente para establecer,al menos, optimalidad local..

3 of 18

8/18/2019 Condicion de Segundo Orden

4/18

MATRIZ HESSIANA

Definición:  Dada una función real  f    : Rn

−→ R. Si todas lassegundas derivadas parciales de f existen, se define la matriz hessiana

de   f    como:  Hf   (x ), donde  Hf   (x )i , j  =  ∂ 2f   (x )

∂ x i ∂ x  j de forma

Hf   (x ) :=

∂ 2

f  ∂ x 2

1

∂ 2

f  ∂ x 1∂ x 2

. . .   ∂ 2

f  ∂ x 1∂ x n

∂ 2f  

∂ x 2∂ x 1

∂ 2f  

∂ x 22

. . .  ∂ 2f  

∂ x 2∂ x n...

  ...

  . ..

  ...∂ 2f  

∂ x n∂ x 1

∂ 2f  

∂ x n∂ x 2. . .

  ∂ 2f  

∂ x 2n

.

Además,en virtud del teorema de Clairaut (ó teorema de Schwarz), es

una matriz simétrica.4 of 18

8/18/2019 Condicion de Segundo Orden

5/18

FORMULA DE TAYLOR DE SEGUNDO ORDEN

Teorema:   Sea  f    : A ⊆ Rn −→ R  una función con derivadas parcialessegundas  D ij f   continuas en una n-Bola  B (x ) entonces para todoy  ∈ Rn tal que  x  + y  ∈ B (x ) se tiene:

f   (x  + y ) − f   (x ) = ∇f   (x )y  +   12!yHf   (x  + cy )y T ,   donde 0  

8/18/2019 Condicion de Segundo Orden

6/18

FORMULA DE TAYLOR DE SEGUNDO ORDEN

Prueba  Mantegamos  y  fijo, definamos  g (u ) para  u  real mediante laecuación  g (u ) = f   (x  + uy ) para   − 1 ≤ u  ≤ 1 Entoncesf   (x  + y )− f   (x ) = g (1)− g (0), probaremos el teorema aplicando lafórmula de Taylor de segundo orden a  g  en el intervalo [0, 1]obteniendo

g (1)− g (0) = g (0) +   12!g (c ) donde 0 

8/18/2019 Condicion de Segundo Orden

7/18

FORMULA DE TAYLOR DE SEGUNDO ORDEN

Con tal que  r (u ) ∈ B (x ). En particular  g 

(0) = ∇f   (x ).y . Aplicandouna vez mas la regla de la cadena encontramos

g (u ) =n

i =1

n j =1

D ij f   (r (u ))y i y  j  = yH (r (u ))y T 

Luego  g (u ) = yH (r (u ))y T , definamos  E 2(x , y )por la ecuación

||y ||2E 2(x , y ) =  1

2!y [H (x  + cy ) − H (x )]y T  si  Y  = O 

y sea  E 2

(x ,O ) = 0. Entonces tenemos una ecuación de la forma:

f   (x  + y ) − f   (x ) = ∇f   (x )y  +  1

2!yHf   (x  + cy )y T  + ||y ||2E 2(x , y ),

Para completar la demostración debemos probar que  E 2(x , y ) −→ 0cuando  y  −→ O , tambien tenemos que

7 of 18

8/18/2019 Condicion de Segundo Orden

8/18

FORMULA DE TAYLOR DE SEGUNDO ORDEN

||y ||2E 2(x , y ) = 1

2

n

i =1

n j =1

[D ij f   (x  + cy ) −D ij f   (x )]y i y  j 

≤n

i =1

n

 j =1

|D ij f   (x  + cy ) −D 

ij f   (x )| ||y ||2

Dividiendo por   ||y ||2 obtenemos la desigualdad

|E 2(x , y )| ≤

n

i =1

n

 j =1

|D ij f   (x  + cy ) −D ij f   (x )|

Para  y  = O , puesto que cada derivada parcial  D ij f   es continua en  x ,tenemos  D ij f   (x  + cy ) −→ D ij f   (x ) cuando  y  −→ O , aśı queE 2(x , y ) −→ 0 cuando  y  −→ O . Esto completa la prueba.

8 of 18

8/18/2019 Condicion de Segundo Orden

9/18

FUNCIÓN CONVEXA Y MÍNIMO

Definición:   Sean  A ⊂R

n

, un conjunto no vació y convexo y seaf    : A −→ R  se dice que  f    es una función convexa si solo si se cumpleque:

f   (λx  + (1 − λ)y ) ≤ λf   (x ) + (1 − λ)f   (y ),   ∀λ ∈ [0, 1] y  x , y  ∈ A

Definición:   Sea   f    : A ⊆ Rn −→ R  una función dondeSe dice que  f    alcanza en  x ∗ ∈ A  un   ḿınimo local  en  A si existe unabola  B (x ∗) tal que

f   (x ∗) ≤ f   (x ) ,  ∀x  ∈ B (x ∗)

Se dice que  f    alcanza en  x ∗ ∈ A  un  ḿınimo global  en  A  tal que

f   (x ∗) ≤ f   (x ) ,  ∀x  ∈ A

9 of 18

8/18/2019 Condicion de Segundo Orden

10/18

PROPOSICIÓN1: HESSIANA Y FUNCIÓN

CONVEXA

Proposición  Sea  A ⊆ Rn abierto y convexo y  f    : A ⊆ Rn −→ R  unafunción con derivadas parciales segundas  D ij f    en  A cuyo hessiana essemidefinida positiva en todo punto de A. Entonces  f    es convexa.

10 of 18

8/18/2019 Condicion de Segundo Orden

11/18

PROPOSICIÓN: HESSIANA Y FUNCIÓN CONVEXA

Prueba:   Dados  x , y  ∈ A y  t  ∈ [0, 1], probemos que  f    es convexa.consideremos la función auxiliar  g   : [0, 1] −→ R  dada porg (s ) = f   (sy  + (1 − s )x ), donde se cumple que  g (0) = f   (x ),g (1) = f   (y ) y  g (u ) = Hf   (sx  + (1 − s )y )(x  − y ) ≥ 0 para todos  ∈ [0, 1]. El desarrollo de Taylor de  g  de orden 2 en el punto  t   nos

dice, para cada  s  ∈ [0, 1], existe  ξ  ∈ [0, 1] tal que

g (s ) ≥ g (t ) + g (t )(s − t ) + g (ξ )(s − t )2 ≥ g (t ) + g (t )(s − t )

Evaluando en  s  = 0 y  s  = 1, tenemos  g (0) ≥ g (t ) − tg (t ) y

g (1) ≥ g (t ) + (1 − t )g 

, luego tenemos que(1 − t )(g (0)) ≥ (1 − t )(g (t ) − tg (t )) y  tg (1) ≥ t (g (t ) + (1 − t )g )

tg (1)+(1−t )(g (0) ≥ (1−t )(g (t )−tg (t ))+t (g (t )+(1−t )g ) = g (t )

11 of 18

8/18/2019 Condicion de Segundo Orden

12/18

PROPOSICIÓN1: HESSIANA Y FUNCIÓN

CONVEXA

Reemplazamos  g (t ) = f   (ty  + (1 − t )x ),  g (0) = f   (x ) y  g (1) = f   (y )concluimos que

f   (tx  + (1 − t )y ) ≤ tf   (x ) + (1 − t )f   (y ),   ∀t  ∈ [0, 1] y  x , y  ∈ A

Donde probamos que  f    es convexa.

12 of 18

8/18/2019 Condicion de Segundo Orden

13/18

PROPOSICIÓN2: FUNCIÓN CONVEXA Y MÍNIMO

GLOBAL

Proposición  Sea  A ⊆ Rn convexo y :   f    : A ⊆ Rn −→ R  si f esconvexa en  A, todo ḿınimo local en  A es global.Prueba:   Sea  x  ∈ A un ḿınimo local, probaremos que si  f    no alcanzaen  x  ∈ A  un ḿınimo global, entonces no puede ser ḿınimo local:Si  x  ∈ A no fuese ḿınimo global, se tendŕıa para algún  Y   ∈ Atendŕıamos  f   (y ) 

8/18/2019 Condicion de Segundo Orden

14/18

PROPOSICIÓN2: FUNCIÓN CONVEXA Y MÍNIMO

GLOBAL

de donde concluimos

f   (λx  + (1 − λ)y ) ≤ f   (x )

Es decir, en todos los puntos del segmento que une [y , x ] , salvo elmismo  x   , claro está, f tomaŕıa valores inferiores a  f   (x ) . Por tanto,  x 

no seŕıa ḿınimo local. Una contradicción que surge de supones que x 

no es un ḿınimo global.

14 of 18

8/18/2019 Condicion de Segundo Orden

15/18

CONDICIÓN DE SEGUNDO ORDEN PARA UN

MÍNIMO GLOBAL

Proposición:   supongamos que  f   (x ) es una función con segundasderivadas parciales continuas Cuya Hessiana es semidefinida positivaen todos los puntos de  Rn . Demostrar Que cualquier punto cŕıticodel  f   (x ) es un ḿınimo global del f(x).

15 of 18

8/18/2019 Condicion de Segundo Orden

16/18

CONDICIÓN DE SEGUNDO ORDEN PARA UN

MÍNIMO GLOBAL

Prueba:   Sea  f    : Rn −→ R  una función con derivadas parcialessegundas  D ij f    continuas, sea una n-Bola  B (x 

∗) entonces para todoy  ∈ Rn tal que  x ∗ + y  ∈ B (x ∗) se tiene:

f   (x ∗ + y ) − f   (x ) = ∇f   (x ∗)y  +  1

2!yHf   (x ∗ + cy )y T ,   donde 0 

8/18/2019 Condicion de Segundo Orden

17/18

CONDICIÓN DE SEGUNDO ORDEN PARA UN

MÍNIMO GLOBAL

f   (y  + x ∗

) − f   (x ∗

) ≥ 0

f   (x ) ≥ f   (x ∗), ∀x  ∈ B (x ∗) donde  x  = x ∗ + y 

Luego tenemos que  x ∗ es un ḿınimizador local de  B (x ∗), de laproposición1  tenemos que  f   es convexa y de la  proposición2

deducimos que  x ∗ es un ḿınimizador global.

17 of 18

8/18/2019 Condicion de Segundo Orden

18/18

MUCHAS GRACIAS

18 of 18