guía estimador de máxima verosimilitud

ESTADISTICA Método de EMV y MM Autor: Pablo Tapia

Pagina 1

Universidad de Chile E c o n o m í a & N e g o c i o s

GUIA No. 1 DE EJERCICIOS RESUELTOS

APLICACIONES DE EMV y MM Profesor: Pablo Tapia

PROBLEMA 1. Parte i. Suponga que posee una muestra { }T

iix 1= IID de una población que sigue una distribución de Rayleigh con parámetro θ desconocido de la forma:

0)exp()()/( 2 >= iiii xconxxxf θθδθ Donde )( ixδ es una función sólo de las observaciones. Encuentre la función de verosimilitud y calcule el estimador de máxima verosimilitud de θ .

Función de verosimilitud Solución.

( )∑

= ==∏ T

i iTT

i iT xxxf 12

1exp)()/( θθδθ (1)

∑++== ==∑ Ti i

T

i iT xTxxf 12

1ln)(ln)/(ln)( θθδθθ (2)

Entonces, se debe resolver el siguiente problema: )(max θθ

CPO (derivando la ecuación (2))

∑−=⇒=∑+=

∂∂

== T

i i

Ti i x

TxT

121

2 ˆ0)( θθθ

θ (3)

Para verificar que efectivamente (3) es una máximo se debe cumplir que: CSO

0ˆ

)ˆ()(22

2

22

2<−=

∂∂

⇒−=∂∂

θθθ

θθθ TT

Por lo tanto, (3) es un máximo. PROBLEMA 2. Suponga que el momento no central de una variable aleatoria cualquiera se define como:

)( rrX XE=µ y la estimación de este momento no central se calcula como ∑ =

=T

iriT

rX x

11µ̂ .

Utilice esta información para estimar los parámetros α y β de una distribución R-gamma si cuenta con una muestra IID de tamaño y se sabe que la esperanza y varianza de una variable aleatoria R-gamma se definen como αβ=)(XE y 2)var( βaX = , respectivamente.

Para el primer momento se tiene que: Solución.

βαµαβ ˆˆˆ)(1

11 ===⇒= ∑ = TT

i iTX xxXE (1)

Además,


Pagina 2

2222222 )()var()()()()var( βααβ +=+=⇒−= XEXXEXEXEX (2) Utilizando (2) para el segundo momento no central

2221

212 ˆˆˆˆˆ βαβαµ +==⇒ ∑ =

T

i iTX x (3)

Entonces, se utilizará (1) en (3) para encontrar los estimadores de los parámetros α y β .

−=⇒+=+==⇒ ∑∑ ==

21

21221

212 ˆˆ)ˆˆ(ˆ)ˆˆ(ˆ TT

i iTTTTT

i iTX xTxxxxx βββαββαµ

T

x

T

TT

i i

xTs

xT

xTx 22

12

ˆ =

−

=⇒∑ =

β (4)

Reemplazando (1) en (2) se tiene que:

2

22

ˆˆˆˆx

TT

T

xT s

xTxxT

sx =⇒=⇒=⇒ ααβα (5)

Por lo tanto, los estimadores solicitados corresponden a las ecuaciones (4) y (5). PROBLEMA 3 Suponga que posee una muestra { }Txxx ,...,, 21 IID de una población que tiene un comportamiento estocástico con parámetro β desconocido de la forma:

0)/(22 )1(2 >= −− β

πββ β conexf x

Parte i.- Encuentre el estimador de máxima verosimilitud de 2β .

En este caso se tiene una función de verosimilitud de la forma: Solución.

0)/()/( 122 )1(

1>==⇒ ∑ =

−−

=∏ βπβββ

βconexfxf

T

i ix

T

TT

i iT

Teniendo presente que ( ) 22 ˆˆ ββ ≠ , entonces:

∑ −−+−==⇒

∑ −−+−==⇒

=

=

Ti iT

Ti iT

xTTxf

xTTxf

122222

12221222

)1(ln2

ln)/(ln)(

)1()ln(ln)/(ln)(

ββπββ

ββπββ

Optimizando se tiene que: CPO:

0)1(2

)()(1

222

22=∑ −−=

∂∂

≠∂

∂⇒ =

Ti ixT

βββ

ββ

∑ −=⇒

=Ti ix

T

12

2

)1(2β̂

Parte ii.- Demuestre que el estimador calculado en la parte i, es igual a la mitad del inverso del estimador de máxima verosimilitud de la varianza obtenido de una muestra IID de tamaño T con una distribución normal con media igual a 1.

Una función de distribución normal con media conocida he igual a 1 y varianza desconocida, es: Solución.

∑ =−−−−

=⇒==n

i ix

TT

xexfexf 1

22

22 )1(

21

222

)1(2

1

2122

)2(1),1/(

)2(1),1/( φφ

πφφ

πφφµ


Pagina 3

∑ −−−=⇒ =ni ixTT

12

222 )1(

21)ln(

2)2ln(

2)(

φφπφ

0)1(2

12

)( 12

422 =∑ −+−=⇒ =

ni ixT

φφφ

21

21

22

ˆ21

22)1()1(

ˆβ

φ =⋅∑ −

=∑ −

=⇒ ==

Tx

Tx n

i ini i

PROBLEMA 4. Suponga que posee dos muestras independientes entre y que son IID de tamaños T y T2 , además ambas muestras tienen distribución normal con medias iguales a 0 y 1, respectivamente, sin embargo, la varianzas son iguales y desconocidas. Determine el estimador de máxima verosimilitud de la varianza utilizando ambas muestras a la vez y verifíquelo.

Supondremos que las muestras se definen como: Solución.

∑ =−−

=⇒==T

i iy

TT

yeyfeyf 1

22

22 2

1

2222

1

2122

)2(1),0/(

)2(1),0/( φφ

πφφ

πφφµ

∑ =−−−−

=⇒==T

i ix

TT

xexfexf

2

12

22

2 )1(2

1

22

2

)1(2

1

2122

)2(1),1/(

)2(1),1/( φφ

πφφ

πφφµ

Entonces, la función de verosimilitud conjunta de este problema corresponde a:

+−−

−−−

∑∑

∑∑

==

==

=⇒

=⇒

=

T

i iT

i i

T

i iT

i i

yx

T

y

T

x

T

TT

exyf

eexyf

xfyfxyf

122

12

2

12

22

12

2

)1(2

1

2322

21

22

)1(2

1

22

22

22

)2(1)/,(

)2(1

)2(1)/,(

),1/(),0/()/,(

φ

φφ

πφφ

πφπφφ

φφφ

Por lo tanto, el logaritmo natural de la función de verosimilitud conjunta corresponde a:

( )∑+∑ −−−−== ==Ti i

Ti i yxTTxyf 1

221

22

222 )1(2

1)ln(2

3)2ln(2

3)/,(ln)(φ

φπφφ

CPO.

( ) 0)1(2

123)(

122

12

422

2=∑+∑ −+−=

∂∂

==Ti i

Ti i yxT

φφφφ

( )( )

( )T

yx

yxT

yxT

Ti i

Ti i

Ti i

Ti i

Ti i

Ti i

3)1(

ˆ

0)1(3

0)1(2

12

3

122

12

2

122

122

122

12

44

2

∑+∑ −=⇒

=∑+∑ −+−⇒

=∑+∑ −+−⇒

==

==

==

φ

φ

φφφ

CSO. (Verificación de máximo).

( )

( )∑+∑ −−=∂∂

∑+∑ −−=∂∂

==

==

Ti i

Ti i

Ti i

Ti i

yxT

yxT

122

12

66

2

22

22

122

12

6422

22

)1(2

22

3)(

)(

)1(123

)()(

φφφ

φφ

φφφφ


Pagina 4

( ) ( ) 0)1()1(ˆ22

ˆ2

ˆ3)(

)ˆ(1

221

21

221

266

2

22

22<∑+∑ −−=∑+∑ −−=

∂∂

⇒ ====Ti i

Ti i

Ti i

Ti i yxyxT

φφφ

φφ

Entonces, El valor encontrado para la estimación de la varianza es un máximo. PROBLEMA 5. Dada una muestra aleatoria independiente de tamaño T de una población gamma con el parámetro conocido α , encuentre un estimador de máxima verosimilitud para .β

∑ =−−

=

−−

Γ=⇒

>Γ

=

∏T

i ixT

i iT

T

x

exxf

conexxf

11

1

1

)()/(

0)(

)/(

βαα

βαα

αββ

βα

ββ

Solución.

∑−−++Γ==⇒ ==∑ Ti i

T

i i xxTTxf 11ln)1(ln)(ln)/(ln)( βαβααββ

Entonces, se debe resolver )(max ββ

CPO

0)(1 =∑−=

∂∂

⇒ =Ti ixT

βα

ββ

βαβαβα ˆˆˆ

11 =⇒=

∑⇒∑=⇒

==

TTi i

Ti i xx

TxT

CSO

ααα

βα

βα

ββ 2

2

2

222

2

ˆˆ)ˆ( TT xTxTTT

−=−=−=−=∂

∂⇒

Este resultado será un máximo si alfa es positivo, y un mínimo si alfa es negativo, sin embargo, para que sea una función gamma bien definida alfa debe ser positivo, por lo tanto, el valor encontrado es un máximo. PROBLEMA 4. Suponga que el momento no central de una variable aleatoria cualquiera se define como:

)( rrX XE=µ y la estimación de este momento no central se calcula como ∑ =

=T

iriT

rX x

11µ̂ .

Utilice esta información para estimar los parámetros α y β de una distribución gamma si cuenta con una muestra IID de tamaño T .

Se que tienen la esperanza y varianza de una distribución gamma es igual a: Solución.

βα

=)(XE y 2)var(βα

=X

Además se sabe que:

22

2

22

2

22

222

)1()(

)()()()var(

βαα

βα

βα

βα

βα

+=+=⇒

−=⇒−=

XE

XEXEXEX


Pagina 5

De esta forma se tiene que los dos primeros momentos no centrales para una distribución gamma son:

2221 )1()()(

βααµ

βαµ +

==∧== XEXE XX

Entonces, las estimaciones de estos momentos no centrales corresponden a:

TT

i iTX xx === ∑ =111

ˆˆˆβαµ (1)

∑ ==

+=

T

i iTX x1

212

2

ˆ)1ˆ(ˆˆ

βααµ (2)

A partir de las ecuaciones (1) y (2) se pueden determinar una expresión para los estimadores de los parámetros de una gamma, ya que, sólo se tiene un sistema de ecuaciones, para ello se reemplazará la ecuación (1) en la ecuación (2), de manera tal que:

∑ ==

+=

+=

+=

T

i iTTTX xxx1

212

2ˆ1

ˆ1

ˆˆ

ˆˆ

ˆ)1ˆ(ˆˆ

βββα

βα

βααµ

T

x

T

TT

i iT

T

T

i i

xTs

xT

xTxx

xT

x 22

12

12

ˆ1

=−

=−=⇒∑∑ ==

β

2ˆ

x

T

sxT

=⇒ β (3)

Desde este punto podemos reemplazar (3) en (1) tal que:

2

21 ˆˆˆ

ˆˆx

TTTX s

xTxx ==⇒== βαβαµ


Pagina 6

PROBLEMAS PROPUESTOS PROPUESTO 1. El tiempo de fallo, T , de una determinada maquinaría textil se distribuye según la siguiente función de densidad

ttttf <−= − 0)]/[exp(3)( 332 ββ Parte i. Calcular el estimador de máxima verosimilitud de β . Parte ii. Dar un intervalo de confianza aproximado para β con un nivel de confianza del 95%.

Parte iii. Si se toma una muestra de tamaño 100=T y ∑ ==

T

i it13 500.337 , dar una estimación

de β . Parte iv. Con los datos del apartado anterior y utilizando el intervalo del apartado (b), contrastar si 2.17=β . PROPUESTO 2. Suponga que posee una muestra { }T

iiy 1= IID de una población que tiene un comportamiento estocástico con parámetro θ desconocido de la forma:

0)()()/(2)( >= −− φθφθ φθ kconexkyf x

i Parte i. Encuentre la función de verosimilitud para esta muestra. Parte ii. Demuestre que si la distribución inicial es una Gama de la forma:

φθφαθ

φφθξ 21

)()2()( −−

Γ= e

con φ conocidos y positivo. Entonces, la distribución final es una Gama. Y determine la expresión de esta función. Parte iii. Calcule el estimador Bayesiano para el parámetro θ . PROPUESTO 3. Suponga que posee una muestra { }Txxx ,...,, 21 IID de una población que tiene un

comportamiento estocástico con parámetro 2φ desconocido de la forma: 22 )1(2 )/( −−= ix

i exf φ

πφφ

Parte i. Encuentre el estimador de máxima verosimilitud de 2φ . Parte ii. Demuestre que el estimador calculado en la parte i, es igual a la mitad del inverso del estimador de máxima verosimilitud de la varianza obtenido de una muestra IID de tamaño T con una distribución normal con media igual a 1.


Pagina 7

PROPUESTO 4. Suponga que posee una muestra independiente de tT artículos que pueden estar defectuosos o no (dicotómico), sin embargo, en la muestra sólo se encontraron T piezas defectuosas. Parte i. Encuentre la función de distribución final del parámetro de esta población (fracción de piezas defectuosas), si se sabe que en el pasado la fracción de piezas defectuosas de esta población siguió una distribución Beta con parámetros iguales a tT=α y T=β . Parte ii. ¿Cuál será la mejor estimación para este parámetro y su volatilidad? Parte iii. ¿Qué pasará con su estimación si T tiende a infinito?

guía estimador de máxima verosimilitud

Documents