tema 5: estimación de parámetros · estadística. profesora maría durbán 1 tema 5: estimación...

Estadística. Profesora María Durbán1

Tema 5: Estimación de Parámetros

5.1 Introducción y conceptos básicos

5.2 Propiedades de los estimadores

5.3 Método de máxima verosimilitud

5.4 Distribución de un estimador en el muestreo


Explicar el concepto de estimación de parámetros de una poblacióno de una distribución de probabilidad

Explicar las propiedades de los estimadores.

Construir estimadores puntuales mediante máxima verosimilitud

Conocer y explicar la precisión con la que son estimados los parámetros

Explicar la importancia de la distribución Normal como distribución en elmuestreo


Objetivos del tema:

Al final del tema el alumno será capaz de:










Hasta ahora hemos visto como dado un modelo de probabilidad, podíamoscalcular la probabilidad de que una variable tomara un cierto valor.

Ahora nos interesa el proceso inverso: una vez observada la frecuencia con la que la variable toma los valores, buscamos un modelo probabilístico quedescriba los datos. A esto se llama inferencia estadística.

En temas anteriores vimos que los modelos de distribución de probabilidaddependían de uno o más parámetros, para poder ver si un modelo se ajustaa los datos hemos de estimar dichos parámetros.



Población

ESTIMACIÓN DEPARAMETROS

PRUEBAS DEHIPOTESIS

Inferencia Estadística: Procesomediante el cual se utiliza lainformación de una muestrapara extraer conclusiones

de la población

muestra

6


Definiciones

Las variables son una muestra aleatoria si:

Son independientesTodas tienen la misma distribución

Un estadístico es cualquier función de las observaciones en una muestra aleatoria:

Un estimador es un estadístico que se utiliza para estimar un parámetrodesconocido de la población

Una estimación es un valor concreto del estimador para una muestra enparticular

( )1 2, , nX X X…

( ) 11 2, ,

nii

n

XX f X X X

n== = ∑…

ˆX μ μ= →

( )1 2 3, , (1,1, 4) 2x x x x= → =



El objetivo de la estimación de parámetros es proveer de métodos quepermitan determinar con cierta precisión, el valor de los parámetros deun modelo a partir de una muestra extraída de la población.

En la población

2

Media poblacional: Varianza poblacional: Otros:

μ

σθ

2

Media muestral: XVarianza muestral: S

ˆOtros: θ

Su equivalente En la muestra

ESTIMACIÓN PUNTUALESTIMACIÓN POR INTERVALOS



Ejemplo

Un ingeniero de estructuras está analizando la resistencia a la tensiónde un componente utilizado en el chasis de un coche. Debido a que lavariabilidad en la resistencia a la tensión está presente en cada componente (debido a los distintos lotes de materias primas, el procesode manufactura, etc.), el ingeniero está interesado en estimar la resistencia media de los componentes.

En la práctica, el ingeniero tomará una muestra para calcular un número quesea, de algún modo, una buena aproximación del verdadero valor de lamedia. Más adelante veremos que es posible establecer la precisión de esta

estimación.










Insesgado o Centrado

Un estimador debería estar cerca, en algún sentido, del verdadero valor del parámetro.

Un estimador es un estimador insesgado o centradodel parámetro si

Si un estimador no es insesgado, a la diferencia

se le llama sesgo del estimador

θ̂θ

ˆE θ θ⎡ ⎤ =⎣ ⎦

ˆE θ θ⎡ ⎤ −⎣ ⎦

θ̂


Ejemplo

L

Para estimar el área de unas piezas cuadradas de lado L, de utiliza uncalibre que comete un error distribuido como una . Se utilizandos estimadores del área:

ε (0, )N σ

21 1

2 1 2

A LA L L

==

donde son medidasindependientes

L Li iε= +



Ejemplo

L

[ ] ( ) [ ]22 2 21 1 1 1 1E A E L E L E L E 2E Lε ε ε⎡ ⎤⎡ ⎤ ⎡ ⎤ ⎡ ⎤= = + = + +⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎣ ⎦

Buscamos el estimador cuya esperanza esté más próxima a 2L

2L [ ] 2iVar ε σ= [ ]i2L E 0ε =

[ ] 2 21E A L σ= +

[ ] 21sesgo A σ=



Ejemplo

L

[ ] [ ] ( )( ) [ ] [ ] [ ]22 1 2 1 2 1 2 1 2E A E L L E L L E L E E L E Lε ε ε ε ε ε⎡ ⎤= = + + = + + +⎡ ⎤⎣ ⎦ ⎣ ⎦

Buscamos el estimador cuya esperanza esté más próxima a 2L

2L [ ] [ ]1 2E E 0ε ε =

[ ] 22E A L=

[ ]2sesgo A 0=

independientes

0

insesgado




Varianza de un estimador

Si dos estimadores son centrados, ¿cuál podríamos considerar mejor?.

Aquel que tenga menor varianza es más probable que de lugar a estimaciones que estén más próximas al verdadero valor del parámetro.

Llamamos eficiencia o precisión de un estimador:

ˆ Êficiencia 1/ Varθ θ⎡ ⎤ ⎡ ⎤=⎣ ⎦ ⎣ ⎦

Menor varianza mayor eficiencia




Si dos estimadores son centrados, ¿cuál podríamos considerar mejor?.

Aquel que tenga menor varianza es más probable que de lugar a estimaciones que estén más próximas al verdadero valor del parámetro.

Llamamos eficiencia relativa de respecto de :

2 12 1

1 2

ˆ Êficiencia Varˆ ÊR / ˆ Êficiencia Var

θ θθ θ

θ θ

⎡ ⎤ ⎡ ⎤⎣ ⎦ ⎣ ⎦⎡ ⎤ = =⎣ ⎦ ⎡ ⎤ ⎡ ⎤⎣ ⎦ ⎣ ⎦

2̂θ 1̂θ




ˆθ̂σ

θ̂

Cuando damos un valor estimado de un parámetro, sería lógico daruna medida de la precisión de esa estimación

Error estándar del estimador

El error estándar de un estimador es la desviación típica de dichoestimador:

Si la desviación típica depende del parámetro, la sustitución del parámetropor su estimación da lugar al error estándar estimado:

ˆˆVar

θσ θ⎡ ⎤= ⎣ ⎦



EjemploDos grabadores de plasma de una fábrica de semiconductores tienen la mismatasa media de grabado . Sin embargo, una máquina es más nueva que la otra y por lo tanto la tasa de grabado tiene menor variabilidad. De modo que .Se toma una m.a.s. de cada máquina y

1. ¿Es un estimador insesgado para ?

2. ¿Qué valor de hará que la varianza del estimador puntual sea mínima?¿Qué ocurriría si hubiéramos tomado ?

μ

μ

2 22 14σ σ=

1 22n n=

1 2ˆ (1 )X Xμ α α= + −

α0.5α =



Ejemplo

1. ¿Es un estimador insesgado para ?μ1 2ˆ (1 )X Xμ α α= + −

[ ] [ ] [ ]1 2

1 1

1 2

1 2

1 2

ˆ (1 )

(1 )

n ni ii i

E X E XE

n nn nn n

μ α α

μ μα α μ

= == + −

= + − =

∑ ∑



Ejemplo

1. ¿Es un estimador insesgado para ?μ1 2ˆ (1 )X Xμ α α= + −

[ ] [ ] [ ]1 2

1 1

1 2

1 2

1 2

ˆ (1 )

(1 )

n ni ii i

E X E XE

n nn nn n

μ α α

μ μα α μ

= == + −

= + − =

∑ ∑

Insesgado



Ejemplo

2. ¿Qué valor de hará que la varianza del estimador puntual sea mínimo?¿Qué ocurriría si hubiéramos tomado ?

α0.5α =

[ ] [ ] [ ]

( )

1 2

2 21 12 21 2

2 2 22 2 2 21 1 1 1 1

2 21 1 1

ˆ (1 )

( / 2)4 (1 ) 8(1 )( / 2)

n ni ii i

Var X Var XVar

n nn nn n n

μ α α

σ σ σα α α α

= == + −

= + − = + −

∑ ∑

[ ] [ ]21

1

ˆ 8 8ˆ09 9

VarVar

nμ σα μ

α∂

= → = ⇒ =∂

2 22 14σ σ=

1 22n n=

[ ]21

1

9ˆ0.54

Varnσα μ= → =

Poco peso a lasobservaciones conmás variabilidad


Preciso, pero no centrado Centrado, pero no preciso


Error Cuadrático Medio

Preciso y centrado

El E.C.M. tiene en cuenta lo preciso que es un estimador y lo próximoque está al verdadero valor del parámetro

( ) ( )22ˆ ˆ ˆ ˆE.C.M. E Var sesgoθ θ θ θ θ⎡ ⎤⎡ ⎤ ⎡ ⎤ ⎡ ⎤= − = +⎣ ⎦ ⎣ ⎦ ⎣ ⎦⎢ ⎥⎣ ⎦

Error

CuadráticoMedio




θ [ ]1E θ

2Dist. de θ 1Dist. de θ

SesgadoMenos varianzaInsesgado

Más varianza




θ [ ]1E θ



Más varianzaEstadística. Profesora María Durbán

24



θ [ ]1E θ



Más varianza




θ [ ]1E θ



Más varianzaEstadística. Profesora María Durbán

26


Consistencia

Diremos que un estimador es consistente cuando se aproxima al valordel parámetro al crecer el tamaño muestral

Describe el comportamiento del estimador cuando el tamaño de la muestra crece.

Se puede considerar como el requisito “mínimo” que se exige a un estimador





5.3 Métodos de máxima verosimilitud





Método de los momentos Más fáciles de calcular

Máxima verosimilitud Mejores desde al punto devista de la eficiencia



Método de máxima verosimilitud

La idea es la siguiente:

Dada una muestra de datos, suponemos que provienen de unadistribución conocida (que depende de 1 ó más parámetros). El objetivo es buscar el valor del parámetro que hace más probable que dichos datos provengan de esa distribución con ese valor del parámetro.

Ejemplo

Lanzamos una moneda 1000 veces y aparecen 100 caras y 900cruces. El valor más verosímil del parámetro no es 0.5, ya que si lo fuera, el número de caras y cruces estaría próximo

30

Distribución conjunta de la muestra



Punto de partida: una muestra aleatoria simple

IndependientesCon la misma distribución

( )1 2, , , nX X X=X …

La distribución de cuando tomamos distintas muestras se llamadistribución conjunta de la muestra.

X

Variables discretas

( ) ( ) ( ) ( )

( )

1 1 2 2 1 1 2 2

1

Pr , , , Pr Pr Pr

Pr

n n n n

n

i ii

X x X x X x X x X x X x

X x=

= = = = = = =

= =∏

… …

Probabilidad conjunta de la muestras


Distribución conjunta de la muestra



Punto de partida: una muestra aleatoria simple

IndependientesCon la misma distribución

( )1 2, , , nX X X=X …

( ) ( )1 21

, , ,n

n ii

f x x x f x=

=∏…

Variables continuasPara calcular probabilidades hemos de conocer

los parámetros de los que depende la distribución


Función de verosimilitud



Dada una v.a. (continua) con función de densidad y una m.a.s. , la función de densidad conjunta:

( )|f x θ( )1 2, , , nX X X=X …( )1 2, , , nX X X=X …

X

( ) ( )1 21

, , , | |n

n ii

f x x x f xθ θ=

=∏…

Cuando es conocido probabilidad de aparición de cada muestra

θCuando es desconocido, pero conocemos el valor de una muestra:

θ

( ) ( )1

| |n

ii

l x f xθ θ=

=∏Función deverosimilitud ( ) ( )ln | |l x L xθ θ=

Función soporte




x

P(x)

Población

Muestra( )0 10 20 0, , , nx x x x= …

( )0|l xθ ( )|f x θ




Dada una muestra, buscamos el valor del parámetro/s que maximiza la probabilidad de aparición de los valores observados.

Derivamos la función soporte con respecto a , e igualamos a 0

θ

θ

( ) ˆ0L θ

θθ

∂= →

∂

Calculamos la segunda derivada para comprobar que es un máximo

( )2

2 0L θθ

∂<

∂ ˆθ θ=



Propiedades de los E.M.V.

Para distribuciones cuyo rango de valores es conocido a priori y nodepende de ningún parámetro y el tamaño de la muestra es grande,el método de máxima verosimilitud da lugar a estimadores que son:

Asintóticamente centrados

Asintóticamente normales

Asintóticamente de varianza mínima

Son invariantes frente a transformaciones biunívocas:

ˆ E nθ θ⎡ ⎤ → →∞⎣ ⎦

( )ˆ ˆ,N Varθ θ θ⎡ ⎤≈ ⎣ ⎦12

2

ˆ( )ˆ LVar θθθ

−⎛ ⎞∂⎡ ⎤ = −⎜ ⎟⎣ ⎦ ⎜ ⎟∂⎝ ⎠

( ) ( )ˆ ˆSi es E.M.V. de es E.M.V. de ggθ θ θ θ→



Supongamos que el tiempo de fallo de un módulo electrónico se pruebaa elevadas temperaturas para acelerar el fallo del mecanismo. El tiempo de fallo se distribuye como una exponencial con parámetro desconocido.Se toman al azar 8 unidades y se prueban, dando lugar a los siguientes tiempo de fallo:

Ejemplo

1 2 3 4

5 6 7 8

11.96 5.03 67.4 16.0731.5 7.73 11.1 22.38

x x x xx x x x= = = == = = =

1ˆ 0.046221.65

λ = =


8

1

88

18

1

( | )

( ) 8ln( )

ii ixx

i

ii

l x e e

L x

λλλ λ λ

θ λ λ

=−−

=

=

∑= =

= −

∏

∑8

81

1

( ) 8 8 1ˆ0ii

ii

L xXx

λ λλ λ =

=

∂= − = ⇒ = =

∂ ∑∑

2

2 2

( ) 8 0L λλ λ

∂= − <

∂




Ejemplo


0.040 0.042 0.044 0.046 0.048 0.050 0.052

l bd

-32.

7-3

2.7

-32.

6-3

2.6

-32.

6

F. s

opor

te




Ejemplo

1 2 3 4

5 6 7 8

11.96 5.03 67.4 16.0731.5 7.73 11.1 22.38

x x x xx x x x= = = == = = =


1ˆX

λ = [ ]12 2

2

( )LVarn

λ λλλ

−⎛ ⎞∂

= − =⎜ ⎟∂⎝ ⎠

Cuanto mayor es el tamañode la muestra

Más preciso esel estimador



Ejemplo

Calcular el E.M.V. de para una muestra de 2( , )θ μ σ= 2( , )N μ σ

( )22

2 1/ 22 22 21

( )( )1 1( , | ) exp exp2 22 2

nn

ii in

i

xxl xμμμ σ

σ σπσ πσ=

=

⎧ ⎫−⎧ ⎫− ⎪ ⎪= − = −⎨ ⎬ ⎨ ⎬⎩ ⎭ ⎪ ⎪⎩ ⎭

∑∏



Ejemplo

Calcular el E.M.V. de para una muestra de 2( , )θ μ σ= 2( , )N μ σ

( )22

2 1/ 22 22 21

22 2 1

2

( )( )1 1( , | ) exp exp2 22 2

( )( , ) ln(2 )

2 2

nn

ii in

i

nii

xxl x

xnL

μμμ σσ σπσ πσ

μμ σ πσ

σ

=

=

=

⎧ ⎫−⎧ ⎫− ⎪ ⎪= − = −⎨ ⎬ ⎨ ⎬⎩ ⎭ ⎪ ⎪⎩ ⎭

−= − −

∑∏

∑

( )

21

2 1

2222 21 1

2 2 4

( , ) 1 ˆ( ) 0

( )( , ) ˆ02 2

nn ii

ii

n ni ii i

xL x Xn

x x xL n Sn

μ σ μ μμ σ

μμ σ σσ σ σ

==

= =

∂= − = → = =

∂

− −∂= − + = → = =

∂

∑∑

∑ ∑

Estadística. Profesora María Durbán41-0.3

-0.2-0.1

00.1

0.20.3

0.5

0.6

0.7

0.8

0.9

1

1.1

1.2 -170

00 -165

00 -160

00-155

00 -150

00 -145

00-140

00

μ2σ

( )L θ


Ejemplo



Ejemplo

-0.3 -0.2 -0.1 0.0 0.1 0.2 0.3

mu

0.6

0.8

1.0

1.2

sigm

a

-16400 -16400 -16000 -16000-15800

-15600-15400-15200

-15000

-14800

-14600-14600 -14400

-14200

μ

2σ

( )L θ






5.4 Distribución de un estimador en el muestreo5.4 Distribución de un estimador en el muestreo



Ejemplo

Supongamos que estamos interesados en el volumen medio de líquido contenido en una lata de refresco. El volumen medio requerido en la población es 300cc.

Un ingeniero toma una muestra de 25 latas y calcula . El ingeniero probablemente decidirá que la media poblacional es 300cc aunque sea menor, ya que es un estimador razonable de y quesi tomáramos repetidas muestras de 25 latas produciría valores depor encima y por debajo de 300cc

La media muestral es un estadístico, es decir, es una v.a. que dependede los resultados obtenidos en cada muestra

298ccx =

x x μx



Ejemplo

Supongamos que estamos interesados en el volumen medio de líquido Contenido en una lata de refresco. El volumen medio requerido en la población es 300cc.

Un ingeniero toma una muestra de 25 latas y calcula . El ingeniero probablemente decidirá que la media poblacional es 300cc aunque sea menor, ya que es un estimador razonable de y quesi tomáramos repetidas muestras de 25 latas produciría valores depor encima y por debajo de 300cc

La media muestral es un estadístico, es decir, es una v.a. que dependeDe los resultados obtenidos en cada muestra

298ccx =

x μxx



Distribución en el muestreo de la media

Vamos a calcular la esperanza y varianza de , donde las tienenmedia y varianza .

X iXμ 2σ

[ ]1 1

n ni ii i

X E X nE X En n n

μ μ= =⎡ ⎤⎢ ⎥⎡ ⎤ = = = =⎣ ⎦ ⎢ ⎥⎣ ⎦

∑ ∑

[ ] 2 21 1

2 2

n ni ii i

X Var X nVar X Varn n n n

σ σ= =⎡ ⎤⎢ ⎥⎡ ⎤ = = = =⎣ ⎦ ⎢ ⎥⎣ ⎦

∑ ∑


1 2 3

Media = 1.5 Media = 2.5Media = 2.

Población 1.51.51.51.51.51.51.51.51.51.51.51.51.5

2.52.52.52.52.52.52.52.52.52.52.52.52.5

22222222222

Compara la variabilidad de la poblacióncon la variabilidad de la media muestral.

Tomamos muestras de dos observaciones

Ilustramos cómo la varianza de la media muestral es menorque la de la población.




Distribución en el muestreo de la media

La distribución de dependerá de la distribución de las X iX

~ ( , ) ~ ,iX N X Nnσμ σ μ⎛ ⎞⇒ ⎜ ⎟

⎝ ⎠

Si tienen otra distribución, pero n es suficientemente grande,por el Teorema Central del Límite:

(0,1)/

X Nnμ

σ−

≈



Ejemplo

Una empresa fabrica resistores que tienen una resistencia media de 100ohms y una varianza de 100ohms2. La distribución de laresistencia es normal. Calcular la probabilidad de que una muestra deresistores de tamaño 25 tenga una resistencia media menor de 95ohms

~ ,X Nnσμ⎛ ⎞

⎜ ⎟⎝ ⎠

10 225

=

100

( ) ( )

( ) ( )

95 100Pr 95 Pr Pr 2.52

Pr 2.5 1 Pr 2.5

X Z Z

Z Z

−⎛ ⎞< = < = < −⎜ ⎟⎝ ⎠

= > = − <



Ejemplo

Una empresa fabrica resistores que tienen una resistencia media de 100ohms y una varianza de 100ohms2. La distribución de laresistencia es normal. Calcular la probabilidad de que una muestra deresistores de tamaño 25 tenga una resistencia media menor de 95ohms

2

~ ,X Nnσμ

⎛ ⎞⎜ ⎟⎝ ⎠

10 225

=

100

( ) ( )

( ) ( )

95 100Pr 95 Pr Pr 2.52

Pr 2.5 1 Pr 2.5 1 0.9938 0.0062

X Z Z

Z Z

−⎛ ⎞< = < = < −⎜ ⎟⎝ ⎠

= > = − < = − =



Caso particular: Distribución en el muestreo de una proporción

[ ][ ]2

1 Defectuoso

(1 ) 0 Aceptablei

ii

E X pX

Var X p pμ

σ= =

== = −

Si tenemos una muestra de tamaño n, la proporción de defectuosos enla muestra sería:

1n. defectuososˆn. total

nii

Xp X

n== = =∑

[ ]

[ ]

ˆ

(1 )ˆ

E p pp pVar p

n

=

−=

Bernouilli



Distribución en el muestreo de la varianza

Un estimador natural de la varianza poblacional es la varianzamuestral

2σ

( )2

2 1

nii

X XS

n=

−= ∑

Vamos a calcular su esperanza y varianza, para ello primero demostramos:

( ) ( ) ( )2 22

1 1

n ni ii i

X X X n Xμ μ= =

− = − − −∑ ∑

tema 5: estimación de parámetros · estadística. profesora maría durbán 1 tema 5: estimación...

Documents