estadística bayesiana. parte i manuel mendoza ramírez instituto tecnológico autónomo de méxico...

Download Estadística Bayesiana. Parte I Manuel Mendoza Ramírez Instituto Tecnológico Autónomo de México III Taller Mexicano de Estadística Bayesiana Veracruz, México

Post on 02-Feb-2016

214 views

Category:

Documents

2 download

Embed Size (px)

TRANSCRIPT

  • Estadstica Bayesiana. Parte IManuel Mendoza RamrezInstituto Tecnolgico Autnomo de MxicoIII Taller Mexicano de Estadstica BayesianaVeracruz, Mxico. Junio 26, 2011.

  • Estadstica

    Estadstica Bayesiana

    Historia Bayesiana

    Ejemplo Contenido

  • Estadstica: Herramienta para describir fenmenos, a partir de conjuntos de observaciones que presentan variabilidad. Estadstica

  • Estadstica: Herramienta para describir fenmenos, a partir de conjuntos de observaciones que presentan variabilidad. Estadstica

  • Estadstica: Herramienta para describir fenmenos, a partir de conjuntos de observaciones que presentan variabilidad. EstadsticaLa descripcin se refiere a una caracterizacin que rebasa el mbito de la sola enumeracin. La descripcin puede ser:Exacta (deductiva) cuando dispone de toda la informacin sobre el fenmeno.Aproximada (inductiva) cuando slo cuenta con parte de la informacin.

    (Anlisis Exploratorio de Datos)

    (Inferencia Estadstica)

  • EstadsticaLa escuela de Inferencia Estadstica predominante hasta pocos aos lo fue, en solitario, por aproximadamente 80 aos.Surge a finales del Siglo XIX y, ahora, se conoce con el nombre de Estadstica Frecuentista.Parte de una interpretacin de la Probabilidad como lmite de frecuencias relativas (verificable a travs de la experimentacin)El colectivo de exponentes de esta escuela es muy vasto pero a ninguno se le atribuye tanto el desarrollo y consolidacin como a R. A. Fisher (1890-1962).

  • FisherFisher fue muy productivo y se le deben ideas fundamentales de la Inferencia.R. A. Fisher (1922). On the Mathematical Foundations of Theoretical Statistics.

  • FisherLos conceptos tcnicos que introdujo o que retom de sus antecesores para relanzarlos en la literatura son abundantes; entre otros:VerosimilitudSuficienciaAnlisis FiducialConsistenciaSignificanciaInformacinAnlisis de la VarianzaMxima Verosimilitud

  • Estadstica MatemticaPropuso mtodos que hasta la fecha se utilizan, cada uno de los cuales era fruto de un examen matemtico riguroso.R. A. Fisher (1922). On the Mathematical Foundations of Theoretical Statistics.Su preocupacin era la aplicacin de mtodos con una fundamentos tericos. No desarroll, sin embargo, una Teora Estadstica (un sistema lgico de observaciones, axiomas y postulados).

  • Estadstica MatemticaLa Inferencia Estadstica que Fisher contribuy a desarrollar tiene mtodos y procedimientos rigurosamente validados en trminos matemticos, es de aplicacin muy general en la prctica y cuenta con herramientas de cmputo, pero no forma un conjunto armonioso de piezas de conocimiento.La Teora de la Probabilidad, en su versin formal, axiomtica, slo apareci hasta 1933, gracias al trabajo de A.N. Kolmogorov.

  • Aproximaciones alternativasEn paralelo, otros personajes intentaron formalizar una interpretacin subjetiva de la Probabilidad.Foresight: its Logical Laws, Its Subjective Sources (1937) de Bruno de Finetti, establece que la nica definicin posible de la Probabilidad es como un concepto subjetivo e introduce el concepto de intercambiabilidad. Truth and Probability (1926/1931) de Frank Ramsey, plantea la Probabilidad subjetiva como una rama de la Lgica.Con diferentes enfoques, ambos autores exploran la asignacin subjetiva de probabilidades y su relacin con problemas de decisin.

  • La Estadstica Bayesiana, como se conoce actualmente, se inicia con la segunda mitad del siglo XX. Estadstica BayesianaSurge con la idea de organizar y sistematizar los conceptos, mtodos y tcnicas existentes de la Inferencia (Frecuentista) en una Teora Estadstica.Desde entonces, el nfasis se ha desplazado, de los Fundamentos primero, a los Mtodos de Inferencia especficos despus y, ms recientemente, al Cmputo Bayesiano y la produccin de software para el anlisis Bayesiano.

  • Estadstica BayesianaPara los Fundamentos, las ideas de Probabilidad subjetiva y Teora de decisiones han jugado un papel central.Fundamentos de la Teora de InferenciaMtodos BayesianosCmputo BayesianoPor su parte, el Cmputo Bayesiano ha hecho posible la aplicacin de la Inferencia Bayesiana a problemas reales, complejos.

  • Estadstica BayesianaFundamentos de la Teora de InferenciaMtodos BayesianosCmputo Bayesiano

  • Estadstica BayesianaFundamentos de la Teora de InferenciaMtodos BayesianosCmputo BayesianoInferencia Bayesiana No Paramtrica

  • La idea de la probabilidad subjetiva fue (y an es) motivo de controversia que ha dado lugar a un debate permanente con los no Bayesianos. Teora Estadstica BayesianaSin embargo, la primera formulacin completa, exhaustiva y axiomtica de los Fundamentos de la Estadstica (Bayesiana) se debe a Savage: Entre los promotores de esta alternativa destaca D.V. Lindley que en 1953 publica Statistical Inference. Ah aborda los problemas de inferencia como problemas de decisin y los resuelve con un argumento de Probabilidad Inversa y el criterio de prdida esperada mnima.

  • Savage reproduce, generaliza e integra, diversas contribuciones de otros autores, por ejemplo:de Finetti Probabilidad Subjetiva

    von Neumann & Morgenstern Teoras de Utilidad, Decisin y Juegos

    Wald Teora Estadstica de la Decisin Teora Estadstica Bayesiana

  • A partir de un conjunto de axiomas para la toma de decisiones, ComparabilidadTransitividadSustituibilidad MedicinDeriva un criterio que, prueba, es el nico compatible con estos axiomas. Teora de Decisin

  • El criterio establece que para seleccionar de forma ptima una opcin de entre una variedad de alternativas se debe (y se puede): Teora de DecisinDescribir toda fuente de incertidumbre a travs de la asignacin de probabilidades.Describir las preferencias a travs de una funcin de utilidad.Elegir la opcin de Utilidad Esperada Mxima.

  • El criterio establece que para seleccionar de forma ptima una opcin de entre una variedad de alternativas se debe (y se puede): Teora de DecisinDescribir toda fuente de incertidumbre a travs de la asignacin de probabilidades.Describir las preferencias a travs de una funcin de utilidad.Elegir la opcin de Utilidad Esperada Mxima.

  • Inferencia BayesianaUna inferencia se interpreta como una descripcin posible del fenmeno incierto bajo estudio.

  • En un estado de conocimiento especfico, existen distintas inferencias alternativas que se pueden formular. Inferencia BayesianaUna inferencia se interpreta como una descripcin posible del fenmeno incierto bajo estudio.

  • En un estado de conocimiento especfico, existen distintas inferencias alternativas que se pueden formular. Inferencia BayesianaUna inferencia se interpreta como una descripcin posible del fenmeno incierto bajo estudio. La eleccin de lo que se puede afirmar sobre lo que no se conoce del fenmeno, dado lo que s se conoce, es un problema de decisin en ambiente de incertidumbre.

  • En un estado de conocimiento especfico, existen distintas inferencias alternativas que se pueden formular. Inferencia BayesianaUna inferencia se interpreta como una descripcin posible del fenmeno incierto bajo estudio. La eleccin de lo que se puede afirmar sobre lo que no se conoce del fenmeno, dado lo que s se conoce, es un problema de decisin en ambiente de incertidumbre.

  • Debe elegirse la inferencia de Utilidad Esperada Mxima. Inferencia BayesianaExiste un nico procedimiento para producir las inferencias ptimas.La Probabilidad describe el estado de incertidumbre particular del Investigador sobre el fenmeno de inters.La Utilidad describe las consecuencias (para el Investigador) de las inferencias.Los datos (muestra) son relevantes en tanto modifican el estado de incertidumbre del Investigador.

  • Debe elegirse la inferencia de Utilidad Esperada Mxima. Inferencia BayesianaExiste un nico procedimiento para producir las inferencias ptimas.La Probabilidad describe el estado de incertidumbre particular del Investigador sobre el fenmeno de inters.La Utilidad describe las consecuencias (para el Investigador) de las inferencias.Los datos (muestra) son relevantes en tanto modifican el estado de incertidumbre del Investigador.

  • Le da carcter normativo a la asignacin subjetiva de probabilidades. Inferencia BayesianaFija condiciones bajo las cuales la Hiptesis de Utilidad Esperada Mxima deja de ser una hiptesis para la nica consecuencia compatible con los axiomas (de coherencia).Establece como mecanismo bsico de aprendizaje la frmula de Bayes y el concepto de Probabilidad Inversa.

  • Aprendizaje BayesianoSavage no emplea el trmino Bayesiana para su teora. Esta denominacin surge, al parecer en Economa.

  • Estadstica BayesianaAs, podra afirmarse que, en 1954, se establece formalmente la Teora Bayesiana de la Inferencia Estadstica. En 2011, estara cumpliendo 57 aos evidentemente, es joven!Sin embargo, sus races se pueden rastrear bastante ms atrs.

  • Ms Historia BayesianaBayes no vio publicado su trabajo. Apareci hasta 1763.Lo ms relevante no era la frmula, sino el empleo que hizo de ella.Inferencia sobre la probabilidad de xito en ensayos Bernoulli. Utiliza el modelo Beta.

  • Historia BayesianaIntroduce la idea de la Probabilidad Inversa.Una versin probabilstica de lo que sus contemporneos denominaban El Problema Inverso.

  • Historia BayesianaQuien formula, en general, el llamado Teorema de Bayes y, ms importante, utiliza sistemticamente la Probabilidad Inversa para la produccin de inferencias, es Laplace.If an event can be produced by a number n of different causes, the probabilities of these causes given the event are to each other as the probabilities of the event given the causes P.S. Laplace (1774). Mmoire sur la probabilit des causes por les vnements.An urn is supposed to contain