teoria de la decision martín de ... · de cada clase luegode cada clase, luego no utilizamos la...

TEORIA DE LA DECISION DE BAYES

1Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


2Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


PROBABILIDAD A PRIORI

3Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


4Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


5Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


DENSIDAD DE PROBABILIDAD

Además de la probabilidad a priori a menudo se tiene información adicional: el valor de la observación x que se va a clasificar.

Ejemplo:¿Cómo etiquetaríamos a una persona cuya analítica indica que tiene 5 millones de glóbulos rojos?indica que tiene 5 millones de glóbulos rojos?

Hay que considerar:y q• Probabilidad a priori• Valor de la observación

6Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



7Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



8Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


9Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


10Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


11Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


PROBABILIDAD A POSTERIORI

12Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


PROBABILIDAD A POSTERIORI

13Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


14Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


Efecto de la prob. a priori sobre la prob. a posteriori

15Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


REGLA DE CLASIFICACIÓN DE BAYES

16Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


17Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


18Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


19Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


20Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


Al considerar probabilidades a priori, las clases p p ,muy infrecuentes resultan ‘castigadas’

21Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


PROBLEMAS MULTICLASE CON PATRONES MULTIDIMENSIONALES

REGLA DE CLASIFICACIÓN DE BAYES

22Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


FUNCIONES DISCRIMINANTES Y SUPERFICIES DE DECISIÓN

Supongamos que existen gi(X) funciones discriminantes:Una función discriminante para la clase ‘i’ (gi(X)) tienela propiedad de que alcanza un mayor valor que

l i t f ió di i i t (X) t d lcualquier otra función discriminante gj(X) para todas lasotras clases

La regla de clasificación sería:La regla de clasificación sería:Seleccionar wi si gi(X) >= gj(X) para todo j

23Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


FUNCIONES DISCRIMINANTES Y SUPERFICIES DE DECISIÓN

Una posibilidad para considerar gi(X) es:gi(X)=P(wi|X)

o bien cualquier otra función equivalente:g (X) P(X|w ) πgi(X)=P(X|wi) πi

Para un problema de clasificación en dos clases, la formulación se simplifica. Basta considerar:

g(X)=g1(X)-g2(X)Siendo la regla de clasificación:

Seleccionar w si g(X) > 0 y w si (x)<0Seleccionar w1 si g(X) > 0 y w2 si (x)<0

24Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


FRONTERA Y REGIONES DE DECISIÓN ENTRE 2 CLASES

25Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



26Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



Influencia de la Probabilidad a Priori πi

27Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ERROR EN LA CLASIFICACIONO N C S C C ON

28Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



29Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



MÍNIMO ERROR

30Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ERROR EN LA CLASIFICACION

EL ERROR NO ES EL MÍNIMO31

EL ERROR NO ES EL MÍNIMO

Drago D

SM - Dist

ribuid

ora S

an M

artín

http:/

/www.dr

agod

sm.co

m.ar


ESTIMACIÓN DEL ERROR Y VERIFICACIÓN DE LOS RESULTADOS

32Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ESTIMACIÓN DEL ERROR Y VERIFICACIÓN DE LOS RESULTADOS

33Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

TEORIA DE LA DECISION DE BAYESESTIMACIÓN DEL ERROR Y VERIFICACIÓN DE LOS RESULTADOS

34Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


35Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ESTIMACIÓN POR RESUSTITUCIÓN

36Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ESTIMACIÓN POR RESUSTITUCIÓN

37Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

TEORIA DE LA DECISION DE BAYESESTIMACIÓN POR CONJUNTO DE PRUEBA O TESTESTIMACIÓN POR CONJUNTO DE PRUEBA O TEST

38Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

TEORIA DE LA DECISION DE BAYESESTIMACIÓN POR CONJUNTO DE PRUEBA O TEST

39Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


ESTIMACIÓN POR VALIDACIÓN CRUZADAESTIMACIÓN POR VALIDACIÓN CRUZADA

40Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

TEORIA DE LA DECISION DE BAYESESTIMACIÓN POR VALIDACIÓN CRUZADAESTIMACIÓN POR VALIDACIÓN CRUZADA

41Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

TEORIA DE LA DECISION DE BAYESESTIMACIÓN POR VALIDACIÓN CRUZADA

42Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar


VERIFICACIÓN DE RESULTADOS

Matriz de confusión o Matriz de contingencia• Presentación y análisis del resultado de una

clasificaciónclasificación

• Matriz cuadrada de orden JxJ que tiene anexas filas

y columnas auxiliares para contabilizar totales y otras

métricas

43Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



EJEMPLO DE MATRIZ DE CONFUSIÓN con 5 clases

44Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



45Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar



46Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

1 Estructura de los sistemas de reconocimiento de patrones1.Estructura de los sistemas de reconocimiento de patrones

EJEMPLO DETALLADO

DE UN

SISTEMA DE RECONOCIMIENTO DE PATRONES

47Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

SISTEMA DE RECONOCIMIENTO DE PATRONES PARA LA CONCESION O NO DE UN PRÉSTAMO BANCARIO

Variables disponibles:

Ed d

Clases:

Sí l d l (BUEN PAGADOR)•Edad

•Salario mensual

•Sí lo va a devolver (BUEN PAGADOR)

•No lo va a devolver (MOROSO)

Se disponen de 20 ejemplos, 10 por cada clase

48Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

49Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

1.8

2

1.8

2NO devuelve el prestamo SI devuelve el prestamo

1 4

1.6

1 4

1.6

1.2

1.4

viduo

s 1.2

1.4

vidu

os

0.8

1

No

de in

div

0.8

1

No

de in

div

0 4

0.6

0 4

0.6

0.2

0.4

0.2

0.4

500 20 40 60 80

0

Edad0 20 40 60 80

0

EdadDrag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO2 3

1.8

2NO devuelve el prestamo

2

3SI devuelve el prestamo

1.4

1.62.5

1.2

ividu

os

2

ividu

os

0.8

1

No

de in

d 1.5

No

de in

d0.4

0.61

0.2

00.5

510 1000 2000 3000

0

Salario mensual0 1000 2000 3000

0

Salario mensualDrag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLONO devuelve el prestamo

2500Concesion de prestamo

NO devuelve el prestamoSI devuelve el prestamo

2000

1500

men

sual

1000Sala

rio m

500

10 20 30 40 50 60 70 800

52

Edad

Drago D

SM - Dist

ribuid

ora S

an M

artín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

Probabilidad a priori: 0.5 para las 2 clasesob b d d p o : 0.5 p s c ses

No se conocen las densidades de probabilidad de los atributos de cada clase luego no utilizamos la regla de Bayesde cada clase, luego no utilizamos la regla de Bayes

Clasificador utilizado:DISTANCIA EUCLIDEA A LA MEDIA DE CADA CLASE

53Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

2500Concesion de prestamo

NO devuelve el prestamoSI devuelve el prestamo

2000

(62, 1745)

1500

nsua

l

media CLASE SI ( , )

1000Sala

rio m

en

500media CLASE NO

(33, 589)

0

54

10 20 30 40 50 60 70 800

Edad

Drago D

SM - Dist

ribuid

ora S

an M

artín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

55Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

EJEMPLO

MATRIZ DE CONFUSIÓN

Clases 1 2 Total Éxito Error

1 9 1 10 90% 10%

2 1 9 10 90% 10%

Total 10 10 20 90% 10%Total 10 10 20 90% 10%

BONDAD MEDIA

56Drag

o DSM - D

istrib

uidora

San

Mart

ín

http:/

/www.dr

agod

sm.co

m.ar

teoria de la decision martín de ... · de cada clase luegode cada clase, luego no utilizamos la...

Documents