BenemBeneméérita Universidad rita Universidad

AutAutóónoma de Pueblanoma de Puebla

Facultad de Ciencias de la ComputaciFacultad de Ciencias de la Computacióónn

Inteligencia ArtificialInteligencia Artificial

Verano 2016

Aprendizaje ComputacionalAprendizaje Computacional

96

Tareas complejas

97

Sistema biométrico

� Módulo Matching:

� Comparación contra

ejemplos de

entrenamiento

� Lleva a cabo Match

score

Algunos conceptos fundamentales (Clasificación)

99

Objeto/Instancia

=(Alto, Ancho, color, �)

=(80cm., 60cm., café, �)

Atributos:

100

Tipos de AtributosTipos de Atributos

� Dado una instancia/objeto, éstos pueden

ser:

� Numérico

� Discreto

� Binario

� Nominal

� Ordinal

101

MachineMachine LearningLearning

102

QuQuéé es ML/RP/DM?es ML/RP/DM?

� Interpretaciones diversas

� “Extracción de modelos a partir de un

conjunto de información para un determinado

fin”

� Analogía: Aprendizaje Humano

103

AprendizajeAprendizaje

Identificar

el autor

104

ClasificaciClasificacióónn

ClasesClases

Objetos

Atributos

105

ClasificaciClasificacióónn

Objetos del

mundo real

Características

de cada objeto Clasificador

Nuevo objeto

Asignar una clase al

nuevo objeto

106

ClasificaciClasificacióónn

Características

de cada objeto

Nuevo objeto

Entrenamiento / Aprendizaje

Asignar clase al

nuevo objeto

Conjunto de

entrenamiento

Tarea

TClasificación

Clasificador

107

Enfoques de clasificaciEnfoques de clasificacióónn

� Con base en la manera en que cada

algoritmo aprende/entrena

� Se categorizan en ciertos enfoques

� Algunos enfoques son sub-conjuntos de

otros

108

Redes NeuronalesRedes Neuronales(Neural Networks, NN)(Neural Networks, NN)

109

Redes NeuronalesRedes Neuronales

� Inspiración biológica

Redes Neuronales

111

Redes NeuronalesRedes Neuronales

� Perceptrón

112

Redes NeuronalesRedes Neuronales

� Perceptrón

� Regla de entrenamiento:

113

Redes NeuronalesRedes Neuronales

� Hiper-planos de separación

114

Redes NeuronalesRedes Neuronales� Gradiente Descendente y Regla Delta

115

Redes NeuronalesRedes Neuronales� Gradiente Descendente

116

Redes NeuronalesRedes Neuronales� Gradiente Descendente

� Regla de entrenamiento:

117

Redes NeuronalesRedes Neuronales� Gradiente Descendente

� Donde:

118

Redes Redes multicapamulticapa

- Feed Forward, Back Propagation

119

Redes Redes multicapamulticapa

120

Redes Redes multicapamulticapa

� Feed Forward, Back propagation

� Dos reglas de entrenamiento

121121

Redes multicapa

� Capa de salida

� Capa oculta

122

NNNN

� Puntos a considerar:

� Convergencia

�Mínimos locales

� Espacio de búsqueda

123

Redes Redes multicapamulticapa� Mínimos locales

124

Redes Redes multicapamulticapa� Mínimos locales

125

Redes Redes multicapamulticapa� Mínimos locales

126

MomentumMomentum

Ejemplo

128

ÁÁrboles de decisirboles de decisióón n

129

ÁÁrboles de decisirboles de decisióónn

� Clasificador basado en construir un árbol

� Clasificadores: ID3, C4.5 [Quinlan, 1993]

130

ÁÁrboles de decisirboles de decisióónn

� Algoritmo ID3

� Construir árbol

� Elegir el mejor atributo para colocarlo en el nodo

raíz

� ¿cómo saber cuál es el mejor atributo?

� Ganancia de información (Gain)

� Entropía

� Se utiliza Gain para elegir los nodos del árbol

131

ÁÁrboles de decisirboles de decisióónn

� Ganancia de información

� Entropía (2 clases)

132

ÁÁrboles de decisirboles de decisióónn

� Entropía, caso general:

133

Ganancia de informaciGanancia de informacióónn

� Impacta en menor grado los casos en que

los valores de atributo son homogéneos

134

ID3ID3

135

ID3ID3� Ejemplo: construir árbol para:

136

ID3ID3

ID3

ID3

139

ID3ID3� Espacio de búsqueda

140

ID3ID3

� Crecimiento del árbol

141

ÁÁrboles de decisirboles de decisióónn

� Atributos numéricos:

� C4.5:

� Regla de poda

� Post poda

� Discretizar valores numéricos