análisis multivariante - machine learning...análisis multivariante - machine learning author 00r...

45
Aprendizaje automatizado (ML) Clasificación supervisada Clasificación no supervisada Análisis multivariante Machine Learning 00R Team 2016-17 00R Team Análisis multivariante

Upload: others

Post on 27-Jan-2021

9 views

Category:

Documents


1 download

TRANSCRIPT

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    Análisis multivarianteMachine Learning

    00R Team

    2016-17

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    1 Aprendizaje automatizado (ML)

    2 Clasificación supervisada

    3 Clasificación no supervisada

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    Aprendizaje automatizado (ML)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    Definiciones

    Conjunto de herramientas para transformar datos enconocimiento.Conjunto de técnicas que permitan a las máquinas aprender.Conjunto de algoritmos que permitan a la máquina adaptarse anuevos datos a partir del conocimiento obtenido de datosanteriores.

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    Pasos para aplicar ML

    Recoger y almacenar datosExplorar y preparar los datosEntrenar al clasificador con nuestros datosEvaluar el desempeño del modeloMejorarlo si fuese necesario

    Una vez completados estos pasos, nuestro modelo puede serimplementado en la clasificación de nuevos datos

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    Clasificación de los algoritmos

    Clasificación supervisadaKNN, Random Forest, SVM, ANN, Naïve Bayes.

    Clasificación no supervisadaK-means, clustering jerárquico

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Clasificación supervisada

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 1

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    KNN

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Introducción

    K-Nearest Neighbours (Los k vecinos más próximos)Algoritmo de clasificación supervisadaBasado en distancias. Generalmente la distancia Euclídea

    dist(p, q) =√

    (p1 − q1)2 + (p2 − q2)2 + ... + (pn − qn)2

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 2

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 3

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    ¿Cuántos vecinos?

    Figura 400R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    ¿Cuántos vecinos?

    No hay una única regla:

    K = n12

    Cross-Validation. . .

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    SVM

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Introducción

    Conjunto de datos etiquetadosConstrucción de un modeloDado un nuevo dato de etiqueta desconocidaModelo es capaz de predecir a que clase pertenece

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Introducción

    SVM busca un límite o frontera entre clases –> HiperplanoSepara las diferentes clases en regiones.

    Figura 5

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    ¿Qué hiperplano elijo?

    Figura 600R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 7

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 8

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Figura 900R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Función kernel

    Realiza una transformación sobre los datos para simplificar elaprendizaje

    Tipos de funciones Kernel:

    Polinomial: K(xi, xj) = (xixj)n

    Perceptrón: K(xi, xj) = ‖xixj‖

    Base radial Gaussiana: K(xi, xj) = e−(xi−xj)2

    2σ2

    Sigmoidal: K(xi, xj) = tanh(xi · xj −Θ)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Función kernel

    Figura 10

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Naïve Bayes

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Probabilidad de un evento

    P (X) = Casos favorablesCasos posibles

    Probabilidad de que al tirar un dado salga un 3:

    P (X = 3) = 16

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Probabilidad condicionada

    Probabilidad de que suceda un evento cuando ya ha sucedido otro:

    P (Y | X)

    Probabilidad de que Y tome un valor determinado cuando X ya hatomado uno.

    Ejemplo: probabilidad de obtener un 10 entre dos dados cuando elprimero ha salido 4

    P (Y = 10 | X = 4)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Teorema de Bayes

    Basado en el Teorema de Bayes:

    P (Y | X) = P (X | Y ) P (Y )P (X)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    En castellano

    P (posteriori) = P (probabilidad condicional) P (a priori)P (total)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Teorema de bayes

    Ejemplo: determinar si jugaremos al tenis en función del tiempo.

    Cielo Temperatura Humedad Viento Jugar

    Soleado Calor Alta Si NoSoleado Calor Alta No SiSoleado Templado Baja Si SiNublado Frio Baja No SiNublado Calor Normal No SiNublado Frio Alta Si NoLLuvia Templado Alta No No

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Probabilidades

    ¿Jugaremos al tenis (Y ) un día nublado, frío, con humedad alta ysin viento (X)?

    P (Y = Si | Xv1,v2,v3,v4) =P (X | Y )vi · P (Y )

    P (total)

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Probabilidades

    P (SIjugar) = 4/7 P (NOjugar) = 3/7

    P (nublado | SIjugar) = 2/4 P (nublado | NOjugar) = 1/3

    P (frio | SIjugar) = 1/4 P (frio | NOjugar) = 1/3

    P (Altahumedad | SIjugar) = 1/4 P (Altahumedad | NOjugar) = 3/3

    P (Siviento | SIjugar) = 1/4 P (SiV iento | NOjugar) = 2/3

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    La hora de la verdad

    ¿Jugaremos?

    P (Y = Si | Xv1,v2,v3,v4) =2/4 · 1/4 · 1/4 · 1/4 · 4/7 = 0,024

    0,024 + 0,21 = 0,103

    P (Y = No | Xv1,v2,v3,v4) =1/3 · 1/3 · 3/3 · 2/3 · 3/7 = 0,21

    0,024 + 0,21 = 0,897

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Redes Neuronales artificiales

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Introducción

    Paradigma de aprendizaje automatizado inspirado en sistemasnerviosos biológicos

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Introducción

    Figura 1100R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Perceptrón

    La unidad básica es el perceptrón

    Figura 1200R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Componentes

    N entradas, x1, ..., xnCada entrada con un peso x, x1, ..., xnUn nodo de entrada extra llamada bias (intercepto)Suma de las entradas ponderada por sus pesos:

    y =∑

    x0w0, ..., xnwn

    Función de activación p.e.:

    fa(x) = 1 si y > 0, fa(x) = −1 si x ≤ 0

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Componentes

    Figura 13

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisada

    KNNSVMNaïve BayesRedes Neuronales artificiales

    Red neuronal de internet.

    Figura 14

    Los nodos son routers y las sinapsis conexiones físicas de redes00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    Clasificación no supervisada

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    K-means

    00R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    Clasificador no supervisado

    No necesita datos etiquetados

    Figura 1500R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    Clasificador no supervisado

    Crea grupos internamente homogéneos

    Figura 1600R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    Clasificador no supervisado

    Etiqueta los grupos

    Figura 1700R Team Análisis multivariante

  • Aprendizaje automatizado (ML)Clasificación supervisada

    Clasificación no supervisadaK-means

    Clasificador no supervisado

    Asigna nuevas observaciones al grupo de mayor similitud

    Figura 1800R Team Análisis multivariante

    Aprendizaje automatizado (ML)Clasificación supervisadaKNNSVMNaïve BayesRedes Neuronales artificiales

    Clasificación no supervisadaK-means