![Page 1: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/1.jpg)
11Jonathan Lizano A63183 Aarón Víquez A66283
Red Neuronal de Red Neuronal de ContrapropagaciónContrapropagación
![Page 2: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/2.jpg)
22
AgendaAgenda IntroducciónIntroducción ObjetivosObjetivos Reseña históricaReseña histórica TerminologíaTerminología Estructura de la redEstructura de la red ConsideracionesConsideraciones EjemploEjemplo Ambientes de programaciónAmbientes de programación Áreas de aplicaciónÁreas de aplicación ConclusionesConclusiones
![Page 3: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/3.jpg)
33
IntroducciónIntroducción
Existen muchos tipos de redes neuronales Existen muchos tipos de redes neuronales artificiales, cada una de ellas busca artificiales, cada una de ellas busca resolver ciertos tipos de problemas con resolver ciertos tipos de problemas con cierto procedimiento.cierto procedimiento.
En lo que varían pincipalmente es en el En lo que varían pincipalmente es en el algoritmo de aprendizaje. Éstos pueden algoritmo de aprendizaje. Éstos pueden ser supervisados, no supervisados e ser supervisados, no supervisados e híbridos.híbridos.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 4: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/4.jpg)
44
ObjetivosObjetivos
Conocer las estructuras del modelo de Conocer las estructuras del modelo de contrapropagación.contrapropagación.
Conocer el funcionamiento del modelo de Conocer el funcionamiento del modelo de contrapropagación.contrapropagación.
Proveer ejemplos de aplicaciones de este Proveer ejemplos de aplicaciones de este modelo.modelo.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 5: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/5.jpg)
55
Reseña históricaReseña histórica
Desarrollado por el profesor Robert Hecht-Desarrollado por el profesor Robert Hecht-Nielsen en 1986Nielsen en 1986
Basada en las redes de Kohonen y la Basada en las redes de Kohonen y la estructura outstar de Grossberg.estructura outstar de Grossberg.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 6: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/6.jpg)
66
Terminología (1)Terminología (1)
Instar: es un elemento de proceso, Instar: es un elemento de proceso, conformada por una unidad de la capa conformada por una unidad de la capa oculta y todas las de la capa de entrada.oculta y todas las de la capa de entrada.
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 219
![Page 7: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/7.jpg)
77
Terminología (2)Terminología (2)
Red de competencia: un grupo de instars Red de competencia: un grupo de instars que compiten entre síque compiten entre sí
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 225
![Page 8: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/8.jpg)
88
Terminología (3)Terminología (3)
Outstar: todas las unidades de salida más Outstar: todas las unidades de salida más una única unidad de capa oculta de la una única unidad de capa oculta de la CPNCPN
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 231
![Page 9: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/9.jpg)
99
Estructura de la red (1)Estructura de la red (1)
De tipo híbrida(competencia y supervisada)De tipo híbrida(competencia y supervisada)
De pares de vectores (xDe pares de vectores (x1, 1, yy11) … (x) … (xn, n, yynn) la red ) la red
aprende a asociar vectores x con uno de salida aprende a asociar vectores x con uno de salida y.y.
Función: Y = f(x). Función: Y = f(x).
En algunos casos la inversa x = fEn algunos casos la inversa x = f-1-1(y)(y)Jonathan Lizano A63183
Aarón Víquez A66283
![Page 10: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/10.jpg)
1010
Estructura de la red (2)Estructura de la red (2)
[1] pp 214
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 11: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/11.jpg)
1111
Estructura de la red (3)Estructura de la red (3)
Las CPN poseen 3 Las CPN poseen 3 bloques básicos: bloques básicos:
Capa de entradaCapa de entrada Capa oculta (red Capa oculta (red
competitiva) competitiva) Capa de salida Capa de salida
(outstar)(outstar)
[1] pp 243Jonathan Lizano A63183
Aarón Víquez A66283
![Page 12: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/12.jpg)
1212
Capa de entrada (1)Capa de entrada (1)
Se normalizan Se normalizan los vectores.los vectores.
Usar tramas de Usar tramas de reflectancia.reflectancia.
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 216
![Page 13: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/13.jpg)
1313
Capa de entrada (2)Capa de entrada (2)
Centro activo, periferia inactivaCentro activo, periferia inactiva
Condición de equilibrioCondición de equilibrio
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 14: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/14.jpg)
1414
Capa oculta (1)Capa oculta (1) Cada instar representa una clase, por lo Cada instar representa una clase, por lo
que se entrena con los vectores que se entrena con los vectores asociados a ella.asociados a ella.
Su función de salida esta representada Su función de salida esta representada en función del “tiempo” según la en función del “tiempo” según la siguiente fórmula:siguiente fórmula:
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 15: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/15.jpg)
1515
Capa oculta (2)Capa oculta (2)
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 221
![Page 16: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/16.jpg)
1616
Capa oculta (3)Capa oculta (3)
Las instar compiten en la modalidad “el Las instar compiten en la modalidad “el ganador se lo lleva todo”ganador se lo lleva todo”
La señal con mayor intensidad será la que La señal con mayor intensidad será la que se mantenga positiva y envíe respuesta a se mantenga positiva y envíe respuesta a la capa de salidala capa de salida
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 17: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/17.jpg)
1717
Capa oculta (4)Capa oculta (4)
EntrenamientoEntrenamiento1.1. Seleccionar aleatoriamente un vector de entradaSeleccionar aleatoriamente un vector de entrada
2.2. Normalizar entrada y aplicar a la red competitivaNormalizar entrada y aplicar a la red competitiva
3.3. Determinar ganadorDeterminar ganador
4.4. Actualizar pesos de la unidad ganadoraActualizar pesos de la unidad ganadora
5.5. Repetir 1-4 para todos los ejs de entrenamientoRepetir 1-4 para todos los ejs de entrenamiento
6.6. Repetir 5 hasta que todos estén bien clasificadosRepetir 5 hasta que todos estén bien clasificados
7.7. Se prueba la redSe prueba la red
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 18: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/18.jpg)
1818
Capa de salida (1)Capa de salida (1)
La red posee tantas outstars como La red posee tantas outstars como unidades hayan en la capa oculta.unidades hayan en la capa oculta.
[1] pp 231Jonathan Lizano A63183
Aarón Víquez A66283
![Page 19: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/19.jpg)
1919
Capa de salida (2)Capa de salida (2)
La outstar posee un funcionamiento La outstar posee un funcionamiento similar al aprendizaje de Hebb.similar al aprendizaje de Hebb.
[1] pp 233Jonathan Lizano A63183
Aarón Víquez A66283
![Page 20: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/20.jpg)
2020
Capa de salida (3)Capa de salida (3)
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 21: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/21.jpg)
2121
Consideraciones (1)Consideraciones (1)
Inicialización de pesosInicialización de pesos
Jonathan Lizano A63183 Aarón Víquez A66283
[1] pp 240
![Page 22: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/22.jpg)
2222
Consideraciones (2)Consideraciones (2) Vector pegadoVector pegado
αα grande -> grande -> pequeñopequeño
ΒΒ pequeño -> pequeño -> grandegrande
[1] pp 241
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 23: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/23.jpg)
2323
Ejemplo (1)Ejemplo (1)
[1] pp 259
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 24: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/24.jpg)
2424
Ejemplo (2)Ejemplo (2)
y'y'kk = w = wkikizzii + w + wkjkjzzjj
zzii + z + zjj = 1 = 1
[1] pp 247
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 25: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/25.jpg)
2525
Ambientes de programaciónAmbientes de programación
Estructurados.Estructurados.
Orientado a objetos.Orientado a objetos.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 26: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/26.jpg)
2626
Áreas de aplicaciónÁreas de aplicación
Astronomía.Astronomía. QuímicaQuímica Reconocimiento de patronesReconocimiento de patrones Aproximación de funcionesAproximación de funciones Análisis estadísticoAnálisis estadístico Compresión de datosCompresión de datos
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 27: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/27.jpg)
2727
EvaluaciónEvaluación
Al presentar dos tipos diferentes de aprendizaje Al presentar dos tipos diferentes de aprendizaje la red tiende a entrenarse más rápidamente que la red tiende a entrenarse más rápidamente que la mayoría de las redes.la mayoría de las redes.
Permite crear prototipos de otras aplicaciones Permite crear prototipos de otras aplicaciones facilmente y en corto tiempo.facilmente y en corto tiempo.
En algunas aplicaciones se pierde presición.En algunas aplicaciones se pierde presición.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 28: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/28.jpg)
2828
EvaluaciónEvaluación
Como por ejemplo el problema de calcular la Como por ejemplo el problema de calcular la paridad de un número, para la CPN es muy paridad de un número, para la CPN es muy difícil distinguir entre vectores en donde difícil distinguir entre vectores en donde solamente un bit es la diferencia.solamente un bit es la diferencia.
Una red de propagación hacia atrás lo resuelve Una red de propagación hacia atrás lo resuelve con facilidad.con facilidad.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 29: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/29.jpg)
2929
ConclusionesConclusiones
Al ser un tipo híbrido converge más Al ser un tipo híbrido converge más rápido a una soluciónrápido a una solución
Se enfocan en problemas de Se enfocan en problemas de clasificación.clasificación.
Si los cambios en las clases no son Si los cambios en las clases no son muy pequeños proveen grandes muy pequeños proveen grandes ventajas.ventajas.
Jonathan Lizano A63183 Aarón Víquez A66283
![Page 30: 1 Jonathan Lizano A63183 Aarón Víquez A66283 Red Neuronal de Contrapropagación](https://reader034.vdocuments.net/reader034/viewer/2022051211/5533f3ad5503463e528b499d/html5/thumbnails/30.jpg)
3030
ReferenciasReferencias [1] Freeman, James and Shapura, David, Neural [1] Freeman, James and Shapura, David, Neural
Networks Networks Algorithms, applications, and Algorithms, applications, and Programming Techniques Programming Techniques 1992 Addison-1992 Addison-Wesley.Wesley.
[2] R.M. Hirstev, The ANN Book 1998, 1era [2] R.M. Hirstev, The ANN Book 1998, 1era Edición.Edición.
[3] Robert Hecht-Nielsen. Applications of [3] Robert Hecht-Nielsen. Applications of Counterpropagation networks. Counterpropagation networks. Neural Networks, Neural Networks, 1(2):131-139, 19881(2):131-139, 1988
Jonathan Lizano A63183 Aarón Víquez A66283