Redes Neuronales Artificiales

Red

es N

euro

nale

s A

rtifi

cial

es

Red

es N

euro

nale

s A

rtifi

cial

es

33

Perspectiva histórica

1940s: Hebb, McCulloch and PittsMecanismo de aprendizaje en neuronas biológicas. Redes deelementos “neuronales” pueden hacer cómputo aritmético.1950s: Rosenblatt, Widrow and HoffPrimeras redes artificiales (RNA) prácticas y reglasde aprendizaje.1960s: Minsky and Papert.Demostraron limitaciones de las RNA, no sedesarrollaron nuevos algoritmos de aprendizaje.Investigaciones en el campo se suspenden.1970s: Amari, Anderson, Fukushima, Kohonen,Grossberg, ... Trabajan en el tema pero a pasos maslentos.

Red

es N

euro

nale

s A

rtifi

cial

es

44

1890 William James: Psicólogo. Modelo para explicarcomo el cerebro realiza asociaciones.Otros científicos al inicio del siglo XX se distinguieronpor sus estudios sobre el cerebro:

Ramón y Cajal.Charles Sherrington.Iwan Pawlow.

Pre-1940: von Hemholtz, Mach, Pavlov, …Teorías generales sobre el aprendizaje, visión ycondicionamiento sin modelos matemáticosespecíficos sobre la operación neuronal.

Red

es N

euro

nale

s A

rtifi

cial

es

55

1950 Karl Lashley: In search of engram1954 Minsky Neural Nets and the Brain ModelProblem. PhD thesis, Princeton University.

1949 Donald Hebb: The organization of behavior.

La primera simulación por ordenador fue desarrolladaen la década del 50. 1956 Dartmouth Conference.Uno de los principales resultados de esta conferencia fue quela simple regla de aprendizaje desarrollada por Hebb,deducida de los efectos observados en el cuerpo humano, noera aplicable a muchos problemas prácticos.

Red

es N

euro

nale

s A

rtifi

cial

es

66

1958 Frank Rosenblatt: Modelo del Perceptron1962 Rosenblatt. Principles of Neurodynamics:Perceptrons and the Theory of Brain Mechanisms.Washington, DC: Spartan Books.

Red

es N

euro

nale

s A

rtifi

cial

es

77

Historia de RNA

1980s: Grossberg, Hopfield, Kohonen, Rumelhart,…Desarrollos importantes causan un resurgimiento deestudios en el campo.

Red

es N

euro

nale

s A

rtifi

cial

es

88

S. Ramón y Cajal y los orígenes de la unidad nerviosa: Neurona

Catedrático en Valencia

Catedrático en Madrid

1906 Premio Nobel de Medicina

Historia de RNA

Red

es N

euro

nale

s A

rtifi

cial

es

99

Algunos resultados de Cajal

“Doble via visual de la retinade los mamíferos”

“Fases evolutivas de célula psíquicaen el embrión de los mamíferos”

Historia de RNA

Red

es N

euro

nale

s A

rtifi

cial

es

1010

Tipos de neuronas a nivel anatómico (Mira & Delgado, 1995)

Historia de RNA

Red

es N

euro

nale

s A

rtifi

cial

es

1111

1943 artículo sobre elcerebro por Warren S.McCulloch y WalterPitts:

A logical calculus ofthe ideas immanent innervous activity.Primer modelo

Historia de RNA

Red

es N

euro

nale

s A

rtifi

cial

es

1212

Historia de RNA

1969 Marvin Minsky/Seymour Papert:Crítica al Perceptron. “Perceptrons: An Essay inComputational Geometry”. MIT Press, Cambridge,MA.Esto podría decirse fue el fin de las redesneuronales. Minsky y Papert probaronmatemáticamente que el Perceptrón no era capaz deresolver problemas relativamente fáciles (comoaprender la función XOR). Concluyeron que, engeneral, los descubrimientos en redes neuronales nomerecían la pena.

Red

es N

euro

nale

s A

rtifi

cial

es

1313

Historia de RNA

Red

es N

euro

nale

s A

rtifi

cial

es

1414

1974 Paul Werbos. Desarrolló la idea básica delalgoritmo de retropropagación.1977 Stephen GrossbergAdaptative Resonance Theory (ART)ART es una ‘arquitectura’ de red que difiere de todolo anteriormente inventado. Simula otra habilidad delcerebro: la memoria a largo y a corto plazo.

Historia de RNA

1981 Mapas Auto-Organizativos de Kohonen.1982 Redes de Hopfield, que implementan el modelode memoria asociativa

Red

es N

euro

nale

s A

rtifi

cial

es

1515

1985 John Hopfield. Publicó el libro Neuralcomputation of decisión in optimization problemsque dió renacimiento de las redes neuronales.1986 Rumelhart, McClelland & Hinton crean elgrupo PDP. Este grupo de trabajo solucionó losproblemas propuestos por Minsky y Papert, graciasal algoritmo de retropropagación.

Red

es N

euro

nale

s A

rtifi

cial

es

1616

Red

es N

euro

nale

s A

rtifi

cial

es

1717

Red

es N

euro

nale

s A

rtifi

cial

es

1818

Ley de Hebb

Idea principal sobre la cual se basa esta ley:“Cuando un axón de la célula A estásuficientemente próximo para excitar a una célula Bo toma parte en su disparo de forma persistente,tiene lugar algún proceso de crecimiento o algúncambio metabólico en una de las células, o en lasdos, de tal modo que la eficiencia de A, como una delas células que desencadena el disparo de B, se veinvrementada.”

Red

es N

euro

nale

s A

rtifi

cial

es

1919

Ley de Hebb

Como puede observarse el proceso se basa en laidea del refuerzo de las conexiones (o sinapsis enel modelo biológico) más usadas, favoreciendo laexcitación de los circuitos neuronales másprobables.Sería un proceso de aprendizaje no supervisado,que refuerza las conexiones más utilizadas.

Red

es N

euro

nale

s A

rtifi

cial

es

2020

Implementación:Dada una conexión entre dos neuronas i y j, elpeso wij de la conexión entre esas neuronas:

– Se verá incrementado siempre que ambas neuronasestén activas al mismo tiempo.

– Se verá decrementado siempre que ambas neuronastengan estados contrarios.

– No se cambiará cuando ambas neuronas estén inactivas.

Ley de Hebb

Red

es N

euro

nale

s A

rtifi

cial

es

2121

RNA - Funcionamiento

Σ

ENTRADAS

SALIDA

CONEXIONES FUNCIONDE RED

FUNCION DEACTIVACION

ENTRADASPONDERADAS

W1

W2

W3

X1

X2

X3

net(.) act(.)

Red

es N

euro

nale

s A

rtifi

cial

es

2222

RNA - Comparación

COMPARACIÓN CON LAS REDES NEURALES BIOLÓGICASRedes Neuronales

BiológicasRedes Neuronales

ArtificialesNeuronas Unidades de procesoConexiones sinápticas Conexiones ponderadasEfectividad de las sinápsis Peso de las conexionesEfecto excitatorio o inhibitorio deuna conexión

Signo del peso de unaconexión

Efecto combinado de las sinápsis Función de propagación ode red

Activación -> tasa de disparo Función de activación ->Salida

Red

es N

euro

nale

s A

rtifi

cial

es

2323

RNA - Características

– APRENDIZAJE INDUCTIVO.– GENERALIZACIÓN.– ABSTRACCIÓN O TOLERANCIA AL

RUIDO.– PROCESAMIENTO PARALELO.– MEMORIA DISTRIBUIDA.

Red

es N

euro

nale

s A

rtifi

cial

es

2424

RNA - Modo de operación

– FASE DE APRENDIZAJE.APRENDIZAJE SUPERVISADO.APRENDIZAJE NO SUPERVISADO.APRENDIZAJE REFORZADO.

– FASE DE APLICACIÓN.

– FASE DE TEST (OPCIONAL).

Red

es N

euro

nale

s A

rtifi

cial

es

2525

RNA - Modo de operación Aprendizaje Supervisado

1. Aleatorizar los pesos de todas las conexiones.

2. Seleccionar un patrón de entrenamiento

3. Calcular salida.

4. Calcular la discrepancia en la salida.

5. Aplicar la regla de aprendizaje.

6. Volver al paso 2.

Red

es N

euro

nale

s A

rtifi

cial

es

2626

Requiere propagar información (el error)hacia atrás.

Requiere un instructor que proporcione lasalida.

No requiere presentar la salida en lospatrones.

RNA - MODO DE OPERACIÓNAprendizaje No Supervisado

Red

es N

euro

nale

s A

rtifi

cial

es

2727

RNA - TIPOS

ASOCIADORESDE

PATRONES

MAPAS DEAUTO-

ORGANIZACIÓN

MODELOS DESATISFACCIÓN DE

DEMANDA

OTRAS REDESASOCIATIVAS DE

PESOS FIJOS

Perceptrones

Redes deretropropaga

ción

Redes deKohonen

ArquitecturasART

Redes de Hopfield

Máquinas deBoltzmann

Memoriasproasociativas

Redes de Hamming

Red

es N

euro

nale

s A

rtifi

cial

es

2828

¿Utilizar RNA?

Cuándo utilizar una RNA– En tareas en las que un ser humano se

desenvuelve bien.

Cuándo no utilizarla– Solución algorítmica es eficiente– No se dispone de suficientes patrones-ejemplos

Red

es N

euro

nale

s A

rtifi

cial

es

2929

Ejemplos– Conversión de texto escrito a lenguaje hablado.– Compresión de imágenes.– Reconocimiento de escritura manual (japonesa)– Visión artificial en robots industriales

(inspección de etiquetas,clasificación decomponentes)

Problemas que resuelven

Red

es N

euro

nale

s A

rtifi

cial

es

3030

Modelo de neurona binaria propuesto porMcCulloch y Pitts en 1943.

Calcula la suma ponderada de sus entradas desdeotras unidades, y da como salida un uno (1) o uncero (0) dependiendo de si ésta se encuentra porencima o por debajo de un valor denominadoumbral.

Modelo McCULLOCH-PITTS

Red

es N

euro

nale

s A

rtifi

cial

es

3131

n

=1

ij

ij j in = f( w n (t)-u )∑

Modelo McCULLOCH-PITTS

Las ecuaciones que gobiernan el funcionamiento dedicho modelo de neurona son las siguientes:

Red

es N

euro

nale

s A

rtifi

cial

es

3232

n1

n2

nj

i

wi1

wi2

wij

Fn

iΣ

Modelo McCULLOCH-PITTS

Red

es N

euro

nale

s A

rtifi

cial

es

3333

Umbral

u

f(x)= 1 si x >= u 0 si x<u

Modelo McCULLOCH-PITTS

Función de activación

Red

es N

euro

nale

s A

rtifi

cial

es

3434

Ejemplo:

Σ

0.5

0.2

0.2

0.1

-0.2

0.1

0.031

0

Modelo McCULLOCH-PITTS

Red

es N

euro

nale

s A

rtifi

cial

es

3535

Función de activación

Función umbral Función lineal a trozos

Función sigmoide Función Gaussiana

Red

es N

euro

nale

s A

rtifi

cial

es

3636

11

-1-1

Función tangencial

Función de activación

Red

es N

euro

nale

s A

rtifi

cial

es

3737

En RNA

Las señales que llegan a la sinapsis son las entradasa la neurona; éstas son ponderadas (atenuadas oamplificadas) a través de un parámetro,denominado peso, asociado a la sinapsiscorrespondiente.Las señales de entrada pueden excitar o inhibir a laneurona (sinapsis con peso positivo o negativo).Si la suma es igual o mayor que el umbral de laneurona, entonces la neurona se activa (da salida).

Red

es N

euro

nale

s A

rtifi

cial

es

3838

Las sinapsis son susceptibles a la fatiga,deficiencia de oxígeno y otros agentesexternos.La habilidad de ajustar señales es unmecanismo de aprendizaje.El umbral integra la energía de las señalesde entrada en el espacio y en el tiempo.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

3939

Las redes neuronales, inspiradas en elfuncionamiento del sistema nervioso, sonarreglos de procesadores elementalesinterconectados entre sí.Cada uno de estos procesadores oneuronas suma las entradas ponderadas ysu resultado pasa a través de una funciónno lineal conocida como función deactivación.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

4040

El conocimiento en una red neuronal estádistribuido a lo largo de todo el sistema,debido a esto, se utilizan muchasinterconexiones para obtener la solución deun problema en particular.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

4141

Una red neuronal esta compuesta por un grannúmero de elementos de procesamiento simplesllamados neuronas o nodos.Cada nodo esta conectado a otros nodos porvarios enlaces de comunicación directa, cada unoasociado a un peso.Los pesos representan la información utilizadapor la red para resolver un problema.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

4242

Los nodos no tienen una relación biunívocacon las neuronas biológicas reales.Sin embargo, como una neurona biológica,el elemento de procesamiento tiene variasentradas y una sola salida que se aplica amuchos otros nodos.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

4343

Entre las entradas que recibe el j-ésimonodo se encuentra la procedente del i-ésimonodo (xi). La salida del j-ésimo nodo sedenota xj.En la analogía la salida corresponde con lafrecuencia de disparo.

En RNA

Red

es N

euro

nale

s A

rtifi

cial

es

4444

Esquema general

Cada conexión con el j-ésimo nodo tiene asociadaa él una magnitud, peso o intensidad de conexión.El peso de la conexión que procede del i-ésimonodo y llega al j-ésimo nodo se denota como wij.Estos pesos en analogía con la neurona biológicacorresponden a la intensidad de las conexionessinápticas entre neuronas (excitadora oinhibitoria).

Red

es N

euro

nale

s A

rtifi

cial

es

4545

Red

es N

euro

nale

s A

rtifi

cial

es

4646

Cada elemento de procesamiento obtiene unvalor de entrada neto basándose en todas lasconexiones de entrada. La forma típica escalcular el valor de entrada neto sumando losvalores de entrada, ponderados (multiplicados)con sus pesos correspondientes. La entrada netadel j-ésimo nodo se escribenetj = åi xi wij

donde el índice i recorre todas las conexionesque posea el j-ésimo nodo.

Red

es N

euro

nale

s A

rtifi

cial

es

4747

Cada neurona tiene un estado interno llamadoactivación, la cual es una función de las entradasrecibidas. Típicamente una neurona envía suactivación como una señal a otras neuronas. Esimportante hacer notar que una neurona puedeenviar solo una señal a la vez, aunque estamisma se distribuya a otras neuronas.La activación de una neurona está en función desu entrada neta. La forma mas fácil de definir laactivación de una neurona es considerar que éstaes binaria

Red

es N

euro

nale

s A

rtifi

cial

es

4848

Las neuronas de una RNA pueden organizarse enestratos o niveles, y dependiendo de la presenciade caminos de retroalimentación se puedenclasificar como recurrentes o no recurrentes.Las RNA no recurrentes y en particular lasfeedforward han sido ampliamente utilizadas enuna variedad de problemas debido a suestabilidad inherente y la simplicidad delalgoritmo de entrenamiento de retropropagacióndel error.

Red

es N

euro

nale

s A

rtifi

cial

es

4949

En las redes neuronales multinivel las neuronasde primer nivel reciben sus entradas directamentedel entorno.Las salidas de estas neuronas se conectan a lasentradas de las neuronas del segundo nivel, y asísucesivamente, hasta el último nivel, cuyas salidasson entregadas al entorno.

Red

es N

euro

nale

s A

rtifi

cial

es

5050

Todas las neuronas que componen la red sehallan en cierto estado. Puede decirse que haydos posibles estados de activación: reposo oexitado.Los valores de activación pueden ser continuos odiscretos.Al considerar una descripción binaria el estadoactivo se indicaría por 1, y caracteriza la emisiónde un impulso por parte de la neurona, mientrasque un estado pasivo se indicaría por 0, ysignificaría que la neurona está en reposo.

Red

es N

euro

nale

s A

rtifi

cial

es

5151

Generalmente se consideran modelos con unconjunto continuo de estados de activación enlugar de solo dos {0,1}.Se asigna un valor en el intervalo [0,1] o en elintervalo [-1,1].Generalmente definidos por una funciónsigmoidal.

Red

es N

euro

nale

s A

rtifi

cial

es

5252

Principales modelos

El problema principal del trabajo en redes neuronalesconcierne al problema de programar el aprendizaje: ¿cómoescoger los pesos en las conexiones para que la red realiceuna tarea específica?

Es posible encontrar problemas en que los pesos se tienen demanera apriori. Debe considerarse esta información para eldiseño de la red.

Pero estos problemas son mas bien raros ya que en lamayoría de los casos se debe "enseñar" a la red a ejecutar loscálculos por ajustes iterativos de los pesos wij.

Red

es N

euro

nale

s A

rtifi

cial

es

5353

Características de las RNA

¿Qué son capaces de hacer?– Reconocimiento de patrones– Síntesis funcional

Red

es N

euro

nale

s A

rtifi

cial

es

5454

Reconocimiento de patrones

Clasificación de información según ciertascaracterísticas.Aplicaciones típicas: Diferenciación de sonidos, Reconocimiento de escritura, Interpretación de encefalogramas, Reconocimiento de la voz Procesamiento de imágenes..............

Red

es N

euro

nale

s A

rtifi

cial

es

5555

Síntesis funcional

La aproximación de funciones, consiste enestablecer relaciones entre varias entradascontinuas y una o más salidas continuas.Ejemplos de aplicación: Estimar la demanda de un producto, Filtrar el ruido de una señal, Control de procesos,Simular comportamiento de un sistema dinámico.

Red

es N

euro

nale

s A

rtifi

cial

es

5656

Otras aplicaciones

Visión por computadorSíntesis de vozDiagnostico médicoConducción automáticaExploración petrolera

Red

es N

euro

nale

s A

rtifi

cial

es

5757

Aplicaciones

NETtalk. Pretendía entrenar una red parapronunciar texto en inglés. La entrada de la redla constituía una ventana de 7 caracteres queavanzaba a través del texto según era leído. Lasalida de la red era una serie de fonemas queenviados a un generador hacía que la máquinahablase.

Red

es N

euro

nale

s A

rtifi

cial

es

5858

Codificación y compresión de datos. Consiste enencontrar un conjunto de símbolosfuncionalmente equivalentes a uno dado, perocon una longitud media menor por símbolo. Deeste modo las RNA son capaces de representarconjuntos aparentemente grandes de informacióncon pocos elementos de representación.

Aplicaciones

Red

es N

euro

nale

s A

rtifi

cial

es

5959

Conducción de un vehículo. Se construyó una redque aceptaba la entrada de una cámara situadaen el techo de un coche y un detector dedistancias. La red debía de guiar el coche a travésde una carretera. Después de entrenar la red con1200 imágenes simulando carreteras, la red eracapaz de conducir a través de una carretera a unavelocidad de 5km/h.

Aplicaciones

Red

es N

euro

nale

s A

rtifi

cial

es

6060

Reconocimiento de caracteres. Las RNA seusan actualmente para el reconocimientoautomático de caracteres. Por ejemplo losimpresos que se rellenan a mano sonpasados por una RNA de este tipoobteniendo el conjunto de caracteres encódigo ASCII.

Aplicaciones

Red

es N

euro

nale

s A

rtifi

cial

es

6161

Reconocimiento del habla. Este es unproblema inherentemente complejo, dadalas múltiples maneras de hablar de lasdiferentes personas (acentos, dialectos,velocidad, etc.). Ha sido posible entrenar aRNA para reconocer con éxito un conjuntorelativamente reducido de palabras.

Aplicaciones

Red

es N

euro

nale

s A

rtifi

cial

es

6262

Computación convencionalvs. Neurocomputación

NeurocomputaciónEntrenamiento,aprendizajeNo se separa lamemoria y elprocesamientoParalela (discreto ocontinuo), asíncrona

Com. convencionalProgramación

Memoria yprocesamientoseparadosSecuencial o serial,síncrona

Red

es N

euro

nale

s A

rtifi

cial

es

6363

NeurocomputaciónTolerante a fallas

Auto-organización

Acepta entradas conruido o difusas

Com. convencionalNo tolerante afallosDependiente delsoftwareGarbage in -Garbage out (sientra basura, salebasura)

Red

es N

euro

nale

s A

rtifi

cial

es

6464

Estructuras

Red

es N

euro

nale

s A

rtifi

cial

es

6565

Red Neuronal Artificial

Conexiones

Neuronas

Red

es N

euro

nale

s A

rtifi

cial

es

6666

Redes multicapa

Son redes conformadas por una capa deentrada, una o varias ocultas y una desalida, sus conexiones no deben formarciclos.Pueden utilizar diferentes funciones deactivación

Red

es N

euro

nale

s A

rtifi

cial

es

6767

Neuronas de salida

Neuronas de entrada

Neuronas

ocultas

Redes multicapa

Red

es N

euro

nale

s A

rtifi

cial

es

6868

Clasificación

Según la topología:–Redes feedforward

Perceptrón simplePerceptrón multicapaRedes con funciones de base radial

–Redes recurrentes feedbackRedes competitivasRed KohonenRed HopfieldModelos ART

Red

es N

euro

nale

s A

rtifi

cial

es

6969

Neuronas de salida

Neuronas de entrada

Neuronas

ocultas

Red Feedforward

Red

es N

euro

nale

s A

rtifi

cial

es

7070

Red Recurrente

Red

es N

euro

nale

s A

rtifi

cial

es

7171

Algoritmos de aprendizaje

Alteran los pesos de la neurona después de lapresentación de un patrón.Corrección del error. Corrige el error de la salidaGradiente. Minimiza el error cuadrático mediosobre todos los patrones.

Red

es N

euro

nale

s A

rtifi

cial

es

7272

Tipos de Aprendizaje

Supervisado. El algoritmo utiliza un conjunto deejemplos que la red debe aprender. Elentrenamiento se lleva a cabo mediante un procesoiterativo de adaptación de la red neuronal demanera que sus salidas se acerquen cada vez más alas salidas deseadas especificadas en los ejemplos.

Red

es N

euro

nale

s A

rtifi

cial

es

7373

No supervisado. En el algoritmo no se especificansalidas deseadas, el algoritmo trata de encontrarde manera autónoma regularidades en los datos deentrada creando categorías que agrupen a losdatos más similares.Con refuerzo. La red aprende a través de unproceso de ensayo y error que maximiza el índicede desempeño denominado señal de error.

Red

es N

euro

nale

s A

rtifi

cial

es

7474

Clasificación

S u p e r v i s a d o C o r r e c c i ó n d ee r r o rB o l t z m a n nH e b b i a nC o m p e t i t i v o

B a c kP r o p a g a t i o nA d a l i n e yM a d a l i n e

N os u p e r v i s a d o

C o r r e c c i ó n d ee r r o rH e b b i a nC o m p e t i t i v o

A p r e n d i z a j ec o n m e m o r i aa s o c i a t i v a

H í b r i d o C o r r e c c i ó n d ee r r o r yc o m p e t i t i v o

A l g o r i t m o d ea p r e n d i z a j eR B F

Tipo de aprendizaje

Regla de aprendizaje

Algoritmos mas utilizados

Red

es N

euro

nale

s A

rtifi

cial

es

7575

Ley de Hebb

Implementación:Dada una conexión entre dos neuronas i y j, elpeso wij de la conexión entre esas neuronas:– Se verá incrementado siempre que ambas

neuronas estén activas al mismo tiempo.– Se verá decrementado siempre que ambas

neuronas tengan estados contrarios.– No se cambiará cuando ambas neuronas estén

inactivas.

Red

es N

euro

nale

s A

rtifi

cial

es

7676

Técnica del Gradiente Descendente

Calcular el valor de la función en el puntoy=f (x0)

Calcular el nuevo valor de xi como el valoranterior mas el gradiente de la función.

yi+1 = yi+∆yi

Red

es N

euro

nale

s A

rtifi

cial

es

7777

Técnica del Gradiente Descendente

El gradiente de la función se calcula como la derivada parcialde la función con respecto al punto xi.

El gradiente es igual a: dyi = -δf / δxi

La técnica de gradiente descendente es un procedimientoiterativo que busca minimizar una función moviéndose enla dirección opuesta al gradiente de dicha función.

Red

es N

euro

nale

s A

rtifi

cial

es

7878

mínimoglobal

mínimo local

Técnica del Gradiente Descendente

Red

es N

euro

nale

s A

rtifi

cial

es

7979

Tasa de Aprendizaje

Determina el tamaño del paso que utiliza elalgoritmo, para moverse en el espacio de lospesos. Un valor muy pequeño para esteparámetro puede provocar una convergenciamuy lenta, así como un valor muy alto puedeprovocar un comportamiento divergente.

Red

es N

euro

nale

s A

rtifi

cial

es

8080

Momentum

El momento, da al algoritmo una especie deinercia que le permite evadir en ciertoscasos los mínimos locales.Con este momentum se consigue laconvergencia de la red en un númeromenor de iteraciones.

Red

es N

euro

nale

s A

rtifi

cial

es

8181