Redes Neurais

Prof. Alex F. V. Machado

Organização em camadas

Rede de Perceptron Simples

Organização em camadas

• Usualmente as camadas são classificadas em três grupos: – Camada de Entrada: onde os padrões são apresentados à

rede; – Camadas Intermediárias ou Escondidas: onde é feita a

maior parte do processamento, através das conexões ponderadas; podem ser consideradas como extratoras de características;

– Camada de Saída: onde o resultado final é concluído e apresentado.

Processos de Aprendizado

• A propriedade mais importante das redes neurais é a habilidade de aprender de seu ambiente e com isso melhorar seu desempenho.

• Isso é feito através de um processo iterativo de ajustes aplicado a seus pesos, o treinamento.

• O aprendizado ocorre quando a rede neural atinge uma solução generalizada para uma classe de problemas.

Algoritmo de Aprendizado

• algoritmo de aprendizado é um conjunto de regras bem definidas para a solução de um problema de aprendizado.

• Existem muitos tipos de algoritmos de aprendizado específicos para determinados modelos de redes neurais,

• estes algoritmos diferem entre si principalmente pelo modo como os pesos são modificados.

Treinamento Supervisionado

• O treinamento de rede Perceptron, consiste em ajustar os pesos e os thresholds (bias) de suas unidades para que a classificação desejada seja obtida.

• Quando um padrão é inicialmente apresentado à rede, ela produz uma saída.

• Após medir a distância entre a resposta atual e a desejada, são realizados os ajustes apropriados nos pesos de modo a reduzir esta distância.

• Este procedimento é conhecido como Regra Delta

Backpropagation

• Durante o treinamento com o algoritmo backpropagation, a rede opera em uma sequência de dois passos. – Primeiro, um padrão é apresentado à camada de entrada da

rede. A atividade resultante flui através da rede, camada por camada, até que a resposta seja produzida pela camada de saída.

– segundo passo, a saída obtida é comparada à saída desejada para esse padrão particular. Se esta não estiver correta, o erro é calculado. O erro é propagado a partir da camada de saída até a camada de entrada, e os pesos das conexões das unidades das camadas internas vão sendo modificados conforme o erro é retropropagado.

• As redes que utilizam backpropagation trabalham com uma variação da regra delta, apropriada para redes multi-camadas: a regra delta generalizada.

• A regra delta padrão essencialmente implementa um gradiente descendente no quadrado da soma do erro para funções de ativação lineares.

• Entretanto, a superfície do erro pode não ser tão simples, as redes ficam sujeitas aos problemas de de mínimos locais.