![Page 1: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/1.jpg)
Redes Neurais Artificiais
Prof. Júlio Cesar Nievola
![Page 2: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/2.jpg)
Redes Neurais Artificiais
• Sistemas Neurais Artificiais• Conexionismo• Sistemas Adaptativos• Neurocomputadores• Sistemas Massivamente Paralelos
Distribuídos• Redes Neurais (Artificiais)
![Page 3: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/3.jpg)
Redes Neurais Artificiais
• Reunião no Dartmouth College• Paradigmas básicos:
• Simbólico• Conexionista
• Perceptron (1 camada de pesos ajustáveis)• Descrédito a partir do final da década 60• Impulso a partir da década de 80
![Page 4: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/4.jpg)
Computador x cérebro
Velocidade de processamento CPU: Clock (Cray 3) 4.2ns Neural: disparo neurônio ms
Ordem de processamento CPU: serial Neural: paralelo
Abundância e complexidade: CPU: um ou poucos processadores Neural: 1011-1014 neurônios; 103-104
conexões/neurônio
![Page 5: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/5.jpg)
Computador x cérebro
Armazenamento do conhecimento CPU: estritamente relocável Neural: adaptativo
Tolerância a falhas CPU: mínima, senão inexistente Neural: boa
Controle do processamento CPU: controle autocrático, centralizado Neural: controle anárquico, distribuído
![Page 6: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/6.jpg)
Elemento de base
• Neurônio simplificado
• Componentes:
• Axônio
• Dendritos
• Sinapses
![Page 7: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/7.jpg)
Forma Matemática Simplificada
• Dendritos: entradas
• Corpo celular:
• Soma ponderada
• Função não-linear
• Axônio: distribuição aos neurônios
![Page 8: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/8.jpg)
Terminologia
• Elementos de Processamento:• Nós• Memória de curto prazo• População
• Ligações entre elementos de processamento• Peso• (Força de) interconexão• Memória de longo prazo
![Page 9: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/9.jpg)
Aprendizagem
• Supervisionada
• Não-supervisionada
• Com reforço
![Page 10: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/10.jpg)
Etapas de Projeto
• Definir o problema• Escolher informação
• Obter dados• Criar arquivos rede
• Treinar a rede• Testar a rede• Uso em campo
![Page 11: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/11.jpg)
Topologias: Construtiva
![Page 12: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/12.jpg)
Topologias: Hopfield
![Page 13: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/13.jpg)
Topologias: Recorrente
![Page 14: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/14.jpg)
Topologias: Não-Supervisionada
![Page 15: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/15.jpg)
Sub- e sobre-ajuste do polinômio
![Page 16: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/16.jpg)
Validação Cruzada I
• Evita sobreposição nos conjuntos de teste• Passo 1: os dados são divididos em k subconjuntos
de mesmo tamanho• Passo 2: em cada instante um subconjunto é usado
para teste e os demais para treinamento• Isto é chamado validação cruzada de fator k• Normalmente os subconjuntos são estratificados
antes de realizar a validação cruzada• Faz-se a média das estimativas de erro para obter
o erro estimado geral
![Page 17: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/17.jpg)
Validação Cruzada II
• Método padrão para avaliação: validação cruzada estratificada com fator 10
• A realização de vários experimentos tem demonstrado que 10 é a melhor escolha
• A estratificação reduz a variância da estimativa
• Opção melhor: validação cruzada estratificada com fator 10 repetida (10 x)
![Page 18: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/18.jpg)
Extração de Regras
• É a tarefa de converter modelos de redes neurais treinadas em representações mais facilmente compreensíveis
• Surgiu em função de• Data Mining boom• Interesse em métodos como boosting,
bagging e error-correcting output codes
![Page 19: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/19.jpg)
Características dos Métodos de Extração de Regras• Compreensibilidade
• Quanto são humanamente compreensíveis• Fidelidade
• Quanto modela a RNA da qual foi extraída• Precisão
• Previsão precisa sobre exemplos não vistos• Escalabilidade
• Grandes espaços de entrada, unidades e conexões• Generalidade
• Treinamento especial e/ou restrições
![Page 20: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/20.jpg)
Implementações
• Características-chave:• Computacionalmente intensivas• Massivamente paralelas• Grandes requisitos de memória
• Possibilidades de implementação• Computadores convencionais• Computadores dedicados• Implementação em hardware específico
![Page 21: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/21.jpg)
Redes Neurais Artificiais
• Razões para utilização
• Paralelismo
• Capacidade de adaptação
• Memória distribuída
• Capacidade de generalização
• Facilidade de construção
![Page 22: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/22.jpg)
Redes Neurais Artificiais
• Limites de utilização
• Simulação em máquinas seqüenciais
• A passagem da simulação para a
implementação em hardware está no início
• O desempenho é dependente da qualidade e
da pertinência do pré-tratamento efetuado
![Page 23: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/23.jpg)
Redes Neurais Artificiais
• Características de uma boa aplicação• Regras de resolução do problema
desconhecidas ou difíceis de formalizar• Dispõe-se de um grande conjunto de
exemplos e suas soluções• Necessita-se de grande rapidez na resolução
do problema, p.ex. Tempo real• Não existem soluções tecnológicas atuais
![Page 24: Redes Neurais Artificiais Prof. Júlio Cesar Nievola](https://reader035.vdocuments.net/reader035/viewer/2022062404/552fc105497959413d8c0367/html5/thumbnails/24.jpg)
Redes Neurais Artificiais
• Domínios de aplicação privilegiados• Reconhecimento de formas• Tratamento de sinal• Visão, fala• Previsão e modelagem• Auxílio à decisão• Robótica