Inteligência Artificial Redes Neurais Artificiais

Transcrição

1 Pós-Graduação em Engenharia Elétrica Inteligência Artificial Redes Neurais Artificiais João Marques Salomão Rodrigo Varejão Andreão

2 Arquitetura e composição das RNAs Uma rede neural artificial é composta por várias unidades de processamento (neurônios); Os neurônios, são conectados por canais de comunicação que estão associados a determinados pesos. As unidades fazem operações apenas sobre seus dados locais que são entradas recebidas pelas suas conexões. O comportamento inteligente de uma RNA vem das interações entre as unidades de processamento da rede. Livro: A Brief Introduction to Neural Networks David Kriesel

3 Características das RNAs As RNAs são modelos adaptativos treináveis, robustos e capazes de processarem informações espaço/temporais; Podem representar domínios complexos (não lineares); São capazes de generalização diante de informações incompletas e de fazerem armazenamento associativo de informações; Possuem grande paralelismo, o que lhes conferem rapidez de processamento.

4 Arquiteturas das RNAs A arquitetura de uma RNA define a forma como seus neurônios estão dispostos nas camadas (de entrada, oculta e de saída) em relação aos demais. As principais arquiteturas são: redes feedforward (alimentação a frente) com camada simples ou com camadas múltiplas; redes recorrentes; redes reticuladas.

5 Topologias e Treinamentos das RNAs A topologia da RNA, para uma dada arquitetura, define as diferentes formas de composições estruturais: Por exemplo, 10 neurônios em uma camada e 20 em outra ou, uma camada com ativação logística e, outra, com tangente hiperbólica; O treinamento (algoritmo de aprendizagem): é um conjunto de passos ordenados objetivando o ajuste dos pesos e dos limiares dos neurônios. Ele sintoniza a rede com respostas próximas dos valores desejados.

6 Funções das camadas em uma RNA As camadas são classificadas em três grupos: Camada de Entrada: recebe as informações ou dados de entrada: As amostras ou padrões, geralmente normalizados, são apresentados à rede. Camadas Intermediárias ou Ocultas: local onde é feita a maior parte do processamento sendo extraídas as características associadas ao processo ou sistema a ser inferido a partir das conexões ponderadas. Camada de Saída: onde o resultado final é calculado e apresentado. camada de entrada camada escondida camada de saída

7 Rede neural feedforward de camada simples O fluxo de informações e operações vai da entrada para a saída; O número de neurônios na camada de saída é igual ao de saídas; Neurônios de entrada não fazem processamento ficando isso a cargo da síada; São empregadas em classificação de padrões e filtragem linear; Os principais tipos são: Perceptron e Adaline, com treinamentos baseados na regra de Hebb e na regra Delta, respectivamente.

8 Rede neural feedforward de Múltiplas Camadas Tem uma ou mais camadas intermediárias ou escondidas: Empregadas em classificação de padrões, aproximação de funções, identificação de sistemas, otimização, robótica, controle de processos, e etc; Os principais tipos são o perceptron multicamadas - PMC (Multilayer Perceptron - MLP) e as redes de base radial (Radial Basis Function- RBF): utilizam como treinamento a regra delta generalizada e a regra delta/competitiva, respectivamente.

9 Redes neurais recorrentes ou realimentadas As saídas dos neurônios são realimentadas como sinais de entrada para outros neurônios. Ideais para processamento dinâmico (sistemas variantes no tempo), tais como, previsão de séries temporais, identificação de sistemas, controle de processos, e etc; Os principais tipos são a rede de Hopfield e o Perceptron multicamadas - PMC (Multilayer Perceptron - MLP): Uilizam como treinamento a minimização de funções de energia e a regra delta Generalizada (EX: Jordan e Elman), respectivamente.

10 Redes neurais com estrutura reticuladas Os neurônios são dispostos espacialmente visando extrair características através do ajuste dos pesos e limiares. Suas aplicações englobam problemas de agrupamento (clustering), reconhecimento de padrões, otimização de sistemas, grafos, e etc; O principal tipo é a rede de Kohone cujo treinamento se dá de forma competitiva.

11 Treinamento das redes neurais artificiais As RNA s aprendem através de um processo iterativo de ajustes dos seus pesos: O aprendizado ocorre quando a rede neural atinge uma solução generalizada para uma classe de problemas. O algoritmo de aprendizado é um conjunto de regras bem definidas para a solução de um problema de aprendizado. Os principais modelos de aprendizagem são: Supervisionado, não-supervisionado e com reforço. O conjunto de amostras é dividido em treinamento, validação e teste, (60 a 90% das amostras para o primeiro). Cada apresentação completa das amostras é uma época.

12 Treinamento Supervisionado Consiste em fornecer o conjunto de exemplos (tabela de dados) de entrada-resposta desejada. Com esse conjunto, o treinamento é feito usando a regra de aprendizagem por correção de erro. Os pesos e os limiares são continuamente ajustados até atingir o objetivo de acordo com o algoritmo de aprendizagem. ambiente Vetor de estado do ambiente professor Resposta desejada Sistema de aprendizagem Resposta real - + Sinal de erro

13 Treinamento Não Supervisionado Neste caso não há exemplos rotulados (saída desejada) da função a ser aprendida pela rede; Ela identifica subconjuntos (clusters) que possuam similaridades em função de parâmetros livres da rede que devem ser otimizados; O projetista pode ainda estipular o número de subconjuntos (clusters) desejados; Na aprendizagem não supervisionada pode-se utilizar a regra de aprendizagem competitiva. ambiente Vetor de estado do ambiente Sistema de aprendizagem

14 Treinamento com reforço Pode ser visto como um caso particular de aprendizagem supervisionada. A principal diferença é a medida de desempenho usada em cada um deles. No aprendizado por reforço a única informação fornecida à rede é se uma determinada saída está correta ou não. A idéia básica foi obtida a partir de uma experiência com um animal: quanto maior a satisfação, maiores as chances dele aprender. reforço/ penalidade crítico RNA resposta

15 Apresentação dos dados de treinamento das RNAs Aprendizagem usando lotes de padrões, off-line ou batch: Os ajustes nos pesos e limiares são feitos após a apresentação de todo o conjunto de treinamento. A cada época de treinamento faz-se os ajustes dos pesos e limiares. Todas as amostras de treinamento estão disponíveis antes do seu início. Aprendizagem on-line (padrão por padrão) : Os ajustes dos pesos e limiares são feitos após a apresentação de cada amostra de treinamento. Usado em casos onde o comportamento do sistema varia de forma muito rápida. Após o ajuste a amostra pode ser descartada. A rede só fornece respostas mais precisas após a apresentação de um número elevado de amostras.

16 FIM