Redes Neurais MLP: Exemplos e Características

Transcrição

1 Universidade Federal do Rio Grande do Norte Departamento de Engenharia de Computação e Automação Redes Neurais MLP: Exemplos e Características DCA0121 Inteligência Artificial Aplicada Heitor Medeiros 1

2 Tópicos Redes Neurais MLP Exemplos: Mapeamento da função XOR. Mapeamento de uma função f(x). Implementação em Octave. Características das Redes MLP: Apresentação dos dados de treinamento. Conjunto de treinamento e validação. Especificação da arquitetura da rede. Aperfeiçoamento do backpropagation: Método de inserção do termo de momentum. Método Resilient-propagation. Método de Levenberg-Marquardt. Exemplos de outras implementações. MLP no Matlab: Toolbox NNTOOL. MLP no Java: Encog. 2

3 Revisando: Algoritmo Backpropagation 3

4 Algoritmo Backpropagation 1. Obter o conjunto de amostras de treinamento {x k }. 2. Associar a saída desejada {d k } para cada amostra obtida. 3. Iniciar o vetor de pesos {w} com valores aleatórios pequenos. 4. Especificar a taxa de aprendizagem {η}, precisão requerida {ε} e o número máximo de épocas. 5. Iniciar o contador do número de épocas {epoca 0} 6. Repetir as instruções: 1. E anterior m E m ; 2. Para todas as amostras de treinamento {x k, d k }, faça: 1. Passos de propagação e retropropagação. 3. E m atual E m ; 4. epoca epoca + 1; Até que: (( E atual m E anterior m 7. Final do treinamento. ε) ou (epoca >= epocamaxima)). 4

5 Algoritmo Backpropagation Repetir as instruções: 1. E m anterior E m ; 2. Para todas as amostras de treinamento {x k, d k }, faça: 1. Passos de propagação: Obter sinais de saídas dos neurônios das camadas ocultas até a camada de saída. 2. Passos da retropropagação: Determinar o gradiente local e o ajuste dos pesos partindo da camada de saída até a primeira camada oculta. 3. E m atual E m ; 4. epoca epoca + 1; Até que: (( E m atual E m anterior ε ) ou (epoca >= epocamaxima)). 5

6 Algoritmo Backpropagation: Ajuste dos Pesos w ji k = w ji k + w ji (k) Errata: Cada neurônio tem um gradiente local. Taxa de aprendizagem Gradiente local Estímulos do neurônio j w ji (k) = η * δ j (k) * y i (k) Neurônio da camada de saída Neurônio da camada oculta δ j k = e j k f j u j k δ j k = f u j k δ s (k) w sj k s 6

7 Exemplo 01: Implementação de uma MLP para mapeamento da função XOR 7

8 Rede MLP para solucionar o problema XOR Implementação de uma rede neural MLP para solucionar o problema da porta XOR. Implementação na linguagem Octave. GNU Octave 8

9 Arquitetura da Rede MLP X1 1 w 13 1 w 21 1 w 11 1 w 12 1 w 22 N1 N2 2 w 11 2 w 21 2 w 31 Y Função linear: f x = x X2 1 w 23 N3 w 1 = w 01 w 11 w 21 1 w 02 1 w 12 1 w 22 1 w 03 1 w 13 1 w 23 Função sigmoide (modificada): 2 f x = 1 + e 2x 1 w 2 = w 01 w 11 w 21 w 31 9

10 Implementação em Octave exemploxor_mlp.m Definição do conjunto de treinamento; Inicialização aleatória dos vetores de pesos; Definição de parâmetros de treinamento: Taxa de aprendizagem; Erro máximo; Quantidade de épocas máxima. exemploxor_backpropagation.m Etapa de propagação: Cálculo dos potenciais de ativação e dos sinais de saída. Etapa de retropropagação: Cálculo do gradiente local. Cálculo do fator de ajuste. Ajuste do peso. Verificação do erro e da época. exemploxor_execmlp.m Teste da rede treinada. 10

11 1. Montar conjunto de treinamento 11

12 2. Inicialização os pesos 12

13 3. Definição de parâmetros de treinamento 13

14 4. Backpropagation: Repetição do treinamento 14

15 4. Backpropagation: Etapa de Propagação Camada Oculta 15

16 4. Backpropagation: Etapa de Propagação Camada de Saída 16

17 4. Backpropagation: Etapa de Retropropagação Camada de Saída δ j k = e j k f j u j k w ji k = w ji k + w ji (k) 17

18 4. Backpropagation: Etapa de Retropropagação Camada Oculta δ j k = f u j k s δ s (k) w sj k 18

19 4. Backpropagation: Etapa de Retropropagação Camada Oculta 19

20 4. Backpropagation: Verificação do Erro médio quadrático 20

21 Gráfico do Erro Médio Quadrático e Testes 21

22 Exemplo 02: Implementação de uma MLP para mapeamento de uma função f(x)=y 22

23 Exemplo 02: Arquitetura da Rede MLP X 1 w 13 1 w 11 1 w 12 N1 N2 2 w 11 2 w 21 2 w 31 Y Função linear: f x = x N3 w 1 = 1 1 w 01 w 11 1 w 02 1 w 12 1 w 03 1 w 13 Função sigmoide (modificada): 2 f x = 1 + e 2x 1 w 2 = w 01 w 11 w 21 w 31 23

24 Exemplo 02: Função f(x) 24

25 Exemplo 02: Gráfico do Erro Médio Quadrático 25

26 Exemplo 02: Resultados Gráfico com os pontos reais e os pontos estimados pela rede neural. 26

27 Características das Redes MLP Apresentação dos dados de treinamento. Conjunto de treinamento e validação. Especificação da arquitetura da rede. 27

28 Conjunto de exemplos Aspectos sobre a apresentação do conjunto de treinamento: 1. Em relação a sequencia de apresentação do conjunto de treinamento... a sequência de apresentação dos exemplos influencia no treinamento? 2. Em relação a quantidade de exemplos que serão apresentados... é vantajoso a apresentação de todo o conjunto de treinamento? 28

29 Sequência de apresentação dos exemplos A sequência de apresentação dos exemplos influencia no treinamento? A sequência de apresentação dos exemplos pode sim influenciar no treinamento, ou melhor, na atualização dos pesos. Solução: Treinamento sequencial: Atualização dos pesos após a apresentação de cada exemplo. Treinamento por ciclo (batch): Atualização dos pesos após a apresentação de todos os exemplos. Atualização a cada época. 29

30 Treinamento: sequencial x por ciclo Treinamento sequencial: Algoritmo mais simples. Menor consumo de memória. Vantajoso quando os padrões possuem redundâncias. Treinamento batch (por ciclo): O erro de atualização torna-se um somatório do erro médio quadrático de cada padrão de treinamento. Treinamento mais estável. Torna-se lento quando o conjunto é grande. Maior custo computacional. 30

31 Quantidade de exemplos apresentados É vantajoso a apresentação de todo o conjunto de treinamento? Sim, se for considerar o aumento da capacidade de generalização da rede. Não, se for considerar a verificação da capacidade de generalização da rede. Treinamento e Validação da rede: Treinamento da rede: Apresentar exemplos de treinamento para que a rede aprenda. Validação da rede: Apresentar exemplos de validação para testar o aprendizado da rede, ou melhor, verificar a sua generalização. 31

32 Treinamento e Validação Normalmente, o conjunto de exemplos é dividido em dois subconjuntos: Conjunto de treinamento: Necessário no processo de aprendizagem. Conjunto de validação: Necessário no processo de medição do grau de efetividade de aprendizagem do conhecimento. Diferenciar o aprender e o decorar! 32

33 Treinamento e Validação Erro aparente: Erro medido sobre o conjunto de treinamento. Erro real: Erro medido sobre o conjunto de validação. 33

34 Treinamento e Validação: Erro aparente e real Erro Técnica: Validação cruzada! Erro real (Validação) Erro aparente (treinamento) Épocas Ponto de parada 34

35 Conjunto de exemplos Outras características em relação ao conjunto de exemplos: Pontos fora da curva (outliers): Influencia na convergência da rede. Soluções: Eliminar ou ajustar. Normalizar os dados: Objetivo: Adaptar os valores dos exemplos para faixa dinâmica das funções de ativação ( [-1, +1]; [0, +1]). 35

36 Especificação da Arquitetura da Rede Quantas camadas ocultas? Quantos neurônios??? 36

37 Especificação da Arquitetura Não existe regra para definir a quantidade de camadas ocultas e a quantidade de neurônios nessas camadas. Uma camada oculta é suficiente para classificar os dados. Porém, se seus dados contém alguma inconstância, duas camadas ocultas podem lhe ajudar. Mais de 3 camadas ocultas? Em alguns casos, aumenta a velocidade de convergência, mas Não indico! Teorema de Kolmogorov: Dada uma função contínua arbitrária: f(x) = y, existe sempre para f, uma implementação exata com uma rede neural de três camadas, sendo a camada de entrada, a camada oculta e a camada de saída. 37

38 Especificação da Arquitetura Normalmente, o número de camadas ocultas e neurônios em cada camada são definidos em função de uma inspeção prévia nos dados e da complexidade do problema. Problemas: Redes superdimensionadas podem provocar erros de overfitting. Redes subdimensionadas podem provocar underfitting. 38

39 Overfitting e Underfitting Overfitting: Rede memoriza os padrões de treinamento e, assim, perde a capacidade de generalizar. Possível causa 1: Número excessivo de neurônios e/ou camadas ocultas. Possível causa 2: Número excessivo de épocas no treinamento. Underfitting: Rede não é treinada suficientemente para tornar-se capaz de aprender. Possível causa 1: Número baixo de neurônios e/ou camadas ocultas. Possível causa 2: Número baixo de épocas no treinamento. 39

40 Especificação da Arquitetura Método da tentativa e erro. Iniciando a rede com 1 neurônio e 1 camada oculta. Aumentar a quantidade de neurônios. Treinar e testar a rede mais de uma vez. Não existe regra definida para o método. 40

41 Aperfeiçoamento do Backpropagation Método de inserção do termo de momentum. Método Resilient-propagation. Método de Levenberg-Marquardt. 41

42 Aperfeiçoamento do Backpropagation O algoritmo do backpropagation apresenta algumas deficiências em relação a velocidade de convergência e convergência para mínimos locais. Algumas soluções criadas: Método de inserção do termo de momentum. Método Resilient-propagation. Método de Levenberg-Marquardt. 42

43 Método de inserção do termo Momentum Problema: Lentidão na convergência quando o ponto de mínimo está distante do ponto atual. Solução: Inclusão do termo momentum para acelerar o processo de convergência para o ponto de mínimo. w ji k + 1 = w ji k + α w ji k w ji k 1 + η δ j k y i k Se o termo momentum for zero, a atualização dos pesos obedece ao backpropagation convencional. 43

44 Método de inserção do termo Momentum Casos: Quando o ponto atual estiver distante do ponto de mínimo, a variação entre as duas iterações sucessivas anteriores será grande. Erro Quando o ponto atual estiver próximo do ponto de mínimo, a variação entre as duas iterações sucessivas anteriores será pequena. w 44

45 Método Resilient-propagation Problema: Devido ao uso das funções do tipo sigmoide ou tangente hiperbólica, pode ocorrer a saturação do sinal de saída dos neurônios e as derivadas podem gerar valores próximos de zero, influenciando na velocidade de convergência. 45

46 Método Resilient-propagation Solução: A atualização dos pesos considera a variação do sinal do gradiente do erro ao invés das magnitudes do gradiente. Se os sinais do gradiente em duas iterações sucessivas forem iguais, pode-se incrementar a taxa de aprendizado em virtude de estar distante de um mínimo da função de erro. Se os sinais do gradiente em duas iterações sucessivas forem diferentes, como o ponto de mínimo foi ultrapassado, deve-se reduzir a taxa de aprendizagem a fim de convergir suavemente. 46

47 Método Resilient-propagation Gráfico ilustrando o mecanismo de convergência do Resilient propagation. Erro w 47

48 Método de Levenberg-Marquardt Problema: Lentidão na convergência do algoritmo backpropagation convencional. Solução: Utilizar um método gradiente de segunda ordem, baseado no método dos mínimo quadrados para modelos não-lineares. O método de Levenberg-Marquardt é uma aproximação do método de Newton. 48

49 Exemplos de Implementações em Matlab (Toolbox) e Java (Biblioteca) Matlab: NNTOOL Java: Encog. 49

50 Implementação em Matlab Matlab: Neural Network Toolbox: toolbox NNTOOL. 50

51 Utilizando o toolbox NNTool do Matlab Implementando uma rede neural para mapear a função f(x)=y do exemplo

52 Utilizando o toolbox NNTool do Matlab Abrindo o toolbox NNTOOL : >> nntool; 52

53 Utilizando o toolbox NNTool do Matlab Definindo o conjunto de treinamento. 53

54 Utilizando o toolbox NNTool do Matlab Definindo a arquitetura da rede. 54

55 Utilizando o toolbox NNTool do Matlab Algoritmos de treinamento disponíveis: 55

56 Utilizando o toolbox NNTool do Matlab Rede criada: Treinamento: 56

57 Utilizando o toolbox NNTool do Matlab Treinamento 57

58 Framework Java: Encog Encog: É um framework de Inteligência Artificial para Java que suporta não só redes neurais como outras áreas da IA. Suporta: Redes neurais. Algoritmos de aprendizagem de máquinas. Máquinas de vetores de suporte. Redes Bayesianas. Algoritmos genéticos. Além de: algoritmos de apoio, como algoritmo de normalização de dados.. 58

59 Exemplo com Encog 59

60 Exemplo com Encog 60

61 Referências 1. Haykin, Simon S. Redes neurais artificiais: princípio e prática. 2ª ed. São Paulo: Bookman, Lima, Isaías; Pinheiro, Carlos; Oliveira Santos, Flávia. Inteligência artificial. Rio de Janeiro: Elsevier,

62 Referências 3. Da Silva, Ivan Nunes; Spatti, Danilo Hernane; Flauzino, Rogério Andrade. Redes Neurais Artificiais para engenharia e ciências aplicadas curso prático. São Paulo: Artliber, Kovács, Zsolt L. Redes neurais artificiais. Editora Livraria da Física,

63 Referências 5. Thomé, Antônio Carlos Gay; Marques, Airam Carlos P. Barreto. Inteligência Computacional. Notas de Aula. Disponível em: 6. Baranauskas, J. Augusto. Aprendizado de Máquina I. Notas de Aula. Disponível em: 7. Andrade, Lívia Naiara. Redes neurais artificiais aplicadas na identificação automática de áreas cafeeiras em imagens de satélite. Belo Horizonte: Universidade Federal de Minas Gerais. Dissertação de Mestrado,

64 Dúvidas? Dúvidas por 64