Introdução às Redes Neurais Artificiais

Transcrição

1 Introdução às Redes Neurais Artificiais Perceptrons de Múltiplas Camadas I Prof. João Marcos Meirelles da Silva Departamento de Engenharia de Telecomunicações Escola de Engenharia Universidade Federal Fluminense Prof. João Marcos Meirelles da Silva p. 1/51

2 Créditos autorais Este curso e estes slides são parcialmente adaptados da bibliografia citada e das aulas do professor Luiz Pereira Calôba - COPPE/UFRJ Prof. João Marcos Meirelles da Silva p. 2/51

3 Sumário Introdução Multilayer Perceptrons Backpropagation Algorithm Correção dos pesos da sinapses Fases do treinamento Gradiente Local Prof. João Marcos Meirelles da Silva p. 3/51

4 Multilayer Perceptrons Tipicamente 3 camadas: Entrada (sensores), Escondida (1 ou mais) e Saída; Capacidade de resolver problemas mais complexos Algoritmo de treinamento: error back-propagation Capacidade de generalização respostas razoáveis para padrões nunca vistos pela rede durante o treinamento Aprendizado back-propagation redes back-propagation Prof. João Marcos Meirelles da Silva p. 4/51

5 Multilayer Perceptrons Uma rede MLP (Multilayer Perceptrons) possui 3 características básicas: A função de ativação é não-linear e suave (continuamente diferenciável); Possui uma ou mais camadas escondidas; Alto grau de conectividade. De fato, estas três características juntas tornam a rede neural robusta também, ou seja, algumas sinapses podem ser descartadas sem grande prejuízo no desempenho geral Prof. João Marcos Meirelles da Silva p. 5/51

6 Multilayer Perceptrons Prof. João Marcos Meirelles da Silva p. 6/51

7 Multilayer Perceptrons Dois tipos de sinais podem ser identificados na figura acima: Sinal de entrada Sinal de erro Prof. João Marcos Meirelles da Silva p. 7/51

8 Multilayer Perceptrons O treinamento de uma rede via Back-propagation envolve 3 estágios: A propagação do sinal de entrada, camada a camada, a partir do padrão apresentado até a camada de saída; O cálculo e a retro-propagação do erro associado; O ajuste das sinapses. Prof. João Marcos Meirelles da Silva p. 8/51

9 Multilayer Perceptrons Observações Após o treinamento, a operação da rede envolve somente a primeira fase. Mesmo que a fase de treinamento seja muito lenta, a operação da rede, depois de treinada, é muito rápida. Em geral, apenas uma camada escondida é suficiente para a maioria dos problemas. Prof. João Marcos Meirelles da Silva p. 9/51

10 Multilayer Perceptrons Notação: Os índices i, j e k referem-se a neurônios diferentes na rede: i neurônio da camada anterior à camada j j neurônio da camada j k neurônio da camada posterior à camada j Na n-ésima iteração, o n-ésimo padrão é apresentado à rede; Prof. João Marcos Meirelles da Silva p. 10/51

11 Multilayer Perceptrons Notação: O símbolo E(n) refere-se ao erro quadrático ou erro de energia. A média de E(n) sobre todos os valores de n E avg ; O símbolo e j (n) corresponde ao erro na saída do neurônio j na iteração n; O símbolo d j (n) corresponde à resposta desejada para o neurônio j e é utilizado para computar o valor de e j (n); Prof. João Marcos Meirelles da Silva p. 11/51

12 Multilayer Perceptrons O símbolo y j (n) corresponde ao sinal do padrão apresenta na saída do neurônio j na interação n; O símbolo w ji corresponde à sinapse conectando a saída do neurônio i à entrada do neurônio j na iteração n. A correção aplicada à esta sinapse na iteração n é dada por w ji (n); v j (n) corresponde ao sinal que será aplicado na função de ativação associado ao neurônio j; Prof. João Marcos Meirelles da Silva p. 12/51

13 Multilayer Perceptrons A função de ativação que descreve a relação funcional entrada-saída da não-linearidade associada ao neurônio j é representada por φ( ); O bias aplicado ao neurônio j é representado por b j. Seu efeito é representado por uma sinapse de peso fixo w j0 = b j conectado à uma entrada fixa de valor +1; O i-ésimo elemento do vetor de entrada (padrão) é representado por x i (n); Prof. João Marcos Meirelles da Silva p. 13/51

14 Multilayer Perceptrons O k-ésimo elemento do vetor de saída da camada de saída é representado por o k (n); A taxa de aprendizado é representada por η; O símbolo m l representa o tamanho (número de neurônios) na camada l da rede perceptron; l = 0, 1,...,L, onde L é a profundidade da rede. Então, m 0 corresponde ao tamanho da camada de entrada, m 1 corresponde ao tamanho da primeira camada escondida e m L corresponde ao tamanho da camada de saída. A notação m L = M também é utilizada. Prof. João Marcos Meirelles da Silva p. 14/51

15 Back-Propagation Algorithm Back-Propagation Algorithm Gradiente do Erro O sinal de erro na saída do neurônio j na iteração n é dado por: e j (n) = d j (n) y j (n) (1) Definimos o valor instantâneo do erro de energia para o neurônio j como sendo 0.5e 2 j (n). Prof. João Marcos Meirelles da Silva p. 15/51

16 Back-Propagation Algorithm Assim, o valor instantâneo E(n) do erro de energia total é obtido somando-se o valor instantâneo sobre todos os neurônios da camada de saída. E(n) = 1 2 j C e 2 j(n) (2) Onde o conjunto C é formado por todos os neurônios da camada de saída da rede. Prof. João Marcos Meirelles da Silva p. 16/51

17 Back-Propagation Algorithm Seja N o número total de padrões (exemplos) contidos no conjunto de treinamento. O valor médio do erro quadrático de energia é obtido somando-se E(n), n e normalizando-o em relação ao tamanho N do conjunto: E avg = 1 N N E(n) (3) n=1 E avg é função dos pesos e dos bias da rede. Prof. João Marcos Meirelles da Silva p. 17/51

18 Back-Propagation Algorithm E avg representa uma função custo como medida de desempenho do aprendizado; O objetivo do aprendizado é minimizar E avg ; A correção dos pesos das sinapses é feita padrão-a-padrão até que um ciclo (uma completa apresentação de todos os padrões) tenha sido atingido. Este ciclo é conhecido como época; Os ajustes das sinapses são feitos de acordo com os respectivos erros computados para cada padrão apresentado; As épocas são repetidas até que o erro médio total seja zero ou tenha atingido um valor mínimo. Prof. João Marcos Meirelles da Silva p. 18/51

19 Back-Propagation Algorithm Prof. João Marcos Meirelles da Silva p. 19/51

20 Back-Propagation Algorithm O chamado campo local induzido (induced local field), v j (n), produzido na entrada da função de ativação φ( ) e associado ao neurônio j, é dado por: v j (n) = m w ji (n)y i (n) (4) i=0 onde m é o número total de entradas (excluindo o bias) aplicadas ao neurônio j. Prof. João Marcos Meirelles da Silva p. 20/51

21 Back-Propagation Algorithm O peso w j0 (correspondente à entrada fixa y 0 = +1) possui valor igual a b j. Logo, a saída do neurônio j é dada por: y j (n) = φ j (v j (n)) (5) Prof. João Marcos Meirelles da Silva p. 21/51

22 Back-Propagation Algorithm O algoritmo Back-Propagation aplica uma correção w ji (n) na sinapse w ji, proporcional à derivada parcial E(n)/ w ji (n), onde: E(n) w ji = E(n) e j (n) e j (n) y j (n) y j (n) v j (n) v j (n) w ji (n) (6) E(n)/ w ji (n) determina a direção de busca no espaço de busca da sinapse w ji. Prof. João Marcos Meirelles da Silva p. 22/51

23 Back-Propagation Algorithm Diferenciando ambos os lados da equação (2) em relação a e j (n), temos: E(n) e j (n) = e j(n) (7) Diferenciando ambos os lados da equação (1) em relação a y j (n), temos: e j (n) y j (n) = 1 (8) Prof. João Marcos Meirelles da Silva p. 23/51

24 Back-Propagation Algorithm Diferenciando ambos os lados da equação (5) em relação a v j (n), temos: y j (n) v j (n) = φ j(v j (n)) (9) Finalmente, diferenciando a equação (4) em relação a w ji (n), temos: v j (n) w ji (n) = y i(n) (10) Prof. João Marcos Meirelles da Silva p. 24/51

25 Back-Propagation Algorithm Através da substituição das equações (7) a (10) em (6): E(n) w ji (n) = e j(n)φ j(v j (n))y i (n) (11) A correção w ji (n) aplicada à sinapse w ji (n) é definida pela Regra Delta: w ji (n) = η E(n) w ji (n) (12) onde η é a taxa de aprendizado do algoritmo back-propagation. Prof. João Marcos Meirelles da Silva p. 25/51

26 Back-Propagation Algorithm Substituindo a equação (11) em (12), temos: onde o gradiente local δ j (n) é definido por: w ji (n) = ηδ j (n)y i (n) (13) δ j (n) = E(n) v j (n) = E(n) e j (n) e j (n) y j (n) y j (n) v j (n) = e j (n)φ j(v j (n)) (14) Prof. João Marcos Meirelles da Silva p. 26/51

27 Back-Propagation Algorithm O gradiente local aponta para a direção onde o erro deverá diminuir (daí o sinal negativo na equação (12)). O gradiente local δ j (n) para a saída do neurônio j é igual ao produto do erro correspondente e j (n) deste neurônio e a derivada φ j (v j(n)) da função de ativação associada; Prof. João Marcos Meirelles da Silva p. 27/51

28 Back-Propagation Algorithm O cálculo do ajuste das sinapses w ji (n) depende do erro de saída e j (n) do neurônio j, mas: O neurônio j pode ser um neurônio da camada de saída sem problemas pois já é fornecido a este neurônio o valor desejado d j (n); O neurônio j pode ser um neurônio da camada escondida não existe uma resposta desejada para este neurônio. Prof. João Marcos Meirelles da Silva p. 28/51

29 Back-Propagation Algorithm Caso 1: O neurônio j é um neurônio de saída É fornecido ao neurônio uma saída desejada d j (n); Podemos utilizar a equação (1) para calcular o erro e j (n) associado a este neurônio; Tendo calculado o erro e j (n), podemos calcular o gradiente local δ j (n) através da equação (14). Prof. João Marcos Meirelles da Silva p. 29/51

30 Back-Propagation Algorithm Caso 2: O neurônio j é um neurônio da camada escondida Nenhuma resposta deseja é fornecida a este neurônio; O erro deveria ser calculado recursivamente em termos dos erros de todos os neurônios aos quais ele se conecta diretamente; Este é o ponto onde o algoritmo back-propagation torna-se um pouco mais complicado; Prof. João Marcos Meirelles da Silva p. 30/51

31 Back-Propagation Algorithm Considere a figura no slide seguinte, onde o neurônio j é mostrado como sendo um neurônio da camada escondida... Prof. João Marcos Meirelles da Silva p. 31/51

32 Back-Propagation Algorithm Neste caso, o gradiente local deveria ser redefinido como: Relembrando que δ j (n) = E(n) y j (n) y j (n) v j (n) = E(n) y j (n) φ j(v j (n)) (15) E(n) = 1 2 e 2 k(n) (16) k C para o neurônio k que pertence à camada de saída, Prof. João Marcos Meirelles da Silva p. 32/51

33 Back-Propagation Algorithm temos: E(n) y j (n) = k e k (n) e k(n) y j (n) (17) E(n) y j (n) = k como o erro e k (n) é dado por: e k (n) e k(n) v k (n) v k (n) y j (n) (18) e k (n) = d k (n) y k (n) = d k (n) φ k (v k (n)) (19) Prof. João Marcos Meirelles da Silva p. 33/51

34 Back-Propagation Algorithm e k (n) v k (n) = φ k(v k (n)) (20) Podemos notar da figura anterior que para o neurônio k, o campo de indução local v k (n) é v k (n) = m w kj (n)y j (n) (21) j=0 onde m é o total de entradas (excluindo o bias) do neurônio k. Prof. João Marcos Meirelles da Silva p. 34/51

35 Back-Propagation Algorithm Diferenciando a equação (21) em relação a y j (n), temos: v k (n) y j (n) = w kj(n) (22) Substituindo as equações (20) e (22) em (18), temos a derivada parcial desejada: E(n) y j (n) = k = k e k (n)φ k(v k (n))w kj (n) δ k (n)w kj (n) (23) Prof. João Marcos Meirelles da Silva p. 35/51

36 Back-Propagation Algorithm Finalmente, substituindo a equação (23) em (15), obtemos a equação back-propagation para o gradiente local δ k (n): δ j (n) = φ j(v j (n)) k δ k (n)w kj (n) (24) Prof. João Marcos Meirelles da Silva p. 36/51

37 Back-Propagation Algorithm φ j (v j(n)) depende da função de ativação escolhida para o neurônio da camada escondida j; O somatório depende de dois conjuntos de termos: δ k (n) requer o conhecimento do valor de e k (n) de todos os neurônios da camada imediatamente à direita do neurônio j, e que está diretamente conectado com o neurônio j; w kj pesos das sinapses associadas a estas conexões. Prof. João Marcos Meirelles da Silva p. 37/51

38 Correção dos pesos das sinapses w ji = ηδ j (n)y i (n) (25) onde η é a taxa de aprendizado, δ j (n) é o gradiente local, e y i (n) é a entrada do neurônio j. δ j (n) = e j (n)φ j(v n (j)) (26) se o neurônio j pertencer à camada de saída, ou δ j (n) = φ j(v j (n)) k δ k (n)w kj (n) (27) se ele pertencer à uma camada escondida. Prof. João Marcos Meirelles da Silva p. 38/51

39 Fases do Treinamento Existem duas fases no treinamento das redes feedforward multicamadas pelo algoritmo back-propagation: Forward pass Backward pass Prof. João Marcos Meirelles da Silva p. 39/51

40 Fases do Treinamento Forward pass Os pesos das sinapses permanecem inalterados; Um estímulo de entrada, x i (n), é fornecido à rede e este se propaga por ela neurônio a neurônio até a camada de saída. A saída de um neurônio j qualquer é dada por: y j (n) = φ(v j (n)) (28) Prof. João Marcos Meirelles da Silva p. 40/51

41 Fases do Treinamento O Campo local induzido v j (n) é dada por: v j (n) = m w ji (n)y i (n) (29) i=0 onde m é o número total de entradas (excluindo o bias) do neurônio j, w ji é o peso da sinapse que conecta o neurônio i ao neurônio j, e y i (n) é a entrada do neurônio j. Prof. João Marcos Meirelles da Silva p. 41/51

42 Fases do Treinamento Backward pass Inicia-se pela saída da rede; Os erros encontrados são propagados pela rede no sentido da saída para a entrada, camada a camada, e recursivamente calculando-se o gradiente local, δ k para cada neurônio; Os pesos das sinapses são alterados de acordo com a Regra Delta (25); O cálculo do gradiente local depende se o neurônio pertence à camada de saída ou a uma camada escondida; Prof. João Marcos Meirelles da Silva p. 42/51

43 Gradiente Local O cálculo de δ para cada neurônio requer a derivada da função de ativação φ( ) associada a cada neurônio; φ( ) deve ser diferenciável; Em geral, utilizam-se funções sigmoidais. Prof. João Marcos Meirelles da Silva p. 43/51

44 Gradiente Local Função Logística φ j (v j (n)) = e av j(n) onde a > 0 e < v j (n) <, v j (n) o campo local induzido do neurônio j. (30) Prof. João Marcos Meirelles da Silva p. 44/51

45 Gradiente Local Diferenciando a equação (30) em relação a v j (n), temos: como φ j (v j (n)) = y j (n), então: φ j(v j (n)) = aφ j (v j (n))[1 φ j (v j (n))] (31) φ j(v j (n)) = ay j (n)[1 y j (n)] (32) Prof. João Marcos Meirelles da Silva p. 45/51

46 Gradiente Local Sendo a função de ativação a função logística, podemos expressar o gradiente local como: Para um neurônio j da camada de saída δ j (n) = e j (n)φ j(v j (n)) = a[d j (n) y j (n)]y j (n)[1 y j (n)] (33) Para um neurônio de uma camada escondida δ j (n) = φ j(v j (n)) k δ k (n)w kj (n) = ay j (n)[1 y j (n)] k δ k (n)w kj (n) (34) Prof. João Marcos Meirelles da Silva p. 46/51

47 Gradiente Local Função Tangente Hiperbólica φ j (v j (n)) = a tanh(bv j (n)), (a, b) > 0 (35) Diferenciando a equação (35) em relação a v j (n), temos: φ j = absech 2 (bv j (n)) = ab(1 tanh 2 (bv j (n))) = b a [a y j(n)][a + y j (n)] (36) Prof. João Marcos Meirelles da Silva p. 47/51

48 Gradiente Local Sendo a função de ativação a função tangente hiperbólica, podemos expressar o gradiente local como: Para um neurônio j da camada de saída δ j (n) = e j (n)φ j(v j (n)) = b a [d j(n) y j (n)][a y j (n)][a + y j (n)] (37) Para um neurônio de uma camada escondida δ j (n) = φ j(v j (n)) k δ k (n)w kj (n) = b a [a y j(n)][a + y j (n)] k δ k (n)w kj (n) (38) Prof. João Marcos Meirelles da Silva p. 48/51

49 Gradiente Local Utilizando as equações (33) e (34) para a função logística e as equações (37) e (38) para a função tangente hiperbólica, podemos calcular o gradiente local δ j (n) sem o conhecimento explícito da função de ativação! Prof. João Marcos Meirelles da Silva p. 49/51

50 Referências 1. Haykin, S., Neural Networks - A Comprehensive Foundation, 2 nd edition - Prentice Hall, Fausett, L., Fundamental of Neural Networks - Architectures, Algorithms and Applications, Prentice Hall, Theodoris, S., Koutroumbas, K, Pattern Recognition, 4 th edition, Academic Press. Prof. João Marcos Meirelles da Silva p. 50/51

51 FIM Prof. João Marcos Meirelles da Silva p. 51/51