Algoritmos de Aprendizado. Formas de Aprendizado. Aprendizado Batch x Incremental. Aprendizado Batch x Incremental

Transcrição

1 Algoritmos de Aprendizado Regra de Hebb Perceptron Delta Rule (Least Mean Square Back Propagation Formas de Aprendizado Existe dois métodos básicos de aplicação do algoritmo Back Propagation: Aprendizado em Batch ( Batch Learning, por ciclo, etc Aprendizado Incremental ( on-line, pattern-mode, por padrão, etc Aprendizado Batch x Incremental Aprendizado em Batch (por ciclo Somente ajusta os pesos após a apresentação de TODOS os padrões Cada padrão é avaliado com a MESMA configuração de pesos obtém-se os termos derivativos δe p /δw e depois obtém-se a soma total do algoritmo: E E cálculo correto p = do gradiente. w w p Aprendizado Batch x Incremental Aprendizado em Batch (por ciclo Melhor aproximação do verdadeiro gradiente 1

2 Aprendizado Incremental Aprendizado Incremental (por padrão Atualiza os pesos a cada apresentação de um novo padrão os pesos são atualizados usando o gradiente do erro de um único padrão não é mais uma aproximação simples do gradiente mais atualizações ocorrem em um mesmo período de tempo tende a aprender melhor o último padrão apresentado sequência aleatória Aprendizado Incremental Verdadeiro gradiente x Gradiente de um padrão O gradiente de um único padrão pode ser visto como uma estimativa ruidosa do verdadeiro gradiente; Ele pode ter projeções negativas sobre o verdadeiro gradiente; Na média, ele se move downhill ; Quando η << 1, os dois métodos se aproximam. Aprendizado Incremental Aprendizado Incremental Na apresentação randômica dos padrões, a descida não é mais suave; Na média diminui o erro mas pode, eventualmente, aumentá-lo; No final do treinamento η deve ser pequeno para evitar oscilações. Batch X Incremental O modo Batch necessita de menos atualizações de pesos Tende a ser mais rápidor Batch fornece uma medida mais precisa da mudança necessária dos pesos Incremental tem menos chance de ficar preso em um local devido à apresentação aleatória dos padrões natureza estocástica stica de busca no espaço o de pesos Tende a ser mais rápido r se o conjunto de treinamento for grande e ruidoso. A eficiência dos dois métodos depende do problema em questão 2

3 Avaliação do Algoritmo Apesar do grande sucesso do Back Propagation, existem alguns problemas: definição do tamanho da rede; problema de paralisia da Rede Neural; problema de ficar preso em um local. Avaliação do Algoritmo Apesar do grande sucesso do Back Propagation, existem alguns problemas: definição do tamanho da rede; problema de paralisia da Rede Neural; problema de ficar preso em um local. Tamanho da Rede Neural Define o camadas escondidas e o processadores em cada uma dessas camadas. Compromisso entre Convergência e Generalização. Também conhecido como bias and variance dilemma. Convergência É a capacidade da Rede Neural de aprender todos os padrões do conjunto de treinamento. Se a rede neural for pequena, não será capaz de armazenar todos os padrões necessários. Isto é, a rede não deve ser rígida a ponto de não modelar fielmente os dados. 3

4 f(x Convergência É a capacidade da Rede Neural de aprender todos os padrões do conjunto de treinamento. Rede muito pequena Poucos parâmetros para aprender todos os padrões Generalização Se a rede for muito grande (muitos parâmetros = pesos, não responderá corretamente aos padrões nunca vistos. Isto é, a rede não deve ser excessivamente flexível a ponto de modelar também o ruído f(x generalizações Rede com muitos parâmetros Boa interpolação x 1 x 2 x 3 x 4 x 5 x i pontos do conjunto de treinamento x novo novo ponto para generalização x x 1 x 2 x 3 x novo x 4 x 5 x i pontos do conjunto de treinamento x novo novo ponto para generalização x Generalização Generalização Métricas: Métricas: Usou Kolmogorov Theorem: qualquer função de n variáveis Hecht-Nielsen pode ser representada por 2n+1 funções de uma variável PEs na camada escondida N hidden 2N in + 1 Upadhyaya & Eryurek pesos W N in. log 2 P O parâmetros necessários para codificar P padrões binários é log 2 P entradas entradas padrões 4

5 Métricas: Generalização Métricas: Generalização Baum-Haussler padrões N w ε sinapses 0 < ε 1/8 desejado no teste (erro trein = ε /2 Baum-Haussler padrões N w ε sinapses 0 < ε 1/8 desejado no teste (erro trein = ε /2 (generalização x precisão (generalização x precisão N hidden = w N in + N out Métricas: Generalização padrões desejado no teste Baum-Haussler N Nhidden N ε test N in + N número output de PEs na camada escondida entradas PEs na camada de saída GENERALIZAÇÃO Resumo sobre Processadores Escondidos Nunca escolha h > 2i; Pode-se armazenar p padrões de i elementos em i log 2 p processadores escondidos nunca utilize mais do que esse limite para uma boa generalização utilize um número consideravelmente menor Assegure-se que se tem pelo menos 1/ε vezes mais padrões do que w Número de padrões > 10 x pesos 5

6 Avaliação do Algoritmo Problema de Paralisia Apesar do grande sucesso do Back Propagation, existem alguns problemas: Com o treinamento, os pesos podem alcançar valores muito grandes (w ji F(net j definição do tamanho da rede; problema de paralisia da Rede Neural; problema de ficar preso em um local. A soma ponderada de cada processador torna-se também muito grande (net j = Σ x i.w ji + θ j w ji F (net j ~ 0 ji ~ 0 A Rede Neural não consegue aprender net j Regiões de derivada aproximadamente zero Problema de Paralisia Como evitar paralisia da Rede? Deve-se escolher valores de pesos e bias uniformemente distribuídos dentro de um intervalo pequeno; Os neurônios devem, inicialmente, operar na sua região linear; O processadores na(s camada(s escondida(s deve ser pequeno. Avaliação do Algoritmo Apesar do grande sucesso do Back Propagation, existem alguns problemas: definição do tamanho da rede; problema de paralisia da Rede Neural; problema de ficar preso em um local. 6

7 Problema do Local Problema do Local De acordo com o método do gradiente, tem-se: w ji = η.s i.e j Taxa de aprendizado 0.05 η 0.75 A taxa de aprendizado não deve ser nem muito pequena treinamento lento, nem muito grande oscilações Partindo da posição inicial 1: η pequeno Local w L1 Posição Inicial 1 Problema do Local Problema do Local Partindo da posição inicial 1: η pequeno Partindo da posição inicial 1: η pequeno Posição Inicial 1 Posição 2 Posição j Local w w L2 w L1 w Lj 7

8 Problema do Local Problema do Local Partindo da posição inicial 1: η pequeno do Gradiente Qualquer pequena mudança faz o erro aumentar não consegue sair do vale w Lj Posição j Com η pequeno e dependendo da inicialização dos pesos (feita de forma aleatória não é possível calcular um w que faça a a Rede Neural sair do Local A Rede Neural não consegue aprender com a precisão especificada ((! Problema do Local Posição Inicial 2 Partindo da posição inicial 2: η grande Problema do Local Partindo da posição inicial 2: η grande Posição Inicial 2 Posição 2 w G1 w w G1 w G2 8

9 Problema do Local Problema do Local Partindo da posição inicial 2: η grande Partindo da posição inicial 2: η grande Posição 2 w w G2 Posição 3 w G3 w G3 Posição 3 w Posição 4 w G4 Problema do Local Problema do Local Partindo da posição inicial 2: η grande Quando η é grande, a Rede Neural pode nunca conseguir chegar ao pois os valores de w são grandes. Oscilações ões. Posição 4 w Posição 5 w G4 w G5 As mudança não são suficientemente pequenas para levar a uma configuração de erro. A Rede Neural também não consegue aprender com a precisão especificada (fica oscilando em torno do global! 9

10 Problema do Local Partindo da posição inicial 2: η adequado Posição Inicial 2 Problema do Local Partindo da posição inicial 2: η adequado Posição Inicial 2 Posição 2 w G1 w w G1 w G2 Problema do Local Problema do Local Partindo da posição inicial 2: η adequado Partindo da posição inicial 2: η adequado Posição 2 w w G2 Posição 3 w G3 w G3 Posição 3 w Gk Posição k 10

11 Problema do Local Soluções: Utilizar taxa de aprendizado (η adaptativa; Utilizar o termo de Momento (α. Uma forma de diminuir a possibilidade de oscilações com valores de η maiores é incluir o Termo de Momento na atualização dos pesos sinápticos w ji (t+1 = η.s i.e j + α. w ji (t Termo proporcional ao valor anterior de atualização do peso 0 < α < 0.9 w ji (t+1 = η.s i.e j + α. w ji (t Situação 1: Ponto Inicial - A Corte na Superfície de 11

12 Ponto Inicial - A Ponto Inicial - A A w(t A w(t A -η E(t+1 + α w(t Situação 2: A A Ponto Inicial - A w(t -η E(t+1 + α w(t Ponto Inicial - B A e A estão na mesma direção α acelera o aprendizado 12

13 Ponto Inicial - B Ponto Inicial - B B w(t α w(t B -η E(t+1 B Aprendizado em Batch sem Termo de Momento Ponto Inicial - B α w(t B -η E(t+1 B B e B estão em direções opostas α evita oscilações 13

14 Aprendizado em Batch com Termo de Momento Aprendizado em Batch com Termo de Momento Simulações com a mesma configuração inicial de pesos Conforme α aumenta converge mais rápido (para valores pequenos Conforme α aumenta mais pode oscilar Batch X Incremental ICADEMO Formato de Entrada: Apresentação aleatória dos padrões Oscilações comuns. 14

15 ICADEMO Formato de Saída: Topologia: ICADEMO Vetor de 10 elementos binários dígito 1 dígito 2 dígito 0 0 Aplicação Prática Reconhecimento de Dígitos ICADEMO 15