UNIVERSIDADE DO ESTADO DE MATO GROSSO - UNEMAT. Faculdade de Ciências Exatas e Tecnológicas FACET / Sinop Curso de Bacharelado em Engenharia Elétrica

Transcrição

1 REDES NEURAIS ARTIFICIAIS AULA 03 Prof. Dr. André A. P. Biscaro 1º Semestre de 2017

2 INTRODUÇÃO Aprendizagem é um processo pelo qual os parâmetros livres de uma rede neural são adaptados através de um processo de estimulação pelo ambiente no qual a rede está inserida. O tipo de aprendizagem é determinado pela maneira pela qual a modificação dos parâmetros ocorre. Habilidade de aprender a partir de seu ambiente e melhorar seu desempenho Propriedade primordial para uma RNA.

3 SEQUÊNCIA DE APRENDIZAGEM 1. A RNA é estimulada por um ambiente; 2. A RNA sofre modificações nos seus parâmetros livres como resultado desta estimulação; 3. A RNA responde de uma maneira nova ao ambiente devido às modificações ocorridas na sua estrutura. Algoritmo de Aprendizagem Conjunto preestabelecido de regras bem-definidas para a solução de um problema de aprendizagem Diferem entre si pela forma como é formulado o ajuste de um peso sináptico de um neurônio.

4 1. APRENDIZAGEM POR CORREÇÃO DE ERRO Vetor de Uma ou mais entrada x(n) Neurônio de camadas de y k (n) saída neurônios k escondidos d k (n) - + e k (n) Diagrama de blocos de uma RNA ressaltando o único neurônio da camada de saída Sinal de erro Saída do neurônio k Resposta desejada (saída-alvo) Grafo de fluxo de sinal do neurônio de saída

5 1. APRENDIZAGEM POR CORREÇÃO DE ERRO Valor instantâneo de energia do erro:

6 1. APRENDIZAGEM POR CORREÇÃO DE ERRO Regra Delta (Regra de Widrow-Hoff) O ajuste feito em um peso sináptico de um neurônio é proporcional ao produto do sinal de erro pelo sinal de entrada da sinapse em questão.

7 1. APRENDIZAGEM POR CORREÇÃO DE ERRO Nota-se que o sinal de erro deve ser diretamente mensurável, ou seja, a resposta desejada deve ser fornecida por alguma fonte externa, e o neurônio k deve ser visível ao mundo externo. Tendo calculado o ajuste sináptico, o valor atualizado do peso sináptico é determinado por:

8 2. APRENDIZAGEM BASEADA EM MEMÓRIA

9 2. APRENDIZAGEM BASEADA EM MEMÓRIA Todos os algoritmos de aprendizagem baseada em memória envolvem dois aspectos essenciais: - O critério utilizado para definir a vizinhança local do vetor de teste, e - A regra de aprendizagem aplicada aos exemplos de treinamento na vizinhança local de X teste. Os algoritmos diferem entre si na forma como estes dois aspectos são definidos. Regra do Vizinho Mais Próximo Classificador de K Vizinhos Mais Próximos

10 2. APRENDIZAGEM BASEADA EM MEMÓRIA

11 2. APRENDIZAGEM BASEADA EM MEMÓRIA

12 2. APRENDIZAGEM BASEADA EM MEMÓRIA O ponto d correspondente ao vetor de teste. Com k = 3, o classificador atribui a classe de quadrado escuro ao ponto d, mesmo ele estando perto ao dado estranho (círculo). d estranho

13 3. APRENDIZAGEM HEBBIANA O postulado de aprendizado de Hebb é a mais antiga e mais famosa de todas as regras de aprendizagem e é baseado no texto a seguir, contido no livro de Hebb (1949), The Organization of Behavior: O peso de uma conexão sináptica deve ser ajustado se houver sincronismo entre as atividades: do neurônio pré-sináptico e do neurônio pós-sináptico. Em termos matemáticos: w ( n) y ( n) x ( n) Significa que a mudança do peso sináptico w ij (t) é proporcional ao valor do neurônio pós-sináptico y i (t) e ao valor do neurônio présinático x j (t) multiplicado pelo fator de aprendizado. ij i j

14 Algoritmo: UNIVERSIDADE DO ESTADO DE MATO GROSSO - UNEMAT 3. APRENDIZAGEM HEBBIANA Passo 0. inicializar todos os pesos: w i = 0 ( i = 1,..., n) Passo 1. para cada par de vetor de treinamento (s) e alvo (t): a) atribuir o vetor de treinamento às unidades de entrada: x i = s i ( i = 1,..., n). b) atribuir o alvo à unidade de saída: y = t c) ajustar os pesos: w i (novo) = w i (velho) + x i y (i = 1,..., n) ajustar o bias: b(novo) = b(velho) + y.

15 3. APRENDIZAGEM HEBBIANA Entrada Alvo (x 1 x 2 1) (1 1 1) 1 (1-1 1) -1 (-1 1 1) -1 (-1-1 1) -1 Exemplo para AND com entradas e saídas bipolares x 2 x 1 PRIMEIRA ENTRADA: Entrada alvo mudança nos pesos pesos (x 1 x 2 1) ( w 1 w 2 b) (w 1 w 2 b) (0 0 0) (1 1 1) 1 (1 1 1) (1 1 1) Equação da reta: x 2 + x 1 +1 = 0

16 Segunda entrada: UNIVERSIDADE DO ESTADO DE MATO GROSSO - UNEMAT Entrada alvo mudança nos pesos pesos (x 1 x 2 1) ( w 1 w 2 b) (w 1 w 2 b) (0 0 0) (1-1 1) -1 (-1 1-1) (0 2 0) Equação da reta: x 2 = 0 3. APRENDIZAGEM HEBBIANA Exemplo para AND com entradas e saídas bipolares x 2 x 1 Terceira entrada : x 2 Entrada alvo mudança nos pesos pesos (x 1 x 2 1) ( w 1 w 2 b) (w 1 w 2 b) ( 0 0 0) (-1 1 1) -1 (1-1 -1) ( 1 1-1) x 1 Equação da reta: x2 + x1-1 = 0

17 3. APRENDIZAGEM HEBBIANA Exemplo para AND com entradas e saídas bipolares Quarta entrada: x 2 Entrada alvo mudança nos pesos pesos (x 1 x 2 1) ( w 1 w 2 b) (w 1 w 2 b) (0 0 0) (-1-1 1) -1 (1 1-1) (2 2-2) x 1 Equação da reta: x2 + x1 1 = 0

18 4. APRENDIZAGEM COMPETITIVA Na aprendizagem competitiva, os neurônios de saída de uma rede neural competem entre si para se tornarem ativos (disparar). Somente um único neurônio de saída fica ativo num determinado instante. Existem três elementos básicos em uma regra de aprendizagem competitiva: 1. Um conjunto de neurônios que são todos iguais entre si, exceto pelos pesos sinápticos distribuídos aleatoriamente, e que por isso respondem diferentemente aos padrões de entrada; 2. Um limite imposto sobre a força de cada neurônio; 3. Um mecanismo que permite que os neurônios compitam, de forma que somente um neurônio de saida, esteja ativo em um determinado instante. O neurônio que vence a competição é denominado neurônio vencedor leva tudo (winner-take-all).

19 4. APRENDIZAGEM COMPETITIVA Enquanto que na RNA baseada no aprendizado Hebbiano vários neurônios de saída podem estar simultaneamente ativos, no aprendizado competitivo apenas um único neurônio de saída está ativo em um determinado tempo. Isso torna o aprendizado competitivo útil para descobrir traços ou características estatisticamente salientes que podem ser usados para classificar um conjunto de padrões de entrada. Os neurônios individuais da rede aprendem a especializar em conjuntos de padrões similares; assim tornam-se detectores de características para diferentes classes de padrões de entrada.

20 4. APRENDIZAGEM COMPETITIVA

21 4. APRENDIZAGEM COMPETITIVA

22 4. APRENDIZAGEM COMPETITIVA Se um neurônio ganha a competição, cada nó de entrada deste neurônio cede alguma proporção de seu peso sináptico e o peso cedido é então distribuído igualmente entre os nós de entrada ativos.

23 4. APRENDIZAGEM COMPETITIVA EXEMPLO Seja X = (x 1, x 2,..., x l ) um conjunto de vetores de entrada normalizados num espaço n-dimensional que pretende-se classificar em k diferentes clusters. A rede consiste de k unidades, cada uma com n entradas e threshold zero. Passo 0. Os vetores peso normalizados w 1,..., w k são gerados aleatoriamente. Passo 1. Selecionar um vetor aleatoriamente. Computar para i = 1,..., k Selecionar w m tal que para i = 1,..., k Passo 2. Substituir w m por w m + x j e normalizar Voltar ao passo 1.

24 4. APRENDIZAGEM COMPETITIVA EXEMPLO cluster B w 1 x 1 x 2 w 11 w 12 w 2 w 21 cluster A w 3 cluster C w 22 separação de entradas em 3 classes (clusters) w 31 w 32

25 MODELOS DE APRENDIZAGEM PARADIGMAS DE APRENDIZAGEM Os principais modelos (paradigmas) de aprendizagem são: 1) Com um Professor (Supervisionado); 2) Sem um Professor (Não-supervisionado); 3) Por Reforço (Programação Neurodinâmica).

26 MODELOS DE APRENDIZAGEM APRENDIZAGEM SUPERVISIONADA Também conhecida com aprendizagem com professor, consiste em que o professor tenha o conhecimento do ambiente, e fornece o conjunto de exemplos de entrada-resposta desejada. O treinamento é feito usando a regra de aprendizagem por correção de erro. ambiente Vetor de estado do ambiente professor Resposta desejada Sistema de aprendizagem Resposta real - + Sinal de erro

27 MODELOS DE APRENDIZAGEM APRENDIZAGEM NÃO- SUPERVISIONADA Neste caso não há um professor para supervisionar o processo de aprendizagem. Isso significa que não há exemplos rotulados da função a ser aprendida pela rede. Nesse modelo, também conhecido como auto-organizado, são dadas condições para realizar uma medida da representação que a rede deve aprender, e os parâmetros livres da rede são otimizados em relação a essa medida. Para a realização da aprendizagem não-supervisionada pode-se utilizar a regra de aprendizagem competitiva. ambiente Vetor de estado do ambiente Sistema de aprendizagem

28 MODELOS DE APRENDIZAGEM APRENDIZAGEM POR REFORÇO Pode ser visto como um caso particular de aprendizagem supervisionada. A principal diferença entre o aprendizado supervisionado e o aprendizado por reforço é a medida de desempenho usada em cada um deles. No aprendizado supervisionado, a medida de desempenho é baseada no conjunto de respostas desejadas usando um critério de erro conhecido, enquanto que no aprendizado por reforço a única informação fornecida à rede é se uma determinada saída está correta ou não. A ideia básica tem origem em estudos experimentais sobre aprendizado dos animais. Quanto maior a satisfação obtida com uma certa experiência em um animal, maiores as chances dele aprender. reforço/ penalidade crítico RNA resposta

29 TAREFAS DE APRENDIZAGEM ASSOCIAÇÃO DE PADRÕES Uma memória associativa é uma memória distribuída que aprende por associação: Autoassociação: a RNA armazena um conjunto de padrões (vetores) apresentados repetidamente. A seguir, a rede recebe uma descrição parcial ou distorcida (ruído) e a tarefa é recuperar o padrão original: não-supervisionada. Heteroassociação: um conjunto de padrões de entrada é emparelhado com um outro conjunto de padrões de saída: supervisionada

30 TAREFAS DE APRENDIZAGEM RECONHECIMENTO DE PADRÕES Em termos gerais, as máquinas de reconhecimento de padrões que utilizam RNAs podem assumir duas formas: 1. Dividida em duas partes: uma rede não-supervisionada (para a extração de características) e uma rede supervisionada (para a classificação); 2. Rede de múltiplas camadas alimentada a diante: utiliza um algoritmo de aprendizagem supervisionado. A tarefa de extração de características é realizada pelas unidades computacionais das camadas ocultas da rede.

31 TAREFAS DE APRENDIZAGEM APROXIMAÇÃO DE FUNÇÕES Considere um mapeamento entrada-saída não linear onde o vetor x é a entrada e o vetor d é a saída. A tarefa é projetar uma RNA que aproxime a função desconhecida f tal que uma função F, que descreve o mapeamento entrada-saída realmente realizado pela rede seja próximo de f no sentido Euclidiano:

32 TAREFAS DE APRENDIZAGEM APROXIMAÇÃO DE FUNÇÕES A habilidade de uma RNA de aproximar um mapeamento de entradasaída desconhecido pode ser explorada de duas formas importantes. Identificação de Sistemas

33 TAREFAS DE APRENDIZAGEM APROXIMAÇÃO DE FUNÇÕES A habilidade de uma RNA de aproximar um mapeamento de entradasaída desconhecido pode ser explorada de duas formas importantes. Sistema Inverso

34 TAREFAS DE APRENDIZAGEM CONTROLE