Aula 7 RNA Redes Auto-Organizáveis de Kohonen

Transcrição

1 2COP229 Aula 7 RNA Redes Auto-Organizáveis de Kohonen

2 2COP229 Sumário 1- Introdução 2- Processo de Aprendizado Competitivo 3- Mapas auto-organizáveis de Kohonen (SOM) 4- Projeto Prático

3 1-Introdução 2COP229 -Utiliza o aprendizado competitivo como mecanismo não supervisionado de generalização do conhecimento. - A capacidade de aprendizado está associada à detecção de similaridades, correlações e regularidades que são agrupadas em classes (clusteres). - A estrutura mais difundida no contexto de auto-organização foi proposta pelo finlandês Teuvo Kohonen em A rede tem foco principal em soluções que envolvem padrões e agrupamentos de dados (clusterização).

4 2- Processo de Aprendizado Competitivo 2COP229 - Sua arquitetura é constituída de apenas uma camada neural.

5 2- Processo de Aprendizado Competitivo 2COP229 - Os vetores de peso passam a utilizar a seguinte convenção: w (1) = [W 1,1 W 1,2... W 1,n ] T {vetor de pesos do 1º neurônio} w (2) = [W 2,1 W 2,2... W 2,n ] T {vetor de pesos do 2º neurônio}... w (n) = [W n,1 W n,2... W n,n ] T {vetor de pesos do último neurônio} -O objetivo é vencer a concorrência entre os neurônios, o vencedor terá seus pesos reajustados de acordo com as entradas; -Winner-take-all, vencedor leva tudo apenas o peso do campeão será ajustado caso as conexões laterais do campeão sejam nulas. Caso contrário, será realizado um ajuste proporcional aos vizinhos. -Qual a regra para definir qual o vencedor?

6 2- Processo de Aprendizado Competitivo 2COP229 dist ( k) j = n i= 1 ( k) ( x w i ( i j) )² - dist é a distância (Norma Euclidiana) entre vetor de entrada x em relação ao vetor de peso w. - O vetor com a menor distância será o vencedor, frente a amostra k! - O prêmio será: w atual anterior w = +η ( k) anterior ( x w )

7 2- Processo de Aprendizado Competitivo 2COP229 - Para uma maior eficiência no processo de aprendizagem é sugerida a normalização dos vetores de entrada. A normalização unitária é uma indicação, sendo realizada pela divisão de cada vetor pelo seu módulo. Disputa entre W (1), W (2) e W (3) O vencedor é W (2)

8 2- Processo de Aprendizado Competitivo 2COP229 - Após a convergência, cada um dos vetores estará no centro dos aglomerados. - A quantidade de aglomerados estará associada ao número de neurônios da arquitetura. - O número de neurônios deverá ser especificado com o auxílio de um especialista no problema.

9 2- Processo de Aprendizado Competitivo 2COP229 Vetor de peso centralizado no agrupamento Vetor de peso não generalizado, talvez a necessidade de mais uma classe (neurônio)

10 2- Processo de Aprendizado Competitivo 2COP229

11 2COP Mapas auto-organizáveis de Kohonen (SOM) - SOM Self-organization Maps, arquitetura de redes neurais artificiais articuladas, com aprendizado competitivo. - Funcionam como o aprendizado competitivo, com o acréscimo de uma organização topológica entre os neurônios. Ou seja, vizinhos mais próximos aos vencedores recebem maior excitação. - Os mapas topológicos normalmente são formados por uma dimensão (array) ou duas (grade). Representação de uma dimensão, todos os neurônios em uma linha, sendo x o vetor de entradas.

12 2COP Mapas auto-organizáveis de Kohonen (SOM) - Exemplo de mapa constituído por 16 neurônios, arranjados em linhas e colunas. Critério de vizinhança definido por um raio R de abrangência.

13 2COP Mapas auto-organizáveis de Kohonen (SOM) - Exemplo de mapa constituído por 16 neurônios, arranjados em linhas e colunas. Regra para o Vencedor Regra para o Vizinho w = atual w +η ( k) anterior ( x wanterior w = ( v) ( k) atual wan nterior ( x wanterior) + η 2 )

14 2COP Mapas auto-organizáveis de Kohonen (SOM) - Caso a regra de vizinhança seja diferente de 1, pode-se utilizar um operador gaussiano para proporcionalmente ajustar a vizinhança. ( ) ( Ω) w v w α ( Ω ) =e 2σ² 2 Regra para o Vencedor Regra para o Vizinho w = atual w +η ( k) anterior ( x wanterior w = ( v) ( k) atual wan nterior + η. α.( x wanterior) )

15 2COP Mapas auto-organizáveis de Kohonen (SOM)

16 2COP Mapas auto-organizáveis de Kohonen (SOM) - Após a fase de treinamento, com o auxílio de um especialista, constrói-se o mapa de contexto para determinar as classes do problema. Para a operação do mapa, basta aplicar o vetor e verificar qual o neurônio será o vencedor. Depois identifica-se qual a classe o neurônio vencedor faz parte para assumir a classe do problema.

17 4- Projeto Prático -Implemente um mapa auto-organizável de Kohonen e identifique em qual classe (A, B ou C) cada amostra pertence, com vizinhança R=1. - Na grade 4x4, qual a região de cada classe? Amostra x 1 x 2 x 3 Classe 1 0,2471 0,1778 0, ,8240 0,2223 0, ,4960 0,7231 0, ,2923 0,2041 0, ,8118 0,2668 0, ,4837 0,8200 0, ,3248 0,2629 0, ,7209 0,2116 0, ,5259 0,6522 0, ,2075 0,1669 0, ,7830 0,3171 0, ,5393 0,7510 0,5682 2COP229

18 2COP229 Referências: Silva, IN da, Danilo Hernane Spatti, and Rogério Andrade Flauzino. "Redes neurais artificiais para engenharia e ciências aplicadas." São Paulo: Artliber (2010).