Self Organizing Maps - Redes de Kohonen 1. Redes auto organizáveis Existe uma classe de redes neurais artificias que possuem a capacidade de auto organização, sendo por isto chamadas de redes auto organizáveis. A principal característica das redes auto organizáveis refere-se ao processo de aprendizado, que ocorre através do treinamento não supervisionado: a própria estrutura da rede é responsável pelo ajuste dos parâmetros que determinam o aprendizado da rede com relação ao problema em questão. As redes ( mapas ) SOM (Self Organizing Maps) e ART (Adaptive Resonance Theory) são modelos com tal capacidade. 1.1 Redes SOM (Self Organizing Maps) As redes SOM (Self Organizing Maps) foram desenvolvidas por Teuvo Kohonen professor da Faculdade de Ciência da Informação da Universidade de Helsinqui (Finlândia) na década de 80. Em vários trabalhos estas redes são chamadas de redes de Kohonen, o que pode provocar confusão, uma vez que Kohonen também propôs outros modelos de redes neurais. As redes SOM possuem forte inspiração neurofisiológica. Baseiam-se no mapa topológico presente no córtex cerebral. 1
Sabe-se que o cérebro dos animais mais sofisticados possui áreas responsáveis por funções específicas. Existem áreas dedicadas à fala, à visão, ao controle motor, à sensibilidade ao toque, etc. Cada uma dessas áreas contém subáreas. Cada subárea mapeia internamente respostas do órgão sensorial representado por ela. Por exemplo: Córtex auditivo: o mapeamento reflete as diferentes frequências sonoras. Córtex visual: o mapeamento é definido pelas características visuais primitivas, como intensidade de luz, orientação e curvatura de linhas. Observa-se que os neurônios estão espacialmente ordenados dentro destas áreas e, assim, neurônios topologicamente mais próximos tendem a responder a padrões ou estímulos de forma semelhante. Tal ordenação topológica é resultado do uso de feedback lateral entre as células do córtex cerebral. Este feedback lateral é geralmente modelado em redes neurais por uma função conhecida como chapéu mexicano. 2
Segundo a função chapéu mexicano, cada neurônio influencia o estado de ativação de seus neurônios vizinhos de três formas possíveis: excitatória (região R1), inibitória (região R2) e levemente excitatória (região R3) 1.1.1 Funcionamento básico da rede SOM A estrutura básica de uma rede SOM apresenta apenas duas camadas: a camada input e a camada output, esta última representada normalmente como um grid bidimensional. Os nodos da camada input se ligam a todos os nodos da camada ouptut. Os nodos da camada output estão, por sua vez, ligados entre si ao seus vizinhos geograficamente adjacentes. Um padrão p de entrada é apresentado à rede (via camada input). A rede procura a unidade (neurônio) da camada output mais parecida com p. Durante o treinamento, a rede aumenta a semelhança do nodo (neurônio) escolhido e seus vizinhos em relação ao padrão p. 3
Assim, a rede constrói um mapa topológico onde nodos topologicamente mais próximos respondem de forma semelhante a padrões de entrada semelhante. O algoritmo de aprendizado da rede é competitivo: os nodos (neurônios) da camada output competem entre si para serem ativados, ou seja, para ver quem gera o maior valor de saída (resposta) ao padrão p apresentado. 2. Clusterização utilizando mapas de Kohonen (Revista InfoGeo Ano 2 N o 6 março/abril 1999 pág 34-36 Segmentação com mapas neurais de Kohonen por Francisco Aranha) Em essência, redes neurais são uma tecnologia de processamento de informações que se inspira no funcionamento do cérebro humano. Apresentadas a uma série de estímulos (os dados a analisar) as redes neurais os organizam e aprendem a reconhecer padrões e fazer previsões. 4
Se as redes neurais recebem informações sobre a magnitude e direção dos erros que cometem na análise, aperfeiçoam seu conhecimento, melhorando as respostas seguintes. Em particular, as redes de Kohonen apresentam uma estrutura de rede em duas camadas distintas de neurônios: uma camada de entrada (camada input ) por onde se apresenta o padrão para a rede e uma camada de processamento (camada kohonen ), onde se forma o mapa (resultado da classificação dos padrões apresentados). Os neurônios da camada input se ligam a todos os neurônios da camada kohonen. Cada neurônio da camada kohonen está diretamente ligado aos seus neurônios diretamente adjacentes. O funcionamento básico do mapa de Kohonen assim se processa: Um padrão p 1 é apresentado à rede, através da camada input. Os neurônios da camada input transmitem estes estímulos aos neurônios da camada de processamento kohonen. 5
O neurônio N i da camada kohonen que reagir mais fortemente aos estímulos do padrão p 1 ganha-o para si. Além disso, reforça suas ligações com os vizinhos mais próximos, sensibilizando-os um pouco mais em relação às características do padrão p 1. Na próxima oportunidade, quando um padrão p k parecido com p 1 for apresentado ao mapa de Kohonen, toda a vizinhança de N i reagirá um pouco mais intensamente em relação às outras áreas do mapa. Cada nova apresentação de um padrão p r à rede faz com que o perfil de sensibilidade dos neurônios da camada kohonen vá se alterando: isto é o que chamamos treinamento da rede. A medida em que o número de padrões de treinamento vai aumentando, as alterações dos neurônios vão gradualmente se reduzindo, até que a configuração do mapa (camada kohonen) converge para uma disposição estável. Dizemos então que o mapa de Kohonen aprendeu a classificar. 6
2.1 Ideias da rede SOM Considere uma pessoa e o seu (virtualmente infinito) vetor de atributos : Considere, que uma determinada livraria gostaria de classificar sua clientela de acordo com apenas duas características (variáveis): sexo e gênero literário de interesse: 7
Usando um mapa de Kohonen para classificar (clusterizar) os clientes: 8
9
10
Após o treinamento da rede (apresentação de todos os padrões à rede), são formados grupos (clusters) de perfis de clientes... 11
2.2 - Exemplo 1 Entendendo SOM Vamos construir um mapa de Kohonen para classificar (agrupar clusterizar) as 14 cidades A, B, C,... N de acordo com o perfil de consumo per capita mensal de laranja e de limão dos habitantes destas cidades. Veja a tabela abaixo: Visualmente podemos notar que existem 3 (ou 4) perfis (padrões) de cidade com relação ao consumo per capita mensal de laranja e de limão. Concorda com isso ou não? Vamos ver como o mapa de Kohonen irá classificar... 12
Vamos usar o software R para executar o algoritmo desta rede SOM. O primeiro passo é normalizar os dados... No exemplo foram realizados 3 tipos de normalização (N1, N2 e N3) e foi escolhida a normalização N3, com base na normalização N2. 13
Observe os dados normalizados (calculados no ambiente do R) A execução do algoritmo SOM no ambiente do R exige que selecionemos apenas os campos que serão usados para classificação. No caso selecionamos apenas os campos normalizados no formato N3, ou seja, os campos LARANJA_N3 e LIMAO_N3. Então executaremos o algoritmo numa camada (mapa) de dimensão 3 X 3 Pronto... diversos resultados são gerados... 14
Resultado: mapa de treinamento do vetor de pesos 15
Resultado: Total de padrões alocados pelos neurônios da rede 16
Resultado: Padrões alocados nos neurônios 17
Resultado: O vetor de pesos dos neurônios e o mapa do vetor de pesos (code vector) 18
19
Resultado: Cálculo da distância euclideana de um determinado padrão a um determinado neurônio. Um exemplo: 20
Resultado: Mapa de calor por variável 21
22