EXPLORANDO OS MECANISMOS DO PERCEPTRON E DO BACK PROPAGATION

Transcrição

1 EXPLORANDO OS MECANISMOS DO PERCEPTRON E DO BACK PROPAGATION Marley Maria B.R. Vellasco Departamento de Engenharia Elétrica Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio) OBJETIVOS: Analisar o desempenho e as limitações do algoritmo básico de Perceptron de uma única camada; Analisar o desempenho e as características do algoritmo Back Propagation; Familiarizar-se com algumas das funções do software NeuralWorks Professional II/Plus. EXERCÍCI OS: Redes Perceptron de uma única camada: Funções lógicas tipo AND; OR; NAND; etc; Função lógica XO R. Redes Back Propagation: Função lógica XO R; Funções complexas, com vários processadores na camada escondida. OBSERVAÇÕES: Este laboratório faz uso de um programa User I/O denominado gridio. Este programa será usado para entrada dos dados e exibirá a saída da rede. Ele permite somente 2 entradas e 1 saída. A saída DEVE estar no intervalo

2 I NEURALWORKS PROFESSIONAL II PLUS Abra o PRO II (Versão DOS limitada, para estudante). A seguinte tela é apresentada: Para se usar o programa de visualização gridio deve-se, com o botão da direita do mouse chamar o menu principal, selecionando a tela File e a sub-tela Current Directory, e especificando o diretório onde se encontra o programa gridio c:\nwbusiness. 2

3 II CRIANDO REDES PERCEPTRON BÁSICAS Pressione o mouse da direita para chamar o menu principal. Neste menu selecione o item InstaNet e em seguida o item Back Propagation. A janela abaixo deverá aparecer na tela. Edite a janela usando o botão da esquerda do mouse de acordo com as recomendações abaixo: 1. Número de entradas (Input) = 2 (duas); 2. Número de processadores nas camadas escondidas (Hid1, Hid2, Hid3) = 0 (zero); 3. Número de processadores na camada de saída (Output) = 1 (um); 4. Desabilite os itens: Connect Prior, MinMax Table e Bipolar Inputs; 5. Selecione como Regra de Aprendizado (Learn Rule) Delta-Rule; 6. Selecione a função sigmoide como função de ativação (Transfer); 7. Pressione OK. OBS : Com esses parâmetros a Rede Back Propagation é equivalente a uma Rede Perceptron de uma única camada. 3

4 A janela a seguir é apresentada na tela. Como não se deseja usar qualquer instrumento com o programa gridio, deve-se desativar todos os instrumentos que possam ser selecionados. Quando todos tiverem sido desativados, pressione OK. 4

5 II.1 - Editando os Parâmetros de I/O para a Utilização do Programa GRIDIO Pressione o mouse da direita para chamar o menu principal. Selecione a tela I/O e em seguida a tela Parameters. A seguinte janela deve aparecer na tela. Edite os parâmetros desta janela conforme as especificações abaixo: 1. Selecione as caixas à esquerda do UserIO na parte superior esquerda da janela de diálogo; 2. Desative as caixas à esquerda de Binary e Load to Ram. Estes itens são irrelevantes; 3. Na parte central da coluna mais à direita da janela, selecione a caixa à esquerda do UIO. Isto fará com que a caixa Select Filenames mostre os programas executáveis disponíveis (aqui torna-se aparente a necessidade de se especificar corretamente o diretório onde se encontra o programa gridio); 4. Selecione o programa gridio e pressione OK para terminar. 5

6 II.2 - Treinamento da Rede Neural Chame o menu principal, selecione o item Run e em seguida Learn. A partir da janela exibida na tela, selecione a caixa à esquerda do item One Pass/All e por fim pressione OK. A figura abaixo ilustra esses passos. 6

7 II.3 Editando os Dados de Entrada para o Treinamento da Rede Neural A seguinte janela de edição é mostrada na tela. O grid representa um espaço de entrada bi-dimensional, com a primeira entrada no eixo x e a segunda entrada no eixo y. O canto inferior esquerdo representa (0,0) e o canto superior direito representa (1,1). Quando um quadrado é colorido, a cor indica a saída desejada para aquele ponto específico (azul = 0; vermelho = 0,25; cinza = 0,5; azul claro = 0,75; e amarelo = 1). Para se colorir um ponto deve-se pressionar o botão esquerdo do mouse para começar com o azul, ou o botão direito do mouse para começar pelo amarelo (as cores podem ser mudadas na direção crescente ou decrescente de valores de saída, dependendo se é o botão da esquerda ou da direita do mouse, respectivamente). Para limpar um ponto pressione AM BOS os botões do mouse simultaneamente e mova para fora do grid, liberando os botões em seguida. Como primeiro exemplo edite a função lógica OR. Ao final, pressione o quadrado à esquerda do item Done Editing. Na parte inferior da tela aparecerá a pergunta Maximum Expected Error que especifica o erro máximo esperado para plotar o gráfico de treinamento. Especifique um valor aproximadamente 0,3 ou 0,2 e em seguida pressione Return para dar início ao treinamento da Rede Neural. Um gráfico apresentando o erro médio por passagem de padrões é apresentado ao lado do grid. Depois de alguns instantes o erro começa a decrescer. Neste ponto o processo de treinamento pode ser finalizado pressionando a tecla Esc. Você pode dar continuidade ao treinamento chamando a tela Learn novamente. 7

8 II.4 - Testando a Rede Neural Chame o menu principal, selecione a tela Run e em seguida a tela Test. Ative a caixa à esquerda do item One Pass/All e pressione OK. Isto fará com que a rede seja testada com todos os pontos do grid. O resultado é mostrado de duas formas: como um grid de valores de saída para cada ponto do grid e um gráfico mostrando a superfície que a Rede Neural está implementando. II.5 Analisando os Resultados Detalhadamente Diagrama de Hinton Uma forma de exibir a estrutura da Rede Neural é chamado Diagrama de Hinton, implementado pelo ProII. Este diagrama permite verificar os pesos e as conexões de rede em formas de boxes (veja a tela abaixo). De forma a exibir este diagrama, selecione o item Utilities no menu principal, o sub-menu Global Network Parameters e selecione como modo de exibição (Display M ode) Hinton. Em seguida pressione OK. 8

9 II.5.1 Interpretando o Diagrama de Hinton No diagrama de Hinton, todos os pesos de uma rede são exibidos ao longo dos eixos horizontal e vertical. Um quadrado (box) na interseção de dois elementos processadores (PE) indica que existe uma conexão entre o PE do eixo horizontal (x) e o PE do eixo vertical (y). Quadrados cheios representam conexões positivas. Quadrados vazios representam conexões negativas. A cor indica a intensidade da conexão. As mesmas convenções aplicam-se ao elementos processadores. 9

10 II Inspecionando um Elemento Processador O ProII permite a análise mais detalhada de um elemento processador e/ou peso específico. Para isso deve-se selecionar o PE ou peso desejado e pressionar o botão da esquerda do mouse duas vezes. Como resultado a tela abaixo é mostrada. III EFETUANDO OUTROS TESTES COM A REDE PERCEPTRON Repita os passos anteriores para treinar e testar a rede Perceptron com as funções lógicas AND, NAND e NOR. Em seguida, tente implementar a função XOR e verifique o resultado da Rede. 10