Felix da Cunha 412, Pelotas RS Home-Page: s: Bolsista BIC/FAPERGS

Transcrição

1 UTILIZAÇÃO DE REDES NEURAIS PARA PREVISÕES EM SÉRIES TEMPORAIS 1 A. T. Gonçalez, A. C. R. Costa, G. P. Dimuro UCPEL Universidade Católica de Pelotas, ESIN Escola de Informática GMFC Grupo de Matemática e Fundamentos da Computação Felix da Cunha 412, Pelotas RS Home-Page: s: {lebrao,rocha,liz}@atlas.ucpel.tche.br Bolsista BIC/FAPERGS Abstract The present paper has as objective to carry through a study for the definition and implementation of a Backpropagation neural network, capable to accomplish termporal series prediction. It was used, as case study, obtained data about outflow and salinity of the Lagoa dos Patos, located between the cities of Rio Grande and Santa Vitória do Palmar, after Resumo O presente trabalho tem por objetivo realizar um estudo para a definição e implementação de uma rede neural do tipo Backpropagation, com capacidade de realizar previsões em séries temporais. Utilizou-se, como estudo de caso, dados obtidos sobre a vazão e a salinidade da Lagoa dos Patos, situada entre os municípios de Rio Grande e Santa Vitória do Palmar, após o ano de Introdução O objetivo do trabalho é o estudo e a implementação de Redes Neurais, em particular a rede do tipo Backpropagation, para previsões em séries temporais. A motivação para realização do trabalho está na crescente quantidade de dados obtidos sobre a Lagoa dos Patos durante muitos anos, existentes em instituições de ensino ou governamentais, que poderiam ser recuperados e utilizados para possiveis previsões. A rede neural escolhida foi a Backpropagation, por ser estável e apresentar valores satisfatórios nos testes. Consiste de um algoritmo supervisionado, que se utiliza de pares de dados, de entrada e de saída, para que, após a passagem pelas diversas camadas, o erro possa ser estimado, permitindo o ajuste dos pesos. A rede Backpropagation é uma rede de fácil entendimento e permite sua utilização em Processamento Paralelo e Distribuido. No que se segue, apresenta-se um visão geral sobre Redes Neurais e, em particular, a rede Backpropagation. Após, descreve-se o Projeto e aprentam-se as conclusões e perspectivas futuras. 1 Este trabalho tem suporte financeiro do CNPq e da FAPERGS 1

2 2. Redes Neurais O primeiro modelo artificial de neurônio biológico teve início com Warren McCulloch e Walter Pitts, em Estes pesquisadores se dedicaram mais a descrever um modelo de um neurônio artificial e sua capacidade de processamento, do que apresentar técnicas de aprendizado. Donald Hebb desenvolveu uma técnica de aprendizado em Após estas pesquisas inúmeros projetos foram se desenvolvendo com o passar dos anos [1]. O objetivo dos desenvolvedores é ter softwares independentes, que tenham a capacidade de prever um estado ou uma informação, e possam resolver um problema sem o auxílio humano. Podemos citar como exemplos, previsões realizadas em Instituições Financeiras (Unibanco) ou em Companhias de Energia Elétrica (ANEEL-Associação Nacional de Energia Elétrica). A idéia intuitiva das Redes Neurais é a simulação de um cérebro humano. Isto é realizado através de modelos matemáticos, que se dividem em elementos de processamento, chamados neurônios. Os neurônios estão separados por camadas e possuem o objetivo da não-linearidade da rede (uma rede neural com apenas uma camada só representa funções linearmente separáveis), através do processamento interno de certas funções matemáticas. A Figura 1 apresenta como a rede neural Backpropagation é estruturada de acordo com uma quantidade de neurônios divididos em camadas e com suas interligações. Essas redes neurais artificiais possuem alguma forma de aprendizado que é responsável pela modificação dos pesos sinápticos a cada ciclo de iteração [1]. Em resumo, a rede neural se divide nas partes: Neurônio, Função de Ativação, Regra de Propagação e Regra de Aprendizado. Neste trabalho, optou-se pela utilização da Backpropagation, uma rede estática, isto é, não há a ocorrência de novo aprendizado à medida que ela vai realizando novas previsões. Seu aprendizado é supervisionado, existindo a necessidade de um professor, isto é, alguém que forneça as perguntas e as respostas para que seja possível a sua atualização. O treinamento ocorre em duas partes: a primeira, de ida, define a saída da rede como padrão dos valores de entrada; a segunda, a parte de volta, é utilizada para ajustar os pesos. O grande desafio foi achar um algoritmo de aprendizado para a atualização dos pesos das camadas intermediárias. A idéia central é que os erros dos elementos processadores da camada de saída são retro-propagados para as camadas intermediárias. Periodicamente, existe a necessidade de realizar o processamento de todos os dados, os antigos e os novos, para que seus pesos sejam acertados e suas próximas respostas sejam consideradas satisfatórias. Além desta característica, a Backpropagation é multicamada e totalmente conectada para frente, mas o cálculo do erro é feito de maneira inversa. 2

3 3. Descrição do Projeto A metodologia utilizada no Projeto constituiu das seguintes fases: 1. Aquisição dos Dados: Estas informações foram adquiridas com o Departamento de Física da FURG (Fundação Universidade do Rio Grande). São dados relativos à vazão e salinidade da Lagoa dos Patos, situada entre o município de Rio Grande e Santa Vitória do Palmar, preservados desde o ano de Preparação dos Dados: (a) Devido a não existência de dados relativos a alguns meses, foi necessário adotar a média entre os valores relativos aos três meses anteriores e três posteriores; (b) Foi necessário também proceder a normalização, para tratar picos nos dados que o processamento da rede não consegue atingir; isto foi necessário para a obtenção de resultados muito próximos da realidade; (c) Efetuou-se o cálculo dos valores em percentuais, e utilizou-se a função de ativação, que trabalha com a mesma faixa de valores (entre 0 e 1). 3. Escolha dos Pesos: Os pesos são escolhidos aleatoriamente, entre os valores -1 e Atualização dos Pesos: Conforme vão ocorrendo as interações dos neurônios nas camadas, existe a necessidade de corrigir os pesos para que as próximas interações ocorram de maneira correta. 5. Função de Ativação: Foi escolhida a função sigmoidal, definida como: y = exp ( x T ) (1) onde exp é a exponencial, x é os dados de entrada e T é a suavidade da curva. 6. Regra de Propagação: Ocorre através do somatório dos pesos e do respectivos valores de entrada. A denominação vem do fato deste somatório ocorrer em uma camada e as respectivas camadas posteriores utilizarem o somatório através da função de ativação. 7. Regra de Aprendizado: Este procedimento de aprendizado é repetido várias vezes, até que, para todos os processadores da camada de saída e para todos os padrões de treinamento, o erro seja menor do que o especificado. 8. Aprendizado: Os dados e os pesos são utilizados nas suas devidas camadas e propagados para as outras camadas, fazendo com que sejam descobertos os erros através das camadas, com o adequado ajuste dos pesos, resultando que a rede tenha a sua devida consistência; 3

4 9. Teste: Nesta fase, avaliam-se as respostas fornecidas pela rede neural utilizando-se dados verossímeis da lagoa para possíveis ajustes. Como a previsão se dá através de um aprendizado da rede neural, o qual ocorre mediante disponibilidade dos dados temporais armazenados durante vários anos, foi adotada a seguinte estratégia: considerou-se os dados de entrada de um ano e, como dados de saída, utilizamos os dados do ano seguinte (por exemplo, tomando-se os dados de entrada de 1999, como resposta são considerados os dados de 2000). Assim, a rede pode prever o resultado do próximo ano. Ao término deste aprendizado inicia-se a fase de testes, que necessitam ocorrer em grande escala para que não ocorra uma falsa interpretação dos resultados obtidos. Para implementação, utilizou-se a Linguagem C, por sua velocidade de processamento, e o Linux como Sistema Operacional. Para interface estamos utilizando o Wxwindows. Figura 1: Exemplo da Topologia da Rede Neural Backpropagation 4. Conclusões e Perspectivas Com os testes até agora realizados, pode-se observar que a Rede Neural Backpropagation mostrou-se de grande valia para o nosso trabalho, pois apresentou resultados correspondentes às nossas expectativas. Ainda estamos fazendo ajustes para que os seus resultados sejam os mais próximos possíveis da realidade, para que posteriormente possamos utilizar os valores apresentados pela rede de forma prática, e até mesmo expandir a sua área de abrangência, isto é, testá-la com outros tipos de dados. Ao mesmo tempo estamos em fase de desenvolvimento da interface. Como perspectivas de trabalhos futuros, pretendemos fazer a definição e a implementação de várias redes Backpropagation, com diferentes ciclos (doze, vinte e quatro e trinta e seis meses), para estudo comparativo. 4

5 Também é objetivo realizar a implementação voltada para a utilização no cluster de PC s do grupo de pesquisa, para termos uma expectativa do poder do processamento paralelo distribuido. 5. Referências [1] Braga, A. P., Carvalho, A. C. P. L. F., Ludermir, T. B. Redes Neurais Artificiais: Teoria e Aplicações, LTC, Rio de Janeiro, 2000 [2] Galvão, C. O., Valença, M. J. S. Sistemas Inteligentes: Aplicações e Recursos Hídricos e Sistemas Ambientais, Ed. Universidade UFRGS/ABRH, Porto Alegre, 1999 [3] Haykin, S. Redes Neurais: Princípios e Prática, Bookman, Porto Alegre,