NOS últimos anos, o consumo de energia no Brasil tem

Transcrição

1 1 Estudo Comparativo de Modelos de Previsão de Vazões Baseados em Redes MLP e NSRBN Alan C. R. Marques, Gélson Cruz Jr, Cássio D. N. Vinhal, and Marco A. A. de Oliveira Resumo In hydrothermal scheduling and planning problems, among all planning variables, some present stochastic characteristics, such as river inflows to hydroelectric reservoirs, which are of critical importance. Estimating inflows to determine a good energy production strategy, while considering a future horizon, is very desirable. Therefore, efficient forecasting models become essential during the planning process as a whole. This work implements and compares methods for inflow forecasting based on different artificial neural networks models, such as multi-layer perceptron - MLP networks and composite nonlinear sigmoidal regression blocks networks - NSRBN networks, with classical auto-regressive models. Results obtained in monthly predictions are very promising. Index Terms hydrothermal systems, operation planning, forecasting, neural networks, MLP networks, NSRBN networks I. INTRODUÇÃO NOS últimos anos, o consumo de energia no Brasil tem crescido de forma acelerada, por conta de vários fatores, tais como o aumento da população, crescimento do PIB, avanço tecnológico e cenário econômico estável. Para suprir o crescimento, além da instalação e construção de novas usinas - principalmente hidrelétricas, a principal fonte de geração de energia no país, mas que têm recebido duras críticas devido ao impacto ambiental - deve-se realizar um melhor planejamento energético que considere a energia proveniente do atual parque instalado. O planejamento energético da operação de sistemas hidrotérmicos pode ser traduzido como a determinação de uma estratégia de geração que minimize o custo de operação em cada unidade do sistema durante o horizonte de planejamento [1]. Entre as diversas variáveis envolvidas nos estudos de planejamento, algumas apresentam caráter estocástico, sendo as mais representativas as vazões naturais afluentes aos reservatórios das hidrelétricas. Portanto, é estratégico conseguir uma estimativa destas vazões para determinar uma boa estratégia de produção de energia num horizonte futuro, o que torna os modelos de previsão de vazões essenciais no processo. A previsão de vazões naturais afluentes aos reservatórios das usinas hidrelétricas é considerada para o Setor Elétrico Brasileiro, um insumo fundamental que permite aos operadores do Sistema Interligado Nacional - SIN, concretizar os estudos que permitirão avaliar e antecipar as condições operacionais das usinas que propiciarão a existência de ganhos sinérgicos reais na operação como um todo. As vazões naturais são aquelas que A. C. R. Marques, G. Cruz Jr., C. D. N. Vinhal, M. A. A. Oliveira are with the Escola de Engenharia Elétrica e de Computação, Universidade Federal de Goiás, Av. Universitária, 1488, Quadra 86, Bloco A, Piso 3, , Goiânia, GO, Brasil (see ocorreriam em uma seção de rio, caso não houvesse a montante a operação de reservatórios com o intuito de produzir energia ou não; a vazão evaporada decorrente da formação de lago artificial; ou o desvio de água para abastecimento ou irrigação [2]. O órgão responsável por realizar as previsões de vazões naturais afluentes é o ONS - Operador Nacional do Sistema, o qual possui direta ou indiretamente, a atribuição de planejar e operar os ativos de geração no Brasil. Nesse contexto, a previsão de vazões naturais diárias, semanais e mensais, para todos os locais de aproveitamentos hidroelétricos do SIN, é feita e serve de insumo para o Programa Mensal de Operação - PMO e suas revisões [3]. Para realizar as previzões, a ONS utiliza modelos estocásticos lineares, desenvolvidos pelo Centro de Pesquisas de Energia Elétrica - CEPEL, como PREVIVAZ [4]. Os modelos estocásticos em uso no setor elétrico apresentam erros percentuais médios absolutos consideráveis, o que tem motivado ao longo dos últimos vinte anos a pesquisa de alternativas de abordagem nos modelos de previsão com o intuito de mitigar tais erros. As redes neurais artificiais - RNA, tem provado ser muito eficientes na modelagem de vazões considerando tanto aspectos quantitativos como qualitativos [5]. Muitos trabalhos têm mostrado a evolução das aplicações que utilizam RNA para a previsão de vazões [6]. As redes mais utilizadas e reportadas na literatura são conhecidas como Multi-layer Perceptrons - MLP. O problema é que os modelos MLP produzem resultados sub-ótimos, pois não realizam um processamento temporal do relacionamento entre as entradas, ou seja, são redes sem memória ou estáticas. O presente trabalho trata da implementação de uma arquitetura alternativa conhecida na literatura por Redes Compostas por Blocos de Regressões Sigmóides Não-Lineares, do inglês Non-linear Sigmoidal Regression Blocks Network - NSRBN [7], que procura minimizar os erros de previsão durante o processo. O objetivo é, em cenários de previsão mensal, contornar os problemas descritos na literatura para os modelos MLP. Valença [8] relatam o uso bem sucedido das redes NSRBN, em comparação com o modelo PREVIVAZ usado pelo Setor, na previsão de vazões para reservatórios do Rio São Francisco. Na Seção II é feita uma discussão sobre RNAs, o modelo MLP e as redes NSRBN. Na Seção 3 é apresentado um estudo de caso comparativo entre as redes MLP e NSRBN e modelos autorregressivos, quando utilizadas na previsão de vazões mensais afluentes para o reservatório de Furnas, localizado no Rio Grande.

2 2 II. REDES NEURAIS ARTIFICIAIS Sendo um modelo inspirado no cérebro humano, as RNAs são compostas de vários neurônios artifíciais, o que permite a aprendizagem. Em [9], uma RNA é descrita como um sistema constituído por elementos de processamento interconectados, chamados de neurônios, os quais estão dispostos em camadas e são responsáveis pela memória da rede. Estes neurônios artifíciais que compõem a rede são apresentados de maneira esquemática e intuitiva, podendo dessa forma ser compreendidos e utilizados matematicamente. A importância da representação do neurônio está relacionada à aprendizagem da rede, a qual torna possível utilizar a rede para prever valores, por exemplo, um dos possíveis propósitos do treinamento da rede. O treinamento depende da forma utilizada de aprendizagem, podendo ser supervisionado ou não supervisionado. O treinamento supervisionado consiste em apresentar à rede simultaneamente os padrões e as respostas esperadas para estes padrões. No treinamento não supervisionado, não há uma resposta esperada, e a rede neural toma as entradas como amostras independentes de uma distribuição de probabilidade desconhecida. Os pesos são as unidades mutáveis das redes neurais, e o treinamento é que provoca a alteração dos seus valores e o consequente processo de aprendizagem das redes. Neste trabalho, serão utilizadas as redes com aprendizagem supervisionada, que utilizam o conhecimento prévio do resultado desejado para a realização do treinamento. Treinar uma rede neural consiste em ajustar os pesos através de uma regra de aprendizagem até que esta forneça respostas satisfatórias ao problema analisado. No caso, até que um erro, entre a saída encontrada pela rede e a desejada, seja aceitável, ou esgote a quantidade de tentativas sugeridas para essa conversão. A análise do erro é realizada ao final de um ciclo, sendo o ciclo composto pela passagem de todo o conjunto de entradas. Cada conjunto deve passar pelos neurônios de todas as camadas, gerando assim um valor de saída, e realizando o reajuste dos pesos. Com isso, é gerado um erro momentâneo, que será utilizado, juntamente com os outros erros, para descobrir o erro do ciclo e verificar se o problema de minimizar tal erro está satisfeito. Várias redes neurais são desenvolvidas com base nos conceitos apresentados, sendo que as redes Multi-layer Perceptron - MLP e as redes construtivas - NSRBN foram implementadas e utilizadas neste trabalho. A. Multi-layer Perceptron - MLP De acordo com [10], o modelo mais simples de Rede Neural, em que várias unidades de processamento estão conectadas unicamente a uma unidade de saída, através dos pesos sinápticos é a rede Perceptron. Esse modelo pode ser visto na Figura 1. Com apenas uma camada de entrada e uma camada de saída, a rede Perceptron se mostra muito simples para resolver problemas reais, já que ela é uma boa opção para classificar corretamente apenas classes linearmente separáveis. Para permitir a não linearidade da rede é proposto uma implementação Figura 1. Figura 2. Rede Perceptron Rede MLP de múltiplas camadas, o que gera a rede conhecida como MLP, uma rede Perceptron de múltiplas camadas. Uma rede MLP, como pode ser visualizado na Figura 2, possui no mínimo 3 (três) camadas: uma de entrada, uma de saída, e pelo menos uma intermediária. O algoritmo para o cálculo das saídas consiste na multiplicação da entrada por seus pesos, gerando uma saída na camada intermediária, a qual será multiplicada pelos pesos desta camada, realizando isso até a saída definitiva. As equações que representam a resolução do MLP são: net = N j=0 y p i = f p (net p i ) = e netp i w ij net p 1 j (1) (2) e i (n) = d i y i (3) Essas equações representam a fase de propagação da MLP. A saída de cada neurônio é dada por 1, se p for igual a 1, então net p 1 j é igual a entrada x j. Mas a saída real deve passar por uma função de ativação, representada pela equação 2, isso deve ser realizado até o cálculo que permite identificar o erro, representado pela equação 3. Para realizar o reajuste dos pesos é necessário calcular o erro entre a saída calculada e a desejada, mas como não existe uma saída desejada nos neurônios da camada intermediária, utilizase um algoritmo chamado backpropagation. O algoritmo backpropagation foi desenvolvido por Paul Werbos, em 1974, e tem

3 3 como princípio realizar uma propagação recursiva dos erros encontrados na camada de saída, e dessa forma poder realizar o cálculo dos novos erros de cada neurônio de uma camada para o seu peso da camada anterior. Para calcular os novos pesos, as equações abaixo são utilizadas: δ p i = yp i (1 yp i ) e i (4) δ p 1 j = f p 1 (net p 1 j ) N w p ij δp j (5) w z ij(novo) = w z ij(antigo) + αδ z i f i (net i h) (6) A equação 4 é responsável em realizar o cálculo da sensibilidade para a saída, de forma semelhante é utilizada a equação 5, após descobrir o valor respectivo de cada sensibilidade, é possível calcular o novo peso com a equação 6. A utilização de várias camadas torna a rede mais complexa, só que também permite uma abordagem mais ampla. Vários trabalhos desenvolvidos fazem comparações entre implementações de redes MLP e modelos estocásticos clássicos [9] [8]. B. Rede Composta por Blocos de Regressões Sigmóides Não- Lineares - NSRBN A arquitetura de uma rede neural, de acordo com a possibilidade de mudanças no seu tamanho durante o processo de treinamento, pode ser classificada em estática ou dinâmica. Uma rede é dita de arquitetura estática quando o número de camadas e unidades de processamento permanece constante desde a concepção da rede até a finalização do seu treinamento. Por outro lado, uma rede de arquitetura dinâmica tem como característica principal um processo de mudanças no tamanho durante o treinamento. Nessa nova classe de redes proposta, um algoritmo construtivo será utilizado para incrementar a estrutura da rede, partindo-se de uma pequena estrutura, até que se atinja uma estrutura de tamanho ótimo, segundo critérios estatísticos de seleção adequados. A proposta do modelo NSRBN é de se construir a rede por blocos de polinômios homogêneos, utilizando uma função de ativação adequada (tangente hiperbólica, por exemplo), para os neurônios escondidos. Quanto aos neurônios de saída, estes têm uma ativação mais complexa, uma vez que realizam uma regressão logística não-linear com relação à saída dos neurônios escondidos. A rede NSRBN foi proposta e desenvolvida por Valença ( [11], [7], [8]) e tem como característica realizar uma regressão logística não-linear para ativação dos neurônios da camada de saída. Ela apresenta as entradas ligadas a blocos polinomiais, como pode ser visto na Figura 3. Os blocos polinomiais apresentam quantidade variável, sendo essa variação a representação da dinamicidade do sistema. As entradas são atribuídas a todos os polinômios, e esses são responsáveis pela forte capacidade não-linear do sistema. As redes NSRBN são eficientes, uma vez que elas utilizam blocos de sigmóides não-lineares como função de ativação. i Figura 3. Rede NSRBN Figura 4. Bloco Polinomial de grau p. Este fato é contrário às redes neurais de alta ordem que tomam como base polinômios multivariados e apresentam uma explosão no número de parâmetros livres necessários para aproximar uma dada função. A parte polinomial é representada similarmente a uma rede MLP com apenas uma camada intermediária. Já a quantidade de neurônios que compõem essa camada varia de acordo com o grau. Se o polinômio for de grau 1, existe 1 neurônio na camada intermediária, e assim para o grau P, existem P neurônios na camada intermediária. A saída da rede NSRBN é o somatório da saída de cada polinômio, aplicado a uma função de ativação. f(x) = σ net(o) ( d f p (x)) (7) p=1 Como o valor de f p (x) é a saída de cada polinômio, o cálculo destes devem ser realizados para encontrar o valor da rede total. O treinamento da rede inicia com apenas o polinômio de grau 1, o incremento dos polinômios só acontece apos a realização de um treinamento interno, após achar um erro satisfatório para o grau de polinômio analisado, o peso desse é congelado, para então adicionar um novo polinômio que terá um novo treinamento. Apos a conclusão de cada treinamento interno é realizado a verificação de critério de parada para a rede, verificando se o grau do polinômio satisfaz. A propagação interna é dada de acordo com as formulas abaixo. f p (x) = a 1 (f at (net1)) 1 +a 2 (f at (net2)) a p (f at (netp)) p (8) f at (net(h)) = (σ net(h) + θ h ) (9)

4 4 net(h) = σ = enet(h) e net(h) e net(h) + e net(h) (10) N w ih x i + w 0h (bias) (11) i=1 Os valores de a p são os pesos que ligam a camada intermediária à saída. O termo f at (net(h)) representa a função de ativação aplicada para cada entrada do neurônio da camada intermediária. III. ESTUDO DE CASO Como estudo de caso deste trabalho, foi realizada a previsão, utilizando as redes MLP e NSRBN, das vazões mensais afluentes ao reservatório da usina hidrelétrica de Furnas, localizada no Rio Grande, situado na região Sudeste. Os dados de vazões foram divididos em grupos com 15 valores de entrada e 12 valores de saída, ou seja, o estudo de previsão é iniciado em outubro e a divisão considera, como dados de entrada, os valores de vazões referentes aos últimos 15 meses, finalizando no dezembro imediatamente anterior e, como valores de saída, os valores de janeiro a dezembro de cada ano em estudo. O conjunto de dados consiste de valores de janeiro de 1931 até dezembro 2009, sendo que, para a realização dos estudos, os dados de treinamento e validação compreendem o período de 1931 a 1999, sendo retirado um percentual randômico destes dados, e os dados para testes são de 2000 até Além do teste utilizando períodos diferentes de meses para saída, de Janeiro-Dezembro, Fevereiro-Janeiro, até Dezembro- Novembro, sendo sempre 12 meses. Para o valor da taxa de aprendizagem no algoritmo backpropagation (α) foi adotado o valor entre 0.6 e 0.8. Podese observar que se o valor da taxa for muito pequeno, o algoritmo apresenta uma aprendizagem lenta e pode ficar preso em um mínimo local; alternativamente se o valor da taxa for muito grande, o algoritmo tende a ser instável durante o treinamento. Uma possibilidade utilizada principalmente no algoritmo backpropagation da rede NSRBN nesse trabalho, é a utilização do momentum (β), que permite aumentar os passos de treinamento sem aumentar as instabilidades do algoritmo [8]. Para que o treinamento não seja executado indefinidamente, é utilizado um critério de parada, o fator mais importante durante o treinamento, o qual pode ser realizado de diferentes formas, sendo a maneira mais simples colocar um número máximo de ciclos. O problema de adotar esta abordagem é que o número máximo considerado pode ser pequeno para um dado exemplo, e não ter atingido um erro adequado. Outra abordagem comumente utilizada é definir que o treinamento pare em um erro mínimo, mas existe também a possibilidade desse valor nunca chegar e a parada não acontecer. Apesar deste problema, a maioria das implementações utiliza esse método. No caso do trabalho realizado, o critério de parada foi feito de forma um pouco diferente. Utiliza-se uma avaliação que compara os erros passados, isso unido aos dois fatores apresentados anteriormente, de mínimo erro para verificar a diferença dos erros até um valor tão pequeno que não é necessário continuar o treinamento, e também utilizar uma quantidade de interações a ser analisada. Este segundo fator é utilizado principalmente para quantificar se, a partir de uma quantidade de interações, o erro começar a subir e não voltar a cair. Neste caso, o sistema interrompe o treinamento e os pesos do menor erro são mantidos. Os valores de entrada foram normalizados para o modelo MLP, e foi aplicada uma função logarítmica natural para o modelo NSRBN, a fim de reduzir a variabilidade das informações. A. Resultados e Discussões Os testes utilizando a rede MLP foram feitos com 3 (três) treinamentos diferentes para cada grupo de meses a partir dos dados utilizados. Tomando-se como base os resultados destes treinamentos, para previsões no intervalo de 2000 a 2009, foram encontrados erros percentuais com valor médio de 33,66%, sendo o maior erro percentual encontrado igual a 82,32% em São apresentados avaliações de anos específicos nas Tabelas I e II, onde os resultados para os anos de 2003 e 2005 foram detalhados para as redes MLP e NSRBN e também foram ajustados modelos paramétricos autorregressivos de ordem 1 (PAR(1)) [12]. No caso dos testes com a rede NSRBN, os erros percentuais encontrados apresentam valor médio de 26,72%, sendo o maior erro percentual encontrado igual a 56,64%. A Tabela I e a figura 5 mostram os valores dos erros absolutos mensais, para o ano de A variável In indica o mês de início da previsão e os previsores estão divididos em 3 tipos 1) Rede MLP; 2) Rede NSRBN; e 3)Previsor PAR(1). A variável M6 indica a média para os primeiros 6 meses de previsão e a variável M12 indica a média para os 12 meses de previsão. Os erros, ao serem analisados, demonstram que a rede NSRBN apresenta um desempenho superior à rede MLP em praticamente todas as previsões, exceto para as previsões iniciadas em novembro. Porém, o Previsor PAR(1) apresenta um desempenho semelhante à rede NSRBN nos meses mais secos. A Tabela II e a figura 6 mostram os valores dos erros absolutos mensais, para o ano de A variável In indica o mês de início da previsão e os previsores estão divididos em 3 tipos 1) Rede MLP; 2) Rede NSRBN; e 3)Previsor PAR(1). A variável M6 indica a média para os primeiros 6 meses de previsão e a variável M12 indica a média para os 12 meses de previsão. Os erros, ao serem analisados, demonstram a rede MLP apresenta menores erros para as previsões iniciadas de janeiro a maio. Para as previsões iniciadas de junho a dezembro, a rede NSRBN apresenta melhor desempenho. Novamente, os resultados do Previsor PAR(1) mostram um desempenho equivalente ou superior. Tal fato poderia ser explicate pelo perfil de vazões do ano de 2005, muito próximas da média histórica. IV. CONCLUSÕES O estudo de caso mostra a eficácia na previsão mensal de vazões através de duas arquiteturas. A rede MLP comumente

5 5 Tabela I ERROS ABSOLUTOS MENSAIS DE PREVISÃO PARA O ANO DE 2003 (PREVISORES 1: REDE MLP; 2: REDE NSRBN; 3: PREVISOR PAR(1)) Erros Absolutos Mensais Erros Médios In Prev M6 M Jan Fev Mar Abr Mai Jun Jul Ago Set Out Nov Dez Figura 5. de Erro médio mensal de previsão em 12 meses (M12) para o ano Figura 6. de Erro médio mensal de previsão em 12 meses (M12) para o ano usada como alternativa aos modelos estocásticos clássicos e fartamente documentada apresentou um desempenho em média pior que a arquitetura NSRBN. Tal fato pode ser verificado na Tabela I e na Figura 5, onde a rede MLP só apresenta erro inferior em uma das previsões, e na Tabela II e Figura 6, onde a rede MLP apresenta erro inferior em apenas 5 das 12 previsões. Conclui-se que os modelos fundamentados nos princípios das RNAs podem proporcionar alternativas reais para a previsão mensal de vazões naturais. Deve-se também destacar a facilidade de treinamento e definição da arquitetura da rede NSRBN, quando comparada à MLP. As pesquisas futuras deverão focar na realização de testes mais profundos e diversificados, além de explorar melhor critérios como taxa de

6 6 Tabela II ERROS ABSOLUTOS MENSAIS DE PREVISÃO PARA O ANO DE 2005 (PREVISORES 1: REDE MLP; 2: REDE NSRBN; 3: PREVISOR PAR(1)) Erros Absolutos Mensais Erros Médios In Rede M6 M Jan Fev Mar Abr Mai Jun Jul Ago Set Out Nov Dez aprendizagem, momentum e quantidade de épocas a serem utilizados nos ajustes de ambos os modelos. Devem see feitos estudos para outros postos ou usinas, de maneira a determinar melhor quando um modelo baseado em redes neurais tem desempenho superior a um modelo estocástico convencional. REFERÊNCIAS [1] G. C. Júnior, Modelo equivalente não linear para o planejamento da operação a longo prazo de sistemas de energia elétrica, Master s thesis, Universidade Estadual de Campinas, Campinas (SP), [2] O. O. N. do Sistema, Relatório anual de avaliação das previsões de vazões, IEEE Transactions on Power Systems, 2008, ons RE 3/130/2009. [Online]. Available: previsao vazoes.aspx [3] O. S. 9.5, Previsão de vazões e geração de cenários de afluências, no. 1, Ago [4] F. Costa, M. Maceira, and J. Damázio, Modelos de previsão hidrológicaaplicados ao planejamento da operação do sistema elétrico brasileiro, Revista Brasileira de Recursos Hídricos, vol. 12, no. 3, pp , [5] N. Karunanithi, W. Grenney, D. Whitley, and K. Bovee, Neural networks for river flow prediction, Journal of Computing in Civil Engineering, vol. 8, no. 2, pp , [6] H. Maier and G. Dandy, Neural networks for prediction and forecasting of water resources variables: review of modelling issues and applications, Environmental Modelling and Software, vol. 15, pp , [7] M. Valença, Aplicando Redes Neurais: um guia completo. Olinda, Pernambuco: Editora Livro Rápido, 2005, no. 2a ed. [8], Fundamentos das Redes Neurais: exemplos em Java. Editora Livro Rápido, [9] R. Ballini, Análise e previsão de vazões utilizando modelos de séries temporais, redes neurais e redes neurais nebulosas, Master s thesis, Universidade Estadual de Campinas, Campinas (SP), [10] F. Rosenblat, Perceptron simulation experiments. Kolkata, India: Proceedings of the Inst. of radio Eng, [11] M. Valença, Análise e projeto de redes neurais com abordagem construtiva para modelagem de sistemas, Master s thesis, Universidade Federal de Pernambuco,, Departamento de Informática, [12] S. G. Makridakis, Forecasting: methods and applications - 3rd. ed. John Wiley & Sons, 1998.