COMPARAÇÃO DE ARQUITETURAS DE REDES NEURAIS ARTIFICIAIS UTILIZADAS PARA A PREVISÃO DE CARGAS ELÉTRICAS UTILIZANDO AS TOOLBOXES DO MATLAB

Transcrição

1 COMPARAÇÃO DE ARQUITETURAS DE REDES NEURAIS ARTIFICIAIS UTILIZADAS PARA A PREVISÃO DE CARGAS ELÉTRICAS UTILIZANDO AS TOOLBOXES DO MATLAB KENJI NOSE FILHO, JORGE L. Y. MAEDA, ANNA D. P. LOTUFO Departamento de Engenharia Elétrica Faculdade de Engenharia de Ilha Solteira Av. Brasil Norte, Ilha Solteira SP s: kenjinose@yahoo.com.br, jorge-maeda@hotmail.com, annadiva@dee.feis.unesp.br Abstract This paper presents a development and implementation of a program to electrical load forecasting with data from a Brazilian Electrical Company, using three different architectures of Neural Networks of the MATLAB toolboxes: Multilayer Backpropagation Gradient Descendent with Momentum, Adaptive Network Based Fuzzy Inference System and General Regression Neural Network. The program presented a satisfactory performance, guaranteeing very good results. Keywords Electrical load forecasting, Artificial neural networks, MATLAB Resumo Este artigo apresenta o desenvolvimento e a implementação de um programa para realizar a previsão de cargas elétricas com dados de uma companhia de energia elétrica Brasileira, utilizando três diferentes arquiteturas de redes neurais das toolboxes do MATLAB: Rede Multicamadas Feedforward Backpropagation com algoritmo Gradiente Descendente com momento, Adaptive Network Based Fuzzy Inference System (ANFIS) e General Regression Neural Network (GRNN). O programa apresentou um desempenho satisfatório, garantindo bons resultados. Palavras-chave Previsão de cargas elétricas, Redes neurais artificiais, MATLAB 1 Introdução A previsão de cargas elétricas é uma das principais funções de um centro de controle de sistemas elétricos, especialmente se a geração for proveniente de sistemas hidrotérmicos. O problema de previsão de cargas consiste em conhecer (prever) o valor da carga futura para que o sistema gerador opere dentro de certos limites de confiabilidade e segurança a um custo que seja mínimo para a unidade geradora. Historicamente, encontram-se vários métodos para realizar a previsão de cargas [O Donovan, 1983]: regressão linear múltipla ou simples, alisamento exponencial, estimação de estado, filtro de Kalman, métodos ARIMA de Box & Jenkins [Box & Jenkins, 1976] entre outros. Todos estes métodos necessitam da modelagem prévia da carga para posteriormente serem aplicados. Para modelar a carga, é necessário conhecer algumas informações, tais como: dias nublados, velocidade do vento, variações repentinas de temperatura e efeitos de dias nãoconvencionais (feriados, greves, etc.). Quanto mais informações forem disponibilizadas, maiores serão as chances de obter soluções de qualidade. Após ter sido realizado a modelagem da carga, usando estas informações, inicia-se a execução do algoritmo, a fim de obter os resultados (previsão de carga). Uma alternativa para a resolução do problema de previsão de carga é a utilização de redes neurais artificiais [Chen et al., 1986; Haykin, 1994]. As redes neurais artificiais apresentam inúmeras vantagens, as principais delas é a capacidade de aprendizado e generalização. Neste artigo, apresentaremos os resultados obtidos a partir de três redes neurais artificiais com arquiteturas diferentes para a resolução do problema de previsão de cargas de uma companhia de distribuição de energia elétrica do Rio de Janeiro do ano de Na literatura [Lopes & Minussi, 2000; Moody & Darken, 1989; Terano, 1991; Heimes & Heuveln, 1998] estas redes são bastante conhecidas por predizerem séries temporais com precisão: Rede multicamadas feedforward backpropagation com algoritmo gradiente descendente com momento; Adaptive Network Based Fuzzy Inference System (ANFIS); General Regression Neural Network (GRNN). Estas três arquiteturas foram implementadas no MATLAB, com o auxilio das toolboxes de redes neurais e lógica fuzzy. A partir destas três diferentes arquiteturas de redes neurais, foi realizada a previsão de cargas em curto prazo (168 horas 7 dias), considerando-se somente dias convencionas. Os dias convencionais são todos aqueles que não se tratam de feriados nacionais e regionais e nem de dias participantes do horário de verão. As redes foram submetidas a três treinamentos distintos, diferenciados pela quantidade de dias utilizados. Para a comparação dos resultados verificamos os erros máximos percentuais obtidos de cada rede e o MAPE que corresponde à média aritmética do valor absoluto dos erros percentuais. Além disso, verificamos o tempo gasto no treinamento de cada rede.

2 2 Arquiteturas das redes neurais 2.1 Arquitetura da rede multicamadas feedforward backpropagation Redes multicamadas são arquiteturas em que os neurônios são organizados em duas ou mais camadas. A figura 1 representa o modelo de uma rede neural artificial multicamadas. Figura 1. Arquitetura de uma rede neural multicamadas. O modelo apresentado acima possui R entradas, S 1 neurônios na primeira camada, S 2 neurônios na segunda camada e S 3 neurônios na terceira camada. As funções de ativação f 1,f 2 e f 3 podem ser funções do tipo: log-sigmoid, tan-sigmoid ou linear, conforme a figura 2, entre outras. Figura 2.Gráficos das funções de ativação, a) log-sigmoid, b) tansigmoid, c) linear. Uma rede neural multicamadas feedforward backpropagation [Werbos, 1974], visa ajustar os pesos através do gradiente descendente, de forma a minimizar a média da soma dos erros mínimos quadrados. Durante o processo de treinamento os padrões de entrada e de saídas desejadas correspondentes são apresentados à rede neural. Um algoritmo de adaptação ajusta, automaticamente, os pesos, na direção oposta ao erro do gradiente instantâneo, de tal forma que as saídas fiquem próximas dos valores desejados. O algoritmo backpropagation segue os seguintes passos: 1. Apresentação de um padrão X a rede, o qual fornece uma saída desejada Y; 2. Cálculo do erro (diferença entre o valor desejado e a saída) para cada saída; 3. Determinação do erro retro propagado pela rede associado à derivada parcial do erro quadrático de cada elemento relacionado aos pesos; 4. Ajuste dos pesos de cada elemento; 5. Apresenta-se um novo padrão a rede e repete-se o processo até que haja a convergência da rede, ou seja, a rede neural só irá convergir se o erro obtido através do treinamento da rede neural for menor que uma tolerância preestabelecida. Os pesos iniciais são normalmente adotados como números randômicos (considerando-se o intervalo [0,1]), visto que a iniciação nula quase sempre proporciona baixa convergência. A rede criada para prever as cargas das primeiras 168 horas de agosto de 1998, possui 12 neurônios em sua camada de entrada, 30 neurônios em sua camada intermediaria e 1 neurônio em sua camada de saída. As funções de ativação utilizadas para cada camada, foram as funções log-sigmoid, tan-sigmoid e linear, respectivamente. Para o treinamento desta rede, foi utilizado o algoritmo do gradiente descendente com momento. O algoritmo do gradiente descendente com momento se baseia na determinação da derivada parcial do erro quadrático, este método atualiza os pesos segundo (1). (1) Onde: LR é a taxa de treinamento, M é a constante de momento e E R é a função do erro quadrático. 2.2 Arquitetura da ANFIS ANFIS [Buragohain & Mahanta 2008] é um sistema que utiliza um algoritmo de aprendizagem hibrida para identificar os parâmetros da função de associação da saída única, sistema de inferência fuzzy (FIS Fuzzy inference system) do tipo Sugeno [Jang 1991; Jang 1993]. Uma combinação de métodos dos mínimos quadrados e treinamento via backpropagation é usada para treinar os parâmetros das funções de associação do FIS para modelar um dado jogo de dados de entrada e saída. Uma possível arquitetura de um sistema de inferência fuzzy (FIS) é mostrada na Figura 3. Figura 3. Arquitetura de um FIS Este sistema contém três diferentes camadas: 1. Camada de Fuzzificação: cada neurônio representa uma função "membership" de entrada do antecedente de uma regra fuzzy. 2. Camada de Inferência: as regras são ativadas e os valores ao final de cada regra representam o peso inicial da regra, e serão ajustados ao seu próprio nível ao final do treinamento. 3. Camada de Defuzzificação: cada neurônio representa uma proposição conseqüente esuas funções membership podem ser implementadas combinando uma ou duas funções sigmoid e lineares. O peso de cada saída representa aqui o centro de gravidade de cada saída da função membership. Após adquirir a saída correspondente o ajuste é feito na conexão do peso e nas funções membership visando compensar o erro e produzir um novo controle de sinal.

3 A estrutura da ANFIS criada para prever as cargas das primeiras 168 horas de agosto de 1998, possui 12 neurônios na camada de entrada e 1 neurônio na camada de saída com a aplicação de 32 regras. 2.3 Arquitetura da GRNN GRNN são redes do tipo de função de base radial (RBF radial basis function network) bastante utilizadas para a aproximação de funções [Specht, 1991; Wasserman, 1993; Heimes & Heuveln, 1998]. A GRNN possui na sua camada de entrada (camada de base radial), neurônios de base radial, e na sua camada de saída (camada linear especial), neurônios especiais com função de ativação linear. A diferença entre uma rede RBF e uma GRNN é que a GRNN possui em sua saída uma camada linear especial, enquanto que a RBF possui em sua saída, apenas uma camada linear simples. A camada linear especial da GRNN possui a função nprod (função peso) mostrada na figura 4 que produz S 2 elementos no vetor n2. Cada elemento é o produto da linha de LW2,1 pelo vetor de entrada a1, todos normalizados pela soma dos elementos de a1. Figura 4. Arquitetura de uma GRNN A função de ativação de um neurônio de base radial é a função de base radial e pode ser vista conforme a figura 5. duas camadas, contendo 6 neurônios na camada de entrada e 1 neurônio na camada de saída. 3 Padrões de entrada e de saída e treinamento das redes neurais Para as 3 redes neurais artificiais projetadas, foram utilizados em seu treinamento os mesmo padrões de entrada e saída. O padrão de entrada é descrito por um vetor contendo informações do dia da semana, hora n, e os valores das cargas horárias n, n-1, n-2 e n-3. O padrão de saída é descrito por um vetor que representa o valor da carga horária n+1. O que diferencia de uma rede para outra é a forma de como a informação do dia da semana e da hora n+1 é apresentada para a rede, no caso da rede neural multicamadas backpropagation e da ANFIS, esses valores são representados em binário, sendo utilizados 3 bits para representar o valor do dia da semana e 5 bits para representar o valor da hora n. Já no caso da GRNN, esses valores são expressos em decimal, de 1 a 7 para os dias da semana e de 1 a 24 para o valor da hora n. Para o treinamento das redes foram utilizados dados históricos de uma companhia de distribuição de energia elétrica do Rio de Janeiro, pelos períodos explicitados abaixo. Cada rede foi treinada de três maneiras distintas, variando-se o período de dias compreendidos e o numero de vetores de entrada, mais detalhes podem ser vistos através da tabela 1. Tabela 1. Especificações de cada treinamento quanto ao numero de dias compreendidos e numero de vetores de entrada Treinamento Período compreendido Número de vetores de entrada 1 31 dias 01/07/ a 31/07/ dias 01/06/ a 31/07/ dias 01/05/98 a 31/07/ Figura 5. Função de base Radial O treinamento de uma GRNN pode ser separado em três etapas executadas seqüencialmente [Moody & Darken]. 1. Usa-se um algoritmo de formação de agrupamentos para encontrar os chamados centros das funções de base. 2. A segunda etapa trata do uso de métodos heurísticos para determinar o raio (radius) ou a abertura (spread) de cada função de base. 3. Uma vez determinados os centros e os raios das diversas funções de base, podem-se computar os pesos dos neurônios de saída através das regras de a- prendizagem LMS, Delta ou do Perceptron Simples. A rede criada para prever as cargas das primeiras 168 horas de agosto de 1998, foi uma GRNN com 4 Resultados Para avaliar os resultados e o desempenho de cada rede, iremos apresentar o Mean Absolute Percentual Error(MAPE),o Erro máximo percentual (Emáx%) e o tempo utilizado para cada treinamento. O MAPE corresponde à média aritmética do valor absoluto dos erros percentuais. Os resultados serão apresentados em forma de gráficos e tabelas. Consideraremos a previsão composta de 7 dias consecutivos, sendo o DIA1, DIA2, DIA3, DIA4, DIA5, DIA6 e o DIA7 compreendido pelo intervalo de horas [1:24], [25:48], [49:72], [73:96], [96:120], [121:144], [145:168] respectivamente. Sendo que o valor da carga da hora 1, corresponde ao valor da carga horária seguinte do ultimo valor de carga horária utilizado para o treinamento da

4 rede, supondo, qualquer um dos três treinamentos distintos. Sendo assim, o valor da carga da hora 1, corresponde ao valor da primeira carga do dia 1/08/98. Analisando os resultados das tabelas 2, 3 e 4 com referencia ao DIA1 podemos notar, com exceção da ANFIS, que quanto maior o período utilizado no treinamento das redes, maior o MAPE e o Emáx apresentados. No caso da ANFIS, o treinamento 2 resultou em piores resultados, sendo que o treinamento 3 apresentou menor MAPE e o treinamento 1 apresentou menor Emáx. Tabela 2. Resultados da rede Backpropagation. BACKPROPAGATION TREINAMENTO MAPE% 1,9979 2,0929 2,3134 DIA1 Emáx% 4,8453 5,0218 7,0879 MAPE% 2,4512 2,543 2,8026 DIA2 Emáx% 7,1422 6,0586 8,7863 MAPE% 1,8743 1,7808 1,9826 DIA3 Emáx% 5,1782 5,8056 7,0652 MAPE% 3,2058 3,6752 3,0929 DIA4 Emáx% 7, ,6881 6,965 MAPE% 4,524 4,8297 3,338 DIA5 Emáx% 7,885 9,4274 7,2095 MAPE% 3,5708 4,7157 3,1932 DIA6 Emáx% 8,9179 9,8407 6,8929 MAPE% 3,793 3,6895 3,4342 DIA7 Emáx% 9, , , DIAS MAPE% 2,9441 3,1981 2,8036 Emáx% 9, , ,3729 Tabela 2. Resultados da ANFIS. ANFIS TREINAMENTO MAPE% 1,09 1,4028 0,9733 DIA1 Emáx% 2,8613 3,848 3,7571 MAPE% 1,5707 1,7973 1,7582 DIA2 Emáx% 2,8613 3,848 3,5909 MAPE% 1,1938 1,5897 1,0483 DIA3 Emáx% 2,973 3,3424 5,1416 MAPE% 2,5938 3,2408 2,131 DIA4 Emáx% 7, ,2972 5,5986 MAPE% 4,3948 4,9755 3,5488 DIA5 Emáx% 6,5254 8,4575 6,5447 MAPE% 3,1179 4,1149 2,7575 DIA6 Emáx% 6,3084 7,3892 5,7694 MAPE% 3,1202 2,9928 2,3512 DIA7 Emáx% 6,6009 4,611 4, DIAS MAPE% 2,5938 2,9928 2,131 Emáx% 7, ,2972 6,5447 Tabela 3. Resultados da GRNN. GRNN TREINAMENTO MAPE% 1,0032 1,118 1,2882 DIA1 Emáx% 2,4102 3,6504 4,2455 MAPE% 1,3446 1,4978 1,1985 DIA2 Emáx% 2,7257 3,0448 3,2779 MAPE% 1,2231 1,157 1,1237 DIA3 Emáx% 2,7294 5,4129 5,2643 MAPE% 2,0555 2,1111 1,6305 DIA4 Emáx% 5,8053 6,5647 4,1103 MAPE% 4,2567 4,0799 3,3574 DIA5 Emáx% 6,2876 6,1926 5,9547 MAPE% 3,7587 3,5614 2,6782 DIA6 Emáx% 6,1253 6,3461 4,929 MAPE% 2,9521 2,7645 1,7443 DIA7 Emáx% 4,5324 4,2983 3, DIAS MAPE% 2,3705 2,3271 1,8601 Emáx% 6,2876 6,5647 5,9547 Porém, ao analisar os resultados das tabelas 2, 3 e 4 com referencia ao DIA4, DIA5, DIA6 e ao DIA7 podemos notar que quanto maior o período utilizado no treinamento das redes, menor o MAPE apresentado, isto considerado somente os treinamentos 1 e 3, pois as redes backpropagation e ANFIS com o treinamento 2 resultou em piores resultados. No caso da GRNN, verificou-se também um decréscimo do E- máx, ao aumentar o período utilizado no treinamento da rede. Deste modo, podemos verificar que para previsão de curtos prazos de tempo, no qual possui uma defasagem de tempo menor de 3 dias entre o ultimo dia treinado e o primeiro dia simulado, os resultados são melhores, utilizando-se de treinamentos mais curtos. Já no caso de se prever curtos prazos de tempo, no qual possui uma defasagem de tempo maior de 3 dias entre o ultimo dia treinado e o primeiro dia simulado, se obtêm melhores resultados utilizando treinamentos mais longos. À medida que foram se passando os dias, observou-se um aumento nos valores do MAPE e Emáx. Observando assim, uma perda da capacidade de previsão das redes, à medida que a defasagem de tempo entre o ultimo dia treinado e o dia simulado vai aumentando. Caso o intuito fosse criar redes capazes de prever dias convencionais com uma margem de erro máxima de 5% para mais ou para menos, as redes sugeridas para estes casos seriam a ANFIS e a GRNN e os treinamentos 1, 2 e 3 para ambas as redes, supondo uma previsão de cargas inferior a 2 dias previstos, ou seja, com previsão de no máximo, 48 horas após o ultimo horário utilizado para treinamento. Sendo a mais adequada, a GRNN sob o treinamento 1. Quando comparado com outras redes, a rede backpropagation possui tempo de aprendizagem maior. Isto se deve ao fato de que o numero de iterações necessárias para que esta rede convirja é bem maior. Enquanto que a ANFIS e a GRNN necessitam de apenas um único processo iterativo, a rede back-

5 propagation necessita de cerca de 5000 iterações para convergir. Enquanto que a rede backpropagation leva 120 segundos, a ANFIS e a GRNN levam apenas 10 e 2 segundos respectivamente, conforme pode ser visto na tabela 5. Figura 8. Previsão de 1 dia, GRNN, Treinamento 1 As figuras 9, 10 e 11 correspondem às melhores curvas de carga prevista (menor MAPE) considerando a previsão de 7 DIAS para cada uma das redes. Tabela 5. Tempo de treinamento para cada rede Tempo [s] Treinamento Backpropagation ANFIS GRNN As figuras 6, 7 e 8 correspondem às melhores curvas de carga prevista (menor MAPE) considerando a previsão do DIA1 para cada uma das redes. Figura 9. Previsão de 7 dias, Backpropagation, Treinamento 3 Figura 6. Previsão de 1 dia, Backpropagation, Treinamento 1 Figura 10. Previsão de 7 dias, ANFIS, Treinamento 3 Figura 7. Previsão de 1 dia, ANFIS, Treinamento 1 Figura 11. Previsão de 7 dias, GRNN, Treinamento 3 5 Conclusão Realizar a previsão de cargas utilizando redes neurais artificiais é um assunto que vem sendo bastante estudado ultimamente. Portanto, realizar comparações com resultados de redes neurais com arquiteturas distintas é algo bastante interessante, pois cada tipo

6 de rede se comporta de uma maneira diferente para cada problema proposto. Os padrões utilizados em seu treinamento, e a forma como o problema é modelado matematicamente, é outro fator que influencia muito nos resultados. Portanto, as conclusões obtidas se referem aos resultados aqui obtidos para o problema de previsão de cargas, modelado como descrito anteriormente e não podem ser interpretados de maneira genérica para todos os tipos de problemas. Através dos resultados, podemos observar que a GRNN possui grandes vantagens com relação às outras duas, alem de convergir mais rapidamente, a rede apresentou resultados melhores, menores MAPE e Emáx. Quanto à convergência, a rede GRNN é bem mais rápida do que a rede multicamadas backpropagation, pois é uma rede que se baseia em um único processo iterativo [Frost & Karri, 1999], diferentemente da rede multicamadas backpropagation que necessita um maior numero de iterações (neste caso, 5000 iterações foram necessárias para obter um bom resultado). Os melhores resultados obtidos pela GRNN podem ser atribuídos ao fato de esta rede ser baseada na estimação de uma função densidade de probabilidade na qual a probabilidade de se cair em um mínimo local é mínima [Seng, Khalid, Yusof & Omatu, 1998], podendo assim melhorar a precisão da previsão. A ANFIS é outra rede bastante interessante, que alem de rápida, apresentou resultados parecidos com os da GRNN. Vimos que a rede multicamadas com treinamento backpropagation é uma rede mais lenta e não a- presentou resultados tão bons quanto os da ANFIS e o da GRNN. Está sendo estudado o uso da rede Levenberg- Marquardt para a resolução do problema de previsão de cargas, do qual futuramente podemos incorporar seus resultados a este artigo e comparar seus resultados com os das redes já simuladas. Agradecimentos Agradecemos o apoio financeiro da FAPESP (Fundação de Amparo à Pesquisa do Estado de São Paulo) (processo de número 05/ e processo de número 07/ ), e aos docentes, Carlos Roberto Minussi e Mara Lúcia M. Lopes, que nos ajudaram na criação das redes neurais utilizadas. Referências Bibliográficas Box, G. E. e Jenkins, G. M. Time series analysis: Forecasting and control, Holden-Day, San Francisco, Buragohain, M. e Mahanta, C. A novel approach for ANFIS modeling based on full factorial design, Applied Soft Computing, Vol. 8, pp , Chen, C. S., Tzeng, Y. M. e Hwang, J. C. The application of artificial neural networks to substation load forecasting, Electric Power Systems Research, Vol. 38, No. 2, pp , Frost, F. e Karri, V. Performance Comparison of BP and GRNN Models of the Neural Network Paradigm Using a Practical Industrial Application, Neural Information Processing, Proceedings. ICONIP '99. 6th International Conference Vol. 3, pp , Haykin, S. Neural networks: A comprehensive foundation, Prentice-Hall, Upper Saddle River, New Jersey, USA, Heimes, F. e Heuveln, B. V. The Normalized Radial Basis Function Neural Network, IEEE International Conference on Systems, Man, and Cybernetics, Vol. 2, pp , Jang, J.-S. R., Fuzzy Modeling Using Generalized Neural Networks and Kalman Filter Algorithm, Proc. of the Ninth National Conf. on Artificial Intelligence (AAAI-91), pp , July Jang, J.-S. R., ANFIS: Adaptive-Network-based Fuzzy Inference Systems, IEEE Transactions on Systems, Man, and Cybernetics, Vol. 23, No. 3, pp , May Lopes, M. L. M. e Minussi, C. R., Treinamento de redes neurais via backpropagation com controlador nebuloso, Proceedings 2000 Congresso Brasileiro de Automática, pp , 2000 Manual de Utilização Do Matlab. The Mathworks Inc Moody, J. e Darken, C.J. Fast learning in networks of locally-tuned processing units, Neural Comput, 1, , O Donovan, T. M. Short Term Forecasting: An introduction to the Box-Jenkins approach, John Wiley & Sons, New York, Seng T. L., Khalid M., Yusof, R. E Omatu, S. Adaptive Neuro-fuzzy Control System by RBF and GRNN Neural Networks, Journal of Intelligent and Robotic Systems vol. 23 pp , Specht, D. F. A General Regression Neural Network, IEEE Transactions on Neural Networks, vol. 2, no. 6, pp , November 1991 Terano, T.; Asai, K. and Sugeno, M. Fuzzy systems theory and its applications, U.S.A., Academic Press, Werbos, P. J. Beyond regression: New tools for prediction and analysis in the behavioral sciences, Master Thesis, Harvard University, Wasserman, P.D., Advanced Methods in Neural Computing, New York: Van Nostrand Reinhold, pp , 1993.