Aplicação de Algoritmos Genéticos na determinação de estruturas de um modelo polinomial NARMAX

Transcrição

1 Universidade Federal de São João Del-Rei MG 26 a 28 de maio de 2010 Associação Brasileira de Métodos Computacionais em Engenharia Aplicação de Algoritmos Genéticos na determinação de estruturas de um modelo polinomial NARMAX Daniel C. de S. Braga 1 ; Erivelton G. Nepomuceno 1 ; Sérgio A. A. G. Cerqueira 2 1 Departamento de Engenharia Elétrica UFSJ São João del-rei, MG CEP: eng.daniel.cunha@gmail.com; nepomuceno@ufsj.edu.br 2 Departamento de Engenharia Mecânica UFSJ, São João del-rei, MG CEP: sergio.gama.cerqueira@gmail.com Resumo. Neste trabalho, aplicou-se a técnica dos algoritmos genéticos (AG's) ao problema da escolha de estruturas de um modelo NARMAX polinomial. Modelos NARMAX são amplamente utilizados por sua fácil implementação e boa precisão na identificação de sistemas dinâmicos não-lineares. A estrutura de um modelo NARMAX polinomial é caracterizada pelos seus regressores e parâmetros, sendo crucial a escolha adequada dos primeiros e a determinação correta dos últimos. Se, por um lado, o Error Rate Reduction (ERR), largamente empregado para escolha dos regressores, é um procedimento interativo que requer grande intervenção do usuário, por outro, a determinação dos parâmetros pode ser feita de maneira eficiente pelo método do mínimos quadrados, uma vez que os polinômios dos modelos NARMAX são lineares nos parâmetros. O AG desenvolvido utiliza a codificação binária, empregando operadores de mutação e cruzamento desenvolvidos especificamente para o problema. A representação na forma de uma matriz binária triangular superior busca preservar uma noção de vizinhança que é aproveitada pelos operadores genéticos. O algoritmo foi aplicado à predição de séries temporais em dois problemas. O primeiro, a inflação mensal brasileira, medida pelo IPCA, entre janeiro de 1995 e dezembro de Dos 170 valores que compõem a série, os 120 primeiros foram usados para identificação do modelo e os 50 últimos para validação. O segundo caso estudado foi a potência demandada de uma concessionária americana durante a última semana de 1992, em um total de 192 valores, retirados de uma base que congrega dados discretizados em base horária, entre os anos de 1985 e Realizaram-se experimentos com o AG implementado, considerando diferentes números de regressores dos modelos e o atraso máximo do modelo. Nos experimentos realizados, o AG desenvolvido revelou-se capaz de encontrar estruturas com boa capacidade de representação, que em alguns casos mostraram-se superiores às encontradas na literatura. Palavras chaves: Algoritmos Genéticos, Modelos NARMAX, Determinação de Estruturas.

2 1 INTRODUÇÃO A modelagem de um sistema pode ser feita utilizando-se das equações que regem um fenômeno ou processo recebendo o nome de modelagem pela física do processo ou modelagem caixa branca sendo necessário conhecer bem o sistema com o qual se está lidando, bem como as leis físicas e/ou químicas que descrevem o sistema a ser modelado. Há também um tipo de modelagem, conhecida como Modelagem caixa preta, onde é necessário pouco ou nenhum conhecimento prévio do sistema. Em alguns casos pode-se combinar os dois tipos de modelagem citados e se fazer uma Modelagem Caixa Cinza. A modelagem caixa preta é muito utilizada no estudo de séries temporais, ou seja, um conjuntos de dados coletados, ao longo de um período de tempo, que descrevem a dinâmica de um determinado processo ou sistema. Algumas destas séries são de grande importância em ramos diversos do conhecimento, como por exemplo a inflação, a evolução do consumo de energia e a evolução de uma epidemia. Modelar e prever o comportamento destas séries é de grande valia a um tomador de decisão. Uma importante ferramenta de modelagem de séries são os modelos polinomiais NARMAX (Nonlinear AutoRegressive Moving Average with exogenous input) que traduzindo, seria modelo não-linear autoregressivo de média móvel com entradas exógenas (Nepomuceno, 2002). Uma dificuldade de modelar séries com esta representação é a escolha dos regressores (termos do polinômio) que farão parte do modelo. O procedimento comumente usado para contornar este problema é conhecido como ERR (Error Rate Reduction). Esse algoritmo determina o percentual de redução do erro de predição do modelo quando um determinado regressor é incluído. É entretanto um procedimento interativo que requer grande intervenção do usuário. Dentre os métodos de otimização, durante as duas últimas décadas, houve um vertiginoso crescimento dos métodos evolucionários, dentre os quais destacam-se os algoritmos genéticos (AGs). Esses encontraram grande aceitação por (i) serem aplicáveis a uma grande gama de problemas, (ii) se tratarem de técnica de otimização que depende apenas da informação obtida pela avaliação de diversos pontos no espaço de busca e (iii) por terem a capacidade de trabalhar com problemas discretos, aqueles em que as variáveis são números inteiros ou binários. Por isso, os AGs se constituem em uma interessante alternativa para contornar a dificuldade de se utilizar a ERR na determinação de regressores de um modelo NARMAX. As primeiras aplicações dos AGs, empregando estruturas de dados e operadores padrão de mutação e recombinação, para a seleção dos regressores de modelos NARMAX datam da década de noventa (Rodriguez-Vazquez e Fleming, 1997; Fonseca and Fleming, 1996). Fleming e Purshouse (2002) fazem uma revisão do estado da arte da aplicação dos algoritmos evolucionários a problemas de identificação e controle, incluindo a aplicação dos AGs à seleção de regressores. 2 REVISÃO BIBLIOGRÁFICA 2.1 MODELOS NARMAX POLINOMIAIS Os modelos NARMAX polinomiais (Aguirre, 2006) são modelos regressores utilizados na identificação de sistemas dinâmicos não-lineares. Modelos NARMAX podem ser descritos por: (1) (1)

3 sendo que: (2) em que os C p,m-p são denominados parâmetros e os y(k - n i ) são denominados regressores. Deve-se ressaltar que a determinação dos parâmetros e dos regressores é de suma importância para o processo, pois determina a exatidão dos resultados. Neste trabalho, a estimação dos parâmetros será feita por meio dos Mínimos Quadrados (Aguirre, 2006) e a dos regressores será feita utilizando Algoritmos Genéticos. 2.2 ALGORITMOS GENÉTICOS Algoritmos Genéticos (AG s) são métodos computacionais de busca baseados nos mecanismos de evolução natural e na genética. Em AG uma população de possíveis soluções para o problema em questão evolui de acordo com operadores probabilísticos concebidos a partir de metáforas biológicas, de modo que há uma tendência de que, na média, os indivíduos representem soluções cada vez melhores à medida que o processo evolutivo continua (Tanomaru, 1995). Uma população em um AG s converge para o ótimo utilizando-se de operadores de mutação, cruzamento e também de mecanismos de seleção e elitismo além de utilizar somente de avaliações de diversos pontos no espaço de busca, não necessitando de avaliação de derivadas de funções. Utilizando-se dessa facilidade e notando que o problema de seleção de termos de um modelo não-linear pode ser identificado como sendo a escolha de alguns destes termos dentro de um conjunto de possibilidades de forma a minimizar algum critério de erro (Fonseca e Fleming, 1996). Por possuir esta característica, os AG são uma interessante opção para a solução de tais problemas. 3 MATERIAIS E MÉTODOS O AG implementado, delineado na figura 1, considera um modelo completo, ou seja, com estrutura e parâmetros estimados, como sendo um indivíduo da população. Nas seções seguintes, discutem-se as opções de codificação, de estratégias de cruzamento e mutação, e de um critério de erro. Figura 1 Algoritmo desenvolvido no presente trabalho

4 3.1 CODIFICAÇÃO Um modelo possui saída ou previsão, regressores de saída, entradas exógenas e parâmetros. A figura 2 traz um modelo hipotético. Figura 2 Um modelo hipotético Considere uma tabela com as possíveis combinações de regressores de um modelo conforme mostra a figura 3. O termo 1 da figura 3 representa o regressor y(k - 1), o termo 1 x 1 representa o regressor y(k - 1) 2 e o termo 3 x 4 representa o regressor y(k - 3)y(k - 4) e assim sucessivamente. Os valores dentro do triângulo em vermelho já estão representados na matriz. Portanto, o termo 4 x 1 representa o mesmo regressor que o termo 1 x 4. Ambos representam o regressor y(k - 1) y(k - 4). Para se escolher a codificação utilizada neste trabalho levou-se em consideração que um dado regressor possui apenas dois estados, podendo estar ou não estar incluído em um modelo. k-1 k-2 k-3 k-4 k-5 (k-1)(k-1) (k-2)(k-1) (k-3)(k-1) (k-4)(k-1) (k-5)(k-1) (k-1)(k-1) (k-2)(k-2) (k-3)(k-2) (k-4)(k-2) (k-5)(k-2) (k-1)(k-1) (k-2)(k-3) (k-3)(k-3) (k-4)(k-3) (k-5)(k-3) (k-1)(k-1) (k-2)(k-4) (k-3)(k-4) (k-4)(k-4) (k-5)(k-4) (k-1)(k-1) (k-2)(k-5) (k-3)(k-5) (k-4)(k-5) (k-5)(k-5) Figura 3 Possíveis combinações para um modelo com 5 regressores Desta forma, a codificação escolhida foi a binária com o valor 0 representando a ausência de um dado regressor e o valor 1 representando a presença de um dado regressor. Um individuo é então representado por uma matriz de zeros e uns, na qual os uns funcionam como furos em um cartão perfurado. Na figura 4, mostra-se como a matriz binária, colocada como uma máscara sobre a matriz da figura 3 representa o modelo da equação 3, cujos parâmetros a 1...a 6 são estimados por Minímos Quadrados (Aguirre, 2006). Figura 4 - Representação de um indivíduo e do modelo correspondente

5 y(k) = a 1 y(k - 1) + a 2 y(k-5) + a 3 y(k 1) 2 + a 4 y(k - 1)y(k 3) + a 5 y(k 3)y(k-4) + a 6 y(k - 5) 2 (3) 3.2 CRUZAMENTO Para a fácil identificação dos regressores presentes nos dois indivíduos, antes da operação de cruzamento é feita um conversão (figura 5) dos indivíduos da codificação binária para a codificação inteira. A operação de cruzamento é realizada, então, sobre a codificação inteira e em seguida o novo indivíduo gerado é convertido para o formato binário. Essa operação tem a característica de preservar as informações em comum entre os indivíduos cruzados que são enviadas para as primeiras posições do indivíduo inteiro (Fonseca and Fleming, 1996). Codificação binária Codificação inteira Figura 5 Conversão entre as codificações binária e inteira A partir daí é sorteado um mapa indicando quais posições serão trocadas entre estes indivíduos. De posse desse mapa é feita a troca entre os indivíduos formando dois novos indivíduos. A figura 6 ilustra este processo: 3.3 MUTAÇÃO Figura 6 - Cruzamento Criou-se um processo de mutação em que um regressor de um dado indivíduo é movido para uma das quatro direções (Norte, Sul, Leste ou Oeste). O algoritmo implementado verfica antes de realizar uma mutação, quais as possibilidades de mudança conforme mostra a figura 7. Figura 7 Possibilidades de mutação de um dado indivíduo Observando-se o primeiro elemento deste indivíduo nota-se que ele pode se locomover para as direções Norte e Leste porém não pode se movimentar para as direções Sul e Oeste, pois, nessas posições já existem regressores. Essa verificação é realizada em todos os elementos que sofrerão mutação.

6 Para uma população sorteia-se um número aleatório de indivíduos que sofrerão mutação e para cada indivíduo sorteado escolhe-se aleatoriamente o número de passos que cada regressor sofrerá. Permitiu-se a cada regressor mover-se 1, 2 ou 3 passos, com probabilidade decrescente com número de passos dados. 3.4 CRITÉRIO DE ERRO O objetivo do algoritmo é minimizar uma métrica de erro do modelo. O critério de erro escolhido foi o Erro Quadrático Médio que é a diferença entre o dado previsto pelo modelo e o dado real podendo ser explicado por meio da equaçao 4. (4) onde n é o tamanho do conjunto de dados. O erro pode ser calculado sobre dados de validação, um conjunto de dados de um período à parte, como empregado no caso da predição do IPCA, ou sobre o próprio período utilizado para a identificação do modelo, como no caso da predição de energia elétrica. 4 RESULTADOS O Algoritmo Genético desenvolvido foi aplicado a dois sistemas-teste: a previsão do índice de inflação (medido pelo IPCA - Índice de Preços ao Consumidor Amplo) e a previsão de carga em um sistema elétrico também chamado neste texto de predição de demanda de energia. 4.1 ÍNDICE DE PREÇOS AO CONSUMIDOR AMPLO O IPCA é um índice criado pelo IBGE (Instituto Brasileiro de Geografia e Estatística) para medir a inflação no Brasil. No presente trabalho foram usados dados da série histórica do IPCA retirados do site O conjunto de dados é composto por 170 valores divididos em dois grupos. O primeiro composto de 120 valores correspondendo ao período de Janeiro de 1995 até Dezembro de 2004 foram usados para identificar o modelo. O outro conjunto de dados composto por 50 valores relativos a Janeiro de 2005 à Fevereiro de 2009 foram usados para validar os modelos. Para este problema-teste realizou-se uma rodada do algoritmo genético desenvolvido por 500 gerações, com 200 indivíduos, um atraso máximo de 15 e um total de 5 regressores presentes no modelo. O modelo encontrado apresenta valor do critério de erro de 0,0342. A figura 8 mostra os dados reais e as previsões feitas pelo modelo. (5) em que y é o valor real da amostra, ^y é a predição livre do sinal medido, ȳ é a média do sinal y e N representa o número de amostras. Afim de se fazer comparações entre modelos encontrados na literatura, calculou-se o índice RMSE (Root Mean Square Error ) do modelo 6. O índice é considerado bom, na

7 literatura, quando este encontra-se entre 0 e 1 mais próximo a 0 e pode ser expressado por meio da equação 5. O modelo 6 foi encontrado usando a metodologia empregada neste trabalho e está representado em azul na figura 8. Este apresente RMSE de 0, mostrando-se que a metodologia desenvolvida apresenta-se como uma alternativa à ERR. y(k) = 0, y(k - 1) + 0, y(k - 9) 0, y(k - 12) + 0, y(k - 13) 0, y(k - 10) 2 (6) 4.2 PREVISÃO DE CARGA Figura 8 Modelo em azul e dados reais em vermelho Fez-se previsões de valores futuros de uma série monovariada que descreve o comportamento de uma demanda de energia. A série temporal estudada traz valores da potência em MW, discretizados em base horária, de uma concessionária americana entre os anos de 1985 e 1992 (El-Sharkawi, 2002). Um conjunto de 192 dados foi separado para a identificação correspondendo à última semana de dezembro de Foram feitos experimentos com o intuito de verificar a influência do número de regressores no modelo e também o número de indivíduos da população na obtenção de uma boa solução. Cada experimento foi executado 21 vezes. Para verificar-se a influência do número de regressores no modelo, fixou-se o número de gerações em 300 e variou-se os demais parâmetros. Fixou-se, inicialmente, o número de indivíduos em 100 e o atraso máximo em 12 e variando-se o número de regressores em 5, 6 e 7, obteve-se os resultados apresentados nas figuras 9, 10 e 11. Os modelos 8, 9 e 10 apresentam erros de 4,25, 3,94 e 3,72 MW respectivamente. Os resultados dos experimentos mostram que um aumento no número de regressores do modelo, provoca uma melhoria do Erro Quadrático Médio, porém é sabido da literatura (Aguirre, 2006) que o número de regressores de um modelo não pode aumentar indefinidamente. y(k) = 1, y(k - 1) - 0, y(k - 4)2 + 0, y(k - 1)y(k - 2) + 0, y(k - 2)y(k - 12) - 0, y(k - 3)y(k - 12) (8) y(k) = 3, y(k - 1) 0, y(k - 2) 2, y(k - 1) 2 + 0, y(k - 2) 2 + 0, y(k - 2)y(k - 7) 0, y(k - 4)y(k - 11) (9)

8 y(k) = 2,903901y(k - 1) 0, y(k - 2) 1, y(k - 1) 2 + 0, y(k - 3) 2 + 0, y(k - 2)y(k - 12) + 0, y(k - 3)y(k - 12) 0, y(k - 4)y(k - 7) (10) Figura 9 Modelo 8 em azul e dados reais em vermelho Figura 10 Modelo 9 em azul e dados reais em vermelho Figura 11 Modelo 10 em azul e dados reais em vermelho Num segundo momento, verificou-se a influência do tamanho da população na obtenção de uma boa solução, fixou-se o atraso máximo em 15 e o número de regressores do modelo em 5. Foram realizados 21 experimentos com populações de 50, 100 e 200 indivíduos e os melhores modelos encontrados estão expressos em 11, 12 e 13. Os erros conforme a equação 4 foram 4,32, 4,21 e 4,17 MW para os modelos 11, 12 e 13 respectivamente. Observando-se o resultado do experimento, nota-se que um aumento no tamanho da população não representou uma melhoria significativa do Erro Quadrático Médio do modelo.

9 y(k) = 3, y(k - 1) - 0, y(k - 2) - 2, y(k - 1) 2 + 0, y(k -2) 2-0, y(k - 13) (11) y(k) = 2, y(k - 1) - 0,000225y(k - 2) - 1, y(k - 1) 2 + 0, y(k - 3) 2-0, y(k - 4)y(k - 13) (12) y(k) = 1, y(k - 1) - 1, y(k - 2) + 0, y(k - 3) - 0, y(k-3)y(k - 15) + 0, y(k - 12)y(k - 15) (13) Figura 12 Modelo 11 em azul e dados reais em vermelho Figura 13 Modelo 12 em azul e dados reais em vermelho Figura 14 Modelo 13 em azul e dados reais em vermelho Os dados reais e os modelos das equações 11, 12 e 13 estão representados nas figuras 12, 13 e 14.

10 5 CONCLUSÕES No presente trabalho desenvolveu-se um algoritmo genético para determinar a estrutura de modelos NARMAX polinomiais, buscando minimizar o Erro Quadrático Médio. Adotou-se uma codificação binária para a representação de um indivíduo e elaboraram-se estratégias próprias de recombinação e de mutação. Diversas simulações foram realizadas, em que se variou o tamanho da população, o número de regressores e também o atraso máximo do modelo. Foram utilizados dois problemas-teste para a identificação dos modelos: o índice de inflação (medida pelo Índice de Preços ao Consumidor Amplo - IPCA) e a predição de carga elétrica. Os resultados obtidos mostram que o algoritmo genético pode ser utilizado para determinar a estrutura de um modelo NARMAX polinomial como uma alternativa o Error Reduction Rate (ERR). O trabalho foi implementado usando o Scilab, uma ferramenta computacional gratuita e de código-fonte aberto 6 BIBLIOGRAFIA Aguirre, L. A. (2006). Introdução à Identificação de Sistemas: técnicas lineares e não lineares aplicadas a sistemas reais. Editora da UFMG. 3a edição. El-Sharkawi, M. A. (2002). Internet web page. class/559/2002spr/. Fleming, P. and Purshouse, R. (2002). Evolutionary algorithms in control systems engineering: a survey. Control Engineering Practice, 10: Fonseca, C. and Fleming, P. (1996). Non-linear system identification with multiobjective genetic algorithms. 13th Triennial World Congress, San Francisco, USA. Goldberg, D. (1989). Genetic algorithms in optimization, search and machine learning. Addison Wesley. Ljung, L. (1987). System Identification: Theory for the User. Prentice-Hall, London. Nepomuceno, E. G. (2002). Identificação multiobjetivo de sistems não-lineares. Master s thesis, UFMG. Rodriguez-Vazquez, K. and Fleming, P. (1997). A genetic programming/narmax approach to nonlinear system identification. In Genetic Algorithms in Engineering Systems: Innovations and Applications, GALESIA 97. Second International Conference On (Conf. Publ. No. 446), pages Tanomaru, J. (1995). Motivações, fundamentos e aplicações de algoritmos genéticos. In Proceedings of II Congresso Brasileiro de Redes Neurais, Curitiba. 7 DIREITOS AUTORAIS Os autores são os únicos responsáveis pelo conteúdo do material impresso incluído no seu trabalho.