19 2 Revsão Bblográfca dos Modelos de Prevsão Nese capíulo, são abordados alguns modelos e conceos ulzados na leraura para realzar prevsão de carga elérca. Denre os modelos lneares exsenes, serão examnados os modelos ARIMA de Box & Jenkns e amorecmeno exponencal de Hol & Wners. Serão esudados ambém modelos não-lneares provenenes de écncas de nelgênca arfcal (Redes Neuras e Lógca Fuzzy). O capulo se encerra com a descrção da meodologa de combnação de prevsões. 2.1. Conceos Báscos As nformações que produzem uma seqüênca de dados dsrbuídos no empo são denomnadas por séres emporas. Essas podem ser defndas como um conjuno de observações ordenadas no empo com presença de dependênca seral. A forma mas smples de denoar uma sére emporal é y 1, y 2, y 3,..., y, que ndca uma sére de amanho. O nsane geralmene ndca o úlmo nsane dsponível. Seja Y 1 : = ( y 1, y 2, y 3,..., y ) o conjuno represenando observações passadas da varável aleaóra y, conhecda ambém como sére hsórca. O objeo de neresse é a deermnação das relações de dependênca emporal da sére aravés de uma análse esaísca de sua sére hsórca Y 1 :. Em Fernandes (1995), ese esudo é chamado de análse de séres emporas e suas eapas são: Invesgação do mecansmo gerador da sére emporal; Descrção do comporameno da sére; Procura de perodcdades relevanes nos dados; Formulação de prevsões sobre valores fuuros da sére.
20 As rês prmeras eapas conssem na deermnação das relações de dependênca de Y 1 : e na elaboração de um modelo que represene a sére ajusada. A parr dsso, podem-se realzar prevsões, por exemplo, a deermnação dos fuuros valores que assumrão as varáves aleaóras y + 1, y +2,..., y + k, sendo k o horzone de prevsão máxmo do modelo. Exsem procedmenos varados para esmar um valor fuuro, a parr da combnação de valores passados. Conforme descro por Souza (1993), os modelos de prevsão podem ser agrupados em rês caegoras baseadas no número de séres emporas envolvdas na modelagem: Modelos Unvarados: baseam-se somene em uma sére emporal; Modelos Mulvarados: a sére de neresse é explcada pelo seu passado e por ouras séres emporas não correlaconadas enre s; Nesa dsseração, serão esudados somene os modelos unvarados. Como exemplo, a Fgura 2.1 coném um esquema lusravo que caracerza a classe desses modelos. T Y y ( k) MODELO UNIVARIADO ˆ Fgura 2.1- Esquema lusravo dos modelos unvarados 2.2. Modelos Box & Jenkns O modelo de prevsão de Box e al. (1994) é conhecdo como ARIMA (Auoregressve Inegraed Movng Average). Esa meodologa, como modelo unvarado, em a fnaldade de enconrar uma equação que represene a sére emporal y, por meo de uma esruura dependene dos seus valores passados y 1, 2 y, y 3,..., y p e seus erros de prevsão um passo à frene, e 1, e 2, e 3,..., e q, onde e ˆ = y y 1(1 ). Na sua essênca, o modelo assume
21 que a sére emporal é uma realzação parcular de um processo esocásco, gerado pela passagem sucessva de um processo ruído branco seqüênca de flros lneares, como mosra a Fgura 2.2 a segur: a a uma a FILTRO ESTACIONÁRIO Ψ (B) w FILTRO NÃO ESTACIONÁRIO d y Fgura 2.2 - Dagrama do modelo Box & Jenkns Onde os flros lneares são defndos por: 2.1 2.2 Ψ( B) = θ ( B) φ( B) d d B = (1 ) Flro Esaconáro Flro Não Esaconáro Seja B o operador reardo cujo efeo sobre uma varável dscrea é B k y = y. O polnômo θ (B) represena a pare referene às médas móves k do processo a, enquano que o polnômo φ (B) caracerza a pare auoregressva do modelo. Ambos os polnômos, θ (B) e φ (B) ( 1 2 k, são do po P X ) = 1 C 1 X C 2 X... C k X com graus q e p, respecvamene. O operador represena o procedmeno dferença al que y = y y 1. Sendo assm, o modelo ARIMA(p,d,q) é represenado pela eq. (2.3). φ ( B ) y 2.3 = θ ( B) a d Onde d é o grau de dferença da varável y. Em Souza (1996), enconra-se a descrção dealhada dos procedmenos necessáros à consrução dos modelos ARIMA. Incalmene, o modelo é denfcado a parr da análse das auo-correlações (FAC) e auo-correlações parcas (FACP) dos dados hsórcos. Poserormene, os parâmeros
22 desconhecdos do modelo são esmados para, em seguda, serem esados na adequação do mesmo aos dados. O úlmo passo é realzar as prevsões de observações fuuras. Desa forma, o ajuse de um modelo baseado no méodo Box & Jenkns segue os segunes passos: 2.2.1. Idenfcação do Modelo Segundo Pellegrn (2000), a denfcação do modelo mas adequado para descrever a sére emporal não é uma arefa smples, uma vez que exse grande varedade de modelos ARIMA capazes de represenar a sére. As prncpas ferramenas usadas no processo de denfcação do modelo são a função de auo-correlação (FAC) e a função de auo-correlação parcal (FACP). Na práca, a denfcação do melhor modelo consse eorcamene de quaro eságos: 1. Para algumas séres, é necessáro fazer ransformações nos dados, com o nuo de orná-las homocedáscas. Um méodo recomendado é a ransformação de Box & Cox, enconrado em Box e al. (1994). 2. Verfcar a esaconaredade da sére. Ese procedmeno é feo analsando-se a sére emporal e os gráfcos das FAC e FACP. Se a sére exbr valores em orno de uma consane e os gráfcos das FAC e das FACP apresenarem auo-correlações que endem a zero rapdamene, haverá ndícos de que a sére seja esaconára. Se algum deses requsos não for observado, a sére é possvelmene não-esaconára. 3. Nesa fase, é fea a escolha adequada do grau de dferencação d. Séres não-esaconáras devem ser esablzadas aravés de dferencação. Faz-se a dferencação smples das observações quanas vezes forem necessáras para orná-las uma sére esaconára. 4. Para fnalzar a eapa da denfcação, basa deermnar as ordens p e q, das componenes AR e MA do modelo. Para al, pode-se usar o quadro resumo de Souza (1996), mosrado na Fgura 2.3.
23 Modelo AR(p) Auocorrelação: decrescene Auocorrelação Parcal: nula para lags acma de p. Modelo MA(q) Auocorrelação: nula para lags acma de q. Auocorrelação Parcal: decrescene Modelo ARMA(p,q) Auocorrelação: é uma mímca do comporameno de AR(p) depos (p-q) lags. Auocorrelação Parcal: é uma mímca do comporameno de um MA(q) para lags superores a (p - q). Fgura 2.3 - Comporameno da FAC e FACP nos modelos ARMA 2.2.2. Esmação dos Parâmeros do Modelo Após a eapa de denfcação da ordem do modelo, os parâmeros precsam ser esmados. O méodo dos mínmos quadrados pode ser usado na denfcação dos parâmeros auo-regressvos AR, porém como os parâmeros da méda móvel são não-lneares, os processos de esmação se ornam mas complexos. Desa forma, uma oura écnca freqüenemene ulzada é o méodo de máxma verossmlhança. Essa é uma écnca de esmação basane usada em nferênca esaísca, pos os esmadores obdos apresenam algumas propredades convenenes. Para grandes amosras, os esmadores de máxma verossmlhança possuem as propredades assnócas de: Efcênca, so é, com menor varânca em relação a qualquer ouro esmador; Conssênca; No caso de haver um esmador sufcene, ele será função do esmador de máxma verossmlhança; Ter dsrbução aproxmadamene normal, com facldade de cálculo para a obenção dos parâmeros méda e varânca.
24 O prncípo da verossmlhança afrma que, se o modelo esver correamene denfcado e esmado, odas as nformações provenenes dos dados observados esão condas na função de verossmlhança, e odos os demas aspecos nformavos das observações são rrelevanes. Para os leores que desejam maores nformações sobre as defnções da função de máxma verossmlhança e suas propredades de esmação, recomenda-se a leura de Bolfarne (2001). 2.2.3. Valdação do Modelo Depos da esmação dos parâmeros do modelo, devem-se aplcar eses esaíscos para comprovar sua valdade. Um méodo ncal para verfcar o modelo ajusado é analsar os resíduos do modelo, represenados pelos erros de prevsão um passo à frene, e y yˆ 1(1), e a função de auo-correlação dos = mesmos (Mongomery, 1976). Segundo (Souza 1996), se o modelo obdo for aproprado, a FAC da amosra dos resíduos ˆ ρ ( e ) não deve ser sgnfcane, ou seja, não deve apresenar valores superores a 1 2 n para nenhum período. Se ese for o caso, os valores observados na sére emporal y foram ransformados em um processo de ruído aleaóro e. Um segundo méodo de valdação do modelo é o ese de Sobrefxação, que consse na consrução de um modelo com um número de parâmeros superor ao do modelo fxado. Ese modelo mas elaborado é submedo à esmação dos seus parâmeros, que demonsrará a necessdade ou não de parâmeros adconas. Desa forma, ena-se corrgr algum erro que enha sdo comedo na eapa de denfcação do modelo. Uma oura forma de verfcar a sgnfcânca dos modelos é submeer a eses os resíduos como, por exemplo, os eses de Pormaneau. Consderando os parâmeros esmados do modelo ˆ θ ( B ) e ˆ φ ( B) para um ARIMA (p,d,q), pode-se esmar os resíduos aravés da expressão: a ˆ 1 ˆ 2.4 = θ ( B) ˆ( φ B) w
25 Onde a varável w subsu d y. Se o modelo fxado for adequado, enão os resíduos esmados 2 nula e varânca ˆ σ a. â endem para uma sére ruído branco de méda Conforme já menconado, a parr das séres dos resíduos esmados podem-se calcular as k prmeras auo-correlações dos resíduos, so é: ˆρ ( aˆ ) ; = 0, 1, 2,...,k Os eses Pormaneau não consderam os valores de ˆ ρ ( aˆ ) soladamene, mas o conjuno dos k prmeros ˆ ρ ( aˆ ). O ese sugerdo por Box & Jenkns k (Souza, 1996), assume que, se o modelo fxado for correo, enão a esaísca: 2 2.5 Q = n ˆ ρ ( aˆ ) k = 1 2 segue aproxmadamene uma dsrbução Qu-Quadrado ( χ ), e esa-se a hpóese de um conjuno de auo-correlações resduas ser sgnfcavo. Exsem anda ouros eses que podem ser feos, como por exemplo, a análse do perodograma acumulado da sére dos resíduos esmados â para verfcar a exsênca de componenes peródcos na sére dos â. 2.2.4. Prevsão Após o érmno do processo de denfcação, esmação dos parâmeros e verfcação, o úlmo passo é realzar as prevsões de observações fuuras. Parndo-se da orgem em, e supondo que o objevo é prever a sére em um período fuuro k, yˆ ( k) represena a prevsão para um período +k fea em. A prevsão múlplos passos para o período +k é normalmene consruída a parr de sucessvas prevsões para os períodos +1, +2,,+k-1 (Mongomery, 1976). Nese procedmeno, o valor de y + k, o qual não se conhece no empo, é subsuído pela sua prevsão ˆ ( k). Porano, a prevsão se orna o cálculo do y
26 valor esperado de uma fuura observação condconada aos valores passados e ao valor presene da varável. Ou seja, yˆ ( k) é o valor prevso para um horzone k períodos de empo fuuro e o período de orgem da prevsão, enão, ˆ = + k 1 2.6 y ( k) E( y y, y,...) Como o valor de a + na equação de prevsão não é conhecdo no empo k, deve-se subsur por zero, e os valores passados por a y yˆ 1(1). j = j j 2.2.5. Modelos SARIMA Os modelos ARIMA são formados a parr da correlação enre os valores de y observados em nsanes de empo consecuvos (Sarors, 2000). Porém, quando a perodcdade da sére emporal for nferor a um ano, ouro po de correlação seral passa ser sgnfcane: a correlação enre nsanes de empo dsanes enre s por s ou múlplos de s, onde s é o número de observações condas em um ano. Por exemplo, para dados mensas deve-se consderar s gual a 12, enquano que se a sére for semanal, s passa a ser 53. Para acomodar esse po de sére, surgem os modelos ARIMA sazonas, conhecdos ambém como SARIMA (Sazonal Auoregressve Inegraed Movng Average). Nese caso, a modelagem segue a eq. 2.7: 2.7 φ ( B ) Φ( B ) s y = θ ( B) Θ( B ) a s D d s com s Onde o polnômo Φ ( B ) represena o operador sazonal auo-regressvo Φ parâmeros auo-regressvos sazonas e gual a 1, 2,..., P. O operador s sazonal de médas móves Θ ( B ) possu Θ j parâmeros de médas móves sazonas, com j possundo valor máxmo Q.
27 O operador dferença sazonal D s alera a varável dscrea y de forma semelhane ao operador dferença não-sazonal. A varável é dferencada pelo valor s passos arás, so é, D s = B ) S D ( 1. Os nsrumenos ulzados para a denfcação de modelos sazonas connuam sendo a FAC e FACP. O procedmeno de obenção dese modelo segue os mesmos passos empregados para deermnar o modelo ARIMA. Iso é, na modelagem SARIMA, faz-se ambém a análse do comporameno da FAC e FACP, com a ressalva de auo-correlações sgnfcanes nas defasagens sazonas. Como por exemplo, as séres mensas devem possur auo-correlações em 12, 24, 36, ec. As demas eapas da meodologa de Box & Jenkns, aplcadas a modelos sazonas, são análogas àquelas descras para os modelos não-sazonas. 2.3. Modelos de Amorecmeno Exponencal Eseves (2003) relaa que os modelos de amorecmeno exponencal são ulzados largamene para prevsão de séres emporas, devdo à sua smplcdade, facldade de mplemenação compuaconal e bons resulados. São méodos que usam uma ponderação dferene em cada valor observado da sére emporal, de modo que os valores mas recenes recebam pesos maores. Assm, os pesos arbuídos às observações decaem exponencalmene a parr de valores mas recenes. Os modelos de Hol & Wners (Souza, 1983) e (Mongomery, 1976) são aproprados para séres emporas com o sazonaldade. Dependendo da naureza da sére emporal, podem-se usar duas formulações dferenes: forma adva ou mulplcava. Nos dos pos de modelo que serão apresenados, os parâmeros serão defndos por: b 1 = Componene do Nível, ambém conhecdo como Componene Consane; b 2 = Componene de Tendênca Lnear c = Componene Sazonal ε = Componene de erro aleaóro (Ruído)
28 2.3.1. Modelo Sazonal Mulplcavo O modelo mulplcavo é ulzado em dados sazonas nos quas a amplude do cclo sazonal vara com o passar do empo. Sua represenação é expressa por: 2.8 y = ( b1 + b2) c + ε O comprmeno do cclo sazonal é de S períodos e as componenes sazonas são defndas de manera que a soma das mesmas resule em S, ou seja, S c = 1 2.9 = S A Fgura 2.4 mosra uma sére emporal para a qual um modelo mulplcavo é aproprado. Percebe-se que enquano a endênca da sére ( + b ) aumena, a amplude da sazonaldade ambém aumena. b1 2 Fgura 2.4 - Sére ípca com aumeno de padrão sazonal Defnem-se os valores esmados para a endênca lnear e a componene sazonal no fnal do período, como b ( ) e cˆ ( ) respecvamene. A componene consane (ou de nível) b ˆ1 ( ) é esabelecda na orgem correne e esmada por a ( ). ˆ1 ˆ2
29 O procedmeno conínuo de aualzação dos parâmeros do modelo e de prevsão é relavamene smples. Ao fnal de cada período, depos da realzação da observação expressões: y, os parâmeros são calculados pelas segunes Aualzação da componene consane y 2.10 aˆ (1 )[ ˆ ( 1) ˆ 1( ) = α + α a1 + b2 ( 1)] cˆ ( S) Aualzação da componene de endênca lnear 2.11 bˆ ( ) = β [ aˆ ( ) aˆ ( 1)] + (1 β ) bˆ ( 1) 2 1 1 2 Aualzação da componene sazonal y 2.12 cˆ (1 ) ˆ ( ) = γ + γ c ( S) aˆ ( ) 1 Os modelos de Hol Wners são caracerzados por rês consanes de amorecmeno: α, β e γ, defndos como hperparâmeros ulzados na aualzação dos parâmeros b ( ), b ( ) e cˆ ( ) respecvamene. ˆ1 ˆ2 Para realzar a prevsão da varável esudada no período + k, 2.13 y ( ) ( bˆ ( ) + kbˆ ( )) cˆ ( + k ) ˆ + k = 1 2 + k S 2.3.2. Modelo Sazonal Advo Já o modelo advo é ulzado na modelagem de dados sazonas nos quas a amplude do cclo sazonal permanece consane com o passar do empo. Sua equação é:
30 2.14 y = b1 + b2 + c + ε Como no modelo mulplcavo, o comprmeno do cclo sazonal ambém será defndo por S períodos. Porém, ese modelo é aproprado para séres emporas nas quas a amplude do cclo sazonal é ndependene da endênca da sére ( b1 2 + b ). A parr desa caracerísca, (Mongomery, 1976) defne a soma das componenes sazonas gual a zero, ou seja, S c = 1 2.15 = 0 A Fgura 2.5 mosra uma sére emporal para um modelo sazonal advo. Percebe-se que, apesar da endênca crescene da sére, a varação da sazonaldade se maném consane. Fgura 2.5 - Sére ípca para o modelo advo Consdere-se que os valores esmados para a endênca lnear e a componene sazonal no fnal do período são defndos por b ( ) e ˆ ( ) respecvamene. A componene consane é esabelecda na orgem correne e esmada por a ( ). ˆ1 Os procedmenos de aualzação dos parâmeros do modelo e a equação de prevsão são expressos pelas segunes equações: ˆ2 c Aualzação da componene consane 2.16 aˆ ( ) [ ˆ ( )] (1 )[ ˆ ( 1) ˆ 1 = α y c S + α a1 + b2 ( 1)]
31 Aualzação da componene de endênca lnear 2.17 bˆ ( ) = β [ aˆ ( ) aˆ ( 1)] + (1 β ) bˆ ( 1) 2 1 1 2 Aualzação da componene sazonal 2.18 cˆ ( ) = γ [ y aˆ ( )] (1 ) ˆ 1 + γ c ( S) A equação da endênca é a mesma ulzada para o modelo mulplcavo da eq. (2.11). Já as equações de aualzação das componenes do nível e do faor sazonal são dferenes. A dferença é que a componene sazonal esá efeuando operações de soma e subração, ao nvés de mulplcar e dvdr. Para realzar a prevsão da varável esudada no período + k, emprega-se a equação: 2.19 yˆ ( ) ˆ ( ) ˆ ( ) ˆ k b1 + b2 k + c k ( + k S) + = + 2.4. Modelos de Redes Neuras As redes neuras arfcas (RNA s) conssem em um méodo no qual consró-se um ssema que smula o funconameno do cérebro humano e busca reconhecer regulardades e padrões nos dados que lhe são apresenados (Fernandes, 1995). Devdo à sua capacdade em manpular dados mprecsos e rudosos, as RNA s vêm se ornando uma poderosa ferramena para modelagem de séres emporas de carga elérca. Muas aplcações êm sdo desenvolvdas nos úlmos anos nesa área, e a maora desas aplcações em mosrado bons resulados quando comparadas com ouros procedmenos esaíscos. Uma abordagem complea pode ser enconrada em Haykn (1999). Alguns exemplos desa modelagem podem ser enconrados nos rabalhos exposos na Tabela 2.1, que modelam séres emporas horáras, dáras e mensas.
32 Auor Tíulo (Hpper 2001) Prevsão de Cargas a Curo Prazo (Hpper 2000) Prevsão de Temperaura Horáras (Serão 2003) Prevsão de Carga de Curo Prazo (Sobral 2003) Prevsão de Carga de Curo Prazo (Rzzo 2001) Prevsão de Carga de Curíssmo Prazo (Fone 2002) Prevsão de Elevação de Temperaura (Pno 2002) Prevsão de Séres Temporas Lneares (Texera 1999) Prevsão de Carga Tabela 2.1 - Trabalhos publcados em prevsão de séres emporas 2.4.1. Componenes da RNA As redes são composas por undades de processameno (neurônos arfcas), que se nerconecam, formando redes capazes de armazenar e ransmr nformações provenenes do meo exerno. Uma RNA é caracerzada por rês ópcos báscos: Neurôno Arfcal: Componenes báscos, nsprados no neurôno bológco; Topologa: Manera de conexão enre os dversos neurônos arfcas que formam a RNA; Trenameno: É o processo pelo qual a RNA aprende, por meo da apresenação dos padrões desejados. 2.4.1.1. Neurôno Arfcal Traa-se de um modelo correspondene à esruura smplfcada do neurôno bológco. É consuído por rês pares fundamenas: pesos snápcos, que ponderam os valores das enradas do neurôno; regra de propagação, que defne como serão combnadas as enradas do neurôno; e a função de avação, que deermna o efeo que o resulado da regra de propagação erá sobre o nível de avação do neurôno. Um exemplo de neurôno arfcal e seus componenes podem ser vsos na Fgura 2.6.
33 X 1 X 2 W 1 W2 W3 Σ S F SAÍDA X 3 Fgura 2.6 - Elemeno Processador Ese neurôno fo elaborado para reproduzr algumas caraceríscas de um neurôno bológco. Por exemplo, as lgações enre dos neurônos vznhos (snapses) podem ser represenadas por um conjuno X j de enradas aplcado ao neurôno, cada uma represenando a saída de ouros neurônos arfcas. Cada enrada é mulplcada por um peso correspondene W j, resulando em enradas ponderadas. Em seguda, somam-se odas as enradas, obendo-se um valor S que represena o únco argumeno da função F de ransferênca. As funções de avação processam a soma S dando orgem à saída fnal do neurôno. Denre algumas formas de função de avação na leraura (Haykn, 1999), pode-se car, por exemplo, uma função lmar e uma função logísca. A função da Fgura 2.7 represena uma função de lmar cuja saída do neurôno possu apenas dos valores: zero para qualquer argumeno S menor que zero e um se o argumeno for maor ou gual a zero. Fgura 2.7 - Função de avação lmar Lehmann (2002) nforma que nos casos onde se deseja aproxmar com maor precsão os neurônos bológcos, usam-se funções não-lneares. Um
34 exemplo desa função é a sgmóde, cuja represenação maemáca é dada pela expressão: x 2.20 f ( x) = 1 (1 + e ) Esa função é mosrada na Fgura 2.8 e possu o domíno ( ; + ) e magem enre zero e um. Fgura 2.8 - Função de avação sgmóde 2.4.1.2. Topologa da RNA A esruura de organzação dos neurônos chama-se de opologa da RNA. Cada dsposção vercal de neurônos é defnda como camada e as redes que possuem mas de uma camada de neurônos são conhecdas como redes Percepron Múlplas Camadas, em nglês Mul Layer Percepron (MLP). Em geral, elas possuem rês camadas, sendo a prmera nomeada de camada de enrada, a camada segune de camada escondda, e a úlma recebe o nome de camada de saída. Bascamene, exsem duas classes de opologas: as redes neuras Não- Recorrenes e as Recorrenes. As prmeras não possuem realmenação de suas saídas para as enradas, enquano que as recorrenes conêm realmenação das saídas dos neurônos para as enradas, sendo suas saídas deermnadas pelas enradas mas auas e pelas saídas anerores (Abelém, 1994). Como exemplo, a Fgura 2.9 apresena uma RNA não-recorrene com a segune opologa (5-3-1). Ou seja, a rede possu a camada de enrada com
35 cnco neurônos, uma camada escondda com rês neurônos e a camada de saída com apenas um neurôno. ENTRADA OCULTA SAÍDA Fgura 2.9 - Topologa de uma RNA com uma Camada Escondda 2.4.1.3. Trenameno da RNA A forma com o qual os pesos W j são ajusados é chamado de renameno da RNA. Denre os pos exsenes, desacam-se dos: renameno supervsonado e não supervsonado. O renameno supervsonado basea-se na apresenação de exemplos conhecdos, so é, rabalha com dados de enrada e valores desejados de saída smulaneamene. Dos algormos que esabelecem, como as conexões são aualzadas, um dos mas conhecdos chama-se back-propagaon. Já nas RNA s renadas de forma não-supervsonada, somene os padrões de enrada esão dsponíves para a rede. Ese po de aprendzagem se orna possível quando exse abundânca nos dados de enrada. Esse po de rede neural arfcal não requer valores de saída, um exemplo são os mapas auoorganzáves (Haykn, 1999). Nesa dsseração, serão ulzadas redes com renameno supervsonado por back-propagaon. Esse consse em duas fases complemenares: Forward e Backward: Forward: Esa eapa é ulzada para defnr a saída da rede para um dado padrão de enrada. Calcula-se o erro enre o valor produzdo pela camada de saída e o valor desejado.
36 Backward: Depos do processameno Forward, o erro é propagado a parr da camada de saída aé a camada de enrada e os pesos das conexões das undades das camadas nernas vão sendo modfcados. Como apresenado por Marns (2002), o algormo back-propagaon da Fgura 2.10 é baseado na regra dela generalzada. Esa regra funcona quando são ulzados neurônos que possuem funções de avação dferencável e nãodecrescene. Neses casos, uma função amplamene ulzada é a função sgmóde mosrada na Fgura 2.8. ALGORITMO BACKPROPAGATION 1. Incar pesos e parâmeros. 2. Reper aé o erro ser mínmo ou a realmenação de um dado número de cclos; 2.1 Para cada padrão de renameno X; 2.1.1 Defnr a saída de rede aravés da forward; 2.1.2 Comparar saídas produzdas com saídas desejadas; 2.1.3 Aualzar os pesos aravés da fase backward. FASE FORWARD 1. A enrada é apresenada à prmera camada da rede C 0. 2. Para cada camada C, a parr da camada de enrada; 2.1 Calculam-se os snas de saída de cada neurôno camada por camada. 3. As saídas produzdas pelas úlmas camadas são comparadas com as saídas desejadas. FASE BACKWARD 1. A parr da úlma camada, aé chegar à camada de enrada: 1.1 A camada aual ajusa seus pesos de forma a reduzr seus erros; 1.2 O erro das camadas nermedáras é calculado ulzando o erro da camada segune conecadas a ela. Fgura 2.10 - Algormo Backpropagaon Os ajuses dos pesos são realzados ulzando o méodo do gradene descendene. Porém, quando a rede demanda um empo de renameno consderavelmene longo, devdo ao elevado número de passos no renameno, podem-se ulzar ambém os efeos de segunda ordem para o gradene decrescene para dmnur o esforço compuaconal que essa rede demanda. Depos que a rede esver renada e com um nível sasfaóro de erro, poderá realzar classfcação com novos dados. Porém, sso ocorrerá somene se a rede for ulzada no modo progressvo, ou seja, uma rede não-recorrene. Assm, novas enradas são apresenadas à camada de enrada, processadas nas camadas oculas e os resulados apresenados na camada de saída, como
37 no renameno, mas sem a rero-propagação do erro. A saída apresenada é o modelo dos dados, na nerpreação da rede. Para melhorar o desempenho do renameno, pode-se ulzar uma consane de momeno. Com a nclusão dese ermo na equação de ajuse dos pesos snápcos, a velocdade de aprendzado aumena subsancalmene, dmnundo as chances de nsabldade da rede, além de acelerar o renameno em regões muo planas. A ulzação da consane de momeno possu o benefíco de evar que o processo de aprendzagem ermne em um mínmo local na superfíce de erro (ponos na superfíce de erro que apresenam uma solução esável, embora não sejam saídas desejadas). 2.4.1.4. Prevsão de Séres Temporas Algumas nformações provenenes do ambene exerno são de naureza dnâmca e seqüencal, de modo que as relações emporas enre padrões consecuvos precsam ser levadas em consderação. O reconhecmeno de as padrões dnâmcos é crucal para a prevsão de séres emporas. Assm, um objeo de esudo na eora da RNA em sdo os dversos aspecos da aprendzagem seral ou aprendzagem de seqüêncas emporas (Barreo, 2000). Para que a RNA seja usada como procedmeno de prevsão de séres emporas, orna-se necessáro à ncorporação do empo para capacá-la a modelar as varações esaíscas de uma seqüênca emporal de dados. Segundo Haykn (1999), esse problema é resolvdo aravés da ncorporação de um mecansmo chamado memóra de curo prazo (MCP). Os componenes ndvduas da sére emporal são armazenados de manera que o processo de aprendzagem da rede rabalhe em dos exos: ano os ens em s, quano a ordem em que eles ocorreram. O prncpal objevo da memóra é ransformar uma rede esáca em uma rede dnâmca. Com sso, as RNA s com caraceríscas puramene esácas se ornam dnâmcas. Ocorre, porano uma separação de responsabldades na qual a rede esáca é responsável pela não-lneardade e a memóra é responsável pelo empo. A forma de MCP mas smples ulzada é chamada de memóra de lnha de araso. A rede MLP (aprendzado back-propagaon), com uma memóra de lnha de araso dervada, aplcada à enrada, é a rede mas smples e uma das mas
38 usadas em prevsão de séres emporas. A Fgura 2.11 apresena uma esruura com uma rede MLP e uma janela de empo. Enrada y(n) Saída y(n-1) Z -1 Z -1 REDE MULTI CAMADA ESTÁTICA y j (n) y(n-2) y(n-p+1) Z -1 y(n-p) Fgura 2.11- Rede MLP com memóra de lnha de araso Cada um dos p blocos consu, nese caso, um operador de undade de araso Z -1, sendo p a ordem da memóra de valor gual ao número oal de arasos. 2.5. Modelos de Lógca Fuzzy Anes de descrever os modelos de prevsão ulzando a Lógca Fuzzy (LF), é precso compreender algumas defnções sobre esa eora. No dconáro Webser s, a palavra fuzzy é raduzda como algo vago ou ndsno, so é, o anônmo de precso e exao. Já enre dversos rabalhos publcados na leraura, em (Tansche, 2003) enconram-se as segunes defnções: A Lógca Fuzzy procura modelar os modos mprecsos do racocíno que êm um papel fundamenal na habldade humana de omar decsões. Esa eora se mosra capaz de capurar nformações mprecsas, descras em lnguagem naural e converê-las para um formao numérco.
39 A segur são apresenadas uma breve descrção da eora dos Ssemas Fuzzy (SF) e a meodologa ulzada para a aplcação de prevsão em séres emporas. 2.5.1. Ssemas Fuzzy O SF caracerza-se por possur uma coleção de varáves de enrada, uma coleção de varáves de saída, conjunos fuzzy assocados a cada varável, uma coleção de regras que assoca as enradas para resular em conjunos para a saída e uma função que desfuzzfque a saída. Para consrução do ssema fuzzy são consderados os componenes represenados na Fgura 2.12. X REGRAS Y=F(X) FUZZI FICADOR DEFUZZI FICADOR INFERÊNCIA Fgura 2.12 - Dagrama de Ssema Fuzzy Onde: FUZZIFICADOR Serve para mapear valores numércos em conjunos fuzzy, além de avar as regras que esão relaconadas às varáves lngüíscas. REGRAS Fornecdas por especalsas ou exraídas de dados numércos. É formado por um conjuno de mplcações do po SE - ENTÃO. INFERÊNCIA Mapeam-se conjunos fuzzy de enrada em um conjuno fuzzy de saída. Deermna como as regras são avadas e combnadas.
40 DEFUZZIFICADOR Mapea o conjuno fuzzy resulane da nferênca em um valor numérco precso. Ou seja, a parr dos graus de parcpação de cada varável de uma regra, resula no grau de parcpação da saída e conseqüenemene no valor real da saída. A maor vanagem nesa eora surge no momeno em que as varáves não são raadas apenas em um esado, mas sm em n esados, cada um com um grau de assocação. Formalmene, na eora clássca dos conjunos, um elemeno pode perencer ou não a deermnado conjuno. Exsem rês formas de se defnr os elemenos de um conjuno (Rbero, 2002): 1. Pela enumeração de seus elemenos A = { u, u2,, } 1 L 2. Por uma propredade caracerísca A = { u / p( u) } u n 3. Por uma função caracerísca : U { 0,1} χ, so é, A 1, χ A( u) = 0, se u A se u A E na eora do SF, um conjuno fuzzy A do unverso de dscurso Ω é defndo por uma função de pernênca µ : Ω [0,1]. Essa função assoca a cada elemeno x de Ω o grau µ A (x ), com o qual x perence ao conjuno A. A função de pernênca µ A (x ) ndca o grau de compabldade do elemeno x em relação ao conjuno A. A eora dos conjunos fuzzy e a lógca fuzzy consuem a base para a formulação dos Ssemas de Inferênca Fuzzy (Mendel, 1992b). Um ouro componene vso na Fgura 2.12, é o banco de regras. Esas são defndas por mplcações do po SE - ENTÃO e envolvem varáves lngüíscas às quas são arbuídos conjunos fuzzy. As varáves lngüíscas de cada regra são agregadas, ulzando conecores lógcos do po (E/OU). Um exemplo apresenado em (Neo, 1999) mosra a composção de uma regra: A Se u 1 é quene E u 2 é muo baxo Enão v gra um pouco para drea anecedene conseqüene Nese exemplo, u 1, u 2 e v são varáves lngüíscas que, recebem como valores, os conjunos fuzzy quene, muo baxo e pouco para drea,
41 respecvamene. O resulado de cada regra avada por um ssema fuzzy é um conjuno fuzzy de saída modfcado pelo grau de dsparo da regra. A modfcação do conjuno fuzzy de saída é deermnada de acordo com o méodo de nferênca ulzado. A Fgura 2.13 mosra os passos necessáros no ssema de nferênca fuzzy. SISTEMA DE INFERÊNCIA FUZZY 1. Comparar as varáves de enrada com a função de pernênca correspondene para ober os valores de pernênca de cada róulo lngüísco (processo de fuzzfcação). 2. Combnar os valores de pernênca do anecedene (SE) das regras avadas para ober o valor de saída da regra. 3. Gerar o conjuno conseqüene (ENTÃO) de cada regra avada dependendo do valor gerado no passo aneror. 4. Agregar o conseqüene das regras avadas para produzr a saída precsa (defuzzfcação). Fgura 2.13 - Passos para o processo de nferênca Dos modelos de nferênca exsenes na consrução do SF, pode-se car: 1. Mamdan (1975), onde as regras são do po SE x é A E y é B ENTÃO z é C, sendo A, B, e C conjunos fuzzy. 2. Sugeno (1985), onde as regras são do po SE x é A E y é B ENTÃO z é f(x,y), sendo o conseqüene da regra uma função não fuzzy das varáves de enrada, em geral um polnômo. A dferença enre os dos pos anerores de nferênca fuzzy esá no conseqüene das regras. Cada po apresena uma forma de agregação dos resulados de cada regra e méodos de defuzzfcação própro. O modelo de MAMDANI, sendo ulzado nesa dsseração na prevsão de carga. Em um ssema de nferênca fuzzy, as regras podem ser formuladas a parr de dados numércos de enrada e saída de um ssema ou a parr do conhecmeno e experênca de um especalsa.
42 2.5.2. Algormo de Regras Auomácas de Mendel Para aplcações em prevsão de séres emporas, as regras são esabelecdas pela sére hsórca analsada, deermnando os conjunos fuzzy do anecedene e do conseqüene referenes às enradas e saídas respecvamene. Uma oura manera de esabelecer essas regras sera especfcar os conjunos e assocar os dados a esses conjunos defndos (Mendel, 1992b). Da mesma forma que é aplcada na RNA, o procedmeno de janela emporal ambém é ulzado nos SF. Seja uma seqüênca de observações y (k) k = 1, 2, 3,..., caracerzando uma sére emporal. O objevo da prevsão pode ser resumdo da segune forma: uma vez conhecdos os valores y ( k n +1), y ( k n + 2),..., y (k), deseja-se enconrar o valor esmado da varável l períodos à frene da orgem k, so é, deermnar y ( k + l), onde n e l são, respecvamene, a janela emporal e o horzone de prevsão. Assm, deseja-se deermnar o segune mapeameno: f : ( yk n+ 1,..., yk 1, yk ) yk + l. A Fgura 2.14 represena um exemplo de prevsão dada uma janela com quaro meddas da varável. A parr de [ y ( k 3), y ( k 2), y( k 1) e y (k) ], deermna-se o valor para um horzone, y ( k +1). Sére Temporal y(k+1) y(k-3) y(k-2) y(k-1) y(k) Fgura 2.14 - Prevsão de Séres Temporas na lógca fuzzy O algormo proposo por Mendel (1992a) consse em cnco eapas descras a segur:
43 U + 1. Dvdr a faxa de valores possíves da sére [ U, ] em m conjunos fuzzy; 2. Gerar as regras fuzzy, a parr dos pares de dados de enrada e saída coleados. Consse em cnco passos para cada regra j: a. Deermnar o amanho da janela de empo n; b. Deermnar o horzone de prevsão l; c. Deermnar o grau de pernênca de cada elemeno dos pares de dados de enrada e saída; d. Arbur a cada elemeno dos pares de dados de enrada e saída o conjuno fuzzy com maor grau de pernênca; e. Ober uma regra para par de dados de enrada e saída; 3. Assocar um grau para cada regra, mulplcando-se o grau de pernênca de cada ermo do anecedene e conseqüene. Caso haja regras conflanes, so é, regras composas dos mesmos anecedenes, porém com conseqüenes dsnos, ulzar aquela que possur maor grau denre as conflanes. 4. Crar um banco combnado de regras fuzzy; 5. Deermnar o mapeameno baseado no banco combnado de regras fuzzy. Um dos méodos para gerar a saída precsa é o cenróde (cenro de gravdade). 2.6. Combnação de Prevsões Segundo Granger (1980), se duas ou mas prevsões fossem combnadas, o resulado fnal gerara melhores prevsões que cada um dos méodos separadamene. Enreano, para que a combnação de resulados de prevsão seja sasfaóra, cada modelo de prevsão deve ser não-vesado, no sendo de não subesmar ou sobreesmar conssenemene os valores verdaderos. Para enender a eora da combnação de prevsões, supõe-se duas prevsões de prevsão f e ef e g, ambas um passo à frene para o valor eg. Além dsso, suponha que as prevsões os erros ef e zero e varânca consane. Uma prevsão combnada dada por x +, que geram erros eg possuem méda c 2.21 = kf + ( 1 k) g
44 Onde 0 k 1, c será necessaramene não-vesado e o erro resulane da prevsão combnada dado por: 2.22 ec = x + c = kef + ( 1 k) eg O valor k pode ser escolhdo al que a varânca dos erros de prevsão combnadas, ec, seja menor do que qualquer uma das varâncas dos erros dos modelos ndvduas. Como a méda dos erros é nula, conseqüenemene a varâncas e os erros quadrácos médo serão dêncos. A varânca de ec é dada por: 2.23 Var( ec) = k 2 Var( ef ) + (1 k) Var( eg) + 2k(1 k) Cov( ef ; eg) 2 onde a Cov ( ef ; eg) é a covarânca enre os erros de f e Var (ec), basa dervar a eq. 2.23 com relação a k e gualar a zero: g. Para mnmzar a 2.24 Var( eg ) Cov( ef ; eg ) k = Var( eg ) + Var( ef ) 2Cov( ef ; eg ) Se ef e eg forem descorrelaados, essa equação se reduz a: 2.25 Var( eg ) k = Var( eg ) + Var( ef ) Se subsurmos a eq. 2.25 na equação da varânca dos erros de prevsão combnada (eq. 2.23), concluí-se que a varânca resulane para os erros de prevsão combnadas será menor do que ambas as varâncas de ef e eg, logo a varânca nunca será maor do que a menor das varâncas das duas prevsões. Assm, em eora, uma prevsão combnada será geralmene superor a qualquer dos méodos de prevsão e nunca poderá ser por do que o melhor dos modelos de prevsões. Iso sgnfca que um modelo combnado nunca perderá para qualquer ouro modelo, sempre prevendo melhor os dados.
45 Porém, sso só ocorre na eora, porque nfelzmene a eq. 2.24 não pode ser usada para enconrar o peso k, já que as varâncas e as covarâncas requerdas não são conhecdas. Podem ser esmadas a parr dos erros passados, mas geralmene exsem poucos erros passados para realzar os cálculos. Ouro empeclho é a nflexbldade de k na combnação. Por exemplo, se f ver de um modelo smples de regressão e g de um modelo economérco que seja connuamene aualzado e melhorado conforme aplcação das correções dos erros passados, sera razoável esperar que as prevsões do modelo economérco levassem pesos crescenes com o empo conforme a melhora em suas prevsões. Para amenzar eses problemas, pode-se consderar um algormo onde o peso k se alera com o empo, como equação abaxo: n 2 2 2 2.26 k + 1 = ( eg ) [( eg ) + ( ef ) ] = n m n = n m A eq. 2.26 é usada e as varâncas são esmadas a parr dos úlmos m erros. Segundo Granger (1980), um valor aproprado para m sera 12 (quando se analsa dados mensas), embora esa seja uma escolha arbrára. Se menos de doze erros esverem dsponíves, a soma consderará apenas os erros conhecdos. Um peso aproprado para o caso em que não exsem prevsões anerores é 1/2. Essa écnca de combnação pode ser generalzada para mas de duas prevsões, segundo a equação a segur: 2.27 c = k1, Z 1, + k 2, Z 2, + k 3, Z 3, +... + k p, Z p, Seja e, os erros do j-ésmo méodo de prevsão. Enão: j j, =, ) n m j n 2 2.28 A = [ ( e ] 1 2.29 B = A1, + A2, + A3, +... + Ap,
46 O peso do j-ésmo méodo deve ser: 2.30 k j, = A j, B Enreano, é melhor rejear odas as prevsões realmene nefcenes, so é, aquelas com valores parcularmene pequenos de A e re-aplcar o procedmeno aneror para combnar o resane. Ese méodo de combnação de prevsões é denomnado de Combnação Óma que foca a mnmzação da varânca dos erros de prevsão combnada como o créro para a esmação dos pesos k, de cada prevsão ndvdual. Para os leores neressados em maores dealhes na aplcação da combnação de méodos unvarados na aplcação de carga elérca, recomendase a leura de Bou Issa (1996).