Módulo de Regressão e Séries S Temporais

Transcrição

1 Quem sou eu? Módulo de Regressão e Séries S Temporis Pre 3 Mônic Brros, D.Sc. Julho de 007 Mônic Brros Douor em Séries Temporis PUC-Rio Mesre em Esísic Universiy of Texs Ausin, EUA Bchrel em Memáic Universiy of Wshingon, Sele, EUA Professor d PUC-Rio (Depo. De Eng. Eléric) E-mils: monic@ele.puc-rio.br, monic@mbrros.com Home pge: hp:// monic@mbrros.com monic@mbrros.com Progrm do Curso Modelgem ARIMA de Box & Jenins szonl e não szonl Função de uocorrelção e uocorrelção prcil Modelo Idenificção de (p, q, d, P, Q, D) Esimção Esísics de juse e nálise dos resíduos Exercícios MODELO UNIVARIADO (Não Szonl e Szonl) monic@mbrros.com 3 monic@mbrros.com 4

2 PROCESSO ESTOCÁSTICO STICO Tod vriável leóri que evolui no empo, i.e., gurd um esruur de dependênci no empo é um processo esocásico. SÉRIE TEMPORAL É um relizção priculr de um processo esocásico. Exemplo: Inflção, Reornos Finnceiros, Demnd, ec... 5 σ MÉDIA de um processo (série) μ = E ( ) m T = = T Teórico Esimdor VARIÂNCIA de um processo (série) S = {( μ ) } = E T ( m ) = T Teórico Esimdor monic@mbrros.com 6 AUTOCOVARIÂNCIA de um processo (série) AUTOCORRELAÇÃO de um processo (série) γ {( μ )( μ )} = E + c T = + T = ( m )( m ) Teórico Esimdor É medid pdronizd d dependênci liner de lg, (é uocovriânci pdronizd) γ ρ = γ 0 = VAR (, + ) ( ) VAR( ) COV + Teórico Onde =,... é o lg ou defsgem Lembrr que: γ = COV ( ) = VAR( ) = σ = consne 0, monic@mbrros.com 7 monic@mbrros.com 8

3 ρ + Enão: pr odos os lgs,, 3,... Esimdor r (uocorrelção esimd de lg ) c T = = = c0 T r ( m )( m ) ( m ) = O gráfico de r() versus é chmdo correlogrm do processo (ou d série ). + PROCESSO ESTACIONÁRIO (de ª ordem) Um processo esocásico é dio esácionário de ª ordem se: (i) E[ ] = μ z [ ] pr qulquer (ii) E (consne) pr qulquer μ z = σ z (iii) Cov [, + ] = função pens do lg pr qulquer insne i.e, o processo em médi e vriânci consnes e uocovriânci só depende do lg monic@mbrros.com 9 monic@mbrros.com 0 Exemplos PROCESSO RUÍDO BRANCO Escionário Não Escionário n Médi Não Escionário n Médi Não Escionário n Vriânci E n Vriânci monic@mbrros.com Um processo esocásico é chmdo de ruído brnco e denodo por se, lém de escionário de ª ordem, ele não presen qulquer dependênci seril, ou sej,, pr = 0 ρ = 0, pr > 0 Ou sej, um ruído brnco é um seqüênci de observções com médi e vriânci consnes e uocorrelções nuls em odos os lgs. monic@mbrros.com

4 Objeivo de Análise de Série S Temporl Dd um série emporl que não é brnc, iso é, que exibe um esruur de dependênci seril, chr o melhor modelo memáico que descrev es dependênci seril e rnsforme num ruído brnco. Se um série já é ruído brnco, enão não exise modelo univrido pr el! O operdor B, conhecido como Operdor de Arso ou Bcwrd Shif Operor é bsne usdo por n descrição dos modelos e é definido como: B = - monic@mbrros.com 3 Exemplos ) ) = α + α + β + β 4 4 = α B + α B + β B + β 4 = ( α B + α B ) + ( β B+ β ) = α + α + α = α B + α B + α B + 3 = ( α B + α B + α B 3 ) + 3 monic@mbrros.com 4 Função de uocorrelção prcil de lg É um medid de dependênci liner ou correlção liner enre e + eliminndo dependênci dos ermos inermediários +, i.e.: MODELO ARIMA de Box e Jenins Sej um série escionári de ª ordem. A modelgem BJ propõe modelos lineres pr, conhecidos como ARIMA(p, d, q). φ (, K ) = Corr, + +, + monic@mbrros.com 5 monic@mbrros.com 6

5 Csos Priculres do ARIMA(p, d, q) AR(p) = modelo uoregressivo de ordem p MA(q) = modelo médis móveis de ordem q MODELOS AR(p) Modelo Auoregressivo de ordem p ( φ ) AR() : = φ +, B = - ( ) AR() : = φ + φ +, φ B φ B = - - p ( K ) AR(p) : = φ -+ φ -+ K+ φp-p +, φ B φ B φpb = monic@mbrros.com 7 monic@mbrros.com 8 Problem Se ordem p do modelo cresce, eremos muios prâmeros φ i ; i =,..., p pr esimr, o que requer séries de mnhos elevdos, nem sempre disponíveis. Solução enconrd Reduzir ordem p d pre AR rvés d inclusão no modelo de defsgens no ruído brnco (lém ds defsgens d própri série emporl). Isso eqüivle dicionr um esruur MA o modelo (médi móvel = Moving Averge ) monic@mbrros.com 9 Modelos MA(q) = Médis Móveis de ordem q MA() : = θ -, = ( θb) ( ) MA() : = θ - θ -, = θb θb q ( K q ) MA(q) : = θ - θ - K θq -q, = θb θb θ B monic@mbrros.com 0

6 Exemplo (modelo MA()) = Exemplo (modelo AR com infinios lgs) ( + θ B + θ B + K) θ, = θb + θ iso é : = + θ +... ( θ B) =, = Como no cso do AR (p), pr ordens MA ls é melhor rblhr com o AR inverido que erá, cermene, menos prâmeros serem esimdos. AR( ) MA( q) MA( ) AR( p) Princípio d Prcimôni! monic@mbrros.com monic@mbrros.com Modelos ARMA (p, q) ARMA(,) : -φ ( φb) = ( θ B) - = θ- ARMA(,) : - φ - φ = θ θ ( φ φ ) = ( θ θ ) B B B B ARMA(p,q) : - φ -K - φ = θ K - θ - p -p - q -q ( φ φ K φ ) = ( θ θ θ ) p q p K q monic@mbrros.com 3 B B B B B B Fundmeno eórico dos modelos BJ Pssgem de um ruído brnco por um filro liner de memóri infini ger um processo escionário de ordem. (Teori gerl de sisems lineres) ψ( B) = ψ ψ ψ 3 3 K 3 =( ψ ψ ψ3 K) B B B ( ) = ψ B monic@mbrros.com 4

7 Fundmeno Teórico Como ψ( B) coném infinios prâmeros, enão BJ sugerem escrevê-lo como rzão de dois polinômios: ou sej ψ( B) θ = φ θ B = ( ) φ( B) ( B) ( B) φ ( B) = θ ( B) Logo, modelgem BJ consise em chr esruur ARMA (i.e., s defsgens p e q) mis dequd pr série. monic@mbrros.com 5 Processos Não-Escionários Homogêneos Y é não Escionário n Médi Sej = Y -Y - = Y -BY = (-B)Y = Y (série escionári) X é não Escionário n Médi Y = X =X -X - Y : Não Escionário n Médi = Y = X = X (série escionári) monic@mbrros.com 6 Generlizção Um processo esocásico é não escionário homogêneo se ele se orn escionário pós plicção de d diferençs Se Y é não escionário homogêneo enão: d = Y éescionário! Modelo ARIMA (p,d,q) d φ( B) = θ( B) φ( B) = φ B φ B φ B K θ( B) = θ B θ B θ B d = ( B) d K p q p q monic@mbrros.com 7 monic@mbrros.com 8

8 Exemplos i) ARIMA (,,) ( - φ B) ( - B) = ( - θ B) [ ] -( φ + ) B + φ B = ( -θ B ) -( φ + ) + φ = θ II) MODELO BJ Fluxogrm Opercionl Y ==> d ==> θ(b), φ(b) ==> = (φ +) - - φ θ - ii) ARIMA (0,,) = ( θb θb ) ( B + B ) = ( θ B θ B ) = + = + monic@mbrros.com 9 θ θ θ θ Série originl (não escionári) Série escionári pós d diferençs monic@mbrros.com 30 Fluxo Opercionl BJ Y ~ Operdor diferenç Idenificção Idenificção ~ Ordem AR(p) e MA(q) Vlores de p,d,q pr Y. Esimção $ $ φ e θ i j Esimção i) d rvés dos gráficos de d Y. Não Ruído ~ é brnco Sim Teses ii) p e q rvés ds ACF e PACF (correlogrm e correlogrm prcil de d Y ). monic@mbrros.com Previsão 3 monic@mbrros.com 3

9 No gráfico seguir esá um série não escionári, pr qul são necessáris dus diferençs é enconrr um série escionári. A uocorrelção (ACF) d série originl decresce MUITO lenmene, como mosrdo seguir Gráfico d Série originl monic@mbrros.com 33 monic@mbrros.com 34 O gráfico d. diferenç d série é: A ACF d série diferencid é: monic@mbrros.com 35 monic@mbrros.com 36

10 A série duplmene diferencid é: E su função de Auocorrelção: monic@mbrros.com 37 Logo, form necessáris dus diferençs pr ornr série originl escionári. monic@mbrros.com 38 Esimção φ i s e θ j s são esimdos minimizndo som dos qudrdos dos resíduos (ou erro de previsão), i.e. φ i s e θ j s is que Σ sej mínim = Obs: Os erros pdrões esimdos permiem esr s hipóeses nuls H o : φ i = 0 e H o : θ j = 0 Teses de sobrefixção juse modelos miores (mis elbordos) subsiu p por p + e q por q + e verifique se os prâmeros são significnes Teses nos Resíduos Devem ser ruído brnco, com médi nul e vriânci pequen NÃO DEVE EXISTIR AUTOCORRELAÇÃO NOS RESÍDUOS!!!! monic@mbrros.com 39 monic@mbrros.com 40

11 Tese de Ljung e Box (ou Pormneu) Esísic de ese é clculd prir ds ACFs esimds dos resíduos. A esísic de Ljung e Box mede mgniude d ACF dos resíduos pr diversos lgs, ou sej, esende esísic de Durbin-Wson (só lg ). r () i Q= n( n+ )Σ i= ( n- ) Sob hipóese de um ruído brnco, Q é um vriável com densidde Qui-qudrdo com M grus de liberdde. Onde n = T-d M = -(p+q) monic@mbrros.com 4 MODELOS PARA SÉRIES SAONAIS (SARIMA) BJ propõem um esruur similr o modelo ARIMA(p,d,q) pr s séries szonis, considerndo o inervlo de "S" (S; período szonl, e.g. S =, S = 4, ec.) o invés do inervlo uniário dos modelos simples. Modelo MA(Q) Purmene Szonl MA(Q)szonl MA(QS) simples com prâmeros não-nulos somene nos lgs S, S,...,QS. monic@mbrros.com 4 Correlogrm do MA(Q) Exemplo: S = ; MA() Szonl ρ w = - Θ - - Θ -4 ρ... S S 3S QS Ou sej: não exise qulquer ipo de dependênci denro de um período szonl; só exisem dependêncis enre períodos szonis. monic@mbrros.com 43 4 Pelo viso neriormene pr o modelo simples, PACF do MA(Q) szonl é compos de exponenciis e/ou senóides morecids nos lgs S, S, 3S,... monic@mbrros.com 44 K

12 Modelo AR(P) Purmene Szonl φ w = Φ w + Φ w Φ w s s p ps s s ps ou: w = ( + Φ B + Φ B Φ B ) p Dí: AR(P) Szonl = AR(PS) Simples com prâmero não-nulos nulos somene nos lg's S, S,..., PS Por nlogi (e dulidde) s funções ACF e PACF do AR(P) Szonl são: ρ S S... PS K Modelo ARMA(P,Q) purmene Szonl. w = Φ w + Φ w Φ w + Θ... Θ s s P Ps s Q Qs s s P ps s s Qs Q ou: (-Φ B -Φ B -Φ B ) w = (-Θ B -Θ B -...-Θ B )... monic@mbrros.com S S... PS (P+)S K 45 monic@mbrros.com 46 Modelos SARIMA Tmbém m conhecido como ARIMA muliplicivo d θ(b)/ φ(b) b Θ (B s )/Φ(B s). s D Exemplo: Modelo Airline É o modelo szonl muliplicivo que represen séries s szonis que exibem um endênci e sobrepos es, um componene szonl mulipliciv, ípic de ddos de negócios e, priculr, de vends de pssgens éres. O modelo é: SARIMA (0,, ) x (0,, ) É fcil mosrr que o correlogrm do modelo irline presen vlores não nulos nos lg's,, e 3, como bixo: φ(b) d b = θ(b) Φ (B s ). s D = Θ (B s )b ρ Onde S D d s Φ( B ). φ( B). Θ( B ). ( B). s = θ gru PS + p +SD + d gru QS + q... S (S)ARIMA (p, d, q) x (P, D, Q) D S = (-B S ) D 3 K monic@mbrros.com 47 monic@mbrros.com 48

13 Modelo Airline (SARIMA(0,,)x(0,,) S ) Exemplo: Modelo Airline pr ddos rimesris (s = 4) 4 4 ( B)( B ) = ( θb)( ΘB ) De um mneir gerl, se o período szonl é S, o modelo orn-se: S S ( B)( B ) = ( θb)( ΘB ) Define-se vriável de inervenção, como série emporl, denod por X i, compos de vlores "0 e "", onde "0" represen usênci de um fenômeno. O modelo BJ com inervenção éddo por: φ d bi ( B) = θ ( B) + w B X i onde w i é o "efeio" d vriável de inervenção X i em. b i é o lg de defsmeno do efeio d vriável X i em. monic@mbrros.com 49 monic@mbrros.com 50 Tipos de Inervenção Exemplo Série não szonl PIB preços de 006 ( ) Legend PIB_R$_ PulsoSzonl X3(j+s) ; j=,...,s ; =,... 0 X 3 (j+s) 5 X E+005 j j+s j+s j+3s... monic@mbrros.com monic@mbrros.com 5

14 A série é clrmene não escionári, porno idenificção ds ordens p e q irá requerer diferencição prévi d série. ACF d série sem diferencição Ms, qul cr d ACF e PACF d série sem diferencição? monic@mbrros.com 53 monic@mbrros.com 54 PACF d série sem diferencição ACF d série pós ª. Diferenç monic@mbrros.com 55 monic@mbrros.com 56

15 PACF d série pós ª. Diferenç Pelos gráficos neriores... ACF d série diferencid sugere MA() ou MA(). PACF d série diferencid sugere AR(). Opções: ARIMA(,,) ou ARIMA(,,) monic@mbrros.com 57 monic@mbrros.com 58 Ajuse de ARIMA(,,) Forecs Model for PIB_R$_006 ARIMA(,,) Term Coefficien Sd. Error -Sisic Significnce [] b[] <- b[] Wihin-Smple Sisics Smple size 60 Number of prmeers 3 Men.0e+006 Sndrd deviion 6.939e+005 R-squre Adjused R-squre Durbin-Wson.05 Ljung-Box(8)=6.9 P=0.99 Forecs error 3.9e+004 BIC 4.35e+004 MAPE RMSE 3.83e+004 MAD.59e+004 monic@mbrros.com 59 Ajuse de ARIMA(,,) Forecs Model for PIB_R$_006 ARIMA(,,) Term Coefficien Sd. Error -Sisic Significnce [] b[] Wihin-Smple Sisics Smple size 60 Number of prmeers Men.0e+006 Sndrd deviion 6.939e+005 R-squre Adjused R-squre Durbin-Wson.7 * Ljung-Box(8)=34. P= Forecs error 3.85e+004 BIC 4.054e+004 MAPE RMSE 3.787e+004 MAD.607e+004 Todos os coefs. significnes, ms lguns dos erros in smple ligeirmene miores que no modelo nerior Exper selecion do FPW sugere ese modelo monic@mbrros.com 60

16 Exemplo Série szonl Consumo mensl de energi eléric ol Brsil ACF d série originl Legend TOTAL monic@mbrros.com monic@mbrros.com 6 PACF d série originl ACF d série com um diferenç NÃO szonl monic@mbrros.com 63 monic@mbrros.com 64

17 PACF d série com um diferenç NÃO szonl ACF d série com um diferenç szonl A diferenç szonl não serve pr ornr série escionári. Enão, o que ineress é pens diferenç não szonl. monic@mbrros.com 65 monic@mbrros.com 66 Pelos gráficos neriores... O problem é BEM MAIS complicdo que no cso não szonl... ACF d série diferencid olhe o lgs e mbém lgs múliplos de, sugerindo MA() não szonl e MA() szonl. PACF d série diferencid sugere AR() e AR() szonl. Modelo enivo: SARIMA(,,)(,0,) monic@mbrros.com 67 SARIMA(,,)(,0,) Forecs Model for ol ARIMA(,,)*(,0,) Term Coefficien Sd. Error -Sisic Significnce [] <- b[] <- A[] B[] Try lernive model ARIMA(0,,)*(,0,) Wihin-Smple Sisics Smple size 340 Number of prmeers 4 Men.87e+004 Sndrd deviion 64 R-squre 0.99 Adjused R-squre Durbin-Wson.77 Ljung-Box(8)=7.5 P=0.487 Forecs error BIC 60.6 Necessidde de rejusr esruur do modelo, jogndo for prâmeros não significnes. MAPE RMSE 58.3 monic@mbrros.com 68 MAD 343

18 SARIMA(0,,)(,0,) Forecs Model for ol ARIMA(0,,)*(,0,) Term Coefficien Sd. Error -Sisic Significnce b[] A[] B[] Wihin-Smple Sisics Smple size 340 Number of prmeers 3 Men.87e+004 Sndrd deviion 64 R-squre Adjused R-squre Durbin-Wson.767 Ljung-Box(8)=8.8 P= Forecs error 587 BIC MAPE RMSE MAD SARIMA(,,0)(,0,) Forecs Model for ol ARIMA(,,0)*(,0,) Term Coefficien Sd. Error -Sisic Significnce [] A[] B[] Wihin-Smple Sisics Smple size 340 Number of prmeers 3 Men.87e+004 Sndrd deviion 64 R-squre 0.99 Adjused R-squre Durbin-Wson.757 Ljung-Box(8)=7.44 P=0.507 Forecs error 585. BIC MAPE RMSE 58.5 MAD monic@mbrros.com 69 monic@mbrros.com 70 Como escolher denre os dois úlimos modelos? Esísics de erros denro d mosr BIC Holdou seprr lguns meses como se não perencessem à série e verificr cpcidde de previsão ACF dos resíduos é imporne que os resíduos de um modelo B/J não enhm esruur. monic@mbrros.com 7