DISSERTAÇÃO DE MESTRADO

Transcrição

1 DISSERTAÇÃO DE MESTRADO INFERÊNCIA SOBRE OS HIPERPARÂMETROS DOS MODELOS ESTRUTURAIS USANDO BOOTSTRAP POR: JULIANA APARECIDA RIBEIRO ORIENTADORA: GLAURA DA CONCEIÇÃO FRANCO CO-ORIENTADOR: FREDERICO R. B. CRUZ FEVEREIRO DE 6

2 JULIANA APARECIDA RIBEIRO INFERÊNCIA SOBRE OS HIPERPARÂMETROS DOS MODELOS ESTRUTURAIS USANDO BOOTSTRAP Disseração apresenada ao Deparameno de Esaísica do Insiuo de Ciências Exaas da UFMG como requisio parcial para obenção do íulo de Mesre em Esaísica. Orienadora: Glaura da Conceição Franco Co-orienador: Frederico R. B. Cruz UNIVERSIDADE FEDERAL DE MINAS GERAIS BELO HORIZONTE, FEVEREIRO DE 6 ii

3 Carinhosamene, dedico esa disseração a meus pais, por erem confiado em mim e me apoiado em mais esa eapa de minha vida. iii

4 AGRADECIMENTOS Primeiramene agradeço a Deus, que me iluminou, me deu forças, deerminação e perseverança para alcançar mais esa conquisa em minha vida. Aos meus pais, grandes encorajadores e inercessores em mais esa caminhada. Quanas foram as vezes, que mesmo disanes fisicamene, esiveram ao meu lado, dizendo para eu não desisir, pois eu seria capaz de vencer os obsáculos. Foi difícil, mas com amanho apoio e confiança dedicados, não eria como falhar. Imensa graidão a minha orienadora Profª. Glaura, pois sem ela, nada eria conseguido. Aproximadamene cinco anos de uma excelene convivência e impecável acompanhameno e orienação acadêmica. Obrigada por oda a amizade, paciência, apoio, confiança, conselhos, zelo e carinho. Ao Prof. Frederico, que foi mais que um co-orienador. Eseve sempre presene, dispondo-se a me ensinar, se dedicando e acompanhando fielmene o desenvolvimeno desa disseração. Mediane incomensurável ajuda, fica a minha inesimável graidão. Agradeço ao Pedro, por er permanecido juno a mim ao longo desa jornada. O carinho, a paciência e o bem-querer foram essenciais em odos os momenos. Aos meus irmãos, parenes, amigos (as), colegas e odos, que de alguma forma, se fizeram presenes e me apoiaram, o meu eerno agradecimeno! iv

5 RESUMO Esa disseração é baseada na decomposição de séries emporais via componenes nãoobserváveis, aravés dos chamados modelos esruurais. Uma forma alernaiva de reescrever os modelos esruurais se dá por meio da forma de espaço de esados. Realizada esa ranscrição, uiliza-se o chamado filro de Kalman para a aualização do veor de esado e para a consrução da função de verossimilhança, ornando possível a esimação dos hiperparâmeros do modelo. Aplicações da écnica de reamosragem boosrap são realizadas a fim de fazer inferências sobre os hiperparâmeros dos modelos, aenando-se, inclusive, para a consrução de inervalos de confiança. Para ano, são uilizadas implemenações na linguagem de programação Ox. Resulados de simulações asseguram a eficiência do processo de esimação da linguagem Ox, junamene à aplicação em uma série emporal real. Palavras-chave: modelos esruurais, filro de Kalman, hiperparâmeros, boosrap. v

6 ABSTRACT This disseraion is based on he decomposiion of imes series via non-observed componens, hrough srucural models. An alernaive way o rewrie he srucural models is by using he sae space form. Once his ranscripion is done, he Kalman filer is used for updaing he sae vecor and consrucing he likelihood funcion o esimae he hyperparameers of he model. The boosrap resampling echnique is applied o make inferences on he hyperparameers of he models, aending for he consrucion of confidence inervals, which is made in he programming language Ox. The resuls of he simulaions and a real ime series applicaion verify he efficiency of he language esimaion process. Keywords: srucural models, Kalman filer, hyperparameers, boosrap. vi

7 LISTA DE FIGURAS.1. Um algorimo quase-newon Série simulada seguindo o MNL com, 5 e 1,...16 η =.3. Gráficos das médias das esimaivas do MNL de acordo com o burn-in Gráficos das médias das esimaivas do MNL de acordo com o MC Gráficos das esimaivas do MNL de acordo com o amanho da série Série simulada seguindo o MTL, com η =, 5, ξ =, 1 e 1, Gráficos das médias das esimaivas do MTL de acordo com o burn-in Gráficos das médias das esimaivas do MTL de acordo com o MC Gráficos das esimaivas do MTL de acordo com o amanho da série Série seguindo o MEB, com η =, 5, ξ =, 1, =, 1 e 1, Gráficos das médias das esimaivas do MEB de acordo com o burn-in Gráficos das médias das esimaivas do MEB de acordo com o MC Gráficos das esimaivas do MEB de acordo com o amanho da série Gráficos das EMV e esimaivas boosrap dos hiperparâmeros do MNL Hisogramas das esimaivas boosrap do MNL de uma simulação MC Gráficos das EMV e esimaivas boosrap dos hiperparâmeros do MTL Hisogramas das esimaivas boosrap do MTL de uma simulação MC Gráficos das EMV e esimaivas boosrap dos hiperparâmeros do MEB Hisogramas das esimaivas boosrap do MEB de uma simulação MC Série emporal do IPCA (%) de Belo Horizone (jan/97 a ou/5) Hisograma da série do IPCA (%) de Belo Horizone...49 ε = ω ε = ε = vii

8 LISTA DE TABELAS.1. Resulado das simulações para MNL variando o amanho da série e do burn-in e o número de replicações MC Resulado das simulações para MTL variando o amanho da série e do burn-in e o número de replicações MC Resulado das simulações para MEB variando o amanho da série e do burn-in e o número de replicações MC EMV e esimaivas boosrap dos hiperparâmeros do MNL Inervalos de confiança boosrap para os hiperparâmeros do MNL EMV e esimaivas boosrap dos hiperparâmeros do MTL Inervalos de confiança boosrap para os hiperparâmeros do MTL EMV e esimaivas boosrap dos hiperparâmeros do MEB Inervalos de confiança boosrap para os hiperparâmeros do MEB Análise descriiva da série do IPCA (%) de Belo Horizone EMV e esimaivas boosrap dos hiperparâmeros do MEB para a série do IPCA (%) EMV e esimaivas boosrap dos hiperparâmeros do MTL para a série do IPCA (%) EMV e esimaivas boosrap dos hiperparâmeros do MNL para a série do IPCA (%)...51 B.1. Resulado das simulações para MNL variando o número de ierações BFGS e de replicações MC (burn-in = 1)...67 B.. Resulado das simulações para MTL variando o número de ierações BFGS e de replicações MC (burn-in = 1)...67 B.3. Resulado das simulações para MEB variando o número de ierações BFGS e de replicações MC (burn-in = 1)...68 viii

9 LISTA DE ABREVIATURAS E SÍMBOLOS Y - Série emporal univariada µ - Componene de endência γ ψ - Componene sazonal - Componene cíclico ε - Componene aleaório ou erro MNL Modelo de Nível Local Y, Y 1, MTL Modelo de Tendência Linear Local MEB Modelo Esruural Básico i.i.d. Independene e idenicamene disribuído S - Número de períodos sazonais FK Filro de Kalman MC Mone Carlo N Número de observações da série Burn-in Número de observações iniciais que são excluídas das séries simuladas BFGS Número máximo de ierações BFGS para convergência EMV Esimaivas de máxima verossimilhança EQM Erro quadráico médio Vício (%) Vício percenual das esimaivas * Indicaivo dos resulados obidos uilizando-se o boosrap ix

10 SUMÁRIO 1. INTRODUÇÃO Moivação 1.. Objeivos e Escopo da Disseração 1.3. Organização da Disseração 3. MODELOS ESTRUTURAIS 4.1. Definição. 4.. Tipos de Modelos Modelo de Nível Local Modelo de Tendência Linear Local Modelo Esruural Básico Forma de Espaço de Esados Forma de espaço de esados para o MNL Forma de espaço de esados para o MTL Forma de espaço de esados para o MEB Filro de Kalman.. 1 x

11 .5. Esimação por Máxima Verossimilhança Implemenações em Ox Mone Carlo para o MNL Mone Carlo para o MTL Mone Carlo para o MEB Conclusões e Observações Finais BOOTSTRAP Definição A Técnica do Boosrap Boosrap Paramérico Boosrap Não-Paramérico Inferência Usando o Boosrap Boosrap em Modelos Esruurais Inervalos de Confiança Boosrap Percenílico Simulações do Boosrap usando Ox Boosrap para o MNL. 36 xi

12 3.6.. Boosrap para o MTL Boosrap para o MEB Conclusões e Observações Finais APLICAÇÃO A SÉRIE REAL CONCLUSÕES FINAIS... 5 APÊNDICE A 54 APÊNDICE B 67 APÊNDICE C 69 APÊNDICE D 7 REFERÊNCIAS BIBLIOGRÁFICAS xii

13 1. INTRODUÇÃO Uma série emporal é um conjuno de observações omadas em empos deerminados, comumene em inervalos iguais. Exemplos de séries emporais são o consumo mensal de energia em uma residência, o preço semanal de um produo, o valor anual de um índice de produção indusrial, o valor diário de fechameno de uma deerminada ação nas bolsas de valores, as emperauras horárias anunciadas pelo serviço meeorológico de uma cidade, e muios ouros. Todos os méodos esaísicos de previsão de séries emporais baseiam-se na idéia de que as observações passadas da série conêm informações sobre o seu padrão de comporameno no fuuro. A essência deses méodos consise em idenificar o padrão da série, separando-o do ruído (erro) conido nas observações individuais, e uilizá-lo para prever os valores fuuros da série. Maemaicamene, uma série emporal é definida pelos valores Y, de uma variável Y nos empos, Y 1 1,,. Porano, Y é uma função de simbolizada por Y = F() e é represenada ilusraivamene por meio da consrução de um gráfico de Y em função de, descrio por ponos que se movem com o decorrer do empo. Uma maneira de se modelar séries emporais é aravés da decomposição em seus componenes não-observáveis, por meio dos modelos esruurais (Harvey, 1989). Esa écnica de desmembrar as séries aravés dos componenes não-observáveis foi inicialmene menosprezada devido à dificuldade compuacional envolvida na implemenação do filro de Kalman. Hoje em dia, os modelos esruurais vêm sendo basane uilizados, endo em visa que os procedimenos de modelagem e previsão das séries ornam-se mais simples devido à inerpreação direa conseguida aravés dos componenes deses modelos. Além diso, pacoes compuacionais, como o Ox (Doornik,1999), foram desenvolvidos para o ajuse de modelos esruurais e possibiliam a implemenação de novas roinas aravés da linguagem C++. Alguns exemplos de uilização desa modelagem podem ser visos em Harvey (1), Harvey e al. (4) e Durbin & Koopman (1). A esimação do modelo é feia aravés da esimação das variâncias dos erros dos componenes não-observáveis, denominadas hiperparâmeros. Inferências sobre esas 1

14 quanidades podem ser realizadas a parir da disribuição assinóica dos hiperparâmeros (Harvey, 1989). A écnica de reamosragem boosrap (Efron, 1979) é um recurso alernaivo para fazer inferência sobre os hiperparâmeros quando não se em uma amosra grande. Não se raa de um méodo de esimação, e sim de uma écnica em que amosras dos dados originais são coleadas e a parir desas reamosras as esimações são realizadas. Alguns rabalhos uilizando o boosrap em modelos esruurais já foram realizados, por exemplo: Soffer & Wall (1991), Franco & Souza () e Pfeffermann & Tiller (4). Soffer & Wall (1991) propuseram a uilização do boosrap em modelos de espaço de esados, Franco & Souza () esudaram o boosrap aplicado nos modelos mais simples, que apresenavam somene endência e já Pfeffermann & Tiller (4) uilizaram o boosrap paramérico e não-paramérico para esimar os modelos esruurais. Ouras referências imporanes são Davis & Yam (3) e Olsson (5) Moivação Aualmene, poucos rabalhos aplicando o boosrap em modelos esruurais são conhecidos. Desa forma, a moivação principal desa disseração baseia-se na uilização da meodologia boosrap nos modelos esruurais. Inferência sobre os hiperparâmeros deses modelos, baseada na disribuição assinóica, pode ser problemáica e pode gerar erros de esimação quando se em poucas observações na série analisada. Uma forma, enão, de enar fazer inferência sobre os hiperparâmeros dos modelos esruurais se dá aravés da aplicação da écnica não-paramérica do boosrap,. 1.. Objeivos e Escopo da Disseração O principal ineresse desa disseração é o esudo dos hiperparâmeros dos modelos esruurais em séries emporais, mais especificamene do modelo de nível local (MNL), do modelo de endência linear local (MTL) e do modelo esruural básico (MEB). A disseração resringir-se-á ao esudo sobre as variâncias dos ruídos de cada modelo, cuja disribuição será assumida como sendo a gaussiana. Para fazer inferências sobre ais hiperparâmeros, a écnica do boosrap, inroduzida por Efron (1979), será

15 uilizada, aravés da qual serão consruídos inervalos de confiança por meio da linguagem Ox (Doornik, 1999). Assim, preende-se nese rabalho: (i) fazer um esudo dealhado sobre os modelos esruurais em séries emporais, desmembrando-os na forma de espaço de esados e uilizando o filro de Kalman (Kalman, 196) para o cálculo da sua função de verossimilhança; (ii) realizar simulações Mone Carlo para verificar a correção do méodo de esimação implemenado na linguagem de programação maricial Ox e aesar a eficiência da implemenação desenvolvida; (iii) implemenar o boosrap nos resíduos e consruir as séries boosrap para os modelos especificados; (iv) verificar a eficiência do boosrap para consrução da disribuição empírica dos hiperparâmeros e consrução de inervalos de confiança; (v) fazer aplicação em uma série emporal real Organização da Disseração No Capíulo é feia uma revisão sobre os modelos esruurais e resulados de algumas simulações Mone Carlo são apresenados. O Capíulo 3 aborda a écnica nãoparamérica de reamosragem boosrap e sua aplicação nos modelos esruurais. O Capíulo 4 coném aplicações da implemenação em uma série emporal real. A conclusão do esudo, algumas observações e comenários finais encerram ese rabalho, no Capíulo 5. 3

16 . MODELOS ESTRUTURAIS.1. Definição Para modelar e fazer previsões em uma série emporal é muio comum uilizar modelos de decomposição aravés de componenes não-observáveis, ambém denominados de modelos esruurais. Ese ipo de modelagem supõe que os movimenos caracerísicos de uma série emporal univariada possam ser decomposos em quaro componenes: (i) Tendência ( µ ) : refere-se à direção geral segundo a qual os dados emporais se desenvolvem ao longo de um inervalo de empo. (ii) Componene sazonal ( γ ) : refere-se aos padrões repeiivos da série de ineresse, com alguns períodos de elevação ou redução, que se reproduzem idenicamene durane uma mesma esação (mês, semana, dia, ec.). (iii) Componene cíclica ( ψ ) : refere-se às oscilações que se repeem idenicamene em longo prazo ou aos desvios em orno da rea ou da curva de endência. (iv) Componenes aleaórios ou erros ( ε ) esporádicos das séries emporais, provocados por evenos casuais. : referem-se aos deslocamenos Enão, aravés do uso dos modelos esruurais, uma série emporal univariada Y, = 1,,,n, pode ser escria aravés da expressão: Y = µ + γ + ψ + ε, = 1,,, n, (1) iid sendo ε ~ N(, ). ε 4

17 .. Tipos de Modelos Os ipos de modelos esruurais que serão abordados nese rabalho são o modelo de nível local (MNL), o modelo de endência linear local (MTL) e o modelo esruural básico (MEB), como pode ser melhor esudado em Harvey (1989)...1. Modelo de Nível Local O modelo de nível local (MNL), ambém conhecido como modelo de passeio aleaório adicionado de um ruído, é o modelo mais simples, pois não há inclinação posiiva ou negaiva. Iso é, a série se move aleaoriamene sem seguir uma rajeória fixa. Ese modelo coném um componene de nível (aleaório) e um erro e esá definido por: y = µ + ε, ε ~ N(, ), iid ε = 1,,,n, (.a) iid µ = µ 1 + η, η ~ N(, ), (.b) η supondo ε e η não-correlacionados.... Modelo de Tendência Linear Local O modelo da endência, quando a série em um movimeno crescene ou decrescene e ambém em um comporameno de passeio aleaório, aende pelo nome de modelo de endência linear local (MTL). Sabendo-se que = 1,,, n, em-se: y = µ + ε, iid ε ~ N(, ), ε (3.a) iid = µ 1 + β 1 η, η ~ N(, η ) µ + (3.b) = β ξ 1, iid ξ ~ N(, ), ξ β + (3.c) sendo ε, η e ξ disúrbios ipo ruído branco muuamene não-correlacionados. 5

18 ..3. Modelo Esruural Básico O modelo esruural básico (MEB) é freqüenemene usado para modelar séries que conenham o componene sazonal. Ele pode ser definido por: y = µ + γ + ε, iid ε ~ N(, ), ε (4.a) iid = µ 1 + β 1 η, η ~ N(, η ) µ + (4.b) = β ξ 1, iid ξ ~ N(, ), ξ β + (4.c) iid = γ 1 γ s + 1 ω, ω ~ N(, ω ), γ + (4.d) assumindo que = 1,,, n e que s é o número de períodos sazonais, sendo ε, η, ξ e ω disúrbios ipo ruído branco muuamene não-correlacionados, em que ω é a perurbação aleaória associada à sazonalidade no insane. O componene sazonal γ pode ser modelado aravés da modelagem sazonal por faores. Para modelar um componene sazonal por faores, é necessário impor a resrição de que a soma dos componenes sazonais seja zero, iso é, s 1 j = γ. (5.a) j = Obém-se uma modelagem esocásica para o componene sazonal fazendo s 1 j = γ ω, (5.b) j = sendo ω ~ N(, ), iid ω 6

19 .3. Forma de Espaço de Esados Na Seção., foram descrios os modelos esruurais para uma série emporal univariada, cujos componenes não-observáveis são definidos aravés de equações (MNL), 3 equações (MTL) e 4 equações disinas (MEB). Sabe-se que para realizar a esimação de ais modelos é preciso enconrar as esimaivas das variâncias dos ruídos relacionados a cada componene não-observável, os hiperparâmeros. A forma de espaço de esados foi uma maneira enconrada para se reescrever as expressões da modelagem esruural, reduzindo-se o número de equações, fao al que ornará o processo de esimação dos hiperparâmeros um pouco mais simples. Na forma de espaço de esados é possível represenar a modelagem esruural aravés de duas equações: a equação das observações (ou de medida) e a equação do esado (ou ransição), dadas respecivamene por: y = z α + d + ε, ε N(, h ), (6.a) ' ~ α T α + c + R η = 1, η ~ N(, Q ), (6.b) sendo = 1,,, n. ε são ruídos não-correlacionados, η é um veor de ruídos serialmene não-correlacionados cuja mariz de covariância é dada por Q e α é o veor de esado. Sabe-se ambém que ε e η são independenes enre si, z, d, T, c e R são chamados marizes do sisema e são conhecidas após a definição da modelagem a ser aplicada à série. Nesa disseração, assumir-se-á d = e c =, indicando que serão modeladas séries univariadas sem a presença de ouras séries influenes nesa modelagem. O modelo na forma de espaço de esados esabelece a independência do fuuro do processo em relação ao passado, dado o esado presene. O esado do processo condensa odas as informações do passado necessárias para a predição do fuuro. Devemse aender às seguines suposições: 7

20 (i) E ( α ) = a e Cov ( α, α ) = P, sendo α o veor de esado inicial. (ii) E( ε η ) = e E ε α ) = E( η α ), z, = 1,,, n z ( = Aendendo a esas suposições, qualquer modelo para uma série emporal pode ser escrio como uma combinação linear dos ruídos ε e η presenes e passados e do veor de esado inicial α. Para aqueles parâmeros desconhecidos conidos nos componenes da forma de espaço de esados, denoa-se um veor ψ que é conhecido como o veor de hiperparâmeros. Nese rabalho, eses hiperparâmeros serão as variâncias presenes no modelo e que poderão ser esimadas pelo processo de máxima verossimilhança Forma de espaço de esados para o MNL Como foi viso na Seção., o modelo de nível local é o modelo mais simples, pois não segue nenhuma endência fixa e é composo apenas por um componene de nível adicionado de um ruído. A forma de espaço de esados pode ser aplicada ao MNL, enconrando-se os seguines valores de suas variáveis: z = 1, d =, ε = ε, T = 1, c =, = 1, R α =, α, h =, Q =, η = η. µ 1 = µ 1 ε η Enão, o MNL pode ser escrio aravés das expressões: y = α + ε, ε ~ N(, ), ε 1,,, n =, (7.a) α = α 1 + η, η ~ N(, η ). (7.b) 8

21 .3.. Forma de espaço de esados para o MTL Assumindo que a série emporal enha um movimeno crescene ou decrescene e ambém um comporameno de passeio aleaório, serão obidas as seguines marizes de sisema: [ ], 1 = z, = = d c, 1 = R, = T, ε = h = ξ η Q. O veor de esado é dado por = β µ α e, por conseguine,, = β µ α sendo o veor de resíduos = ξ η η. Desa forma, em-se: [ ] y ε β µ + = 1, ), (, ~ ε ε N (8.a) + = ξ η β µ β µ , ), (, ~ N Q η = = ) ( ξ η η Cov Q. (8.b).3.3. Forma de espaço de esados para o MEB Para os modelos com sazonalidade modelados como viso na Seção..3, êmse as seguines marizes de sisema: [ ], 1 1 z ) 1 ( 1 + = s, = = d c, 1 = R 9

22 1) ( 1) ( ~ ~ = s s T,, ε = h 1) ( 1) ( ~ ~ + + = s s ω ξ η Q. A forma de espaço de esados pode enão ser composa pelo veor de esado 1 1) ( = s s γ γ γ β µ α, com veor de resíduos [ ] ' 1 1) ( = s + ω ξ η η e sabendo-se que s represena o número de períodos sazonais. 1

23 .4. Filro de Kalman Para fazer previsões em um modelo na forma de espaço de esados a parir de observações passadas aé o empo, é necessário que o veor de esado α seja aualizado e, para isso, deve-se sempre aualizar os esimadores dese componene não-observável aravés do chamado filro de Kalman (196). O filro de Kalman decompõe a série aravés de equações recursivas que aualizam seqüencialmene o veor de esado. Suas caracerísicas básicas são aualização, previsão e suavização. Sabendo-se que Y 1 é o veor das observações aé o insane 1, E ( α ) = a e Cov ( α = P, em-se que:, α ) (i) ( α Y 1) ~ N( a 1, P 1), sendo a 1 = E ( α Y 1) = T a 1 + c, (9.a) (ii) P (α T + R Q R, (9.b) 1 = Var Y 1) = T P 1 (iii) ( y ) ~ ( ~ Y 1 N y 1, F ), sendo ~ y E y Y 1 = ( 1) = z a 1 + d, (9.c) (iv) F ( z + h. (9.d) = Var y Y ) 1 = z P 1 Enão, pode-se noar que a média e a mariz de covariância do veor de esado no empo são respecivamene iguais a a e P +. Aravés de recursividade, enconramse os seguines resulados imporanes: 1 a a = a + P z. F.( y ~ y ), (1.a) + 1 = P F P. (1.b) = P = P P z z. 1 11

24 As equações (1.a) e (1.b) são chamadas de equações de aualização, pois aravés delas é possível aualizar os esimadores a e P do veor de esado no insane. Para faciliar o manuseio das fórmulas, chama-se de v o erro de previsão ou inovações, sendo que E ( v ) = e Var ( v ) = F, e chama-se de K a mariz de ganho. Assim, em-se que: v ~ a = y y 1 v = y z 1 d, (11.a) K. (11.b) 1 = T + 1. P 1. z. F Enão, subsiuindo v e o para o filro de Kalman (9.d), (1.a), (1.b), (11.a) e (11.b). K em (1.a) e (1.b) é possível lisar as equações Um exemplo é mosrado aplicando o filro de Kalman no MNL. Tomando-se as equações (7.a) e (7.b) na forma de espaço de esados do MNL e os valores enconrados das marizes de sisema, subsiuindo-os nas fórmulas do filro de Kalman e aendendo às suposições e exposições visas aneriormene, enconram-se para o MNL equações mais simples e fáceis de ser usadas, porém com a mesma finalidade: v a, (1.a) = y 1 a = a 1 K. v, (1.b) F P, (1.c) = 1 + ε K / F, (1.d) = P 1 P. (1.e) + 1 = P 1 K. F + η Para a inicialização do filro de Kalman oma-se a = ou a = E( Y ) e P suficienemene grande (Harvey, 1). 1

25 .5. Esimação por Máxima Verossimilhança Como mencionado nas seções aneriores, a esimação dos modelos esruurais ocorre aravés da esimação das variâncias dos ruídos relacionados aos componenes nãoobserváveis, que são conhecidas como hiperparâmeros. Cosumeiramene, referem-se aos hiperparâmeros por meio de um veor simbolizado pela lera grega psi (ψ ). No caso do MNL, (, ε ψ = ). Para o MTL, (, ) (,, ) ψ =. η, ξ ω ε η ψ = e no caso do MEB, em-se que η, ξ ε A esimação por máxima verossimilhança pode ser usada para se esimar os hiperparâmeros de um modelo aravés da maximização da função densidade conjuna f ( y 1,, ; ψ ) em relação a ψ, que é o veor de hiperparâmeros. Para se fazer esa y n esimação, deve-se calcular a função de verossimilhança, que será o produório das disribuições prediivas de ψ que a maximiza. n 1,, yn ψ ) = f ( y Y 1, ) = 1 L( ψ ) = f ( y ψ, e assim achar o valor Usando-se o modelo na forma de espaço de esados, a função de verossimilhança é obida aravés do erro de previsão v do filro de Kalman, supondo que y Y ) ~ N( ~ y, F ). Enão, a função de verossimilhança será descria por: ( 1 1 ( y ~ 1 y ) F ( y y ) n 1 / 1/ 1 L( ψ ) = (π ) F exp ~ 1 1. (13) = 1 Subsiuindo v ~ = y y 1 em-se: 1 n 1 ψ ) = ( ) 1/ F 1/ exp v F v. (14) = 1 L( π Aplicando-se o logarimo naural para simplificar os cálculos: 13

26 n n n log L( ψ ) = log(π ) log F v F v. (15) = 1 = 1 Para esimar o veor ψ de hiperparâmeros, deve-se enão enconrar um valor para a incógnia al que maximize a verossimilhança. Pelo fao de a função de verossimilhança ser uma função complicada do veor de hiperparâmeros, esa esimação não será realizada analiicamene, mas via méodo numérico, implemenado em ambiene Ox (Doornik 1999). A discussão sobre méodos para solucionar problemas de oimização pode alongar-se indefinidamene. Assim, preferiu-se nese rabalho apenas anunciar que o méodo de maximização a ser uilizado é o conhecido BFGS (em referência aos seus auores, Broyden-Flecher-Goldfarb-Shanno), pelo seu desempenho saisfaório no passado, conforme viso, por exemplo, em Franco (1998) e Franco & Souza (), enre ouros. Ceramene muios ouros méodos de maximização irresria são aplicáveis, havendo uma vasa lieraura a ser consulada sobre esa e ouras écnicas de oimização. Enre ouros, veja Flecher (1987), Gill e al. (1981), Cramer (1986) e o clássico livro de Press e al. (1988). Noe que muios exos sobre oimização abordam problemas de minimização em vez de maximização, mas, claro, iso é apenas o caso de reversão de um sinal algébrico. O raameno de dealhes profundos do procedimeno BFGS esá fora do escopo dese rabalho, mas em linhas gerais pode-se dizer que o méodo enconra-se no inermediário enre a simplicidade do méodo do gradiene e a rapidez do méodo de Newon, razão pela qual é conhecido como um méodo quase-newon. No méodo BFGS, assim como em ouros méodos quase-newon, ao invés de a mariz hessiana ser calculada exaamene, como é o caso do méodo de Newon, ela é aproximada por um processo ieraivo finio, via derivadas de primeira ordem, procurando um compromisso enre a rapidez de convergência e a dificuldade da avaliação da inversa a cada passo. O méodo BFGS segue o algorimo apresenado de forma basane simplificada na Figura.1, mas que define claramene parâmeros imporanes do algorimo, ais como o número máximo de ierações, MAXIT, a olerância máxima do veor gradiene, e 1, e a olerância máxima do passo, e. 14

27 algorimo {dados f : R n R ) n escolha ψ R (por exemplo, ψ = 1) k repia k calcule f ( ψ ) (gradiene) k calcule D( ψ ) (aproximação para a inversa da hessiana H 1 ( ψ k ) ) ψ k k+1 MaxI aé ( ) fim algorimo ψ λ D( ψ ) f ( ψ k + 1 k k k k k k k 1 k ou ( f ( ψ ) e ) ou ( ψ ψ e ) Figura.1: Um algorimo quase-newon 1 ).6. Implemenações em Ox Uilizando a linguagem Ox (Doornik, 1999), programou-se o ajuse dos rês modelos esruurais apresenados na Seção., implemenando-se roinas que consruíram a função de verossimilhança e a maximizava usando o méodo BFGS. Mediane a obenção das esimaivas de máxima verossimilhança dos hiperparâmeros, objeivou-se, principalmene, verificar a eficiência de al implemenação realizada. A fim de conhecer e esabelecer faores deerminanes e influenes nese esudo Mone Carlo, foram avaliados o número de ierações necessárias para a convergência no algorimo BFGS, o amanho do burn-in para a simulação das séries (que corresponde ao número de observações excluídas no princípio da série simulada, que são foremene influenciadas pelos valores iniciais assumidos), número de replicações Mone Carlo e o amanho das séries simuladas. Opou-se por rabalhar com 3 amanhos de séries: pequeno (n=5), médio (n=1) e grande (n=). Para ano, serão analisadas as médias das esimaivas de cada hiperparâmero, assim como os seus respecivos erros quadráicos médios (EQM). Os EQM s serão calculados a parir da expressão: ( ˆ EQM = MC ), (16) 15

28 em que ˆ represena a esimaiva de al hiperparâmero, represena o valor real do hiperparâmero e MC indica o número de replicações Mone Carlo. De posse de valores predefinidos dos hiperparâmeros de cada modelo, consruíram-se, enão, roinas compuacionais (vide Apêndice A) que foram capazes de fornecer as médias e os EQM s das esimaivas simuladas. Foram consideradas as precisões ε 1 =1.1-4 e ε =5.1-3, para o algorimo BFGS. Em um esudo preliminar, variou-se o número máximo de ierações necessárias para a convergência do algorimo BFGS (BFGS=5, e 1.) para cada um dos rês modelos considerados. Adoando-se 4 casas decimais e analisando-se as esimaivas, observou-se que não houve nenhuma mudança nas esimaivas quando se aumenou o número máximo de ierações na implemenação do méodo BFGS, sendo assim, opou-se por prosseguir o esudo assumindo BFGS=5 (resulados apresenados no Apêndice B) Mone Carlo para o MNL Franco (1998) mosra, aravés de simulações, que os MNL s com η ε caracerizam séries emporais com uma menor fluuação do nível -7. µ em orno do valor médio das observações. Aenando-se para esa informação, ao longo dese rabalho, serão analisados os MNL s cujos hiperparâmeros são definidos como sendo, 5 e 1,. Uma desas séries pode ser visa na Figura.. ε = η = Figura.: Série simulada seguindo o MNL com, 5 e 1, η = ε = 16

29 Variando o amanho da série, o número de replicações MC, o amanho do burnin e assumindo BFGS = 5, êm-se os resulados apresenados na Tabela.1. Tabela.1: Resulado das simulações para MNL variando o amanho da série, do burn-in e o número de replicações MC Tamanho da série Burn-in Nº de Replicações MC,5 1, η = ε = Média EQM Média EQM 1,487,833 1,19, ,519,868,9911, ,5133,873,9871,165 1,4968,795,9393,16 5 5,497,794,9983,154 1.,59,87,9965,195 1,4845,477 1,33,67 1 5,4985,435,9958, ,4985,4,9953,541 1,4918,43,973,5 5 5,4988,397,9979,53 1.,4965,378 1,51,56 1,4994,17,9868,33 1 5,59,197,993,37 1.,519,185,995,44 1,57,18,99,89 5 5,496,179,9938,56 1.,4988,188,9966,7 Realizando-se análises gráficas das esimaivas da Tabela.1 de acordo com o amanho do burn-in, o número de replicações MC e o amanho da série, obeve-se: (i) Tamanho do burn-in: foram calculadas as médias das esimaivas cujo burnin=1 e daquelas cujo burn-in=5. 17

30 ,55 1,5,53 1,3 Sigma Ea,51,49 Sigma Eps 1,1,99,47,97, Burn-in, Burn-in Figura.3: Gráficos das médias das esimaivas do MNL de acordo com o burn-in Aravés da Figura.3 conclui-se que as médias das esimaivas obidas adoando o amanho do burn-in=1 esão mais próximas dos valores reais assumidos para os hiperparâmeros (indicados pelas linhas horizonais nos gráficos) que as esimaivas obidas uilizando burn-in=5. (ii) Número de replicações MC: adoando-se burn-in=1, foram calculadas as médias das esimaivas obidas de acordo com MC=1, 5 e 1..,55 1,5,53 1,3 Sigma Ea,51,49,47 Sigma Eps 1,1,99,97, , MC Figura.4: Gráficos das médias das esimaivas do MNL de acordo com o MC MC Noa-se que há uma endência à esabilização das médias das esimaivas de ambos os hiperparâmeros à medida que o número de repeições Mone Carlo aumena. Verifica-se ambém que a diferença enre as médias das esimaivas com MC=5 e MC=1. esá na quara casa decimal, opando-se assim pela adoção de MC=5, a fim de reduzir o empo compuacional. 1. Tamanho da série: adoando-se burn-in=1 e MC=5, foram analisadas as esimaivas obidas de acordo com n=5, 1 e. 18

31 ,55 1,5,53 1,3 Sigma Ea,51,49,47 Sigma Eps 1,1,99,97, Nº de observações, Nº de observações Figura.5: Gráficos das esimaivas do MNL de acordo com o amanho da série Ambos os gráficos da Figura.5 mosram que odas as esimaivas se aproximam muio dos valores reais assumidos para o MNL, adoando-se n=5, 1 e. Percebe-se ambém que a diferença enre as esimaivas é muio pequena, enconrando-se apenas na erceira casa decimal (exceo a diferença enre as esimaivas do hiperparâmero η, referenes a n=5 e n=1, que se enconra na segunda casa decimal)..6.. Mone Carlo para o MTL Adoou-se um MTL com hiperparâmeros definidos como sendo, 5,,1 e 1,. Uma desas séries pode ser visa na Figura.6. ξ = ε = -35. η = Figura.6: Série simulada seguindo o MTL, com,5,, 1 e 1, η = ξ = ε = 19

32 Na Figura.6 em-se o gráfico de uma das séries simuladas com os hiperparâmeros, 5,, 1 e 1,, sendo níida a endência decrescene η = dos dados emporais. ξ = ε = Variando o amanho da série, o número de replicações MC, o amanho do burnin e assumindo BFGS = 5, êm-se os resulados apresenados na Tabela.. Tabela.: Resulado das simulações para MTL variando o amanho da série, do burn-in e o número de replicações MC Tamanho da série Burnin Nº de Replicações MC,5, 1 1, η = ξ = ε = Média EQM Média Média EQM Média 1,5344,3318,883,51,9534, ,556,3763,951,6,9763, ,571,393,933,57,9648,1546 1,13,347,1117,58,331 4, ,598,379,18,5,1768 3,83 1.,758,4,14,5, 4,5 1,5416,388,93,4,9399,11 1 5,54,39,96,31,9748, ,5381,379,949,31,9851,89 1,4311,38,989,3 1,417, ,953,339,151,31 1,619 1,178 1.,971,3118,161,31 1,6418 1,1787 1,5895,131,95,18,954, ,576,117,1,17,9834,479 1.,539,1191,13,17,995,459 1,3617,61,193, 1,3435, ,3197,9,176,17 1,361, ,311,34,185,17 1,364,457

33 Realizando-se análises gráficas das esimaivas da Tabela. de acordo com o amanho do burn-in, o número de replicações MC e o amanho da série, obeve-se: (i) Tamanho do burn-in: foram calculadas as médias das esimaivas cujo burnin=1 e daquelas cujo burn-in=5.,55,1,49,11 Sigma Ea,43,37,31 Sigma Csi,1,9,5 1 5,8 1 5 Burn-in Burn-in 1,7 1,55 Sigma Eps 1,4 1,5 1,1, Burn-in Figura.7: Gráficos das médias das esimaivas do MTL de acordo com o burn-in Aravés da Figura.7 conclui-se que as médias das esimaivas obidas adoando o amanho do burn-in=1 esão mais próximas dos valores reais assumidos para os hiperparâmeros (indicados pelas linhas horizonais nos gráficos) que as esimaivas obidas uilizando burn-in=5. 1

34 (ii) Número de replicações MC: adoando-se burn-in=1, foram calculadas as médias das esimaivas obidas de acordo com MC=1, 5 e 1..,58,1,55,11 Sigma Ea,53,5,48 Sigma Csi,1,9, , MC MC 1,6 Sigma Eps 1,3 1,,97, MC Figura.8: Gráficos das médias das esimaivas do MTL de acordo com o MC Os gráficos da Figura.8 mosram que, adoando-se MC=1., as médias das esimaivas dos hiperparâmeros são mais próximas dos valores reais assumidos. Verificase, ambém, que houve a esabilização na esimação dos hiperparâmeros, pois as esimaivas obidas adoando-se MC=5 são muio próximas daquelas obidas quando se adoou MC=1.. Sendo assim, por economia de empo compuacional, prefere-se adoar MC=5.

35 (iii) Tamanho da série: adoando-se burn-in=1 e MC=5, foram analisadas as esimaivas obidas de acordo com n=5, 1 e Sigma Ea Sigma Csi Nº de observações Nº de observações Sigma Eps Nº de observações Figura.9: Gráficos das esimaivas do MTL de acordo com o amanho da série Os gráficos da Figura.9 mosram que as esimaivas que mais se aproximam dos valores reais assumidos são aquelas obidas nas simulações conendo observações. Percebe-se ambém, que à medida que se aumena o número de observações simuladas, em geral diminui-se o amanho do vício obido nas esimaivas. 3

36 .6.3. Mone Carlo para o MEB Será assumido um MEB com sazonalidade rimesral (s=4) e com hiperparâmeros definidos como sendo, 5,, 1, =, 1 e 1,. η = Uma desas séries pode ser visa na Figura.1. ξ = ω ε = Figura.1: Série seguindo o MEB, com, 5,, 1,,1 e 1, = ω ε = η = ξ = Na Figura.1 em-se o gráfico de uma das séries simuladas do MEB com os hiperparâmeros, 5,, 1, =, 1 e 1,, sendo fácil perceber a η = ξ = ω presença sazonal e ambém a não-esacionariedade dos dados em orno de uma média, ou seja, a série apresena endências crescenes e decrescenes. ε = 4

37 Variando o amanho da série, o número de replicações MC, o amanho do burnin e assumindo BFGS = 5, êm-se os resulados apresenados na Tabela.3. Tabela.3: Resulado das simulações para MEB variando o amanho da série, do burn-in e o número de replicações MC Tamanho da série Burn-in Nº de Replicações MC,5, 1 =, 1 1, η = ξ = Média EQM Média EQM Média EQM Média EQM ω ε = 1,494,156,137,4,91,93,9941, ,4541,161,113,3,11,78,9936, ,4649,1635,114,3,13,89,986,86 1,4439,63,144,4,845,78 1,1611, ,4115,36,143,4,899,77 1,16,466 1.,499,311,136,3,94,81 1,1837,4179 1,5173,11,15,1,996,8 1,151, ,4859,877,18,1,115,35,9934, ,4849,853,14,1,18,35 1,5,1151 1,515,1419,118,,98,34 1,939,33 5 5,446,1193,18,1,95,35 1,1398,134 1.,456,191,11,1,937,34 1,117,39 1,57,417,94,,11,16,978, ,4941,435,97,,1,15 1,4,568 1.,4919,481,1,,14,15 1,54,584 1,5186,697,14,1,984,14 1,399,84 5 5,4871,555,16,,969,16 1,576,866 1.,479,536,16,,964,16 1,595,854 5

38 Realizando-se análises gráficas das esimaivas da Tabela.3 de acordo com o amanho do burn-in, o número de replicações MC e o amanho da série, obeve-se: (i) Tamanho do burn-in: foram calculadas as médias das esimaivas cujo burnin=1 e daquelas cujo burn-in=5.,55,3,53 Sigma Ea,51,49 Sigma Csi,,1,47,45 1 5, 1 5 Burn-in Burn-in,19 1,15,17 1,1 Sigma Omg,15,13,11 Sigma Eps 1,5 1,,9 1 5, Burn-in Burn-in Figura.11: Gráficos das médias das esimaivas do MEB de acordo com o burn-in Aravés da Figura.11 conclui-se que as médias das esimaivas obidas adoando o amanho do burn-in=1 esão mais próximas dos valores reais assumidos para os hiperparâmeros (indicados pelas linhas horizonais nos gráficos). (ii) Número de replicações MC: adoando-se burn-in=1, foram calculadas as médias das esimaivas obidas de acordo com MC=1, 5 e 1.. 6

39 ,55,3,53 Sigma Ea,51,49 Sigma Csi,,1,47, , MC MC,19 1,5,17 1,3 Sigma Omg,15,13,11 Sigma Eps 1,1,99,97, , MC MC Figura.1: Gráficos das médias das esimaivas do MEB de acordo com o MC A Figura.1 mosra que as médias das esimaivas de η, ξ e ε ficam mais próximas dos valores reais assumidos quando é adoado MC=1.. Já a esimaiva de ω fica mais próxima do valor real dese hiperparâmero quando adoa-se MC=5. Enreano, nos resulados dos quaro hiperparâmeros, percebe-se que as diferenças enre as esimaivas adoando-se MC=5 e aquelas obidas adoando-se MC=1. são muio pequenas. Visualiza-se ambém, que as esimaivas praicamene se esabilizaram quando se adoou MC=5, ornando-se, enão, desnecessário uilizar MC=1.. 7

40 (iii) Tamanho da série: adoando-se burn-in=1 e MC=5, foram analisadas as esimaivas obidas de acordo com n=5, 1 e Sigma Ea Sigma Csi Nº de observações Nº de observações Sigma Omg Sigma Eps Nº de observações Nº de observações Figura.13: Gráficos das esimaivas do MEB de acordo com o amanho da série A Figura.13 mosra que as médias das esimaivas de odos os hiperparâmeros ficam mais próximas dos valores reais assumidos quando é adoado n=. Percebe-se enão, que à medida que se aumena o número de observações simuladas, diminui-se o amanho do vício obido nas esimaivas. 8

41 .7. Conclusões e Observações Finais Foi de grande valia a realização de esudos Mone Carlo nese momeno do rabalho, para que alguns faores influenes nas implemenações pudessem ser definidos e para que fosse possível senir quão precisas são as esimaivas fornecidas pela implemenação em Ox. Aravés dos resulados obidos foi possível concluir que o processo de esimação implemenado em Ox foi saisfaório e eficiene. De um modo geral, para odos os modelos ajusados, foram observados baixos vícios nas esimaivas dos valores esperados dos hiperparâmeros e pequenos erros quadráicos médios (EQM). A princípio, foi possível noar, mediane os gráficos de algumas das séries simuladas, que as séries de cada um dos modelos, seguem realmene a rajeória esperada, ou seja, aleaoriedade num mesmo nível (MNL), endência ao crescimeno/decrescimeno (MTL) e sazonalidade (MEB), assim como definido nas seções Conjecurando sobre o número máximo de ierações necessárias para a convergência do algorimo BFGS, foi possível descobrir que o menor valor avaliado (BFGS=5) poderá ser assumido para a realização dos demais experimenos, endo em visa que o aumeno do mesmo não acarreou nenhuma mudança nas esimaivas. Avaliando o número de observações que devem ser reiradas do início de cada série simulada, devido a efeios de valores iniciais assumidos, observou-se que não foi enconrada nenhuma melhoria enre as esimaivas quando se aumenou ese faor, podendo-se enão empregar nas roinas compuacionais burn-in=1. Sob o aspeco do número de replicações Mone Carlo, observou-se que sua variação (MC=1, 5 e 1.) afeou, diferenemene, as esimaivas de cada modelo. De modo geral, as esimaivas obidas adoando-se MC=5 e MC=1. foram basane semelhanes e próximas dos valores reais assumidos, noando-se a esabilização da esimação já em MC=5. Dese modo, considerando a economia de empo compuacional gaso nas simulações, preferiu-se adoar em esudos seguines MC=5. Analisando os resulados obidos com os diferenes amanhos de séries (n=5, 1 e ), verificou-se que na maioria dos experimenos em que se adoou n=, os vícios das esimaivas dos hiperparâmeros eram menores que nos demais casos. Assim sendo, pode-se concluir que os esimadores analisados são assinoicamene não-viesados. 9

42 3. BOOTSTRAP 3.1. Definição O boosrap é um méodo de reamosragem de dados inroduzido por Efron (1979), usado especialmene na inferência esaísica como, por exemplo, quando há ineresse na consrução de inervalos de confiança, eses de hipóeses, esimação de vícios, previsão, seleção de modelos e ouros. O boosrap é um méodo em que são realizadas reamosragens (com reposição) dos dados de uma amosra de amanho n finio, enando aproximar a disribuição de uma deerminada função das observações pela disribuição empírica dos dados. 3.. A Técnica do Boosrap Exisem basicamene duas maneiras de se realizar o boosrap: paramérica e não-paramérica. Na primeira, reamosram-se observações da disribuição geradora dos dados e na úlima, a reamosragem é feia na própria amosra obida. As duas formas serão descrias nas seções seguines com maiores dealhes Boosrap Paramérico No boosrap paramérico são feias reamosragens (com reposição) de uma disribuição conhecida da qual os dados são obidos. Nese caso, exisem X X,, 1, X n variáveis aleaórias independenes com função de disribuição comum conhecida F e emse θ como um veor de parâmeros desconhecidos. Enão as amosragens serão realizadas direamene em F θ, conseguindo assim uma amosra boosrap que, usando a noação de Efron & Tibshirani (1993), é denoada por X * = X. * * * 1, X,, X n 3

43 3... Boosrap Não-Paramérico Como o próprio nome diz, no boosrap não-paramérico não se assume uma disribuição para os dados. As amosragens são feias a parir da amosra original de amanho n, sendo necessária a suposição de que cada dado enha idenicamene uma massa de probabilidade igual a 1/n, designada ambém, por uma suposa disribuição empírica Fˆ. Nese caso, a amosra boosrap ambém será feia com reposição, reirandose um conjuno de n observações da amosra original e que, seguindo a noação de Efron & Tibshirani (1993), ambém será denoada por X * = X. * * * 1, X,, X n Como o boosrap não-paramérico não depende da disribuição que os dados seguem (disribuição desconhecida), o mesmo pode ser usado para qualquer conjuno de dados, endo enão maior aplicabilidade que o boosrap paramérico Inferência Usando o Boosrap Na práica, o amanho mais uilizado para cada amosra boosrap é o amanho n da amosra original. Se o ineresse esá volado para uma esaísica T conjuna, dada por T X, X,, X ), orna-se necessário gerar repeidas amosras boosrap (paraméricas ( 1 n ou não-paraméricas) de amanho n, denoadas por X *1 * * B, X,, X, onde B é o número de reamosragens boosrap. A esimaiva numa amosra boosrap se aproxima do valor real quando, ou seja, quando as reamosragens são realizadas várias vezes, sendo que o valor de B é escolhido de acordo com a finalidade para a qual o méodo boosrap esá sendo usado. Uilizando-se o princípio plug-in, inroduzido por Efron (1979), fazendo-se B * * b reamosragens e calculando-se o valor da esaísica de ineresse T ( X ), sendo que b = 1,,, B, pode-se aproximar a disribuição empírica de T * ( X * ) da verdadeira disribuição de T (X ) e enão esimar o veor de parâmeros desconhecidos θ. B 31

44 3.4. Boosrap em Modelos Esruurais Lembrando que o objeivo dese esudo é a esimação do veor de hiperparâmeros ψ de séries emporais uilizando modelos esruurais, agora serão uilizadas as écnicas de reamosragem do boosrap não-paramérico para auxiliar na esimação dos valores das variâncias desconhecidas dos ruídos dos modelos. Sabe-se que para o MNL, (, ε ψ = ), para o MTL, (, ) MEB, (,, ) η, ξ ω ε η ψ = e para o η, ξ ε ψ =. Desa forma, o boosrap será uilizado para reamosrar os dados originais, repeidas vezes e, a parir de ais reamosras, esimar por máxima verossimilhança os hiperparâmeros, conseguindo assim uma série de esimaivas boosrap para os mesmos. Sabendo-se que para fazer inferências usando o boosrap é necessário que a suposição de independência seja válida e levando-se em consideração que as observações das séries emporais são correlacionadas, deve-se fazer uma pequena modificação nos méodos descrios na Seção 3., aplicando o boosrap nos resíduos, uilizando-se assim de um algorimo que possibilia a aplicação do boosrap em modelos esruurais, proposo por Soffer & Wall (1991). Aravés das recursividades do filro de Kalman (Seção.4), serão obidas as inovações ou erros de previsão ( v N(, F ) ~ ) e sua variância ( F ), que esarão em função de ψ e será usada a noação v (ψ ) e F (ψ ), respecivamene. A parir de enão, deve-se esimar os hiperparâmeros aravés do méodo da máxima verossimilhança e em seguida, os erros de previsão esimados serão conseguidos, v (ψˆ ), = 1,,, n, e seu valor médio esimado como: v ( ψˆ ) = n j = 1 v j n ( ψˆ). (17) Padronizando as inovações, em-se que 3

45 v ( ψˆ) v ( ψˆ) e ( ψˆ ) =. (18) F ( ψˆ ) Reamosrando com reposição os e (ψˆ ), êm-se as inovações boosrap e * ( ψˆ) que serão usadas na consrução da série boosrap. K (ψ ) Uilizando as recursividades do filro de Kalman, pode-se calcular F (ψ ) e, e subsiuindo e por * e, pode-se enão consruir a série boosrap um processo inverso ao uilizado na esimação dos hiperparâmeros. * y, fazendo Recordando da Seção.4 e assumindo que serão uilizadas somene séries univariadas, ou seja, c d =, sabe-se que: = a = Ta 1 K v, (19) v ~ = y y 1 y = v + a 1 z. () Definindo o veor S = a + 1 y, em-se: S = A S + B e, = 1,,, n, (1) 1 sendo T A = e z K F B =. F De um modo geral, a nova série * y poderá ser obida resolvendo-se a equação (1), subsiuindo e por Obida, enão, a série boosrap e e uilizando os valores esimados de F (ψˆ ) e K (ψˆ ). * * y, o filro de Kalman será uilizado novamene e aravés do méodo de máxima verossimilhança será possível ober as esimaivas boosrap dos hiperparâmeros. 33

46 3.5. Inervalos de Confiança Boosrap Percenílico Os inervalos de confiança boosrap percenílico são inervalos simples de serem obidos aravés das replicações boosrap de uma série original (Efron & Tibshirani, 1986). A princípio são geradas B amosras boosrap da série original, sendo que são esimados, para cada replicação, o veor ˆ * ψ de hiperparâmeros dos modelos, ordenandose, em seguida, esas esimaivas. boosrap ψ * Assumindo que Ĝ seja a função de disribuição acumulada do esimador ˆ *, ou seja, * * * G ( x) = P ( ψ ˆ x), em-se que um inervalo boosrap percenílico com (1-λ)% de confiança será definido * como os λ e (1-λ)-ésimos percenis de Ĝ, da seguine forma: 1 1 * * G ( λ ) ; G(1 λ ). 1 * * Pela definição em-se que G = ψ é o 1.λ-ésimo percenil empírico da ˆ ( λ ) ( λ ) disribuição boosrap, ou seja, * ˆ ( λ ) ψ será o B.λ-ésimo valor das esimaivas ordenadas obidas aravés das replicações boosrap. Enão, pode-se definir os limies inferior e superior de um inervalo de confiança boosrap percenílico ao nível de (1-λ), como sendo: * ( λ ) * (1 λ ) [ ψˆ ; ψˆ b ] b. 34

47 3.5. Simulações do Boosrap usando Ox Na Seção.6 foram realizadas implemenações com os objeivos de verificar quão precisas são as esimaivas obidas em Ox e de deerminar os valores de alguns faores imporanes. Nese esudo preliminar, foram definidos que em simulações subseqüenes seriam adoados BFGS=5, burn-in=1 e MC=5. Tais valores definidos foram uilizados e junamene aos valores predefinidos dos hiperparâmeros, roinas compuacionais na linguagem Ox foram enão implemenadas. Com o objeivo de ober esimaivas boosrap dos hiperparâmeros, seus EQM s, inervalos de 95% de confiança para as esimaivas e as coberuras deses inervalos, foram realizadas B=1. reamosragens boosrap. Para cada modelo, a princípio, esabeleceram-se os valores dos hiperparâmeros que seriam adoados. Com ais valores predefinidos foi gerada uma série aravés da qual esimaram-se seus hiperparâmeros e foram esimados os erros de previsão. A parir da série dos erros de previsão padronizados, realizaram-se B=1. reamosragens e seguindo as explicações apresenadas na Seção 3.4, foram obidas as séries boosrap. Para cada uma desas novas séries obiveram-se as esimaivas boosrap. Ao final de cada simulação, calculou-se a média desas 1. esimaivas. Todo ese processo foi repeido MC=5 vezes, obendo-se como resulado final, as médias das 5 médias das esimaivas boosrap. A avaliação das esimaivas fornecidas uilizando o Ox será realizada por meio de análises das médias das esimaivas de cada hiperparâmero e dos vícios percenuais das mesmas. Eses vícios serão calculados a parir da expressão: ˆ Vício (%) = 1. () será analisado. O erro quadráico médio (EQM) das esimaivas, definido na Seção.6, ambém 35

48 Boosrap para o MNL Aravés das roinas compuacionais apresenadas no Apêndice A, obeve-se os resulados apresenados na Tabela 3.1. Tabela 3.1: EMV e esimaivas boosrap dos hiperparâmeros do MNL Tamanho da série 5 1 Hiperparâmero Média EMV Vício (%) EQM Média* Esimaivas Boosrap Vício* (%) EQM*,5,4935-1,3,78,5545 1,9,91 η = 1,,9914 -,9,114,9553-4,5,16 ε =,5,591 1,8,373,5347 6,9,46 η = 1,,9961 -,4,495,9815-1,9,533 ε =,5,58,,178,515,5,19 η = 1, 1,13,1,59,9941 -,6,7 ε = Aravés da Tabela 3.1, percebe-se que as esimaivas boosrap obidas esão próximas das EMV s, em especial, no caso em que se uiliza n=. Apesar desa proximidade enre os resulados, noa-se que os vícios percenuais das EMV s são sempre inferiores que os obidos nas esimaivas boosrap. Ouro fao imporane refere-se à endência decrescene do vício, à medida em que se aumena o amanho das séries simuladas, como se pode visualizar na Figura 3.1. Ainda na Tabela 3.1, observa-se que nos rês amanhos de série analisados, os EQM s obidos por máxima verossimilhança são menores que aqueles esimados quando se uiliza a écnica de reamosragem boosrap. À medida que se aumena o amanho da série, diminuem os EQM s, ano nas EMV s quano nas esimaivas boosrap. 36