Filtros de Partículas: O Algoritmo Resample-Move Ana Flávia Cupertino Pinto

Transcrição

1 UNIVERSIDADE FEDERAL DE MINAS GERAIS INSTITUTO DE CIÊNCIAS EXATAS DEPARTAMENTO DE ESTATÍSTICA MESTRADO EM ESTATÍSTICA Filros de Parículas: O Algorimo Resample-Move Aa Flávia Cuperio Pio Orieador: Prof. Dr. Adria Pablo Hiojosa Lua Belo Horizoe Ouubro / 2007

2 Resumo: Nese rabalho forecemos uma breve iroducão aos Méodos Seqüeciais de Moe Carlo, abordamos, em paricular, um sisema adapaivo cohecido como Filro de Parículas. Apreseamos o filro Boosrap e ambém uma discução mais formal do filro de parículas. São discuidas algumas propriedades eóricas e práicas deses algorimos.

3 1 Sumário 1 Irodução aos Méodos Seqüêcias de Moe Carlo Apreseação do Problema Méodos de Moe Carlo Amosrages de Moe Carlo Perfeias Amosragem por Imporâcia Amosragem por Imporâcia Seqüêcial O Filro Boosrap Filro de Parículas - Uma Pespeciva Teórica Noações e defiições Cadeias de Markov e Núcleos Trasição O problema da filragem Covergêcia de Medidas Aleaórias Teoremas de Covergêcia O Caso da Observação Fixada O Caso da Observação Aleaória Exemplo de Filro de Parículas Descrição do Filro de Parículas Covergêcia do Algorimo Um Exemplo Markoviao Reamosragem Móvel: Méodo de Filragem com Salos ere os Modelos Apreseação do Problema O Algorimo RESAMPLE-MOVE Um Exemplo Gaussiao Comeários A A Fórmula de Recorrêcia 52 A.1 A fórmula de recorrêcia A.2 Algorimo do capíulo A.3 Algorimo do capíulo

4 2 Irodução Os Méodos de Moe Carlo cosisem em écicas de simulação para a solução de problemas de esimação ode os esimadores êm uma disribuição complexa, como por exemplo quado a fução de disribuição ão em uma solução aalíica. Devido ao grade poecial da meodologia Moe Carlo, várias écicas em sido desevolvidas. As écicas de filragem via sisemas de parículas, méodos Seqüeciais de Moe Carlo (MSMC), Moe Carlo Híbrido (HMC), ec., são algus exemplos de avaços recees as écicas de Moe Carlo. Esses avaços, de uma forma ou oura, são odos moivados pela ecessidade de resolver problemas a amosragem de uma de uma disribuição de probabilidade, ais como por exemplo a edêcia dos algorimos Meropolis ficarem cocerados em uma região com basae massa, ver [5]. As écicas de Moe Carlo Seqüecial são geeralizações do Méodo Moe Carlo para o caso de problemas que evoluem com o empo, iso é, a esimação de problemas relaivos aos processos esocásicos. Na maioria deses problemas queremos écicas adapaivas (amosragem por imporâcia, reamosragem boosrap) pois o Méodo de Moe Carlo Sequecial simples ão produz esimadores eficiees. O problema da filragem é um caso paricular dos MSMC. Ele cosise a esimação de um sial descohecido (oculo) a parir dos dados proveiees das observações que, por sua vez, são uma fução aleaória dos siais. O esimador é chamado de filro. Se a fução aerior é liear e gaussiaa, eão o modelo resulae é chamado espaço-esado liear ou modelo liear diâmico, ver [5] seção 3.3. O algorimo resulae é cohecido como filro de Kalma. Esamos ieressados o esudo de filros ão lieares. Uma grade variedade de filros de Kalma em sido desevolvidas desde a formulação origial de Rudolf E. Kalma. Em 1960, R. E. Kalma publicou um arigo descrevedo uma solução recursiva para o problema da filragem discrea para dados lieares. Por ser um esimador recursivo, somee o esado esimado o empo aerior e a observação o empo aual são ecessárias para calcular a esimaiva do esado aual. Uma irodução ao filro de Kalma discreo básico e algumas discussões podem ser ecoradas em [6]. O melhor filro ão liear é ˆX = E[X Y ], que é o esimador com meor variâcia. Em geral, ão emos uma expressão fechada para a esperaça codicioal, essecialmee devido ao fao de que a disribuição codicioal ão é cohecida, exceo por uma cosae ormalizadora. Porao, é ecessário adoarmos écicas uméricas para obermos aproximações razoáveis. Os Méodos Seqüeciais de Moe Carlo (MSMC) são uma poderosa ferramea que os permie alcaçar ese objeivo. Na seção 4.4 de [7] é apreseado uma aplicação do MSMC para um problema que surge em comuicações digiais. Os méodos de Moe Carlo usado Cadeias de Markov (MCMC) são uma aproximação comum

5 para amosrages de uma disribuição de probabilidade complexa. No eao, os méodos MCMC são algorimos ieraivos, iadequados para problemas de esimação recursivos. Uma solução aleraiva clássica cosise o uso dos méodos de amosragem por imporâcia e amosragem por imporâcia seqüecial. O méodo amosragem por imporâcia, em sua forma simples, ão é adequado para esimação recursiva (sua complexidade compuacioal aumea com o empo). O problema apreseado pelo méodo amosragem por imporâcia seqüecial é que quado o empo aumea, a disribuição dos pesos ora-se cada vez mais assimérica e cosequeemee o algorimo falha ao ear represear a disribuição a poseriori adequadamee. A idéia pricipal do filro boosrap é elimiar as parículas edo um pequeo peso da imporâcia e muliplicar as parículas que possuem um grade peso da imporâcia. O problema da filragem, apreseado o capíulo 2 de [1], cosise em calcular as disribuições codicioais do sial dada a σ-álgebra gerada pela observação do processo do isae 0 aé. O filro de parículas descrio evolve o uso de um sisema de parículas que evoluem de acordo com um processo de Markov e, em empos fixos, geram um cero úmero de descedees. Ese filro de parículas geral é cosiuído basicamee por duas eapas: evolução e seleção. No passo de evolução, cada parícula o isae de empo aerior é movida idepedeemee com o úcleo de rasição do sial, e assim, uma parícula cadidaa é obida. No passo de seleção, cada parícula cadidaa é subsiuída por um úmero de descedees, algus possivelmee ulos (obidos, em osso caso, aravés de um mecaismo de ramificação muliomial), de al forma que o úmero de parículas o isae aual permaeça cosae e igual a. Filros de parículas são ambém pare das écicas Bayesiaas diâmicas, e visam a redução do empo compuacioal de bur-i. Essas écicas são especialmee úeis em problemas em que os dados observados são avaliados sequecialmee o empo e esamos ieressados em realizar iferêcia em uma modelagem o-lie. Esses méodos requerem a geração de um cojuo iicial de parículas que eão são progressivamee reamosrados levado em cosideração os dados de erada e os parâmeros. Em [4] é apreseado um caso paricular de filro de parículas, o algorimo Resample-Move, proposo por Gilks e Berzuie em [3], para o coexo de sobrevivêcia de uma doeça. O algorimo Resample-Move é um exemplo de uma classe de filros de parículas chamado filro de parículas híbrido. Embora esa écica eha as mesmas bases coceiuais da amosragemreamosragem por imporâcia e amosragem MCMC, ela evia a degeeração dos méodos auais (ver [3]). Ese rabalho esá orgaizado da seguie forma: o Capíulo 1 apresea uma breve irodução aos Méodos Seqüeciais de Moe Carlo, abordado algus sisemas adapaivos (amosragem por imporâcia, amosragem por imporâcia seqüecial). Também ese capíulo, cosa a descrição de um filro de parículas básico, o filro boosrap. O Capíulo 2 em por objeivo dar um raameo maemáico mais rigoroso. Foi provada a cosisêcia de um filro de parículas geérico, apreseado a Seção 2.2. Também é apreseado ese capíulo uma implemeação do algorimo geérico para um exemplo simples de uma cadeia de Markov. O caso da ormalidade assióica ão será apreseado ese rabalho e pode ser ecorado o Capíulo 3 de [1]. Fialmee, o Capíulo 3, descrevemos o algorimo Resample-Move e apreseamos a implemeação do algorimo Resample-Move um exemplo simples de um processo gaussiao liear. 3

6 4 Capíulo 1 Irodução aos Méodos Seqüêcias de Moe Carlo Méodos Seqüêcias de Moe Carlo são um cojuo de méodos de simulação que forece uma coveiee e araiva aproximação compuacioal para a disribuição a poseriori. Os Méodos SMC são muio flexiveis, fáceis para implemear e aplicáveis em muios coexos gerais. Trabalhos ieressaes em corole auomáico foram realizados durae os aos 60 e 70 baseados sobre méodos de iegração SMC (ver [8]). No fial dos aos 80 o grade aumeo do poder compuacioal orou possível rápidos avaços os méodos de iegração umerica para filragem Bayesiaa ([9]). O problema da filragem é um caso paricular dos méodos SMC. Ele cosise a esimação de um sial descohecido (oculo) a parir dos dados proveiees das observações que, por sua vez, são uma fução aleaória dos siais. O esimador é chamado de filro. A amosragem por imporâcia sequecial (SIS) é um méodo Moe Carlo que forma as bases para a maior pare dos filros SMC desevolvidos sobre as decadas passadas; ver [1]. Esa aproximação SMC é cohecida diversamee como filragem boosrap, algorimo de codesação, filragem de parículas, ieração de aproximação de parículas e sobrevivêcia do ajuse [10]. Nese capíulo apreseamos uma breve irodução aos méodos SMC, abordamos algus sisemas adapaivos como, por exemplo, amosragem por imporâcia e, amosragem por imporâcia sequecial. Fialmee, cosa a descrição de um filro de parículas básico, o filro boosrap. Para mais dealhes ver Capíulo 1 de [1]. 1.1 Apreseação do Problema Por simplicidade, os resrigiremos a modelos de siais quado o modelo de espaço de esados são ão-gaussiaos, ão-lieares e Markoviaos, embora os méodos SMC (Moe Carlo Seqüêcial), possam ser aplicados em coexos mais gerais. Modelo: X +1 = F (X, R ) ; F é ão liear e R ruído ão-gaussiao. Os siais ão observados (esados oculos) {x ; N}, x X = R x, são modelados como um processo de Markov (por exemplo, uma cadeia de Markov a empo discreo) de disribuição iicial p(x 0 ) e equação de rasição p(x x 1 ). As observações {y ; N }, y Y = R y, são, por

7 hipóese, codicioalmee idepedees dado o processo {x ; N} e a disribuição codicioal margial p(y x 0: ) = p(y x ). Descrição do Modelo: p(x 0 ) (disribuição iicial) p(x x 1 ) (probabilidade de rasição de um Processo de Markov: p(x +1 x 0: ) = p(x +1 x )) p(y x ) (por hipóese, p(y x 0: ) = p(y x )) p(y s, y u x 0: ) = p(y s x 0: ) p(y u x 0: ) Deoamos x 0: = {x 0,..., x } e y 1: = {y 1,..., y }, respecivamee, os siais e as observações aé o empo. Siuação: Espaço de Esados: X +1 = F (X, R ) (sial oculo) Y +1 = G(X, S ) (sial observado) A proposa é esimar recursivamee o empo a disribuição a poseriori, p(x 0: y 1: ), e caracerísicas a ela associadas (icluido disribuição margial p(x y 1: ) cohecida como disribuição filrada). Para iso, basa esimar as esperaças I(f ) = E p(x0: y 1: )[f (x 0: )] = f (x 0: )p(x 0: y 1: )dx 0: (1.1) (por hipóese, esaremos sempre supodo que p(x 0: y 1: ) é uma probabilidade codicioal regular para odo y 1: ). Para alguma fução de ieresse f : X (+1) R f iegrável com respeio a p(x 0: y 1: ). Disribuição filrada: (a poseriori: p(x 0: y 1: ) ) Em qualquer empo, a disribuição a poseriori é dada pelo Teorema de Bayes p(x 0: y 1: ) = p(y 1: x 0: )p(x 0: ) p(y 1: ) = p(y 1: x 0: )p(x 0: ) p(y1: x 0: )p(x 0: )dx 0: É possível ober uma fórmula recursiva para a disribuição p(x 0: y 1: ), Teorema Vale que: p(x 0:+1 y 1:+1 ) = p(x 0: y 1: ) p(y +1 x +1 )p(x +1 x ). (1.2) p(y +1 y 1: ) 5

8 Demosração. Temos que, pelo Teorema de Bayes Observe que, Subsiuido em (1.3), obemos Noe que: p(x 0:+1 y 1:+1 ) = p(y 1:+1 x 0:+1 )p(x 0:+1 ). (1.3) p(y 1:+1 ) p(y 1:+1 x 0:+1 ) = p(y 1:, y +1 x 0:+1 ) = p(y 1: x 0:+1 )p(y +1 x 0:+1 ) = p(y 1: x 0: )p(y +1 x +1 ) = p(x 0: y 1: )p(y 1: ) p(y +1 x +1 ) p(x 0: ) p(x 0:+1 y 1:+1 ) = p(x 0: y 1: )p(y +1 x +1 ) p(y 1:) p(x 0:+1 ) p(x 0: ) p(y 1:+1 ). (1.4) Aalogamee, p(y +1 y 1: ) = p(y +1, y 1: ) p(y 1: ) = p(y 1:+1) p(y 1: ). (1.5) p(x +1 x ) = p(x +1 x 0: ) = p(x +1, x 0: ) p(x 0: ) Assim, subsiuido (1.5) e (1.6) em (1.4) resula = p(x 0:+1) p(x 0: ) (1.6) Como queríamos provar. p(x 0:+1 y 1:+1 ) = p(x 0: y 1: )p(y +1 x +1 )p(x +1 x ) p(y +1 y 1: ) A disribuição margial p(x y 1: ) ambém saisfaz a seguie recursão. Teorema Vale que (Predição): p(x y 1: 1 ) = p(x x 1 )p(x 1 y 1: 1 )dx 1 (1.7) Demosração. Observe que: p(x x 1 )p(x 1 y 1: 1 ) = p(x, x 1 ) p(y 1: 1 x 1 )p(x 1 ) p(x 1 ) p(y 1: 1 ) = p(x, x 1 ) p(y 1: 1 x 1 ) p(y 1: 1 ) 6

9 Logo omado a iegral de ambos os membros a expressão acima, obemos p(x, x 1 )p(y 1: 1 x 1 ) p(x x 1 )p(x 1 y 1: 1 )dx 1 = dx 1 (1.8) p(y 1: 1 ) Agora, Noe que: p(x y 1: 1 ) = p(y 1: 1 x )p(x ) p(y 1: 1 ) p(y 1: 1, x ) = = = = p(y 1: 1, x )p(x ) p(x )p(y 1: 1 ) p(y 1: 1, x, x 1 )dx 1 = p(y 1: 1, x ) p(y 1: 1 ) p(y 1: 1 x, x 1 )p(x, x 1 )dx 1 p(y 1: 1 x 1 )p(x, x 1 )dx 1 (1.9) Desa forma, por (1.9) p(x y 1: 1 ) = = 1 p(y 1: 1 x 1 )p(x, x 1 )dx 1 p(y 1: 1 ) p(y1: 1 x 1 )p(x, x 1 ) dx 1 (1.10) p(y 1: 1 ) De (1.8) e (1.10) obemos a igualdade desejada. Teorema (Correção) Vale que: p(x y 1: ) = p(y x )p(x y 1: 1 ) p(y x )p(x y 1: 1 )dx (1.11) Demosração. Observe que, Agora, p(y x )p(x y 1: 1 ) = p(y x )p(y 1: 1 x )p(x ) p(y 1: 1 ) = p(y, y 1: 1 x )p(x ) p(y 1: 1 ) = p(y 1: x )p(x ) p(y 1: 1 ) 7

10 p(y x )p(x y 1: 1 )dx = = = = = p(y x ) p(y 1: 1 x )p(x ) dx p(y 1: 1 ) p(y, y 1: 1 x )p(x ) dx p(y 1: 1 ) 1 p(y 1: x )p(x )dx p(y 1: 1 ) 1 p(y1:, x ) p(x )dx p(y 1: 1 ) p(x ) 1 p(y 1: 1 ) p(y 1:) Desa forma, Como pelo Teorema de Bayes, chegamos ao resulado desejado. p(y x )p(x y 1: 1 ) = p(y 1: x )p(x ) p(y x )p(x y 1: 1 )dx p(y 1: 1 ) = p(y 1: x )p(x ) p(y 1: ) p(x y 1: ) = p(y 1: x )p(x ) p(y 1: ) p(y 1: 1 ) p(y 1: ) Essas expressões e recursões são egaosamee simples porque ão podemos calcular ipicamee a cosae ormalizadora p(y 1: ), as margiais p(x y ), e I(f ) pois elas requerem a avaliação de iegrais complexas de grades dimesões. Em visa dessas dificuldades, vários arigos e livros em sido dedicados a obeção de méodos de aproximações dessas disribuições, icluido, ere eles, o filro de Kalma exedido, o filro da soma gaussiaa, méodos ipo malha (grid-based) e méodos de iegração baseados sobre SMC. O grade aumeo do poder compuacioal o fial dos aos 80 orou possível rápidos avaços os méodos de iegração umérica por filragem Bayesiaa. 1.2 Méodos de Moe Carlo Os méodos de iegração de Moe Carlo apreseam grades vaages por ão esarem sujeios a qualquer limiação de liearidade e gaussiaidade sobre o modelo e eses méodos ambém em apreseado propriedades boas de covergêcia. Começaremos mosrado que, quado emos um grade úmero de amosras de uma disribuição a poseriori, ão é difícil aproximar as iegrais iraáveis presees as equações, (1.2), (1.7) e 8

11 (1.11). No eao, é raramee possível ober amosras dessas disribuições direamee, porque fala a coae ormalizadora. Porao emos que recorrer aos méodos aleraivos de Moe Carlo, al como a amosragem por imporâcia. Fazedo uso desa écica recursivamee obemos o méodo de amosragem por imporâcia sequecial (SIS). Ifelizmee, podemos mosrar que SIS com cereza vai falhar quado aumea, pois ese caso os erros comeidos vão sedo acumulados e logo aumeam quado cresce. Ese problema pode ser superado icluido um passo de seleção adicioal. A irodução dese passo chave os forece o primeiro méodo operacioalmee efeivo(o passo chave cosise em miimizar o erro em relação a cada valor amosrado eviado assim o acumulo excessivo dos erros). Desde eão, resulados de covergêcia éorica para ese algorimo em sido esabelecidas Amosrages de Moe Carlo Perfeias Supoha que seja possível ober amosras aleaórias idepedees e ideicamee disribuídas, ambém chamadas parículas {x (i) 0:; i = 1,..., } de acordo com a disribuição a poseriori p(x 0: y 1: ). Uma esimaiva empírica desa disribuição é dada por: P (dx 0: y 1: ) := 1 δ (i) x (dx 0: ) (1.12) 0: sedo que dx 0: é a desidade cojua com respeio a medida de coagem e δ (i) x (dx 0: ) é a 0: fução dela de Dirac( massa cocerada em x (i) 0:). Cosiderado um cojuo A R +1, emos P (X 0: A y 1: ) = P (dx 0: y 1: ) Agora, por (1.12), A A P (dx 0: y 1: ) = = 1 = 1 = 1 A 1 A δ (i) x (dx 0: ) 0: δ (i) x (dx 0: ) 0: δ (i) x (A) 0: I A (x (i) 0:) = #{x(i) 0: : x (i) 0: A, 1 i } #{x (i) 0: : 1 i } (1.13) 9

12 O úlimo ermo acima é a disribuição empírica de p(x 0: y 1: ) para o caso em que esamos cosiderado o cojuo A R +1. Assim, obemos a seguie esimaiva de I(f ) I (f ) = f (x 0: )P (dx 0: y 1: ) = = 1 = 1 f (x 0: ) 1 δ (i) x (dx 0: ) 0: f (x 0: )δ (i) x (dx 0: ) 0: f (x (i) 0:) Esa esimaiva é ão viciada, pois ( 1 E(I (f )) = E Se a variâcia a poseriori de f saisfaz eão a variâcia de I (f ) é igual a ( 1 V ar(i (f )) = V ar f (x (i) 0:) ) = E(f (x 0: )) = I(f ) σ 2 f = E p(x0: y 1: )(f 2 (x 0: )) I 2 (f ) <, f (x (i) 0:) ) = 1 V ar(f (x 0: )) = 1 σ2 f < Pela Lei fore dos grades úmeros I (f ) I(f ), q.c., quado. Temos aida que, se σf 2 <, eão pelo Teorema Ceral do Limie I (f ) I(f ) σ f N(0, 1), em disribuição, quado... (I (f ) I(f )) N(0, σ 2 f ), em disribuição, quado Vaages do Méodo de Amosragem Perfeia de Moe Carlo O cojuo de amosras aleaórias {x (i) 0:; i = 1,..., } podem facilmee esimar qualquer quaidade I(f ), I(f ) = I (f ) = 1 f (x (i) 0:) (I (f ) é um esimador ão viciado e assioicamee cosisee para I(f ) se a variâcia a poseriori de f (x 0: ), σ 2 f, é fiia). 10

13 A axa de covergêcia desa esimaiva é idepedee da dimesão do iegrado, em corase com algus méodos de iegração umérica que em uma axa de covergêcia que dimiui quado a dimesão do iegrado aumea. De fao, basa observarmos que P ( I (f ) I(f ) > ɛ) V ar(i (f )) ɛ = σ2 f ɛ = ct (), sedo que c = σ2 f e T () = 1. Observe que a axa de covergêcia ct () idepede da ɛ dimesão do iegrado, que em osso caso é ( + 1), mas apeas do úmero de simulações. Em Esaísica Aplicada, Méodos de Moe Carlo usado Cadeias de Markov (MCMC) são uma aproximação comum para amosrages de uma disribuição de probabilidade complexa. No eao, os méodos MCMC são algorimos ieraivos, iadequados para problemas de esimação recursivos. Desa forma, méodos aleraivos, como por exemplo, a amosragem por imporâcia, em sido desevolvidos Amosragem por Imporâcia Uma solução aleraiva clássica cosise o uso do méodo amosragem por imporâcia. Iroduzimos uma disribuição amosragem por imporâcia arbirária, q(x 0: y 1: ), ambém referida frequeemee como disribuição proposa ou fução imporâcia. Supohamos que queremos avaliar I(f ), e sob a codição de que o supore de q(x 0: y 1: ) coém o supore de p(x 0: y 1: ), obemos I(f ) = f (x 0: )w(x 0: )q(x 0: y 1: )dx 0: w(x0: )q(x 0: y 1: )dx 0: (1.14) sedo que, w(x 0: ) = p(x 0: y 1: ) (1.15) q(x 0: y 1: ) é chamado o peso da imporâcia. Observe que subsiuido (1.15) a expressão (1.14), obemos a iegral I(f ) como defiida em (1.1). Cosiderado uma aproximação da disribuição a poseriori, p(x 0: y 1: ), dada por ˆP (dx 0: y 1: ) = w (i) δ (i) x 0: (dx 0: ) (1.16) eão, se podemos simular parículas i.i.d. {x (i) 0:, i = 1,..., } de acordo com a disribuição q(x 0: y 1: ), uma esimaiva de Moe Carlo I(f ) é dada por Î (f ) = = 1 f (x (i) 1 0:)w(x (i) j=1 w(x(j) 0:) 0:) f (x (i) 0:) w (i), (1.17) 11

14 sedo que w (i) Ese méodo de iegração pode ambém ser ierpreado como um ). méodo de amosragem ode a disribuição a poseriori p(x 0: y 1: ) é aproximada por (1.16), e Î(f ) é a iegral da fução f (x 0: ) com respeio a medida empírica ˆP (dx 0: y 1: ), iso é Î (f ) = f (x 0: ) ˆP (dx 0: y 1: ). = w(x(i) 0: P ) j=1 w(x(j) 0: Observe que para fiio, Î(f ) é viciado (razão de duas esimaivas), mas assioicamee, sob codições fracas (i.e., f (x (i) 0:)w(x (i) 0:), i = 1,..., amosra aleaória, E[f (x 0: )w(x 0: )] < ev ar(x 0: ) < ) a aplicação da lei fore dos grades úmeros garae que lim Î (f ) = E[f (x 0: )w(x 0: )] E[w(x 0: )] = f (x 0: )w(x 0: )q(x 0: y 1: )dx 0: w(x0: )q(x 0: y 1: )dx 0: = I(f ), q.c. A Amosragem por imporâcia é um méodo de iegração Moe Carlo geral. No eao, esa forma simples, ele ão é adequado para esimação recursiva. Iso é, precisamos ober odos os dados, y 1:, aes de avaliarmos p(x 0: y 1: ). Em geral, a cada ovo dado dispoível, y +1, precisamos recalcular o peso da imporâcia sobre a seqüêcia ieira de esados. A complexidade compuacioal desa operação aumea com o empo, o que os moiva o uso de uma oura forma de amosragem por imporâcia. Na próxima seção apreseamos uma esraégia para a superação dese problema Amosragem por Imporâcia Seqüêcial O méodo de amosragem por imporâcia pode ser modificado de al forma a orar possível o cálculo da esimaiva ˆP (dx 0: y 1: ) de p(x 0: y 1: ) sem modificar as rajeórias passadas simuladas {x 0: 1; (i) i = 1,..., }. Cosideremos as fuções imporâcia q(x 0: y 1: ), que saisfazem a seguie relação Ierado, obemos q(x 0: y 1: ) = q(x 0: 1 y 1: 1 )q(x x 0: 1, y 1: ) (1.18) q(x 0: y 1: ) = q(x 0 ) q(x k x 0:k 1, y 1:k ) k=1 A fução imporâcia dada por (1.18) os permie avaliar recursivamee o empo o peso imporâcia. De fao, observe que para i = 1,...,, p(x (i) 0: y 1: ) = p(x (i) 0: 1 y 1: 1 ) p(y x (i) )p(x (i) p(y y 1: 1 ) x (i) 1) 12

15 w(x (i) 0:) = p(x (i) 0: 1 y 1: 1 ) q(x (i) 0: 1 y 1: 1 )q(x (i) x (i) w (i) = 0: 1, y 1: ) w(x (i) 0:) = w(x(i) 0: 1) p(y y 1: 1 ) w (i) 1 j=1 w(x(j) p(y y 1: 1 ) 0: 1) j=1 w(x(j) 0:) w (i) p(y x (i) )p(x (i) p(y y 1: 1 ) x (i) 1) p(y x (i) )p(x (i) x (i) q(x (i) x (i) 0: 1, y 1: ) w (i) 1 1) p(y x (i) )p(x (i) q(x (i) x (i) 0: 1, y 1: ) x (i) 1) p(y x (i) )p(x (i) q(x (i) x (i) 0: 1, y 1: ) x (i) 1) P 1 j=1 sedo que a cosae de proporcioalidade é w(x(j) 0: 1 ) p(y y 1: 1 ) P. j=1 w(x(j) 0: ) Um caso especial da expressão (1.18) é cosiderar a disribuição a priori como disribuição imporâcia q(x 0: y 1: ) = p(x 0: ) = p(x 0 ) p(x k x k 1 ) pois, recordemos que, por hipóese, os siais ão observados {x ; N}são modelados por um processo de Markov de disribuição iicial p(x 0 ) e probabilidade de rasição p(x x 1 ). Para ese caso especial, os pesos imporâcia saisfazem w (i) k=1 w (i) 1p(y x (i) ). De fao, basa observar que, para ese exemplo, q(x (i) x (i) 0: 1, y 1: ) = p(x (i) x (i) 1). 1.3 O Filro Boosrap O problema apreseado pelo méodo de amosragem por imporâcia sequecial, é que quado aumea, a disribuição de w (i) ora-se cada vez mais assimérica. Praicamee após um curo espaço de empo(discreo), somee algumas pariculas em o peso da imporâcia ão-ulos. O algorimo, cosequeemee, falha ao ear represear a disribuição a poseriori adequadamee. Para eviar eses problemas, precisamos iroduzir um passo adicioal de seleção das parículas. O méodo descrio abaixo foi obido do Capíulo 1 de [1]. Apreseação do Méodo A idéia chave do filro Boosrap é elimiar as parículas edo um pequeo peso da imporâcia e muliplicar as parículas que possuem um grade peso da imporâcia. Formalmee, subsiuímos a disribuição empírica com pesos ˆP (dx 0: y 1: ) = por uma disribuição empírica sem pesos w (i) δ (i) x 0: (dx 0: ) 13

16 ode (i). ˆP (dx 0: y 1: ) = 1 (i) δ (i) x 0: (dx 0: ) N é o úmero de ascimeos (parículas criadas) associados a rajeória x (i) 0: e (i) = Se (j) = 0, eão a j-ésima rajeória x (j) 0: morreu. Os valores de (i) ais que ˆP (dx 0: y 1: ) esão próximos de ˆP (dx 0: y 1: ) al que para qualquer fução f, f (x 0: ) ˆP (dx 0: y 1: ) f (x 0: ) ˆP (dx 0: y 1: )., i = 1,...,, são escolhidos Depois do passo de seleção, as rajeórias sobrevivees x (i) 0:, iso é, aquelas ais que (i) > 0, são aproximadamee disribuídas de acordo com a disribuição a poseriori p(x 0: y 1: ). Exisem diferees maeiras de selecioar (i), uma delas é obida aravés de uma disribuição muliomial, M(, w (1),..., w () ), edo disribuição de probabilidade dada por, Descrição do Algorimo Filro Boosrap P (M = ( 1,..., )) = Passo 1 : Disribuição iicial, = 0. Iiciamos com uma amosra x (i) 0 p(x 0 ); i = 1,...,. Faça = 1. Passo 2 : Amosragem por imporâcia. Para i = 1,...,, Amosramos x (i) p(x x (i) 1). Seja, x (i) 0: = (x (i) 0: 1, x (i) ). Para i = 1,...,, calculamos o peso da imporâcia,! 1!...! ( w(1) ) 1... ( w () ) ŵ (i) = p(y x (i) ) Normalizamos o peso da imporâcia, w (i) = c w (i) 1p(y x (i) ) 14

17 Passo 3 : Seleção. Reamosramos com reposição processos(parículas) (x 0:; (i) i = 1,..., ) do cojuo { x (i) 0:; i = 1,..., } de acordo com os pesos da imporâcia. Fazemos = + 1 e volamos ao passo 2. Uma represeação gráfica do algorimo é mosrada a figura 1.1. Figura 1.1: Represeação gráfica do filro boosrap para um úmero de parículas = 10. Gráfico exraído de [1], capíulo 1. 15

18 16 Capíulo 2 Filro de Parículas - Uma Pespeciva Teórica O objeivo dese capíulo é dar um raameo maemáico mais rigoroso da covergêcia dos Filros de Parículas. O resulado sobre a cosisêcia de um filro de parículas geérico é apreseado a seção 2.2. Na seção 2.3 é dada a descrição do algorimo Filro de Parículas Espaço-Esado como uma aplicação dos resulados da seção 2.2. A covergêcia desa classe de Filro de Parículas cosa a subseção Esa classe iclui vários filros cohecidos, ais como os apreseados em [11], [12] e [13]. Para mais dealhes ver Capíulo 2 de [1]. Uma aplicação ilusraiva do Filro de Parículas Espaço-Esado é apreseado a subseção No apedice é dealhado a demosração das fórmulas de recorrêcia que surgem a seção 2.1.2, relação 2.4. Como referêcia para esa demosração ver apedice de [1]. 2.1 Noações e defiições Seja R d o espaço Euclidiao d-dimesioal e B(R d ) a σ-algebra de Borel de subcojuos de R d. Usaremos as seguies oações: B(R d ): o cojuo das fuções limiadas, B(R d )-mesuráveis defiidas sobre R d. C b (R d ): o cojuo das fuções coíuas e limiadas defiidas sobre R d. C k (R d ): o cojuo das fuções coíuas com supore compaco defiidas sobre R d. M F (R d ): o cojuo das medidas fiias sobre B(R d ). P(R d ): o cojuo das medidas de probabilidade sobre B(R d ). δ a : a medida de Dirac cocerada em a R d. 1: a fução cosae 1. Seguem algumas defiições:

19 Seja f : R d R uma fução coíua. O supore compaco de f é Se f C b (R d ), Supp k (f) = {x : f(x) 0} é a orma do supremo de f. f := sup x R d f(x) Se µ M F (R d ) (ou µ P(R d )) e f B(R x ), eão µf := f(x)µ(dx) R d é a iegral de f com respeio a medida µ. Seja (µ ) =1 uma seqüêcia de medidas fiias. Dizemos que µ coverge fracamee ou a opologia fraca para µ M F (R d ) (oação: µ w µ) se lim µ f = µf, f C b (R d ), a defiição é aáloga o caso de µ P(R d ), N Cadeias de Markov e Núcleos Trasição Seja (Ω, F, P ) um espaço de probabilidade e X = {X, N} um processo esocásico defiido sobre (Ω, F, P ) com valores em R x. Seja F X a σ-álgebra gerada pelo processo, iso é, F X := σ(x s : s [0, ]). Eão X é uma cadeia de Markov, se N e A B(R x ), P(X +1 A F X ) = P(X +1 A X ). Segue a defiição do Núcleo de Trasição. Seja X uma cadeia de Markov. Uma fução K : R x B(R x ) R al que K (x, A) = P(X +1 A X = x) = P X+1 (A X = x) é deomiada o úcleo de rasição da cadeia de Markov. Propriedades do úcleo de rasição K. K (x,.) é uma medida de probabilidade sobre R x, N e x R x (K é uma probabilidade codicioal regular) K (., A) B(R x ), N e A B(R x ). 17

20 A disribuição de X é uicamee deermiada pela disribuição iicial e o úcleo de rasição. Seja q a disribuição da variável aleaória X, q (A) := P(X A). Defiimos a medida, (q K )(A) := K (x, A)q (dx); R x A B(R x ). Desa forma, obemos a fórmula de recorrêcia q +1 = q K. Observe que (q K )(A) = P(X +1 A X = x)q (dx) = P(X +1 A) := q +1 (A). R x...q = q 0 K 0 K 1... K 1. O úcleo de rasição K saisfaz a propriedade de Feller se, para odo > 0, a fução K f : R x R defiida como (K f)(x) := f(y)k (x, dy) R x é coíua, f C b (R d ). Se K em a propriedade de Feller, eão K f C b (R d ), f C b (R d ). Logo, dizemos que o processo X = {X ; N} é Feller se o úcleo de rasição em a propriedade de Feller O problema da filragem Iformalmee, o problema de filragem cosise em calcular as disribuições codicioais do sial dada a σ-álgebra gerada pela observação do processo do isae 0 aé. Seja X = {X, N} um processo de Markov com valores em R x (chamado o processo do sial) com um úcleo de rasição Feller, K (x, dy). Seja ambém Y = {Y, N} um processo esocásico assumido valores em R y (chamado a observação do processo) defiido como, Y := h(, X ) + W, > 0 e Y 0 = 0. (2.1) Em (2.1), emos que h : N R x R y é uma fução Borel-mesurável com a propriedade que h(,.) é coíua sobre R x, N. Temos aida que, para odo > 0, W : Ω R y são veores aleaórios idepedees e absoluamee coíuos com respeio a medida de Lebesgue λ sobre R y. Deoamos por g(,.) a desidade de W com respeio a medida de Lebesgue λ, que exise pelo eorema de Rado-Nykodi, e supomos que g(,.) é coíua e limiada. Como mecioamos o iício desa seção, o problema da filragem esaremos ieressados em ober a medida de probabilidade p, al que p (A) := P (X A σ(y 0: )), p f = E[f(X ) σ(y 0: )] (2.2) para oda f B(R x ) e A B(R x ), ode Y 0: := (Y 0, Y 1,..., Y ). Eão p = p Y 0:, sedo que p y 0: (A) := P (X A Y 0: = y 0: ), p y 0: f = E[f(X ) Y 0: = y 0: ] (2.3) 18

21 e y 0: := (y 0, y 1,..., y ) (R y ) +1. Observe que p é uma medida de probabilidade aleaória equao que p y 0: é uma medida de probabilidade deermiísica. Defiimos ambém p e p y 0: 1, como sedo as medidas de probabilidade codicioal predias para > 0, ode p = p Y 0: 1 e p y 0: 1 (A) = P (X A Y 0: 1 = y 0: 1 ), p y 0: 1 f = E[f(X ) Y 0: 1 = y 0: 1 ] As seguies relações de recorrêcia se asseguram para p e p y 0: { d p dp = g Y R Y g (x)p(dx) p +1 = p K, { d p y 0: dp y 0: 1 = R g y p y 0: +1 = p y 0: respecivamee. g y (x)py 0: 1 (dx), (2.4) K ode g y := g(y h(,.)). Uma demosração das relações de recorrêcia (2.4) ecora-se o apêdice. No caso geral, ão exise uma solução fechada para o sisema (2.4). Na seção apreseamos uma classe geérica de filros de parículas que pode ser usado para resolver (2.4) umericamee Covergêcia de Medidas Aleaórias Essecialmee, o resulado de qualquer algorimo para resolver o problema da firagem baseado o Méodo de Moe Carlo Sequecial é uma medida aleaória que aproxima p. De fao, para esabelecermos se o algorimo é bom ou ruim, precisamos defiir em que seido uma medida, ou mais precisamee uma sequêcia de medidas aleaórias pode aproximar oura medida. Seja (Ω, F, P) um espaço de probabilidade e seja (µ ) =1 uma sequêcia de medidas aleaórias, µ : Ω M F (R d ) e µ M F (R d ) uma medida fiia deermiísica. Como veremos, o caso de aproximações obidas usado o filro de parículas, represea o úmero de parículas usado o sisema de parículas para aproximação. Cosideramos dois ipos de covergêcia: 1. lim E[ µ f µf ] = 0, para oda f C b (R d ); 2. lim µ = µ, P q..p. Observações: 1. Observe que se exise uma fução iegrável v : Ω R al que µ 1 v para odo, eão (2) (1). De fao, se exie al fução v : Ω R com a propriedade acima, eão para oda f C b (R d ), µ (w)f µ (w) f cµ (w)1 cv, sedo que c é uma cosae al que f c1. Logo, como µ (w)f µ(w)f, pelo Teorema da Covergêcia Domiada, emos que, lim µ (w)f µ(w)f dp (w) = Ω Ω lim µ (w)f µ(w)f dp (w) = 0....E[ µ f µf ] 0, quado, f C b (R d ). w q..p., Noe que a codição adicioal é saisfeia se (µ ) =1 é uma sequêcia aleaória de medidas de probabilidade pois, ese caso, µ 1 = 1, para odo. 19

22 2. Se lim E[ µ f µf ] = 0, para oda f C b (R d ), eão exise uma subsequêcia (m) al que lim m µ (m) = µ, P q..p. Desde que R d é um espaço mérico, localmee compaco e separável eão exise um cojuo eumerável M que é deso em C k (R d )(iso é, C k (R d ) é separável). Eão, Porao, se v f vf, f M v f vf, f C k (R d ). v f vf, f C b (R d ). Logo, M 1 é um cojuo deermiae da covergêcia, iso é, se v, = 1, 2,..., e v são medidas fiias e lim v f = vf para oda f M 1, eão lim v = v. Seja A := M 1. Desde que, lim E[ µ f µf ] = 0, f A e M é eumerável, podemos ober uma subsequêcia (m), com probabilidade 1, al que lim m µ(m) f = µf, f A. Para verificarmos ese resulado, cosideremos uma eumeração de A, iso é, A = {f j } j=1. Como, µ f j L 1 µfj, f j A, (2.5) exise uma subsequêcia µ 1 k al que, µ 1 k f1 µf 1, P q..p. Assim, sedo µ 1 k uma subsequêcia de µ e em visa de (2.5), e porao, exise uma subsequêcia 2 k de 1 k µ 1 L 1 k f2 µf2 al que e µ 2 k f2 µf 2, P q..p. µ 2 k f1 µf 1, P q..p. Seguido aalogamee, cocluímos que para odo m N fixo, exise uma subsequêcia µ m k al que µ m k fm µf m, P q..p. 20

23 Assim, defiido (k) := k k, segue que como queríamos mosrar. µ (k) f µf, P q..p., f A, Se M C k (R d ) é o cojuo defiido como acima, eão d M := µ1 v1 + f k M µf k vf k, 2 k f k é a disâcia em M F (R d ) (ou P(R d )), que gera a opologia fraca Noe que: lim v = v lim d M (v, v) = 0. (2.6) 1. Usado d M, a covergêcia quase cera do ipo 2 é equivalee a 2. lim d M (µ, µ) = 0, P q..p. Sabemos que, se µ µ, P q..p., exise um cojuo Ω Ω al que P (Ω ) = 1 e Assim, por (2.6) µ (w) µ(w), w Ω. lim µ (w) = µ(w), w Ω lim d M (µ (w), µ(w)) = 0, w Ω ; P (Ω ) = 1 lim d M (µ, µ) = 0, P q..p. (2.7) 2. Se exise uma variável aleaória iegrável u : Ω R al que µ 1 u para odo, eão a covergêcia do ipo 1. implica 1. lim E[d M (µ, µ)] = 0. Para o caso de medidas aleaórias, devemos cosiderar a codição exra que µ1 u. Vamos demosrar a afirmação acima para o caso em que as medidas são ão deermiísicas. Primeiramee, observe que 21

24 µ f k µf k 2 k f k µ f k + µf k 2 k f k f k µ 1 + f k µ1 2 k f k 2u 2 = u (2.8) k 2 k 1 Como, por hipóese u é uma variável aleaória iegrável, emos que pelo Teorema da Covergêcia Domiada lim E[d M(µ, µ)] = lim E µ 1 µ1 + lim o que coclui a demosração. = f k M f k M 1 2 k f k lim E µ f k µf k E µ f k µf k 2 k f k = 0, (2.9) 2.2 Teoremas de Covergêcia O Caso da Observação Fixada Primeiramee, cosideremos o caso em que a observação do processo em um valor arbirário mas fixo y 0:T, ode T é um empo fiio arbirariamee grade. Supohamos que a fórmula de recorrêcia para p y 0: se assegure para esa observação paricular, para odo 0 T (recordemos que a relação de recorrêcia (2.4) é válida P Y0: q..p.). Observe de (2.4) para obermos a disribuição codicioal do sial dado o eveo {Y 0: = y 0: }, ou seja, p y 0:, precisamos fazer uso de um passo iermediário, que cosise em obermos a medida de probabilidade codicioal predia p y 0: 1 : p y 0: 1 p y 0: 1 p y 0: sedo que a disribuição iicial do sial p 0 é cohecida. Porao é aural esudarmos algorimos que foreçam aproximações recursivas para p y 0: usado aproximações iermediárias para p y 0: 1. Sejam ( p ) =1 e (p ) =1 sequêcias aproximado p y 0: e p y 0: 1, respecivamee. Supohamos que p e p são medidas aleaórias, ão ecessariamee probabilidades, ais que p 0, p 0 e p g y > 0, > 0, 0 T. Seja ambém p defiida como uma medida de probabilidade (aleaória) absoluamee coíua com respeio a p, N e 1 al que 22

25 O seguie eorema forece uma codição ecessária e suficiee para as seguies covergêcias: p para p y 0: 1 e p para p y 0:. Para simplificar a oação, suprimimos, os dois eoremas abaixo a depedêcia de y 0: e deoamos p y 0: por p, p y 0: 1 por p, e g y por g, mas sempre edo em mee que a observação do processo é uma dada rajeória fixa y 0:T. Teorema As sequêcias p e p covergem para p, respecivamee, para p covergêcia omada como sedo do ipo 1. se, e somee se, as rês codições seguies são saisfeias: a1. Para oda f C b (R x ), lim E[ p 0f p 0 f ] = 0 b1. Para oda f C b (R x ), lim E[ p f p 1K 1 f ] = 0 c1. Para oda f C b (R x ), lim E[ p f p f ] = 0. Teorema As sequêcias p, p covergem quase ceramee para p, respecivamee para p, iso é, com covergêcia do ipo 2. se, e somee se, as rês codições seguies são saisfeias: a2.lim p 0 = p 0, P q..p. b2.lim d M (p, p 1K 1 ) = 0, P q..p. c2.lim d M ( p, p ) = 0, P q..p. Uma demosração dos Teoremas e ecora-se o Capíulo 2 de [1] O Caso da Observação Aleaória Na seção aerior ao as sequêcias de medidas quao a medida limie depedem de um valor fixo da observação. Expliciamee, escrevemos que lim p,y 0: 1 = p y 0: 1, lim p,y 0: = p y 0:, sedo que os limies acima são ou do ipo 1, ou do ipo 2. Desde que p = p Y 0: 1 e p = p y 0:, esperamos que lim p,y 0: 1 = p, lim p,y 0: = π. (2.11) Cosideremos primeiramee a covergêcia do ipo 1. Temos que, ] Porao, se [ p,y E 0: 1 f p f = E [ p,y 0: f p f ] = lim E [ p,y 0: 1 E [ p,y 0: 1 (R y ) f p y 0: 1 f ] P Y0: 1 (dy 0: 1 ) (R y ) +1 E [ p,y 0: f p y 0: f ] P Y0: (dy 0: ) f p y 0: 1 f ] = 0, P Y0: 1 q..y 0: 1 lim E [ p,y 0: f p y 0: f ] = 0, P Y0: q..y 0:, e exisem fuções v f (y 0: 1 ), w f (y 0: ), ais que, para odo 0, E [ p,y 0: 1 f p y 0: 1 f ] v f (y 0: 1 ), P Y0: 1 q..p. (2.12) 23

26 eão, pelo Teorema da Covergêcia Domiada, E [ p,y 0: f p y 0: f ] w f (y 0: ), P Y0: q..p. (2.13) [ ] p lim E,Y 0: 1 f p f = lim E [ p,y 0: 1 (R y ) = lim E [ p,y 0: 1 (R y ) f p y 0: 1 f ] P Y0: 1 (dy 0: 1 ) f p y 0: 1 f ] P Y0: 1 (dy 0: 1 ) = 0; e aalogamee, [ ] lim p E,Y 0: f p f = 0. As codições (2.12) e (2.13) são saisfeias para o caso em que cosideramos medidas de probabilidade, e ese caso, v f = w f = 2 f. De fao, basa observar que p,y 0: 1 f p f = f(y 0: 1 )p,y 0: 1 (dy 0: 1 ) f(y 0: 1 )p Y 0: 1 (dy 0: 1 ) (R y ) (R y ) f(y 0: 1 ) p,y 0: 1 (dy 0: 1 ) + f(y 0: 1 ) p Y 0: 1 (dy 0: 1 ) (R y ) (R y ) f (dy 0: 1 ) + f p Y 0: 1 (dy 0: 1 ) (R y ) = 2 f p,y 0: 1 (R y ) (2.14) Os próximos dois eoremas ecoram-se o Capíulo 2 de [1] e as demosrações foram realizadas pela auora do rabalho. Teorema Desde que para odo 0, exise uma cosae c > 0 al que p g c, as seguies sequêcias p,y 0: 1, p,y 0: covergem para p e p com covergêcia do ipo 1. se, e somee se, para oda f C b (R x ), a3.lim E[ p 0f p 0 f ] = 0 b3.lim E[ p,y 0: 1 f p,y 0: 1 1 K 1 f ] = 0 c3.lim E[ p,y 0: f p,y 0: f ] = 0. Demosração. ( )A prova será baseada o pricípio de idução maemáica. Pela codição a3. o eorema é verdadeiro para = 0. Precisamos provar que se as sequêcias p,y 0: 2 1, p,y 0: 1 1 covergem para p 1, respecivamee, para p 1 eão p,y 0: 1, p,y 0: covergem para p, respecivamee, para p. Sedo p = p 1 K 1, emos que para oda f C b (R x ), p,y 0: 1 f p f p,y 0: 1 f p,y 0: 1 1 K 1 f + π,y 0: 1 1 K 1 f p 1 K 1 f. (2.15) Tomado a esperaça em ambos os membros da equação (2.15) e poseriormee o limie quado, segue que 24

27 De fao, observe que, E p,y 0: 1 lim E[ p,y 0: 1 f p f ] = 0. f p,y 0: 1 1 K 1 f 0 por b3. e E p,y 0: 1 1 K 1 f p 1 K 1 f 0 pela hipóese de idução quado K 1 f C b (R x ), f C b (R x ), que é a propriedade de Feller do úcleo rasição. Observe que, p,y 0: f := f(y)d p,y0: (y) = R x R x Por simplicidade, deoamos g y y f(y)g dp,y 0: 1 p,y 0: 1 g y (y) por g e, aalogamee, segue que = p,y 0: 1 (fg y p,y 0: 1 ) (g y ). Logo, p f = p fg p g p,y 0: f p f = p,y 0: 1 fg p fg p,y 0: 1 g p g p,y 0: 1 fg p p,y 0: 1 g fg p g +,Y 0: 1 p,y 0: 1 fg p g p fg p g f p g p,y 0: 1 g p g + 1 p g p,y 0: 1 fg p fg (2.16) Na úlima desigualdade o primeiro ermo foi obido da seguie forma, p,y 0: 1 fg p,y 0: 1 fg = p,y 0: 1 g p g fg fg dp,y0: 1 p,y 0: 1 dp,y 0: 1 g p g (p g p,y 0: 1 g ) = fg dp,y0: 1 p,y 0: 1 g p g = (p g p,y 0: 1 g ) fg dp,y 0: 1 g p g p,y 0: 1 Agora, como g 0, pois g é a fução desidade de W, segue que p,y 0: 1 fg p p,y 0: 1 g fg p g,y 0: 1 p g p,y 0: 1 g f p,y 0: 1 g p g g dp,y 0: 1 = p g p,y 0: 1 g f p,y0: 1 p,y 0: 1 g g p g = p g p,y 0: 1 g f p g 25

28 Porao por (2.16) e lembrado que g C b (R x ), E[ p,y 0: f p f ] f E[ p,y 0: 1 g p g ] + 1 E[ p,y 0: 1 fg p fg ] 0 (2.17) p g p g Fialmee, como E[ p,y 0: f p,y 0: f ] 0 por hipóese e E[ p,y 0: f p f ] 0 por (2.17), resula que E[ p,y 0: f p f ] E[ p,y 0: f π,y 0: p f ] 0 (2.18) Porao, a pare da suficiêcia esá provada. ( ) Supohamos que para odo 0 e para oda f C b (R x ), e lim E[ p,y 0: 1 f p f ] = 0 (2.19) lim E[ p,y 0: f p f ] = 0 (2.20) A expressão (2.20), para o caso paricular em que = 0, forece lim E[ p 0f p 0 f ] = 0, e porao, a codição a3. se verifica. Agora, em visa de (2.19), emos que a expressão (2.17) é saisfeia, i.e., lim E[ p,y 0: f p f ] = 0. (2.21) Porao, por (2.20) e (2.21), E[ p,y 0: f p,y 0: f ] E[ p,y 0: f p f ] + E[ p f p,y 0: f ] 0, o que resula a codição c3. Sedo p = π 1 K 1, segue que, para oda f C b (R x ), E[ p,y 0: 1 f p,y 0: 1 1 Logo, a codição b3. é saisfeia. K 1 f ] E[ p,y 0: 1 f p f ] + E[ p 1 K 1 f p,y 0: 1 1 K 1 f ] 0. Teorema As sequêcias p,y 0: 1, p,y 0: covergem quase ceramee para p, respecivamee para p, iso é, com covergêcia do ipo 2., para odo 0 se, e somee se, as rês codições seguies são saisfeias: a4.lim p 0 = p 0, P q..p. b4.lim d M (p,y 0: 1, p,y 0: 1 1 K 1 ) = 0, P q..p. c4.lim d M ( p,y 0:, p,y 0: ) = 0, P q..p. Demosração. ( ) Supoha que as relações a4., b4. e c4 sejam saisfeias. idução maemáica, que p,y 0: 1 p, P q..p. Vamos provar, por 26

29 e p,y 0: p, P q..p. Para = 0, o eorema é verdadeiro pela codição a4. f C b (R x ) p,y 0: 1 1 K 1 f p 1 K 1 f 0, P q..p. Assim, pela codição b4, para oda f C b (R x ) Por hipóese de idução, para oda p,y 0: 1 f p f p,y 0: 1 f p,y 0: 1 1 K 1 f + p,y 0: 1 1 K 1 f p 1 K 1 f 0, P q..p....p,y 0: 1 p, P q..p. Agora, por (2.16) e porao, pela relação c4, p,y 0: f p f 0, P q..p. p,y 0: f p f p,y 0: f p,y 0: f + p,y 0: f p f 0, P q..p.... p,y 0: p, P q..p. ( ) Primeiramee, vamos provar que se lim p,y 0: 1 lim π,y 0: = π, P q..p. = p, P q..p. eão Seja M um cojuo deermiado a covergêcia das fuções em C b (R x ), por exemplo, o cojuo usado para cosruir a disâcia d M. Sabemos que M C k (R x ) é eumerável e deso, e porao basa provar que, para oda f M, lim p,y 0:(w) f = pf(w), w q..p. (2.22) pois, ese caso, (2.22) se verifica, em paricular, para oda f C b (R x ). Cosideremos um subcojuo Ω Ω al que P (Ω ) = 1 e para odo w Ω e para oda f M. Porao, para odo w Ω lim p,y 0: 1(w) g = p g (w) lim p,y 0: 1(w) (g f) = p (g f)(w) lim p,y 0: o que implica que, f(w) = lim (g f) = p (g f) (w) = p f(w), f M g p g p,y0: 1(w) p,y 0: 1(w) lim p,y 0: = p, P q..p. (2.23) 27

30 Agora, por hipóese para odo 0, P q..p., emos que e lembrado que p = p 1 K 1, segue que lim d M(p,Y 0: 1, p ) = 0 (2.24) lim d M( p,y 0:, p ) = 0 (2.25) lim d M( p,y 0: 1 1 K 1, p ) = 0 (2.26) Assim, em visa das expressões (2.23) (2.26), omado o limie quado ede a ifiio, obemos que d M (p,y 0: 1, p,y 0: 1 1 K 1 ) d M (p,y 0: 1, p ) + d M (p, p,y 0: 1 1 K 1 ) 0 (2.27) d M ( p,y 0:, p,y 0: ) d M ( p,y 0:, p ) + d M ( p, p,y 0: ) 0 (2.28) Logo, por (2.27) e (2.28) as expressões b4 e c4 se verificam. Agora, como p,y 0: q..p., 0, omado = 0, obemos a expressão a4. p, P 2.3 Exemplo de Filro de Parículas Descrição do Filro de Parículas O algorimo apreseado abaixo evolve o uso de um sisema de parículas que evoluem de acordo com um processo de Markov e, em empos fixos, geram um cero úmero de descedees. Poseriormee, descrevemos o mecaismo de ramificação muliomial e veremos que impodo algumas codições sob esse mecaismo de ramificação, a medida empírica associada ao sisema de parículas coverge, quado ede a ifiio, para a disribuição codicioal do sial, dadas as observações. Descrição do Filro de Pariculas Espaço-Esado 1. Iicialização p 0 : disribuição iicial. p 0 : disribuição empírica associada a uma amosra de amaho de p 0. Para i = 1,...,, amosramos x (i) 0 p 0 e defiimos p 0 = 1 δ {x (i) 0 }. 28

31 2. Ieração Descrevemos como ober p a parir de p 1. p 1 = 1 δ {x (i) 1 }. Mova cada parícula usado o úcleo rasição do sial ( ) x (i) 1 x (i) K 1 x (i) 1,.. Cada parícula se move idepedeemee das demais. A disribuição empírica associada a ova uvem de parículas, x (i), i = 1,...,, será Calcule os pesos, p = 1 w (i) = δ {x (i) }. ( ) g x (i) ). j=1 g (x (j) Observe que p = 1 w (i) δ. (i) {x } é exaamee a medida p como defiida em (2.10) Cada parícula x (i), i = 1,...,, é subsiuída por um úmero de descedees - ξ (i) - algus possivelmee ulos, al que ξ (i) = Deoamos as ovas posições por x (i), i = 1,..., N, e defiimos p = 1 δ {x (i) } Observações: 1. Vamos mosrar que a medida p defiida o passo de ieração é exaamee a medida dada por (2.10). Por (2.10), emos que sedo que p = wp, (2.29) 29

32 Agora, para i = 1,...,, w := g y p g y. g y ( x (i) ) p g y = = = g y ( x (i) ) Eg y ( ) y g x (i) ) j=1 g (x y (j) 1 ( ) y g x (i) j=1 g (x y (j) p ( x (j) ) ) := w (i) (2.30) Assim, subsiuido w (i) em (2.29), obemos que p = w (i) p = w (i) 1 = 1 δ {x (i) } w (i) δ (i) {x (2.31) } O que mosra que a medida empírica para seleção das parículas, p, esá em cocordâcia com a medida eórica dada por (2.10). ( ) 2. Seja A a mariz de variâcias e covariâcias do veor aleaório ξ := ξ (i), ou seja, ( ) A := E[(ξ w ) T (ξ w )], sedo que w := é o veor de pesos ou médias. Veremos poseriormee, a subseção Covergêcia do Algorimo, dese capíulo, que para obermos a covergêia do algorimo, devemos supor que exise uma cosae c, al que para odo q R x ; w (i) q T A q c, (2.32) q = ( q (i)) e q(i) 1, i = 1,...,. Mecaismo de Ramificação Muliomial Para obermos o úmero de descedees ξ (i), i = 1,...,, associados aos cadidaos x (i), o isae, faremos uso do mecaismo de ramificação muliomial. Escolhemos, ( ) Nese caso, ξ Mulimomial, w(1),..., w(). 30

33 ( 1. E ξ (i) ( 2. V ar ) 3. cov(ξ (i) ξ (i) = w (i) ; ) [ ( = E ξ (i) [(, ξ (j) ) = E ξ (i) Observe ambém que, ) ] 2 w (i) = w (i) ) ( w (i) ξ (j) ) (1 w(i) ; w (j) )] = w(i) w (j). q T A q = = = = ( E ξ (i) w (i) ( ) 2 w (i) ( ) q (i) w(i) w (i) ( ) q (i) 2 1 w (i) ( ) q (i) i<j ) (q (i) ) 2 2 ( 1 i<j ( w (i) q (i) ) 2 2 [( E ξ (i) w (i) w (j) 1 i<j ) ( w (i) ξ (j) q (i) q (j) w (i) q (i) w (j) q (j) )] w (j) q (i) q (j) w (i) q (i) ) 2. (2.33) Agora, como q (i) 1, i = 1,...,, segue que q T A q w (i) 1 ( ) 2 w (i) q (i) e desde que w(i) =, cosiderado c = 1, a codição (2.32), é saisfeia Covergêcia do Algorimo Fixemos uma observação arbirária y 0:T, ode T é um empo fiio. Provaremos que as medidas aleaórias, resulaes das classes dos algorimos descrias acima, covergem para p y 0: (respecivamee p y 0: 1 ) para odo 0 T. Para iso, iroduzimos as seguies σ-álgebras F = σ ( x (i) s, x (i) s, s, i = 1,..., ) ( F = σ x (i) s w (i) ), x (i) s, s <, x (i), i = 1,..., Os próximos dois seguies eoremas podem ser ecorados o Capíulo 2 de [1] e as demosrações foram obidas pela auora do rabalho. Teorema Sejam (p ) =1 e ( p ) =1 sequêcias de medidas produzidas pela classe dos algorimos descrio acima. Eão, para odo 0 T, emos que lim E[ p f p y 0: 1 f ] = 0 31

34 e lim E[ p f p y 0: f ] = 0 Demosração. Pelo Teorema 2.2.1, basa verificarmos as expressões a1, b1 e c1. Seja f C b (R x ). Observe que, Logo, desde que p 0f = 1 δ o f = 1 x (i) 0 f(x (i) 0 ) (2.34) E p 0f = 1 Ef(x (i) 0 ) = 1 f(x (i) 0 )dp Ω = 1 f()dp o () R x x (i) 0 = 1 f()dπ 0 R x = f()dπ 0 R x = Eπ 0 f (2.35) a codição a1 é saifeia. Mosraremos agora que a codição b1 se verifica. Para oda f C b (R x ) vale que, [ ( ) ] ( ) E f x (i) F 1 = K 1 f x (i) 1, para odo i = 1,...,. Porao, De fao, emos que E [p f F 1 ] = p 1K 1 f. (2.36) p f = 1 e omado a esperaça codicioal em F 1, segue que E [p f F 1 ] = 1 = 1 32 f(x (i) ) [ ] E f(x (i) ) F 1 K 1 f(x (i) 1)

35 = 1 δ o K x (i) 1 f 1 = p 1K 1 f (2.37) Agora, oe que o que implica que, (p f) 2 = 1 2 f 2 (x (i) ) i<j f(x (i) )f(x (j) ) E[(p f) 2 F 1 ] = 1 2 E[f 2 (x (i) ) F 1 ] i<j Observe que o primeiro ermo do lado esquerdo de (2.38) é al que, E[f(x (i) )f(x (j) ) F 1 ] (2.38) Temos ambém que, 1 2 E[f 2 (x (i) ) F 1 ] = 1 E[ 1 (E[p f F 1 ]) 2 = ( E[ 1 δ o f 2 F x (i) 1 ] = 1 E[p f 2 F 1 ] = 1 p 1K 1 f 2 (2.39) ( = 1 2 = i<j f(x (i) ) F 1 ] E[f(x (i) ) F 1 ] E 2 [f(x (i) ) F 1 ] ) 2 ) 2 E[f(x (i) ) F 1 ]E[f(x (j) ) F 1 ] (2.40) Em visa de (2.38), (2.39) e (2.40), e lembrado que as parículas se movem idepedeemee, resula que E[(p f p 1K 1 f) 2 F 1 ] = E[(p f E[p f F 1 ]) 2 F 1 ] = E[(p f) 2 F 1 ] (E[p f F 1 ]) 2 = 1 π 1K 1 f E 2 [f(x (i) ) F 1 ] 33

36 = 1 p 1K 1 f 2 1 ( ) 2 K 2 1 f(x (i) 1) = 1 p 1 ( K 1 f 2 (K 1 f) 2) (2.41) Noe que, 1 2 ( K 1 f(x (i) 1) ) 2 = 1 2 = 1 2 (δ o K x (i) 1 f) 2 1 = 1 p 1(K 1 f) 2 δ o (K x (i) 1 f) 2 1 Agora, (K 1 f 2 )(x) = f 2 (y)k 1 (x, dy) f 2 R x K 1 (x, dy) = f 2 R x (2.42) e pela desigualdade de Jese, ( ) 2 (K 1 f) 2 (x) = f(y)k 1 (x, dy) f 2 K 1 (x, dy) = f 2 (2.43) R x R x Desa forma, por (2.42) e (2.43), segue que E[(p f p 1K 1 f) 2 ] 1 ( p 1 (K 1 f 2 ) + p 1(K 1 f) 2 ) 2 f 2 Tomado o limie quado ede a ifiio em (2.44) obemos que a codição b1 é saisfeia. Fialmee, vamos mosrar que a codição c1 é verificada. Desde que, (2.44) e emos que, p = 1 p f = 1 ξ (i) δ o x (i) ξ (i) f(x (i) ), E[ p f F ] = 1 E[ξ (i) f(x (i) ) F ] 34

37 Temos ambém que, = 1 = 1 f(x (i) )E[ξ (i) F ] w (i) f(x (i) ) = p f. (2.45) E[( p f p f) 2 ] = 1 2 (q ) T A q, (2.46) ( ) ode q é o veor com eradas (q ) (i) = f x (i). Uma demosração de (2.46) ecora-se o apêdice. De (2.32) e (2.46), resula que Porao, e assim a codição c1 é saisfeia. E[( p f p f) 2 ] = 1 ( ) (q 2 q 2 ) T q q A q 1 2 q 2 c = c f 2 E[( p f p f) 2 ] c f 2 Teorema Sejam (p ) =1 e ( p ) =1 sequêcias de medidas produzidas pelo algorimo com mecaismo de ramificação muliomial. Eão, para odo 0 T, vale que lim p = p y 0: 1, lim p = p y 0: P q..p. Demosração. A prova será baseada a aplicação do Teorema Para iso, devemos verificar as expressões a2, b2 e c2. Seja M C b (R d ) um cojuo eumerável deermiado a covergêcia das fuções defiidas as seções aeriores. Desde que x (i) 0, i = 1,...,, são idepedees e disribuidas de acordo com π 0, pela Lei dos Grades Números, segue que sedo que p 0f = 1 Ef(x (1) 0 ) = f(x (i) 0 ) Ef(x (1) 0 ) (2.47) f(x (1) 0 )dp Ω = f()dp (1) {x R x 0 = f()dπ 0 () R x = p 0 f (2.48) 35

38 Porao, a codição a2 é verificada. Vamos mosrar agora que a codição b2 é saisfeia. Usado a idepedêcia de x (1),..., x () dado F e desde que [ ( ) ] ( ) E f x (i) F 1 = K 1 f x (i) 1, para odo i = 1,..., emos que ( E[(p f p 1K 1 f) 4 F 1 ] = E Noe que, 1 ( ( f = 1 [ ( ( E f i<j [ ( ( E f x (i) x (i) x (i) ) K 1 f ) K 1 f ) K 1 f ( )) ) 4 x (i) 1 F 1 ( )) ] 4 x (i) 1 F 1 + ( )) 2 ( ( x (i) 1 f x (j) ) K 1 f ( )) ] 2 x (j) 1 F [ ( E f Noe ambém que, i<j x (i) 1 i<j [ ( f ( E ) K 1 f [ ( ( E f x (i) x (i) ( x (i) 1 ) K 1 f ) + K 1 f ( Assim, por (2.49) e (2.50), emos que )] [ ( (f E 1 E[2 f ] 4 4 = 16 f 4 3 x (i) 1 x (i) ) ( ) ] K 1 + f x (i) f 4 2 (2.49) ( )) 2 ( ( x (i) 1 f ) ) 2 ( f ( x (j) x (j) ) K 1 f ) + K 1 f ( i<j ( )) ] 2 x (j) 1 x (j) 1 ) ) 2 ] E [ (2 f ) 4] = 32 f 4 ( 1) f 4 2 (2.50) 36

39 [ (p E f p 1K 1 f ) ] 4 32 f 4 2 Agora, pela desigualdade de Markov, P =1 [ (p f p 1K 1 f ) 4 ɛ ] =1 1 ɛ E [ (p f p 1K 1 f ) 4 ] 32 f 4 =1 ɛ 2 < + (2.51) Logo, pelo Lema de Borel Caelli, a expressão (2.51) implica que ( [ (p P lim sup f p 1K 1 f ) ]) 4 ɛ = 0 ( [ (p P lim if f p 1K 1 f ) ] 4 c ) ɛ = 1 ( [ (p P lim if f p 1K 1 f ) ]) 4 < ɛ = 1 (2.52) [ (p Fazedo A := f p 1K 1 f ) 4 < ɛ ], pela defiição do limie iferior, para odo w lim if A, exise k 0 N al que k 0, ( p f(w) p 1K 1 f(w) ) 4 < ɛ. Dode, e porao, para oda f M [ (p lim f(w) p 1K 1 f(w) ) ] 4 = 0, w q..p. lim p f p 1K 1 f = 0, P q..p. o que mosra que a expressão b2 é saisfeia. A expressão b3 é obida de maeira aaloga ao caso da expressão b2. Similarmee, para oda f M, o que implica, como acima, que [ E ( p f p f ) ] 4 F 32 f 4 2 e porao, a codição c2 é verificada. lim p f p f = 0, P q..p. Para o caso em que as observações do processo são aleaórias, argumeos similares aos usados os Teoremas e podem ser uilizados a demosração dos seguies Corolários. 37

40 Corolário Desde que para odo 0, exise uma cosae c > 0 al que p g c, eão lim E[ p,y 0: 1 f p f ] = 0 lim E[ p,y 0: f p f ] = 0. Corolário Sejam (p ) =1 e ( p ) =1 duas sequêcias de medidas produzidas pelo algorimo com mecaismo de ramificação muliomial descrio acima. Eão, para odo 0 T, emos que Um Exemplo Markoviao lim p,y 0: 1 = p lim p,y 0: = p, P q..p. Nesa seção apresearemos uma aplicação ilusraiva da implemeação do filro de parículas. Para iso escolhemos como modelo para o sial uma cadeia de markov com 3 esados, se X é esa cadeia escolhemos a mariz de rasição, P = (p i,j ) para X sedo: π 1 = 0.5; π 2 = 0.2; π 3 = 0.3; p 1,1 = 0.5; p 1,2 = 0.5; p 1,3 = 0; p 2,1 = 0.4; p 2,2 = 0.2; p 2,3 = 0.4; p 3,1 = 0.1; p 3,2 = 0.4; p 3,3 = 0.5 ode p i,j é a probabilidade de rasição de i para j. As observações do modelo são Y que é uma perurbação do sial X : Y = X + U ode U é uma seqüêcia de variáveis aleaórias uiformes idepedees. Nosso objeivo é esimar X a parir das observações Y. A figura a seguir mosra os seguies valores da evolução de 10 parículas aé o isae =15. Temos uma descrição do processo de ramificação obido a implemeação do algorimo. Ese algorimo foi implemeado pela auora do rabalho. Figura 2.1: Na figura, foram cosideradas 10 pariculas com empo de parada igual a 15 38

41 Na seguie abela emos um resumo dos resulados obidos. Opamos por omar a média dos valores da uvem de parículas, X, como um predior do sial. Nuvem de par.(empo) X ˆσ X X (sial) CV EQM 1 2,20 0,63 1 0,29 1,80 2 1,80 0,78 2 0,43 0,60 3 1,50 0,71 3 0,47 2,70 4 1,70 0,82 2 0,48 0,70 5 1,90 0,57 2 0,30 0,40 6 1,90 0,99 1 0,52 1,70 7 1,90 0,74 2 0,39 0,50 8 2,10 0,88 3 0,42 1,50 9 2,10 0,87 2 0,41 0, ,10 0,83 3 0,40 1, ,10 0,84 3 0,40 1, ,10 0,74 2 0,35 0, ,00 0,94 3 0,47 1, ,60 0,84 2 0,53 0, ,70 0,82 2 0,48 0,70 Tabela 2.1: Sial filrado. 39

42 A seguir emos o gráfico para a média, X e X juos. O filro, X, ão acompaha perfeiamee o sial em média. Devido ao fao de esarmos rabalhado apeas um exemplo ilusraivo opamos por usar um úmero pequeo de parículas. Figura 2.2: Gráfico para a Média e o Sial De acordo com o gráfico, a variâcia ede a esabilizar. Figura 2.3: Gráfico para a variâcia 40

43 41 Capíulo 3 Reamosragem Móvel: Méodo de Filragem com Salos ere os Modelos O algorimo Resample-Move é um exemplo de uma classe de filros de parículas chamado filro de parículas híbrido. Embora esa écica eha as mesmas bases coceiuais da amosragemreamosragem por imporâcia e amosragem MCMC, ela evia a degeeração dos méodos auais (ver [3]). Em [3] é proposo um ovo méodo para aálise bayesiaa diâmica, chamado o algorimo Resample-Move, que evia a degeeração dos méodos exisees. O algorimo Resample-Move combia SIR e ierações de cadeia de Markov. O objeivo é ober uma disribuição evoluido por periodicos passos de reamosragem e por ocasioais movimeos de cadeias de Markov, que deixam cada parícula idividual da posição corree para uma ova posição aleaória do espaço de parâmeros. Ao corário dos méodos MCMC padrão, o úmero de ierações da cadeia é arbirário e ehum empo de bur-i é requerido [4]. Nese capíulo descrevemos o algorimo Resample-Move e apreseamos sua implemeação para o caso de um processo gaussiao liear. Como referêcia ver Capíulo 6 de [1]. 3.1 Apreseação do Problema Supoha que ehamos uma sequêcia de observações y 1, y 2,..., y,... avaliadas o empo 1, 2,...,,.... No que segue, o subscrio idexa o empo discreo = 1, 2,.... Supomos, a pricípio, que as observações são geradas de um modelo paramérico, poseriormee cosideraremos siuações mais gerais com modelos muliplos. Seja a disribuição de probabilidade de y 1: := (y 1,..., y ) sobre um al modelo dada por, p(y 1: θ ), ode θ Ω R, represea um veor de dados ausees ou descohecidos do modelo. Esses dados ausees ou descohecidos são chamados de parâmeros. Supomos que θ pode desevolver-se aumeado de amaho a odo empo que uma ova observação surge. Cosiderado θ + o cojuo de parâmeros erado o modelo o isae, emos que que podemos reescrever como θ +1 = (θ, θ + ),

44 θ +1 = (θ 0:+1 ). Dero de uma aproximação Bayesiaa para o problema, θ em uma disribuição a priori p(dθ ) = p(dθ 1 )p(dθ + 1 θ 1 ) Do poo de visa das cadeias de Markov, cosideramos θ + caso p(dx 0: ) = p(dx 0: 1 )p(dx x 0: 1 ) = p(dx 0: 1 )p(dx x 1 ) = x +1 e θ +1 = (x 0:, x +1 ), e ese Cosideraremos, do poo de visa Bayesiao, problemas em que iferêcias são requeridas olie, como ocorre por exemplo em uma uidade de raameo iesivo, ode esamos ieressados a odo isae a deecção de aormalidades em paciees baseado em um fluxo coíuo de dados gerados pelo moiorameo de aparelhos. Em problemas dese ipo, o empo, a disribuição de ieresse, é a disribuição a poseriori Bayesiaa, π (dθ ) = p(dθ y 1: ) Esa expressão, o coexo Markoviao, é dada por π 0: (dx 0: ) = p(dx 0: y 1: ) represeado osso esado de icereza do sial após a obeção da observação y. Esa disribuição é em geral cohecida a meos de uma cosae de ormalização dada pela iegral p(y 1: x 0: )p(dx 0: ), que, em geral, é iraável. Devido ao aumeo de iformação dos dados, a disribuição alvo p(. y 1: ) desevolverá geralmee com o empo, gerado uma sequêcia suave que o coexo das cadeias de Markov é represeada por π 0 (dθ 0 ), π 1 (dθ 1 ),..., π (dθ ),... (3.1) p(dx 0 y 1: ), p(dx 0:1 y 1: ),..., p(dx 0: y 1: ),... (3.2) ode dx 0: := (dx 0,..., dx ). Temos a seguie recursão Bayesiaa, π (dθ ) π 1 (dθ 1 )p(dθ + 1 θ 1, y 1: 1 )p(y y 1: 1, θ ). Esa relação, por simplicidade, será verificada para o caso Markoviao. Observe que seu aálogo Markoviao é dado por, p(dx 0: y 1: ) p(dx 0: 1 y 1: 1 )p(dx x 0: 1, y 1: 1 )p(y y 1: 1, x 0: ) 42

45 De fao, p(dx 0: y 1: ) = p(y 1: x 0: )p(dx 0: ) p(y1: x 0: )p(dx 0: ) p(y 1: x 0: )p(dx 0: ) p(y 1: x 0: )p(x 0: 1 )p(dx x 0: 1 ) p(y 1: 1 x 0: 1 )p(dx 0: 1 ) p(dx x 0: 1 )p(y 1: x 0: ) p(y 1: 1 x 0: 1 ) p(dx 0: 1 y 1: 1 ) p(y 1: 1, x 0: )p(dx x 0: 1 )p(y, y 1: 1, x 0: )p(x 0: 1 ) p(x 0: 1, y 1: 1 )p(y 1: 1, x 0: )p(x 0: ) p(dx 0: 1 y 1: 1 ) p(y y 1: 1, x 0: )p(y 1: 1 x, x 0: 1 )p(dx x 0: 1 )p(x 0: 1 ) p(x 0: 1, y 1: 1 ) p(dx 0: 1 y 1: 1 )p(y y 1: 1, x 0: ) p(x, x 0: 1, y 1: 1 ) p(x 0: 1, y 1: 1 ) p(dx 0: 1 y 1: 1 )p(y y 1: 1, x 0: )p(dx x 0: 1, y 1: 1 ) Nosso objeivo, a grosso modo, esá a evolução da sequêcia alvo. Mais formalmee, para qualquer fução de ieresse v dos parâmeros descohecidos, defiida sobre o supore de p(. y 1: ). No coexo Bayesiao, queremos esimar a esperaça codicioal a poseriori para oda fução v : Ω R limiada e mesurável, E π v (θ ) := v (θ )π (dθ ) (3.3) ode v (θ ) é o valor de v em um subcojuo meor dθ o empo, e a iegral é calculada sobre ais subcojuos. Noe que de (3.3) decorre a uicidade em disribuição de π. Se Ω é discreo e p(. y 1: ) é a massa de probabilidade defiida ese espaço, a iegral (3.3) orar-se E π v (θ ) := v (θ )π (θ ) (3.4) No caso em que Ω é coíuo com desidade π (θ ), eão (3.3) se reduz a E π v (θ ) := v (θ )π (θ )dθ (3.5) 3.2 O Algorimo RESAMPLE-MOVE Filros de parículas para a rajeória da sequêcia alvo (3.1) produzem em cada isae de empo ieiro uma represeação discrea de p(. y 1: ) aráves de uma coleção de parículas aleaórias: Θ := (θ 1, θ 2,..., θ ) ode θ j, a j-ésima parícula o isae de empo, é uma realização do veor de parâmeros θ. O cojuo Θ de parículas é chamado a geração de ordem. Cosideremos filros de parículas em que as gerações são aualizadas recursivamee, sedo a geração ( 1) aualizada a geração 43

46 , em um empo ieiro. Os filros são cosruídos de al forma que a disribuição empírica das parículas a geração coverge para p(. y 1: ) quado o úmero de parículas coidas aumea. Iso sigifica que para qualquer fução de ieresse v (θ ) a esimaiva Moe Carlo V (θ ) = 1 j=1 v (θ j ) E π v (θ ), quado, sedo que E π v (θ ) é a esperaça a poseriori defiida em (3.3). O aálogo, para o caso das cadeias de Markov, é cosiderar a covergêcia V (x 0: ) = 1 j=1 quado. O algorimo abaixo foi obido do Capíulo 6 de [1]. Descrição do Filro de Parículas Bayesiao 1. Iicialização, = 0. v (x (j) 0:) E π0: v (x 0: ), Crie a geração 0 amosrado, idepedeemee, para j = 1,..., 0 : 2. Iclusão e evolução θ (j) 0 π 0 (dθ 0 ) Para = 1, 2,..., criamos a geração realizado os dois seguies passos: 2.1.Iclusão: para cada i = 1,..., 1, amosre θ +,(i) 1 f (i) (dθ 1) + com a f.d.p. f (i) defiida abaixo. defia uma ova parícula θ,(i) 1 e seja o ovo cojuo de parículas deoado por 2.2.Evolução: = (θ (i) 1, θ +,(i) 1 ) (3.6) Θ 1 := (θ,(1) 1,..., θ,( 1) 1 ) as parículas da geração são criadas por amosragem, idepedeemee, para j = 1,..., : θ (j) Q (dθ Θ 1), (3.7) sedo a disribuição codicioal Q discuida poseriormee esa seção. 44

47 De acordo com o algorimo descrio acima, em um empo ieiro a geração aerior ( 1) é aualizada em uma ova geração por um par de passos: iclusão e evolução. A forma é requerida somee quado os ovos parâmeros são iroduzidos o modelo o isae, causado assim que o espaço associado a θ eha um maior amaho do que o espaço associado a θ 1. Nessas siuações, os aumeamos cada i-ésima parícula da geração ( 1) por uma compoee exra apropriada, θ +,(i) 1, depois que essas são amosradas de uma disribuição f (i), como por exemplo, da disribuição a priori codicioal ou da disribuição a poseriori codicioal, f (i) (dθ +,(i) 1 ) = p(dθ +,(i) 1 θ 1, (i) y 1: 1 ) (3.8) f (i) (dθ +,(i) 1 ) = p(dθ +,(i) 1 θ 1, (i) y 1: ) (3.9) Uma vez que cada parícula da geração ( 1) em sido melhorada pela iclusão de ovas parículas, a geração ( 1) é evoluída a geração de acordo com (3.7). O algorimo resample-move, o coexo Bayesiao, é obido como um caso especial do esquema descrio acima aplicado duas resrições. A primeira, supor que π 1 f (i) é esriamee posiiva para odo poo o supore de π, al que depois de acrescermos a i-ésima parícula da geração ( 1) podemos fixar seu peso como sedo w (i) 1 w (i) π 1 (dθ (i) 1 π (dθ,(i) 1 ) (i) )f (dθ +,(i) 1 ), para > 1, 1 = 1, para = 1. Em paricular, para o caso das cadeias de Markov, e em visa da relação para os pesos dada pela equação (2.10) do Capíulo 2, uma demosração para ese caso paricular pode ser obida. No coexo Bayesiao, w (i) 1 é dado de forma simplificada por p(y θ,(i) 1, y 1: 1 ), quado f (i) é escolhido de acordo com a f.d.p. a priori codicioal dada por (3.8). De fao, observe que p(y θ,(i) 1, y 1: 1 ) = p(θ,(i) 1 y 1: )p(y 1: ) = p(θ 1, (i) θ +,(i) 1, y 1: 1 ) p(θ,(i) 1 y 1: )p(y 1: ) p(θ +,(i) 1 θ 1, (i) y 1: 1 )p(θ 1 y (i) 1: 1 )p(y 1: 1 ) π (θ,(i) 1 ) π 1 (θ (i) (θ +,(i) w (i) 1. 1)f (i) Para discuirmos a seguda resrição, iroduzimos a oação q (dz x) para um úcleo rasição o espaço Ω. Para odo x, o úcleo q especifica uma disribuição de probabilidade sobre Ω, e assim descreve uma maeira de mover de um dado poo x de Ω a um ovo poo z do mesmo espaço. Supohamos que q é ivariae com respeio a π (ou seja, π q = π ) al que se o poo iicial x é disribuído de acordo com π eão o desio z ambém será disribuído de acordo com π. A seguda resrição ao Filro de Parículas Bayesiao é cosiderar a disribuição Q em (3.7) 1 ) 45

48 edo uma forma de misura (de desidades) Q (dθ Θ 1) := 1 w (i) 1 1 q (dθ θ,(i) w(i) 1 ) (3.10) 1 De acordo com (3.10), devemos criar cada j-ésima parícula da geração aleaoriamee selecioado uma parícula da geração ( 1), com probabilidade (i) 1 w P 1, e eão movedo a parícula w (i) 1 selecioada de acordo com o úcleo q. A seleção será uma reamosragem por imporâcia, com pesos e com reposição, al que a probabilidade de uma dada parícula da geração ( 1) ser selecioada deve ser proporcioal a seu peso. Ifelizmee, al procedimeo cosome muio empo compuacioal e em visa diso, várias proposas de esquemas aleraivos de reamosragem em sido proposos com aeção ao cuso compuacioal do procedimeo e seu impaco sobre a variâcia do esimador. Uma aproximação úil é implemear (3.10) por um procedimeo cosisido de um passo de reamosragem seguido de um passo móvel. No passo de reamosragem, cada i-ésima parícula da geração ( 1) se ramifica em um úmero m i de cópias de si mesma, ese úmero de copias será proporcioal a seu peso (ou seja, parículas com um maior peso dão origem a um maior úmero de descedees). No passo móvel, cada uma das cópias geradas é movida de acordo com o úcleo q, codicioalmee idepedee de cada oura sobre Θ 1. Se ós permiimos que o úmero oal de parículas o isae, = 1 m i, seja aleaório, eão podemos calcular m i, i = 1,..., 1, como a seguir: 1. Calcule o úmero de descedees da i-ésima parícula o isae ( 1), θ (i) 1, por k i = 1w (i) 1 1 w(i) 1 (3.11) 2. Cosidere m i igual a pare ieira de (k i + 1) com probabilidade frac(k i ), ou caso corário, igual a pare ieira de k i. Ode frac(k) represea a pare fracioária de k. Observações: 1. A expressão para o úmero de descedees, k i, é obida como segue. Por hipóese da cosrução do esquema, { ki w (i) 1 k i = E(m i ) Assim, k i = cw (i) 1, e k i = 1 p(m i ). Porao, que forece, c = 1 1 = 1 p(m i ) c w (i) 1 = 1 cw (i) 1 P 1. Desa forma, subsiuido o valor da cosae c, obemos w (i) w (i) w(i) 1 = 1 p(m i ) p(m i ) = 1 46 w (i) 1 1 w(i) 1

49 ...k i = 1 w (i) 1 P 1 w (i) 1 2. Nese procedimeo em valor esperado 1. Basa observarmos que, 1 1 E( ) = E(m i ) = 1 p(m i ) = Ifelizmee, o esquema acima ão assegura que o úmero de parículas seja cosae, e ão podemos porao prever a exição ou explosão do algorimo. Iso pode ser eviado por um mecaismo de ramificação muliomial. 4. Na práica, é comum cosiderar, para odo, 1 = =, sedo R fixo, e de preferêcia ão muio grade, por simplicidade compuacioal Um Exemplo Gaussiao Vamos aplicar o algorimo Reamosragem-Móvel a um problema simples evolvedo um úico parâmero descohecido θ com valores em R, sedo que a sequêcia alvo é uma sequêcia de disribuições Gaussiaas uivariadas com variâcia uiária e uma média que evolui com o empo de acordo com 0.5, iso é θ = N(0, 1). 47

50 Figura 3.1: Represeação gráfica do algorimo RESAMPLE-MOVE em um exemplo uivariado, esa figura foi reirada de [1]. Na figura, θ é um veor de parâmeros descohecidos com valores em R represeado pelo eixo verical. Cada -ésima geração de parículas forece um cojuo de realizações de θ. Essas realizações são apreseadas a forma de um cojuo de círculos com abscissa e raio proporcioal ao peso da parícula. 48

51 Cada -ésima geração de parículas é represeada a figura como um cojuo de círculos com abscissa e raio proporcioal ao peso da parícula. Toda parícula imporae da geração ( 1) ede a dar origem a uma umerosa família de parículas descedees a geração. Na figura, parículas de uma mesma família são ligadas a seus parees comus por uma rea, e seu úmero e localização são variáveis aleaórias que depedem do peso e localização de seus parees comus. O processo periodicamee redisribui as parículas al que sua desidade ede a aumear em regiões do espaço de parâmeros edo uma maior probabilidade. O processo de seleção e movimeo cooperam para ober uma adapação equao ao mesmo empo eviam a redução da diversidade das parículas. Parículas com pouca imporâcia em cada geração edem a permaecerem ão selecioadas e morrem. O amaho esperado de cada família é proporcioal ao peso de seus parees comus. Implemeação do algorimo pela auora do rabalho. Cosidere θ = 0, 5 + N(0, 1). Obivemos os seguies resulados que esão a abela 3.1. Tempo θ ˆσ θ θ (sial) 1 1,29 1,18 0,72 2 0,64 0,14 0,28 3 1,37 0,28 1,84 4 0,94 0,66 2,01 5 2,08 0,65 1,71 6 3,53 1,13 2,72 7 5,76 1,62 5,51 8 5,10 0,25 3,97 9 2,23 0,09 2, ,92 0,24 3, ,30 0,84 6, ,95 1,30 6, ,81 0,28 6, ,53 2,41 8, ,62 0,48 9, ,31 0,61 8, ,54 1,03 8, ,14 0,88 10, ,75 0,25 12, ,69 1,09 7,78 Tabela 3.1: Sial filrado. 49

52 A aproximação é muio boa devido ao fao de que o sial é liear. Nos esperamos uma fluuação maior o caso de um problema ão liear. Figura 3.2: Gráfico para a Média e o Sial A disribuição a priori para o filro deveria er uma maior variâcia para que acompahe melhor o sial. Observe que o sial é liear, o efeio de aumear a variâcia ão vai ser um problema, mas se o sial for ão liear o efeio de aumear a variâcia ão é bom. Isso ocorre porque os efeios combiados do sial e da uvem de parículas vão fazer com que o filro se afase do sial. Figura 3.3: Gráfico para a variâcia Comeários 1. Esamos admiido, que o úcleo rasição q (. x), que usamos para mover as parículas o empo, em uma disribuição ivariae π. Porao, se uma parícula o empo aes de ser movida é disribuída de acordo com π, eão ela será disribuída de acordo com π ambém depois de ser movida. Formalmee, 50