Filtro de Partículas Aplicados à Econometria. Daniel Henrique Orientador: Claudio José Bordin Júnior Mestrado em Engenharia da Informação

Transcrição

1 Filtro de Partículas Aplicados à Econometria Daniel Henrique Orientador: Claudio José Bordin Júnior Mestrado em Engenharia da Informação

2 Introdução Trabalhos Correlatos Filtragem Estocástica Metodologia Métodos de Filtragem Simulações Propostas Futuras Agenda

3 Introdução Constantes mudanças no mercado [16]; Importância da Previsão e Controle das Variações do Mercado; Análise por Métodos Qualitativos [5] e Análise por Métodos Quantitativos [4]; Estatística como Ferramenta de Controle.

4 Introdução Modelos de Autoregressão Filtros Estócásticos Redes Neurais

5 Introdução Foco do Trabalho: Modelo de Volatilidade Estocástica [9][10][18] derivado da equação de Black-Scholes [3]; em que: X t = β 1 + β 2 X t 1 + σu t y t = e Xt/2, (1) v t X t R é o logaritmo da volatilidade (log-volatility) no instante t N, a variável que se deseja estimar; u t e v t são processos estocásticos gaussianas independentes de média 0 e variância 1; β 1, β 2 e σ > 0 são parâmetros desconhecidos; y t é o retorno do mercado de ações observado em t. Para o caso em questão, P t é o preço de um ativo no momento, então o retorno y t é definido por y t = P t P t 1 1.

6 Introdução X t = β 1 + β 2 X t 1 + σu t y t = e X t/2 v t, (1) A estimação de X t é um problema de Filtragem Estocástica; Impossibilidade de resolução pelo filtro de Kalman (não-linearidade da expressão de y t ); Resolução do problema [9] utilizando filtros de partículas.

7 Introdução Objetivo geral Estudar às Aplicações de Filtros de Partículas à Econometria; Objetivos específicos a) Estudar e reproduzir o método aplicado em Djuric et al [9]; b) Comparar o método estudado com outros métodos de filtragem clássicos (Filtro de Kalman e Filtro de Kalman Estendido), e com filtros de partículas com estruturas distintas [10]; c) Propor um algoritmo alternativo baseado em Filtro de Partículas; d) Simular o comportamento dos algoritmos através de simulações via MATLAB com dados sintéticos e com dados reais.

8 Temas de Pesquisa Filtragem Estocástica Volatilidade Estocástica Estatística Aplicada

9 Áreas de Pesquisa CIÊNCIAS EXATAS E DA TERRA Probabilidade e Estatística Probabilidade e Estatísticas Aplicadas ENGENHARIA Engenharia Elétrica Telecomunicações CIÊNCIAS SOCIAIS APLICADAS Economia Métodos Quantitativos em Economia

10 Introdução Figura 1: Preço de Fechamento da PETR4.SA nos últimos 5 anos.

11 Trabalhos Correlatos - Em [9], é estimada a volatilidade do mercado financeiro por utilizando dados sintéticos, além de realizar testes com os índices da S&P Em [25][26], analisa-se a volatilidade estocástica utilizando o mesmo modelo de [9]. Porém, usa-se filtros IIR. - Em [27], analisa-se a variação do preço do Petróleo utilizando Filtros de Partículas.

12 Filtragem Estocástica - Estimação de uma variável desconhecida (estado) a partir de observações parciais, por meio de um modelo probabilístico. - Algumas Aplicações: Rastreamento de alvos [4]; Equalização cega de canais de comunicação [2]; Climatologia; Estimação do estado de um sistema elétrico de potência [19]; Problemas de econometria [7][11][20][23][24].

13 Representação do Problema de Filtragém Estocástica ቊ X n = f n X n 1, v n 1, θ n y n = h n X n, u n, θ n, (2) em que: X n é o estado; y n é uma sequência de observações; f n.,. é a função de transição de estados; h n.,. é a função de observação; θ n é um vetor de parâmetros; v n são sequências aleatórias, chamadas de ruído de excitação ; u n são sequências aleatórias, chamadas de ruído de observação.

14 Representação do Problema de Filtragém Estocástica em que: ቊ X n = f n X n 1, v n 1, θ n y n = h n X n, u n, θ n, (2) X n é o estado; y n é uma sequência de observações; f n.,. é a função de transição de estados; h n.,. é a função de observação; θ n é um vetor de parâmetros; v n são sequências aleatórias, chamadas de ruído de excitação ; u n são sequências aleatórias, chamadas de ruído de observação. Parâmetros de θ n conhecidos v n e u n independentes Modelo Markoviano

15 Estimativa Recursiva de um Estado Condição: A densidade a posteriori p(x n Y n ), Y n = y 1,, y n, deve poder ser determinada. Solução recursiva separada em dois passos: Passo de Predição (Equação 2.1): determina a distribuição do estado no instante n com base nas observações passadas. p X n Y n 1 = R N p X n X n 1 p X n 1 Y n 1 dx n 1, (2.1) Passo de filtragem (Equação 2.2), atualiza essa distribuição incorporando a observação do instante n. p X n y n = p y n X n p X n Y n 1 dx n 1 p X n y n 1 = p y n X n p X n Y n 1 ධ R N p y n X n p X n Y n 1 dx n, (2.2)

16 Estimativa Recursiva de Um Estado Solução analítica para os dois casos principais [3]: Filtro de Kalman [13]: v n, u n forem conjuntamente gaussianos e f n e h n forem funções lineares; Filtro de Grelha (grid filter) [1]: quando X n possuir uma distribuição discreta com suporte finito; Demais casos: filtros de partículas [10].

17 Processo Estocástico Coleção de variáveis aleatórias representando a evolução de um sistema de valores com o tempo; Exemplos: Flutuação do Mercado de Ações, Taxas de Câmbio, Pressão Sanguínea, Saldo em Conta Corrente em um Período de Tempo, etc.

18 Figura 2: Exemplo de Processo Estocástico. Processo Estocástico

19 Metodologia Atividades Teóricas Tópicos Gerais Introdutórios Representação de sistemas de tempo discreto em espaço de estados [17]; Lei de Bayes: Probabilidades Condicionais [9], independência condicional; Método de Monte Carlo e geração de amostras de variáveis aleatórias; Processamento de Sinais Aleatórios Filtragem estocástica e métodos de Filtragem [1][4][10][13][21] Volatilidade estocástica [9]; Aplicações dos filtros de partículas à econometria [6][7][11][18][20][23][24]. Conceitos básicos de álgebra linear [22].

20 Metodologia Atividades Práticas Elaboração de Algoritmos em MATLAB Passeio Aleatório; Filtro de Kalman; Grid Filter; Filtro de Kalman Estendido; Filtro de Partículas e Filtro de Partículas Rao-Blackwelizado; Reprodução do método de Djuric [9] e comparação com outros métodos baseados em EKF; Testes com Dados Reais.

21 Filtro de Kalman Condição: Variáveis devem ser lineares e os ruídos de excitação e de observação (u n e v n respectivamente) devem ser variáveis Gaussianas. Representação do Problema: ቊ X n = F n X n 1 + u n y n = G n T X n + v n, (3) em que: X n é a variável de estado; y n é a observação acerca da variável X n ; F n, G n são matrizes determinísticas conhecidas; u n e v n são independentes, e definidas como: X 0 ~ N( തX 0, Σ 0 ) u n ~ N(0, Q n ) (ruído de excitação) v n ~ N(0, Ξ n ) (ruído de observação)

22 Filtro de Kalman Passo de Predição തX n n 1 = F n തX n 1 ቐ T, (3.1) Σ n n 1 = Q n 1 + F n Σ n 1 F n+1 Passo de Filtragem ቐ Σ n = Σ n n 1 Σ n n 1 G n Ξ n + G T 1 n Σ n n 1 G n Gn T തΣ n n 1 തX n = തX n n 1 + Σ n n 1 G n Ξ n + G T 1 n Σ n n 1 G n T yn G n തX n n 1, (3.2) em que Σ n n 1 G n Ξ n + G n T Σ n n 1 G n 1 é o fator conhecido como ganho de Kalman [4].

23 Filtro de Kalman Estendido (EKF) em que: Condição: ruídos de excitação e observação gaussianos. O método provê soluções aproximadas através de linearizações locais, quando as variáveis não são lineares. Representação do Modelo: ቊ X n = f n X n 1, u n y n = g n X n, v n, (4) X n é a variável de estado desejada; y n é uma sequência de observações; f n.,. é a função de transição de estados; g n.,. é a função de observação; v n ~ N(0, Ξ n ) é o ruído de excitação ; u n ~ N(0, Q n ) é o ruído de observação.

24 Filtro de Kalman Estendido (EKF) Passo de Predição ത X n n 1 = f n ( തX n 1, 0) Σ n n 1 = F n Σ n F n T + L n Q n L n T, (4.1) Passo de Filtragem k n = Σ n n 1 G n G n Σ n n 1 G n T + M n Ξ n M n T 1 തX n = തX n n 1 + k n y n g n തX n n 1 ; 0, Σ n = I k n g n Σ n n 1 (4.2) em que L n e F n são determinadas pelas seguintes derivadas: F n = f n X Xn 1 = തX n 1 n 1 ; L n = f n u n Xn 1 = തX n 1. em que G n e M n são determinados pelas seguintes derivadas: G n = g n X n Xn = തX n n 1 ; M n = g n v n Xn = തX n n 1.

25 EKF Adaptado para o Modelo de Volatilidade Estocástica X n = β 1 + β 2 X n 1 + σu n y n = e X n/2 v n, (4.3) em que: diferentemente de [1], β 1, β 2 e σ 2 são supostos conhecidos. Fazendo uma analogia com o modelo da Equação , tem-se que: Q n = σ 2 ; Ξ n = 1; F n = β 2 ; L n = 1; M n = e ത X n n 1 /2 e G n = 1 2 ex n n 1/2 v n.

26 EKF Adaptado para o Modelo de Volatilidade Estocástica Passo de Predição ቐ ത X n n 1 = β 2 തX n 1 + β 1 Σ n n 1 = β 2 2 Σ n + σ 2. (4.3.1) Passo de Filtragem k n = Σ n n 1 y n 2 y n 2 തX n = തX n n 1 + k n Σ n = 1 k ny n 2 4 Σ n n 1 + e ത X n n 1 y n e Σ n n 1 1 ഥX n n 1 2 sign(y n ). (4.3.2)

27 Filtro de Partículas Método numérico de integração, adequado para lidar com problemas não lineares e não gaussianos; Aproxima a densidade à posteriori através de um pente de impulsos ponderados p X 0:n y 1:n ; Sampling Importance Resampling Filter; Auxiliary Sampling Importance Resampling Filter; regularized Particle Filter [1]; Filtro de Partículas Rao-Blackwellizado [6].

28 Filtro de Partículas p X 0:n y 1:n N σ s i=1 (i) (i) wn δ Xo:n X 0:n (i) (i) (5) w n wn 1 (i) (i) (i) p y n X n p X n Xn 1 q X n (i) Xn 1 (i),y1:n (6) em que: p X 0:n y 1:n é a densidade a posteriori de interesse; (i) X o:n = X j, j = 1,, n é o conjunto de pontos de suporte com w n, i = 1,, Ns como pesos associados; (i) = Xj,j = 1,, n é o conjunto de todos os estados até o índice de tempo n. X 0:n

29 Filtro de Partículas 3 Passos: (i) (i) - Amostrar X n ~π Xn X n 1, yn - Atribua o peso w n (i) ; - Reamostrar X n (i), wn (i) N s i=1

30 Simulações Figura 3: Comparativo entre o estado original X t e as estimativas desse estado com o EKF e o Filtro de Partículas, supondo os parâmetros β 1 e β 2 conhecidos.

31 Simulações Figura 4: Comparativo entre o erro obtido pela diferença entre o estado original e o EKF, e pela diferença entre o estado original e a estimativa obtida pelo Filtro de Partículas.

32 Simulações Figura 5: Comparativo entre o estado original, o Filtro de Partículas utilizado em Djuric et al. e a função proposta.

33 Simulações Figura 6: Comparativo entre erro obtido pela diferença entre o Estado Original utilizando função de Djuric et al. e a função proposta.

34 Propostas Futuras - Testar Filtro de Partículas com Dados Reais: Variação de Índices da Bovespa; Volatilidade de Preços de Ativos da Petrobrás; etc. - Desenvolver algoritmos distintos para resolução de problema descrito em [9].

35 Referências Bibliográficas [1] ARULAMPALAM, S.; MASKELL, S.; GORDON, N.; CLAPP, T. "A tutorial on particle filters for online nonlinear/non-gaussian Bayesian tracking." IEEE Transactions on signal processing 50.2,2002. p [2] ASIF, Amir; MOHAMMADI Arash, and SAXENA Saxena. Reduced order distributed particle filter for electric power grids in Acoustics, Speech and Signal Processing (ICASSP). IEEE International Conference on, 2014., p [3] BLACK, Fischer; SCHOLES, Myron. The valuation of option contracts and a test of market efficiency, J. Finance, vol. 27, p [4] BORDIN, Claudio J.; BRUNO, Marcelo GS. Particle filters for joint blind equalization and decoding in frequency-selective channels. IEEE Transactions on Signal Processing, v. 56, n. 6, p [5] BRUNI, Adriano Leal. Risco, retorno e equilíbrio: uma análise do modelo de precificação de ativos financeiros na avaliação de ações negociadas na Bovespa ( ). 163f. Dissertação (Mestrado em Administração) Curso de Pós Graduação em Administração, [6] BRUNO, Marcelo GS. Sequential Monte Carlo methods for nonlinear discrete-time filtering. Synthesis Lectures on Signal Processing, v. 6, n. 1, p. 1-99, [7] CLARK, Peter K. A subordinated stochastic process model with finite variance for speculative prices. Econometrica: journal of the Econometric Society, p [8] DANTAS, Carlos Alberto Barbosa. Probabilidade: Um Curso Introdutório Vol. 10. Edusp, [9] DJURIC, Petar M.; KHAN, Mahsiul; JOHNSTON, Douglas E. Particle filtering of stochastic volatility modeled with leverage. IEEE Journal of Selected Topics in Signal Processing, Ed. 6.v, p [10] DOUCET, Arnald; SMITH, Adrian; DE FREITAS, Nando, and GORDON, Neil. Sequential Monte Carlo Methods in Practice. Information Science and Statistics. Springer: New York, [11] GHYSELS, Eric; HARVEY, Andrew C.; RENAULT, Eric. Stochastic Volatility, in Handbook of Statistics, Statistical Method in Finance, Amsterdam, The Netherlands: North-Holland, ch. 14, p [12] JOHNSTON, Douglas E.; URTEAGA, Iñigo; DJURIĆ, Petar M. Replication and optimization of hedge fund risk factor exposures. In: Acoustics, Speech and Signal Processing (ICASSP), 2013 IEEE International Conference on. IEEE, p [13] KAILATH, Thomas; SAYED, Ali H.; HASSIBI, Babak. Linear Estimation. Prentice Hall Upper Saddle River, NJ: v. 1.

36 Referências Bibliográficas [14] KHANA, Mahsiul; ROTHENBERGB, Richard V. Application of Particle Filtering for Sequential Inferences of Stochastic Volatility Modeled with Leverage. [15] LOPES, Hedibert F.; TSAY, Ruey S. Particle filters and Bayesian inference in financial econometrics. Journal of Forecasting, v. 30, n. 1, p [16] NUNES, Maurício S.; DA COSTA JR, Newton CA; MEURER, Roberto. A relação entre o mercado de ações e as variáveis macroeconômicas: uma análise econométrica para o Brasil. Revista Brasileira de Economia, v. 59, n. 4, p [17] OGATA, Katsuhiko; SEVERO, Bernardo. Engenharia de controle moderno. Prentice Hall do Brasil, [18] PITT, Michael K.; SHEPHARD, Neil. Filtering via simulation: Auxiliary particle filters. Journal of the American statistical association, v. 94, n. 446, p [19] PUNSKAYA, Elena. Sequential Monte Carlo Methods for Digital Communications, Tese de Doutorado. University of Cambridge. [20] ROSENBERG, Barr et al. The behavior of random variables with nonstationary variance and the distribution of security prices. University of California at Berkeley, [21] SAYED, Ali H. Adaptive Filters. New York: John Wiley & Sons, [22] STRANG, Gilbert. Linear Algebra and Its Applications, v.4. New York: Brooks Cole, [23] TAYLOR, Stephen J. Modeling stochastic volatility: A review and comparative study, Math. Finance, vol. 4, pp [24] TAYLOR, Stephen J. Financial returns modelled by the product of two stochastic processes, a study of daily sugar prices in Time Series Analysis: Theory and Practice. Amsterdam, The Netherlands: North-Holland, p [25] URTEAGA, Inigo; DJURIĆ, Petar M. Sequential estimation of hidden ARMA processes by particle filtering Part I. IEEE Transactions on Signal Processing, v. 65, n. 2, p , [26] URTEAGA, Inigo; DJURIĆ, Petar M. Sequential estimation of hidden ARMA processes by particle filtering Part II.IEEE Transactions on Signal Processing, v. 65, n. 2, p , [27] AIUBE, F. A. L. Modelagem dos preços futuros de commodities: abordagem pelo filtro de partículas. Modelagem dos preços futuros de commodities: abordagem pelo filtro de partículas, 2005.