ESTATÍSTICA COMPUTACIONAL

Transcrição

1 ESTATÍSTICA COMPUTACIONAL Ralph dos Santos Silva Departamento de Métodos Estatísticos Instituto de Matemática Universidade Federal do Rio de Janeiro

2 Sumário

3 (bootstrap) Este método foi proposto por Efron (1979). Um método de reamostrar um conjunto de dados. Pode ser utilizado para inferência e também diagnóstico. Aplica-se em muitos casos para avaliar a variância, o erro padrão e o viés de um estimador. Evita cálculos analíticos. Entrentanto, é computacionalmente intensivo. Na reamostragem paramétrica, consideramos modelos e reamostramos destes modelos utilizando as estimativas dos parâmetros dadas pela pseudo-amostras. A reamostragem não paramétrica é feita com base na distribuição empírica dos dados. Para mais detalhes veja: Efron, B. e Tibshirani, R. J. (1993), An Introducion to the Bootstrap, New York: Chapman. Hall e Davidson, A. C. e Hinkley, D. V. (1997), Bootstrap Methods e Their Applications, New York: Cambridge University Press.

4 Vamos considerar a amostra (y 1,..., y n) provenientes de uma função de densidade de probabilidade f e função de distribuição acumulada F que dependem de um vetor de parâmetros θ. Suponha que T (Y ) seja a Estatística de interesse para estimar θ e t(y) seu valor observado. Reamostragem não paramétrica A função de distruição empírica F e é dada por F e(y) = 1 n n I(y i y), i que estima a função de distribuição F. É possível escrever a estatística T em função de F e. Isto nos dá uma expressão matemática para escrever T a partir de F. Assim, T (Y ) = T (F e(y )) e estimamos θ = T (F e(y )).

5 Exemplo: estimando o erro padrão da média amostral Seja (Y 1,..., Y n) uma amostra aleatória de F(y θ). Tomemos Y = 1 n Y i e S 2 = 1 n n 1 i amostral, respectivamente. n (Y i Y ), a média e a variância i Estamos interessados em calcular a variância de Y que na maioria dos casos depende de θ: Var(Y θ). Em geral, teremos Var(Y θ) = S 2 /n. Seja (Y 1,..., Y n ) a reamostra de (Y 1,..., Y n) com reposição. Para cada reamostra de m = 1,..., M, calcule S 2(m). A estimativa da variância via reamostragem é dada por s 2 r (Mostrar exemplo no R: exemplo_63.r) = 1 M M S 2(m). m=1

6 Reamostragem paramétrica Na reamostragem paramétrica utilizamos a informação sobre a distribuição populacional dos dados. Seja (Y 1,..., Y n) uma amostra aleatória de F(y θ). Estimamos θ com θ = T (y) e substituímos em F para obter F(y) = F(y θ). Daí, reamostramos (Y 1,..., Y n ) de F(y θ). Para cada reamostra de m = 1,..., M, calcule S 2(m). A estimativa da variância via reamostragem é dada por s 2 r (Mostrar exemplo no R: exemplo_63.r) = 1 M M S 2(m). Note que podemos facilmente estimar o viés do estimador do desvio padrão por s r s, sendo s = s 2 e s r = 1 M s (m). M m=1 m=1

7 Reamostragem: Intervalo de confiança Para cada reamostra, calculamos a estatística T (m) (y ) e depois calcule z (m) (y ) = T (m) (y ) T (y). ep(t (m) (y )) Estime o α-percentil de z(y ), t α, pelo quantil amostral de (z (1) (y ),..., z (M) (y )). Por fim, calcule o intervalo de confiança via reamostragem por IC (1 α)100% (θ) = (T (y) + t α ep(t (y)), T (y) + t 1 α ep(t (y))). (Mostrar exemplo no R: exemplo_63.r)

8 Reamostragem: modelos de regressão O método de reamostragem pode ser utilizado para avaliar a precisão das estimativas estatísticas. O método de reamostragem produz tipicamente uma aproximação para a distribuição da estatística de interesse que pode ser mais precisa que sua aproximação assintótica de primeira ordem. Em modelos de regressão temos y i = β 0 + β 1 x i1 + + β px ip + ε i, para i = 1, 2,..., n, sendo ε i variáveis aleatórias independentes com média 0 e variância constante σ 2. Sabemos que o estimador via mínimos quadrados é dado por b = (X X) 1 X y. Neste exemplo, estamos interessados no erro padrão de β k para 0 k p.

9 Estime β por b = (X X) 1 X y e calcule o vetor de resíduos e. Gere uma amostra e de tamanho n, com reposição, de e e calcule y = Xb + e. Estime β de cada reamostra por b = (X X) 1 X y. Por fim, calcule o erro padrão de β k como o desvio padrão amostral das diversas estimativas b k das reamostras. Esse método de reamostragem dos resíduos funcionam bem quando o modelo é de fato o mais plausível como processo gerador dos dados. Uma outra abordagem, que funciona inclusive em presença de heterocedasticidade, é reamostrar dos pares {(y i, x i )} n i=1. Note que estamos fazendo estimação por mínimos quadrados e portanto não estamos assumindo nenhuma distribuição conhecida para o erro. (Mostrar exemplo no R: exemplo_64.r)

10 Método deixe um fora (jackknife) Suponha que tenhamos uma amostra y = (y 1,..., y n) e um estimador θ = t(y). O método deixe um fora considera as subamostras da forma e as estimativas y i = (y 1,..., y i 1, y i+1,..., y n) para i = 1,..., n. θ (i) = t(y i ) para i = 1,..., n. A estimativa do viés via este método é dada por viés = (n 1)( θ (.) θ) sendo θ (.) = 1 n A estimativa do erro padrão é dada por [ ] 1/2 n 1 n êp = ( θ (i) n θ (.) ) 2. i=1 (Mostrar exemplo no R: exemplo_64.r) n θ (i). i=1