Função de Verossimilhança

Transcrição

1 AULA 4: Função de Verossimilhança

2 1.Verossimilhança Conceitos 2. Função de Verossimilhança 3. Log Verossimilhança Negativa 4. Método da Máxima Verossimilhança 5. Estimadores de Máxima Verossimilhança (MLEs) e suas propriedades 6. Cálculo dos MLEs 7. Curva e Superfície de Verossimilhança 8. Intervalos e regiões de plausibilidade 9. Verossimilhança Estimada e Perfilhada

3 O que é Verossimilhança? Observação: um sorteio, uma bola branca. Hipóteses H 1 : Há apenas bolas brancas na urna. H 2 : Metade das bolas da urna são Problema: brancas e metade são azuis. Identificar a hipótese mais plausível, dada a observação.

4 Lei da Verossimilhança (Um Enunciado Informal*) Dado que: Há mais de uma explicação para um conjunto de dados. Cada hipótese atribui uma probabilidade diferente aos dados. Então: A EXPLICAÇÃO MAIS PLAUSÍVEL SERÁ AQUELA QUE ATRIBUIR A MAIOR PROBABILIDADE AOS DADOS. * Formalizaremos na última aula, sobre fundamentação teórica

5 Qual a Força da Evidência? Um sorteio de uma bola. A bola sorteada é branca. P x=1 H 1 =1,0 P x=1 H 2 =0,5 1,0 H 0,5 =2 1 é vezes mais plausível que H 2

6 E para observações múltiplas? Dois sorteios de uma bola cada. Em ambos tivemos uma bola branca. P x 1 =1, x 2 =1 H 1 =1,0 1,0=1,0 P x 1 =1, x 2 =1 H 2 =0,5 0,5=0,25 1,0 H 0,25 =4 1 é vezes mais plausível que H 2

7 Função de Verossimilhança Qualquer função proporcional ao produto das probabilidades que um modelo atribui a cada valor dos dados* L P x 1 H P x 2 H P x n H * Sob a premissa de que os dados são realizações independentes de um mesmo processo.

8 Função de Log-Verossimilhança Logaritmo de uma função de verossimilhança, ou seja: qualquer função proporcional à soma dos logaritmos das probabilidades que um modelo atribui a cada valor dos dados* LL ln P x 1 H ln P x 2 H ln P x n H * Sob a premissa de que os dados são realizações independentes de um mesmo processo.

9 SE: ENTÃO: RESUMINDO... 1.Temos dados que podem ser explicados por mais de uma hipótese, e 2.Cada hipótese é um modelo que atribui alguma probabilidade aos dados Podemos expressar o quão plausível uma hipótese é em relação às outras por meio de uma função, chamada verossimilhança (ou pelo seu logaritmo, chamada função de log-verossimilhança)..

10 Um Exemplo: Distribuição Binomial N = 12 cobaias p = morbidade = 0,5 f x = 12! 12! 12 x! 0,5x 1 0,5 12 x

11 Função de Verossimilhança N = 12 cobaias x = 3 morreram f p = 12! 12! 12 3! p3 1 p 12 3

12 Probabilidade x Verossimilhança PARÂMETROS FIXOS DADOS FIXOS Funções de uma variável aleatória Parâmetros conhecidos Somam (ou integram) um Podem ser discretas ou contínuas Funções dos parâmetros Dados conhecidos Não precisam ter integral um São contínuas

13 Estimadores de Máxima Verossimilhança (MLEs) O valor mais plausível de um parâmetro, dadas as observações. OU O valor de parâmetro do modelo que atribui a maior probabilidade a um conjunto de dados.

14 Propriedades dos MLEs Para amostras grandes (n ): Consistência: convergem em probabilidade para o valor do parâmetro: não são viciados. Eficiência assintótica: atingem a menor variância entre os estimadores nãoviciados. Normalidade assintótica: tendem a uma distribuição normal (Gaussiana). Para qualquer amostra: Invariância: transformações monotônicas de MLEs também são MLEs.

15 Intervalo de Plausibilidade Regra canônica para intervalo de plausibilidade: contem os valores do parâmetro que resultam em razão de verossimilhança < 1/8 (modelos até 8 vezes menos plausíveis do que o obtido com o mle)

16 Mais de uma observação: mais precisão L= f p x=3 f p x=3 f p x=3 f p x=2

17 Função de Log-Verossimilhança Negativa Verossimilhança Relativa Log-Verossimilhança Relativa

18 Cálculo da MLE Os MLEs são os valores dos parâmetros que maximizam a função de verossimilhança, portanto que minimizam a função de log-verossimilhança negativa.

19 Alguns MLEs Deduzidos Analiticamente Distribuição Parâmetro MLE Binomial p x N Poisson λ x i n Normal μ x i n Normal σ 2 x i x 2 n E não n-1

20 Minimização Computacional no R Dados: > euplant = c(5,23,23,17,0,4,1,0,0,1,0,2,26,65,34, 14,18,13,19,7) Crie uma função de verossimilhança: > nvl = function(lambda){ sum( dpois(euplant, lambda, log=true) ) } Aplique o minimizador à função: > euplant.mle = mle2(nvl, start=list(lambda=10) )

21 Minimização Computacional no R > loglik(euplant.mle) 'log Lik.' (df=1) > coef(euplant.mle) lambda > mean(euplant) [1] 13.6

22 Ói Nóis Aqui!

23 Superfície de Verossimilhança Superfície da função de verossimilhança de uma binomial negativa ajustada a número de árvores de Copaifera langsdorffii em 64 parcelas na Estação Ecológica de Assis.

24 Otimização Computacional

25 Verosimilhança Estimada

26 Verossimilhança Perfilhada

27 Verosimilhança Estimada x Perfilhada Moral da história: prefira a perfilhada. Este é o padrão no R (função profile)

28 RESUMO Modelos estatísticos: descrevem a probabilidade de que sua variável assuma um certo valor. Os modelos diferem quanto aos seus parâmetros. Se temos dados mas não conhecemos os parâmetros a função de densidade tornase uma função de verossimilhança. É mais conveniente usar a função de logverossimilhança negativa.

29 RESUMO Uma vez obtidos os dados, cada modelo terá uma verossimilhança máxima. Os valores dos parâmetros que maximizam a verossimilhança são as estimativas de máxima verossimilhança dos parâmetros (MLEs). MLEs tem várias propriedades esperadas para um bom estimador. O estudo da curva de verossimilhança é o principal diagnóstico dos MLEs.

30 RESUMO Para modelos com mais de um parâmetro: Temos superfícies de verossimilhança e regiões de plausibilidade. Estimativas analíticas dos MLEs são bem mais raras e difíceis. As curvas e intervalos de verossimilhança são aproximados por perfis de um espaço multidimensional.

31 Para onde vamos: Seleção de Modelos

32 Selecione o mais plausível MODELO Parâmetros LL Normal μ=7,9 σ=2,8 206,1 Poisson λ=7,9 203,7 Razão de verossimilhanças: 206,1 203,7 = 3,6

33 Leituras Verossimilhança e Máxima Verossimilhança 2009, Batista, J.L.F. Bolker, B. (2008). Ecological Models and Data in R. Princeton, Princeton University Press. (cap.8) The Concept of Likelihood In: Edwards, A.W.F., 1992 Likelihood, cap.2, p Baltimore: John Hopkins University Press. Hobbs, N.T. & Hilborn, R. (2006). Alternatives to statistical hypothesis testing in ecology: A guide to selfteaching. Ecological Applications: 16(1): 5-19.