AGA Análise de Dados em Astronomia I 8. Inferência Bayesiana e MCMC

Transcrição

1 1 / 1 AGA Análise de Dados em Astronomia I 8. Inferência Bayesiana e MCMC Laerte Sodré Jr. 1o. semestre, 2018

2 2 / 1 Inferência Bayesiana inferência bayesiana consideremos um conjunto de dados D que queremos explicar com um modelo M que tem um conjunto de parâmetros x que queremos determinar teorema de Bayes: P(D x, M)P(x M) P(x D, M) = P(D M) em geral P(D M) = P(D), mas nem sempre! cada termo tem um nome: P(x D, M): o posterior, ou probabilidade a posteriori de x P(D x, M): a verossimilhança (likelihood): a probabilidade dos dados com um modelo M e parâmetros x P(x M): o prior de x, a probabilidade a priori dos valores dos parâmetros; o que se sabe de x independentemente dos dados P(D M): a evidência dos dados: P(D M) = P(D x, M)P(x M)dx diferença entre a inferência bayesiana e máxima verossimilhança: inferência bayesiana: determina a distribuição de probabilidades dos parâmetros dado um modelo probabilístico (verossimilhança + prior) máxima verossimilhança: determina o valor que maximiza a verossimilhança estimativa bayesiana dos parâmetros: P(x D, M) P(D x, M)P(x M), já que a evidência não depende de x

3 3 / 1 Inferência Bayesiana que prior escolher? Bernoulli (1713): princípio da razão insuficiente se conseguimos enumerar um conjunto de possibilidades mutuamente exclusivas e não temos nenhuma razão para achar que uma é mais provável que outra, então devemos atribuir a mesma probabilidade a todas em alguns casos o prior é natural: problemas de sucesso/falha: distribuição binomial contagens: Poisson médias e variâncias: gaussiana exemplo: probabilidade de cada face de um dado: 1/6

4 4 / 1 Inferência Bayesiana que prior escolher? priores para parâmetros de localização: exemplo: a média de uma distribuição prior uniforme dentro de um intervalo de interesse: p(x) = { 1 b a se a < x < b 0 se x < a ou x > b priores para parâmetros de escala: exemplo: variância de uma distribuição priores próprios e impróprios: normalizados ou não Ex.: P(x) = 1/(b a) como acima vs P(x) = cte a forma do posterior não muda prior uniforme em log dentro de um intervalo de interesse ou P(x) 1/x priores como esses são chamados de não-informativos

5 5 / 1 Inferência Bayesiana que prior escolher? método da máxima entropia: quando se tem vínculos associados a uma distribuição de probabilidades (se, por exemplo, a média da distribuição é conhecida), deve-se escolher a distribuição que maximiza a entropia exemplo: joga-se um dado 6 vezes e obtém-se uma média de 4.5 (o normal é 3.5); qual é a distribuição esperada para os 6 valores do dado? a solução é a que maximiza a entropia 6 S = p i ln p i i=1 sujeita aos vínculos: 6 p i = 1 e i=1 6 ip i = 4.5 i=1 (Sivia & Skilling) usa-se o método dos multiplicadores de Lagrange para maximização de S sujeita aos vínculos do problema

6 6 / 1 Inferência Bayesiana que prior escolher? estimativa de parâmetros: sequencial ou conjunta temos um conjunto de dados D = {d i } que queremos modelar com um modelo que tem parâmetros x podemos estimar x via uma análise conjunta de todos os dados: p(x D) p(d x)p(x) ou sequencialmente, usando um dado de cada vez: chega um dado d 1 : chega um dado d 2 : p(x d 1 ) p(d 1 x)p(x) p(x d 1, d 2 ) p(d 1, d 2 x)p(x) se os dados são independentes: p(d 1, d 2 x) = p(d 1 x)p(d 2 x) logo, p(x d 1, d 2 ) p(d 1 x)p(d 2 x)p(x) p(d 2 x)p(x d 1 ) se chega um dado d 3, analogamente, teremos: p(x d 1, d 2, d 3 ) p(d 3 x)p(x d 1, d 2 ) note que, nesse caso, o prior da estimativa de um novo dado é o posterior da estimativa anterior priores conjugados: quando a forma do posterior é a mesma do prior: útil em aplicações sequenciais (updating bayesiano)

7 7 / 1 Inferência Bayesiana inferência dos parâmetros de uma gaussiana suponha que tenhamos um conjunto de dados que queiramos modelar como uma gaussiana de média x (desconhecida) e desvio padrão σ = 2: N(x, σ = 2) suponha que nosso prior seja uma gaussiana de média 3 e desvio padrão 1: p(x) = N(3, 1) obtemos um dado: x 1 = 5; qual é o posterior de x? Bayes: posterior proporcional à verossimilhança vezes o prior [ ] [ ] (5 x)2 (x 3)2 p(x x 1 ) p(x 1 x)p(x) exp exp 8 2 pode-se mostrar que este posterior também é gaussiano, de média 17/5 e variância 4/5

8 8 / 1 Inferência Bayesiana que prior escolher? regra de ouro: o prior não deve dominar o resultado; se isso acontece é porque os dados são pouco informativos

9 exemplos distribuição de Bernoulli distribuição de Bernoulli: queremos p(x D) com x = 0.25 e D = {TT}: com k = 0 ou 1 p(x; k) = x k (1 x) 1 k temos 3 tipos de moedas, com probabilidade de se tirar cara (H) de 0.25, 0.50 e 0.75 o número de moedas de cada tipo está na proporção 1:2:1 pega-se uma moeda ao acaso, joga-se 2 vezes e se obtém 2 coroas (TT) qual é a probabilidade de a moeda escolhida ter probabilidade de cara de 0.25? p(x D) = p(d x)p(x) p(d) p(d x) = p(x) = 1/4 p(d) = p(0.25 D)p(0.25) + p(0.50 D)p(0.50) + p(0.75 D)p(0.75) = logo, = / / /4 = 9/32 p(x D) = /4 9/32 = / 1

10 10 / 1 exemplos a função Beta como prior a função Beta é definida no intervalo [0, 1] como Beta(x; a, b) = a + b 1 (a 1)!(b 1)! xa 1 (1 x) b 1 = cx a 1 (1 x) b 1 e é um prior interessante para variáveis definidas entre 0 e 1 (por exemplo, se a = 1 e b = 1 temos um prior uniforme, não informativo) vamos supor que estamos examinando a fotometria de um conjunto de fontes puntuais para determinar quais são estrelas e quais são quasares x: probabilidade (desconhecida) do objeto ser estrela vamos assumir como prior para x a função Beta(x; 0.5, 0.5) D: suponha que analisamos 10 imagens e obtivemos 6 estrelas qual é a distribuição de p(x D)? verossimilhança: distribuição binomial com n = 10 e m = 6 o posterior fica ou ( ) n p(x; n, m) = x m (1 x) n m m p(x D) x 6 (1 x) 4 x 4 (1 x) 4 p(x D) x 10 (1 x) 8 Beta(x; 11, 9) note que, nesse caso, tanto o prior quanto o posterior são funções Beta: beta é um prior conjugado da distribuição binomial

11 11 / 1 exemplos inferência dos parâmetros de uma gaussiana Exemplo: temos um conjunto de dados D = {d i }, com i = 1,..., N, que queremos modelar como uma distribuição gaussiana: N(µ, σ) quais são as melhores estimativas para µ e σ? TB: p(µ, σ D) p(d µ, σ)p(µ, σ) p(d µ, σ): verossimilhança vamos supor que a probabilidade de medir um certo d k é p(d k µ, σ) e (d k µ) 2 2σ 2 se as N medidas são independentes, a verossimilhança total é o produto da verossimilhança de cada dado: p(d µ, σ) N k=1 e (d k µ) 2 2σ 2 e N (d k µ) 2 i=1 2σ 2

12 exemplos inferência dos parâmetros de uma gaussiana priores: vamos supor que não tenhamos nenhuma ideia sobre os valores esperados para µ e σ vamos supor que p(µ) tenha uma distribuição uniforme entre d min e d max : { d max d min 1 se µ está entre d min e d max p(µ) = 0 nos outros casos para p(σ): fdp uniforme entre 0 e σ 0 = max( d min, d max ): { σ 1 se σ está entre 0 e σ 0 p(σ) = 0 nos outros casos priores desse tipo (uniformes) são chamados não-informativos 12 / 1

13 exemplos inferência dos parâmetros de uma gaussiana para µ entre d min e d max e σ entre 0 e σ 0 o posterior fica p(µ, σ D) e N (d k µ) 2 i=1 2σ 2 d max d min N σ N que é uma distribuição gaussiana em µ (dentro de um certo intervalo) em log: N (d log p(µ, σ D) k µ) 2 2σ 2 N log σ os parâmetros do modelo que maximizam o posterior são: µ = 1 N d k N σ 2 = 1 N i=1 k=1 N (d k µ) 2 k=1 13 / 1

14 exemplos o problema do farol Sivia & Skilling, sec. 2.4 (Gull, 1988) um farol está em uma posição α ao longo de uma costa reta e a uma distância β no mar; girando, ele emite uma série de pulsos curtos altamente colimados em intervalos de tempo aleatórios (e portanto em azimutes também aleatórios); N destes pulsos são detectados por sensores na costa, mas só as posições {x k }, não as direções onde está o farol? farol θ k β mar costa α x k x 14 / 1

15 15 / 1 exemplos o problema do farol é razoável se atribuir um prior uniforme para o ângulo θ associado às medidas x k ; como para o pulso ser detectado ele deve ter sido emitido com π 2 θ k π 2, temos p(θ k α, β) = 1 π da geometria do problema: farol tgθ = (x α)/β ( π 2 < θ k < π 2 ) mas quero p(x α, β), não p(θ α, β): mudança de variáveis: p(x)dx = p(θ)dθ derivando em relação a x: d tgθ = sec 2 θ = 1 dx dθ β dθ logo, dθ dx = 1 β sec 2 θ = 1 β(1 + tg 2 θ) = dθ p(x α, β) = p(θ α, β) dx = β π[β 2 + (x α) 2 ] distribuição de Cauchy (ou Lorentziana) θ k β mar costa α x k x

16 16 / 1 exemplos o problema do farol distribuição de Cauchy β p(x α, β) = π[β 2 + (x α) 2 ] distribuição simétrica em relação a α e com FWHM = 2β vamos supor β conhecido e usar o TB para determinar α prior p(α D, β) = p(d α, β)p(α β) { A se α está entre α p(α β) = p(α) = min e α max 0 nos outros casos verossimilhança: N p(d α, β) = p(x k α, β) k=1 posterior: p(α D, β) p(d α, β)p(α β)

17 17 / 1 exemplos o problema do farol exemplo: simulação com N = 9, α = 0.5, β = 1.5; β conhecido log do posterior: y = ln p(α D, β), N y = cte ln[β 2 + (x k α) 2 ] k=1

18 18 / 1 exemplos o problema do farol

19 19 / 1 exemplos exercícios 1 Mostre que o posterior da página 7, [ ] [ ] (5 x)2 (x 3)2 p(x x 1 ) p(x 1 x)p(x) exp exp 8 2 é gaussiano de média 17/5 e variância 4/5. 2 Suponha que no problema binomial (pg. 10), o prior adotado seja Beta(x; 6, 8). Numa análise de 7 fontes, encontramos 5 estrelas e dois quasares. Qual é o posterior de x, a probabilidade de um objeto ser estrela? 3 Repita o problema do farol usando um prior gaussiano para α, com média 5 e desvio padrão 1. Compare o posterior obtido com simulações de 10, 100 e 1000 pontos. O que você conclui?

20 20 / 1 MCMC Markov Chain Monte Carlo

21 21 / 1 MCMC Markov Chain Monte Carlo MCMC: método(s) para amostrar distribuição de probabilidades, p(x) (x pode ser um vetor, etc) Amostragem de p(x) : p(x) obedece a p(x) > 0 p(x)dx = 1 as distribuições a serem simuladas não precisam estar normalizadas ideal para amostrar posteriores: não é preciso calcular a evidência! onde a integral é sobre o domínio de x valores esperados: E[x] = xp(x)dx E[g(x)] = g(x)p(x)dx no caso de uma distribuição discreta: excelente referência: Hogg & Foreman-MacKey (2017)- arxiv: E[x] 1 N x k N k=1 E[g(x)] 1 N g(x k ) N k=1 note que os valores esperados não dependem da evidência, isto é, de se ter p(x) normalizado!

22 22 / 1 MCMC o algoritmo de Metropolis-Hastings para amostrar uma distribuição de probabilidades p(x) duas coisas são relevantes: os pontos gerados, x 1, x 2,... obedecem uma cadeia de Markov: x i+1 depende apenas de x i pode-se mostrar que, nesse caso, para uma sequência infinita, cada ponto x é visitado com probabilidade p(x) uma função q(x i+1 x i ) que, dado x i, propõe um novo ponto, x i+1, que se aceita ou não como uma amostra de p(x) algoritmo: dada uma amostra x i, para se obter x i+1 : obtenha uma proposta x usando q(x x i ) obtenha um número aleatório 0 < r < 1 com distribuição uniforme se p(x )/p(x) > r, x i+1 = x se não, x i+1 = x i o algoritmo gera uma cadeia de amostras: x 1, x 2,... q(x x) obedece ao princípio do balanceamento detalhado: p(x )q(x x ) = p(x)q(x x) ( equilíbrio físico na transição x x ))

23 23 / 1 MCMC o algoritmo de Metropolis-Hastings exemplo: amostras distribuidas como p(x): gaussiana de média 2 e desvio padrão 2 distribuição de propostas q(x x): gaussiana de média x e desvio padrão 1

24 24 / 1 MCMC mcmc: alguns detalhes a escala do problema é importante: muitas vezes se quer amostrar o logaritmo de uma função: faça os ajustes necessários! burn-in: o algoritmo precisa ser inicializado; muitas vezes o ponto inicial não é típico e várias iterações são necessárias antes de se poder fazer inferências estatísticas essas iterações iniciais são denominadas burn-in e devem ser rejeitas nas análises estatísticas caso seja necessário se ajustar a função de distribuição de propostas q (para aumentar ou diminuir a taxa de aceitação de propostas), deve-se fazer isso no burn-in

25 25 / 1 MCMC mcmc: alguns detalhes devido à natureza markoviana do método, amostras próximas são correlacionadas: uma boa amostragem de p(x) pode exigir longas cadeias de amostras em alguns casos, onde a função é muiti-modal, pode ser necessário se rodar várias cadeias, cada uma começando de um ponto diferente até onde se deve rodar uma cadeia? na verdade, em geral, não dá para saber se uma cadeia convergiu; é necessário utilizar regras heurísticas plot de x i versus i diagnóstico de Gelman-Rubin: roda-se várias cadeias ao mesmo tempo e compara-se a variância de cada parâmetro dentro de uma cadeia com a variância deles entre cadeias (excluindo o burn-in) divide-se uma longa cadeia em pedaços, calcula-se a média e variância de cada parâmetro em cada pedaço e compara-se os resultados (excluindo o burn-in)