UNIVERSIDADE FEDERAL DO PARÁ INSTITUTO DE CIÊNCIAS EXATAS E NATURAIS FACULDADE DE ESTATÍSTICA

Transcrição

1 UNIVERSIDADE FEDERAL DO PARÁ INSTITUTO DE CIÊNCIAS EXATAS E NATURAIS FACULDADE DE ESTATÍSTICA Estimação Bayesiana Curso: Bacharelado em Estatística Disciplina: Estatística Aplicada Nome: Denis Ribeiro do Nascimento Matrícula: Belém-PA 2014

2 INFERÊNCIA BAYESIANA A teoria Bayesiana foi desenvolvida por Thomas Bayes em meados do século XVIII, o qual propôs uma teoria subjetiva de probabilidade, baseada principalmente em um conhecimento a priori em relação às incertezas envolvidas no estudo. No século XX, mais precisamente na década de 30, a análise Bayesiana ressurgiu, após um longo tempo de domínio dos métodos estatísticos frequentistas, com base em alguns estudos teóricos como o de JEFFREYES (1939), que reagindo contra a predominante posição frequentista conseguiu ressuscitar o bayesianismo, apresentando-lhe aplicações lógicas para a resolução de problemas estatísticos em diversas áreas da ciência. Porém, estes estudos exigiam resoluções de integrais complexas, o que fez com que os métodos Bayesianos se sujeitassem a mais algumas décadas de adormecimento. A inferência Bayesiana é o processo de encontrar um modelo de probabilidade para um conjunto de dados e resumir o resultado por uma distribuição de probabilidade sobre os parâmetros do modelo e sobre quantidades não observadas tais como predição para novas observações (GELMAN ET AL., 2003). A metodologia Bayesiana consiste de informações referentes aos dados amostrais (função de verossimilhança), de um conhecimento prévio a respeito dos parâmetros (distribuição a priori) e, a partir destas duas informações, do cálculo de uma distribuição a posteriori dos parâmetros, na qual todas as decisões e inferências são realizadas. O paradigma clássico A inferência clássica é talvez assim rotulada pelo papel predominante que desempenhou na primeira metade deste século sob impulso dos seus fundadores : Karl Pearson, Ronald A. Fischer e Jerzy Neyman. No quadro clássico o principal objetivo da inferência estatística costuma reformular-se do seguinte modo: determinar que generalizações (se algumas possíveis) sobre a população podem fazer-se a partida da amostra que da mesma foi recolhida. A designação de amostra é tomada correntemente como sinônima de observações ou dados estatísticos resultantes de experiências ou inquéritos repetidos em condições semelhantes. O paradigma bayesiano Para Lindley (1990) a substituição do paradigma bayesiano representa uma verdadeira revolução científica no sentido de Kuhn. A semente para a abordagem bayesiana a problemas de inferência foi lançada por Richard Price.

3 Esquema Clássico Modelo Experimental Dados Amostra Inferência Estatística Raciocínio Indutivo Esquema Bayesiano Modelo Experimental Dados Amostra Teorema de Bayes Raciocínio Dedutivo Inferência Estatística Distribuição a priori

4 Teorema de Bayes Uma das relações mais importantes envolvendo probabilidades condicionais é dada pelo Teorema de Bayes. A versão mais simples desse teorema é dada pela fórmula: P (A B) = = O Teorema de Bayes é, para muitos, um dos poucos resultados da matemática que se propõe caracterizar a aprendizagem com a experiência, isto é, a modificação da atitude inicial em relação aos antecedentes, causas, hipóteses ou estados depois de ter informação adicional de que certo acontecimento ou acontecimentos se realizaram (depois de conhecer os dados da experiência ou da observação). Aplicação do Teorema de Bayes A administração de fundo de investimento em ações pretende divulgar, após o encerramento do pregão, a probabilidade de queda de um índice da bolsa no dia seguinte, baseando-se nas informações disponíveis até aquele momento. Suponha que a previsão inicial seja de 0,10. Após encerrado o pregão, a nova informação sugere uma alta do dólar frente ao real. A experiência passada indica que, quando houver queda da bolsa no dia seguinte, 20 % das vezes foram precedidas por esse tipo de notícia no dia anterior. Chamando de E o evento que indica queda da bolsa, a sua probabilidade a priori é P (E) = 0,10%, enquanto a probabilidade de alta é P ( E c ) = 0,90. Se B indicar alta do dólar, então as verossimilhanças são dadas por: P (B E) = 0,20, P (B E c ) = 0,05.

5 Logo, pelo Teorema de Bayes, teremos que: P (B B) =, ou seja, P (E B) = = = = 0,31. Portanto, a nova informação aumenta a probabilidade de que haja queda na bolsa de 10% para 31%. Princípio de verossimilhança, suficiência e condicionalidade A função de verossimilhança tem papel fundamental, quer na inferência clássica, quer na inferência bayesiana, como veículo portador da informação dada pela amostra. O princípio de verossimilhança sustenta que toda informação dada pela amostra ou pela experiência está contida na função de verossimilhança. Mais precisamente, no quadro do modelo, Ƒ = {f (x ): }, Representação da Informação a priori A informação a priori que se pretende incorporar na análise é a informação apriorística possuída por alguém, se identifica como especialista (perito, experto) do problema concreto seja ele o investigador, o estatístico ou outrem e contém elementos subjetivos que, em geral, até dominantes. Estes elementos são muitas vezes radicados em fontes objetivas (dados históricos do problema ou de problemas análogos, factos), sem nelas se esgotarem pelo envolvimento do perito em processos de elaboração mental conducentes à formação das suas crenças sobre

6 aspectos desconhecidos (logo incertos) da modelação considerada para o problema. A quantificação probabilística destas crenças a priori, especificando a chamada distribuição a priori, exige por isso o recurso a conceitos de probabilidade que são estranhos à inferência Clássica. Deve-se recorrer à avaliação directa sempre que tal se afigure viável de susceptível de resultados fiáveis. Distribuições a priori subjetivas Existem situações práticas em que há informação a priori mais ou menos substancial sobre os parâmetros do modelo, quer por parte do decisor, quer por parte de outros indivíduos a que o decisor pode ocorrer. A questão de como obter e quantificar essa informação de natureza essencialmente subjetiva, de modo a transformá-la em uma distribuição a priori que possa ser utilizada para prosseguir com a metodologia Bayesiana. Como é que o Estatístico deve então proceder para responder adequadamente ao problema? Imediatamente várias questões se lhe põem: 1. Que perguntas deve fazer ao(s) especialista(s)? 2. Como ajudar o(s) especialistas, que não necessita (m) de ter conhecimentos de Probabilidade e Estatística, a responder coerente e consistentemente a essas perguntas? 3. Se recorrer a mais do que um especialista, como combinar a informação recebida? 4. Como usar a informação recebida de modo a construir uma distribuição de probabilidade para parâmetros ou acontecimento de interesse? O Estatístico pode optar por não realizar a experiência, fixar um ou mais valores de c, e pedir ao(s) especialistas (s) para atribuir (em) uma probabilidade a priori para o acontecimento A = { > c}.

7 Informação a priori de um especialista sobre um acontecimento Seja A um certo acontecimento de interesse e seja p o valor que o estatístico atribui à probabilidade da realização desse acontecimento, ou seja, P (A) = p. O Estatístico deseja, no entanto, usar a opinião de um especialista como sendo q a credibilidade que ele atribui à realização de A para rever a sua probabilidade a priori de ocorrência de A. Designe-se essa probabilidade, após revisão por P ( A q). Uma abordagem, intuitiva e simples, consiste numa ponderação linear das duas conjecturas relativas à probabilidade de realização de A, ou seja, P (A q) = ω q + (1 ω) p, sendo ω [0,1] um coeficiente de ponderação, o qual deve refletir a importância que o Estatístico atribui à previsão sugerida pelo especialista. Distribuições a priori conjugadas O método mais usado para ultrapassar as dificuldades de eliciação de distribuições a priori subjetivas é basicamente uma inversão do processo de sumariação de uma distribuição de probabilidade: eliciação cuidadosa de um conjunto de medidas resumo da distribuição procurada e adopção de uma forma funcional conveniente com elas consentânea. Famílias conjugadas A família distribucional a selecionar onde vai procurar o membro com os resumos eliciados deve idealmente satisfazer os seguintes requisitos: Versatilidade para acomodar o maior número possível de crenças a priori; Acessibilidade interpretativa para facilitar o processo de sumarização dos seus membros; Simplicidade da derivação analítica das distribuições a posteriori e preditivas.

8 A simplicidade da operação bayesiana poderá ficar garantida se Impuser que a família de distribuições a priori amostragem de (qualquer elemento de) Ƒ = {f (x ): seja fechada sob Θ}, i.e., que h ( ) h ( x) α h ( ) f (x ). Nestas condições, diz-se também que é uma família conjugada de Ƒ. Distribuições a priori não-informativas Estas distribuições começaram por ser dominantemente interpretadas como representações formais de ignorância, mas há hoje uma tendência (motivada pela não aceitação de representações objetivas únicas de ignorância) para encará-las como opções convencionais de defeito a que se recorre em caso de informação a priori insuficiente que torne difícil eliciar uma distribuição subjetiva considerada adequada. Método de Bayes-Laplace O argumento primeiramente invocado para gerar distribuições não informativas foi o Princípio da Razão Insuficiente devido a Bayes e Laplace. De acordo com este princípio, na ausência de razão suficiente para privilegiar umas possibilidades em detrimento de outras, decorrente da escassez informativa a priori deve-se adoptar a equiprobabilidade. No caso em que Θ é finito, digamos Θ = { 1,..., k}, a distribuição não-informativa gerada por este argumento é a distribuição Uniforme Discreta h ( ) =, Ө.

9 Método de Jeffreys A crítica da inconsistência da distribuição uniforme na representação formal da ignorância suscita que esta deva ser invariante sob transformações injectivas. Entre os procedimentos que asseguram esta invariância está aquele advogado por Jeffreys e que se baseia no uso da medida de informação de Fischer sobre ө IR, I ( ) = E [( 2 ө ]. Método de Box-Tiao Em consonância, procuram definir critérios que permitissem retratar a vaguidade relativa de informação a priori e, desse modo, gerar distribuições a priori não informativas. A sua idéia base foi procurar uma reparametrização ᴪ = ᴪ ( ) do modelo {f (x : ө Ө)} para qual a respectiva verossimilhança fosse apena transladada ( exacta ou pelo menos, aproximadamente) pelos dados, i.e., tal que L (ө x) g [ ᴪ (ө) m (x) ] onde g é uma função cuja forma é independente de x 10 e m(x) a função que descreve a transição de L com variação de x ( o parâmetro de localização de L). Uma vez detectada uma transformação ᴪ deste tipo, considera-se para ela uma distribuição que assegure que a respectiva distribuição a posteriori seja essencialmente a verossimilhança normalizada. Distribuições impróprias e suas implicações Constatou-se anteriormente que as distribuições a priori geradas pelas regras de Bayes-Laplace e de Jeffreys são frequentemente, o que suscita naturais interrogações sobre a validade do seu uso em Inferência Bayesiana. Esta abordagem acomoda em particular a distribuição uniforme discreta em IN com probabilidade c = P (ө = k) > 0, k IN.

10 Outra hipótese que permite encarar distribuições impróprias como distribuições de probabilidade consiste em substituir a exigência de aditividade numerável pela aditividade finita. Método da entropia máxima Na procura de objectividade na formulação de distribuições a priori que caracterizem adequadamente um estado de ignorância (1968) sugeriu a idéia de usar o conceito de entropia. Caso Discreto Seja ө um parâmetro discreto com função massa de probabilidade h ( ) e suporte Ө. Define-se entropia de h ( ) como sendo o valor esperado de ln h(ө), ou seja, * (h ()) = - Metodologia Inferencial Ficou explícito que a distribuição a posteriori, h (ө x), é a descrição completa do conhecimento corrente sobre ө obtido da quantificação da informação a priori em h ( ) e da informação amostral em L ( x ) α f ( x ), materializando-se na expressão matemática, h ( x) = Ө. Estimação Pontual A própria idéia de estimação de parâmetros por pontos conduz no cenário bayesiano a tomar como estimativas pontos típicos da distribuição a posteriori, para o que se revela útil a determinação das suas medidas de localização. A escolha das estimativas bayesianas de depende naturalmente da forma de h (ө x), bem como dos objectivos do seu uso. As estimativas mais usadas são a moda a posteriori e a mediana a posteriori (de parâmetros escalares), cuja definição a seguir onde ө = ( 1,..., k ):

11 Moda a posteriori: Média a posteriori: Vetor das medianas a posteriori: Estimação por regiões Um resumo de h ( x) mais informativo do que qualquer estimativa pontual é obtido de uma região de Ө que contenha uma parte substancial da massa probabilidade a posteriori o paralelo bayesiano da região de confiança. R (x) é uma região de credibilidade para se, P [ R (x) x) = x ) d. Qualquer região de credibilidade é definida numericamente, i,e., não é aleatório, e admite uma interpretação probabilística directa e inequívoca em contraste com a região de confiança clássica.

12 Referências Bibliográficas BUSSAB, W. O.; MORETTIN, P. A. Estatística Básica. 6ª ed. Saraiva. São Paulo 2010.