03/06/2014. Tratamento de Incertezas TIC Aula 18. Conteúdo Inferência Estatística Clássica

Transcrição

1 Tratamento de Incertezas TIC Aula 18 Conteúdo Professor Leandro Augusto Frata Fernandes Material disponível em Tópicos da Aula Introdução à inferência estatística clássica Estimativa por máxima verossimilhança Propriedades desejadas em um estimador Estimativa amostral Estimativa de média e variância Intervalo de confiança Distribuição de Student Leitura Bertsekas and Tsitsiklis, 2nd ed., 2008, Seção 9.1 TIC Tratamento de Incertezas 2 Introdução TIC Tratamento de Incertezas 3 1

2 Estatística Clássica í ; Θ ou ; O parâmetro é um valor constante desconhecido é uma variável aleatória caracterizada por um conjunto de observações com PMF ; (ou PDF ; ) O estimador Θ para é uma variável aleatória o é um valor assumido por Θ TIC Tratamento de Incertezas 4 Tipos de Problemas Projeto de estimadores Θ que mantenham o erro de estimação pequeno Teste de hipótese binária : 1/2versus : 3/4 Teste de hipótese composta : 1/2versus : 1/2 TIC Tratamento de Incertezas 5 Estimativa por Máxima Verossimilhança TIC Tratamento de Incertezas 6 2

3 Estimativa por Máxima Verossimilhança do inglês Maximum Likelihood Estimation (MLE) O método de máxima verossimilhança (ML) busca o valor de parâmetro que maximize a função de verossimilhança ; (ou ; ) Características argmax ; Método geral para estimação de parâmetros Age melhor sobre distribuições normais TIC Tratamento de Incertezas 7 Estimativa por Máxima Verossimilhança do inglês Maximum Likelihood Estimation (MLE) argmax,,, ; arg max,,, ; Se,,, são variáveis aleatórias independentes, então,,, ; ; Nesse caso, é conveniente maximizar o logaritmo log,,, ; log ; log ; TIC Tratamento de Incertezas 8 Estimativa por Máxima Verossimilhança Exemplo Assuma variáveis aleatórias independentes,,,, com distribuição exponencial de parâmetro. Obtenha, por máxima verossimilhança, para valores específicos,,,., 0 0, 0 TIC Tratamento de Incertezas 9 3

4 Propriedades Desejadas em um Estimador 1. Não tendencioso: Θ Exemplo exponencial de ML, com 1 1/ (tendencioso) 2. Consistente: Θ (em probabilidade) Soma de variáveis aleatórias exponenciais 1 1 ML de variáveis aleatórias exponenciais Θ 1 TIC Tratamento de Incertezas 10 Propriedades Desejadas em um Estimador 3. Erro médio quadrático (MSE) pequeno Θ Θ Θ Θ Θ Queremos variância e pequenos, simultaneamente O desequilíbrio não é bom o Podemos ter variância zero, mas isso pode levar a grande Θ TIC Tratamento de Incertezas 11 Estimativa Amostral TIC Tratamento de Incertezas 12 4

5 Estimativa da Média Sem conhecimento prévio da distribuição comum às variáveis,,,, mas com média e variância, a média amostral (ou experimental) pode ser obtida por Propriedades Θ Θ Θ / Θ 1 TIC Tratamento de Incertezas 13 Estimativa da Variância No mesmo cenário, a variância amostral (ou experimental) é dada por Propriedades é tendencioso, mas não para grande não é tendencioso Consistentes e com MSE que decresce à medida de cresce TIC Tratamento de Incertezas 14 Uma estimativa dada por Θ pode não ser informativa o bastante Um intervalo de confiança 1é um intervalo aleatório Θ,Θ que representa Θ Θ 1 TIC Tratamento de Incertezas 15 5

6 Exemplo para Estimativa da Média, com grande Θ 1 Para intervado de confiança de 95%, 0,05 Tabela Normal Padrão: Φ 1,96 0, ,05/2 Θ 1,96 0,95 / Θ 1,96 Θ 1,96 0,95 Teorema Central do Limite TIC Tratamento de Incertezas 16 Exemplo para Estimativa da Média, com Pequeno Θ 1 Para intervado de confiança de 95%, 0,05 Tabela CDF t-student, 8: Ψ 2, ,05/2 Θ 2,365 0,95 / Θ 2,365 Θ 2,365 0,95 TIC Tratamento de Incertezas 17 Quando Não é Conhecido Opção 1: Usar o limite superior para Exemplo é Bernoulli: Opção 2: Usar estimativa ad hoc para Exemplo é Bernoulli com parâmetro : 1 Opção 3: Usar estimativa genérica para Exemplo 1 Desvio padrão amostral Exemplo 2 Reescrever probabilidade usando CDF de t-student com 1graus de liberdade TIC Tratamento de Incertezas 18 6