INTRODUÇÃO À INFERÊNCIA ESTATÍSTICA

Transcrição

1 UFPE - Universidade Federal de Pernambuco Departamento de Estatística Disciplina: ET-406 Estatística Econômica Professor: Waldemar A. de Santa Cruz Oliveira Júnior INTRODUÇÃO À INFERÊNCIA ESTATÍSTICA Podemos dividir a estatística em três grandes áreas 1 Conceitos Básicos Denição 1 População: Conjunto de valores de uma característica (observável) associada a uma coleção de indivíduos ou objetos de interesse. (Bolfarine & Sandoval). Denição 2 Parâmetro: é uma característica numérica da população. Exemplo: média, variância, máximo, etc. Denição 3 Amostra: é qualquer subconjunto da população. Denição 4 Estatística: é uma característica numérica da amostra. Exemplo: média amostral, variância amostral, máximo da amostra, etc. 1

2 Podemos dizer que o objetivo principal da Inferência Estatística é a partir de uma amostra especicar valores para o parâmetro da população. Denição 5 Espaço Paramétrico: dado um modelo estatístico especicado por um parâmetro θ, dene-se como espaço paramétrico Θ o conjunto dos possíveis valores que o parâmetro θ pode assumir. Exemplo 1 Considere uma amosrta de VA's (X 1,, X n ) independentes e identicamente distribuídas, pertencente as seguintes populações: N(µ, σ 2 ), Θ = { } Bin(n, p), Θ = { } exp(θ), Θ = { } Obs: Durante o curso vamos sempre considerar que uma amostra é composta de VA's independentes e identicamente distribuídas. Já vimos a denição de estatística, porém, em outras palavras, podemos dizer que uma estatística T (X 1,, X n ) é uma função da amostra nos reais Exemplo: T : (X 1,, X n ) R. Denição 6 Se a estatística T (X 1,, X n ) assume valores apenas no conjunto paramétrico Θ, então, dizemos que ela é um estimador para θ. Exemplo: 2

3 É comum representar um estimador para um parâmetro θ, β, α, usando um chapeu, θ, β, α, etc. Denição 7 Estimativa: é um particular valor do estimador. Exemplo: 2 Distribuições Amostrais Denição 8 A distribuição amostral de uma estatística T é o conjunto formado pelas possíveis estimativas de T e suas respectivas probabilidades. Exemplo 2 Considere o comjunto X = {2, 4, 8, 10} e a estatística T (X 1, X 2 ) = X 1 +X 2 2. Então, a distribuição amostral de T é dada por Como podemos observar uma estatística é uma VA, assim, podemos calcular seu valor esperado e sua variância. Exemplo 3 Exemplo: Encontre a esperança e a variância da estatística do exemplo anterior. Exemplo 4 Exemplo: Consirenado os dois últimos exemplos, compare a média e a variância populacional com a amostral. 3

4 Observe que as médias são iguais e a variância amostral é metade da populacional. Isto não é coincidência, deve-se ao seguinte teorema: Teorema 1 Sejam X uma VA, X 1,, X n uma amostra aleatória simples de X, E[X] = µ e Var[X] = σ 2, então, Dem. E[ X] = µ e Var[ X] = σ2 n. 3 Teorema do Limite Central Um dos mais importantes resultados da estatística é o Teorema do Limite Central em que arma que em determinadas condições bastante gerais é possível aproximar uma soma de V.A's a uma distribuição normal. Comecemos relembrando algumas propriedades da distribuição normal com o seguinte exemplo. Exemplo 5 (Exemplo 7.9 pg 179 (Bussab, W. O. & Morettin, P. A.)) Os depósitos efetuados no Banco da Ribeira durante o mês de janeiro são distribuídos normalmente, com média $10.000,00 e desvio padrão de $1.500,00. Um depósito é selecionado ao acaso dentre todos referentes ao mês em questão. Encontre a probabilidade de que o depósito seja: a) $10.000,00 ou menos; b) pelo menos $10.000,00; c) um valor entre $ ,00 e $15.000,00; d) maior que $ ,00. 4

5 Teorema 2 (Soma de normais é normal) Sejam X 1,, X n variáveis aleatórias independentes, tais que, X 1 N(µ 1, σ 2 1),, X n N(µ n, σ 2 n). Então, a variável aleatória X = X X n tem distribuição normal com média µ = µ µ n e variância σ 2 = σ σ 2 n. Ou seja, X N(µ, σ 2 ). Exemplo 6 Voltando ao exemplo 5, suponha que no mês em questão os depósitos no Banco SA têm uma distribuição normal com média $8.000,00 e variância $ Selecionando-se um depósito no Banco da Ribera e outro no Banco SA, qual a probabilidade da soma desses depositos ser maior que $20.000? Teorema 3 (Teorema do Limite Central) Sejam X 1,, X n variáveis aleatórias independentes, tais que, E[X i ] = µ i, Var[X i ] = σ 2 i, com i = 1,, n. Considere a variável aleatória X = X X n, portanto, X tem média µ = µ µ n e variância σ 2 = σ σ 2 n. Então, Z = X µ σ 2 D N(0, 1). Ou seja, Z é aproximadamente uma normal padrão. Exemplo 7 (Exercício 12.6 Meyer, pg. 281) Suponha que os X i 's com i = 1,, 50 sejam variáveis aleatórias independentes e identicamente distribuídas segundo uma Poisson com parâmetro λ = 0, 03. Faça S = X 1 + +X n e calcule a P (S 3). 5

6 O Teorema a seguir é um corolário do Teorema do Limite Central. Teorema 4 Sejam X 1,, X n variáveis aleatórias independentes e indenticamente distribuídas, tais que, E[X i ] = µ e Var[X i ] = σ 2, com i = 1,, n. Considere a variável aleatória X = X X n. Então, Z = X µ σ 2 n D N(0, 1). Ou ainda, n( X µ) D Z = N(0, 1). σ Ou seja, Z é aproximadamente uma normal padrão. Exemplo 8 Considere uma amostra de VA's X 1,, X 16 i.i.d (5, 9). Calcule a P (6 X 8). Qual deveria ser o tamanho n da amsotra para que P (3 X 7) = 0, 9? Exemplo 9 Uma moeda tem probabilidade p de aparecer cara em um lançamento. Encontre a distribuição amosrtal da proporção de caras que aparece em n lançamentos desta moeda. Exemplo 10 No exemplo 7 calcule a probabilidade da média dos X 1,, X 50 ser menor que 0,012. 6

7 Denição 9 Dada uma amostra de VA's (X 1,, X n ), o Erro Amostral e(θ) do estimador θ do parâmetro θ é a diferença entre a estimativa desse estimador baseada na amostra e o parâmtero. Ou seja, e(θ) = θ θ. Exemplo 11 Dada uma amostra de VA's (X 1,, X n ) i.i.d (µ, σ 2 ), então, o erro amostral da média tem aproximadamente distribuição normal com média zero e variância σ 2 /n. Exemplo 12 Sejam X 1,, X n uma seuência de VA's independentes e identicamente distribuídas com média 10 e variância 16. Encontre o tamanho de uma amostra para que com probabilidade 0, 9 o módulo do erro amostral seja menor que 2. Exemplo 13 Sejam X 1,, X n uma seuência de VA's independentes e identicamente distribuídas com média µ e variância σ 2. Encontre o tamanho de uma amostra para que com probabilidade γ o módulo do erro amostral seja menor que ε. 7

8 4 Propriedades dos Estimadores Nosso objetivo neste curso será encontrar bons estimadores. Mas, o que é um estimador bom? Para responder esta pegunta vejamos o exemplo 11.2 pag 290 do livro Estatística Básica (Bussab & Morettin). A gura abaixo é uma cópia da página 291 do mesmo livro e representa o resultado de 15 tiros dados por 4 ries diferentes. A acurácia mede a proximidade de cada observação do valor alvo que se procura atingir. A precisão mede a proximidade de cada observação da média de todas as observações. (Bussab & Morettin) Denição 10 Um estimador θ é dito não-viesado para θ, se E[ θ] = θ, para todo θ Θ. E a diferença B θ ( θ) = E[ θ] θ é chamada de viés. Exemplo 14 A média amostral X é um estimador não-viesado para µ = E[X]. Exemplo 15 O estimador σ 2 = n (X i µ) 2 i=1 para a variância. n é um estimador não-viesado 8

9 Exemplo 16 O estimador σ 2 = n (X i X) 2 i=1 a variância. n é um estimador viesado para Exercício: Faça uma transformação neste último estimador para que ele passe a ser não-viesado. Denição 11 O Erro Quadrado Médio EQM de um] estimador θ para um parâmetro θ é denido como EQM( θ, θ) = E [( θ θ) 2. Exemplo 17 Considere uma X 1,, X n i.i.d N(µ, σ 2 ). Sejam a média amostral X e σ 2 = n i=1 (x i x) 2 /n, estimadores para a média e a variância populacional, encontre o erro quadrado médio desses estimadores. (Obs. Neste caso pode-se mostrar que Var[S 2 ] = 2σ4 n 1.) Exemplo 18 Mostre que EQM( θ, θ) = Var[ θ] + ( B θ ( θ)) 2. Denição 12 Uma sequência de estimadores T 1, T 2,, T n de θ é consistente se lim n E[T n ] = θ e lim n Var[T n ] = 0. Exemplo 19 A média amostral X é um estimador consistente de µ = E[X]. i.i.d Exemplo 20 Sejam X 1,, X n N(µ, σ 2 ), então, S 2 = n (X i X) 2 i=1 n 1 um estimador consistente de σ 2. (Obs.: (n 1)S2 σ 2 χ 2 (n 1) ). é 9

10 i.i.d Exemplo 21 Sejam X 1,, X n N(µ, σ 2 ), então, σ 2 = n um estimador consistente de σ 2. i=1 (X i X) 2 n é Denição 13 Sejam T 1 e T 2 dois estimadores não-viesados para um parâmetro θ, então, dizemos que T 1 é mais eciente que T 2, se Var[T 1 ] < Var[T 2 ]. 5 Estimação Pontual Na seção anterior estudamos critérios para avaliar a qualidade de um estimador. Nesta seção veremos três métodos para obter estimadores, a saber: método dos momentos, método de máxima verossimilhança e método de mínimos quadrados. Esses três métodos são considerados pontuais porque os estimadores produzem estimativas para os parâmetros. Na estimação intervalar, estudada mais adiante, determinaremos um intervalo que, com uma certa probabilidade γ, contem o parâmetro a ser estimado. 5.1 Método do Moemntos Denição 14 O k-ésimo momento populacional de uma VA X é dado por µ k = E[X k ] = x k f(x)dx. Considere uma amostra aleatória (X 1,, X n ) desta variável X, o k-ésimo momento amostral é denido por m k = n i=1 Xk i n. Denição 15 Seja θ = (θ 1,, θ r ), então, θ = ( θ 1,, θ r ) é o estimador obtido pelo método dos momentos para θ se ele é o conjunto de soluções das equações m k = µ k, com k = 1, 2,, r. 10

11 Exemplo 22 Considere a VA X N(µ, σ 2 ), obtenha pelo método dos momentos os estimadores para a µ e σ 2. Observação: Podemos ter mais um estimador para o mesmo parâmetro. Exemplo 23 Considere a VA X exp(λ), obtenha pelo método dos momentos os estimadores para a média e a variância. Exemplo 24 Considere a VA X P oisson(λ), obtenha pelo método dos momentos o estimador para λ. 5.2 Método dos Mínimos Quadrados Dada uma sequência de VAs (X, Y ) = {(X 1, Y 1 ), (X n, Y n )}, neste método supomos que a VA Y pode ser explicada pela VA X através de um modelo da forma Y = g(x θ) + ε, em que ε é um erro aleatório. Assim, o estimador de mínimos quadrados θ MQ é denido como θ que minimiza a soma dos quadrados dos erros S(θ) = n i=1 ε2 i. Portanto, o método de mínimos quadrados resume-se a encontrar θ que minimiza a função S(θ) = n ε 2 i = i=1 n (Y i g(x i θ)) 2. i=1 Exemplo 25 Com base na amostra (X, Y ) = {(2, 6), (3, 9), (5, 15)} determine a estimativa de mínimos quadrados para o parâmtero θ do modelo Y = θx. 11

12 Exemplo 26 Encontre o estimador de mínimos quadrados para o parâmtero θ do modelo Y = θx. 5.3 Método de Máxima Verossimilhança Este método é um dos mais utilzado e foi proposto por Ronald Aylmer Fisher quando ainda cursava o seu terceiro ano da graduação. Basicamente a ideia é escolher dentre todos θ Θ o que maximiza a função de densidade conjunta da amostra. Denição 16 Considere uma sequência de VA's X = (X 1,, X n ) identicamente distribuídas, cada uma com função de densidade f(x i θ), no caso contínuo, e funçao de probabilidade p(x i θ) no caso discreto, ambas determinadas pelo parâmetro θ. A função de verossimilhança L(θ X) da amostra X é denida como a função de densidade (ou de probabilidade) xada na amostra e tendo como argumento o parâmetro θ. Ou seja, dado que as VA's são independentes, temos que L(θ X) = n f(x i θ) ou L(θ X) = i=1 n p(x i θ). i=1 Exemplo 27 Encontre a função de verossimilhança de uma amostra normamalmente distribuída de tamanho n. Exemplo 28 Encontre a função de verossimilhança de uma amostra aleatória simples de tamanho 2 retirada da população X{2, 4, 6}, cuja P (X = 2) = p 1, P (X = 4) = p 2 e P (X = 6) = p 3. Denição 17 O Estimador de Máxima Verossimilhança θ MV é denido como θ que maximiza a função de verossimilhança. 12

13 Exemplo 29 Considere a VA X exp(λ), obtenha pelo método de máxima verossimilhança o estimador para λ. Denição 18 Devido a complexidade de trabalhar com um produto de funções é comum usar o logaritmo desse produto. Assim, dene-se a função log-verossimilhança l(θ) como o logaritmo da função verossimilhança. Ou seja, l(θ) = log(l(θ X)). Obs: O valor θ que maximiza a função verossimilhança é o mesmo que maximiza a função escore. Exemplo 30 Considere a VA X exp(λ), usando a função escore obtenha pelo método de máxima verossimilhança o estimador para λ. Exemplo 31 Considere a VA X N(µ, σ 2 ), obtenha pelo método de máxima verossimilhança o estimador para µ e σ 2. Exemplo 32 Considere a VA X Bernoulli(p), obtenha pelo método de máxima verossimilhança o estimador para p. Exemplo 33 Considere a VA X Binomial(n, p), obtenha pelo método de máxima verossimilhança o estimador para p. 13

14 Referência Bibliográca: Bussab, W. O. & Morettin, P. A. (2002), Estatística Básica, 5a Edição, Editora: Saraiva. Meyer, P. (1969), Probabilidade: Aplicações à Estatística. Ao Livro Técnico. Mood, A.M.; Graybell, F.A. & Boes, D.C. Introduction to the Theory of Statistics, 3a Edition, McGraw-Hill, Singapore: Morettin, L. G. (2009), Estatística Básica: Probabilidade e Inferência, Volume Único, Pearson Education. 14