Métodos de Estimação Pontual

Transcrição

1 Métodos de Estimação Pontual Método dos Momentos Definição: Para uma determinada variável aleatória X os momentos populacionais ordinários de ordem k são dados por: mm kk = EE XX kk Definição: Seja XX 1, XX 2,, XX uma amostra aleatória de uma variável aleatória X. Os momentos amostrais ordinários com base naquela amostra são dados por: MM kk = 1 XX ii kk Considere-se uma população representada pela variável aleatória Z cuja distribuição é conhecida, à excepção de K parâmetros: θθ 1, θθ 2,, θθ KK. Em geral, os momentos populacionais ordinários serão funções conhecidas dos parâmetros a estimar. De acordo com o método dos momentos, os estimadores, ΘΘ 1, ΘΘ 2,, ΘΘ KK dos parâmetros θθ 1, θθ 2,, θθ KK são obtidos igualando os momentos populacionais aos momentos amostrais, isto é, fazendo: MM kk = mm kk (θθ 1, θθ 2,, θθ KK ) E resolvendo o sistema de equações em relação a θθ 1, θθ 2,, θθ KK. Os seguintes exemplos ilustram o método: Exemplo 1: Suponha que TT 1, TT 2,, TT representam tempos (independentes) de falha de um equipamento, que tem assumidamente um tempo de vida que segue uma distribuição exponencial com o parâmetro (desconhecido) λ. O primeiro momento da população desta variável aleatória é dado por: EE(XX) = 1 λλ E o primeiro momento amostral é dado por: MM 1 = 1 XX ii = XX O estimador para λ pelo método dos momentos é dado pela resolução de: XX = 1 λλ λλ = 1 XX

2 É possível que o primeiro momento da população não dependa do parâmetro desconhecido. Neste caso, o momento de menor ordem possível é utilizado para encontrar o estimador pelo método dos momentos. Exemplo 2 Assume que X é uma variável aleatória com uma distribuição Uniforme no intervalo θθ, θθ, em que θθ é desconhecido. O valor esperado de X (primeiro momento da população) é zero, independente do valor de θθ. O segundo momento populacional de X é dado por: EE[XX 2 ] = θθ xx2 2θθ dddd θθ = xx3 θθ 6θθ = θθ2 3 θθ O que é uma função de θθ. Se XX 1, XX 2,, XX for uma amostra aleatória de X, então, o estimador pelo método dos momentos é dado por: MM 2 = 1 XX ii 2 = θθ 2 3 Θ = 3MM 2 = 3 1 XX ii 2 Se a função de probabilidade tiver dois ou mais parâmetros desconhecidos, um igual número de momentos populacionais e amostrais devem ser igualados e resolvidos simultaneamente. Exemplo 3 Suponha que o tempo X entre pedidos de um determinado artigo num armazém, é uma variável aleatória com uma distribuição Gama de parâmetros r e λλ. Sabe-se que: EE[XX] = rr λλ EE[XX 2 ] = rr(1 + rr) λλ 2 Logo, os estimadores para os parâmetros r e λλ pelo método dos momentos, a partir de uma amostra aleatória de dimensão n são especificados por: MM 2 = RR 1 + RR RR 2 XX = RR Λ = XX (1 + RR ) λλ = XX λλ + XX 2 Assim, os estimadores pelo método dos momentos são dados por: λλ = XX MM 2 XX 2

3 XX 2 RR = MM 2 XX 2 Uma característica favorável dos estimadores obtidos segundo o método dos momentos é a sua relativa simplicidade de cálculo. Pode ainda demonstrar-se que, sob condições bastante gerais: Os estimadores pelo método dos momentos são consistentes A sua distribuição tende para uma distribuição Normal, quando as dimensões das amostras com base nas quais forem obtidos tenderem para infinito (os estimadores são assimptoticamente Normais). No entanto, os estimadores obtidos segundo o método dos momentos não são assimptoticamente eficientes (para amostras de grandes dimensões são, em geral, menos eficientes do que os estimadores obtidos pelo método de máxima verosimilhança. Método da Máxima Verosimilhança A ideia-base do método pode ser ilustrada recorrendo ao seguinte exemplo: Admita-se que, a partir de uma amostra obtida aleatoriamente com base numa população Normal, se pretendem estimar os parâmetros desta população. Na figura seguinte representa-se as observações que constituem a amostra (no eixo horizontal inferior) e três funções densidade de probabilidade Normais, com valores esperados e variâncias distintos. Dado que as caudas das distribuições normais se estendem indefinidamente, a amostra em causa poderia provir de qualquer uma das distribuições representadas. No entanto, será muito mais verosímil que tenha sido obtida a partir da distribuição (μμ 1, σσ 1 2 ) do que das duas restantes. De facto, a amostra está claramente descentrada em relação à distribuição

4 (μμ 2, σσ 2 2 ) e tem uma dispersão muito superior à da distribuição (μμ 3, σσ 3 2 ). Dos três pares de parâmetros, o primeiro parece ser o mais adequado para representar a população da qual a amostra foi obtida. A ideia-base do método da máxima verosimilhança consiste em seleccionar, entre todos os valores possíveis dos parâmetros populacionais, aqueles que tornem mais verosímil a ocorrência de uma amostra idêntica àquela que efectivamente se obteve. Considere-se uma população discreta representada pela variável aleatória Y cuja função densidade de probabilidade é conhecida à excepção de K parâmetros θθ 1, θθ 2,, θθ KK e denote-se por yy 1, yy 2,, yy uma amostra aleatória simples obtida a partir daquela população. A probabilidade de ocorrência de uma amostra aleatória simples idêntica àquela que efectivamente se obteve a partir da população é dada por: LL = PPPPPPPP(YY 1 = yy 1,, YY = yy θθ 1,, θθ KK ) = PPPPPPPP(YY ii = yy ii θθ 1,, θθ KK ) Definição: Suponha que XX 1,, XX é uma amostra aleatória de uma variável aleatória X cuja função densidade de probabilidade depende do parâmetro desconhecido θθ. A função de verosimilhança é dada por: LL(θθ) = PP(XX 1 = xx 1 ) PP(XX = xx ), se a variável X for discreta LL(θθ) = ff(xx 1 ) ff(xx ), se a variável X for contínua Note-se que, quanto maior for o valor da função, mas verosímil se tornará a ocorrência de uma amostra idêntica a yy 1, yy 2,, yy. Os estimadores de máxima verosimilhança dos parâmetros θθ 1, θθ 2,, θθ KK são os valores destes parâmetros que maximizam a função de verosimilhança. Por outras palavras, as estimativas MV são os valores dos parâmetros que tornam máxima a probabilidade de ocorrência de uma amostra idêntica àquela que efectivamente ocorreu. Em notação simbólica, as estimativas de máxima verosimilhança são obtidas através de: MMMMMM θθ 1,,θθ KK LL(θθ 1,, θθ KK ) Dado que LL(θθ) é a probabilidade de observar os dados da amostra, será sempre não-negativo. Logo, podemos examinar igualmente o logaritmo da função verosimilhança, ou seja, L(θθ) = llll LL(θθ). Dado que o logaritmo natural é uma função monotónica crescente, o valor de θθ que maximiza LL(θθ) é idêntico ao valor que maximiza L(θθ). O processo de estimação por máxima verosimilhança pode ser descrito em 5 passos: 1. Encontrar a função densidade da variável X : ff(xx θθ) 2. Construir a função de verosimilhança : LL(θθ) = ff(xx θθ) 3. Logaritmizar a função de verosimilhança : L(θθ) = llll LL(θθ) = llll ff(xx θθ) dd llll LL(θθ) 4. Encontrar θθ que maximiza L(θθ) : dddd 5. Confirmar que θθ é um máximo : dd2 llll LL(θθ) < 0 dd 2 θθ

5 Exemplo 1 Considere o caso de uma variável aleatória X com uma distribuição exponencial de parâmetro desconhecido λλ. Retirou-se uma amostra aleatória de dimensão N. O estimador de máxima verosimilhança é dado por: 1. Função densidade: 2. Função verosimilhança: ff(xx λλ) = λλee xxxx LL(λλ) = ff(xx λλ) = λλee xxxx 3. Logaritmizar a função de verosimilhança: 4. Encontrar λλ que maximiza L(λλ): ddl(λλ) dddd = 0 L(λλ) = llll λλee xxxx = llll λλee xxxx = (llll λλ λλxx ii ) 1 λλ xx ii = 0 λλ = xx ii λλ = xx ii = 1 XX 5. Provar que é máximo: dd 2 llll LL(θθ) dd 2 θθ = λλ 2 < 0 Referências: Guimarães, R. e Sarsfield Cabral J. Estatística. McGraw-Hill Larson, H. Introduction to probability theory and inference, 3 rd Edition. John Wiley & Sons