Verossimilhança e Máxima Verossimilhança 1

Transcrição

1 1 JOÃO LUÍS F. BATISTA 2 Maio Itrodução Tradicioalmete a iferêcia estatística sobre a média de uma população se apoia o Teorema Cetral do Limite para costruir Itervalos de Cofiaça ou testar hipóteses sobre o valor do parâmetro. Esta abordagem da estatística tradicioal pode ser extedida para iferêcias a respeito de qualquer parâmetro, ão só a média. Da mesma forma que o caso da média populacioal se usa a distribuição t de Studet ou a distribuição Normal Padroizada, o caso de outros parâmetros se utiliza outras distribuições amostrais. Essas distribuições são chamadas amostrais porque represetam o comportameto das estimativas baseado a repetição icotável do processo de amostragem. Na prática cietífica, o etato, sempre se realiza uma úica amostragem, o que resulta em uma úica amostra. Assim, o coceito de distribuição amostral é até certo poto artificial, pois em pesquisa cietífica ão raciociamos em termos de repetições icotáveis de experimetos ou processos de observação. O resultado disto é que o coceito de teste estatístico de hipótese e de itervalo de 1 Material de estudo que acompaha aula sobre o tema 2 Cetro de Métodos Quatitativos ( Departameto de Ciêcias Florestais, Escola Superior de Agricultura Luiz de Queiroz, Uiversidade de São Paulo, Campus Piracicaba.

2 cofiaça são frequetemete mal compreedidos. O desevolvimeto da iferêcia estatística a partir do coceito de verossimilhaça tem sido utilizado como uma alterativa à abordagem estatística frequetista e, segudo algus autores (como por exemplo Royall, 1997), é mais coerete com a prática cietífica. 2 Lei da Verossimilhaça Cosidere uma variável aleatória X, cujo comportameto pode ser explicado por duas hipóteses (hipóteses A e B) que se deseja comparar. Foi realizado um estudo e se obteve uma observação de X, cujo valor foi x. O que as hipótese dizem a respeito dessa observação? A hipótese A implica que X = x seria observado com probabilidade p A (x), equato A hipótese B implica que X = x seria observado com probabilidade p B (x). No processo de ivestigação cietífica, o etato, o que iteressa é a perguta: O que a observação de X = x diz a respeito das hipóteses A e B? A Lei da Verossimilhaça afirma que a observação X = x é uma evidêcia que favorece a hipótese A sobre a hipótese B se e somete se p A (x) > p B (x). Mais aida, a Lei da Verossimilhaça implica que a Razão de Verossimilhaça p A (x) p B (x) mede a força de evidêcia em favor da hipótese A sobre a hipótese B. 2.1 Exemplo de Regeeração Natural Deseja-se saber o úmero médio de plâtulas uma parcela de regeeração em floresta ativa. Para isso se utilizou uma parcela circular de 3 m de raio (28.3 m 2 ). Há duas hipóteses competido: Hipótese A: o úmero médio de plâtulas a parcela é 16 (5700 id/ha); João Luís F. Batista 2

3 Hipótese B: o úmero médio de plâtulas a parcela é 35 (12500 id/ha); Foi medida uma parcela de regeeração e observou-se 24 plâtulas (8470 id/ha). Neste exemplo, a variável aleatória X é o úmero de plâtulas por parcela e a observação tomada foi de X = 24. Faz-se ecessário um modelo (distribuição estatística) para se calcular as probabilidades de se observar X = 24 sob as duas hipóteses. Como se trata de dados de cotagem, a distribuição Poisso é uma cadidata atural. Se a variável aleatória X tem distribuição Poisso, sua fução de desidade é P (X = x) = e µ µ x x! ode µ (o parâmetro) é o úmero médio de plâtulas. Portato as probabilidades de acordo com as hipóteses são: Hipótese A: µ = 16 p A (24) = e ! = Hipótese B: µ = 35 p B (24) = e ! = Logo, a observação X = 24 favorece a hipótese A (µ = 16) sobre a hipótese B (µ = 35). A força de evidêcia em favor de A sobre B é: p A (24) p B (24) = = Ou seja, pode se dizer que a observação X = 24 é evidêcia que a hipótese A é aproximadamete 1.3 vêzes mais verossímil que a hipótese B. 2.2 Fução de Verossimilhaça Existe uma difereça sutil etre probabilidade e verossimilhaça. Note que para se comparar as hipóteses o exemplo acima utilizou-se a fução de desidade da distribuição Poisso: P (X = x) = e µ µ x x! João Luís F. Batista 3

4 ode x é o valor de uma observação da variável aleatória Poisso X e µ é o seu parâmetro. Ao se utilizar essa fução a observação X = x (X = 24) foi dada e, portato, o valor de x é cohecido e fixo. A fução portato ficaria: P (X = 24) = e µ µ 24 Note que essa expressão ão é mais uma fução do valor da observação x, mas uma fução do valor do parâmetro µ, que varia da hipótese A para hipótese B. Quado uma fução de desidade, a observação é fixa e o parâmetro variável ão se tem mais uma fução de desidade e sim uma fução de verossimilhaça. A fução de verossimilhaça idica a verossimilhaça de uma dada hipótese, por exemplo hipótese A (µ = 16), dado que se obteve uma observação X = x (X = 24). Para torar mais claro este coceito se utiliza uma otação diferete para a fução de verossimilhaça: L{ hipótese dados } ou L{A X = x} ou (aida mais curto) L{µ X} No exemplo acima, a expressão matemática está codicioada à observação X = 24 sedo, portato, a própria fução de verossimilhaça: 24! L{µ X = 24} = e µ µ ! A figura 1 apreseta o gráfico dessa fução para valores de µ etre 10 e 50. É importate otar que o valor da observação obtida ifluecia fortemete o comportameto da fução de verossimilhaça, o que pode ser observado a figura Múltiplas Observações Nos exemplos apresetados até agora, tiha-se uma úica observação (X = x), o que é uma situação bastate peculiar pois quado fazemos um estudo tomamos uma série de observações para compor uma amostra. Em geral, a amostra é composta de observações idepedetes. Assumido-se como verdadeira uma certa hipótese A, a probabilidade de se opter uma amostra X (X = {x 1, x 2,..., x }), composta de observações idepedetes de X (x 1, x 2,..., x ), é: P (X A) = P (X = x 1 A) P (X = x 2 A)... P (X = x A) João Luís F. Batista 4

5 Verossimilhaca µ Figura 1: Fução de verossimilhaça da distribuição Poisso, quado se obtem uma observação X = 24. X=10 Verossimilhaca X=24 X=40 X= µ Figura 2: Fuções de verossimilhaça da distribuição Poisso para diferetes valores observados de X. João Luís F. Batista 5

6 Ou seja, a probabilidade de se obter a amostra, dado a hipótese A, é igual ao produto das probabilidades das observações idividuais, dado a hipótese A. Este mesmo pricípio se aplica à verossimilhaça. A fução de verossimilhaça de uma amostra composta de observações idepedetes será o produto das fuções de verossimilhaça das observações idividuais: L{A X } = L{A X = x 1 } L{A X = x 2 }... L{A X = x } L{A X } = L{A X = x i } Exemplo da Regeeração Natural Revisitado Cosidere um exemplo mais realista de um levatameto de regeeração atural ode a amostrada foi composta de 10 parcelas, ode se realizou a cotagem do úmero de plâtulas. Os resultados são apresetados a tabela 1. Note que a amostra com 10 parcelas cotiua a idicar a hipótese A (µ = 16) como mais verossímil, mas com uma margem bem meor. Outro fato que chama ateção é que a verossimilhaça da amostra é um úmero muito pequeo da ordem Tabela 1: Números de plâtulas observados em 10 parcelas de regeeração atural, seguidos dos valores de verossimilhaça calculados segudo a distribuição de Poisso. PARCELA NO. DE PLÂNTULAS VEROSSIMILHANÇA (i) (X = x i ) (µ = 16) (µ = 35) João Luís F. Batista 6

7 de Como a verossimilhaça da amostra é o produto da verossimilhaça das observações, ela rapidamete se aproxima do zero quado o tamaho da amostra cresce. 2.4 Log-Verossimilhaça Negativa Para torar mais fácil a maipulação matemática da verossimilhaça se utiliza a fução de log-verossimilhaça egativa, que cosistem aplicar a fução logaritmo, geralmete logaritmo atural ou eperiao, e trasformar o sial: L{µ X} = log [ L{µ X} ]. Como o valor umérico da verossimilhaça é geralmete (mas ão ecessariamete) meor que um, o logaritmo desse valor é egativo. Assim a trasformação do sial é realizada para que a log-verossimilhaça egativa seja um valor positivo, o que geralmete (mas ão ecessariamete) ocorre. Assim, se o valor da verossimilhaça de uma amostra com muitas observações é um úmero positivo muito pequeo, o valor da log-verossimilhaça egativa será um úmero positivo uma escala mais fácil de trabalhar. Por outro lado, o fato da trasformação icluir uma mudaça de sial implica que o comportameto da fução de log-verossimilhaça egativa é oposto ao comportameto da fução de verossimilhaça. Isso sigifica que a hipótese com maior verossimilhaça terá meor log-verossimilhaça egativa. A trasformação logarítmica também auxilia muito a tratabilidade matemática da fução de verossimilhaça, pois ela faz com que a log-verossimilhaça egativa de uma amostra seja o somatório das log-verossimilhaças egativas das observações idepedetes idividuais: L{µ X } = log L{µ X } ] [ ] = log L{µ X = x i } = log [ L{µ X = x i } ] L{µ X } = L{µ X i } João Luís F. Batista 7

8 2.4.1 Exemplo da Regeeração Natural Revisitado Novamete A aplicação da log-verossimilhaça egativa o exemplo regeeração atural é apresetada a tabela 2. Os valores de log-verossimilhaça egativa para amostra estão agora uma escala bem mais fácil de trabalhar. Por outro lado, a hipótese mais provável (µ = 16) apreseta agora a meor log-verossimilhaça egativa. Para cálculo da verossimilhaça de uma amostra ão é ecessário calcular a verossimilhaça para cada observação para depois obter o valor para amostra. Com um pouco de tratameto algébrico pode se obter a expressão da fução de verossimilhaça para a amostra, mas a expressão da fução de log-verossimilhaça egativa é sempre mais coveiete. No caso da distribuição Poisso, a expressão da verossimilhaça da amostra de tamaho é: L{µ X } = e µ µ x i. = e µ x i! µ x i x i!. Nessa expressão, o cálculo da verossimilhaça para cada valor do parâmetro (µ) evolverá ecessariamete cálculos com cada observação idividual (x i ). Tabela 2: Números de plâtulas observados em 10 parcelas de regeeração atural, seguidos dos valores de log-verossimilhaça egativa calculados segudo a distribuição de Poisso. PARCELA NO. DE PLÂNTULAS LOG-VEROSSIMILHANÇA NEG. (i) (X = x i ) (µ = 16) (µ = 35) João Luís F. Batista 8

9 A trasformação gera a seguite fução log-verossimilhaça egativa para distribuição Poisso: L{µ X } = µ log(µ) x i + log(x i!) Nessa expressão os dois somatórios evolvem exclusivamete os valores das observações, sedo, portato, costates para uma determiada amostra. Assim, o cálculo da log-verossimilhaça se tora bem mais simples a seguite forma: L{µ X } = µ log(µ) k 1 + k 2 ode k 1 = x i e k 2 = log(x i!). A figura 3 ilustra o comportameto da fução de verossimilhaça e da fução de log-verossimilhaça egativa do modelo Poisso com os dados de regeeração atural. 3 Método da O método da cosiste em estimar os parâmetros de um modelo utilizado as estimativas que toram máximo o valor da fução de verossimilhaça. Isso é equivalete a ecotrar o valor para o parâmetro que tora míima a fução de log-verossimilhaça egativa. Olhado o gráfico da fução da verossimilhaça ou da log-verossimilhaça egativa (figura 4) fica claro ode esse poto se ecotra. Utilizado o cálculo diferecial, podemos ecotrar o poto de míimo de uma fução igualado a zero a primeira derivada da fução e solucioado a expressão. No caso da distribuição Poisso, a fução log-verossimilhaça egativa é: L{µ X } = µ log(µ) x i + log(x i!). Ecotrado a primeira derivada de L{µ X } e igualado a zero temos: dl{µ X } dµ x i = µ = 0 µ = x i João Luís F. Batista 9

10 Verossimilhaca 0.0e e e e µ Log Verossimilhaca Negativa µ Figura 3: Fução de verossimilhaça e de log-verossimilhaça egativa da distribuição Poisso para uma amostra de tamaho 10: X = {24, 27, 23, 28, 26, 24, 17, 23, 24, 27}. João Luís F. Batista 10

11 Verossimilhaca 0.0e e e e 13 µ^ µ Log Verossimilhaca Negativa µ^ µ Figura 4: Fução de verossimilhaça e log-verossimilhaça egativa da distribuição Poisso para uma amostra de tamaho 10: X = {24, 27, 23, 28, 26, 24, 17, 23, 24, 27}. A liha vertical idica a possição da estimativa de máxima verossimilhaça. João Luís F. Batista 11

12 Portato, a estimativa de máxima verossimilhaça do parâmetro µ da distribuição de Poisso ada mais é que a média amostral. Assim o exemplo de regeeração de plâtulas temos como estimativa de máxima verossimilhaça: µ = = Propriedades das Estimativas de O método da máxima verossimilhaça é um método estabelecido de estimação de parâmetros de modelos estatístico, sedo utilizado por estatísticos teóricos e práticos de todas as tribos. O uso geeralizado do método se deve às propriedades probabilísticas das estimativas produzidas por ele. As estimativas de máxima verossimilhaça são chamadas em iglês de maximum likelihood estimates, sedo portato desigadas pela sigla MLE. Assumidose que a fução de verossimilhaça satisfaz algumas propriedades matemáticas básicas, que são frequetemete alcaçadas pelos modelos utilizados em Ecologia, as MLE tem as seguites propriedades: Cosistêcia: as MLE são cosistetes, i.e., elas covergem em probabilidade para o valor do parâmetro. Ou seja, para grades amostras ( ) as MLE, para efeitos práticos, são ão-viciadas (ão eviesadas). Eficiêcia Assitótica: O Teorema do Limite Iferior de Cramer-Rao afirma que, para um dado parâmetro qualquer, existe um limite iferior para a variâcia das estimativas ão-viciadas. Para grades amostras, as MLE atigem esse limite e, portato, têm a meor variâcia possível detre as estimativas ão-viciadas. Normalidade Assimptótica: As MLE covergem em distribuição para distribuição Gaussiaa. Para grades amostras, os MLE tem distribuiçõa aproximadamete gaussiaa. Ivariâcia: as MLE são ivariates sob trasformações mootôicas. Por exemplo, seja µ uma MLE que pode ser trasformada para: θ 1 = log( µ), θ 2 = µ e θ 3 = e µ, etão as estimativas θ 1, θ 2 e θ 3 também são MLE. João Luís F. Batista 12

13 Uma aspecto muito importate que deve ser frisado é que as três primeiras propriedades são válidas para grades amostras. 4 Itervalo de Verossimilhaça O itervalo de verossimilhaça correspode a um itervalo ao redor da MLE, ode a razão das verossimilhaças dos valores detro do itervalo para a verossimilhaça da MLE ão ultrapassa um certo limite. A figura 5 mostra um itervalo de verossimilhaça para o exemplo da regeeração atural ode o limite é 8. Ou seja, detro deste itervalo, a razão de verossimilhaça é defiida como: ode L{ µ X 10 } L{µ X 10 } 8 = L{µ X 10} L{ µ X 10} 8 X 10 se refe a amostra com 10 parcelas (uidades amostrais), µ é a MLE, e µ é o parâmetro variado detro do itervalo. Como a prática trabalhamos com a fução de log-verossimilhaça egativa, o itervalo de verossimilhaça também pode ser costruido a forma de um itervalo de log-verossimilhaça egativa, com iterpretação aáloga. Para isso é ecessário aplicar a trasformação à razão de verossimilhaça: log { } L{ µ X10 } log(8) L{µ X 10 } = L{ µ X 10 } L{µ X 10 } log(8) = L{µ X 10 } L{ µ X 10 } + log(8) Em termos de log-verossimilhaça egativa a razão de 8, se tora uma difereça de log(8). Aalisado a curva de verossimilhaça ou log-verossimilhaça egativa verificase que ela é ligeiramete assimétrica em relação à MLE, por isso, o itervalo de verossimilhaça também é ligeiramete assimétrico. Portato, o itervalo de verossimilhaça é determiado pela forma da curva de verossimilhaça, ao cotrário do itervalo de cofiaça a estatística frequetista que é simétrico por defiição. João Luís F. Batista 13

14 Verossimilhaca 0.0e e e e 13 µ^ µ Log Verossimilhaca Negativa µ^ µ Figura 5: Fução de verossimilhaça e log-verossimilhaça egativa da distribuição Poisso para uma amostra de tamaho 10: X = {24, 27, 23, 28, 26, 24, 17, 23, 24, 27}. A liha vertical idica a possição da MLE. A liha horizotal idica um itervalo de verossimilhaça para uma razão de 8. João Luís F. Batista 14

15 O itervalo de verossimilhaça também redefie a forma de apressetação da curva de verossimilhaça. Como o valor da verossimilhaça, ou da log-verossimilhaça egativa, ão pode ser iterpretado de forma direta e absoluta, faz setido apresetar as curvas sempre em termos relativos à máxima verossimilhaça. A figura 6 apreseta os mesmos gráficos da figura 5, mas com a escala relativa. Na escala relativa, a forma da curva ão se altera, mas a visualização do itervalo fica mais fácil. No gráfico da razão de verossimilhaça, o itervalo de verossimilhaça para a razão R = 8, será sempre defiido por uma liha horizotal a altura 1/R = 1/8. No gráfico da difereça de log-verossimilhaça egativa, o itervalo de verossimilhaça para a razão R = 8, será sempre defiido por uma liha horizotal a altura log(r) = log(8) = 2, Exemplo da Distribuição Biomial em Evetos Raros Num levatameto florestal foram selecioadas aleatoriamete 100 árvores para verificar a proporção de árvores doetes. Etretato, ehuma delas apresetou a doeça em questão. Utilizado-se a abordagem tradicioal a estimativa da probabilidade de ocorrêcia e sua variâcia são: p = = 0 s2 p = p(1 p) = 0(1 0) 100 Logo ão é possível acessar a qualidade da estimativa p = 0. Utilizado a curva de verossimilhaça ão há problema, pois esta curva é dada por ( ) L{p} = p 0 (1 p) = (1 p) 0 A figura 7 apreseta esta curva para diferetes tamahos de amostra. Nota-se que, idepedetemete do valor estimado ( p = 0), o itervalo de verossimilhaça pode ser facilmete defiido. A figura também deixa claro o forte efeito do tamaho da amostra sobre a amplitude do itervalo. Como o tamaho da amostra efetivamete tomada em campo foi = 100, verificamos a figura 7 que o itervalo de verossimilhaça para a razão de 8 é [0.00, 0.02]. Os dados idicam que, se a doeça procurada ocorre de fato a floresta, a proporção de árvores doetes é o máximo 2%. = 0 João Luís F. Batista 15

16 µ^ 1.0 Razao de Verossimilhaca µ Difereca Log Verossimilhaca Negativa µ^ µ Figura 6: Curva relativa da verossimilhaça e da log-verossimilhaça egativa da distribuição Poisso para uma amostra de tamaho 10. João Luís F. Batista 16

17 1.0 Verossimilhaca Relativa = =1000 = p Figura 7: Curva de verossimilhaça para o modelo biomial, tomado 0 sucessos observados uma amostra de tamaho. A liha horizotal represeta a fração 1/8. 5 Superfícies e Curvas de Verossimilhaça O exemplo que vem sedo apresetado utiliza a distribuição de Poisso, que possui apeas um parâmetro (µ). No caso das distribuições estatísticas com dois ou mais parâmetros, a curva de verossimilhaça se trasforma uma superfície de verossimilhaça. A figura 8 ilustra como a superfície de log-verosimilhaça egativa relativa para diversas amostras de uma distribuição Gaussiaa (Normal). A distribuição Gaussiaa possui dois parâmetros: média (µ) e desvio padrão (σ), de forma que apresetação foi feita a forma de um gráfico de cotoro, ode as lihas represetam isolihas de log-verossimilhaça egativa. Tratado-se de dois parâmetros, ão se tem mais um itervalo de verossimilhaça, mas uma região de verossimilhaça. Na figura 8, esta região é delimitada por uma liha mais espessa correspodete à isoliha para log-verorssimilhaça egativa relativa igual a log(8). A figura também mostra o efeito do tamaho da amostra sobre o tamaho da região de verossimilhaça: à medida que o tama- João Luís F. Batista 17

18 ho da amostra aumeta o tamaho da região dimiui, idicado o aumeto da precisão das MLE. = 50 = σ 10 σ = 500 = σ 10 σ Figura 8: Gráfico de cotoro com isolihas da log-verossimilhaça egativa relativa para amostras de diferetes tamahos () da distribuição Gaussiaa (Normal) com µ = 25 e σ = 10. As lihas potilhadas idicam os valores das MLE: µ e σ. A isoliha mais espessa idica log-verossimilhaça egativa relativa igual a log(8). João Luís F. Batista 18

19 5.1 De Superfície para Curvas Frequetemete quado se trabalha com modelos de variáveis aleatórias que possuem vários parâmetros, apeas um ou algus deles são de iteresse, sedo que os demais ão são cosiderados a aálise, mas fazem parte do modelo. Por exemplo, a distribuição Gaussiaa é frequetemete utilizada para se iterpretar o comportameto da média (µ), idepedetemete do comportameto do desvio padrão (σ). Os parâmetros ecessários ao modelo, mas sem iteresse para iterpretação, são parâmetros icoveietes (uisace parameters). Na sua preseça, ão é coveiete se aalisar as regiões de verossimilhaça, pois a falta de iterpretação para os parâmetros icoveietes só faz aumetar a complexidade da iterpretação da região de verossimilhaça. Assim, se faz ecessário uma forma de aalisar os parâmetros de iteresse sem a iterferêcia dos parâmetros icoveietes. Mesmo quado o úmero de parâmetros de iteresse é maior do que dois, a iterpretação gráfica da região de verossimilhaça é extremamete complexa. Logo é ecessário uma forma coveiete de se estudar o comportameto das MLE dos parâmetros em modelos com muitos parâmetros. A forma de realizar esse estudo é substituir a aálise da supefície de verossimilhaça de um modelo pela aálise de uma série de curvas de verossimilhaça, cada uma relativa a um parâmetro de iteresse o modelo. 5.2 Verossimilhaça Estimada A Verossimilhaça Estimada é uma técica se costroe uma curva de verossimilhaça para cada parâmetro de iteresse, matedo os demais parâmetros (de iteresse ou icoveietes) um valor costate. O melhor valor para mater demais parâmetros é a a estimativa de máxima verossimilhaça deles. No exemplo da distribuição Gaussiaa, a curva de verossimilhaça estimada para média é obtida como L E {µ} = L{µ, σ} ode σ é a MLE do desvio padrão. A figura 9 apreseta as curvas de verossimilhaça estimada para o exemplo da distribuição Gaussiaa, utilizado os mesmos dados apresetados a figura 8. Para facilitar a visualização, a curva é apresetada em fução da difereça µ µ, pois as amostras geraram estimativas µ ligeiramete distitas. O gráfico mostra o efeito do tamaho da amostra aumetado a curvatura da superfície de verossimilhaça e, cosequetemete, reduzido o tamaho do itervalo de verossimi- João Luís F. Batista 19

20 Log Verossimilhaca Negativa Relativa log(8) = 1000 = 500 = 100 = µ µ^ Figura 9: Log-verossimilhaça egativa relativa estimada para amostras de diferetes tamahos () da distribuição Gaussiaa com µ = 25 e σ = 10. As curvas foram traçadas para diferetes valores de µ, matedo o valor do desvio padrão (σ) fixo o valor da sua MLE ( σ). lhaça da MLE da média. 5.3 Verossimilhaça Perfilhada Outra forma de costruir curvas de verossimilhaça é a Verossimilhaça Perfilhada. Essa técica cosiste em variar o parâmetro de iteresse e, para cada valor dele, ecotar as MLE dos demais parâmetros do modelo substituido-os a fução de verossimilhaça para calcular a verossimilhaça poto-a-poto do parâmetro de iteresse. Tomado o exemplo da distribuição Gaussiaa, a curva de log-verossimilhaça egativa perfilhada para média é costruída torado a MLE do desvio padrão (ou da variâcia), para cada valor da média: L P {µ} = L{µ, σ 2 = σ 2 } = 2 l(2π) + 2 l( σ 2 ) σ 2 (y i µ) 2 João Luís F. Batista 20

21 Mas a MLE da variâcia é uma fução da própria média: σ 2 = 1 (y i µ) 2 Iserido essa expressão a fução de log-verossimilhaça egativa se obtem a verossimilhaça perfilhada da média: L P {µ} = 2 l(2π) + ( ) 1 2 l (y i µ) A figura 10 apreseta uma comparação da verossimilhaça perfilhada e estimada. Ambas têm o mesmo poto de míimo (poto da MLE), e a vizihaça desse poto as curvas são coicidetes. Etretato, à medida que se afasta do poto de míimo a curva da verossimilhaça perfilada é mais aberta, o que idica um maior grau de icerteza sobre a estimativa da média. A verossimilhaça perfilada é mais coerete e realista, uma vez que para cada valor de µ o gráfico, ela busca o MLE da variâcia assumido aquele valor de média. 6 O Critério de Akaike a Comparação de Modelos A utilização da razão da verossimilhaça ão cosidera que dois modelos sedo comparados podem diferir bastate o úmero de parâmetros ajustados. Geralmete, espera-se que um modelo com mais parâmetros teda a apresetar um ajuste melhor que um com meos parâmetros, pois os parâmetros são os elemetos que os permitem explicar o comportameto dos dados. Pelo Pricípio da Parsimôia, ou Pricípio de Okham, etre dois modelos com igual poder explicativo opta-se pelo modelo mais simples, o que geralmete é etedido como o modelo com o meor úmero de parâmetros. Um critério baseado da log-verossimilhaça egativa que cosidera o úmero de parâmetros é o Critério de Iformação de Akaike (AIC), que pealiza a logverossimilhaça egativa com duas vêzes o úmero de parâmetros: AIC = 2 l [L{θ}] + 2p = 2L{θ} + 2p (1) No caso da distribuição Gaussiaa o AIC pode ser detalhado como: AIC = 2L{ µ, σ} + 2p João Luís F. Batista 21

22 Log Verossimilhaça Negativa Figura 10: Fução de log-verossimilhaça egativa perfilada (em azul) e logverossimilhaça egativa estimada (em vermelho) para a média de uma distribuição Gaussiaa, applicada a dados do DAP médio por parcela em floresta ativa do Marahão. µ [ ] 1 = 2 l 2π + l σ + (x 2 2 σ 2 i µ) 2 + 2p = 2 2 l 2π + l (x i µ) (x (x i µ) 2 i µ) 2 + 2p Simplificado-se a expressão: ( ) AIC = l(2π) + l (x i µ) 2 + 2p No modelo Gaussiao, o AIC é obtido a partir da soma dos desvios quadráticos das observações em relação à média estimada (soma de quadrados do resíduo). João Luís F. Batista 22

23 Aexo MLE para algus Modelos A sigla MLE pode desigar estimativas ou estimadores. Etede-se por estimativa o valor umérico atribuido a um parâmetro a situação particular de um certo cojuto de dados. Etede-se por estimador a expressão ou processo matemático que permite ecotrar a estimativa os casos particulares. A expressão as MLE se refe às estimativas, a expressão os MLE se refere aos estimadores. Nessa secção são apresetados os MLE para algus modelos de distribuição aleatória. A Distribuição Gaussiaa (Distribuição Normal) Assumido que um cojuto de variáveis aleatórias X 1, X 2,..., X são idepedetes e ideticamete distribuidas seguido a distribuição Normal com média µ e variâcia σ 2 (X i N(µ, σ 2 ), i = 1,..., ), a desidade cojuta destas variáveis é igual ao produto das desidades margiais. A fução de verossimilhaça, para uma amostra observada X i = x i, se tora: [ 1 L{µ, σ} = σ 2π exp 1 ( ) ] xi µ 2 2 σ [ L{µ, σ} = (2π) /2 σ exp 1 ] (x 2σ 2 i µ) 2 A fução de log-verossimilhaça egativa é de forma mais simples: L{µ, σ} = 2 l 2π + l σ + 1 2σ 2 (x i µ) 2 Igualado as derivadas parciais a zero e solucioado para os parâmetros de iteresse, obtem-se: L{µ, σ} = 1 x i (x µ σ 2 i µ) = 0 = µ = L{µ, σ} = σ σ 1 (x σ 3 i µ) 2 = 0 = σ = 1 (x i µ) 2 João Luís F. Batista 23

24 O MLE para o desvio padrão é ligeiramete diferete do estimador covecioal. O estimador covecioal é ão-viciada, mas o MLE é cosistete, isto é, ão-viciado para grades amostras. B Distribuição Weibull - 2 Parâmetros Dado um cojuto de variáveis aleatórias X 1, X 2,..., X, idepedetes e ideticamete distribuidas de acordo com a distribuição Weibull, com parâmetro de escala β e parâmetro de forma γ, (X i Weibull(β, γ), i = 1,..., ), a desidade cojuta destas variáveis é igual a produto das desidades margiais. A fução de verossimilhaça, para uma amostra observada X i = x i, se tora: [ γ L{β, γ} = exp 1 ] = β γ xγ 1 i ) [ ( γ β γ x γ 1 i β γ xγ i ] [ exp 1 β γ ] x γ i A fução de log-verossimilhaça egativa assume a forma: ( ) γ L{µ, σ} = l γ l(β) + (γ 1) l(x β γ i ) 1 β γ A derivada parcial em relação ao parâmetro de escala fica: L{β, γ} = γ ( + 1 ) x γ β β β γ i = 0 β γ x γ i = x γ i resultado um estimador de máxima verossimilhaça que é depedete do parâmetro de forma: [ x β γ ] 1/γ i = A derivada parcial em relação ao parâmetro de forma fica: L{β, γ} γ = γ l(β) + l(x i ) 1 β γ x γ i l(β) = 0 João Luís F. Batista 24

25 Tomado o valor de β γ está expressão é simplificada para: γ + x γ i l(x i ) x γ = 0 i a qual ão pode ser simplificada mais. Assim, a MLE para o parâmetro da forma ( γ) é obtido solucioado a expressão acima por métodos iterativos. Uma vez que γ é ecotrado, a estimativa do parâmetro de escala é obtida diretamete. C Distribuição Weibull - 3 Parâmetros Tomado-se ovamete um cojuto de variáveis aleatórias X 1, X 2,..., X, idepedetes e ideticamete distribuidas de acordo com a distribuição Weibull, mas agora com três parâmetros: parâmetro de locação α, parâmetro de escala β e parâmetro de forma γ. (X i Weibull(α, β, γ), i = 1,..., ). Novamete, a desidade cojuta destas variáveis é igual a produto das desidades margiais, logo a fução de verossimilhaça, para uma amostra observada X i = x i, se tora: [ γ L{α, β, γ} = β (x γ i α) γ 1 exp 1 ] β (x γ i α) γ ( ) [ γ ] [ = (x β γ i α) γ 1 exp 1 ] (x β γ i α) γ A fução de log-verossimilhaça egativa assume a forma: ( ) γ L{µ, σ} = l γ l(β) + (γ 1) l(x β γ i α) 1 β γ A derivada parcial em relação ao parâmetro de escala fica: L{α, β, γ} = γ ( + 1 ) (x β β β γ i α) γ = 0 β γ (x i α) γ = (x i α) γ resultado um estimador de máxima verossimilhaça que é depedete do parâmetro de forma: [ (x i α) β γ ] 1/γ = (2) João Luís F. Batista 25

26 A derivada parcial em relação ao parâmetro de forma fica: L{α, β, γ} γ = γ l(β) + l(x i α) 1 β γ (x i α) γ l(β) = 0 Tomado o valor de β γ está expressão é simplificada para: γ + (x i α) γ l(x i α) (x i α) = 0 (3) γ a qual ão pode ser simplificada mais. Em relação ao parâmetro de locação, a derivada parcial fica: L{α, β, γ} α = (γ 1) 1 x i α + γ β γ Substituido-se o valor de β γ em (2), obtemos: (x i α) γ 1 = 0 γ (x i α) (γ 1) 1 x i α = 0 [ ] [ ] 1 (γ 1) (x i α) + γ = 0 x i α [ ] [ ] 1 x i α γ x i α γ 1 = 0 1 (x α) x i α γ γ 1 = 0 1 (x α) x i α γ γ 1 = 0 (4) ode x é a média da amostra. Todas as expressões são depedetes do parâmetro de locação (α) e do parâmetro de forma (γ). Para se obter as MLE tora-se ecessário utilizar um processo iterativo evolvedo essas expressões: 1. Iicia-se o processo com um valor arbitrário de α, (α 0 ) e ecotra-se o valor iicial para γ (γ 1 ) fazedo a expressão (3) covergir por um processo iterativo. 2. Utilizado-se γ 1, obtem-se o valor icial de α (α 1 ), fazedo a expressão (4) covergir por um processo iterativo. João Luís F. Batista 26

27 3. Repete-se os passos 1 e 2 acima, até que os valores obtidos para α e γ deixem de sofrer alterações marcates. Os valores fiais α e γ são as MLE ( α, γ). 4. Utilizado α e γ, obtem-se β solucioado-se a expressão (2). João Luís F. Batista 27