Construção de modelos: 1 estimativa dos parâmetros que melhor ajustam os modelos aos dados, 2 selecionar aqueles modelos que tem o melhor ajuste

Transcrição

1 Verossimilhança

2 Construção de modelos: 1 estimativa dos parâmetros que melhor ajustam os modelos aos dados, 2 selecionar aqueles modelos que tem o melhor ajuste Métrica usada para avaliar o ajuste Verossimilhança: probabilidade de ocorrência dos dados dado um modelo.

3 Modelo Parte determinística: Expectativa da média da distribuição de erros. Y= Normal(ax+b, σ) Y=Poisson(ax+b)

4 As distribuições de erros pertencem à famílias de funções exponenciais e podem ser descritas por: Onde θi e φ são parâmetros de localização e escala, respectivamente. Ex. Poisson:

5 Binomial Normal

6 Estimativas de parâmetros: uma única distribuição Conjunto de dados independentes vindos todos da mesma distribuição. Ex: Predação de frutos em experimento de remoção binomial; Densidade de árvores com distribuição aleatória em parcelas Poisson. Estimo os parâmetros da distribuição.

7 Máxima verossimilhança Maximizar a verossimilhança entre os dados e o modelo Estimativa dos parâmetros de conjunto independente de dados: verossimilhança conjunta é o produto das estimativas individuais a partir de cada dado. Se a distribuição é única (dados vindos da mesma distribuição) temos o produto de termos similares

8 Exemplo: uma única observação: probabilidade de k sucessos em N possibilidades, dado uma probabilidade individual p de sucessos Em n tentativas, cada uma com N possibilidades, e o numero de sucessos da iésima tentativa é ki

9 Por convenção, usa-se: - log do valor de verossimilhança e procuramos minimizar o soma das mesmas.

10 Tentemos achar o parâmetro p num conjunto de dados com distribuição binomial usando verossimilhança. k=rbinom(10,6,0.8) #gero sequencia de dados com p conhecido sum(dbinom(k,size=6,prob=0.6,log=true))# avalio a veross. de p=0.5 sum(dbinom(k,size=6,prob=0.7,log=true))#idem 0.7 sum(dbinom(k,size=6,prob=0.8,log=true))#idem 0.8 sum(dbinom(k,size=6,prob=0.9,log=true))#idem 0.9 Demonstração Pró: pe=seq(0,1,0.01) lik=numeric(101) for(i in 1:length(pe)) { lik[i]=sum(dbinom(k,size=6,prob=pe[i],log=true)) } plot(pe,lik)

11

12 Melhor valor para p Analiticamente: derivada do L em relação a p. Máximo derivada é zero. 1/p

13 Mas é a média!!!! Numero de sucessos Numero de tentativas

14 Para Poisson, o melhor estimador de lambda é a média. Para a normal o melhor estimador da média e desvio são estes parâmetros calculados à partir dos dados. Para algumas distribuições, entretanto, não há solução analítica: solução numérica

15 Solução numérica no R. P1=rbinom(20, size =6, p=0.7) #Crio a função de densidade acumulada (verossimilhança bionomial) para um dado p e conjunto de dados x: binoml=function(p,k,n){-sum(dbinom(k, prob=p, size=n, log=true))} #usando a função optimize. Otimiza o parêmtro escolhido, a partir de uma estimativa inicial, usando alguns métodos O1=optim(fn=binomL,par=c(p=0.5),N=6,k=P1, method= BFGS )

16 library(bbmle) Função mle() já usa o negativo da verossimilhança. M1=mle2(minuslog=binomL,start=list(p=0.5),da ta=list(n=6, k=p1))

17 Modelos mais complexos Ex. p=f(x) Y ~ binomial(p,n). Ajuste de uma reta ou outro modelo Dados: my=c(5,6,11,20,27,33,57,43,47,31) co=c(5,15,20,25,30,35,40,45,55,60)

18 Reta com desvios normais #primeiro crio a função de densidade acumulada que combina a parte determinística e a estocástica ren=function(p,mean,sd,x){ a=p[1] b=p[2] myp=a*co+b sd1=((sum((my-myp)^2))/(length(my)-1))^0.5 -sum(dnorm(x,mean=myp,sd=sd1, log=true)) }

19 Agora uso a função de otimização: O2=optim(fn=ren,x=my,p=c(0.5,5), method= BFGS ). O2$par O2$value plot(co,my) curve(a*x+b, add=t) lm(my~co) ##com o bmle parnames(ren)=c("a","b") O21=mle2(minuslog=ren, start= c(a=0.5,b=5), data=list(x=my)) p21=profile (O21) plot(p21) Como faria se quisesse comparar isto com uma curva construída com distribuição de poisson?

20 rpo=function(p,lambda,x){ a=p[1] b=p[2] myp=a*co+b -sum(dpois(x,lambda=myp, log=true)) } O3=optim(fn=rpo,x=my,p=c(0.5,5), method="bfgs") O3$par O3$value plot(co,my) ##com o bmle parnames(rpo)=c("a","b") O31=mle2(minuslog=rpo, start= c(a=0.5,b=5), data=list(x=my)) p31=profile (O31) plot(p31)

21 Agora tente fazer um ajuste a função logística: y= a/exp((b-x)/c). Com desvios normais e depois com Poisson logip=function(p,lambda,x){ a=p[1] b=p[2] c=p[3] myp = a/(1+exp((b-co)/c)) -sum(dpois(x,lambda=myp, log=true)) } O4=optim(fn=logip,x=my,p=c(40,25,3), method="bfgs") O4$par, O4$value ##com o bmle parnames(logip)=c("a","b", c ) O41=mle2(minuslog=logip, start= c(a=40,b=25, c=3), data=list(x=my)) p41=profile (O41) curve (a/(1+exp((b-x)/c)), add=t)#insira os valores estimados dos parâmetros

22 login=function(p,mean,sd,x){ a=p[1] b=p[2] c=p[3] myp = a/(1+exp((b-co)/c)) sd1=((sum((my-myp)^2))/(length(my)-1))^0.5 -sum(dnorm(x,mean=myp,sd=sd1, log=true)) } O5=optim(fn=login,x=my,p=c(40,25,3), method="bfgs") O5$par, O5$value ##com o bmle parnames(login)=c("a","b", c ) O51=mle2(minuslog=login, start= c(a=40,b=25, c=3), data=list(x=my)) p51=profile (O51)