GAM. Ilka Afonso Reis

Transcrição

1 GAM Ilka Afonso Reis

2

3 Modelo Estatístico O objetivo de um modelo estatístico é fornecer a base matemática para responder às seguintes questões: As variáveis preditoras/explicativas explicam adequadamente a variável resposta? O relacionamento entre a resposta e as variáveis preditoras/explicativas é significante? (Guisan et al., )

4 Roteiro Conceitos Básicos de Probabilidade Regressão Linear Regressão com dados binários Regressão com dados de contagem Modelos Lineares Generalizados (GLM) Exemplo dos répteis (Guisan and Hofer, ) Modelos Aditivos Generalizados (GAM)

5 ! "! # $$ %"&'()* +,-)./0!!.1! *2-3.4 *2 3 +,) 5 6!.1!. * : * ;: +,). '( *<

6 ! "! # $$ =>1..*? % 1 *)@ * 2+A*B = * 1? %C!*) *2+A'*D@ * ( B2%A*B

7 ! "! # $$ =,.. $$! 0! *? E$/F # $$ G # $$6! #A*2HI@B2@ H '-D@( -DH 3H23- $/F. $$* Prob[Y=y] Y

8 ! "! # $$ ) N y N y P[ Y = y µ ] = µ (1 µ ) y 3H2 3-33; +A*I@B2 ;@ %A*I@B2;@'-D@( ) P[ Y = y µ ] = µ y! y µ e 3H Prob[Y=y] Prob[Y=y] Y Y # '@2(

9 ! "! # $$ %A*I@3B2 2 ( y µ ) f ( y µ, σ ) e σ, y σ 2π = R

10 G +6! %". )*'* - 3* 3* 393* ; ( +A* B2@ ; %AY B2 2 G )* 2@J 3 +A B2%A B2 2

11 G +6! )F K %". )*3'* - 3* 3* 393* ; (3*1 %",.!)L3'L - 3L 3L 393L ; ( G )* 2@ J 3 +A B2%A B2 2 J - L * 2 J - L J G F KG5.) * 2 J - L- J L J L J9J. L. J G )+A* IL- 3L 393L. B2@ 2

12 G +6! )F K 6! %". )*3'* - 3* 3* 393* ; (3*1' -( %",.!)L-3L3L! G )+A* I B2@ 2 J - L- J L J - R +!! 3 2'@ ( M 5 = 2'@ (3@ 2 D- ' ( " #

13 F K 6!)/F /F =N/F ) g( x) x = ln 1 x ;.F '@ ( = N/F ) g x µ i '/F ηi = ln (3 1 µ i µ i = g η = i ( i ) + e η =G F K 6!) 1 ( ) = Φ ( x) $ O µ i ln = β + β X1 + β X 2 + β X 3 1 µ i x Φ 1 ( x) 0 1 i 2 i 3 i

14 F K 6!)! Pg(µ i ) N )K!; Q KG'R PN,(

15 G +6! )F # %". )*3'* - 3* 3* 393* ; (3*1#'*( %",.!)L-3L3L3L8 G )+A* I B2@! 2 J - L- J L J L J 8 N/F /F )η = ln( µ ) i i R G F # ln( µ ) = β + β X1 + β X 2 + β X 3 + β X 4 i 0 1 i 2 i 3 i 4 i µ i = e β β β β β + X 1 + X 2 + X 3 + X i 2 i 3 i 4 i

16 G KQS 'QKG( =; TU $'-V( W 1 1!!!.. $ 'Q KG( = QKG! 6!!,F!"! X0!. Q KG) -. &. "! N/F /F

17 QKG). & = %". * W W W,.!.S = *$/F!!.!Y 6,.! = $/Z; 3Q ; [.! 6 4 =... /Z4 =# ;.!

18 QKG). "! %",.!'. (. = J - L-J LJ LJ9

19 QKG)N/F K/F = N/F 6W. Y 1 ". = 2'@ (@ 2 D- ' ( = D- '.(1!P ; # Q ; [ N )K!; Q KG'R PN,(

20 QKG)! s? = G1 G",% P/ ' ( n l( y; µ, φ ) = p( y ; µ, φ) N/F % P/ i= 1 i [ ] [ i ] L( y; µ, φ ) ln l ln p( y ; µ, φ) n = = i= 1 K D P/ P! H W,S K'H4@(?

21 G1 G",% P/ =+,) n i= 1 n i= 1 ( y 1 ) i yi L( y; µ ) = ln µ (1 µ ) [ yi µ + yi µ ] = ln( ) (1 )ln(1 ) n µ = y i ln + ln(1 µ ) i= 1 1 µ log.ver mu. W 2- H2' ( Y = n i = 1 n y i + G", % P/ N/F $/Z *W! W,S K

22 QKG)G1 G",% P/ +,)". *3./0! -. & ) '*2 -(. "! ) ",.!)L-3L3L9 2 J - L- J L J L J9. L. N/F K/F i= 1 µ i ηi = ln 1 µ i n µ L y µ x x y i + µ i i= 1 1 µ i i ( ;, 1, 2,...) = ln ln(1 ) n ( ) i η e η = yiη i i + ln(1 + ) '/F ( $ +!. \W,S K

23 QKG)% # % ) ˆ β0, ˆ β ˆ ˆ ˆ 1, β2, β3,..., β p ˆ η = ˆ β + ˆ β X1 + ˆ β X2 + ˆ β X ˆ β Xp i 0 1 i 2 i 3 i p i %..+A* I B) = g 1 ˆi µ ˆi η ( ) +,)G! /F 3 $ ˆ µ i = g ( ˆ ηi ) = ˆ ηi = ( ˆ ˆ ˆ ˆ ˆ 1 e β0 + β1x1 i + β2x2 i + β3x3 i βpxp + i ) 1 + e

24 QKG)!"# Vários modelos podem ser ajustados a um mesmo conjunto de dados com observações de n indivíduos =G ) η = β i 0 =G ) η = β + β X1 + β X 2 + β X β Xn i 0 1 i 2 i 3 i n i = G " ) η = β + β X1 + β X β Xp, p < n i 0 1 i 2 i p i

25 QKG)!"# % D P/)L G 'M. ( G!,.! n = [ ˆ µ = φ ] L ln p( y ; y, ) S i i i i= 1 L n = [ p y ˆ µ φ ] ln ( ;, ) p i i i= 1!"# D = 2( L L ) p S p A deviance mede o valor do desvio entre o ajuste do modelo com p preditores e o modelo de ajuste perfeito.

26 QKG)!"#.!) [ ˆ = ] d = ln p( y ; µ y, φ ) ln p( y ; ˆ µ, φ) 2 i i i i n i i p D p n = 2 d i= 1 2 i Para o modelo de regressão linear, para o qual a função de ligação é a função identidade, n 2 p = ( i ˆi ) = SSRes i= 1 D y µ Assim, diz-se que a deviance é a generalização da soma de quadrados dos resíduos (SSRes) da regressão linear.

27 QKG)!"# No modelo de regressão linear, temos SSTotal - SSRes SSRes SSReg =1- = =R SSTotal SSTotal SSTotal 2 #! /F. W 1,.!. Com os GLM, podemos pensar em algo semelhante: D - D D = 1 D modelo nulo modelo com p explicativas modelo com p explicativas modelo nulo D modelo nulo #! /F. W1,.!.

28 QKG) "# = O. D P/ 'L S ( =O!... D P/'L p ( W L S = " $".W? %#!"# O φ 2 χn p OM3! 1.W? S 2( L ) S Lp Dp 2 = = φ p n p 1.C.F $/F * $/F > DW! (n-p) $ φ ~ χ

29 QKG) "# ] )/F D P/! ] - )/F D P/! # 6α!C!) > DW ^ =!. #.! '-Dα( WDW! (n-p) $ s χ 2 p n p; α 3F M] α

30 QKG)/F G = /F ".. "# = /F "#1 F!!? X SF % P/ Λ = Λ = LR = 2 2ln( LR) ~ χ p q S S ~ χ 2 q p p q l( y; ˆ µ, φ) l ( y ; ˆ µ, φ) p q G G

31 GLM : Seleção de Modelos ] ) /F " %!! ] - ) /F " %!! Λ = Λ = 2 2ln( LR) ~ χ p q S S ~ χ 2 q p p q > DW λ 2 χ 3MD] p q; α α_!c!

32 Artigo: Guisan and Hofer (2003) Predicting reptile distributions at the mesoscale: relation to climate and topography O$M )+,. "!.!. $/F 1. 6/ G1 )QKG. %" #./0! 1. &-` "!"!. "! O $/Z) 2 &

33 Artigo: Guisan and Hofer (2003). QKG) -. & ) Y ( ). "! ) 1, se espécie presente = 0, caso contrário Y ~ Binomial 1, µ Bernoulli( µ ) y 1 y P[ Y = y µ ] = µ (1 µ ), y = {0,1} E[ Y` µ ] = µ #!"! η = β + β VC1 + β VC2 + β VC3... C i 0 1 i 2 i 3 i #. "! N/F /F ) T η = β + β VC1 + β VC2 + β VC3... i 0 1 i 2 i 3 i µ i ηi = ln 1 µ i

34 Artigo: Guisan and Hofer (2003) +1 ) For each species, final models included only those terms, quadratic or linear, which satisfied two criteria: (i) to be significant at the ^confidence level from a chi-square test of deviance reduction (the deviance is similar to the variance in the case of ML methods), and Λ = S S ~ χ 2 1 p p 1!"# '.2-(!"# &! " '.2 ( α2 ^3MDP.& F!C! 2 /F 8 χ 1; α = 0.05

35 Artigo: Guisan and Hofer (2003) (ii) to explain at least -_ of the deviance (total). D > D modelo só com a variável modelo nulo

36 )Guisan and Hofer (2003)

37 Artigo: Guisan and Hofer (2003) # ˆ µ i = g ( ˆ ηi ) = ˆ ηi = ( ˆ ˆ ˆ ˆ ˆ 1 e β0 + β1x1 i + β2x2 i + β3x3 i βpxp + i ) 1 + e ˆµ 1. $$./.1! E/F. ). W ˆµ! W.F 1./.1!? ˆµ

38 Artigo: Guisan and Hofer (2003) #! 3 $!! #/. 0!. X #/ $ $ J$ 0! $!!J X J! $J ;2J$J!J kappa a + d 1 ( a + b)( a + c) ( b+ d)( c + d) + prop( acerto ) obs prop( acerto ) esp N N N N = = 1 prop( acerto ) esp 1 ( a + b)( a + c) ( b+ d)( c + d) 1 N + N N

39 )Guisan and Hofer (2003)

40 G QS 'QG(

41 G QS 'QG( O! g(µ).. 1 #!! F D3.. G QS 'QG(

42 G QS 'QG( O Q GF,F Q KG3 W. 1!! = f ( X1) f ( X 2) f ( X3)... η β f 1, f 2, f 3 39F a #a3. b $, /Z ff!. 1 F D.1!

43 G QS 'QG( G1 S/F ) j { Ni } = &' '()3 f ( X i ) = Ni 7; :1SP/. x i = G & = F & y j =%!5$! = F!.

44 QG),. '] TX$P3-VV( kyphosis.0ou probs ch.p ).P W..! kyphosis$age kyphosis$age *)./0! `H.P!/ kyphosis.0ou probs # ) kyphosis$number kyphosis$number =')'( Y.!! =() 1$ kyphosis.0ou probs =%) kyphosis$start kyphosis$start

45 logitos logitos logitos QG),. s(age, 2) kyphosis$age s(number, 2) kyphosis$number s(start, 2) kyphosis$start Age Number Start Call: gam(formula = Kyphosis ~ s(age, 2) + s(number, 2) + s(start,2), family = binomial, data = kyphosis, trace = TRUE) DF for Terms and Chi-squares for Nonparametric Effects AIC: Df Npar Df Npar Chisq P(Chi) (Intercept) 1 s(age, 2) s(number, 2) s(start, 2)

46 kyphosis$number kyphosis$number Q G),. ' M( kyphosis.0ou logitos kyphosis$age kyphosis$age kyphosis.0ou logitos kyphosis$start kyphosis$start kyphosis.0ou logitos

47 Um modelo só pode ser tão bom quanto os dados que o geraram.

48 0! =Q3T] d'(#!.$ P!)!..PH) *3()3 --8 = Q 33+ 3X T]3X'(Q S S.!$ )P!+## 3-3-^DV =]3XX$P3'-VV('" P. ] = G! P3#T;3R'-VV( P.T]3;* ` =;3RTU $3U G'-V(Q S 3 ),*%#%#*-%'*(+38

49 #,

50 QKG)6,.! = d $/F. $$.! Y 6,.! f(y;θ,), θ 1.C 3.!! O =/Z$'(!'(F! P!<3.! P! =[ '(1!! M WF..θ

51 QKG)6,.! G N y N y P[ Y y] exp ln (1 ) I A y y µ µ = = θ 1 N y N y P[ Y = y] = (1 ), A {0,1, 2,3,.., N} y µ µ = ( ) N = expln + y ln{ µ } + ( N y)ln{1 µ } I A( y) y µ N = expy ln + N ln{1 µ } + ln I A( y) 1 µ y yθ µ θ = ln 1 µ b(θ) c(y;) x ln 1 x 1#.#

52 QKG)6,.! =#.!) =+,) ( θ ) b( θ ) = N ln 1 + e e a( φ) = 1 θ e 1 b '( θ ) = N = N = Nµ θ θ 1+ e 1+ e b '( θ ) b '( θ ) b '( θ ) = N 1 = Nµ (1 µ ) N N

53 1 `` GW M AIC = 2 k ln( l) ( ) l 1 /F P/! k.c > AIC3P M