Estatística: Aplicação ao Sensoriamento Remoto SER ANO Análise de Regressão

Transcrição

1 Estatístca: Aplcação ao Sesorameto Remoto SER 4 - ANO 8 Aálse de Regressão Camlo Daleles Reó camlo@dp,pe,r

2 Relacoameto etre Varáves atrutos Em qualquer tpo de estudo, há sempre a ecessdade de se focar em um ou mas atrutos (característcas) dos elemetos que compõem esta população () atrutos quattatvos:. altura total. dâmetro da copa. dâmetro do troco (DAP). omassa. etc Estes atrutos costtuem as varáves em estudo. Quado adqurdas sore o mesmo dvíduo, estas varáves guardam alguma relação etre s?

3 Relacoameto etre Varáves Em mages ou mapas, o relacoameto aparece pela posção geográfca W Z Amostra W Z 3,5 8,9,45 43, 7,5 3,5,37 38,6 3 4,4,,6 4,7 4, 8,7,4 45,5 5 4,4 9,,97 43,7 6 4,7,3,7 4, 7 7, 7,, 4,5 8 3,6 6,8,59 45, mesma posção geográfca 9 9, 33,6, 39, 3, 5,9,86 45,3 Mutos estudos uscam eteder as relações de depedêca etre varáves de modo a costrur modelos que permtam prever o comportameto de uma varável cohecedo-se os valores de outra ou outras varáves 3

4 IV Bomassa Umdade 4 Relacoameto etre Varáves Por exemplo: Cosdere que um determado ídce de vegetação (IV) apreseta valores axos para vegetações com pequea omassa e apreseta valores altos para vegetações com grade omassa. Por outro lado, este mesmo ídce ão tem qualquer relação com a umdade superfcal do solo. IV IV Se oservarmos uma dmução do valor deste ídce de vegetação ao logo do tempo, o que podemos coclur quato a dâmca da omassa da vegetação e da umdade superfcal do solo deste lugar? tempo Quato à omassa, espera-se que teha havdo uma dmução Quato à umdade, ada podemos afrmar

5 Perímetro (P) Perímetro 5 Relação fucoal x Relação estatístca As varáves podem possur dos tpos de relações: ) Fucoal: a relação é expressa por uma fórmula matemátca: = f() Ex: relação etre o perímetro (P) e o lado de um quadrado (L) 5 5 P = 4 L y = 4x 3 4 Lado do Lado Quadrado do Quadrado (L) Todos os potos caem perfetamete sore a lha que represeta a relação fucoal etre L e P

6 Relação fucoal x Relação estatístca ) Estatístca: ão há uma relação perfeta como o caso da relação fucoal. As oservações em geral ão caem exatamete a lha que descreve a relação. Ex: relação etre trasparêca da água e a reflectâca a ada 3 TM5 Fote: Adaptado de Satos, F.C.; Perera Flho, W.; Toolo, G.R.. Trasparêca assocada à reflectâca da água do reservatóro Passo Real. I: VII SBSR, 5. p

7 7 Grau de Relacoameto Relação dreta ou postva Relação versa ou egatva Ausêca de relação Como caracterzar o grau de relacoameto (ou assocação) etre pares de varáves? Covarâca Coefcete de correlação

8 Covarâca Covarâca populacoal Covarâca amostral v.a. dscretas: N x y P( x ; y ) x y v.a. cotíuas: (, ) x y f x y dxdy x y s x y Cov(,) > Cov(,) = Cov(,) < e são depedetes! Quato maor a covarâca (em módulo), mas próxmos estarão os potos etoro da reta que represeta a tedêca prcpal da uvem de potos A defcêca da covarâca é que seu valor calculado depede dretamete das udades de medda, dfcultado a comparação etre covarâcas. 8

9 9 Coefcete de Correlação r =,9 r =,3 r = Coefcete de Correlação (de Pearso) mede o grau de relação lear etre e r Cov(, ) Var( ) Var( ) r r = -,9 r x y x y x y x y x x y y

10 Coefcete de Correlação Correlações etre característcas dedrométrcas da Caatga raslera e dados TM Ladsat 5 (Almeda et al., 4*) AB - área asal B a B7 adas do TM/Ladsat NDVI = (B4 B3)/(B4 + B3) SR = B4/B3 Sav =,5(B4 B3)/(B4 + B3 +,5) *Fote:

11 Coefcete de Correlação Correlações etre característcas dedrométrcas da Caatga raslera e dados TM Ladsat 5 (Almeda et al., 4*) AB - área asal B a B7 adas do TM/Ladsat NDVI = (B4 B3)/(B4 + B3) SR = B4/B3 Sav =,5(B4 B3)/(B4 + B3 +,5) O coefcete de correlação em sempre represeta em a relação etre varáves! *Fote:

12 Coefcete de Correlação Iterpretações errôeas do coefcete de correlação Um alto coefcete de correlação em sempre dca que a equação de regressão estmada está em ajustada aos dados.??? Poucos potos Grupos de potos Poto solado y y x x Relação quase lear Varáves cumulatvas

13 Coefcete de Correlação Iterpretações errôea do coefcete de correlação Um coefcete de correlação próxmo de zero em sempre dca que e ão são relacoadas. A Relação ão lear Mstura de grupos com relações dferetes B Amostragem ão represetatva 3

14 Aálse de Regressão método estatístco que utlza a relação etre duas ou mas varáves para que uma varável possa ser estmada (ou predta) a partr da outra ou das outras A exstêca de uma relação estatístca etre a varável depedete e a varável depedete ão mplca que realmete depeda de, ou que exsta uma relação de causa-efeto etre e. Fote: Adaptado de Satos, F.C.; Perera Flho, W.; Toolo, G.R.. Trasparêca assocada à reflectâca da água do reservatóro Passo Real. I: VII SBSR, 5. p Neter, J, et al, Appled Lear Statstcal Models, McGraw Hll, 996 4

15 Aálse de Regressão Para que serve uma aálse de regressão? Ecotrar as varáves mas relevates que se relacoam com a varável depedete () Ecotrar a fução que descreve como uma ou mas varáves se relacoam com a varável depedete () e estmar os parâmetros que defem esta fução (equação ajustada) Usar a equação ajustada para prever valores da varável depedete () Regressão Lear Smples E Var Cov, k j k j erros depedetes = + + compoete aleatóro (erro ou resíduo) varável depedete (valores fxos cohecdos) varável depedete (varável resposta) 5

16 6 Modelo de Regressão Lear Smples E( ) = + A reta represeta o valor médo da varável depedete () para todos os íves da varável depedete ()

17 Modelo de Regressão Lear Smples E( ) = + = ta() Itercepto populacoal Iclação populacoal represeta o valor de E( ) quado = é o coefcete agular da reta e represeta o aumeto em E( ) quado é cremetado em uma udade 7

18 Estmação dos parâmetros e Em geral ão se cohece os valores de, e Eles podem ser estmados através de dados otdos por amostras O método utlzado a estmação dos parâmetros é o método dos mímos quadrados, o qual cosdera os desvos quadrátcos dos em relação a seu valor esperado: = E( ) = ( + ) Em partcular, o método dos mímos quadrados requer que cosderemos a soma de desvos quadrados, deotado por Q: [ ] Q De acordo com o método dos mímos quadrados, os estmadores de e são aqueles, deotados por e, que toram mímo o valor de Q. Isso é feto dervado-se Q em relação a e e gualado-se as expressões ecotradas a zero. 8

19 Estmação dos parâmetros e e ˆ (reta de regressão estmada) ( )( ( ) ) e são v.a. (ão depedetes!) e portato varam de amostra para amostra E( E( ) ) e ˆ (resíduo amostral) 9

20 Soma dos quadrados dos erros ou resíduos (SQE): e SQE ) ( ) ˆ ( Estmação da Varâca do Erro ( ) ] E[ QME Pode ser demostrado que Portato, o estmador de, deomado de Quadrado Médo do Erro ou Resíduo (QME), é dado pela razão etre a SQE e : A soma dos quadrados dos erros tem graus de lerdade, pos graus de lerdade foram perddos por estmar e. A varâca dos erros, deotada por, é um parâmetro do modelo de regressão, e ecessta ser estmada através dos desvos quadrátcos de em toro de sua própra méda estmada. ˆ ) ( ) ˆ ( ˆ SQE QME

21 Iferêca em Aálse de Regressão Cosdere o modelo: = + + ~ N(, ) e Cov( j, k ) = E( ) = +

22 Teste de Hpótese para ˆ? =? E( ) =? t s( ) s ( ) ~ Regão Crítca: t QME ( ) aceto H se t crít < t < t crít rejeto H caso cotráro H H,4,, :,8 :,6 se H,4 verdadera: t, t ~ s( 5 5 ) t -t crít t crít P( t crít < t < t crít ) = - P( t > t crít ) = - + rej. H ac. H rej. H OBS: se H for aceta, etão a regressão ão é sgfcatva e, portato, ão há relação etre as varáves e ( e podem ser cosderadas depedetes).

23 Teste de Hpótese para ˆ =? E( ) =? s t s( ) ~ ( ) QME Regão Crítca: t ( ) aceto H se t crít < t < t crít rejeto H caso cotráro? H H,4,, : :,8,6 se H,4 verdadera: t, ~ t 5 5 s( ) -t crít t crít P( t crít < t < t crít ) = - P( t > t crít ) = - + OBS: se H for aceta, etão a reta de regressão passa pela orgem. Isso ão tem qualquer relação com a exstêca ou ão de relação etre e. Mutas vezes este teste é rrelevate (especalmete quado = ão tem sgfcado prátco) rej. H t ac. H rej. H 3

24 Iferêcas para E( h ) Cosderado um determado valor de h, quas as certezas relacoadas às estmatvas de E( h )? ˆ Se e são varáves aleatóras, etão eles podem varar de amostra para amostra... 4

25 Iferêcas para E( h ) ˆ h h QME s ) ( ) ( ) ˆ ( ~ ) ˆ ( ) E( ˆ h h h t s Cosderado um determado valor de h, quas as certezas relacoadas às estmatvas de E( h )? h E h Iterpretação: quato mas dstate estver de, maores serão as certezas as estmatvas de Por sso, extrapolações para faxa de valores de extremos ou ão oservados devem ser evtados! 5

26 ˆ ˆ ˆ Partcoameto do Erro ) ˆ ( ) ˆ ( ) ( SQTO = SQReg + SQE ˆ 6

27 ANOVA x Aálse de Regressão Causas da Varação Soma de Quadrados Graus de Lerdade Quadrados Médos Regressão ( ˆ ) Resíduo ( ˆ ) - Total ( ) - ( ˆ ) ( ˆ ) E QMReg E QME H H : : Regão Crítca: se H verdadera: F QMReg QME ~ F, aceto H se F < F crít P(F < F crít ) = - rejeto H caso cotráro P(F > F crít ) = F, F crít + ac. H rej. H OBS: se H for aceta, etão a regressão ão é sgfcatva e, portato, ão há relação etre as varáves e ( e podem ser cosderadas depedetes). 7

28 Coefcete de Determação SQReg r SQTO SQTO - SQE SQE SQTO SQTO r Iterpretação: r mede a fração da varação total de explcada pela regressão e por sso pode ser represetada em porcetagem OBS: o coefcete de determação equvale ao quadrado do coefcete de correlação para regressões leares smples Ateção: Regressão passado pela orgem ( = ) ˆ y =,.x r R,886 = = + s ( ) QME r SQE/SQTO (r pode ser egatvo!) r SQE/SQTO* SQE SQTO* 8

29 Aálse de Regressão o ECEL,,9 3,5 4 4,3 5 6, 6 6,3 7 7,8 8 7, 9 9, RESUMO DOS RESULTADOS Estatístca de regressão R múltplo,9745 R-Quadrado,9496 R-quadrado ajustado,944 Erro padrão,6735 Oservações 9 ANOVA s ˆ =,9983 +,36 r,9496 R =, F de gl SQ MQ F sgfcação Regressão 59,8 59,8 s 3,867 8,55E-6 Resíduo 7 3,754,4536 Total 8 6,9756 valor-p Coefcetes Erro padrão Stat t valor-p 95% ferores 95% superores Iterseção,36,4893,668,7973 -,65,876,9983,87,486 8,55E-6,797,39 OBS: Para regressão lear smples: teste F é equvalete ao teste t lateral para 9

30 Aálse de Regressão o R,,9 3,5 4 4,3 5 6, 6 6,3 7 7,8 8 7, 9 9, >x <- c(,,3,4,5,6,7,8,9) >y <- c(.,.9,.5,4.3,6.,6.3,7.8,7,9.) >reg <- lm(y ~ x) >ypred <- predct(reg) >plot(x, y, xlm = c(,9), ylm = c(,)) >ale(reg) >summary(reg) >aova(reg) Call: lm(formula = y ~ x) Resduals: M Q Meda 3Q Max Coeffcets: Estmate Std. Error t value Pr(> t ) (Itercept) x e-6 *** --- Sgf. codes: ***. **. *.5.. Resdual stadard error:.6735 o 7 degrees of freedom Multple R-squared:.9496, radjusted R-squared:.944 F-statstc: 3.8 o ad 7 DF, p-value: 8.547e-6 s Aalyss of Varace Tale Respose: y Df Sum Sq Mea Sq F value Pr(>F) x e-6*** Resduals s --- Sgf. codes: ***. **. *.5.. valor-p 3

31 Modelos Learzáves Modelo Padrão: = + + expoecal e l l l potecal ~ N(, ) l l l l logartmo potêca verso 3

32 Resíduos Aálse de Resíduos 8 ˆ =,9983 +,36 R R,9496 =, Resíduo = e ˆ 3

33 Resíduos Padrozado Resíduos Padrozados Aálse de Resíduos 8 ˆ =,9983 +,36 R R,9496 =, Resíduo Padrozado = e / QME 33

34 Resíduos Padrozados Resíduos Padrozados Resíduos Padrozados Resíduos Padrozados Resíduos Padrozados Resíduos Padrozados Resíduos Padrozados Aálse de Resíduos. deal. ão costate. ão leardade outler ão depedêca tempo 34

35 Modelo de Regressão Lear Múltpla Modelo Geral,, p p,,,,, p,,,,, p,,,, são parâmetros do modelo (p parâmetros o total) são valores fxos cohecdos são erros depedetes ~ N(, ) Fazedo, =, podemos reescrever o modelo como,,, p k k k, p p, 35

36 Casos Especas Regressão Polomal Cosdere um modelo de regressão de 3 o grau com uma varável depedete: 3 3 Se cosderarmos, e etão,, 3, 3, 3 3,, Importate: o modelo geral de regressão lear ão é restrto às superfíces plaas. O termo lear refere-se ao fato de que ele é lear os parâmetros, ão a forma da superfíce. Efeto de Iteração Cosdere um modelo de regressão com duas varáves depedetes:,, 3,, Se cosderarmos etão,,, 3, 3 3,, 36

37 Modelo de Regressão Lear Múltpla Exemplo: duas varáves depedetes,, 37

38 Modelo de Regressão Lear Múltpla Exemplo: duas varáves depedetes com teração,, 3,, (cosderado = ) (cosderado = ) 38

39 p p p,,,,,,,,, ξ p p β Notação Matrcal Modelo Geral ξ β p p ˆ e ˆ 39

40 ANOVA x Aálse de Regressão Causas da Varação Soma de Quadrados Graus de Lerdade Quadrados Médos, p p, Regressão SSTO SSE p - Resíduo - p ( Total ) - SQReg p SSE p E QMReg E QME H H : k k,..., p : pelo meos um dos k F se H verdadera: QMReg QME Regão Crítca: aceto H se F < F crít P(F < F crít ) = - rejeto H caso cotráro P(F > F crít ) = ~ F p, p Fp, p F crít + ac. H rej. H 4

41 Coefcete de Determação Múltplo SQTO = SQReg + SQE SQReg r Ateção: r é fortemete fluecado pelo úmero de parâmetros SQTO cosderados o modelo. SQE Quato maor o úmero de parâmetros (p ), melhor o ajuste e portato maor o r SQTO. Quado p =, o ajuste é perfeto!!! Modelo Lear Polomal Smples de 5 o grau 4

42 Coefcete de Determação Múltplo SQTO = SQReg + SQE SQReg r Ateção: r é fortemete fluecado pelo úmero de parâmetros SQTO cosderados o modelo. SQE Quato maor o úmero de parâmetros (p ), melhor o ajuste e portato maor o r SQTO. Quado p =, o ajuste é perfeto!!! r a p SQE SQTO Coefcete de Determação Ajustado Este coefcete pode até dmur se as varáves acrescetadas ao modelo ão represetarem cotruções mportates. 4

43 , E p k j j j j Teste de Hpótese para k,,4,6,8,,, p t p k k k t s t ~ ) ( : H : H k k p k k t s t ~ ) ( se H verdadera: t crít -t crít Regão Crítca: aceto H se t crít < t < t crít P( t crít < t < t crít ) = - rejeto H caso cotráro P( t > t crít ) = ac, H rej, H rej, H QME,,,,,, p p p p p s s s s s s s s s s () 43 OBS: se H for aceta, etão k = e, portato, a varável k ão se relacoa sgfcatvamete com (cosderado que todas as demas varáves depedetes estejam presetes o modelo).

44 Elmado-se varáves depedetes 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, ANOVA gl SQ MQ F valor-p Regressão ,57 338,64 587,45,78E-6 Resíduo 5 59,7 3,98 Total 9 944,8 Coefcetes Erro padrão Stat t valor-p Iterseção 64,4359 4,844 3,367,4E-9 -,9,38 -,698,5 -,474,6-9,5575,4E-4 3,659,553,73,74 4 -,75,5-4,887, altamete sgfcatvo ão sgfcatvos a 5% Ateção: ão se pode cosderar que todos os k, cujas estatístcas t são ão sgfcatvas, sejam smultaeamete guas a zero! Este prolema pode ocorrer quado as varáves depedetes são correlacoadas (prolema de coleardade) 44

45 Teste de Hpótese para múltplos k Cosdere um modelo completo dado por:, 4 4 3, 3,, : H : H 3 3 e/ou, 4 4, Se H for verdadero etão, o modelo é reduzdo para: Supoha que se quera testar as hpóteses Neste caso: p p C R C C R R F C p SQE p SQE SQE F, ~ ode p C-R é o úmero de parâmetros testados em H, ou seja, o úmero de parâmetros ausetes o modelo reduzdo p r p r r F C R C R C 45

46 Teste de Hpótese para múltplos k 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, ANOVA gl SQ MQ F valor-p Regressão ,57 338,64 587,45,78E-6 Resíduo 5 59,7 3,98 Total 9 944,8, 4 4, ANOVA gl SQ MQ F valor-p Regressão 368,9 584,46 4,3,36 Resíduo 7 645,37 367,37 Total 9 944,8 SQER SQEC SQEC F p p CR ~ F,5 645,37 59, 7 59, 7 F 776, Valor-P Coclusão: os modelos completo e reduzdo são dferetes e portato ão se deve retrar as duas varáves de uma só vez! 46

47 Elmado-se varáves depedetes 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, ANOVA gl SQ MQ F valor-p Regressão ,57 338,64 587,45,78E-6 Resíduo 5 59,7 3,98 Total 9 944,8 Coefcetes Erro padrão Stat t valor-p Iterseção 64,4359 4,844 3,367,4E-9 -,9,38 -,698,5 -,474,6-9,5575,4E-4 3,659,553,73,74 4 -,75,5-4,887, e 3 são coleares! 47

48 Coleardade 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, A detecção da coleardade em sempre é fácl e em geral recorre-se à aálse do fator de flação da varâca (VIF Varace Iflato Factor): VIF k = r k ode r k é o coefcete de determação otdo da regressão etre k e as demas varáves depedetes. Se VIF k > etão k têm forte coleardade Por exemplo:, = a + a, + a 3 3, + a 4 4,, = 4,4,3, +,5 3, +,9 4, r =,9994 VIF = 66,4 48

49 Aálse da Coleardade o R 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, > <- c(.7,...,89.9) > <- c(6.9,...,.9) > <- c(74.56,...,53.56) > 3 <- c(6.69,...,39.89) > 4 <- c(364.6,...,86.3) > reg <- lm(~++3+4) > VIF(reg) Neste caso, elma-se a varável que apreseta o maor VIF e repete-se a aálse 49

50 Elmado-se varáves depedetes 3 4,7 6,9 74,56 6,69 364,6 6,34 75, 9,4 7,43 39,68 6,76 5, 6,7 75,4 59,57 6,83 47,75,5 66,58 47,, 45,83 48,78 58,84 5, 3,43 6,9 3,4 99,85 37,56 4,75 73,34 97,8 7,3 85,6 9,96 79,87 9,83 6, 695,3 3,3 3,55 39,4 35, 8,3 33,5 63,68 4, 94,77 884,83 38, 93,5 98,44 5,9 9,9 38,4,57 99,38 95,38 6,36 4,63 93,8 88,63 59,74 338,8 46,5 96,54 4,37 363,8 58,84 47,98 84,33 8,83 334,6 764,8 54,58 9,84 7,83 4,97 79,9 58, 63,,36 95,87 66,3 66,7 55,43 84,4 84,87 5,34 86,7 73,9 9, 54,3 6, 89,9,9 53,56 39,89 86,3,, 3 3, 4 4, ANOVA gl SQ MQ F valor-p Regressão ,57 338,64 587,45,78E-6 Resíduo 5 59,7 3,98 Total 9 944,8 Coefcetes Erro padrão Stat t valor-p Iterseção 64,4359 4,844 3,367,4E-9 -,9,38 -,698,5 -,474,6-9,5575,4E-4 3,659,553,73,74 4 -,75,5-4,887, Outra maera é elmar-se prmeramete a varável que apreseta o maor valor-p. 5

51 Teste de Hpótese para k 3 4,7 6,9 74,56,6 6,34 75, 9,4 95,65 6,76 5, 6,7 8,3 6,83 47,75,5,, 45,83 48,78 7,4 3,43 6,9 3,4 9,34 4,75 73,34 97,8 8,46 9,96 79,87 9,83,78 3,3 3,55 39,4 97,7 33,5 63,68 4, 7,3 38, 93,5 98,44 9,67 38,4,57 99,38,3 4,63 93,8 88,63,4 46,5 96,54 4,37 7,76 47,98 84,33 8,83 7,3 54,58 9,84 7,83 8,53 58, 63,,36 94,8 66,7 55,43 84,4 86,39 86,7 73,9 9, 98, 89,9,9 53,56 3,78 ˆ,97 6,8 8,58 6,6 3,,5 7,9 3,6 6,5 34,64 36,76 36,44 4,3 48,7 47,57 54,49 55, 66,43 86,67 89,9, 3 3, 4 4, ANOVA gl SQ MQ F valor-p Regressão 3 935,67 37,56 89,56,E-7 Resíduo 6 6,6 3,85 Total 9 944,8 Coefcetes Erro padrão Stat t valor-p Iterseção 6,4478,48 8,73 3,44E-5 -,4734,57-3,637,66E-5 3,587,4 4,6,8E-7 4 -,77,5-5,698 9,3E-5 todos sgfcatvos a 5% Coefcete de correlação múltplo r = r r =,9964 (evte usar este ídce!) 5

52 Comparado fuções de regressão Mutas vezes deseja-se saer se dos cojutos amostras adqurdos em duas regões dsttas resultam a mesma fução de regressão, ou seja, se e se relacoam da mesma forma as duas regões. =? =? =? Para testar esta hpótese, é possível gerar uma úca regressão usado uma varável dcadora (dummy) a fm de detfcar a orgem de cada poto amostral. Vamos aalsar exemplos a segur. 5

53 Exemplo 8 Regão A Regão B,4,75 4,7,9 7,69,47 8,9,53 7,48 4,39 6,3 3,9 3,65 6,9 3,8 5,3 39,46 7,38 34,33 6,97 39,73 8,47 35,93 8, 48,76 9,94 44,53 9,53 53,3,4 48,57,8 6,7,95 53,37,36 65,65 4,75 58, 3,64 63, 4,3 64,67 4, = 3, ,7733 r² =,9948 = 4,93 + 3,396 r² =,9967 A A A A A B B B B B Para que amas regressões sejam a mesma: A = B e A = B 53

54 Exemplo,4,75 7,69,47 7,48 4,39 3,65 6,9 39,46 7,38 39,73 8,47 48,76 9,94 53,3,4 6,7,95 65,65 4,75 4,7,9 8,9,53 6,3 3,9 3,8 5,3 34,33 6,97 35,93 8, 44,53 9,53 48,57,8 53,37,36 58, 3,64 63, 4,3 64,67 4,96 W W,9,53 3,9 5,3 6,97 8, 9,53,8,36 3,64 4,3 4,96 Defe-se uma ova varável W: W se pertecer a Regão A se pertecer a Regão B W 3 Para Regão A (W = ): Para Regão B (W = ): W 3 54

55 Exemplo,4,75 7,69,47 7,48 4,39 3,65 6,9 39,46 7,38 39,73 8,47 48,76 9,94 53,3,4 6,7,95 65,65 4,75 4,7,9 8,9,53 6,3 3,9 3,8 5,3 34,33 6,97 35,93 8, 44,53 9,53 48,57,8 53,37,36 58, 3,64 63, 4,3 64,67 4,96 W W,9,53 3,9 5,3 6,97 8, 9,53,8,36 3,64 4,3 4,96 W 3 W Coclusões possíves: Se = 3 =, etão amas regões possuem a mesma regressão Se, etão as regressões dferem-se etre s pelo tercepto Se 3, etão as regressões dferem-se etre s pelo coefcete agular 55

56 Exemplo,4,75 7,69,47 7,48 4,39 3,65 6,9 39,46 7,38 39,73 8,47 48,76 9,94 53,3,4 6,7,95 65,65 4,75 4,7,9 8,9,53 6,3 3,9 3,8 5,3 34,33 6,97 35,93 8, 44,53 9,53 48,57,8 53,37,36 58, 3,64 63, 4,3 64,67 4,96 W W,9,53 3,9 5,3 6,97 8, 9,53,8,36 3,64 4,3 4,96 W 3 W ANOVA gl SQ MQ F valor-p Regressão 3 769,9 564, 499,97 8,9E- Resíduo 8 3,77,7 Total 773,6 Coefcetes Erro padrão t valor-p Iterseção 8,77,86,7 6,86E-9 3,94, 4,84 3,36E-9 W -5,38,4-4,7, W,7,,36,95 ão sgfcatvo ( 3 = ) altamete sgfcatvo Elma-se o termo 3 W e refaz-se a aálse... 56

57 Exemplo,4,75 7,69,47 7,48 4,39 3,65 6,9 39,46 7,38 39,73 8,47 48,76 9,94 53,3,4 6,7,95 65,65 4,75 4,7,9 8,9,53 6,3 3,9 3,8 5,3 34,33 6,97 35,93 8, 44,53 9,53 48,57,8 53,37,36 58, 3,64 63, 4,3 64,67 4,96 W W ANOVA gl SQ MQ F valor-p Regressão 7689,4 3844,57 53,57 4,3E-3 Resíduo 9 33,9,79 Total 773,6 Erro Coefcetes padrão t valor-p Iterseção 7,97,64,4,46E- 4,4,6 65,56 7,44E-4 W -4,3,57-7,3,9E-6 Coclusão: a 5% de sgfcâca, as regressões de amas regões possuem o mesmo coefcete agular. Elas dferem-se apeas pelo tercepto. Em méda, a regão B produz estmatvas para meores que a regão A em 4,3 udades. 57

58 Exemplo Alvo A Alvo B 3,96 7,6 53,79 4,97,94 6,3 35,7 8,9 5,8 3,84 47,79 4,9 45,7,7 46,67,94 44,7 3,35 35,3,5 35,6,65 47,4 4, 33,3 7,88 4,93 5,64 34,54 9,7 7,98 7,8 4,64,68 8,5 6,6 34,3,65 3,47 8,34 a relação parece ser mesmo lear!

59 Exemplo W W 3,96 7,6,94 6,3 5,8 3,84 45,7,7 44,7 3,35 35,6,65 33,3 7,88 34,54 9,7 4,64,68 34,3,65 53,79 4,97 4,97 35,7 8,9 8,9 47,79 4,9 4,9 46,67,94,94 35,3,5,5 47,4 4, 4, 4,93 5,64 5,64 7,98 7,8 7,8 8,5 6,6 6,6 3,47 8,34 8,34 W se pertecer ao Alvo A se pertecer ao Alvo B W 3 W ANOVA gl SQ MQ F Valor-P Regressão 3 4,54 473,5 57,56 8,59E-9 Resíduo 6 3,63 8,3 Total 9 55,7 Coefcetes Erro padrão Stat t valor-p Iterseção 5,53 4,,38,86 3,7,38 8,4 4,4E-7 W,68 5,,53,6 W -,7,47 -,35,79 elma-se o com maor valor-p

60 Exemplo W 3,96 7,6,94 6,3 5,8 3,84 45,7,7 44,7 3,35 35,6,65 33,3 7,88 34,54 9,7 4,64,68 34,3,65 53,79 4,97 35,7 8,9 47,79 4,9 46,67,94 35,3,5 47,4 4, 4,93 5,64 7,98 7,8 8,5 6,6 3,47 8,34 W se pertecer ao Alvo A se pertecer ao Alvo B W ANOVA gl SQ MQ F Valor-P Regressão 49,5 79,76 9,96 8,3E- Resíduo 7 3,65 7,8 Total 9 55,7 Coefcetes Erro padrão Stat t valor-p Iterseção 6,64,44,7,5,96, 3,48,66E- W,97,5,77,449 elma-se tamém

61 Exemplo 3,96 7,6,94 6,3 5,8 3,84 45,7,7 44,7 3,35 35,6,65 33,3 7,88 34,54 9,7 4,64,68 34,3,65 53,79 4,97 35,7 8,9 47,79 4,9 46,67,94 35,3,5 47,4 4, 4,93 5,64 7,98 7,8 8,5 6,6 3,47 8,34 ANOVA gl SQ MQ F Valor-P Regressão 44,85 44,85 85,45 6,4E- Resíduo 8 37,33 7,63 Total 9 55,7 Coefcetes Erro padrão Stat t valor-p Iterseção 7,7,3 3,9,63,96, 3,6 6,4E- Coclusão: a 5% de sgfcâca, amas regões possuem o mesmo modelo de regressão Vatagem: maor amostra! 6

62 Regressão Padrozada Mutas vezes, o coefcete k pode ser utlzado como uma medda do poder da varável depedete k em explcar a varável depedete. ˆ,5, 4 5,9 Por exemplo:,, Oserve que a varação em udade de gera uma mudaça em 5,9 udades em, ao passo que a mesma varação em gera uma mudaça de apeas,4. Assm, cocluse que a varável é mas mportate para do que. Será mesmo? Isso é verdade quado todas as varáves depedetes possuem a mesma udade de medda e quado possuem varâcas smlares. No exemplo ateror, se as udades das varáves do modelo fossem: em mm, em to/ha e em o C, quas as udades de e? mm.ha/to mm/ o C Como comparar estes parâmetros? 6

63 Regressão Padrozada Para oter um modelo cujos coefcetes sejam admesoas, deve-se padrozar cada uma das varáves depedete e depedetes, ou seja: p p,,, ˆ s k k k k s,, Nesse caso, a reta de regressão estmada tora-se Estes coefcetes podem etão ser comparados etre s. Em mutos pacotes estatístcos, estes coefcetes são cohecdos como coefcetes eta 63 p p,,, ˆ k k s s k

64 Costrução do Modelo Em geral, o ojetvo de um estudo de regressão é determar quas varáves depedetes dspoíves melhor explcam ou predzem a varável em estudo. Nesse caso, deve-se uscar o melhor modelo que represete a relação etre as varáves, ou seja, aquele que melhor se ajuste aos dados aalsados. Dcas: quato mas smples o modelo, melhor. dê preferêca por modelos leares (ou learzáves). utlze cohecmetos prévos para escolha do modelo, costrudo prmeramete um modelo cocetual ou aalse modelos utlzados em traalhos semelhates. evte métodos automátcos que procuram o melhor modelo ajustado: lear, polomal, logarítmco, expoecal, potecal e outros ão leares. A escolha do tpo de modelo deve ser fudametada em cohecmetos prévos ou aseada em dagramas de dspersão. após a estmação dos parâmetros, faça a aálse dos resíduos para detectar quasquer aomalas (outlers, ão ormaldade, ão costâca da varâca, etc) e tete mmzá-las. 64

65 Seleção de Varáves Quado se traalha com um grade úmero de varáves depedetes, mutas vezes o processo de escolha de quas deverão compor o modelo fal é astate dfcultado, especalmete quado há coleardade etre estas varáves. De modo geral, o prmero passo é verfcar se a relação etre a varável depedete e cada uma das varáves depedetes possu uma relação lear. No caso da relação ão ser lear, procura-se trasformações de modo a learzá-la. log 5,3, -,67 55,78,53 -,8 6,5,55,9 6,66,69,43 66,3 4,53,66 67,6 7,5,85 7,69,4,35 75,59 43,4,64 77,7 55,43,74 8, 6,3,7 88,78 964,3,98 9,3 7,6 3,33 log, 65

66 Seleção de Varáves Quado se traalha com um grade úmero de varáves depedetes, mutas vezes o processo de escolha de quas deverão compor o modelo fal é astate dfcultado, especalmete quado há coleardade etre estas varáves. De modo geral, o prmero passo é verfcar se a relação etre a varável depedete e cada uma das varáves depedetes possu uma relação lear. No caso da relação ão ser lear, procura-se trasformações de modo a learzá-la. 36,5,3 6,9 6,7 6,3 65,69 7, 4,5 6,5 89, 34,7 4,9 9,8 43,8 98,44 94, 5, 6, 95, 59, 354,64 83,3 66,9 4475,6 8,8 74, 555,64 56, 85, 759,4 43,8 9,7 848,89 7,9 98,6 97,96,, 66

67 Seleção de Varáves Uma vez garatdo que todas as relações etre a varável depedete e cada uma das depedetes é aproxmadamete lear, pode-se car o processo de seleção. A seleção pode ser feta maualmete, detfcado-se a varável depedete com maor poder de explcação (maor r ou meor valor-p) e em seguda, acresceta-se uma a uma, cada varável depedete, testado-se a sgfcâca de cada varável depedete adcoada. maor r meor valor-p sgfcatvo (< 5%) 4 3 ehum valor-p sgfcatvo Modelo Fal: = β +β, +β 4 4, + Este processo ão garate que o modelo fal seja o melhor detre todos os possíves modelos. Esta seleção pode ser otmzada através de processos automátcos de usca. Os mas comus são: usca exaustva e stepwse. 67

68 Seleção de Varáves Busca Exaustva Na usca exaustva, escolhe-se o melhor modelo smples ( varável depedete) e depos o melhor modelo com varáves (todos os pares são testados) e depos o modelo com 3 varáves (todas as trplas são testadas), até que o modelo completo seja ajustado. Avala-se os modelos otdos (do mas smples ao mas completo) de forma a garatr que o acréscmo de varáves depedetes traga gahos sgfcatvos Total de modelos: 5 = 5 = 3 Este método é muto oeroso e vável quado se traalha com mutas varáves depedetes. Se fossem varáves, haveram 4 modelos a serem testados! 68

69 Seleção de Varáves - Stepwse Há três maeras de se aplcar o método stepwse ( passo a passo ): crescete (forward), decrescete (ackward) ou amos (oth) No modo forward, o modelo é calzado com apeas uma varável depedete e, a cada passo, adcoa-se uma ova varável depedete, testado-se o gaho o poder explcatvo do ovo modelo. No modo ackward, ca-se o modelo com todas as varáves depedetes e, a cada passo, retra-se uma das varáves do modelo, testado-se a perda o poder explcatvo do ovo modelo reduzdo. No modo oth, a cada passo testa-se a retrada e etrada de cada varável depedete. O teste utlzado para medr o gaho ou a perda do poder explcatvo pode varar mas, em geral, utlza-se o teste F para comparar os modelos completo e reduzdo, ou o teste t quado apeas um parâmetro é adcoado ou retrado. Pode-se tamém utlzar o ídce AIC (Akake s Iformato Crtero): AIC p log( SQE/ ) Oserve que este ídce é uma comação etre uma medda de ajuste (SQE) e uma medda de smplcdade do modelo (dado pelo úmero de parâmetros p). Quato meor for o valor AIC, melhor o modelo. 69

70 Exemplo ## Etrada dos dados dados <- read.csv("regrdata.dat", header = TRUE, sep="\t", dec = ".", a.strgs = NA) ## Plotado gráfcos de dspersão e correlações upael <- fucto(x, y,...) { par(usr = c(,,, )) text(.5,.5, format(cor(x, y), dgts=), cex =.5) } plot(dados,upper.pael=upael) Qual são as melhores varáves que explcam? Se avalarmos apeas a correlação:, 3 e 5 Mas todas as relações das varáves depedetes com a são leares? 7

71 Exemplo plot(~,data=dados) plot(~,data=dados) plot(~3,data=dados) plot(~4,data=dados) plot(~5,data=dados) 7

72 Exemplo plot(~3,data=dados) #learzado a varável 3 dados$3 <- log(dados$3) ames(dados)[4]<-"log3" plot(dados,upper.pael=pael.cor) plot(~log(3),data=dados) 7

73 Exemplo Aplcado-se o Stepwse... lrary(mass) reg<-lm( ~ + + log , data=dados) regsel<-stepaic(reg,drecto="oth") Start: AIC=5.36 ~ + + log Df Sum of Sq RSS AIC <oe> log dmu AIC Step: AIC=3.87 ~ + + log3 + 4 Df Sum of Sq RSS AIC <oe> log Step: AIC=.84 ~ + log3 + 4 Df Sum of Sq RSS AIC <oe> log modelo fal dmu AIC 73

74 Exemplo Resumo do modelo selecoado: summary(regsel) Call: lm(formula = ~ + log3 + 4, data = dados) Resduals: M Q Meda 3Q Max Coeffcets: Estmate Std. Error t value Pr(> t ) (Itercept) < e-6 *** e- *** log e-3 *** e-6 *** --- Sgf. codes: ***. **. *.5.. Resdual stadard error: o 36 degrees of freedom Multple R-squared:.8683, Adjusted R-squared:.8573 F-statstc: 79. o 3 ad 36 DF, p-value: 6.53e-6 74

75 Exemplo Avalado a qualdade do modelo selecoado shapro.test(regsel$resduals) Shapro-Wlk ormalty test data: regsel$resduals W =.96599, p-value =.668 resíduos são ormalmete dstruídos erropadr <- (summary(regsel))$sgma plot(dados$,regsel$resduals/erropadr,xla="",yla="stadard error") Aparetemete ehum outler ( erro padrozado >,5) Valores de meores que 9 e maores que 5 foram pouco amostrados! 75

76 Exemplo Avalado a qualdade do modelo selecoado plot(dados$,regsel$resduals/erropadr,xla="",yla="stadard error") plot(dados$log3,regsel$resduals/erropadr,xla="log3",yla="stadard error") plot(dados$4,regsel$resduals/erropadr,xla="4",yla="stadard error") #7 #9 #6 #34 76

77 Exemplo Procura exaustva... lrary(leaps) leaps<-regsusets( ~ + + log ,data=dados,est=6) plot(leaps,scale="adjr") OBS: Não avala a sgfcâca dos coefcetes dos modelos! 77