Modelos de regressão linear simples: Capítulo 9 - Introdução à regressão linear simples. + β Modelos de regressão. Y = β 0.

Transcrição

1 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Capítulo 9 - Itrodução à rgrssão liar simpls 9. Modlos d rgrssão Modlos d rgrssão liar simpls: ou E( Y ) β 0 Y β 0 + ε São modlos utilizados para comprdr a rlação tr uma variávl dpdt (Y) uma ou mais variávis idpdts (X ou X, X, ) Emplos: od Y - variávl alatória - valors fios (mdiçõs sm rro ou com rro dsprzávl) ε - variávl alatória tal qu E( ε) 0 ) Y - prssão atmosfrica (variávl dpdt ou rsposta) - altitud (variávl idpdt ou plicativa) Modlo dtrmiístico: Y β 0 ) Y - prssão atmosfrica - altitud - tmpratura Modlo d rgrssão liar múltipla (ão faz part do programa): Y β 0 + β + ε Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 O trmo liar rfr-s a liaridad os parâmtros (β 0, β, tc.), assim, os modlos da msma forma qu os atriors mas od m vz d y figuram fuçõs dstas variávis tambm são cosidrados modlos d rgrssão liar. Por mplo ou logy β 0 log + ε Y β 0 + ε Um problma d rgrssão liar simpls comça pla rcolha d uma amostra d pars d potos (, ), i,, O primiro passo smpr a rprstação gráfica dsts potos (podmos vrificar aqui s a rlação tr y parc sr bm modlada por uma rcta ou s há cssidad d alguma trasformação): y Modlo Y β 0 + ε parc adquado y Modlo Y β 0 + ε ão parc adquado 3 4

2 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Por vzs há cosidraçõs d aturza tórica qu ajudam a formular o modlo. Emplo: Para a maioria dos matriais utilizados m costrução para dtrmiada gama d valors d tsão, assum-s toricamt um comportamto lástico liar. Sigifica qu s cosidra válida a rlação Etsão Tsão/E m qu E (N/mm ) o módulo d lasticidad do matrial. Vários provts d "Prsp", d scção 70.7 mm, foram saiados à tracção. Aplicou-s a cada uma força mdiu-s a rspctiva tsão logitudial, tdo-s obtido os rsultados da tabla sguit. Força (m N) Etsão Tsão Força / Scção 5 6 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Rprstação gráfica: Rgrssão liar simpls (stimação d parâmtros) Modlo: Y i β 0 + ε i, i,, Etsão Tsão od ε i são v.a. ão corrlacioadas tais qu E( ε i ) 0 V( ε i ) σ Como stimar os parâmtros β 0 β? Mtodo dos míimos quadrados: O gráfico tambm idica qu um modlo do tipo Etsão β 0 Tsão + ε Ecotrar os valors ˆβ qu miimizam a soma dos quadrados dos dsvios vrticais tr os potos obsrvados a rcta ŷ + ˆβ. parc adquado. 7 8

3 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 y ŷ + ˆβ Q ˆβ 0 β 0 Q ˆβ β 0 ŷ y Para cada valor d obsrvado o poto sobr a rcta tm ordada ŷ i + ˆβ Sja Q ( ŷ i ) ˆβ miimizam Q. 9 Prtd-s tão dtrmiar ˆβ qu + ˆβ + ˆβ trata-s d um sistma d duas quaçõs liars a duas icógitas qu tm como solução as stimativas dos míimos quadrados: y ˆβ ˆβ y 0 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 od y Notas:. ) Pod-s mostrar, plo dtrmiat da matriz Hssiaa, qu s istir solução la corrspod smpr a um míimo. ) Eist solução s só s 0, ou sja, s a amostra istirm plo mos dois valors distitos d. 3) Às difrças i ŷ i, i,,, chamams rsíduos. A aális dos rsíduos prmit avaliar s o modlo assumido adquado (vr scção 9.7). 4) Notaçõs altrativas: S XY y y ˆβ S XY Emplo (cot.): ( y) Modlo: Etsão i β 0 Tsão i + ε i, i,,0, V( ε i ) σ E( ε i ) 0 Cov( ε i,ε j ) 0 ( i j) ( Tsão i Etsão i )

4 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d ˆβ Nota: os cálculos fctuados "à mão" dvm usars, os passos itrmdios, o máimo d algarismos possívis, para vitar a acumulação d rros d arrdodamto. Só a aprstação d rsultados qu s fazm arrdodamtos. Rprstação gráfica dos potos obsrvados da rcta stimada (ou ajustada): Rcta stimada: ^ Et são Tsão Etsão Tsão 3 4 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d Propridads dos stimadors dos míimos quadrados stimação d σ Como s viu para cada, Y i uma v.a., da qual dispomos d um valor obsrvado. ˆβ podm tambm sr vistos como variávis alatórias (os stimadors). Vamos vrificar qu são stimadors ctrados dos parâmtros β 0 β, aida calcular as suas variâcias. E S XY E ˆβ E S XX E Y i ( ) S XX ( ) ( β 0 + ε i ) β 0 ( ) ( ) S + XX + ( )E( ε i ) β S β XX 5 V S XY V ˆβ V( ε i ) σ V( Y i ) σ 0 i j Cov ε i,ε j logo V ˆβ V Y i ( ) S XX Cov Y i,y j 0 i j σ ( i ) σ Do msmo modo s podria mostrar qu E( ) β 0 V ˆβ ( 0 ) σ qu Cov(, ˆβ ) σ + (para isso ra cssário primiro mostrar qu 0) Cov Y, ˆβ 6

5 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Para stimar as variâcias associadas às stimativas ˆβ tora-s cssário stimar σ (variâcia do rro alatório), isso fito usado os rsíduos. Sja SS E i ŷ i Pod mostrar-s qu E( SS E ) ( )σ qu o rro padrão stimado d ˆσ s + Nota: outras formas d scrvr SS E : logo ˆσ SS E SS E ˆβ y + ˆβ ˆβ um stimador ctrado d σ. Tm-s tão qu o rro padrão (dsvio padrão) stimado d ˆβ s( ˆβ ) ˆσ [ ˆβ ( ) ] y + S XY S XX S XY S XY S XY S XY ˆβ S XY ˆβ 7 8 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Emplo (cot.): y SS E ˆβ Algus abusos do modlo d rgrssão Escolha icorrcta das variávis plicativas pod lvar a coclusõs absurdas (uma associação tr duas variávis ão implica cssariamt uma rlação d causa-fito). As rlaçõs traídas dos modlos d rgrssão só são válidas dtro do domíio dos dados origiais. Não s dvm fazr trapolaçõs. ˆσ SS E Tsts d hipótss m rgrssão liar simpls s( ˆβ ) ˆσ s( ) ˆσ Para fazr tsts d hipótss m rlação aos parâmtros β 0 β, cssário admitir qu os rros têm distribuição ormal (sta hipóts d trabalho dv sr vrificada a postriori por aális dos rsíduos). 9 0

6 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Assim, supodo qu ε i ~ N( 0;σ ) coclui-s iid imdiatamt qu Y i ~ N( β 0 ;σ ) sdo os stimadors ˆβ combiaçõs liars das v.a. Y i, trão tambm distribuiçõs ormais, ou sja; ~ N β 0 ;σ + ˆβ ~ N β ; σ Pod aida mostrar-s qu idpdts d ˆσ qu ( ) ˆσ σ SS E σ ~ χ ˆβ são plo qu β 0 ˆσ + ˆβ β ˆσ β 0 s( ) ~ t ˆβ β s( ˆβ ) ~ t Etão, para tstar H 0 : β β,0 cotra H : β β,0 usa-s a statística T 0 ˆβ β,0 s ˆβ ~ sob H 0 t rjita-s H 0 ao ívl d sigificâcia α s t 0 > a, od a: P( T > a) α. Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 O procdimto m rlação ao parâmtro β 0 similar. Um tst d spcial importâcia (por vzs chamado tst à sigificâcia da rgrssão) o sguit: H 0 : β 0 cotra H : β 0 Não rjitar H 0 ("acitar" H 0 ) quivalt a cocluir qu ão há associação liar tr y (ou tr as fuçõs d y m causa), ou sja, ão há associação ou a associação ão liar. Emplo (cot.): s( ˆβ ) ˆσ s( ) ˆσ Tst d H 0 : β 0 cotra H : β 0 t Para um ívl d sigificâcia d 5% 8, obtm-s t 8, Como 0.0 >.306 rjita-s H 0, ou sja, a rgrssão sigificativa. Tst d H 0 : β 0 0 cotra H : β 0 0 t Como < <.306 ão s rjita H 0, ao ívl d sigificâcia d 5%, o qu stá d acordo com o modlo tórico. 4

7 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d Itrvalos d cofiaça Emplo (cot.): Podm costruir-s itrvalos d cofiaça para β 0 β usado as distribuiçõs dduzidas a scção atrior: obtdo-s β 0 ~ t s I.C. 00 ( α )% β 0 I.C. 00 ( α )% β ˆβ β ~ t s ˆβ [ ; + a s( )] a s [ ; ˆβ + a s( ˆβ )] ˆβ a s ˆβ ˆβ ˆβ s( ˆβ ) s( ) a t 8, I.C. 95% ( β ) [ ; ] I.C. 95% ( β 0 ) [ ; ] **** Por vzs tambm cssário costruir itrvalos d cofiaça para µ Y 0 β 0 0 E Y 0 od a: P( T > a) α. Um stimador ctrado d µ Y 0 ˆµ Y 0 + ˆβ Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 a sua variâcia V( + ˆβ 0 ) V( ) + 0 V( ˆβ ) + 0 Cov(, ˆβ ) V ˆµ Y 0 dod σ + 0 ˆσ s ˆµ Y ˆµ Y 0 ( β 0 0 ) s ˆµ Y 0 ~ t Etão um I.C. a 00 ( α)% para µ Y 0 β 0 0 [ ˆµ Y 0 a s( ˆµ Y 0 ); ˆµ Y 0 + a s ˆµ Y 0 ] Coficit d dtrmiação aális mpírica d rsíduos Coficit d dtrmiação: R SS E ŷ i, i R ( ŷ i ) ( y) (todos os potos stão sobr a rcta, o modlo d rgrssão plica toda a variabilidad obsrvada m y). Modlo muito bom! ˆβ 0 y ŷ i y, i R 0 (o modlo d rgrssão ão plica ada da variabilidad obsrvada m y). Modlo muito mau! 0 R 8

8 Aa Pirs, IST, Dzmbro d 000 Aa Pirs, IST, Dzmbro d 000 Pod dizr-s qu R rprsta a prctagm da variabilidad d y qu plicada pla rgrssão. Nota: S XY S R XX S XY ( ) y ( ) ( y) ou sja, o coficit d dtrmiação coicid com o quadrado do coficit d corrlação (mpírico) tr y. Emplo (cot.): R % Aális mpírica d rsíduos: Gráfico i ŷ i vrsus ŷ i. S as hipótss d trabalho stivrm corrctas dv tr o aspcto d uma macha d potos disprsos ao acaso uma faia horizotal. i 0 - O histograma dos rsíduos dv tr um aspcto simtrico d forma smlhat à dsidad da distribuição ormal. (S for grad pod fazr-s um tst do χ ). ŷ i 30 Aa Pirs, IST, Dzmbro d 000 Emplo (coclusão): No caso do "Prsp" usa-s gralmt E 3500 (N/mm ). Srá qu os rsultados da priêcia cofirmam st valor? Como β E, prtd-s tstar H 0 :β 3500 vrsus H :β S fiarmos α 5% (ívl d sigificâcia), basta vrificar s o valor m causa prtc ao I.C. 95% ( β ), já dtrmiado: I.C. 95% ( β ) [ ; ], o qu d facto acotc, logo ão s rjita H 0 para α 5%. 3