Métodos Estatísticos de Previsão MÉTODOS ESTATÍSTICOS DE PREVISÃO. Regressão Linear. Bernardo Almada-Lobo

Transcrição

1 MÉTODO ETATÍTICO DE PREVIÃO Regressão Liear Berardo Almada-Lobo

2 Regressão A regressão é uma das técicas estatísticas mais potetes e de utilização mais frequete. É um método matemático utilizado para descrever a relação etre variáveis Regressão liear simples Regressão liear múltipla Regressão ão liear

3 3 Regressão

4 4 Regressão Para uma equação de uma recta y b + b x, ao valor b chama-se ordeada a origem e ao valor b chama-se declive.

5 5 Regressão Iterpretação gráfica do declive:

6 6 Regressão Liear imples Um modelo de regressão liear simples descreve uma relação etre duas variáveis quatitativas, idepedete, e, depedete ( ) α + β + E β + β + E (β α β ) (, ) ésima observação de (, ) E α, β parâmetros fixos a estimar erro aleatório associado a (, L,)

7 7 Regressão Liear imples Aos valores observados ão estão associados quaisquer erros, devedo ser ecarados como costates. Os erros cosiderados o modelo de regressão liear simples icidem sobre os valores observados de. a teoria da regressão admitem-se as seguites hipóteses sobre os erros:. valor esperado ulo e variâcia costate. são mutuamete idepedetes 3. são ormalmete distribuídos E I(, σ ) ote que, a hipótese de que existe uma recta de regressão que se ajusta aos dados está implícita em todo o processo.

8 8 Regressão Liear imples Exemplo: Idade e preço de uma amostra Orios

9 9 Regressão Liear imples

10 Regressão Liear imples e as hipóteses referidas se verificarem, os valores de são idepedetes e seguem uma distribuição ormal: ( µ ) σ I, µ α + β ( )

11 Regressão Liear imples A figura assiala a difereça etre a recta de regressão da população (que gostaríamos de cohecer mas ão cohecemos) e a recta estimada a partir da amostra.

12 Regressão Liear imples Uma vez que os valores são costates, é também costate. Logo, β α β também é costate A figura ilustra o sigificado de α e β α ( ) α + β β + β β x x x3 x4 x5 x6

13 3 Métodos Estatísticos de Previsão Os parâmetros da recta de regressão podem ser estimados pelo método dos míimos quadrados ( ) [ ] { } α + β E MI EQ ( ) ( ) [ ] ( ) B A s s ˆ b y y ˆ a β α A partir de um cojuto particular de observações (x, y ) obtêm-se as estimativas seguites: Regressão Liear imples x x y y

14 4 Regressão Liear imples ote que, a recta estimada passa sempre pelo poto (,) α + β ( ) a α ˆ y ( ) y y + β

15 5 Regressão Liear imples e a relação etre e µ for efectivamete liear e os erros forem idepedetes, tiverem valor esperado ulo e variâcia costate, pode demostrar-se que:. A e B são estimadores ão-eviesados, eficietes e cosistetes. A matriz de variâcia-covariâcia dos estimadores é VAR COV B,A ( A) COV( A,B) ( ) VAR( B) Como Cov(a,b), coclui-se que A e B ão são correlacioados, o que ão acotece com B e B, uma vez que β é fução de β. Deste facto resulta a vatagem do modelo ( ) E α + β + relativamete a β + β + E σ σ β α β

16 6 Regressão Liear imples Var( B) σ Estimativa de β é melhor quado os valores de x estão mais espalhados.

17 7 Métodos Estatísticos de Previsão ( ) [ ] ˆ B A E 3. Um estimador ão-eviesado de σ é Regressão Liear imples

18 8 Regressão Liear imples Exemplo Admitido que a relação etre as variáveis e é liear, pretede-se estimar os parâmetros do modelo de regressão correspodete: x y x y µ a + b ( x x) y 3 s s (x (x x) x) (y 4 y y) 8 e ˆ µˆ () (4) y a b s s s.5 y 3 Podemos também estimar a variâcia dos erros e dos estimadores: σˆ σˆ σˆ A B s s s ê

19 9 Regressão Liear imples e E I(,σ ), é possível especificar as distribuições dos estimadores de α, β e σ A α. A ( α, σ ) t ( ) α + β β + β. B B, β β + t σ + ( B A B) 3. B B β ( β, σ ) t A partir destas expressões é possível defiir I.C. e T.H.

20 Regressão Liear imples Itervalos de Cofiaça para os parâmetros de regressão Os itervalos de cofiaça bilaterais a (- γ). % vêm.. α : A ± t β ( γ ) ( A B) ± t( γ ) : + 3. EEMPLO (COT.) ( γ ) β : B ± t (.5 ) 3. 8 t 3 α : 3 ± [ 7.69,3.3] ( 3.5) ± [.5,7.95] β : β :.5 ± [.3,.87]

21 Regressão Liear imples Testes de hipóteses para os parâmetros de regressão Os testes de hipóteses relativos aos parâmetros podem ser realizados recorredo aos itervalos de cofiaça. Alterativamete, os testes podem ser efectuados pelo método clássico:. H H : : α α α α, α > α, α < α H VERD. : ET A α t. H H : : β β ( β ) ( β ), β > ( β ), β < ( β ) H VERD. : ET A B ( β ) + t 3. H H : : β β β β, β > β, β < β H VERD. : ET B β t

22 Regressão Liear imples Quado se pretede realizar um teste bilateral à hipótese ula H : β, pode recorrer-se a um procedimeto baseado a AOVA ( ) {[ A + B ( ) ] } + { [ A + B ( ) ]} V. TOTAL VT V. DEVIDAÀ REGREÃO VDR B V. REIDUAL VR B

23 3 Regressão Liear imples Tabela AOVA para o modelo de regressão liear simples FOTE DE VARIAÇÃO DEVIDA À REGREÃO (DR) VARIAÇÕE (omas de quadrados) (Variação explicada pela regressão) VDR B B GRAU DE LIBERDADE (úmero de termos idepedetes) DEVIO QUADRÁTICO MÉDIO VALORE EPERADO GL DQMDR VDR E [DQMDR] σ + β REIDUAL (R) (Variação residual, ão explicada) VR - B GL DQMR VR/GL E [DQMR] σ (Variação total) TOTAL (T) VT GL GL + GL O procedimeto de teste AOVA tem a seguite estrutura: H H : : β β H VERD. : ET DQMDR DQMR F,

24 4 Regressão Liear imples Exemplo (aterior) Admitido que a relação etre as variáveis e é liear, pretede-se estimar os parâmetros do modelo de regressão correspodete x y a y 3 b s s.5

25 5 Regressão Liear imples Exemplo (cot.) : β H : β α H 5% I.C.: β.5 ± [.3,.87] T.H.:.5 ET 7.99 > t3.6 4 (.5 ) 3.8 ( Valor de prova P.4% ) AOVA: Rejeitar H FOTE VARIAÇÕE G.L. DQM DR R T ET > F,3.633 (.5).3 ( Valor de prova P.4% )

26 6 Regressão Previsões com base o modelo de regressão liear simples Para cada valor de, a melhor previsão de é dada por ( ) Ŷ µ ˆ A + B O erro que se comete a previsão vem δ Ŷ [ α + β ( ) + E] [ A + B ( ) ] Dado que cada ovo valor se admite idepedete dos ateriores, α, β, e são costates e A e B são idepedetes, pode-se mostrar que a variâcia do erro de previsão vem: f (y x) x x µ σ µ σ µ y VAR ( ) ( ) δ VAR() + VAR(Ŷ) + + σ VAR COV B,A ( A) COV( A,B) ( ) VAR( B) σ σ

27 7 Regressão Admitido a ormalidade dos erros E, temos que distribuições ormais. ˆ, e δ seguem também Assim, o itervalo de previsão a (- γ). % será: Ŷ ± t ( ) ( ) γ + + Quado se cosidera todos os valores possíveis de, os itervalos formam uma bada de previsão. e t - (γ/) a bada de previsão a (-γ). % é defiida por: Ŷ ± + + ( )

28 8 Regressão BADA A : Ŷ ± y a + b. ( x x) y a + b (x - x) i i A B C BADA B : Ŷ ± + BADA C : Ŷ ± + + ( ) x Bada A - Bada B - Bada C - tem apeas a ver com a estimativa do desvio-padrão do erro E acresceta, relativamete à bada A, o termo correspodete ao erro de estimação de α acresceta, relativamete à bada B, o termo correspodete ao erro de estimação de β

29 9 Regressão Uma relação que pareça liear detro da gama de valores observados, pode ter um comportameto ão-liear uma gama mais alargada. Apesar de a bada de previsão defiida alargar à medida que as observações se afastam da média de, esta ão cotempla esse tipo de situações, assetado o pressuposto de que a relação é efectivamete liear. Relação verdadeira (ão liear) Valor extrapolado de Relação liear ajustada Gama de valores observados ovo valor de

30 3 Regressão Extrapolação o exemplo do Orio

31 3 Regressão Liear imples Regressão liear simples e correlação etre variáveis Embora a aálise de correlação seja uma técica meos potete do que a regressão liear simples, pois apeas revela o grau de relacioameto liear etre variáveis sem especificar a forma que ele assume, ambas estão itimamete ligadas. a regressão liear simples, os valores observados de são ecarados como costates, podedo ão ser represetativos de uma qualquer distribuição populacioal a aálise de correlação, para que a partir do coeficiete de correlação amostral se possam fazer iferêcias relativas ao coeficiete de correlação populacioal, é preciso que as observações (, ) sejam represetativas da população cojuta de e

32 3 Métodos Estatísticos de Previsão Regressão Liear imples ( ) ( ) y y x x c ( ) ( ) ( ) ( ) ( ) r s s c y y x x y y x x r Covariâcia amostral (permite iferir acerca da população) Coeficiete de correlação amostral (medida adimesioal) x x y y

33 33 Regressão Liear imples e os valores ão forem obrigatoriamete represetativos da população de, podem situar-se uma zoa restrita dessa população, provocado o eviesameto do coeficiete de correlação amostral Zoa cetral Eviesameto do coeficiete de correlação amostral calculado a partir de observações pertecetes à zoa cetral da população de x

34 34 Regressão Liear imples a aálise de correlação ão se faz qualquer distição etre variável depedete e variável idepedete A existêcia de correlação implica que é causa de, ou é causa de, ou aida Uma outra variável é causa simultâea de e Que setido fará, o cotexto da regressão, calcular o coeficiete de correlação amostral? R

35 35 Métodos Estatísticos de Previsão Regressão Liear imples ( ) ( ) B B R e for claramete assumida como variável predetermiada, o cálculo do quadrado do coeficiete de correlação amostral, o coeficiete de determiação, represeta a proporção da variação de y que é explicada pela regressão ( ) ( ) ( ) [ ] ( ) + + x x b e y y y y y y s ˆ ˆ L ão- -explicada Explicada

36 36 Regressão Liear imples O motate global dos seguros de vida efectuados pelas famílias de um determiado país depede do redimeto aual do agregado familiar. a tabela seguite apresetam-se os valores destas variáveis, expressas em uidades moetárias do país em causa, para um cojuto de famílias cosiderado represetativo da população. Redimeto aual [ u.m.] Capital seguro [ u.m.] Estime a relação etre as duas variáveis e o itervalo de previsão do motate global de seguros de vida efectuados por uma família com um redimeto aual agregado de [u.m]

37 37 Regressão Liear Múltipla O modelo de regressão liear múltipla é uma extesão do modelo de regressão liear simples. Permite descrever uma relação etre um cojuto de variáveis quatitativas idepedetes, j (j,,...,), e uma variável,, quatitativa depedete. O objectivo será o de costruir um modelo que se ajuste melhor aos dados do que o modelo de regressão liear simples.

38 38 Regressão Liear Múltipla O modelo de regressão liear simples cosidera apeas uma variável idepedete, β + β + E Agora, a recta é trasformada um plao y β + β x y β + β x + β x O modelo de regressão liear múltipla cosidera duas, ou mais, variáveis idepedetes, e. b + b x + b x + E

39 39 Regressão Liear Múltipla O modelo de regressão liear múltipla : α + β ( ) + L + β ( ) + E (,,, ) L -ésima observação das variáveis,..., e j média das observações da variável j α, β, L, β parâmetros fixos a estimar E erro aleatório associado a

40 4 Regressão Liear Múltipla Modelo de regressão liear populacioal bivariado i β + β i + β i + ε i (Observed ) Respose Plae β ε i ε i ( i, i ) µ β + β + β i i

41 4 Regressão Liear Múltipla Modelo de regressão liear amostral bivariado i b + b i + b i + e i (Observed ) Respose Plae b e i ( i, i ) ^ i b + b i + b i

42 4 Regressão Liear Múltipla A este modelo estão subjacetes as seguites hipóteses:. Os valores j, e portato, os seus valores esperados são ecarados como costates predetermiadas, sem erro. Os erros E são mutuamete idepedetes, têm valor esperado ulo, variâcia costate e são ormalmete distribuídos, isto é, E I (,σ )

43 43 Regressão Liear Múltipla Os parâmetros α, β, L β podem ser estimados recorredo ao método, dos míimos quadrados miimizado a seguite fução: { [ α + β ( ) + + β ( ]} EQ E L edo o míimo atigido para ) EQ ( ) [ α β ( ) β ( )] α EQ β ( ) { ( ) [ α β ( ) β ( )]} (...) EQ β ( ) { ( ) [ α β ( ) β ( )]}

44 44 Métodos Estatísticos de Previsão Regressão Liear Múltipla A primeira equação permite obter o estimador de, que é idêtico ao que foi defiido para o modelo de regressão liear simples: α A Desevolvedo as restates equações, obtém-se o seguite sistema cuja resolução permite obter os estimadores de,, β β L B B B ) ( B B B B B B L L L L ) ( ) ( j j j j j j ode ) ( ) ( j j j e

45 45 Métodos Estatísticos de Previsão Regressão Liear Múltipla ) Var(B ),B Cov(B,A) Cov(B ) Cov(B,B ) Var(B Cov(B,A) ) Cov(A,B ) Cov(A,B Var(A) σ L L L L L L L L L L L L L L e a relação etre as variáveis j e µ y for liear e se os erros E forem idepedetes, tiverem valor esperado ulo e variâcia costate pode demostrar-se que:. Os estimadores A e B,...,B j são ão-eviesados, eficietes e cosistetes.. A matriz de variâcia-covariâcia dos estimadores A e B,...B j é:

46 46 Métodos Estatísticos de Previsão Regressão Liear Múltipla 3. Um estimador ão-eviesado de σ é defiido pela expressão: )].( B ) B.( A [ Ê L

47 47 Exemplo Cosiderem-se as observações das variáveis, e que costam da tabela. Admitido que o valor esperado de é uma fução liear de e, estimem-se os parâmetros do modelo de regressão correspodete. x x y x ( ) x ( ) y ( ) x (x x ) (5. 5.) (4.6 5.) x i + + i x x (xi x) ( ) + + ( ) 7. 4 i x x x x (xi x) (xi x) (5. 5.) ( ) + + (4.6 5.) ( ). 45 Regressão Liear Múltipla i (xi x) (yi y) (5. 5.) ( ) + + (4.6 5.) ( ) 5.67 i (xi x) (yi y) ( ) ( ) + + ( ) ( ) 4. 6 i y y (yi y) ( ) + + ( ) x y x y i

48 48 Regressão Liear Múltipla Exemplo (cot.) As estimativas dos parâmetros de regressão podem etão obter-se os seguites termos: a α ˆ y 53.4 b b + b + b 3.3 b +.45 b b b 4.6 b b βˆ βˆ

49 49 Regressão Liear Múltipla A partir de ( x 5.) +.99 ( x 7.65) pode-se calcular a estimativa de σ ˆ i i µ i y µˆ e ˆ µˆ i y i ^ Var(B ) ^ Cov(B,B ) ^ ^ Cov(B,B ) ^ σˆ Var(B ) x x x x s σˆ ê x x x x [.7 e estimar a variâcia dos estimadores: Var(B ).3 σ ˆ B.548 Var(B ).33 ˆ. 365 σ B ^.8 Cov(B,B ).8 ρ ˆB.9, B ^ ]

50 5 Regressão Liear Múltipla e E I(, σ ) B,...,B, é possível especificar as distribuições dos estimadores A e A (α, σ /) B [β,var(b )]... B [β,var(b )] Ode var(b ),...,Var(B j ) são defiidos a partir da matriz variâcia-covariâcia. estas codições, temos as distribuições seguites: A α / t B β t Vâr(B ) B β Vâr(B ) t

51 5 Regressão Liear Múltipla A partir das expressões ateriores é possível defiir itervalos de cofiaça e testes de hipóteses evolvedo os parâmetros de regressão. Itervalos de Cofiaça: α : A ± t ( γ / ) / β j : B j ± t ( γ / ) Vâr(B j) ote que, os itervalos assim defiidos estão correctamete especificados quado cosiderados idividualmete. o etato, o ível de cofiaça para o cojuto dos itervalos defiidos para A e B j (j,...,) é, de facto, diferete do cosiderado. Teste de Hipóteses: O teste relativo ao parâmetro α será: H : α α A α ET H : α α, α < α ou α > α / H verdadeira ET t

52 5 Regressão Liear Múltipla Teste de Hipóteses (cot.): Relativamete aos parâmetros β j deverá primeiro ser testada a hipótese de que todos eles são ulos cotra a hipótese de que pelo meos um dele é diferete de zero. Tal teste será realizado recorredo à técica de Aálise de Variâcia que se fudameta a seguite decomposição: ( VT ) + [ ) + L+ B.( [A + B.( A B.( ) LB.( VR VDR B (B + L+ B + L+ B ) ) ] )] +

53 53 Regressão Liear Múltipla a AOVA referete à regressão liear múltipla adopta-se esta decomposição. FOTE DE VARIAÇÃO VARIAÇÕE (omas de quadrados) GRAU DE LIBERDADE (úmero de termos idepedetes) DEVIO QUADRÁTICO MÉDIO VALORE EPERADO DEVIDA À REGREÃO (DR) VDR B B + + GL DQMDR VDR/GL E [DQMDR] σ + [ f( B,, B )] REIDUAL (R) (Variação residual "ão explicada") VR - VDR GL DQMR VR/GL E [DQMR] σ (Variação total) TOTAL (T) VT GL GL + GL - Dode decorre a estrutura do teste AOVA H : β β... β H : algum β j DQMDR ET H verdadeira ET F, DQMR

54 54 Regressão Liear Múltipla Exemplo (cot.) Utilizado os dados do exemplo aterior, vamos testar as hipóteses H : β β H : β ou β. A tabela AOVA correspodete vem: FO TE VARIAÇÕ E G.L. D Q M D R R T ET 7.34 > F, 7( α.5) H é rejeitada ao ível de sigificâcia de 5% (valor de prova quase ulo)

55 55 Regressão Liear Múltipla Quado a hipótese ula é rejeitada é ecessário verificar quais os β j que são diferetes de zero. Uma via possível cosiste a realização dos seguites testes idividuais aos parâmetros. Das expressões ateriores relativas aos estimadores de B j decorre a seguite estrutura para os testes: H : β j H : β j, β j > ou β j <, ET β j H verdadeira ET t Vâr(B ) j

56 56 Regressão Liear Múltipla Exemplo (cot.) H :β e H : β H : β H : β abedo que b 4.34 b.99 σ ˆ B.548 σˆ. 365 B b 4.34 ET 7.9 > t7(.5) ^.548 Var(B ).365 H : β é rejeitada ao ível de sigificâcia de 5% (valor de prova quase ulo) b.99 ET 8.9 > t7(.5) ^.365 Var(B ).365 H : β também é rejeitada ao ível de sigificâcia de 5% (igualmete com valor de prova praticamete ulo).

57 57 Regressão Liear Múltipla Exemplo. Estime e teste o modelo de regressão para as seguites variáveis:

58 58 Regressão Liear Múltipla yy xx xx xx xy xy a b + 3 b 74 3 b b b. b 3.74 AOVA FV Var GL DQM ET DR F, R T Rxy 89.77%

59 59 Regressão Liear Múltipla O problema associado à realização destes testes reside o facto de o ível de sigificâcia do cojuto dos testes ser diferete daquele que foi especificado. Esta dificuldade pode ser cotorada com o método de selecção de regressores.

60 6 Regressão Liear Múltipla elecção de Regressores o modelo de regressão múltipla admitiu-se que as variáveis idepedetes (os regressores) eram desigadas à partida. a maioria das situações práticas ão é possível especificar à partida, com seguraça, o cojuto ideal de regressores. um ceário real podem existir uma multiplicidade de regressores potecialmete úteis a explicação do comportameto da variável depedete, havedo que seleccioar de etre eles aqueles que devem figurar o modelo. De seguida serão discutidos diferetes métodos de selecção de regressores.

61 6 Regressão Liear Múltipla Método Exaustivo. Costruir os modelos de regressão que combiem de todas as maeiras possíveis os regressores poteciais.. Ordear os modelos de regressão de acordo com um critério de qualidade (por exemplo, miimizar os DQMR). 3. Avaliar em detalhe um úmero restrito de modelos cosiderados melhores, de acordo com o critério fixado em (). O poto (3) está associado à icapacidade de defiir um critério úico que, em todas as circustâcias, permita comparar objectivamete a qualidade dos modelos. e o úmero de regressores poteciais for, o úmero de modelos alterativos a costruir é -.

62 6 Regressão Liear Múltipla Método Progressivo. Ajustar tatos modelos de regressão liear simples quatos os regressores poteciais. Icluir o modelo aquele que explica a maior proporção da variação da variável depedete. e ehum regressor explicar uma proporção sigificativa da variação o método termia.. Costruir modelos de regressão dupla que associem o regressor seleccioado em () e cada um dos restates regressores poteciais. De etre os ovos regressores que explicam uma proporção adicioal sigificativa da variação total, icluir o modelo aquele que explica a maior proporção. 3. Prosseguir a tetativa de costrução de modelos de ordem superior adoptado um procedimeto idêtico ao descrito. 4. O método termia quado ehum dos regressores poteciais explica um proporção adicioal sigificativa da variação total ou quado todos os regressores forem icluídos o modelo. 5. Este método ão garate a selecção do melhor cojuto de regressores.

63 63 Regressão Liear Múltipla Exemplo Cosidere-se o problema da selecção de regressores admitido que se dispõe de observações de uma variável depedete () e de três variáveis cadidatas a figurarem como regressores um modelo de regressão múltipla (, e 3 ). Passo (): costruir três modelos de regressão liear simples Modelo ( ): Fotes Variações G.L. DQM DR ( ) 6 6 R 4 8 4/8 T 9 Modelo ( ): Fotes Variações G.L. DQM DR ( ) R 9 8 9/8 T 9 Modelo ( 3 ): Fotes Variações G.L. DQM DR ( 3 ) R 8 8 8/8 T 9 O regressor que explica a maior proporção da variação total é. H : β ET. > F, 8(.5) 4.4 Hrejeitada. 9/8 O teste AOVA permite verificar que a proporção da variação explicada é sigificativa.

64 64 Regressão Liear Múltipla Passo () costruir os dois modelos de regressão liear dupla (, ) e (, 3 ) Modelo (, ): Modelo (, 3 ): Fotes Variações G.L. DQM DR (, ) / R 8 7 8/7 T 9 Fotes Variações G.L. DQM DR (, 3 ) 35 35/ R /7 T 9 O regressor que explica uma proporção adicioal maior da variação total é 3. Vamos agora de testar se o cotributo adicioal de 3 para a explicação da variação de é sigificativo. Para tal tem-se de alterar a tabela AOVA correspodete decompodo: VDR(, 3) VDR() + VDR(3 ) Fotes Variações G.L. DQM DR (, 3 ) 35 35/ DR ( ) () () DR ( 3 ) (5) () 5 R /7 T 9

65 65 Regressão Liear Múltipla O teste AOVA a realizar tem a seguite estrutura: H : β 3 H : β 3 DQMDR( 3 ) ET DQMDR H verdadeira ET F,-3. DQMDR( ) > F, (.5) 4.45 DQMR 65/7 ET 7 estas codições, é icluído o modelo o regressor 3, que assim se juta ao regressor Passo (3) costruir o modelo de regressão liear tripla (, 3, ) Fotes Variações G.L. DQM DR (, 3, ) / DR (, 3 ) (35) () DR (, 3 ) (5) () 5 R 6 6 6/6 T 9 ET DQMDR ( DQMR, 3 ) 5 6/6 este caso, o teste AOVA permite verificar que, a proporção adicioal da variação total que é explicada por ão é sigificativa.33 < F,6 (.5) 4.5 H ão rejeitada.

66 66 Regressão Liear Múltipla Método Regressivo. Icluir o modelo todos os regressores poteciais.. Retirar do modelo, um a um, regressores cuja preseça ão cotribua para explicar uma proporção sigificativa da variação total 3. Prosseguir a tetativa de costrução de modelos de ordem iferior adoptado um procedimeto idêtico ao descrito. Método Regressão Passo a Passo Cosistem em versões dos métodos progressivo e regressivo as quais os regressores que teham sido icorporados o modelo ou dele excluídos em passos ateriores são reexamiados

67 67 Regressão Liear Múltipla. Utilize o método de selecção de regressores para o exemplo:

68 68 Regressão Liear Múltipla AOVA yf() AOVA yf(,) df M F V.P. df M F V.P. DR() DR(,) R R Total Total AOVA yf() AOVA yf(,) df M F V.P. df M F V.P. DR() DR(,) R DR() Total DR( ) Residual Total

69 69 Regressão Liear Múltipla Icorporação de regressores qualitativos: variáveis mudas As variáveis mudas são icorporadas os modelos de regressão com o objectivo de represetar o efeito de factores qualitativos. Exemplo uma determiada empresa de artes gráficas existe uma secção dedicada ao fabrico de um tipo de cartões. a figura represetam-se, para essa secção, observações das variáveis : dimesões de diferetes ecomedas de cartões : custos de produção associados à satisfação das ecomedas. As observações foram classificadas em ecomedas satisfeitas em regime ormal e ecomedas satisfeitas com urgêcia com urgêcia - ormal

70 7 Regressão Liear Múltipla Com base a figura parece razoável adoptar o seguite modelo α +β ( ) +γ (Z Z) + E α ' +β +γ Z + E Em que Z represete um variável muda que toma os seguites valores, para o regime ormal Z, para o regime urgete o exemplo γ represeta o valor esperado do custo adicioal associado ao regime urgete. Para represetar adequadamete um factor com k íveis devem ser icluídas o modelo de regressão k - variáveis mudas, por exemplo, para cosiderar três regimes de satisfação de ecomedas Z, se o regime for ormal, se o regime ão for ormal regime ormal: Z, Z regime urgete: Z, Z regime muito urgete: Z, Z. Z, se o regime for urgete, se o regime ão for urgete α ' +β +γ Z +γ Z + E

71 7 Regressão Regressão ão-liear A técica de regressão liear simples pode ser utilizada em modelos ãolieares desde que os modelos sejam covertíveis em modelos lieares por aplicações de trasformações às variáveis. Vamos cosiderar algus exemplos de aplicação frequete. Método:. Trasformar a variável. Trasformar a variável 3. Aplicar método de regressão liear às variáveis trasformadas

72 7 Regressão ão Liear Exemplo β Modelo : α ' + + E Uma relação deste tipo pode ser liearizada recorredo à seguite trasformação da variável idepedete U Mod. liearizado : α ' +β U + E

73 73 Regressão ão Liear Exemplo Modelo expoecial : e α ' +β + E Liearização através de uma trasformação logarítmica da variável depedete Z l( ) Mod. liearizado : Z α ' +β + E

74 74 Regressão ão Liear Exemplo 3 Modelo curva : α e ' +β / + E (comα' > eβ < ) liearização: U Z l( ) Mod. liearizado : Z α ' +β U + E

75 75 Regressão Regressão Poliomial Etre uma variável depedete e uma variável idepedete pode existir uma relação poliomial de grau, que pode ser represetada por um modelo do tipo: α + β ( ) + β ( ) + L + β ( ) + E Ode... Este modelo desiga-se por modelo de regressão poliomial simples e pode ser covertido um modelo de regressão liear múltipla fazedo correspoder a cada potêcia uma ova variável substituido: PARA j, L, j j

76 76 Regressão Poliomial Obtedo-se o modelo liearizado: α +β ( ) + L+β ( ) + E O problema da escolha do grau do poliómio é equivalete ao problema da selecção de regressores ateriormete abordado. Exemplo MODELO: α +β +β

77 77 Regressão Poliomial b b Vamos defiir as seguites variáveis: b b obtedo-se o seguite modelo: x x x x + b + b x x x x x y x y b b + b 6+ b α +β α ˆ' α β β a 5 x 3 x x x x x x x µ ˆ y xy x y x +β x

78 78 Regressão Poliomial O coeficiete de determiação ( R ), que traduz a proporção da variação total de explicada pela regressão ajustada, correspode ao coeficiete de correlação r elevado ao quadrado; Este coeficiete apreseta uma limitação: o deomiador da expressão que lhe está subjacete tem um valor fixo, equato que o umerador só pode aumetar. Assim, ao adicioar-se uma ova variável a equação da regressão, o umerador aumetará, o míimo, ligeiramete, resultado um aumeto do coeficiete de determiação, mesmo que a itrodução da ova variável resulte uma equação meos eficiete; Em teoria, usado um úmero ifiito de variáveis idepedetes para explicar a variação da variável depedete, resulta um R igual a. Por outras palavras, o coeficiete de determiação pode ser maipulado, logo deve ser suspeitado;

79 79 Regressão Poliomial Coeficiete de Determiação Ajustado ( R ) Dado que a itrodução de um regressor irrelevate aumetará ligeiramete o R, é desejável tetar corrigi-lo, reduzido-o de uma forma apropriada; O coeficiete de determiação ajustado,, é uma tetativa de tetar corrigir o R, ajustado o umerador e o deomiador da expressão através dos respectivos graus de liberdade; R ( R ). K K - :.º de observações : grau da regressão :.º total de graus de liberdadeda - K - :.º de graus de liberdadeda VR Cotrariamete ao coeficiete de determiação, o coeficiete de determiação ajustado pode dimiuir em valor se a cotribuição da variável adicioal a explicação da VT, for iferior ao impacto que essa adição acarreta os graus de liberdade. R VT

80 8 Regressão ão Liear 3. Cosidere a seguite série temporal, com observações: t Z t Com base estes dados, efectue previsões dos valores de Z t (para t 7, 8, 9 e ), recorredo aos seguites métodos: i) regressão poliomial; ii) regressão liear de variáveis trasformadas. Etre as previsões efectuadas pelos dois métodos quais adoptaria?