Universidade do Estado do Rio de Janeiro Instituto de Matemática e Estatística Econometria

Transcrição

1 Unversdade do Estado do Ro de Janero Insttuto de Matemátca e Estatístca Econometra Revsão de modelos de regressão lnear Prof. José Francsco Morera Pessanha professorjfmp@hotmal.com

2 Regressão Objetvo: Estabelecer uma função matemátca que descreva a relação entre uma varável contínua (varável explcada ou dependente) e uma ou mas varáves explcatvas ou ndependentes. y f(x,x,...,x K ) + ε y denota a varável dependente. x,x,...,x K denotam as varáves ndependentes. f(x,x,...,x K ) descreve a varação sstemátca ε representa a varação não sstemátca (erro aleatóro) Modelos de regressão (função f) podem ser lneares ou não lneares. A função f não é conhecda e deve ser nferda a partr das observações das varáves y, x,x,...,x k.

3 Regressão Lnear Técnca estatístca que pode ser usada para analsar a relação entre uma únca varável dependente (explcada) e um conjunto de varáves ndependentes (explcatvas). O objetvo da análse de regressão lnear consste em dentfcar uma equação lnear que permta prever o valor da varável dependente em função dos valores conhecdos das varáves ndependentes. Regressão lnear smples: apenas uma varável ndependente. Exemplo: varável dependente vendas varável ndependente despesas com propaganda Regressão lnear múltpla: duas ou mas varáves ndependentes. Exemplo: varável dependente preço do móvel varáves ndependentes área, nº de quartos, nº de banheros, dade

4 Motvação (HANKE & WICHERN, 6) Uma empresa transportadora deseja estmar o custo de agregar carga a um camnhão parcalmente cheo. A empresa acredta que o únco ncremento de custo, decorrente da agregação de carga, é o custo adconal de combustível, pos o rendmento (mlhas por galão) sera menor. Admte-se que a frota da transportadora é formada por camnhões dêntcos. No período 9- foram realzadas 5.48 vagens e uma amostra aleatóra de 4 vagens fo tomada. Na tabela ao lado são apresentados os pesos e os rendmentos (mlhas/galão) das 4 vagens seleconadas na amostra. Dagrama de dspersão representação gráfca que permte vsualzar a relação/assocação entre duas varáves Um ncremento no peso reduz o rendmento A relação entre as varáves não é exata (estocástca)

5 Motvação A boa aderênca da nuvem de pontos ao redor de um reta magnára ndca que a relação entre as duas varáves pode ser aproxmada por uma relação lnear. A essênca da relação entre o peso e o rendmento pode ser expressa por uma reta. Seja o rendmento em mlhas/galão e o peso da carga ( lbras), então temos o segunte modelo de regressão lnear smples: modelo y β + β x + ε β e β são constantes não conhecdas ε é um termo aleatóro com dstrbução normal (ε ~ N(,σ )) A dentfcação desta reta (estmação dos parâmetros do modelo) pode ser efetuada por meo do estmador de mínmos quadrados ordnáros (MQO).

6 Motvação Neste caso o rendmento (y) é explcado pelo peso da carga (x), então, yf(x): y rendmento varável dependente x peso da carga varável ndependente A relação estocástca entre as duas varáves pode ser modelada da segunte forma: y β + β x + ε Onde: β e β são coefcentes desconhecdos da reta que relacona as varáves x e y (estmados a partr dos dados da amostra). ε é um termo aleatóro (erro) que representa a mprecsão na relação entre x e y.

7 Motvação Equação da reta estmada por MQO Ê( ) 8,8484,64 Para uma carga de 7 ml lbras ( 7) espera-se um rendmento de 4,6 mlhas/galão ( Ê( ) 4,6 ) E( ) 8,8484,64 x 7 4,6

8 Motvação Estmação por mínmos quadrados ordnáros (MQO) Estmador MQO βˆ βˆ n ( x x)( y y) n ( x ) x y βˆ x Modelo ajustado Ê( ) 8,8484,64 ˆβ ˆβ é a varável ndependente ou explcatva, neste caso o peso ( é a méda amostral de ) é a varável dependente ou explcada, neste caso é o rendmento (mlhas por galão), é a méda amostral de n é número de observações, neste caso 4

9 Motvação Interpretação da equação estmada Ê( ) 8,8484,64 Cada ncremento de lbras ( ) na carga mplca em uma redução, méda, do rendmento (mlhas/galão) da ordem de,64 mlhas/galão. A transportadora paga $,5 por galão de desel, então qual o custo para transportar lbras de carga em um trajeto de mlhas? O rendmento médo é 4,7 mlhas/galão, logo para um trajeto de mlhas, em méda, o custo total é: mlhas x,5 $/galão $ 6,6 4,7 mlhas/galão O custo da mesma vagem com lbras adconas é: mlhas x,5 $/galão $ 6,94 (4,7,64) mlhas/galão Ou seja, lbras adconas na carga aumenta o custo em 34 centavos

10 Modelos de regressão lnear Modelo de regressão lnear smples: uma varável dependente explcada por uma varável ndependente. y β + β x + ε Modelo de regressão lnear múltpla: Uma varável dependente explcada por pelo menos duas varáves ndependentes. y β + β x β K x K + ε (K ) Objetvo: Identfcar uma função lnear que permta explcar uma varável dependente (y) em função das varáves explcatvas (x), ou seja, como y vara de acordo com mudanças em x.

11 Sgnfcado do erro ε O erro ε representa: Todos os outros fatores que afetam a varável dependente, mas que não estão contempladas nas varáves explcatvas. Erros de medção. Forma funconal nadequada, por exemplo, y β + β x ou y β + β x + β x? Inerente varabldade no comportamento dos agentes econômcos.

12 Modelo de Regressão Lnear Smples Equação de regressão populaconal: y β + β x + ε (apenas uma varável ndependente) Os coefcentes β e β não são conhecdos e devem ser estmados a partr de uma amostra aleatóra de tamanho n da população: Amostra aleatóra (x, y ),,n Em cada undade amostrada tem-se que y β + β x + ε Componente determínstca,n Erro, uma varável aleatóra não-observável

13 Modelo de Regressão Lnear Smples Hpóteses assumdas pelo modelo H) A relação entre as varáves é lnear y β + β x + ε,n: H) Méda nula: E(ε ) para todo,n H3) Varânca constante: V(ε ) σ para todo,n H4) Erros não correlaconados: Cov(ε,ε k ) para todo k H5) Dstrbução Normal: ε ~ N(,σ ) para todo,n ε são ndependentes e dentcamente dstrbuídos N(,σ ) H6) A varável explcatva é fxa,.e., não é estocástca

14 Modelo de Regressão Lnear Smples y β + β x Como o valor esperado do erro é zero E(ε), o valor esperado de y condconado ao valor de x é gual a: V + ( y x ) E ( β + β x + ε ) E ( y x ) β + β x + E ( ε ) E ε ( y x) β + β x E Por hpótese a varável ndependente não é aleatóra, assm tem-se: ( ) y σ Como o erro tem dstrbução Normal com méda e varânca σ y ( β + β x ) ~ N σ,

15 Modelo de Regressão Lnear Smples Reta de regressão ( y x) β + β x E

16 Modelo de Regressão Lnear Smples Estmador de mínmos quadrados Soma dos quadrados dos erros y β + β x + ε ε y - β - β x n n f ε [ y ( β + βx )] As estmatvas de β e β devem mnmzar a soma sos quadrados dos desvos Mn β β, f n [ y ( β + βx )] No ponto de mínmo as dervadas parcas são nulas f β f β n n [ ( β + β )] x y x [ y ( β + β x )] Sstema de equações normas A solução deste sstema fornece os estmadores de β e β nβ β n + β x n + β n x y n x n x y

17 Estmador de mínmos quadrados Modelo de Regressão Lnear Smples + β β n n x y n + β β n n n y x x x Solução do sstema de equações normas y x ˆ ˆ β β ( )( ) ( ) β n n x x y y x x ˆ Sstema de equações normas Estmadores de mínmos quadrados

18 Modelo de Regressão Lnear Smples Estmador de mínmos quadrados ( ) Equação de regressão estmada ˆ E y x β + β x y ˆ ˆ Valor estmado da varável dependente y dado que x é gual a x ˆ ˆ yˆ β + βx Resíduo da -ésma observação é gual a dferença entre o valor observado e o valor estmado da varável y ( εˆ εˆ y y yˆ βˆ + βˆ x )

19 Se as hpóteses H até H6 forem satsfetas, os estmadores de mínmos quadrados são estmadores lneares não tendencosos de varânca mínma (Teorema de Gauss Markov) O estmador MQO é não tendencoso ( ˆ ) β E β Modelo de regressão lnear smples σ β ˆ n n σ ε ( x ) x n x Os estmadores são normalmente dstrbuídos βˆ ~ N β ( ), σ β ˆ ( ˆ ) β E β σ β ˆ n σ ε x x βˆ ~ N β ( ), σ β ˆ Estmador da varânca do erro n n uˆ ˆ σ ε n ( y ˆ β ˆ β x ) n

20 Modelo de regressão lnear smples Decomposção do erro Méda da varável dependente (valor observado) - ^ - (valor estmado pela reta) ^ - ^ (resíduo) ^ b + b (reta de regressão)

21 Modelo de regressão lnear smples Decomposção do erro SQT N ( ) SQT é a soma dos quadrados dos desvos de em relação a sua méda, logo SQT é uma medda da varação total da varável dependente.

22 Modelo de regressão lnear smples Decomposção do erro SQR N ( ˆ ) SQR é a soma dos quadrados dos desvos entre a reta de regressão e a méda da varável dependente. ^ corresponde as estmatvas defndas pela reta de regressão SQR é uma medda da varação total da varável dependente explcada pela regressão.

23 Modelo de regressão lnear smples Decomposção do erro SQE N ( ) ˆ SQE é a soma dos quadrados dos desvos de em relação a reta de regressão (resíduos). SQE expressa a parcela da varação de não explcada pela reta de regressão. ^ corresponde as estmatvas defndas pela reta de regressão

24 Modelo de regressão lnear smples Decomposção da soma de quadrados total N N N ( ) ( ) ( ) $ + $ SQT SQE + SQR SQT Soma de Quadrados Total SQR Soma de Quadrados da Regressão SQE Soma de Quadrados dos Erros (Resíduos) N é o total de observações na amostra

25 Modelo de regressão lnear smples Coefcente de determnação R SQR SQT N ( ˆ ) N SQE ( ) SQT R Se R estver próxmo de, a varável x explca a maor parte das varações de y. Neste caso, a varável x é uma boa predtora da varável y. Se R estver próxmo de, a varável x explca muto pouco das varações de y. Neste caso, a varável x não é uma boa predtora da varável y.

26 Modelo de regressão lnear smples Análse da varânca (ANOVA) F SQR SQE ( N ) R SQR SQT σˆε Estmador da varânca do erro

27 Modelo de regressão lnear smples Análse da varânca (ANOVA) No exemplo da transportadora tem-se que Resultados gerados pelo Excel R,76, ou seja, 76% da varação do rendmento é explcada pela equação de regressão 8,8484,64 SQR SQE SQT equação de regressão 8,8484,64

28 Modelo de regressão lnear smples Inferênca Estatístca Modelo de regressão lnear smples: β + β + ε Teste t Avala a sgnfcânca do coefcente de regressão lnear assocado com uma determnada varável explcatva. H : β ( ausênca do efeto ) H : β ( presença do efeto ) Sob H ˆ β t > t t crítco rejeta H ~ tn ˆ σ ˆ β Estatístca teste t < t crítco aceta H t crítco é um valor tabelado para um nível de sgnfcânca α, no Excel use INVT(alfa;N-)

29 Modelo de regressão lnear smples Inferênca Estatístca (teste t) No exemplo da transportadora tem-se que Resultados gerados pelo Excel H : β H : β Estatístca teste t ˆ β ~ tn ˆ σ ˆ β Ao nível de sgnfcânca α de 5% o valor tabelado (t crítco ) de uma t com (4-) 38 graus de lberdade é,4 INVT(,5;38) Valor absoluto do t calculado maor que t crítco, logo H é rejetada. ˆβ ˆ ˆ β ˆ β,64 σ t, 95 ˆ,55 σ ˆ β t calculado

30 Exemplo modelo de regressão lnear smples Inferênca Estatístca (teste t) No exemplo da transportadora tem-se que Regão de rejeção Dstrbução t H : β H : β Regão de rejeção blateral -,4,4 t ˆ β ˆ σ ˆ β t calculado -,95 t crítco INVT(,5;38)

31 Exemplo modelo de regressão lnear smples Inferênca Estatístca (teste t e valor p) O valor p (p-value) fornece uma forma dreta de decdr entre a rejeção e a não rejeção da hpótese nula H P-valor é a probabldade de encontrar um valor para a estatístca teste mas extremo que o valor calculado para a estatístca teste (t calculado ). Se o valor p é menor que os níves usuas de sgnfcânca (% ou 5%) devemos conclur pela rejeção da hpótese nula Cálculo do valor p no exemplo da transportadora: No Excel DISTT(,95;38;) t calculado -,95 valor p P(t mas extremo que t calculado ) P (t -,95 ou t,95),9e-3 Probabldade muto pequena e menor que o nível de sgnfcânca adotado (5%), logo a hpótese nula (H) deve ser rejetada H : β H : β

32 Exemplo modelo de regressão lnear smples Inferênca Estatístca (teste t e p-valor) Resultados gerados pelo Excel Valor p menor que o nível de sgnfcânca adotado (5%), logo a hpótese nula (H) deve ser rejetada

33 Modelo de regressão lnear smples Inferênca Estatístca (ntervalo de confança) Intervalo de confança (-α)% ˆ β ˆ σ t β ˆ β + ˆ σ β α β t α No exemplo da transportadora tem-se que Valores tabelados Resultados gerados pelo Excel O ntervalo -,76 β -,49 tem 95% de confança de conter o valor do coefcente de regressão da varável peso

34 Modelo de regressão lnear smples Prevsão do valor esperado Eˆ β ˆ + βˆ Prevsor ( h h ) h ε E Eˆ ˆ β β + ˆ β β Erro de prevsão ( ) ( ) ( ) ( ) h h h h h h Vˆ Intervalo de prevsão ( ) h ( ε ) ˆ h σ ε + N N ( ) [ E$ ( ) t V ( ), E$ ( ) t V ( )] h h c εh h h + c εh

35 Modelo de regressão lnear smples Prevsão de uma observação Dado T+h prever T+h Prevsor ˆ ˆ h β + h ε ˆ β ˆ β ˆ β + β ˆ β + u ( ) ( ) Erro de prevsão h h h h h Intervalo de prevsão Vˆ ( ) h ( ε ) ˆ h σ ε + + N N ( ) [ $ t V ( ), $ t V ( )] h c εh h + c εh

36 Modelo de regressão lnear smples Intervalo de prevsão de uma observação Intervalo de prevsão do valor esperado

37 Exemplo modelo de regressão lnear smples no Excel ) Matrz de dados para regressão lnear smples varável dependente ) No menu Ferramentas escolha a varável ndependente opção Análse de dados 4) Informe os dados para regressão na caxa de dálogo 3) Na caxa de dálogo escolha a opção Regressão e clque em Ok

38 Exemplo modelo de regressão lnear smples no Excel Intervalo com os valores da varável ndependente Intervalo com os valores da varável dependente Caxa de dálogo regressão Rótulos: nomes das varáves Marque se tem rótulo Gráfco dos resíduos contra a varável explcatva Grava resultados da regressão em uma nova planlha Apresenta a sére de resíduos ˆ Gráfco para avalar se a hpótese de normaldade do erro é satsfeta Gráfco com os valores observados e prevstos

39 Exemplo modelo de regressão lnear smples no Excel Planlha de Resultados R R Valor P < 5% rejeto H no teste F Valor P P(F>4,349), α β Valor P Valor P ˆ ˆ P( t >4,9345), Valores para a plotagem de probabldade normal P( t >,495),638 Intervalo de confança Valor P < 5% rejeto H no teste F - 4,9345 4,9345

40 Exemplo modelo de regressão lnear smples no Excel Gráfcos na planlha de Resultados Resíduos - Plotagem de resíduos Útl na verfcação da hpótese de normaldade do erro (valores ao redor de uma reta magnára ndcam que a hpótese de normaldade não fo volada) Plotagem de probabldade normal Útl na verfcação da hpótese de varânca constante do erro Valores observados contra valores estmados Útl na avalação da qualdade do ajuste 6 5 Plotagem de ajuste de lnha Percentl da amostra 4 3 Prevsto(a) 3 4 5

41 Regressões que se tornam lneares por anamorfose As especfcações a segur são não-lneares, mas podem se tornar lneares por anamorfose, ou seja, medante alguma transformação das varáves. (exponencal) β β ε ln Modelo lnear ln β + ln β + * lnε * * β + β + v * ln * β ln β β v lnε * ln β (potênca) (hpérbole) β β ε β + β + ε ln ln β + β ln + * * * Modelo lnear β + β * lnε + v β + β + ε * * ln * ln β β v ln lnε * Modelo lnear (polnomal) A substtução de varáves é válda, pos a relação entre e é não lnear β + β + β + ε Modelo regressão lnear múltpla + β + β β + ε

42 Modelo de regressão lnear múltpla

43 A varável dependente é uma função lnear de K varáves ndependentes (K ) K k ε β β β β K Notação matrcal,n β + ε N M k k N kn L M β β β β M k ε N ε ε ε M Modelo de regressão lnear múltpla β, β, β 3,..., β k, σ são parâmetros do modelo que devem ser estmados [ ] k K ε β β β + M L,,,N Na regressão lnear smples (K), um caso partcular da regressão lnear múltpla

44 Hpóteses assumdas pelo modelo de regressão lnear múltpla Bascamente, são as mesmas hpóteses assumdas na regressão lnear smples H) A relação entre as varáves é lnear y β + β x + β x β k x k + ε,n. H) A varável explcatva é fxa, ou seja, não é aleatóra. H3) As colunas da matrz são lnearmente ndependentes, ou seja, não há uma relação lnear perfeta entre duas ou mas as varáves explcatvas. H4) Erros tem méda nula: E(ε ) para todo,n. H5) Varânca do erro é constante (homocedastcdade): V(ε ) σ para todo,n. H6) Erros não correlaconados: Cov(ε,ε k ) para todo k. H7) Erros tem dstrbução Normal: ε ~ N(,σ ) para todo,n. H,H3,H4 e H5 ε são ndependentes e dentcamente dstrbuídos N(,σ )

45 ( ) T T ˆ β N K N K N K N K N k N N N N k N N N N K N N T N O M L Estmador de Mínmos Quadrados Ordnáros (MQO) Modelo de regressão lnear múltpla N K N N N T y x y x y x y M Equação de projeção [ ] k K K k y E y β β β β β β ˆ ˆ ˆ ˆ ˆ ˆ ) ˆ ( ˆ M L K

46 Estmador de mínmos quadrados Propredades do estmador de mínmos quadrados E ( ˆ β ) β Estmador não tendencoso Σ ( ) ( ) ˆ β σ T ˆ β ~ N σˆ SQE N k ( ( ) ) T β σ K +, Matrz de covarânca dos estmadores O vetor de estmadores tem dstrbução normal multvarada ˆ β j ~ N ( β, σ a ) j jj Cada βˆ tem dstrbução normal j a jj elemento da dagonal prncpal da nversa de Se as hpóteses H até H6 forem satsfetas, o estmador de mínmos quadrados é o melhor estmador lnear não tendencoso (Teorema de Gauss Markov)

47 Exemplo modelo de regressão lnear múltpla (KUTNER et al, 4) Uma empresa de artgos nfants opera em cdades de médo porte. A empresa está analsando a possbldade de expansão em outras cdades de médo porte e para sso deseja nvestgar se a vendas () em uma localdade podem ser predtas com base no número de pessoas com até 6 anos de dades ( ) e a renda per capta na localdade ( ). Valores expressos em mlhares. Atualmente a empresa está presente em localdades (N ), cujos dados são apresentados na tabela abaxo: 68,5 6,7 74,4 45, 6,8 64,4 9,3 8, 44, 47,8 6,3 54,6 46,9 7,3 8,6 66, 8, 7,5 49,5 5,9 5,8 5 7, 63, 48,9 6,6 45,4 38,4 6 37, 87,9 8,3 4,9 7,8 7, 9, 88,4 7,4 3 4,9 5,8 45,3 5,5 7,8 6, 85,7 8,4 9,7 4,3 6,5 46,4 5,7 6, ,6 8, 3,6 8,7 9, 4, 5,3 6 66, Modelo de regressão lnear múltpla a ser estmado β + β + β + ε

48 Exemplo modelo de regressão lnear múltpla Os dados das localdades podem ser dspostos em um gráfco, onde cada localdade é representada por um ponto. A equação de regressão (, ) β + β + E β defne um plano passando pelo meo da nuvem de pontos. Este plano representa o valor esperado das vendas em função da renda e da população abaxo de 6 anos em uma localdade vendas renda população

49 Exemplo modelo de regressão lnear múltpla Modelo de regressão lnear + β, + β, β + ε Estmação dos coefcentes de regressão por mínmos quadrados Dados T,.3,4 36,.3, ,94.69,9 36,.69,9 6.9,6 74,4 64,4 44, 54,6 8,6 7,5 5,8 63, 45,4 37, 4,9 9, 3 45,3 6, 9,7 46,4 44 3,6 4, 66,5 68,5 6,7 45, 6,8 9,3 8, 47,8 6,3 46,9 7,3 66, 8, 49,5 5,9 5 7, 48,9 6,6 38,4 6 87,9 8,3 7,8 7, 88,4 7,4 4,9 5,8 5,5 7,8 85,7 8,4 4,3 6,5 5,7 6,3 89,6 8, 8,7 9, 5,3 6 ( ) 9,789,7 -,996,7,4 -,55 T -,996 -,55,363 ( T ) ˆ T β T 3.8, , ,75 ˆ β ˆ β ˆ β Equação estmada 68,86 +,45 + 9, 37 68,857,4546 9, ε

50 Exemplo modelo de regressão lnear múltpla Gráfcos dos resíduos contra cada varável explcatva e a varável explca exbe um padrão aleatóro e a dspersão parece constante e, portanto, estão coerentes com as hpóteses (pressupostos) de covarâncas nulas entre os erros e varânca do erro constante.

51 Exemplo modelo de regressão lnear múltpla O gráfco de probabldade normal índca que a dstrbução dos resíduos é normal, portanto, coerente com a hpótese (pressuposto) de dstrbução normal para o erro.

52 Modelo de regressão lnear múltpla Inferênca Estatístca no Modelo de Regressão Lnear Análse da varânca - ANOVA R SQR SQT N N ( ˆ ) ( ) F QMR QME SQR SQE k [ N ( k +) ] R ( R ) N N k

53 Exemplo modelo de regressão lnear múltpla Construção da ANOVA para o exemplo da cadea de lojas de roupas juvens ˆ + 68,857 +,4546 9, 3655 SQE SQR SQT

54 Exemplo modelo de regressão lnear múltpla Construção da ANOVA para o exemplo da cadea de lojas de roupas juvens Fonte de varação Regressão Resíduo Total Soma dos quadrados (A) SQR 45,8 SQE 8,93 SQT 696, Graus de lberdade (B) Quadrado médo (CA/B) 7,64 7,64 /.66 99,35 N-38,66 N- ANOVA F R Coefcente de varáves explcatvas determnação R SQR 45.8, 97 SQT 696, 3 coefcentes estmados Por sso N 3 O quadrado médo do resíduo é uma estmatva da varânca do erro σˆε

55 Modelo de regressão lnear múltpla Teste t H : β j H : β j Inferênca Estatístca t bj ~ t N k ˆ σ β j ( + ) t t tabelado rejeta H Teste F H : β β β 3... β k H : pelo menos um β j F SQR k SQE N ( k +) F Ftabelado rejeta H

56 Exemplo modelo de regressão lnear múltpla Modelo de regressão lnear Estmatvas dos erros padrão dos coefcentes de regressão S ˆ σ ˆ σ ˆ σ ˆ β ˆ ˆ ˆ ˆ ββ ββ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ β σ σ σ σ ββ β ε ββ ˆ σ ˆ ˆ ˆ σ ˆ ˆ ˆ σ β β β β ˆ β b + b, + b, Resultado na ANOVA,66 ( T ) + ε 9,789,7 -,996,7,4 -,55 -,996 -,55,363 S β 3.6,347 8,7459-4,43 8,7459,449 -,674-4,43 -,674 6,558 Varâncas na dagonal prncpal Covarâncas fora da dagonal prncpal Erros padrão dos estmadores dos coefcentes de regressão (valores nformados pelo ajuste de regressão no Excel) ˆ σ β ˆ σ ˆ ˆ β ˆ σ β ˆ σ ˆ ˆ β ˆ σ β ˆ σ ˆ ˆ β 36,347 6,7,449,8 6,558 4,64

57 Exemplo modelo de regressão lnear múltpla Inferênca do modelo Teste F: Testa o efeto conjunto das varáves explcatvas sobre a varável dependente. H : b b ( não há regressão de em e ) H : b ou b ( presença do efeto ) ) Estatístca teste F F N SQR K SQE.7,64,66 ( + ) ( K +) 3) Valor da estatístca teste na amostra observada (F calculado ) 99,35 ) Dstrbução da estatístca testes sob H N SQR K SQE ( K + ) ~ F K, N ( K + ) 4) F crítco ao nível de sgnfcânca de 5% 3,5546 FINV(,5;;8) no Excel 5) Conclusão F calculado > F crítco logo rejeta H Dstrbução F

58 Exemplo modelo de regressão lnear múltpla Teste t: Testa a sgnfcânca do coefcente de regressão lnear assocado com uma determnada varável explcatva. H : b ( ausênca do efeto ) H : b ( presença do efeto ) Inferênca do modelo ) Estatístca teste ) Dstrbução da estatístca testes sob H t bˆ ˆ σ ˆ β bˆ ~ t 3 ˆ N σ ˆ β Dstrbução t 3) Valor da estatístca teste na amostra observada (t calculado ) 4) t crítco ao nível de sgnfcânca de 5%, TINV(,5;8) no Excel t,4546,8 6,868 5) Conclusão t calculado > t crítco logo rejeta H

59 Exemplo modelo de regressão lnear múltpla Teste t: Testa a sgnfcânca do coefcente de regressão lnear assocado com uma determnada varável explcatva. H : b ( ausênca do efeto ) H : b ( presença do efeto ) Inferênca do modelo ) Estatístca teste ) Dstrbução da estatístca testes sob H t bˆ ˆ σ ˆ β bˆ ~ t 3 ˆ N σ ˆ β Dstrbução t 3) Valor da estatístca teste na amostra observada (t calculado ) 4) t crítco ao nível de sgnfcânca de 5%, TINV(,5;8) no Excel t 9,3655 4,64,345 5) Conclusão t calculado > t crítco logo rejeta H

60 Exemplo modelo de regressão lnear múltpla Intervalos 95% de confança para os coefcentes da equação de regressão t N bˆ b ˆ σ ( K + )(,5% ) tn ( K + )(,5% ) K número de varáves ndependentes N tamanho da amostra b Dstrbução t 95% 68,857 b,, 94,948 b 57,339 6,7,4546 b,,,96 b,8995,8 9,3655 b,,,874 b 4,64 7,936

61 R ajustado Problema com a estatístca R : sempre aumenta a medda que novas varáves são ncluídas no modelo de regressão lnear múltpla, ndependentemente da varável adconada. No entanto cada varável adconada ao modelo tem um custo, pos mas um coefcente deve ser estmado. Então é nteressante ter uma medda que permta avalar o benefíco para melhora do modelo com a adção de uma nova varável explcatva em relação ao custo de estmar mas um coefcente. Esta medda é o R ajustado R ajustado n R n k ( ) Onde n é o tamanho da amostra K é o número de parâmetros da equação de regressão. O R ajustado é útl quando desejamos comparar dos modelos dferentes ou comparar um mesmo modelo com tamanhos de amostras dferentes

62 Modelo de regressão lnear múltpla Prevsão Dado x T h [ L ] h h kh Prevsão do valor esperado da varável dependente dado Eˆ ( h ) ˆ β ˆ β ˆ + h + K + β k kh prevsão s x T h S βˆ x h Erro padrão das prevsões Prevsão do valor da varável dependente dado ˆ h ˆ β ˆ K + βh + + s prevsão ˆ β k T xh S ˆ x β h kh + σˆ Quadrado médo dos resíduos Valor obdo na ANOVA

63 Exemplo Calcule a prevsão das vendas esperadas nas cdades A e B: Cdade A número de pessoas com até 6 anos de dades ( ) : 65,4 renda per capta na localdade ( ) : 7,6 T x h [ 65,4 7,6] Cdade B número de pessoas com até 6 anos de dades ( ) : 53, renda per capta na localdade ( ) : 7,7 T x h [ 53, 7,7] Prevsão da venda esperada na cdade A E( ) Prevsão da venda esperada na cdade B E( ) 68,86 +,45 65,4 + 9,37 7,6 9, 68,86 +,45 53, + 9,37 7,7 74,5

64 Exemplo Intervalos de confança para as vendas esperadas nas cdades A e B: Cdade A número de pessoas com até 6 anos de dades ( ) : 65,4 renda per capta na localdade ( ) : 7,6 T Cdade B número de pessoas com até 6 anos de dades ( ) : 53, renda per capta na localdade ( ) : 7,7 T x h x h [ 65,4 7,6] [ 53, 7,7] Resultado da ANOVA slde 5 ˆ,66 σ ε S β Matrz de covarâncas dos estmadores slde ,347 8,7459-4,43 8,7459,449 -,674-4,43 -,674 6,558 Erro padrão das estmatvas slde 6 Cdade A,35 prevsão s x T h S βˆ x h Cdade B,93

65 Exemplo Intervalos de confança para as vendas esperadas nas cdades A e B: prevsão α E( ) é a méda das vendas dado ( ) prevsão+ t s tn ( k+ ) s prevsão E N ( k+ ) α prevsão Valor crítco da t com N-(k+) graus de lberdade ao nível de confança -alfa, podem ser obtdos no Excel, por exemplo, para 95% de confança INVT(,5;8), cujo valor é aproxmadamente, ( ) 4, 9 67,3 E ( ) 99, 49, E Cdade A Cdade B Note que os ntervalos de confança tem grande ampltude apesar do elevado R (,9), portanto, valores elevados de R não garantem necessaramente prevsões precsas

66 Exemplo modelo de regressão lnear múltpla no Excel ) Matrz de dados para regressão lnear múltpla varável dependente varável ndependentes ) No menu Ferramentas escolha a opção Análse de dados 4) Informe os dados para regressão na caxa de dálogo 3) Na caxa de dálogo escolha a opção Regressão e clque em Ok

67 Exemplo modelo de regressão lnear múltpla no Excel Intervalo com os valores da varável ndependente Intervalo com os valores da varável dependente Caxa de dálogo regressão Rótulos: nomes das varáves Marque se tem rótulo Gráfco dos resíduos contra a varável explcatva Grava resultados da regressão em uma nova planlha Apresenta a sére de resíduos ˆ Gráfco para avalar se a hpótese de normaldade do erro é satsfeta Gráfco com os valores observados e prevstos

68 Exemplo modelo de regressão lnear múltpla no Excel ˆβ ˆβ ˆβ

69 Exemplo modelo de regressão lnear múltpla no Excel Gráfcos na planlha de Resultados Plotagem de resíduos Plotagem de resíduos Resíduos 3,,,, -, -, -3, Resíduos 4,,, -, -4, Plotagem de ajuste de lnha Plotagem de ajuste de lnha Prevsto(a) 3 3 Prevsto(a)

70 Exemplo modelo de regressão lnear múltpla no Excel Gráfcos na planlha de Resultados 3 Plotagem de probabldade normal 5 5 Percentl da amostra

71 Problemas que podem acontecer em um modelo de regressão lnear Multcolneardade: Quando há relações lneares exatas ou aproxmadamente lneares entre as varáves explcatvas, a redundânca entre as varáves pode resultar em estmatvas com valores elevados para o erro padrão ou mpossbltar a estmação dos coefcentes de regressão no caso de relações lneares exatas. Heterocedastcdade: A varânca do erro não é uma constante, (volação da hpótese de homocedastcdade). Não raro acontece quando a amostra de observações é um corte transversal de undades com tamanhos heterogêneos. Na presença de heterocedastcdade o estmador MQO permanece não tendencoso, mas dexa de ser o melhor estmador. Nestas stuações deve-se utlzar o métodos mínmos quadrados ponderados (MQP). Autocorrelação: Os erros são autocorrelaconados, volação da hpótese de covarânca nula entre os erros. Problema frequente quando a amostra de dados é formada por séres temporas. Na presença de autocorrelação seral dos erros o estmador MQO permanece não tendencoso, mas dexa de ser o melhor estmador. Nestas stuações deve-se utlzar o métodos mínmos quadrados generalzados (MQG).

72 Multcolneardade Ocorre quando qualquer varável ndependente é altamente correlaconada com um conjunto de outras varáves ndependentes. No caso extremo, uma varável ndependente guarda uma relação lnear com outra varável ndependente. Neste caso não é possível obter as estmatvas de mínmos quadrados. Consequêncas da multcolneardade: Estmatvas mas mprecsas Erros-padrão maores Dfculdade da separação dos efetos de cada varável Soluções para contornar a multcolneardade. Coletar mas dados Elmnar varáves Usar componentes prncpas para reduzr a dmensão dos dados

73 Avalação da Multcolneardade ) Coefcentes de correlação smples entre as varáves ndependentes ) Tolerânca: quanta de varabldade da varável dependente não explcada pelas outras varáves ndependentes. Valores altos sgnfcam um pequeno grau de multcolneardade. Tolerânca R k, se menor que, ndca multcolneardade Onde R k é o coefcente de determnação da varável ndependente k nas demas varáves ndependentes. 3) Fator de nflação da varânca (VIF): é o nverso da tolerânca. Valores altos sgnfcam maores níves de multcolneardade. VIF / Tolerânca, se maor do que já ndca multcolneardade

74 Referêncas Bblográfcas Hanke, J.E.; Wchern, D.W. Pronóstcos en los negocos, Naucalpan de Juárez: Pearson Educaton de Méxco, 6. Kutner, M.H.; Nachtshem, C.J.; Neter, J. Appled lnear regresson models, New ork: McGraw-Hll Irwn, 4.