Econometria: 3 - Regressão Múltipla

Transcrição

1 Ecoometra: 3 - Regressão Múltpla Prof. Marcelo C. Mederos mcm@eco.puc-ro.br Prof. Marco A.F.H. Cavalcat cavalcat@pea.gov.br Potfíca Uversdade Católca do Ro de Jaero PUC-Ro

2 Sumáro O modelo de regressão lear múltpla Itrodução Defção e termologa Iterpretação Estmação Iterpretação revstada Qualdade do ajuste Propredades estatístcas Referêcas bblográfcas Wooldrdge, capítulo 3 Stoc e Watso, capítulo 5

3 Regressão Múltpla Itrodução Modelo de regressão lear smples Defção + + u Maor desvatagem: Não é muto adequado para modelar relações Ceters Parbus etre varáves, pos dfclmete E u E u Modelo de regressão lear múltpla Ajuda a ecotrar relações Ceters Parbus etre varáves. Melhora o ajuste ao dados. Maor flebldade

4 Regressão Múltpla Defção e Termologa Sejam e,..., + varáves represetado alguma população. O objetvo é eplcar em fução de,...,, ou seja, como vara de acordo com mudaças em,...,. 3 potos mportates: Dado que ão há uma relação precsa etre e,...,, como levar em cota outros fatores que afetam? Qual a relação fucoal etre e,...,? Como capturar uma relação ceters parbus etre e,..., se for o caso?

5 Regressão Múltpla Defção e Termologa Solução: Cosdere a segute equação relacoado e,..., u Esta equação lear é cohecda como modelo de regressão múltpla. Termologa: : varável depedete, varável eplcada, varável de resposta, varável prevsta, regressado, saída, efeto. : varáves depedetes, varáves eplcatvas, varáves de cotrole, predtores, regressores, etradas, causas. u: erro, dstúrbo ou ruído.

6 Regressão Múltpla Defção e Termologa A varável u represeta: todos os outros fatores além de,..., que afetam a varável ; erros de medção; forma fucoal adequada e erete varabldade os agetes ecoômcos. Em aálse de regressão múltpla também cosderamos que u é ão-observável.

7 Regressão Múltpla Defção e Termologa Algumas premssas sobre a varável u: Méda ula E u Méda codcoal ula E u,, K, E u A correlação etre o erro e as varáves eplcatvas é NUA!

8 Regressão Múltpla Iterpretação Repare que se todos os outros fatores além de,..., são matdos fos u, etão Pela aalse da equação acma verfca-se que os coefcetes medem a relação ceters parbus etre a varável depedete e as varáves eplcatvas. Se, por eemplo, 3 u

9 Regressão Múltpla Estmação dos Parâmetros Como estmar os parâmetros,,..., a equação de regressão múltpla? Seja É ecessáro uma amostra da população! {, K,, :,, }, K uma amostra aleatóra de tamaho da população. Como esta amostra veo do modelo u pode-se escrever u

10 Estmação dos Parâmetros Método dos Mometos Como utlzar os dados para estmar os parâmetros? Deve-se lembrar que ogo, E,, E, u u u K [ ] [ ] [ ] E E E E M

11 Estmação dos Parâmetros Método dos Mometos Portato, os dados amostras podem ser utlzados para solucoar o problema 3 M

12 Estmação dos Parâmetros Mímos Quadrados Ordáros Da mesma forma que a regressão lear smples os estmadores são chamados de estmadores de mímos quadrados e podem ser estmados por meo da mmzação da soma do quadrado dos resíduos: As codções de prmera ordem são,,,, K u M

13 Mímos Quadrados Ordáros Propredades Algébrcas dos Estmadores A soma dos resíduos, e coseqüetemete a méda, é ZERO. u A covarâca amostral etre os regressores e os resíduos é ZERO mplcado que u u u O poto,, K,, está sempre sobre a reta de mímos quadrados.

14 Mímos Quadrados Ordáros Propredades Algébrcas dos Estmadores A varável depedete pode ser decomposta em dos termos: o valor estmado e o resíduo da regressão, sto é + Pela decomposção acma ota-se que a méda da varável depedete estmada é gual a méda da própra varável depedete. A covarâca amostral etre os resíduos e o valor estmado da varável depedete é ZERO, mplcado que u u

15 Regressão Múltpla Iterpretação Revstada Cosdere um modelo com apeas duas varáves eplcatvas. Portato, O estmador do parâmetro pode ser escrto como ode r são os dstúrbos erros da regressão de em. Qual a terpretação para o coefcete? u r r

16 Mímos Quadrados Ordáros Qualdade do Ajuste Defa Soma total dos quadrados SST Total Sum of Squares SST Soma dos quadrados ajustados SSE Eplaed Sum of Squares SSE Soma dos quadrados dos resíduos SSR Resdual Sum of Squares SSR u

17 Mímos Quadrados Ordáros Qualdade do Ajuste Pela defção de SST, SSE e SSR, chegase a segute relação SST SSE + SSR Como a regressão smples pode-se defr R o coefcete de determação ou R R SSE SST SSR SST ATENÇÃO: a medda que ovas varáves são cluídas o modelo de regressão lear múltpla o valor do R uca decresce!

18 Mímos Quadrados Ordáros Propredades Estatístcas dos Estmadores Algumas hpóteses mportates: H Modelo populacoal é lear H Uma amostra aleatóra de tamaho + u {, K, :,, }, K pode ser costruída a partr do modelo populacoal. H3 Méda codcoal ula E u,, K, E u H4 Não este coleardade perfeta etre as varáves eplcatvas Nehuma varável é costate e ão há relação lear etre as varáves H5 Homocedastcdade Var u σ

19 Mímos Quadrados Ordáros Propredades Estatístcas dos Estmadores Teorema : sob as hpóteses H - H4 os estmadores de mímos quadrados ordáros são ão-tedecosos, sto é E E E M E

20 Mímos Quadrados Ordáros Propredades Estatístcas dos Estmadores O que acotece quado varáves rrelevates são cluídas o modelo? Cosdere que o modelo abao teha sdo especfcado u Cosdere ada que o efeto de 3 em, após a clusão de e o modelo, seja ulo. Isto é, 3 E,, 3 E, E, + + Mas a prátca ão se sabe a pror que 3. O que acotecerá com os estmadores?

21 Mímos Quadrados Ordáros Propredades Estatístcas dos Estmadores O que acotece quado varáves relevates ão são cluídas o modelo? Os estmadores serão vesados tedecosos. O vés é geralmete chamado de vés de varáves omtdas. Cosdere o segute modelo populacoal u Agora, supoha que o modelo estmado a varável ão fo cluída ~ ~ ~ + ~

22 Mímos Quadrados Ordáros Propredades Estatístcas dos Estmadores Vés de varáves omtdas cotuação Pode-se mostrar que ode ~ ~ E δ + δ ~

23 Mímos Quadrados Ordáros Varâca dos Estmadores Teorema : sob as hpóteses H - H5 a varâca dos estmadores é dada por σ Var j SST R j j ode SST j j j e R j SSE j SST j j j j j

24 Mímos Quadrados Ordáros Varâca dos Estmadores Três fatores fluecam a varâca dos estmadores Varâca do erro Varação de j Grau de relação lear etre as varáves eplcatvas

25 Mímos Quadrados Ordáros Varâca do Erro Como estmar σ? σ SSR u Teorema 3: sob as hpótese H - H5 E σ σ

26 Mímos Quadrados Ordáros Teorema de Gauss-Marov Teorema 4: sob as hpóteses H - H5 os estmadores de MQO são BUE best lear ubased estmators, sto é, são os melhores estmadores, o setdo de possuírem meor varâca maor efcêca, detro da classe dos estmadores leares e ão-vesados. Todos os estmadores Estmadores leares Estmadores ão-tedecosos MQO