Notas de Aulas Econometria I- EPGE/FGV Eduardo P. Ribeiro, Do ponto de vista estatístico, quero que a média do y seja dada pelo modelo linear:

Transcrição

1 Noas de Aulas Economeria I- EPGE/FGV Eduardo P Ribeiro, 008 *Hipóeses do Modelo Clássico de Regressão Linear (0) Modelo é linear => y i = α + β x i + + β k x ki + ε i Do pono de visa esaísico, quero que a média do y seja dada pelo modelo linear: E [y x i,,x k ] = E [y X] = α + β x + + β k x k + E[ε X] = α + β x i + + β k x ki Iso implica em E[ε X] = 0 Em ouras palavras: () E [ε i ] = 0, média do erro é zero () E [X i ε i ] = 0, o erro é independene das explicaivas x j (para j=,k) (3) As variáveis explicaivas X,,X k não são combinações lineares enre si Ouras hipóeses feias no Modelo Clássico de Regressão Linear (4) V [ε i X] = σ, erros êm variância consane (5) E [ε i ε j ] = 0, i j, erros são independenes enre si (6) ε i ~ iid N ( 0, σ ) Todavia, apenas (0) e (3) são imporanes para esimação por Mínimos Quadrados Já na esimação por Máxima Verossimilhança, (0)-(6) são imporanes Obs: Pela hipóese dos erros serem independenes enre si, E(ε i ε j ) = 0 = Cov(ε i ε j ) *Como achar os coeficienes do modelo? Mínimos Quadrados: Para achar α e β, busco errar pouco no desenho da rea de regressão Ou seja, enho de minimizar os erros (ao quadrado): Vejamos as condições de a ordem: Min L(α, β, y, x ) <-> Min (y i α β x i - - β k x ki ) (i) L/ α = Σ (y i a b x - - b k x k )(-) = 0 (ii) L/ β = Σ (y i a b x - - b k x k )(-x ji ) = 0 para j =,,k Noe que (i) implica que Σ e i = 0 Já (ii) implica que, Σ e i x ji = 0 para j =,,k Compare com a hipóese (), que afirma que x e ε são orogonais Se esa hipóese não é válida, os coeficienes β k não serão bem esimados

2 Resolvendo as condições de a ordem (escrias em noação maricial): (i) X ε = 0 (ii) X (Y X b) = 0 Temos que: X Y X X b = 0 -> b = (X X) - X Y No caso da consane, em paricular, emos a parir da condição de primeira ordem: n a = Σ y i b Σ x ji - b k Σ x ki -> a = Y bx A hipóese (3) é indispensável ao modelo Desa forma não há como er a mariz inversa (X X) - Se as explicaivas são combinações lineares enre si, de(x X) = 0, e, porano, não será possível calcular a inversa da mariz Méodo dos Momenos (MM): Noe que podemos enconrar α e β se parimos de () e (), ajusados para uma amosra E[ε i ] = 0 -> n - Σe i = 0 E [X i ε i ] = 0 -> n - Σ[X i e i ] = 0 que são condições de primeira ordem de mínimos quadrados ordinários (MQO) Obs: Noe que, em regressão simples (k=), a fórmula do esimador de b, ou seja, b=σ(y i m y )x i / Σ(x i m x ), que é equivalene à formula mais conhecida: b=σ(y i m y )(x i m x ) / Σ(x i m x ), onde m x = n - Σ x i, e m y = n - Σ y i, ou seja, a média amosral de x e y, respecivamene Avaliação da Regressão Dividindo a variabilidade da variável dependene, a parir da idenidade y i ŷ i + e i e das condições de primeira ordem do problema de mínimos quadrados: SQT = SQE + SQR n n y m = yˆ m + e ( i y ) ( y ) n i= i= i= i Pode-se consruir o coeficiene de deerminação (R ): R = SQE / SQT = SQR/SQT Obs: como o próprio nome diz, R = (Cor(y i ; ŷ i ))

3 Teses de Hipóeses Para eses de hipóeses é necessário idenificar quais as propriedades esaísicas do veor de coeficienes esimados b, ou seja, sua média, sua variância e sua disribuição: Propriedades do Esimador de MQO Y = Xβ + ε b = (X X) - (X Y) E[b X] = E[(X X) - X (Xβ + ε) X] = E[(X X) - X Xβ X] + E[(X X) - X ε X] = E[β X] + E[(X X) - X ε X] = β + (X X) - X E[ε X ] = β Foram uilizadas as seguines hipóeses sobre o erro: () E [ε i ] = 0, média do erro é zero () E [X i ε i ] = 0, o erro é independene das explicaivas x j (para j=,k) V[b X] = E [(b E[b])( b E[b]) X] = E [(β + (X X) - X ε β) (β + (X X) - X e β) X] = E [((X X) - X ε)( ε X (X X) - X) = (X X) - X E[εε X]X (X X) - = σ (X X) - X I X (X X) - = σ (X X) - Foram uilizadas as hipóeses sobre o erro: () E [ε i ] = 0, média do erro é zero ()E [X i ε i ] = 0, o erro é independene das explicaivas x j (para j=,k) (3) V [ε i X] = σ, erros êm variância consane (4) E [ε i ε j ] = 0, i j, erros são independenes enre si Que em noação maricial podem ser escrias como ε ε ε E [εε ] = E ε nε ε ε ε ε ε ε n n σ 0 = 0 0 σ 0 = σ I σ Noe que a V(b) é uma mariz (k+)x(k+) V ( a) Cov( ba) V(b) = Cov( bk a) Cov( ab ) V ( b ) Cov( ab V ( b k ) k ) Na práica, σ pode ser esimado por s = (n (k+)) - Σe i 3

4 Por fim, como o esimador de MQO (ou MM) é uma função linear de y, que é uma função linear de ε, pela hipóese (6) e a propriedade da disribuição Normal, b X~N(β, σ (X X) - ) Com iso, podemos er o resulado a parir das propriedades (se Z j ~ N(0,), para j =,,p independene, Lembrando que Z + Z + + Z p ~χ p ), (b β) [σ (X X) - ] - (b β)~χ p Para ransformações lineares de b, aravés de uma mariz R,, iso é Rb=r podemos escrever (Rb-r) [Rσ (X X) - R ] - (Rb-r)~χ p Noe que o poso de Rb é dado por p, se R em amanho p X (k+) Para usar o resulado empiricamene, necessiamos de uma esimaiva de σ, que é dada por s como definido acima Desa forma, pode-se escrever F= (R βˆ -r) [R(X X) - R ] - (R βˆ -r)/p ~ F p, n-k- SQR /(n-k-) Oura forma de escrever a expressão acima, explora a diferença enre SQR de dois modelos, um resrio (onde a hipóese, ou condição Rb=r é imposa), SQR r, e um irresrio SQR i, em que o modelo é esimado livremene O SQR i nada mais é do que a soma dos quadrados dos resíduos empregado para calcular a variância dos erros F= (SQR r SQR i )/p ~ F p, n-k- SQR i /(n-k-) Exemplos de Teses de Hipóeses: a) Rβ = r B = [ A β β β3 β4 ] Ho: β = 0 R [ ] B A β β β 3 β 4 = β = r = 0 4

5 b) Rβ = r B = [ A β β β3 β4 ] Ho: β = 0 β = 0 R B A β β β 3 β 4 0 = 0 c) Ho: β = β -> β β = 0 [ 0-0 0] A β β β 3 β 4 = [ 0 ] Tese de Hipóeses: ) Tese de significância de um coeficiene angular Ho: β j = 0 β j 0 T= b j 0 ~ n-(k+) (V(b j )) / ) Tese ANOVA Ho: β = β = = β k = 0 Ha: pelo menos um diferene de zero F= (SQR r SQR i )/p ~ F p, n-k- SQR i /(n-k-) onde SQR r é baseado em um modelo resrio (sob H 0 ), que nese caso é y i = α + ε i, e SQR i é baseado em um modelo irresrio (sem imposição de hipóese alguma) 5

6 Ou F= (R )/p ~ F p, n-k- (-R ) /(n-k-) Resulados em Grandes Amosras Muias vezes não emos como avaliar as propriedades dos esimadores usando valor esperado Desa forma, o second bes passa a ser avaliar as propriedades dos esimadores em um condição ideal de uma amosra crescene (aé o infinio) Para iso emprega-se o conceio de convergência de esimadores e resulados esaísicos da forma de Teorema Cenral do Limie Convergência de esimadores: a medida que aumena n, variância de um esimador cai Isso implica queda da margem de erro do esimador e em uma amosra hipoeicamene infinia, o esimador passa a er apenas o valor do parâmero na população Teorema Cenral do Limie: Somas de variáveis aleaórias independenes padronizadas êm uma disribuição que se aproxima da Normal Padrão, à medida que a amosra aumena A disribuição da média da população em disribuição Normal Esimadores lineares, como os coeficienes de MQO, êm disribuição Normal A disribuição da média ende a ser simérica V ( X ) = (σ x/n) / Lembrando: Tese de Hipóeses: ERRO TIPO : rejeio Ho e Ho é verdadeiro (alfa) ERRO TIPO : aceio Ho e Ho é falso Realidade \ Decisão Aceio Ho Rejeio Ho Ho verdadeiro ( α) nível de confiança Erro do ipo I (α) (amanho do ese / nível de significância) Ho falso Erro do ipo II (β) ( β )(poência/poder do ese) 6

7 Como aumenar o poder do ese: aumena-se o amanho da amosra e, com isso, aumena-se a segurança (vou me aproximar do alfa verdadeiro) Variáveis Explicaivas Binárias (Dummies) Quando há variáveis qualiaivas como explicaivas, não devemos incluí-las usando uma escala numérica qualquer, pois variáveis qualiaivas não são cardinais Desa forma, para uma variável qualiaiva com D caegorias deve ser incluída na regressão aravés de D- variáveis binárias (dummy) Para eviar que a mariz X deixe de ser poso compleo usamos apenas D- variáveis explicaivas (a chamada dummy rap) Por exemplo, considere uma regressão rendimenos, com gênero (Masculino e Feminino) como explicaiva y i =α+β(gênero) i +ε i Há duas caegorias e escolhemos uma delas para a dummy (no caso, feminino) Cria-se uma variável F i ={ se gênero=fem; 0 se gênero=masc} A regressão passa a ser y i =α+βf i +ε i A quesão mais imporane é a inerpreação dos coeficienes: lembrando, que sob as hipóese do MCRL a rea de regressão é a média condicional, emos E(y masc)= α (pois nese caso, F i =0) e E(y fem)= α+β Com iso, β=e(y fem) E(y masc), ou seja a diferença de médias enre a caegoria analisada e aquela excluída na consrução da(s) dummy(ies) No caso de mais de uma variável qualiaiva, devem ser incluídas variáveis dummies para cada uma, manendo a regra de exclusão de uma das caegorias de cada uma das variáveis do grupo de dummies que é incluída na regressão Em adição, deve-se considerar a possibilidade de ineração enre as dummies das diferenes variáveis qualiaivas Esa possibilidade pode ser desconsiderada no caso de independência enre as qualiaivas Por exemplo y i =α+β(gênero) i +γ(cor) i +ε i, onde cor={branco; Não-Branco} Criando B i ={ se cor=branco; 0 se cor=não-branco}, emos a regressão múlipla: y i =α+βf i +γb i +ε i onde E(y Masc, NBranco)= α E(y Fem, NBranco)= α +β E(y Masc, Branco)= α +γ E(y Fem, Branco)= α +β +γ e com iso, a inerpreação dos coeficienes é β= E(y Fem, NBranco) E(y Masc, NBranco) β= E(y Fem, Branco) E(y Masc, Branco) e γ= E(y Masc, Branco) E(y Masc, NBranco) γ= E(y Fem, Branco) E(y Fem, NBranco) 7

8 Como há duas inerpreações de β, pode-se concluir que gênero é independene de cor, para que as duas expressões de β sejam válidas Por exemplo, para o caso de gênero, β= E(y Masc, NBranco) E(y Fem, NBranco)= E(y Masc) E(y Fem) No caso de ineração enre as dummies (não independência), emos o seguine modelo y i =α+βf i +γb i + δ F i B i +ε i onde E(y Masc, NBranco)= α E(y Fem, NBranco)= α +β E(y Masc, Branco)= α +γ E(y Fem, Branco)= α +β +γ + δ As diferenças passam a ser β= E(y Fem, NBranco) E(y Masc, NBranco) γ= E(y Masc, Branco) E(y Masc, Branco) e δ= [E(y Fem, Branco) E(y Masc, Branco) ] [ E(y Fem, NBranco) E(y Masc, NBranco) ] Inerpreação dos coeficienes de regressão (quando esimadas por MQO) Maemaicamene, não há dúvidas na inerpreação de β k no modelo de regressão y i = α + β x i + + β k x ki + ε i, pois y/ x k =β k (efeio da mudança de x k sobre y, manidos os ouros faores x e ε consanes) Noe que ε/ x k =0, ou seja, o erro não depende de x k Como é a inerpreação nas esimaivas, viso que as explicaivas em geral são correlacionadas? Considere uma regressão múlipla com k= (para simplificar a exposição, desconsidere a consane) Y = β X + β X + ε Como inerprear b? Quando b é obido aravés da fórmula de MQO na regressão múlipla: [b b ] = b=(x X) - X Y Volando às condições de primeira ordem X e=0, ou X (Xb Y)=0 ou (X X) b (X Y)=0 Expliciando o coneúdo do veor b, as duas condições para esimação podem ser escrias como ou (X X ) b + (X X ) b (X Y)=0 (X X ) b + (X X ) b (X Y)=0 (A ) b + (A ) b (X Y)=0 (A ) b + (A ) b (X Y)=0 8

9 Resolvendo na primeira equação para b = A - A b + A - (X Y) e subsiuindo na segunda equação (A )[ A - A b + A - (X Y)] + (A ) b (X Y)=0 [(A ) A A - A ]b [ A A - (X Y)+ (X Y)]=0 [X X (X X ) (X X ) - X X ]b [X (X X ) (X X ) - X ] Y=0 [X (I X (X X ) - X )X ]b X (I X (X X ) - X )Y=0 [X M X ]b (X M Y)=0 b =[X M X ] - (X M Y) Mas o que é a mariz M? Tomemos o caso geral: e=y Xb = Y X(X X) - X`Y = (I X(X X) - X`)Y, ou seja, e=m X Y Dois resulados: MM=M (idempoene) e M =M (simérica) Com iso, podemos escrever b =[X M M X ] - (X M M Y) b =[(M X ) (M X )] - [(M X ) (M Y)] onde M X = resíduos de uma regressão de X em X, ie, X = δx + erro e M Y= resíduos de uma regressão simples de Y em X, ie, Y = α X + erro Ou seja, como os resíduos represenam a informação (variabilidade) de X não conida em X (ou seja X limpo de qualquer possível relação linear com X ), o coeficiene b pode ser inerpreado como o efeio de X sobre Y, limpo de qualquer efeio direo e indireo de X sobre Y e X, respecivamene Em ouras palavras, b mede o efeio de X sobre Y, manidos fixos as ouras variáveis incluídas na regressão Noe que, por suposição, como X é independene do erro, as variáveis que compõe o erro são consideradas fixas, em ermos de média condicional ambém Para complear a compreensão, vejamos o caso oposo, ou seja, em um modelo de regressão múlipla, qual o efeio de omiirmos uma variável explicaiva relevane (que faz pare do modelo De modo simérico, vamos considerar que a variável X será omiida O modelo passa a ser Y = β X + erro e com iso o esimador de mínimos quadrados b* =(X `X ) - (X Y) Seu valor esperado é E[b* ]= E[(X `X ) - (X Y)= E[(X `X ) - X (X β + X β + ε)] = β + (X `X ) - X X β + E[(X `X ) - X ε] = β + (X `X ) - X X β = β + δ β onde δ é o coeficiene da regressão de X em X (a regressão reversa do íem anerior), iso é, X = γ X + erro Noe que o esimador de b* nese caso é viesado, exceo no caso de X e X serem independenes (pois assim δ=0) Um modo de inerprear o resulado seria: Se a regressão é múlipla, e esimamos uma regressão simples, a esimaiva obida é uma misura do efeio direo e do efeio indireo da variação de X k de ineresse Usando o exemplo acima, definimos E[b* ]= β + γ β Efeio direo Efeio indireo 9

10 Ou, por meio de uma figura, β X Y γ δ β X Tese para Quebra Esruural: Amosra se divide em dois grupos, onde os grupos possuem modelos de regressão diferenes: y i = α + β X i + ε i i =, m yi = α + β X i + εi i = m +, n Sob Ho: (não há quebra esruural) Y i = α + β X i + ei i =, n Ho: α = α e β =β Ha: α α e β β Ou Ho: α α = 0 Ha: α α = 0 ou β β = 0 β β 0 Usando variáveis dummies iremos colocar as duas equações em uma só, combinando os modelos Defina Colocando no modelo: d i = {0, se i =,, m;, se i = m+,n} y i = γ 0 + γ X i + γ d i + γ 3 (d i X i ) + ε i Se a observação perence à primeira pare dos dados, emos: 0

11 y i = γ 0 + γ X i + ε i i =, m Se a observação perence à segunda pare dos dados, emos: y i = (γ 0 + γ ) + (γ + γ 3 )X i + ε i Ou seja, α = (γ 0 + γ ) e γ = (γ + γ 3 ) Iso implica que a hipóese nula pode ser reescria como Ho: γ = 0 e γ 3 =0 e esada aravés da esimação dos modelos resrios e irresrio: F = (SQRr (SQR + SQR )) / (SQR + SQR ) (n (k +))/ (k+) Onde SQR é a soma dos quadrados dos resíduos do primeiro modelo (i=,, m) e SQR é a soma dos quadrados dos resíduos do segundo modelo (i=m+,, n) SQR r é a soma dos quadrados dos resíduos do modelo resrio, onde há igualdade de coeficienes enre grupos, e =,, n Obs: quando há poucas observações, pode ser que a conclusão de quebra esruural seja conradiório enre um modelo com dummies de inercepo e ouro com dummies de inercepo e inclinação Iso é: Rodando o modelo, o coeficienes γ e γ 3 não são significaivos, mas esimando um modelo apenas com γ ele é significaivo e esimando um modelo apenas com γ 3 ele é significaivo ambém

12 Mulicolinearidade Mulicolinearidade Perfeia: violação da hipóese As variáveis explicaivas X,,X k não são combinações lineares enre si Em ouras palavras, o poso da mariz X não é k+ Nese caso, não é possível ober esimaivas por MQO Mulicolinearidade: alíssima correlação enre variáveis explicaivas Iso não gera esimaivas viesadas ou alera a forma da mariz de variância-covariância Mas infla os desvios padrões de cada coeficiene (pela mariz (X X) - er ermos muio grandes) Ese é o problema da mulicolinearidade Com iso, passa a ser comum er (pares) de coeficienes com esaísicas pequenas, mas com eses F conjunos de exclusão rejeiados Ese é o sinoma de mulicolinearidade Ouro modo de idenificar, seria aravés do cálculo do FIV(b k )=/( R k ), o faor de inflação da variância de um parâmero b k e onde R k é o coeficiene de deerminação da regressão de x k em x,, x k- Se ese for alo, é possível que o problema da mulicolinearidade eseja presene Diz-se possível, pois um alo FIC não é condição necessária nem suficiene para o problema de mulicolinearidade, já que pode-se demonsrar que V(b k )=σ /(S kk ( R k )), onde S kk = Σ(x ki m xk ), O que ocorre é que há duas variáveis explicaivas com o mesmo coneúdo informacional (variabilidade similar, ie, alamene correlacionada) Com iso, o méodo de mínimos quadrados não consegue disinguir enre os efeios direos e indireos das variáveis Embora haja soluções dias ad-hoc como o méodo de ridge regression e o uso de análise faorial, alvez o mais razoável seja pensarmos no problema e idenificarmos qual variável (denre aquelas que em, na práica, a mesma informação) é a mais imporane e/ou a mais represenaiva Heerocedasicidade Heerocedasicidade: violação da hipóese do MCRL: V [ε i X] = σ, erros êm variância consane Agora, V [ε i X] = σ i = f(γ 0 + γ z i + + γ pz pi ) Como esa hipóese é imporane para demonsrar que V(b)=σ (X X) -, se violarmos a hipóese de homocedasicidade, os pacoes esaísicos irão errar no cálculo do desvio padrão dos coeficienes e errar nos valores dos eses de hipóese Ese é o problema da heerocedasicidade O esimador de MQO ainda irá gerar esimaivas não viesadas Na verdade, V(b) = (X X) - X ΩX(X X) -, onde Ω é uma mariz diagonal com elemeno da diagonal igual a σ i Para idenificar o problema, é necessário fazer eses de especificação Ese é o diagnósico Os eses mais comuns são os de Whie e de Breush- Pagan, que são equivalenes, a grosso modo O ese busca avaliar a heerocedasicidade, aravés de um ese de H 0 :homocedasicidade; H a :heerocedasicidade ou

13 H 0 : γ ==γ p =0 O ese supõe que f( ) acima é linear, que uma esimaiva de σ i pode ser dada por e i Os eses diferem pela hipóese de z: alguns usam as variáveis x, ouros usam as variáveis x e seus quadrados Uma vez idenificado o problema de heerocedasicidade, a solução êm duas formas Primeiro, o uso de uma mariz de variância-covariância dos coeficienes ajusada para heerocedasicidade (a chamada Mariz de Whie) que é uma esimaiva de V(b) = (X X) - X ΩX(X X) -, implemenada no EViews, como uma opion em Leas Squares na hora de Esimae Equaion Segundo a ransformação das variáveis explicaivas e explicadas, para ober, de modo indireo, esimaivas por mínimos quadrados generalizados (MQG ou GLS em inglês) O problema de MQG é ober esimaivas de β, al que, dado E(εε )=Ω, MQG: Min β Σε w ou Min (Y - Xβ) Ω - (Y - Xβ) b GLS = (X Ω - X) - (X Ω Y) com V(b GLS ) = (X Ω - X) - b GLS pode ser calculado aravés de ransformação das explicaivas e explicadas, al que b GLS = (X * X * ) - (X * Y * ), onde X * = PX Y * = PY e onde P P = Ω Para o caso de heerocedasicidade, a sugesão é muliplicar cada observação por (/s i ), onde s i é obido a parir da esimação do ese de Whie/Breush- Pagan, em um processo ineraivo Todavia, é possível demonsrar que ese méodo de MQG facível gera esimaivas viesadas, quando emos o caso usual de σ i desconhecido O melhor é a esimação por Máxima Verossimilhança, se sabemos a disribuição dos erros e a forma da heerocedasicidade Auocorrelação Auocorrelação: violação da hipóese: E [ε ε -s ] = 0, para s > 0, como por exemplo, ε = ρ ε - + υ, onde υ é ruído branco) Nese caso E(εε )=Ω, Como esa hipóese é imporane para demonsrar que V(b)=σ (X X) -, se violarmos a hipóese de independência dos erros, os pacoes esaísicos irão errar no cálculo do desvio padrão dos coeficienes e errar nos valores dos eses de hipóese Ese é o problema da auocorrelação O esimador de MQO ainda irá gerar esimaivas não viesadas Na verdade, V(b) = (X X) - X ΩX(X X) -, onde Ω é uma mariz complexa (desenvolvida abaixo) Para idenificar o problema, é necessário fazer eses de especificação Ese é o diagnósico Os eses mais comuns são os de Durbin-Wason e de Breush-Godfey Para enender o ese, vamos especificar uma forma de classificação dos erros auorregressivos Há o caso geral de ε = ρ ε - +ρ ε - + +ρ p ε -p + υ 3

14 chamado de modelo auoregressivo de ordem p (AR(p)) A regressão é sem consane, pois maném-se a hipóese de que E[ε ]=0) Para o caso especial de p=, ε = ρ ε - + erro, H 0 : não há auocorrelação, => Ho: ρ = 0 O ese de DW em uma abela específica, e o ese é calculado por DW = T = ( e e ) T e = ~ ( pˆ ) onde r = Σ T =(e - e - ) /(Σ Τ =e - ), ou seja, uma regressão do resíduo em função do resíduo defasado um período A regra de decisão é :Rejeiamos Ho se DW < D (Lower); Aceiamos Ho se DW > D (Upper) e Inconclusivo se D (lower) < DW < D (upper), onde D(upper) e D(lower) são os valores abulados Para o ese de Breusch-Godfrey, esimamos uma regressão do resíduo conra o residuo defasado p vezes e as explicaivas e fazemos um ese F da significância dos coeficienes angulares dos resíduos defasados Obs: se as explicaivas não incluem a dependene defasada Y -, enão o ese pode ser calculado da regressão de e conra e -,, e -p apenas e pode-se usar o F de significância Para enender melhor a mariz de variância-covariância, omemos o caso de um modelo de regressão com erros AR(): Y = X β + ε, com ε = ρ ε - + u, onde u ~ iid (0, σ ) Temos que b = (X X) - X Y, como sempre, mas V(b) σ (X X) - e na verdade, V(b) = (X X) - X ΩX(X X) -, onde ε ε ε Ω = E [εε ] = E ε nε ε ε ε ε ε ε n n ρ Ω = σ u/(- ρ ) T ρ ρ ρ T ρ ρ ρ T T ρ As soluções para ober boas esimaivas de β e esimaivas de V(b) correas são, primeiro, o uso de um mariz de variância-covariância que acomoda a Auocorrelação (ambém chamada mariz de Newey-Wes, e apresenada como opção no Eviews na esimação por LS); segundo o uso de MQG, aravés de ransformação das variáveis explicaivas e explicada Ou seja, como anes, em heerocedasicidade, o problema de MQ é Min (Y - Xβ) Ω - (Y - Xβ), que gera esimaivas b GLS = (X Ω - X) (X Ω Y), com 4

15 V(b GLS ) = (X Ω - X) - Esas podem ser obidas aravés de b GLS = (X * X * ) - (X * Y * ), onde X * = PX Y * = PY e onde P P = Ω Para o caso de auocorrelação de primeira ordem (para regressão simples) ( r) X * ( r) = ( r) x x 3 rx rx x T rx T y ry Y * = y T ry T + Há dois modos alernaivos a MQG O primeiro é o méodo de Máxima Verossimilhança O segundo é uma Transformação do Modelo de regressao Tomando o exemplo de regressão simples, y = α + β x + ε e ε = ρ ε - + u (*) onde u ~ iid (0, σ ) e =,, T Subsiuindo ε = y - α - β x na segunda equação, emos: Y α β X = ρ (Y - α β X - ) + u Y = α( ρ) + ρ Y - + β X ρ β X - + u (**) Y = α + ρ Y - + β 0 X β X - + u O erro do modelo (**) é independene no empo, ie, não em auocorrelação Por iso, pode ser esimado por MQO sem problemas Noe que se β = ρ β 0, o modelo (**) pode ser escrio como (*) O modelo (**) é chamado ADL(,) Auoregressive Disribued Lag de ordem e Inerpreação dos coeficienes: E [Y Y -, X, X - ] = α + ρ Y - + β 0 X β X - E [Y ]/ X = β 0 (curo prazo) lim T-> E [Y ]/ X = (β 0 + β )/( ρ) (longo prazo), onde ρ < Para enender, lembre-se que, no seady-sae (longo prazo), y = y - = = y e x = x - = = x na média da regressão Subsiuindo na expressão da média condicional, Y = α +ρ Y+ β 0 X β X e Y = α/( ρ) + (β 0 + β )X/( ρ) Obs: O caso geral de ADL(p,q) é 5

16 Y = α + ρ Y ρ p Y -p + β X + + β q X -q + u 6

17 MODELOS ARIMA: Pariremos do caso mais simples: AR() = > Y = β Y - + ε ou Y = α + β Y - + ε onde ε ~ N(0, σ e ) A idéia é que E[Y I - ] = E [Y / Y - ] = α + β Y - No AR(p) a memória é mais longa, no senido de que Y - não resume perfeiamene a rajeória de Y Subsiuindo, Y = α + β [α + β Y - + ε - ] + ε = α + β α + β Y - + ε + β ε - = α + β α + β α + β 3 Y -3 + ε + β ε - = α + β α + β α + β 3 Y -3 + ε + β ε - + β ε - Mas, + β + β = Σ j=0 β j Y = α ( + β + β ) + β Yo + Σ j=0 β j ε -j Assim, Y depende do que aconece em oda a hisóia Todavia, na modelagem, olhamos só o Y -, pois ese sineiza o passado Usando as hipóeses do modelo de regressão, emos: Se T foi grande e β < : Pois Σ j=0 p j = / ( - β) E[Y ] = E[ α Σ j=0 p j ] + E [β Yo ] + E[Σ j=0 p j ε (-j) ] = α Σ j=0 p j + β Yo + Σ j=0 p j E[ε (-j) ] = α Σ j=0 p j + β Yo E [Y] = α / ( β), (PG infinia) Obs: se β = => E [Y ] = α + Yo, pois Σ j=0 j = T 7

18 Vejamos agora a variância: V[Y ] = E [(Y E[Y ] ] = E[(Σ j=0 p j E[ε (-) ])] O quadrado da soma do elemeno acima é: E [(Σ j=0 (p j ) + Σ j=0 ε (-j) + Σ j=0 Σ j l p j p l ε (-j) ε (-) ] Se β =, V [Y ] = σ e = Σ j=0 p j σ e Se β <, V [Y ] = σ e/ - β, pois a ordem da PG é β Se β < e T é grande, os momenos de Y não dependem do empo Em ouras palvras, a variável é esacionária E [Y ] = α + β E [Y - ] + E [ε ] E [Y] = α + β E [Y] + E [ε] E [Y] ( - p) = α -> E [Y] = α / ( - β) Vejamos agora a covariância: Generalizando: Assim, Cov (Y, Y - ) = E [(β Y - + ε E[Y])( β Y (-) + ε - E [Y])] De onde vem o I de ARIMA? = β σ e / β = β V[Y] Cov (Y, Y (-s) ) = β S V[Y] Cor (Y, Y - ) = β Y = Y - + ε Vem da inegração, em que a variável Y em de ser rabalhada pela soma de Y e Y - Z = Δ Y = Y Y - = ε, diferenciou-se a série em primeira ordem Z = β Z β p Z (-p) + ε + O ε O q ε (-q) 8

19 Ese é um ARIMA (p,, q) Oura visão de ARIMA(p,,q): Caso exremo de auocorrelação: Raízes uniárias Vimos que se o coeficiene auoregressivo for igual a, a variável será não-esacionária, ou dia inegrada de ordem É imporane esar esa hipóese: Y = ρ Y - + ε Ou ΔY = (ρ ) Y - + ε ΔY = α + Y - + ε H o : ρ = Η o : α = 0 > H a : ρ < Η a : α < 0 A abela para comparara a esaísica de ese do coeficiene α não é a Normal (ou ) e sim uma abela específica, chamada Dickey-Fuller Se a ordem de Y for ARIMA(p,d,q), p>, q>0, usamos o ese ADF, no modelo abaixo: Raiz Uniária: ΔY = a Y - + Σ j ρ = β j ΔY -j + ε Η o : α = - há raiz uniária Η a : α < - não há raiz uniária Modelos Dinâmicos: Ese é um modelo ADL (,) Y = α + ρ Y - + β X + β 0 X - + u Onde u ~ (0, σ u) ou Auoregressive Disribued Lags (,) O caso geral de ADL(p,q) é Y = α + ρ Y ρ p Y -p + β X + + β q X -q + u Transformando o ADL, emos o MCE ou o modelo de correção de erros(vide laboraório 7) ΔY = α + β 0 Δ X ( - ρ) [ Y - - δ X - ] + ε onde δ = (β 0 + β )( - ρ) 9

20 Coinegração: ΔY = α + β 0 Δ X ( - ρ)ε - + ε Porque modelo de correção de erros Digamos que a endência de longo prazo de ΔY = ΔY * = 0,0 ΔY = 0,05 > ΔY * -> ε > 0 u > 0 -> ΔY + < ΔY * pois ( - ρ) u < Vimos que se ρ = em um modelo ADL ou se o coeficiene auoregressivo de erro da regressão for igual a um não haverá análise de longo prazo Assim, é imporane esar se as relações econômicas são válidas (esáveis) no longo prazo, iso é, se as variáveis do modelo são coinegradas Lembrando: Se Y ~ I(), Y é não-esacionária (ou inegrada de primeira ordem) Enão, Y - Y = ΔY ~ I(0), ou seja, é esacionária No nosso caso emos: Y ~ I() e X ~ I() Se Y - β X = u ~ I(0) Enão u é esacionário ou coinegrado -> Para esar coinegração, fazemos um ese ipo ADF nos resíduos do modelo esáico (ese Engle-Granger) Y = α + β X + ε Ho: ρ = não há coinegração Há: ρ < há coinegração ε = ρ ε - + u VAR: Y β X = ε (Esaísica) Y = β X - ε (Economia) X e ε independenes (Economeria) Se X e ε não são independenes, não podemos usar MQO (ou MQG) para esimar β 0

21 Hipóese alernaiva para séries de empo: X -p e ε independenes (p>0) Y -p e ε independenes Y = α + β Y - + β X - + ε X = α + β Y - + β X - + ε Y X α β = + α β β Y β X ε + ε VAR() E[ X X - Y - ] E[ X X - ] -> Causalidade de Granger X = α + β Y - + ε X = α + β (β X - + ε ) + ε (verifica-se correlação enre consumo e renda, mas iso quer dizer que consumo causa renda?) X = α + (β β) X - + erro (não há causalidade de Granger) O modelo acima implica que X = α + β Y - + β X - + ε β = 0 pois Y - é apenas uma proxy de X - X = a + X - + b Y + b Y - + erro Y = a + γ Y - + γ 0 X + γ X - + v X = a + γ X - + γ 0 Y + γ Y - + v γ 0 γ 0 Y X a = a γ + γ γ Y γ X v + v G 0 Z = A + G Z - + V Z = C o - A + C o - G Z - + C o - V Z = α + β Z - + ε Δ Y = β (,) Δ Y - + β (,) Δ C - + β (,3) Δ Y - + β (,4) Δ C - + β (,5) Δ Y = β (,) Δ Y - + β (,) Δ C - + β (,3) Δ Y - + β (,4) Δ C - + β (,5)

22 H o : renda não causa consumo H a : renda causa consumo