Econometria. Econometria MQO MQO. Resíduos. Resíduos MQO. 1. Exemplo da técnica MQO. 2. Hipóteses do Modelo de RLM. 3.

Transcrição

1 3. Ajuste do Modelo 4. Modelo Restrito Resíduos Resíduos 1

2 M = I- X(X X) -1 X Hipóteses do modelo Linearidade significa ser linear nos parâmetros. Identificação: Só existe um único conjunto de parâmetros que produz E[y x]. Média condicional zero Forma da matriz de variância covariância Hipóteses sobre a distribuição de probabilidade. Linearidade do Modelo f(x 1,x,,x K,β 1,β, β K ) = x 1 β 1 + x β + + x K β K Notação: x 1 β 1 + x β + + x K β K = x β β. E[y x] = β 1 *1 + β *x + + β K *x K. (β 1 *1 = intercepto). Linearidade Modelo linear simples, E[y x]=x β Modelo Quadrático: E[y x]= α + β 1 x + β x Modelo Loglinear, E[lny lnx]= α + Σ k lnx k β k Modelo Semilog, E[y x]= α + Σ k lnx k β k Modelo Translog: E[lny lnx]= α + Σ k lnx k β k + (1/) Σ k Σ l δ kl lnx k lnx l Todos modelos são lineares e existe um infinito número de variações de modelos lineares.

3 Linearidade Linearidade significa ser linear nos parâmetros, não nas variáveis E[y x] = β 1 f 1 ( ) + β f ( ) + + β K f K ( ). f k () pode ser qq função dos dados. Exemplos: Logs Variáveis Dummy Funções quadráticas, interações, etc. Unicidade da média condicional A relação da média condicional pode ser válida para qualquer conjunto de n observações, i = 1,,n. Se n K E[y 1 x] = x 1 β E[y x] = x β E[y n x] = x n β Para todas n observações temos que : E[y X] = Xβ = E β. Unicidade de E[y X] Suponha que exista um γ β que produz o mesmo valor esperado, E[y X] = Xγ = Eγ. Se δ = β - γ. Temos que: Xδ = Xβ - Xγ = Eβ - Eγ = 0. Isto é possível? X é uma matriz n K. O que significa Xδ = 0? Por hipótese, isto não é possível. Hipótese de posto cheio hipótese de identificação. Podemos estimar β com n K. Dependência Linear Exemplo: x = [i, renda não trabalho, renda do trabalho, renda total] Não existe dependência linear: Nenhuma variável pode ser escrita como uma função linear de outras variáveis do modelo. Condição de identificação. A teoria não necessariamente elimina a possibilidade de dependência linear, contudo, é importante para fazer a estimação possível. y = β 1 + β N + β 3 S + β 4 T + ε, onde T = N+S. y = β 1 + (β +a)n + (β 3 +a)s + (β 4 -a)t + ε para qualquer a, = γ 1 + γ N + γ 3 S + γ 4 T + ε. O que está sendo estimado? Não eliminamos a possibilidade de dependência não linear. Ex: x e x. Média condicional zero O y observado é igual a E[y x] + variável aleatória. y = E[y x] + ε (distúrbio) Existe alguma informação sobre ε em x? Ou seja, algum movimento em x dá informação sobre ε? Caso sim, não especificamos corretamente a média condicional, a função E[y x] não é a média condicional (não é a regressão populacional) Existe informação sobre ε em outras variáveis. Se E[ε x] 0 segue que Cov[ε,x] 0. Violação da hipótese de independência Média condicional zero E[ε todos dados em X] = 0 E[ε X] = 0 é mais forte que E[ε i x i ] = 0 O segundo diz que o conhecimento de x i não dá nenhuma informação sobre a média de ε i. O primeiro diz que nenhum x j dá informação sobre o valor esperado de ε I. nenhuma informação é similar a nenhuma correlação. 3

4 Homocedasticidade e não Autocorrelação Distribuição Normal de ε Var[ε X] = σ I. Var[ε] = σ I? Prova: Var[ε] = E[Var[ε X]] + Var[E[ε X]]. Usada para facilitar as derivações de estatísticas de testes em amostras finitas. Derivação das distribuições exatas das estatísticas t, F. O Modelo Linear y = Xβ+ε, N observações, K colunas em X, incluindo a coluna de um. Hipóteses sobre X Hipóteses sobre ε X E[ε X]=0, E[ε]=0 and Cov[ε,x]=0 Regressão? Se E[y X] = Xβ Aproximação: projeção linear. 3. Ajuste do Modelo Ajuste da Regressão Variação: No contexto do modelo, significa a variação de uma variável como resultado do movimento de outra variável Variação total = y M 0 y = M 0 = I i(i i) -1 i = transforma uma matriz em desvios com relação a média. n (yi - y) i=1 Decomposição da Variação de y Decomposição: y = Xb + e M 0 y = M 0 Xb + M 0 e = M 0 Xb + e. (Desvios com relação à média. M 0 e = e ) y M 0 y = b (X M 0 )(M 0 X)b + e e = b X M 0 Xb + e e. (e M 0 X = e X = 0.) Uma das colunas de X é i. Soma quadrado total = Soma quadrado da regressão (SSR)+Soma quadrado dos resíduos (SSE) 4

5 Medida de ajuste Adicionando variáveis R = b X M 0 Xb/y M 0 y = e'e Regression Variation 1 = Total Variation N (y i= 1 i y) R é limitado a zero e um sss: (a) Existe um termo constante em X e (b) O método utilizado é o. R nunca é reduzido quando uma variável z é adicionada na regressão: R Xz = R X + * ( 1 RX ) ryz Adicionando variáveis ao modelo Modelo 1: Mínimos Quadrados (OLS), usando as observações (n = 0) Observações omissas ou incompletas foram ignoradas: 790 Variável dependente: wage Coeficiente Erro Padrão razão-t p-valor const -598,93 53,45-11,485 <0,00001 *** educ 19,3177,749 8,4940 <0,00001 *** age 8,835 1, ,4181 <0,00001 *** fatheduc 5, ,8408 3,381 0,001 *** motheduc 5,68477,19016,5956 0,00950 *** Média var. dependente 589,8140 D.P. var. dependente 65,1151 Soma resíd. quadrados 1,6e+08 E.P. da regressão 38,574 R-quadrado 0, R-quadrado ajustado 0, F(4, 15) 131,951 P-valor(F) 9,8e-101 Log da verossimilhança ,33 Critério de Akaike 3061,66 Critério de Schwarz 30641,19 Critério Hannan-Quinn 3063,08 Adicionando variáveis ao modelo Modelo : Mínimos Quadrados (OLS), usando as observações (n = 0) Observações omissas ou incompletas foram ignoradas: 790 Variável dependente: wage Coeficiente Erro Padrão razão-t p-valor const -53,135 54,643-9,6405 <0,00001 *** educ 18,9735,567 8,4076 <0,00001 *** age 8,053 1, ,031 <0,00001 *** fatheduc 3, ,85614,1438 0,0316 ** motheduc 4,5957,1851 1,9494 0,05138 * black -89,008 14,6514-6,088 <0,00001 *** Média var. dependente 589,8140 D.P. var. dependente 65,1151 Soma resíd. quadrados 1,4e+08 E.P. da regressão 36,6553 R-quadrado 0,04969 R-quadrado ajustado 0,03174 F(5, 14) 114,1597 P-valor(F) 1,4e-107 Log da verossimilhança -158,90 Critério de Akaike 30577,80 Critério de Schwarz 3061,04 Critério Hannan-Quinn 30590,31 R ajustado R = 1 - [(n-1)/(n-k)](1 - R ) R inclui uma penalidade para variáveis que não acrescentam muito ao ajuste do modelo. Pode cair quando uma variável é incluída no modelo. R ajustado O que está sendo ajustado? Penalidade por estar inserindo mais variáveis explicativas. R R = 1 - [e e/(n K)]/[y M 0 y/(n-1)] = 1 [(n-1)/(n-k)(1 R )] 5

6 Transformações lineares dos dados Como uma transformação linear pode afetar os resultados derivados do? Com base em X, b = (X X) -1 X y. Os coeficientes de y regredido em Z são c = P -1 b Valor predito é Zc = XPP -1 b = Xb. O mesmo!! Resíduos: y - Zc = y - Xb. Os mesmos!! Soma quadrado dos resíduos idêntica y-xb = e = y-zc. R será igual pois R = 1 - e e/y M 0 y (!!). Transformação Linear Xb é a projeção de y no espaço coluna de X. Zc é a projeção de y no espaço coluna de Z. Mas, como as colunas de Z são simplesmente combinações linearers das de X, o espaço coluna de Z deve ser idêntico ao de X. Consequentemente, a projeção de y em Z será igual a em X. Quais implicações práticas deste resultado? Transformação não afeta o ajuste do modelo. Transformação afeta as estimativas. Se b é uma estimativa de β, c não pode ser a estimativa de β - será a estimativa de P -1 β. Outras medidas de Ajuste Inclui penalidade de grau de liberdade. Critério de Informação Amemiya: [e e/(n K)] (1 + K/n) Akaike: log(e e/n) + K/n 3. Ajuste do Modelo 4. Modelo Restrito 6

7 sujeito a restrições Restrições: A teoria impõe algumas restrições aos parâmetros do modelo. Algumas implicações Eliminar algumas variáveis da equação = alguns coeficientes b serão iguais a 0. ( A variável é significativa? ) Algumas condições adicionais: Soma de coeficientes pode ser igual a um valor fixo. Restrições de igualdade: Certos coeficientes podem ser iguais a outros coeficientes. Formulação comum: Minimizar a soma quadrado dos resíduos, e e, sujeito a uma restrição linear Rb = q. sujeito a restrições Min Y Xβ k β R Rβ = q Min L* = (Y - Xβ ) (Y - Xβ ) + λ ( Rβ q) L * = 0 β L * = 0 λ 7