IV Regressão e correlação IV.4. (cont.) Significância Estatística e Regressão Múltipla

Transcrição

1 IV Regressão e correlação IV.4. (cont.) Significância Estatística e Regressão Múltipla

2 Significância Estatística Existe uma estatítica, o t-estatístico,associado a cada estimativa O t-estatístico mede a distância do valor estimado a zero em termos de desvio padrão Se o valor do t-estatístico for igual ou superior a 2 em valor absoluto, então o coeficiente associado tem significância estatística

3 Cálculo de t-estatístico O t-estatístico é igual ao valor da estimativa do coeficiente a dividir pelo desvio padrão do coeficiente. Porque existe um desvio padrão associado a cada coeficiente da regressão linear? O que significa ter significância estatística? Acreditamos que o coeficiente é diferente de zero para um determinado nível de confiança.

4 Exemplo: Golfe e Performance Regressão linear entre performance financeira da empresa e golfe handicap do CEO da empresa (amostra de 51 empresas das 500 maiores da Fortune) Handicaps and Corporate Performance y = x R 2 = Performance Handicap

5 Excel Output: Golfe e Performance SUMMARY OUTPUT Regression Statistics Multiple R R Square A djusted R Square Standard Error Observations 51 ANOVA df SS MS Regression Residual Total CoefficientsStandard Error t Stat Intercept Handicap

6 Problema Geral em Estatística Os dados provêm de uma amostra retirada da população Usamos características da amostra como estimativa das características da população Uma amostra diferente implica estimativas diferentes

7 Caso de Golfe e Performance Com uma amostra diferente de CEOs, não obteríamos uma estimativa de O desvio padrão da estimativa mede a precisão com que a estimativa é feita Existe uma probabilidade de cerca de 95% de que a estimativa esteja até 2 desvios padrão do verdadeiro valor do parâmetro

8 Distribuição do valor do coeficiente associado a Handicap Seria uma surpresa se o verdadeiro valor do declive fosse igual a zero? 2 H 4

9 Detalhes sobre t-estatístico* Calculado como o valor da estimativa do coeficiente a dividir pelo desvio padrão do coeficiente estimado O t-estatístico tem distribuição t com N - k - 1 graus de liberdade, sendo k o número de variáveis explicativas O valor de t é aproximadamente igual a 2 para um teste a nível de significância de 5% (2-tail) Para obter precisão, verifiquem se o p-value < 0.05 * (nas aulas de estatística irão discutir este tema em teste de hipóteses)

10 Regressão Múltipla Regressão linear com mais de uma variável explicativa: ys = b0 + b1x1 s bkxks + ε s x is corresponde ao valor da variável i para a observação s O Excel determina os coeficientes de x is que minimizam a soma dos quadrados dos erros da regressão (SSE)

11 Relebrem caso discriminação salarial Excel Output y ˆ = a + bi F b = - 3, a = 60,983 Verificamos que a estimativa do declive corresponde à diferença entre as médias Average of Earnings Gender Total F M Grand Total 59400

12 Adicionando Experiência Tabela de Contingência Gender Male/Femal Experience Data F M Grand Total Difference 10 Average of Earnings Count of Earnings Average of Earnings Count of Earnings Total Average of Earnings Total Count of Earnings Experiência medida por anos de trabalho

13 Regressão Linear com Experiência SUMMARY OUTPUT Regression Statistics Multiple R 0.39 R Square 0.15 Adjusted R Square 0.14 Standard Error Observations ANOVA df SS MS F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Experience Female

14 Adicionando IQ Coeficiente de Inteligência Tabela de Contingência Gender Male/Fem. IQ Data F M Grand Total Diff Average of Earnings Count of Earnings Average of Earnings Count of Earnings Average of Earnings Count of Earnings Average of Earnings Count of Earnings Average of Earnings Count of Earnings Total Average of Earnings Total Count of Earnings

15 Regressão Linear com IQ SUMMARY OUTPUT Regression Statistics Multiple R 0.98 R Square 0.96 Adjusted R Square 0.96 Standard Error Observations ANOVA df SS MS F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Female IQ

16 Pontos Chave na Interpretação Adicionar uma variável permite controlar o seu efeito na regressão: permite manter a variável a níveis constantes Semelhante a análise através de tabelas de contingência Adicionar uma variável pode alterar a estimativa dos coeficientes de outras variáveis (ex. ao adicionar experiência altera-se a estimativa do coeficiente do indicador female ) Controlar uma variável correlacionada com outra variável explicativa elimina bias ou enviezamento na estimativa dos efeitos dessas variávies (ex. experiência e female) Controlar uma variável não correlacionada com outra variável explicativa melhora o ajustamento mas não elimina bias (por exemplo, IQ e Female)

17 Como escolher as variáveis a incluir na regressão? Número de variáveis Critério estatístico Critério lógico

18 Número de variáveis Restrição de ordem técnica O número de observações tem deve ser pelo menos igual ao número de variáveis explicativas mais dois Restrição de ordem práctica Devemos ter pelo menos 10 observações por variável explicativa para obtermos estimativas precisas

19 Critério estatístico Adicionar uma variável sempre fará o R 2 aumentar. Portanto, um aumento do R 2 não pode ser usado como base para concluir que uma variável deve ser incluída. O R 2 ajustado é uma medida modificada que impõe uma penalidade sobre variáveis extras.

20 Critério Lógico Adicionar variáveis altera a interpretação dos coeficientes. Exemplo: Preço = b 0 + b 1 Quartos b 1 mede a diferença entre, por exemplo, apartamentos com 3 quartos e apartamentos com 4 quartos Preço = b 0 + b 1 Quartos + b 2 m 2 b 1 mede a diferença entre, por exemplo, apartamentos com 3 quartos e apartamentos com 4 quartos com a mesma àrea em m 2 Escolha da variável pode depender do tipo de comparação que se pretende efectuar

21 Multicolinearidade As variáveis explicativas podem ter alguma correlação entre elas Uma variável explicativa não pode ser uma função linear de outras variáveis explicativas (correlação linear perfeita) Demasiada correlação entre as variáveis explicativas torna as estimativas imprecisas - (problema com os dados)

22 Price How will simple and multiple regression results differ? Size

23 (1) (2) (3) Intercept -66, , , (-4.41) (16.06) (-0.11) Size (22.65) (2.21) Area 220, , (17.21) (0.87) R-Squared