Correlação e Regressão Linear

Transcrição

1 Correlação e Regressão Linear Prof. Marcos Vinicius Pó Métodos Quantitativos para Ciências Sociais

2 CORRELAÇÃO LINEAR

3 Coeficiente de correlação linear - coeficiente de Pearson (r) Mede o grau de relacionamento linear entre valores pareados x e y na amostra e também da proximidade dos dados a uma reta. É um valor que varia de -1 a 1, sendo que 0 (zero) significa não haver correlação. corr ( X, Y) r ( x i n. xy i nx i n. x. y )([ Ny ( y) ] 3

4 Exemplos de correlações Fonte: Wikipédia ( 4

5 Teste de r O coeficiente de correlação pode ser testado usando-se a estatística t de student, que é calculado usando-se a seguinte fórmula (N = número de pares de escore X e Y) t r N 1 r ) O valor crítico é verificado na tabela t de Student, com os graus de liberdade definidos por N- 5

6 Correlação e causalidade Haver correlação entre duas variáveis não implica em que uma cause o efeito na outra. Pode haver correlações espúrias Viés pode ser confundido com correlação Contudo, a correlação é uma pista significativa que deve ser investigada para verificar causalidade e sua direção. A ausência de correlação não quer dizer que não haja causalidade. Apenas uma análise do modelo e das variáveis incluídas e excluídas pode apontar isso. Além disso, pode haver relações não-lineares entre as variáveis. Divirtam-se com correlações espúrias no site 6

7 O comprimento da barba branca indica o grau de poder mágico? Onde ficaria o ZZ Top? 7

8 O consumo de chocolate aumenta o número de prêmios Nobel? Correlation between Countries' Annual Per Capita Chocolate Consumption and the Number of Nobel Laureates per 10 Million Population. Fonte: Chocolate Consumption, Cognitive Function, and Nobel Laureates Franz H. Messerli, M.D. N Engl J Med 01; 367: October 18, 01 acesso em 04/11/01 8

9 REGRESSÃO LINEAR 9

10 Regressão linear A regressão linear calcula médias condicionais de uma variável Y a partir de dados sobre uma variável X supostamente relacionada, estabelecendo um modelo para: Explicar o total ou parcialmente um fenômeno observado Mensurar a relação entre duas variáveis Permitir predições Formato: Y = α + β 1 X 1 + β X Y: variável dependente (aquela que é explicada;) X 1, X,..., X n : variáveis explicativas (ou independentes) : erro, parte não explicada pelo modelo Modelo linear simples: Y = a + bx + Usaremos a notação Y = a + bx + para os parâmetros calculados 10

11 Suposições do modelo de regressão linear As variáveis X n não podem ser combinações lineares entre si. O número de parâmetros a serem estimados é menor que o número de observações. Variáveis independentes. Resíduos possuem variância constante e têm média zero. E() = 0 = constante Os resíduos são independentes e mostram um comportamento normal. O relacionamento entre as variáveis pode ser razoavelmente representado por uma reta. 11

12 Estimação dos parâmetros Objetivos: estabelecer uma reta que: Minimize ε Possua significância estatística Possua bom fator explicativo (R ) Conseguimos trabalhar apenas o primeiro, os demais são avaliados. Portanto, o ajuste da reta deve minimizar as distâncias entre os valores preditos pela reta e os valores observados. 1

13 Regressão linear Erros (ε i ) y i = a+bx i + i i ~N(0,² ) (erros independentes) Princípio: ajustar a estimativa dos parâmetros para minimizar soma dos erros quadrados entre as previsões e os valores amostrais. Os parâmetros do nosso modelo são: Y = a + bx + (equação da reta) Temos que determinar: a: intercepto ou valor fixo; b: inclinação da reta 13

14 Aplicando ao modelo A soma dos quadrados dos erros é: SQ n i1 n ( a, b) e i { y ( ab x )} i1 i Assumindo que a distribuição dos erros é normal e derivando essa equação, podemos deduzir que: i a y bx xy nx y b x n x Para mais informações consultar Bussab e Morettin: Estatística Básica, capítulo 15 14

15 Intervalos de confiança para as estimativas Os estimadores a e b possuem distribuição normal e intervalos de confiança com uma distribuição t, com n- graus de liberdade ) (.. ) ; ( ) ( x x n x Se t a IC i n i a ) (. 1. ) ; ( ) ( x x n Se t b IC i n b 15

16 Correlação x Regressão Correlação linear Não determina causalidade, mas pode dar pistas. Identifica se duas variáveis se relacionam de forma linear. Determina o quão mais próximo de uma reta é a relação entre as variáveis. 0: não há relação linear 1: relação linear perfeita Não indica o quanto uma variável pode estar influenciando a outra. Pode ser testada estatisticamente. Regressão linear Não determina causalidade, mas pode dar pistas. Determina uma relação linear entre duas variáveis. Traz elementos que permitem fazer predições. Identifica o quanto uma variável afeta a outra. Necessita de uma análise dos resíduos para decidir sobre sua adequação. Pode ser testada estatisticamente. 16

17 Começando a analisar os dados Primeiro é necessário termos uma boa idéia do comportamento de nossos dados, de forma a avaliar se o modelo linear é adequado. Isso é muito importante! Uma sugestão é colocar os dados em diagramas de dispersão. 17

18 Por que os gráficos são importantes? Quarteto de Anscombe Esses quatro conjuntos de dados possuem as mesmas propriedades estatísticas,... I II III IV x y x y x y x y 10,0 8,04 10,0 9,14 10,0 7,46 8,0 6,58 8,0 6,95 8,0 8,14 8,0 6,77 8,0 5,76 13,0 7,58 13,0 8,74 13,0 1,74 8,0 7,71 9,0 8,81 9,0 8,77 9,0 7,11 8,0 8,84 11,0 8,33 11,0 9,6 11,0 7,81 8,0 8,47 14,0 9,96 14,0 8,10 14,0 8,84 8,0 7,04 6,0 7,4 6,0 6,13 6,0 6,08 8,0 5,5 4,0 4,6 4,0 3,10 4,0 5,39 19,0 1,50 1,0 10,84 1,0 9,13 1,0 8,15 8,0 5,56 7,0 4,8 7,0 7,6 7,0 6,4 8,0 7,91 5,0 5,68 5,0 4,74 5,0 5,73 8,0 6,89 Propriedade Valor Média de x 9,00 Variância de x 10,00 Média de y 7,50 Variância de y 3,75 Correlação 0,898 Regressão linear y =,50 + 0,500x 18

19 Quarteto de Anscombe... mas são bem diferentes graficamente. 19

20 Julgando a qualidade do modelo Estratégia: comparar variância com o modelo mais simples Montar tabela ANOVA Variância do modelo simples SQTot n ( y y) i t1 Variância da regressão SQRe s n ( y i yˆ t1 i ) 0

21 Tabela ANOVA para regressão n: número de amostras p: número de parâmetros estimados Fonte de variação Soma dos Quadrados (SQ) Graus de Liberdade Regressão t1 gl N = p 1 Resíduo SQ Re g n t1 SQRe s n ( yˆ iy) b ( xix) n ( y i yˆ t1 n gl D = n p Total SQTot ( y y) gl T = n 1 i t1 i ) Quadrados das Médias (QM) QM Re g se SQRe g gln SQRe s gld F QM Re g se 1

22 Outras medidas R : mede a variabilidade de Y que é explicada pelo modelo Calcula-se da mesma forma que na ANOVA R SQRe g SQTot

23 Análise de resíduos Tão importante quanto verificar se os dados servem ao modelo de regressão e estabelecer os parâmetros, é fazer a análise de resíduos Verificar se: O modelo se ajusta bem As suposições não foram violadas o Homocedasticidade o Independência o Comportamento normal Aconselha-se a fazer uma análise gráfica dos resíduos. 6

24 Plotagem dos resíduos Bussab; Morettin, 00:456 Quais dessas plotagens mostram normalidade dos resíduos? Quais os problemas das outras? 7

25 Transformação de variáveis: linearização Considere os dados abaixo e os gráficos abaixo. Você teria alguma restrição em adotar o modelo linear nesse caso? Se transformarmos a variável inflação (exponencial) por meio de logaritmo (Log), você teria alguma restrição em adotar o modelo linear? Ano Inflação Inflação ,6 3,4 3, 3,8,6,4, Log(inflação)

26 Voltando ao nosso exemplo Deseja-se avaliar explicações para o tempo de reação das pessoas a determinado estímulo visual. Variável dependente: Tempo de reação = Y Variáveis Independentes: Gênero; Idade; Acuidade Visual (podem explicar o fenômeno) = X 1, X,... Indivíduo Tempo de Gênero Idade Acuidade reação (ms) (M/F) (anos) Visual (%) i y w x z 1 96 M F M F F M M F F M M F F F M M F F M M Dados tirados de Bussab, Wilton. Análise de Variância e Regressão. a. Ed. Editora Atual: São Paulo

27 No nosso exemplo (tempo de reação) Calcular as correlações Tempo de reação x Idade 0,768 Tempo de reação x Acuidade visual -0,755 Idade x Acuidade visual -0,399 O que esses números significam? 30

28 Avaliando os dados Já testamos e descartamos Gênero; Traçar diagramas de dispersão para Idade e para Acuidade Visual Idade Acuidade visual O modelo de regressão linear é aplicável em ambos os casos? 31

29 Atividade com banco de dados Health expenditure Total expenditure on health, % of gross domestic product Total health expenditure per capita, US$ PPP Public health expenditure per capita, US$ PPP Pharmaceutical expenditure per capita, US$ PPP Health care resources Physicians, density per population Nurses, density per population Hospital beds, density per population Health care activities Doctor consultations per capita Hospital discharge rates, all causes, per population Average length of stay for a normal delivery, days Caesarean sections, per live births Health status (Mortality) Life expectancy at birth, total population Infant mortality rate, deaths per live births Risk factors Tobacco consumption, % of adult population who are daily smokers Alcohol consumption, litres per population aged 15+ Obesity, percentage of total adult population with a BMI>30 kg/m, based on self-reports Obesity, percentage of total adult population with a BMI>30 kg/m, based on measures of height and weight 37

30 Atividade com banco de dados Selecionar 3 correlações significantes (a 5% ou a 1%) de seu interesse. Levantar hipóteses explicativas de causalidade entre as duas variáveis (relação de causalidade e direção). Determinar a regressão linear delas e analisar a sua pertinência e adequação. 38

31 Etapas de análise de dados e determinação de regressão linear 1. Exploração dos dados a. Gráficos de dispersão b. Mapa de correlações. Determinação da regressão linear a. Determinação dos coeficientes da reta de regressão ( a e b ) b. Verificação da significância (p-valor) c. Verificar o grau de explicação (R ) d. Julgamento se o modelo é interessante e pertinente 3. Avaliação de atendimento dos pressupostos da correlação a. Análise dos resíduos: normalidade; homocedasticidade 39

32 Exercício para entrega - banco de dados Poluição SP 1991 : (enviar PDF com os dados e as conclusões por e- mail marcos.po@ufabc.edu.br até o fim da aula) Encontrar pelo menos duas variáveis que se relacionem de forma linear Avaliar se elas possuem correlações estatisticamente significativas Definir regressões lineares simples entre as variáveis (duas regressões) Analisar os resultados dos resíduos e verificar a pertinência da aplicação das regressão Procurar referências científicas que conectem as variáveis estudadas. Se não for possível encontrar causalidade entre elas, propor hipóteses explicativas. Etapas de análise de dados e determinação de regressão linear 1. Exploração dos dados a. Gráficos de dispersão b. Mapa de correlações. Determinação da regressão linear a. Determinação dos coeficientes da reta de regressão ( a e b ) b. Verificação da significância (pvalor) c. Verificar o grau de explicação (R ) d. Julgamento se o modelo é interessante e pertinente 3. Avaliação de atendimento dos pressupostos da correlação a. Análise dos resíduos: normalidade; homocedasticidade 40