Regressão linear múltipla. Regressão linear múltipla

Transcrição

1 Regressão linear múltipla 35 R 2 = 61% Maria Virginia P Dutra Eloane G Ramos Vania Matos Fonseca Pós Graduação em Saúde da Mulher e da Criança IFF FIOCRUZ Baseado nas aulas de M. Pagano e Gravreau e Geraldo Marcelo da Cunha Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II Head circumference (centimeters) Gestational age (weeks) Análise bivariada Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 2 Também parece haver uma relação linear Head circumference (centimeters) Birth weight (grams) O conhecimento de uma única variável explicativa nos permite predizer uma parte da variável resposta por meio de uma relação linear. Regressão linear simples É natural pensar que o conhecimento de variáveis adicionais possam aumentar a capacidade preditiva. Regressão múltipla Modela a relação entre várias variáveis explicativas e uma variável resposta. Regressão linear múltipla Caso particular quando a relação entre cada variável explicativa e a variável resposta é linear. Análise bivariada Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 3 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 4

2 Equação do modelo y= 1 x 1 2 x 2 q x q q variáveis explicativas (x1, x 2,..., x q ) q coeficientes β (β1, β 2,..., β q ) intercepto α α = valor de y quando todos xj =0 No exemplo Perímetro cefálico (y) será modelado (explicado) por Idade gestacional (x 1 ) e Peso ao nascer (x 2 ) 2 variáveis explicativas (x1, x 2 ) 2 coeficientes β (β1, β 2 ) intercepto α Equação do modelo: y= 1 x 1 2 x 2 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 5 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 6 Pressupostos Normalidade Todos os x j e y são normalmente distribuídos e dado um conjunto de valores x 1... x q qualquer, y continua possuindo distribuição normal. Linearidade A relação entre y e qualquer x j é linear. Homocedasticidade A variância de y é constante para qualquer conjunto de valores x 1... x q. Independência Os valores de y são independentes entre os elementos da amostra. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 7 A partir da amostra y=a b 1 x 1 b q x q y= y e e=y y Em cada elemento i da amostra e i =y i y i Método dos mínimos quadrados Deseja-se encontrar os coeficientes a, b1, b 2,..., de forma que a soma dos erros ao quadrado seja mínima n e 2 i mínimo i=1 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 8

3 n i=1 n e 2 i = i=1 n y 1 y i 2 = y i a b 1 x 1 b 2 x 2 b q x q 2 i=1 Para calcular os coeficientes a, b1,... b q que minimizem a expressão acima é necessário resolver um sistema de várias equações. Utiliza-se um software estatístico. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 9 Perímetro cefálico (cm) - y Idade gestacional (semanas) - x1 Peso ao nascer (g) - x2 Deseja-se estimar um modelo da forma y=a b 1 x 1 b 2 x 2 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 11 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 12

4 Resultado da regressão linear para modelar o perímetro cefálico a partir da idade gestacional e peso ao nascer. REGRESS headcirc = birthwt gestage Linear Regression Variable Coefficient Std Error F-test P-Value birthwt gestage CO STA T a Correlation Coefficient: r^2 = 0.75 Source df Sum of Squares Mean Square F-statistic Regression Residuals b 2 b 1 Total Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 13 Todos os coeficientes são significativamente diferentes de 0 (p-valor < 0,05). r2 = 0,75 Coeficiente de determinação aumentou em relação ao modelo com uma variável (r 2 = 0,61) r 2 sempre aumentará quando se acrescenta uma variável Deve-se observar se foi um aumento significativo e se o coeficiente da nova variável também é significativo. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 14 A equação do modelo estimada é y=8,308 0,449x 1 0,005x 2 PC=8,308 0,449IG 0,005Peso Anteriormente PC=3,91 0,78IG O novo coeficiente de IG (0,449) está ajustado para o peso ao nascer. Representa o aumento de PC devido ao aumento de IG e independente do Peso. O coeficiente anterior (0,78) é o coeficiente bruto, fruto de análise bivariada. Pode estar contaminado pela relação entre IG e peso ao nascer, sendo sub ou superestimado. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 15 PC=8,308 0,449IG 0,005Peso O perímetro cefálico aumenta 0,449cm para cada aumento de 1 semana de IG + 0,005cm para cada aumento de 1g no peso. Qual o valor esperado de PC para um bebê que nasce com IG=28 semanas e peso=1338g? PC=8,308 0, , PC=8,308 12,572 6,690=27,570 cm Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 16

5 O modelo PC=8,308 0,449IG 0,005Peso está adequado e explica 75% da variabilidade do perímetro cefálico. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 17 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 18 A análise de regressão pode ser generalizada para incorporar variáveis explicativas categóricas. Também chamadas variáveis dummy. Exemplo: toxemia da mãe. Variável dicotômica (sim ou não) Quando toxemia = não, recebe valor 0 Quando toxemia = sim, recebe valor 1 Ao incluir toxemia no modelo, estimaremos uma equação da forma: y=a b 1 x 1 b 2 x 2 b 3 x 3 PC=a b 1 IG b 2 Peso b 3 Tox Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 19 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 20

6 REGRESS headcirc = birthwt gestage (toxemia) Linear Regression Variable Coefficient Std Error F-test P-Value birthwt gestage toxemia (Yes/ o) CO STA T Correlation Coefficient: r^2 = 0.76 Source df Sum of Squares Mean Square F-statistic Regression Residuals Total Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 21 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 22 Resultado O coeficiente de toxemia não é significativamente diferente de 0 (p>0,05). O coeficiente de determinação teve pouca variação (de 0,75 para 0,76). Conhecendo IG e Peso ao nascer, a toxemia não ajuda a explicar mais o perímetro cefálico. Não acrescenta nenhuma informação. Não é necessária análise de resíduos. Deve-se permanecer com o modelo anterior. Qual seria a conclusão caso fosse significativo? Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 23 Suspeita-se que uma variável explicativa tenha efeito diferente na variável resposta, dependendo do valor de uma outra variável explicativa. A segunda variável é chamada de modificadora de efeito. Exemplo: suponha que a IG tenha um efeito diferente no PC, dependendo se a mãe sofreu ou não de toxemia. Para testar essa possibilidade, incluímos no modelo um termo de interação. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 24

7 O termo de interação é a multiplicação de duas variáveis explicativas. Exemplo Equação do modelo com termo de interação entre x 1 (IG) e x 3 (Toxemia) y=a b 1 x 1 b 2 x 2 b 3 x 3 b 13 x 1 x 3 PC y IG x1 Peso x2 Toxemia x3 No exemplo, o termo de interação seria x 1 x 3, com um coeficiente b 13. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 25 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 26 Resultado Variable Coefficient Std Error F-test P-Value birthwt gestage toxemia (Yes/ o) gestage * toxemia (Yes/ o) CO STA T Correlation Coefficient: r^2 = 0.76 O termo de interação não é significativo Não há evidência de que a variável toxemia seja modificadora do efeito da idade gestacional no perímetro cefálico. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 27 Mantém-se no modelo somente variáveis explicativas que ajudam a prever ou explicar a variável resposta. em geral, coeficientes significativamente diferentes de 0 coeficientes sabidamente associados ao desfecho Dado um conjunto de potenciais variáveis explicativas, como decidir quais ficam no modelo e quais são descartadas? Considerações conceituais Critérios estatísticos Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 28

8 Critérios estatísticos 1o etapa análise bivariada 1.Estima-se um modelo para cada variável explicativa individualmente. 2.Mantém-se na análise subsequente aquelas que satisfizerem o critério de inclusão (por exemplo, p- valor < 0,20). Costuma-se utilizar α mais alto para essa enálise preliminar eliminatória. 2o etapa métodos de seleção do modelo Todos os modelos possíveis Seleção forward Eliminação backward Seleção stepwise Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 29 Todos os modelos possíveis Um modelo para cada combinação possível de variáveis explicativas. Avaliar os modelos segundo algum critério estatístico. p-valor dos coeficientes r 2 Desvantagem: inviável quando o número de variáveis é grande. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 30 Seleção forward Acrescenta-se no modelo uma variável de cada vez. Começa-se com a que produz o maior r2. Mantendo-se a variável anterior, inclui-se agora a que mais aumenta r 2. Seguir o mesmo procedimento até que nenhuma das variáveis restantes aumente r 2 de forma significativa e/ou apresente coeficiente significativo. Eliminação backward Inicia-se com a inclusão de todas as variáveis no modelo. Retira-se uma variável de cada vez. Começando com a que reduz minimamente r2. Repete-se o procedimento até que restem apenas variáveis que, se fossem retiradas, causariam uma redução importante em r 2. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 31 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 32

9 Seleção stepwise Seleção forward e eliminação backward utilizadas em conjunto. Inicia-se como na seleção forward, introduzindo no modelo uma variável de cada vez. À medida que cada variável é incluída, todas as incluídas anteriormente são verificadas, retirando-se uma por vez, para nos assegurarmos que mantenham a significância. Uma variável incluída pode ser retirada em etapa posterior. Seleção hierarquizada Agrupam-se as variáveis conceitualmente de acordo com a distância até o desfecho na linha causal. Exemplo Variáveis socio-econômicas (mais distantes) ambientais comportamentais (mais próximas) A abordagem hierarquizda de seleção de modelos é também chamada de modelagem hierarquizada modelo hierárquico (erroneamente) Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 33 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 34 Duas variáveis explicativas são tão correlacionadas que contém essencialmente a mesma informação. Podem ser identificadas no processo de seleção do modelo, quando a inclusão de uma delas altera bastante o coeficiente da anterior, assim como seu p-valor. Deve-se verificar também se essa alteração não se deve a modificação de efeito. Um coeficiente de correlação muito alto (>0,9) entre as duas variáveis, indica a colinearidade. Se a colinearidade for verificada entre quaisquer duas variáveis, somente uma delas deve permanecer no modelo. Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 35 Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 36

10 Exemplo Documento texto Exercícios do livro 1 a 7 exceto 7.a Programa de Pós-Graduação em Saúde da Mulher e da Criança Bioestatística e Computação II 37