Modelos de regressão para dados correlacionados. Cibele Russo

Transcrição

1 Modelos de regressão para dados correlacionados Cibele Russo ICMC USP Mini-curso oferecido no Workshop on Probabilistic and Statistical Methods 28 a 30 de janeiro de 2013 Cibele Russo (ICMC USP) Modelos para dados correlacionados 1 / 58

2 Conteúdo da aula Modelo linear com efeitos mistos Modelo marginal modelo hierárquico Aplicações Referências: Pinheiro and Bates (2009) Mixed-effects Models in S and S-PLUS, Springer. Searle, S. R., Casella, G. McCulloch, C. E. (2006), Variance Components. Wiley Series in Probability and Statistics. Verbeke G. and Molenberghs G. (2000) Linear mixed models for longitudinal data, Springer Series in Statistics, Springer-Verlag, New-York. Cibele Russo (ICMC USP) Modelos para dados correlacionados 2 / 58

3 Medidas repetidas e dados longitudinais Medidas repetidas (repeated measurements) são obtidas quando uma resposta é observada repetidamente em um conjunto de unidades experimentais Unidades experimentais: Sujeitos, pacientes, participantes Animais, plantas Grupos (clusters): famílias, cidades, filiais de uma companhia Dados longitudinais são um caso especial de medidas repetidas Cibele Russo (ICMC USP) Modelos para dados correlacionados 3 / 58

4 Medidas repetidas e dados longitudinais Quando as medidas são repetidas no mesmo indivíduo (ou em uma mesma unidade experimental), as características individuais induzem uma correlação nos dados observados naquele indivíduo. Cibele Russo (ICMC USP) Modelos para dados correlacionados 4 / 58

5 Modelos para dados correlacionados Resposta longitudinal Indivíduo 1 Indivíduo Tempo Medidas longitudinais (adaptado de Rizopoulos, D. An Introduction to Joint Models for Longitudinal & Survival Data, with Applications in R, short course 27th IWSM, Prague.) Cibele Russo (ICMC USP) Modelos para dados correlacionados 5 / 58

6 Modelos para dados correlacionados Como os indivíduos são amostrados aleatoriamente de uma população, pode-se supor que coeficientes de regressão sujeito-específicos também amostrados de uma população de coeficientes de regressão: β i N(β, D), 1,..., n. Cibele Russo (ICMC USP) Modelos para dados correlacionados 6 / 58

7 Modelos para dados correlacionados Poderíamos então ajustar um modelo diferente para as medidas de cada indivíduo? Sim, mas existe o interesse em estimar o comportamento geral da população, e ao mesmo tempo identificar um padrão específico de cada indivíduo. Cibele Russo (ICMC USP) Modelos para dados correlacionados 7 / 58

8 Modelo com efeitos mistos Um modelo com efeitos mistos para Y ij, a j-ésima resposta observada para o i-ésimo indivíduo, utilizando o valor da covariável x, x ij, é dado por Y ij = (β 0 + b i0 ) + (β 1 + b i1 )x ij + ɛ i, i = 1,..., n; j = 1,..., m i Cibele Russo (ICMC USP) Modelos para dados correlacionados 8 / 58

9 Modelo com efeitos mistos Y ij = (β 0 + b i0 ) + (β 1 + b i1 )x ij + ɛ i, i = 1,..., n; j = 1,..., m i Efeitos fixos β 0 é o efeito fixo referente ao intercepto da reta β 1 é o efeito fixo referente ao coeficiente angular da reta Efeitos aleatórios b i0 é um efeito aleatório adicionado ao intercepto b i1 é um efeito aleatório adicionado ao coeficiente angular Cibele Russo (ICMC USP) Modelos para dados correlacionados 9 / 58

10 Modelos com efeitos mistos Qual o resultado da inclusão dos efeitos aleatórios no intercepto e no coeficiente angular? Cibele Russo (ICMC USP) Modelos para dados correlacionados 10 / 58

11 Interpretação dos efeitos adicionados ao modelo Intercepto aleatório age distance Exemplo de retas resultantes da inclusão de intercepto aleatório Cibele Russo (ICMC USP) Modelos para dados correlacionados 11 / 58

12 Interpretação dos efeitos adicionados ao modelo Coeficiente angular aleatório age distance Exemplo de retas resultantes da inclusão de coeficiente angular aleatório Cibele Russo (ICMC USP) Modelos para dados correlacionados 12 / 58

13 Interpretação dos efeitos adicionados ao modelo Intercepto e coeficiente angular aleatório age distance Exemplo de retas resultantes da inclusão de intercepto e coeficiente angular aleatório Cibele Russo (ICMC USP) Modelos para dados correlacionados 13 / 58

14 Interpretação dos efeitos adicionados ao modelo Intercepto aleatório age distance Coeficiente angular aleatório age distance Intercepto e coeficiente angular aleatório age distance Retas resultantes da inclusão dos efeitos aleatórios Cibele Russo (ICMC USP) Modelos para dados correlacionados 14 / 58

15 Modelo com efeitos mistos Reescrevendo o modelo temos Y ij = (β 0 + b i0 ) + (β 1 + b i1 )x ij + ɛ ij, i = 1,..., n; j = 1,..., m i Y ij = (β 0 + β 1 x ij ) + (b i0 + b i1 x ij ) + ɛ ij, i = 1,..., n; j = 1,..., m i em que m i observações pertencem ao indivíduo i. Matricialmente, Y i = X i β + Z i b i + ɛ i, i = 1,..., n; Cibele Russo (ICMC USP) Modelos para dados correlacionados 15 / 58

16 Modelo com efeitos mistos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatórios) com Y i = β = [ β 0 β 1 ] Y 1. Y n, ɛ i = Y i = X i β + Z i b i + ɛ i, i = 1,..., n 1 x i1 X 1 x i = Z i = i2.., ɛ i1. ɛ in 1 x in [ ], b b i0 i =. b i1 Cibele Russo (ICMC USP) Modelos para dados correlacionados 16 / 58

17 Modelo com efeitos mistos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatórios) Y i = X i β + Z i b i + ɛ i, i = 1,..., n Y i(mi 1): vetor de respostas do indivíduo i (aleatório) X i(mi 2): matriz do modelo referente aos efeitos fixos do indivíduo i (fixa e conhecida) β (2 1) : vetor de parâmetros (efeitos fixos) Z i(mi 2): matriz do modelo referente aos efeitos aleatórios para o indivíduo i (fixa e conhecida) b i(2 1) : vetor de efeitos aleatórios para o indivíduo i (aleatório) ɛ i(mi 1): vetor de erros aleatórios para o indivíduo i (aleatório) Cibele Russo (ICMC USP) Modelos para dados correlacionados 17 / 58

18 Modelo com efeitos mistos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatórios) Suposições comuns: b i ind N 2 (0, D) ɛ i ind N mi (0, σ 2 I ) b i independente de ɛ i. Y i = X i β + Z i b i + ɛ i, i = 1,..., n Parâmetros a serem estimados: β, σ 2, elementos da matriz D. Em alguns trabalhos considera-se D diagonal. Cibele Russo (ICMC USP) Modelos para dados correlacionados 18 / 58

19 Modelo com efeitos mistos Modelo linear com efeitos mistos (forma geral, p covariáveis, q efeitos aleatórios) Y i = X i β + Z i b i + ɛ i, i = 1,..., n Y i(mi 1): vetor de respostas do indivíduo i (aleatório) X i(mi (p+1)): matriz do modelo referente aos efeitos fixos do indivíduo i (fixa e conhecida) β ((p+1) 1) : vetor de parâmetros (efeitos fixos) Z i(mi q): matriz do modelo referente aos efeitos aleatórios para o indivíduo i (fixa e conhecida) b i(q 1) : vetor de efeitos aleatórios para o indivíduo i (aleatório) ɛ i(mi 1): vetor de erros aleatórios para o indivíduo i (aleatório) Cibele Russo (ICMC USP) Modelos para dados correlacionados 19 / 58

20 Modelo com efeitos mistos Modelo linear com efeitos mistos (forma geral, p covariáveis, q efeitos aleatórios) Suposições comuns: b i N q (0, D) ɛ i N mi (0, σ 2 I ) Y i = X i β + Z i b i + ɛ i, i = 1,..., n Parâmetros a serem estimados: β, σ 2, elementos da matriz D. Em alguns trabalhos considera-se D diagonal. Cibele Russo (ICMC USP) Modelos para dados correlacionados 20 / 58

21 Modelo com efeitos mistos - Interpretação Efeitos fixos β s têm as mesmas propriedades encontradas nos modelos com efeitos fixos Efeitos aleatórios b ij s são interpretados como o parâmetro i do j-ésimo sujeito se desvia do parâmetro populacional. Características interessantes β s descreve comportamentos populacionais (β + b i ) s descreve comportamentos individuais Cibele Russo (ICMC USP) Modelos para dados correlacionados 21 / 58

22 Modelo com efeitos mistos Modelo linear com efeitos mistos (forma geral, p covariáveis, q efeitos aleatórios) Y i = X i β + Z i b i + ɛ i, i = 1,..., n Estimação dos parâmetros Existem várias formas de estimar os parâmetros, as mais utilizadas são Formulação de dois estágios Enfoque marginal no modelo linear geral misto Enfoque hierárquico no modelo linear geral misto Cibele Russo (ICMC USP) Modelos para dados correlacionados 22 / 58

23 Modelos lineares com efeitos mistos Formulação de dois estágios Estágio 1: Um modelo de regressão linear é ajustado para cada indivíduo separadamente. Esses modelos descrevem a variabilidade intraindivíduos Y i = X i β i + Z i b i + ɛ i, i = 1,..., n Estágio 2: Um modelo de regressão multivariado é ajustado utilizando as estimativas β i obtidas no Estágio 1 como covariáveis. β i = K i β + b i (Verbeke G. and Molenberghs G. (2000) Linear mixed models for longitudinal data, Springer Series in Statistics, Springer-Verlag, New-York.) Cibele Russo (ICMC USP) Modelos para dados correlacionados 23 / 58

24 Modelos lineares com efeitos mistos Formulação de dois estágios { com ɛ i N(0, σ 2 I) e b i N(0, D). Y i = X i β i + Z i b i + ɛ i β i = K i β + b i, i = 1,..., n Cibele Russo (ICMC USP) Modelos para dados correlacionados 24 / 58

25 Modelo linear geral com efeitos mistos Formulação geral e suposições Y i = X i β + Z i b i + ɛ i, i = 1,..., n b i N q (0, D) ɛ i N mi (0, σ 2 I ) b 1,..., b n, ɛ 1,..., ɛ n são independentes Cibele Russo (ICMC USP) Modelos para dados correlacionados 25 / 58

26 Modelo linear geral com efeitos mistos O modelo linear geral com efeitos mistos com as suposições usuais pode ser reescrito como Y i b i ɛ i N mi+q+mi X i β 0 0, Z i DZ i + σ 2 I Z i D σ 2 I DZ i D 0 σ 2 I 0 σ 2 I Cibele Russo (ICMC USP) Modelos para dados correlacionados 26 / 58

27 Modelo hierárquico Outro enfoque seria o Modelo hierárquico usual { Y i b i N(X i β + Z i b i, σ 2 I ), i = 1,..., n b i N(0, D) Cibele Russo (ICMC USP) Modelos para dados correlacionados 27 / 58

28 Modelo hierárquico Uma possibilidade para estimação: Enfoque Bayesiano Y i β, b i N(X i β + Z i b i, σ 2 I ) b i N(0, D) β N(β 0, B) Cibele Russo (ICMC USP) Modelos para dados correlacionados 28 / 58

29 Modelo hierárquico Para estimar β, usamos a distribuição a posteriori de β y, B, D, σ 2, que pode ser obtida de f β (β y) = f (y β, b)fβ (β)f b (b)db f (y β, b)fβ (β)f b (b)dbdβ. Para isso, usa-se o fato de que com V i = Z i DZ i + σ 2 I. E(β y i, B, D, σ 2 ) = (X i V 1 i X i ) 1 X i V 1 i y Cibele Russo (ICMC USP) Modelos para dados correlacionados 29 / 58

30 Modelo marginal Por propriedades da distribuição normal, partindo do modelo em sua formulação geral podemos obter a distribuição marginal de Y i Formulação geral Y i = X i β + Z i b i + ɛ i, i = 1,..., n b i N q (0, D) ɛ i N mi (0, σ 2 I ) b 1,..., b n, ɛ 1,..., ɛ n são independentes Esse modelo pode ser reescrito como um modelo marginal Y i N(X i β, Z i DZ i + σ 2 I ) Cibele Russo (ICMC USP) Modelos para dados correlacionados 30 / 58

31 Modelo marginal Y i N(X i β, Z i DZ i + σ 2 I ) Podemos então estimar os parâmetros β pelo método da máxima verossimilhança, utilizando a função de verossimilhança de θ = (β, τ ) com τ o vetor de elementos de V i = Z i DZ i + σ 2 I. Cibele Russo (ICMC USP) Modelos para dados correlacionados 31 / 58

32 Modelo marginal A função de verossimilhança é dada por L(θ) = n i=1 { { (2π) n i /2 V i (τ ) 1/2 exp 1 }} 2 (y i X β) V 1 i (τ )(y i X β) Se τ é conhecido, β = ( n i X i V 1 i (τ )X i ) 1 n n X i V 1 i (τ )y i. Se τ não é conhecido, pode-se considerar um processo iterativo. Cibele Russo (ICMC USP) Modelos para dados correlacionados 32 / 58

33 Modelo marginal Se τ é conhecido, β N(β, n i=1 X i V 1 i X i ) Na prática, substitui-se τ por um estimador com boas propriedades e obtém-se inferências aproximadas. Cibele Russo (ICMC USP) Modelos para dados correlacionados 33 / 58

34 Propriedades Vários modelos hierárquicos diferentes podem levar ao mesmo modelo marginal, Um modelo marginal bem ajustado pode não ser uma evidência de um bom modelo hierárquico, Um tratamento satisfatório do modelo hierárquico só é possível em um contexto Bayesiano, Componentes de variância negativos (de D) podem ser obtidos sob o enfoque marginal, o que não acontece no modelo hierárquico. Cibele Russo (ICMC USP) Modelos para dados correlacionados 34 / 58

35 Predição dos efeitos aleatórios Método de Bayes empírico Distribuição a posteriori de b i y i : com Λ i uma matriz positiva definida. b i y i N(DZ i V 1 i (y i X i β), Λ i ) Podemos então utilizar a média a posteriori de b i y i como preditor de b i b i = DZ i V 1 i (y i X i β). Cibele Russo (ICMC USP) Modelos para dados correlacionados 35 / 58

36 Valores preditos para a variável resposta Podemos obter um preditor para Y i fazendo Ŷ i = X i β + Zi bi = X i β + Zi DZ T 1 i V i (y i X i β) = (I mi Z i DZ T 1 i V = σ 2 V 1 i i )X i β + Zi DZ T 1 i V i X i β + (Imi σ 2 V 1 i )y i, que pode ser interpretado como uma média ponderada entre o perfil populacional X i β e os dados observados yi, com pesos σ 2 1 V i e (I mi σ 2 1 V i ), respectivamente. y i Cibele Russo (ICMC USP) Modelos para dados correlacionados 36 / 58

37 Modelos com efeitos mistos em R Pacote nlme Possibilita o ajuste de modelos lineares e não lineares com efeitos mistos Várias possibilidades de estruturas de variância e covariância Pacote lme4 Possibilita o ajuste de modelos lineares, não lineares e lineares generalizados com efeitos mistos Utiliza apenas efeitos aleatórios Permite outras estruturas para os efeitos aleatórios Cibele Russo (ICMC USP) Modelos para dados correlacionados 37 / 58

38 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto aleatório) { Y i = X i β + Z i b i + ɛ b i N(0, D), ɛ i N(0, σ 2 I ) Nesse caso, X i = para i = 1,... 11, Z i = Cibele Russo (ICMC USP) Modelos para dados correlacionados 38 / 58

39 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto aleatório) Comandos em R: > library(nlme) > attach(orthodont) > fit.ia<-lme(distance~ age,data=orthodont,random=~ 1 Subject) > ranef(fit.ia) > coef(fit.ia) > plot(fit.ia) > plot(augpred(fit.ia),aspect= xy,grid=t) > qqnorm(fit.ia,~ resid(.) Sex) Certifique-se que os comandos foram passados corretamente para o R. Cibele Russo (ICMC USP) Modelos para dados correlacionados 39 / 58

40 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto aleatório) Fitted values (mm) Standardized residuals Cibele Russo (ICMC USP) Modelos para dados correlacionados 40 / 58

41 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto aleatório) F03 F04 F Distance from pituitary to pterygomaxillary fissure (mm) F06 M06 M03 M16 F01 M04 M12 M05 F05 M01 M13 M02 F07 M10 M14 M11 F02 F10 M09 M07 F08 F09 M15 M Age (yr) Cibele Russo (ICMC USP) Modelos para dados correlacionados 41 / 58

42 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto aleatório) Residuals (mm) Quantiles of standard normal Male Female Cibele Russo (ICMC USP) Modelos para dados correlacionados 42 / 58

43 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, coeficiente angular aleatório) { Y i = X i β + Z i b i + ɛ b i N(0, D), ɛ i N(0, σ 2 I ) Nesse caso, X i = para i = 1,... 11, Z i = Cibele Russo (ICMC USP) Modelos para dados correlacionados 43 / 58

44 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, coeficiente angular aleatório) Comandos em R: > library(nlme) > attach(orthodont) > fit.ca<-lme(distance~ age,data=orthodont,random=~ -1+age Subject) > ranef(fit.ca) > coef(fit.ca) > plot(fit.ca) > plot(augpred(fit.ca),aspect= xy,grid=t) > qqnorm(fit.ca,~ resid(.) Sex) Certifique-se que os comandos foram passados corretamente para o R. Cibele Russo (ICMC USP) Modelos para dados correlacionados 44 / 58

45 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, coeficiente angular aleatório) Fitted values (mm) Standardized residuals Cibele Russo (ICMC USP) Modelos para dados correlacionados 45 / 58

46 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, coeficiente angular aleatório) F03 F04 F Distance from pituitary to pterygomaxillary fissure (mm) F06 M06 M03 M16 F01 M04 M12 M05 F05 M01 M13 M02 F07 M10 M14 M11 F02 F10 M09 M07 F08 F09 M15 M Age (yr) Cibele Russo (ICMC USP) Modelos para dados correlacionados 46 / 58

47 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, coeficiente angular aleatório) Residuals (mm) Quantiles of standard normal Male Female Cibele Russo (ICMC USP) Modelos para dados correlacionados 47 / 58

48 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatórios) { Y i = X i β + Z i b i + ɛ b i N(0, D), ɛ i N(0, σ 2 I ) Nesse caso, X i = para i = 1,... 11, Z i = Cibele Russo (ICMC USP) Modelos para dados correlacionados 48 / 58

49 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatórios) Comandos em R: > library(nlme) > attach(orthodont) > fit.doisefeitos<-lme(distance~ age,data=orthodont,random=~ age Subject) > summary(fit.doisefeitos) > ranef(fit.doisefeitos) > coef(fit.doisefeitos) > plot(fit.doisefeitos) > plot(augpred(fit.doisefeitos),aspect= xy,grid=t) > qqnorm(fit.doisefeitos,~ resid(.) Sex) Certifique-se que os comandos foram passados corretamente para o R. Cibele Russo (ICMC USP) Modelos para dados correlacionados 49 / 58

50 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatório) Fitted values (mm) Standardized residuals Cibele Russo (ICMC USP) Modelos para dados correlacionados 50 / 58

51 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatório) F03 F04 F Distance from pituitary to pterygomaxillary fissure (mm) F06 M06 M03 M16 F01 M04 M12 M05 F05 M01 M13 M02 F07 M10 M14 M11 F02 F10 M09 M07 F08 F09 M15 M Age (yr) Cibele Russo (ICMC USP) Modelos para dados correlacionados 51 / 58

52 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatório) Residuals (mm) Quantiles of standard normal Male Female Cibele Russo (ICMC USP) Modelos para dados correlacionados 52 / 58

53 Exemplo: Dados ortodônticos Modelo linear com efeitos mistos (1 covariável, intercepto e coeficiente angular aleatório) Residuals (mm) Quantiles of standard normal Male Female Cibele Russo (ICMC USP) Modelos para dados correlacionados 53 / 58

54 Exemplo: Dados de produtividade industrial Consideramos um modelo Y ijk = β j + b i + ɛijk, i = 1,..., 6; j = 1, 2, 3; k = 1, 2, 3, com b i N(0, σ 2 b ), ɛ ijk N(0, σ 2 ). Existe um efeito fixo para cada tipo de máquina e um efeito aleatório para cada trabalhador. Cibele Russo (ICMC USP) Modelos para dados correlacionados 54 / 58

55 Exemplo: Dados de produtividade industrial Comandos em R: > library(nlme) > attach(machines) > fit.machine1<-lme(score~ Machine,random=~ 1 Worker) > fit.machine1 > summary(fit.machine1) Certifique-se que os comandos foram passados corretamente para o R. Cibele Russo (ICMC USP) Modelos para dados correlacionados 55 / 58

56 Exercício: Dados de produtividade industrial Outro possível modelo seria Y ijk = β j + b i + b ij + ɛ ijk, i = 1,..., 6; j = 1, 2, 3; k = 1, 2, 3, com b i N(0, σ 2 1), b ij N(0, σ 2 2), ɛ ijk N(0, σ 2 ). Esse modelo tem efeitos aleatórios em dois níveis: os efeitos b i para o trabalhador e b ij para o tipo de máquina dentro de cada trabalhador. Devemos ler isso como trabalhador e máquina dentro de trabalhador. Cibele Russo (ICMC USP) Modelos para dados correlacionados 56 / 58

57 Exercício: Dados de produtividade industrial Comandos em R: Podemos simplesmente atualizar o modelo anterior com a função update > fit.machine2<-update(fit.machine1,random=~ 1 Worker/Machine) > fit.machine2 > summary(fit.machine2) Certifique-se que os comandos foram passados corretamente para o R. Cibele Russo (ICMC USP) Modelos para dados correlacionados 57 / 58

58 Pergunta: Qual é o melhor modelo? Cibele Russo (ICMC USP) Modelos para dados correlacionados 58 / 58