Análise de Regressão. Profa Alcione Miranda dos Santos Departamento de Saúde Pública UFMA

Transcrição

1 Análse de Regressão Profa Alcone Mranda dos Santos Departamento de Saúde Públca UFMA

2 Introdução Uma das preocupações estatístcas ao analsar dados, é a de crar modelos que explctem estruturas do fenômeno em observação. O modelo de regressão é um dos métodos estatístcos mas usados para nvestgar a relação entre varáves. Análse de regressão: metodologa estatístca que estuda (modela) a relação entre duas ou mas varáves.

3 Tpos de Modelos de Regressão Uma varável dependente Modelo Regressão Duas ou mas varáves dependentes Smples Multíplo Multplo Lnear Não Lnear Lnear Não Lnear

4 A presença ou ausênca de relação lnear pode ser nvestgada sob dos pontos de vsta: Quantfcando a força dessa relação: correlação. Explctando a forma dessa relação: regressão.

5 Coefcente de Correlação de Pearson A correlação é calculada ndependente da undade de medda das varáves. A técnca usada para calcular este coefcente, supõe que a assocação entre as varáves seja lnear, ou seja, expressa por uma reta ou lnha. Se a relação apresentada no dagrama de dspersão não for do tpo lnear, o coefcente de correlação de Pearson não deve ser calculado. Fórmula: n n n y y x x y y x x r ) ( ) ( ) )( (

6 Coefcente de correlação de Pearson O coefcente de correlação pode varar entre 1 (correlação negatva perfeta) e +1 (correlação postva perfeta). Valores negatvos do coefcente de correlação ndcam uma correlação do tpo nversa, sto é, quando x aumenta y dmnu. Valores postvos do coefcente de correlação ocorrem quando x e y varam no mesmo sentdo, sto é, quando x aumenta y aumenta ou quando x dmnu y também dmnu.

7 Exemplo 1: Um pscólogo está nvestgando a relação entre o tempo que um ndvíduo leva para reagr a um estímulo vsual (Y) com o sexo (W), dade (X) e acudade vsual (Z, medda em porcentagem). X : dade Y : tempo de reação 130 Pelo gráfco: méda de Y aumenta conforme as pessoas envelhecem Modelo de regressão Y Correlação entre Y e X 0,7681 X

8 Correlação no STATA Comando: corr y x Para o exemplo anteror, temos corr tempo dade (obs0) tempo dade tempo dade

9 Dagramas de dspersão Comando STATA: scatter y x

10 Modelo de regressão lnear smples sendo y β 0 + β 1 x +e, 1,...,n y : valor da varável dependente (resposta) para o -ésmo elemento da amostra; x : valor (conhecdo) da varável ndependente ou predtora para o -ésmo elemento da amostra; β 0 e β 1 são parâmetros desconhecdos; e : erro amostral. Suposção: os erros amostras são ndependentes com dstrbução N(0, σ ), 1,,...,n. Esta suposção deve ser verfcada!!! (como??)

11 Modelo de regressão lnear smples Y População $ β + β X + ε 0 1 $ $ $ Y Amostra Aleatóra $ β + $ β X + $ ε 0 1 $

12 Erro amostral O erro amostral é uma varável aleatóra não observável, e é estmado pelos resíduos, sto é, a dferença entre o valor observado Y, e o estmado pela reta, sto é Ŷ n 1 ˆ ε n 1 ^ ( Y Y )

13 Estmação dos parâmetros Qual modelo de regressão deve ser ajustado? Y X

14 Estmação dos parâmetros Método de mínmos quadrados Objetvo: mnmzar a soma dos quadrados dos erros SQ(β 0, β 1 ) Σ(y - ) Yˆ Σ(y - β 0 - β 1 x ) Para que a soma dos quadrados dos erros tenha um valor mínmo, devem-se aplcar os concetos de cálculo dferencal com dervadas parcas.

15 Portanto, os estmadores dos parâmetros são: βˆ 1 n 1 n 1 x x y n x y n x SS SS xy xx βˆ 0 y βˆ x 1 Reta ajustada: ˆ ˆ ˆ y β 0 + β1x

16 Interpretação dos parâmetros Intercepto β 0 - valor esperado para a varável dependente y quando x é gual a zero Coefcente angular β 1 - varação esperada na varável resposta, quando a varável ndependente aumenta uma undade.

17 Exemplo 1: Um pscólogo está nvestgando a relação entre o tempo que o ndvíduo leva para reagr a um certo estmulo (em segundos) e algumas de suas característcas tas como sexo, dade (em anos completos) e acudade vsual (medda em porcentagem). O resultado de 0 ndvíduos estão mostrado na tabela abaxo (Adaptado de Bussab, 1986). tempo sexo dade acudade tempo sexo dade acudade 1 96 M M F F M F F F F M M M M F F F F M M M 40 80

18 1.Tempo de reação varável dependente ou resposta dade varável ndependente modelo de regressão lnear smples. Tempo de reação varável dependente ou resposta sexo, dade, acudade vsual var. ndependentes modelo de regressão lnear múltpla

19 Prmeramente, vamos consderar um modelo de regressão lnear smples, sendo X : dade e Y : tempo de reação Tempo dade Dados: n0, Σy 150, Σx 600, Σx y 65400, Σx 19000

20 Estmação dos parâmetros: ˆ β , ,90 ˆ β 0 107,50 0, ,50 Reta ajustada: yˆ 80,50 + 0, 90 x

21 Interpretação βˆ : Para um aumento de 1 ano na 1 dade, o tempo médo de reação aumenta 0,90. Dada a reta ajustada, podemos prever, por exemplo, o tempo médo de reação para pessoas de 0 anos ŷ (0) 80,50 + 0, ,50 Valor predto Vantagem: permte estmar o tempo médo de reação para dades não observadas Valor predto ŷ (33) 80,50 + 0, ,0 NOTA: A estmatva pode ser melhorada com a construção de ntervalos de confança

22 Análse de Varânca para o MRLS No desenvolvmento de um teste ANOVA, consdere a defnção de três tpos de resíduos, ou fontes de varação, expressos pelas seguntes Somas dos Quadrados (SQ): TOTAL cuja soma dos quadrados é dada por: SQT Σ( Y Y _ ) RESÍDUOS com a soma dos quadrados expressa através de: SQE Σ ˆ) ˆ ˆ β ( Y Y Σ( Y β0 1X ) Σe MODELO, resultante das dstâncas entre os valores do modelo e a méda: SQR Σ ( Y Y ) Σ( Y Yˆ) Σ( Yˆ Y )

23 A tabela ANOVA para o MRLS é defnda de acordo com o que se apresenta em seguda. Fontes de Varação g.l. SQ SQM F Regressão 1 SQR SQR 1 SQR SQE/(n-) Resíduo n- SQE SQE n- Total n-1 SQT SQT n-1

24 Regressão Lnear Smples no STATA Comando:regress y x1 No exemplo anteror, temos regress tempo dade SQR Source SS df MS Number of obs F( 1, 18) 5.90 Model Prob > F Resdual R-squared Adj R-squared Total Root MSE SQE tempo Coef. Std. Err. t P> t [95% Conf. Interval] dade _cons β 0 β 1

25 Após executado o comando regress, os valores predtos podem ser obtdos usando o comando predct. Por exemplo, regress tempo dade predct yest label var yest valores predtos tempo lst yest

26 Regressão Lnear Múltpla A análse de uma regressão múltpla segue, bascamente, os mesmos crtéros da análse de uma regressão smples. Vamos supor que temos X 1, X,..., X p-1 varáves predtoras. Defnamos modelo de regressão multíplo, em termos das varáves predtoras: Y β β β β + ε 0 + 1X 1 + X p 1X, p 1 Sendo: β 0, β 1,..., β p-1, parâmetros desconhecdos; ε erro amostral Suposção: os erros amostras são ndependentes com dstrbução N(0, σ ), 1,,...,n.

27 Exemplo : Consdere novamente o exemplo 1. Vamos agora, trabalhar com as seguntes varáves: X 1: dade X : sexo X 3 : acudade Y: tempo Assm, o modelo de regressão lnear múltplo será dado por Y 0 + β1x 1 + β X + β3x, 3 β + ε Observe que, agora dspomos de varáves quanttatvas e qualtatvas no modelo. Uma ferramenta útl no processo de escolha prelmnar das possíves varáves explcatvas que deverão entrar no modelo é a matrz de correlação entre as varáves quanttatvas.

28 Para nosso exemplo, temos a segunte matrz de correlação: pwcorr tempo dade acudade, sg tempo dade acudade tempo dade acudade Ajustando o modelo de regressão com estas varáves, temos: regress tempo dade sexo acudade Source SS df MS Number of obs F( 3, 16) Model Prob > F Resdual R-squared Adj R-squared Total Root MSE tempo Coef. Std. Err. t P> t [95% Conf. Interval] dade sexo acudade _cons

29 Reta ajustada: Y 15,43 + 0,68X 1,79X 0, 40X,3 Também podem ser calculados os valores predtos: regress tempo dade sexo acudade predct yest label var yest valores predtos tempo lst yest

30 Avalação do Modelo Algumas avalações devem ser realzadas para se ter alguma déa da efcáca e adequação do modelo. Dentre as técncas utlzadas para avalar a efcáca do modelo, o coefcente de correlação sera uma prmera possbldade. Outra medda de adequação é o coefcente de determnação do modelo. A determnação do melhor modelo, ou do modelo que melhor se ajusta aos dados, está relaconada com a estmatva dos parâmetros que tornem os resíduos tão próxmos de zero quanto possível. Deve-se então, testar a sgnfcânca estatístca dos parâmetros do modelo.

31 Avalando a sgnfcânca do parâmetro Hpóteses: H H 0 a : β : β k k 0 0 Estatístca de teste: tcal β s k ( βk ) Crtéro do teste: Se t cal t(1-α/;n-p), aceta-se a hpótese nula, caso contráro rejeta-se a mesma. Nota: Quando não dspomos da tabela t-student, podemos utlzar o p-valor, fornecdo por város programas estatístcos. Se p-valor menor que o nível de sgnfcânca, rejetamos H 0.

32 Consdere o modelo de regressão múltpla ajustado anterormente: Y 15,43 + 0,68X 1,79X 0, 40X,3 Para determnarmos quas parâmetros são estatstcamente sgnfcantes, basta observar o p-valor fornecdo na tabela ANOVA. regress tempo dade sexo acudade Source SS df MS Number of obs F( 3, 16) Model Prob > F Resdual R-squared Adj R-squared Total Root MSE tempo Coef. Std. Err. t P> t [95% Conf. Interval] dade sexo acudade _cons Apenas a varável sexo não é estatstcamente sgnfcante, consderando um nível de sgnfcânca de 5%.

33 Coefcente de Determnação Ao se analsar a reta de regressão observamos que os pontos (x, y) estão dstrbuídos acma e abaxo da mesma. O coefcente de determnação deve ser nterpretado como a proporção de varação total da varável dependente que é explcada pela varação da varável ndependente X. O coefcente de determnação, no caso unvarado, é gual ao quadrado do coefcente de correlação. Observe que o coefcente de determnação é sempre postvo, enquanto que o coefcente de correlação pode admtr valores negatvos e postvos. r Coefcente de determnação n 1 n ( Y Y ) ( Y Y ˆ) SQE n SQT ( Y Y ) 1 1

34 Coefcente de Determnação no STATA No exemplo 1, temos regress tempo dade Source SS df MS Number of obs F( 1, 18) 5.90 Model Prob > F Resdual R-squared Adj R-squared Total Root MSE tempo Coef. Std. Err. t P> t [95% Conf. Interval] dade _cons R x % ( porcentagem de varânca explcada pelo modelo).

35 Coefcente de Determnação no STATA No exemplo, temos regress tempo dade sexo acudade Source SS df MS Number of obs F( 3, 16) Model Prob > F Resdual R-squared Adj R-squared Total Root MSE tempo Coef. Std. Err. t P> t [95% Conf. Interval] dade sexo acudade _cons