Regressão Linear Múltipla

Transcrição

1 Regressão Liear Múltipla Lucas Sataa da Cuha 28 de ovembro de 2018 Lodria 1 / 20

2 Há muitos problemas que é razoável esperar que as previsões de uma variável devam melhorar em termos de duas ou mais variáveis. Tem-se uma regressão liear múltipla quado se admite que a variável resposta, Y, é fução de duas ou mais variáveis explicativas (regressoras), X 1, X 2,..., X k. Assim, o objetivo da aálise de regressão múltipla é estabelecer uma equação que possa ser utilizada para predizer os valores de Y cosiderado as diversas variáveis explicativas X i. 2 / 20

3 O modelo estatístico de uma regressão liear múltipla com k variáveis regressoras (X 1, X 2,..., X k ) é dado por em que: Y i = β 0 + β 1 X i1 + β 2 X i β k X ik + ɛ i Y i é o valor observado de Y o i-ésimo ível de X. β 0, β 1, β 2,..., β k estimados. são os parâmetros descohecidos a serem X i1, X i2,..., X ik é o i-ésimo ível das k variáveis idepedetes (i = 1, 2,..., ). ɛ i é o erro que está associado à distâcia etre o valor observado Y i e o correspodete valor estimado Ŷ, do modelo proposto, para o mesmo ível i de X. 3 / 20

4 O modelo estatístico para uma regressão liear com duas variáveis regressoras é: Y i = β 0 + β 1 X i1 + β 2 X i2 + ɛ i Para se obter a equação estimada, pode-se utilizar o método dos míimos quadrados (MMQ), visado a miimização dos erros. Assim, tem-se que: ei 2 = i=1 [Y i β 0 β 1 X 1i β 2 X 2i ] 2 i=1 4 / 20

5 Logo, os estimadores de β 0, β 1 e β 2 que miimizam os erros é a solução do sistema de equações ormais: y = ˆβ 0 + ˆβ 1 ( x 1 ) + ˆβ 2 ( x 2 ) x1 y = ˆβ 0 ( x 1 ) + ˆβ 1 ( x 2 1 ) + ˆβ 2 ( x 1 x 2 ) x2 y = ˆβ 0 ( x 2 ) + ˆβ 1 ( x 1 x 2 ) + ˆβ 2 ( x 2 2 ) 5 / 20

6 Assim, tem-se que: ˆβ 2 = ( X 2 1 ( X 1 ) 2 ) ( ) ( X2 Y ) ( X1 X2 X2 Y X1 X 2 X1 Y ) ( X 2 2 ( X 2 ) 2 ) ( ) X1 X2 2 X1 X 2 ( X 2 1 ( X 1 ) 2 ) X1 Y ( X1 Y ˆβ 1 = X1 Y ) ˆβ ( ) X1 X2 2 X1 X 2 X 2 1 ( X 1 ) 2 ˆβ 0 = Ȳ ˆβ 1 X1 ˆβ 2 X2 Logo, temos o modelo de regressão ajustado dado por: Ŷ = ˆβ 0 + ˆβ 1 X 1 + ˆβ 2 X 2 6 / 20

7 Exemplo 1 Os dados a seguir mostram o úmero de quartos, o úmero de baheiros e os preços (em uidades moetárias) pelos quais oito casas uifamiliares de um certo bairro foram vedidas recetemete: Número de quartos (X 1) Número de baheiros (X 2) Preço (Y ) Temos que a equação liear que permite prever o preço de veda médio de uma casa uifamiliar o bairro dado, em termos do úmero de quartos e do úmero de baheiros é dado por: ŷ = x x 2 a) Iterprete a equação liear estimada; b) Estime o preço de veda médio de uma casa com três quartos e dois baheiros (o bairro dado a época que foi feito o estudo). 7 / 20

8 É importate testar a sigificâcia da regressão pelo método da Aálise de Variâcia (ANAVA). Vimos que o modelo estatístico para uma regressão liear múltipla é: Y i = β 0 + β 1 X i1 + β 2 X i β k X ik + ɛ i 8 / 20

9 Hipóteses a serem testadas Temos que o objetivo é verificar a sigificâcia da regressão, assim, as hipóteses testadas são: H 0 : β 1 = β 2 = = β k = 0 H 1 : β j 0 para qualquer j = 1,..., k. Se rejeitamos H 0, temos que ao meos uma variável explicativa X 1, X 2,..., X k cotribui sigificativamete para o modelo. 9 / 20

10 Assim, as hipóteses para duas variáveis regressoras para o modelo liear múltiplo são: H 0 : β 1 = β 2 = 0 H 1 : β j 0 para qualquer j = 1, 2. Se rejeitamos H 0, temos que ao meos uma variável explicativa X 1 e X 2 cotribui sigificativamete para o modelo. 10 / 20

11 Aálise de Variâcia Para verificarmos se a hipótese ula (H 0 ) é rejeitada ou ão, completa-se o seguite Quadro da Aálise de Variâcia: Tabela 1: Quadro da Aálise de Variâcia. CV G.L. S.Q. Q.M. F calc F tab Regressão 2 SQReg SQReg k QMReg QMRes F (α;glreg,gl Res ) Resíduo 3 SQRes SQRes k Total 1 SQTotal Se F cal > F (α;glreg,gl Res ), etão rejeita-se H 0, ou seja, temos que ao meos X 1 ou X 2 cotribui sigificativamete para o modelo. 11 / 20

12 SQ Total = y 2 ( y) 2 ( SQ Reg = ˆβ x1 y 1 x1 y ) + ˆβ 2 ( x2 y ) x2 y SQ res = SQ Total SQ Reg 12 / 20

13 Exemplo 2 Para o Exemplo 1, temos que a aálise de variâcia é dada por: Tabela 2: Quadro da Aálise de Variâcia. CV G.L. S.Q. Q.M. F calc F tab Regressão Resíduo - - Total A um ível de sigificâcia de 5%, complete a tabela de aálise de variâcia e coclua a respeito do modelo de regressão liear múltiplo. 13 / 20

14 Coeficete de Determiação O coeficiete de determiação, r 2, é dado por r 2 = SQReg SQTotal = 1 SQRes SQTotal. Ele represeta a proporção da variabilidade de Y explicada pelas variáveis regressoras. 14 / 20

15 Exemplo 3 Calcule o coeficiete de Determiação do Exemplo 1 e o iterprete. 15 / 20

16 A equação da parábola é obtida pelo modelo de regressão liear quadrático; Tal modelo é um caso particular da regressão liear múltipla com duas variáveis regressoras em que X 1 = X e X 2 = X 2 ; 16 / 20

17 Temos que o modelo estatístico de uma regressão liear quadrática é dado por em que: Y i = β 0 + β 1 X i + β 2 X 2 i + ɛ i Y i é o valor observado de Y o i-ésimo ível de X. β 0, β 1 e β 2 são os parâmetros descohecidos a serem estimados. X i, é o i-ésimo ível da variável idepedete X (i = 1, 2,..., ). ɛ i é o erro que está associado à distâcia etre o valor observado Y i e o correspodete valor estimado Ŷ, do modelo proposto, para o mesmo ível i de X. 17 / 20

18 Para se obter a equação estimada, pode-se utilizar o método dos míimos quadrados (MMQ), visado a miimização dos erros. Assim, tem-se que: ei 2 = i=1 i=1 [Y i β 0 β 1 X i β 2 X 2 i ] 2 18 / 20

19 Logo, os estimadores de β 0, β 1 e β 2 que miimizam os erros é a solução do sistema de equações ormais: y = ˆβ 0 + ˆβ 1 ( x) + ˆβ 2 ( x 2 ) xy = ˆβ 0 ( x) + ˆβ 1 ( x 2 ) + ˆβ 2 ( x 3 ) x 2 y = ˆβ 0 ( x 2 ) + ˆβ 1 ( x 3 ) + ˆβ 2 ( x 4 ) Assim, temos o modelo de regressão ajustado dado por: Ŷ = ˆβ 0 + ˆβ 1 X + ˆβ 2 X 2 19 / 20

20 Exemplo 4 O tempo de secagem (em horas) de um veriz e a quatidade (em gramas) de certo aditivo químico são os seguites: Quatidade de aditivo (X ) Tempo de secagem (Y ) 7,2 6,7 4,7 3,7 4,7 4,2 5,2 5,7 a) Ajuste um modelo de regressão liear quadrático aos dados. b) Use o resultado do item a) para prever o tempo de secagem do veriz quado se adicioam 6,5 gramas do aditivo químico. 20 / 20