CAPÍTULO 9 REGRESSÃO LINEAR PPGEP REGRESSÃO LINEAR SIMPLES REGRESSÃO LINEAR SIMPLES REGRESSÃO LINEAR SIMPLES UFRGS. Regressão Linear Simples

Transcrição

1 CAPÍTULO 9 REGREÃO LINEAR IMPLE REGREÃO LINEAR IMPLE UFRG Em mutos problemas há duas ou mas varáves que são relaconadas, e pode ser mportante modelar essa relação. Por exemplo, a resstênca à abrasão de um composto de borracha pode depender da quantdade de óleo adconada à mstura. Assm, é possível construr um modelo relaconando resstênca à abrasão com quantdade de óleo, e então pode-se usar esse modelo para fns de otmzação e controle de processo. REGREÃO LINEAR IMPLE REGREÃO LINEAR IMPLE Outro exemplo, as vendas de um produto podem estar relaconadas ao valor gasto em marketng com esse produto. Assm, é possível construr um modelo relaconando vendas à gastos com marketng, e então pode-se usar esse modelo para fns prevsão de vendas. Em geral vamos supor que há uma varável dependente (ou varável de resposta) Y que depende de k varáves ndependentes (ou varáves regressoras),..., k. A relação entre essas varáves será descrta por um modelo matemátco, chamado modelo de regressão, o qual é defndo (ajustado) a um conjunto de dados. Algumas vezes a relação funconal entre Y e,..., k é conhecda exatamente. Outras vezes o pesqusador deverá buscar o modelo aproprado testando dferentes funções. Modelos polnomas são largamente utlzados como uma função aproxmada da verdadera relação entre Y e, e por sso serão descrtos no capítulo

2 REGREÃO LINEAR IMPLE Correlação Modelos de regressão são usados com freqüênca na análse de dados provenentes de expermentos não planejados (observações de um fenômeno não controlado ou dados hstórcos). Mas a análse de regressão também é muto útl no caso de expermentos planejados que ncluem fatores a níves contínuos. Nesse caso a análse de varânca é usada para dentfcar os fatores sgnfcatvos, e a segur a análse de regressão é usada para construr um modelo que ncorpore esses fatores. Para uma amostra de n pares de valores (x,y) o coefcente de correlação r fornece uma medda da relação lnear que exste entre duas varáves aleatóras e Y. 5 6 Cálculo do coefcente de correlação Coefcente de correlação Desvo-padrão de : xx = x ( x ) n Para uma nterpretação adequada do coefcente de correlação, e Y deveram ser varáves aleatóras, ao contráro do que acontece nos problemas de regressão, onde Y é aleatóra, mas é consderada uma varável fxa. Desvo-padrão de Y: yy = y ( y ) n Covarânca de,y: = x y ( x )( y ) n xy r( x, y) = xx xy yy Mesmo assm, é prátca comum calcular r em quase todos os casos, sto é, com aleatóra ou não. O coefcente de correlação lnear r mede a ntensdade da relação lnear entre duas varáves 7 8

3 Coefcente de correlação lnear Coefcente de correlação lnear O coefcente de correlação lnear r mede a ntensdade da relação lnear entre duas varáves Deve-se ter em conta que r é uma medda da relação lnear entre as duas varáves e não tem sentdo quando a relação é não lnear. O coefcente de correlação vara de - r +: Valores de r próxmos de + ndcam uma forte correlação postva entre x e y Valores de r próxmos de - ndcam uma forte correlação negatva entre x e y Valores de r próxmos de 0 ndcam uma fraca correlação entre x e y Além dsso, o pesqusador deve ter em mente que a exstênca de uma correlação entre duas varáves não mplca necessaramente na exstênca de um relaconamento de causa e efeto entre elas. 9 0 Por exemplo. Rendmento de combustível Exemplo 9.: Após uma regulagem eletrônca um veículo apresenta um rendmento deal no que tange a consumo de combustível. Contudo, com o passar do tempo esse rendmento va se degradando. Os dados a segur representam o rendmento meddo mês a mês após a regulagem. Ajuste um modelo lnear a esses dados. :meses após a regulagem Y : rendmento 0,7 0,9 0,8 9,3 9,5 0,4 :meses após a regulagem Y : rendmento 9,0 9,3 7,6 7,6 7,9 7,7 0 Co Tempo após a regulagem

4 Cálculos ncas Meses() Rendmento(Y) ^ Y^ *Y 0,7 4,49 0,7 0,9 4 8,8,8 3 0,8 9 6,64 3,4 4 9,3 6 86,49 37, 5 9,5 5 90,5 47,5 6 0, ,6 6, , ,49 74,4 9 7,6 8 57,76 68,4 0 7, , ,9 6,4 86,9 7, ,9 9,4 78 0, ,55 673, 6,5 9,5 Σx = 78,00 ; Σx = 650,00; Σy = 0,70 ; Σy = 039,55; Cálculos Desvo-padrão de : Desvo-padrão de Y: Covarânca de,y: YY Y Coefcente de correlação: = x ( x ) n = 650 ( 78) / = 43, 00 Interpretação: Exste uma correlação lnear nversa na amostra entre meses após a regulagem e rendmento. A ntensdade desta correlação é forte. = y ( y ) n = 039,55 ( 0,70) / = 8, 34 = x y ( x )( y ) n = 673, (78 0,70)/= 46, 45 r = xy xx yy = 46,45 = 0,907 43,00 x 8, Teste de hpótese para coefcente de correlação Teste de hpótese para coefcente de correlação A hpótese da exstênca de uma relação entre e Y, pode ser formulada usando-se: H 0 : ρ = 0 H : ρ 0 onde a letra ρ é usada para representar o valor populaconal do coefcente de correlação. Pode ser demonstrado que o valor de t pode ser calculado usando: r t = n r Assm a hpótese da exstênca de uma relação entre e Y pode ser verfcada dretamente a partr do valor amostral do coefcente de correlação. Como sempre a hpótese nula será rejetada se o valor calculado for maor que o tabelado: t > tα /, n Para o exemplo em estudo tem-se: 0,907 t = = 6,8 > t0,05;0 =,8 rejeta - se ( 0,907) H0, ou seja, descarta-se a hpótese nula e conclu-se que exste correlação entre as varáves estudadas. 5 6

5 A regressão lnear smples estma uma equação matemátca (ou modelo) que dado o valor de (varável ndependente), prevê o valor de Y (varável dependente). É dto relação lnear smples, pos supõe-se tendênca lnear entre as varáves e smples por ser uma únca varável ndependente eja que exstam dados coletados (pares de valores) assocando uma varável de resposta Y com uma varável regressora. E suponha que a relação entre Y e seja aproxmadamente lnear. Então o valor esperado de Y para cada valor de vrá dado por: E (Y/) = β 0 + β onde os parâmetros da relação lnear, β 0 e β, são desconhecdos. Vamos supor que cada observação Y possa ser descrta pelo modelo: Y = β 0 + β + ε () onde ε é o erro aleatóro, com méda 0 e varânca σ. A eq. () é chamada de modelo de regressão lnear smples. 7 8 O coefcente β 0 é a nterseção (valor de Y para = 0) enquanto que β é a nclnação da reta, que pode ser postva, negatva ou nula. Cálculos ncas Σ x = 78,00 ; Σ x = 650,00 ; Σ y = 0,70 ; Σ y = 039,55 ; = 650, Y = 95, e há n pares de dados (y, x ),..., (y n,x n ) é possível estmar os parâmetros β 0 e β usando o método dos Mínmos Quadrados e tendo como objetvo mnmzar: L = Σ (y -b 0 -b x ) onde b 0 e b são estmatvas amostras de β 0 e β. O uso do método conduz às seguntes estmatvas: b = Y / = Y b bo Humm... Mas, como estmar b o e b? YY = x ( x ) n = 43 Estmatva dos parâmetros: b = Y / = -46,45 / 43,00 = -0,35 b 0 = = 9,5 - (-0,35) 6,50 =,34 Equação de regressão Y =,34-0,35 = y ( y ) n = 8, 34 ( )( ) = xy x y n= 46, 45 Y DE NOVO 9 0

6 Relação entre o Coefcente de Correlação e a Regressão Decomposção dos resíduos O valor de r é um valor sem dmensão, que apenas fornece uma déa da relação lnear entre duas varáves. No caso de regressão, além de se ter uma déa da relação entre as duas varáves, também se encontra uma equação que pode ser usada para fornecer estmatvas. Pode ser demonstrado que exste a segunte relação: = n ( r ) n y onde é a varânca dos desvos em relação ao modelo, e é a varânca dos valores de Y. e n é grande, temos: ( ) r y Y Y ( Y Y ) ( Y Y$) ( Y$ Y ) Y= b o +b Nessa forma observamos que r equvale a proporção da varânca dos valores de Y que pode ser atrbuída à regressão com a varável. r é conhecdo como coefcente de Determnação. Para o exemplo analsado resultou r =(-0,907) = 0,8, ou seja, 8% da varabldade nos resultados de rendmento de combustível pode ser devda ao tempo decorrdo após a regulagem. Varânca dos Estmadores Para verfcar a precsão das estmatvas, determnar ntervalos de confança e testar hpóteses é mportante conhecer a varânca dos estmadores. 8% da varabldade total é devdo a outros fatores que não foram nvestgados Também pode ser demonstrado que: r = b / Y Assm, dado um conjunto de pares (x,y), conhecda a nclnação b, é possível calcular o coefcente de correlação r, ou vce-versa. Pode ser demonstrado que uma estmatva da varânca resdual, σ, vem dada por = QR / (n-) QR = YY b Y E a partr de σ obtém-se as estmatvas das varâncas de b e b 0 : b = b 0 = + n 3 4

7 Intervalos de Confança e Testes de Hpótese Como os resíduos de Y supostamente seguem a dstrbução Normal, e como os valores de a e b são funções lneares de Y, é possível demonstrar que: b N 0, ( β 0, σ b 0 ) ( ) b N β σ b Esses resultados podem ser usados em testes de hpótese. Por exemplo, se a hpótese é: H H 0 : β : β = β β 0 0 então calcula-se: Z = (b - β 0 ) / σ b Isto é, testa-se se a nclnação é gual a zero, o que equvale a testar se exste uma relação entre Y e. Usando a eq. () tem-se: t = b / b que deve ser comparado com o valor tabelado tα /,n. Como sempre, H 0 será rejetado se t > t. α /,n 5 6 e, para um nível de probabldade α, H 0 será rejetada se resultar Z > Zα /. Como em geral a varânca não é conhecda, usa-se: t = (b - β 0 ) / b () Exemplo 9.3: Usando os dados do problema do consumo de combustível, obtenha as estmatvas para a varânca resdual e para a varânca dos parâmetros b 0 e b. Construa um ntervalo de confança para a nclnação b e verfque a hpótese. e nesse caso H 0 é rejetada se t > tα /,n. O ntervalo de confança para β vrá dado por b tα / b < β < b + tα / b Uma hpótese testada com freqüênca é: H H 0 : β : β = 0 0 Estmatva das varâncas QR = YY b Y = 34, b b 0 = QR /( n = = / + n ) = 0,34 = 0,007 = 0,3 ; ; ; = 0,569 b b 0 = 0,0476 = 0,35 7 8

8 Prevsão de valores de Y Intervalo de confança para b t 0,05;0 =,8-0,35 -,8 (0,0476) < β < -0,35 +,8 (0,0476) -0,43 < β <-0,9 Como esse ntervalo não nclu o zero, a hpótese β = 0 é rejetada, ou seja, exste uma relação entre o consumo de combustível e o tempo decorrdo após a regulagem. A análse de regressão produz uma relação entre as varáves consderadas, a qual pode ser usada para prever valores de Y. Dado um certo valor de = x 0, há dos tpos de prevsão: prevsão de um valor médo de Y e prevsão de um valor ndvdual de Y. Nos dos casos a estmatva pontual de Y é a mesma, mas a ampltude do ntervalo de confança é dferente. O ntervalo de confança é mas amplo para o caso de prevsões de valores ndvduas Prevsão de um valor médo de Y Prevsão de um valor médo de Y A varânca dos valores predtos rá depender não somente de, mas também do valor de x 0. Isso acontece porque as prevsões são mas precsas quando x 0 e menos precsas quando x 0 aproxma-se dos extremos nvestgados. Pode ser demonstrado que a varânca da prevsão de um valor médo de Y vem dada por: = + n 0 Yp ( x ) Como pode ser vsto, a varânca da prevsão é mínma quando x 0 = e aumenta quando x 0 afasta-se de. Assm, o ntervalo de confança para a prevsão de um valor médo vrá dado por: µ Y = (b0 + b 0) ± tα/ ; n- ( ) Y p 3 3

9 Prevsão de um valor ndvdual de Y A varânca da prevsão de valores ndvduas de Y segue o mesmo comportamento observado para os valores médos. Contudo, a varânca é maor no caso de valores ndvduas. Pode ser demonstrado que a varânca da prevsão de um valor ndvdual de Y vem dada por: ( ) x0 Yp = + + n De modo que o ntervalo de confança para a prevsão de um valor ndvdual de Y é: Y = (b0 + b 0) ± tα/ ; n- ( Y p) Usando os dados do problema do consumo de combustível, obtenha os ntervalos de confança de 95% para a prevsão de um valor médo e um valor ndvdual de Y para um tempo x 0 = 8 meses. ( ) (b 0 + b x 0 ) = 8,74 ; x0 = 0,057 Y p Y p = 0,34 + = 0,34 + 0,057 = 0,03 + 0,057 = 0,356 ; ; Y p Y p = 0,79 = 0, Valor médo para x 0 = 8 µ Y = 8,74 ±,8. (0,79) µ Y = 8,74 ± 0,399 Valor ndvdual para x 0 = 8 Y = 8,74 ±,8. (0,597) Y = 8,74 ±,33 Análse da Valdade do Modelo A adequação do ajuste e as suposções do modelo podem ser verfcadas através de uma análse dos resíduos. Os resíduos padronzados são calculados como: 0 Co Tempo após a regulagem R = ( ) y b + b x QR = b 0 YY Y = QR / n Adequação do ajuste A adequação do ajuste é testada plotando os resíduos em função de. e o ajuste for bom, os resíduos segurão um padrão aleatóro. Caso contráro, alguma tendênca curvlínea será observada

10 Na fgura a segur, (a) representa uma stuação onde o ajuste é adequado, enquanto (b) representa uma stuação onde o modelo lnear não se ajusta bem aos dados. Re (a) Re 0 (b) e o modelo lnear não fornece um bom ajuste, às vezes o problema pode ser contornado trabalhando-se com valores transformados de ou Y, por exemplo, Y = b + b 0 Y = b + b 0 onde = Homogenedade da varânca A suposção de homogenedade da varânca σ ao longo de todo o ntervalo de também pode ser verfcada analsando o gráfco de Resíduos. A fgura a segur apresenta uma stuação (a) onde verfcase a suposção de homogenedade, enquanto que em (b) essa suposção é volada. Re (a) Re 0 (b) Homogenedade da varânca Normaldade dos Resíduos e a suposção de homogenedade da varânca é rejetada, pode-se usar o método da regressão lnear ponderada, onde se busca os valores de β 0 e β que mnmzam L = Σ w (y -(b 0 + b x )) Nesse caso, os pesos w são nversamente proporconas à varânca. O teste da normaldade da dstrbução dos resíduos pode ser feto plotando-se os resíduos em papel de probabldade ou utlzando testes analítcos de normaldade, como o teste do Ch-quadrado ou o teste de Kolmorov-mrnov. e a suposção de normaldade é rejetada, mutas vezes uma transformação matemátca nos valores de e Y (logartmo, nverso, raz quadrada) rá gerar valores transformados com resíduos normalmente dstrbuídos. Então o problema é analsado no espaço das varáves transformadas e ao fnal retorna-se ao espaço orgnal

11 Intervalo de Varação para A Análse de Varânca e a Regressão A varânca da nclnação b aumenta quando se reduz o ntervalo de varação de. e o ntervalo é pequeno, b será grande e nesse caso será dfícl rejetar a hpótese H 0 : b = 0. Em outras palavras, se a relação entre e Y é medda em um ntervalo reduzdo de, os parâmetros estmados não terão muto sgnfcado estatístco. e o objetvo é construr um modelo de regressão, devese coletar dados nos extremos do ntervalo de, ou seja, nos lmtes de nteresse e vabldade prátcos ou nos lmtes em que se supõe válda a relação lnear. A análse de varânca também é aplcável aos problemas de regressão. Na regressão smples, podemos decompor os resíduos da segunte manera: [( ) ] ( Y Y) = [ y ( b + b )] + b + b Y 0 0 Elevando ao quadrado e somando, obtém-se: [ ] [ ( ) ] ( Y Y) = y ( b + b ) + b + b Y 0 0 Uma vez que o produto cruzado resulta nulo. Essa equação também pode ser escrta como: YY = QR + QReg Cujos graus de lberdade valem respectvamente: (n - ) = (n - ) A Análse de Varânca e a Regressão Tabela ANOVA Assm, a méda quadrada assocada com o modelo de regressão e a méda quadrada dos resíduos resultam: MQReg = QReg / MQR = QR / (n - ) E o teste F é feto comparando MQReg, com MQR, ou seja, F = MQReg / MQR A hpótese nula, H 0 : β = 0, será rejetada sempre que F > F α,, n- A segur apresenta-se a tabela ANOVA, contendo o formuláro prátco para o cálculo das omas Quadradas e os demas desenvolvmentos até o teste F. A tabela ANOVA, contendo o formuláro prátco para o cálculo das omas Quadradas e os demas desenvolvmentos até o teste F Fonte de Q GDL MQ F Varação Regressão QReg = b Y MQReg MQReg/MQR Resdual QR= YY - b Y n - MQR Total YY n

12 Exemplo 9.5: Faça a análse de varânca para o problema do consumo de combustível e confrme a sgnfcânca do modelo de regressão lnear. olução: Já tínhamos calculado as omas Quadradas YY e QR como: YY = 8,34 ; Y = - 46,45 ; b = - 0,35 QR = 3,4 Assm QReg = b Y = - 0,35 (- 46,45) = 5,0 De modo que a ANOVA resulta: Fonte de Q GDL MQ F Varação Regressão 5,0 5,0 46,6 Resdual 3,4 0 0,34 Total 8,34 O valor de F calculado (46,6) é muto maor que o tabelado (4,96) e assm confrma-se a sgnfcânca do modelo. Nota: o coefcente de determnação r também pode ser calculado usando: r = Q Re g 50, = = 0, 8 ou 8% 8, 34 YY Dados Atípcos Algumas vezes, o conjunto de dados pode estar contamnado com alguns dados atípcos. Esses dados atípcos podem ser o resultado do efeto de algum fator externo ao estudo, ou podem ser smplesmente um erro de letura e regstro. Exste um procedmento para testar a sgnfcânca de um dado atípco. Este procedmento está baseado na determnação de uma nova equação, com o dado atípco elmnado, segudo de um teste de hpótese comparando os valores predtos pela equação orgnal com aqueles predtos pela nova equação. e o conjunto pode estar contamnado por város dados atípcos, a solução será usar técncas de regressão robusta. Neste tpo de análse, é dado um peso menor àqueles dados que se afastam do conjunto. Por exemplo, uma alternatva é mnmzar L = Σ w [y -(b 0 + b x )] onde os pesos w são proporconas ao nverso do resíduo R. A solução é obtda após algumas terações

13 Regressão Não Lnear mples Regressão Não Lnear mples e o ajuste lnear é defcente, mutas vezes é possível encontrar uma solução aproxmada, e em geral satsfatóra, utlzando uma transformação em e/ou em Y. Note-se que o método dos mínmos quadrados aplcado aos valores transformados, sto é, mnmzando Em forma genérca, teríamos: f(y) = b 0 + b g() + ε Y * = b 0 + b * + ε Os possíves valores de Y * = f(y) seram y, /y, y, ln y, etc. Igualmente, para * = g(x) poderíamos usar x, /x, x, ln x, etc. Uma vez defnda a transformação, e confrmada em um gráfco de dspersão a relação aproxmadamente lnear entre Y * e *, podera-se usar o método apresentado anterormente para obter as estmatvas de β 0 e β. L = Σ [ f (y) - (b0 + b g (x))], não va fornecer os mesmos resultados que seram obtdos mnmzando L = Σ [ y - h (x)], onde h (x) é uma função não lnear de x. Contudo, as dferenças em geral são pequenas e não comprometem a análse Exercícos 9. Em um processo químco, a quantdade de sóldos depostada pode depender da concentração de um componente A que é adconado à mstura. Ajuste um modelo de regressão lnear aos dados que aparecem a segur. Depos plote a reta de regressão e os valores observados. Conc Depos. 3,3,5,9 4, 3,3 6, 4,9 5,9 8, 7,5 6,5 8,9 0,3 8,5 0, 9. Para os dados do exercíco 9., calcule a varânca resdual e a varânca dos parâmetros b 0 e b. Depos construa um ntervalo de confança de 95% para a nclnação b e verfque a hpótese H 0 : β = Calcule os resíduos padronzados R = [Y -(b 0 + b )] / para os dados do exercíco 9.. Em seguda, plote um gráfco de Resíduos e verfque se há evdêncas de falta de ajuste do modelo lnear ou falta de homogenedade da varânca. 9.4 Anda em relação aos dados do exercíco 9., calcule os ntervalos de confança para um valor médo e para um valor ndvdual de Y usando x 0 = 0 e x 0 = Um torno mecânco pode ser operado a dversas velocdades. Contudo, a qualdade do acabamento, ou seja, a rugosdade superfcal, pode porar com o aumento da velocdade de operação. Ajuste um modelo de regressão lnear aos dados que aparecem a segur e depos plote a reta de regressão e os valores observados. Velocdade Rugosdade 6,0,5 33,5 36,0 7,5 37,0 4,5 8,0 39,5 43,0 37,0 50,5 5 5

14 9.6 Para os dados do exercíco 9.5, calcule a varânca resdual e a varânca dos parâmetros b 0 e b. Depos, construa um ntervalo de confança de 95% para a nclnação b e verfque a hpótese da exstênca de uma relação entre velocdade e rugosdade superfcal. 9.7 Faça a análse de varânca para os dados do exercíco 9.5 e confrme a sgnfcânca do modelo de regressão lnear. Em seguda calcule o valor do coefcente de determnação e ndque qual o sgnfcado técnco desse coefcente para o problema em questão. 9.8 O gerente de uma ndústra localzada em um país tropcal suspeta que há uma correlação entre a temperatura do da e produtvdade. Dados coletados aleatoramente ao longo de um período de ses meses revelaram o segunte: Temperatura, 0,3,7,0,3 3,5 4,8 4, 5,5 5, 5,5 5,8 Produtvdade Temperatura 7,5 6,3 8, 8,6 9,0 9,7 30,7 30,3 30, 3,4 3,5 3,7 Produtvdade Calcule o valor do coefcente de correlação entre a Temperatura e a produtvdade e verfque a hpótese H 0 :ρ=0. Depos plote um gráfco de dspersão e vsualze a natureza da correlação entre Temperatura e Produtvdade A análse de 0 pares de valores ndcou que a resstênca à tração (Y) de uma fbra sntétca usada na ndústra têxtl guarda uma relação lnear com a percentagem de algodão () presente na fbra. A equação obtda fo Y = 35,7 + 0,85 ( fornecdo em percentagem, equação válda para o ntervalo de entre 0 e 35%). Conhecdos os valores das omas Quadradas Y =43,68 e YY =79,43 pede-se: a) Faça a análse de Varânca e conclua a respeto da sgnfcânca do modelo. b) Calcule o valor do coefcente de determnação r e ndque qual o seu sgnfcado técnco. 9.0 Um sofstcado smulador estocástco de tráfego fornece a velocdade méda em avendas de uma metrópole em função do volume de automóves. O resultado de 4 smulações revelou o segunte: Vol. de Tráfego Velocd. Méda ,6 93,8 74,4 74,8 50,5 5,5 44,6 4,4 35,8 38,7 3,0 3, 30, 9, Ajuste um modelo lnear a esses dados e ache a equação de regressão Y = b 0 + b 55 56

15 9. Calcule os resíduos padronzados para os dados do exercíco 9.0. Após, plote um gráfco de Resíduos e verfque se há evdêncas de falta de ajuste do modelo lnear. 9. Utlze o segunte modelo para ajustar os dados do exercíco 9.0: Y=b 0 + b ( / ). Estme o valor dos coefcentes b 0 e b para esse modelo não lnear e depos repta a análse de resíduos pedda em 9., verfcando se para o presente modelo há evdêncas de falta de ajuste. 57