Análise de Regressão EST036

Transcrição

1 Análise de Regressão EST036 Michel Helcias Montoril Instituto de Ciências Exatas Universidade Federal de Juiz de Fora Regressão sem intercepto; Formas alternativas do modelo de regressão

2 Regressão sem intercepto

3 Regressão sem intercepto Em algumas situações, faz sentido pensar que a reta de regressão passa pela origem; Um modelo de regressão sem intercepto, frequentemente parece apropriado na análise de dados de processos químicos e outros processos de fabricação; O rendimento de um processo químico é zero quando o processo de temperatura de operação é zero;

4 Regressão sem intercepto O modelo de regressão sem intercepto corresponde a Y = β 1 X + ɛ; Para n observações não correlacionadas (Y i, X i ), i = 1,..., n, a função de mínimos quadrados será S(β 1 ) = n (Y i β 1 X i ) 2 ; i=1 A única equação normal corresponde a ˆβ 1 n i=1 X 2 i = n X i Y i ; i=1

5 Regressão sem intercepto O estimador (viciado?) de mínimos quadrados para β 1 será, portanto, ˆβ 1 = n i=1 X iy i n i=1 X 2 i O modelo de regressão ajustado passa a ser escrito como Ŷ = ˆβ 1 X ; O estimador da variância (viciado?) dos erros tem a forma ˆσ 2 ɛ = n i=1 (Y i Ŷ i ) 2 n 1 = n i=1 Y 2 i ˆβ n 1 i=1 X iy i, n 1 com n 1 graus de liberdade.

6 Supondo normalidade para os erros O intervalo de confiança para β 1, ao nível de confiança de (1 α)100%, será [ ] ˆσ ɛ ˆβ 2 1 t α/2,n 1 ; ˆβ ˆσ ɛ t α/2,n 1 n i=1 X 2 i n i=1 X 2 i n i=1 X 2 i O intervalo de confiança para µ Y x0 E(Y X = x 0 ), ao nível de confiança de (1 α)100%, será ] x0 [ˆµ 2 Y x0 t ˆσ2 ɛ x0 2 α/2,n 1 ; ˆµ Y x0 + t ˆσ2 ɛ α/2,n 1 ; ; n i=1 X 2 i O intervalo de predição de (1 α)100% para uma nova observação Y 0 Y X = x 0 será ˆµ Y x0 t α/2,n 1 ˆσ 2 ɛ (1 + x 2 0 n i=1 X 2 i ) ; ˆµ Y x0 + t α/2,n 1 ˆσ 2 ɛ (1 + x 2 0 n i=1 X 2 i ) ;

7 Supondo normalidade para os erros Tanto o IC para µ Y x0 quanto o intervalo de predição para Y 0 tendem a aumentar quando x 0 cresce; O tamanho do IC para µ Y x0 é zero quando x 0 = 0, pois o modelo supõe que µ Y 0 = 0, o que difere consideravelmente do caso em que o modelo de regressão possui intercepto; O intervalo de predição, por outro lado, tem tamanho maior do que zero quando x 0 = 0, pois o erro aleatório da nova observação é levado em consideração.

8 Regressão sem intercepto É comum o uso inadequado do modelo de regressão sem intercepto, especialmente em situações em que as observações da covariável X estejam afastadas da origem; Imaginemos o caso em que estejamos interessados em explicar o rendimento de um processo químico a partir da temperatura de operação; Suponha que as observações da temperatura variem entre 100 o F e 200 o F;

9 Um exemplo de temperatura vs. rendimento Rendimento Temperatura (F) Figura: Gráfico de dispersão do rendimento de um processo químico com a temperatura de operação.

10 Um exemplo de temperatura vs. rendimento Os dados aparentam estar relacionados de forma linear para temperaturas entre 100 o F e 200 o F; Como já mencionado anteriormente, faz sentido pensar em um modelo de regressão cuja reta passe pela origem; Ainda assim, forçar um modelo passando pela origem, nesse caso, fornece um ajuste visivelmente pobre;

11 Um exemplo de temperatura vs. rendimento Rendimento Temperatura (F) Figura: Gráfico de dispersão do rendimento de um processo químico com a temperatura de operação. Reta do modelo ajustado passando pela origem.

12 Um exemplo de temperatura vs. rendimento Por outro lado, um modelo com intercepto fornece um ajuste muito melhor na região onde os dados são observados;

13 Um exemplo de temperatura vs. rendimento Rendimento Temperatura (F) Figura: Gráfico de dispersão do rendimento de um processo químico com a temperatura de operação. Reta do modelo ajustado com intercepto.

14 Um exemplo de temperatura vs. rendimento Frequentemente, o relacionamento entre X e Y é bastante diferente perto da origem, quando comparado à região onde os dados são observados;

15 Um exemplo de temperatura vs. rendimento Rendimento Temperatura (F) Figura: Gráfico de dispersão do rendimento de um processo químico com a temperatura de operação. Verdadeira função de regressão.

16 Um exemplo de temperatura vs. rendimento Neste exemplo, provavelmente seja necessário pensar em uma abordagem mais complexa para modelar a média do rendimento a partir da temperatura, levando em conta toda a amplitude de X ; Tal modelo só deve ser levado em consideração se o intervalo dos dados estiver suficientemente próximo da origem!

17 Regressão sem intercepto O gráfico de dispersão as vezes é bastante útil para indicar de forma satisfatória se o modelo sem intercepto é, ou não, o mais adequado; De qualquer modo, é recomendável ajustar ambos os modelos, com e sem intercepto, e escolher o mais adequado com base na qualidade dos ajustes; Caso não haja evidências que levem a rejeição da hipótese H 0 : β 0 = 0 no ajuste do modelo com intercepto, isso é um indicativo de que o ajuste do modelo sem intercepto seja mais apropriado;

18 Regressão sem intercepto O quadrado médio dos resíduos é uma forma útil de se comparar a qualidade de ajuste; O modelo que fornecer menor MS Res é o melhor ajuste, no sentido de minimizar a estimativa da variância de Y na reta de regressão; Geralmente, R 2 não é uma boa estatística comparativa para os dois modelos.

19 Coeficiente de determinação da regressão sem intercepto Para o modelo com intercepto, R 2 = n i=1 (Ŷ i Ȳ ) 2 variação de Y explicada pela regressão n i=1 (Y = ; i Ȳ ) 2 variação total observada em Y Observe que R 2 indica a proporção da variabilidade em torno de Ȳ explicada pela regressão; No modelo sem intercepto, a identidade de análise de variância fundamental se torna n i=1 Y 2 i }{{} SS T = n i=1 Ŷ 2 i }{{} SS R + n (Y i Ŷ i ) 2 ; i=1 } {{ } SS Res

20 Coeficiente de determinação da regressão sem intercepto Portanto, o coeficiente de determinação análogo para o modelo sem intercepto será R 2 0 = n i=1 Ŷ i 2 n i=1 Y i 2 ; indica a proporção da variabilidade em torno da origem (zero) representada pela regressão; R 2 0 Não raro obtemos R 2 0 > R2, mesmo com o modelo com intercepto apresentando menor MS Res (que é uma medida razoável da qualidade total do ajuste);

21 Dados de estocagem de prateleiras O tempo necessário para um comerciante armazenar caixas de refrigerante em uma prateleira de supermercado, bem como o número de caixas estocadas é apresentado no próximo slide; Em seguida, o gráfico de dispersão dos dados também é exibido;

22 Dados de estocagem de prateleiras Tempo (minutos) Caixas estocadas

23 Dados de estocagem de prateleiras Tempo Caixas estocadas Figura: Gráfico de dispersão dos dados de estocagem de prateleiras.

24 Dados de estocagem de prateleiras O gráfico de dispersão indica que uma reta passando pela origem deve ser usada para expressar a relação entre o tempo o número de caixas armazenadas; Além disso, faz sentido pensar que, se o número de caixas armazenadas for zero, então o tempo necessário para isso também será nulo; Note, ainda, que a amplitude das observações do número de caixas armazenadas está perto de zero; Portanto, o modelo de regressão sem intercepto parece ser razoável;

25 Dados de estocagem de prateleiras A estimativa do modelo sem intercepto será ˆβ 1 = n i=1 X iy i n i=1 X 2 i = = ; Portanto, o modelo ajustado corresponde a Ŷ = X ; A reta de regressão é apresentada na figura a seguir:

26 Dados de estocagem de prateleiras Tempo Caixas estocadas Figura: Gráfico de dispersão dos dados de estocagem de prateleiras. Reta ajustada do modelo sem intercepto.

27 Dados de estocagem de prateleiras O modelo sem intercepto apresenta MS Res = e R 2 0 = ; A estatística t para testar H 0 : β 1 = 0 será t 0 = 91.13, resultando em um nível descritivo de ; Logo, há fortes evidências que nos levam a concluir que o modelo sem intercepto esteja adequado.

28 Dados de estocagem de prateleiras Para efeito de comparação, o modelo com intercepto também foi ajustado: Ŷ = X ; A estatística t para testar H 0 : β 0 = 0 foi t 0 = 0.65, resultando em um nível descritivo de 0.525; Logo, não há evidências que nos levem a rejeitar a hipótese nula, ao nível de significância de 10% (por exemplo);

29 Dados de estocagem de prateleiras O modelo com intercepto apresenta MS Res = e R 2 = ; Como o MS Res do modelo ajustado sem intercepto é menor, concluímos que o modelo com reta passando pela origem é mais indicado (superior) que o modelo com intercepto; Como mencionado anteriormente, comparar os coeficientes de determinação não induz a nenhuma conclusão confiável.

30 Formas alternativas do modelo de regressão

31 Forma alternativa do modelo O modelo de regressão linear simples pode ser escrito de uma forma alternativa: Y i = β 0 + β 1 (X i X 0 ) + ɛ i, i = 1,..., n, em que X 0 é um valor de referência; Nesse caso, o intercepto será β 0 = β 0 + β 1 X 0 ; Comumente, emprega-se X 0 = X : Y i = β 0 + β 1 (X i X ) + ɛ i, i = 1,..., n, em que β 0 = β 0 + β 1 X ;

32 Algumas propriedades O estimador do coeficiente de regressão não muda: ˆβ 1 = S n XY i=1 = (X i X )Y i S n XX i=1 (X i X ) 2 ; O estimador do intercepto muda: ˆβ 0 = Ȳ ; Uma vantagem interessante (e muito útil): Cov( ˆβ 0, ˆβ 1 ) = 0; O modelo ajustado (não muda) Ŷ i = Ȳ + ˆβ 1 (X i X ). O modelo de regressão é válido apenas na amplitude dos dados (ao redor da média).

33 Forma alternativa do modelo II A variável independente pode ser padronizada da forma Z i = X i X S 1/2 XX Modelo será escrito como Nesse caso, o intercepto será, i = 1,..., n; Y i = β 0 + β 1Z i + ɛ i, i = 1,..., n; β 0 = β 0 + β 1 X ; O coeficiente de inclinação passa a ser β 1 = S 1/2 XX β 1.

34 Algumas propriedades II O estimador do coeficiente de regressão muda: O estimador do intercepto será ˆβ 1 = S 1/2 XX ˆβ 1 ; ˆβ 0 = Ȳ ; Uma vantagem interessante (e muito útil) que permanece: Cov( ˆβ 0, ˆβ 1) = 0; O modelo ajustado (não muda) Ŷ i = Ȳ + ˆβ 1 (X i X ). O modelo de regressão é válido apenas na amplitude dos dados (ao redor da média).