Estatística - Análise de Regressão Linear Simples. Professor José Alberto - (11) sosestatistica.com.br

Transcrição

1 Estatística - Análise de Regressão Linear Simples Professor José Alberto - ( sosestatistica.com.br 1

2 Estatística - Análise de Regressão Linear Simples 1 MODELO DE REGRESSÃO LINEAR SIMPLES 1.1 Conceito e Hipóteses Quando a função f que relaciona as variáveis é do tipo f (x = α +βx temos o modelo de regressão linear simples: Y i = α + βx i +U i Como vemos, um valor de Y é formado por dois componentes: O componente funcional ou regressão f (x, que representa a influência da variável independente X sobre o valor de Y e define o eixo da nuvem de pontos, que nesse caso será uma reta; O componente aleatório U que representa a influência de outros fatores, bem como os erros de medição da variável Y. Este componente surge devido à variabilidade dos valore de Y para cada valor de X. Para a distribuição dos componente aleatório, são admitidas as seguintes hipóteses: U i N(0;σ 2 Por outro lado, poderemos determinar a média e variância de Y : Sabemos que Y = f (X +U. Logo. Y N( f (X;σ Estimação dos Parâmetros Como foi estabelecido anteriormente, designaremos por a e b os estimadores de α e βx e Ŷ = a + bx a reta estimada. Retirada uma amostra de tamanho n pares (x i,y i i = 1,2,...,n, desejamos que nossa reta Ŷ seja tão próxima quanto possível do conjunto de pontos marcados; isto equivale a querermos minimizar a discrepância total entre os pontos marcados e a reta estimada. Para um dado X i, existe uma diferença D entre o valor Y observado e o seu correspondente Ŷ, dado pela reta estimada. Os D i são os erros ou desvios. Simbolicamente, teremos D = Y Ŷ ou D = Y (a + bx. O método dos Mínimos Quadados é um método através do qual determinamos os valores de a e b de tal forma que a soma dos desvios ao quadrado seja mínima, isto é: D D D 2 n = D i 2 = (Y a bx 2 = M Onde M deve ser mínimo, note-se que M depende dos valores de a e b. Derivando M parcialmente com relação a a e b e igualando a zero (para obtermos o mínimo teremos: a = Ȳ b X e b = S XY

3 1.3 Significância das Estimativas Estatística - Análise de Regressão Linear Simples onde: Comentários S XY = (X X(Y Ȳ e = (X X 2 1 A reta de MQ passa pelo ponto ( X,Ȳ, isto é, quando X = X teremos Ŷ = Ȳ. 2 O Coeficiente de regressão b mede a variação que ocorre em Y, por unidade de variação emx. 3 Se não houver relação entre X e Y, teremos Ŷ = Ȳ, isto é, S XY será próximo de zero; então b será zero, indicando que Y não depende de X. 1.3 Significância das Estimativas Observando-se as expressões dos parâmetros a e b da reta estimada, pode-se notar que ambos dependem de Y. Como foi visto anteriormente, Y é uma variável aleatória com distribuição normal de média f (x e variância σ 2. Sendo os estimadores a e b funções lineares de uma variável aletória normal, também serão variáveis aleatórias com distribuição normal. Resta-nos portanto, encontrar suas respectivas médias e variâncias. Assim: Eb = β e Varb = σ 2 Ea = α e Vara = σ 2( 1 n + X 2 portanto b N portanto Ŷ N α + βx;σ 2( 1 n + (X X 2 (β; σ 2 a N α;σ 2( 1 n + X 2 Este resultado será importante quando estivermos interessados no IC para EY /X i, ou seja, qual o valor de Y, em média, para um dado valor de X Y i N f (X;σ 2( n + (X X 2 Este resultado é usado quando estamos interessados no IC para um valor individual de Y para um dado X i. 1.4 Estimativa da Variância Como não conhecemos o verdadeiro valor de σ 2, deveremos estimá-lo através de S 2 : S 2 = S YY bs XY N 2

4 1.5 Cálculo Prático das Variâncias Estatística - Análise de Regressão Linear Simples 1.5 Cálculo Prático das Variâncias a Variação Total: VT = (Y Ȳ 2 = S YY χ 2 n 1. b Variação Explicada: VE = b 2 = bs XY χ 2 1. c Variação Residual: VR = S YY bs XY = V T V E χ 2 n Testes de Hipóteses Conhecidas as distribuições dos estimadores, iremos agora relatar o procedimento para se efetuarem os testes de hipótese. Nosso interesse é testar a existência de regressão. 1 Enunciado das Hipóteses H 0 e H 1 Lembrando que o modelo é Y i = α + βx i +U i, deveremos colocar à prova as seguintes hipóteses: H 0 : β = 0 H 1 : β 0 2 Fixação do nível de significância (α e escolha da variável do teste. Utilizaremos geralmente α = 5% ou α = 10%. Quanto a variável, neste caso será a t de student com n 2 graus de liberdade, pois sabemos que: ou seja, b N (β; σ 2 Z = b β σ SXX N(0;1 Porém como não conhecemos o verdadeiro valor de σ, deveremos estimá-la através de S 2 ; daí, t = b β t(n 2 S SXX 3 Estabelecimento da Região crítica e Região de Aceitação da hipótese nula H 0 Conhecidos α e os graus de liberdade, com a utilização da tabela t. determinamos tais regiões. 4 Cálculo do valor da estatística. Neste caso deveremos calcular, a partir dos elementos da amostra. 5 Conclusão: Se t α 2 < t < t α 2 aceita-se H 0 e concluimos com risco α que não existe regressão. Se t > t α 2, rejeita-se H 0, e concluimos que existe regressão.

5 1.7 Testes de Hipótese usando ANOVA Estatística - Análise de Regressão Linear Simples 1.7 Testes de Hipótese usando ANOVA Outra forma de realizarmos o teste de existência de regressão é a utilização da análise das variâncias, ou seja, estudar o comportamento das variações totais, explicadas e residuais. Este teste é compactado no quadro conhecido como ANOVA. Fonte de Variação Soma dos Quadrados GL Quadrados ( Médios F Devido a Regressão V E = bs XY 1 bsxy 1 ( ( Resíduo V R = S YY bs XY n 2 S 2 = V R n 2 F = bsxy S 2 Total V T = S YY n 1 Conclusão: Se F calc > F(1,N 2, rejeita-se H 0 e existe regresão. 1.8 Intervalo de Confiança Intervalo de Confiança para "β S P b t (n 2 (α/2 2 < β < b +t S (n 2 (α/2 XX Intervalo de Confiança para "α P a t (n 2 (α/2 S 2 ( 1 n + X 2 < α < a +t (n 2 (α/ Intervalo de Confiança para Previsões S 2 ( 1 S 2 n + X 2 1o - Intervalo de Confiança para f (X ou EY /X i Neste caso estamos interessados no IC para f (X ou a média de Y dado um particular valor de X i, isto é, o IC para EY /X i ( 1 P Ŷ i t (n 2 (α/2 S 2 n + (X i X 2 ( 1 < f (X i <Ŷ i +t S (n 2 (α/2 S 2 XX n + (X i X 2 2o - Intervalo de Confiança para um valor individual de Y, (Y i, dado um X i. ( P Ŷ i t (n 2 (α/2 S n + (X i X 2 ( <Y i <Ŷ i +t S (n 2 (α/2 S XX n + (X i X 2

6 1.9 Coeficiente de Determinação ouestatística de Explicação - Análise de Regressão Linear Simples 1.9 Coeficiente de Determinação ou de Explicação Além dos testes de Hipóteses e dos Intervalos de Confiança, outro indicador que nos fornece elementos para a análise do modelo adotado é o coeficiente de Determinação ou de Explicação, definido por: R 2 = V E V T = b2 S YY = bs XY S YY.100 O Coeficiente de Explicação indica quantos por cento a variação explicada pela regressão representa da variação total.